/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/osutils.py

  • Committer: Martin Pool
  • Date: 2009-09-11 06:36:50 UTC
  • mto: This revision was merged to the branch mainline in revision 4688.
  • Revision ID: mbp@sourcefrog.net-20090911063650-yvb522sbe6k0i62r
Only mutter extension load errors when they occur, and record for later

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2010 Canonical Ltd
 
1
# Copyright (C) 2005, 2006, 2007, 2009 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
 
import errno
18
17
import os
19
18
import re
20
19
import stat
 
20
from stat import (S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE,
 
21
                  S_ISCHR, S_ISBLK, S_ISFIFO, S_ISSOCK)
21
22
import sys
22
23
import time
23
 
import codecs
 
24
import warnings
24
25
 
25
26
from bzrlib.lazy_import import lazy_import
26
27
lazy_import(globals(), """
 
28
import codecs
27
29
from datetime import datetime
28
 
import getpass
29
 
import ntpath
 
30
import errno
 
31
from ntpath import (abspath as _nt_abspath,
 
32
                    join as _nt_join,
 
33
                    normpath as _nt_normpath,
 
34
                    realpath as _nt_realpath,
 
35
                    splitdrive as _nt_splitdrive,
 
36
                    )
30
37
import posixpath
31
 
# We need to import both shutil and rmtree as we export the later on posix
32
 
# and need the former on windows
33
38
import shutil
34
 
from shutil import rmtree
35
 
import socket
 
39
from shutil import (
 
40
    rmtree,
 
41
    )
36
42
import subprocess
37
 
# We need to import both tempfile and mkdtemp as we export the later on posix
38
 
# and need the former on windows
39
43
import tempfile
40
 
from tempfile import mkdtemp
 
44
from tempfile import (
 
45
    mkdtemp,
 
46
    )
41
47
import unicodedata
42
48
 
43
49
from bzrlib import (
44
50
    cache_utf8,
45
51
    errors,
46
 
    trace,
47
52
    win32utils,
48
53
    )
49
54
""")
50
55
 
51
 
from bzrlib.symbol_versioning import (
52
 
    deprecated_function,
53
 
    deprecated_in,
54
 
    )
55
 
 
56
56
# sha and md5 modules are deprecated in python2.6 but hashlib is available as
57
57
# of 2.5
58
58
if sys.version_info < (2, 5):
71
71
from bzrlib import symbol_versioning
72
72
 
73
73
 
74
 
# Cross platform wall-clock time functionality with decent resolution.
75
 
# On Linux ``time.clock`` returns only CPU time. On Windows, ``time.time()``
76
 
# only has a resolution of ~15ms. Note that ``time.clock()`` is not
77
 
# synchronized with ``time.time()``, this is only meant to be used to find
78
 
# delta times by subtracting from another call to this function.
79
 
timer_func = time.time
80
 
if sys.platform == 'win32':
81
 
    timer_func = time.clock
82
 
 
83
74
# On win32, O_BINARY is used to indicate the file should
84
75
# be opened in binary mode, rather than text mode.
85
76
# On other platforms, O_BINARY doesn't exist, because
86
77
# they always open in binary mode, so it is okay to
87
 
# OR with 0 on those platforms.
88
 
# O_NOINHERIT and O_TEXT exists only on win32 too.
 
78
# OR with 0 on those platforms
89
79
O_BINARY = getattr(os, 'O_BINARY', 0)
90
 
O_TEXT = getattr(os, 'O_TEXT', 0)
91
 
O_NOINHERIT = getattr(os, 'O_NOINHERIT', 0)
92
80
 
93
81
 
94
82
def get_unicode_argv():
181
169
    try:
182
170
        return _kind_marker_map[kind]
183
171
    except KeyError:
184
 
        # Slightly faster than using .get(, '') when the common case is that
185
 
        # kind will be found
186
 
        return ''
 
172
        raise errors.BzrError('invalid file kind %r' % kind)
187
173
 
188
174
 
189
175
lexists = getattr(os.path, 'lexists', None)
206
192
    :param old: The old path, to rename from
207
193
    :param new: The new path, to rename to
208
194
    :param rename_func: The potentially non-atomic rename function
209
 
    :param unlink_func: A way to delete the target file if the full rename
210
 
        succeeds
 
195
    :param unlink_func: A way to delete the target file if the full rename succeeds
211
196
    """
 
197
 
212
198
    # sftp rename doesn't allow overwriting, so play tricks:
213
199
    base = os.path.basename(new)
214
200
    dirname = os.path.dirname(new)
215
 
    # callers use different encodings for the paths so the following MUST
216
 
    # respect that. We rely on python upcasting to unicode if new is unicode
217
 
    # and keeping a str if not.
218
 
    tmp_name = 'tmp.%s.%.9f.%d.%s' % (base, time.time(),
219
 
                                      os.getpid(), rand_chars(10))
 
201
    tmp_name = u'tmp.%s.%.9f.%d.%s' % (base, time.time(), os.getpid(), rand_chars(10))
220
202
    tmp_name = pathjoin(dirname, tmp_name)
221
203
 
222
204
    # Rename the file out of the way, but keep track if it didn't exist
242
224
    else:
243
225
        file_existed = True
244
226
 
245
 
    failure_exc = None
246
227
    success = False
247
228
    try:
248
229
        try:
254
235
            # source and target may be aliases of each other (e.g. on a
255
236
            # case-insensitive filesystem), so we may have accidentally renamed
256
237
            # source by when we tried to rename target
257
 
            failure_exc = sys.exc_info()
258
 
            if (file_existed and e.errno in (None, errno.ENOENT)
259
 
                and old.lower() == new.lower()):
260
 
                # source and target are the same file on a case-insensitive
261
 
                # filesystem, so we don't generate an exception
262
 
                failure_exc = None
 
238
            if not (file_existed and e.errno in (None, errno.ENOENT)):
 
239
                raise
263
240
    finally:
264
241
        if file_existed:
265
242
            # If the file used to exist, rename it back into place
268
245
                unlink_func(tmp_name)
269
246
            else:
270
247
                rename_func(tmp_name, new)
271
 
    if failure_exc is not None:
272
 
        raise failure_exc[0], failure_exc[1], failure_exc[2]
273
248
 
274
249
 
275
250
# In Python 2.4.2 and older, os.path.abspath and os.path.realpath
298
273
    running python.exe under cmd.exe return capital C:\\
299
274
    running win32 python inside a cygwin shell returns lowercase c:\\
300
275
    """
301
 
    drive, path = ntpath.splitdrive(path)
 
276
    drive, path = _nt_splitdrive(path)
302
277
    return drive.upper() + path
303
278
 
304
279
 
305
280
def _win32_abspath(path):
306
 
    # Real ntpath.abspath doesn't have a problem with a unicode cwd
307
 
    return _win32_fixdrive(ntpath.abspath(unicode(path)).replace('\\', '/'))
 
281
    # Real _nt_abspath doesn't have a problem with a unicode cwd
 
282
    return _win32_fixdrive(_nt_abspath(unicode(path)).replace('\\', '/'))
308
283
 
309
284
 
310
285
def _win98_abspath(path):
321
296
    #   /path       => C:/path
322
297
    path = unicode(path)
323
298
    # check for absolute path
324
 
    drive = ntpath.splitdrive(path)[0]
 
299
    drive = _nt_splitdrive(path)[0]
325
300
    if drive == '' and path[:2] not in('//','\\\\'):
326
301
        cwd = os.getcwdu()
327
302
        # we cannot simply os.path.join cwd and path
328
303
        # because os.path.join('C:','/path') produce '/path'
329
304
        # and this is incorrect
330
305
        if path[:1] in ('/','\\'):
331
 
            cwd = ntpath.splitdrive(cwd)[0]
 
306
            cwd = _nt_splitdrive(cwd)[0]
332
307
            path = path[1:]
333
308
        path = cwd + '\\' + path
334
 
    return _win32_fixdrive(ntpath.normpath(path).replace('\\', '/'))
 
309
    return _win32_fixdrive(_nt_normpath(path).replace('\\', '/'))
335
310
 
336
311
 
337
312
def _win32_realpath(path):
338
 
    # Real ntpath.realpath doesn't have a problem with a unicode cwd
339
 
    return _win32_fixdrive(ntpath.realpath(unicode(path)).replace('\\', '/'))
 
313
    # Real _nt_realpath doesn't have a problem with a unicode cwd
 
314
    return _win32_fixdrive(_nt_realpath(unicode(path)).replace('\\', '/'))
340
315
 
341
316
 
342
317
def _win32_pathjoin(*args):
343
 
    return ntpath.join(*args).replace('\\', '/')
 
318
    return _nt_join(*args).replace('\\', '/')
344
319
 
345
320
 
346
321
def _win32_normpath(path):
347
 
    return _win32_fixdrive(ntpath.normpath(unicode(path)).replace('\\', '/'))
 
322
    return _win32_fixdrive(_nt_normpath(unicode(path)).replace('\\', '/'))
348
323
 
349
324
 
350
325
def _win32_getcwd():
389
364
basename = os.path.basename
390
365
split = os.path.split
391
366
splitext = os.path.splitext
392
 
# These were already lazily imported into local scope
 
367
# These were already imported into local scope
393
368
# mkdtemp = tempfile.mkdtemp
394
369
# rmtree = shutil.rmtree
395
370
 
435
410
    getcwd = _mac_getcwd
436
411
 
437
412
 
438
 
def get_terminal_encoding(trace=False):
 
413
def get_terminal_encoding():
439
414
    """Find the best encoding for printing to the screen.
440
415
 
441
416
    This attempts to check both sys.stdout and sys.stdin to see
447
422
 
448
423
    On my standard US Windows XP, the preferred encoding is
449
424
    cp1252, but the console is cp437
450
 
 
451
 
    :param trace: If True trace the selected encoding via mutter().
452
425
    """
453
426
    from bzrlib.trace import mutter
454
427
    output_encoding = getattr(sys.stdout, 'encoding', None)
456
429
        input_encoding = getattr(sys.stdin, 'encoding', None)
457
430
        if not input_encoding:
458
431
            output_encoding = get_user_encoding()
459
 
            if trace:
460
 
                mutter('encoding stdout as osutils.get_user_encoding() %r',
 
432
            mutter('encoding stdout as osutils.get_user_encoding() %r',
461
433
                   output_encoding)
462
434
        else:
463
435
            output_encoding = input_encoding
464
 
            if trace:
465
 
                mutter('encoding stdout as sys.stdin encoding %r',
466
 
                    output_encoding)
 
436
            mutter('encoding stdout as sys.stdin encoding %r', output_encoding)
467
437
    else:
468
 
        if trace:
469
 
            mutter('encoding stdout as sys.stdout encoding %r', output_encoding)
 
438
        mutter('encoding stdout as sys.stdout encoding %r', output_encoding)
470
439
    if output_encoding == 'cp0':
471
440
        # invalid encoding (cp0 means 'no codepage' on Windows)
472
441
        output_encoding = get_user_encoding()
473
 
        if trace:
474
 
            mutter('cp0 is invalid encoding.'
 
442
        mutter('cp0 is invalid encoding.'
475
443
               ' encoding stdout as osutils.get_user_encoding() %r',
476
444
               output_encoding)
477
445
    # check encoding
503
471
def isdir(f):
504
472
    """True if f is an accessible directory."""
505
473
    try:
506
 
        return stat.S_ISDIR(os.lstat(f)[stat.ST_MODE])
 
474
        return S_ISDIR(os.lstat(f)[ST_MODE])
507
475
    except OSError:
508
476
        return False
509
477
 
511
479
def isfile(f):
512
480
    """True if f is a regular file."""
513
481
    try:
514
 
        return stat.S_ISREG(os.lstat(f)[stat.ST_MODE])
 
482
        return S_ISREG(os.lstat(f)[ST_MODE])
515
483
    except OSError:
516
484
        return False
517
485
 
518
486
def islink(f):
519
487
    """True if f is a symlink."""
520
488
    try:
521
 
        return stat.S_ISLNK(os.lstat(f)[stat.ST_MODE])
 
489
        return S_ISLNK(os.lstat(f)[ST_MODE])
522
490
    except OSError:
523
491
        return False
524
492
 
672
640
def sha_file_by_name(fname):
673
641
    """Calculate the SHA1 of a file by reading the full text"""
674
642
    s = sha()
675
 
    f = os.open(fname, os.O_RDONLY | O_BINARY | O_NOINHERIT)
 
643
    f = os.open(fname, os.O_RDONLY | O_BINARY)
676
644
    try:
677
645
        while True:
678
646
            b = os.read(f, 1<<16)
720
688
    return offset.days * 86400 + offset.seconds
721
689
 
722
690
weekdays = ['Mon', 'Tue', 'Wed', 'Thu', 'Fri', 'Sat', 'Sun']
723
 
_default_format_by_weekday_num = [wd + " %Y-%m-%d %H:%M:%S" for wd in weekdays]
724
 
 
725
691
 
726
692
def format_date(t, offset=0, timezone='original', date_fmt=None,
727
693
                show_offset=True):
741
707
    date_str = time.strftime(date_fmt, tt)
742
708
    return date_str + offset_str
743
709
 
744
 
 
745
 
# Cache of formatted offset strings
746
 
_offset_cache = {}
747
 
 
748
 
 
749
 
def format_date_with_offset_in_original_timezone(t, offset=0,
750
 
    _cache=_offset_cache):
751
 
    """Return a formatted date string in the original timezone.
752
 
 
753
 
    This routine may be faster then format_date.
754
 
 
755
 
    :param t: Seconds since the epoch.
756
 
    :param offset: Timezone offset in seconds east of utc.
757
 
    """
758
 
    if offset is None:
759
 
        offset = 0
760
 
    tt = time.gmtime(t + offset)
761
 
    date_fmt = _default_format_by_weekday_num[tt[6]]
762
 
    date_str = time.strftime(date_fmt, tt)
763
 
    offset_str = _cache.get(offset, None)
764
 
    if offset_str is None:
765
 
        offset_str = ' %+03d%02d' % (offset / 3600, (offset / 60) % 60)
766
 
        _cache[offset] = offset_str
767
 
    return date_str + offset_str
768
 
 
769
 
 
770
710
def format_local_date(t, offset=0, timezone='original', date_fmt=None,
771
711
                      show_offset=True):
772
712
    """Return an unicode date string formatted according to the current locale.
786
726
        date_str = date_str.decode(get_user_encoding(), 'replace')
787
727
    return date_str + offset_str
788
728
 
789
 
 
790
729
def _format_date(t, offset, timezone, date_fmt, show_offset):
791
730
    if timezone == 'utc':
792
731
        tt = time.gmtime(t)
864
803
 
865
804
def filesize(f):
866
805
    """Return size of given open file."""
867
 
    return os.fstat(f.fileno())[stat.ST_SIZE]
 
806
    return os.fstat(f.fileno())[ST_SIZE]
868
807
 
869
808
 
870
809
# Define rand_bytes based on platform.
932
871
 
933
872
def parent_directories(filename):
934
873
    """Return the list of parent directories, deepest first.
935
 
 
 
874
    
936
875
    For example, parent_directories("a/b/c") -> ["a/b", "a"].
937
876
    """
938
877
    parents = []
962
901
    # NB: This docstring is just an example, not a doctest, because doctest
963
902
    # currently can't cope with the use of lazy imports in this namespace --
964
903
    # mbp 20090729
965
 
 
 
904
    
966
905
    # This currently doesn't report the failure at the time it occurs, because
967
906
    # they tend to happen very early in startup when we can't check config
968
907
    # files etc, and also we want to report all failures but not spam the user
981
920
    if GlobalConfig().get_user_option_as_bool('ignore_missing_extensions'):
982
921
        return
983
922
    # the warnings framework should by default show this only once
984
 
    from bzrlib.trace import warning
985
 
    warning(
986
 
        "bzr: warning: some compiled extensions could not be loaded; "
987
 
        "see <https://answers.launchpad.net/bzr/+faq/703>")
988
 
    # we no longer show the specific missing extensions here, because it makes
989
 
    # the message too long and scary - see
990
 
    # https://bugs.launchpad.net/bzr/+bug/430529
 
923
    warnings.warn(
 
924
        "bzr: warning: Failed to load compiled extensions: "
 
925
        "%s\n" 
 
926
        "    Bazaar can run, but performance may be reduced.\n"
 
927
        "    Check Bazaar is correctly installed or set ignore_missing_extensions"
 
928
        % '\n'.join(_extension_load_failures,))
991
929
 
992
930
 
993
931
try:
1038
976
 
1039
977
 
1040
978
def delete_any(path):
1041
 
    """Delete a file, symlink or directory.
1042
 
 
 
979
    """Delete a file, symlink or directory.  
 
980
    
1043
981
    Will delete even if readonly.
1044
982
    """
1045
983
    try:
1131
1069
 
1132
1070
 
1133
1071
def relpath(base, path):
1134
 
    """Return path relative to base, or raise PathNotChild exception.
 
1072
    """Return path relative to base, or raise exception.
1135
1073
 
1136
1074
    The path may be either an absolute path or a path relative to the
1137
1075
    current working directory.
1139
1077
    os.path.commonprefix (python2.4) has a bad bug that it works just
1140
1078
    on string prefixes, assuming that '/u' is a prefix of '/u2'.  This
1141
1079
    avoids that problem.
1142
 
 
1143
 
    NOTE: `base` should not have a trailing slash otherwise you'll get
1144
 
    PathNotChild exceptions regardless of `path`.
1145
1080
    """
1146
1081
 
1147
1082
    if len(base) < MIN_ABS_PATHLENGTH:
1196
1131
    bit_iter = iter(rel.split('/'))
1197
1132
    for bit in bit_iter:
1198
1133
        lbit = bit.lower()
1199
 
        try:
1200
 
            next_entries = _listdir(current)
1201
 
        except OSError: # enoent, eperm, etc
1202
 
            # We can't find this in the filesystem, so just append the
1203
 
            # remaining bits.
1204
 
            current = pathjoin(current, bit, *list(bit_iter))
1205
 
            break
1206
 
        for look in next_entries:
 
1134
        for look in _listdir(current):
1207
1135
            if lbit == look.lower():
1208
1136
                current = pathjoin(current, look)
1209
1137
                break
1213
1141
            # the target of a move, for example).
1214
1142
            current = pathjoin(current, bit, *list(bit_iter))
1215
1143
            break
1216
 
    return current[len(abs_base):].lstrip('/')
 
1144
    return current[len(abs_base)+1:]
1217
1145
 
1218
1146
# XXX - TODO - we need better detection/integration of case-insensitive
1219
1147
# file-systems; Linux often sees FAT32 devices (or NFS-mounted OSX
1234
1162
    # but for now, we haven't optimized...
1235
1163
    return [canonical_relpath(base, p) for p in paths]
1236
1164
 
1237
 
 
1238
 
def decode_filename(filename):
1239
 
    """Decode the filename using the filesystem encoding
1240
 
 
1241
 
    If it is unicode, it is returned.
1242
 
    Otherwise it is decoded from the the filesystem's encoding. If decoding
1243
 
    fails, a errors.BadFilenameEncoding exception is raised.
1244
 
    """
1245
 
    if type(filename) is unicode:
1246
 
        return filename
1247
 
    try:
1248
 
        return filename.decode(_fs_enc)
1249
 
    except UnicodeDecodeError:
1250
 
        raise errors.BadFilenameEncoding(filename, _fs_enc)
1251
 
 
1252
 
 
1253
1165
def safe_unicode(unicode_or_utf8_string):
1254
1166
    """Coerce unicode_or_utf8_string into unicode.
1255
1167
 
1338
1250
def normalizes_filenames():
1339
1251
    """Return True if this platform normalizes unicode filenames.
1340
1252
 
1341
 
    Only Mac OSX.
 
1253
    Mac OSX does, Windows/Linux do not.
1342
1254
    """
1343
1255
    return _platform_normalizes_filenames
1344
1256
 
1349
1261
    On platforms where the system normalizes filenames (Mac OSX),
1350
1262
    you can access a file by any path which will normalize correctly.
1351
1263
    On platforms where the system does not normalize filenames
1352
 
    (everything else), you have to access a file by its exact path.
 
1264
    (Windows, Linux), you have to access a file by its exact path.
1353
1265
 
1354
1266
    Internally, bzr only supports NFC normalization, since that is
1355
1267
    the standard for XML documents.
1374
1286
    normalized_filename = _inaccessible_normalized_filename
1375
1287
 
1376
1288
 
1377
 
def set_signal_handler(signum, handler, restart_syscall=True):
1378
 
    """A wrapper for signal.signal that also calls siginterrupt(signum, False)
1379
 
    on platforms that support that.
1380
 
 
1381
 
    :param restart_syscall: if set, allow syscalls interrupted by a signal to
1382
 
        automatically restart (by calling `signal.siginterrupt(signum,
1383
 
        False)`).  May be ignored if the feature is not available on this
1384
 
        platform or Python version.
1385
 
    """
1386
 
    try:
1387
 
        import signal
1388
 
        siginterrupt = signal.siginterrupt
1389
 
    except ImportError:
1390
 
        # This python implementation doesn't provide signal support, hence no
1391
 
        # handler exists
1392
 
        return None
1393
 
    except AttributeError:
1394
 
        # siginterrupt doesn't exist on this platform, or for this version
1395
 
        # of Python.
1396
 
        siginterrupt = lambda signum, flag: None
1397
 
    if restart_syscall:
1398
 
        def sig_handler(*args):
1399
 
            # Python resets the siginterrupt flag when a signal is
1400
 
            # received.  <http://bugs.python.org/issue8354>
1401
 
            # As a workaround for some cases, set it back the way we want it.
1402
 
            siginterrupt(signum, False)
1403
 
            # Now run the handler function passed to set_signal_handler.
1404
 
            handler(*args)
1405
 
    else:
1406
 
        sig_handler = handler
1407
 
    old_handler = signal.signal(signum, sig_handler)
1408
 
    if restart_syscall:
1409
 
        siginterrupt(signum, False)
1410
 
    return old_handler
1411
 
 
1412
 
 
1413
 
default_terminal_width = 80
1414
 
"""The default terminal width for ttys.
1415
 
 
1416
 
This is defined so that higher levels can share a common fallback value when
1417
 
terminal_width() returns None.
1418
 
"""
1419
 
 
1420
 
# Keep some state so that terminal_width can detect if _terminal_size has
1421
 
# returned a different size since the process started.  See docstring and
1422
 
# comments of terminal_width for details.
1423
 
# _terminal_size_state has 3 possible values: no_data, unchanged, and changed.
1424
 
_terminal_size_state = 'no_data'
1425
 
_first_terminal_size = None
1426
 
 
1427
1289
def terminal_width():
1428
 
    """Return terminal width.
1429
 
 
1430
 
    None is returned if the width can't established precisely.
1431
 
 
1432
 
    The rules are:
1433
 
    - if BZR_COLUMNS is set, returns its value
1434
 
    - if there is no controlling terminal, returns None
1435
 
    - query the OS, if the queried size has changed since the last query,
1436
 
      return its value,
1437
 
    - if COLUMNS is set, returns its value,
1438
 
    - if the OS has a value (even though it's never changed), return its value.
1439
 
 
1440
 
    From there, we need to query the OS to get the size of the controlling
1441
 
    terminal.
1442
 
 
1443
 
    On Unices we query the OS by:
1444
 
    - get termios.TIOCGWINSZ
1445
 
    - if an error occurs or a negative value is obtained, returns None
1446
 
 
1447
 
    On Windows we query the OS by:
1448
 
    - win32utils.get_console_size() decides,
1449
 
    - returns None on error (provided default value)
1450
 
    """
1451
 
    # Note to implementors: if changing the rules for determining the width,
1452
 
    # make sure you've considered the behaviour in these cases:
1453
 
    #  - M-x shell in emacs, where $COLUMNS is set and TIOCGWINSZ returns 0,0.
1454
 
    #  - bzr log | less, in bash, where $COLUMNS not set and TIOCGWINSZ returns
1455
 
    #    0,0.
1456
 
    #  - (add more interesting cases here, if you find any)
1457
 
    # Some programs implement "Use $COLUMNS (if set) until SIGWINCH occurs",
1458
 
    # but we don't want to register a signal handler because it is impossible
1459
 
    # to do so without risking EINTR errors in Python <= 2.6.5 (see
1460
 
    # <http://bugs.python.org/issue8354>).  Instead we check TIOCGWINSZ every
1461
 
    # time so we can notice if the reported size has changed, which should have
1462
 
    # a similar effect.
1463
 
 
1464
 
    # If BZR_COLUMNS is set, take it, user is always right
1465
 
    try:
1466
 
        return int(os.environ['BZR_COLUMNS'])
1467
 
    except (KeyError, ValueError):
1468
 
        pass
1469
 
 
1470
 
    isatty = getattr(sys.stdout, 'isatty', None)
1471
 
    if isatty is None or not isatty():
1472
 
        # Don't guess, setting BZR_COLUMNS is the recommended way to override.
1473
 
        return None
1474
 
 
1475
 
    # Query the OS
1476
 
    width, height = os_size = _terminal_size(None, None)
1477
 
    global _first_terminal_size, _terminal_size_state
1478
 
    if _terminal_size_state == 'no_data':
1479
 
        _first_terminal_size = os_size
1480
 
        _terminal_size_state = 'unchanged'
1481
 
    elif (_terminal_size_state == 'unchanged' and
1482
 
          _first_terminal_size != os_size):
1483
 
        _terminal_size_state = 'changed'
1484
 
 
1485
 
    # If the OS claims to know how wide the terminal is, and this value has
1486
 
    # ever changed, use that.
1487
 
    if _terminal_size_state == 'changed':
1488
 
        if width is not None and width > 0:
1489
 
            return width
1490
 
 
1491
 
    # If COLUMNS is set, use it.
1492
 
    try:
1493
 
        return int(os.environ['COLUMNS'])
1494
 
    except (KeyError, ValueError):
1495
 
        pass
1496
 
 
1497
 
    # Finally, use an unchanged size from the OS, if we have one.
1498
 
    if _terminal_size_state == 'unchanged':
1499
 
        if width is not None and width > 0:
1500
 
            return width
1501
 
 
1502
 
    # The width could not be determined.
1503
 
    return None
1504
 
 
1505
 
 
1506
 
def _win32_terminal_size(width, height):
1507
 
    width, height = win32utils.get_console_size(defaultx=width, defaulty=height)
1508
 
    return width, height
1509
 
 
1510
 
 
1511
 
def _ioctl_terminal_size(width, height):
 
1290
    """Return estimated terminal width."""
 
1291
    if sys.platform == 'win32':
 
1292
        return win32utils.get_console_size()[0]
 
1293
    width = 0
1512
1294
    try:
1513
1295
        import struct, fcntl, termios
1514
1296
        s = struct.pack('HHHH', 0, 0, 0, 0)
1515
1297
        x = fcntl.ioctl(1, termios.TIOCGWINSZ, s)
1516
 
        height, width = struct.unpack('HHHH', x)[0:2]
1517
 
    except (IOError, AttributeError):
 
1298
        width = struct.unpack('HHHH', x)[1]
 
1299
    except IOError:
1518
1300
        pass
1519
 
    return width, height
1520
 
 
1521
 
_terminal_size = None
1522
 
"""Returns the terminal size as (width, height).
1523
 
 
1524
 
:param width: Default value for width.
1525
 
:param height: Default value for height.
1526
 
 
1527
 
This is defined specifically for each OS and query the size of the controlling
1528
 
terminal. If any error occurs, the provided default values should be returned.
1529
 
"""
1530
 
if sys.platform == 'win32':
1531
 
    _terminal_size = _win32_terminal_size
1532
 
else:
1533
 
    _terminal_size = _ioctl_terminal_size
 
1301
    if width <= 0:
 
1302
        try:
 
1303
            width = int(os.environ['COLUMNS'])
 
1304
        except:
 
1305
            pass
 
1306
    if width <= 0:
 
1307
        width = 80
 
1308
 
 
1309
    return width
1534
1310
 
1535
1311
 
1536
1312
def supports_executable():
1661
1437
        dirblock = []
1662
1438
        append = dirblock.append
1663
1439
        try:
1664
 
            names = sorted(map(decode_filename, _listdir(top)))
 
1440
            names = sorted(_listdir(top))
1665
1441
        except OSError, e:
1666
1442
            if not _is_error_enotdir(e):
1667
1443
                raise
1856
1632
            real_handlers[kind](abspath, relpath)
1857
1633
 
1858
1634
 
1859
 
def copy_ownership_from_path(dst, src=None):
1860
 
    """Copy usr/grp ownership from src file/dir to dst file/dir.
1861
 
 
1862
 
    If src is None, the containing directory is used as source. If chown
1863
 
    fails, the error is ignored and a warning is printed.
1864
 
    """
1865
 
    chown = getattr(os, 'chown', None)
1866
 
    if chown is None:
1867
 
        return
1868
 
 
1869
 
    if src == None:
1870
 
        src = os.path.dirname(dst)
1871
 
        if src == '':
1872
 
            src = '.'
1873
 
 
1874
 
    try:
1875
 
        s = os.stat(src)
1876
 
        chown(dst, s.st_uid, s.st_gid)
1877
 
    except OSError, e:
1878
 
        trace.warning("Unable to copy ownership from '%s' to '%s': IOError: %s." % (src, dst, e))
1879
 
 
1880
 
 
1881
1635
def path_prefix_key(path):
1882
1636
    """Generate a prefix-order path key for path.
1883
1637
 
1969
1723
    return user_encoding
1970
1724
 
1971
1725
 
1972
 
def get_diff_header_encoding():
1973
 
    return get_terminal_encoding()
1974
 
 
1975
 
 
1976
1726
def get_host_name():
1977
1727
    """Return the current unicode host name.
1978
1728
 
1987
1737
        return socket.gethostname().decode(get_user_encoding())
1988
1738
 
1989
1739
 
1990
 
# We must not read/write any more than 64k at a time from/to a socket so we
1991
 
# don't risk "no buffer space available" errors on some platforms.  Windows in
1992
 
# particular is likely to throw WSAECONNABORTED or WSAENOBUFS if given too much
1993
 
# data at once.
1994
 
MAX_SOCKET_CHUNK = 64 * 1024
1995
 
 
1996
 
def read_bytes_from_socket(sock, report_activity=None,
1997
 
        max_read_size=MAX_SOCKET_CHUNK):
1998
 
    """Read up to max_read_size of bytes from sock and notify of progress.
1999
 
 
2000
 
    Translates "Connection reset by peer" into file-like EOF (return an
2001
 
    empty string rather than raise an error), and repeats the recv if
2002
 
    interrupted by a signal.
2003
 
    """
2004
 
    while 1:
2005
 
        try:
2006
 
            bytes = sock.recv(max_read_size)
2007
 
        except socket.error, e:
2008
 
            eno = e.args[0]
2009
 
            if eno == getattr(errno, "WSAECONNRESET", errno.ECONNRESET):
2010
 
                # The connection was closed by the other side.  Callers expect
2011
 
                # an empty string to signal end-of-stream.
2012
 
                return ""
2013
 
            elif eno == errno.EINTR:
2014
 
                # Retry the interrupted recv.
2015
 
                continue
2016
 
            raise
2017
 
        else:
2018
 
            if report_activity is not None:
2019
 
                report_activity(len(bytes), 'read')
2020
 
            return bytes
2021
 
 
2022
 
 
2023
 
def recv_all(socket, count):
 
1740
def recv_all(socket, bytes):
2024
1741
    """Receive an exact number of bytes.
2025
1742
 
2026
1743
    Regular Socket.recv() may return less than the requested number of bytes,
2027
 
    depending on what's in the OS buffer.  MSG_WAITALL is not available
 
1744
    dependning on what's in the OS buffer.  MSG_WAITALL is not available
2028
1745
    on all platforms, but this should work everywhere.  This will return
2029
1746
    less than the requested amount if the remote end closes.
2030
1747
 
2031
1748
    This isn't optimized and is intended mostly for use in testing.
2032
1749
    """
2033
1750
    b = ''
2034
 
    while len(b) < count:
2035
 
        new = read_bytes_from_socket(socket, None, count - len(b))
 
1751
    while len(b) < bytes:
 
1752
        new = until_no_eintr(socket.recv, bytes - len(b))
2036
1753
        if new == '':
2037
1754
            break # eof
2038
1755
        b += new
2039
1756
    return b
2040
1757
 
2041
1758
 
2042
 
def send_all(sock, bytes, report_activity=None):
 
1759
def send_all(socket, bytes, report_activity=None):
2043
1760
    """Send all bytes on a socket.
2044
1761
 
2045
 
    Breaks large blocks in smaller chunks to avoid buffering limitations on
2046
 
    some platforms, and catches EINTR which may be thrown if the send is
2047
 
    interrupted by a signal.
2048
 
 
2049
 
    This is preferred to socket.sendall(), because it avoids portability bugs
2050
 
    and provides activity reporting.
 
1762
    Regular socket.sendall() can give socket error 10053 on Windows.  This
 
1763
    implementation sends no more than 64k at a time, which avoids this problem.
2051
1764
 
2052
1765
    :param report_activity: Call this as bytes are read, see
2053
1766
        Transport._report_activity
2054
1767
    """
2055
 
    sent_total = 0
2056
 
    byte_count = len(bytes)
2057
 
    while sent_total < byte_count:
2058
 
        try:
2059
 
            sent = sock.send(buffer(bytes, sent_total, MAX_SOCKET_CHUNK))
2060
 
        except socket.error, e:
2061
 
            if e.args[0] != errno.EINTR:
2062
 
                raise
2063
 
        else:
2064
 
            sent_total += sent
2065
 
            report_activity(sent, 'write')
 
1768
    chunk_size = 2**16
 
1769
    for pos in xrange(0, len(bytes), chunk_size):
 
1770
        block = bytes[pos:pos+chunk_size]
 
1771
        if report_activity is not None:
 
1772
            report_activity(len(block), 'write')
 
1773
        until_no_eintr(socket.sendall, block)
2066
1774
 
2067
1775
 
2068
1776
def dereference_path(path):
2109
1817
    base = dirname(bzrlib.__file__)
2110
1818
    if getattr(sys, 'frozen', None):    # bzr.exe
2111
1819
        base = abspath(pathjoin(base, '..', '..'))
2112
 
    f = file(pathjoin(base, resource_relpath), "rU")
2113
 
    try:
2114
 
        return f.read()
2115
 
    finally:
2116
 
        f.close()
 
1820
    filename = pathjoin(base, resource_relpath)
 
1821
    return open(filename, 'rU').read()
 
1822
 
2117
1823
 
2118
1824
def file_kind_from_stat_mode_thunk(mode):
2119
1825
    global file_kind_from_stat_mode
2122
1828
            from bzrlib._readdir_pyx import UTF8DirReader
2123
1829
            file_kind_from_stat_mode = UTF8DirReader().kind_from_mode
2124
1830
        except ImportError, e:
2125
 
            # This is one time where we won't warn that an extension failed to
2126
 
            # load. The extension is never available on Windows anyway.
 
1831
            failed_to_load_extension(e)
2127
1832
            from bzrlib._readdir_py import (
2128
1833
                _kind_from_mode as file_kind_from_stat_mode
2129
1834
                )
2141
1846
 
2142
1847
 
2143
1848
def until_no_eintr(f, *a, **kw):
2144
 
    """Run f(*a, **kw), retrying if an EINTR error occurs.
2145
 
 
2146
 
    WARNING: you must be certain that it is safe to retry the call repeatedly
2147
 
    if EINTR does occur.  This is typically only true for low-level operations
2148
 
    like os.read.  If in any doubt, don't use this.
2149
 
 
2150
 
    Keep in mind that this is not a complete solution to EINTR.  There is
2151
 
    probably code in the Python standard library and other dependencies that
2152
 
    may encounter EINTR if a signal arrives (and there is signal handler for
2153
 
    that signal).  So this function can reduce the impact for IO that bzrlib
2154
 
    directly controls, but it is not a complete solution.
2155
 
    """
 
1849
    """Run f(*a, **kw), retrying if an EINTR error occurs."""
2156
1850
    # Borrowed from Twisted's twisted.python.util.untilConcludes function.
2157
1851
    while True:
2158
1852
        try:
2162
1856
                continue
2163
1857
            raise
2164
1858
 
2165
 
 
2166
 
@deprecated_function(deprecated_in((2, 2, 0)))
2167
1859
def re_compile_checked(re_string, flags=0, where=""):
2168
1860
    """Return a compiled re, or raise a sensible error.
2169
1861
 
2179
1871
        re_obj = re.compile(re_string, flags)
2180
1872
        re_obj.search("")
2181
1873
        return re_obj
2182
 
    except errors.InvalidPattern, e:
 
1874
    except re.error, e:
2183
1875
        if where:
2184
1876
            where = ' in ' + where
2185
1877
        # despite the name 'error' is a type
2186
 
        raise errors.BzrCommandError('Invalid regular expression%s: %s'
2187
 
            % (where, e.msg))
 
1878
        raise errors.BzrCommandError('Invalid regular expression%s: %r: %s'
 
1879
            % (where, re_string, e))
2188
1880
 
2189
1881
 
2190
1882
if sys.platform == "win32":
2244
1936
    anything goes wrong.
2245
1937
    """
2246
1938
    global _cached_local_concurrency
2247
 
 
2248
1939
    if _cached_local_concurrency is not None and use_cache:
2249
1940
        return _cached_local_concurrency
2250
1941
 
2251
 
    concurrency = os.environ.get('BZR_CONCURRENCY', None)
2252
 
    if concurrency is None:
2253
 
        try:
2254
 
            concurrency = _local_concurrency()
2255
 
        except (OSError, IOError):
2256
 
            pass
 
1942
    try:
 
1943
        concurrency = _local_concurrency()
 
1944
    except (OSError, IOError):
 
1945
        concurrency = None
2257
1946
    try:
2258
1947
        concurrency = int(concurrency)
2259
1948
    except (TypeError, ValueError):
2261
1950
    if use_cache:
2262
1951
        _cached_concurrency = concurrency
2263
1952
    return concurrency
2264
 
 
2265
 
 
2266
 
class UnicodeOrBytesToBytesWriter(codecs.StreamWriter):
2267
 
    """A stream writer that doesn't decode str arguments."""
2268
 
 
2269
 
    def __init__(self, encode, stream, errors='strict'):
2270
 
        codecs.StreamWriter.__init__(self, stream, errors)
2271
 
        self.encode = encode
2272
 
 
2273
 
    def write(self, object):
2274
 
        if type(object) is str:
2275
 
            self.stream.write(object)
2276
 
        else:
2277
 
            data, _ = self.encode(object, self.errors)
2278
 
            self.stream.write(data)
2279
 
 
2280
 
if sys.platform == 'win32':
2281
 
    def open_file(filename, mode='r', bufsize=-1):
2282
 
        """This function is used to override the ``open`` builtin.
2283
 
 
2284
 
        But it uses O_NOINHERIT flag so the file handle is not inherited by
2285
 
        child processes.  Deleting or renaming a closed file opened with this
2286
 
        function is not blocking child processes.
2287
 
        """
2288
 
        writing = 'w' in mode
2289
 
        appending = 'a' in mode
2290
 
        updating = '+' in mode
2291
 
        binary = 'b' in mode
2292
 
 
2293
 
        flags = O_NOINHERIT
2294
 
        # see http://msdn.microsoft.com/en-us/library/yeby3zcb%28VS.71%29.aspx
2295
 
        # for flags for each modes.
2296
 
        if binary:
2297
 
            flags |= O_BINARY
2298
 
        else:
2299
 
            flags |= O_TEXT
2300
 
 
2301
 
        if writing:
2302
 
            if updating:
2303
 
                flags |= os.O_RDWR
2304
 
            else:
2305
 
                flags |= os.O_WRONLY
2306
 
            flags |= os.O_CREAT | os.O_TRUNC
2307
 
        elif appending:
2308
 
            if updating:
2309
 
                flags |= os.O_RDWR
2310
 
            else:
2311
 
                flags |= os.O_WRONLY
2312
 
            flags |= os.O_CREAT | os.O_APPEND
2313
 
        else: #reading
2314
 
            if updating:
2315
 
                flags |= os.O_RDWR
2316
 
            else:
2317
 
                flags |= os.O_RDONLY
2318
 
 
2319
 
        return os.fdopen(os.open(filename, flags), mode, bufsize)
2320
 
else:
2321
 
    open_file = open
2322
 
 
2323
 
 
2324
 
def getuser_unicode():
2325
 
    """Return the username as unicode.
2326
 
    """
2327
 
    try:
2328
 
        user_encoding = get_user_encoding()
2329
 
        username = getpass.getuser().decode(user_encoding)
2330
 
    except UnicodeDecodeError:
2331
 
        raise errors.BzrError("Can't decode username as %s." % \
2332
 
                user_encoding)
2333
 
    return username