/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/osutils.py

  • Committer: Robert Collins
  • Date: 2010-05-06 11:08:10 UTC
  • mto: This revision was merged to the branch mainline in revision 5223.
  • Revision ID: robertc@robertcollins.net-20100506110810-h3j07fh5gmw54s25
Cleaner matcher matching revised unlocking protocol.

Show diffs side-by-side

added added

removed removed

Lines of Context:
bzrlib/osutils.py
1
 
# Copyright (C) 2005-2011 Canonical Ltd
 
1
# Copyright (C) 2005-2010 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
 
import errno
18
17
import os
19
18
import re
20
19
import stat
 
20
from stat import S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE
21
21
import sys
22
22
import time
23
23
import codecs
25
25
from bzrlib.lazy_import import lazy_import
26
26
lazy_import(globals(), """
27
27
from datetime import datetime
28
 
import getpass
29
 
import ntpath
 
28
import errno
 
29
from ntpath import (abspath as _nt_abspath,
 
30
                    join as _nt_join,
 
31
                    normpath as _nt_normpath,
 
32
                    realpath as _nt_realpath,
 
33
                    splitdrive as _nt_splitdrive,
 
34
                    )
30
35
import posixpath
31
 
# We need to import both shutil and rmtree as we export the later on posix
32
 
# and need the former on windows
33
36
import shutil
34
 
from shutil import rmtree
 
37
from shutil import (
 
38
    rmtree,
 
39
    )
35
40
import socket
36
41
import subprocess
37
 
# We need to import both tempfile and mkdtemp as we export the later on posix
38
 
# and need the former on windows
39
42
import tempfile
40
 
from tempfile import mkdtemp
 
43
from tempfile import (
 
44
    mkdtemp,
 
45
    )
41
46
import unicodedata
42
47
 
43
48
from bzrlib import (
44
49
    cache_utf8,
45
 
    config,
46
50
    errors,
47
51
    trace,
48
52
    win32utils,
54
58
    deprecated_in,
55
59
    )
56
60
 
57
 
from hashlib import (
58
 
    md5,
59
 
    sha1 as sha,
60
 
    )
 
61
# sha and md5 modules are deprecated in python2.6 but hashlib is available as
 
62
# of 2.5
 
63
if sys.version_info < (2, 5):
 
64
    import md5 as _mod_md5
 
65
    md5 = _mod_md5.new
 
66
    import sha as _mod_sha
 
67
    sha = _mod_sha.new
 
68
else:
 
69
    from hashlib import (
 
70
        md5,
 
71
        sha1 as sha,
 
72
        )
61
73
 
62
74
 
63
75
import bzrlib
89
101
        user_encoding = get_user_encoding()
90
102
        return [a.decode(user_encoding) for a in sys.argv[1:]]
91
103
    except UnicodeDecodeError:
92
 
        raise errors.BzrError("Parameter %r encoding is unsupported by %s "
93
 
            "application locale." % (a, user_encoding))
 
104
        raise errors.BzrError(("Parameter '%r' is unsupported by the current "
 
105
                                                            "encoding." % a))
94
106
 
95
107
 
96
108
def make_readonly(filename):
262
274
            else:
263
275
                rename_func(tmp_name, new)
264
276
    if failure_exc is not None:
265
 
        try:
266
 
            raise failure_exc[0], failure_exc[1], failure_exc[2]
267
 
        finally:
268
 
            del failure_exc
 
277
        raise failure_exc[0], failure_exc[1], failure_exc[2]
269
278
 
270
279
 
271
280
# In Python 2.4.2 and older, os.path.abspath and os.path.realpath
294
303
    running python.exe under cmd.exe return capital C:\\
295
304
    running win32 python inside a cygwin shell returns lowercase c:\\
296
305
    """
297
 
    drive, path = ntpath.splitdrive(path)
 
306
    drive, path = _nt_splitdrive(path)
298
307
    return drive.upper() + path
299
308
 
300
309
 
301
310
def _win32_abspath(path):
302
 
    # Real ntpath.abspath doesn't have a problem with a unicode cwd
303
 
    return _win32_fixdrive(ntpath.abspath(unicode(path)).replace('\\', '/'))
 
311
    # Real _nt_abspath doesn't have a problem with a unicode cwd
 
312
    return _win32_fixdrive(_nt_abspath(unicode(path)).replace('\\', '/'))
304
313
 
305
314
 
306
315
def _win98_abspath(path):
317
326
    #   /path       => C:/path
318
327
    path = unicode(path)
319
328
    # check for absolute path
320
 
    drive = ntpath.splitdrive(path)[0]
 
329
    drive = _nt_splitdrive(path)[0]
321
330
    if drive == '' and path[:2] not in('//','\\\\'):
322
331
        cwd = os.getcwdu()
323
332
        # we cannot simply os.path.join cwd and path
324
333
        # because os.path.join('C:','/path') produce '/path'
325
334
        # and this is incorrect
326
335
        if path[:1] in ('/','\\'):
327
 
            cwd = ntpath.splitdrive(cwd)[0]
 
336
            cwd = _nt_splitdrive(cwd)[0]
328
337
            path = path[1:]
329
338
        path = cwd + '\\' + path
330
 
    return _win32_fixdrive(ntpath.normpath(path).replace('\\', '/'))
 
339
    return _win32_fixdrive(_nt_normpath(path).replace('\\', '/'))
331
340
 
332
341
 
333
342
def _win32_realpath(path):
334
 
    # Real ntpath.realpath doesn't have a problem with a unicode cwd
335
 
    return _win32_fixdrive(ntpath.realpath(unicode(path)).replace('\\', '/'))
 
343
    # Real _nt_realpath doesn't have a problem with a unicode cwd
 
344
    return _win32_fixdrive(_nt_realpath(unicode(path)).replace('\\', '/'))
336
345
 
337
346
 
338
347
def _win32_pathjoin(*args):
339
 
    return ntpath.join(*args).replace('\\', '/')
 
348
    return _nt_join(*args).replace('\\', '/')
340
349
 
341
350
 
342
351
def _win32_normpath(path):
343
 
    return _win32_fixdrive(ntpath.normpath(unicode(path)).replace('\\', '/'))
 
352
    return _win32_fixdrive(_nt_normpath(unicode(path)).replace('\\', '/'))
344
353
 
345
354
 
346
355
def _win32_getcwd():
351
360
    return _win32_fixdrive(tempfile.mkdtemp(*args, **kwargs).replace('\\', '/'))
352
361
 
353
362
 
 
363
def _add_rename_error_details(e, old, new):
 
364
    new_e = OSError(e.errno, "failed to rename %s to %s: %s"
 
365
        % (old, new, e.strerror))
 
366
    new_e.filename = old
 
367
    new_e.to_filename = new
 
368
    return new_e
 
369
 
 
370
 
354
371
def _win32_rename(old, new):
355
372
    """We expect to be able to atomically replace 'new' with old.
356
373
 
358
375
    and then deleted.
359
376
    """
360
377
    try:
361
 
        fancy_rename(old, new, rename_func=os.rename, unlink_func=os.unlink)
 
378
        fancy_rename(old, new, rename_func=_wrapped_rename, unlink_func=os.unlink)
362
379
    except OSError, e:
363
380
        if e.errno in (errno.EPERM, errno.EACCES, errno.EBUSY, errno.EINVAL):
364
381
            # If we try to rename a non-existant file onto cwd, we get
369
386
        raise
370
387
 
371
388
 
 
389
def _wrapped_rename(old, new):
 
390
    """Rename a file or directory"""
 
391
    try:
 
392
        os.rename(old, new)
 
393
    except (IOError, OSError), e:
 
394
        # this is eventually called by all rename-like functions, so should 
 
395
        # catch all of them
 
396
        raise _add_rename_error_details(e, old, new)
 
397
 
 
398
 
372
399
def _mac_getcwd():
373
400
    return unicodedata.normalize('NFC', os.getcwdu())
374
401
 
379
406
realpath = _posix_realpath
380
407
pathjoin = os.path.join
381
408
normpath = os.path.normpath
 
409
rename = _wrapped_rename # overridden below on win32
382
410
getcwd = os.getcwdu
383
 
rename = os.rename
384
411
dirname = os.path.dirname
385
412
basename = os.path.basename
386
413
split = os.path.split
387
414
splitext = os.path.splitext
388
 
# These were already lazily imported into local scope
 
415
# These were already imported into local scope
389
416
# mkdtemp = tempfile.mkdtemp
390
417
# rmtree = shutil.rmtree
391
 
lstat = os.lstat
392
 
fstat = os.fstat
393
 
 
394
 
def wrap_stat(st):
395
 
    return st
396
 
 
397
418
 
398
419
MIN_ABS_PATHLENGTH = 1
399
420
 
409
430
    getcwd = _win32_getcwd
410
431
    mkdtemp = _win32_mkdtemp
411
432
    rename = _win32_rename
412
 
    try:
413
 
        from bzrlib import _walkdirs_win32
414
 
    except ImportError:
415
 
        pass
416
 
    else:
417
 
        lstat = _walkdirs_win32.lstat
418
 
        fstat = _walkdirs_win32.fstat
419
 
        wrap_stat = _walkdirs_win32.wrap_stat
420
433
 
421
434
    MIN_ABS_PATHLENGTH = 3
422
435
 
445
458
    getcwd = _mac_getcwd
446
459
 
447
460
 
448
 
def get_terminal_encoding(trace=False):
 
461
def get_terminal_encoding():
449
462
    """Find the best encoding for printing to the screen.
450
463
 
451
464
    This attempts to check both sys.stdout and sys.stdin to see
457
470
 
458
471
    On my standard US Windows XP, the preferred encoding is
459
472
    cp1252, but the console is cp437
460
 
 
461
 
    :param trace: If True trace the selected encoding via mutter().
462
473
    """
463
474
    from bzrlib.trace import mutter
464
475
    output_encoding = getattr(sys.stdout, 'encoding', None)
466
477
        input_encoding = getattr(sys.stdin, 'encoding', None)
467
478
        if not input_encoding:
468
479
            output_encoding = get_user_encoding()
469
 
            if trace:
470
 
                mutter('encoding stdout as osutils.get_user_encoding() %r',
 
480
            mutter('encoding stdout as osutils.get_user_encoding() %r',
471
481
                   output_encoding)
472
482
        else:
473
483
            output_encoding = input_encoding
474
 
            if trace:
475
 
                mutter('encoding stdout as sys.stdin encoding %r',
476
 
                    output_encoding)
 
484
            mutter('encoding stdout as sys.stdin encoding %r', output_encoding)
477
485
    else:
478
 
        if trace:
479
 
            mutter('encoding stdout as sys.stdout encoding %r', output_encoding)
 
486
        mutter('encoding stdout as sys.stdout encoding %r', output_encoding)
480
487
    if output_encoding == 'cp0':
481
488
        # invalid encoding (cp0 means 'no codepage' on Windows)
482
489
        output_encoding = get_user_encoding()
483
 
        if trace:
484
 
            mutter('cp0 is invalid encoding.'
 
490
        mutter('cp0 is invalid encoding.'
485
491
               ' encoding stdout as osutils.get_user_encoding() %r',
486
492
               output_encoding)
487
493
    # check encoding
513
519
def isdir(f):
514
520
    """True if f is an accessible directory."""
515
521
    try:
516
 
        return stat.S_ISDIR(os.lstat(f)[stat.ST_MODE])
 
522
        return S_ISDIR(os.lstat(f)[ST_MODE])
517
523
    except OSError:
518
524
        return False
519
525
 
521
527
def isfile(f):
522
528
    """True if f is a regular file."""
523
529
    try:
524
 
        return stat.S_ISREG(os.lstat(f)[stat.ST_MODE])
 
530
        return S_ISREG(os.lstat(f)[ST_MODE])
525
531
    except OSError:
526
532
        return False
527
533
 
528
534
def islink(f):
529
535
    """True if f is a symlink."""
530
536
    try:
531
 
        return stat.S_ISLNK(os.lstat(f)[stat.ST_MODE])
 
537
        return S_ISLNK(os.lstat(f)[ST_MODE])
532
538
    except OSError:
533
539
        return False
534
540
 
874
880
 
875
881
def filesize(f):
876
882
    """Return size of given open file."""
877
 
    return os.fstat(f.fileno())[stat.ST_SIZE]
 
883
    return os.fstat(f.fileno())[ST_SIZE]
878
884
 
879
885
 
880
886
# Define rand_bytes based on platform.
942
948
 
943
949
def parent_directories(filename):
944
950
    """Return the list of parent directories, deepest first.
945
 
 
 
951
    
946
952
    For example, parent_directories("a/b/c") -> ["a/b", "a"].
947
953
    """
948
954
    parents = []
972
978
    # NB: This docstring is just an example, not a doctest, because doctest
973
979
    # currently can't cope with the use of lazy imports in this namespace --
974
980
    # mbp 20090729
975
 
 
 
981
    
976
982
    # This currently doesn't report the failure at the time it occurs, because
977
983
    # they tend to happen very early in startup when we can't check config
978
984
    # files etc, and also we want to report all failures but not spam the user
979
985
    # with 10 warnings.
 
986
    from bzrlib import trace
980
987
    exception_str = str(exception)
981
988
    if exception_str not in _extension_load_failures:
982
989
        trace.mutter("failed to load compiled extension: %s" % exception_str)
986
993
def report_extension_load_failures():
987
994
    if not _extension_load_failures:
988
995
        return
989
 
    if config.GlobalStack().get('ignore_missing_extensions'):
 
996
    from bzrlib.config import GlobalConfig
 
997
    if GlobalConfig().get_user_option_as_bool('ignore_missing_extensions'):
990
998
        return
991
999
    # the warnings framework should by default show this only once
992
1000
    from bzrlib.trace import warning
1046
1054
 
1047
1055
 
1048
1056
def delete_any(path):
1049
 
    """Delete a file, symlink or directory.
1050
 
 
 
1057
    """Delete a file, symlink or directory.  
 
1058
    
1051
1059
    Will delete even if readonly.
1052
1060
    """
1053
1061
    try:
1242
1250
    # but for now, we haven't optimized...
1243
1251
    return [canonical_relpath(base, p) for p in paths]
1244
1252
 
1245
 
 
1246
 
def decode_filename(filename):
1247
 
    """Decode the filename using the filesystem encoding
1248
 
 
1249
 
    If it is unicode, it is returned.
1250
 
    Otherwise it is decoded from the the filesystem's encoding. If decoding
1251
 
    fails, a errors.BadFilenameEncoding exception is raised.
1252
 
    """
1253
 
    if type(filename) is unicode:
1254
 
        return filename
1255
 
    try:
1256
 
        return filename.decode(_fs_enc)
1257
 
    except UnicodeDecodeError:
1258
 
        raise errors.BadFilenameEncoding(filename, _fs_enc)
1259
 
 
1260
 
 
1261
1253
def safe_unicode(unicode_or_utf8_string):
1262
1254
    """Coerce unicode_or_utf8_string into unicode.
1263
1255
 
1346
1338
def normalizes_filenames():
1347
1339
    """Return True if this platform normalizes unicode filenames.
1348
1340
 
1349
 
    Only Mac OSX.
 
1341
    Mac OSX does, Windows/Linux do not.
1350
1342
    """
1351
1343
    return _platform_normalizes_filenames
1352
1344
 
1357
1349
    On platforms where the system normalizes filenames (Mac OSX),
1358
1350
    you can access a file by any path which will normalize correctly.
1359
1351
    On platforms where the system does not normalize filenames
1360
 
    (everything else), you have to access a file by its exact path.
 
1352
    (Windows, Linux), you have to access a file by its exact path.
1361
1353
 
1362
1354
    Internally, bzr only supports NFC normalization, since that is
1363
1355
    the standard for XML documents.
1425
1417
terminal_width() returns None.
1426
1418
"""
1427
1419
 
1428
 
# Keep some state so that terminal_width can detect if _terminal_size has
1429
 
# returned a different size since the process started.  See docstring and
1430
 
# comments of terminal_width for details.
1431
 
# _terminal_size_state has 3 possible values: no_data, unchanged, and changed.
1432
 
_terminal_size_state = 'no_data'
1433
 
_first_terminal_size = None
1434
1420
 
1435
1421
def terminal_width():
1436
1422
    """Return terminal width.
1440
1426
    The rules are:
1441
1427
    - if BZR_COLUMNS is set, returns its value
1442
1428
    - if there is no controlling terminal, returns None
1443
 
    - query the OS, if the queried size has changed since the last query,
1444
 
      return its value,
1445
1429
    - if COLUMNS is set, returns its value,
1446
 
    - if the OS has a value (even though it's never changed), return its value.
1447
1430
 
1448
1431
    From there, we need to query the OS to get the size of the controlling
1449
1432
    terminal.
1450
1433
 
1451
 
    On Unices we query the OS by:
 
1434
    Unices:
1452
1435
    - get termios.TIOCGWINSZ
1453
1436
    - if an error occurs or a negative value is obtained, returns None
1454
1437
 
1455
 
    On Windows we query the OS by:
 
1438
    Windows:
 
1439
    
1456
1440
    - win32utils.get_console_size() decides,
1457
1441
    - returns None on error (provided default value)
1458
1442
    """
1459
 
    # Note to implementors: if changing the rules for determining the width,
1460
 
    # make sure you've considered the behaviour in these cases:
1461
 
    #  - M-x shell in emacs, where $COLUMNS is set and TIOCGWINSZ returns 0,0.
1462
 
    #  - bzr log | less, in bash, where $COLUMNS not set and TIOCGWINSZ returns
1463
 
    #    0,0.
1464
 
    #  - (add more interesting cases here, if you find any)
1465
 
    # Some programs implement "Use $COLUMNS (if set) until SIGWINCH occurs",
1466
 
    # but we don't want to register a signal handler because it is impossible
1467
 
    # to do so without risking EINTR errors in Python <= 2.6.5 (see
1468
 
    # <http://bugs.python.org/issue8354>).  Instead we check TIOCGWINSZ every
1469
 
    # time so we can notice if the reported size has changed, which should have
1470
 
    # a similar effect.
1471
1443
 
1472
1444
    # If BZR_COLUMNS is set, take it, user is always right
1473
 
    # Except if they specified 0 in which case, impose no limit here
1474
1445
    try:
1475
 
        width = int(os.environ['BZR_COLUMNS'])
 
1446
        return int(os.environ['BZR_COLUMNS'])
1476
1447
    except (KeyError, ValueError):
1477
 
        width = None
1478
 
    if width is not None:
1479
 
        if width > 0:
1480
 
            return width
1481
 
        else:
1482
 
            return None
 
1448
        pass
1483
1449
 
1484
1450
    isatty = getattr(sys.stdout, 'isatty', None)
1485
 
    if isatty is None or not isatty():
 
1451
    if  isatty is None or not isatty():
1486
1452
        # Don't guess, setting BZR_COLUMNS is the recommended way to override.
1487
1453
        return None
1488
1454
 
1489
 
    # Query the OS
1490
 
    width, height = os_size = _terminal_size(None, None)
1491
 
    global _first_terminal_size, _terminal_size_state
1492
 
    if _terminal_size_state == 'no_data':
1493
 
        _first_terminal_size = os_size
1494
 
        _terminal_size_state = 'unchanged'
1495
 
    elif (_terminal_size_state == 'unchanged' and
1496
 
          _first_terminal_size != os_size):
1497
 
        _terminal_size_state = 'changed'
1498
 
 
1499
 
    # If the OS claims to know how wide the terminal is, and this value has
1500
 
    # ever changed, use that.
1501
 
    if _terminal_size_state == 'changed':
1502
 
        if width is not None and width > 0:
1503
 
            return width
1504
 
 
1505
 
    # If COLUMNS is set, use it.
 
1455
    # If COLUMNS is set, take it, the terminal knows better (even inside a
 
1456
    # given terminal, the application can decide to set COLUMNS to a lower
 
1457
    # value (splitted screen) or a bigger value (scroll bars))
1506
1458
    try:
1507
1459
        return int(os.environ['COLUMNS'])
1508
1460
    except (KeyError, ValueError):
1509
1461
        pass
1510
1462
 
1511
 
    # Finally, use an unchanged size from the OS, if we have one.
1512
 
    if _terminal_size_state == 'unchanged':
1513
 
        if width is not None and width > 0:
1514
 
            return width
 
1463
    width, height = _terminal_size(None, None)
 
1464
    if width <= 0:
 
1465
        # Consider invalid values as meaning no width
 
1466
        return None
1515
1467
 
1516
 
    # The width could not be determined.
1517
 
    return None
 
1468
    return width
1518
1469
 
1519
1470
 
1520
1471
def _win32_terminal_size(width, height):
1547
1498
    _terminal_size = _ioctl_terminal_size
1548
1499
 
1549
1500
 
 
1501
def _terminal_size_changed(signum, frame):
 
1502
    """Set COLUMNS upon receiving a SIGnal for WINdow size CHange."""
 
1503
    width, height = _terminal_size(None, None)
 
1504
    if width is not None:
 
1505
        os.environ['COLUMNS'] = str(width)
 
1506
 
 
1507
 
 
1508
_registered_sigwinch = False
 
1509
def watch_sigwinch():
 
1510
    """Register for SIGWINCH, once and only once.
 
1511
 
 
1512
    Do nothing if the signal module is not available.
 
1513
    """
 
1514
    global _registered_sigwinch
 
1515
    if not _registered_sigwinch:
 
1516
        try:
 
1517
            import signal
 
1518
            if getattr(signal, "SIGWINCH", None) is not None:
 
1519
                set_signal_handler(signal.SIGWINCH, _terminal_size_changed)
 
1520
        except ImportError:
 
1521
            # python doesn't provide signal support, nothing we can do about it
 
1522
            pass
 
1523
        _registered_sigwinch = True
 
1524
 
 
1525
 
1550
1526
def supports_executable():
1551
1527
    return sys.platform != "win32"
1552
1528
 
1675
1651
        dirblock = []
1676
1652
        append = dirblock.append
1677
1653
        try:
1678
 
            names = sorted(map(decode_filename, _listdir(top)))
 
1654
            names = sorted(_listdir(top))
1679
1655
        except OSError, e:
1680
1656
            if not _is_error_enotdir(e):
1681
1657
                raise
1889
1865
        s = os.stat(src)
1890
1866
        chown(dst, s.st_uid, s.st_gid)
1891
1867
    except OSError, e:
1892
 
        trace.warning(
1893
 
            'Unable to copy ownership from "%s" to "%s". '
1894
 
            'You may want to set it manually.', src, dst)
1895
 
        trace.log_exception_quietly()
 
1868
        trace.warning("Unable to copy ownership from '%s' to '%s': IOError: %s." % (src, dst, e))
1896
1869
 
1897
1870
 
1898
1871
def path_prefix_key(path):
1986
1959
    return user_encoding
1987
1960
 
1988
1961
 
1989
 
def get_diff_header_encoding():
1990
 
    return get_terminal_encoding()
1991
 
 
1992
 
 
1993
1962
def get_host_name():
1994
1963
    """Return the current unicode host name.
1995
1964
 
2010
1979
# data at once.
2011
1980
MAX_SOCKET_CHUNK = 64 * 1024
2012
1981
 
2013
 
_end_of_stream_errors = [errno.ECONNRESET]
2014
 
for _eno in ['WSAECONNRESET', 'WSAECONNABORTED']:
2015
 
    _eno = getattr(errno, _eno, None)
2016
 
    if _eno is not None:
2017
 
        _end_of_stream_errors.append(_eno)
2018
 
del _eno
2019
 
 
2020
 
 
2021
1982
def read_bytes_from_socket(sock, report_activity=None,
2022
1983
        max_read_size=MAX_SOCKET_CHUNK):
2023
1984
    """Read up to max_read_size of bytes from sock and notify of progress.
2031
1992
            bytes = sock.recv(max_read_size)
2032
1993
        except socket.error, e:
2033
1994
            eno = e.args[0]
2034
 
            if eno in _end_of_stream_errors:
 
1995
            if eno == getattr(errno, "WSAECONNRESET", errno.ECONNRESET):
2035
1996
                # The connection was closed by the other side.  Callers expect
2036
1997
                # an empty string to signal end-of-stream.
2037
1998
                return ""
2066
2027
 
2067
2028
def send_all(sock, bytes, report_activity=None):
2068
2029
    """Send all bytes on a socket.
2069
 
 
 
2030
 
2070
2031
    Breaks large blocks in smaller chunks to avoid buffering limitations on
2071
2032
    some platforms, and catches EINTR which may be thrown if the send is
2072
2033
    interrupted by a signal.
2073
2034
 
2074
2035
    This is preferred to socket.sendall(), because it avoids portability bugs
2075
2036
    and provides activity reporting.
2076
 
 
 
2037
 
2077
2038
    :param report_activity: Call this as bytes are read, see
2078
2039
        Transport._report_activity
2079
2040
    """
2090
2051
            report_activity(sent, 'write')
2091
2052
 
2092
2053
 
2093
 
def connect_socket(address):
2094
 
    # Slight variation of the socket.create_connection() function (provided by
2095
 
    # python-2.6) that can fail if getaddrinfo returns an empty list. We also
2096
 
    # provide it for previous python versions. Also, we don't use the timeout
2097
 
    # parameter (provided by the python implementation) so we don't implement
2098
 
    # it either).
2099
 
    err = socket.error('getaddrinfo returns an empty list')
2100
 
    host, port = address
2101
 
    for res in socket.getaddrinfo(host, port, 0, socket.SOCK_STREAM):
2102
 
        af, socktype, proto, canonname, sa = res
2103
 
        sock = None
2104
 
        try:
2105
 
            sock = socket.socket(af, socktype, proto)
2106
 
            sock.connect(sa)
2107
 
            return sock
2108
 
 
2109
 
        except socket.error, err:
2110
 
            # 'err' is now the most recent error
2111
 
            if sock is not None:
2112
 
                sock.close()
2113
 
    raise err
2114
 
 
2115
 
 
2116
2054
def dereference_path(path):
2117
2055
    """Determine the real path to a file.
2118
2056
 
2157
2095
    base = dirname(bzrlib.__file__)
2158
2096
    if getattr(sys, 'frozen', None):    # bzr.exe
2159
2097
        base = abspath(pathjoin(base, '..', '..'))
2160
 
    f = file(pathjoin(base, resource_relpath), "rU")
2161
 
    try:
2162
 
        return f.read()
2163
 
    finally:
2164
 
        f.close()
 
2098
    filename = pathjoin(base, resource_relpath)
 
2099
    return open(filename, 'rU').read()
 
2100
 
2165
2101
 
2166
2102
def file_kind_from_stat_mode_thunk(mode):
2167
2103
    global file_kind_from_stat_mode
2178
2114
    return file_kind_from_stat_mode(mode)
2179
2115
file_kind_from_stat_mode = file_kind_from_stat_mode_thunk
2180
2116
 
2181
 
def file_stat(f, _lstat=os.lstat):
 
2117
 
 
2118
def file_kind(f, _lstat=os.lstat):
2182
2119
    try:
2183
 
        # XXX cache?
2184
 
        return _lstat(f)
 
2120
        return file_kind_from_stat_mode(_lstat(f).st_mode)
2185
2121
    except OSError, e:
2186
2122
        if getattr(e, 'errno', None) in (errno.ENOENT, errno.ENOTDIR):
2187
2123
            raise errors.NoSuchFile(f)
2188
2124
        raise
2189
2125
 
2190
 
def file_kind(f, _lstat=os.lstat):
2191
 
    stat_value = file_stat(f, _lstat)
2192
 
    return file_kind_from_stat_mode(stat_value.st_mode)
2193
2126
 
2194
2127
def until_no_eintr(f, *a, **kw):
2195
2128
    """Run f(*a, **kw), retrying if an EINTR error occurs.
2196
 
 
 
2129
    
2197
2130
    WARNING: you must be certain that it is safe to retry the call repeatedly
2198
2131
    if EINTR does occur.  This is typically only true for low-level operations
2199
2132
    like os.read.  If in any doubt, don't use this.
2214
2147
            raise
2215
2148
 
2216
2149
 
2217
 
@deprecated_function(deprecated_in((2, 2, 0)))
2218
2150
def re_compile_checked(re_string, flags=0, where=""):
2219
2151
    """Return a compiled re, or raise a sensible error.
2220
2152
 
2230
2162
        re_obj = re.compile(re_string, flags)
2231
2163
        re_obj.search("")
2232
2164
        return re_obj
2233
 
    except errors.InvalidPattern, e:
 
2165
    except re.error, e:
2234
2166
        if where:
2235
2167
            where = ' in ' + where
2236
2168
        # despite the name 'error' is a type
2237
 
        raise errors.BzrCommandError('Invalid regular expression%s: %s'
2238
 
            % (where, e.msg))
 
2169
        raise errors.BzrCommandError('Invalid regular expression%s: %r: %s'
 
2170
            % (where, re_string, e))
2239
2171
 
2240
2172
 
2241
2173
if sys.platform == "win32":
2255
2187
            termios.tcsetattr(fd, termios.TCSADRAIN, settings)
2256
2188
        return ch
2257
2189
 
2258
 
if sys.platform.startswith('linux'):
 
2190
 
 
2191
if sys.platform == 'linux2':
2259
2192
    def _local_concurrency():
2260
 
        try:
2261
 
            return os.sysconf('SC_NPROCESSORS_ONLN')
2262
 
        except (ValueError, OSError, AttributeError):
2263
 
            return None
 
2193
        concurrency = None
 
2194
        prefix = 'processor'
 
2195
        for line in file('/proc/cpuinfo', 'rb'):
 
2196
            if line.startswith(prefix):
 
2197
                concurrency = int(line[line.find(':')+1:]) + 1
 
2198
        return concurrency
2264
2199
elif sys.platform == 'darwin':
2265
2200
    def _local_concurrency():
2266
2201
        return subprocess.Popen(['sysctl', '-n', 'hw.availcpu'],
2267
2202
                                stdout=subprocess.PIPE).communicate()[0]
2268
 
elif "bsd" in sys.platform:
 
2203
elif sys.platform[0:7] == 'freebsd':
2269
2204
    def _local_concurrency():
2270
2205
        return subprocess.Popen(['sysctl', '-n', 'hw.ncpu'],
2271
2206
                                stdout=subprocess.PIPE).communicate()[0]
2299
2234
    concurrency = os.environ.get('BZR_CONCURRENCY', None)
2300
2235
    if concurrency is None:
2301
2236
        try:
2302
 
            import multiprocessing
2303
 
        except ImportError:
2304
 
            # multiprocessing is only available on Python >= 2.6
2305
 
            try:
2306
 
                concurrency = _local_concurrency()
2307
 
            except (OSError, IOError):
2308
 
                pass
2309
 
        else:
2310
 
            concurrency = multiprocessing.cpu_count()
 
2237
            concurrency = _local_concurrency()
 
2238
        except (OSError, IOError):
 
2239
            pass
2311
2240
    try:
2312
2241
        concurrency = int(concurrency)
2313
2242
    except (TypeError, ValueError):
2334
2263
if sys.platform == 'win32':
2335
2264
    def open_file(filename, mode='r', bufsize=-1):
2336
2265
        """This function is used to override the ``open`` builtin.
2337
 
 
 
2266
        
2338
2267
        But it uses O_NOINHERIT flag so the file handle is not inherited by
2339
2268
        child processes.  Deleting or renaming a closed file opened with this
2340
2269
        function is not blocking child processes.
2373
2302
        return os.fdopen(os.open(filename, flags), mode, bufsize)
2374
2303
else:
2375
2304
    open_file = open
2376
 
 
2377
 
 
2378
 
def getuser_unicode():
2379
 
    """Return the username as unicode.
2380
 
    """
2381
 
    try:
2382
 
        user_encoding = get_user_encoding()
2383
 
        username = getpass.getuser().decode(user_encoding)
2384
 
    except UnicodeDecodeError:
2385
 
        raise errors.BzrError("Can't decode username as %s." % \
2386
 
                user_encoding)
2387
 
    except ImportError, e:
2388
 
        if sys.platform != 'win32':
2389
 
            raise
2390
 
        if str(e) != 'No module named pwd':
2391
 
            raise
2392
 
        # https://bugs.launchpad.net/bzr/+bug/660174
2393
 
        # getpass.getuser() is unable to return username on Windows
2394
 
        # if there is no USERNAME environment variable set.
2395
 
        # That could be true if bzr is running as a service,
2396
 
        # e.g. running `bzr serve` as a service on Windows.
2397
 
        # We should not fail with traceback in this case.
2398
 
        username = u'UNKNOWN'
2399
 
    return username
2400
 
 
2401
 
 
2402
 
def available_backup_name(base, exists):
2403
 
    """Find a non-existing backup file name.
2404
 
 
2405
 
    This will *not* create anything, this only return a 'free' entry.  This
2406
 
    should be used for checking names in a directory below a locked
2407
 
    tree/branch/repo to avoid race conditions. This is LBYL (Look Before You
2408
 
    Leap) and generally discouraged.
2409
 
 
2410
 
    :param base: The base name.
2411
 
 
2412
 
    :param exists: A callable returning True if the path parameter exists.
2413
 
    """
2414
 
    counter = 1
2415
 
    name = "%s.~%d~" % (base, counter)
2416
 
    while exists(name):
2417
 
        counter += 1
2418
 
        name = "%s.~%d~" % (base, counter)
2419
 
    return name
2420
 
 
2421
 
 
2422
 
def set_fd_cloexec(fd):
2423
 
    """Set a Unix file descriptor's FD_CLOEXEC flag.  Do nothing if platform
2424
 
    support for this is not available.
2425
 
    """
2426
 
    try:
2427
 
        import fcntl
2428
 
        old = fcntl.fcntl(fd, fcntl.F_GETFD)
2429
 
        fcntl.fcntl(fd, fcntl.F_SETFD, old | fcntl.FD_CLOEXEC)
2430
 
    except (ImportError, AttributeError):
2431
 
        # Either the fcntl module or specific constants are not present
2432
 
        pass
2433
 
 
2434
 
 
2435
 
def find_executable_on_path(name):
2436
 
    """Finds an executable on the PATH.
2437
 
    
2438
 
    On Windows, this will try to append each extension in the PATHEXT
2439
 
    environment variable to the name, if it cannot be found with the name
2440
 
    as given.
2441
 
    
2442
 
    :param name: The base name of the executable.
2443
 
    :return: The path to the executable found or None.
2444
 
    """
2445
 
    path = os.environ.get('PATH')
2446
 
    if path is None:
2447
 
        return None
2448
 
    path = path.split(os.pathsep)
2449
 
    if sys.platform == 'win32':
2450
 
        exts = os.environ.get('PATHEXT', '').split(os.pathsep)
2451
 
        exts = [ext.lower() for ext in exts]
2452
 
        base, ext = os.path.splitext(name)
2453
 
        if ext != '':
2454
 
            if ext.lower() not in exts:
2455
 
                return None
2456
 
            name = base
2457
 
            exts = [ext]
2458
 
    else:
2459
 
        exts = ['']
2460
 
    for ext in exts:
2461
 
        for d in path:
2462
 
            f = os.path.join(d, name) + ext
2463
 
            if os.access(f, os.X_OK):
2464
 
                return f
2465
 
    return None
2466
 
 
2467
 
 
2468
 
def _posix_is_local_pid_dead(pid):
2469
 
    """True if pid doesn't correspond to live process on this machine"""
2470
 
    try:
2471
 
        # Special meaning of unix kill: just check if it's there.
2472
 
        os.kill(pid, 0)
2473
 
    except OSError, e:
2474
 
        if e.errno == errno.ESRCH:
2475
 
            # On this machine, and really not found: as sure as we can be
2476
 
            # that it's dead.
2477
 
            return True
2478
 
        elif e.errno == errno.EPERM:
2479
 
            # exists, though not ours
2480
 
            return False
2481
 
        else:
2482
 
            mutter("os.kill(%d, 0) failed: %s" % (pid, e))
2483
 
            # Don't really know.
2484
 
            return False
2485
 
    else:
2486
 
        # Exists and our process: not dead.
2487
 
        return False
2488
 
 
2489
 
if sys.platform == "win32":
2490
 
    is_local_pid_dead = win32utils.is_local_pid_dead
2491
 
else:
2492
 
    is_local_pid_dead = _posix_is_local_pid_dead
2493
 
 
2494
 
 
2495
 
def fdatasync(fileno):
2496
 
    """Flush file contents to disk if possible.
2497
 
    
2498
 
    :param fileno: Integer OS file handle.
2499
 
    :raises TransportNotPossible: If flushing to disk is not possible.
2500
 
    """
2501
 
    fn = getattr(os, 'fdatasync', getattr(os, 'fsync', None))
2502
 
    if fn is not None:
2503
 
        fn(fileno)