/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/osutils.py

  • Committer: Martin Pool
  • Date: 2010-02-23 02:32:52 UTC
  • mto: This revision was merged to the branch mainline in revision 5054.
  • Revision ID: mbp@sourcefrog.net-20100223023252-zk4ds0sbeuga82et
Clarify Launchpad setup example

Show diffs side-by-side

added added

removed removed

Lines of Context:
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
 
import errno
18
17
import os
19
18
import re
20
19
import stat
21
 
from stat import S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE
 
20
from stat import (S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE,
 
21
                  S_ISCHR, S_ISBLK, S_ISFIFO, S_ISSOCK)
22
22
import sys
23
23
import time
24
 
import codecs
 
24
import warnings
25
25
 
26
26
from bzrlib.lazy_import import lazy_import
27
27
lazy_import(globals(), """
 
28
import codecs
28
29
from datetime import datetime
29
 
import getpass
 
30
import errno
30
31
from ntpath import (abspath as _nt_abspath,
31
32
                    join as _nt_join,
32
33
                    normpath as _nt_normpath,
38
39
from shutil import (
39
40
    rmtree,
40
41
    )
41
 
import socket
 
42
import signal
42
43
import subprocess
43
44
import tempfile
44
45
from tempfile import (
49
50
from bzrlib import (
50
51
    cache_utf8,
51
52
    errors,
52
 
    trace,
53
53
    win32utils,
54
54
    )
55
55
""")
56
56
 
57
 
from bzrlib.symbol_versioning import (
58
 
    deprecated_function,
59
 
    deprecated_in,
60
 
    )
61
 
 
62
57
# sha and md5 modules are deprecated in python2.6 but hashlib is available as
63
58
# of 2.5
64
59
if sys.version_info < (2, 5):
90
85
# be opened in binary mode, rather than text mode.
91
86
# On other platforms, O_BINARY doesn't exist, because
92
87
# they always open in binary mode, so it is okay to
93
 
# OR with 0 on those platforms.
94
 
# O_NOINHERIT and O_TEXT exists only on win32 too.
 
88
# OR with 0 on those platforms
95
89
O_BINARY = getattr(os, 'O_BINARY', 0)
96
 
O_TEXT = getattr(os, 'O_TEXT', 0)
97
 
O_NOINHERIT = getattr(os, 'O_NOINHERIT', 0)
98
90
 
99
91
 
100
92
def get_unicode_argv():
671
663
def sha_file_by_name(fname):
672
664
    """Calculate the SHA1 of a file by reading the full text"""
673
665
    s = sha()
674
 
    f = os.open(fname, os.O_RDONLY | O_BINARY | O_NOINHERIT)
 
666
    f = os.open(fname, os.O_RDONLY | O_BINARY)
675
667
    try:
676
668
        while True:
677
669
            b = os.read(f, 1<<16)
1130
1122
 
1131
1123
 
1132
1124
def relpath(base, path):
1133
 
    """Return path relative to base, or raise PathNotChild exception.
 
1125
    """Return path relative to base, or raise exception.
1134
1126
 
1135
1127
    The path may be either an absolute path or a path relative to the
1136
1128
    current working directory.
1138
1130
    os.path.commonprefix (python2.4) has a bad bug that it works just
1139
1131
    on string prefixes, assuming that '/u' is a prefix of '/u2'.  This
1140
1132
    avoids that problem.
1141
 
 
1142
 
    NOTE: `base` should not have a trailing slash otherwise you'll get
1143
 
    PathNotChild exceptions regardless of `path`.
1144
1133
    """
1145
1134
 
1146
1135
    if len(base) < MIN_ABS_PATHLENGTH:
1357
1346
    normalized_filename = _inaccessible_normalized_filename
1358
1347
 
1359
1348
 
1360
 
def set_signal_handler(signum, handler, restart_syscall=True):
1361
 
    """A wrapper for signal.signal that also calls siginterrupt(signum, False)
1362
 
    on platforms that support that.
1363
 
 
1364
 
    :param restart_syscall: if set, allow syscalls interrupted by a signal to
1365
 
        automatically restart (by calling `signal.siginterrupt(signum,
1366
 
        False)`).  May be ignored if the feature is not available on this
1367
 
        platform or Python version.
1368
 
    """
1369
 
    try:
1370
 
        import signal
1371
 
        siginterrupt = signal.siginterrupt
1372
 
    except ImportError:
1373
 
        # This python implementation doesn't provide signal support, hence no
1374
 
        # handler exists
1375
 
        return None
1376
 
    except AttributeError:
1377
 
        # siginterrupt doesn't exist on this platform, or for this version
1378
 
        # of Python.
1379
 
        siginterrupt = lambda signum, flag: None
1380
 
    if restart_syscall:
1381
 
        def sig_handler(*args):
1382
 
            # Python resets the siginterrupt flag when a signal is
1383
 
            # received.  <http://bugs.python.org/issue8354>
1384
 
            # As a workaround for some cases, set it back the way we want it.
1385
 
            siginterrupt(signum, False)
1386
 
            # Now run the handler function passed to set_signal_handler.
1387
 
            handler(*args)
1388
 
    else:
1389
 
        sig_handler = handler
1390
 
    old_handler = signal.signal(signum, sig_handler)
1391
 
    if restart_syscall:
1392
 
        siginterrupt(signum, False)
1393
 
    return old_handler
1394
 
 
1395
 
 
1396
1349
default_terminal_width = 80
1397
1350
"""The default terminal width for ttys.
1398
1351
 
1400
1353
terminal_width() returns None.
1401
1354
"""
1402
1355
 
1403
 
# Keep some state so that terminal_width can detect if _terminal_size has
1404
 
# returned a different size since the process started.  See docstring and
1405
 
# comments of terminal_width for details.
1406
 
# _terminal_size_state has 3 possible values: no_data, unchanged, and changed.
1407
 
_terminal_size_state = 'no_data'
1408
 
_first_terminal_size = None
1409
1356
 
1410
1357
def terminal_width():
1411
1358
    """Return terminal width.
1415
1362
    The rules are:
1416
1363
    - if BZR_COLUMNS is set, returns its value
1417
1364
    - if there is no controlling terminal, returns None
1418
 
    - query the OS, if the queried size has changed since the last query,
1419
 
      return its value,
1420
1365
    - if COLUMNS is set, returns its value,
1421
 
    - if the OS has a value (even though it's never changed), return its value.
1422
1366
 
1423
1367
    From there, we need to query the OS to get the size of the controlling
1424
1368
    terminal.
1425
1369
 
1426
 
    On Unices we query the OS by:
 
1370
    Unices:
1427
1371
    - get termios.TIOCGWINSZ
1428
1372
    - if an error occurs or a negative value is obtained, returns None
1429
1373
 
1430
 
    On Windows we query the OS by:
 
1374
    Windows:
 
1375
    
1431
1376
    - win32utils.get_console_size() decides,
1432
1377
    - returns None on error (provided default value)
1433
1378
    """
1434
 
    # Note to implementors: if changing the rules for determining the width,
1435
 
    # make sure you've considered the behaviour in these cases:
1436
 
    #  - M-x shell in emacs, where $COLUMNS is set and TIOCGWINSZ returns 0,0.
1437
 
    #  - bzr log | less, in bash, where $COLUMNS not set and TIOCGWINSZ returns
1438
 
    #    0,0.
1439
 
    #  - (add more interesting cases here, if you find any)
1440
 
    # Some programs implement "Use $COLUMNS (if set) until SIGWINCH occurs",
1441
 
    # but we don't want to register a signal handler because it is impossible
1442
 
    # to do so without risking EINTR errors in Python <= 2.6.5 (see
1443
 
    # <http://bugs.python.org/issue8354>).  Instead we check TIOCGWINSZ every
1444
 
    # time so we can notice if the reported size has changed, which should have
1445
 
    # a similar effect.
1446
1379
 
1447
1380
    # If BZR_COLUMNS is set, take it, user is always right
1448
1381
    try:
1451
1384
        pass
1452
1385
 
1453
1386
    isatty = getattr(sys.stdout, 'isatty', None)
1454
 
    if isatty is None or not isatty():
 
1387
    if  isatty is None or not isatty():
1455
1388
        # Don't guess, setting BZR_COLUMNS is the recommended way to override.
1456
1389
        return None
1457
1390
 
1458
 
    # Query the OS
1459
 
    width, height = os_size = _terminal_size(None, None)
1460
 
    global _first_terminal_size, _terminal_size_state
1461
 
    if _terminal_size_state == 'no_data':
1462
 
        _first_terminal_size = os_size
1463
 
        _terminal_size_state = 'unchanged'
1464
 
    elif (_terminal_size_state == 'unchanged' and
1465
 
          _first_terminal_size != os_size):
1466
 
        _terminal_size_state = 'changed'
1467
 
 
1468
 
    # If the OS claims to know how wide the terminal is, and this value has
1469
 
    # ever changed, use that.
1470
 
    if _terminal_size_state == 'changed':
1471
 
        if width is not None and width > 0:
1472
 
            return width
1473
 
 
1474
 
    # If COLUMNS is set, use it.
 
1391
    # If COLUMNS is set, take it, the terminal knows better (even inside a
 
1392
    # given terminal, the application can decide to set COLUMNS to a lower
 
1393
    # value (splitted screen) or a bigger value (scroll bars))
1475
1394
    try:
1476
1395
        return int(os.environ['COLUMNS'])
1477
1396
    except (KeyError, ValueError):
1478
1397
        pass
1479
1398
 
1480
 
    # Finally, use an unchanged size from the OS, if we have one.
1481
 
    if _terminal_size_state == 'unchanged':
1482
 
        if width is not None and width > 0:
1483
 
            return width
 
1399
    width, height = _terminal_size(None, None)
 
1400
    if width <= 0:
 
1401
        # Consider invalid values as meaning no width
 
1402
        return None
1484
1403
 
1485
 
    # The width could not be determined.
1486
 
    return None
 
1404
    return width
1487
1405
 
1488
1406
 
1489
1407
def _win32_terminal_size(width, height):
1516
1434
    _terminal_size = _ioctl_terminal_size
1517
1435
 
1518
1436
 
 
1437
def _terminal_size_changed(signum, frame):
 
1438
    """Set COLUMNS upon receiving a SIGnal for WINdow size CHange."""
 
1439
    width, height = _terminal_size(None, None)
 
1440
    if width is not None:
 
1441
        os.environ['COLUMNS'] = str(width)
 
1442
 
 
1443
if sys.platform == 'win32':
 
1444
    # Martin (gz) mentioned WINDOW_BUFFER_SIZE_RECORD from ReadConsoleInput but
 
1445
    # I've no idea how to plug that in the current design -- vila 20091216
 
1446
    pass
 
1447
else:
 
1448
    signal.signal(signal.SIGWINCH, _terminal_size_changed)
 
1449
 
 
1450
 
1519
1451
def supports_executable():
1520
1452
    return sys.platform != "win32"
1521
1453
 
1839
1771
            real_handlers[kind](abspath, relpath)
1840
1772
 
1841
1773
 
1842
 
def copy_ownership_from_path(dst, src=None):
1843
 
    """Copy usr/grp ownership from src file/dir to dst file/dir.
1844
 
 
1845
 
    If src is None, the containing directory is used as source. If chown
1846
 
    fails, the error is ignored and a warning is printed.
1847
 
    """
1848
 
    chown = getattr(os, 'chown', None)
1849
 
    if chown is None:
1850
 
        return
1851
 
 
1852
 
    if src == None:
1853
 
        src = os.path.dirname(dst)
1854
 
        if src == '':
1855
 
            src = '.'
1856
 
 
1857
 
    try:
1858
 
        s = os.stat(src)
1859
 
        chown(dst, s.st_uid, s.st_gid)
1860
 
    except OSError, e:
1861
 
        trace.warning("Unable to copy ownership from '%s' to '%s': IOError: %s." % (src, dst, e))
1862
 
 
1863
 
 
1864
1774
def path_prefix_key(path):
1865
1775
    """Generate a prefix-order path key for path.
1866
1776
 
1966
1876
        return socket.gethostname().decode(get_user_encoding())
1967
1877
 
1968
1878
 
1969
 
# We must not read/write any more than 64k at a time from/to a socket so we
1970
 
# don't risk "no buffer space available" errors on some platforms.  Windows in
1971
 
# particular is likely to throw WSAECONNABORTED or WSAENOBUFS if given too much
1972
 
# data at once.
1973
 
MAX_SOCKET_CHUNK = 64 * 1024
1974
 
 
1975
 
def read_bytes_from_socket(sock, report_activity=None,
1976
 
        max_read_size=MAX_SOCKET_CHUNK):
1977
 
    """Read up to max_read_size of bytes from sock and notify of progress.
1978
 
 
1979
 
    Translates "Connection reset by peer" into file-like EOF (return an
1980
 
    empty string rather than raise an error), and repeats the recv if
1981
 
    interrupted by a signal.
1982
 
    """
1983
 
    while 1:
1984
 
        try:
1985
 
            bytes = sock.recv(max_read_size)
1986
 
        except socket.error, e:
1987
 
            eno = e.args[0]
1988
 
            if eno == getattr(errno, "WSAECONNRESET", errno.ECONNRESET):
1989
 
                # The connection was closed by the other side.  Callers expect
1990
 
                # an empty string to signal end-of-stream.
1991
 
                return ""
1992
 
            elif eno == errno.EINTR:
1993
 
                # Retry the interrupted recv.
1994
 
                continue
1995
 
            raise
1996
 
        else:
1997
 
            if report_activity is not None:
1998
 
                report_activity(len(bytes), 'read')
1999
 
            return bytes
2000
 
 
2001
 
 
2002
 
def recv_all(socket, count):
 
1879
def recv_all(socket, bytes):
2003
1880
    """Receive an exact number of bytes.
2004
1881
 
2005
1882
    Regular Socket.recv() may return less than the requested number of bytes,
2006
 
    depending on what's in the OS buffer.  MSG_WAITALL is not available
 
1883
    dependning on what's in the OS buffer.  MSG_WAITALL is not available
2007
1884
    on all platforms, but this should work everywhere.  This will return
2008
1885
    less than the requested amount if the remote end closes.
2009
1886
 
2010
1887
    This isn't optimized and is intended mostly for use in testing.
2011
1888
    """
2012
1889
    b = ''
2013
 
    while len(b) < count:
2014
 
        new = read_bytes_from_socket(socket, None, count - len(b))
 
1890
    while len(b) < bytes:
 
1891
        new = until_no_eintr(socket.recv, bytes - len(b))
2015
1892
        if new == '':
2016
1893
            break # eof
2017
1894
        b += new
2018
1895
    return b
2019
1896
 
2020
1897
 
2021
 
def send_all(sock, bytes, report_activity=None):
 
1898
def send_all(socket, bytes, report_activity=None):
2022
1899
    """Send all bytes on a socket.
2023
 
 
2024
 
    Breaks large blocks in smaller chunks to avoid buffering limitations on
2025
 
    some platforms, and catches EINTR which may be thrown if the send is
2026
 
    interrupted by a signal.
2027
 
 
2028
 
    This is preferred to socket.sendall(), because it avoids portability bugs
2029
 
    and provides activity reporting.
2030
 
 
 
1900
 
 
1901
    Regular socket.sendall() can give socket error 10053 on Windows.  This
 
1902
    implementation sends no more than 64k at a time, which avoids this problem.
 
1903
 
2031
1904
    :param report_activity: Call this as bytes are read, see
2032
1905
        Transport._report_activity
2033
1906
    """
2034
 
    sent_total = 0
2035
 
    byte_count = len(bytes)
2036
 
    while sent_total < byte_count:
2037
 
        try:
2038
 
            sent = sock.send(buffer(bytes, sent_total, MAX_SOCKET_CHUNK))
2039
 
        except socket.error, e:
2040
 
            if e.args[0] != errno.EINTR:
2041
 
                raise
2042
 
        else:
2043
 
            sent_total += sent
2044
 
            report_activity(sent, 'write')
 
1907
    chunk_size = 2**16
 
1908
    for pos in xrange(0, len(bytes), chunk_size):
 
1909
        block = bytes[pos:pos+chunk_size]
 
1910
        if report_activity is not None:
 
1911
            report_activity(len(block), 'write')
 
1912
        until_no_eintr(socket.sendall, block)
2045
1913
 
2046
1914
 
2047
1915
def dereference_path(path):
2088
1956
    base = dirname(bzrlib.__file__)
2089
1957
    if getattr(sys, 'frozen', None):    # bzr.exe
2090
1958
        base = abspath(pathjoin(base, '..', '..'))
2091
 
    f = file(pathjoin(base, resource_relpath), "rU")
2092
 
    try:
2093
 
        return f.read()
2094
 
    finally:
2095
 
        f.close()
 
1959
    filename = pathjoin(base, resource_relpath)
 
1960
    return open(filename, 'rU').read()
 
1961
 
2096
1962
 
2097
1963
def file_kind_from_stat_mode_thunk(mode):
2098
1964
    global file_kind_from_stat_mode
2120
1986
 
2121
1987
 
2122
1988
def until_no_eintr(f, *a, **kw):
2123
 
    """Run f(*a, **kw), retrying if an EINTR error occurs.
2124
 
    
2125
 
    WARNING: you must be certain that it is safe to retry the call repeatedly
2126
 
    if EINTR does occur.  This is typically only true for low-level operations
2127
 
    like os.read.  If in any doubt, don't use this.
2128
 
 
2129
 
    Keep in mind that this is not a complete solution to EINTR.  There is
2130
 
    probably code in the Python standard library and other dependencies that
2131
 
    may encounter EINTR if a signal arrives (and there is signal handler for
2132
 
    that signal).  So this function can reduce the impact for IO that bzrlib
2133
 
    directly controls, but it is not a complete solution.
2134
 
    """
 
1989
    """Run f(*a, **kw), retrying if an EINTR error occurs."""
2135
1990
    # Borrowed from Twisted's twisted.python.util.untilConcludes function.
2136
1991
    while True:
2137
1992
        try:
2141
1996
                continue
2142
1997
            raise
2143
1998
 
2144
 
 
2145
1999
def re_compile_checked(re_string, flags=0, where=""):
2146
2000
    """Return a compiled re, or raise a sensible error.
2147
2001
 
2254
2108
        else:
2255
2109
            data, _ = self.encode(object, self.errors)
2256
2110
            self.stream.write(data)
2257
 
 
2258
 
if sys.platform == 'win32':
2259
 
    def open_file(filename, mode='r', bufsize=-1):
2260
 
        """This function is used to override the ``open`` builtin.
2261
 
        
2262
 
        But it uses O_NOINHERIT flag so the file handle is not inherited by
2263
 
        child processes.  Deleting or renaming a closed file opened with this
2264
 
        function is not blocking child processes.
2265
 
        """
2266
 
        writing = 'w' in mode
2267
 
        appending = 'a' in mode
2268
 
        updating = '+' in mode
2269
 
        binary = 'b' in mode
2270
 
 
2271
 
        flags = O_NOINHERIT
2272
 
        # see http://msdn.microsoft.com/en-us/library/yeby3zcb%28VS.71%29.aspx
2273
 
        # for flags for each modes.
2274
 
        if binary:
2275
 
            flags |= O_BINARY
2276
 
        else:
2277
 
            flags |= O_TEXT
2278
 
 
2279
 
        if writing:
2280
 
            if updating:
2281
 
                flags |= os.O_RDWR
2282
 
            else:
2283
 
                flags |= os.O_WRONLY
2284
 
            flags |= os.O_CREAT | os.O_TRUNC
2285
 
        elif appending:
2286
 
            if updating:
2287
 
                flags |= os.O_RDWR
2288
 
            else:
2289
 
                flags |= os.O_WRONLY
2290
 
            flags |= os.O_CREAT | os.O_APPEND
2291
 
        else: #reading
2292
 
            if updating:
2293
 
                flags |= os.O_RDWR
2294
 
            else:
2295
 
                flags |= os.O_RDONLY
2296
 
 
2297
 
        return os.fdopen(os.open(filename, flags), mode, bufsize)
2298
 
else:
2299
 
    open_file = open
2300
 
 
2301
 
 
2302
 
def getuser_unicode():
2303
 
    """Return the username as unicode.
2304
 
    """
2305
 
    try:
2306
 
        user_encoding = get_user_encoding()
2307
 
        username = getpass.getuser().decode(user_encoding)
2308
 
    except UnicodeDecodeError:
2309
 
        raise errors.BzrError("Can't decode username as %s." % \
2310
 
                user_encoding)
2311
 
    return username