/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/osutils.py

  • Committer: Patrick Regan
  • Date: 2009-12-02 20:34:07 UTC
  • mto: (4852.3.3 2.1.0b4-doc-updates)
  • mto: This revision was merged to the branch mainline in revision 4856.
  • Revision ID: patrick.rubbs.regan@gmail.com-20091202203407-fjd0mshgn3j3foel
Removed trailing whitespace from files in doc directory

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2010 Canonical Ltd
 
1
# Copyright (C) 2005, 2006, 2007, 2009 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
 
import errno
18
17
import os
19
18
import re
20
19
import stat
21
 
from stat import S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE
 
20
from stat import (S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE,
 
21
                  S_ISCHR, S_ISBLK, S_ISFIFO, S_ISSOCK)
22
22
import sys
23
23
import time
24
 
import codecs
 
24
import warnings
25
25
 
26
26
from bzrlib.lazy_import import lazy_import
27
27
lazy_import(globals(), """
 
28
import codecs
28
29
from datetime import datetime
29
 
import getpass
 
30
import errno
30
31
from ntpath import (abspath as _nt_abspath,
31
32
                    join as _nt_join,
32
33
                    normpath as _nt_normpath,
38
39
from shutil import (
39
40
    rmtree,
40
41
    )
41
 
import socket
42
42
import subprocess
43
43
import tempfile
44
44
from tempfile import (
49
49
from bzrlib import (
50
50
    cache_utf8,
51
51
    errors,
52
 
    trace,
53
52
    win32utils,
54
53
    )
55
54
""")
56
55
 
57
 
from bzrlib.symbol_versioning import (
58
 
    deprecated_function,
59
 
    deprecated_in,
60
 
    )
61
 
 
62
56
# sha and md5 modules are deprecated in python2.6 but hashlib is available as
63
57
# of 2.5
64
58
if sys.version_info < (2, 5):
77
71
from bzrlib import symbol_versioning
78
72
 
79
73
 
80
 
# Cross platform wall-clock time functionality with decent resolution.
81
 
# On Linux ``time.clock`` returns only CPU time. On Windows, ``time.time()``
82
 
# only has a resolution of ~15ms. Note that ``time.clock()`` is not
83
 
# synchronized with ``time.time()``, this is only meant to be used to find
84
 
# delta times by subtracting from another call to this function.
85
 
timer_func = time.time
86
 
if sys.platform == 'win32':
87
 
    timer_func = time.clock
88
 
 
89
74
# On win32, O_BINARY is used to indicate the file should
90
75
# be opened in binary mode, rather than text mode.
91
76
# On other platforms, O_BINARY doesn't exist, because
92
77
# they always open in binary mode, so it is okay to
93
 
# OR with 0 on those platforms.
94
 
# O_NOINHERIT and O_TEXT exists only on win32 too.
 
78
# OR with 0 on those platforms
95
79
O_BINARY = getattr(os, 'O_BINARY', 0)
96
 
O_TEXT = getattr(os, 'O_TEXT', 0)
97
 
O_NOINHERIT = getattr(os, 'O_NOINHERIT', 0)
98
80
 
99
81
 
100
82
def get_unicode_argv():
187
169
    try:
188
170
        return _kind_marker_map[kind]
189
171
    except KeyError:
190
 
        # Slightly faster than using .get(, '') when the common case is that
191
 
        # kind will be found
192
 
        return ''
 
172
        raise errors.BzrError('invalid file kind %r' % kind)
193
173
 
194
174
 
195
175
lexists = getattr(os.path, 'lexists', None)
212
192
    :param old: The old path, to rename from
213
193
    :param new: The new path, to rename to
214
194
    :param rename_func: The potentially non-atomic rename function
215
 
    :param unlink_func: A way to delete the target file if the full rename
216
 
        succeeds
 
195
    :param unlink_func: A way to delete the target file if the full rename succeeds
217
196
    """
 
197
 
218
198
    # sftp rename doesn't allow overwriting, so play tricks:
219
199
    base = os.path.basename(new)
220
200
    dirname = os.path.dirname(new)
221
 
    # callers use different encodings for the paths so the following MUST
222
 
    # respect that. We rely on python upcasting to unicode if new is unicode
223
 
    # and keeping a str if not.
224
 
    tmp_name = 'tmp.%s.%.9f.%d.%s' % (base, time.time(),
225
 
                                      os.getpid(), rand_chars(10))
 
201
    tmp_name = u'tmp.%s.%.9f.%d.%s' % (base, time.time(), os.getpid(), rand_chars(10))
226
202
    tmp_name = pathjoin(dirname, tmp_name)
227
203
 
228
204
    # Rename the file out of the way, but keep track if it didn't exist
671
647
def sha_file_by_name(fname):
672
648
    """Calculate the SHA1 of a file by reading the full text"""
673
649
    s = sha()
674
 
    f = os.open(fname, os.O_RDONLY | O_BINARY | O_NOINHERIT)
 
650
    f = os.open(fname, os.O_RDONLY | O_BINARY)
675
651
    try:
676
652
        while True:
677
653
            b = os.read(f, 1<<16)
1130
1106
 
1131
1107
 
1132
1108
def relpath(base, path):
1133
 
    """Return path relative to base, or raise PathNotChild exception.
 
1109
    """Return path relative to base, or raise exception.
1134
1110
 
1135
1111
    The path may be either an absolute path or a path relative to the
1136
1112
    current working directory.
1138
1114
    os.path.commonprefix (python2.4) has a bad bug that it works just
1139
1115
    on string prefixes, assuming that '/u' is a prefix of '/u2'.  This
1140
1116
    avoids that problem.
1141
 
 
1142
 
    NOTE: `base` should not have a trailing slash otherwise you'll get
1143
 
    PathNotChild exceptions regardless of `path`.
1144
1117
    """
1145
1118
 
1146
1119
    if len(base) < MIN_ABS_PATHLENGTH:
1357
1330
    normalized_filename = _inaccessible_normalized_filename
1358
1331
 
1359
1332
 
1360
 
def set_signal_handler(signum, handler, restart_syscall=True):
1361
 
    """A wrapper for signal.signal that also calls siginterrupt(signum, False)
1362
 
    on platforms that support that.
1363
 
 
1364
 
    :param restart_syscall: if set, allow syscalls interrupted by a signal to
1365
 
        automatically restart (by calling `signal.siginterrupt(signum,
1366
 
        False)`).  May be ignored if the feature is not available on this
1367
 
        platform or Python version.
1368
 
    """
1369
 
    try:
1370
 
        import signal
1371
 
        siginterrupt = signal.siginterrupt
1372
 
    except ImportError:
1373
 
        # This python implementation doesn't provide signal support, hence no
1374
 
        # handler exists
1375
 
        return None
1376
 
    except AttributeError:
1377
 
        # siginterrupt doesn't exist on this platform, or for this version
1378
 
        # of Python.
1379
 
        siginterrupt = lambda signum, flag: None
1380
 
    if restart_syscall:
1381
 
        def sig_handler(*args):
1382
 
            # Python resets the siginterrupt flag when a signal is
1383
 
            # received.  <http://bugs.python.org/issue8354>
1384
 
            # As a workaround for some cases, set it back the way we want it.
1385
 
            siginterrupt(signum, False)
1386
 
            # Now run the handler function passed to set_signal_handler.
1387
 
            handler(*args)
1388
 
    else:
1389
 
        sig_handler = handler
1390
 
    old_handler = signal.signal(signum, sig_handler)
1391
 
    if restart_syscall:
1392
 
        siginterrupt(signum, False)
1393
 
    return old_handler
1394
 
 
1395
 
 
1396
 
default_terminal_width = 80
1397
 
"""The default terminal width for ttys.
1398
 
 
1399
 
This is defined so that higher levels can share a common fallback value when
1400
 
terminal_width() returns None.
1401
 
"""
1402
 
 
1403
 
# Keep some state so that terminal_width can detect if _terminal_size has
1404
 
# returned a different size since the process started.  See docstring and
1405
 
# comments of terminal_width for details.
1406
 
# _terminal_size_state has 3 possible values: no_data, unchanged, and changed.
1407
 
_terminal_size_state = 'no_data'
1408
 
_first_terminal_size = None
1409
 
 
1410
1333
def terminal_width():
1411
 
    """Return terminal width.
1412
 
 
1413
 
    None is returned if the width can't established precisely.
1414
 
 
1415
 
    The rules are:
1416
 
    - if BZR_COLUMNS is set, returns its value
1417
 
    - if there is no controlling terminal, returns None
1418
 
    - query the OS, if the queried size has changed since the last query,
1419
 
      return its value,
1420
 
    - if COLUMNS is set, returns its value,
1421
 
    - if the OS has a value (even though it's never changed), return its value.
1422
 
 
1423
 
    From there, we need to query the OS to get the size of the controlling
1424
 
    terminal.
1425
 
 
1426
 
    On Unices we query the OS by:
1427
 
    - get termios.TIOCGWINSZ
1428
 
    - if an error occurs or a negative value is obtained, returns None
1429
 
 
1430
 
    On Windows we query the OS by:
1431
 
    - win32utils.get_console_size() decides,
1432
 
    - returns None on error (provided default value)
1433
 
    """
1434
 
    # Note to implementors: if changing the rules for determining the width,
1435
 
    # make sure you've considered the behaviour in these cases:
1436
 
    #  - M-x shell in emacs, where $COLUMNS is set and TIOCGWINSZ returns 0,0.
1437
 
    #  - bzr log | less, in bash, where $COLUMNS not set and TIOCGWINSZ returns
1438
 
    #    0,0.
1439
 
    #  - (add more interesting cases here, if you find any)
1440
 
    # Some programs implement "Use $COLUMNS (if set) until SIGWINCH occurs",
1441
 
    # but we don't want to register a signal handler because it is impossible
1442
 
    # to do so without risking EINTR errors in Python <= 2.6.5 (see
1443
 
    # <http://bugs.python.org/issue8354>).  Instead we check TIOCGWINSZ every
1444
 
    # time so we can notice if the reported size has changed, which should have
1445
 
    # a similar effect.
1446
 
 
1447
 
    # If BZR_COLUMNS is set, take it, user is always right
1448
 
    try:
1449
 
        return int(os.environ['BZR_COLUMNS'])
1450
 
    except (KeyError, ValueError):
1451
 
        pass
1452
 
 
1453
 
    isatty = getattr(sys.stdout, 'isatty', None)
1454
 
    if isatty is None or not isatty():
1455
 
        # Don't guess, setting BZR_COLUMNS is the recommended way to override.
1456
 
        return None
1457
 
 
1458
 
    # Query the OS
1459
 
    width, height = os_size = _terminal_size(None, None)
1460
 
    global _first_terminal_size, _terminal_size_state
1461
 
    if _terminal_size_state == 'no_data':
1462
 
        _first_terminal_size = os_size
1463
 
        _terminal_size_state = 'unchanged'
1464
 
    elif (_terminal_size_state == 'unchanged' and
1465
 
          _first_terminal_size != os_size):
1466
 
        _terminal_size_state = 'changed'
1467
 
 
1468
 
    # If the OS claims to know how wide the terminal is, and this value has
1469
 
    # ever changed, use that.
1470
 
    if _terminal_size_state == 'changed':
1471
 
        if width is not None and width > 0:
1472
 
            return width
1473
 
 
1474
 
    # If COLUMNS is set, use it.
1475
 
    try:
1476
 
        return int(os.environ['COLUMNS'])
1477
 
    except (KeyError, ValueError):
1478
 
        pass
1479
 
 
1480
 
    # Finally, use an unchanged size from the OS, if we have one.
1481
 
    if _terminal_size_state == 'unchanged':
1482
 
        if width is not None and width > 0:
1483
 
            return width
1484
 
 
1485
 
    # The width could not be determined.
1486
 
    return None
1487
 
 
1488
 
 
1489
 
def _win32_terminal_size(width, height):
1490
 
    width, height = win32utils.get_console_size(defaultx=width, defaulty=height)
1491
 
    return width, height
1492
 
 
1493
 
 
1494
 
def _ioctl_terminal_size(width, height):
 
1334
    """Return estimated terminal width."""
 
1335
    if sys.platform == 'win32':
 
1336
        return win32utils.get_console_size()[0]
 
1337
    width = 0
1495
1338
    try:
1496
1339
        import struct, fcntl, termios
1497
1340
        s = struct.pack('HHHH', 0, 0, 0, 0)
1498
1341
        x = fcntl.ioctl(1, termios.TIOCGWINSZ, s)
1499
 
        height, width = struct.unpack('HHHH', x)[0:2]
1500
 
    except (IOError, AttributeError):
 
1342
        width = struct.unpack('HHHH', x)[1]
 
1343
    except IOError:
1501
1344
        pass
1502
 
    return width, height
1503
 
 
1504
 
_terminal_size = None
1505
 
"""Returns the terminal size as (width, height).
1506
 
 
1507
 
:param width: Default value for width.
1508
 
:param height: Default value for height.
1509
 
 
1510
 
This is defined specifically for each OS and query the size of the controlling
1511
 
terminal. If any error occurs, the provided default values should be returned.
1512
 
"""
1513
 
if sys.platform == 'win32':
1514
 
    _terminal_size = _win32_terminal_size
1515
 
else:
1516
 
    _terminal_size = _ioctl_terminal_size
 
1345
    if width <= 0:
 
1346
        try:
 
1347
            width = int(os.environ['COLUMNS'])
 
1348
        except:
 
1349
            pass
 
1350
    if width <= 0:
 
1351
        width = 80
 
1352
 
 
1353
    return width
1517
1354
 
1518
1355
 
1519
1356
def supports_executable():
1839
1676
            real_handlers[kind](abspath, relpath)
1840
1677
 
1841
1678
 
1842
 
def copy_ownership_from_path(dst, src=None):
1843
 
    """Copy usr/grp ownership from src file/dir to dst file/dir.
1844
 
 
1845
 
    If src is None, the containing directory is used as source. If chown
1846
 
    fails, the error is ignored and a warning is printed.
1847
 
    """
1848
 
    chown = getattr(os, 'chown', None)
1849
 
    if chown is None:
1850
 
        return
1851
 
 
1852
 
    if src == None:
1853
 
        src = os.path.dirname(dst)
1854
 
        if src == '':
1855
 
            src = '.'
1856
 
 
1857
 
    try:
1858
 
        s = os.stat(src)
1859
 
        chown(dst, s.st_uid, s.st_gid)
1860
 
    except OSError, e:
1861
 
        trace.warning("Unable to copy ownership from '%s' to '%s': IOError: %s." % (src, dst, e))
1862
 
 
1863
 
 
1864
1679
def path_prefix_key(path):
1865
1680
    """Generate a prefix-order path key for path.
1866
1681
 
1966
1781
        return socket.gethostname().decode(get_user_encoding())
1967
1782
 
1968
1783
 
1969
 
# We must not read/write any more than 64k at a time from/to a socket so we
1970
 
# don't risk "no buffer space available" errors on some platforms.  Windows in
1971
 
# particular is likely to throw WSAECONNABORTED or WSAENOBUFS if given too much
1972
 
# data at once.
1973
 
MAX_SOCKET_CHUNK = 64 * 1024
1974
 
 
1975
 
def read_bytes_from_socket(sock, report_activity=None,
1976
 
        max_read_size=MAX_SOCKET_CHUNK):
1977
 
    """Read up to max_read_size of bytes from sock and notify of progress.
1978
 
 
1979
 
    Translates "Connection reset by peer" into file-like EOF (return an
1980
 
    empty string rather than raise an error), and repeats the recv if
1981
 
    interrupted by a signal.
1982
 
    """
1983
 
    while 1:
1984
 
        try:
1985
 
            bytes = sock.recv(max_read_size)
1986
 
        except socket.error, e:
1987
 
            eno = e.args[0]
1988
 
            if eno == getattr(errno, "WSAECONNRESET", errno.ECONNRESET):
1989
 
                # The connection was closed by the other side.  Callers expect
1990
 
                # an empty string to signal end-of-stream.
1991
 
                return ""
1992
 
            elif eno == errno.EINTR:
1993
 
                # Retry the interrupted recv.
1994
 
                continue
1995
 
            raise
1996
 
        else:
1997
 
            if report_activity is not None:
1998
 
                report_activity(len(bytes), 'read')
1999
 
            return bytes
2000
 
 
2001
 
 
2002
 
def recv_all(socket, count):
 
1784
def recv_all(socket, bytes):
2003
1785
    """Receive an exact number of bytes.
2004
1786
 
2005
1787
    Regular Socket.recv() may return less than the requested number of bytes,
2006
 
    depending on what's in the OS buffer.  MSG_WAITALL is not available
 
1788
    dependning on what's in the OS buffer.  MSG_WAITALL is not available
2007
1789
    on all platforms, but this should work everywhere.  This will return
2008
1790
    less than the requested amount if the remote end closes.
2009
1791
 
2010
1792
    This isn't optimized and is intended mostly for use in testing.
2011
1793
    """
2012
1794
    b = ''
2013
 
    while len(b) < count:
2014
 
        new = read_bytes_from_socket(socket, None, count - len(b))
 
1795
    while len(b) < bytes:
 
1796
        new = until_no_eintr(socket.recv, bytes - len(b))
2015
1797
        if new == '':
2016
1798
            break # eof
2017
1799
        b += new
2018
1800
    return b
2019
1801
 
2020
1802
 
2021
 
def send_all(sock, bytes, report_activity=None):
 
1803
def send_all(socket, bytes, report_activity=None):
2022
1804
    """Send all bytes on a socket.
2023
 
 
2024
 
    Breaks large blocks in smaller chunks to avoid buffering limitations on
2025
 
    some platforms, and catches EINTR which may be thrown if the send is
2026
 
    interrupted by a signal.
2027
 
 
2028
 
    This is preferred to socket.sendall(), because it avoids portability bugs
2029
 
    and provides activity reporting.
2030
 
 
 
1805
 
 
1806
    Regular socket.sendall() can give socket error 10053 on Windows.  This
 
1807
    implementation sends no more than 64k at a time, which avoids this problem.
 
1808
 
2031
1809
    :param report_activity: Call this as bytes are read, see
2032
1810
        Transport._report_activity
2033
1811
    """
2034
 
    sent_total = 0
2035
 
    byte_count = len(bytes)
2036
 
    while sent_total < byte_count:
2037
 
        try:
2038
 
            sent = sock.send(buffer(bytes, sent_total, MAX_SOCKET_CHUNK))
2039
 
        except socket.error, e:
2040
 
            if e.args[0] != errno.EINTR:
2041
 
                raise
2042
 
        else:
2043
 
            sent_total += sent
2044
 
            report_activity(sent, 'write')
 
1812
    chunk_size = 2**16
 
1813
    for pos in xrange(0, len(bytes), chunk_size):
 
1814
        block = bytes[pos:pos+chunk_size]
 
1815
        if report_activity is not None:
 
1816
            report_activity(len(block), 'write')
 
1817
        until_no_eintr(socket.sendall, block)
2045
1818
 
2046
1819
 
2047
1820
def dereference_path(path):
2088
1861
    base = dirname(bzrlib.__file__)
2089
1862
    if getattr(sys, 'frozen', None):    # bzr.exe
2090
1863
        base = abspath(pathjoin(base, '..', '..'))
2091
 
    f = file(pathjoin(base, resource_relpath), "rU")
2092
 
    try:
2093
 
        return f.read()
2094
 
    finally:
2095
 
        f.close()
 
1864
    filename = pathjoin(base, resource_relpath)
 
1865
    return open(filename, 'rU').read()
 
1866
 
2096
1867
 
2097
1868
def file_kind_from_stat_mode_thunk(mode):
2098
1869
    global file_kind_from_stat_mode
2120
1891
 
2121
1892
 
2122
1893
def until_no_eintr(f, *a, **kw):
2123
 
    """Run f(*a, **kw), retrying if an EINTR error occurs.
2124
 
    
2125
 
    WARNING: you must be certain that it is safe to retry the call repeatedly
2126
 
    if EINTR does occur.  This is typically only true for low-level operations
2127
 
    like os.read.  If in any doubt, don't use this.
2128
 
 
2129
 
    Keep in mind that this is not a complete solution to EINTR.  There is
2130
 
    probably code in the Python standard library and other dependencies that
2131
 
    may encounter EINTR if a signal arrives (and there is signal handler for
2132
 
    that signal).  So this function can reduce the impact for IO that bzrlib
2133
 
    directly controls, but it is not a complete solution.
2134
 
    """
 
1894
    """Run f(*a, **kw), retrying if an EINTR error occurs."""
2135
1895
    # Borrowed from Twisted's twisted.python.util.untilConcludes function.
2136
1896
    while True:
2137
1897
        try:
2141
1901
                continue
2142
1902
            raise
2143
1903
 
2144
 
 
2145
1904
def re_compile_checked(re_string, flags=0, where=""):
2146
1905
    """Return a compiled re, or raise a sensible error.
2147
1906
 
2239
1998
    if use_cache:
2240
1999
        _cached_concurrency = concurrency
2241
2000
    return concurrency
2242
 
 
2243
 
 
2244
 
class UnicodeOrBytesToBytesWriter(codecs.StreamWriter):
2245
 
    """A stream writer that doesn't decode str arguments."""
2246
 
 
2247
 
    def __init__(self, encode, stream, errors='strict'):
2248
 
        codecs.StreamWriter.__init__(self, stream, errors)
2249
 
        self.encode = encode
2250
 
 
2251
 
    def write(self, object):
2252
 
        if type(object) is str:
2253
 
            self.stream.write(object)
2254
 
        else:
2255
 
            data, _ = self.encode(object, self.errors)
2256
 
            self.stream.write(data)
2257
 
 
2258
 
if sys.platform == 'win32':
2259
 
    def open_file(filename, mode='r', bufsize=-1):
2260
 
        """This function is used to override the ``open`` builtin.
2261
 
        
2262
 
        But it uses O_NOINHERIT flag so the file handle is not inherited by
2263
 
        child processes.  Deleting or renaming a closed file opened with this
2264
 
        function is not blocking child processes.
2265
 
        """
2266
 
        writing = 'w' in mode
2267
 
        appending = 'a' in mode
2268
 
        updating = '+' in mode
2269
 
        binary = 'b' in mode
2270
 
 
2271
 
        flags = O_NOINHERIT
2272
 
        # see http://msdn.microsoft.com/en-us/library/yeby3zcb%28VS.71%29.aspx
2273
 
        # for flags for each modes.
2274
 
        if binary:
2275
 
            flags |= O_BINARY
2276
 
        else:
2277
 
            flags |= O_TEXT
2278
 
 
2279
 
        if writing:
2280
 
            if updating:
2281
 
                flags |= os.O_RDWR
2282
 
            else:
2283
 
                flags |= os.O_WRONLY
2284
 
            flags |= os.O_CREAT | os.O_TRUNC
2285
 
        elif appending:
2286
 
            if updating:
2287
 
                flags |= os.O_RDWR
2288
 
            else:
2289
 
                flags |= os.O_WRONLY
2290
 
            flags |= os.O_CREAT | os.O_APPEND
2291
 
        else: #reading
2292
 
            if updating:
2293
 
                flags |= os.O_RDWR
2294
 
            else:
2295
 
                flags |= os.O_RDONLY
2296
 
 
2297
 
        return os.fdopen(os.open(filename, flags), mode, bufsize)
2298
 
else:
2299
 
    open_file = open
2300
 
 
2301
 
 
2302
 
def getuser_unicode():
2303
 
    """Return the username as unicode.
2304
 
    """
2305
 
    try:
2306
 
        user_encoding = get_user_encoding()
2307
 
        username = getpass.getuser().decode(user_encoding)
2308
 
    except UnicodeDecodeError:
2309
 
        raise errors.BzrError("Can't decode username as %s." % \
2310
 
                user_encoding)
2311
 
    return username