/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/osutils.py

Add a NEWS entry and prepare submission.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2010 Canonical Ltd
 
1
# Copyright (C) 2005, 2006, 2007, 2009 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
 
import errno
18
17
import os
19
18
import re
20
19
import stat
21
 
from stat import S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE
 
20
from stat import (S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE,
 
21
                  S_ISCHR, S_ISBLK, S_ISFIFO, S_ISSOCK)
22
22
import sys
23
23
import time
24
 
import codecs
 
24
import warnings
25
25
 
26
26
from bzrlib.lazy_import import lazy_import
27
27
lazy_import(globals(), """
 
28
import codecs
28
29
from datetime import datetime
29
 
import getpass
 
30
import errno
30
31
from ntpath import (abspath as _nt_abspath,
31
32
                    join as _nt_join,
32
33
                    normpath as _nt_normpath,
38
39
from shutil import (
39
40
    rmtree,
40
41
    )
41
 
import socket
42
42
import subprocess
43
43
import tempfile
44
44
from tempfile import (
49
49
from bzrlib import (
50
50
    cache_utf8,
51
51
    errors,
52
 
    trace,
53
52
    win32utils,
54
53
    )
55
54
""")
56
55
 
57
 
from bzrlib.symbol_versioning import (
58
 
    deprecated_function,
59
 
    deprecated_in,
60
 
    )
61
 
 
62
56
# sha and md5 modules are deprecated in python2.6 but hashlib is available as
63
57
# of 2.5
64
58
if sys.version_info < (2, 5):
90
84
# be opened in binary mode, rather than text mode.
91
85
# On other platforms, O_BINARY doesn't exist, because
92
86
# they always open in binary mode, so it is okay to
93
 
# OR with 0 on those platforms.
94
 
# O_NOINHERIT and O_TEXT exists only on win32 too.
 
87
# OR with 0 on those platforms
95
88
O_BINARY = getattr(os, 'O_BINARY', 0)
96
 
O_TEXT = getattr(os, 'O_TEXT', 0)
97
 
O_NOINHERIT = getattr(os, 'O_NOINHERIT', 0)
98
89
 
99
90
 
100
91
def get_unicode_argv():
187
178
    try:
188
179
        return _kind_marker_map[kind]
189
180
    except KeyError:
190
 
        # Slightly faster than using .get(, '') when the common case is that
191
 
        # kind will be found
192
 
        return ''
 
181
        raise errors.BzrError('invalid file kind %r' % kind)
193
182
 
194
183
 
195
184
lexists = getattr(os.path, 'lexists', None)
212
201
    :param old: The old path, to rename from
213
202
    :param new: The new path, to rename to
214
203
    :param rename_func: The potentially non-atomic rename function
215
 
    :param unlink_func: A way to delete the target file if the full rename
216
 
        succeeds
 
204
    :param unlink_func: A way to delete the target file if the full rename succeeds
217
205
    """
 
206
 
218
207
    # sftp rename doesn't allow overwriting, so play tricks:
219
208
    base = os.path.basename(new)
220
209
    dirname = os.path.dirname(new)
221
 
    # callers use different encodings for the paths so the following MUST
222
 
    # respect that. We rely on python upcasting to unicode if new is unicode
223
 
    # and keeping a str if not.
224
 
    tmp_name = 'tmp.%s.%.9f.%d.%s' % (base, time.time(),
225
 
                                      os.getpid(), rand_chars(10))
 
210
    tmp_name = u'tmp.%s.%.9f.%d.%s' % (base, time.time(), os.getpid(), rand_chars(10))
226
211
    tmp_name = pathjoin(dirname, tmp_name)
227
212
 
228
213
    # Rename the file out of the way, but keep track if it didn't exist
671
656
def sha_file_by_name(fname):
672
657
    """Calculate the SHA1 of a file by reading the full text"""
673
658
    s = sha()
674
 
    f = os.open(fname, os.O_RDONLY | O_BINARY | O_NOINHERIT)
 
659
    f = os.open(fname, os.O_RDONLY | O_BINARY)
675
660
    try:
676
661
        while True:
677
662
            b = os.read(f, 1<<16)
1130
1115
 
1131
1116
 
1132
1117
def relpath(base, path):
1133
 
    """Return path relative to base, or raise PathNotChild exception.
 
1118
    """Return path relative to base, or raise exception.
1134
1119
 
1135
1120
    The path may be either an absolute path or a path relative to the
1136
1121
    current working directory.
1138
1123
    os.path.commonprefix (python2.4) has a bad bug that it works just
1139
1124
    on string prefixes, assuming that '/u' is a prefix of '/u2'.  This
1140
1125
    avoids that problem.
1141
 
 
1142
 
    NOTE: `base` should not have a trailing slash otherwise you'll get
1143
 
    PathNotChild exceptions regardless of `path`.
1144
1126
    """
1145
1127
 
1146
1128
    if len(base) < MIN_ABS_PATHLENGTH:
1357
1339
    normalized_filename = _inaccessible_normalized_filename
1358
1340
 
1359
1341
 
1360
 
def set_signal_handler(signum, handler, restart_syscall=True):
1361
 
    """A wrapper for signal.signal that also calls siginterrupt(signum, False)
1362
 
    on platforms that support that.
1363
 
 
1364
 
    :param restart_syscall: if set, allow syscalls interrupted by a signal to
1365
 
        automatically restart (by calling `signal.siginterrupt(signum,
1366
 
        False)`).  May be ignored if the feature is not available on this
1367
 
        platform or Python version.
1368
 
    """
1369
 
    try:
1370
 
        import signal
1371
 
        siginterrupt = signal.siginterrupt
1372
 
    except ImportError:
1373
 
        # This python implementation doesn't provide signal support, hence no
1374
 
        # handler exists
1375
 
        return None
1376
 
    except AttributeError:
1377
 
        # siginterrupt doesn't exist on this platform, or for this version
1378
 
        # of Python.
1379
 
        siginterrupt = lambda signum, flag: None
1380
 
    if restart_syscall:
1381
 
        def sig_handler(*args):
1382
 
            # Python resets the siginterrupt flag when a signal is
1383
 
            # received.  <http://bugs.python.org/issue8354>
1384
 
            # As a workaround for some cases, set it back the way we want it.
1385
 
            siginterrupt(signum, False)
1386
 
            # Now run the handler function passed to set_signal_handler.
1387
 
            handler(*args)
1388
 
    else:
1389
 
        sig_handler = handler
1390
 
    old_handler = signal.signal(signum, sig_handler)
1391
 
    if restart_syscall:
1392
 
        siginterrupt(signum, False)
1393
 
    return old_handler
1394
 
 
1395
 
 
1396
1342
default_terminal_width = 80
1397
1343
"""The default terminal width for ttys.
1398
1344
 
1400
1346
terminal_width() returns None.
1401
1347
"""
1402
1348
 
1403
 
# Keep some state so that terminal_width can detect if _terminal_size has
1404
 
# returned a different size since the process started.  See docstring and
1405
 
# comments of terminal_width for details.
1406
 
# _terminal_size_state has 3 possible values: no_data, unchanged, and changed.
1407
 
_terminal_size_state = 'no_data'
1408
 
_first_terminal_size = None
1409
1349
 
1410
1350
def terminal_width():
1411
1351
    """Return terminal width.
1415
1355
    The rules are:
1416
1356
    - if BZR_COLUMNS is set, returns its value
1417
1357
    - if there is no controlling terminal, returns None
1418
 
    - query the OS, if the queried size has changed since the last query,
1419
 
      return its value,
1420
1358
    - if COLUMNS is set, returns its value,
1421
 
    - if the OS has a value (even though it's never changed), return its value.
1422
1359
 
1423
1360
    From there, we need to query the OS to get the size of the controlling
1424
1361
    terminal.
1425
1362
 
1426
 
    On Unices we query the OS by:
 
1363
    Unices:
1427
1364
    - get termios.TIOCGWINSZ
1428
1365
    - if an error occurs or a negative value is obtained, returns None
1429
1366
 
1430
 
    On Windows we query the OS by:
 
1367
    Windows:
 
1368
    
1431
1369
    - win32utils.get_console_size() decides,
1432
1370
    - returns None on error (provided default value)
1433
1371
    """
1434
 
    # Note to implementors: if changing the rules for determining the width,
1435
 
    # make sure you've considered the behaviour in these cases:
1436
 
    #  - M-x shell in emacs, where $COLUMNS is set and TIOCGWINSZ returns 0,0.
1437
 
    #  - bzr log | less, in bash, where $COLUMNS not set and TIOCGWINSZ returns
1438
 
    #    0,0.
1439
 
    #  - (add more interesting cases here, if you find any)
1440
 
    # Some programs implement "Use $COLUMNS (if set) until SIGWINCH occurs",
1441
 
    # but we don't want to register a signal handler because it is impossible
1442
 
    # to do so without risking EINTR errors in Python <= 2.6.5 (see
1443
 
    # <http://bugs.python.org/issue8354>).  Instead we check TIOCGWINSZ every
1444
 
    # time so we can notice if the reported size has changed, which should have
1445
 
    # a similar effect.
1446
1372
 
1447
1373
    # If BZR_COLUMNS is set, take it, user is always right
1448
1374
    try:
1451
1377
        pass
1452
1378
 
1453
1379
    isatty = getattr(sys.stdout, 'isatty', None)
1454
 
    if isatty is None or not isatty():
 
1380
    if  isatty is None or not isatty():
1455
1381
        # Don't guess, setting BZR_COLUMNS is the recommended way to override.
1456
1382
        return None
1457
1383
 
1458
 
    # Query the OS
1459
 
    width, height = os_size = _terminal_size(None, None)
1460
 
    global _first_terminal_size, _terminal_size_state
1461
 
    if _terminal_size_state == 'no_data':
1462
 
        _first_terminal_size = os_size
1463
 
        _terminal_size_state = 'unchanged'
1464
 
    elif (_terminal_size_state == 'unchanged' and
1465
 
          _first_terminal_size != os_size):
1466
 
        _terminal_size_state = 'changed'
1467
 
 
1468
 
    # If the OS claims to know how wide the terminal is, and this value has
1469
 
    # ever changed, use that.
1470
 
    if _terminal_size_state == 'changed':
1471
 
        if width is not None and width > 0:
1472
 
            return width
1473
 
 
1474
 
    # If COLUMNS is set, use it.
 
1384
    # If COLUMNS is set, take it, the terminal knows better (even inside a
 
1385
    # given terminal, the application can decide to set COLUMNS to a lower
 
1386
    # value (splitted screen) or a bigger value (scroll bars))
1475
1387
    try:
1476
1388
        return int(os.environ['COLUMNS'])
1477
1389
    except (KeyError, ValueError):
1478
1390
        pass
1479
1391
 
1480
 
    # Finally, use an unchanged size from the OS, if we have one.
1481
 
    if _terminal_size_state == 'unchanged':
1482
 
        if width is not None and width > 0:
1483
 
            return width
 
1392
    width, height = _terminal_size(None, None)
 
1393
    if width <= 0:
 
1394
        # Consider invalid values as meaning no width
 
1395
        return None
1484
1396
 
1485
 
    # The width could not be determined.
1486
 
    return None
 
1397
    return width
1487
1398
 
1488
1399
 
1489
1400
def _win32_terminal_size(width, height):
1839
1750
            real_handlers[kind](abspath, relpath)
1840
1751
 
1841
1752
 
1842
 
def copy_ownership_from_path(dst, src=None):
1843
 
    """Copy usr/grp ownership from src file/dir to dst file/dir.
1844
 
 
1845
 
    If src is None, the containing directory is used as source. If chown
1846
 
    fails, the error is ignored and a warning is printed.
1847
 
    """
1848
 
    chown = getattr(os, 'chown', None)
1849
 
    if chown is None:
1850
 
        return
1851
 
 
1852
 
    if src == None:
1853
 
        src = os.path.dirname(dst)
1854
 
        if src == '':
1855
 
            src = '.'
1856
 
 
1857
 
    try:
1858
 
        s = os.stat(src)
1859
 
        chown(dst, s.st_uid, s.st_gid)
1860
 
    except OSError, e:
1861
 
        trace.warning("Unable to copy ownership from '%s' to '%s': IOError: %s." % (src, dst, e))
1862
 
 
1863
 
 
1864
1753
def path_prefix_key(path):
1865
1754
    """Generate a prefix-order path key for path.
1866
1755
 
1966
1855
        return socket.gethostname().decode(get_user_encoding())
1967
1856
 
1968
1857
 
1969
 
# We must not read/write any more than 64k at a time from/to a socket so we
1970
 
# don't risk "no buffer space available" errors on some platforms.  Windows in
1971
 
# particular is likely to throw WSAECONNABORTED or WSAENOBUFS if given too much
1972
 
# data at once.
1973
 
MAX_SOCKET_CHUNK = 64 * 1024
1974
 
 
1975
 
def read_bytes_from_socket(sock, report_activity=None,
1976
 
        max_read_size=MAX_SOCKET_CHUNK):
1977
 
    """Read up to max_read_size of bytes from sock and notify of progress.
1978
 
 
1979
 
    Translates "Connection reset by peer" into file-like EOF (return an
1980
 
    empty string rather than raise an error), and repeats the recv if
1981
 
    interrupted by a signal.
1982
 
    """
1983
 
    while 1:
1984
 
        try:
1985
 
            bytes = sock.recv(max_read_size)
1986
 
        except socket.error, e:
1987
 
            eno = e.args[0]
1988
 
            if eno == getattr(errno, "WSAECONNRESET", errno.ECONNRESET):
1989
 
                # The connection was closed by the other side.  Callers expect
1990
 
                # an empty string to signal end-of-stream.
1991
 
                return ""
1992
 
            elif eno == errno.EINTR:
1993
 
                # Retry the interrupted recv.
1994
 
                continue
1995
 
            raise
1996
 
        else:
1997
 
            if report_activity is not None:
1998
 
                report_activity(len(bytes), 'read')
1999
 
            return bytes
2000
 
 
2001
 
 
2002
 
def recv_all(socket, count):
 
1858
def recv_all(socket, bytes):
2003
1859
    """Receive an exact number of bytes.
2004
1860
 
2005
1861
    Regular Socket.recv() may return less than the requested number of bytes,
2006
 
    depending on what's in the OS buffer.  MSG_WAITALL is not available
 
1862
    dependning on what's in the OS buffer.  MSG_WAITALL is not available
2007
1863
    on all platforms, but this should work everywhere.  This will return
2008
1864
    less than the requested amount if the remote end closes.
2009
1865
 
2010
1866
    This isn't optimized and is intended mostly for use in testing.
2011
1867
    """
2012
1868
    b = ''
2013
 
    while len(b) < count:
2014
 
        new = read_bytes_from_socket(socket, None, count - len(b))
 
1869
    while len(b) < bytes:
 
1870
        new = until_no_eintr(socket.recv, bytes - len(b))
2015
1871
        if new == '':
2016
1872
            break # eof
2017
1873
        b += new
2018
1874
    return b
2019
1875
 
2020
1876
 
2021
 
def send_all(sock, bytes, report_activity=None):
 
1877
def send_all(socket, bytes, report_activity=None):
2022
1878
    """Send all bytes on a socket.
2023
 
 
2024
 
    Breaks large blocks in smaller chunks to avoid buffering limitations on
2025
 
    some platforms, and catches EINTR which may be thrown if the send is
2026
 
    interrupted by a signal.
2027
 
 
2028
 
    This is preferred to socket.sendall(), because it avoids portability bugs
2029
 
    and provides activity reporting.
2030
 
 
 
1879
 
 
1880
    Regular socket.sendall() can give socket error 10053 on Windows.  This
 
1881
    implementation sends no more than 64k at a time, which avoids this problem.
 
1882
 
2031
1883
    :param report_activity: Call this as bytes are read, see
2032
1884
        Transport._report_activity
2033
1885
    """
2034
 
    sent_total = 0
2035
 
    byte_count = len(bytes)
2036
 
    while sent_total < byte_count:
2037
 
        try:
2038
 
            sent = sock.send(buffer(bytes, sent_total, MAX_SOCKET_CHUNK))
2039
 
        except socket.error, e:
2040
 
            if e.args[0] != errno.EINTR:
2041
 
                raise
2042
 
        else:
2043
 
            sent_total += sent
2044
 
            report_activity(sent, 'write')
 
1886
    chunk_size = 2**16
 
1887
    for pos in xrange(0, len(bytes), chunk_size):
 
1888
        block = bytes[pos:pos+chunk_size]
 
1889
        if report_activity is not None:
 
1890
            report_activity(len(block), 'write')
 
1891
        until_no_eintr(socket.sendall, block)
2045
1892
 
2046
1893
 
2047
1894
def dereference_path(path):
2088
1935
    base = dirname(bzrlib.__file__)
2089
1936
    if getattr(sys, 'frozen', None):    # bzr.exe
2090
1937
        base = abspath(pathjoin(base, '..', '..'))
2091
 
    f = file(pathjoin(base, resource_relpath), "rU")
2092
 
    try:
2093
 
        return f.read()
2094
 
    finally:
2095
 
        f.close()
 
1938
    filename = pathjoin(base, resource_relpath)
 
1939
    return open(filename, 'rU').read()
 
1940
 
2096
1941
 
2097
1942
def file_kind_from_stat_mode_thunk(mode):
2098
1943
    global file_kind_from_stat_mode
2120
1965
 
2121
1966
 
2122
1967
def until_no_eintr(f, *a, **kw):
2123
 
    """Run f(*a, **kw), retrying if an EINTR error occurs.
2124
 
    
2125
 
    WARNING: you must be certain that it is safe to retry the call repeatedly
2126
 
    if EINTR does occur.  This is typically only true for low-level operations
2127
 
    like os.read.  If in any doubt, don't use this.
2128
 
 
2129
 
    Keep in mind that this is not a complete solution to EINTR.  There is
2130
 
    probably code in the Python standard library and other dependencies that
2131
 
    may encounter EINTR if a signal arrives (and there is signal handler for
2132
 
    that signal).  So this function can reduce the impact for IO that bzrlib
2133
 
    directly controls, but it is not a complete solution.
2134
 
    """
 
1968
    """Run f(*a, **kw), retrying if an EINTR error occurs."""
2135
1969
    # Borrowed from Twisted's twisted.python.util.untilConcludes function.
2136
1970
    while True:
2137
1971
        try:
2141
1975
                continue
2142
1976
            raise
2143
1977
 
2144
 
 
2145
1978
def re_compile_checked(re_string, flags=0, where=""):
2146
1979
    """Return a compiled re, or raise a sensible error.
2147
1980
 
2239
2072
    if use_cache:
2240
2073
        _cached_concurrency = concurrency
2241
2074
    return concurrency
2242
 
 
2243
 
 
2244
 
class UnicodeOrBytesToBytesWriter(codecs.StreamWriter):
2245
 
    """A stream writer that doesn't decode str arguments."""
2246
 
 
2247
 
    def __init__(self, encode, stream, errors='strict'):
2248
 
        codecs.StreamWriter.__init__(self, stream, errors)
2249
 
        self.encode = encode
2250
 
 
2251
 
    def write(self, object):
2252
 
        if type(object) is str:
2253
 
            self.stream.write(object)
2254
 
        else:
2255
 
            data, _ = self.encode(object, self.errors)
2256
 
            self.stream.write(data)
2257
 
 
2258
 
if sys.platform == 'win32':
2259
 
    def open_file(filename, mode='r', bufsize=-1):
2260
 
        """This function is used to override the ``open`` builtin.
2261
 
        
2262
 
        But it uses O_NOINHERIT flag so the file handle is not inherited by
2263
 
        child processes.  Deleting or renaming a closed file opened with this
2264
 
        function is not blocking child processes.
2265
 
        """
2266
 
        writing = 'w' in mode
2267
 
        appending = 'a' in mode
2268
 
        updating = '+' in mode
2269
 
        binary = 'b' in mode
2270
 
 
2271
 
        flags = O_NOINHERIT
2272
 
        # see http://msdn.microsoft.com/en-us/library/yeby3zcb%28VS.71%29.aspx
2273
 
        # for flags for each modes.
2274
 
        if binary:
2275
 
            flags |= O_BINARY
2276
 
        else:
2277
 
            flags |= O_TEXT
2278
 
 
2279
 
        if writing:
2280
 
            if updating:
2281
 
                flags |= os.O_RDWR
2282
 
            else:
2283
 
                flags |= os.O_WRONLY
2284
 
            flags |= os.O_CREAT | os.O_TRUNC
2285
 
        elif appending:
2286
 
            if updating:
2287
 
                flags |= os.O_RDWR
2288
 
            else:
2289
 
                flags |= os.O_WRONLY
2290
 
            flags |= os.O_CREAT | os.O_APPEND
2291
 
        else: #reading
2292
 
            if updating:
2293
 
                flags |= os.O_RDWR
2294
 
            else:
2295
 
                flags |= os.O_RDONLY
2296
 
 
2297
 
        return os.fdopen(os.open(filename, flags), mode, bufsize)
2298
 
else:
2299
 
    open_file = open
2300
 
 
2301
 
 
2302
 
def getuser_unicode():
2303
 
    """Return the username as unicode.
2304
 
    """
2305
 
    try:
2306
 
        user_encoding = get_user_encoding()
2307
 
        username = getpass.getuser().decode(user_encoding)
2308
 
    except UnicodeDecodeError:
2309
 
        raise errors.BzrError("Can't decode username as %s." % \
2310
 
                user_encoding)
2311
 
    return username