/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/osutils.py

  • Committer: Ian Clatworthy
  • Date: 2009-07-13 06:58:49 UTC
  • mto: (4527.1.1 integration)
  • mto: This revision was merged to the branch mainline in revision 4529.
  • Revision ID: ian.clatworthy@canonical.com-20090713065849-n7g2rsjyl6dt1mgv
Apply review feedback

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2010 Canonical Ltd
 
1
# Copyright (C) 2005, 2006, 2007, 2009 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
 
import errno
18
17
import os
19
18
import re
20
19
import stat
21
 
from stat import S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE
 
20
from stat import (S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE,
 
21
                  S_ISCHR, S_ISBLK, S_ISFIFO, S_ISSOCK)
22
22
import sys
23
23
import time
24
 
import codecs
25
24
 
26
25
from bzrlib.lazy_import import lazy_import
27
26
lazy_import(globals(), """
 
27
import codecs
28
28
from datetime import datetime
29
 
import getpass
 
29
import errno
30
30
from ntpath import (abspath as _nt_abspath,
31
31
                    join as _nt_join,
32
32
                    normpath as _nt_normpath,
38
38
from shutil import (
39
39
    rmtree,
40
40
    )
41
 
import socket
42
41
import subprocess
43
42
import tempfile
44
43
from tempfile import (
49
48
from bzrlib import (
50
49
    cache_utf8,
51
50
    errors,
52
 
    trace,
53
51
    win32utils,
54
52
    )
55
53
""")
56
54
 
57
 
from bzrlib.symbol_versioning import (
58
 
    deprecated_function,
59
 
    deprecated_in,
60
 
    )
61
 
 
62
55
# sha and md5 modules are deprecated in python2.6 but hashlib is available as
63
56
# of 2.5
64
57
if sys.version_info < (2, 5):
77
70
from bzrlib import symbol_versioning
78
71
 
79
72
 
80
 
# Cross platform wall-clock time functionality with decent resolution.
81
 
# On Linux ``time.clock`` returns only CPU time. On Windows, ``time.time()``
82
 
# only has a resolution of ~15ms. Note that ``time.clock()`` is not
83
 
# synchronized with ``time.time()``, this is only meant to be used to find
84
 
# delta times by subtracting from another call to this function.
85
 
timer_func = time.time
86
 
if sys.platform == 'win32':
87
 
    timer_func = time.clock
88
 
 
89
73
# On win32, O_BINARY is used to indicate the file should
90
74
# be opened in binary mode, rather than text mode.
91
75
# On other platforms, O_BINARY doesn't exist, because
92
76
# they always open in binary mode, so it is okay to
93
 
# OR with 0 on those platforms.
94
 
# O_NOINHERIT and O_TEXT exists only on win32 too.
 
77
# OR with 0 on those platforms
95
78
O_BINARY = getattr(os, 'O_BINARY', 0)
96
 
O_TEXT = getattr(os, 'O_TEXT', 0)
97
 
O_NOINHERIT = getattr(os, 'O_NOINHERIT', 0)
98
79
 
99
80
 
100
81
def get_unicode_argv():
187
168
    try:
188
169
        return _kind_marker_map[kind]
189
170
    except KeyError:
190
 
        # Slightly faster than using .get(, '') when the common case is that
191
 
        # kind will be found
192
 
        return ''
 
171
        raise errors.BzrError('invalid file kind %r' % kind)
193
172
 
194
173
 
195
174
lexists = getattr(os.path, 'lexists', None)
212
191
    :param old: The old path, to rename from
213
192
    :param new: The new path, to rename to
214
193
    :param rename_func: The potentially non-atomic rename function
215
 
    :param unlink_func: A way to delete the target file if the full rename
216
 
        succeeds
 
194
    :param unlink_func: A way to delete the target file if the full rename succeeds
217
195
    """
 
196
 
218
197
    # sftp rename doesn't allow overwriting, so play tricks:
219
198
    base = os.path.basename(new)
220
199
    dirname = os.path.dirname(new)
221
 
    # callers use different encodings for the paths so the following MUST
222
 
    # respect that. We rely on python upcasting to unicode if new is unicode
223
 
    # and keeping a str if not.
224
 
    tmp_name = 'tmp.%s.%.9f.%d.%s' % (base, time.time(),
225
 
                                      os.getpid(), rand_chars(10))
 
200
    tmp_name = u'tmp.%s.%.9f.%d.%s' % (base, time.time(), os.getpid(), rand_chars(10))
226
201
    tmp_name = pathjoin(dirname, tmp_name)
227
202
 
228
203
    # Rename the file out of the way, but keep track if it didn't exist
248
223
    else:
249
224
        file_existed = True
250
225
 
251
 
    failure_exc = None
252
226
    success = False
253
227
    try:
254
228
        try:
260
234
            # source and target may be aliases of each other (e.g. on a
261
235
            # case-insensitive filesystem), so we may have accidentally renamed
262
236
            # source by when we tried to rename target
263
 
            failure_exc = sys.exc_info()
264
 
            if (file_existed and e.errno in (None, errno.ENOENT)
265
 
                and old.lower() == new.lower()):
266
 
                # source and target are the same file on a case-insensitive
267
 
                # filesystem, so we don't generate an exception
268
 
                failure_exc = None
 
237
            if not (file_existed and e.errno in (None, errno.ENOENT)):
 
238
                raise
269
239
    finally:
270
240
        if file_existed:
271
241
            # If the file used to exist, rename it back into place
274
244
                unlink_func(tmp_name)
275
245
            else:
276
246
                rename_func(tmp_name, new)
277
 
    if failure_exc is not None:
278
 
        raise failure_exc[0], failure_exc[1], failure_exc[2]
279
247
 
280
248
 
281
249
# In Python 2.4.2 and older, os.path.abspath and os.path.realpath
671
639
def sha_file_by_name(fname):
672
640
    """Calculate the SHA1 of a file by reading the full text"""
673
641
    s = sha()
674
 
    f = os.open(fname, os.O_RDONLY | O_BINARY | O_NOINHERIT)
 
642
    f = os.open(fname, os.O_RDONLY | O_BINARY)
675
643
    try:
676
644
        while True:
677
645
            b = os.read(f, 1<<16)
719
687
    return offset.days * 86400 + offset.seconds
720
688
 
721
689
weekdays = ['Mon', 'Tue', 'Wed', 'Thu', 'Fri', 'Sat', 'Sun']
722
 
_default_format_by_weekday_num = [wd + " %Y-%m-%d %H:%M:%S" for wd in weekdays]
723
 
 
724
690
 
725
691
def format_date(t, offset=0, timezone='original', date_fmt=None,
726
692
                show_offset=True):
740
706
    date_str = time.strftime(date_fmt, tt)
741
707
    return date_str + offset_str
742
708
 
743
 
 
744
 
# Cache of formatted offset strings
745
 
_offset_cache = {}
746
 
 
747
 
 
748
 
def format_date_with_offset_in_original_timezone(t, offset=0,
749
 
    _cache=_offset_cache):
750
 
    """Return a formatted date string in the original timezone.
751
 
 
752
 
    This routine may be faster then format_date.
753
 
 
754
 
    :param t: Seconds since the epoch.
755
 
    :param offset: Timezone offset in seconds east of utc.
756
 
    """
757
 
    if offset is None:
758
 
        offset = 0
759
 
    tt = time.gmtime(t + offset)
760
 
    date_fmt = _default_format_by_weekday_num[tt[6]]
761
 
    date_str = time.strftime(date_fmt, tt)
762
 
    offset_str = _cache.get(offset, None)
763
 
    if offset_str is None:
764
 
        offset_str = ' %+03d%02d' % (offset / 3600, (offset / 60) % 60)
765
 
        _cache[offset] = offset_str
766
 
    return date_str + offset_str
767
 
 
768
 
 
769
709
def format_local_date(t, offset=0, timezone='original', date_fmt=None,
770
710
                      show_offset=True):
771
711
    """Return an unicode date string formatted according to the current locale.
785
725
        date_str = date_str.decode(get_user_encoding(), 'replace')
786
726
    return date_str + offset_str
787
727
 
788
 
 
789
728
def _format_date(t, offset, timezone, date_fmt, show_offset):
790
729
    if timezone == 'utc':
791
730
        tt = time.gmtime(t)
942
881
    return parents
943
882
 
944
883
 
945
 
_extension_load_failures = []
946
 
 
947
 
 
948
 
def failed_to_load_extension(exception):
949
 
    """Handle failing to load a binary extension.
950
 
 
951
 
    This should be called from the ImportError block guarding the attempt to
952
 
    import the native extension.  If this function returns, the pure-Python
953
 
    implementation should be loaded instead::
954
 
 
955
 
    >>> try:
956
 
    >>>     import bzrlib._fictional_extension_pyx
957
 
    >>> except ImportError, e:
958
 
    >>>     bzrlib.osutils.failed_to_load_extension(e)
959
 
    >>>     import bzrlib._fictional_extension_py
960
 
    """
961
 
    # NB: This docstring is just an example, not a doctest, because doctest
962
 
    # currently can't cope with the use of lazy imports in this namespace --
963
 
    # mbp 20090729
964
 
    
965
 
    # This currently doesn't report the failure at the time it occurs, because
966
 
    # they tend to happen very early in startup when we can't check config
967
 
    # files etc, and also we want to report all failures but not spam the user
968
 
    # with 10 warnings.
969
 
    from bzrlib import trace
970
 
    exception_str = str(exception)
971
 
    if exception_str not in _extension_load_failures:
972
 
        trace.mutter("failed to load compiled extension: %s" % exception_str)
973
 
        _extension_load_failures.append(exception_str)
974
 
 
975
 
 
976
 
def report_extension_load_failures():
977
 
    if not _extension_load_failures:
978
 
        return
979
 
    from bzrlib.config import GlobalConfig
980
 
    if GlobalConfig().get_user_option_as_bool('ignore_missing_extensions'):
981
 
        return
982
 
    # the warnings framework should by default show this only once
983
 
    from bzrlib.trace import warning
984
 
    warning(
985
 
        "bzr: warning: some compiled extensions could not be loaded; "
986
 
        "see <https://answers.launchpad.net/bzr/+faq/703>")
987
 
    # we no longer show the specific missing extensions here, because it makes
988
 
    # the message too long and scary - see
989
 
    # https://bugs.launchpad.net/bzr/+bug/430529
990
 
 
991
 
 
992
884
try:
993
885
    from bzrlib._chunks_to_lines_pyx import chunks_to_lines
994
 
except ImportError, e:
995
 
    failed_to_load_extension(e)
 
886
except ImportError:
996
887
    from bzrlib._chunks_to_lines_py import chunks_to_lines
997
888
 
998
889
 
1130
1021
 
1131
1022
 
1132
1023
def relpath(base, path):
1133
 
    """Return path relative to base, or raise PathNotChild exception.
 
1024
    """Return path relative to base, or raise exception.
1134
1025
 
1135
1026
    The path may be either an absolute path or a path relative to the
1136
1027
    current working directory.
1138
1029
    os.path.commonprefix (python2.4) has a bad bug that it works just
1139
1030
    on string prefixes, assuming that '/u' is a prefix of '/u2'.  This
1140
1031
    avoids that problem.
1141
 
 
1142
 
    NOTE: `base` should not have a trailing slash otherwise you'll get
1143
 
    PathNotChild exceptions regardless of `path`.
1144
1032
    """
1145
1033
 
1146
1034
    if len(base) < MIN_ABS_PATHLENGTH:
1152
1040
 
1153
1041
    s = []
1154
1042
    head = rp
1155
 
    while True:
1156
 
        if len(head) <= len(base) and head != base:
1157
 
            raise errors.PathNotChild(rp, base)
 
1043
    while len(head) >= len(base):
1158
1044
        if head == base:
1159
1045
            break
1160
 
        head, tail = split(head)
 
1046
        head, tail = os.path.split(head)
1161
1047
        if tail:
1162
 
            s.append(tail)
 
1048
            s.insert(0, tail)
 
1049
    else:
 
1050
        raise errors.PathNotChild(rp, base)
1163
1051
 
1164
1052
    if s:
1165
 
        return pathjoin(*reversed(s))
 
1053
        return pathjoin(*s)
1166
1054
    else:
1167
1055
        return ''
1168
1056
 
1195
1083
    bit_iter = iter(rel.split('/'))
1196
1084
    for bit in bit_iter:
1197
1085
        lbit = bit.lower()
1198
 
        try:
1199
 
            next_entries = _listdir(current)
1200
 
        except OSError: # enoent, eperm, etc
1201
 
            # We can't find this in the filesystem, so just append the
1202
 
            # remaining bits.
1203
 
            current = pathjoin(current, bit, *list(bit_iter))
1204
 
            break
1205
 
        for look in next_entries:
 
1086
        for look in _listdir(current):
1206
1087
            if lbit == look.lower():
1207
1088
                current = pathjoin(current, look)
1208
1089
                break
1212
1093
            # the target of a move, for example).
1213
1094
            current = pathjoin(current, bit, *list(bit_iter))
1214
1095
            break
1215
 
    return current[len(abs_base):].lstrip('/')
 
1096
    return current[len(abs_base)+1:]
1216
1097
 
1217
1098
# XXX - TODO - we need better detection/integration of case-insensitive
1218
1099
# file-systems; Linux often sees FAT32 devices (or NFS-mounted OSX
1357
1238
    normalized_filename = _inaccessible_normalized_filename
1358
1239
 
1359
1240
 
1360
 
def set_signal_handler(signum, handler, restart_syscall=True):
1361
 
    """A wrapper for signal.signal that also calls siginterrupt(signum, False)
1362
 
    on platforms that support that.
1363
 
 
1364
 
    :param restart_syscall: if set, allow syscalls interrupted by a signal to
1365
 
        automatically restart (by calling `signal.siginterrupt(signum,
1366
 
        False)`).  May be ignored if the feature is not available on this
1367
 
        platform or Python version.
1368
 
    """
1369
 
    try:
1370
 
        import signal
1371
 
        siginterrupt = signal.siginterrupt
1372
 
    except ImportError:
1373
 
        # This python implementation doesn't provide signal support, hence no
1374
 
        # handler exists
1375
 
        return None
1376
 
    except AttributeError:
1377
 
        # siginterrupt doesn't exist on this platform, or for this version
1378
 
        # of Python.
1379
 
        siginterrupt = lambda signum, flag: None
1380
 
    if restart_syscall:
1381
 
        def sig_handler(*args):
1382
 
            # Python resets the siginterrupt flag when a signal is
1383
 
            # received.  <http://bugs.python.org/issue8354>
1384
 
            # As a workaround for some cases, set it back the way we want it.
1385
 
            siginterrupt(signum, False)
1386
 
            # Now run the handler function passed to set_signal_handler.
1387
 
            handler(*args)
1388
 
    else:
1389
 
        sig_handler = handler
1390
 
    old_handler = signal.signal(signum, sig_handler)
1391
 
    if restart_syscall:
1392
 
        siginterrupt(signum, False)
1393
 
    return old_handler
1394
 
 
1395
 
 
1396
 
default_terminal_width = 80
1397
 
"""The default terminal width for ttys.
1398
 
 
1399
 
This is defined so that higher levels can share a common fallback value when
1400
 
terminal_width() returns None.
1401
 
"""
1402
 
 
1403
 
# Keep some state so that terminal_width can detect if _terminal_size has
1404
 
# returned a different size since the process started.  See docstring and
1405
 
# comments of terminal_width for details.
1406
 
# _terminal_size_state has 3 possible values: no_data, unchanged, and changed.
1407
 
_terminal_size_state = 'no_data'
1408
 
_first_terminal_size = None
1409
 
 
1410
1241
def terminal_width():
1411
 
    """Return terminal width.
1412
 
 
1413
 
    None is returned if the width can't established precisely.
1414
 
 
1415
 
    The rules are:
1416
 
    - if BZR_COLUMNS is set, returns its value
1417
 
    - if there is no controlling terminal, returns None
1418
 
    - query the OS, if the queried size has changed since the last query,
1419
 
      return its value,
1420
 
    - if COLUMNS is set, returns its value,
1421
 
    - if the OS has a value (even though it's never changed), return its value.
1422
 
 
1423
 
    From there, we need to query the OS to get the size of the controlling
1424
 
    terminal.
1425
 
 
1426
 
    On Unices we query the OS by:
1427
 
    - get termios.TIOCGWINSZ
1428
 
    - if an error occurs or a negative value is obtained, returns None
1429
 
 
1430
 
    On Windows we query the OS by:
1431
 
    - win32utils.get_console_size() decides,
1432
 
    - returns None on error (provided default value)
1433
 
    """
1434
 
    # Note to implementors: if changing the rules for determining the width,
1435
 
    # make sure you've considered the behaviour in these cases:
1436
 
    #  - M-x shell in emacs, where $COLUMNS is set and TIOCGWINSZ returns 0,0.
1437
 
    #  - bzr log | less, in bash, where $COLUMNS not set and TIOCGWINSZ returns
1438
 
    #    0,0.
1439
 
    #  - (add more interesting cases here, if you find any)
1440
 
    # Some programs implement "Use $COLUMNS (if set) until SIGWINCH occurs",
1441
 
    # but we don't want to register a signal handler because it is impossible
1442
 
    # to do so without risking EINTR errors in Python <= 2.6.5 (see
1443
 
    # <http://bugs.python.org/issue8354>).  Instead we check TIOCGWINSZ every
1444
 
    # time so we can notice if the reported size has changed, which should have
1445
 
    # a similar effect.
1446
 
 
1447
 
    # If BZR_COLUMNS is set, take it, user is always right
1448
 
    try:
1449
 
        return int(os.environ['BZR_COLUMNS'])
1450
 
    except (KeyError, ValueError):
1451
 
        pass
1452
 
 
1453
 
    isatty = getattr(sys.stdout, 'isatty', None)
1454
 
    if isatty is None or not isatty():
1455
 
        # Don't guess, setting BZR_COLUMNS is the recommended way to override.
1456
 
        return None
1457
 
 
1458
 
    # Query the OS
1459
 
    width, height = os_size = _terminal_size(None, None)
1460
 
    global _first_terminal_size, _terminal_size_state
1461
 
    if _terminal_size_state == 'no_data':
1462
 
        _first_terminal_size = os_size
1463
 
        _terminal_size_state = 'unchanged'
1464
 
    elif (_terminal_size_state == 'unchanged' and
1465
 
          _first_terminal_size != os_size):
1466
 
        _terminal_size_state = 'changed'
1467
 
 
1468
 
    # If the OS claims to know how wide the terminal is, and this value has
1469
 
    # ever changed, use that.
1470
 
    if _terminal_size_state == 'changed':
1471
 
        if width is not None and width > 0:
1472
 
            return width
1473
 
 
1474
 
    # If COLUMNS is set, use it.
1475
 
    try:
1476
 
        return int(os.environ['COLUMNS'])
1477
 
    except (KeyError, ValueError):
1478
 
        pass
1479
 
 
1480
 
    # Finally, use an unchanged size from the OS, if we have one.
1481
 
    if _terminal_size_state == 'unchanged':
1482
 
        if width is not None and width > 0:
1483
 
            return width
1484
 
 
1485
 
    # The width could not be determined.
1486
 
    return None
1487
 
 
1488
 
 
1489
 
def _win32_terminal_size(width, height):
1490
 
    width, height = win32utils.get_console_size(defaultx=width, defaulty=height)
1491
 
    return width, height
1492
 
 
1493
 
 
1494
 
def _ioctl_terminal_size(width, height):
 
1242
    """Return estimated terminal width."""
 
1243
    if sys.platform == 'win32':
 
1244
        return win32utils.get_console_size()[0]
 
1245
    width = 0
1495
1246
    try:
1496
1247
        import struct, fcntl, termios
1497
1248
        s = struct.pack('HHHH', 0, 0, 0, 0)
1498
1249
        x = fcntl.ioctl(1, termios.TIOCGWINSZ, s)
1499
 
        height, width = struct.unpack('HHHH', x)[0:2]
1500
 
    except (IOError, AttributeError):
 
1250
        width = struct.unpack('HHHH', x)[1]
 
1251
    except IOError:
1501
1252
        pass
1502
 
    return width, height
1503
 
 
1504
 
_terminal_size = None
1505
 
"""Returns the terminal size as (width, height).
1506
 
 
1507
 
:param width: Default value for width.
1508
 
:param height: Default value for height.
1509
 
 
1510
 
This is defined specifically for each OS and query the size of the controlling
1511
 
terminal. If any error occurs, the provided default values should be returned.
1512
 
"""
1513
 
if sys.platform == 'win32':
1514
 
    _terminal_size = _win32_terminal_size
1515
 
else:
1516
 
    _terminal_size = _ioctl_terminal_size
 
1253
    if width <= 0:
 
1254
        try:
 
1255
            width = int(os.environ['COLUMNS'])
 
1256
        except:
 
1257
            pass
 
1258
    if width <= 0:
 
1259
        width = 80
 
1260
 
 
1261
    return width
1517
1262
 
1518
1263
 
1519
1264
def supports_executable():
1721
1466
            try:
1722
1467
                from bzrlib._readdir_pyx import UTF8DirReader
1723
1468
                _selected_dir_reader = UTF8DirReader()
1724
 
            except ImportError, e:
1725
 
                failed_to_load_extension(e)
 
1469
            except ImportError:
1726
1470
                pass
1727
1471
 
1728
1472
    if _selected_dir_reader is None:
1839
1583
            real_handlers[kind](abspath, relpath)
1840
1584
 
1841
1585
 
1842
 
def copy_ownership_from_path(dst, src=None):
1843
 
    """Copy usr/grp ownership from src file/dir to dst file/dir.
1844
 
 
1845
 
    If src is None, the containing directory is used as source. If chown
1846
 
    fails, the error is ignored and a warning is printed.
1847
 
    """
1848
 
    chown = getattr(os, 'chown', None)
1849
 
    if chown is None:
1850
 
        return
1851
 
 
1852
 
    if src == None:
1853
 
        src = os.path.dirname(dst)
1854
 
        if src == '':
1855
 
            src = '.'
1856
 
 
1857
 
    try:
1858
 
        s = os.stat(src)
1859
 
        chown(dst, s.st_uid, s.st_gid)
1860
 
    except OSError, e:
1861
 
        trace.warning("Unable to copy ownership from '%s' to '%s': IOError: %s." % (src, dst, e))
1862
 
 
1863
 
 
1864
1586
def path_prefix_key(path):
1865
1587
    """Generate a prefix-order path key for path.
1866
1588
 
1966
1688
        return socket.gethostname().decode(get_user_encoding())
1967
1689
 
1968
1690
 
1969
 
# We must not read/write any more than 64k at a time from/to a socket so we
1970
 
# don't risk "no buffer space available" errors on some platforms.  Windows in
1971
 
# particular is likely to throw WSAECONNABORTED or WSAENOBUFS if given too much
1972
 
# data at once.
1973
 
MAX_SOCKET_CHUNK = 64 * 1024
1974
 
 
1975
 
def read_bytes_from_socket(sock, report_activity=None,
1976
 
        max_read_size=MAX_SOCKET_CHUNK):
1977
 
    """Read up to max_read_size of bytes from sock and notify of progress.
1978
 
 
1979
 
    Translates "Connection reset by peer" into file-like EOF (return an
1980
 
    empty string rather than raise an error), and repeats the recv if
1981
 
    interrupted by a signal.
1982
 
    """
1983
 
    while 1:
1984
 
        try:
1985
 
            bytes = sock.recv(max_read_size)
1986
 
        except socket.error, e:
1987
 
            eno = e.args[0]
1988
 
            if eno == getattr(errno, "WSAECONNRESET", errno.ECONNRESET):
1989
 
                # The connection was closed by the other side.  Callers expect
1990
 
                # an empty string to signal end-of-stream.
1991
 
                return ""
1992
 
            elif eno == errno.EINTR:
1993
 
                # Retry the interrupted recv.
1994
 
                continue
1995
 
            raise
1996
 
        else:
1997
 
            if report_activity is not None:
1998
 
                report_activity(len(bytes), 'read')
1999
 
            return bytes
2000
 
 
2001
 
 
2002
 
def recv_all(socket, count):
 
1691
def recv_all(socket, bytes):
2003
1692
    """Receive an exact number of bytes.
2004
1693
 
2005
1694
    Regular Socket.recv() may return less than the requested number of bytes,
2006
 
    depending on what's in the OS buffer.  MSG_WAITALL is not available
 
1695
    dependning on what's in the OS buffer.  MSG_WAITALL is not available
2007
1696
    on all platforms, but this should work everywhere.  This will return
2008
1697
    less than the requested amount if the remote end closes.
2009
1698
 
2010
1699
    This isn't optimized and is intended mostly for use in testing.
2011
1700
    """
2012
1701
    b = ''
2013
 
    while len(b) < count:
2014
 
        new = read_bytes_from_socket(socket, None, count - len(b))
 
1702
    while len(b) < bytes:
 
1703
        new = until_no_eintr(socket.recv, bytes - len(b))
2015
1704
        if new == '':
2016
1705
            break # eof
2017
1706
        b += new
2018
1707
    return b
2019
1708
 
2020
1709
 
2021
 
def send_all(sock, bytes, report_activity=None):
 
1710
def send_all(socket, bytes, report_activity=None):
2022
1711
    """Send all bytes on a socket.
2023
 
 
2024
 
    Breaks large blocks in smaller chunks to avoid buffering limitations on
2025
 
    some platforms, and catches EINTR which may be thrown if the send is
2026
 
    interrupted by a signal.
2027
 
 
2028
 
    This is preferred to socket.sendall(), because it avoids portability bugs
2029
 
    and provides activity reporting.
2030
 
 
 
1712
 
 
1713
    Regular socket.sendall() can give socket error 10053 on Windows.  This
 
1714
    implementation sends no more than 64k at a time, which avoids this problem.
 
1715
 
2031
1716
    :param report_activity: Call this as bytes are read, see
2032
1717
        Transport._report_activity
2033
1718
    """
2034
 
    sent_total = 0
2035
 
    byte_count = len(bytes)
2036
 
    while sent_total < byte_count:
2037
 
        try:
2038
 
            sent = sock.send(buffer(bytes, sent_total, MAX_SOCKET_CHUNK))
2039
 
        except socket.error, e:
2040
 
            if e.args[0] != errno.EINTR:
2041
 
                raise
2042
 
        else:
2043
 
            sent_total += sent
2044
 
            report_activity(sent, 'write')
 
1719
    chunk_size = 2**16
 
1720
    for pos in xrange(0, len(bytes), chunk_size):
 
1721
        block = bytes[pos:pos+chunk_size]
 
1722
        if report_activity is not None:
 
1723
            report_activity(len(block), 'write')
 
1724
        until_no_eintr(socket.sendall, block)
2045
1725
 
2046
1726
 
2047
1727
def dereference_path(path):
2088
1768
    base = dirname(bzrlib.__file__)
2089
1769
    if getattr(sys, 'frozen', None):    # bzr.exe
2090
1770
        base = abspath(pathjoin(base, '..', '..'))
2091
 
    f = file(pathjoin(base, resource_relpath), "rU")
2092
 
    try:
2093
 
        return f.read()
2094
 
    finally:
2095
 
        f.close()
 
1771
    filename = pathjoin(base, resource_relpath)
 
1772
    return open(filename, 'rU').read()
 
1773
 
2096
1774
 
2097
1775
def file_kind_from_stat_mode_thunk(mode):
2098
1776
    global file_kind_from_stat_mode
2100
1778
        try:
2101
1779
            from bzrlib._readdir_pyx import UTF8DirReader
2102
1780
            file_kind_from_stat_mode = UTF8DirReader().kind_from_mode
2103
 
        except ImportError, e:
2104
 
            # This is one time where we won't warn that an extension failed to
2105
 
            # load. The extension is never available on Windows anyway.
 
1781
        except ImportError:
2106
1782
            from bzrlib._readdir_py import (
2107
1783
                _kind_from_mode as file_kind_from_stat_mode
2108
1784
                )
2120
1796
 
2121
1797
 
2122
1798
def until_no_eintr(f, *a, **kw):
2123
 
    """Run f(*a, **kw), retrying if an EINTR error occurs.
2124
 
    
2125
 
    WARNING: you must be certain that it is safe to retry the call repeatedly
2126
 
    if EINTR does occur.  This is typically only true for low-level operations
2127
 
    like os.read.  If in any doubt, don't use this.
2128
 
 
2129
 
    Keep in mind that this is not a complete solution to EINTR.  There is
2130
 
    probably code in the Python standard library and other dependencies that
2131
 
    may encounter EINTR if a signal arrives (and there is signal handler for
2132
 
    that signal).  So this function can reduce the impact for IO that bzrlib
2133
 
    directly controls, but it is not a complete solution.
2134
 
    """
 
1799
    """Run f(*a, **kw), retrying if an EINTR error occurs."""
2135
1800
    # Borrowed from Twisted's twisted.python.util.untilConcludes function.
2136
1801
    while True:
2137
1802
        try:
2141
1806
                continue
2142
1807
            raise
2143
1808
 
2144
 
 
2145
1809
def re_compile_checked(re_string, flags=0, where=""):
2146
1810
    """Return a compiled re, or raise a sensible error.
2147
1811
 
2222
1886
    anything goes wrong.
2223
1887
    """
2224
1888
    global _cached_local_concurrency
2225
 
 
2226
1889
    if _cached_local_concurrency is not None and use_cache:
2227
1890
        return _cached_local_concurrency
2228
1891
 
2229
 
    concurrency = os.environ.get('BZR_CONCURRENCY', None)
2230
 
    if concurrency is None:
2231
 
        try:
2232
 
            concurrency = _local_concurrency()
2233
 
        except (OSError, IOError):
2234
 
            pass
 
1892
    try:
 
1893
        concurrency = _local_concurrency()
 
1894
    except (OSError, IOError):
 
1895
        concurrency = None
2235
1896
    try:
2236
1897
        concurrency = int(concurrency)
2237
1898
    except (TypeError, ValueError):
2239
1900
    if use_cache:
2240
1901
        _cached_concurrency = concurrency
2241
1902
    return concurrency
2242
 
 
2243
 
 
2244
 
class UnicodeOrBytesToBytesWriter(codecs.StreamWriter):
2245
 
    """A stream writer that doesn't decode str arguments."""
2246
 
 
2247
 
    def __init__(self, encode, stream, errors='strict'):
2248
 
        codecs.StreamWriter.__init__(self, stream, errors)
2249
 
        self.encode = encode
2250
 
 
2251
 
    def write(self, object):
2252
 
        if type(object) is str:
2253
 
            self.stream.write(object)
2254
 
        else:
2255
 
            data, _ = self.encode(object, self.errors)
2256
 
            self.stream.write(data)
2257
 
 
2258
 
if sys.platform == 'win32':
2259
 
    def open_file(filename, mode='r', bufsize=-1):
2260
 
        """This function is used to override the ``open`` builtin.
2261
 
        
2262
 
        But it uses O_NOINHERIT flag so the file handle is not inherited by
2263
 
        child processes.  Deleting or renaming a closed file opened with this
2264
 
        function is not blocking child processes.
2265
 
        """
2266
 
        writing = 'w' in mode
2267
 
        appending = 'a' in mode
2268
 
        updating = '+' in mode
2269
 
        binary = 'b' in mode
2270
 
 
2271
 
        flags = O_NOINHERIT
2272
 
        # see http://msdn.microsoft.com/en-us/library/yeby3zcb%28VS.71%29.aspx
2273
 
        # for flags for each modes.
2274
 
        if binary:
2275
 
            flags |= O_BINARY
2276
 
        else:
2277
 
            flags |= O_TEXT
2278
 
 
2279
 
        if writing:
2280
 
            if updating:
2281
 
                flags |= os.O_RDWR
2282
 
            else:
2283
 
                flags |= os.O_WRONLY
2284
 
            flags |= os.O_CREAT | os.O_TRUNC
2285
 
        elif appending:
2286
 
            if updating:
2287
 
                flags |= os.O_RDWR
2288
 
            else:
2289
 
                flags |= os.O_WRONLY
2290
 
            flags |= os.O_CREAT | os.O_APPEND
2291
 
        else: #reading
2292
 
            if updating:
2293
 
                flags |= os.O_RDWR
2294
 
            else:
2295
 
                flags |= os.O_RDONLY
2296
 
 
2297
 
        return os.fdopen(os.open(filename, flags), mode, bufsize)
2298
 
else:
2299
 
    open_file = open
2300
 
 
2301
 
 
2302
 
def getuser_unicode():
2303
 
    """Return the username as unicode.
2304
 
    """
2305
 
    try:
2306
 
        user_encoding = get_user_encoding()
2307
 
        username = getpass.getuser().decode(user_encoding)
2308
 
    except UnicodeDecodeError:
2309
 
        raise errors.BzrError("Can't decode username as %s." % \
2310
 
                user_encoding)
2311
 
    return username