/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/osutils.py

  • Committer: Alexander Belchenko
  • Date: 2007-01-10 06:01:49 UTC
  • mto: This revision was merged to the branch mainline in revision 2228.
  • Revision ID: bialix@ukr.net-20070110060149-5l6tkxfk19twivei
Fit output of 'bzr help' to 25 lines DOS console

Show diffs side-by-side

added added

removed removed

Lines of Context:
 
1
# Copyright (C) 2005, 2006 Canonical Ltd
 
2
#
 
3
# This program is free software; you can redistribute it and/or modify
 
4
# it under the terms of the GNU General Public License as published by
 
5
# the Free Software Foundation; either version 2 of the License, or
 
6
# (at your option) any later version.
 
7
#
 
8
# This program is distributed in the hope that it will be useful,
 
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
 
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
11
# GNU General Public License for more details.
 
12
#
 
13
# You should have received a copy of the GNU General Public License
 
14
# along with this program; if not, write to the Free Software
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
16
 
 
17
from cStringIO import StringIO
 
18
import os
 
19
import re
 
20
import stat
 
21
from stat import (S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE,
 
22
                  S_ISCHR, S_ISBLK, S_ISFIFO, S_ISSOCK)
 
23
import sys
 
24
import time
 
25
 
 
26
from bzrlib.lazy_import import lazy_import
 
27
lazy_import(globals(), """
 
28
from datetime import datetime
 
29
import errno
 
30
from ntpath import (abspath as _nt_abspath,
 
31
                    join as _nt_join,
 
32
                    normpath as _nt_normpath,
 
33
                    realpath as _nt_realpath,
 
34
                    splitdrive as _nt_splitdrive,
 
35
                    )
 
36
import posixpath
 
37
import sha
 
38
import shutil
 
39
from shutil import (
 
40
    rmtree,
 
41
    )
 
42
import string
 
43
import tempfile
 
44
from tempfile import (
 
45
    mkdtemp,
 
46
    )
 
47
import unicodedata
 
48
 
 
49
from bzrlib import (
 
50
    errors,
 
51
    )
 
52
""")
 
53
 
 
54
import bzrlib
 
55
from bzrlib.symbol_versioning import (
 
56
    deprecated_function,
 
57
    zero_nine,
 
58
    )
 
59
from bzrlib.trace import mutter
 
60
 
 
61
 
 
62
# On win32, O_BINARY is used to indicate the file should
 
63
# be opened in binary mode, rather than text mode.
 
64
# On other platforms, O_BINARY doesn't exist, because
 
65
# they always open in binary mode, so it is okay to
 
66
# OR with 0 on those platforms
 
67
O_BINARY = getattr(os, 'O_BINARY', 0)
 
68
 
 
69
 
 
70
def make_readonly(filename):
 
71
    """Make a filename read-only."""
 
72
    mod = os.stat(filename).st_mode
 
73
    mod = mod & 0777555
 
74
    os.chmod(filename, mod)
 
75
 
 
76
 
 
77
def make_writable(filename):
 
78
    mod = os.stat(filename).st_mode
 
79
    mod = mod | 0200
 
80
    os.chmod(filename, mod)
 
81
 
 
82
 
 
83
_QUOTE_RE = None
 
84
 
 
85
 
 
86
def quotefn(f):
 
87
    """Return a quoted filename filename
 
88
 
 
89
    This previously used backslash quoting, but that works poorly on
 
90
    Windows."""
 
91
    # TODO: I'm not really sure this is the best format either.x
 
92
    global _QUOTE_RE
 
93
    if _QUOTE_RE is None:
 
94
        _QUOTE_RE = re.compile(r'([^a-zA-Z0-9.,:/\\_~-])')
 
95
        
 
96
    if _QUOTE_RE.search(f):
 
97
        return '"' + f + '"'
 
98
    else:
 
99
        return f
 
100
 
 
101
 
 
102
_directory_kind = 'directory'
 
103
 
 
104
_formats = {
 
105
    stat.S_IFDIR:_directory_kind,
 
106
    stat.S_IFCHR:'chardev',
 
107
    stat.S_IFBLK:'block',
 
108
    stat.S_IFREG:'file',
 
109
    stat.S_IFIFO:'fifo',
 
110
    stat.S_IFLNK:'symlink',
 
111
    stat.S_IFSOCK:'socket',
 
112
}
 
113
 
 
114
 
 
115
def file_kind_from_stat_mode(stat_mode, _formats=_formats, _unknown='unknown'):
 
116
    """Generate a file kind from a stat mode. This is used in walkdirs.
 
117
 
 
118
    Its performance is critical: Do not mutate without careful benchmarking.
 
119
    """
 
120
    try:
 
121
        return _formats[stat_mode & 0170000]
 
122
    except KeyError:
 
123
        return _unknown
 
124
 
 
125
 
 
126
def file_kind(f, _lstat=os.lstat, _mapper=file_kind_from_stat_mode):
 
127
    try:
 
128
        return _mapper(_lstat(f).st_mode)
 
129
    except OSError, e:
 
130
        if getattr(e, 'errno', None) == errno.ENOENT:
 
131
            raise errors.NoSuchFile(f)
 
132
        raise
 
133
 
 
134
 
 
135
def get_umask():
 
136
    """Return the current umask"""
 
137
    # Assume that people aren't messing with the umask while running
 
138
    # XXX: This is not thread safe, but there is no way to get the
 
139
    #      umask without setting it
 
140
    umask = os.umask(0)
 
141
    os.umask(umask)
 
142
    return umask
 
143
 
 
144
 
 
145
def kind_marker(kind):
 
146
    if kind == 'file':
 
147
        return ''
 
148
    elif kind == _directory_kind:
 
149
        return '/'
 
150
    elif kind == 'symlink':
 
151
        return '@'
 
152
    else:
 
153
        raise errors.BzrError('invalid file kind %r' % kind)
 
154
 
 
155
lexists = getattr(os.path, 'lexists', None)
 
156
if lexists is None:
 
157
    def lexists(f):
 
158
        try:
 
159
            if getattr(os, 'lstat') is not None:
 
160
                os.lstat(f)
 
161
            else:
 
162
                os.stat(f)
 
163
            return True
 
164
        except OSError,e:
 
165
            if e.errno == errno.ENOENT:
 
166
                return False;
 
167
            else:
 
168
                raise errors.BzrError("lstat/stat of (%r): %r" % (f, e))
 
169
 
 
170
 
 
171
def fancy_rename(old, new, rename_func, unlink_func):
 
172
    """A fancy rename, when you don't have atomic rename.
 
173
    
 
174
    :param old: The old path, to rename from
 
175
    :param new: The new path, to rename to
 
176
    :param rename_func: The potentially non-atomic rename function
 
177
    :param unlink_func: A way to delete the target file if the full rename succeeds
 
178
    """
 
179
 
 
180
    # sftp rename doesn't allow overwriting, so play tricks:
 
181
    import random
 
182
    base = os.path.basename(new)
 
183
    dirname = os.path.dirname(new)
 
184
    tmp_name = u'tmp.%s.%.9f.%d.%s' % (base, time.time(), os.getpid(), rand_chars(10))
 
185
    tmp_name = pathjoin(dirname, tmp_name)
 
186
 
 
187
    # Rename the file out of the way, but keep track if it didn't exist
 
188
    # We don't want to grab just any exception
 
189
    # something like EACCES should prevent us from continuing
 
190
    # The downside is that the rename_func has to throw an exception
 
191
    # with an errno = ENOENT, or NoSuchFile
 
192
    file_existed = False
 
193
    try:
 
194
        rename_func(new, tmp_name)
 
195
    except (errors.NoSuchFile,), e:
 
196
        pass
 
197
    except IOError, e:
 
198
        # RBC 20060103 abstraction leakage: the paramiko SFTP clients rename
 
199
        # function raises an IOError with errno is None when a rename fails.
 
200
        # This then gets caught here.
 
201
        if e.errno not in (None, errno.ENOENT, errno.ENOTDIR):
 
202
            raise
 
203
    except Exception, e:
 
204
        if (getattr(e, 'errno', None) is None
 
205
            or e.errno not in (errno.ENOENT, errno.ENOTDIR)):
 
206
            raise
 
207
    else:
 
208
        file_existed = True
 
209
 
 
210
    success = False
 
211
    try:
 
212
        # This may throw an exception, in which case success will
 
213
        # not be set.
 
214
        rename_func(old, new)
 
215
        success = True
 
216
    finally:
 
217
        if file_existed:
 
218
            # If the file used to exist, rename it back into place
 
219
            # otherwise just delete it from the tmp location
 
220
            if success:
 
221
                unlink_func(tmp_name)
 
222
            else:
 
223
                rename_func(tmp_name, new)
 
224
 
 
225
 
 
226
# In Python 2.4.2 and older, os.path.abspath and os.path.realpath
 
227
# choke on a Unicode string containing a relative path if
 
228
# os.getcwd() returns a non-sys.getdefaultencoding()-encoded
 
229
# string.
 
230
_fs_enc = sys.getfilesystemencoding() or 'utf-8'
 
231
def _posix_abspath(path):
 
232
    # jam 20060426 rather than encoding to fsencoding
 
233
    # copy posixpath.abspath, but use os.getcwdu instead
 
234
    if not posixpath.isabs(path):
 
235
        path = posixpath.join(getcwd(), path)
 
236
    return posixpath.normpath(path)
 
237
 
 
238
 
 
239
def _posix_realpath(path):
 
240
    return posixpath.realpath(path.encode(_fs_enc)).decode(_fs_enc)
 
241
 
 
242
 
 
243
def _win32_fixdrive(path):
 
244
    """Force drive letters to be consistent.
 
245
 
 
246
    win32 is inconsistent whether it returns lower or upper case
 
247
    and even if it was consistent the user might type the other
 
248
    so we force it to uppercase
 
249
    running python.exe under cmd.exe return capital C:\\
 
250
    running win32 python inside a cygwin shell returns lowercase c:\\
 
251
    """
 
252
    drive, path = _nt_splitdrive(path)
 
253
    return drive.upper() + path
 
254
 
 
255
 
 
256
def _win32_abspath(path):
 
257
    # Real _nt_abspath doesn't have a problem with a unicode cwd
 
258
    return _win32_fixdrive(_nt_abspath(unicode(path)).replace('\\', '/'))
 
259
 
 
260
 
 
261
def _win32_realpath(path):
 
262
    # Real _nt_realpath doesn't have a problem with a unicode cwd
 
263
    return _win32_fixdrive(_nt_realpath(unicode(path)).replace('\\', '/'))
 
264
 
 
265
 
 
266
def _win32_pathjoin(*args):
 
267
    return _nt_join(*args).replace('\\', '/')
 
268
 
 
269
 
 
270
def _win32_normpath(path):
 
271
    return _win32_fixdrive(_nt_normpath(unicode(path)).replace('\\', '/'))
 
272
 
 
273
 
 
274
def _win32_getcwd():
 
275
    return _win32_fixdrive(os.getcwdu().replace('\\', '/'))
 
276
 
 
277
 
 
278
def _win32_mkdtemp(*args, **kwargs):
 
279
    return _win32_fixdrive(tempfile.mkdtemp(*args, **kwargs).replace('\\', '/'))
 
280
 
 
281
 
 
282
def _win32_rename(old, new):
 
283
    """We expect to be able to atomically replace 'new' with old.
 
284
 
 
285
    On win32, if new exists, it must be moved out of the way first,
 
286
    and then deleted. 
 
287
    """
 
288
    try:
 
289
        fancy_rename(old, new, rename_func=os.rename, unlink_func=os.unlink)
 
290
    except OSError, e:
 
291
        if e.errno in (errno.EPERM, errno.EACCES, errno.EBUSY, errno.EINVAL):
 
292
            # If we try to rename a non-existant file onto cwd, we get 
 
293
            # EPERM or EACCES instead of ENOENT, this will raise ENOENT 
 
294
            # if the old path doesn't exist, sometimes we get EACCES
 
295
            # On Linux, we seem to get EBUSY, on Mac we get EINVAL
 
296
            os.lstat(old)
 
297
        raise
 
298
 
 
299
 
 
300
def _mac_getcwd():
 
301
    return unicodedata.normalize('NFKC', os.getcwdu())
 
302
 
 
303
 
 
304
# Default is to just use the python builtins, but these can be rebound on
 
305
# particular platforms.
 
306
abspath = _posix_abspath
 
307
realpath = _posix_realpath
 
308
pathjoin = os.path.join
 
309
normpath = os.path.normpath
 
310
getcwd = os.getcwdu
 
311
rename = os.rename
 
312
dirname = os.path.dirname
 
313
basename = os.path.basename
 
314
split = os.path.split
 
315
splitext = os.path.splitext
 
316
# These were already imported into local scope
 
317
# mkdtemp = tempfile.mkdtemp
 
318
# rmtree = shutil.rmtree
 
319
 
 
320
MIN_ABS_PATHLENGTH = 1
 
321
 
 
322
 
 
323
if sys.platform == 'win32':
 
324
    abspath = _win32_abspath
 
325
    realpath = _win32_realpath
 
326
    pathjoin = _win32_pathjoin
 
327
    normpath = _win32_normpath
 
328
    getcwd = _win32_getcwd
 
329
    mkdtemp = _win32_mkdtemp
 
330
    rename = _win32_rename
 
331
 
 
332
    MIN_ABS_PATHLENGTH = 3
 
333
 
 
334
    def _win32_delete_readonly(function, path, excinfo):
 
335
        """Error handler for shutil.rmtree function [for win32]
 
336
        Helps to remove files and dirs marked as read-only.
 
337
        """
 
338
        exception = excinfo[1]
 
339
        if function in (os.remove, os.rmdir) \
 
340
            and isinstance(exception, OSError) \
 
341
            and exception.errno == errno.EACCES:
 
342
            make_writable(path)
 
343
            function(path)
 
344
        else:
 
345
            raise
 
346
 
 
347
    def rmtree(path, ignore_errors=False, onerror=_win32_delete_readonly):
 
348
        """Replacer for shutil.rmtree: could remove readonly dirs/files"""
 
349
        return shutil.rmtree(path, ignore_errors, onerror)
 
350
elif sys.platform == 'darwin':
 
351
    getcwd = _mac_getcwd
 
352
 
 
353
 
 
354
def get_terminal_encoding():
 
355
    """Find the best encoding for printing to the screen.
 
356
 
 
357
    This attempts to check both sys.stdout and sys.stdin to see
 
358
    what encoding they are in, and if that fails it falls back to
 
359
    bzrlib.user_encoding.
 
360
    The problem is that on Windows, locale.getpreferredencoding()
 
361
    is not the same encoding as that used by the console:
 
362
    http://mail.python.org/pipermail/python-list/2003-May/162357.html
 
363
 
 
364
    On my standard US Windows XP, the preferred encoding is
 
365
    cp1252, but the console is cp437
 
366
    """
 
367
    output_encoding = getattr(sys.stdout, 'encoding', None)
 
368
    if not output_encoding:
 
369
        input_encoding = getattr(sys.stdin, 'encoding', None)
 
370
        if not input_encoding:
 
371
            output_encoding = bzrlib.user_encoding
 
372
            mutter('encoding stdout as bzrlib.user_encoding %r', output_encoding)
 
373
        else:
 
374
            output_encoding = input_encoding
 
375
            mutter('encoding stdout as sys.stdin encoding %r', output_encoding)
 
376
    else:
 
377
        mutter('encoding stdout as sys.stdout encoding %r', output_encoding)
 
378
    if output_encoding == 'cp0':
 
379
        # invalid encoding (cp0 means 'no codepage' on Windows)
 
380
        output_encoding = bzrlib.user_encoding
 
381
        mutter('cp0 is invalid encoding.'
 
382
               ' encoding stdout as bzrlib.user_encoding %r', output_encoding)
 
383
    return output_encoding
 
384
 
 
385
 
 
386
def normalizepath(f):
 
387
    if getattr(os.path, 'realpath', None) is not None:
 
388
        F = realpath
 
389
    else:
 
390
        F = abspath
 
391
    [p,e] = os.path.split(f)
 
392
    if e == "" or e == "." or e == "..":
 
393
        return F(f)
 
394
    else:
 
395
        return pathjoin(F(p), e)
 
396
 
 
397
 
 
398
def backup_file(fn):
 
399
    """Copy a file to a backup.
 
400
 
 
401
    Backups are named in GNU-style, with a ~ suffix.
 
402
 
 
403
    If the file is already a backup, it's not copied.
 
404
    """
 
405
    if fn[-1] == '~':
 
406
        return
 
407
    bfn = fn + '~'
 
408
 
 
409
    if has_symlinks() and os.path.islink(fn):
 
410
        target = os.readlink(fn)
 
411
        os.symlink(target, bfn)
 
412
        return
 
413
    inf = file(fn, 'rb')
 
414
    try:
 
415
        content = inf.read()
 
416
    finally:
 
417
        inf.close()
 
418
    
 
419
    outf = file(bfn, 'wb')
 
420
    try:
 
421
        outf.write(content)
 
422
    finally:
 
423
        outf.close()
 
424
 
 
425
 
 
426
def isdir(f):
 
427
    """True if f is an accessible directory."""
 
428
    try:
 
429
        return S_ISDIR(os.lstat(f)[ST_MODE])
 
430
    except OSError:
 
431
        return False
 
432
 
 
433
 
 
434
def isfile(f):
 
435
    """True if f is a regular file."""
 
436
    try:
 
437
        return S_ISREG(os.lstat(f)[ST_MODE])
 
438
    except OSError:
 
439
        return False
 
440
 
 
441
def islink(f):
 
442
    """True if f is a symlink."""
 
443
    try:
 
444
        return S_ISLNK(os.lstat(f)[ST_MODE])
 
445
    except OSError:
 
446
        return False
 
447
 
 
448
def is_inside(dir, fname):
 
449
    """True if fname is inside dir.
 
450
    
 
451
    The parameters should typically be passed to osutils.normpath first, so
 
452
    that . and .. and repeated slashes are eliminated, and the separators
 
453
    are canonical for the platform.
 
454
    
 
455
    The empty string as a dir name is taken as top-of-tree and matches 
 
456
    everything.
 
457
    """
 
458
    # XXX: Most callers of this can actually do something smarter by 
 
459
    # looking at the inventory
 
460
    if dir == fname:
 
461
        return True
 
462
    
 
463
    if dir == '':
 
464
        return True
 
465
 
 
466
    if dir[-1] != '/':
 
467
        dir += '/'
 
468
 
 
469
    return fname.startswith(dir)
 
470
 
 
471
 
 
472
def is_inside_any(dir_list, fname):
 
473
    """True if fname is inside any of given dirs."""
 
474
    for dirname in dir_list:
 
475
        if is_inside(dirname, fname):
 
476
            return True
 
477
    else:
 
478
        return False
 
479
 
 
480
 
 
481
def is_inside_or_parent_of_any(dir_list, fname):
 
482
    """True if fname is a child or a parent of any of the given files."""
 
483
    for dirname in dir_list:
 
484
        if is_inside(dirname, fname) or is_inside(fname, dirname):
 
485
            return True
 
486
    else:
 
487
        return False
 
488
 
 
489
 
 
490
def pumpfile(fromfile, tofile):
 
491
    """Copy contents of one file to another."""
 
492
    BUFSIZE = 32768
 
493
    while True:
 
494
        b = fromfile.read(BUFSIZE)
 
495
        if not b:
 
496
            break
 
497
        tofile.write(b)
 
498
 
 
499
 
 
500
def file_iterator(input_file, readsize=32768):
 
501
    while True:
 
502
        b = input_file.read(readsize)
 
503
        if len(b) == 0:
 
504
            break
 
505
        yield b
 
506
 
 
507
 
 
508
def sha_file(f):
 
509
    if getattr(f, 'tell', None) is not None:
 
510
        assert f.tell() == 0
 
511
    s = sha.new()
 
512
    BUFSIZE = 128<<10
 
513
    while True:
 
514
        b = f.read(BUFSIZE)
 
515
        if not b:
 
516
            break
 
517
        s.update(b)
 
518
    return s.hexdigest()
 
519
 
 
520
 
 
521
 
 
522
def sha_strings(strings):
 
523
    """Return the sha-1 of concatenation of strings"""
 
524
    s = sha.new()
 
525
    map(s.update, strings)
 
526
    return s.hexdigest()
 
527
 
 
528
 
 
529
def sha_string(f):
 
530
    s = sha.new()
 
531
    s.update(f)
 
532
    return s.hexdigest()
 
533
 
 
534
 
 
535
def fingerprint_file(f):
 
536
    s = sha.new()
 
537
    b = f.read()
 
538
    s.update(b)
 
539
    size = len(b)
 
540
    return {'size': size,
 
541
            'sha1': s.hexdigest()}
 
542
 
 
543
 
 
544
def compare_files(a, b):
 
545
    """Returns true if equal in contents"""
 
546
    BUFSIZE = 4096
 
547
    while True:
 
548
        ai = a.read(BUFSIZE)
 
549
        bi = b.read(BUFSIZE)
 
550
        if ai != bi:
 
551
            return False
 
552
        if ai == '':
 
553
            return True
 
554
 
 
555
 
 
556
def local_time_offset(t=None):
 
557
    """Return offset of local zone from GMT, either at present or at time t."""
 
558
    if t is None:
 
559
        t = time.time()
 
560
    offset = datetime.fromtimestamp(t) - datetime.utcfromtimestamp(t)
 
561
    return offset.days * 86400 + offset.seconds
 
562
 
 
563
    
 
564
def format_date(t, offset=0, timezone='original', date_fmt=None, 
 
565
                show_offset=True):
 
566
    ## TODO: Perhaps a global option to use either universal or local time?
 
567
    ## Or perhaps just let people set $TZ?
 
568
    assert isinstance(t, float)
 
569
    
 
570
    if timezone == 'utc':
 
571
        tt = time.gmtime(t)
 
572
        offset = 0
 
573
    elif timezone == 'original':
 
574
        if offset is None:
 
575
            offset = 0
 
576
        tt = time.gmtime(t + offset)
 
577
    elif timezone == 'local':
 
578
        tt = time.localtime(t)
 
579
        offset = local_time_offset(t)
 
580
    else:
 
581
        raise errors.BzrError("unsupported timezone format %r" % timezone,
 
582
                              ['options are "utc", "original", "local"'])
 
583
    if date_fmt is None:
 
584
        date_fmt = "%a %Y-%m-%d %H:%M:%S"
 
585
    if show_offset:
 
586
        offset_str = ' %+03d%02d' % (offset / 3600, (offset / 60) % 60)
 
587
    else:
 
588
        offset_str = ''
 
589
    return (time.strftime(date_fmt, tt) +  offset_str)
 
590
 
 
591
 
 
592
def compact_date(when):
 
593
    return time.strftime('%Y%m%d%H%M%S', time.gmtime(when))
 
594
    
 
595
 
 
596
def format_delta(delta):
 
597
    """Get a nice looking string for a time delta.
 
598
 
 
599
    :param delta: The time difference in seconds, can be positive or negative.
 
600
        positive indicates time in the past, negative indicates time in the
 
601
        future. (usually time.time() - stored_time)
 
602
    :return: String formatted to show approximate resolution
 
603
    """
 
604
    delta = int(delta)
 
605
    if delta >= 0:
 
606
        direction = 'ago'
 
607
    else:
 
608
        direction = 'in the future'
 
609
        delta = -delta
 
610
 
 
611
    seconds = delta
 
612
    if seconds < 90: # print seconds up to 90 seconds
 
613
        if seconds == 1:
 
614
            return '%d second %s' % (seconds, direction,)
 
615
        else:
 
616
            return '%d seconds %s' % (seconds, direction)
 
617
 
 
618
    minutes = int(seconds / 60)
 
619
    seconds -= 60 * minutes
 
620
    if seconds == 1:
 
621
        plural_seconds = ''
 
622
    else:
 
623
        plural_seconds = 's'
 
624
    if minutes < 90: # print minutes, seconds up to 90 minutes
 
625
        if minutes == 1:
 
626
            return '%d minute, %d second%s %s' % (
 
627
                    minutes, seconds, plural_seconds, direction)
 
628
        else:
 
629
            return '%d minutes, %d second%s %s' % (
 
630
                    minutes, seconds, plural_seconds, direction)
 
631
 
 
632
    hours = int(minutes / 60)
 
633
    minutes -= 60 * hours
 
634
    if minutes == 1:
 
635
        plural_minutes = ''
 
636
    else:
 
637
        plural_minutes = 's'
 
638
 
 
639
    if hours == 1:
 
640
        return '%d hour, %d minute%s %s' % (hours, minutes,
 
641
                                            plural_minutes, direction)
 
642
    return '%d hours, %d minute%s %s' % (hours, minutes,
 
643
                                         plural_minutes, direction)
 
644
 
 
645
def filesize(f):
 
646
    """Return size of given open file."""
 
647
    return os.fstat(f.fileno())[ST_SIZE]
 
648
 
 
649
 
 
650
# Define rand_bytes based on platform.
 
651
try:
 
652
    # Python 2.4 and later have os.urandom,
 
653
    # but it doesn't work on some arches
 
654
    os.urandom(1)
 
655
    rand_bytes = os.urandom
 
656
except (NotImplementedError, AttributeError):
 
657
    # If python doesn't have os.urandom, or it doesn't work,
 
658
    # then try to first pull random data from /dev/urandom
 
659
    try:
 
660
        rand_bytes = file('/dev/urandom', 'rb').read
 
661
    # Otherwise, use this hack as a last resort
 
662
    except (IOError, OSError):
 
663
        # not well seeded, but better than nothing
 
664
        def rand_bytes(n):
 
665
            import random
 
666
            s = ''
 
667
            while n:
 
668
                s += chr(random.randint(0, 255))
 
669
                n -= 1
 
670
            return s
 
671
 
 
672
 
 
673
ALNUM = '0123456789abcdefghijklmnopqrstuvwxyz'
 
674
def rand_chars(num):
 
675
    """Return a random string of num alphanumeric characters
 
676
    
 
677
    The result only contains lowercase chars because it may be used on 
 
678
    case-insensitive filesystems.
 
679
    """
 
680
    s = ''
 
681
    for raw_byte in rand_bytes(num):
 
682
        s += ALNUM[ord(raw_byte) % 36]
 
683
    return s
 
684
 
 
685
 
 
686
## TODO: We could later have path objects that remember their list
 
687
## decomposition (might be too tricksy though.)
 
688
 
 
689
def splitpath(p):
 
690
    """Turn string into list of parts."""
 
691
    assert isinstance(p, basestring)
 
692
 
 
693
    # split on either delimiter because people might use either on
 
694
    # Windows
 
695
    ps = re.split(r'[\\/]', p)
 
696
 
 
697
    rps = []
 
698
    for f in ps:
 
699
        if f == '..':
 
700
            raise errors.BzrError("sorry, %r not allowed in path" % f)
 
701
        elif (f == '.') or (f == ''):
 
702
            pass
 
703
        else:
 
704
            rps.append(f)
 
705
    return rps
 
706
 
 
707
def joinpath(p):
 
708
    assert isinstance(p, list)
 
709
    for f in p:
 
710
        if (f == '..') or (f is None) or (f == ''):
 
711
            raise errors.BzrError("sorry, %r not allowed in path" % f)
 
712
    return pathjoin(*p)
 
713
 
 
714
 
 
715
@deprecated_function(zero_nine)
 
716
def appendpath(p1, p2):
 
717
    if p1 == '':
 
718
        return p2
 
719
    else:
 
720
        return pathjoin(p1, p2)
 
721
    
 
722
 
 
723
def split_lines(s):
 
724
    """Split s into lines, but without removing the newline characters."""
 
725
    lines = s.split('\n')
 
726
    result = [line + '\n' for line in lines[:-1]]
 
727
    if lines[-1]:
 
728
        result.append(lines[-1])
 
729
    return result
 
730
 
 
731
 
 
732
def hardlinks_good():
 
733
    return sys.platform not in ('win32', 'cygwin', 'darwin')
 
734
 
 
735
 
 
736
def link_or_copy(src, dest):
 
737
    """Hardlink a file, or copy it if it can't be hardlinked."""
 
738
    if not hardlinks_good():
 
739
        shutil.copyfile(src, dest)
 
740
        return
 
741
    try:
 
742
        os.link(src, dest)
 
743
    except (OSError, IOError), e:
 
744
        if e.errno != errno.EXDEV:
 
745
            raise
 
746
        shutil.copyfile(src, dest)
 
747
 
 
748
def delete_any(full_path):
 
749
    """Delete a file or directory."""
 
750
    try:
 
751
        os.unlink(full_path)
 
752
    except OSError, e:
 
753
    # We may be renaming a dangling inventory id
 
754
        if e.errno not in (errno.EISDIR, errno.EACCES, errno.EPERM):
 
755
            raise
 
756
        os.rmdir(full_path)
 
757
 
 
758
 
 
759
def has_symlinks():
 
760
    if getattr(os, 'symlink', None) is not None:
 
761
        return True
 
762
    else:
 
763
        return False
 
764
        
 
765
 
 
766
def contains_whitespace(s):
 
767
    """True if there are any whitespace characters in s."""
 
768
    for ch in string.whitespace:
 
769
        if ch in s:
 
770
            return True
 
771
    else:
 
772
        return False
 
773
 
 
774
 
 
775
def contains_linebreaks(s):
 
776
    """True if there is any vertical whitespace in s."""
 
777
    for ch in '\f\n\r':
 
778
        if ch in s:
 
779
            return True
 
780
    else:
 
781
        return False
 
782
 
 
783
 
 
784
def relpath(base, path):
 
785
    """Return path relative to base, or raise exception.
 
786
 
 
787
    The path may be either an absolute path or a path relative to the
 
788
    current working directory.
 
789
 
 
790
    os.path.commonprefix (python2.4) has a bad bug that it works just
 
791
    on string prefixes, assuming that '/u' is a prefix of '/u2'.  This
 
792
    avoids that problem.
 
793
    """
 
794
 
 
795
    assert len(base) >= MIN_ABS_PATHLENGTH, ('Length of base must be equal or'
 
796
        ' exceed the platform minimum length (which is %d)' % 
 
797
        MIN_ABS_PATHLENGTH)
 
798
 
 
799
    rp = abspath(path)
 
800
 
 
801
    s = []
 
802
    head = rp
 
803
    while len(head) >= len(base):
 
804
        if head == base:
 
805
            break
 
806
        head, tail = os.path.split(head)
 
807
        if tail:
 
808
            s.insert(0, tail)
 
809
    else:
 
810
        raise errors.PathNotChild(rp, base)
 
811
 
 
812
    if s:
 
813
        return pathjoin(*s)
 
814
    else:
 
815
        return ''
 
816
 
 
817
 
 
818
def safe_unicode(unicode_or_utf8_string):
 
819
    """Coerce unicode_or_utf8_string into unicode.
 
820
 
 
821
    If it is unicode, it is returned.
 
822
    Otherwise it is decoded from utf-8. If a decoding error
 
823
    occurs, it is wrapped as a If the decoding fails, the exception is wrapped 
 
824
    as a BzrBadParameter exception.
 
825
    """
 
826
    if isinstance(unicode_or_utf8_string, unicode):
 
827
        return unicode_or_utf8_string
 
828
    try:
 
829
        return unicode_or_utf8_string.decode('utf8')
 
830
    except UnicodeDecodeError:
 
831
        raise errors.BzrBadParameterNotUnicode(unicode_or_utf8_string)
 
832
 
 
833
 
 
834
_platform_normalizes_filenames = False
 
835
if sys.platform == 'darwin':
 
836
    _platform_normalizes_filenames = True
 
837
 
 
838
 
 
839
def normalizes_filenames():
 
840
    """Return True if this platform normalizes unicode filenames.
 
841
 
 
842
    Mac OSX does, Windows/Linux do not.
 
843
    """
 
844
    return _platform_normalizes_filenames
 
845
 
 
846
 
 
847
def _accessible_normalized_filename(path):
 
848
    """Get the unicode normalized path, and if you can access the file.
 
849
 
 
850
    On platforms where the system normalizes filenames (Mac OSX),
 
851
    you can access a file by any path which will normalize correctly.
 
852
    On platforms where the system does not normalize filenames 
 
853
    (Windows, Linux), you have to access a file by its exact path.
 
854
 
 
855
    Internally, bzr only supports NFC/NFKC normalization, since that is 
 
856
    the standard for XML documents.
 
857
 
 
858
    So return the normalized path, and a flag indicating if the file
 
859
    can be accessed by that path.
 
860
    """
 
861
 
 
862
    return unicodedata.normalize('NFKC', unicode(path)), True
 
863
 
 
864
 
 
865
def _inaccessible_normalized_filename(path):
 
866
    __doc__ = _accessible_normalized_filename.__doc__
 
867
 
 
868
    normalized = unicodedata.normalize('NFKC', unicode(path))
 
869
    return normalized, normalized == path
 
870
 
 
871
 
 
872
if _platform_normalizes_filenames:
 
873
    normalized_filename = _accessible_normalized_filename
 
874
else:
 
875
    normalized_filename = _inaccessible_normalized_filename
 
876
 
 
877
 
 
878
def terminal_width():
 
879
    """Return estimated terminal width."""
 
880
    if sys.platform == 'win32':
 
881
        import bzrlib.win32console
 
882
        return bzrlib.win32console.get_console_size()[0]
 
883
    width = 0
 
884
    try:
 
885
        import struct, fcntl, termios
 
886
        s = struct.pack('HHHH', 0, 0, 0, 0)
 
887
        x = fcntl.ioctl(1, termios.TIOCGWINSZ, s)
 
888
        width = struct.unpack('HHHH', x)[1]
 
889
    except IOError:
 
890
        pass
 
891
    if width <= 0:
 
892
        try:
 
893
            width = int(os.environ['COLUMNS'])
 
894
        except:
 
895
            pass
 
896
    if width <= 0:
 
897
        width = 80
 
898
 
 
899
    return width
 
900
 
 
901
 
 
902
def supports_executable():
 
903
    return sys.platform != "win32"
 
904
 
 
905
 
 
906
def set_or_unset_env(env_variable, value):
 
907
    """Modify the environment, setting or removing the env_variable.
 
908
 
 
909
    :param env_variable: The environment variable in question
 
910
    :param value: The value to set the environment to. If None, then
 
911
        the variable will be removed.
 
912
    :return: The original value of the environment variable.
 
913
    """
 
914
    orig_val = os.environ.get(env_variable)
 
915
    if value is None:
 
916
        if orig_val is not None:
 
917
            del os.environ[env_variable]
 
918
    else:
 
919
        if isinstance(value, unicode):
 
920
            value = value.encode(bzrlib.user_encoding)
 
921
        os.environ[env_variable] = value
 
922
    return orig_val
 
923
 
 
924
 
 
925
_validWin32PathRE = re.compile(r'^([A-Za-z]:[/\\])?[^:<>*"?\|]*$')
 
926
 
 
927
 
 
928
def check_legal_path(path):
 
929
    """Check whether the supplied path is legal.  
 
930
    This is only required on Windows, so we don't test on other platforms
 
931
    right now.
 
932
    """
 
933
    if sys.platform != "win32":
 
934
        return
 
935
    if _validWin32PathRE.match(path) is None:
 
936
        raise errors.IllegalPath(path)
 
937
 
 
938
 
 
939
def walkdirs(top, prefix=""):
 
940
    """Yield data about all the directories in a tree.
 
941
    
 
942
    This yields all the data about the contents of a directory at a time.
 
943
    After each directory has been yielded, if the caller has mutated the list
 
944
    to exclude some directories, they are then not descended into.
 
945
    
 
946
    The data yielded is of the form:
 
947
    ((directory-relpath, directory-path-from-top),
 
948
    [(relpath, basename, kind, lstat), ...]),
 
949
     - directory-relpath is the relative path of the directory being returned
 
950
       with respect to top. prefix is prepended to this.
 
951
     - directory-path-from-root is the path including top for this directory. 
 
952
       It is suitable for use with os functions.
 
953
     - relpath is the relative path within the subtree being walked.
 
954
     - basename is the basename of the path
 
955
     - kind is the kind of the file now. If unknown then the file is not
 
956
       present within the tree - but it may be recorded as versioned. See
 
957
       versioned_kind.
 
958
     - lstat is the stat data *if* the file was statted.
 
959
     - planned, not implemented: 
 
960
       path_from_tree_root is the path from the root of the tree.
 
961
 
 
962
    :param prefix: Prefix the relpaths that are yielded with 'prefix'. This 
 
963
        allows one to walk a subtree but get paths that are relative to a tree
 
964
        rooted higher up.
 
965
    :return: an iterator over the dirs.
 
966
    """
 
967
    #TODO there is a bit of a smell where the results of the directory-
 
968
    # summary in this, and the path from the root, may not agree 
 
969
    # depending on top and prefix - i.e. ./foo and foo as a pair leads to
 
970
    # potentially confusing output. We should make this more robust - but
 
971
    # not at a speed cost. RBC 20060731
 
972
    lstat = os.lstat
 
973
    pending = []
 
974
    _directory = _directory_kind
 
975
    _listdir = os.listdir
 
976
    pending = [(prefix, "", _directory, None, top)]
 
977
    while pending:
 
978
        dirblock = []
 
979
        currentdir = pending.pop()
 
980
        # 0 - relpath, 1- basename, 2- kind, 3- stat, 4-toppath
 
981
        top = currentdir[4]
 
982
        if currentdir[0]:
 
983
            relroot = currentdir[0] + '/'
 
984
        else:
 
985
            relroot = ""
 
986
        for name in sorted(_listdir(top)):
 
987
            abspath = top + '/' + name
 
988
            statvalue = lstat(abspath)
 
989
            dirblock.append((relroot + name, name,
 
990
                file_kind_from_stat_mode(statvalue.st_mode),
 
991
                statvalue, abspath))
 
992
        yield (currentdir[0], top), dirblock
 
993
        # push the user specified dirs from dirblock
 
994
        for dir in reversed(dirblock):
 
995
            if dir[2] == _directory:
 
996
                pending.append(dir)
 
997
 
 
998
 
 
999
def copy_tree(from_path, to_path, handlers={}):
 
1000
    """Copy all of the entries in from_path into to_path.
 
1001
 
 
1002
    :param from_path: The base directory to copy. 
 
1003
    :param to_path: The target directory. If it does not exist, it will
 
1004
        be created.
 
1005
    :param handlers: A dictionary of functions, which takes a source and
 
1006
        destinations for files, directories, etc.
 
1007
        It is keyed on the file kind, such as 'directory', 'symlink', or 'file'
 
1008
        'file', 'directory', and 'symlink' should always exist.
 
1009
        If they are missing, they will be replaced with 'os.mkdir()',
 
1010
        'os.readlink() + os.symlink()', and 'shutil.copy2()', respectively.
 
1011
    """
 
1012
    # Now, just copy the existing cached tree to the new location
 
1013
    # We use a cheap trick here.
 
1014
    # Absolute paths are prefixed with the first parameter
 
1015
    # relative paths are prefixed with the second.
 
1016
    # So we can get both the source and target returned
 
1017
    # without any extra work.
 
1018
 
 
1019
    def copy_dir(source, dest):
 
1020
        os.mkdir(dest)
 
1021
 
 
1022
    def copy_link(source, dest):
 
1023
        """Copy the contents of a symlink"""
 
1024
        link_to = os.readlink(source)
 
1025
        os.symlink(link_to, dest)
 
1026
 
 
1027
    real_handlers = {'file':shutil.copy2,
 
1028
                     'symlink':copy_link,
 
1029
                     'directory':copy_dir,
 
1030
                    }
 
1031
    real_handlers.update(handlers)
 
1032
 
 
1033
    if not os.path.exists(to_path):
 
1034
        real_handlers['directory'](from_path, to_path)
 
1035
 
 
1036
    for dir_info, entries in walkdirs(from_path, prefix=to_path):
 
1037
        for relpath, name, kind, st, abspath in entries:
 
1038
            real_handlers[kind](abspath, relpath)
 
1039
 
 
1040
 
 
1041
def path_prefix_key(path):
 
1042
    """Generate a prefix-order path key for path.
 
1043
 
 
1044
    This can be used to sort paths in the same way that walkdirs does.
 
1045
    """
 
1046
    return (dirname(path) , path)
 
1047
 
 
1048
 
 
1049
def compare_paths_prefix_order(path_a, path_b):
 
1050
    """Compare path_a and path_b to generate the same order walkdirs uses."""
 
1051
    key_a = path_prefix_key(path_a)
 
1052
    key_b = path_prefix_key(path_b)
 
1053
    return cmp(key_a, key_b)
 
1054
 
 
1055
 
 
1056
_cached_user_encoding = None
 
1057
 
 
1058
 
 
1059
def get_user_encoding():
 
1060
    """Find out what the preferred user encoding is.
 
1061
 
 
1062
    This is generally the encoding that is used for command line parameters
 
1063
    and file contents. This may be different from the terminal encoding
 
1064
    or the filesystem encoding.
 
1065
 
 
1066
    :return: A string defining the preferred user encoding
 
1067
    """
 
1068
    global _cached_user_encoding
 
1069
    if _cached_user_encoding is not None:
 
1070
        return _cached_user_encoding
 
1071
 
 
1072
    if sys.platform == 'darwin':
 
1073
        # work around egregious python 2.4 bug
 
1074
        sys.platform = 'posix'
 
1075
        try:
 
1076
            import locale
 
1077
        finally:
 
1078
            sys.platform = 'darwin'
 
1079
    else:
 
1080
        import locale
 
1081
 
 
1082
    try:
 
1083
        _cached_user_encoding = locale.getpreferredencoding()
 
1084
    except locale.Error, e:
 
1085
        sys.stderr.write('bzr: warning: %s\n'
 
1086
                         '  Could not determine what text encoding to use.\n'
 
1087
                         '  This error usually means your Python interpreter\n'
 
1088
                         '  doesn\'t support the locale set by $LANG (%s)\n'
 
1089
                         "  Continuing with ascii encoding.\n"
 
1090
                         % (e, os.environ.get('LANG')))
 
1091
 
 
1092
    # Windows returns 'cp0' to indicate there is no code page. So we'll just
 
1093
    # treat that as ASCII, and not support printing unicode characters to the
 
1094
    # console.
 
1095
    if _cached_user_encoding in (None, 'cp0'):
 
1096
        _cached_user_encoding = 'ascii'
 
1097
    return _cached_user_encoding
 
1098
 
 
1099
 
 
1100
def recv_all(socket, bytes):
 
1101
    """Receive an exact number of bytes.
 
1102
 
 
1103
    Regular Socket.recv() may return less than the requested number of bytes,
 
1104
    dependning on what's in the OS buffer.  MSG_WAITALL is not available
 
1105
    on all platforms, but this should work everywhere.  This will return
 
1106
    less than the requested amount if the remote end closes.
 
1107
 
 
1108
    This isn't optimized and is intended mostly for use in testing.
 
1109
    """
 
1110
    b = ''
 
1111
    while len(b) < bytes:
 
1112
        new = socket.recv(bytes - len(b))
 
1113
        if new == '':
 
1114
            break # eof
 
1115
        b += new
 
1116
    return b
 
1117
 
 
1118
def dereference_path(path):
 
1119
    """Determine the real path to a file.
 
1120
 
 
1121
    All parent elements are dereferenced.  But the file itself is not
 
1122
    dereferenced.
 
1123
    :param path: The original path.  May be absolute or relative.
 
1124
    :return: the real path *to* the file
 
1125
    """
 
1126
    parent, base = os.path.split(path)
 
1127
    # The pathjoin for '.' is a workaround for Python bug #1213894.
 
1128
    # (initial path components aren't dereferenced)
 
1129
    return pathjoin(realpath(pathjoin('.', parent)), base)