/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/osutils.py

  • Committer: Alexander Belchenko
  • Date: 2007-01-30 23:05:35 UTC
  • mto: This revision was merged to the branch mainline in revision 2259.
  • Revision ID: bialix@ukr.net-20070130230535-kx1rd478rtigyc3v
standalone installer: win98 support

Show diffs side-by-side

added added

removed removed

Lines of Context:
 
1
# Copyright (C) 2005, 2006 Canonical Ltd
 
2
#
 
3
# This program is free software; you can redistribute it and/or modify
 
4
# it under the terms of the GNU General Public License as published by
 
5
# the Free Software Foundation; either version 2 of the License, or
 
6
# (at your option) any later version.
 
7
#
 
8
# This program is distributed in the hope that it will be useful,
 
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
 
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
11
# GNU General Public License for more details.
 
12
#
 
13
# You should have received a copy of the GNU General Public License
 
14
# along with this program; if not, write to the Free Software
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
16
 
 
17
from cStringIO import StringIO
 
18
import os
 
19
import re
 
20
import stat
 
21
from stat import (S_ISREG, S_ISDIR, S_ISLNK, ST_MODE, ST_SIZE,
 
22
                  S_ISCHR, S_ISBLK, S_ISFIFO, S_ISSOCK)
 
23
import sys
 
24
import time
 
25
 
 
26
from bzrlib.lazy_import import lazy_import
 
27
lazy_import(globals(), """
 
28
import codecs
 
29
from datetime import datetime
 
30
import errno
 
31
from ntpath import (abspath as _nt_abspath,
 
32
                    join as _nt_join,
 
33
                    normpath as _nt_normpath,
 
34
                    realpath as _nt_realpath,
 
35
                    splitdrive as _nt_splitdrive,
 
36
                    )
 
37
import posixpath
 
38
import sha
 
39
import shutil
 
40
from shutil import (
 
41
    rmtree,
 
42
    )
 
43
import string
 
44
import tempfile
 
45
from tempfile import (
 
46
    mkdtemp,
 
47
    )
 
48
import unicodedata
 
49
 
 
50
from bzrlib import (
 
51
    errors,
 
52
    win32utils,
 
53
    )
 
54
""")
 
55
 
 
56
import bzrlib
 
57
from bzrlib.symbol_versioning import (
 
58
    deprecated_function,
 
59
    zero_nine,
 
60
    )
 
61
from bzrlib.trace import mutter
 
62
 
 
63
 
 
64
# On win32, O_BINARY is used to indicate the file should
 
65
# be opened in binary mode, rather than text mode.
 
66
# On other platforms, O_BINARY doesn't exist, because
 
67
# they always open in binary mode, so it is okay to
 
68
# OR with 0 on those platforms
 
69
O_BINARY = getattr(os, 'O_BINARY', 0)
 
70
 
 
71
 
 
72
def make_readonly(filename):
 
73
    """Make a filename read-only."""
 
74
    mod = os.stat(filename).st_mode
 
75
    mod = mod & 0777555
 
76
    os.chmod(filename, mod)
 
77
 
 
78
 
 
79
def make_writable(filename):
 
80
    mod = os.stat(filename).st_mode
 
81
    mod = mod | 0200
 
82
    os.chmod(filename, mod)
 
83
 
 
84
 
 
85
_QUOTE_RE = None
 
86
 
 
87
 
 
88
def quotefn(f):
 
89
    """Return a quoted filename filename
 
90
 
 
91
    This previously used backslash quoting, but that works poorly on
 
92
    Windows."""
 
93
    # TODO: I'm not really sure this is the best format either.x
 
94
    global _QUOTE_RE
 
95
    if _QUOTE_RE is None:
 
96
        _QUOTE_RE = re.compile(r'([^a-zA-Z0-9.,:/\\_~-])')
 
97
        
 
98
    if _QUOTE_RE.search(f):
 
99
        return '"' + f + '"'
 
100
    else:
 
101
        return f
 
102
 
 
103
 
 
104
_directory_kind = 'directory'
 
105
 
 
106
_formats = {
 
107
    stat.S_IFDIR:_directory_kind,
 
108
    stat.S_IFCHR:'chardev',
 
109
    stat.S_IFBLK:'block',
 
110
    stat.S_IFREG:'file',
 
111
    stat.S_IFIFO:'fifo',
 
112
    stat.S_IFLNK:'symlink',
 
113
    stat.S_IFSOCK:'socket',
 
114
}
 
115
 
 
116
 
 
117
def file_kind_from_stat_mode(stat_mode, _formats=_formats, _unknown='unknown'):
 
118
    """Generate a file kind from a stat mode. This is used in walkdirs.
 
119
 
 
120
    Its performance is critical: Do not mutate without careful benchmarking.
 
121
    """
 
122
    try:
 
123
        return _formats[stat_mode & 0170000]
 
124
    except KeyError:
 
125
        return _unknown
 
126
 
 
127
 
 
128
def file_kind(f, _lstat=os.lstat, _mapper=file_kind_from_stat_mode):
 
129
    try:
 
130
        return _mapper(_lstat(f).st_mode)
 
131
    except OSError, e:
 
132
        if getattr(e, 'errno', None) == errno.ENOENT:
 
133
            raise errors.NoSuchFile(f)
 
134
        raise
 
135
 
 
136
 
 
137
def get_umask():
 
138
    """Return the current umask"""
 
139
    # Assume that people aren't messing with the umask while running
 
140
    # XXX: This is not thread safe, but there is no way to get the
 
141
    #      umask without setting it
 
142
    umask = os.umask(0)
 
143
    os.umask(umask)
 
144
    return umask
 
145
 
 
146
 
 
147
def kind_marker(kind):
 
148
    if kind == 'file':
 
149
        return ''
 
150
    elif kind == _directory_kind:
 
151
        return '/'
 
152
    elif kind == 'symlink':
 
153
        return '@'
 
154
    else:
 
155
        raise errors.BzrError('invalid file kind %r' % kind)
 
156
 
 
157
lexists = getattr(os.path, 'lexists', None)
 
158
if lexists is None:
 
159
    def lexists(f):
 
160
        try:
 
161
            if getattr(os, 'lstat') is not None:
 
162
                os.lstat(f)
 
163
            else:
 
164
                os.stat(f)
 
165
            return True
 
166
        except OSError,e:
 
167
            if e.errno == errno.ENOENT:
 
168
                return False;
 
169
            else:
 
170
                raise errors.BzrError("lstat/stat of (%r): %r" % (f, e))
 
171
 
 
172
 
 
173
def fancy_rename(old, new, rename_func, unlink_func):
 
174
    """A fancy rename, when you don't have atomic rename.
 
175
    
 
176
    :param old: The old path, to rename from
 
177
    :param new: The new path, to rename to
 
178
    :param rename_func: The potentially non-atomic rename function
 
179
    :param unlink_func: A way to delete the target file if the full rename succeeds
 
180
    """
 
181
 
 
182
    # sftp rename doesn't allow overwriting, so play tricks:
 
183
    import random
 
184
    base = os.path.basename(new)
 
185
    dirname = os.path.dirname(new)
 
186
    tmp_name = u'tmp.%s.%.9f.%d.%s' % (base, time.time(), os.getpid(), rand_chars(10))
 
187
    tmp_name = pathjoin(dirname, tmp_name)
 
188
 
 
189
    # Rename the file out of the way, but keep track if it didn't exist
 
190
    # We don't want to grab just any exception
 
191
    # something like EACCES should prevent us from continuing
 
192
    # The downside is that the rename_func has to throw an exception
 
193
    # with an errno = ENOENT, or NoSuchFile
 
194
    file_existed = False
 
195
    try:
 
196
        rename_func(new, tmp_name)
 
197
    except (errors.NoSuchFile,), e:
 
198
        pass
 
199
    except IOError, e:
 
200
        # RBC 20060103 abstraction leakage: the paramiko SFTP clients rename
 
201
        # function raises an IOError with errno is None when a rename fails.
 
202
        # This then gets caught here.
 
203
        if e.errno not in (None, errno.ENOENT, errno.ENOTDIR):
 
204
            raise
 
205
    except Exception, e:
 
206
        if (getattr(e, 'errno', None) is None
 
207
            or e.errno not in (errno.ENOENT, errno.ENOTDIR)):
 
208
            raise
 
209
    else:
 
210
        file_existed = True
 
211
 
 
212
    success = False
 
213
    try:
 
214
        # This may throw an exception, in which case success will
 
215
        # not be set.
 
216
        rename_func(old, new)
 
217
        success = True
 
218
    finally:
 
219
        if file_existed:
 
220
            # If the file used to exist, rename it back into place
 
221
            # otherwise just delete it from the tmp location
 
222
            if success:
 
223
                unlink_func(tmp_name)
 
224
            else:
 
225
                rename_func(tmp_name, new)
 
226
 
 
227
 
 
228
# In Python 2.4.2 and older, os.path.abspath and os.path.realpath
 
229
# choke on a Unicode string containing a relative path if
 
230
# os.getcwd() returns a non-sys.getdefaultencoding()-encoded
 
231
# string.
 
232
_fs_enc = sys.getfilesystemencoding() or 'utf-8'
 
233
def _posix_abspath(path):
 
234
    # jam 20060426 rather than encoding to fsencoding
 
235
    # copy posixpath.abspath, but use os.getcwdu instead
 
236
    if not posixpath.isabs(path):
 
237
        path = posixpath.join(getcwd(), path)
 
238
    return posixpath.normpath(path)
 
239
 
 
240
 
 
241
def _posix_realpath(path):
 
242
    return posixpath.realpath(path.encode(_fs_enc)).decode(_fs_enc)
 
243
 
 
244
 
 
245
def _win32_fixdrive(path):
 
246
    """Force drive letters to be consistent.
 
247
 
 
248
    win32 is inconsistent whether it returns lower or upper case
 
249
    and even if it was consistent the user might type the other
 
250
    so we force it to uppercase
 
251
    running python.exe under cmd.exe return capital C:\\
 
252
    running win32 python inside a cygwin shell returns lowercase c:\\
 
253
    """
 
254
    drive, path = _nt_splitdrive(path)
 
255
    return drive.upper() + path
 
256
 
 
257
 
 
258
def _win32_abspath(path):
 
259
    # Real _nt_abspath doesn't have a problem with a unicode cwd
 
260
    return _win32_fixdrive(_nt_abspath(unicode(path)).replace('\\', '/'))
 
261
 
 
262
 
 
263
def _win32_realpath(path):
 
264
    # Real _nt_realpath doesn't have a problem with a unicode cwd
 
265
    return _win32_fixdrive(_nt_realpath(unicode(path)).replace('\\', '/'))
 
266
 
 
267
 
 
268
def _win32_pathjoin(*args):
 
269
    return _nt_join(*args).replace('\\', '/')
 
270
 
 
271
 
 
272
def _win32_normpath(path):
 
273
    return _win32_fixdrive(_nt_normpath(unicode(path)).replace('\\', '/'))
 
274
 
 
275
 
 
276
def _win32_getcwd():
 
277
    return _win32_fixdrive(os.getcwdu().replace('\\', '/'))
 
278
 
 
279
 
 
280
def _win32_mkdtemp(*args, **kwargs):
 
281
    return _win32_fixdrive(tempfile.mkdtemp(*args, **kwargs).replace('\\', '/'))
 
282
 
 
283
 
 
284
def _win32_rename(old, new):
 
285
    """We expect to be able to atomically replace 'new' with old.
 
286
 
 
287
    On win32, if new exists, it must be moved out of the way first,
 
288
    and then deleted. 
 
289
    """
 
290
    try:
 
291
        fancy_rename(old, new, rename_func=os.rename, unlink_func=os.unlink)
 
292
    except OSError, e:
 
293
        if e.errno in (errno.EPERM, errno.EACCES, errno.EBUSY, errno.EINVAL):
 
294
            # If we try to rename a non-existant file onto cwd, we get 
 
295
            # EPERM or EACCES instead of ENOENT, this will raise ENOENT 
 
296
            # if the old path doesn't exist, sometimes we get EACCES
 
297
            # On Linux, we seem to get EBUSY, on Mac we get EINVAL
 
298
            os.lstat(old)
 
299
        raise
 
300
 
 
301
 
 
302
def _mac_getcwd():
 
303
    return unicodedata.normalize('NFKC', os.getcwdu())
 
304
 
 
305
 
 
306
# Default is to just use the python builtins, but these can be rebound on
 
307
# particular platforms.
 
308
abspath = _posix_abspath
 
309
realpath = _posix_realpath
 
310
pathjoin = os.path.join
 
311
normpath = os.path.normpath
 
312
getcwd = os.getcwdu
 
313
rename = os.rename
 
314
dirname = os.path.dirname
 
315
basename = os.path.basename
 
316
split = os.path.split
 
317
splitext = os.path.splitext
 
318
# These were already imported into local scope
 
319
# mkdtemp = tempfile.mkdtemp
 
320
# rmtree = shutil.rmtree
 
321
 
 
322
MIN_ABS_PATHLENGTH = 1
 
323
 
 
324
 
 
325
if sys.platform == 'win32':
 
326
    abspath = _win32_abspath
 
327
    realpath = _win32_realpath
 
328
    pathjoin = _win32_pathjoin
 
329
    normpath = _win32_normpath
 
330
    getcwd = _win32_getcwd
 
331
    mkdtemp = _win32_mkdtemp
 
332
    rename = _win32_rename
 
333
 
 
334
    MIN_ABS_PATHLENGTH = 3
 
335
 
 
336
    def _win32_delete_readonly(function, path, excinfo):
 
337
        """Error handler for shutil.rmtree function [for win32]
 
338
        Helps to remove files and dirs marked as read-only.
 
339
        """
 
340
        exception = excinfo[1]
 
341
        if function in (os.remove, os.rmdir) \
 
342
            and isinstance(exception, OSError) \
 
343
            and exception.errno == errno.EACCES:
 
344
            make_writable(path)
 
345
            function(path)
 
346
        else:
 
347
            raise
 
348
 
 
349
    def rmtree(path, ignore_errors=False, onerror=_win32_delete_readonly):
 
350
        """Replacer for shutil.rmtree: could remove readonly dirs/files"""
 
351
        return shutil.rmtree(path, ignore_errors, onerror)
 
352
elif sys.platform == 'darwin':
 
353
    getcwd = _mac_getcwd
 
354
 
 
355
 
 
356
def get_terminal_encoding():
 
357
    """Find the best encoding for printing to the screen.
 
358
 
 
359
    This attempts to check both sys.stdout and sys.stdin to see
 
360
    what encoding they are in, and if that fails it falls back to
 
361
    bzrlib.user_encoding.
 
362
    The problem is that on Windows, locale.getpreferredencoding()
 
363
    is not the same encoding as that used by the console:
 
364
    http://mail.python.org/pipermail/python-list/2003-May/162357.html
 
365
 
 
366
    On my standard US Windows XP, the preferred encoding is
 
367
    cp1252, but the console is cp437
 
368
    """
 
369
    output_encoding = getattr(sys.stdout, 'encoding', None)
 
370
    if not output_encoding:
 
371
        input_encoding = getattr(sys.stdin, 'encoding', None)
 
372
        if not input_encoding:
 
373
            output_encoding = bzrlib.user_encoding
 
374
            mutter('encoding stdout as bzrlib.user_encoding %r', output_encoding)
 
375
        else:
 
376
            output_encoding = input_encoding
 
377
            mutter('encoding stdout as sys.stdin encoding %r', output_encoding)
 
378
    else:
 
379
        mutter('encoding stdout as sys.stdout encoding %r', output_encoding)
 
380
    if output_encoding == 'cp0':
 
381
        # invalid encoding (cp0 means 'no codepage' on Windows)
 
382
        output_encoding = bzrlib.user_encoding
 
383
        mutter('cp0 is invalid encoding.'
 
384
               ' encoding stdout as bzrlib.user_encoding %r', output_encoding)
 
385
    # check encoding
 
386
    try:
 
387
        codecs.lookup(output_encoding)
 
388
    except LookupError:
 
389
        sys.stderr.write('bzr: warning:'
 
390
                         ' unknown terminal encoding %s.\n'
 
391
                         '  Using encoding %s instead.\n'
 
392
                         % (output_encoding, bzrlib.user_encoding)
 
393
                        )
 
394
        output_encoding = bzrlib.user_encoding
 
395
 
 
396
    return output_encoding
 
397
 
 
398
 
 
399
def normalizepath(f):
 
400
    if getattr(os.path, 'realpath', None) is not None:
 
401
        F = realpath
 
402
    else:
 
403
        F = abspath
 
404
    [p,e] = os.path.split(f)
 
405
    if e == "" or e == "." or e == "..":
 
406
        return F(f)
 
407
    else:
 
408
        return pathjoin(F(p), e)
 
409
 
 
410
 
 
411
def backup_file(fn):
 
412
    """Copy a file to a backup.
 
413
 
 
414
    Backups are named in GNU-style, with a ~ suffix.
 
415
 
 
416
    If the file is already a backup, it's not copied.
 
417
    """
 
418
    if fn[-1] == '~':
 
419
        return
 
420
    bfn = fn + '~'
 
421
 
 
422
    if has_symlinks() and os.path.islink(fn):
 
423
        target = os.readlink(fn)
 
424
        os.symlink(target, bfn)
 
425
        return
 
426
    inf = file(fn, 'rb')
 
427
    try:
 
428
        content = inf.read()
 
429
    finally:
 
430
        inf.close()
 
431
    
 
432
    outf = file(bfn, 'wb')
 
433
    try:
 
434
        outf.write(content)
 
435
    finally:
 
436
        outf.close()
 
437
 
 
438
 
 
439
def isdir(f):
 
440
    """True if f is an accessible directory."""
 
441
    try:
 
442
        return S_ISDIR(os.lstat(f)[ST_MODE])
 
443
    except OSError:
 
444
        return False
 
445
 
 
446
 
 
447
def isfile(f):
 
448
    """True if f is a regular file."""
 
449
    try:
 
450
        return S_ISREG(os.lstat(f)[ST_MODE])
 
451
    except OSError:
 
452
        return False
 
453
 
 
454
def islink(f):
 
455
    """True if f is a symlink."""
 
456
    try:
 
457
        return S_ISLNK(os.lstat(f)[ST_MODE])
 
458
    except OSError:
 
459
        return False
 
460
 
 
461
def is_inside(dir, fname):
 
462
    """True if fname is inside dir.
 
463
    
 
464
    The parameters should typically be passed to osutils.normpath first, so
 
465
    that . and .. and repeated slashes are eliminated, and the separators
 
466
    are canonical for the platform.
 
467
    
 
468
    The empty string as a dir name is taken as top-of-tree and matches 
 
469
    everything.
 
470
    """
 
471
    # XXX: Most callers of this can actually do something smarter by 
 
472
    # looking at the inventory
 
473
    if dir == fname:
 
474
        return True
 
475
    
 
476
    if dir == '':
 
477
        return True
 
478
 
 
479
    if dir[-1] != '/':
 
480
        dir += '/'
 
481
 
 
482
    return fname.startswith(dir)
 
483
 
 
484
 
 
485
def is_inside_any(dir_list, fname):
 
486
    """True if fname is inside any of given dirs."""
 
487
    for dirname in dir_list:
 
488
        if is_inside(dirname, fname):
 
489
            return True
 
490
    else:
 
491
        return False
 
492
 
 
493
 
 
494
def is_inside_or_parent_of_any(dir_list, fname):
 
495
    """True if fname is a child or a parent of any of the given files."""
 
496
    for dirname in dir_list:
 
497
        if is_inside(dirname, fname) or is_inside(fname, dirname):
 
498
            return True
 
499
    else:
 
500
        return False
 
501
 
 
502
 
 
503
def pumpfile(fromfile, tofile):
 
504
    """Copy contents of one file to another."""
 
505
    BUFSIZE = 32768
 
506
    while True:
 
507
        b = fromfile.read(BUFSIZE)
 
508
        if not b:
 
509
            break
 
510
        tofile.write(b)
 
511
 
 
512
 
 
513
def file_iterator(input_file, readsize=32768):
 
514
    while True:
 
515
        b = input_file.read(readsize)
 
516
        if len(b) == 0:
 
517
            break
 
518
        yield b
 
519
 
 
520
 
 
521
def sha_file(f):
 
522
    if getattr(f, 'tell', None) is not None:
 
523
        assert f.tell() == 0
 
524
    s = sha.new()
 
525
    BUFSIZE = 128<<10
 
526
    while True:
 
527
        b = f.read(BUFSIZE)
 
528
        if not b:
 
529
            break
 
530
        s.update(b)
 
531
    return s.hexdigest()
 
532
 
 
533
 
 
534
 
 
535
def sha_strings(strings):
 
536
    """Return the sha-1 of concatenation of strings"""
 
537
    s = sha.new()
 
538
    map(s.update, strings)
 
539
    return s.hexdigest()
 
540
 
 
541
 
 
542
def sha_string(f):
 
543
    s = sha.new()
 
544
    s.update(f)
 
545
    return s.hexdigest()
 
546
 
 
547
 
 
548
def fingerprint_file(f):
 
549
    s = sha.new()
 
550
    b = f.read()
 
551
    s.update(b)
 
552
    size = len(b)
 
553
    return {'size': size,
 
554
            'sha1': s.hexdigest()}
 
555
 
 
556
 
 
557
def compare_files(a, b):
 
558
    """Returns true if equal in contents"""
 
559
    BUFSIZE = 4096
 
560
    while True:
 
561
        ai = a.read(BUFSIZE)
 
562
        bi = b.read(BUFSIZE)
 
563
        if ai != bi:
 
564
            return False
 
565
        if ai == '':
 
566
            return True
 
567
 
 
568
 
 
569
def local_time_offset(t=None):
 
570
    """Return offset of local zone from GMT, either at present or at time t."""
 
571
    if t is None:
 
572
        t = time.time()
 
573
    offset = datetime.fromtimestamp(t) - datetime.utcfromtimestamp(t)
 
574
    return offset.days * 86400 + offset.seconds
 
575
 
 
576
    
 
577
def format_date(t, offset=0, timezone='original', date_fmt=None, 
 
578
                show_offset=True):
 
579
    ## TODO: Perhaps a global option to use either universal or local time?
 
580
    ## Or perhaps just let people set $TZ?
 
581
    assert isinstance(t, float)
 
582
    
 
583
    if timezone == 'utc':
 
584
        tt = time.gmtime(t)
 
585
        offset = 0
 
586
    elif timezone == 'original':
 
587
        if offset is None:
 
588
            offset = 0
 
589
        tt = time.gmtime(t + offset)
 
590
    elif timezone == 'local':
 
591
        tt = time.localtime(t)
 
592
        offset = local_time_offset(t)
 
593
    else:
 
594
        raise errors.BzrError("unsupported timezone format %r" % timezone,
 
595
                              ['options are "utc", "original", "local"'])
 
596
    if date_fmt is None:
 
597
        date_fmt = "%a %Y-%m-%d %H:%M:%S"
 
598
    if show_offset:
 
599
        offset_str = ' %+03d%02d' % (offset / 3600, (offset / 60) % 60)
 
600
    else:
 
601
        offset_str = ''
 
602
    return (time.strftime(date_fmt, tt) +  offset_str)
 
603
 
 
604
 
 
605
def compact_date(when):
 
606
    return time.strftime('%Y%m%d%H%M%S', time.gmtime(when))
 
607
    
 
608
 
 
609
def format_delta(delta):
 
610
    """Get a nice looking string for a time delta.
 
611
 
 
612
    :param delta: The time difference in seconds, can be positive or negative.
 
613
        positive indicates time in the past, negative indicates time in the
 
614
        future. (usually time.time() - stored_time)
 
615
    :return: String formatted to show approximate resolution
 
616
    """
 
617
    delta = int(delta)
 
618
    if delta >= 0:
 
619
        direction = 'ago'
 
620
    else:
 
621
        direction = 'in the future'
 
622
        delta = -delta
 
623
 
 
624
    seconds = delta
 
625
    if seconds < 90: # print seconds up to 90 seconds
 
626
        if seconds == 1:
 
627
            return '%d second %s' % (seconds, direction,)
 
628
        else:
 
629
            return '%d seconds %s' % (seconds, direction)
 
630
 
 
631
    minutes = int(seconds / 60)
 
632
    seconds -= 60 * minutes
 
633
    if seconds == 1:
 
634
        plural_seconds = ''
 
635
    else:
 
636
        plural_seconds = 's'
 
637
    if minutes < 90: # print minutes, seconds up to 90 minutes
 
638
        if minutes == 1:
 
639
            return '%d minute, %d second%s %s' % (
 
640
                    minutes, seconds, plural_seconds, direction)
 
641
        else:
 
642
            return '%d minutes, %d second%s %s' % (
 
643
                    minutes, seconds, plural_seconds, direction)
 
644
 
 
645
    hours = int(minutes / 60)
 
646
    minutes -= 60 * hours
 
647
    if minutes == 1:
 
648
        plural_minutes = ''
 
649
    else:
 
650
        plural_minutes = 's'
 
651
 
 
652
    if hours == 1:
 
653
        return '%d hour, %d minute%s %s' % (hours, minutes,
 
654
                                            plural_minutes, direction)
 
655
    return '%d hours, %d minute%s %s' % (hours, minutes,
 
656
                                         plural_minutes, direction)
 
657
 
 
658
def filesize(f):
 
659
    """Return size of given open file."""
 
660
    return os.fstat(f.fileno())[ST_SIZE]
 
661
 
 
662
 
 
663
# Define rand_bytes based on platform.
 
664
try:
 
665
    # Python 2.4 and later have os.urandom,
 
666
    # but it doesn't work on some arches
 
667
    os.urandom(1)
 
668
    rand_bytes = os.urandom
 
669
except (NotImplementedError, AttributeError):
 
670
    # If python doesn't have os.urandom, or it doesn't work,
 
671
    # then try to first pull random data from /dev/urandom
 
672
    try:
 
673
        rand_bytes = file('/dev/urandom', 'rb').read
 
674
    # Otherwise, use this hack as a last resort
 
675
    except (IOError, OSError):
 
676
        # not well seeded, but better than nothing
 
677
        def rand_bytes(n):
 
678
            import random
 
679
            s = ''
 
680
            while n:
 
681
                s += chr(random.randint(0, 255))
 
682
                n -= 1
 
683
            return s
 
684
 
 
685
 
 
686
ALNUM = '0123456789abcdefghijklmnopqrstuvwxyz'
 
687
def rand_chars(num):
 
688
    """Return a random string of num alphanumeric characters
 
689
    
 
690
    The result only contains lowercase chars because it may be used on 
 
691
    case-insensitive filesystems.
 
692
    """
 
693
    s = ''
 
694
    for raw_byte in rand_bytes(num):
 
695
        s += ALNUM[ord(raw_byte) % 36]
 
696
    return s
 
697
 
 
698
 
 
699
## TODO: We could later have path objects that remember their list
 
700
## decomposition (might be too tricksy though.)
 
701
 
 
702
def splitpath(p):
 
703
    """Turn string into list of parts."""
 
704
    assert isinstance(p, basestring)
 
705
 
 
706
    # split on either delimiter because people might use either on
 
707
    # Windows
 
708
    ps = re.split(r'[\\/]', p)
 
709
 
 
710
    rps = []
 
711
    for f in ps:
 
712
        if f == '..':
 
713
            raise errors.BzrError("sorry, %r not allowed in path" % f)
 
714
        elif (f == '.') or (f == ''):
 
715
            pass
 
716
        else:
 
717
            rps.append(f)
 
718
    return rps
 
719
 
 
720
def joinpath(p):
 
721
    assert isinstance(p, list)
 
722
    for f in p:
 
723
        if (f == '..') or (f is None) or (f == ''):
 
724
            raise errors.BzrError("sorry, %r not allowed in path" % f)
 
725
    return pathjoin(*p)
 
726
 
 
727
 
 
728
@deprecated_function(zero_nine)
 
729
def appendpath(p1, p2):
 
730
    if p1 == '':
 
731
        return p2
 
732
    else:
 
733
        return pathjoin(p1, p2)
 
734
    
 
735
 
 
736
def split_lines(s):
 
737
    """Split s into lines, but without removing the newline characters."""
 
738
    lines = s.split('\n')
 
739
    result = [line + '\n' for line in lines[:-1]]
 
740
    if lines[-1]:
 
741
        result.append(lines[-1])
 
742
    return result
 
743
 
 
744
 
 
745
def hardlinks_good():
 
746
    return sys.platform not in ('win32', 'cygwin', 'darwin')
 
747
 
 
748
 
 
749
def link_or_copy(src, dest):
 
750
    """Hardlink a file, or copy it if it can't be hardlinked."""
 
751
    if not hardlinks_good():
 
752
        shutil.copyfile(src, dest)
 
753
        return
 
754
    try:
 
755
        os.link(src, dest)
 
756
    except (OSError, IOError), e:
 
757
        if e.errno != errno.EXDEV:
 
758
            raise
 
759
        shutil.copyfile(src, dest)
 
760
 
 
761
def delete_any(full_path):
 
762
    """Delete a file or directory."""
 
763
    try:
 
764
        os.unlink(full_path)
 
765
    except OSError, e:
 
766
    # We may be renaming a dangling inventory id
 
767
        if e.errno not in (errno.EISDIR, errno.EACCES, errno.EPERM):
 
768
            raise
 
769
        os.rmdir(full_path)
 
770
 
 
771
 
 
772
def has_symlinks():
 
773
    if getattr(os, 'symlink', None) is not None:
 
774
        return True
 
775
    else:
 
776
        return False
 
777
        
 
778
 
 
779
def contains_whitespace(s):
 
780
    """True if there are any whitespace characters in s."""
 
781
    for ch in string.whitespace:
 
782
        if ch in s:
 
783
            return True
 
784
    else:
 
785
        return False
 
786
 
 
787
 
 
788
def contains_linebreaks(s):
 
789
    """True if there is any vertical whitespace in s."""
 
790
    for ch in '\f\n\r':
 
791
        if ch in s:
 
792
            return True
 
793
    else:
 
794
        return False
 
795
 
 
796
 
 
797
def relpath(base, path):
 
798
    """Return path relative to base, or raise exception.
 
799
 
 
800
    The path may be either an absolute path or a path relative to the
 
801
    current working directory.
 
802
 
 
803
    os.path.commonprefix (python2.4) has a bad bug that it works just
 
804
    on string prefixes, assuming that '/u' is a prefix of '/u2'.  This
 
805
    avoids that problem.
 
806
    """
 
807
 
 
808
    assert len(base) >= MIN_ABS_PATHLENGTH, ('Length of base must be equal or'
 
809
        ' exceed the platform minimum length (which is %d)' % 
 
810
        MIN_ABS_PATHLENGTH)
 
811
 
 
812
    rp = abspath(path)
 
813
 
 
814
    s = []
 
815
    head = rp
 
816
    while len(head) >= len(base):
 
817
        if head == base:
 
818
            break
 
819
        head, tail = os.path.split(head)
 
820
        if tail:
 
821
            s.insert(0, tail)
 
822
    else:
 
823
        raise errors.PathNotChild(rp, base)
 
824
 
 
825
    if s:
 
826
        return pathjoin(*s)
 
827
    else:
 
828
        return ''
 
829
 
 
830
 
 
831
def safe_unicode(unicode_or_utf8_string):
 
832
    """Coerce unicode_or_utf8_string into unicode.
 
833
 
 
834
    If it is unicode, it is returned.
 
835
    Otherwise it is decoded from utf-8. If a decoding error
 
836
    occurs, it is wrapped as a If the decoding fails, the exception is wrapped 
 
837
    as a BzrBadParameter exception.
 
838
    """
 
839
    if isinstance(unicode_or_utf8_string, unicode):
 
840
        return unicode_or_utf8_string
 
841
    try:
 
842
        return unicode_or_utf8_string.decode('utf8')
 
843
    except UnicodeDecodeError:
 
844
        raise errors.BzrBadParameterNotUnicode(unicode_or_utf8_string)
 
845
 
 
846
 
 
847
_platform_normalizes_filenames = False
 
848
if sys.platform == 'darwin':
 
849
    _platform_normalizes_filenames = True
 
850
 
 
851
 
 
852
def normalizes_filenames():
 
853
    """Return True if this platform normalizes unicode filenames.
 
854
 
 
855
    Mac OSX does, Windows/Linux do not.
 
856
    """
 
857
    return _platform_normalizes_filenames
 
858
 
 
859
 
 
860
def _accessible_normalized_filename(path):
 
861
    """Get the unicode normalized path, and if you can access the file.
 
862
 
 
863
    On platforms where the system normalizes filenames (Mac OSX),
 
864
    you can access a file by any path which will normalize correctly.
 
865
    On platforms where the system does not normalize filenames 
 
866
    (Windows, Linux), you have to access a file by its exact path.
 
867
 
 
868
    Internally, bzr only supports NFC/NFKC normalization, since that is 
 
869
    the standard for XML documents.
 
870
 
 
871
    So return the normalized path, and a flag indicating if the file
 
872
    can be accessed by that path.
 
873
    """
 
874
 
 
875
    return unicodedata.normalize('NFKC', unicode(path)), True
 
876
 
 
877
 
 
878
def _inaccessible_normalized_filename(path):
 
879
    __doc__ = _accessible_normalized_filename.__doc__
 
880
 
 
881
    normalized = unicodedata.normalize('NFKC', unicode(path))
 
882
    return normalized, normalized == path
 
883
 
 
884
 
 
885
if _platform_normalizes_filenames:
 
886
    normalized_filename = _accessible_normalized_filename
 
887
else:
 
888
    normalized_filename = _inaccessible_normalized_filename
 
889
 
 
890
 
 
891
def terminal_width():
 
892
    """Return estimated terminal width."""
 
893
    if sys.platform == 'win32':
 
894
        return win32utils.get_console_size()[0]
 
895
    width = 0
 
896
    try:
 
897
        import struct, fcntl, termios
 
898
        s = struct.pack('HHHH', 0, 0, 0, 0)
 
899
        x = fcntl.ioctl(1, termios.TIOCGWINSZ, s)
 
900
        width = struct.unpack('HHHH', x)[1]
 
901
    except IOError:
 
902
        pass
 
903
    if width <= 0:
 
904
        try:
 
905
            width = int(os.environ['COLUMNS'])
 
906
        except:
 
907
            pass
 
908
    if width <= 0:
 
909
        width = 80
 
910
 
 
911
    return width
 
912
 
 
913
 
 
914
def supports_executable():
 
915
    return sys.platform != "win32"
 
916
 
 
917
 
 
918
def set_or_unset_env(env_variable, value):
 
919
    """Modify the environment, setting or removing the env_variable.
 
920
 
 
921
    :param env_variable: The environment variable in question
 
922
    :param value: The value to set the environment to. If None, then
 
923
        the variable will be removed.
 
924
    :return: The original value of the environment variable.
 
925
    """
 
926
    orig_val = os.environ.get(env_variable)
 
927
    if value is None:
 
928
        if orig_val is not None:
 
929
            del os.environ[env_variable]
 
930
    else:
 
931
        if isinstance(value, unicode):
 
932
            value = value.encode(bzrlib.user_encoding)
 
933
        os.environ[env_variable] = value
 
934
    return orig_val
 
935
 
 
936
 
 
937
_validWin32PathRE = re.compile(r'^([A-Za-z]:[/\\])?[^:<>*"?\|]*$')
 
938
 
 
939
 
 
940
def check_legal_path(path):
 
941
    """Check whether the supplied path is legal.  
 
942
    This is only required on Windows, so we don't test on other platforms
 
943
    right now.
 
944
    """
 
945
    if sys.platform != "win32":
 
946
        return
 
947
    if _validWin32PathRE.match(path) is None:
 
948
        raise errors.IllegalPath(path)
 
949
 
 
950
 
 
951
def walkdirs(top, prefix=""):
 
952
    """Yield data about all the directories in a tree.
 
953
    
 
954
    This yields all the data about the contents of a directory at a time.
 
955
    After each directory has been yielded, if the caller has mutated the list
 
956
    to exclude some directories, they are then not descended into.
 
957
    
 
958
    The data yielded is of the form:
 
959
    ((directory-relpath, directory-path-from-top),
 
960
    [(relpath, basename, kind, lstat), ...]),
 
961
     - directory-relpath is the relative path of the directory being returned
 
962
       with respect to top. prefix is prepended to this.
 
963
     - directory-path-from-root is the path including top for this directory. 
 
964
       It is suitable for use with os functions.
 
965
     - relpath is the relative path within the subtree being walked.
 
966
     - basename is the basename of the path
 
967
     - kind is the kind of the file now. If unknown then the file is not
 
968
       present within the tree - but it may be recorded as versioned. See
 
969
       versioned_kind.
 
970
     - lstat is the stat data *if* the file was statted.
 
971
     - planned, not implemented: 
 
972
       path_from_tree_root is the path from the root of the tree.
 
973
 
 
974
    :param prefix: Prefix the relpaths that are yielded with 'prefix'. This 
 
975
        allows one to walk a subtree but get paths that are relative to a tree
 
976
        rooted higher up.
 
977
    :return: an iterator over the dirs.
 
978
    """
 
979
    #TODO there is a bit of a smell where the results of the directory-
 
980
    # summary in this, and the path from the root, may not agree 
 
981
    # depending on top and prefix - i.e. ./foo and foo as a pair leads to
 
982
    # potentially confusing output. We should make this more robust - but
 
983
    # not at a speed cost. RBC 20060731
 
984
    lstat = os.lstat
 
985
    pending = []
 
986
    _directory = _directory_kind
 
987
    _listdir = os.listdir
 
988
    pending = [(prefix, "", _directory, None, top)]
 
989
    while pending:
 
990
        dirblock = []
 
991
        currentdir = pending.pop()
 
992
        # 0 - relpath, 1- basename, 2- kind, 3- stat, 4-toppath
 
993
        top = currentdir[4]
 
994
        if currentdir[0]:
 
995
            relroot = currentdir[0] + '/'
 
996
        else:
 
997
            relroot = ""
 
998
        for name in sorted(_listdir(top)):
 
999
            abspath = top + '/' + name
 
1000
            statvalue = lstat(abspath)
 
1001
            dirblock.append((relroot + name, name,
 
1002
                file_kind_from_stat_mode(statvalue.st_mode),
 
1003
                statvalue, abspath))
 
1004
        yield (currentdir[0], top), dirblock
 
1005
        # push the user specified dirs from dirblock
 
1006
        for dir in reversed(dirblock):
 
1007
            if dir[2] == _directory:
 
1008
                pending.append(dir)
 
1009
 
 
1010
 
 
1011
def copy_tree(from_path, to_path, handlers={}):
 
1012
    """Copy all of the entries in from_path into to_path.
 
1013
 
 
1014
    :param from_path: The base directory to copy. 
 
1015
    :param to_path: The target directory. If it does not exist, it will
 
1016
        be created.
 
1017
    :param handlers: A dictionary of functions, which takes a source and
 
1018
        destinations for files, directories, etc.
 
1019
        It is keyed on the file kind, such as 'directory', 'symlink', or 'file'
 
1020
        'file', 'directory', and 'symlink' should always exist.
 
1021
        If they are missing, they will be replaced with 'os.mkdir()',
 
1022
        'os.readlink() + os.symlink()', and 'shutil.copy2()', respectively.
 
1023
    """
 
1024
    # Now, just copy the existing cached tree to the new location
 
1025
    # We use a cheap trick here.
 
1026
    # Absolute paths are prefixed with the first parameter
 
1027
    # relative paths are prefixed with the second.
 
1028
    # So we can get both the source and target returned
 
1029
    # without any extra work.
 
1030
 
 
1031
    def copy_dir(source, dest):
 
1032
        os.mkdir(dest)
 
1033
 
 
1034
    def copy_link(source, dest):
 
1035
        """Copy the contents of a symlink"""
 
1036
        link_to = os.readlink(source)
 
1037
        os.symlink(link_to, dest)
 
1038
 
 
1039
    real_handlers = {'file':shutil.copy2,
 
1040
                     'symlink':copy_link,
 
1041
                     'directory':copy_dir,
 
1042
                    }
 
1043
    real_handlers.update(handlers)
 
1044
 
 
1045
    if not os.path.exists(to_path):
 
1046
        real_handlers['directory'](from_path, to_path)
 
1047
 
 
1048
    for dir_info, entries in walkdirs(from_path, prefix=to_path):
 
1049
        for relpath, name, kind, st, abspath in entries:
 
1050
            real_handlers[kind](abspath, relpath)
 
1051
 
 
1052
 
 
1053
def path_prefix_key(path):
 
1054
    """Generate a prefix-order path key for path.
 
1055
 
 
1056
    This can be used to sort paths in the same way that walkdirs does.
 
1057
    """
 
1058
    return (dirname(path) , path)
 
1059
 
 
1060
 
 
1061
def compare_paths_prefix_order(path_a, path_b):
 
1062
    """Compare path_a and path_b to generate the same order walkdirs uses."""
 
1063
    key_a = path_prefix_key(path_a)
 
1064
    key_b = path_prefix_key(path_b)
 
1065
    return cmp(key_a, key_b)
 
1066
 
 
1067
 
 
1068
_cached_user_encoding = None
 
1069
 
 
1070
 
 
1071
def get_user_encoding(use_cache=True):
 
1072
    """Find out what the preferred user encoding is.
 
1073
 
 
1074
    This is generally the encoding that is used for command line parameters
 
1075
    and file contents. This may be different from the terminal encoding
 
1076
    or the filesystem encoding.
 
1077
 
 
1078
    :param  use_cache:  Enable cache for detected encoding.
 
1079
                        (This parameter is turned on by default,
 
1080
                        and required only for selftesting)
 
1081
 
 
1082
    :return: A string defining the preferred user encoding
 
1083
    """
 
1084
    global _cached_user_encoding
 
1085
    if _cached_user_encoding is not None and use_cache:
 
1086
        return _cached_user_encoding
 
1087
 
 
1088
    if sys.platform == 'darwin':
 
1089
        # work around egregious python 2.4 bug
 
1090
        sys.platform = 'posix'
 
1091
        try:
 
1092
            import locale
 
1093
        finally:
 
1094
            sys.platform = 'darwin'
 
1095
    else:
 
1096
        import locale
 
1097
 
 
1098
    try:
 
1099
        user_encoding = locale.getpreferredencoding()
 
1100
    except locale.Error, e:
 
1101
        sys.stderr.write('bzr: warning: %s\n'
 
1102
                         '  Could not determine what text encoding to use.\n'
 
1103
                         '  This error usually means your Python interpreter\n'
 
1104
                         '  doesn\'t support the locale set by $LANG (%s)\n'
 
1105
                         "  Continuing with ascii encoding.\n"
 
1106
                         % (e, os.environ.get('LANG')))
 
1107
        user_encoding = 'ascii'
 
1108
 
 
1109
    # Windows returns 'cp0' to indicate there is no code page. So we'll just
 
1110
    # treat that as ASCII, and not support printing unicode characters to the
 
1111
    # console.
 
1112
    if user_encoding in (None, 'cp0'):
 
1113
        user_encoding = 'ascii'
 
1114
    else:
 
1115
        # check encoding
 
1116
        try:
 
1117
            codecs.lookup(user_encoding)
 
1118
        except LookupError:
 
1119
            sys.stderr.write('bzr: warning:'
 
1120
                             ' unknown encoding %s.'
 
1121
                             ' Continuing with ascii encoding.\n'
 
1122
                             % user_encoding
 
1123
                            )
 
1124
            user_encoding = 'ascii'
 
1125
 
 
1126
    if use_cache:
 
1127
        _cached_user_encoding = user_encoding
 
1128
 
 
1129
    return user_encoding
 
1130
 
 
1131
 
 
1132
def recv_all(socket, bytes):
 
1133
    """Receive an exact number of bytes.
 
1134
 
 
1135
    Regular Socket.recv() may return less than the requested number of bytes,
 
1136
    dependning on what's in the OS buffer.  MSG_WAITALL is not available
 
1137
    on all platforms, but this should work everywhere.  This will return
 
1138
    less than the requested amount if the remote end closes.
 
1139
 
 
1140
    This isn't optimized and is intended mostly for use in testing.
 
1141
    """
 
1142
    b = ''
 
1143
    while len(b) < bytes:
 
1144
        new = socket.recv(bytes - len(b))
 
1145
        if new == '':
 
1146
            break # eof
 
1147
        b += new
 
1148
    return b
 
1149
 
 
1150
def dereference_path(path):
 
1151
    """Determine the real path to a file.
 
1152
 
 
1153
    All parent elements are dereferenced.  But the file itself is not
 
1154
    dereferenced.
 
1155
    :param path: The original path.  May be absolute or relative.
 
1156
    :return: the real path *to* the file
 
1157
    """
 
1158
    parent, base = os.path.split(path)
 
1159
    # The pathjoin for '.' is a workaround for Python bug #1213894.
 
1160
    # (initial path components aren't dereferenced)
 
1161
    return pathjoin(realpath(pathjoin('.', parent)), base)