/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/tests/__init__.py

  • Committer: Marien Zwart
  • Date: 2007-03-12 02:35:23 UTC
  • mto: (2348.1.1 mz.symlinks)
  • mto: This revision was merged to the branch mainline in revision 2349.
  • Revision ID: marienz@gentoo.org-20070312023523-h4bhx3oyqmbd27tf
Move some tests that do not need a working tree from workingtree_implementations to tree_implementations.

Show diffs side-by-side

added added

removed removed

Lines of Context:
 
1
# Copyright (C) 2005, 2006, 2007 Canonical Ltd
 
2
#
 
3
# This program is free software; you can redistribute it and/or modify
 
4
# it under the terms of the GNU General Public License as published by
 
5
# the Free Software Foundation; either version 2 of the License, or
 
6
# (at your option) any later version.
 
7
#
 
8
# This program is distributed in the hope that it will be useful,
 
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
 
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
11
# GNU General Public License for more details.
 
12
#
 
13
# You should have received a copy of the GNU General Public License
 
14
# along with this program; if not, write to the Free Software
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
16
 
 
17
 
 
18
# TODO: Perhaps there should be an API to find out if bzr running under the
 
19
# test suite -- some plugins might want to avoid making intrusive changes if
 
20
# this is the case.  However, we want behaviour under to test to diverge as
 
21
# little as possible, so this should be used rarely if it's added at all.
 
22
# (Suggestion from j-a-meinel, 2005-11-24)
 
23
 
 
24
# NOTE: Some classes in here use camelCaseNaming() rather than
 
25
# underscore_naming().  That's for consistency with unittest; it's not the
 
26
# general style of bzrlib.  Please continue that consistency when adding e.g.
 
27
# new assertFoo() methods.
 
28
 
 
29
import codecs
 
30
from cStringIO import StringIO
 
31
import difflib
 
32
import doctest
 
33
import errno
 
34
import logging
 
35
import os
 
36
from pprint import pformat
 
37
import re
 
38
import shlex
 
39
import stat
 
40
from subprocess import Popen, PIPE
 
41
import sys
 
42
import tempfile
 
43
import unittest
 
44
import time
 
45
 
 
46
 
 
47
from bzrlib import (
 
48
    bzrdir,
 
49
    debug,
 
50
    errors,
 
51
    memorytree,
 
52
    osutils,
 
53
    progress,
 
54
    ui,
 
55
    urlutils,
 
56
    )
 
57
import bzrlib.branch
 
58
import bzrlib.commands
 
59
import bzrlib.timestamp
 
60
import bzrlib.export
 
61
import bzrlib.inventory
 
62
import bzrlib.iterablefile
 
63
import bzrlib.lockdir
 
64
try:
 
65
    import bzrlib.lsprof
 
66
except ImportError:
 
67
    # lsprof not available
 
68
    pass
 
69
from bzrlib.merge import merge_inner
 
70
import bzrlib.merge3
 
71
import bzrlib.osutils
 
72
import bzrlib.plugin
 
73
from bzrlib.revision import common_ancestor
 
74
import bzrlib.store
 
75
from bzrlib import symbol_versioning
 
76
import bzrlib.trace
 
77
from bzrlib.transport import get_transport
 
78
import bzrlib.transport
 
79
from bzrlib.transport.local import LocalURLServer
 
80
from bzrlib.transport.memory import MemoryServer
 
81
from bzrlib.transport.readonly import ReadonlyServer
 
82
from bzrlib.trace import mutter, note
 
83
from bzrlib.tests import TestUtil
 
84
from bzrlib.tests.HttpServer import HttpServer
 
85
from bzrlib.tests.TestUtil import (
 
86
                          TestSuite,
 
87
                          TestLoader,
 
88
                          )
 
89
from bzrlib.tests.treeshape import build_tree_contents
 
90
from bzrlib.workingtree import WorkingTree, WorkingTreeFormat2
 
91
 
 
92
default_transport = LocalURLServer
 
93
 
 
94
MODULES_TO_TEST = []
 
95
MODULES_TO_DOCTEST = [
 
96
                      bzrlib.timestamp,
 
97
                      bzrlib.errors,
 
98
                      bzrlib.export,
 
99
                      bzrlib.inventory,
 
100
                      bzrlib.iterablefile,
 
101
                      bzrlib.lockdir,
 
102
                      bzrlib.merge3,
 
103
                      bzrlib.option,
 
104
                      bzrlib.store,
 
105
                      ]
 
106
 
 
107
NUMBERED_DIRS = False   # dirs kind for TestCaseInTempDir (numbered or named)
 
108
 
 
109
 
 
110
def packages_to_test():
 
111
    """Return a list of packages to test.
 
112
 
 
113
    The packages are not globally imported so that import failures are
 
114
    triggered when running selftest, not when importing the command.
 
115
    """
 
116
    import bzrlib.doc
 
117
    import bzrlib.tests.blackbox
 
118
    import bzrlib.tests.branch_implementations
 
119
    import bzrlib.tests.bzrdir_implementations
 
120
    import bzrlib.tests.interrepository_implementations
 
121
    import bzrlib.tests.interversionedfile_implementations
 
122
    import bzrlib.tests.intertree_implementations
 
123
    import bzrlib.tests.repository_implementations
 
124
    import bzrlib.tests.revisionstore_implementations
 
125
    import bzrlib.tests.tree_implementations
 
126
    import bzrlib.tests.workingtree_implementations
 
127
    return [
 
128
            bzrlib.doc,
 
129
            bzrlib.tests.blackbox,
 
130
            bzrlib.tests.branch_implementations,
 
131
            bzrlib.tests.bzrdir_implementations,
 
132
            bzrlib.tests.interrepository_implementations,
 
133
            bzrlib.tests.interversionedfile_implementations,
 
134
            bzrlib.tests.intertree_implementations,
 
135
            bzrlib.tests.repository_implementations,
 
136
            bzrlib.tests.revisionstore_implementations,
 
137
            bzrlib.tests.tree_implementations,
 
138
            bzrlib.tests.workingtree_implementations,
 
139
            ]
 
140
 
 
141
 
 
142
class ExtendedTestResult(unittest._TextTestResult):
 
143
    """Accepts, reports and accumulates the results of running tests.
 
144
 
 
145
    Compared to this unittest version this class adds support for profiling,
 
146
    benchmarking, stopping as soon as a test fails,  and skipping tests.
 
147
    There are further-specialized subclasses for different types of display.
 
148
    """
 
149
 
 
150
    stop_early = False
 
151
    
 
152
    def __init__(self, stream, descriptions, verbosity,
 
153
                 bench_history=None,
 
154
                 num_tests=None,
 
155
                 ):
 
156
        """Construct new TestResult.
 
157
 
 
158
        :param bench_history: Optionally, a writable file object to accumulate
 
159
            benchmark results.
 
160
        """
 
161
        unittest._TextTestResult.__init__(self, stream, descriptions, verbosity)
 
162
        if bench_history is not None:
 
163
            from bzrlib.version import _get_bzr_source_tree
 
164
            src_tree = _get_bzr_source_tree()
 
165
            if src_tree:
 
166
                try:
 
167
                    revision_id = src_tree.get_parent_ids()[0]
 
168
                except IndexError:
 
169
                    # XXX: if this is a brand new tree, do the same as if there
 
170
                    # is no branch.
 
171
                    revision_id = ''
 
172
            else:
 
173
                # XXX: If there's no branch, what should we do?
 
174
                revision_id = ''
 
175
            bench_history.write("--date %s %s\n" % (time.time(), revision_id))
 
176
        self._bench_history = bench_history
 
177
        self.ui = ui.ui_factory
 
178
        self.num_tests = num_tests
 
179
        self.error_count = 0
 
180
        self.failure_count = 0
 
181
        self.skip_count = 0
 
182
        self.count = 0
 
183
        self._overall_start_time = time.time()
 
184
    
 
185
    def extractBenchmarkTime(self, testCase):
 
186
        """Add a benchmark time for the current test case."""
 
187
        self._benchmarkTime = getattr(testCase, "_benchtime", None)
 
188
    
 
189
    def _elapsedTestTimeString(self):
 
190
        """Return a time string for the overall time the current test has taken."""
 
191
        return self._formatTime(time.time() - self._start_time)
 
192
 
 
193
    def _testTimeString(self):
 
194
        if self._benchmarkTime is not None:
 
195
            return "%s/%s" % (
 
196
                self._formatTime(self._benchmarkTime),
 
197
                self._elapsedTestTimeString())
 
198
        else:
 
199
            return "           %s" % self._elapsedTestTimeString()
 
200
 
 
201
    def _formatTime(self, seconds):
 
202
        """Format seconds as milliseconds with leading spaces."""
 
203
        # some benchmarks can take thousands of seconds to run, so we need 8
 
204
        # places
 
205
        return "%8dms" % (1000 * seconds)
 
206
 
 
207
    def _shortened_test_description(self, test):
 
208
        what = test.id()
 
209
        what = re.sub(r'^bzrlib\.(tests|benchmarks)\.', '', what)
 
210
        return what
 
211
 
 
212
    def startTest(self, test):
 
213
        unittest.TestResult.startTest(self, test)
 
214
        self.report_test_start(test)
 
215
        test.number = self.count
 
216
        self._recordTestStartTime()
 
217
 
 
218
    def _recordTestStartTime(self):
 
219
        """Record that a test has started."""
 
220
        self._start_time = time.time()
 
221
 
 
222
    def addError(self, test, err):
 
223
        if isinstance(err[1], TestSkipped):
 
224
            return self.addSkipped(test, err)    
 
225
        unittest.TestResult.addError(self, test, err)
 
226
        # We can only do this if we have one of our TestCases, not if
 
227
        # we have a doctest.
 
228
        setKeepLogfile = getattr(test, 'setKeepLogfile', None)
 
229
        if setKeepLogfile is not None:
 
230
            setKeepLogfile()
 
231
        self.extractBenchmarkTime(test)
 
232
        self.report_error(test, err)
 
233
        if self.stop_early:
 
234
            self.stop()
 
235
 
 
236
    def addFailure(self, test, err):
 
237
        unittest.TestResult.addFailure(self, test, err)
 
238
        # We can only do this if we have one of our TestCases, not if
 
239
        # we have a doctest.
 
240
        setKeepLogfile = getattr(test, 'setKeepLogfile', None)
 
241
        if setKeepLogfile is not None:
 
242
            setKeepLogfile()
 
243
        self.extractBenchmarkTime(test)
 
244
        self.report_failure(test, err)
 
245
        if self.stop_early:
 
246
            self.stop()
 
247
 
 
248
    def addSuccess(self, test):
 
249
        self.extractBenchmarkTime(test)
 
250
        if self._bench_history is not None:
 
251
            if self._benchmarkTime is not None:
 
252
                self._bench_history.write("%s %s\n" % (
 
253
                    self._formatTime(self._benchmarkTime),
 
254
                    test.id()))
 
255
        self.report_success(test)
 
256
        unittest.TestResult.addSuccess(self, test)
 
257
 
 
258
    def addSkipped(self, test, skip_excinfo):
 
259
        self.extractBenchmarkTime(test)
 
260
        self.report_skip(test, skip_excinfo)
 
261
        # seems best to treat this as success from point-of-view of unittest
 
262
        # -- it actually does nothing so it barely matters :)
 
263
        try:
 
264
            test.tearDown()
 
265
        except KeyboardInterrupt:
 
266
            raise
 
267
        except:
 
268
            self.addError(test, test.__exc_info())
 
269
        else:
 
270
            unittest.TestResult.addSuccess(self, test)
 
271
 
 
272
    def printErrorList(self, flavour, errors):
 
273
        for test, err in errors:
 
274
            self.stream.writeln(self.separator1)
 
275
            self.stream.writeln("%s: %s" % (flavour, self.getDescription(test)))
 
276
            if getattr(test, '_get_log', None) is not None:
 
277
                print >>self.stream
 
278
                print >>self.stream, \
 
279
                        ('vvvv[log from %s]' % test.id()).ljust(78,'-')
 
280
                print >>self.stream, test._get_log()
 
281
                print >>self.stream, \
 
282
                        ('^^^^[log from %s]' % test.id()).ljust(78,'-')
 
283
            self.stream.writeln(self.separator2)
 
284
            self.stream.writeln("%s" % err)
 
285
 
 
286
    def finished(self):
 
287
        pass
 
288
 
 
289
    def report_cleaning_up(self):
 
290
        pass
 
291
 
 
292
    def report_success(self, test):
 
293
        pass
 
294
 
 
295
 
 
296
class TextTestResult(ExtendedTestResult):
 
297
    """Displays progress and results of tests in text form"""
 
298
 
 
299
    def __init__(self, *args, **kw):
 
300
        ExtendedTestResult.__init__(self, *args, **kw)
 
301
        self.pb = self.ui.nested_progress_bar()
 
302
        self.pb.show_pct = False
 
303
        self.pb.show_spinner = False
 
304
        self.pb.show_eta = False, 
 
305
        self.pb.show_count = False
 
306
        self.pb.show_bar = False
 
307
 
 
308
    def report_starting(self):
 
309
        self.pb.update('[test 0/%d] starting...' % (self.num_tests))
 
310
 
 
311
    def _progress_prefix_text(self):
 
312
        a = '[%d' % self.count
 
313
        if self.num_tests is not None:
 
314
            a +='/%d' % self.num_tests
 
315
        a += ' in %ds' % (time.time() - self._overall_start_time)
 
316
        if self.error_count:
 
317
            a += ', %d errors' % self.error_count
 
318
        if self.failure_count:
 
319
            a += ', %d failed' % self.failure_count
 
320
        if self.skip_count:
 
321
            a += ', %d skipped' % self.skip_count
 
322
        a += ']'
 
323
        return a
 
324
 
 
325
    def report_test_start(self, test):
 
326
        self.count += 1
 
327
        self.pb.update(
 
328
                self._progress_prefix_text()
 
329
                + ' ' 
 
330
                + self._shortened_test_description(test))
 
331
 
 
332
    def _test_description(self, test):
 
333
        if NUMBERED_DIRS:
 
334
            return '#%d %s' % (self.count,
 
335
                               self._shortened_test_description(test))
 
336
        else:
 
337
            return self._shortened_test_description(test)
 
338
 
 
339
    def report_error(self, test, err):
 
340
        self.error_count += 1
 
341
        self.pb.note('ERROR: %s\n    %s\n', 
 
342
            self._test_description(test),
 
343
            err[1],
 
344
            )
 
345
 
 
346
    def report_failure(self, test, err):
 
347
        self.failure_count += 1
 
348
        self.pb.note('FAIL: %s\n    %s\n', 
 
349
            self._test_description(test),
 
350
            err[1],
 
351
            )
 
352
 
 
353
    def report_skip(self, test, skip_excinfo):
 
354
        self.skip_count += 1
 
355
        if False:
 
356
            # at the moment these are mostly not things we can fix
 
357
            # and so they just produce stipple; use the verbose reporter
 
358
            # to see them.
 
359
            if False:
 
360
                # show test and reason for skip
 
361
                self.pb.note('SKIP: %s\n    %s\n', 
 
362
                    self._shortened_test_description(test),
 
363
                    skip_excinfo[1])
 
364
            else:
 
365
                # since the class name was left behind in the still-visible
 
366
                # progress bar...
 
367
                self.pb.note('SKIP: %s', skip_excinfo[1])
 
368
 
 
369
    def report_cleaning_up(self):
 
370
        self.pb.update('cleaning up...')
 
371
 
 
372
    def finished(self):
 
373
        self.pb.finished()
 
374
 
 
375
 
 
376
class VerboseTestResult(ExtendedTestResult):
 
377
    """Produce long output, with one line per test run plus times"""
 
378
 
 
379
    def _ellipsize_to_right(self, a_string, final_width):
 
380
        """Truncate and pad a string, keeping the right hand side"""
 
381
        if len(a_string) > final_width:
 
382
            result = '...' + a_string[3-final_width:]
 
383
        else:
 
384
            result = a_string
 
385
        return result.ljust(final_width)
 
386
 
 
387
    def report_starting(self):
 
388
        self.stream.write('running %d tests...\n' % self.num_tests)
 
389
 
 
390
    def report_test_start(self, test):
 
391
        self.count += 1
 
392
        name = self._shortened_test_description(test)
 
393
        # width needs space for 6 char status, plus 1 for slash, plus 2 10-char
 
394
        # numbers, plus a trailing blank
 
395
        # when NUMBERED_DIRS: plus 5 chars on test number, plus 1 char on space
 
396
        if NUMBERED_DIRS:
 
397
            self.stream.write('%5d ' % self.count)
 
398
            self.stream.write(self._ellipsize_to_right(name,
 
399
                                osutils.terminal_width()-36))
 
400
        else:
 
401
            self.stream.write(self._ellipsize_to_right(name,
 
402
                                osutils.terminal_width()-30))
 
403
        self.stream.flush()
 
404
 
 
405
    def _error_summary(self, err):
 
406
        indent = ' ' * 4
 
407
        if NUMBERED_DIRS:
 
408
            indent += ' ' * 6
 
409
        return '%s%s' % (indent, err[1])
 
410
 
 
411
    def report_error(self, test, err):
 
412
        self.error_count += 1
 
413
        self.stream.writeln('ERROR %s\n%s'
 
414
                % (self._testTimeString(),
 
415
                   self._error_summary(err)))
 
416
 
 
417
    def report_failure(self, test, err):
 
418
        self.failure_count += 1
 
419
        self.stream.writeln(' FAIL %s\n%s'
 
420
                % (self._testTimeString(),
 
421
                   self._error_summary(err)))
 
422
 
 
423
    def report_success(self, test):
 
424
        self.stream.writeln('   OK %s' % self._testTimeString())
 
425
        for bench_called, stats in getattr(test, '_benchcalls', []):
 
426
            self.stream.writeln('LSProf output for %s(%s, %s)' % bench_called)
 
427
            stats.pprint(file=self.stream)
 
428
        self.stream.flush()
 
429
 
 
430
    def report_skip(self, test, skip_excinfo):
 
431
        self.skip_count += 1
 
432
        self.stream.writeln(' SKIP %s\n%s'
 
433
                % (self._testTimeString(),
 
434
                   self._error_summary(skip_excinfo)))
 
435
 
 
436
 
 
437
class TextTestRunner(object):
 
438
    stop_on_failure = False
 
439
 
 
440
    def __init__(self,
 
441
                 stream=sys.stderr,
 
442
                 descriptions=0,
 
443
                 verbosity=1,
 
444
                 keep_output=False,
 
445
                 bench_history=None):
 
446
        self.stream = unittest._WritelnDecorator(stream)
 
447
        self.descriptions = descriptions
 
448
        self.verbosity = verbosity
 
449
        self.keep_output = keep_output
 
450
        self._bench_history = bench_history
 
451
 
 
452
    def run(self, test):
 
453
        "Run the given test case or test suite."
 
454
        startTime = time.time()
 
455
        if self.verbosity == 1:
 
456
            result_class = TextTestResult
 
457
        elif self.verbosity >= 2:
 
458
            result_class = VerboseTestResult
 
459
        result = result_class(self.stream,
 
460
                              self.descriptions,
 
461
                              self.verbosity,
 
462
                              bench_history=self._bench_history,
 
463
                              num_tests=test.countTestCases(),
 
464
                              )
 
465
        result.stop_early = self.stop_on_failure
 
466
        result.report_starting()
 
467
        test.run(result)
 
468
        stopTime = time.time()
 
469
        timeTaken = stopTime - startTime
 
470
        result.printErrors()
 
471
        self.stream.writeln(result.separator2)
 
472
        run = result.testsRun
 
473
        self.stream.writeln("Ran %d test%s in %.3fs" %
 
474
                            (run, run != 1 and "s" or "", timeTaken))
 
475
        self.stream.writeln()
 
476
        if not result.wasSuccessful():
 
477
            self.stream.write("FAILED (")
 
478
            failed, errored = map(len, (result.failures, result.errors))
 
479
            if failed:
 
480
                self.stream.write("failures=%d" % failed)
 
481
            if errored:
 
482
                if failed: self.stream.write(", ")
 
483
                self.stream.write("errors=%d" % errored)
 
484
            self.stream.writeln(")")
 
485
        else:
 
486
            self.stream.writeln("OK")
 
487
        if result.skip_count > 0:
 
488
            skipped = result.skip_count
 
489
            self.stream.writeln('%d test%s skipped' %
 
490
                                (skipped, skipped != 1 and "s" or ""))
 
491
        result.report_cleaning_up()
 
492
        # This is still a little bogus, 
 
493
        # but only a little. Folk not using our testrunner will
 
494
        # have to delete their temp directories themselves.
 
495
        test_root = TestCaseWithMemoryTransport.TEST_ROOT
 
496
        if result.wasSuccessful() or not self.keep_output:
 
497
            if test_root is not None:
 
498
                # If LANG=C we probably have created some bogus paths
 
499
                # which rmtree(unicode) will fail to delete
 
500
                # so make sure we are using rmtree(str) to delete everything
 
501
                # except on win32, where rmtree(str) will fail
 
502
                # since it doesn't have the property of byte-stream paths
 
503
                # (they are either ascii or mbcs)
 
504
                if sys.platform == 'win32':
 
505
                    # make sure we are using the unicode win32 api
 
506
                    test_root = unicode(test_root)
 
507
                else:
 
508
                    test_root = test_root.encode(
 
509
                        sys.getfilesystemencoding())
 
510
                try:
 
511
                    osutils.rmtree(test_root)
 
512
                except OSError, e:
 
513
                    if sys.platform == 'win32' and e.errno == errno.EACCES:
 
514
                        print >>sys.stderr, ('Permission denied: '
 
515
                                             'unable to remove testing dir '
 
516
                                             '%s' % os.path.basename(test_root))
 
517
                    else:
 
518
                        raise
 
519
        else:
 
520
            note("Failed tests working directories are in '%s'\n", test_root)
 
521
        TestCaseWithMemoryTransport.TEST_ROOT = None
 
522
        result.finished()
 
523
        return result
 
524
 
 
525
 
 
526
def iter_suite_tests(suite):
 
527
    """Return all tests in a suite, recursing through nested suites"""
 
528
    for item in suite._tests:
 
529
        if isinstance(item, unittest.TestCase):
 
530
            yield item
 
531
        elif isinstance(item, unittest.TestSuite):
 
532
            for r in iter_suite_tests(item):
 
533
                yield r
 
534
        else:
 
535
            raise Exception('unknown object %r inside test suite %r'
 
536
                            % (item, suite))
 
537
 
 
538
 
 
539
class TestSkipped(Exception):
 
540
    """Indicates that a test was intentionally skipped, rather than failing."""
 
541
 
 
542
 
 
543
class CommandFailed(Exception):
 
544
    pass
 
545
 
 
546
 
 
547
class StringIOWrapper(object):
 
548
    """A wrapper around cStringIO which just adds an encoding attribute.
 
549
    
 
550
    Internally we can check sys.stdout to see what the output encoding
 
551
    should be. However, cStringIO has no encoding attribute that we can
 
552
    set. So we wrap it instead.
 
553
    """
 
554
    encoding='ascii'
 
555
    _cstring = None
 
556
 
 
557
    def __init__(self, s=None):
 
558
        if s is not None:
 
559
            self.__dict__['_cstring'] = StringIO(s)
 
560
        else:
 
561
            self.__dict__['_cstring'] = StringIO()
 
562
 
 
563
    def __getattr__(self, name, getattr=getattr):
 
564
        return getattr(self.__dict__['_cstring'], name)
 
565
 
 
566
    def __setattr__(self, name, val):
 
567
        if name == 'encoding':
 
568
            self.__dict__['encoding'] = val
 
569
        else:
 
570
            return setattr(self._cstring, name, val)
 
571
 
 
572
 
 
573
class TestUIFactory(ui.CLIUIFactory):
 
574
    """A UI Factory for testing.
 
575
 
 
576
    Hide the progress bar but emit note()s.
 
577
    Redirect stdin.
 
578
    Allows get_password to be tested without real tty attached.
 
579
    """
 
580
 
 
581
    def __init__(self,
 
582
                 stdout=None,
 
583
                 stderr=None,
 
584
                 stdin=None):
 
585
        super(TestUIFactory, self).__init__()
 
586
        if stdin is not None:
 
587
            # We use a StringIOWrapper to be able to test various
 
588
            # encodings, but the user is still responsible to
 
589
            # encode the string and to set the encoding attribute
 
590
            # of StringIOWrapper.
 
591
            self.stdin = StringIOWrapper(stdin)
 
592
        if stdout is None:
 
593
            self.stdout = sys.stdout
 
594
        else:
 
595
            self.stdout = stdout
 
596
        if stderr is None:
 
597
            self.stderr = sys.stderr
 
598
        else:
 
599
            self.stderr = stderr
 
600
 
 
601
    def clear(self):
 
602
        """See progress.ProgressBar.clear()."""
 
603
 
 
604
    def clear_term(self):
 
605
        """See progress.ProgressBar.clear_term()."""
 
606
 
 
607
    def clear_term(self):
 
608
        """See progress.ProgressBar.clear_term()."""
 
609
 
 
610
    def finished(self):
 
611
        """See progress.ProgressBar.finished()."""
 
612
 
 
613
    def note(self, fmt_string, *args, **kwargs):
 
614
        """See progress.ProgressBar.note()."""
 
615
        self.stdout.write((fmt_string + "\n") % args)
 
616
 
 
617
    def progress_bar(self):
 
618
        return self
 
619
 
 
620
    def nested_progress_bar(self):
 
621
        return self
 
622
 
 
623
    def update(self, message, count=None, total=None):
 
624
        """See progress.ProgressBar.update()."""
 
625
 
 
626
    def get_non_echoed_password(self, prompt):
 
627
        """Get password from stdin without trying to handle the echo mode"""
 
628
        if prompt:
 
629
            self.stdout.write(prompt)
 
630
        password = self.stdin.readline()
 
631
        if not password:
 
632
            raise EOFError
 
633
        if password[-1] == '\n':
 
634
            password = password[:-1]
 
635
        return password
 
636
 
 
637
 
 
638
class TestCase(unittest.TestCase):
 
639
    """Base class for bzr unit tests.
 
640
    
 
641
    Tests that need access to disk resources should subclass 
 
642
    TestCaseInTempDir not TestCase.
 
643
 
 
644
    Error and debug log messages are redirected from their usual
 
645
    location into a temporary file, the contents of which can be
 
646
    retrieved by _get_log().  We use a real OS file, not an in-memory object,
 
647
    so that it can also capture file IO.  When the test completes this file
 
648
    is read into memory and removed from disk.
 
649
       
 
650
    There are also convenience functions to invoke bzr's command-line
 
651
    routine, and to build and check bzr trees.
 
652
   
 
653
    In addition to the usual method of overriding tearDown(), this class also
 
654
    allows subclasses to register functions into the _cleanups list, which is
 
655
    run in order as the object is torn down.  It's less likely this will be
 
656
    accidentally overlooked.
 
657
    """
 
658
 
 
659
    _log_file_name = None
 
660
    _log_contents = ''
 
661
    _keep_log_file = False
 
662
    # record lsprof data when performing benchmark calls.
 
663
    _gather_lsprof_in_benchmarks = False
 
664
 
 
665
    def __init__(self, methodName='testMethod'):
 
666
        super(TestCase, self).__init__(methodName)
 
667
        self._cleanups = []
 
668
 
 
669
    def setUp(self):
 
670
        unittest.TestCase.setUp(self)
 
671
        self._cleanEnvironment()
 
672
        bzrlib.trace.disable_default_logging()
 
673
        self._silenceUI()
 
674
        self._startLogFile()
 
675
        self._benchcalls = []
 
676
        self._benchtime = None
 
677
        # prevent hooks affecting tests
 
678
        self._preserved_hooks = bzrlib.branch.Branch.hooks
 
679
        self.addCleanup(self._restoreHooks)
 
680
        # this list of hooks must be kept in sync with the defaults
 
681
        # in branch.py
 
682
        bzrlib.branch.Branch.hooks = bzrlib.branch.BranchHooks()
 
683
 
 
684
    def _silenceUI(self):
 
685
        """Turn off UI for duration of test"""
 
686
        # by default the UI is off; tests can turn it on if they want it.
 
687
        saved = ui.ui_factory
 
688
        def _restore():
 
689
            ui.ui_factory = saved
 
690
        ui.ui_factory = ui.SilentUIFactory()
 
691
        self.addCleanup(_restore)
 
692
 
 
693
    def _ndiff_strings(self, a, b):
 
694
        """Return ndiff between two strings containing lines.
 
695
        
 
696
        A trailing newline is added if missing to make the strings
 
697
        print properly."""
 
698
        if b and b[-1] != '\n':
 
699
            b += '\n'
 
700
        if a and a[-1] != '\n':
 
701
            a += '\n'
 
702
        difflines = difflib.ndiff(a.splitlines(True),
 
703
                                  b.splitlines(True),
 
704
                                  linejunk=lambda x: False,
 
705
                                  charjunk=lambda x: False)
 
706
        return ''.join(difflines)
 
707
 
 
708
    def assertEqual(self, a, b, message=''):
 
709
        if a == b:
 
710
            return
 
711
        if message:
 
712
            message += '\n'
 
713
        raise AssertionError("%snot equal:\na = %s\nb = %s\n"
 
714
            % (message,
 
715
               pformat(a, indent=4), pformat(b, indent=4)))
 
716
 
 
717
    assertEquals = assertEqual
 
718
 
 
719
    def assertEqualDiff(self, a, b, message=None):
 
720
        """Assert two texts are equal, if not raise an exception.
 
721
        
 
722
        This is intended for use with multi-line strings where it can 
 
723
        be hard to find the differences by eye.
 
724
        """
 
725
        # TODO: perhaps override assertEquals to call this for strings?
 
726
        if a == b:
 
727
            return
 
728
        if message is None:
 
729
            message = "texts not equal:\n"
 
730
        raise AssertionError(message + 
 
731
                             self._ndiff_strings(a, b))      
 
732
        
 
733
    def assertEqualMode(self, mode, mode_test):
 
734
        self.assertEqual(mode, mode_test,
 
735
                         'mode mismatch %o != %o' % (mode, mode_test))
 
736
 
 
737
    def assertStartsWith(self, s, prefix):
 
738
        if not s.startswith(prefix):
 
739
            raise AssertionError('string %r does not start with %r' % (s, prefix))
 
740
 
 
741
    def assertEndsWith(self, s, suffix):
 
742
        """Asserts that s ends with suffix."""
 
743
        if not s.endswith(suffix):
 
744
            raise AssertionError('string %r does not end with %r' % (s, suffix))
 
745
 
 
746
    def assertContainsRe(self, haystack, needle_re):
 
747
        """Assert that a contains something matching a regular expression."""
 
748
        if not re.search(needle_re, haystack):
 
749
            raise AssertionError('pattern "%r" not found in "%r"'
 
750
                    % (needle_re, haystack))
 
751
 
 
752
    def assertNotContainsRe(self, haystack, needle_re):
 
753
        """Assert that a does not match a regular expression"""
 
754
        if re.search(needle_re, haystack):
 
755
            raise AssertionError('pattern "%s" found in "%s"'
 
756
                    % (needle_re, haystack))
 
757
 
 
758
    def assertSubset(self, sublist, superlist):
 
759
        """Assert that every entry in sublist is present in superlist."""
 
760
        missing = []
 
761
        for entry in sublist:
 
762
            if entry not in superlist:
 
763
                missing.append(entry)
 
764
        if len(missing) > 0:
 
765
            raise AssertionError("value(s) %r not present in container %r" % 
 
766
                                 (missing, superlist))
 
767
 
 
768
    def assertListRaises(self, excClass, func, *args, **kwargs):
 
769
        """Fail unless excClass is raised when the iterator from func is used.
 
770
        
 
771
        Many functions can return generators this makes sure
 
772
        to wrap them in a list() call to make sure the whole generator
 
773
        is run, and that the proper exception is raised.
 
774
        """
 
775
        try:
 
776
            list(func(*args, **kwargs))
 
777
        except excClass:
 
778
            return
 
779
        else:
 
780
            if getattr(excClass,'__name__', None) is not None:
 
781
                excName = excClass.__name__
 
782
            else:
 
783
                excName = str(excClass)
 
784
            raise self.failureException, "%s not raised" % excName
 
785
 
 
786
    def assertIs(self, left, right, message=None):
 
787
        if not (left is right):
 
788
            if message is not None:
 
789
                raise AssertionError(message)
 
790
            else:
 
791
                raise AssertionError("%r is not %r." % (left, right))
 
792
 
 
793
    def assertIsNot(self, left, right, message=None):
 
794
        if (left is right):
 
795
            if message is not None:
 
796
                raise AssertionError(message)
 
797
            else:
 
798
                raise AssertionError("%r is %r." % (left, right))
 
799
 
 
800
    def assertTransportMode(self, transport, path, mode):
 
801
        """Fail if a path does not have mode mode.
 
802
        
 
803
        If modes are not supported on this transport, the assertion is ignored.
 
804
        """
 
805
        if not transport._can_roundtrip_unix_modebits():
 
806
            return
 
807
        path_stat = transport.stat(path)
 
808
        actual_mode = stat.S_IMODE(path_stat.st_mode)
 
809
        self.assertEqual(mode, actual_mode,
 
810
            'mode of %r incorrect (%o != %o)' % (path, mode, actual_mode))
 
811
 
 
812
    def assertIsInstance(self, obj, kls):
 
813
        """Fail if obj is not an instance of kls"""
 
814
        if not isinstance(obj, kls):
 
815
            self.fail("%r is an instance of %s rather than %s" % (
 
816
                obj, obj.__class__, kls))
 
817
 
 
818
    def _capture_warnings(self, a_callable, *args, **kwargs):
 
819
        """A helper for callDeprecated and applyDeprecated.
 
820
 
 
821
        :param a_callable: A callable to call.
 
822
        :param args: The positional arguments for the callable
 
823
        :param kwargs: The keyword arguments for the callable
 
824
        :return: A tuple (warnings, result). result is the result of calling
 
825
            a_callable(*args, **kwargs).
 
826
        """
 
827
        local_warnings = []
 
828
        def capture_warnings(msg, cls=None, stacklevel=None):
 
829
            # we've hooked into a deprecation specific callpath,
 
830
            # only deprecations should getting sent via it.
 
831
            self.assertEqual(cls, DeprecationWarning)
 
832
            local_warnings.append(msg)
 
833
        original_warning_method = symbol_versioning.warn
 
834
        symbol_versioning.set_warning_method(capture_warnings)
 
835
        try:
 
836
            result = a_callable(*args, **kwargs)
 
837
        finally:
 
838
            symbol_versioning.set_warning_method(original_warning_method)
 
839
        return (local_warnings, result)
 
840
 
 
841
    def applyDeprecated(self, deprecation_format, a_callable, *args, **kwargs):
 
842
        """Call a deprecated callable without warning the user.
 
843
 
 
844
        :param deprecation_format: The deprecation format that the callable
 
845
            should have been deprecated with. This is the same type as the 
 
846
            parameter to deprecated_method/deprecated_function. If the 
 
847
            callable is not deprecated with this format, an assertion error
 
848
            will be raised.
 
849
        :param a_callable: A callable to call. This may be a bound method or
 
850
            a regular function. It will be called with *args and **kwargs.
 
851
        :param args: The positional arguments for the callable
 
852
        :param kwargs: The keyword arguments for the callable
 
853
        :return: The result of a_callable(*args, **kwargs)
 
854
        """
 
855
        call_warnings, result = self._capture_warnings(a_callable,
 
856
            *args, **kwargs)
 
857
        expected_first_warning = symbol_versioning.deprecation_string(
 
858
            a_callable, deprecation_format)
 
859
        if len(call_warnings) == 0:
 
860
            self.fail("No deprecation warning generated by call to %s" %
 
861
                a_callable)
 
862
        self.assertEqual(expected_first_warning, call_warnings[0])
 
863
        return result
 
864
 
 
865
    def callDeprecated(self, expected, callable, *args, **kwargs):
 
866
        """Assert that a callable is deprecated in a particular way.
 
867
 
 
868
        This is a very precise test for unusual requirements. The 
 
869
        applyDeprecated helper function is probably more suited for most tests
 
870
        as it allows you to simply specify the deprecation format being used
 
871
        and will ensure that that is issued for the function being called.
 
872
 
 
873
        :param expected: a list of the deprecation warnings expected, in order
 
874
        :param callable: The callable to call
 
875
        :param args: The positional arguments for the callable
 
876
        :param kwargs: The keyword arguments for the callable
 
877
        """
 
878
        call_warnings, result = self._capture_warnings(callable,
 
879
            *args, **kwargs)
 
880
        self.assertEqual(expected, call_warnings)
 
881
        return result
 
882
 
 
883
    def _startLogFile(self):
 
884
        """Send bzr and test log messages to a temporary file.
 
885
 
 
886
        The file is removed as the test is torn down.
 
887
        """
 
888
        fileno, name = tempfile.mkstemp(suffix='.log', prefix='testbzr')
 
889
        self._log_file = os.fdopen(fileno, 'w+')
 
890
        self._log_nonce = bzrlib.trace.enable_test_log(self._log_file)
 
891
        self._log_file_name = name
 
892
        self.addCleanup(self._finishLogFile)
 
893
 
 
894
    def _finishLogFile(self):
 
895
        """Finished with the log file.
 
896
 
 
897
        Close the file and delete it, unless setKeepLogfile was called.
 
898
        """
 
899
        if self._log_file is None:
 
900
            return
 
901
        bzrlib.trace.disable_test_log(self._log_nonce)
 
902
        self._log_file.close()
 
903
        self._log_file = None
 
904
        if not self._keep_log_file:
 
905
            os.remove(self._log_file_name)
 
906
            self._log_file_name = None
 
907
 
 
908
    def setKeepLogfile(self):
 
909
        """Make the logfile not be deleted when _finishLogFile is called."""
 
910
        self._keep_log_file = True
 
911
 
 
912
    def addCleanup(self, callable):
 
913
        """Arrange to run a callable when this case is torn down.
 
914
 
 
915
        Callables are run in the reverse of the order they are registered, 
 
916
        ie last-in first-out.
 
917
        """
 
918
        if callable in self._cleanups:
 
919
            raise ValueError("cleanup function %r already registered on %s" 
 
920
                    % (callable, self))
 
921
        self._cleanups.append(callable)
 
922
 
 
923
    def _cleanEnvironment(self):
 
924
        new_env = {
 
925
            'BZR_HOME': None, # Don't inherit BZR_HOME to all the tests.
 
926
            'HOME': os.getcwd(),
 
927
            'APPDATA': None,  # bzr now use Win32 API and don't rely on APPDATA
 
928
            'BZR_EMAIL': None,
 
929
            'BZREMAIL': None, # may still be present in the environment
 
930
            'EMAIL': None,
 
931
            'BZR_PROGRESS_BAR': None,
 
932
            # Proxies
 
933
            'http_proxy': None,
 
934
            'HTTP_PROXY': None,
 
935
            'https_proxy': None,
 
936
            'HTTPS_PROXY': None,
 
937
            'no_proxy': None,
 
938
            'NO_PROXY': None,
 
939
            'all_proxy': None,
 
940
            'ALL_PROXY': None,
 
941
            # Nobody cares about these ones AFAIK. So far at
 
942
            # least. If you do (care), please update this comment
 
943
            # -- vila 20061212
 
944
            'ftp_proxy': None,
 
945
            'FTP_PROXY': None,
 
946
        }
 
947
        self.__old_env = {}
 
948
        self.addCleanup(self._restoreEnvironment)
 
949
        for name, value in new_env.iteritems():
 
950
            self._captureVar(name, value)
 
951
 
 
952
    def _captureVar(self, name, newvalue):
 
953
        """Set an environment variable, and reset it when finished."""
 
954
        self.__old_env[name] = osutils.set_or_unset_env(name, newvalue)
 
955
 
 
956
    def _restoreEnvironment(self):
 
957
        for name, value in self.__old_env.iteritems():
 
958
            osutils.set_or_unset_env(name, value)
 
959
 
 
960
    def _restoreHooks(self):
 
961
        bzrlib.branch.Branch.hooks = self._preserved_hooks
 
962
 
 
963
    def tearDown(self):
 
964
        self._runCleanups()
 
965
        unittest.TestCase.tearDown(self)
 
966
 
 
967
    def time(self, callable, *args, **kwargs):
 
968
        """Run callable and accrue the time it takes to the benchmark time.
 
969
        
 
970
        If lsprofiling is enabled (i.e. by --lsprof-time to bzr selftest) then
 
971
        this will cause lsprofile statistics to be gathered and stored in
 
972
        self._benchcalls.
 
973
        """
 
974
        if self._benchtime is None:
 
975
            self._benchtime = 0
 
976
        start = time.time()
 
977
        try:
 
978
            if not self._gather_lsprof_in_benchmarks:
 
979
                return callable(*args, **kwargs)
 
980
            else:
 
981
                # record this benchmark
 
982
                ret, stats = bzrlib.lsprof.profile(callable, *args, **kwargs)
 
983
                stats.sort()
 
984
                self._benchcalls.append(((callable, args, kwargs), stats))
 
985
                return ret
 
986
        finally:
 
987
            self._benchtime += time.time() - start
 
988
 
 
989
    def _runCleanups(self):
 
990
        """Run registered cleanup functions. 
 
991
 
 
992
        This should only be called from TestCase.tearDown.
 
993
        """
 
994
        # TODO: Perhaps this should keep running cleanups even if 
 
995
        # one of them fails?
 
996
        for cleanup_fn in reversed(self._cleanups):
 
997
            cleanup_fn()
 
998
 
 
999
    def log(self, *args):
 
1000
        mutter(*args)
 
1001
 
 
1002
    def _get_log(self, keep_log_file=False):
 
1003
        """Return as a string the log for this test. If the file is still
 
1004
        on disk and keep_log_file=False, delete the log file and store the
 
1005
        content in self._log_contents."""
 
1006
        # flush the log file, to get all content
 
1007
        import bzrlib.trace
 
1008
        bzrlib.trace._trace_file.flush()
 
1009
        if self._log_contents:
 
1010
            return self._log_contents
 
1011
        if self._log_file_name is not None:
 
1012
            logfile = open(self._log_file_name)
 
1013
            try:
 
1014
                log_contents = logfile.read()
 
1015
            finally:
 
1016
                logfile.close()
 
1017
            if not keep_log_file:
 
1018
                self._log_contents = log_contents
 
1019
                try:
 
1020
                    os.remove(self._log_file_name)
 
1021
                except OSError, e:
 
1022
                    if sys.platform == 'win32' and e.errno == errno.EACCES:
 
1023
                        print >>sys.stderr, ('Unable to delete log file '
 
1024
                                             ' %r' % self._log_file_name)
 
1025
                    else:
 
1026
                        raise
 
1027
            return log_contents
 
1028
        else:
 
1029
            return "DELETED log file to reduce memory footprint"
 
1030
 
 
1031
    def capture(self, cmd, retcode=0):
 
1032
        """Shortcut that splits cmd into words, runs, and returns stdout"""
 
1033
        return self.run_bzr_captured(cmd.split(), retcode=retcode)[0]
 
1034
 
 
1035
    def run_bzr_captured(self, argv, retcode=0, encoding=None, stdin=None,
 
1036
                         working_dir=None):
 
1037
        """Invoke bzr and return (stdout, stderr).
 
1038
 
 
1039
        Useful for code that wants to check the contents of the
 
1040
        output, the way error messages are presented, etc.
 
1041
 
 
1042
        This should be the main method for tests that want to exercise the
 
1043
        overall behavior of the bzr application (rather than a unit test
 
1044
        or a functional test of the library.)
 
1045
 
 
1046
        Much of the old code runs bzr by forking a new copy of Python, but
 
1047
        that is slower, harder to debug, and generally not necessary.
 
1048
 
 
1049
        This runs bzr through the interface that catches and reports
 
1050
        errors, and with logging set to something approximating the
 
1051
        default, so that error reporting can be checked.
 
1052
 
 
1053
        :param argv: arguments to invoke bzr
 
1054
        :param retcode: expected return code, or None for don't-care.
 
1055
        :param encoding: encoding for sys.stdout and sys.stderr
 
1056
        :param stdin: A string to be used as stdin for the command.
 
1057
        :param working_dir: Change to this directory before running
 
1058
        """
 
1059
        if encoding is None:
 
1060
            encoding = bzrlib.user_encoding
 
1061
        stdout = StringIOWrapper()
 
1062
        stderr = StringIOWrapper()
 
1063
        stdout.encoding = encoding
 
1064
        stderr.encoding = encoding
 
1065
 
 
1066
        self.log('run bzr: %r', argv)
 
1067
        # FIXME: don't call into logging here
 
1068
        handler = logging.StreamHandler(stderr)
 
1069
        handler.setLevel(logging.INFO)
 
1070
        logger = logging.getLogger('')
 
1071
        logger.addHandler(handler)
 
1072
        old_ui_factory = ui.ui_factory
 
1073
        ui.ui_factory = TestUIFactory(stdin=stdin, stdout=stdout, stderr=stderr)
 
1074
 
 
1075
        cwd = None
 
1076
        if working_dir is not None:
 
1077
            cwd = osutils.getcwd()
 
1078
            os.chdir(working_dir)
 
1079
 
 
1080
        try:
 
1081
            saved_debug_flags = frozenset(debug.debug_flags)
 
1082
            debug.debug_flags.clear()
 
1083
            try:
 
1084
                result = self.apply_redirected(ui.ui_factory.stdin,
 
1085
                                               stdout, stderr,
 
1086
                                               bzrlib.commands.run_bzr_catch_errors,
 
1087
                                               argv)
 
1088
            finally:
 
1089
                debug.debug_flags.update(saved_debug_flags)
 
1090
        finally:
 
1091
            logger.removeHandler(handler)
 
1092
            ui.ui_factory = old_ui_factory
 
1093
            if cwd is not None:
 
1094
                os.chdir(cwd)
 
1095
 
 
1096
        out = stdout.getvalue()
 
1097
        err = stderr.getvalue()
 
1098
        if out:
 
1099
            self.log('output:\n%r', out)
 
1100
        if err:
 
1101
            self.log('errors:\n%r', err)
 
1102
        if retcode is not None:
 
1103
            self.assertEquals(retcode, result)
 
1104
        return out, err
 
1105
 
 
1106
    def run_bzr(self, *args, **kwargs):
 
1107
        """Invoke bzr, as if it were run from the command line.
 
1108
 
 
1109
        This should be the main method for tests that want to exercise the
 
1110
        overall behavior of the bzr application (rather than a unit test
 
1111
        or a functional test of the library.)
 
1112
 
 
1113
        This sends the stdout/stderr results into the test's log,
 
1114
        where it may be useful for debugging.  See also run_captured.
 
1115
 
 
1116
        :param stdin: A string to be used as stdin for the command.
 
1117
        :param retcode: The status code the command should return
 
1118
        :param working_dir: The directory to run the command in
 
1119
        """
 
1120
        retcode = kwargs.pop('retcode', 0)
 
1121
        encoding = kwargs.pop('encoding', None)
 
1122
        stdin = kwargs.pop('stdin', None)
 
1123
        working_dir = kwargs.pop('working_dir', None)
 
1124
        return self.run_bzr_captured(args, retcode=retcode, encoding=encoding,
 
1125
                                     stdin=stdin, working_dir=working_dir)
 
1126
 
 
1127
    def run_bzr_decode(self, *args, **kwargs):
 
1128
        if 'encoding' in kwargs:
 
1129
            encoding = kwargs['encoding']
 
1130
        else:
 
1131
            encoding = bzrlib.user_encoding
 
1132
        return self.run_bzr(*args, **kwargs)[0].decode(encoding)
 
1133
 
 
1134
    def run_bzr_error(self, error_regexes, *args, **kwargs):
 
1135
        """Run bzr, and check that stderr contains the supplied regexes
 
1136
        
 
1137
        :param error_regexes: Sequence of regular expressions which 
 
1138
            must each be found in the error output. The relative ordering
 
1139
            is not enforced.
 
1140
        :param args: command-line arguments for bzr
 
1141
        :param kwargs: Keyword arguments which are interpreted by run_bzr
 
1142
            This function changes the default value of retcode to be 3,
 
1143
            since in most cases this is run when you expect bzr to fail.
 
1144
        :return: (out, err) The actual output of running the command (in case you
 
1145
                 want to do more inspection)
 
1146
 
 
1147
        Examples of use:
 
1148
            # Make sure that commit is failing because there is nothing to do
 
1149
            self.run_bzr_error(['no changes to commit'],
 
1150
                               'commit', '-m', 'my commit comment')
 
1151
            # Make sure --strict is handling an unknown file, rather than
 
1152
            # giving us the 'nothing to do' error
 
1153
            self.build_tree(['unknown'])
 
1154
            self.run_bzr_error(['Commit refused because there are unknown files'],
 
1155
                               'commit', '--strict', '-m', 'my commit comment')
 
1156
        """
 
1157
        kwargs.setdefault('retcode', 3)
 
1158
        out, err = self.run_bzr(*args, **kwargs)
 
1159
        for regex in error_regexes:
 
1160
            self.assertContainsRe(err, regex)
 
1161
        return out, err
 
1162
 
 
1163
    def run_bzr_subprocess(self, *args, **kwargs):
 
1164
        """Run bzr in a subprocess for testing.
 
1165
 
 
1166
        This starts a new Python interpreter and runs bzr in there. 
 
1167
        This should only be used for tests that have a justifiable need for
 
1168
        this isolation: e.g. they are testing startup time, or signal
 
1169
        handling, or early startup code, etc.  Subprocess code can't be 
 
1170
        profiled or debugged so easily.
 
1171
 
 
1172
        :param retcode: The status code that is expected.  Defaults to 0.  If
 
1173
            None is supplied, the status code is not checked.
 
1174
        :param env_changes: A dictionary which lists changes to environment
 
1175
            variables. A value of None will unset the env variable.
 
1176
            The values must be strings. The change will only occur in the
 
1177
            child, so you don't need to fix the environment after running.
 
1178
        :param universal_newlines: Convert CRLF => LF
 
1179
        :param allow_plugins: By default the subprocess is run with
 
1180
            --no-plugins to ensure test reproducibility. Also, it is possible
 
1181
            for system-wide plugins to create unexpected output on stderr,
 
1182
            which can cause unnecessary test failures.
 
1183
        """
 
1184
        env_changes = kwargs.get('env_changes', {})
 
1185
        working_dir = kwargs.get('working_dir', None)
 
1186
        allow_plugins = kwargs.get('allow_plugins', False)
 
1187
        process = self.start_bzr_subprocess(args, env_changes=env_changes,
 
1188
                                            working_dir=working_dir,
 
1189
                                            allow_plugins=allow_plugins)
 
1190
        # We distinguish between retcode=None and retcode not passed.
 
1191
        supplied_retcode = kwargs.get('retcode', 0)
 
1192
        return self.finish_bzr_subprocess(process, retcode=supplied_retcode,
 
1193
            universal_newlines=kwargs.get('universal_newlines', False),
 
1194
            process_args=args)
 
1195
 
 
1196
    def start_bzr_subprocess(self, process_args, env_changes=None,
 
1197
                             skip_if_plan_to_signal=False,
 
1198
                             working_dir=None,
 
1199
                             allow_plugins=False):
 
1200
        """Start bzr in a subprocess for testing.
 
1201
 
 
1202
        This starts a new Python interpreter and runs bzr in there.
 
1203
        This should only be used for tests that have a justifiable need for
 
1204
        this isolation: e.g. they are testing startup time, or signal
 
1205
        handling, or early startup code, etc.  Subprocess code can't be
 
1206
        profiled or debugged so easily.
 
1207
 
 
1208
        :param process_args: a list of arguments to pass to the bzr executable,
 
1209
            for example `['--version']`.
 
1210
        :param env_changes: A dictionary which lists changes to environment
 
1211
            variables. A value of None will unset the env variable.
 
1212
            The values must be strings. The change will only occur in the
 
1213
            child, so you don't need to fix the environment after running.
 
1214
        :param skip_if_plan_to_signal: raise TestSkipped when true and os.kill
 
1215
            is not available.
 
1216
        :param allow_plugins: If False (default) pass --no-plugins to bzr.
 
1217
 
 
1218
        :returns: Popen object for the started process.
 
1219
        """
 
1220
        if skip_if_plan_to_signal:
 
1221
            if not getattr(os, 'kill', None):
 
1222
                raise TestSkipped("os.kill not available.")
 
1223
 
 
1224
        if env_changes is None:
 
1225
            env_changes = {}
 
1226
        old_env = {}
 
1227
 
 
1228
        def cleanup_environment():
 
1229
            for env_var, value in env_changes.iteritems():
 
1230
                old_env[env_var] = osutils.set_or_unset_env(env_var, value)
 
1231
 
 
1232
        def restore_environment():
 
1233
            for env_var, value in old_env.iteritems():
 
1234
                osutils.set_or_unset_env(env_var, value)
 
1235
 
 
1236
        bzr_path = self.get_bzr_path()
 
1237
 
 
1238
        cwd = None
 
1239
        if working_dir is not None:
 
1240
            cwd = osutils.getcwd()
 
1241
            os.chdir(working_dir)
 
1242
 
 
1243
        try:
 
1244
            # win32 subprocess doesn't support preexec_fn
 
1245
            # so we will avoid using it on all platforms, just to
 
1246
            # make sure the code path is used, and we don't break on win32
 
1247
            cleanup_environment()
 
1248
            command = [sys.executable, bzr_path]
 
1249
            if not allow_plugins:
 
1250
                command.append('--no-plugins')
 
1251
            command.extend(process_args)
 
1252
            process = self._popen(command, stdin=PIPE, stdout=PIPE, stderr=PIPE)
 
1253
        finally:
 
1254
            restore_environment()
 
1255
            if cwd is not None:
 
1256
                os.chdir(cwd)
 
1257
 
 
1258
        return process
 
1259
 
 
1260
    def _popen(self, *args, **kwargs):
 
1261
        """Place a call to Popen.
 
1262
 
 
1263
        Allows tests to override this method to intercept the calls made to
 
1264
        Popen for introspection.
 
1265
        """
 
1266
        return Popen(*args, **kwargs)
 
1267
 
 
1268
    def get_bzr_path(self):
 
1269
        """Return the path of the 'bzr' executable for this test suite."""
 
1270
        bzr_path = os.path.dirname(os.path.dirname(bzrlib.__file__))+'/bzr'
 
1271
        if not os.path.isfile(bzr_path):
 
1272
            # We are probably installed. Assume sys.argv is the right file
 
1273
            bzr_path = sys.argv[0]
 
1274
        return bzr_path
 
1275
 
 
1276
    def finish_bzr_subprocess(self, process, retcode=0, send_signal=None,
 
1277
                              universal_newlines=False, process_args=None):
 
1278
        """Finish the execution of process.
 
1279
 
 
1280
        :param process: the Popen object returned from start_bzr_subprocess.
 
1281
        :param retcode: The status code that is expected.  Defaults to 0.  If
 
1282
            None is supplied, the status code is not checked.
 
1283
        :param send_signal: an optional signal to send to the process.
 
1284
        :param universal_newlines: Convert CRLF => LF
 
1285
        :returns: (stdout, stderr)
 
1286
        """
 
1287
        if send_signal is not None:
 
1288
            os.kill(process.pid, send_signal)
 
1289
        out, err = process.communicate()
 
1290
 
 
1291
        if universal_newlines:
 
1292
            out = out.replace('\r\n', '\n')
 
1293
            err = err.replace('\r\n', '\n')
 
1294
 
 
1295
        if retcode is not None and retcode != process.returncode:
 
1296
            if process_args is None:
 
1297
                process_args = "(unknown args)"
 
1298
            mutter('Output of bzr %s:\n%s', process_args, out)
 
1299
            mutter('Error for bzr %s:\n%s', process_args, err)
 
1300
            self.fail('Command bzr %s failed with retcode %s != %s'
 
1301
                      % (process_args, retcode, process.returncode))
 
1302
        return [out, err]
 
1303
 
 
1304
    def check_inventory_shape(self, inv, shape):
 
1305
        """Compare an inventory to a list of expected names.
 
1306
 
 
1307
        Fail if they are not precisely equal.
 
1308
        """
 
1309
        extras = []
 
1310
        shape = list(shape)             # copy
 
1311
        for path, ie in inv.entries():
 
1312
            name = path.replace('\\', '/')
 
1313
            if ie.kind == 'dir':
 
1314
                name = name + '/'
 
1315
            if name in shape:
 
1316
                shape.remove(name)
 
1317
            else:
 
1318
                extras.append(name)
 
1319
        if shape:
 
1320
            self.fail("expected paths not found in inventory: %r" % shape)
 
1321
        if extras:
 
1322
            self.fail("unexpected paths found in inventory: %r" % extras)
 
1323
 
 
1324
    def apply_redirected(self, stdin=None, stdout=None, stderr=None,
 
1325
                         a_callable=None, *args, **kwargs):
 
1326
        """Call callable with redirected std io pipes.
 
1327
 
 
1328
        Returns the return code."""
 
1329
        if not callable(a_callable):
 
1330
            raise ValueError("a_callable must be callable.")
 
1331
        if stdin is None:
 
1332
            stdin = StringIO("")
 
1333
        if stdout is None:
 
1334
            if getattr(self, "_log_file", None) is not None:
 
1335
                stdout = self._log_file
 
1336
            else:
 
1337
                stdout = StringIO()
 
1338
        if stderr is None:
 
1339
            if getattr(self, "_log_file", None is not None):
 
1340
                stderr = self._log_file
 
1341
            else:
 
1342
                stderr = StringIO()
 
1343
        real_stdin = sys.stdin
 
1344
        real_stdout = sys.stdout
 
1345
        real_stderr = sys.stderr
 
1346
        try:
 
1347
            sys.stdout = stdout
 
1348
            sys.stderr = stderr
 
1349
            sys.stdin = stdin
 
1350
            return a_callable(*args, **kwargs)
 
1351
        finally:
 
1352
            sys.stdout = real_stdout
 
1353
            sys.stderr = real_stderr
 
1354
            sys.stdin = real_stdin
 
1355
 
 
1356
    @symbol_versioning.deprecated_method(symbol_versioning.zero_eleven)
 
1357
    def merge(self, branch_from, wt_to):
 
1358
        """A helper for tests to do a ui-less merge.
 
1359
 
 
1360
        This should move to the main library when someone has time to integrate
 
1361
        it in.
 
1362
        """
 
1363
        # minimal ui-less merge.
 
1364
        wt_to.branch.fetch(branch_from)
 
1365
        base_rev = common_ancestor(branch_from.last_revision(),
 
1366
                                   wt_to.branch.last_revision(),
 
1367
                                   wt_to.branch.repository)
 
1368
        merge_inner(wt_to.branch, branch_from.basis_tree(),
 
1369
                    wt_to.branch.repository.revision_tree(base_rev),
 
1370
                    this_tree=wt_to)
 
1371
        wt_to.add_parent_tree_id(branch_from.last_revision())
 
1372
 
 
1373
 
 
1374
BzrTestBase = TestCase
 
1375
 
 
1376
 
 
1377
class TestCaseWithMemoryTransport(TestCase):
 
1378
    """Common test class for tests that do not need disk resources.
 
1379
 
 
1380
    Tests that need disk resources should derive from TestCaseWithTransport.
 
1381
 
 
1382
    TestCaseWithMemoryTransport sets the TEST_ROOT variable for all bzr tests.
 
1383
 
 
1384
    For TestCaseWithMemoryTransport the test_home_dir is set to the name of
 
1385
    a directory which does not exist. This serves to help ensure test isolation
 
1386
    is preserved. test_dir is set to the TEST_ROOT, as is cwd, because they
 
1387
    must exist. However, TestCaseWithMemoryTransport does not offer local
 
1388
    file defaults for the transport in tests, nor does it obey the command line
 
1389
    override, so tests that accidentally write to the common directory should
 
1390
    be rare.
 
1391
    """
 
1392
 
 
1393
    TEST_ROOT = None
 
1394
    _TEST_NAME = 'test'
 
1395
 
 
1396
 
 
1397
    def __init__(self, methodName='runTest'):
 
1398
        # allow test parameterisation after test construction and before test
 
1399
        # execution. Variables that the parameteriser sets need to be 
 
1400
        # ones that are not set by setUp, or setUp will trash them.
 
1401
        super(TestCaseWithMemoryTransport, self).__init__(methodName)
 
1402
        self.transport_server = default_transport
 
1403
        self.transport_readonly_server = None
 
1404
 
 
1405
    def get_transport(self):
 
1406
        """Return a writeable transport for the test scratch space"""
 
1407
        t = get_transport(self.get_url())
 
1408
        self.assertFalse(t.is_readonly())
 
1409
        return t
 
1410
 
 
1411
    def get_readonly_transport(self):
 
1412
        """Return a readonly transport for the test scratch space
 
1413
        
 
1414
        This can be used to test that operations which should only need
 
1415
        readonly access in fact do not try to write.
 
1416
        """
 
1417
        t = get_transport(self.get_readonly_url())
 
1418
        self.assertTrue(t.is_readonly())
 
1419
        return t
 
1420
 
 
1421
    def create_transport_readonly_server(self):
 
1422
        """Create a transport server from class defined at init.
 
1423
 
 
1424
        This is mostly a hook for daughter classes.
 
1425
        """
 
1426
        return self.transport_readonly_server()
 
1427
 
 
1428
    def get_readonly_server(self):
 
1429
        """Get the server instance for the readonly transport
 
1430
 
 
1431
        This is useful for some tests with specific servers to do diagnostics.
 
1432
        """
 
1433
        if self.__readonly_server is None:
 
1434
            if self.transport_readonly_server is None:
 
1435
                # readonly decorator requested
 
1436
                # bring up the server
 
1437
                self.get_url()
 
1438
                self.__readonly_server = ReadonlyServer()
 
1439
                self.__readonly_server.setUp(self.__server)
 
1440
            else:
 
1441
                self.__readonly_server = self.create_transport_readonly_server()
 
1442
                self.__readonly_server.setUp()
 
1443
            self.addCleanup(self.__readonly_server.tearDown)
 
1444
        return self.__readonly_server
 
1445
 
 
1446
    def get_readonly_url(self, relpath=None):
 
1447
        """Get a URL for the readonly transport.
 
1448
 
 
1449
        This will either be backed by '.' or a decorator to the transport 
 
1450
        used by self.get_url()
 
1451
        relpath provides for clients to get a path relative to the base url.
 
1452
        These should only be downwards relative, not upwards.
 
1453
        """
 
1454
        base = self.get_readonly_server().get_url()
 
1455
        if relpath is not None:
 
1456
            if not base.endswith('/'):
 
1457
                base = base + '/'
 
1458
            base = base + relpath
 
1459
        return base
 
1460
 
 
1461
    def get_server(self):
 
1462
        """Get the read/write server instance.
 
1463
 
 
1464
        This is useful for some tests with specific servers that need
 
1465
        diagnostics.
 
1466
 
 
1467
        For TestCaseWithMemoryTransport this is always a MemoryServer, and there
 
1468
        is no means to override it.
 
1469
        """
 
1470
        if self.__server is None:
 
1471
            self.__server = MemoryServer()
 
1472
            self.__server.setUp()
 
1473
            self.addCleanup(self.__server.tearDown)
 
1474
        return self.__server
 
1475
 
 
1476
    def get_url(self, relpath=None):
 
1477
        """Get a URL (or maybe a path) for the readwrite transport.
 
1478
 
 
1479
        This will either be backed by '.' or to an equivalent non-file based
 
1480
        facility.
 
1481
        relpath provides for clients to get a path relative to the base url.
 
1482
        These should only be downwards relative, not upwards.
 
1483
        """
 
1484
        base = self.get_server().get_url()
 
1485
        if relpath is not None and relpath != '.':
 
1486
            if not base.endswith('/'):
 
1487
                base = base + '/'
 
1488
            # XXX: Really base should be a url; we did after all call
 
1489
            # get_url()!  But sometimes it's just a path (from
 
1490
            # LocalAbspathServer), and it'd be wrong to append urlescaped data
 
1491
            # to a non-escaped local path.
 
1492
            if base.startswith('./') or base.startswith('/'):
 
1493
                base += relpath
 
1494
            else:
 
1495
                base += urlutils.escape(relpath)
 
1496
        return base
 
1497
 
 
1498
    def _make_test_root(self):
 
1499
        if TestCaseWithMemoryTransport.TEST_ROOT is not None:
 
1500
            return
 
1501
        i = 0
 
1502
        while True:
 
1503
            root = u'test%04d.tmp' % i
 
1504
            try:
 
1505
                os.mkdir(root)
 
1506
            except OSError, e:
 
1507
                if e.errno == errno.EEXIST:
 
1508
                    i += 1
 
1509
                    continue
 
1510
                else:
 
1511
                    raise
 
1512
            # successfully created
 
1513
            TestCaseWithMemoryTransport.TEST_ROOT = osutils.abspath(root)
 
1514
            break
 
1515
        # make a fake bzr directory there to prevent any tests propagating
 
1516
        # up onto the source directory's real branch
 
1517
        bzrdir.BzrDir.create_standalone_workingtree(
 
1518
            TestCaseWithMemoryTransport.TEST_ROOT)
 
1519
 
 
1520
    def makeAndChdirToTestDir(self):
 
1521
        """Create a temporary directories for this one test.
 
1522
        
 
1523
        This must set self.test_home_dir and self.test_dir and chdir to
 
1524
        self.test_dir.
 
1525
        
 
1526
        For TestCaseWithMemoryTransport we chdir to the TEST_ROOT for this test.
 
1527
        """
 
1528
        os.chdir(TestCaseWithMemoryTransport.TEST_ROOT)
 
1529
        self.test_dir = TestCaseWithMemoryTransport.TEST_ROOT
 
1530
        self.test_home_dir = self.test_dir + "/MemoryTransportMissingHomeDir"
 
1531
        
 
1532
    def make_branch(self, relpath, format=None):
 
1533
        """Create a branch on the transport at relpath."""
 
1534
        repo = self.make_repository(relpath, format=format)
 
1535
        return repo.bzrdir.create_branch()
 
1536
 
 
1537
    def make_bzrdir(self, relpath, format=None):
 
1538
        try:
 
1539
            # might be a relative or absolute path
 
1540
            maybe_a_url = self.get_url(relpath)
 
1541
            segments = maybe_a_url.rsplit('/', 1)
 
1542
            t = get_transport(maybe_a_url)
 
1543
            if len(segments) > 1 and segments[-1] not in ('', '.'):
 
1544
                try:
 
1545
                    t.mkdir('.')
 
1546
                except errors.FileExists:
 
1547
                    pass
 
1548
            if format is None:
 
1549
                format = 'default'
 
1550
            if isinstance(format, basestring):
 
1551
                format = bzrdir.format_registry.make_bzrdir(format)
 
1552
            return format.initialize_on_transport(t)
 
1553
        except errors.UninitializableFormat:
 
1554
            raise TestSkipped("Format %s is not initializable." % format)
 
1555
 
 
1556
    def make_repository(self, relpath, shared=False, format=None):
 
1557
        """Create a repository on our default transport at relpath."""
 
1558
        made_control = self.make_bzrdir(relpath, format=format)
 
1559
        return made_control.create_repository(shared=shared)
 
1560
 
 
1561
    def make_branch_and_memory_tree(self, relpath, format=None):
 
1562
        """Create a branch on the default transport and a MemoryTree for it."""
 
1563
        b = self.make_branch(relpath, format=format)
 
1564
        return memorytree.MemoryTree.create_on_branch(b)
 
1565
 
 
1566
    def overrideEnvironmentForTesting(self):
 
1567
        os.environ['HOME'] = self.test_home_dir
 
1568
        os.environ['BZR_HOME'] = self.test_home_dir
 
1569
        
 
1570
    def setUp(self):
 
1571
        super(TestCaseWithMemoryTransport, self).setUp()
 
1572
        self._make_test_root()
 
1573
        _currentdir = os.getcwdu()
 
1574
        def _leaveDirectory():
 
1575
            os.chdir(_currentdir)
 
1576
        self.addCleanup(_leaveDirectory)
 
1577
        self.makeAndChdirToTestDir()
 
1578
        self.overrideEnvironmentForTesting()
 
1579
        self.__readonly_server = None
 
1580
        self.__server = None
 
1581
 
 
1582
     
 
1583
class TestCaseInTempDir(TestCaseWithMemoryTransport):
 
1584
    """Derived class that runs a test within a temporary directory.
 
1585
 
 
1586
    This is useful for tests that need to create a branch, etc.
 
1587
 
 
1588
    The directory is created in a slightly complex way: for each
 
1589
    Python invocation, a new temporary top-level directory is created.
 
1590
    All test cases create their own directory within that.  If the
 
1591
    tests complete successfully, the directory is removed.
 
1592
 
 
1593
    InTempDir is an old alias for FunctionalTestCase.
 
1594
    """
 
1595
 
 
1596
    OVERRIDE_PYTHON = 'python'
 
1597
 
 
1598
    def check_file_contents(self, filename, expect):
 
1599
        self.log("check contents of file %s" % filename)
 
1600
        contents = file(filename, 'r').read()
 
1601
        if contents != expect:
 
1602
            self.log("expected: %r" % expect)
 
1603
            self.log("actually: %r" % contents)
 
1604
            self.fail("contents of %s not as expected" % filename)
 
1605
 
 
1606
    def makeAndChdirToTestDir(self):
 
1607
        """See TestCaseWithMemoryTransport.makeAndChdirToTestDir().
 
1608
        
 
1609
        For TestCaseInTempDir we create a temporary directory based on the test
 
1610
        name and then create two subdirs - test and home under it.
 
1611
        """
 
1612
        if NUMBERED_DIRS:       # strongly recommended on Windows
 
1613
                                # due the path length limitation (260 chars)
 
1614
            candidate_dir = '%s/%dK/%05d' % (self.TEST_ROOT,
 
1615
                                             int(self.number/1000),
 
1616
                                             self.number)
 
1617
            os.makedirs(candidate_dir)
 
1618
            self.test_home_dir = candidate_dir + '/home'
 
1619
            os.mkdir(self.test_home_dir)
 
1620
            self.test_dir = candidate_dir + '/work'
 
1621
            os.mkdir(self.test_dir)
 
1622
            os.chdir(self.test_dir)
 
1623
            # put name of test inside
 
1624
            f = file(candidate_dir + '/name', 'w')
 
1625
            f.write(self.id())
 
1626
            f.close()
 
1627
            return
 
1628
        # Else NAMED DIRS
 
1629
        # shorten the name, to avoid test failures due to path length
 
1630
        short_id = self.id().replace('bzrlib.tests.', '') \
 
1631
                   .replace('__main__.', '')[-100:]
 
1632
        # it's possible the same test class is run several times for
 
1633
        # parameterized tests, so make sure the names don't collide.  
 
1634
        i = 0
 
1635
        while True:
 
1636
            if i > 0:
 
1637
                candidate_dir = '%s/%s.%d' % (self.TEST_ROOT, short_id, i)
 
1638
            else:
 
1639
                candidate_dir = '%s/%s' % (self.TEST_ROOT, short_id)
 
1640
            if os.path.exists(candidate_dir):
 
1641
                i = i + 1
 
1642
                continue
 
1643
            else:
 
1644
                os.mkdir(candidate_dir)
 
1645
                self.test_home_dir = candidate_dir + '/home'
 
1646
                os.mkdir(self.test_home_dir)
 
1647
                self.test_dir = candidate_dir + '/work'
 
1648
                os.mkdir(self.test_dir)
 
1649
                os.chdir(self.test_dir)
 
1650
                break
 
1651
 
 
1652
    def build_tree(self, shape, line_endings='binary', transport=None):
 
1653
        """Build a test tree according to a pattern.
 
1654
 
 
1655
        shape is a sequence of file specifications.  If the final
 
1656
        character is '/', a directory is created.
 
1657
 
 
1658
        This assumes that all the elements in the tree being built are new.
 
1659
 
 
1660
        This doesn't add anything to a branch.
 
1661
        :param line_endings: Either 'binary' or 'native'
 
1662
                             in binary mode, exact contents are written
 
1663
                             in native mode, the line endings match the
 
1664
                             default platform endings.
 
1665
 
 
1666
        :param transport: A transport to write to, for building trees on 
 
1667
                          VFS's. If the transport is readonly or None,
 
1668
                          "." is opened automatically.
 
1669
        """
 
1670
        # It's OK to just create them using forward slashes on windows.
 
1671
        if transport is None or transport.is_readonly():
 
1672
            transport = get_transport(".")
 
1673
        for name in shape:
 
1674
            self.assert_(isinstance(name, basestring))
 
1675
            if name[-1] == '/':
 
1676
                transport.mkdir(urlutils.escape(name[:-1]))
 
1677
            else:
 
1678
                if line_endings == 'binary':
 
1679
                    end = '\n'
 
1680
                elif line_endings == 'native':
 
1681
                    end = os.linesep
 
1682
                else:
 
1683
                    raise errors.BzrError(
 
1684
                        'Invalid line ending request %r' % line_endings)
 
1685
                content = "contents of %s%s" % (name.encode('utf-8'), end)
 
1686
                transport.put_bytes_non_atomic(urlutils.escape(name), content)
 
1687
 
 
1688
    def build_tree_contents(self, shape):
 
1689
        build_tree_contents(shape)
 
1690
 
 
1691
    def assertFileEqual(self, content, path):
 
1692
        """Fail if path does not contain 'content'."""
 
1693
        self.failUnlessExists(path)
 
1694
        # TODO: jam 20060427 Shouldn't this be 'rb'?
 
1695
        self.assertEqualDiff(content, open(path, 'r').read())
 
1696
 
 
1697
    def failUnlessExists(self, path):
 
1698
        """Fail unless path, which may be abs or relative, exists."""
 
1699
        self.failUnless(osutils.lexists(path),path+" does not exist")
 
1700
 
 
1701
    def failIfExists(self, path):
 
1702
        """Fail if path, which may be abs or relative, exists."""
 
1703
        self.failIf(osutils.lexists(path),path+" exists")
 
1704
 
 
1705
 
 
1706
class TestCaseWithTransport(TestCaseInTempDir):
 
1707
    """A test case that provides get_url and get_readonly_url facilities.
 
1708
 
 
1709
    These back onto two transport servers, one for readonly access and one for
 
1710
    read write access.
 
1711
 
 
1712
    If no explicit class is provided for readonly access, a
 
1713
    ReadonlyTransportDecorator is used instead which allows the use of non disk
 
1714
    based read write transports.
 
1715
 
 
1716
    If an explicit class is provided for readonly access, that server and the 
 
1717
    readwrite one must both define get_url() as resolving to os.getcwd().
 
1718
    """
 
1719
 
 
1720
    def create_transport_server(self):
 
1721
        """Create a transport server from class defined at init.
 
1722
 
 
1723
        This is mostly a hook for daughter classes.
 
1724
        """
 
1725
        return self.transport_server()
 
1726
 
 
1727
    def get_server(self):
 
1728
        """See TestCaseWithMemoryTransport.
 
1729
 
 
1730
        This is useful for some tests with specific servers that need
 
1731
        diagnostics.
 
1732
        """
 
1733
        if self.__server is None:
 
1734
            self.__server = self.create_transport_server()
 
1735
            self.__server.setUp()
 
1736
            self.addCleanup(self.__server.tearDown)
 
1737
        return self.__server
 
1738
 
 
1739
    def make_branch_and_tree(self, relpath, format=None):
 
1740
        """Create a branch on the transport and a tree locally.
 
1741
 
 
1742
        If the transport is not a LocalTransport, the Tree can't be created on
 
1743
        the transport.  In that case the working tree is created in the local
 
1744
        directory, and the returned tree's branch and repository will also be
 
1745
        accessed locally.
 
1746
 
 
1747
        This will fail if the original default transport for this test
 
1748
        case wasn't backed by the working directory, as the branch won't
 
1749
        be on disk for us to open it.  
 
1750
 
 
1751
        :param format: The BzrDirFormat.
 
1752
        :returns: the WorkingTree.
 
1753
        """
 
1754
        # TODO: always use the local disk path for the working tree,
 
1755
        # this obviously requires a format that supports branch references
 
1756
        # so check for that by checking bzrdir.BzrDirFormat.get_default_format()
 
1757
        # RBC 20060208
 
1758
        b = self.make_branch(relpath, format=format)
 
1759
        try:
 
1760
            return b.bzrdir.create_workingtree()
 
1761
        except errors.NotLocalUrl:
 
1762
            # We can only make working trees locally at the moment.  If the
 
1763
            # transport can't support them, then reopen the branch on a local
 
1764
            # transport, and create the working tree there.  
 
1765
            #
 
1766
            # Possibly we should instead keep
 
1767
            # the non-disk-backed branch and create a local checkout?
 
1768
            bd = bzrdir.BzrDir.open(relpath)
 
1769
            return bd.create_workingtree()
 
1770
 
 
1771
    def assertIsDirectory(self, relpath, transport):
 
1772
        """Assert that relpath within transport is a directory.
 
1773
 
 
1774
        This may not be possible on all transports; in that case it propagates
 
1775
        a TransportNotPossible.
 
1776
        """
 
1777
        try:
 
1778
            mode = transport.stat(relpath).st_mode
 
1779
        except errors.NoSuchFile:
 
1780
            self.fail("path %s is not a directory; no such file"
 
1781
                      % (relpath))
 
1782
        if not stat.S_ISDIR(mode):
 
1783
            self.fail("path %s is not a directory; has mode %#o"
 
1784
                      % (relpath, mode))
 
1785
 
 
1786
    def assertTreesEqual(self, left, right):
 
1787
        """Check that left and right have the same content and properties."""
 
1788
        # we use a tree delta to check for equality of the content, and we
 
1789
        # manually check for equality of other things such as the parents list.
 
1790
        self.assertEqual(left.get_parent_ids(), right.get_parent_ids())
 
1791
        differences = left.changes_from(right)
 
1792
        self.assertFalse(differences.has_changed(),
 
1793
            "Trees %r and %r are different: %r" % (left, right, differences))
 
1794
 
 
1795
    def setUp(self):
 
1796
        super(TestCaseWithTransport, self).setUp()
 
1797
        self.__server = None
 
1798
 
 
1799
 
 
1800
class ChrootedTestCase(TestCaseWithTransport):
 
1801
    """A support class that provides readonly urls outside the local namespace.
 
1802
 
 
1803
    This is done by checking if self.transport_server is a MemoryServer. if it
 
1804
    is then we are chrooted already, if it is not then an HttpServer is used
 
1805
    for readonly urls.
 
1806
 
 
1807
    TODO RBC 20060127: make this an option to TestCaseWithTransport so it can
 
1808
                       be used without needed to redo it when a different 
 
1809
                       subclass is in use ?
 
1810
    """
 
1811
 
 
1812
    def setUp(self):
 
1813
        super(ChrootedTestCase, self).setUp()
 
1814
        if not self.transport_server == MemoryServer:
 
1815
            self.transport_readonly_server = HttpServer
 
1816
 
 
1817
 
 
1818
def filter_suite_by_re(suite, pattern):
 
1819
    result = TestUtil.TestSuite()
 
1820
    filter_re = re.compile(pattern)
 
1821
    for test in iter_suite_tests(suite):
 
1822
        if filter_re.search(test.id()):
 
1823
            result.addTest(test)
 
1824
    return result
 
1825
 
 
1826
 
 
1827
def sort_suite_by_re(suite, pattern):
 
1828
    first = []
 
1829
    second = []
 
1830
    filter_re = re.compile(pattern)
 
1831
    for test in iter_suite_tests(suite):
 
1832
        if filter_re.search(test.id()):
 
1833
            first.append(test)
 
1834
        else:
 
1835
            second.append(test)
 
1836
    return TestUtil.TestSuite(first + second)
 
1837
 
 
1838
 
 
1839
def run_suite(suite, name='test', verbose=False, pattern=".*",
 
1840
              stop_on_failure=False, keep_output=False,
 
1841
              transport=None, lsprof_timed=None, bench_history=None,
 
1842
              matching_tests_first=None,
 
1843
              numbered_dirs=None):
 
1844
    global NUMBERED_DIRS
 
1845
    if numbered_dirs is not None:
 
1846
        NUMBERED_DIRS = bool(numbered_dirs)
 
1847
 
 
1848
    TestCase._gather_lsprof_in_benchmarks = lsprof_timed
 
1849
    if verbose:
 
1850
        verbosity = 2
 
1851
    else:
 
1852
        verbosity = 1
 
1853
    runner = TextTestRunner(stream=sys.stdout,
 
1854
                            descriptions=0,
 
1855
                            verbosity=verbosity,
 
1856
                            keep_output=keep_output,
 
1857
                            bench_history=bench_history)
 
1858
    runner.stop_on_failure=stop_on_failure
 
1859
    if pattern != '.*':
 
1860
        if matching_tests_first:
 
1861
            suite = sort_suite_by_re(suite, pattern)
 
1862
        else:
 
1863
            suite = filter_suite_by_re(suite, pattern)
 
1864
    result = runner.run(suite)
 
1865
    return result.wasSuccessful()
 
1866
 
 
1867
 
 
1868
def selftest(verbose=False, pattern=".*", stop_on_failure=True,
 
1869
             keep_output=False,
 
1870
             transport=None,
 
1871
             test_suite_factory=None,
 
1872
             lsprof_timed=None,
 
1873
             bench_history=None,
 
1874
             matching_tests_first=None,
 
1875
             numbered_dirs=None):
 
1876
    """Run the whole test suite under the enhanced runner"""
 
1877
    # XXX: Very ugly way to do this...
 
1878
    # Disable warning about old formats because we don't want it to disturb
 
1879
    # any blackbox tests.
 
1880
    from bzrlib import repository
 
1881
    repository._deprecation_warning_done = True
 
1882
 
 
1883
    global default_transport
 
1884
    if transport is None:
 
1885
        transport = default_transport
 
1886
    old_transport = default_transport
 
1887
    default_transport = transport
 
1888
    try:
 
1889
        if test_suite_factory is None:
 
1890
            suite = test_suite()
 
1891
        else:
 
1892
            suite = test_suite_factory()
 
1893
        return run_suite(suite, 'testbzr', verbose=verbose, pattern=pattern,
 
1894
                     stop_on_failure=stop_on_failure, keep_output=keep_output,
 
1895
                     transport=transport,
 
1896
                     lsprof_timed=lsprof_timed,
 
1897
                     bench_history=bench_history,
 
1898
                     matching_tests_first=matching_tests_first,
 
1899
                     numbered_dirs=numbered_dirs)
 
1900
    finally:
 
1901
        default_transport = old_transport
 
1902
 
 
1903
 
 
1904
def test_suite():
 
1905
    """Build and return TestSuite for the whole of bzrlib.
 
1906
    
 
1907
    This function can be replaced if you need to change the default test
 
1908
    suite on a global basis, but it is not encouraged.
 
1909
    """
 
1910
    testmod_names = [
 
1911
                   'bzrlib.tests.test_ancestry',
 
1912
                   'bzrlib.tests.test_annotate',
 
1913
                   'bzrlib.tests.test_api',
 
1914
                   'bzrlib.tests.test_atomicfile',
 
1915
                   'bzrlib.tests.test_bad_files',
 
1916
                   'bzrlib.tests.test_branch',
 
1917
                   'bzrlib.tests.test_bundle',
 
1918
                   'bzrlib.tests.test_bzrdir',
 
1919
                   'bzrlib.tests.test_cache_utf8',
 
1920
                   'bzrlib.tests.test_commands',
 
1921
                   'bzrlib.tests.test_commit',
 
1922
                   'bzrlib.tests.test_commit_merge',
 
1923
                   'bzrlib.tests.test_config',
 
1924
                   'bzrlib.tests.test_conflicts',
 
1925
                   'bzrlib.tests.test_decorators',
 
1926
                   'bzrlib.tests.test_delta',
 
1927
                   'bzrlib.tests.test_diff',
 
1928
                   'bzrlib.tests.test_dirstate',
 
1929
                   'bzrlib.tests.test_doc_generate',
 
1930
                   'bzrlib.tests.test_errors',
 
1931
                   'bzrlib.tests.test_escaped_store',
 
1932
                   'bzrlib.tests.test_extract',
 
1933
                   'bzrlib.tests.test_fetch',
 
1934
                   'bzrlib.tests.test_ftp_transport',
 
1935
                   'bzrlib.tests.test_generate_docs',
 
1936
                   'bzrlib.tests.test_generate_ids',
 
1937
                   'bzrlib.tests.test_globbing',
 
1938
                   'bzrlib.tests.test_gpg',
 
1939
                   'bzrlib.tests.test_graph',
 
1940
                   'bzrlib.tests.test_hashcache',
 
1941
                   'bzrlib.tests.test_http',
 
1942
                   'bzrlib.tests.test_http_response',
 
1943
                   'bzrlib.tests.test_https_ca_bundle',
 
1944
                   'bzrlib.tests.test_identitymap',
 
1945
                   'bzrlib.tests.test_ignores',
 
1946
                   'bzrlib.tests.test_inv',
 
1947
                   'bzrlib.tests.test_knit',
 
1948
                   'bzrlib.tests.test_lazy_import',
 
1949
                   'bzrlib.tests.test_lazy_regex',
 
1950
                   'bzrlib.tests.test_lockdir',
 
1951
                   'bzrlib.tests.test_lockable_files',
 
1952
                   'bzrlib.tests.test_log',
 
1953
                   'bzrlib.tests.test_memorytree',
 
1954
                   'bzrlib.tests.test_merge',
 
1955
                   'bzrlib.tests.test_merge3',
 
1956
                   'bzrlib.tests.test_merge_core',
 
1957
                   'bzrlib.tests.test_merge_directive',
 
1958
                   'bzrlib.tests.test_missing',
 
1959
                   'bzrlib.tests.test_msgeditor',
 
1960
                   'bzrlib.tests.test_nonascii',
 
1961
                   'bzrlib.tests.test_options',
 
1962
                   'bzrlib.tests.test_osutils',
 
1963
                   'bzrlib.tests.test_osutils_encodings',
 
1964
                   'bzrlib.tests.test_patch',
 
1965
                   'bzrlib.tests.test_patches',
 
1966
                   'bzrlib.tests.test_permissions',
 
1967
                   'bzrlib.tests.test_plugins',
 
1968
                   'bzrlib.tests.test_progress',
 
1969
                   'bzrlib.tests.test_reconcile',
 
1970
                   'bzrlib.tests.test_registry',
 
1971
                   'bzrlib.tests.test_repository',
 
1972
                   'bzrlib.tests.test_revert',
 
1973
                   'bzrlib.tests.test_revision',
 
1974
                   'bzrlib.tests.test_revisionnamespaces',
 
1975
                   'bzrlib.tests.test_revisiontree',
 
1976
                   'bzrlib.tests.test_rio',
 
1977
                   'bzrlib.tests.test_sampler',
 
1978
                   'bzrlib.tests.test_selftest',
 
1979
                   'bzrlib.tests.test_setup',
 
1980
                   'bzrlib.tests.test_sftp_transport',
 
1981
                   'bzrlib.tests.test_smart_add',
 
1982
                   'bzrlib.tests.test_smart_transport',
 
1983
                   'bzrlib.tests.test_source',
 
1984
                   'bzrlib.tests.test_ssh_transport',
 
1985
                   'bzrlib.tests.test_status',
 
1986
                   'bzrlib.tests.test_store',
 
1987
                   'bzrlib.tests.test_subsume',
 
1988
                   'bzrlib.tests.test_symbol_versioning',
 
1989
                   'bzrlib.tests.test_tag',
 
1990
                   'bzrlib.tests.test_testament',
 
1991
                   'bzrlib.tests.test_textfile',
 
1992
                   'bzrlib.tests.test_textmerge',
 
1993
                   'bzrlib.tests.test_timestamp',
 
1994
                   'bzrlib.tests.test_trace',
 
1995
                   'bzrlib.tests.test_transactions',
 
1996
                   'bzrlib.tests.test_transform',
 
1997
                   'bzrlib.tests.test_transport',
 
1998
                   'bzrlib.tests.test_tree',
 
1999
                   'bzrlib.tests.test_treebuilder',
 
2000
                   'bzrlib.tests.test_tsort',
 
2001
                   'bzrlib.tests.test_tuned_gzip',
 
2002
                   'bzrlib.tests.test_ui',
 
2003
                   'bzrlib.tests.test_upgrade',
 
2004
                   'bzrlib.tests.test_urlutils',
 
2005
                   'bzrlib.tests.test_versionedfile',
 
2006
                   'bzrlib.tests.test_version',
 
2007
                   'bzrlib.tests.test_version_info',
 
2008
                   'bzrlib.tests.test_weave',
 
2009
                   'bzrlib.tests.test_whitebox',
 
2010
                   'bzrlib.tests.test_workingtree',
 
2011
                   'bzrlib.tests.test_workingtree_4',
 
2012
                   'bzrlib.tests.test_wsgi',
 
2013
                   'bzrlib.tests.test_xml',
 
2014
                   ]
 
2015
    test_transport_implementations = [
 
2016
        'bzrlib.tests.test_transport_implementations',
 
2017
        'bzrlib.tests.test_read_bundle',
 
2018
        ]
 
2019
    suite = TestUtil.TestSuite()
 
2020
    loader = TestUtil.TestLoader()
 
2021
    suite.addTest(loader.loadTestsFromModuleNames(testmod_names))
 
2022
    from bzrlib.transport import TransportTestProviderAdapter
 
2023
    adapter = TransportTestProviderAdapter()
 
2024
    adapt_modules(test_transport_implementations, adapter, loader, suite)
 
2025
    for package in packages_to_test():
 
2026
        suite.addTest(package.test_suite())
 
2027
    for m in MODULES_TO_TEST:
 
2028
        suite.addTest(loader.loadTestsFromModule(m))
 
2029
    for m in MODULES_TO_DOCTEST:
 
2030
        try:
 
2031
            suite.addTest(doctest.DocTestSuite(m))
 
2032
        except ValueError, e:
 
2033
            print '**failed to get doctest for: %s\n%s' %(m,e)
 
2034
            raise
 
2035
    for name, plugin in bzrlib.plugin.all_plugins().items():
 
2036
        if getattr(plugin, 'test_suite', None) is not None:
 
2037
            default_encoding = sys.getdefaultencoding()
 
2038
            try:
 
2039
                plugin_suite = plugin.test_suite()
 
2040
            except ImportError, e:
 
2041
                bzrlib.trace.warning(
 
2042
                    'Unable to test plugin "%s": %s', name, e)
 
2043
            else:
 
2044
                suite.addTest(plugin_suite)
 
2045
            if default_encoding != sys.getdefaultencoding():
 
2046
                bzrlib.trace.warning(
 
2047
                    'Plugin "%s" tried to reset default encoding to: %s', name,
 
2048
                    sys.getdefaultencoding())
 
2049
                reload(sys)
 
2050
                sys.setdefaultencoding(default_encoding)
 
2051
    return suite
 
2052
 
 
2053
 
 
2054
def adapt_modules(mods_list, adapter, loader, suite):
 
2055
    """Adapt the modules in mods_list using adapter and add to suite."""
 
2056
    for test in iter_suite_tests(loader.loadTestsFromModuleNames(mods_list)):
 
2057
        suite.addTests(adapter.adapt(test))
 
2058
 
 
2059
 
 
2060
def clean_selftest_output(root=None, quiet=False):
 
2061
    """Remove all selftest output directories from root directory.
 
2062
 
 
2063
    :param  root:   root directory for clean
 
2064
                    (if ommitted or None then clean current directory).
 
2065
    :param  quiet:  suppress report about deleting directories
 
2066
    """
 
2067
    import re
 
2068
    import shutil
 
2069
 
 
2070
    re_dir = re.compile(r'''test\d\d\d\d\.tmp''')
 
2071
    if root is None:
 
2072
        root = u'.'
 
2073
    for i in os.listdir(root):
 
2074
        if os.path.isdir(i) and re_dir.match(i):
 
2075
            if not quiet:
 
2076
                print 'delete directory:', i
 
2077
            shutil.rmtree(i)