/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/tests/__init__.py

  • Committer: Canonical.com Patch Queue Manager
  • Date: 2007-04-01 16:29:26 UTC
  • mfrom: (2382.1.2 bzr.ab.integration)
  • Revision ID: pqm@pqm.ubuntu.com-20070401162926-2718905ae3092110
Fixes #98510: bundle selftest fails if email has 'two' embedded (Clatworthy)

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2010 Canonical Ltd
 
1
# Copyright (C) 2005, 2006, 2007 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
 
"""Testing framework extensions"""
18
17
 
19
18
# TODO: Perhaps there should be an API to find out if bzr running under the
20
19
# test suite -- some plugins might want to avoid making intrusive changes if
27
26
# general style of bzrlib.  Please continue that consistency when adding e.g.
28
27
# new assertFoo() methods.
29
28
 
30
 
import atexit
31
29
import codecs
32
 
from copy import copy
33
30
from cStringIO import StringIO
34
31
import difflib
35
32
import doctest
36
33
import errno
37
34
import logging
38
 
import math
39
35
import os
40
36
from pprint import pformat
41
 
import random
42
37
import re
43
38
import shlex
44
39
import stat
45
 
from subprocess import Popen, PIPE, STDOUT
 
40
from subprocess import Popen, PIPE
46
41
import sys
47
42
import tempfile
48
 
import threading
 
43
import unittest
49
44
import time
50
 
import traceback
51
 
import unittest
52
 
import warnings
53
45
 
54
 
import testtools
55
 
# nb: check this before importing anything else from within it
56
 
_testtools_version = getattr(testtools, '__version__', ())
57
 
if _testtools_version < (0, 9, 2):
58
 
    raise ImportError("need at least testtools 0.9.2: %s is %r"
59
 
        % (testtools.__file__, _testtools_version))
60
 
from testtools import content
61
46
 
62
47
from bzrlib import (
63
 
    branchbuilder,
64
48
    bzrdir,
65
 
    chk_map,
66
 
    config,
67
49
    debug,
68
50
    errors,
69
 
    hooks,
70
 
    lock as _mod_lock,
71
51
    memorytree,
72
52
    osutils,
73
53
    progress,
74
54
    ui,
75
55
    urlutils,
76
 
    registry,
77
 
    workingtree,
78
56
    )
79
57
import bzrlib.branch
80
58
import bzrlib.commands
90
68
    pass
91
69
from bzrlib.merge import merge_inner
92
70
import bzrlib.merge3
 
71
import bzrlib.osutils
93
72
import bzrlib.plugin
94
 
from bzrlib.smart import client, request, server
 
73
from bzrlib.revision import common_ancestor
95
74
import bzrlib.store
96
75
from bzrlib import symbol_versioning
97
 
from bzrlib.symbol_versioning import (
98
 
    DEPRECATED_PARAMETER,
99
 
    deprecated_function,
100
 
    deprecated_in,
101
 
    deprecated_method,
102
 
    deprecated_passed,
103
 
    )
104
76
import bzrlib.trace
105
 
from bzrlib.transport import (
106
 
    get_transport,
107
 
    memory,
108
 
    pathfilter,
109
 
    )
 
77
from bzrlib.transport import get_transport
110
78
import bzrlib.transport
 
79
from bzrlib.transport.local import LocalURLServer
 
80
from bzrlib.transport.memory import MemoryServer
 
81
from bzrlib.transport.readonly import ReadonlyServer
111
82
from bzrlib.trace import mutter, note
112
 
from bzrlib.tests import (
113
 
    test_server,
114
 
    TestUtil,
115
 
    )
116
 
from bzrlib.tests.http_server import HttpServer
 
83
from bzrlib.tests import TestUtil
 
84
from bzrlib.tests.HttpServer import HttpServer
117
85
from bzrlib.tests.TestUtil import (
118
86
                          TestSuite,
119
87
                          TestLoader,
120
88
                          )
121
89
from bzrlib.tests.treeshape import build_tree_contents
122
 
from bzrlib.ui import NullProgressView
123
 
from bzrlib.ui.text import TextUIFactory
124
 
import bzrlib.version_info_formats.format_custom
125
90
from bzrlib.workingtree import WorkingTree, WorkingTreeFormat2
126
91
 
127
 
# Mark this python module as being part of the implementation
128
 
# of unittest: this gives us better tracebacks where the last
129
 
# shown frame is the test code, not our assertXYZ.
130
 
__unittest = 1
131
 
 
132
 
default_transport = test_server.LocalURLServer
133
 
 
134
 
 
135
 
_unitialized_attr = object()
136
 
"""A sentinel needed to act as a default value in a method signature."""
137
 
 
138
 
 
139
 
# Subunit result codes, defined here to prevent a hard dependency on subunit.
140
 
SUBUNIT_SEEK_SET = 0
141
 
SUBUNIT_SEEK_CUR = 1
 
92
default_transport = LocalURLServer
 
93
 
 
94
MODULES_TO_TEST = []
 
95
MODULES_TO_DOCTEST = [
 
96
                      bzrlib.timestamp,
 
97
                      bzrlib.errors,
 
98
                      bzrlib.export,
 
99
                      bzrlib.inventory,
 
100
                      bzrlib.iterablefile,
 
101
                      bzrlib.lockdir,
 
102
                      bzrlib.merge3,
 
103
                      bzrlib.option,
 
104
                      bzrlib.store,
 
105
                      ]
 
106
 
 
107
NUMBERED_DIRS = False   # dirs kind for TestCaseInTempDir (numbered or named)
 
108
 
 
109
 
 
110
def packages_to_test():
 
111
    """Return a list of packages to test.
 
112
 
 
113
    The packages are not globally imported so that import failures are
 
114
    triggered when running selftest, not when importing the command.
 
115
    """
 
116
    import bzrlib.doc
 
117
    import bzrlib.tests.blackbox
 
118
    import bzrlib.tests.branch_implementations
 
119
    import bzrlib.tests.bzrdir_implementations
 
120
    import bzrlib.tests.interrepository_implementations
 
121
    import bzrlib.tests.interversionedfile_implementations
 
122
    import bzrlib.tests.intertree_implementations
 
123
    import bzrlib.tests.per_lock
 
124
    import bzrlib.tests.repository_implementations
 
125
    import bzrlib.tests.revisionstore_implementations
 
126
    import bzrlib.tests.tree_implementations
 
127
    import bzrlib.tests.workingtree_implementations
 
128
    return [
 
129
            bzrlib.doc,
 
130
            bzrlib.tests.blackbox,
 
131
            bzrlib.tests.branch_implementations,
 
132
            bzrlib.tests.bzrdir_implementations,
 
133
            bzrlib.tests.interrepository_implementations,
 
134
            bzrlib.tests.interversionedfile_implementations,
 
135
            bzrlib.tests.intertree_implementations,
 
136
            bzrlib.tests.per_lock,
 
137
            bzrlib.tests.repository_implementations,
 
138
            bzrlib.tests.revisionstore_implementations,
 
139
            bzrlib.tests.tree_implementations,
 
140
            bzrlib.tests.workingtree_implementations,
 
141
            ]
142
142
 
143
143
 
144
144
class ExtendedTestResult(unittest._TextTestResult):
145
145
    """Accepts, reports and accumulates the results of running tests.
146
146
 
147
 
    Compared to the unittest version this class adds support for
148
 
    profiling, benchmarking, stopping as soon as a test fails,  and
149
 
    skipping tests.  There are further-specialized subclasses for
150
 
    different types of display.
151
 
 
152
 
    When a test finishes, in whatever way, it calls one of the addSuccess,
153
 
    addFailure or addError classes.  These in turn may redirect to a more
154
 
    specific case for the special test results supported by our extended
155
 
    tests.
156
 
 
157
 
    Note that just one of these objects is fed the results from many tests.
 
147
    Compared to this unittest version this class adds support for profiling,
 
148
    benchmarking, stopping as soon as a test fails,  and skipping tests.
 
149
    There are further-specialized subclasses for different types of display.
158
150
    """
159
151
 
160
152
    stop_early = False
161
 
 
 
153
    
162
154
    def __init__(self, stream, descriptions, verbosity,
163
155
                 bench_history=None,
164
 
                 strict=False,
 
156
                 num_tests=None,
165
157
                 ):
166
158
        """Construct new TestResult.
167
159
 
185
177
            bench_history.write("--date %s %s\n" % (time.time(), revision_id))
186
178
        self._bench_history = bench_history
187
179
        self.ui = ui.ui_factory
188
 
        self.num_tests = 0
 
180
        self.num_tests = num_tests
189
181
        self.error_count = 0
190
182
        self.failure_count = 0
191
183
        self.known_failure_count = 0
192
184
        self.skip_count = 0
193
 
        self.not_applicable_count = 0
194
185
        self.unsupported = {}
195
186
        self.count = 0
196
187
        self._overall_start_time = time.time()
197
 
        self._strict = strict
198
 
 
199
 
    def stopTestRun(self):
200
 
        run = self.testsRun
201
 
        actionTaken = "Ran"
202
 
        stopTime = time.time()
203
 
        timeTaken = stopTime - self.startTime
204
 
        self.printErrors()
205
 
        self.stream.writeln(self.separator2)
206
 
        self.stream.writeln("%s %d test%s in %.3fs" % (actionTaken,
207
 
                            run, run != 1 and "s" or "", timeTaken))
208
 
        self.stream.writeln()
209
 
        if not self.wasSuccessful():
210
 
            self.stream.write("FAILED (")
211
 
            failed, errored = map(len, (self.failures, self.errors))
212
 
            if failed:
213
 
                self.stream.write("failures=%d" % failed)
214
 
            if errored:
215
 
                if failed: self.stream.write(", ")
216
 
                self.stream.write("errors=%d" % errored)
217
 
            if self.known_failure_count:
218
 
                if failed or errored: self.stream.write(", ")
219
 
                self.stream.write("known_failure_count=%d" %
220
 
                    self.known_failure_count)
221
 
            self.stream.writeln(")")
222
 
        else:
223
 
            if self.known_failure_count:
224
 
                self.stream.writeln("OK (known_failures=%d)" %
225
 
                    self.known_failure_count)
226
 
            else:
227
 
                self.stream.writeln("OK")
228
 
        if self.skip_count > 0:
229
 
            skipped = self.skip_count
230
 
            self.stream.writeln('%d test%s skipped' %
231
 
                                (skipped, skipped != 1 and "s" or ""))
232
 
        if self.unsupported:
233
 
            for feature, count in sorted(self.unsupported.items()):
234
 
                self.stream.writeln("Missing feature '%s' skipped %d tests." %
235
 
                    (feature, count))
236
 
        if self._strict:
237
 
            ok = self.wasStrictlySuccessful()
238
 
        else:
239
 
            ok = self.wasSuccessful()
240
 
        if TestCase._first_thread_leaker_id:
241
 
            self.stream.write(
242
 
                '%s is leaking threads among %d leaking tests.\n' % (
243
 
                TestCase._first_thread_leaker_id,
244
 
                TestCase._leaking_threads_tests))
245
 
            # We don't report the main thread as an active one.
246
 
            self.stream.write(
247
 
                '%d non-main threads were left active in the end.\n'
248
 
                % (TestCase._active_threads - 1))
249
 
 
250
 
    def getDescription(self, test):
251
 
        return test.id()
252
 
 
253
 
    def _extractBenchmarkTime(self, testCase, details=None):
 
188
    
 
189
    def extractBenchmarkTime(self, testCase):
254
190
        """Add a benchmark time for the current test case."""
255
 
        if details and 'benchtime' in details:
256
 
            return float(''.join(details['benchtime'].iter_bytes()))
257
 
        return getattr(testCase, "_benchtime", None)
258
 
 
 
191
        self._benchmarkTime = getattr(testCase, "_benchtime", None)
 
192
    
259
193
    def _elapsedTestTimeString(self):
260
194
        """Return a time string for the overall time the current test has taken."""
261
195
        return self._formatTime(time.time() - self._start_time)
262
196
 
263
 
    def _testTimeString(self, testCase):
264
 
        benchmark_time = self._extractBenchmarkTime(testCase)
265
 
        if benchmark_time is not None:
266
 
            return self._formatTime(benchmark_time) + "*"
 
197
    def _testTimeString(self):
 
198
        if self._benchmarkTime is not None:
 
199
            return "%s/%s" % (
 
200
                self._formatTime(self._benchmarkTime),
 
201
                self._elapsedTestTimeString())
267
202
        else:
268
 
            return self._elapsedTestTimeString()
 
203
            return "           %s" % self._elapsedTestTimeString()
269
204
 
270
205
    def _formatTime(self, seconds):
271
206
        """Format seconds as milliseconds with leading spaces."""
280
215
 
281
216
    def startTest(self, test):
282
217
        unittest.TestResult.startTest(self, test)
283
 
        if self.count == 0:
284
 
            self.startTests()
285
218
        self.report_test_start(test)
286
219
        test.number = self.count
287
220
        self._recordTestStartTime()
288
221
 
289
 
    def startTests(self):
290
 
        import platform
291
 
        if getattr(sys, 'frozen', None) is None:
292
 
            bzr_path = osutils.realpath(sys.argv[0])
293
 
        else:
294
 
            bzr_path = sys.executable
295
 
        self.stream.write(
296
 
            'bzr selftest: %s\n' % (bzr_path,))
297
 
        self.stream.write(
298
 
            '   %s\n' % (
299
 
                    bzrlib.__path__[0],))
300
 
        self.stream.write(
301
 
            '   bzr-%s python-%s %s\n' % (
302
 
                    bzrlib.version_string,
303
 
                    bzrlib._format_version_tuple(sys.version_info),
304
 
                    platform.platform(aliased=1),
305
 
                    ))
306
 
        self.stream.write('\n')
307
 
 
308
222
    def _recordTestStartTime(self):
309
223
        """Record that a test has started."""
310
224
        self._start_time = time.time()
317
231
            setKeepLogfile()
318
232
 
319
233
    def addError(self, test, err):
320
 
        """Tell result that test finished with an error.
321
 
 
322
 
        Called from the TestCase run() method when the test
323
 
        fails with an unexpected error.
324
 
        """
325
 
        self._post_mortem()
 
234
        self.extractBenchmarkTime(test)
 
235
        self._cleanupLogFile(test)
 
236
        if isinstance(err[1], TestSkipped):
 
237
            return self.addSkipped(test, err)
 
238
        elif isinstance(err[1], UnavailableFeature):
 
239
            return self.addNotSupported(test, err[1].args[0])
326
240
        unittest.TestResult.addError(self, test, err)
327
241
        self.error_count += 1
328
242
        self.report_error(test, err)
329
243
        if self.stop_early:
330
244
            self.stop()
 
245
 
 
246
    def addFailure(self, test, err):
331
247
        self._cleanupLogFile(test)
332
 
 
333
 
    def addFailure(self, test, err):
334
 
        """Tell result that test failed.
335
 
 
336
 
        Called from the TestCase run() method when the test
337
 
        fails because e.g. an assert() method failed.
338
 
        """
339
 
        self._post_mortem()
 
248
        self.extractBenchmarkTime(test)
 
249
        if isinstance(err[1], KnownFailure):
 
250
            return self.addKnownFailure(test, err)
340
251
        unittest.TestResult.addFailure(self, test, err)
341
252
        self.failure_count += 1
342
253
        self.report_failure(test, err)
343
254
        if self.stop_early:
344
255
            self.stop()
345
 
        self._cleanupLogFile(test)
346
 
 
347
 
    def addSuccess(self, test, details=None):
348
 
        """Tell result that test completed successfully.
349
 
 
350
 
        Called from the TestCase run()
351
 
        """
352
 
        if self._bench_history is not None:
353
 
            benchmark_time = self._extractBenchmarkTime(test, details)
354
 
            if benchmark_time is not None:
355
 
                self._bench_history.write("%s %s\n" % (
356
 
                    self._formatTime(benchmark_time),
357
 
                    test.id()))
358
 
        self.report_success(test)
359
 
        self._cleanupLogFile(test)
360
 
        unittest.TestResult.addSuccess(self, test)
361
 
        test._log_contents = ''
362
 
 
363
 
    def addExpectedFailure(self, test, err):
 
256
 
 
257
    def addKnownFailure(self, test, err):
364
258
        self.known_failure_count += 1
365
259
        self.report_known_failure(test, err)
366
260
 
367
261
    def addNotSupported(self, test, feature):
368
 
        """The test will not be run because of a missing feature.
369
 
        """
370
 
        # this can be called in two different ways: it may be that the
371
 
        # test started running, and then raised (through requireFeature)
372
 
        # UnavailableFeature.  Alternatively this method can be called
373
 
        # while probing for features before running the test code proper; in
374
 
        # that case we will see startTest and stopTest, but the test will
375
 
        # never actually run.
376
262
        self.unsupported.setdefault(str(feature), 0)
377
263
        self.unsupported[str(feature)] += 1
378
264
        self.report_unsupported(test, feature)
379
265
 
380
 
    def addSkip(self, test, reason):
381
 
        """A test has not run for 'reason'."""
382
 
        self.skip_count += 1
383
 
        self.report_skip(test, reason)
384
 
 
385
 
    def addNotApplicable(self, test, reason):
386
 
        self.not_applicable_count += 1
387
 
        self.report_not_applicable(test, reason)
388
 
 
389
 
    def _post_mortem(self):
390
 
        """Start a PDB post mortem session."""
391
 
        if os.environ.get('BZR_TEST_PDB', None):
392
 
            import pdb;pdb.post_mortem()
393
 
 
394
 
    def progress(self, offset, whence):
395
 
        """The test is adjusting the count of tests to run."""
396
 
        if whence == SUBUNIT_SEEK_SET:
397
 
            self.num_tests = offset
398
 
        elif whence == SUBUNIT_SEEK_CUR:
399
 
            self.num_tests += offset
 
266
    def addSuccess(self, test):
 
267
        self.extractBenchmarkTime(test)
 
268
        if self._bench_history is not None:
 
269
            if self._benchmarkTime is not None:
 
270
                self._bench_history.write("%s %s\n" % (
 
271
                    self._formatTime(self._benchmarkTime),
 
272
                    test.id()))
 
273
        self.report_success(test)
 
274
        unittest.TestResult.addSuccess(self, test)
 
275
 
 
276
    def addSkipped(self, test, skip_excinfo):
 
277
        self.report_skip(test, skip_excinfo)
 
278
        # seems best to treat this as success from point-of-view of unittest
 
279
        # -- it actually does nothing so it barely matters :)
 
280
        try:
 
281
            test.tearDown()
 
282
        except KeyboardInterrupt:
 
283
            raise
 
284
        except:
 
285
            self.addError(test, test.__exc_info())
400
286
        else:
401
 
            raise errors.BzrError("Unknown whence %r" % whence)
 
287
            unittest.TestResult.addSuccess(self, test)
 
288
 
 
289
    def printErrorList(self, flavour, errors):
 
290
        for test, err in errors:
 
291
            self.stream.writeln(self.separator1)
 
292
            self.stream.write("%s: " % flavour)
 
293
            if NUMBERED_DIRS:
 
294
                self.stream.write('#%d ' % test.number)
 
295
            self.stream.writeln(self.getDescription(test))
 
296
            if getattr(test, '_get_log', None) is not None:
 
297
                print >>self.stream
 
298
                print >>self.stream, \
 
299
                        ('vvvv[log from %s]' % test.id()).ljust(78,'-')
 
300
                print >>self.stream, test._get_log()
 
301
                print >>self.stream, \
 
302
                        ('^^^^[log from %s]' % test.id()).ljust(78,'-')
 
303
            self.stream.writeln(self.separator2)
 
304
            self.stream.writeln("%s" % err)
 
305
 
 
306
    def finished(self):
 
307
        pass
402
308
 
403
309
    def report_cleaning_up(self):
404
310
        pass
405
311
 
406
 
    def startTestRun(self):
407
 
        self.startTime = time.time()
408
 
 
409
312
    def report_success(self, test):
410
313
        pass
411
314
 
412
 
    def wasStrictlySuccessful(self):
413
 
        if self.unsupported or self.known_failure_count:
414
 
            return False
415
 
        return self.wasSuccessful()
416
 
 
417
315
 
418
316
class TextTestResult(ExtendedTestResult):
419
317
    """Displays progress and results of tests in text form"""
420
318
 
421
319
    def __init__(self, stream, descriptions, verbosity,
422
320
                 bench_history=None,
 
321
                 num_tests=None,
423
322
                 pb=None,
424
 
                 strict=None,
425
323
                 ):
426
324
        ExtendedTestResult.__init__(self, stream, descriptions, verbosity,
427
 
            bench_history, strict)
428
 
        # We no longer pass them around, but just rely on the UIFactory stack
429
 
        # for state
430
 
        if pb is not None:
431
 
            warnings.warn("Passing pb to TextTestResult is deprecated")
432
 
        self.pb = self.ui.nested_progress_bar()
 
325
            bench_history, num_tests)
 
326
        if pb is None:
 
327
            self.pb = self.ui.nested_progress_bar()
 
328
            self._supplied_pb = False
 
329
        else:
 
330
            self.pb = pb
 
331
            self._supplied_pb = True
433
332
        self.pb.show_pct = False
434
333
        self.pb.show_spinner = False
435
334
        self.pb.show_eta = False,
436
335
        self.pb.show_count = False
437
336
        self.pb.show_bar = False
438
 
        self.pb.update_latency = 0
439
 
        self.pb.show_transport_activity = False
440
 
 
441
 
    def stopTestRun(self):
442
 
        # called when the tests that are going to run have run
443
 
        self.pb.clear()
444
 
        self.pb.finished()
445
 
        super(TextTestResult, self).stopTestRun()
446
 
 
447
 
    def startTestRun(self):
448
 
        super(TextTestResult, self).startTestRun()
449
 
        self.pb.update('[test 0/%d] Starting' % (self.num_tests))
450
 
 
451
 
    def printErrors(self):
452
 
        # clear the pb to make room for the error listing
453
 
        self.pb.clear()
454
 
        super(TextTestResult, self).printErrors()
 
337
 
 
338
    def report_starting(self):
 
339
        self.pb.update('[test 0/%d] starting...' % (self.num_tests))
455
340
 
456
341
    def _progress_prefix_text(self):
457
 
        # the longer this text, the less space we have to show the test
458
 
        # name...
459
 
        a = '[%d' % self.count              # total that have been run
460
 
        # tests skipped as known not to be relevant are not important enough
461
 
        # to show here
462
 
        ## if self.skip_count:
463
 
        ##     a += ', %d skip' % self.skip_count
464
 
        ## if self.known_failure_count:
465
 
        ##     a += '+%dX' % self.known_failure_count
466
 
        if self.num_tests:
 
342
        a = '[%d' % self.count
 
343
        if self.num_tests is not None:
467
344
            a +='/%d' % self.num_tests
468
 
        a += ' in '
469
 
        runtime = time.time() - self._overall_start_time
470
 
        if runtime >= 60:
471
 
            a += '%dm%ds' % (runtime / 60, runtime % 60)
472
 
        else:
473
 
            a += '%ds' % runtime
474
 
        total_fail_count = self.error_count + self.failure_count
475
 
        if total_fail_count:
476
 
            a += ', %d failed' % total_fail_count
477
 
        # if self.unsupported:
478
 
        #     a += ', %d missing' % len(self.unsupported)
 
345
        a += ' in %ds' % (time.time() - self._overall_start_time)
 
346
        if self.error_count:
 
347
            a += ', %d errors' % self.error_count
 
348
        if self.failure_count:
 
349
            a += ', %d failed' % self.failure_count
 
350
        if self.known_failure_count:
 
351
            a += ', %d known failures' % self.known_failure_count
 
352
        if self.skip_count:
 
353
            a += ', %d skipped' % self.skip_count
 
354
        if self.unsupported:
 
355
            a += ', %d missing features' % len(self.unsupported)
479
356
        a += ']'
480
357
        return a
481
358
 
483
360
        self.count += 1
484
361
        self.pb.update(
485
362
                self._progress_prefix_text()
486
 
                + ' '
 
363
                + ' ' 
487
364
                + self._shortened_test_description(test))
488
365
 
489
366
    def _test_description(self, test):
490
 
        return self._shortened_test_description(test)
 
367
        if NUMBERED_DIRS:
 
368
            return '#%d %s' % (self.count,
 
369
                               self._shortened_test_description(test))
 
370
        else:
 
371
            return self._shortened_test_description(test)
491
372
 
492
373
    def report_error(self, test, err):
493
 
        self.stream.write('ERROR: %s\n    %s\n' % (
 
374
        self.pb.note('ERROR: %s\n    %s\n', 
494
375
            self._test_description(test),
495
376
            err[1],
496
 
            ))
 
377
            )
497
378
 
498
379
    def report_failure(self, test, err):
499
 
        self.stream.write('FAIL: %s\n    %s\n' % (
 
380
        self.pb.note('FAIL: %s\n    %s\n', 
500
381
            self._test_description(test),
501
382
            err[1],
502
 
            ))
 
383
            )
503
384
 
504
385
    def report_known_failure(self, test, err):
505
 
        pass
506
 
 
507
 
    def report_skip(self, test, reason):
508
 
        pass
509
 
 
510
 
    def report_not_applicable(self, test, reason):
511
 
        pass
 
386
        self.pb.note('XFAIL: %s\n%s\n',
 
387
            self._test_description(test), err[1])
 
388
 
 
389
    def report_skip(self, test, skip_excinfo):
 
390
        self.skip_count += 1
 
391
        if False:
 
392
            # at the moment these are mostly not things we can fix
 
393
            # and so they just produce stipple; use the verbose reporter
 
394
            # to see them.
 
395
            if False:
 
396
                # show test and reason for skip
 
397
                self.pb.note('SKIP: %s\n    %s\n', 
 
398
                    self._shortened_test_description(test),
 
399
                    skip_excinfo[1])
 
400
            else:
 
401
                # since the class name was left behind in the still-visible
 
402
                # progress bar...
 
403
                self.pb.note('SKIP: %s', skip_excinfo[1])
512
404
 
513
405
    def report_unsupported(self, test, feature):
514
406
        """test cannot be run because feature is missing."""
515
 
 
 
407
                  
516
408
    def report_cleaning_up(self):
517
 
        self.pb.update('Cleaning up')
 
409
        self.pb.update('cleaning up...')
 
410
 
 
411
    def finished(self):
 
412
        if not self._supplied_pb:
 
413
            self.pb.finished()
518
414
 
519
415
 
520
416
class VerboseTestResult(ExtendedTestResult):
528
424
            result = a_string
529
425
        return result.ljust(final_width)
530
426
 
531
 
    def startTestRun(self):
532
 
        super(VerboseTestResult, self).startTestRun()
 
427
    def report_starting(self):
533
428
        self.stream.write('running %d tests...\n' % self.num_tests)
534
429
 
535
430
    def report_test_start(self, test):
536
431
        self.count += 1
537
432
        name = self._shortened_test_description(test)
538
 
        width = osutils.terminal_width()
539
 
        if width is not None:
540
 
            # width needs space for 6 char status, plus 1 for slash, plus an
541
 
            # 11-char time string, plus a trailing blank
542
 
            # when NUMBERED_DIRS: plus 5 chars on test number, plus 1 char on
543
 
            # space
544
 
            self.stream.write(self._ellipsize_to_right(name, width-18))
 
433
        # width needs space for 6 char status, plus 1 for slash, plus 2 10-char
 
434
        # numbers, plus a trailing blank
 
435
        # when NUMBERED_DIRS: plus 5 chars on test number, plus 1 char on space
 
436
        if NUMBERED_DIRS:
 
437
            self.stream.write('%5d ' % self.count)
 
438
            self.stream.write(self._ellipsize_to_right(name,
 
439
                                osutils.terminal_width()-36))
545
440
        else:
546
 
            self.stream.write(name)
 
441
            self.stream.write(self._ellipsize_to_right(name,
 
442
                                osutils.terminal_width()-30))
547
443
        self.stream.flush()
548
444
 
549
445
    def _error_summary(self, err):
550
446
        indent = ' ' * 4
 
447
        if NUMBERED_DIRS:
 
448
            indent += ' ' * 6
551
449
        return '%s%s' % (indent, err[1])
552
450
 
553
451
    def report_error(self, test, err):
554
452
        self.stream.writeln('ERROR %s\n%s'
555
 
                % (self._testTimeString(test),
 
453
                % (self._testTimeString(),
556
454
                   self._error_summary(err)))
557
455
 
558
456
    def report_failure(self, test, err):
559
457
        self.stream.writeln(' FAIL %s\n%s'
560
 
                % (self._testTimeString(test),
 
458
                % (self._testTimeString(),
561
459
                   self._error_summary(err)))
562
460
 
563
461
    def report_known_failure(self, test, err):
564
462
        self.stream.writeln('XFAIL %s\n%s'
565
 
                % (self._testTimeString(test),
 
463
                % (self._testTimeString(),
566
464
                   self._error_summary(err)))
567
465
 
568
466
    def report_success(self, test):
569
 
        self.stream.writeln('   OK %s' % self._testTimeString(test))
 
467
        self.stream.writeln('   OK %s' % self._testTimeString())
570
468
        for bench_called, stats in getattr(test, '_benchcalls', []):
571
469
            self.stream.writeln('LSProf output for %s(%s, %s)' % bench_called)
572
470
            stats.pprint(file=self.stream)
574
472
        # used to show the output in PQM.
575
473
        self.stream.flush()
576
474
 
577
 
    def report_skip(self, test, reason):
 
475
    def report_skip(self, test, skip_excinfo):
 
476
        self.skip_count += 1
578
477
        self.stream.writeln(' SKIP %s\n%s'
579
 
                % (self._testTimeString(test), reason))
580
 
 
581
 
    def report_not_applicable(self, test, reason):
582
 
        self.stream.writeln('  N/A %s\n    %s'
583
 
                % (self._testTimeString(test), reason))
 
478
                % (self._testTimeString(),
 
479
                   self._error_summary(skip_excinfo)))
584
480
 
585
481
    def report_unsupported(self, test, feature):
586
482
        """test cannot be run because feature is missing."""
587
483
        self.stream.writeln("NODEP %s\n    The feature '%s' is not available."
588
 
                %(self._testTimeString(test), feature))
 
484
                %(self._testTimeString(), feature))
 
485
                  
589
486
 
590
487
 
591
488
class TextTestRunner(object):
595
492
                 stream=sys.stderr,
596
493
                 descriptions=0,
597
494
                 verbosity=1,
598
 
                 bench_history=None,
599
 
                 strict=False,
600
 
                 result_decorators=None,
601
 
                 ):
602
 
        """Create a TextTestRunner.
603
 
 
604
 
        :param result_decorators: An optional list of decorators to apply
605
 
            to the result object being used by the runner. Decorators are
606
 
            applied left to right - the first element in the list is the 
607
 
            innermost decorator.
608
 
        """
609
 
        # stream may know claim to know to write unicode strings, but in older
610
 
        # pythons this goes sufficiently wrong that it is a bad idea. (
611
 
        # specifically a built in file with encoding 'UTF-8' will still try
612
 
        # to encode using ascii.
613
 
        new_encoding = osutils.get_terminal_encoding()
614
 
        codec = codecs.lookup(new_encoding)
615
 
        if type(codec) is tuple:
616
 
            # Python 2.4
617
 
            encode = codec[0]
618
 
        else:
619
 
            encode = codec.encode
620
 
        stream = osutils.UnicodeOrBytesToBytesWriter(encode, stream)
621
 
        stream.encoding = new_encoding
 
495
                 keep_output=False,
 
496
                 bench_history=None):
622
497
        self.stream = unittest._WritelnDecorator(stream)
623
498
        self.descriptions = descriptions
624
499
        self.verbosity = verbosity
 
500
        self.keep_output = keep_output
625
501
        self._bench_history = bench_history
626
 
        self._strict = strict
627
 
        self._result_decorators = result_decorators or []
628
502
 
629
503
    def run(self, test):
630
504
        "Run the given test case or test suite."
 
505
        startTime = time.time()
631
506
        if self.verbosity == 1:
632
507
            result_class = TextTestResult
633
508
        elif self.verbosity >= 2:
634
509
            result_class = VerboseTestResult
635
 
        original_result = result_class(self.stream,
 
510
        result = result_class(self.stream,
636
511
                              self.descriptions,
637
512
                              self.verbosity,
638
513
                              bench_history=self._bench_history,
639
 
                              strict=self._strict,
 
514
                              num_tests=test.countTestCases(),
640
515
                              )
641
 
        # Signal to result objects that look at stop early policy to stop,
642
 
        original_result.stop_early = self.stop_on_failure
643
 
        result = original_result
644
 
        for decorator in self._result_decorators:
645
 
            result = decorator(result)
646
 
            result.stop_early = self.stop_on_failure
647
 
        result.startTestRun()
648
 
        try:
649
 
            test.run(result)
650
 
        finally:
651
 
            result.stopTestRun()
652
 
        # higher level code uses our extended protocol to determine
653
 
        # what exit code to give.
654
 
        return original_result
 
516
        result.stop_early = self.stop_on_failure
 
517
        result.report_starting()
 
518
        test.run(result)
 
519
        stopTime = time.time()
 
520
        timeTaken = stopTime - startTime
 
521
        result.printErrors()
 
522
        self.stream.writeln(result.separator2)
 
523
        run = result.testsRun
 
524
        self.stream.writeln("Ran %d test%s in %.3fs" %
 
525
                            (run, run != 1 and "s" or "", timeTaken))
 
526
        self.stream.writeln()
 
527
        if not result.wasSuccessful():
 
528
            self.stream.write("FAILED (")
 
529
            failed, errored = map(len, (result.failures, result.errors))
 
530
            if failed:
 
531
                self.stream.write("failures=%d" % failed)
 
532
            if errored:
 
533
                if failed: self.stream.write(", ")
 
534
                self.stream.write("errors=%d" % errored)
 
535
            if result.known_failure_count:
 
536
                if failed or errored: self.stream.write(", ")
 
537
                self.stream.write("known_failure_count=%d" %
 
538
                    result.known_failure_count)
 
539
            self.stream.writeln(")")
 
540
        else:
 
541
            if result.known_failure_count:
 
542
                self.stream.writeln("OK (known_failures=%d)" %
 
543
                    result.known_failure_count)
 
544
            else:
 
545
                self.stream.writeln("OK")
 
546
        if result.skip_count > 0:
 
547
            skipped = result.skip_count
 
548
            self.stream.writeln('%d test%s skipped' %
 
549
                                (skipped, skipped != 1 and "s" or ""))
 
550
        if result.unsupported:
 
551
            for feature, count in sorted(result.unsupported.items()):
 
552
                self.stream.writeln("Missing feature '%s' skipped %d tests." %
 
553
                    (feature, count))
 
554
        result.report_cleaning_up()
 
555
        # This is still a little bogus, 
 
556
        # but only a little. Folk not using our testrunner will
 
557
        # have to delete their temp directories themselves.
 
558
        test_root = TestCaseWithMemoryTransport.TEST_ROOT
 
559
        if result.wasSuccessful() or not self.keep_output:
 
560
            if test_root is not None:
 
561
                # If LANG=C we probably have created some bogus paths
 
562
                # which rmtree(unicode) will fail to delete
 
563
                # so make sure we are using rmtree(str) to delete everything
 
564
                # except on win32, where rmtree(str) will fail
 
565
                # since it doesn't have the property of byte-stream paths
 
566
                # (they are either ascii or mbcs)
 
567
                if sys.platform == 'win32':
 
568
                    # make sure we are using the unicode win32 api
 
569
                    test_root = unicode(test_root)
 
570
                else:
 
571
                    test_root = test_root.encode(
 
572
                        sys.getfilesystemencoding())
 
573
                try:
 
574
                    osutils.rmtree(test_root)
 
575
                except OSError, e:
 
576
                    if sys.platform == 'win32' and e.errno == errno.EACCES:
 
577
                        print >>sys.stderr, ('Permission denied: '
 
578
                                             'unable to remove testing dir '
 
579
                                             '%s' % os.path.basename(test_root))
 
580
                    else:
 
581
                        raise
 
582
        else:
 
583
            note("Failed tests working directories are in '%s'\n", test_root)
 
584
        TestCaseWithMemoryTransport.TEST_ROOT = None
 
585
        result.finished()
 
586
        return result
655
587
 
656
588
 
657
589
def iter_suite_tests(suite):
658
590
    """Return all tests in a suite, recursing through nested suites"""
659
 
    if isinstance(suite, unittest.TestCase):
660
 
        yield suite
661
 
    elif isinstance(suite, unittest.TestSuite):
662
 
        for item in suite:
 
591
    for item in suite._tests:
 
592
        if isinstance(item, unittest.TestCase):
 
593
            yield item
 
594
        elif isinstance(item, unittest.TestSuite):
663
595
            for r in iter_suite_tests(item):
664
596
                yield r
665
 
    else:
666
 
        raise Exception('unknown type %r for object %r'
667
 
                        % (type(suite), suite))
668
 
 
669
 
 
670
 
TestSkipped = testtools.testcase.TestSkipped
671
 
 
672
 
 
673
 
class TestNotApplicable(TestSkipped):
674
 
    """A test is not applicable to the situation where it was run.
675
 
 
676
 
    This is only normally raised by parameterized tests, if they find that
677
 
    the instance they're constructed upon does not support one aspect
678
 
    of its interface.
 
597
        else:
 
598
            raise Exception('unknown object %r inside test suite %r'
 
599
                            % (item, suite))
 
600
 
 
601
 
 
602
class TestSkipped(Exception):
 
603
    """Indicates that a test was intentionally skipped, rather than failing."""
 
604
 
 
605
 
 
606
class KnownFailure(AssertionError):
 
607
    """Indicates that a test failed in a precisely expected manner.
 
608
 
 
609
    Such failures dont block the whole test suite from passing because they are
 
610
    indicators of partially completed code or of future work. We have an
 
611
    explicit error for them so that we can ensure that they are always visible:
 
612
    KnownFailures are always shown in the output of bzr selftest.
679
613
    """
680
614
 
681
615
 
682
 
# traceback._some_str fails to format exceptions that have the default
683
 
# __str__ which does an implicit ascii conversion. However, repr() on those
684
 
# objects works, for all that its not quite what the doctor may have ordered.
685
 
def _clever_some_str(value):
686
 
    try:
687
 
        return str(value)
688
 
    except:
689
 
        try:
690
 
            return repr(value).replace('\\n', '\n')
691
 
        except:
692
 
            return '<unprintable %s object>' % type(value).__name__
693
 
 
694
 
traceback._some_str = _clever_some_str
695
 
 
696
 
 
697
 
# deprecated - use self.knownFailure(), or self.expectFailure.
698
 
KnownFailure = testtools.testcase._ExpectedFailure
699
 
 
700
 
 
701
616
class UnavailableFeature(Exception):
702
617
    """A feature required for this test was not available.
703
618
 
704
 
    This can be considered a specialised form of SkippedTest.
705
 
 
706
619
    The feature should be used to construct the exception.
707
620
    """
708
621
 
709
622
 
 
623
class CommandFailed(Exception):
 
624
    pass
 
625
 
 
626
 
710
627
class StringIOWrapper(object):
711
628
    """A wrapper around cStringIO which just adds an encoding attribute.
712
 
 
 
629
    
713
630
    Internally we can check sys.stdout to see what the output encoding
714
631
    should be. However, cStringIO has no encoding attribute that we can
715
632
    set. So we wrap it instead.
733
650
            return setattr(self._cstring, name, val)
734
651
 
735
652
 
736
 
class TestUIFactory(TextUIFactory):
 
653
class TestUIFactory(ui.CLIUIFactory):
737
654
    """A UI Factory for testing.
738
655
 
739
656
    Hide the progress bar but emit note()s.
740
657
    Redirect stdin.
741
658
    Allows get_password to be tested without real tty attached.
742
 
 
743
 
    See also CannedInputUIFactory which lets you provide programmatic input in
744
 
    a structured way.
745
659
    """
746
 
    # TODO: Capture progress events at the model level and allow them to be
747
 
    # observed by tests that care.
748
 
    #
749
 
    # XXX: Should probably unify more with CannedInputUIFactory or a
750
 
    # particular configuration of TextUIFactory, or otherwise have a clearer
751
 
    # idea of how they're supposed to be different.
752
 
    # See https://bugs.edge.launchpad.net/bzr/+bug/408213
753
660
 
754
 
    def __init__(self, stdout=None, stderr=None, stdin=None):
 
661
    def __init__(self,
 
662
                 stdout=None,
 
663
                 stderr=None,
 
664
                 stdin=None):
 
665
        super(TestUIFactory, self).__init__()
755
666
        if stdin is not None:
756
667
            # We use a StringIOWrapper to be able to test various
757
668
            # encodings, but the user is still responsible to
758
669
            # encode the string and to set the encoding attribute
759
670
            # of StringIOWrapper.
760
 
            stdin = StringIOWrapper(stdin)
761
 
        super(TestUIFactory, self).__init__(stdin, stdout, stderr)
762
 
 
763
 
    def get_non_echoed_password(self):
 
671
            self.stdin = StringIOWrapper(stdin)
 
672
        if stdout is None:
 
673
            self.stdout = sys.stdout
 
674
        else:
 
675
            self.stdout = stdout
 
676
        if stderr is None:
 
677
            self.stderr = sys.stderr
 
678
        else:
 
679
            self.stderr = stderr
 
680
 
 
681
    def clear(self):
 
682
        """See progress.ProgressBar.clear()."""
 
683
 
 
684
    def clear_term(self):
 
685
        """See progress.ProgressBar.clear_term()."""
 
686
 
 
687
    def clear_term(self):
 
688
        """See progress.ProgressBar.clear_term()."""
 
689
 
 
690
    def finished(self):
 
691
        """See progress.ProgressBar.finished()."""
 
692
 
 
693
    def note(self, fmt_string, *args, **kwargs):
 
694
        """See progress.ProgressBar.note()."""
 
695
        self.stdout.write((fmt_string + "\n") % args)
 
696
 
 
697
    def progress_bar(self):
 
698
        return self
 
699
 
 
700
    def nested_progress_bar(self):
 
701
        return self
 
702
 
 
703
    def update(self, message, count=None, total=None):
 
704
        """See progress.ProgressBar.update()."""
 
705
 
 
706
    def get_non_echoed_password(self, prompt):
764
707
        """Get password from stdin without trying to handle the echo mode"""
 
708
        if prompt:
 
709
            self.stdout.write(prompt)
765
710
        password = self.stdin.readline()
766
711
        if not password:
767
712
            raise EOFError
769
714
            password = password[:-1]
770
715
        return password
771
716
 
772
 
    def make_progress_view(self):
773
 
        return NullProgressView()
774
 
 
775
 
 
776
 
class TestCase(testtools.TestCase):
 
717
 
 
718
class TestCase(unittest.TestCase):
777
719
    """Base class for bzr unit tests.
778
 
 
779
 
    Tests that need access to disk resources should subclass
 
720
    
 
721
    Tests that need access to disk resources should subclass 
780
722
    TestCaseInTempDir not TestCase.
781
723
 
782
724
    Error and debug log messages are redirected from their usual
784
726
    retrieved by _get_log().  We use a real OS file, not an in-memory object,
785
727
    so that it can also capture file IO.  When the test completes this file
786
728
    is read into memory and removed from disk.
787
 
 
 
729
       
788
730
    There are also convenience functions to invoke bzr's command-line
789
731
    routine, and to build and check bzr trees.
790
 
 
 
732
   
791
733
    In addition to the usual method of overriding tearDown(), this class also
792
734
    allows subclasses to register functions into the _cleanups list, which is
793
735
    run in order as the object is torn down.  It's less likely this will be
794
736
    accidentally overlooked.
795
737
    """
796
738
 
797
 
    _active_threads = None
798
 
    _leaking_threads_tests = 0
799
 
    _first_thread_leaker_id = None
800
739
    _log_file_name = None
 
740
    _log_contents = ''
 
741
    _keep_log_file = False
801
742
    # record lsprof data when performing benchmark calls.
802
743
    _gather_lsprof_in_benchmarks = False
803
744
 
804
745
    def __init__(self, methodName='testMethod'):
805
746
        super(TestCase, self).__init__(methodName)
806
747
        self._cleanups = []
807
 
        self._directory_isolation = True
808
 
        self.exception_handlers.insert(0,
809
 
            (UnavailableFeature, self._do_unsupported_or_skip))
810
 
        self.exception_handlers.insert(0,
811
 
            (TestNotApplicable, self._do_not_applicable))
812
748
 
813
749
    def setUp(self):
814
 
        super(TestCase, self).setUp()
815
 
        for feature in getattr(self, '_test_needs_features', []):
816
 
            self.requireFeature(feature)
817
 
        self._log_contents = None
818
 
        self.addDetail("log", content.Content(content.ContentType("text",
819
 
            "plain", {"charset": "utf8"}),
820
 
            lambda:[self._get_log(keep_log_file=True)]))
 
750
        unittest.TestCase.setUp(self)
821
751
        self._cleanEnvironment()
 
752
        bzrlib.trace.disable_default_logging()
822
753
        self._silenceUI()
823
754
        self._startLogFile()
824
755
        self._benchcalls = []
825
756
        self._benchtime = None
826
 
        self._clear_hooks()
827
 
        self._track_transports()
828
 
        self._track_locks()
829
 
        self._clear_debug_flags()
830
 
        TestCase._active_threads = threading.activeCount()
831
 
        self.addCleanup(self._check_leaked_threads)
832
 
 
833
 
    def debug(self):
834
 
        # debug a frame up.
835
 
        import pdb
836
 
        pdb.Pdb().set_trace(sys._getframe().f_back)
837
 
 
838
 
    def _check_leaked_threads(self):
839
 
        active = threading.activeCount()
840
 
        leaked_threads = active - TestCase._active_threads
841
 
        TestCase._active_threads = active
842
 
        # If some tests make the number of threads *decrease*, we'll consider
843
 
        # that they are just observing old threads dieing, not agressively kill
844
 
        # random threads. So we don't report these tests as leaking. The risk
845
 
        # is that we have false positives that way (the test see 2 threads
846
 
        # going away but leak one) but it seems less likely than the actual
847
 
        # false positives (the test see threads going away and does not leak).
848
 
        if leaked_threads > 0:
849
 
            TestCase._leaking_threads_tests += 1
850
 
            if TestCase._first_thread_leaker_id is None:
851
 
                TestCase._first_thread_leaker_id = self.id()
852
 
 
853
 
    def _clear_debug_flags(self):
854
 
        """Prevent externally set debug flags affecting tests.
855
 
 
856
 
        Tests that want to use debug flags can just set them in the
857
 
        debug_flags set during setup/teardown.
858
 
        """
859
 
        # Start with a copy of the current debug flags we can safely modify.
860
 
        self.overrideAttr(debug, 'debug_flags', set(debug.debug_flags))
861
 
        if 'allow_debug' not in selftest_debug_flags:
862
 
            debug.debug_flags.clear()
863
 
        if 'disable_lock_checks' not in selftest_debug_flags:
864
 
            debug.debug_flags.add('strict_locks')
865
 
 
866
 
    def _clear_hooks(self):
867
757
        # prevent hooks affecting tests
868
 
        self._preserved_hooks = {}
869
 
        for key, factory in hooks.known_hooks.items():
870
 
            parent, name = hooks.known_hooks_key_to_parent_and_attribute(key)
871
 
            current_hooks = hooks.known_hooks_key_to_object(key)
872
 
            self._preserved_hooks[parent] = (name, current_hooks)
 
758
        self._preserved_hooks = bzrlib.branch.Branch.hooks
873
759
        self.addCleanup(self._restoreHooks)
874
 
        for key, factory in hooks.known_hooks.items():
875
 
            parent, name = hooks.known_hooks_key_to_parent_and_attribute(key)
876
 
            setattr(parent, name, factory())
877
 
        # this hook should always be installed
878
 
        request._install_hook()
879
 
 
880
 
    def disable_directory_isolation(self):
881
 
        """Turn off directory isolation checks."""
882
 
        self._directory_isolation = False
883
 
 
884
 
    def enable_directory_isolation(self):
885
 
        """Enable directory isolation checks."""
886
 
        self._directory_isolation = True
 
760
        # this list of hooks must be kept in sync with the defaults
 
761
        # in branch.py
 
762
        bzrlib.branch.Branch.hooks = bzrlib.branch.BranchHooks()
887
763
 
888
764
    def _silenceUI(self):
889
765
        """Turn off UI for duration of test"""
890
766
        # by default the UI is off; tests can turn it on if they want it.
891
 
        self.overrideAttr(ui, 'ui_factory', ui.SilentUIFactory())
892
 
 
893
 
    def _check_locks(self):
894
 
        """Check that all lock take/release actions have been paired."""
895
 
        # We always check for mismatched locks. If a mismatch is found, we
896
 
        # fail unless -Edisable_lock_checks is supplied to selftest, in which
897
 
        # case we just print a warning.
898
 
        # unhook:
899
 
        acquired_locks = [lock for action, lock in self._lock_actions
900
 
                          if action == 'acquired']
901
 
        released_locks = [lock for action, lock in self._lock_actions
902
 
                          if action == 'released']
903
 
        broken_locks = [lock for action, lock in self._lock_actions
904
 
                        if action == 'broken']
905
 
        # trivially, given the tests for lock acquistion and release, if we
906
 
        # have as many in each list, it should be ok. Some lock tests also
907
 
        # break some locks on purpose and should be taken into account by
908
 
        # considering that breaking a lock is just a dirty way of releasing it.
909
 
        if len(acquired_locks) != (len(released_locks) + len(broken_locks)):
910
 
            message = ('Different number of acquired and '
911
 
                       'released or broken locks. (%s, %s + %s)' %
912
 
                       (acquired_locks, released_locks, broken_locks))
913
 
            if not self._lock_check_thorough:
914
 
                # Rather than fail, just warn
915
 
                print "Broken test %s: %s" % (self, message)
916
 
                return
917
 
            self.fail(message)
918
 
 
919
 
    def _track_locks(self):
920
 
        """Track lock activity during tests."""
921
 
        self._lock_actions = []
922
 
        if 'disable_lock_checks' in selftest_debug_flags:
923
 
            self._lock_check_thorough = False
924
 
        else:
925
 
            self._lock_check_thorough = True
926
 
 
927
 
        self.addCleanup(self._check_locks)
928
 
        _mod_lock.Lock.hooks.install_named_hook('lock_acquired',
929
 
                                                self._lock_acquired, None)
930
 
        _mod_lock.Lock.hooks.install_named_hook('lock_released',
931
 
                                                self._lock_released, None)
932
 
        _mod_lock.Lock.hooks.install_named_hook('lock_broken',
933
 
                                                self._lock_broken, None)
934
 
 
935
 
    def _lock_acquired(self, result):
936
 
        self._lock_actions.append(('acquired', result))
937
 
 
938
 
    def _lock_released(self, result):
939
 
        self._lock_actions.append(('released', result))
940
 
 
941
 
    def _lock_broken(self, result):
942
 
        self._lock_actions.append(('broken', result))
943
 
 
944
 
    def permit_dir(self, name):
945
 
        """Permit a directory to be used by this test. See permit_url."""
946
 
        name_transport = get_transport(name)
947
 
        self.permit_url(name)
948
 
        self.permit_url(name_transport.base)
949
 
 
950
 
    def permit_url(self, url):
951
 
        """Declare that url is an ok url to use in this test.
952
 
        
953
 
        Do this for memory transports, temporary test directory etc.
954
 
        
955
 
        Do not do this for the current working directory, /tmp, or any other
956
 
        preexisting non isolated url.
957
 
        """
958
 
        if not url.endswith('/'):
959
 
            url += '/'
960
 
        self._bzr_selftest_roots.append(url)
961
 
 
962
 
    def permit_source_tree_branch_repo(self):
963
 
        """Permit the source tree bzr is running from to be opened.
964
 
 
965
 
        Some code such as bzrlib.version attempts to read from the bzr branch
966
 
        that bzr is executing from (if any). This method permits that directory
967
 
        to be used in the test suite.
968
 
        """
969
 
        path = self.get_source_path()
970
 
        self.record_directory_isolation()
971
 
        try:
972
 
            try:
973
 
                workingtree.WorkingTree.open(path)
974
 
            except (errors.NotBranchError, errors.NoWorkingTree):
975
 
                return
976
 
        finally:
977
 
            self.enable_directory_isolation()
978
 
 
979
 
    def _preopen_isolate_transport(self, transport):
980
 
        """Check that all transport openings are done in the test work area."""
981
 
        while isinstance(transport, pathfilter.PathFilteringTransport):
982
 
            # Unwrap pathfiltered transports
983
 
            transport = transport.server.backing_transport.clone(
984
 
                transport._filter('.'))
985
 
        url = transport.base
986
 
        # ReadonlySmartTCPServer_for_testing decorates the backing transport
987
 
        # urls it is given by prepending readonly+. This is appropriate as the
988
 
        # client shouldn't know that the server is readonly (or not readonly).
989
 
        # We could register all servers twice, with readonly+ prepending, but
990
 
        # that makes for a long list; this is about the same but easier to
991
 
        # read.
992
 
        if url.startswith('readonly+'):
993
 
            url = url[len('readonly+'):]
994
 
        self._preopen_isolate_url(url)
995
 
 
996
 
    def _preopen_isolate_url(self, url):
997
 
        if not self._directory_isolation:
998
 
            return
999
 
        if self._directory_isolation == 'record':
1000
 
            self._bzr_selftest_roots.append(url)
1001
 
            return
1002
 
        # This prevents all transports, including e.g. sftp ones backed on disk
1003
 
        # from working unless they are explicitly granted permission. We then
1004
 
        # depend on the code that sets up test transports to check that they are
1005
 
        # appropriately isolated and enable their use by calling
1006
 
        # self.permit_transport()
1007
 
        if not osutils.is_inside_any(self._bzr_selftest_roots, url):
1008
 
            raise errors.BzrError("Attempt to escape test isolation: %r %r"
1009
 
                % (url, self._bzr_selftest_roots))
1010
 
 
1011
 
    def record_directory_isolation(self):
1012
 
        """Gather accessed directories to permit later access.
1013
 
        
1014
 
        This is used for tests that access the branch bzr is running from.
1015
 
        """
1016
 
        self._directory_isolation = "record"
1017
 
 
1018
 
    def start_server(self, transport_server, backing_server=None):
1019
 
        """Start transport_server for this test.
1020
 
 
1021
 
        This starts the server, registers a cleanup for it and permits the
1022
 
        server's urls to be used.
1023
 
        """
1024
 
        if backing_server is None:
1025
 
            transport_server.start_server()
1026
 
        else:
1027
 
            transport_server.start_server(backing_server)
1028
 
        self.addCleanup(transport_server.stop_server)
1029
 
        # Obtain a real transport because if the server supplies a password, it
1030
 
        # will be hidden from the base on the client side.
1031
 
        t = get_transport(transport_server.get_url())
1032
 
        # Some transport servers effectively chroot the backing transport;
1033
 
        # others like SFTPServer don't - users of the transport can walk up the
1034
 
        # transport to read the entire backing transport. This wouldn't matter
1035
 
        # except that the workdir tests are given - and that they expect the
1036
 
        # server's url to point at - is one directory under the safety net. So
1037
 
        # Branch operations into the transport will attempt to walk up one
1038
 
        # directory. Chrooting all servers would avoid this but also mean that
1039
 
        # we wouldn't be testing directly against non-root urls. Alternatively
1040
 
        # getting the test framework to start the server with a backing server
1041
 
        # at the actual safety net directory would work too, but this then
1042
 
        # means that the self.get_url/self.get_transport methods would need
1043
 
        # to transform all their results. On balance its cleaner to handle it
1044
 
        # here, and permit a higher url when we have one of these transports.
1045
 
        if t.base.endswith('/work/'):
1046
 
            # we have safety net/test root/work
1047
 
            t = t.clone('../..')
1048
 
        elif isinstance(transport_server,
1049
 
                        test_server.SmartTCPServer_for_testing):
1050
 
            # The smart server adds a path similar to work, which is traversed
1051
 
            # up from by the client. But the server is chrooted - the actual
1052
 
            # backing transport is not escaped from, and VFS requests to the
1053
 
            # root will error (because they try to escape the chroot).
1054
 
            t2 = t.clone('..')
1055
 
            while t2.base != t.base:
1056
 
                t = t2
1057
 
                t2 = t.clone('..')
1058
 
        self.permit_url(t.base)
1059
 
 
1060
 
    def _track_transports(self):
1061
 
        """Install checks for transport usage."""
1062
 
        # TestCase has no safe place it can write to.
1063
 
        self._bzr_selftest_roots = []
1064
 
        # Currently the easiest way to be sure that nothing is going on is to
1065
 
        # hook into bzr dir opening. This leaves a small window of error for
1066
 
        # transport tests, but they are well known, and we can improve on this
1067
 
        # step.
1068
 
        bzrdir.BzrDir.hooks.install_named_hook("pre_open",
1069
 
            self._preopen_isolate_transport, "Check bzr directories are safe.")
 
767
        saved = ui.ui_factory
 
768
        def _restore():
 
769
            ui.ui_factory = saved
 
770
        ui.ui_factory = ui.SilentUIFactory()
 
771
        self.addCleanup(_restore)
1070
772
 
1071
773
    def _ndiff_strings(self, a, b):
1072
774
        """Return ndiff between two strings containing lines.
1073
 
 
 
775
        
1074
776
        A trailing newline is added if missing to make the strings
1075
777
        print properly."""
1076
778
        if b and b[-1] != '\n':
1095
797
            message += '\n'
1096
798
        raise AssertionError("%snot equal:\na = %s\nb = %s\n"
1097
799
            % (message,
1098
 
               pformat(a), pformat(b)))
 
800
               pformat(a, indent=4), pformat(b, indent=4)))
1099
801
 
1100
802
    assertEquals = assertEqual
1101
803
 
1102
804
    def assertEqualDiff(self, a, b, message=None):
1103
805
        """Assert two texts are equal, if not raise an exception.
1104
 
 
1105
 
        This is intended for use with multi-line strings where it can
 
806
        
 
807
        This is intended for use with multi-line strings where it can 
1106
808
        be hard to find the differences by eye.
1107
809
        """
1108
810
        # TODO: perhaps override assertEquals to call this for strings?
1110
812
            return
1111
813
        if message is None:
1112
814
            message = "texts not equal:\n"
1113
 
        if a + '\n' == b:
1114
 
            message = 'first string is missing a final newline.\n'
1115
 
        if a == b + '\n':
1116
 
            message = 'second string is missing a final newline.\n'
1117
 
        raise AssertionError(message +
1118
 
                             self._ndiff_strings(a, b))
1119
 
 
 
815
        raise AssertionError(message + 
 
816
                             self._ndiff_strings(a, b))      
 
817
        
1120
818
    def assertEqualMode(self, mode, mode_test):
1121
819
        self.assertEqual(mode, mode_test,
1122
820
                         'mode mismatch %o != %o' % (mode, mode_test))
1123
821
 
1124
 
    def assertEqualStat(self, expected, actual):
1125
 
        """assert that expected and actual are the same stat result.
1126
 
 
1127
 
        :param expected: A stat result.
1128
 
        :param actual: A stat result.
1129
 
        :raises AssertionError: If the expected and actual stat values differ
1130
 
            other than by atime.
1131
 
        """
1132
 
        self.assertEqual(expected.st_size, actual.st_size,
1133
 
                         'st_size did not match')
1134
 
        self.assertEqual(expected.st_mtime, actual.st_mtime,
1135
 
                         'st_mtime did not match')
1136
 
        self.assertEqual(expected.st_ctime, actual.st_ctime,
1137
 
                         'st_ctime did not match')
1138
 
        if sys.platform != 'win32':
1139
 
            # On Win32 both 'dev' and 'ino' cannot be trusted. In python2.4 it
1140
 
            # is 'dev' that varies, in python 2.5 (6?) it is st_ino that is
1141
 
            # odd. Regardless we shouldn't actually try to assert anything
1142
 
            # about their values
1143
 
            self.assertEqual(expected.st_dev, actual.st_dev,
1144
 
                             'st_dev did not match')
1145
 
            self.assertEqual(expected.st_ino, actual.st_ino,
1146
 
                             'st_ino did not match')
1147
 
        self.assertEqual(expected.st_mode, actual.st_mode,
1148
 
                         'st_mode did not match')
1149
 
 
1150
 
    def assertLength(self, length, obj_with_len):
1151
 
        """Assert that obj_with_len is of length length."""
1152
 
        if len(obj_with_len) != length:
1153
 
            self.fail("Incorrect length: wanted %d, got %d for %r" % (
1154
 
                length, len(obj_with_len), obj_with_len))
1155
 
 
1156
 
    def assertLogsError(self, exception_class, func, *args, **kwargs):
1157
 
        """Assert that func(*args, **kwargs) quietly logs a specific exception.
1158
 
        """
1159
 
        from bzrlib import trace
1160
 
        captured = []
1161
 
        orig_log_exception_quietly = trace.log_exception_quietly
1162
 
        try:
1163
 
            def capture():
1164
 
                orig_log_exception_quietly()
1165
 
                captured.append(sys.exc_info())
1166
 
            trace.log_exception_quietly = capture
1167
 
            func(*args, **kwargs)
1168
 
        finally:
1169
 
            trace.log_exception_quietly = orig_log_exception_quietly
1170
 
        self.assertLength(1, captured)
1171
 
        err = captured[0][1]
1172
 
        self.assertIsInstance(err, exception_class)
1173
 
        return err
1174
 
 
1175
 
    def assertPositive(self, val):
1176
 
        """Assert that val is greater than 0."""
1177
 
        self.assertTrue(val > 0, 'expected a positive value, but got %s' % val)
1178
 
 
1179
 
    def assertNegative(self, val):
1180
 
        """Assert that val is less than 0."""
1181
 
        self.assertTrue(val < 0, 'expected a negative value, but got %s' % val)
1182
 
 
1183
822
    def assertStartsWith(self, s, prefix):
1184
823
        if not s.startswith(prefix):
1185
824
            raise AssertionError('string %r does not start with %r' % (s, prefix))
1189
828
        if not s.endswith(suffix):
1190
829
            raise AssertionError('string %r does not end with %r' % (s, suffix))
1191
830
 
1192
 
    def assertContainsRe(self, haystack, needle_re, flags=0):
 
831
    def assertContainsRe(self, haystack, needle_re):
1193
832
        """Assert that a contains something matching a regular expression."""
1194
 
        if not re.search(needle_re, haystack, flags):
1195
 
            if '\n' in haystack or len(haystack) > 60:
1196
 
                # a long string, format it in a more readable way
1197
 
                raise AssertionError(
1198
 
                        'pattern "%s" not found in\n"""\\\n%s"""\n'
1199
 
                        % (needle_re, haystack))
1200
 
            else:
1201
 
                raise AssertionError('pattern "%s" not found in "%s"'
1202
 
                        % (needle_re, haystack))
 
833
        if not re.search(needle_re, haystack):
 
834
            raise AssertionError('pattern "%r" not found in "%r"'
 
835
                    % (needle_re, haystack))
1203
836
 
1204
 
    def assertNotContainsRe(self, haystack, needle_re, flags=0):
 
837
    def assertNotContainsRe(self, haystack, needle_re):
1205
838
        """Assert that a does not match a regular expression"""
1206
 
        if re.search(needle_re, haystack, flags):
 
839
        if re.search(needle_re, haystack):
1207
840
            raise AssertionError('pattern "%s" found in "%s"'
1208
841
                    % (needle_re, haystack))
1209
842
 
1210
 
    def assertContainsString(self, haystack, needle):
1211
 
        if haystack.find(needle) == -1:
1212
 
            self.fail("string %r not found in '''%s'''" % (needle, haystack))
1213
 
 
1214
843
    def assertSubset(self, sublist, superlist):
1215
844
        """Assert that every entry in sublist is present in superlist."""
1216
 
        missing = set(sublist) - set(superlist)
 
845
        missing = []
 
846
        for entry in sublist:
 
847
            if entry not in superlist:
 
848
                missing.append(entry)
1217
849
        if len(missing) > 0:
1218
 
            raise AssertionError("value(s) %r not present in container %r" %
 
850
            raise AssertionError("value(s) %r not present in container %r" % 
1219
851
                                 (missing, superlist))
1220
852
 
1221
853
    def assertListRaises(self, excClass, func, *args, **kwargs):
1222
854
        """Fail unless excClass is raised when the iterator from func is used.
1223
 
 
 
855
        
1224
856
        Many functions can return generators this makes sure
1225
857
        to wrap them in a list() call to make sure the whole generator
1226
858
        is run, and that the proper exception is raised.
1227
859
        """
1228
860
        try:
1229
861
            list(func(*args, **kwargs))
1230
 
        except excClass, e:
1231
 
            return e
 
862
        except excClass:
 
863
            return
1232
864
        else:
1233
865
            if getattr(excClass,'__name__', None) is not None:
1234
866
                excName = excClass.__name__
1236
868
                excName = str(excClass)
1237
869
            raise self.failureException, "%s not raised" % excName
1238
870
 
1239
 
    def assertRaises(self, excClass, callableObj, *args, **kwargs):
 
871
    def assertRaises(self, excClass, func, *args, **kwargs):
1240
872
        """Assert that a callable raises a particular exception.
1241
873
 
1242
874
        :param excClass: As for the except statement, this may be either an
1243
 
            exception class, or a tuple of classes.
1244
 
        :param callableObj: A callable, will be passed ``*args`` and
1245
 
            ``**kwargs``.
 
875
        exception class, or a tuple of classes.
1246
876
 
1247
877
        Returns the exception so that you can examine it.
1248
878
        """
1249
879
        try:
1250
 
            callableObj(*args, **kwargs)
 
880
            func(*args, **kwargs)
1251
881
        except excClass, e:
1252
882
            return e
1253
883
        else:
1273
903
                raise AssertionError("%r is %r." % (left, right))
1274
904
 
1275
905
    def assertTransportMode(self, transport, path, mode):
1276
 
        """Fail if a path does not have mode "mode".
1277
 
 
 
906
        """Fail if a path does not have mode mode.
 
907
        
1278
908
        If modes are not supported on this transport, the assertion is ignored.
1279
909
        """
1280
910
        if not transport._can_roundtrip_unix_modebits():
1282
912
        path_stat = transport.stat(path)
1283
913
        actual_mode = stat.S_IMODE(path_stat.st_mode)
1284
914
        self.assertEqual(mode, actual_mode,
1285
 
                         'mode of %r incorrect (%s != %s)'
1286
 
                         % (path, oct(mode), oct(actual_mode)))
1287
 
 
1288
 
    def assertIsSameRealPath(self, path1, path2):
1289
 
        """Fail if path1 and path2 points to different files"""
1290
 
        self.assertEqual(osutils.realpath(path1),
1291
 
                         osutils.realpath(path2),
1292
 
                         "apparent paths:\na = %s\nb = %s\n," % (path1, path2))
1293
 
 
1294
 
    def assertIsInstance(self, obj, kls, msg=None):
1295
 
        """Fail if obj is not an instance of kls
1296
 
        
1297
 
        :param msg: Supplementary message to show if the assertion fails.
1298
 
        """
 
915
            'mode of %r incorrect (%o != %o)' % (path, mode, actual_mode))
 
916
 
 
917
    def assertIsInstance(self, obj, kls):
 
918
        """Fail if obj is not an instance of kls"""
1299
919
        if not isinstance(obj, kls):
1300
 
            m = "%r is an instance of %s rather than %s" % (
1301
 
                obj, obj.__class__, kls)
1302
 
            if msg:
1303
 
                m += ": " + msg
1304
 
            self.fail(m)
1305
 
 
1306
 
    def assertFileEqual(self, content, path):
1307
 
        """Fail if path does not contain 'content'."""
1308
 
        self.failUnlessExists(path)
1309
 
        f = file(path, 'rb')
1310
 
        try:
1311
 
            s = f.read()
1312
 
        finally:
1313
 
            f.close()
1314
 
        self.assertEqualDiff(content, s)
1315
 
 
1316
 
    def assertDocstring(self, expected_docstring, obj):
1317
 
        """Fail if obj does not have expected_docstring"""
1318
 
        if __doc__ is None:
1319
 
            # With -OO the docstring should be None instead
1320
 
            self.assertIs(obj.__doc__, None)
1321
 
        else:
1322
 
            self.assertEqual(expected_docstring, obj.__doc__)
1323
 
 
1324
 
    def failUnlessExists(self, path):
1325
 
        """Fail unless path or paths, which may be abs or relative, exist."""
1326
 
        if not isinstance(path, basestring):
1327
 
            for p in path:
1328
 
                self.failUnlessExists(p)
1329
 
        else:
1330
 
            self.failUnless(osutils.lexists(path),path+" does not exist")
1331
 
 
1332
 
    def failIfExists(self, path):
1333
 
        """Fail if path or paths, which may be abs or relative, exist."""
1334
 
        if not isinstance(path, basestring):
1335
 
            for p in path:
1336
 
                self.failIfExists(p)
1337
 
        else:
1338
 
            self.failIf(osutils.lexists(path),path+" exists")
1339
 
 
1340
 
    def _capture_deprecation_warnings(self, a_callable, *args, **kwargs):
 
920
            self.fail("%r is an instance of %s rather than %s" % (
 
921
                obj, obj.__class__, kls))
 
922
 
 
923
    def _capture_warnings(self, a_callable, *args, **kwargs):
1341
924
        """A helper for callDeprecated and applyDeprecated.
1342
925
 
1343
926
        :param a_callable: A callable to call.
1344
927
        :param args: The positional arguments for the callable
1345
928
        :param kwargs: The keyword arguments for the callable
1346
929
        :return: A tuple (warnings, result). result is the result of calling
1347
 
            a_callable(``*args``, ``**kwargs``).
 
930
            a_callable(*args, **kwargs).
1348
931
        """
1349
932
        local_warnings = []
1350
933
        def capture_warnings(msg, cls=None, stacklevel=None):
1363
946
    def applyDeprecated(self, deprecation_format, a_callable, *args, **kwargs):
1364
947
        """Call a deprecated callable without warning the user.
1365
948
 
1366
 
        Note that this only captures warnings raised by symbol_versioning.warn,
1367
 
        not other callers that go direct to the warning module.
1368
 
 
1369
 
        To test that a deprecated method raises an error, do something like
1370
 
        this::
1371
 
 
1372
 
            self.assertRaises(errors.ReservedId,
1373
 
                self.applyDeprecated,
1374
 
                deprecated_in((1, 5, 0)),
1375
 
                br.append_revision,
1376
 
                'current:')
1377
 
 
1378
949
        :param deprecation_format: The deprecation format that the callable
1379
 
            should have been deprecated with. This is the same type as the
1380
 
            parameter to deprecated_method/deprecated_function. If the
 
950
            should have been deprecated with. This is the same type as the 
 
951
            parameter to deprecated_method/deprecated_function. If the 
1381
952
            callable is not deprecated with this format, an assertion error
1382
953
            will be raised.
1383
954
        :param a_callable: A callable to call. This may be a bound method or
1384
 
            a regular function. It will be called with ``*args`` and
1385
 
            ``**kwargs``.
 
955
            a regular function. It will be called with *args and **kwargs.
1386
956
        :param args: The positional arguments for the callable
1387
957
        :param kwargs: The keyword arguments for the callable
1388
 
        :return: The result of a_callable(``*args``, ``**kwargs``)
 
958
        :return: The result of a_callable(*args, **kwargs)
1389
959
        """
1390
 
        call_warnings, result = self._capture_deprecation_warnings(a_callable,
 
960
        call_warnings, result = self._capture_warnings(a_callable,
1391
961
            *args, **kwargs)
1392
962
        expected_first_warning = symbol_versioning.deprecation_string(
1393
963
            a_callable, deprecation_format)
1397
967
        self.assertEqual(expected_first_warning, call_warnings[0])
1398
968
        return result
1399
969
 
1400
 
    def callCatchWarnings(self, fn, *args, **kw):
1401
 
        """Call a callable that raises python warnings.
1402
 
 
1403
 
        The caller's responsible for examining the returned warnings.
1404
 
 
1405
 
        If the callable raises an exception, the exception is not
1406
 
        caught and propagates up to the caller.  In that case, the list
1407
 
        of warnings is not available.
1408
 
 
1409
 
        :returns: ([warning_object, ...], fn_result)
1410
 
        """
1411
 
        # XXX: This is not perfect, because it completely overrides the
1412
 
        # warnings filters, and some code may depend on suppressing particular
1413
 
        # warnings.  It's the easiest way to insulate ourselves from -Werror,
1414
 
        # though.  -- Andrew, 20071062
1415
 
        wlist = []
1416
 
        def _catcher(message, category, filename, lineno, file=None, line=None):
1417
 
            # despite the name, 'message' is normally(?) a Warning subclass
1418
 
            # instance
1419
 
            wlist.append(message)
1420
 
        saved_showwarning = warnings.showwarning
1421
 
        saved_filters = warnings.filters
1422
 
        try:
1423
 
            warnings.showwarning = _catcher
1424
 
            warnings.filters = []
1425
 
            result = fn(*args, **kw)
1426
 
        finally:
1427
 
            warnings.showwarning = saved_showwarning
1428
 
            warnings.filters = saved_filters
1429
 
        return wlist, result
1430
 
 
1431
970
    def callDeprecated(self, expected, callable, *args, **kwargs):
1432
971
        """Assert that a callable is deprecated in a particular way.
1433
972
 
1434
 
        This is a very precise test for unusual requirements. The
 
973
        This is a very precise test for unusual requirements. The 
1435
974
        applyDeprecated helper function is probably more suited for most tests
1436
975
        as it allows you to simply specify the deprecation format being used
1437
976
        and will ensure that that is issued for the function being called.
1438
977
 
1439
 
        Note that this only captures warnings raised by symbol_versioning.warn,
1440
 
        not other callers that go direct to the warning module.  To catch
1441
 
        general warnings, use callCatchWarnings.
1442
 
 
1443
978
        :param expected: a list of the deprecation warnings expected, in order
1444
979
        :param callable: The callable to call
1445
980
        :param args: The positional arguments for the callable
1446
981
        :param kwargs: The keyword arguments for the callable
1447
982
        """
1448
 
        call_warnings, result = self._capture_deprecation_warnings(callable,
 
983
        call_warnings, result = self._capture_warnings(callable,
1449
984
            *args, **kwargs)
1450
985
        self.assertEqual(expected, call_warnings)
1451
986
        return result
1457
992
        """
1458
993
        fileno, name = tempfile.mkstemp(suffix='.log', prefix='testbzr')
1459
994
        self._log_file = os.fdopen(fileno, 'w+')
1460
 
        self._log_memento = bzrlib.trace.push_log_file(self._log_file)
 
995
        self._log_nonce = bzrlib.trace.enable_test_log(self._log_file)
1461
996
        self._log_file_name = name
1462
997
        self.addCleanup(self._finishLogFile)
1463
998
 
1466
1001
 
1467
1002
        Close the file and delete it, unless setKeepLogfile was called.
1468
1003
        """
1469
 
        if bzrlib.trace._trace_file:
1470
 
            # flush the log file, to get all content
1471
 
            bzrlib.trace._trace_file.flush()
1472
 
        bzrlib.trace.pop_log_file(self._log_memento)
1473
 
        # Cache the log result and delete the file on disk
1474
 
        self._get_log(False)
1475
 
 
1476
 
    def thisFailsStrictLockCheck(self):
1477
 
        """It is known that this test would fail with -Dstrict_locks.
1478
 
 
1479
 
        By default, all tests are run with strict lock checking unless
1480
 
        -Edisable_lock_checks is supplied. However there are some tests which
1481
 
        we know fail strict locks at this point that have not been fixed.
1482
 
        They should call this function to disable the strict checking.
1483
 
 
1484
 
        This should be used sparingly, it is much better to fix the locking
1485
 
        issues rather than papering over the problem by calling this function.
1486
 
        """
1487
 
        debug.debug_flags.discard('strict_locks')
1488
 
 
1489
 
    def addCleanup(self, callable, *args, **kwargs):
 
1004
        if self._log_file is None:
 
1005
            return
 
1006
        bzrlib.trace.disable_test_log(self._log_nonce)
 
1007
        self._log_file.close()
 
1008
        self._log_file = None
 
1009
        if not self._keep_log_file:
 
1010
            os.remove(self._log_file_name)
 
1011
            self._log_file_name = None
 
1012
 
 
1013
    def setKeepLogfile(self):
 
1014
        """Make the logfile not be deleted when _finishLogFile is called."""
 
1015
        self._keep_log_file = True
 
1016
 
 
1017
    def addCleanup(self, callable):
1490
1018
        """Arrange to run a callable when this case is torn down.
1491
1019
 
1492
 
        Callables are run in the reverse of the order they are registered,
 
1020
        Callables are run in the reverse of the order they are registered, 
1493
1021
        ie last-in first-out.
1494
1022
        """
1495
 
        self._cleanups.append((callable, args, kwargs))
1496
 
 
1497
 
    def overrideAttr(self, obj, attr_name, new=_unitialized_attr):
1498
 
        """Overrides an object attribute restoring it after the test.
1499
 
 
1500
 
        :param obj: The object that will be mutated.
1501
 
 
1502
 
        :param attr_name: The attribute name we want to preserve/override in
1503
 
            the object.
1504
 
 
1505
 
        :param new: The optional value we want to set the attribute to.
1506
 
 
1507
 
        :returns: The actual attr value.
1508
 
        """
1509
 
        value = getattr(obj, attr_name)
1510
 
        # The actual value is captured by the call below
1511
 
        self.addCleanup(setattr, obj, attr_name, value)
1512
 
        if new is not _unitialized_attr:
1513
 
            setattr(obj, attr_name, new)
1514
 
        return value
 
1023
        if callable in self._cleanups:
 
1024
            raise ValueError("cleanup function %r already registered on %s" 
 
1025
                    % (callable, self))
 
1026
        self._cleanups.append(callable)
1515
1027
 
1516
1028
    def _cleanEnvironment(self):
1517
1029
        new_env = {
1518
1030
            'BZR_HOME': None, # Don't inherit BZR_HOME to all the tests.
1519
1031
            'HOME': os.getcwd(),
1520
 
            # bzr now uses the Win32 API and doesn't rely on APPDATA, but the
1521
 
            # tests do check our impls match APPDATA
1522
 
            'BZR_EDITOR': None, # test_msgeditor manipulates this variable
1523
 
            'VISUAL': None,
1524
 
            'EDITOR': None,
 
1032
            'APPDATA': None,  # bzr now use Win32 API and don't rely on APPDATA
1525
1033
            'BZR_EMAIL': None,
1526
1034
            'BZREMAIL': None, # may still be present in the environment
1527
1035
            'EMAIL': None,
1528
1036
            'BZR_PROGRESS_BAR': None,
1529
 
            'BZR_LOG': None,
1530
 
            'BZR_PLUGIN_PATH': None,
1531
 
            'BZR_DISABLE_PLUGINS': None,
1532
 
            'BZR_PLUGINS_AT': None,
1533
 
            'BZR_CONCURRENCY': None,
1534
 
            # Make sure that any text ui tests are consistent regardless of
1535
 
            # the environment the test case is run in; you may want tests that
1536
 
            # test other combinations.  'dumb' is a reasonable guess for tests
1537
 
            # going to a pipe or a StringIO.
1538
 
            'TERM': 'dumb',
1539
 
            'LINES': '25',
1540
 
            'COLUMNS': '80',
1541
 
            'BZR_COLUMNS': '80',
1542
 
            # SSH Agent
1543
 
            'SSH_AUTH_SOCK': None,
1544
1037
            # Proxies
1545
1038
            'http_proxy': None,
1546
1039
            'HTTP_PROXY': None,
1550
1043
            'NO_PROXY': None,
1551
1044
            'all_proxy': None,
1552
1045
            'ALL_PROXY': None,
1553
 
            # Nobody cares about ftp_proxy, FTP_PROXY AFAIK. So far at
 
1046
            # Nobody cares about these ones AFAIK. So far at
1554
1047
            # least. If you do (care), please update this comment
1555
 
            # -- vila 20080401
 
1048
            # -- vila 20061212
1556
1049
            'ftp_proxy': None,
1557
1050
            'FTP_PROXY': None,
1558
 
            'BZR_REMOTE_PATH': None,
1559
 
            # Generally speaking, we don't want apport reporting on crashes in
1560
 
            # the test envirnoment unless we're specifically testing apport,
1561
 
            # so that it doesn't leak into the real system environment.  We
1562
 
            # use an env var so it propagates to subprocesses.
1563
 
            'APPORT_DISABLE': '1',
1564
1051
        }
1565
 
        self._old_env = {}
 
1052
        self.__old_env = {}
1566
1053
        self.addCleanup(self._restoreEnvironment)
1567
1054
        for name, value in new_env.iteritems():
1568
1055
            self._captureVar(name, value)
1569
1056
 
1570
1057
    def _captureVar(self, name, newvalue):
1571
1058
        """Set an environment variable, and reset it when finished."""
1572
 
        self._old_env[name] = osutils.set_or_unset_env(name, newvalue)
 
1059
        self.__old_env[name] = osutils.set_or_unset_env(name, newvalue)
1573
1060
 
1574
1061
    def _restoreEnvironment(self):
1575
 
        for name, value in self._old_env.iteritems():
 
1062
        for name, value in self.__old_env.iteritems():
1576
1063
            osutils.set_or_unset_env(name, value)
1577
1064
 
1578
1065
    def _restoreHooks(self):
1579
 
        for klass, (name, hooks) in self._preserved_hooks.items():
1580
 
            setattr(klass, name, hooks)
 
1066
        bzrlib.branch.Branch.hooks = self._preserved_hooks
1581
1067
 
1582
1068
    def knownFailure(self, reason):
1583
1069
        """This test has failed for some known reason."""
1584
1070
        raise KnownFailure(reason)
1585
1071
 
1586
 
    def _do_skip(self, result, reason):
1587
 
        addSkip = getattr(result, 'addSkip', None)
1588
 
        if not callable(addSkip):
1589
 
            result.addSuccess(result)
1590
 
        else:
1591
 
            addSkip(self, reason)
1592
 
 
1593
 
    @staticmethod
1594
 
    def _do_known_failure(self, result, e):
1595
 
        err = sys.exc_info()
1596
 
        addExpectedFailure = getattr(result, 'addExpectedFailure', None)
1597
 
        if addExpectedFailure is not None:
1598
 
            addExpectedFailure(self, err)
1599
 
        else:
1600
 
            result.addSuccess(self)
1601
 
 
1602
 
    @staticmethod
1603
 
    def _do_not_applicable(self, result, e):
1604
 
        if not e.args:
1605
 
            reason = 'No reason given'
1606
 
        else:
1607
 
            reason = e.args[0]
1608
 
        addNotApplicable = getattr(result, 'addNotApplicable', None)
1609
 
        if addNotApplicable is not None:
1610
 
            result.addNotApplicable(self, reason)
1611
 
        else:
1612
 
            self._do_skip(result, reason)
1613
 
 
1614
 
    @staticmethod
1615
 
    def _do_unsupported_or_skip(self, result, e):
1616
 
        reason = e.args[0]
1617
 
        addNotSupported = getattr(result, 'addNotSupported', None)
1618
 
        if addNotSupported is not None:
1619
 
            result.addNotSupported(self, reason)
1620
 
        else:
1621
 
            self._do_skip(result, reason)
 
1072
    def run(self, result=None):
 
1073
        if result is None: result = self.defaultTestResult()
 
1074
        for feature in getattr(self, '_test_needs_features', []):
 
1075
            if not feature.available():
 
1076
                result.startTest(self)
 
1077
                if getattr(result, 'addNotSupported', None):
 
1078
                    result.addNotSupported(self, feature)
 
1079
                else:
 
1080
                    result.addSuccess(self)
 
1081
                result.stopTest(self)
 
1082
                return
 
1083
        return unittest.TestCase.run(self, result)
 
1084
 
 
1085
    def tearDown(self):
 
1086
        self._runCleanups()
 
1087
        unittest.TestCase.tearDown(self)
1622
1088
 
1623
1089
    def time(self, callable, *args, **kwargs):
1624
1090
        """Run callable and accrue the time it takes to the benchmark time.
1625
 
 
 
1091
        
1626
1092
        If lsprofiling is enabled (i.e. by --lsprof-time to bzr selftest) then
1627
1093
        this will cause lsprofile statistics to be gathered and stored in
1628
1094
        self._benchcalls.
1629
1095
        """
1630
1096
        if self._benchtime is None:
1631
 
            self.addDetail('benchtime', content.Content(content.ContentType(
1632
 
                "text", "plain"), lambda:[str(self._benchtime)]))
1633
1097
            self._benchtime = 0
1634
1098
        start = time.time()
1635
1099
        try:
1644
1108
        finally:
1645
1109
            self._benchtime += time.time() - start
1646
1110
 
 
1111
    def _runCleanups(self):
 
1112
        """Run registered cleanup functions. 
 
1113
 
 
1114
        This should only be called from TestCase.tearDown.
 
1115
        """
 
1116
        # TODO: Perhaps this should keep running cleanups even if 
 
1117
        # one of them fails?
 
1118
 
 
1119
        # Actually pop the cleanups from the list so tearDown running
 
1120
        # twice is safe (this happens for skipped tests).
 
1121
        while self._cleanups:
 
1122
            self._cleanups.pop()()
 
1123
 
1647
1124
    def log(self, *args):
1648
1125
        mutter(*args)
1649
1126
 
1650
1127
    def _get_log(self, keep_log_file=False):
1651
 
        """Internal helper to get the log from bzrlib.trace for this test.
1652
 
 
1653
 
        Please use self.getDetails, or self.get_log to access this in test case
1654
 
        code.
1655
 
 
1656
 
        :param keep_log_file: When True, if the log is still a file on disk
1657
 
            leave it as a file on disk. When False, if the log is still a file
1658
 
            on disk, the log file is deleted and the log preserved as
1659
 
            self._log_contents.
1660
 
        :return: A string containing the log.
1661
 
        """
1662
 
        if self._log_contents is not None:
1663
 
            try:
1664
 
                self._log_contents.decode('utf8')
1665
 
            except UnicodeDecodeError:
1666
 
                unicodestr = self._log_contents.decode('utf8', 'replace')
1667
 
                self._log_contents = unicodestr.encode('utf8')
 
1128
        """Return as a string the log for this test. If the file is still
 
1129
        on disk and keep_log_file=False, delete the log file and store the
 
1130
        content in self._log_contents."""
 
1131
        # flush the log file, to get all content
 
1132
        import bzrlib.trace
 
1133
        bzrlib.trace._trace_file.flush()
 
1134
        if self._log_contents:
1668
1135
            return self._log_contents
1669
 
        import bzrlib.trace
1670
 
        if bzrlib.trace._trace_file:
1671
 
            # flush the log file, to get all content
1672
 
            bzrlib.trace._trace_file.flush()
1673
1136
        if self._log_file_name is not None:
1674
1137
            logfile = open(self._log_file_name)
1675
1138
            try:
1676
1139
                log_contents = logfile.read()
1677
1140
            finally:
1678
1141
                logfile.close()
1679
 
            try:
1680
 
                log_contents.decode('utf8')
1681
 
            except UnicodeDecodeError:
1682
 
                unicodestr = log_contents.decode('utf8', 'replace')
1683
 
                log_contents = unicodestr.encode('utf8')
1684
1142
            if not keep_log_file:
1685
 
                close_attempts = 0
1686
 
                max_close_attempts = 100
1687
 
                first_close_error = None
1688
 
                while close_attempts < max_close_attempts:
1689
 
                    close_attempts += 1
1690
 
                    try:
1691
 
                        self._log_file.close()
1692
 
                    except IOError, ioe:
1693
 
                        if ioe.errno is None:
1694
 
                            # No errno implies 'close() called during
1695
 
                            # concurrent operation on the same file object', so
1696
 
                            # retry.  Probably a thread is trying to write to
1697
 
                            # the log file.
1698
 
                            if first_close_error is None:
1699
 
                                first_close_error = ioe
1700
 
                            continue
1701
 
                        raise
1702
 
                    else:
1703
 
                        break
1704
 
                if close_attempts > 1:
1705
 
                    sys.stderr.write(
1706
 
                        'Unable to close log file on first attempt, '
1707
 
                        'will retry: %s\n' % (first_close_error,))
1708
 
                    if close_attempts == max_close_attempts:
1709
 
                        sys.stderr.write(
1710
 
                            'Unable to close log file after %d attempts.\n'
1711
 
                            % (max_close_attempts,))
1712
 
                self._log_file = None
1713
 
                # Permit multiple calls to get_log until we clean it up in
1714
 
                # finishLogFile
1715
1143
                self._log_contents = log_contents
1716
1144
                try:
1717
1145
                    os.remove(self._log_file_name)
1718
1146
                except OSError, e:
1719
1147
                    if sys.platform == 'win32' and e.errno == errno.EACCES:
1720
 
                        sys.stderr.write(('Unable to delete log file '
1721
 
                                             ' %r\n' % self._log_file_name))
 
1148
                        print >>sys.stderr, ('Unable to delete log file '
 
1149
                                             ' %r' % self._log_file_name)
1722
1150
                    else:
1723
1151
                        raise
1724
 
                self._log_file_name = None
1725
1152
            return log_contents
1726
1153
        else:
1727
 
            return "No log file content and no log file name."
1728
 
 
1729
 
    def get_log(self):
1730
 
        """Get a unicode string containing the log from bzrlib.trace.
1731
 
 
1732
 
        Undecodable characters are replaced.
1733
 
        """
1734
 
        return u"".join(self.getDetails()['log'].iter_text())
 
1154
            return "DELETED log file to reduce memory footprint"
 
1155
 
 
1156
    def capture(self, cmd, retcode=0):
 
1157
        """Shortcut that splits cmd into words, runs, and returns stdout"""
 
1158
        return self.run_bzr_captured(cmd.split(), retcode=retcode)[0]
1735
1159
 
1736
1160
    def requireFeature(self, feature):
1737
1161
        """This test requires a specific feature is available.
1741
1165
        if not feature.available():
1742
1166
            raise UnavailableFeature(feature)
1743
1167
 
1744
 
    def _run_bzr_autosplit(self, args, retcode, encoding, stdin,
1745
 
            working_dir):
1746
 
        """Run bazaar command line, splitting up a string command line."""
1747
 
        if isinstance(args, basestring):
1748
 
            # shlex don't understand unicode strings,
1749
 
            # so args should be plain string (bialix 20070906)
1750
 
            args = list(shlex.split(str(args)))
1751
 
        return self._run_bzr_core(args, retcode=retcode,
1752
 
                encoding=encoding, stdin=stdin, working_dir=working_dir,
1753
 
                )
1754
 
 
1755
 
    def _run_bzr_core(self, args, retcode, encoding, stdin,
1756
 
            working_dir):
1757
 
        # Clear chk_map page cache, because the contents are likely to mask
1758
 
        # locking errors.
1759
 
        chk_map.clear_cache()
 
1168
    def run_bzr_captured(self, argv, retcode=0, encoding=None, stdin=None,
 
1169
                         working_dir=None):
 
1170
        """Invoke bzr and return (stdout, stderr).
 
1171
 
 
1172
        Useful for code that wants to check the contents of the
 
1173
        output, the way error messages are presented, etc.
 
1174
 
 
1175
        This should be the main method for tests that want to exercise the
 
1176
        overall behavior of the bzr application (rather than a unit test
 
1177
        or a functional test of the library.)
 
1178
 
 
1179
        Much of the old code runs bzr by forking a new copy of Python, but
 
1180
        that is slower, harder to debug, and generally not necessary.
 
1181
 
 
1182
        This runs bzr through the interface that catches and reports
 
1183
        errors, and with logging set to something approximating the
 
1184
        default, so that error reporting can be checked.
 
1185
 
 
1186
        :param argv: arguments to invoke bzr
 
1187
        :param retcode: expected return code, or None for don't-care.
 
1188
        :param encoding: encoding for sys.stdout and sys.stderr
 
1189
        :param stdin: A string to be used as stdin for the command.
 
1190
        :param working_dir: Change to this directory before running
 
1191
        """
1760
1192
        if encoding is None:
1761
 
            encoding = osutils.get_user_encoding()
 
1193
            encoding = bzrlib.user_encoding
1762
1194
        stdout = StringIOWrapper()
1763
1195
        stderr = StringIOWrapper()
1764
1196
        stdout.encoding = encoding
1765
1197
        stderr.encoding = encoding
1766
1198
 
1767
 
        self.log('run bzr: %r', args)
 
1199
        self.log('run bzr: %r', argv)
1768
1200
        # FIXME: don't call into logging here
1769
1201
        handler = logging.StreamHandler(stderr)
1770
1202
        handler.setLevel(logging.INFO)
1779
1211
            os.chdir(working_dir)
1780
1212
 
1781
1213
        try:
 
1214
            saved_debug_flags = frozenset(debug.debug_flags)
 
1215
            debug.debug_flags.clear()
1782
1216
            try:
1783
1217
                result = self.apply_redirected(ui.ui_factory.stdin,
1784
 
                    stdout, stderr,
1785
 
                    bzrlib.commands.run_bzr_catch_user_errors,
1786
 
                    args)
1787
 
            except KeyboardInterrupt:
1788
 
                # Reraise KeyboardInterrupt with contents of redirected stdout
1789
 
                # and stderr as arguments, for tests which are interested in
1790
 
                # stdout and stderr and are expecting the exception.
1791
 
                out = stdout.getvalue()
1792
 
                err = stderr.getvalue()
1793
 
                if out:
1794
 
                    self.log('output:\n%r', out)
1795
 
                if err:
1796
 
                    self.log('errors:\n%r', err)
1797
 
                raise KeyboardInterrupt(out, err)
 
1218
                                               stdout, stderr,
 
1219
                                               bzrlib.commands.run_bzr_catch_errors,
 
1220
                                               argv)
 
1221
            finally:
 
1222
                debug.debug_flags.update(saved_debug_flags)
1798
1223
        finally:
1799
1224
            logger.removeHandler(handler)
1800
1225
            ui.ui_factory = old_ui_factory
1808
1233
        if err:
1809
1234
            self.log('errors:\n%r', err)
1810
1235
        if retcode is not None:
1811
 
            self.assertEquals(retcode, result,
1812
 
                              message='Unexpected return code')
1813
 
        return result, out, err
 
1236
            self.assertEquals(retcode, result)
 
1237
        return out, err
1814
1238
 
1815
 
    def run_bzr(self, args, retcode=0, encoding=None, stdin=None,
1816
 
                working_dir=None, error_regexes=[], output_encoding=None):
 
1239
    def run_bzr(self, *args, **kwargs):
1817
1240
        """Invoke bzr, as if it were run from the command line.
1818
1241
 
1819
 
        The argument list should not include the bzr program name - the
1820
 
        first argument is normally the bzr command.  Arguments may be
1821
 
        passed in three ways:
1822
 
 
1823
 
        1- A list of strings, eg ["commit", "a"].  This is recommended
1824
 
        when the command contains whitespace or metacharacters, or
1825
 
        is built up at run time.
1826
 
 
1827
 
        2- A single string, eg "add a".  This is the most convenient
1828
 
        for hardcoded commands.
1829
 
 
1830
 
        This runs bzr through the interface that catches and reports
1831
 
        errors, and with logging set to something approximating the
1832
 
        default, so that error reporting can be checked.
1833
 
 
1834
1242
        This should be the main method for tests that want to exercise the
1835
1243
        overall behavior of the bzr application (rather than a unit test
1836
1244
        or a functional test of the library.)
1838
1246
        This sends the stdout/stderr results into the test's log,
1839
1247
        where it may be useful for debugging.  See also run_captured.
1840
1248
 
1841
 
        :keyword stdin: A string to be used as stdin for the command.
1842
 
        :keyword retcode: The status code the command should return;
1843
 
            default 0.
1844
 
        :keyword working_dir: The directory to run the command in
1845
 
        :keyword error_regexes: A list of expected error messages.  If
1846
 
            specified they must be seen in the error output of the command.
 
1249
        :param stdin: A string to be used as stdin for the command.
 
1250
        :param retcode: The status code the command should return
 
1251
        :param working_dir: The directory to run the command in
1847
1252
        """
1848
 
        retcode, out, err = self._run_bzr_autosplit(
1849
 
            args=args,
1850
 
            retcode=retcode,
1851
 
            encoding=encoding,
1852
 
            stdin=stdin,
1853
 
            working_dir=working_dir,
1854
 
            )
1855
 
        self.assertIsInstance(error_regexes, (list, tuple))
1856
 
        for regex in error_regexes:
1857
 
            self.assertContainsRe(err, regex)
1858
 
        return out, err
 
1253
        retcode = kwargs.pop('retcode', 0)
 
1254
        encoding = kwargs.pop('encoding', None)
 
1255
        stdin = kwargs.pop('stdin', None)
 
1256
        working_dir = kwargs.pop('working_dir', None)
 
1257
        return self.run_bzr_captured(args, retcode=retcode, encoding=encoding,
 
1258
                                     stdin=stdin, working_dir=working_dir)
 
1259
 
 
1260
    def run_bzr_decode(self, *args, **kwargs):
 
1261
        if 'encoding' in kwargs:
 
1262
            encoding = kwargs['encoding']
 
1263
        else:
 
1264
            encoding = bzrlib.user_encoding
 
1265
        return self.run_bzr(*args, **kwargs)[0].decode(encoding)
1859
1266
 
1860
1267
    def run_bzr_error(self, error_regexes, *args, **kwargs):
1861
1268
        """Run bzr, and check that stderr contains the supplied regexes
1862
 
 
1863
 
        :param error_regexes: Sequence of regular expressions which
 
1269
        
 
1270
        :param error_regexes: Sequence of regular expressions which 
1864
1271
            must each be found in the error output. The relative ordering
1865
1272
            is not enforced.
1866
1273
        :param args: command-line arguments for bzr
1867
1274
        :param kwargs: Keyword arguments which are interpreted by run_bzr
1868
1275
            This function changes the default value of retcode to be 3,
1869
1276
            since in most cases this is run when you expect bzr to fail.
1870
 
 
1871
 
        :return: (out, err) The actual output of running the command (in case
1872
 
            you want to do more inspection)
1873
 
 
1874
 
        Examples of use::
1875
 
 
 
1277
        :return: (out, err) The actual output of running the command (in case you
 
1278
                 want to do more inspection)
 
1279
 
 
1280
        Examples of use:
1876
1281
            # Make sure that commit is failing because there is nothing to do
1877
1282
            self.run_bzr_error(['no changes to commit'],
1878
 
                               ['commit', '-m', 'my commit comment'])
 
1283
                               'commit', '-m', 'my commit comment')
1879
1284
            # Make sure --strict is handling an unknown file, rather than
1880
1285
            # giving us the 'nothing to do' error
1881
1286
            self.build_tree(['unknown'])
1882
1287
            self.run_bzr_error(['Commit refused because there are unknown files'],
1883
 
                               ['commit', --strict', '-m', 'my commit comment'])
 
1288
                               'commit', '--strict', '-m', 'my commit comment')
1884
1289
        """
1885
1290
        kwargs.setdefault('retcode', 3)
1886
 
        kwargs['error_regexes'] = error_regexes
1887
1291
        out, err = self.run_bzr(*args, **kwargs)
 
1292
        for regex in error_regexes:
 
1293
            self.assertContainsRe(err, regex)
1888
1294
        return out, err
1889
1295
 
1890
1296
    def run_bzr_subprocess(self, *args, **kwargs):
1891
1297
        """Run bzr in a subprocess for testing.
1892
1298
 
1893
 
        This starts a new Python interpreter and runs bzr in there.
 
1299
        This starts a new Python interpreter and runs bzr in there. 
1894
1300
        This should only be used for tests that have a justifiable need for
1895
1301
        this isolation: e.g. they are testing startup time, or signal
1896
 
        handling, or early startup code, etc.  Subprocess code can't be
 
1302
        handling, or early startup code, etc.  Subprocess code can't be 
1897
1303
        profiled or debugged so easily.
1898
1304
 
1899
 
        :keyword retcode: The status code that is expected.  Defaults to 0.  If
 
1305
        :param retcode: The status code that is expected.  Defaults to 0.  If
1900
1306
            None is supplied, the status code is not checked.
1901
 
        :keyword env_changes: A dictionary which lists changes to environment
 
1307
        :param env_changes: A dictionary which lists changes to environment
1902
1308
            variables. A value of None will unset the env variable.
1903
1309
            The values must be strings. The change will only occur in the
1904
1310
            child, so you don't need to fix the environment after running.
1905
 
        :keyword universal_newlines: Convert CRLF => LF
1906
 
        :keyword allow_plugins: By default the subprocess is run with
 
1311
        :param universal_newlines: Convert CRLF => LF
 
1312
        :param allow_plugins: By default the subprocess is run with
1907
1313
            --no-plugins to ensure test reproducibility. Also, it is possible
1908
1314
            for system-wide plugins to create unexpected output on stderr,
1909
1315
            which can cause unnecessary test failures.
1911
1317
        env_changes = kwargs.get('env_changes', {})
1912
1318
        working_dir = kwargs.get('working_dir', None)
1913
1319
        allow_plugins = kwargs.get('allow_plugins', False)
1914
 
        if len(args) == 1:
1915
 
            if isinstance(args[0], list):
1916
 
                args = args[0]
1917
 
            elif isinstance(args[0], basestring):
1918
 
                args = list(shlex.split(args[0]))
1919
 
        else:
1920
 
            raise ValueError("passing varargs to run_bzr_subprocess")
1921
1320
        process = self.start_bzr_subprocess(args, env_changes=env_changes,
1922
1321
                                            working_dir=working_dir,
1923
1322
                                            allow_plugins=allow_plugins)
1940
1339
        profiled or debugged so easily.
1941
1340
 
1942
1341
        :param process_args: a list of arguments to pass to the bzr executable,
1943
 
            for example ``['--version']``.
 
1342
            for example `['--version']`.
1944
1343
        :param env_changes: A dictionary which lists changes to environment
1945
1344
            variables. A value of None will unset the env variable.
1946
1345
            The values must be strings. The change will only occur in the
1979
1378
            # so we will avoid using it on all platforms, just to
1980
1379
            # make sure the code path is used, and we don't break on win32
1981
1380
            cleanup_environment()
1982
 
            command = [sys.executable]
1983
 
            # frozen executables don't need the path to bzr
1984
 
            if getattr(sys, "frozen", None) is None:
1985
 
                command.append(bzr_path)
 
1381
            command = [sys.executable, bzr_path]
1986
1382
            if not allow_plugins:
1987
1383
                command.append('--no-plugins')
1988
1384
            command.extend(process_args)
2002
1398
        """
2003
1399
        return Popen(*args, **kwargs)
2004
1400
 
2005
 
    def get_source_path(self):
2006
 
        """Return the path of the directory containing bzrlib."""
2007
 
        return os.path.dirname(os.path.dirname(bzrlib.__file__))
2008
 
 
2009
1401
    def get_bzr_path(self):
2010
1402
        """Return the path of the 'bzr' executable for this test suite."""
2011
 
        bzr_path = self.get_source_path()+'/bzr'
 
1403
        bzr_path = os.path.dirname(os.path.dirname(bzrlib.__file__))+'/bzr'
2012
1404
        if not os.path.isfile(bzr_path):
2013
1405
            # We are probably installed. Assume sys.argv is the right file
2014
1406
            bzr_path = sys.argv[0]
2051
1443
        shape = list(shape)             # copy
2052
1444
        for path, ie in inv.entries():
2053
1445
            name = path.replace('\\', '/')
2054
 
            if ie.kind == 'directory':
 
1446
            if ie.kind == 'dir':
2055
1447
                name = name + '/'
2056
1448
            if name in shape:
2057
1449
                shape.remove(name)
2094
1486
            sys.stderr = real_stderr
2095
1487
            sys.stdin = real_stdin
2096
1488
 
 
1489
    @symbol_versioning.deprecated_method(symbol_versioning.zero_eleven)
 
1490
    def merge(self, branch_from, wt_to):
 
1491
        """A helper for tests to do a ui-less merge.
 
1492
 
 
1493
        This should move to the main library when someone has time to integrate
 
1494
        it in.
 
1495
        """
 
1496
        # minimal ui-less merge.
 
1497
        wt_to.branch.fetch(branch_from)
 
1498
        base_rev = common_ancestor(branch_from.last_revision(),
 
1499
                                   wt_to.branch.last_revision(),
 
1500
                                   wt_to.branch.repository)
 
1501
        merge_inner(wt_to.branch, branch_from.basis_tree(),
 
1502
                    wt_to.branch.repository.revision_tree(base_rev),
 
1503
                    this_tree=wt_to)
 
1504
        wt_to.add_parent_tree_id(branch_from.last_revision())
 
1505
 
2097
1506
    def reduceLockdirTimeout(self):
2098
1507
        """Reduce the default lock timeout for the duration of the test, so that
2099
1508
        if LockContention occurs during a test, it does so quickly.
2100
1509
 
2101
1510
        Tests that expect to provoke LockContention errors should call this.
2102
1511
        """
2103
 
        self.overrideAttr(bzrlib.lockdir, '_DEFAULT_TIMEOUT_SECONDS', 0)
2104
 
 
2105
 
    def make_utf8_encoded_stringio(self, encoding_type=None):
2106
 
        """Return a StringIOWrapper instance, that will encode Unicode
2107
 
        input to UTF-8.
2108
 
        """
2109
 
        if encoding_type is None:
2110
 
            encoding_type = 'strict'
2111
 
        sio = StringIO()
2112
 
        output_encoding = 'utf-8'
2113
 
        sio = codecs.getwriter(output_encoding)(sio, errors=encoding_type)
2114
 
        sio.encoding = output_encoding
2115
 
        return sio
2116
 
 
2117
 
    def disable_verb(self, verb):
2118
 
        """Disable a smart server verb for one test."""
2119
 
        from bzrlib.smart import request
2120
 
        request_handlers = request.request_handlers
2121
 
        orig_method = request_handlers.get(verb)
2122
 
        request_handlers.remove(verb)
2123
 
        self.addCleanup(request_handlers.register, verb, orig_method)
2124
 
 
2125
 
 
2126
 
class CapturedCall(object):
2127
 
    """A helper for capturing smart server calls for easy debug analysis."""
2128
 
 
2129
 
    def __init__(self, params, prefix_length):
2130
 
        """Capture the call with params and skip prefix_length stack frames."""
2131
 
        self.call = params
2132
 
        import traceback
2133
 
        # The last 5 frames are the __init__, the hook frame, and 3 smart
2134
 
        # client frames. Beyond this we could get more clever, but this is good
2135
 
        # enough for now.
2136
 
        stack = traceback.extract_stack()[prefix_length:-5]
2137
 
        self.stack = ''.join(traceback.format_list(stack))
2138
 
 
2139
 
    def __str__(self):
2140
 
        return self.call.method
2141
 
 
2142
 
    def __repr__(self):
2143
 
        return self.call.method
2144
 
 
2145
 
    def stack(self):
2146
 
        return self.stack
 
1512
        orig_timeout = bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS
 
1513
        def resetTimeout():
 
1514
            bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS = orig_timeout
 
1515
        self.addCleanup(resetTimeout)
 
1516
        bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS = 0
 
1517
 
 
1518
BzrTestBase = TestCase
2147
1519
 
2148
1520
 
2149
1521
class TestCaseWithMemoryTransport(TestCase):
2160
1532
    file defaults for the transport in tests, nor does it obey the command line
2161
1533
    override, so tests that accidentally write to the common directory should
2162
1534
    be rare.
2163
 
 
2164
 
    :cvar TEST_ROOT: Directory containing all temporary directories, plus
2165
 
    a .bzr directory that stops us ascending higher into the filesystem.
2166
1535
    """
2167
1536
 
2168
1537
    TEST_ROOT = None
2169
1538
    _TEST_NAME = 'test'
2170
1539
 
 
1540
 
2171
1541
    def __init__(self, methodName='runTest'):
2172
 
        # allow test parameterization after test construction and before test
2173
 
        # execution. Variables that the parameterizer sets need to be
 
1542
        # allow test parameterisation after test construction and before test
 
1543
        # execution. Variables that the parameteriser sets need to be 
2174
1544
        # ones that are not set by setUp, or setUp will trash them.
2175
1545
        super(TestCaseWithMemoryTransport, self).__init__(methodName)
2176
1546
        self.vfs_transport_factory = default_transport
2178
1548
        self.transport_readonly_server = None
2179
1549
        self.__vfs_server = None
2180
1550
 
2181
 
    def get_transport(self, relpath=None):
2182
 
        """Return a writeable transport.
2183
 
 
2184
 
        This transport is for the test scratch space relative to
2185
 
        "self._test_root"
2186
 
 
2187
 
        :param relpath: a path relative to the base url.
2188
 
        """
2189
 
        t = get_transport(self.get_url(relpath))
 
1551
    def get_transport(self):
 
1552
        """Return a writeable transport for the test scratch space"""
 
1553
        t = get_transport(self.get_url())
2190
1554
        self.assertFalse(t.is_readonly())
2191
1555
        return t
2192
1556
 
2193
 
    def get_readonly_transport(self, relpath=None):
 
1557
    def get_readonly_transport(self):
2194
1558
        """Return a readonly transport for the test scratch space
2195
 
 
 
1559
        
2196
1560
        This can be used to test that operations which should only need
2197
1561
        readonly access in fact do not try to write.
2198
 
 
2199
 
        :param relpath: a path relative to the base url.
2200
1562
        """
2201
 
        t = get_transport(self.get_readonly_url(relpath))
 
1563
        t = get_transport(self.get_readonly_url())
2202
1564
        self.assertTrue(t.is_readonly())
2203
1565
        return t
2204
1566
 
2217
1579
        if self.__readonly_server is None:
2218
1580
            if self.transport_readonly_server is None:
2219
1581
                # readonly decorator requested
2220
 
                self.__readonly_server = test_server.ReadonlyServer()
 
1582
                # bring up the server
 
1583
                self.__readonly_server = ReadonlyServer()
 
1584
                self.__readonly_server.setUp(self.get_vfs_only_server())
2221
1585
            else:
2222
 
                # explicit readonly transport.
2223
1586
                self.__readonly_server = self.create_transport_readonly_server()
2224
 
            self.start_server(self.__readonly_server,
2225
 
                self.get_vfs_only_server())
 
1587
                self.__readonly_server.setUp(self.get_vfs_only_server())
 
1588
            self.addCleanup(self.__readonly_server.tearDown)
2226
1589
        return self.__readonly_server
2227
1590
 
2228
1591
    def get_readonly_url(self, relpath=None):
2229
1592
        """Get a URL for the readonly transport.
2230
1593
 
2231
 
        This will either be backed by '.' or a decorator to the transport
 
1594
        This will either be backed by '.' or a decorator to the transport 
2232
1595
        used by self.get_url()
2233
1596
        relpath provides for clients to get a path relative to the base url.
2234
1597
        These should only be downwards relative, not upwards.
2235
1598
        """
2236
1599
        base = self.get_readonly_server().get_url()
2237
 
        return self._adjust_url(base, relpath)
 
1600
        if relpath is not None:
 
1601
            if not base.endswith('/'):
 
1602
                base = base + '/'
 
1603
            base = base + relpath
 
1604
        return base
2238
1605
 
2239
1606
    def get_vfs_only_server(self):
2240
1607
        """Get the vfs only read/write server instance.
2246
1613
        is no means to override it.
2247
1614
        """
2248
1615
        if self.__vfs_server is None:
2249
 
            self.__vfs_server = memory.MemoryServer()
2250
 
            self.start_server(self.__vfs_server)
 
1616
            self.__vfs_server = MemoryServer()
 
1617
            self.__vfs_server.setUp()
 
1618
            self.addCleanup(self.__vfs_server.tearDown)
2251
1619
        return self.__vfs_server
2252
1620
 
2253
1621
    def get_server(self):
2260
1628
        then the self.get_vfs_server is returned.
2261
1629
        """
2262
1630
        if self.__server is None:
2263
 
            if (self.transport_server is None or self.transport_server is
2264
 
                self.vfs_transport_factory):
2265
 
                self.__server = self.get_vfs_only_server()
 
1631
            if self.transport_server is None or self.transport_server is self.vfs_transport_factory:
 
1632
                return self.get_vfs_only_server()
2266
1633
            else:
2267
1634
                # bring up a decorated means of access to the vfs only server.
2268
1635
                self.__server = self.transport_server()
2269
 
                self.start_server(self.__server, self.get_vfs_only_server())
 
1636
                try:
 
1637
                    self.__server.setUp(self.get_vfs_only_server())
 
1638
                except TypeError, e:
 
1639
                    # This should never happen; the try:Except here is to assist
 
1640
                    # developers having to update code rather than seeing an
 
1641
                    # uninformative TypeError.
 
1642
                    raise Exception, "Old server API in use: %s, %s" % (self.__server, e)
 
1643
            self.addCleanup(self.__server.tearDown)
2270
1644
        return self.__server
2271
1645
 
2272
1646
    def _adjust_url(self, base, relpath):
2304
1678
    def get_vfs_only_url(self, relpath=None):
2305
1679
        """Get a URL (or maybe a path for the plain old vfs transport.
2306
1680
 
2307
 
        This will never be a smart protocol.  It always has all the
2308
 
        capabilities of the local filesystem, but it might actually be a
2309
 
        MemoryTransport or some other similar virtual filesystem.
2310
 
 
2311
 
        This is the backing transport (if any) of the server returned by
2312
 
        get_url and get_readonly_url.
2313
 
 
 
1681
        This will never be a smart protocol.
2314
1682
        :param relpath: provides for clients to get a path relative to the base
2315
1683
            url.  These should only be downwards relative, not upwards.
2316
 
        :return: A URL
2317
1684
        """
2318
1685
        base = self.get_vfs_only_server().get_url()
2319
1686
        return self._adjust_url(base, relpath)
2320
1687
 
2321
 
    def _create_safety_net(self):
2322
 
        """Make a fake bzr directory.
2323
 
 
2324
 
        This prevents any tests propagating up onto the TEST_ROOT directory's
2325
 
        real branch.
2326
 
        """
2327
 
        root = TestCaseWithMemoryTransport.TEST_ROOT
2328
 
        bzrdir.BzrDir.create_standalone_workingtree(root)
2329
 
 
2330
 
    def _check_safety_net(self):
2331
 
        """Check that the safety .bzr directory have not been touched.
2332
 
 
2333
 
        _make_test_root have created a .bzr directory to prevent tests from
2334
 
        propagating. This method ensures than a test did not leaked.
2335
 
        """
2336
 
        root = TestCaseWithMemoryTransport.TEST_ROOT
2337
 
        self.permit_url(get_transport(root).base)
2338
 
        wt = workingtree.WorkingTree.open(root)
2339
 
        last_rev = wt.last_revision()
2340
 
        if last_rev != 'null:':
2341
 
            # The current test have modified the /bzr directory, we need to
2342
 
            # recreate a new one or all the followng tests will fail.
2343
 
            # If you need to inspect its content uncomment the following line
2344
 
            # import pdb; pdb.set_trace()
2345
 
            _rmtree_temp_dir(root + '/.bzr', test_id=self.id())
2346
 
            self._create_safety_net()
2347
 
            raise AssertionError('%s/.bzr should not be modified' % root)
2348
 
 
2349
1688
    def _make_test_root(self):
2350
 
        if TestCaseWithMemoryTransport.TEST_ROOT is None:
2351
 
            # Watch out for tricky test dir (on OSX /tmp -> /private/tmp)
2352
 
            root = osutils.realpath(osutils.mkdtemp(prefix='testbzr-',
2353
 
                                                    suffix='.tmp'))
2354
 
            TestCaseWithMemoryTransport.TEST_ROOT = root
2355
 
 
2356
 
            self._create_safety_net()
2357
 
 
2358
 
            # The same directory is used by all tests, and we're not
2359
 
            # specifically told when all tests are finished.  This will do.
2360
 
            atexit.register(_rmtree_temp_dir, root)
2361
 
 
2362
 
        self.permit_dir(TestCaseWithMemoryTransport.TEST_ROOT)
2363
 
        self.addCleanup(self._check_safety_net)
 
1689
        if TestCaseWithMemoryTransport.TEST_ROOT is not None:
 
1690
            return
 
1691
        i = 0
 
1692
        while True:
 
1693
            root = u'test%04d.tmp' % i
 
1694
            try:
 
1695
                os.mkdir(root)
 
1696
            except OSError, e:
 
1697
                if e.errno == errno.EEXIST:
 
1698
                    i += 1
 
1699
                    continue
 
1700
                else:
 
1701
                    raise
 
1702
            # successfully created
 
1703
            TestCaseWithMemoryTransport.TEST_ROOT = osutils.abspath(root)
 
1704
            break
 
1705
        # make a fake bzr directory there to prevent any tests propagating
 
1706
        # up onto the source directory's real branch
 
1707
        bzrdir.BzrDir.create_standalone_workingtree(
 
1708
            TestCaseWithMemoryTransport.TEST_ROOT)
2364
1709
 
2365
1710
    def makeAndChdirToTestDir(self):
2366
1711
        """Create a temporary directories for this one test.
2367
 
 
 
1712
        
2368
1713
        This must set self.test_home_dir and self.test_dir and chdir to
2369
1714
        self.test_dir.
2370
 
 
 
1715
        
2371
1716
        For TestCaseWithMemoryTransport we chdir to the TEST_ROOT for this test.
2372
1717
        """
2373
1718
        os.chdir(TestCaseWithMemoryTransport.TEST_ROOT)
2374
1719
        self.test_dir = TestCaseWithMemoryTransport.TEST_ROOT
2375
1720
        self.test_home_dir = self.test_dir + "/MemoryTransportMissingHomeDir"
2376
 
        self.permit_dir(self.test_dir)
2377
 
 
 
1721
        
2378
1722
    def make_branch(self, relpath, format=None):
2379
1723
        """Create a branch on the transport at relpath."""
2380
1724
        repo = self.make_repository(relpath, format=format)
2387
1731
            segments = maybe_a_url.rsplit('/', 1)
2388
1732
            t = get_transport(maybe_a_url)
2389
1733
            if len(segments) > 1 and segments[-1] not in ('', '.'):
2390
 
                t.ensure_base()
 
1734
                try:
 
1735
                    t.mkdir('.')
 
1736
                except errors.FileExists:
 
1737
                    pass
2391
1738
            if format is None:
2392
1739
                format = 'default'
2393
1740
            if isinstance(format, basestring):
2397
1744
            raise TestSkipped("Format %s is not initializable." % format)
2398
1745
 
2399
1746
    def make_repository(self, relpath, shared=False, format=None):
2400
 
        """Create a repository on our default transport at relpath.
2401
 
 
2402
 
        Note that relpath must be a relative path, not a full url.
2403
 
        """
2404
 
        # FIXME: If you create a remoterepository this returns the underlying
2405
 
        # real format, which is incorrect.  Actually we should make sure that
2406
 
        # RemoteBzrDir returns a RemoteRepository.
2407
 
        # maybe  mbp 20070410
 
1747
        """Create a repository on our default transport at relpath."""
2408
1748
        made_control = self.make_bzrdir(relpath, format=format)
2409
1749
        return made_control.create_repository(shared=shared)
2410
1750
 
2411
 
    def make_smart_server(self, path):
2412
 
        smart_server = test_server.SmartTCPServer_for_testing()
2413
 
        self.start_server(smart_server, self.get_server())
2414
 
        remote_transport = get_transport(smart_server.get_url()).clone(path)
2415
 
        return remote_transport
2416
 
 
2417
1751
    def make_branch_and_memory_tree(self, relpath, format=None):
2418
1752
        """Create a branch on the default transport and a MemoryTree for it."""
2419
1753
        b = self.make_branch(relpath, format=format)
2420
1754
        return memorytree.MemoryTree.create_on_branch(b)
2421
1755
 
2422
 
    def make_branch_builder(self, relpath, format=None):
2423
 
        branch = self.make_branch(relpath, format=format)
2424
 
        return branchbuilder.BranchBuilder(branch=branch)
2425
 
 
2426
1756
    def overrideEnvironmentForTesting(self):
2427
 
        test_home_dir = self.test_home_dir
2428
 
        if isinstance(test_home_dir, unicode):
2429
 
            test_home_dir = test_home_dir.encode(sys.getfilesystemencoding())
2430
 
        os.environ['HOME'] = test_home_dir
2431
 
        os.environ['BZR_HOME'] = test_home_dir
2432
 
 
 
1757
        os.environ['HOME'] = self.test_home_dir
 
1758
        os.environ['BZR_HOME'] = self.test_home_dir
 
1759
        
2433
1760
    def setUp(self):
2434
1761
        super(TestCaseWithMemoryTransport, self).setUp()
2435
1762
        self._make_test_root()
2436
 
        self.addCleanup(os.chdir, os.getcwdu())
 
1763
        _currentdir = os.getcwdu()
 
1764
        def _leaveDirectory():
 
1765
            os.chdir(_currentdir)
 
1766
        self.addCleanup(_leaveDirectory)
2437
1767
        self.makeAndChdirToTestDir()
2438
1768
        self.overrideEnvironmentForTesting()
2439
1769
        self.__readonly_server = None
2440
1770
        self.__server = None
2441
1771
        self.reduceLockdirTimeout()
2442
1772
 
2443
 
    def setup_smart_server_with_call_log(self):
2444
 
        """Sets up a smart server as the transport server with a call log."""
2445
 
        self.transport_server = test_server.SmartTCPServer_for_testing
2446
 
        self.hpss_calls = []
2447
 
        import traceback
2448
 
        # Skip the current stack down to the caller of
2449
 
        # setup_smart_server_with_call_log
2450
 
        prefix_length = len(traceback.extract_stack()) - 2
2451
 
        def capture_hpss_call(params):
2452
 
            self.hpss_calls.append(
2453
 
                CapturedCall(params, prefix_length))
2454
 
        client._SmartClient.hooks.install_named_hook(
2455
 
            'call', capture_hpss_call, None)
2456
 
 
2457
 
    def reset_smart_call_log(self):
2458
 
        self.hpss_calls = []
2459
 
 
2460
 
 
 
1773
     
2461
1774
class TestCaseInTempDir(TestCaseWithMemoryTransport):
2462
1775
    """Derived class that runs a test within a temporary directory.
2463
1776
 
2468
1781
    All test cases create their own directory within that.  If the
2469
1782
    tests complete successfully, the directory is removed.
2470
1783
 
2471
 
    :ivar test_base_dir: The path of the top-level directory for this
2472
 
    test, which contains a home directory and a work directory.
2473
 
 
2474
 
    :ivar test_home_dir: An initially empty directory under test_base_dir
2475
 
    which is used as $HOME for this test.
2476
 
 
2477
 
    :ivar test_dir: A directory under test_base_dir used as the current
2478
 
    directory when the test proper is run.
 
1784
    InTempDir is an old alias for FunctionalTestCase.
2479
1785
    """
2480
1786
 
2481
1787
    OVERRIDE_PYTHON = 'python'
2488
1794
            self.log("actually: %r" % contents)
2489
1795
            self.fail("contents of %s not as expected" % filename)
2490
1796
 
2491
 
    def _getTestDirPrefix(self):
2492
 
        # create a directory within the top level test directory
2493
 
        if sys.platform in ('win32', 'cygwin'):
2494
 
            name_prefix = re.sub('[<>*=+",:;_/\\-]', '_', self.id())
2495
 
            # windows is likely to have path-length limits so use a short name
2496
 
            name_prefix = name_prefix[-30:]
2497
 
        else:
2498
 
            name_prefix = re.sub('[/]', '_', self.id())
2499
 
        return name_prefix
2500
 
 
2501
1797
    def makeAndChdirToTestDir(self):
2502
1798
        """See TestCaseWithMemoryTransport.makeAndChdirToTestDir().
2503
 
 
 
1799
        
2504
1800
        For TestCaseInTempDir we create a temporary directory based on the test
2505
1801
        name and then create two subdirs - test and home under it.
2506
1802
        """
2507
 
        name_prefix = osutils.pathjoin(TestCaseWithMemoryTransport.TEST_ROOT,
2508
 
            self._getTestDirPrefix())
2509
 
        name = name_prefix
2510
 
        for i in range(100):
2511
 
            if os.path.exists(name):
2512
 
                name = name_prefix + '_' + str(i)
2513
 
            else:
2514
 
                # now create test and home directories within this dir
2515
 
                self.test_base_dir = name
2516
 
                self.addCleanup(self.deleteTestDir)
2517
 
                os.mkdir(self.test_base_dir)
2518
 
                break
2519
 
        self.permit_dir(self.test_base_dir)
2520
 
        # 'sprouting' and 'init' of a branch both walk up the tree to find
2521
 
        # stacking policy to honour; create a bzr dir with an unshared
2522
 
        # repository (but not a branch - our code would be trying to escape
2523
 
        # then!) to stop them, and permit it to be read.
2524
 
        # control = bzrdir.BzrDir.create(self.test_base_dir)
2525
 
        # control.create_repository()
2526
 
        self.test_home_dir = self.test_base_dir + '/home'
2527
 
        os.mkdir(self.test_home_dir)
2528
 
        self.test_dir = self.test_base_dir + '/work'
2529
 
        os.mkdir(self.test_dir)
2530
 
        os.chdir(self.test_dir)
2531
 
        # put name of test inside
2532
 
        f = file(self.test_base_dir + '/name', 'w')
2533
 
        try:
 
1803
        if NUMBERED_DIRS:       # strongly recommended on Windows
 
1804
                                # due the path length limitation (260 chars)
 
1805
            candidate_dir = '%s/%dK/%05d' % (self.TEST_ROOT,
 
1806
                                             int(self.number/1000),
 
1807
                                             self.number)
 
1808
            os.makedirs(candidate_dir)
 
1809
            self.test_home_dir = candidate_dir + '/home'
 
1810
            os.mkdir(self.test_home_dir)
 
1811
            self.test_dir = candidate_dir + '/work'
 
1812
            os.mkdir(self.test_dir)
 
1813
            os.chdir(self.test_dir)
 
1814
            # put name of test inside
 
1815
            f = file(candidate_dir + '/name', 'w')
2534
1816
            f.write(self.id())
2535
 
        finally:
2536
1817
            f.close()
2537
 
 
2538
 
    def deleteTestDir(self):
2539
 
        os.chdir(TestCaseWithMemoryTransport.TEST_ROOT)
2540
 
        _rmtree_temp_dir(self.test_base_dir, test_id=self.id())
 
1818
            return
 
1819
        # Else NAMED DIRS
 
1820
        # shorten the name, to avoid test failures due to path length
 
1821
        short_id = self.id().replace('bzrlib.tests.', '') \
 
1822
                   .replace('__main__.', '')[-100:]
 
1823
        # it's possible the same test class is run several times for
 
1824
        # parameterized tests, so make sure the names don't collide.  
 
1825
        i = 0
 
1826
        while True:
 
1827
            if i > 0:
 
1828
                candidate_dir = '%s/%s.%d' % (self.TEST_ROOT, short_id, i)
 
1829
            else:
 
1830
                candidate_dir = '%s/%s' % (self.TEST_ROOT, short_id)
 
1831
            if os.path.exists(candidate_dir):
 
1832
                i = i + 1
 
1833
                continue
 
1834
            else:
 
1835
                os.mkdir(candidate_dir)
 
1836
                self.test_home_dir = candidate_dir + '/home'
 
1837
                os.mkdir(self.test_home_dir)
 
1838
                self.test_dir = candidate_dir + '/work'
 
1839
                os.mkdir(self.test_dir)
 
1840
                os.chdir(self.test_dir)
 
1841
                break
2541
1842
 
2542
1843
    def build_tree(self, shape, line_endings='binary', transport=None):
2543
1844
        """Build a test tree according to a pattern.
2548
1849
        This assumes that all the elements in the tree being built are new.
2549
1850
 
2550
1851
        This doesn't add anything to a branch.
2551
 
 
2552
 
        :type shape:    list or tuple.
2553
1852
        :param line_endings: Either 'binary' or 'native'
2554
 
            in binary mode, exact contents are written in native mode, the
2555
 
            line endings match the default platform endings.
2556
 
        :param transport: A transport to write to, for building trees on VFS's.
2557
 
            If the transport is readonly or None, "." is opened automatically.
2558
 
        :return: None
 
1853
                             in binary mode, exact contents are written
 
1854
                             in native mode, the line endings match the
 
1855
                             default platform endings.
 
1856
 
 
1857
        :param transport: A transport to write to, for building trees on 
 
1858
                          VFS's. If the transport is readonly or None,
 
1859
                          "." is opened automatically.
2559
1860
        """
2560
 
        if type(shape) not in (list, tuple):
2561
 
            raise AssertionError("Parameter 'shape' should be "
2562
 
                "a list or a tuple. Got %r instead" % (shape,))
2563
1861
        # It's OK to just create them using forward slashes on windows.
2564
1862
        if transport is None or transport.is_readonly():
2565
1863
            transport = get_transport(".")
2566
1864
        for name in shape:
2567
 
            self.assertIsInstance(name, basestring)
 
1865
            self.assert_(isinstance(name, basestring))
2568
1866
            if name[-1] == '/':
2569
1867
                transport.mkdir(urlutils.escape(name[:-1]))
2570
1868
            else:
2581
1879
    def build_tree_contents(self, shape):
2582
1880
        build_tree_contents(shape)
2583
1881
 
2584
 
    def assertInWorkingTree(self, path, root_path='.', tree=None):
2585
 
        """Assert whether path or paths are in the WorkingTree"""
2586
 
        if tree is None:
2587
 
            tree = workingtree.WorkingTree.open(root_path)
2588
 
        if not isinstance(path, basestring):
2589
 
            for p in path:
2590
 
                self.assertInWorkingTree(p, tree=tree)
2591
 
        else:
2592
 
            self.assertIsNot(tree.path2id(path), None,
2593
 
                path+' not in working tree.')
2594
 
 
2595
 
    def assertNotInWorkingTree(self, path, root_path='.', tree=None):
2596
 
        """Assert whether path or paths are not in the WorkingTree"""
2597
 
        if tree is None:
2598
 
            tree = workingtree.WorkingTree.open(root_path)
2599
 
        if not isinstance(path, basestring):
2600
 
            for p in path:
2601
 
                self.assertNotInWorkingTree(p,tree=tree)
2602
 
        else:
2603
 
            self.assertIs(tree.path2id(path), None, path+' in working tree.')
 
1882
    def assertFileEqual(self, content, path):
 
1883
        """Fail if path does not contain 'content'."""
 
1884
        self.failUnlessExists(path)
 
1885
        # TODO: jam 20060427 Shouldn't this be 'rb'?
 
1886
        f = file(path, 'r')
 
1887
        try:
 
1888
            s = f.read()
 
1889
        finally:
 
1890
            f.close()
 
1891
        self.assertEqualDiff(content, s)
 
1892
 
 
1893
    def failUnlessExists(self, path):
 
1894
        """Fail unless path, which may be abs or relative, exists."""
 
1895
        self.failUnless(osutils.lexists(path),path+" does not exist")
 
1896
 
 
1897
    def failIfExists(self, path):
 
1898
        """Fail if path, which may be abs or relative, exists."""
 
1899
        self.failIf(osutils.lexists(path),path+" exists")
2604
1900
 
2605
1901
 
2606
1902
class TestCaseWithTransport(TestCaseInTempDir):
2613
1909
    ReadonlyTransportDecorator is used instead which allows the use of non disk
2614
1910
    based read write transports.
2615
1911
 
2616
 
    If an explicit class is provided for readonly access, that server and the
 
1912
    If an explicit class is provided for readonly access, that server and the 
2617
1913
    readwrite one must both define get_url() as resolving to os.getcwd().
2618
1914
    """
2619
1915
 
2625
1921
        """
2626
1922
        if self.__vfs_server is None:
2627
1923
            self.__vfs_server = self.vfs_transport_factory()
2628
 
            self.start_server(self.__vfs_server)
 
1924
            self.__vfs_server.setUp()
 
1925
            self.addCleanup(self.__vfs_server.tearDown)
2629
1926
        return self.__vfs_server
2630
1927
 
2631
1928
    def make_branch_and_tree(self, relpath, format=None):
2638
1935
        repository will also be accessed locally. Otherwise a lightweight
2639
1936
        checkout is created and returned.
2640
1937
 
2641
 
        We do this because we can't physically create a tree in the local
2642
 
        path, with a branch reference to the transport_factory url, and
2643
 
        a branch + repository in the vfs_transport, unless the vfs_transport
2644
 
        namespace is distinct from the local disk - the two branch objects
2645
 
        would collide. While we could construct a tree with its branch object
2646
 
        pointing at the transport_factory transport in memory, reopening it
2647
 
        would behaving unexpectedly, and has in the past caused testing bugs
2648
 
        when we tried to do it that way.
2649
 
 
2650
1938
        :param format: The BzrDirFormat.
2651
1939
        :returns: the WorkingTree.
2652
1940
        """
2661
1949
            # We can only make working trees locally at the moment.  If the
2662
1950
            # transport can't support them, then we keep the non-disk-backed
2663
1951
            # branch and create a local checkout.
2664
 
            if self.vfs_transport_factory is test_server.LocalURLServer:
 
1952
            if self.vfs_transport_factory is LocalURLServer:
2665
1953
                # the branch is colocated on disk, we cannot create a checkout.
2666
1954
                # hopefully callers will expect this.
2667
1955
                local_controldir= bzrdir.BzrDir.open(self.get_vfs_only_url(relpath))
2668
 
                wt = local_controldir.create_workingtree()
2669
 
                if wt.branch._format != b._format:
2670
 
                    wt._branch = b
2671
 
                    # Make sure that assigning to wt._branch fixes wt.branch,
2672
 
                    # in case the implementation details of workingtree objects
2673
 
                    # change.
2674
 
                    self.assertIs(b, wt.branch)
2675
 
                return wt
 
1956
                return local_controldir.create_workingtree()
2676
1957
            else:
2677
1958
                return b.create_checkout(relpath, lightweight=True)
2678
1959
 
2704
1985
        super(TestCaseWithTransport, self).setUp()
2705
1986
        self.__vfs_server = None
2706
1987
 
2707
 
    def disable_missing_extensions_warning(self):
2708
 
        """Some tests expect a precise stderr content.
2709
 
 
2710
 
        There is no point in forcing them to duplicate the extension related
2711
 
        warning.
2712
 
        """
2713
 
        config.GlobalConfig().set_user_option('ignore_missing_extensions', True)
2714
 
 
2715
1988
 
2716
1989
class ChrootedTestCase(TestCaseWithTransport):
2717
1990
    """A support class that provides readonly urls outside the local namespace.
2721
1994
    for readonly urls.
2722
1995
 
2723
1996
    TODO RBC 20060127: make this an option to TestCaseWithTransport so it can
2724
 
                       be used without needed to redo it when a different
 
1997
                       be used without needed to redo it when a different 
2725
1998
                       subclass is in use ?
2726
1999
    """
2727
2000
 
2728
2001
    def setUp(self):
2729
2002
        super(ChrootedTestCase, self).setUp()
2730
 
        if not self.vfs_transport_factory == memory.MemoryServer:
 
2003
        if not self.vfs_transport_factory == MemoryServer:
2731
2004
            self.transport_readonly_server = HttpServer
2732
2005
 
2733
2006
 
2734
 
def condition_id_re(pattern):
2735
 
    """Create a condition filter which performs a re check on a test's id.
2736
 
 
2737
 
    :param pattern: A regular expression string.
2738
 
    :return: A callable that returns True if the re matches.
2739
 
    """
2740
 
    filter_re = osutils.re_compile_checked(pattern, 0,
2741
 
        'test filter')
2742
 
    def condition(test):
2743
 
        test_id = test.id()
2744
 
        return filter_re.search(test_id)
2745
 
    return condition
2746
 
 
2747
 
 
2748
 
def condition_isinstance(klass_or_klass_list):
2749
 
    """Create a condition filter which returns isinstance(param, klass).
2750
 
 
2751
 
    :return: A callable which when called with one parameter obj return the
2752
 
        result of isinstance(obj, klass_or_klass_list).
2753
 
    """
2754
 
    def condition(obj):
2755
 
        return isinstance(obj, klass_or_klass_list)
2756
 
    return condition
2757
 
 
2758
 
 
2759
 
def condition_id_in_list(id_list):
2760
 
    """Create a condition filter which verify that test's id in a list.
2761
 
 
2762
 
    :param id_list: A TestIdList object.
2763
 
    :return: A callable that returns True if the test's id appears in the list.
2764
 
    """
2765
 
    def condition(test):
2766
 
        return id_list.includes(test.id())
2767
 
    return condition
2768
 
 
2769
 
 
2770
 
def condition_id_startswith(starts):
2771
 
    """Create a condition filter verifying that test's id starts with a string.
2772
 
 
2773
 
    :param starts: A list of string.
2774
 
    :return: A callable that returns True if the test's id starts with one of
2775
 
        the given strings.
2776
 
    """
2777
 
    def condition(test):
2778
 
        for start in starts:
2779
 
            if test.id().startswith(start):
2780
 
                return True
2781
 
        return False
2782
 
    return condition
2783
 
 
2784
 
 
2785
 
def exclude_tests_by_condition(suite, condition):
2786
 
    """Create a test suite which excludes some tests from suite.
2787
 
 
2788
 
    :param suite: The suite to get tests from.
2789
 
    :param condition: A callable whose result evaluates True when called with a
2790
 
        test case which should be excluded from the result.
2791
 
    :return: A suite which contains the tests found in suite that fail
2792
 
        condition.
2793
 
    """
2794
 
    result = []
2795
 
    for test in iter_suite_tests(suite):
2796
 
        if not condition(test):
2797
 
            result.append(test)
2798
 
    return TestUtil.TestSuite(result)
2799
 
 
2800
 
 
2801
 
def filter_suite_by_condition(suite, condition):
2802
 
    """Create a test suite by filtering another one.
2803
 
 
2804
 
    :param suite: The source suite.
2805
 
    :param condition: A callable whose result evaluates True when called with a
2806
 
        test case which should be included in the result.
2807
 
    :return: A suite which contains the tests found in suite that pass
2808
 
        condition.
2809
 
    """
2810
 
    result = []
2811
 
    for test in iter_suite_tests(suite):
2812
 
        if condition(test):
2813
 
            result.append(test)
2814
 
    return TestUtil.TestSuite(result)
2815
 
 
2816
 
 
2817
2007
def filter_suite_by_re(suite, pattern):
2818
 
    """Create a test suite by filtering another one.
2819
 
 
2820
 
    :param suite:           the source suite
2821
 
    :param pattern:         pattern that names must match
2822
 
    :returns: the newly created suite
2823
 
    """
2824
 
    condition = condition_id_re(pattern)
2825
 
    result_suite = filter_suite_by_condition(suite, condition)
2826
 
    return result_suite
2827
 
 
2828
 
 
2829
 
def filter_suite_by_id_list(suite, test_id_list):
2830
 
    """Create a test suite by filtering another one.
2831
 
 
2832
 
    :param suite: The source suite.
2833
 
    :param test_id_list: A list of the test ids to keep as strings.
2834
 
    :returns: the newly created suite
2835
 
    """
2836
 
    condition = condition_id_in_list(test_id_list)
2837
 
    result_suite = filter_suite_by_condition(suite, condition)
2838
 
    return result_suite
2839
 
 
2840
 
 
2841
 
def filter_suite_by_id_startswith(suite, start):
2842
 
    """Create a test suite by filtering another one.
2843
 
 
2844
 
    :param suite: The source suite.
2845
 
    :param start: A list of string the test id must start with one of.
2846
 
    :returns: the newly created suite
2847
 
    """
2848
 
    condition = condition_id_startswith(start)
2849
 
    result_suite = filter_suite_by_condition(suite, condition)
2850
 
    return result_suite
2851
 
 
2852
 
 
2853
 
def exclude_tests_by_re(suite, pattern):
2854
 
    """Create a test suite which excludes some tests from suite.
2855
 
 
2856
 
    :param suite: The suite to get tests from.
2857
 
    :param pattern: A regular expression string. Test ids that match this
2858
 
        pattern will be excluded from the result.
2859
 
    :return: A TestSuite that contains all the tests from suite without the
2860
 
        tests that matched pattern. The order of tests is the same as it was in
2861
 
        suite.
2862
 
    """
2863
 
    return exclude_tests_by_condition(suite, condition_id_re(pattern))
2864
 
 
2865
 
 
2866
 
def preserve_input(something):
2867
 
    """A helper for performing test suite transformation chains.
2868
 
 
2869
 
    :param something: Anything you want to preserve.
2870
 
    :return: Something.
2871
 
    """
2872
 
    return something
2873
 
 
2874
 
 
2875
 
def randomize_suite(suite):
2876
 
    """Return a new TestSuite with suite's tests in random order.
2877
 
 
2878
 
    The tests in the input suite are flattened into a single suite in order to
2879
 
    accomplish this. Any nested TestSuites are removed to provide global
2880
 
    randomness.
2881
 
    """
2882
 
    tests = list(iter_suite_tests(suite))
2883
 
    random.shuffle(tests)
2884
 
    return TestUtil.TestSuite(tests)
2885
 
 
2886
 
 
2887
 
def split_suite_by_condition(suite, condition):
2888
 
    """Split a test suite into two by a condition.
2889
 
 
2890
 
    :param suite: The suite to split.
2891
 
    :param condition: The condition to match on. Tests that match this
2892
 
        condition are returned in the first test suite, ones that do not match
2893
 
        are in the second suite.
2894
 
    :return: A tuple of two test suites, where the first contains tests from
2895
 
        suite matching the condition, and the second contains the remainder
2896
 
        from suite. The order within each output suite is the same as it was in
2897
 
        suite.
2898
 
    """
2899
 
    matched = []
2900
 
    did_not_match = []
2901
 
    for test in iter_suite_tests(suite):
2902
 
        if condition(test):
2903
 
            matched.append(test)
 
2008
    result = TestUtil.TestSuite()
 
2009
    filter_re = re.compile(pattern)
 
2010
    for test in iter_suite_tests(suite):
 
2011
        if filter_re.search(test.id()):
 
2012
            result.addTest(test)
 
2013
    return result
 
2014
 
 
2015
 
 
2016
def sort_suite_by_re(suite, pattern):
 
2017
    first = []
 
2018
    second = []
 
2019
    filter_re = re.compile(pattern)
 
2020
    for test in iter_suite_tests(suite):
 
2021
        if filter_re.search(test.id()):
 
2022
            first.append(test)
2904
2023
        else:
2905
 
            did_not_match.append(test)
2906
 
    return TestUtil.TestSuite(matched), TestUtil.TestSuite(did_not_match)
2907
 
 
2908
 
 
2909
 
def split_suite_by_re(suite, pattern):
2910
 
    """Split a test suite into two by a regular expression.
2911
 
 
2912
 
    :param suite: The suite to split.
2913
 
    :param pattern: A regular expression string. Test ids that match this
2914
 
        pattern will be in the first test suite returned, and the others in the
2915
 
        second test suite returned.
2916
 
    :return: A tuple of two test suites, where the first contains tests from
2917
 
        suite matching pattern, and the second contains the remainder from
2918
 
        suite. The order within each output suite is the same as it was in
2919
 
        suite.
2920
 
    """
2921
 
    return split_suite_by_condition(suite, condition_id_re(pattern))
 
2024
            second.append(test)
 
2025
    return TestUtil.TestSuite(first + second)
2922
2026
 
2923
2027
 
2924
2028
def run_suite(suite, name='test', verbose=False, pattern=".*",
2925
 
              stop_on_failure=False,
 
2029
              stop_on_failure=False, keep_output=False,
2926
2030
              transport=None, lsprof_timed=None, bench_history=None,
2927
2031
              matching_tests_first=None,
2928
 
              list_only=False,
2929
 
              random_seed=None,
2930
 
              exclude_pattern=None,
2931
 
              strict=False,
2932
 
              runner_class=None,
2933
 
              suite_decorators=None,
2934
 
              stream=None,
2935
 
              result_decorators=None,
2936
 
              ):
2937
 
    """Run a test suite for bzr selftest.
 
2032
              numbered_dirs=None):
 
2033
    global NUMBERED_DIRS
 
2034
    if numbered_dirs is not None:
 
2035
        NUMBERED_DIRS = bool(numbered_dirs)
2938
2036
 
2939
 
    :param runner_class: The class of runner to use. Must support the
2940
 
        constructor arguments passed by run_suite which are more than standard
2941
 
        python uses.
2942
 
    :return: A boolean indicating success.
2943
 
    """
2944
2037
    TestCase._gather_lsprof_in_benchmarks = lsprof_timed
2945
2038
    if verbose:
2946
2039
        verbosity = 2
2947
2040
    else:
2948
2041
        verbosity = 1
2949
 
    if runner_class is None:
2950
 
        runner_class = TextTestRunner
2951
 
    if stream is None:
2952
 
        stream = sys.stdout
2953
 
    runner = runner_class(stream=stream,
 
2042
    runner = TextTestRunner(stream=sys.stdout,
2954
2043
                            descriptions=0,
2955
2044
                            verbosity=verbosity,
2956
 
                            bench_history=bench_history,
2957
 
                            strict=strict,
2958
 
                            result_decorators=result_decorators,
2959
 
                            )
 
2045
                            keep_output=keep_output,
 
2046
                            bench_history=bench_history)
2960
2047
    runner.stop_on_failure=stop_on_failure
2961
 
    # built in decorator factories:
2962
 
    decorators = [
2963
 
        random_order(random_seed, runner),
2964
 
        exclude_tests(exclude_pattern),
2965
 
        ]
2966
 
    if matching_tests_first:
2967
 
        decorators.append(tests_first(pattern))
2968
 
    else:
2969
 
        decorators.append(filter_tests(pattern))
2970
 
    if suite_decorators:
2971
 
        decorators.extend(suite_decorators)
2972
 
    # tell the result object how many tests will be running: (except if
2973
 
    # --parallel=fork is being used. Robert said he will provide a better
2974
 
    # progress design later -- vila 20090817)
2975
 
    if fork_decorator not in decorators:
2976
 
        decorators.append(CountingDecorator)
2977
 
    for decorator in decorators:
2978
 
        suite = decorator(suite)
2979
 
    if list_only:
2980
 
        # Done after test suite decoration to allow randomisation etc
2981
 
        # to take effect, though that is of marginal benefit.
2982
 
        if verbosity >= 2:
2983
 
            stream.write("Listing tests only ...\n")
2984
 
        for t in iter_suite_tests(suite):
2985
 
            stream.write("%s\n" % (t.id()))
2986
 
        return True
 
2048
    if pattern != '.*':
 
2049
        if matching_tests_first:
 
2050
            suite = sort_suite_by_re(suite, pattern)
 
2051
        else:
 
2052
            suite = filter_suite_by_re(suite, pattern)
2987
2053
    result = runner.run(suite)
2988
 
    if strict:
2989
 
        return result.wasStrictlySuccessful()
2990
 
    else:
2991
 
        return result.wasSuccessful()
2992
 
 
2993
 
 
2994
 
# A registry where get() returns a suite decorator.
2995
 
parallel_registry = registry.Registry()
2996
 
 
2997
 
 
2998
 
def fork_decorator(suite):
2999
 
    concurrency = osutils.local_concurrency()
3000
 
    if concurrency == 1:
3001
 
        return suite
3002
 
    from testtools import ConcurrentTestSuite
3003
 
    return ConcurrentTestSuite(suite, fork_for_tests)
3004
 
parallel_registry.register('fork', fork_decorator)
3005
 
 
3006
 
 
3007
 
def subprocess_decorator(suite):
3008
 
    concurrency = osutils.local_concurrency()
3009
 
    if concurrency == 1:
3010
 
        return suite
3011
 
    from testtools import ConcurrentTestSuite
3012
 
    return ConcurrentTestSuite(suite, reinvoke_for_tests)
3013
 
parallel_registry.register('subprocess', subprocess_decorator)
3014
 
 
3015
 
 
3016
 
def exclude_tests(exclude_pattern):
3017
 
    """Return a test suite decorator that excludes tests."""
3018
 
    if exclude_pattern is None:
3019
 
        return identity_decorator
3020
 
    def decorator(suite):
3021
 
        return ExcludeDecorator(suite, exclude_pattern)
3022
 
    return decorator
3023
 
 
3024
 
 
3025
 
def filter_tests(pattern):
3026
 
    if pattern == '.*':
3027
 
        return identity_decorator
3028
 
    def decorator(suite):
3029
 
        return FilterTestsDecorator(suite, pattern)
3030
 
    return decorator
3031
 
 
3032
 
 
3033
 
def random_order(random_seed, runner):
3034
 
    """Return a test suite decorator factory for randomising tests order.
3035
 
    
3036
 
    :param random_seed: now, a string which casts to a long, or a long.
3037
 
    :param runner: A test runner with a stream attribute to report on.
3038
 
    """
3039
 
    if random_seed is None:
3040
 
        return identity_decorator
3041
 
    def decorator(suite):
3042
 
        return RandomDecorator(suite, random_seed, runner.stream)
3043
 
    return decorator
3044
 
 
3045
 
 
3046
 
def tests_first(pattern):
3047
 
    if pattern == '.*':
3048
 
        return identity_decorator
3049
 
    def decorator(suite):
3050
 
        return TestFirstDecorator(suite, pattern)
3051
 
    return decorator
3052
 
 
3053
 
 
3054
 
def identity_decorator(suite):
3055
 
    """Return suite."""
3056
 
    return suite
3057
 
 
3058
 
 
3059
 
class TestDecorator(TestSuite):
3060
 
    """A decorator for TestCase/TestSuite objects.
3061
 
    
3062
 
    Usually, subclasses should override __iter__(used when flattening test
3063
 
    suites), which we do to filter, reorder, parallelise and so on, run() and
3064
 
    debug().
3065
 
    """
3066
 
 
3067
 
    def __init__(self, suite):
3068
 
        TestSuite.__init__(self)
3069
 
        self.addTest(suite)
3070
 
 
3071
 
    def countTestCases(self):
3072
 
        cases = 0
3073
 
        for test in self:
3074
 
            cases += test.countTestCases()
3075
 
        return cases
3076
 
 
3077
 
    def debug(self):
3078
 
        for test in self:
3079
 
            test.debug()
3080
 
 
3081
 
    def run(self, result):
3082
 
        # Use iteration on self, not self._tests, to allow subclasses to hook
3083
 
        # into __iter__.
3084
 
        for test in self:
3085
 
            if result.shouldStop:
3086
 
                break
3087
 
            test.run(result)
3088
 
        return result
3089
 
 
3090
 
 
3091
 
class CountingDecorator(TestDecorator):
3092
 
    """A decorator which calls result.progress(self.countTestCases)."""
3093
 
 
3094
 
    def run(self, result):
3095
 
        progress_method = getattr(result, 'progress', None)
3096
 
        if callable(progress_method):
3097
 
            progress_method(self.countTestCases(), SUBUNIT_SEEK_SET)
3098
 
        return super(CountingDecorator, self).run(result)
3099
 
 
3100
 
 
3101
 
class ExcludeDecorator(TestDecorator):
3102
 
    """A decorator which excludes test matching an exclude pattern."""
3103
 
 
3104
 
    def __init__(self, suite, exclude_pattern):
3105
 
        TestDecorator.__init__(self, suite)
3106
 
        self.exclude_pattern = exclude_pattern
3107
 
        self.excluded = False
3108
 
 
3109
 
    def __iter__(self):
3110
 
        if self.excluded:
3111
 
            return iter(self._tests)
3112
 
        self.excluded = True
3113
 
        suite = exclude_tests_by_re(self, self.exclude_pattern)
3114
 
        del self._tests[:]
3115
 
        self.addTests(suite)
3116
 
        return iter(self._tests)
3117
 
 
3118
 
 
3119
 
class FilterTestsDecorator(TestDecorator):
3120
 
    """A decorator which filters tests to those matching a pattern."""
3121
 
 
3122
 
    def __init__(self, suite, pattern):
3123
 
        TestDecorator.__init__(self, suite)
3124
 
        self.pattern = pattern
3125
 
        self.filtered = False
3126
 
 
3127
 
    def __iter__(self):
3128
 
        if self.filtered:
3129
 
            return iter(self._tests)
3130
 
        self.filtered = True
3131
 
        suite = filter_suite_by_re(self, self.pattern)
3132
 
        del self._tests[:]
3133
 
        self.addTests(suite)
3134
 
        return iter(self._tests)
3135
 
 
3136
 
 
3137
 
class RandomDecorator(TestDecorator):
3138
 
    """A decorator which randomises the order of its tests."""
3139
 
 
3140
 
    def __init__(self, suite, random_seed, stream):
3141
 
        TestDecorator.__init__(self, suite)
3142
 
        self.random_seed = random_seed
3143
 
        self.randomised = False
3144
 
        self.stream = stream
3145
 
 
3146
 
    def __iter__(self):
3147
 
        if self.randomised:
3148
 
            return iter(self._tests)
3149
 
        self.randomised = True
3150
 
        self.stream.write("Randomizing test order using seed %s\n\n" %
3151
 
            (self.actual_seed()))
3152
 
        # Initialise the random number generator.
3153
 
        random.seed(self.actual_seed())
3154
 
        suite = randomize_suite(self)
3155
 
        del self._tests[:]
3156
 
        self.addTests(suite)
3157
 
        return iter(self._tests)
3158
 
 
3159
 
    def actual_seed(self):
3160
 
        if self.random_seed == "now":
3161
 
            # We convert the seed to a long to make it reuseable across
3162
 
            # invocations (because the user can reenter it).
3163
 
            self.random_seed = long(time.time())
3164
 
        else:
3165
 
            # Convert the seed to a long if we can
3166
 
            try:
3167
 
                self.random_seed = long(self.random_seed)
3168
 
            except:
3169
 
                pass
3170
 
        return self.random_seed
3171
 
 
3172
 
 
3173
 
class TestFirstDecorator(TestDecorator):
3174
 
    """A decorator which moves named tests to the front."""
3175
 
 
3176
 
    def __init__(self, suite, pattern):
3177
 
        TestDecorator.__init__(self, suite)
3178
 
        self.pattern = pattern
3179
 
        self.filtered = False
3180
 
 
3181
 
    def __iter__(self):
3182
 
        if self.filtered:
3183
 
            return iter(self._tests)
3184
 
        self.filtered = True
3185
 
        suites = split_suite_by_re(self, self.pattern)
3186
 
        del self._tests[:]
3187
 
        self.addTests(suites)
3188
 
        return iter(self._tests)
3189
 
 
3190
 
 
3191
 
def partition_tests(suite, count):
3192
 
    """Partition suite into count lists of tests."""
3193
 
    result = []
3194
 
    tests = list(iter_suite_tests(suite))
3195
 
    tests_per_process = int(math.ceil(float(len(tests)) / count))
3196
 
    for block in range(count):
3197
 
        low_test = block * tests_per_process
3198
 
        high_test = low_test + tests_per_process
3199
 
        process_tests = tests[low_test:high_test]
3200
 
        result.append(process_tests)
3201
 
    return result
3202
 
 
3203
 
 
3204
 
def workaround_zealous_crypto_random():
3205
 
    """Crypto.Random want to help us being secure, but we don't care here.
3206
 
 
3207
 
    This workaround some test failure related to the sftp server. Once paramiko
3208
 
    stop using the controversial API in Crypto.Random, we may get rid of it.
3209
 
    """
3210
 
    try:
3211
 
        from Crypto.Random import atfork
3212
 
        atfork()
3213
 
    except ImportError:
3214
 
        pass
3215
 
 
3216
 
 
3217
 
def fork_for_tests(suite):
3218
 
    """Take suite and start up one runner per CPU by forking()
3219
 
 
3220
 
    :return: An iterable of TestCase-like objects which can each have
3221
 
        run(result) called on them to feed tests to result.
3222
 
    """
3223
 
    concurrency = osutils.local_concurrency()
3224
 
    result = []
3225
 
    from subunit import TestProtocolClient, ProtocolTestCase
3226
 
    from subunit.test_results import AutoTimingTestResultDecorator
3227
 
    class TestInOtherProcess(ProtocolTestCase):
3228
 
        # Should be in subunit, I think. RBC.
3229
 
        def __init__(self, stream, pid):
3230
 
            ProtocolTestCase.__init__(self, stream)
3231
 
            self.pid = pid
3232
 
 
3233
 
        def run(self, result):
3234
 
            try:
3235
 
                ProtocolTestCase.run(self, result)
3236
 
            finally:
3237
 
                os.waitpid(self.pid, 0)
3238
 
 
3239
 
    test_blocks = partition_tests(suite, concurrency)
3240
 
    for process_tests in test_blocks:
3241
 
        process_suite = TestSuite()
3242
 
        process_suite.addTests(process_tests)
3243
 
        c2pread, c2pwrite = os.pipe()
3244
 
        pid = os.fork()
3245
 
        if pid == 0:
3246
 
            workaround_zealous_crypto_random()
3247
 
            try:
3248
 
                os.close(c2pread)
3249
 
                # Leave stderr and stdout open so we can see test noise
3250
 
                # Close stdin so that the child goes away if it decides to
3251
 
                # read from stdin (otherwise its a roulette to see what
3252
 
                # child actually gets keystrokes for pdb etc).
3253
 
                sys.stdin.close()
3254
 
                sys.stdin = None
3255
 
                stream = os.fdopen(c2pwrite, 'wb', 1)
3256
 
                subunit_result = AutoTimingTestResultDecorator(
3257
 
                    TestProtocolClient(stream))
3258
 
                process_suite.run(subunit_result)
3259
 
            finally:
3260
 
                os._exit(0)
3261
 
        else:
3262
 
            os.close(c2pwrite)
3263
 
            stream = os.fdopen(c2pread, 'rb', 1)
3264
 
            test = TestInOtherProcess(stream, pid)
3265
 
            result.append(test)
3266
 
    return result
3267
 
 
3268
 
 
3269
 
def reinvoke_for_tests(suite):
3270
 
    """Take suite and start up one runner per CPU using subprocess().
3271
 
 
3272
 
    :return: An iterable of TestCase-like objects which can each have
3273
 
        run(result) called on them to feed tests to result.
3274
 
    """
3275
 
    concurrency = osutils.local_concurrency()
3276
 
    result = []
3277
 
    from subunit import ProtocolTestCase
3278
 
    class TestInSubprocess(ProtocolTestCase):
3279
 
        def __init__(self, process, name):
3280
 
            ProtocolTestCase.__init__(self, process.stdout)
3281
 
            self.process = process
3282
 
            self.process.stdin.close()
3283
 
            self.name = name
3284
 
 
3285
 
        def run(self, result):
3286
 
            try:
3287
 
                ProtocolTestCase.run(self, result)
3288
 
            finally:
3289
 
                self.process.wait()
3290
 
                os.unlink(self.name)
3291
 
            # print "pid %d finished" % finished_process
3292
 
    test_blocks = partition_tests(suite, concurrency)
3293
 
    for process_tests in test_blocks:
3294
 
        # ugly; currently reimplement rather than reuses TestCase methods.
3295
 
        bzr_path = os.path.dirname(os.path.dirname(bzrlib.__file__))+'/bzr'
3296
 
        if not os.path.isfile(bzr_path):
3297
 
            # We are probably installed. Assume sys.argv is the right file
3298
 
            bzr_path = sys.argv[0]
3299
 
        bzr_path = [bzr_path]
3300
 
        if sys.platform == "win32":
3301
 
            # if we're on windows, we can't execute the bzr script directly
3302
 
            bzr_path = [sys.executable] + bzr_path
3303
 
        fd, test_list_file_name = tempfile.mkstemp()
3304
 
        test_list_file = os.fdopen(fd, 'wb', 1)
3305
 
        for test in process_tests:
3306
 
            test_list_file.write(test.id() + '\n')
3307
 
        test_list_file.close()
3308
 
        try:
3309
 
            argv = bzr_path + ['selftest', '--load-list', test_list_file_name,
3310
 
                '--subunit']
3311
 
            if '--no-plugins' in sys.argv:
3312
 
                argv.append('--no-plugins')
3313
 
            # stderr=STDOUT would be ideal, but until we prevent noise on
3314
 
            # stderr it can interrupt the subunit protocol.
3315
 
            process = Popen(argv, stdin=PIPE, stdout=PIPE, stderr=PIPE,
3316
 
                bufsize=1)
3317
 
            test = TestInSubprocess(process, test_list_file_name)
3318
 
            result.append(test)
3319
 
        except:
3320
 
            os.unlink(test_list_file_name)
3321
 
            raise
3322
 
    return result
3323
 
 
3324
 
 
3325
 
class ForwardingResult(unittest.TestResult):
3326
 
 
3327
 
    def __init__(self, target):
3328
 
        unittest.TestResult.__init__(self)
3329
 
        self.result = target
3330
 
 
3331
 
    def startTest(self, test):
3332
 
        self.result.startTest(test)
3333
 
 
3334
 
    def stopTest(self, test):
3335
 
        self.result.stopTest(test)
3336
 
 
3337
 
    def startTestRun(self):
3338
 
        self.result.startTestRun()
3339
 
 
3340
 
    def stopTestRun(self):
3341
 
        self.result.stopTestRun()
3342
 
 
3343
 
    def addSkip(self, test, reason):
3344
 
        self.result.addSkip(test, reason)
3345
 
 
3346
 
    def addSuccess(self, test):
3347
 
        self.result.addSuccess(test)
3348
 
 
3349
 
    def addError(self, test, err):
3350
 
        self.result.addError(test, err)
3351
 
 
3352
 
    def addFailure(self, test, err):
3353
 
        self.result.addFailure(test, err)
3354
 
ForwardingResult = testtools.ExtendedToOriginalDecorator
3355
 
 
3356
 
 
3357
 
class ProfileResult(ForwardingResult):
3358
 
    """Generate profiling data for all activity between start and success.
3359
 
    
3360
 
    The profile data is appended to the test's _benchcalls attribute and can
3361
 
    be accessed by the forwarded-to TestResult.
3362
 
 
3363
 
    While it might be cleaner do accumulate this in stopTest, addSuccess is
3364
 
    where our existing output support for lsprof is, and this class aims to
3365
 
    fit in with that: while it could be moved it's not necessary to accomplish
3366
 
    test profiling, nor would it be dramatically cleaner.
3367
 
    """
3368
 
 
3369
 
    def startTest(self, test):
3370
 
        self.profiler = bzrlib.lsprof.BzrProfiler()
3371
 
        self.profiler.start()
3372
 
        ForwardingResult.startTest(self, test)
3373
 
 
3374
 
    def addSuccess(self, test):
3375
 
        stats = self.profiler.stop()
3376
 
        try:
3377
 
            calls = test._benchcalls
3378
 
        except AttributeError:
3379
 
            test._benchcalls = []
3380
 
            calls = test._benchcalls
3381
 
        calls.append(((test.id(), "", ""), stats))
3382
 
        ForwardingResult.addSuccess(self, test)
3383
 
 
3384
 
    def stopTest(self, test):
3385
 
        ForwardingResult.stopTest(self, test)
3386
 
        self.profiler = None
3387
 
 
3388
 
 
3389
 
# Controlled by "bzr selftest -E=..." option
3390
 
# Currently supported:
3391
 
#   -Eallow_debug           Will no longer clear debug.debug_flags() so it
3392
 
#                           preserves any flags supplied at the command line.
3393
 
#   -Edisable_lock_checks   Turns errors in mismatched locks into simple prints
3394
 
#                           rather than failing tests. And no longer raise
3395
 
#                           LockContention when fctnl locks are not being used
3396
 
#                           with proper exclusion rules.
3397
 
selftest_debug_flags = set()
 
2054
    return result.wasSuccessful()
3398
2055
 
3399
2056
 
3400
2057
def selftest(verbose=False, pattern=".*", stop_on_failure=True,
 
2058
             keep_output=False,
3401
2059
             transport=None,
3402
2060
             test_suite_factory=None,
3403
2061
             lsprof_timed=None,
3404
2062
             bench_history=None,
3405
2063
             matching_tests_first=None,
3406
 
             list_only=False,
3407
 
             random_seed=None,
3408
 
             exclude_pattern=None,
3409
 
             strict=False,
3410
 
             load_list=None,
3411
 
             debug_flags=None,
3412
 
             starting_with=None,
3413
 
             runner_class=None,
3414
 
             suite_decorators=None,
3415
 
             stream=None,
3416
 
             lsprof_tests=False,
3417
 
             ):
 
2064
             numbered_dirs=None):
3418
2065
    """Run the whole test suite under the enhanced runner"""
3419
2066
    # XXX: Very ugly way to do this...
3420
2067
    # Disable warning about old formats because we don't want it to disturb
3427
2074
        transport = default_transport
3428
2075
    old_transport = default_transport
3429
2076
    default_transport = transport
3430
 
    global selftest_debug_flags
3431
 
    old_debug_flags = selftest_debug_flags
3432
 
    if debug_flags is not None:
3433
 
        selftest_debug_flags = set(debug_flags)
3434
2077
    try:
3435
 
        if load_list is None:
3436
 
            keep_only = None
3437
 
        else:
3438
 
            keep_only = load_test_id_list(load_list)
3439
 
        if starting_with:
3440
 
            starting_with = [test_prefix_alias_registry.resolve_alias(start)
3441
 
                             for start in starting_with]
3442
2078
        if test_suite_factory is None:
3443
 
            # Reduce loading time by loading modules based on the starting_with
3444
 
            # patterns.
3445
 
            suite = test_suite(keep_only, starting_with)
 
2079
            suite = test_suite()
3446
2080
        else:
3447
2081
            suite = test_suite_factory()
3448
 
        if starting_with:
3449
 
            # But always filter as requested.
3450
 
            suite = filter_suite_by_id_startswith(suite, starting_with)
3451
 
        result_decorators = []
3452
 
        if lsprof_tests:
3453
 
            result_decorators.append(ProfileResult)
3454
2082
        return run_suite(suite, 'testbzr', verbose=verbose, pattern=pattern,
3455
 
                     stop_on_failure=stop_on_failure,
 
2083
                     stop_on_failure=stop_on_failure, keep_output=keep_output,
3456
2084
                     transport=transport,
3457
2085
                     lsprof_timed=lsprof_timed,
3458
2086
                     bench_history=bench_history,
3459
2087
                     matching_tests_first=matching_tests_first,
3460
 
                     list_only=list_only,
3461
 
                     random_seed=random_seed,
3462
 
                     exclude_pattern=exclude_pattern,
3463
 
                     strict=strict,
3464
 
                     runner_class=runner_class,
3465
 
                     suite_decorators=suite_decorators,
3466
 
                     stream=stream,
3467
 
                     result_decorators=result_decorators,
3468
 
                     )
 
2088
                     numbered_dirs=numbered_dirs)
3469
2089
    finally:
3470
2090
        default_transport = old_transport
3471
 
        selftest_debug_flags = old_debug_flags
3472
 
 
3473
 
 
3474
 
def load_test_id_list(file_name):
3475
 
    """Load a test id list from a text file.
3476
 
 
3477
 
    The format is one test id by line.  No special care is taken to impose
3478
 
    strict rules, these test ids are used to filter the test suite so a test id
3479
 
    that do not match an existing test will do no harm. This allows user to add
3480
 
    comments, leave blank lines, etc.
3481
 
    """
3482
 
    test_list = []
3483
 
    try:
3484
 
        ftest = open(file_name, 'rt')
3485
 
    except IOError, e:
3486
 
        if e.errno != errno.ENOENT:
3487
 
            raise
3488
 
        else:
3489
 
            raise errors.NoSuchFile(file_name)
3490
 
 
3491
 
    for test_name in ftest.readlines():
3492
 
        test_list.append(test_name.strip())
3493
 
    ftest.close()
3494
 
    return test_list
3495
 
 
3496
 
 
3497
 
def suite_matches_id_list(test_suite, id_list):
3498
 
    """Warns about tests not appearing or appearing more than once.
3499
 
 
3500
 
    :param test_suite: A TestSuite object.
3501
 
    :param test_id_list: The list of test ids that should be found in
3502
 
         test_suite.
3503
 
 
3504
 
    :return: (absents, duplicates) absents is a list containing the test found
3505
 
        in id_list but not in test_suite, duplicates is a list containing the
3506
 
        test found multiple times in test_suite.
3507
 
 
3508
 
    When using a prefined test id list, it may occurs that some tests do not
3509
 
    exist anymore or that some tests use the same id. This function warns the
3510
 
    tester about potential problems in his workflow (test lists are volatile)
3511
 
    or in the test suite itself (using the same id for several tests does not
3512
 
    help to localize defects).
3513
 
    """
3514
 
    # Build a dict counting id occurrences
3515
 
    tests = dict()
3516
 
    for test in iter_suite_tests(test_suite):
3517
 
        id = test.id()
3518
 
        tests[id] = tests.get(id, 0) + 1
3519
 
 
3520
 
    not_found = []
3521
 
    duplicates = []
3522
 
    for id in id_list:
3523
 
        occurs = tests.get(id, 0)
3524
 
        if not occurs:
3525
 
            not_found.append(id)
3526
 
        elif occurs > 1:
3527
 
            duplicates.append(id)
3528
 
 
3529
 
    return not_found, duplicates
3530
 
 
3531
 
 
3532
 
class TestIdList(object):
3533
 
    """Test id list to filter a test suite.
3534
 
 
3535
 
    Relying on the assumption that test ids are built as:
3536
 
    <module>[.<class>.<method>][(<param>+)], <module> being in python dotted
3537
 
    notation, this class offers methods to :
3538
 
    - avoid building a test suite for modules not refered to in the test list,
3539
 
    - keep only the tests listed from the module test suite.
3540
 
    """
3541
 
 
3542
 
    def __init__(self, test_id_list):
3543
 
        # When a test suite needs to be filtered against us we compare test ids
3544
 
        # for equality, so a simple dict offers a quick and simple solution.
3545
 
        self.tests = dict().fromkeys(test_id_list, True)
3546
 
 
3547
 
        # While unittest.TestCase have ids like:
3548
 
        # <module>.<class>.<method>[(<param+)],
3549
 
        # doctest.DocTestCase can have ids like:
3550
 
        # <module>
3551
 
        # <module>.<class>
3552
 
        # <module>.<function>
3553
 
        # <module>.<class>.<method>
3554
 
 
3555
 
        # Since we can't predict a test class from its name only, we settle on
3556
 
        # a simple constraint: a test id always begins with its module name.
3557
 
 
3558
 
        modules = {}
3559
 
        for test_id in test_id_list:
3560
 
            parts = test_id.split('.')
3561
 
            mod_name = parts.pop(0)
3562
 
            modules[mod_name] = True
3563
 
            for part in parts:
3564
 
                mod_name += '.' + part
3565
 
                modules[mod_name] = True
3566
 
        self.modules = modules
3567
 
 
3568
 
    def refers_to(self, module_name):
3569
 
        """Is there tests for the module or one of its sub modules."""
3570
 
        return self.modules.has_key(module_name)
3571
 
 
3572
 
    def includes(self, test_id):
3573
 
        return self.tests.has_key(test_id)
3574
 
 
3575
 
 
3576
 
class TestPrefixAliasRegistry(registry.Registry):
3577
 
    """A registry for test prefix aliases.
3578
 
 
3579
 
    This helps implement shorcuts for the --starting-with selftest
3580
 
    option. Overriding existing prefixes is not allowed but not fatal (a
3581
 
    warning will be emitted).
3582
 
    """
3583
 
 
3584
 
    def register(self, key, obj, help=None, info=None,
3585
 
                 override_existing=False):
3586
 
        """See Registry.register.
3587
 
 
3588
 
        Trying to override an existing alias causes a warning to be emitted,
3589
 
        not a fatal execption.
3590
 
        """
3591
 
        try:
3592
 
            super(TestPrefixAliasRegistry, self).register(
3593
 
                key, obj, help=help, info=info, override_existing=False)
3594
 
        except KeyError:
3595
 
            actual = self.get(key)
3596
 
            note('Test prefix alias %s is already used for %s, ignoring %s'
3597
 
                 % (key, actual, obj))
3598
 
 
3599
 
    def resolve_alias(self, id_start):
3600
 
        """Replace the alias by the prefix in the given string.
3601
 
 
3602
 
        Using an unknown prefix is an error to help catching typos.
3603
 
        """
3604
 
        parts = id_start.split('.')
3605
 
        try:
3606
 
            parts[0] = self.get(parts[0])
3607
 
        except KeyError:
3608
 
            raise errors.BzrCommandError(
3609
 
                '%s is not a known test prefix alias' % parts[0])
3610
 
        return '.'.join(parts)
3611
 
 
3612
 
 
3613
 
test_prefix_alias_registry = TestPrefixAliasRegistry()
3614
 
"""Registry of test prefix aliases."""
3615
 
 
3616
 
 
3617
 
# This alias allows to detect typos ('bzrlin.') by making all valid test ids
3618
 
# appear prefixed ('bzrlib.' is "replaced" by 'bzrlib.').
3619
 
test_prefix_alias_registry.register('bzrlib', 'bzrlib')
3620
 
 
3621
 
# Obvious highest levels prefixes, feel free to add your own via a plugin
3622
 
test_prefix_alias_registry.register('bd', 'bzrlib.doc')
3623
 
test_prefix_alias_registry.register('bu', 'bzrlib.utils')
3624
 
test_prefix_alias_registry.register('bt', 'bzrlib.tests')
3625
 
test_prefix_alias_registry.register('bb', 'bzrlib.tests.blackbox')
3626
 
test_prefix_alias_registry.register('bp', 'bzrlib.plugins')
3627
 
 
3628
 
 
3629
 
def _test_suite_testmod_names():
3630
 
    """Return the standard list of test module names to test."""
3631
 
    return [
3632
 
        'bzrlib.doc',
3633
 
        'bzrlib.tests.blackbox',
3634
 
        'bzrlib.tests.commands',
3635
 
        'bzrlib.tests.per_branch',
3636
 
        'bzrlib.tests.per_bzrdir',
3637
 
        'bzrlib.tests.per_bzrdir_colo',
3638
 
        'bzrlib.tests.per_foreign_vcs',
3639
 
        'bzrlib.tests.per_interrepository',
3640
 
        'bzrlib.tests.per_intertree',
3641
 
        'bzrlib.tests.per_inventory',
3642
 
        'bzrlib.tests.per_interbranch',
3643
 
        'bzrlib.tests.per_lock',
3644
 
        'bzrlib.tests.per_merger',
3645
 
        'bzrlib.tests.per_transport',
3646
 
        'bzrlib.tests.per_tree',
3647
 
        'bzrlib.tests.per_pack_repository',
3648
 
        'bzrlib.tests.per_repository',
3649
 
        'bzrlib.tests.per_repository_chk',
3650
 
        'bzrlib.tests.per_repository_reference',
3651
 
        'bzrlib.tests.per_uifactory',
3652
 
        'bzrlib.tests.per_versionedfile',
3653
 
        'bzrlib.tests.per_workingtree',
3654
 
        'bzrlib.tests.test__annotator',
3655
 
        'bzrlib.tests.test__bencode',
3656
 
        'bzrlib.tests.test__chk_map',
3657
 
        'bzrlib.tests.test__dirstate_helpers',
3658
 
        'bzrlib.tests.test__groupcompress',
3659
 
        'bzrlib.tests.test__known_graph',
3660
 
        'bzrlib.tests.test__rio',
3661
 
        'bzrlib.tests.test__simple_set',
3662
 
        'bzrlib.tests.test__static_tuple',
3663
 
        'bzrlib.tests.test__walkdirs_win32',
3664
 
        'bzrlib.tests.test_ancestry',
3665
 
        'bzrlib.tests.test_annotate',
3666
 
        'bzrlib.tests.test_api',
3667
 
        'bzrlib.tests.test_atomicfile',
3668
 
        'bzrlib.tests.test_bad_files',
3669
 
        'bzrlib.tests.test_bisect_multi',
3670
 
        'bzrlib.tests.test_branch',
3671
 
        'bzrlib.tests.test_branchbuilder',
3672
 
        'bzrlib.tests.test_btree_index',
3673
 
        'bzrlib.tests.test_bugtracker',
3674
 
        'bzrlib.tests.test_bundle',
3675
 
        'bzrlib.tests.test_bzrdir',
3676
 
        'bzrlib.tests.test__chunks_to_lines',
3677
 
        'bzrlib.tests.test_cache_utf8',
3678
 
        'bzrlib.tests.test_chk_map',
3679
 
        'bzrlib.tests.test_chk_serializer',
3680
 
        'bzrlib.tests.test_chunk_writer',
3681
 
        'bzrlib.tests.test_clean_tree',
3682
 
        'bzrlib.tests.test_cleanup',
3683
 
        'bzrlib.tests.test_cmdline',
3684
 
        'bzrlib.tests.test_commands',
3685
 
        'bzrlib.tests.test_commit',
3686
 
        'bzrlib.tests.test_commit_merge',
3687
 
        'bzrlib.tests.test_config',
3688
 
        'bzrlib.tests.test_conflicts',
3689
 
        'bzrlib.tests.test_counted_lock',
3690
 
        'bzrlib.tests.test_crash',
3691
 
        'bzrlib.tests.test_decorators',
3692
 
        'bzrlib.tests.test_delta',
3693
 
        'bzrlib.tests.test_debug',
3694
 
        'bzrlib.tests.test_deprecated_graph',
3695
 
        'bzrlib.tests.test_diff',
3696
 
        'bzrlib.tests.test_directory_service',
3697
 
        'bzrlib.tests.test_dirstate',
3698
 
        'bzrlib.tests.test_email_message',
3699
 
        'bzrlib.tests.test_eol_filters',
3700
 
        'bzrlib.tests.test_errors',
3701
 
        'bzrlib.tests.test_export',
3702
 
        'bzrlib.tests.test_extract',
3703
 
        'bzrlib.tests.test_fetch',
3704
 
        'bzrlib.tests.test_fifo_cache',
3705
 
        'bzrlib.tests.test_filters',
3706
 
        'bzrlib.tests.test_ftp_transport',
3707
 
        'bzrlib.tests.test_foreign',
3708
 
        'bzrlib.tests.test_generate_docs',
3709
 
        'bzrlib.tests.test_generate_ids',
3710
 
        'bzrlib.tests.test_globbing',
3711
 
        'bzrlib.tests.test_gpg',
3712
 
        'bzrlib.tests.test_graph',
3713
 
        'bzrlib.tests.test_groupcompress',
3714
 
        'bzrlib.tests.test_hashcache',
3715
 
        'bzrlib.tests.test_help',
3716
 
        'bzrlib.tests.test_hooks',
3717
 
        'bzrlib.tests.test_http',
3718
 
        'bzrlib.tests.test_http_response',
3719
 
        'bzrlib.tests.test_https_ca_bundle',
3720
 
        'bzrlib.tests.test_identitymap',
3721
 
        'bzrlib.tests.test_ignores',
3722
 
        'bzrlib.tests.test_index',
3723
 
        'bzrlib.tests.test_import_tariff',
3724
 
        'bzrlib.tests.test_info',
3725
 
        'bzrlib.tests.test_inv',
3726
 
        'bzrlib.tests.test_inventory_delta',
3727
 
        'bzrlib.tests.test_knit',
3728
 
        'bzrlib.tests.test_lazy_import',
3729
 
        'bzrlib.tests.test_lazy_regex',
3730
 
        'bzrlib.tests.test_lock',
3731
 
        'bzrlib.tests.test_lockable_files',
3732
 
        'bzrlib.tests.test_lockdir',
3733
 
        'bzrlib.tests.test_log',
3734
 
        'bzrlib.tests.test_lru_cache',
3735
 
        'bzrlib.tests.test_lsprof',
3736
 
        'bzrlib.tests.test_mail_client',
3737
 
        'bzrlib.tests.test_memorytree',
3738
 
        'bzrlib.tests.test_merge',
3739
 
        'bzrlib.tests.test_merge3',
3740
 
        'bzrlib.tests.test_merge_core',
3741
 
        'bzrlib.tests.test_merge_directive',
3742
 
        'bzrlib.tests.test_missing',
3743
 
        'bzrlib.tests.test_msgeditor',
3744
 
        'bzrlib.tests.test_multiparent',
3745
 
        'bzrlib.tests.test_mutabletree',
3746
 
        'bzrlib.tests.test_nonascii',
3747
 
        'bzrlib.tests.test_options',
3748
 
        'bzrlib.tests.test_osutils',
3749
 
        'bzrlib.tests.test_osutils_encodings',
3750
 
        'bzrlib.tests.test_pack',
3751
 
        'bzrlib.tests.test_patch',
3752
 
        'bzrlib.tests.test_patches',
3753
 
        'bzrlib.tests.test_permissions',
3754
 
        'bzrlib.tests.test_plugins',
3755
 
        'bzrlib.tests.test_progress',
3756
 
        'bzrlib.tests.test_read_bundle',
3757
 
        'bzrlib.tests.test_reconcile',
3758
 
        'bzrlib.tests.test_reconfigure',
3759
 
        'bzrlib.tests.test_registry',
3760
 
        'bzrlib.tests.test_remote',
3761
 
        'bzrlib.tests.test_rename_map',
3762
 
        'bzrlib.tests.test_repository',
3763
 
        'bzrlib.tests.test_revert',
3764
 
        'bzrlib.tests.test_revision',
3765
 
        'bzrlib.tests.test_revisionspec',
3766
 
        'bzrlib.tests.test_revisiontree',
3767
 
        'bzrlib.tests.test_rio',
3768
 
        'bzrlib.tests.test_rules',
3769
 
        'bzrlib.tests.test_sampler',
3770
 
        'bzrlib.tests.test_script',
3771
 
        'bzrlib.tests.test_selftest',
3772
 
        'bzrlib.tests.test_serializer',
3773
 
        'bzrlib.tests.test_setup',
3774
 
        'bzrlib.tests.test_sftp_transport',
3775
 
        'bzrlib.tests.test_shelf',
3776
 
        'bzrlib.tests.test_shelf_ui',
3777
 
        'bzrlib.tests.test_smart',
3778
 
        'bzrlib.tests.test_smart_add',
3779
 
        'bzrlib.tests.test_smart_request',
3780
 
        'bzrlib.tests.test_smart_transport',
3781
 
        'bzrlib.tests.test_smtp_connection',
3782
 
        'bzrlib.tests.test_source',
3783
 
        'bzrlib.tests.test_ssh_transport',
3784
 
        'bzrlib.tests.test_status',
3785
 
        'bzrlib.tests.test_store',
3786
 
        'bzrlib.tests.test_strace',
3787
 
        'bzrlib.tests.test_subsume',
3788
 
        'bzrlib.tests.test_switch',
3789
 
        'bzrlib.tests.test_symbol_versioning',
3790
 
        'bzrlib.tests.test_tag',
3791
 
        'bzrlib.tests.test_testament',
3792
 
        'bzrlib.tests.test_textfile',
3793
 
        'bzrlib.tests.test_textmerge',
3794
 
        'bzrlib.tests.test_timestamp',
3795
 
        'bzrlib.tests.test_trace',
3796
 
        'bzrlib.tests.test_transactions',
3797
 
        'bzrlib.tests.test_transform',
3798
 
        'bzrlib.tests.test_transport',
3799
 
        'bzrlib.tests.test_transport_log',
3800
 
        'bzrlib.tests.test_tree',
3801
 
        'bzrlib.tests.test_treebuilder',
3802
 
        'bzrlib.tests.test_tsort',
3803
 
        'bzrlib.tests.test_tuned_gzip',
3804
 
        'bzrlib.tests.test_ui',
3805
 
        'bzrlib.tests.test_uncommit',
3806
 
        'bzrlib.tests.test_upgrade',
3807
 
        'bzrlib.tests.test_upgrade_stacked',
3808
 
        'bzrlib.tests.test_urlutils',
3809
 
        'bzrlib.tests.test_version',
3810
 
        'bzrlib.tests.test_version_info',
3811
 
        'bzrlib.tests.test_weave',
3812
 
        'bzrlib.tests.test_whitebox',
3813
 
        'bzrlib.tests.test_win32utils',
3814
 
        'bzrlib.tests.test_workingtree',
3815
 
        'bzrlib.tests.test_workingtree_4',
3816
 
        'bzrlib.tests.test_wsgi',
3817
 
        'bzrlib.tests.test_xml',
3818
 
        ]
3819
 
 
3820
 
 
3821
 
def _test_suite_modules_to_doctest():
3822
 
    """Return the list of modules to doctest."""
3823
 
    if __doc__ is None:
3824
 
        # GZ 2009-03-31: No docstrings with -OO so there's nothing to doctest
3825
 
        return []
3826
 
    return [
3827
 
        'bzrlib',
3828
 
        'bzrlib.branchbuilder',
3829
 
        'bzrlib.decorators',
3830
 
        'bzrlib.export',
3831
 
        'bzrlib.inventory',
3832
 
        'bzrlib.iterablefile',
3833
 
        'bzrlib.lockdir',
3834
 
        'bzrlib.merge3',
3835
 
        'bzrlib.option',
3836
 
        'bzrlib.symbol_versioning',
3837
 
        'bzrlib.tests',
3838
 
        'bzrlib.timestamp',
3839
 
        'bzrlib.version_info_formats.format_custom',
3840
 
        ]
3841
 
 
3842
 
 
3843
 
def test_suite(keep_only=None, starting_with=None):
 
2091
 
 
2092
 
 
2093
def test_suite():
3844
2094
    """Build and return TestSuite for the whole of bzrlib.
3845
 
 
3846
 
    :param keep_only: A list of test ids limiting the suite returned.
3847
 
 
3848
 
    :param starting_with: An id limiting the suite returned to the tests
3849
 
         starting with it.
3850
 
 
 
2095
    
3851
2096
    This function can be replaced if you need to change the default test
3852
2097
    suite on a global basis, but it is not encouraged.
3853
2098
    """
3854
 
 
 
2099
    testmod_names = [
 
2100
                   'bzrlib.tests.test_ancestry',
 
2101
                   'bzrlib.tests.test_annotate',
 
2102
                   'bzrlib.tests.test_api',
 
2103
                   'bzrlib.tests.test_atomicfile',
 
2104
                   'bzrlib.tests.test_bad_files',
 
2105
                   'bzrlib.tests.test_branch',
 
2106
                   'bzrlib.tests.test_bundle',
 
2107
                   'bzrlib.tests.test_bzrdir',
 
2108
                   'bzrlib.tests.test_cache_utf8',
 
2109
                   'bzrlib.tests.test_commands',
 
2110
                   'bzrlib.tests.test_commit',
 
2111
                   'bzrlib.tests.test_commit_merge',
 
2112
                   'bzrlib.tests.test_config',
 
2113
                   'bzrlib.tests.test_conflicts',
 
2114
                   'bzrlib.tests.test_decorators',
 
2115
                   'bzrlib.tests.test_delta',
 
2116
                   'bzrlib.tests.test_diff',
 
2117
                   'bzrlib.tests.test_dirstate',
 
2118
                   'bzrlib.tests.test_doc_generate',
 
2119
                   'bzrlib.tests.test_errors',
 
2120
                   'bzrlib.tests.test_escaped_store',
 
2121
                   'bzrlib.tests.test_extract',
 
2122
                   'bzrlib.tests.test_fetch',
 
2123
                   'bzrlib.tests.test_ftp_transport',
 
2124
                   'bzrlib.tests.test_generate_docs',
 
2125
                   'bzrlib.tests.test_generate_ids',
 
2126
                   'bzrlib.tests.test_globbing',
 
2127
                   'bzrlib.tests.test_gpg',
 
2128
                   'bzrlib.tests.test_graph',
 
2129
                   'bzrlib.tests.test_hashcache',
 
2130
                   'bzrlib.tests.test_http',
 
2131
                   'bzrlib.tests.test_http_response',
 
2132
                   'bzrlib.tests.test_https_ca_bundle',
 
2133
                   'bzrlib.tests.test_identitymap',
 
2134
                   'bzrlib.tests.test_ignores',
 
2135
                   'bzrlib.tests.test_inv',
 
2136
                   'bzrlib.tests.test_knit',
 
2137
                   'bzrlib.tests.test_lazy_import',
 
2138
                   'bzrlib.tests.test_lazy_regex',
 
2139
                   'bzrlib.tests.test_lockdir',
 
2140
                   'bzrlib.tests.test_lockable_files',
 
2141
                   'bzrlib.tests.test_log',
 
2142
                   'bzrlib.tests.test_memorytree',
 
2143
                   'bzrlib.tests.test_merge',
 
2144
                   'bzrlib.tests.test_merge3',
 
2145
                   'bzrlib.tests.test_merge_core',
 
2146
                   'bzrlib.tests.test_merge_directive',
 
2147
                   'bzrlib.tests.test_missing',
 
2148
                   'bzrlib.tests.test_msgeditor',
 
2149
                   'bzrlib.tests.test_nonascii',
 
2150
                   'bzrlib.tests.test_options',
 
2151
                   'bzrlib.tests.test_osutils',
 
2152
                   'bzrlib.tests.test_osutils_encodings',
 
2153
                   'bzrlib.tests.test_patch',
 
2154
                   'bzrlib.tests.test_patches',
 
2155
                   'bzrlib.tests.test_permissions',
 
2156
                   'bzrlib.tests.test_plugins',
 
2157
                   'bzrlib.tests.test_progress',
 
2158
                   'bzrlib.tests.test_reconcile',
 
2159
                   'bzrlib.tests.test_registry',
 
2160
                   'bzrlib.tests.test_repository',
 
2161
                   'bzrlib.tests.test_revert',
 
2162
                   'bzrlib.tests.test_revision',
 
2163
                   'bzrlib.tests.test_revisionnamespaces',
 
2164
                   'bzrlib.tests.test_revisiontree',
 
2165
                   'bzrlib.tests.test_rio',
 
2166
                   'bzrlib.tests.test_sampler',
 
2167
                   'bzrlib.tests.test_selftest',
 
2168
                   'bzrlib.tests.test_setup',
 
2169
                   'bzrlib.tests.test_sftp_transport',
 
2170
                   'bzrlib.tests.test_smart_add',
 
2171
                   'bzrlib.tests.test_smart_transport',
 
2172
                   'bzrlib.tests.test_source',
 
2173
                   'bzrlib.tests.test_ssh_transport',
 
2174
                   'bzrlib.tests.test_status',
 
2175
                   'bzrlib.tests.test_store',
 
2176
                   'bzrlib.tests.test_strace',
 
2177
                   'bzrlib.tests.test_subsume',
 
2178
                   'bzrlib.tests.test_symbol_versioning',
 
2179
                   'bzrlib.tests.test_tag',
 
2180
                   'bzrlib.tests.test_testament',
 
2181
                   'bzrlib.tests.test_textfile',
 
2182
                   'bzrlib.tests.test_textmerge',
 
2183
                   'bzrlib.tests.test_timestamp',
 
2184
                   'bzrlib.tests.test_trace',
 
2185
                   'bzrlib.tests.test_transactions',
 
2186
                   'bzrlib.tests.test_transform',
 
2187
                   'bzrlib.tests.test_transport',
 
2188
                   'bzrlib.tests.test_tree',
 
2189
                   'bzrlib.tests.test_treebuilder',
 
2190
                   'bzrlib.tests.test_tsort',
 
2191
                   'bzrlib.tests.test_tuned_gzip',
 
2192
                   'bzrlib.tests.test_ui',
 
2193
                   'bzrlib.tests.test_upgrade',
 
2194
                   'bzrlib.tests.test_urlutils',
 
2195
                   'bzrlib.tests.test_versionedfile',
 
2196
                   'bzrlib.tests.test_version',
 
2197
                   'bzrlib.tests.test_version_info',
 
2198
                   'bzrlib.tests.test_weave',
 
2199
                   'bzrlib.tests.test_whitebox',
 
2200
                   'bzrlib.tests.test_workingtree',
 
2201
                   'bzrlib.tests.test_workingtree_4',
 
2202
                   'bzrlib.tests.test_wsgi',
 
2203
                   'bzrlib.tests.test_xml',
 
2204
                   ]
 
2205
    test_transport_implementations = [
 
2206
        'bzrlib.tests.test_transport_implementations',
 
2207
        'bzrlib.tests.test_read_bundle',
 
2208
        ]
 
2209
    suite = TestUtil.TestSuite()
3855
2210
    loader = TestUtil.TestLoader()
3856
 
 
3857
 
    if keep_only is not None:
3858
 
        id_filter = TestIdList(keep_only)
3859
 
    if starting_with:
3860
 
        # We take precedence over keep_only because *at loading time* using
3861
 
        # both options means we will load less tests for the same final result.
3862
 
        def interesting_module(name):
3863
 
            for start in starting_with:
3864
 
                if (
3865
 
                    # Either the module name starts with the specified string
3866
 
                    name.startswith(start)
3867
 
                    # or it may contain tests starting with the specified string
3868
 
                    or start.startswith(name)
3869
 
                    ):
3870
 
                    return True
3871
 
            return False
3872
 
        loader = TestUtil.FilteredByModuleTestLoader(interesting_module)
3873
 
 
3874
 
    elif keep_only is not None:
3875
 
        loader = TestUtil.FilteredByModuleTestLoader(id_filter.refers_to)
3876
 
        def interesting_module(name):
3877
 
            return id_filter.refers_to(name)
3878
 
 
3879
 
    else:
3880
 
        loader = TestUtil.TestLoader()
3881
 
        def interesting_module(name):
3882
 
            # No filtering, all modules are interesting
3883
 
            return True
3884
 
 
3885
 
    suite = loader.suiteClass()
3886
 
 
3887
 
    # modules building their suite with loadTestsFromModuleNames
3888
 
    suite.addTest(loader.loadTestsFromModuleNames(_test_suite_testmod_names()))
3889
 
 
3890
 
    for mod in _test_suite_modules_to_doctest():
3891
 
        if not interesting_module(mod):
3892
 
            # No tests to keep here, move along
3893
 
            continue
 
2211
    suite.addTest(loader.loadTestsFromModuleNames(testmod_names))
 
2212
    from bzrlib.transport import TransportTestProviderAdapter
 
2213
    adapter = TransportTestProviderAdapter()
 
2214
    adapt_modules(test_transport_implementations, adapter, loader, suite)
 
2215
    for package in packages_to_test():
 
2216
        suite.addTest(package.test_suite())
 
2217
    for m in MODULES_TO_TEST:
 
2218
        suite.addTest(loader.loadTestsFromModule(m))
 
2219
    for m in MODULES_TO_DOCTEST:
3894
2220
        try:
3895
 
            # note that this really does mean "report only" -- doctest
3896
 
            # still runs the rest of the examples
3897
 
            doc_suite = doctest.DocTestSuite(mod,
3898
 
                optionflags=doctest.REPORT_ONLY_FIRST_FAILURE)
 
2221
            suite.addTest(doctest.DocTestSuite(m))
3899
2222
        except ValueError, e:
3900
 
            print '**failed to get doctest for: %s\n%s' % (mod, e)
 
2223
            print '**failed to get doctest for: %s\n%s' %(m,e)
3901
2224
            raise
3902
 
        if len(doc_suite._tests) == 0:
3903
 
            raise errors.BzrError("no doctests found in %s" % (mod,))
3904
 
        suite.addTest(doc_suite)
3905
 
 
3906
 
    default_encoding = sys.getdefaultencoding()
3907
 
    for name, plugin in bzrlib.plugin.plugins().items():
3908
 
        if not interesting_module(plugin.module.__name__):
3909
 
            continue
3910
 
        plugin_suite = plugin.test_suite()
3911
 
        # We used to catch ImportError here and turn it into just a warning,
3912
 
        # but really if you don't have --no-plugins this should be a failure.
3913
 
        # mbp 20080213 - see http://bugs.launchpad.net/bugs/189771
3914
 
        if plugin_suite is None:
3915
 
            plugin_suite = plugin.load_plugin_tests(loader)
3916
 
        if plugin_suite is not None:
3917
 
            suite.addTest(plugin_suite)
3918
 
        if default_encoding != sys.getdefaultencoding():
3919
 
            bzrlib.trace.warning(
3920
 
                'Plugin "%s" tried to reset default encoding to: %s', name,
3921
 
                sys.getdefaultencoding())
3922
 
            reload(sys)
3923
 
            sys.setdefaultencoding(default_encoding)
3924
 
 
3925
 
    if keep_only is not None:
3926
 
        # Now that the referred modules have loaded their tests, keep only the
3927
 
        # requested ones.
3928
 
        suite = filter_suite_by_id_list(suite, id_filter)
3929
 
        # Do some sanity checks on the id_list filtering
3930
 
        not_found, duplicates = suite_matches_id_list(suite, keep_only)
3931
 
        if starting_with:
3932
 
            # The tester has used both keep_only and starting_with, so he is
3933
 
            # already aware that some tests are excluded from the list, there
3934
 
            # is no need to tell him which.
3935
 
            pass
3936
 
        else:
3937
 
            # Some tests mentioned in the list are not in the test suite. The
3938
 
            # list may be out of date, report to the tester.
3939
 
            for id in not_found:
3940
 
                bzrlib.trace.warning('"%s" not found in the test suite', id)
3941
 
        for id in duplicates:
3942
 
            bzrlib.trace.warning('"%s" is used as an id by several tests', id)
3943
 
 
 
2225
    for name, plugin in bzrlib.plugin.all_plugins().items():
 
2226
        if getattr(plugin, 'test_suite', None) is not None:
 
2227
            default_encoding = sys.getdefaultencoding()
 
2228
            try:
 
2229
                plugin_suite = plugin.test_suite()
 
2230
            except ImportError, e:
 
2231
                bzrlib.trace.warning(
 
2232
                    'Unable to test plugin "%s": %s', name, e)
 
2233
            else:
 
2234
                suite.addTest(plugin_suite)
 
2235
            if default_encoding != sys.getdefaultencoding():
 
2236
                bzrlib.trace.warning(
 
2237
                    'Plugin "%s" tried to reset default encoding to: %s', name,
 
2238
                    sys.getdefaultencoding())
 
2239
                reload(sys)
 
2240
                sys.setdefaultencoding(default_encoding)
3944
2241
    return suite
3945
2242
 
3946
2243
 
3947
 
def multiply_scenarios(scenarios_left, scenarios_right):
3948
 
    """Multiply two sets of scenarios.
3949
 
 
3950
 
    :returns: the cartesian product of the two sets of scenarios, that is
3951
 
        a scenario for every possible combination of a left scenario and a
3952
 
        right scenario.
3953
 
    """
3954
 
    return [
3955
 
        ('%s,%s' % (left_name, right_name),
3956
 
         dict(left_dict.items() + right_dict.items()))
3957
 
        for left_name, left_dict in scenarios_left
3958
 
        for right_name, right_dict in scenarios_right]
3959
 
 
3960
 
 
3961
 
def multiply_tests(tests, scenarios, result):
3962
 
    """Multiply tests_list by scenarios into result.
3963
 
 
3964
 
    This is the core workhorse for test parameterisation.
3965
 
 
3966
 
    Typically the load_tests() method for a per-implementation test suite will
3967
 
    call multiply_tests and return the result.
3968
 
 
3969
 
    :param tests: The tests to parameterise.
3970
 
    :param scenarios: The scenarios to apply: pairs of (scenario_name,
3971
 
        scenario_param_dict).
3972
 
    :param result: A TestSuite to add created tests to.
3973
 
 
3974
 
    This returns the passed in result TestSuite with the cross product of all
3975
 
    the tests repeated once for each scenario.  Each test is adapted by adding
3976
 
    the scenario name at the end of its id(), and updating the test object's
3977
 
    __dict__ with the scenario_param_dict.
3978
 
 
3979
 
    >>> import bzrlib.tests.test_sampler
3980
 
    >>> r = multiply_tests(
3981
 
    ...     bzrlib.tests.test_sampler.DemoTest('test_nothing'),
3982
 
    ...     [('one', dict(param=1)),
3983
 
    ...      ('two', dict(param=2))],
3984
 
    ...     TestSuite())
3985
 
    >>> tests = list(iter_suite_tests(r))
3986
 
    >>> len(tests)
3987
 
    2
3988
 
    >>> tests[0].id()
3989
 
    'bzrlib.tests.test_sampler.DemoTest.test_nothing(one)'
3990
 
    >>> tests[0].param
3991
 
    1
3992
 
    >>> tests[1].param
3993
 
    2
3994
 
    """
3995
 
    for test in iter_suite_tests(tests):
3996
 
        apply_scenarios(test, scenarios, result)
3997
 
    return result
3998
 
 
3999
 
 
4000
 
def apply_scenarios(test, scenarios, result):
4001
 
    """Apply the scenarios in scenarios to test and add to result.
4002
 
 
4003
 
    :param test: The test to apply scenarios to.
4004
 
    :param scenarios: An iterable of scenarios to apply to test.
4005
 
    :return: result
4006
 
    :seealso: apply_scenario
4007
 
    """
4008
 
    for scenario in scenarios:
4009
 
        result.addTest(apply_scenario(test, scenario))
4010
 
    return result
4011
 
 
4012
 
 
4013
 
def apply_scenario(test, scenario):
4014
 
    """Copy test and apply scenario to it.
4015
 
 
4016
 
    :param test: A test to adapt.
4017
 
    :param scenario: A tuple describing the scenarion.
4018
 
        The first element of the tuple is the new test id.
4019
 
        The second element is a dict containing attributes to set on the
4020
 
        test.
4021
 
    :return: The adapted test.
4022
 
    """
4023
 
    new_id = "%s(%s)" % (test.id(), scenario[0])
4024
 
    new_test = clone_test(test, new_id)
4025
 
    for name, value in scenario[1].items():
4026
 
        setattr(new_test, name, value)
4027
 
    return new_test
4028
 
 
4029
 
 
4030
 
def clone_test(test, new_id):
4031
 
    """Clone a test giving it a new id.
4032
 
 
4033
 
    :param test: The test to clone.
4034
 
    :param new_id: The id to assign to it.
4035
 
    :return: The new test.
4036
 
    """
4037
 
    new_test = copy(test)
4038
 
    new_test.id = lambda: new_id
4039
 
    return new_test
4040
 
 
4041
 
 
4042
 
def permute_tests_for_extension(standard_tests, loader, py_module_name,
4043
 
                                ext_module_name):
4044
 
    """Helper for permutating tests against an extension module.
4045
 
 
4046
 
    This is meant to be used inside a modules 'load_tests()' function. It will
4047
 
    create 2 scenarios, and cause all tests in the 'standard_tests' to be run
4048
 
    against both implementations. Setting 'test.module' to the appropriate
4049
 
    module. See bzrlib.tests.test__chk_map.load_tests as an example.
4050
 
 
4051
 
    :param standard_tests: A test suite to permute
4052
 
    :param loader: A TestLoader
4053
 
    :param py_module_name: The python path to a python module that can always
4054
 
        be loaded, and will be considered the 'python' implementation. (eg
4055
 
        'bzrlib._chk_map_py')
4056
 
    :param ext_module_name: The python path to an extension module. If the
4057
 
        module cannot be loaded, a single test will be added, which notes that
4058
 
        the module is not available. If it can be loaded, all standard_tests
4059
 
        will be run against that module.
4060
 
    :return: (suite, feature) suite is a test-suite that has all the permuted
4061
 
        tests. feature is the Feature object that can be used to determine if
4062
 
        the module is available.
4063
 
    """
4064
 
 
4065
 
    py_module = __import__(py_module_name, {}, {}, ['NO_SUCH_ATTRIB'])
4066
 
    scenarios = [
4067
 
        ('python', {'module': py_module}),
4068
 
    ]
4069
 
    suite = loader.suiteClass()
4070
 
    feature = ModuleAvailableFeature(ext_module_name)
4071
 
    if feature.available():
4072
 
        scenarios.append(('C', {'module': feature.module}))
4073
 
    else:
4074
 
        # the compiled module isn't available, so we add a failing test
4075
 
        class FailWithoutFeature(TestCase):
4076
 
            def test_fail(self):
4077
 
                self.requireFeature(feature)
4078
 
        suite.addTest(loader.loadTestsFromTestCase(FailWithoutFeature))
4079
 
    result = multiply_tests(standard_tests, scenarios, suite)
4080
 
    return result, feature
4081
 
 
4082
 
 
4083
 
def _rmtree_temp_dir(dirname, test_id=None):
4084
 
    # If LANG=C we probably have created some bogus paths
4085
 
    # which rmtree(unicode) will fail to delete
4086
 
    # so make sure we are using rmtree(str) to delete everything
4087
 
    # except on win32, where rmtree(str) will fail
4088
 
    # since it doesn't have the property of byte-stream paths
4089
 
    # (they are either ascii or mbcs)
4090
 
    if sys.platform == 'win32':
4091
 
        # make sure we are using the unicode win32 api
4092
 
        dirname = unicode(dirname)
4093
 
    else:
4094
 
        dirname = dirname.encode(sys.getfilesystemencoding())
4095
 
    try:
4096
 
        osutils.rmtree(dirname)
4097
 
    except OSError, e:
4098
 
        # We don't want to fail here because some useful display will be lost
4099
 
        # otherwise. Polluting the tmp dir is bad, but not giving all the
4100
 
        # possible info to the test runner is even worse.
4101
 
        if test_id != None:
4102
 
            ui.ui_factory.clear_term()
4103
 
            sys.stderr.write('\nWhile running: %s\n' % (test_id,))
4104
 
        sys.stderr.write('Unable to remove testing dir %s\n%s'
4105
 
                         % (os.path.basename(dirname), e))
 
2244
def adapt_modules(mods_list, adapter, loader, suite):
 
2245
    """Adapt the modules in mods_list using adapter and add to suite."""
 
2246
    for test in iter_suite_tests(loader.loadTestsFromModuleNames(mods_list)):
 
2247
        suite.addTests(adapter.adapt(test))
 
2248
 
 
2249
 
 
2250
def clean_selftest_output(root=None, quiet=False):
 
2251
    """Remove all selftest output directories from root directory.
 
2252
 
 
2253
    :param  root:   root directory for clean
 
2254
                    (if ommitted or None then clean current directory).
 
2255
    :param  quiet:  suppress report about deleting directories
 
2256
    """
 
2257
    import re
 
2258
    import shutil
 
2259
 
 
2260
    re_dir = re.compile(r'''test\d\d\d\d\.tmp''')
 
2261
    if root is None:
 
2262
        root = u'.'
 
2263
    for i in os.listdir(root):
 
2264
        if os.path.isdir(i) and re_dir.match(i):
 
2265
            if not quiet:
 
2266
                print 'delete directory:', i
 
2267
            shutil.rmtree(i)
4106
2268
 
4107
2269
 
4108
2270
class Feature(object):
4131
2293
        if getattr(self, 'feature_name', None):
4132
2294
            return self.feature_name()
4133
2295
        return self.__class__.__name__
4134
 
 
4135
 
 
4136
 
class _SymlinkFeature(Feature):
4137
 
 
4138
 
    def _probe(self):
4139
 
        return osutils.has_symlinks()
4140
 
 
4141
 
    def feature_name(self):
4142
 
        return 'symlinks'
4143
 
 
4144
 
SymlinkFeature = _SymlinkFeature()
4145
 
 
4146
 
 
4147
 
class _HardlinkFeature(Feature):
4148
 
 
4149
 
    def _probe(self):
4150
 
        return osutils.has_hardlinks()
4151
 
 
4152
 
    def feature_name(self):
4153
 
        return 'hardlinks'
4154
 
 
4155
 
HardlinkFeature = _HardlinkFeature()
4156
 
 
4157
 
 
4158
 
class _OsFifoFeature(Feature):
4159
 
 
4160
 
    def _probe(self):
4161
 
        return getattr(os, 'mkfifo', None)
4162
 
 
4163
 
    def feature_name(self):
4164
 
        return 'filesystem fifos'
4165
 
 
4166
 
OsFifoFeature = _OsFifoFeature()
4167
 
 
4168
 
 
4169
 
class _UnicodeFilenameFeature(Feature):
4170
 
    """Does the filesystem support Unicode filenames?"""
4171
 
 
4172
 
    def _probe(self):
4173
 
        try:
4174
 
            # Check for character combinations unlikely to be covered by any
4175
 
            # single non-unicode encoding. We use the characters
4176
 
            # - greek small letter alpha (U+03B1) and
4177
 
            # - braille pattern dots-123456 (U+283F).
4178
 
            os.stat(u'\u03b1\u283f')
4179
 
        except UnicodeEncodeError:
4180
 
            return False
4181
 
        except (IOError, OSError):
4182
 
            # The filesystem allows the Unicode filename but the file doesn't
4183
 
            # exist.
4184
 
            return True
4185
 
        else:
4186
 
            # The filesystem allows the Unicode filename and the file exists,
4187
 
            # for some reason.
4188
 
            return True
4189
 
 
4190
 
UnicodeFilenameFeature = _UnicodeFilenameFeature()
4191
 
 
4192
 
 
4193
 
class _CompatabilityThunkFeature(Feature):
4194
 
    """This feature is just a thunk to another feature.
4195
 
 
4196
 
    It issues a deprecation warning if it is accessed, to let you know that you
4197
 
    should really use a different feature.
4198
 
    """
4199
 
 
4200
 
    def __init__(self, dep_version, module, name,
4201
 
                 replacement_name, replacement_module=None):
4202
 
        super(_CompatabilityThunkFeature, self).__init__()
4203
 
        self._module = module
4204
 
        if replacement_module is None:
4205
 
            replacement_module = module
4206
 
        self._replacement_module = replacement_module
4207
 
        self._name = name
4208
 
        self._replacement_name = replacement_name
4209
 
        self._dep_version = dep_version
4210
 
        self._feature = None
4211
 
 
4212
 
    def _ensure(self):
4213
 
        if self._feature is None:
4214
 
            depr_msg = self._dep_version % ('%s.%s'
4215
 
                                            % (self._module, self._name))
4216
 
            use_msg = ' Use %s.%s instead.' % (self._replacement_module,
4217
 
                                               self._replacement_name)
4218
 
            symbol_versioning.warn(depr_msg + use_msg, DeprecationWarning)
4219
 
            # Import the new feature and use it as a replacement for the
4220
 
            # deprecated one.
4221
 
            mod = __import__(self._replacement_module, {}, {},
4222
 
                             [self._replacement_name])
4223
 
            self._feature = getattr(mod, self._replacement_name)
4224
 
 
4225
 
    def _probe(self):
4226
 
        self._ensure()
4227
 
        return self._feature._probe()
4228
 
 
4229
 
 
4230
 
class ModuleAvailableFeature(Feature):
4231
 
    """This is a feature than describes a module we want to be available.
4232
 
 
4233
 
    Declare the name of the module in __init__(), and then after probing, the
4234
 
    module will be available as 'self.module'.
4235
 
 
4236
 
    :ivar module: The module if it is available, else None.
4237
 
    """
4238
 
 
4239
 
    def __init__(self, module_name):
4240
 
        super(ModuleAvailableFeature, self).__init__()
4241
 
        self.module_name = module_name
4242
 
 
4243
 
    def _probe(self):
4244
 
        try:
4245
 
            self._module = __import__(self.module_name, {}, {}, [''])
4246
 
            return True
4247
 
        except ImportError:
4248
 
            return False
4249
 
 
4250
 
    @property
4251
 
    def module(self):
4252
 
        if self.available(): # Make sure the probe has been done
4253
 
            return self._module
4254
 
        return None
4255
 
 
4256
 
    def feature_name(self):
4257
 
        return self.module_name
4258
 
 
4259
 
 
4260
 
# This is kept here for compatibility, it is recommended to use
4261
 
# 'bzrlib.tests.feature.paramiko' instead
4262
 
ParamikoFeature = _CompatabilityThunkFeature(
4263
 
    deprecated_in((2,1,0)),
4264
 
    'bzrlib.tests.features', 'ParamikoFeature', 'paramiko')
4265
 
 
4266
 
 
4267
 
def probe_unicode_in_user_encoding():
4268
 
    """Try to encode several unicode strings to use in unicode-aware tests.
4269
 
    Return first successfull match.
4270
 
 
4271
 
    :return:  (unicode value, encoded plain string value) or (None, None)
4272
 
    """
4273
 
    possible_vals = [u'm\xb5', u'\xe1', u'\u0410']
4274
 
    for uni_val in possible_vals:
4275
 
        try:
4276
 
            str_val = uni_val.encode(osutils.get_user_encoding())
4277
 
        except UnicodeEncodeError:
4278
 
            # Try a different character
4279
 
            pass
4280
 
        else:
4281
 
            return uni_val, str_val
4282
 
    return None, None
4283
 
 
4284
 
 
4285
 
def probe_bad_non_ascii(encoding):
4286
 
    """Try to find [bad] character with code [128..255]
4287
 
    that cannot be decoded to unicode in some encoding.
4288
 
    Return None if all non-ascii characters is valid
4289
 
    for given encoding.
4290
 
    """
4291
 
    for i in xrange(128, 256):
4292
 
        char = chr(i)
4293
 
        try:
4294
 
            char.decode(encoding)
4295
 
        except UnicodeDecodeError:
4296
 
            return char
4297
 
    return None
4298
 
 
4299
 
 
4300
 
class _HTTPSServerFeature(Feature):
4301
 
    """Some tests want an https Server, check if one is available.
4302
 
 
4303
 
    Right now, the only way this is available is under python2.6 which provides
4304
 
    an ssl module.
4305
 
    """
4306
 
 
4307
 
    def _probe(self):
4308
 
        try:
4309
 
            import ssl
4310
 
            return True
4311
 
        except ImportError:
4312
 
            return False
4313
 
 
4314
 
    def feature_name(self):
4315
 
        return 'HTTPSServer'
4316
 
 
4317
 
 
4318
 
HTTPSServerFeature = _HTTPSServerFeature()
4319
 
 
4320
 
 
4321
 
class _UnicodeFilename(Feature):
4322
 
    """Does the filesystem support Unicode filenames?"""
4323
 
 
4324
 
    def _probe(self):
4325
 
        try:
4326
 
            os.stat(u'\u03b1')
4327
 
        except UnicodeEncodeError:
4328
 
            return False
4329
 
        except (IOError, OSError):
4330
 
            # The filesystem allows the Unicode filename but the file doesn't
4331
 
            # exist.
4332
 
            return True
4333
 
        else:
4334
 
            # The filesystem allows the Unicode filename and the file exists,
4335
 
            # for some reason.
4336
 
            return True
4337
 
 
4338
 
UnicodeFilename = _UnicodeFilename()
4339
 
 
4340
 
 
4341
 
class _UTF8Filesystem(Feature):
4342
 
    """Is the filesystem UTF-8?"""
4343
 
 
4344
 
    def _probe(self):
4345
 
        if osutils._fs_enc.upper() in ('UTF-8', 'UTF8'):
4346
 
            return True
4347
 
        return False
4348
 
 
4349
 
UTF8Filesystem = _UTF8Filesystem()
4350
 
 
4351
 
 
4352
 
class _BreakinFeature(Feature):
4353
 
    """Does this platform support the breakin feature?"""
4354
 
 
4355
 
    def _probe(self):
4356
 
        from bzrlib import breakin
4357
 
        if breakin.determine_signal() is None:
4358
 
            return False
4359
 
        if sys.platform == 'win32':
4360
 
            # Windows doesn't have os.kill, and we catch the SIGBREAK signal.
4361
 
            # We trigger SIGBREAK via a Console api so we need ctypes to
4362
 
            # access the function
4363
 
            try:
4364
 
                import ctypes
4365
 
            except OSError:
4366
 
                return False
4367
 
        return True
4368
 
 
4369
 
    def feature_name(self):
4370
 
        return "SIGQUIT or SIGBREAK w/ctypes on win32"
4371
 
 
4372
 
 
4373
 
BreakinFeature = _BreakinFeature()
4374
 
 
4375
 
 
4376
 
class _CaseInsCasePresFilenameFeature(Feature):
4377
 
    """Is the file-system case insensitive, but case-preserving?"""
4378
 
 
4379
 
    def _probe(self):
4380
 
        fileno, name = tempfile.mkstemp(prefix='MixedCase')
4381
 
        try:
4382
 
            # first check truly case-preserving for created files, then check
4383
 
            # case insensitive when opening existing files.
4384
 
            name = osutils.normpath(name)
4385
 
            base, rel = osutils.split(name)
4386
 
            found_rel = osutils.canonical_relpath(base, name)
4387
 
            return (found_rel == rel
4388
 
                    and os.path.isfile(name.upper())
4389
 
                    and os.path.isfile(name.lower()))
4390
 
        finally:
4391
 
            os.close(fileno)
4392
 
            os.remove(name)
4393
 
 
4394
 
    def feature_name(self):
4395
 
        return "case-insensitive case-preserving filesystem"
4396
 
 
4397
 
CaseInsCasePresFilenameFeature = _CaseInsCasePresFilenameFeature()
4398
 
 
4399
 
 
4400
 
class _CaseInsensitiveFilesystemFeature(Feature):
4401
 
    """Check if underlying filesystem is case-insensitive but *not* case
4402
 
    preserving.
4403
 
    """
4404
 
    # Note that on Windows, Cygwin, MacOS etc, the file-systems are far
4405
 
    # more likely to be case preserving, so this case is rare.
4406
 
 
4407
 
    def _probe(self):
4408
 
        if CaseInsCasePresFilenameFeature.available():
4409
 
            return False
4410
 
 
4411
 
        if TestCaseWithMemoryTransport.TEST_ROOT is None:
4412
 
            root = osutils.mkdtemp(prefix='testbzr-', suffix='.tmp')
4413
 
            TestCaseWithMemoryTransport.TEST_ROOT = root
4414
 
        else:
4415
 
            root = TestCaseWithMemoryTransport.TEST_ROOT
4416
 
        tdir = osutils.mkdtemp(prefix='case-sensitive-probe-', suffix='',
4417
 
            dir=root)
4418
 
        name_a = osutils.pathjoin(tdir, 'a')
4419
 
        name_A = osutils.pathjoin(tdir, 'A')
4420
 
        os.mkdir(name_a)
4421
 
        result = osutils.isdir(name_A)
4422
 
        _rmtree_temp_dir(tdir)
4423
 
        return result
4424
 
 
4425
 
    def feature_name(self):
4426
 
        return 'case-insensitive filesystem'
4427
 
 
4428
 
CaseInsensitiveFilesystemFeature = _CaseInsensitiveFilesystemFeature()
4429
 
 
4430
 
 
4431
 
class _CaseSensitiveFilesystemFeature(Feature):
4432
 
 
4433
 
    def _probe(self):
4434
 
        if CaseInsCasePresFilenameFeature.available():
4435
 
            return False
4436
 
        elif CaseInsensitiveFilesystemFeature.available():
4437
 
            return False
4438
 
        else:
4439
 
            return True
4440
 
 
4441
 
    def feature_name(self):
4442
 
        return 'case-sensitive filesystem'
4443
 
 
4444
 
# new coding style is for feature instances to be lowercase
4445
 
case_sensitive_filesystem_feature = _CaseSensitiveFilesystemFeature()
4446
 
 
4447
 
 
4448
 
# Kept for compatibility, use bzrlib.tests.features.subunit instead
4449
 
SubUnitFeature = _CompatabilityThunkFeature(
4450
 
    deprecated_in((2,1,0)),
4451
 
    'bzrlib.tests.features', 'SubUnitFeature', 'subunit')
4452
 
# Only define SubUnitBzrRunner if subunit is available.
4453
 
try:
4454
 
    from subunit import TestProtocolClient
4455
 
    from subunit.test_results import AutoTimingTestResultDecorator
4456
 
    class SubUnitBzrRunner(TextTestRunner):
4457
 
        def run(self, test):
4458
 
            result = AutoTimingTestResultDecorator(
4459
 
                TestProtocolClient(self.stream))
4460
 
            test.run(result)
4461
 
            return result
4462
 
except ImportError:
4463
 
    pass
4464
 
 
4465
 
class _PosixPermissionsFeature(Feature):
4466
 
 
4467
 
    def _probe(self):
4468
 
        def has_perms():
4469
 
            # create temporary file and check if specified perms are maintained.
4470
 
            import tempfile
4471
 
 
4472
 
            write_perms = stat.S_IRUSR | stat.S_IWUSR | stat.S_IXUSR
4473
 
            f = tempfile.mkstemp(prefix='bzr_perms_chk_')
4474
 
            fd, name = f
4475
 
            os.close(fd)
4476
 
            os.chmod(name, write_perms)
4477
 
 
4478
 
            read_perms = os.stat(name).st_mode & 0777
4479
 
            os.unlink(name)
4480
 
            return (write_perms == read_perms)
4481
 
 
4482
 
        return (os.name == 'posix') and has_perms()
4483
 
 
4484
 
    def feature_name(self):
4485
 
        return 'POSIX permissions support'
4486
 
 
4487
 
posix_permissions_feature = _PosixPermissionsFeature()