/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/tests/__init__.py

  • Committer: Frank Aspell
  • Date: 2009-02-22 16:54:02 UTC
  • mto: This revision was merged to the branch mainline in revision 4256.
  • Revision ID: frankaspell@googlemail.com-20090222165402-2myrucnu7er5w4ha
Fixing various typos

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2010 Canonical Ltd
 
1
# Copyright (C) 2005, 2006, 2007, 2008 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
 
"""Testing framework extensions"""
18
17
 
19
18
# TODO: Perhaps there should be an API to find out if bzr running under the
20
19
# test suite -- some plugins might want to avoid making intrusive changes if
29
28
 
30
29
import atexit
31
30
import codecs
32
 
from copy import copy
33
31
from cStringIO import StringIO
34
32
import difflib
35
33
import doctest
36
34
import errno
37
35
import logging
38
 
import math
39
36
import os
40
37
from pprint import pformat
41
38
import random
42
39
import re
43
40
import shlex
44
41
import stat
45
 
from subprocess import Popen, PIPE, STDOUT
 
42
from subprocess import Popen, PIPE
46
43
import sys
47
44
import tempfile
48
45
import threading
49
46
import time
50
 
import traceback
51
47
import unittest
52
48
import warnings
53
49
 
54
 
import testtools
55
 
# nb: check this before importing anything else from within it
56
 
_testtools_version = getattr(testtools, '__version__', ())
57
 
if _testtools_version < (0, 9, 2):
58
 
    raise ImportError("need at least testtools 0.9.2: %s is %r"
59
 
        % (testtools.__file__, _testtools_version))
60
 
from testtools import content
61
50
 
62
51
from bzrlib import (
63
52
    branchbuilder,
64
53
    bzrdir,
65
 
    chk_map,
66
 
    config,
67
54
    debug,
68
55
    errors,
69
 
    hooks,
70
 
    lock as _mod_lock,
71
56
    memorytree,
72
57
    osutils,
73
58
    progress,
91
76
from bzrlib.merge import merge_inner
92
77
import bzrlib.merge3
93
78
import bzrlib.plugin
94
 
from bzrlib.smart import client, request, server
 
79
from bzrlib.smart import client, server
95
80
import bzrlib.store
96
81
from bzrlib import symbol_versioning
97
82
from bzrlib.symbol_versioning import (
98
83
    DEPRECATED_PARAMETER,
99
84
    deprecated_function,
100
 
    deprecated_in,
101
85
    deprecated_method,
102
86
    deprecated_passed,
103
87
    )
104
88
import bzrlib.trace
105
 
from bzrlib.transport import (
106
 
    get_transport,
107
 
    memory,
108
 
    pathfilter,
109
 
    )
 
89
from bzrlib.transport import get_transport
110
90
import bzrlib.transport
 
91
from bzrlib.transport.local import LocalURLServer
 
92
from bzrlib.transport.memory import MemoryServer
 
93
from bzrlib.transport.readonly import ReadonlyServer
111
94
from bzrlib.trace import mutter, note
112
 
from bzrlib.tests import (
113
 
    test_server,
114
 
    TestUtil,
115
 
    )
 
95
from bzrlib.tests import TestUtil
116
96
from bzrlib.tests.http_server import HttpServer
117
97
from bzrlib.tests.TestUtil import (
118
98
                          TestSuite,
119
99
                          TestLoader,
120
100
                          )
121
101
from bzrlib.tests.treeshape import build_tree_contents
122
 
from bzrlib.ui import NullProgressView
123
 
from bzrlib.ui.text import TextUIFactory
124
102
import bzrlib.version_info_formats.format_custom
125
103
from bzrlib.workingtree import WorkingTree, WorkingTreeFormat2
126
104
 
129
107
# shown frame is the test code, not our assertXYZ.
130
108
__unittest = 1
131
109
 
132
 
default_transport = test_server.LocalURLServer
133
 
 
134
 
 
135
 
_unitialized_attr = object()
136
 
"""A sentinel needed to act as a default value in a method signature."""
137
 
 
138
 
 
139
 
# Subunit result codes, defined here to prevent a hard dependency on subunit.
140
 
SUBUNIT_SEEK_SET = 0
141
 
SUBUNIT_SEEK_CUR = 1
 
110
default_transport = LocalURLServer
142
111
 
143
112
 
144
113
class ExtendedTestResult(unittest._TextTestResult):
158
127
    """
159
128
 
160
129
    stop_early = False
161
 
 
 
130
    
162
131
    def __init__(self, stream, descriptions, verbosity,
163
132
                 bench_history=None,
164
 
                 strict=False,
 
133
                 num_tests=None,
165
134
                 ):
166
135
        """Construct new TestResult.
167
136
 
185
154
            bench_history.write("--date %s %s\n" % (time.time(), revision_id))
186
155
        self._bench_history = bench_history
187
156
        self.ui = ui.ui_factory
188
 
        self.num_tests = 0
 
157
        self.num_tests = num_tests
189
158
        self.error_count = 0
190
159
        self.failure_count = 0
191
160
        self.known_failure_count = 0
194
163
        self.unsupported = {}
195
164
        self.count = 0
196
165
        self._overall_start_time = time.time()
197
 
        self._strict = strict
198
 
 
199
 
    def stopTestRun(self):
200
 
        run = self.testsRun
201
 
        actionTaken = "Ran"
202
 
        stopTime = time.time()
203
 
        timeTaken = stopTime - self.startTime
204
 
        self.printErrors()
205
 
        self.stream.writeln(self.separator2)
206
 
        self.stream.writeln("%s %d test%s in %.3fs" % (actionTaken,
207
 
                            run, run != 1 and "s" or "", timeTaken))
208
 
        self.stream.writeln()
209
 
        if not self.wasSuccessful():
210
 
            self.stream.write("FAILED (")
211
 
            failed, errored = map(len, (self.failures, self.errors))
212
 
            if failed:
213
 
                self.stream.write("failures=%d" % failed)
214
 
            if errored:
215
 
                if failed: self.stream.write(", ")
216
 
                self.stream.write("errors=%d" % errored)
217
 
            if self.known_failure_count:
218
 
                if failed or errored: self.stream.write(", ")
219
 
                self.stream.write("known_failure_count=%d" %
220
 
                    self.known_failure_count)
221
 
            self.stream.writeln(")")
222
 
        else:
223
 
            if self.known_failure_count:
224
 
                self.stream.writeln("OK (known_failures=%d)" %
225
 
                    self.known_failure_count)
226
 
            else:
227
 
                self.stream.writeln("OK")
228
 
        if self.skip_count > 0:
229
 
            skipped = self.skip_count
230
 
            self.stream.writeln('%d test%s skipped' %
231
 
                                (skipped, skipped != 1 and "s" or ""))
232
 
        if self.unsupported:
233
 
            for feature, count in sorted(self.unsupported.items()):
234
 
                self.stream.writeln("Missing feature '%s' skipped %d tests." %
235
 
                    (feature, count))
236
 
        if self._strict:
237
 
            ok = self.wasStrictlySuccessful()
238
 
        else:
239
 
            ok = self.wasSuccessful()
240
 
        if TestCase._first_thread_leaker_id:
241
 
            self.stream.write(
242
 
                '%s is leaking threads among %d leaking tests.\n' % (
243
 
                TestCase._first_thread_leaker_id,
244
 
                TestCase._leaking_threads_tests))
245
 
            # We don't report the main thread as an active one.
246
 
            self.stream.write(
247
 
                '%d non-main threads were left active in the end.\n'
248
 
                % (TestCase._active_threads - 1))
249
 
 
250
 
    def getDescription(self, test):
251
 
        return test.id()
252
 
 
253
 
    def _extractBenchmarkTime(self, testCase, details=None):
 
166
    
 
167
    def _extractBenchmarkTime(self, testCase):
254
168
        """Add a benchmark time for the current test case."""
255
 
        if details and 'benchtime' in details:
256
 
            return float(''.join(details['benchtime'].iter_bytes()))
257
169
        return getattr(testCase, "_benchtime", None)
258
 
 
 
170
    
259
171
    def _elapsedTestTimeString(self):
260
172
        """Return a time string for the overall time the current test has taken."""
261
173
        return self._formatTime(time.time() - self._start_time)
263
175
    def _testTimeString(self, testCase):
264
176
        benchmark_time = self._extractBenchmarkTime(testCase)
265
177
        if benchmark_time is not None:
266
 
            return self._formatTime(benchmark_time) + "*"
 
178
            return "%s/%s" % (
 
179
                self._formatTime(benchmark_time),
 
180
                self._elapsedTestTimeString())
267
181
        else:
268
 
            return self._elapsedTestTimeString()
 
182
            return "           %s" % self._elapsedTestTimeString()
269
183
 
270
184
    def _formatTime(self, seconds):
271
185
        """Format seconds as milliseconds with leading spaces."""
280
194
 
281
195
    def startTest(self, test):
282
196
        unittest.TestResult.startTest(self, test)
283
 
        if self.count == 0:
284
 
            self.startTests()
285
197
        self.report_test_start(test)
286
198
        test.number = self.count
287
199
        self._recordTestStartTime()
288
200
 
289
 
    def startTests(self):
290
 
        import platform
291
 
        if getattr(sys, 'frozen', None) is None:
292
 
            bzr_path = osutils.realpath(sys.argv[0])
293
 
        else:
294
 
            bzr_path = sys.executable
295
 
        self.stream.write(
296
 
            'bzr selftest: %s\n' % (bzr_path,))
297
 
        self.stream.write(
298
 
            '   %s\n' % (
299
 
                    bzrlib.__path__[0],))
300
 
        self.stream.write(
301
 
            '   bzr-%s python-%s %s\n' % (
302
 
                    bzrlib.version_string,
303
 
                    bzrlib._format_version_tuple(sys.version_info),
304
 
                    platform.platform(aliased=1),
305
 
                    ))
306
 
        self.stream.write('\n')
307
 
 
308
201
    def _recordTestStartTime(self):
309
202
        """Record that a test has started."""
310
203
        self._start_time = time.time()
322
215
        Called from the TestCase run() method when the test
323
216
        fails with an unexpected error.
324
217
        """
325
 
        self._post_mortem()
326
 
        unittest.TestResult.addError(self, test, err)
327
 
        self.error_count += 1
328
 
        self.report_error(test, err)
329
 
        if self.stop_early:
330
 
            self.stop()
331
 
        self._cleanupLogFile(test)
 
218
        self._testConcluded(test)
 
219
        if isinstance(err[1], TestSkipped):
 
220
            return self._addSkipped(test, err)
 
221
        elif isinstance(err[1], UnavailableFeature):
 
222
            return self.addNotSupported(test, err[1].args[0])
 
223
        else:
 
224
            unittest.TestResult.addError(self, test, err)
 
225
            self.error_count += 1
 
226
            self.report_error(test, err)
 
227
            if self.stop_early:
 
228
                self.stop()
 
229
            self._cleanupLogFile(test)
332
230
 
333
231
    def addFailure(self, test, err):
334
232
        """Tell result that test failed.
336
234
        Called from the TestCase run() method when the test
337
235
        fails because e.g. an assert() method failed.
338
236
        """
339
 
        self._post_mortem()
340
 
        unittest.TestResult.addFailure(self, test, err)
341
 
        self.failure_count += 1
342
 
        self.report_failure(test, err)
343
 
        if self.stop_early:
344
 
            self.stop()
345
 
        self._cleanupLogFile(test)
 
237
        self._testConcluded(test)
 
238
        if isinstance(err[1], KnownFailure):
 
239
            return self._addKnownFailure(test, err)
 
240
        else:
 
241
            unittest.TestResult.addFailure(self, test, err)
 
242
            self.failure_count += 1
 
243
            self.report_failure(test, err)
 
244
            if self.stop_early:
 
245
                self.stop()
 
246
            self._cleanupLogFile(test)
346
247
 
347
 
    def addSuccess(self, test, details=None):
 
248
    def addSuccess(self, test):
348
249
        """Tell result that test completed successfully.
349
250
 
350
251
        Called from the TestCase run()
351
252
        """
 
253
        self._testConcluded(test)
352
254
        if self._bench_history is not None:
353
 
            benchmark_time = self._extractBenchmarkTime(test, details)
 
255
            benchmark_time = self._extractBenchmarkTime(test)
354
256
            if benchmark_time is not None:
355
257
                self._bench_history.write("%s %s\n" % (
356
258
                    self._formatTime(benchmark_time),
360
262
        unittest.TestResult.addSuccess(self, test)
361
263
        test._log_contents = ''
362
264
 
363
 
    def addExpectedFailure(self, test, err):
 
265
    def _testConcluded(self, test):
 
266
        """Common code when a test has finished.
 
267
 
 
268
        Called regardless of whether it succeded, failed, etc.
 
269
        """
 
270
        pass
 
271
 
 
272
    def _addKnownFailure(self, test, err):
364
273
        self.known_failure_count += 1
365
274
        self.report_known_failure(test, err)
366
275
 
368
277
        """The test will not be run because of a missing feature.
369
278
        """
370
279
        # this can be called in two different ways: it may be that the
371
 
        # test started running, and then raised (through requireFeature)
 
280
        # test started running, and then raised (through addError) 
372
281
        # UnavailableFeature.  Alternatively this method can be called
373
 
        # while probing for features before running the test code proper; in
374
 
        # that case we will see startTest and stopTest, but the test will
375
 
        # never actually run.
 
282
        # while probing for features before running the tests; in that
 
283
        # case we will see startTest and stopTest, but the test will never
 
284
        # actually run.
376
285
        self.unsupported.setdefault(str(feature), 0)
377
286
        self.unsupported[str(feature)] += 1
378
287
        self.report_unsupported(test, feature)
379
288
 
380
 
    def addSkip(self, test, reason):
381
 
        """A test has not run for 'reason'."""
382
 
        self.skip_count += 1
383
 
        self.report_skip(test, reason)
384
 
 
385
 
    def addNotApplicable(self, test, reason):
386
 
        self.not_applicable_count += 1
387
 
        self.report_not_applicable(test, reason)
388
 
 
389
 
    def _post_mortem(self):
390
 
        """Start a PDB post mortem session."""
391
 
        if os.environ.get('BZR_TEST_PDB', None):
392
 
            import pdb;pdb.post_mortem()
393
 
 
394
 
    def progress(self, offset, whence):
395
 
        """The test is adjusting the count of tests to run."""
396
 
        if whence == SUBUNIT_SEEK_SET:
397
 
            self.num_tests = offset
398
 
        elif whence == SUBUNIT_SEEK_CUR:
399
 
            self.num_tests += offset
400
 
        else:
401
 
            raise errors.BzrError("Unknown whence %r" % whence)
 
289
    def _addSkipped(self, test, skip_excinfo):
 
290
        if isinstance(skip_excinfo[1], TestNotApplicable):
 
291
            self.not_applicable_count += 1
 
292
            self.report_not_applicable(test, skip_excinfo)
 
293
        else:
 
294
            self.skip_count += 1
 
295
            self.report_skip(test, skip_excinfo)
 
296
        try:
 
297
            test.tearDown()
 
298
        except KeyboardInterrupt:
 
299
            raise
 
300
        except:
 
301
            self.addError(test, test._exc_info())
 
302
        else:
 
303
            # seems best to treat this as success from point-of-view of unittest
 
304
            # -- it actually does nothing so it barely matters :)
 
305
            unittest.TestResult.addSuccess(self, test)
 
306
            test._log_contents = ''
 
307
 
 
308
    def printErrorList(self, flavour, errors):
 
309
        for test, err in errors:
 
310
            self.stream.writeln(self.separator1)
 
311
            self.stream.write("%s: " % flavour)
 
312
            self.stream.writeln(self.getDescription(test))
 
313
            if getattr(test, '_get_log', None) is not None:
 
314
                self.stream.write('\n')
 
315
                self.stream.write(
 
316
                        ('vvvv[log from %s]' % test.id()).ljust(78,'-'))
 
317
                self.stream.write('\n')
 
318
                self.stream.write(test._get_log())
 
319
                self.stream.write('\n')
 
320
                self.stream.write(
 
321
                        ('^^^^[log from %s]' % test.id()).ljust(78,'-'))
 
322
                self.stream.write('\n')
 
323
            self.stream.writeln(self.separator2)
 
324
            self.stream.writeln("%s" % err)
 
325
 
 
326
    def finished(self):
 
327
        pass
402
328
 
403
329
    def report_cleaning_up(self):
404
330
        pass
405
331
 
406
 
    def startTestRun(self):
407
 
        self.startTime = time.time()
408
 
 
409
332
    def report_success(self, test):
410
333
        pass
411
334
 
420
343
 
421
344
    def __init__(self, stream, descriptions, verbosity,
422
345
                 bench_history=None,
 
346
                 num_tests=None,
423
347
                 pb=None,
424
 
                 strict=None,
425
348
                 ):
426
349
        ExtendedTestResult.__init__(self, stream, descriptions, verbosity,
427
 
            bench_history, strict)
428
 
        # We no longer pass them around, but just rely on the UIFactory stack
429
 
        # for state
430
 
        if pb is not None:
431
 
            warnings.warn("Passing pb to TextTestResult is deprecated")
432
 
        self.pb = self.ui.nested_progress_bar()
 
350
            bench_history, num_tests)
 
351
        if pb is None:
 
352
            self.pb = self.ui.nested_progress_bar()
 
353
            self._supplied_pb = False
 
354
        else:
 
355
            self.pb = pb
 
356
            self._supplied_pb = True
433
357
        self.pb.show_pct = False
434
358
        self.pb.show_spinner = False
435
359
        self.pb.show_eta = False,
436
360
        self.pb.show_count = False
437
361
        self.pb.show_bar = False
438
 
        self.pb.update_latency = 0
439
 
        self.pb.show_transport_activity = False
440
 
 
441
 
    def stopTestRun(self):
442
 
        # called when the tests that are going to run have run
443
 
        self.pb.clear()
444
 
        self.pb.finished()
445
 
        super(TextTestResult, self).stopTestRun()
446
 
 
447
 
    def startTestRun(self):
448
 
        super(TextTestResult, self).startTestRun()
449
 
        self.pb.update('[test 0/%d] Starting' % (self.num_tests))
450
 
 
451
 
    def printErrors(self):
452
 
        # clear the pb to make room for the error listing
453
 
        self.pb.clear()
454
 
        super(TextTestResult, self).printErrors()
 
362
 
 
363
    def report_starting(self):
 
364
        self.pb.update('[test 0/%d] starting...' % (self.num_tests))
455
365
 
456
366
    def _progress_prefix_text(self):
457
367
        # the longer this text, the less space we have to show the test
463
373
        ##     a += ', %d skip' % self.skip_count
464
374
        ## if self.known_failure_count:
465
375
        ##     a += '+%dX' % self.known_failure_count
466
 
        if self.num_tests:
 
376
        if self.num_tests is not None:
467
377
            a +='/%d' % self.num_tests
468
378
        a += ' in '
469
379
        runtime = time.time() - self._overall_start_time
471
381
            a += '%dm%ds' % (runtime / 60, runtime % 60)
472
382
        else:
473
383
            a += '%ds' % runtime
474
 
        total_fail_count = self.error_count + self.failure_count
475
 
        if total_fail_count:
476
 
            a += ', %d failed' % total_fail_count
477
 
        # if self.unsupported:
478
 
        #     a += ', %d missing' % len(self.unsupported)
 
384
        if self.error_count:
 
385
            a += ', %d err' % self.error_count
 
386
        if self.failure_count:
 
387
            a += ', %d fail' % self.failure_count
 
388
        if self.unsupported:
 
389
            a += ', %d missing' % len(self.unsupported)
479
390
        a += ']'
480
391
        return a
481
392
 
483
394
        self.count += 1
484
395
        self.pb.update(
485
396
                self._progress_prefix_text()
486
 
                + ' '
 
397
                + ' ' 
487
398
                + self._shortened_test_description(test))
488
399
 
489
400
    def _test_description(self, test):
490
401
        return self._shortened_test_description(test)
491
402
 
492
403
    def report_error(self, test, err):
493
 
        self.stream.write('ERROR: %s\n    %s\n' % (
 
404
        self.pb.note('ERROR: %s\n    %s\n', 
494
405
            self._test_description(test),
495
406
            err[1],
496
 
            ))
 
407
            )
497
408
 
498
409
    def report_failure(self, test, err):
499
 
        self.stream.write('FAIL: %s\n    %s\n' % (
 
410
        self.pb.note('FAIL: %s\n    %s\n', 
500
411
            self._test_description(test),
501
412
            err[1],
502
 
            ))
 
413
            )
503
414
 
504
415
    def report_known_failure(self, test, err):
505
 
        pass
506
 
 
507
 
    def report_skip(self, test, reason):
508
 
        pass
509
 
 
510
 
    def report_not_applicable(self, test, reason):
 
416
        self.pb.note('XFAIL: %s\n%s\n',
 
417
            self._test_description(test), err[1])
 
418
 
 
419
    def report_skip(self, test, skip_excinfo):
 
420
        pass
 
421
 
 
422
    def report_not_applicable(self, test, skip_excinfo):
511
423
        pass
512
424
 
513
425
    def report_unsupported(self, test, feature):
514
426
        """test cannot be run because feature is missing."""
515
 
 
 
427
                  
516
428
    def report_cleaning_up(self):
517
 
        self.pb.update('Cleaning up')
 
429
        self.pb.update('cleaning up...')
 
430
 
 
431
    def finished(self):
 
432
        if not self._supplied_pb:
 
433
            self.pb.finished()
518
434
 
519
435
 
520
436
class VerboseTestResult(ExtendedTestResult):
528
444
            result = a_string
529
445
        return result.ljust(final_width)
530
446
 
531
 
    def startTestRun(self):
532
 
        super(VerboseTestResult, self).startTestRun()
 
447
    def report_starting(self):
533
448
        self.stream.write('running %d tests...\n' % self.num_tests)
534
449
 
535
450
    def report_test_start(self, test):
536
451
        self.count += 1
537
452
        name = self._shortened_test_description(test)
538
 
        width = osutils.terminal_width()
539
 
        if width is not None:
540
 
            # width needs space for 6 char status, plus 1 for slash, plus an
541
 
            # 11-char time string, plus a trailing blank
542
 
            # when NUMBERED_DIRS: plus 5 chars on test number, plus 1 char on
543
 
            # space
544
 
            self.stream.write(self._ellipsize_to_right(name, width-18))
545
 
        else:
546
 
            self.stream.write(name)
 
453
        # width needs space for 6 char status, plus 1 for slash, plus 2 10-char
 
454
        # numbers, plus a trailing blank
 
455
        # when NUMBERED_DIRS: plus 5 chars on test number, plus 1 char on space
 
456
        self.stream.write(self._ellipsize_to_right(name,
 
457
                          osutils.terminal_width()-30))
547
458
        self.stream.flush()
548
459
 
549
460
    def _error_summary(self, err):
574
485
        # used to show the output in PQM.
575
486
        self.stream.flush()
576
487
 
577
 
    def report_skip(self, test, reason):
 
488
    def report_skip(self, test, skip_excinfo):
578
489
        self.stream.writeln(' SKIP %s\n%s'
579
 
                % (self._testTimeString(test), reason))
 
490
                % (self._testTimeString(test),
 
491
                   self._error_summary(skip_excinfo)))
580
492
 
581
 
    def report_not_applicable(self, test, reason):
582
 
        self.stream.writeln('  N/A %s\n    %s'
583
 
                % (self._testTimeString(test), reason))
 
493
    def report_not_applicable(self, test, skip_excinfo):
 
494
        self.stream.writeln('  N/A %s\n%s'
 
495
                % (self._testTimeString(test),
 
496
                   self._error_summary(skip_excinfo)))
584
497
 
585
498
    def report_unsupported(self, test, feature):
586
499
        """test cannot be run because feature is missing."""
596
509
                 descriptions=0,
597
510
                 verbosity=1,
598
511
                 bench_history=None,
599
 
                 strict=False,
600
 
                 result_decorators=None,
 
512
                 list_only=False
601
513
                 ):
602
 
        """Create a TextTestRunner.
603
 
 
604
 
        :param result_decorators: An optional list of decorators to apply
605
 
            to the result object being used by the runner. Decorators are
606
 
            applied left to right - the first element in the list is the 
607
 
            innermost decorator.
608
 
        """
609
 
        # stream may know claim to know to write unicode strings, but in older
610
 
        # pythons this goes sufficiently wrong that it is a bad idea. (
611
 
        # specifically a built in file with encoding 'UTF-8' will still try
612
 
        # to encode using ascii.
613
 
        new_encoding = osutils.get_terminal_encoding()
614
 
        codec = codecs.lookup(new_encoding)
615
 
        if type(codec) is tuple:
616
 
            # Python 2.4
617
 
            encode = codec[0]
618
 
        else:
619
 
            encode = codec.encode
620
 
        stream = osutils.UnicodeOrBytesToBytesWriter(encode, stream)
621
 
        stream.encoding = new_encoding
622
514
        self.stream = unittest._WritelnDecorator(stream)
623
515
        self.descriptions = descriptions
624
516
        self.verbosity = verbosity
625
517
        self._bench_history = bench_history
626
 
        self._strict = strict
627
 
        self._result_decorators = result_decorators or []
 
518
        self.list_only = list_only
628
519
 
629
520
    def run(self, test):
630
521
        "Run the given test case or test suite."
 
522
        startTime = time.time()
631
523
        if self.verbosity == 1:
632
524
            result_class = TextTestResult
633
525
        elif self.verbosity >= 2:
634
526
            result_class = VerboseTestResult
635
 
        original_result = result_class(self.stream,
 
527
        result = result_class(self.stream,
636
528
                              self.descriptions,
637
529
                              self.verbosity,
638
530
                              bench_history=self._bench_history,
639
 
                              strict=self._strict,
 
531
                              num_tests=test.countTestCases(),
640
532
                              )
641
 
        # Signal to result objects that look at stop early policy to stop,
642
 
        original_result.stop_early = self.stop_on_failure
643
 
        result = original_result
644
 
        for decorator in self._result_decorators:
645
 
            result = decorator(result)
646
 
            result.stop_early = self.stop_on_failure
647
 
        result.startTestRun()
648
 
        try:
 
533
        result.stop_early = self.stop_on_failure
 
534
        result.report_starting()
 
535
        if self.list_only:
 
536
            if self.verbosity >= 2:
 
537
                self.stream.writeln("Listing tests only ...\n")
 
538
            run = 0
 
539
            for t in iter_suite_tests(test):
 
540
                self.stream.writeln("%s" % (t.id()))
 
541
                run += 1
 
542
            actionTaken = "Listed"
 
543
        else: 
649
544
            test.run(result)
650
 
        finally:
651
 
            result.stopTestRun()
652
 
        # higher level code uses our extended protocol to determine
653
 
        # what exit code to give.
654
 
        return original_result
 
545
            run = result.testsRun
 
546
            actionTaken = "Ran"
 
547
        stopTime = time.time()
 
548
        timeTaken = stopTime - startTime
 
549
        result.printErrors()
 
550
        self.stream.writeln(result.separator2)
 
551
        self.stream.writeln("%s %d test%s in %.3fs" % (actionTaken,
 
552
                            run, run != 1 and "s" or "", timeTaken))
 
553
        self.stream.writeln()
 
554
        if not result.wasSuccessful():
 
555
            self.stream.write("FAILED (")
 
556
            failed, errored = map(len, (result.failures, result.errors))
 
557
            if failed:
 
558
                self.stream.write("failures=%d" % failed)
 
559
            if errored:
 
560
                if failed: self.stream.write(", ")
 
561
                self.stream.write("errors=%d" % errored)
 
562
            if result.known_failure_count:
 
563
                if failed or errored: self.stream.write(", ")
 
564
                self.stream.write("known_failure_count=%d" %
 
565
                    result.known_failure_count)
 
566
            self.stream.writeln(")")
 
567
        else:
 
568
            if result.known_failure_count:
 
569
                self.stream.writeln("OK (known_failures=%d)" %
 
570
                    result.known_failure_count)
 
571
            else:
 
572
                self.stream.writeln("OK")
 
573
        if result.skip_count > 0:
 
574
            skipped = result.skip_count
 
575
            self.stream.writeln('%d test%s skipped' %
 
576
                                (skipped, skipped != 1 and "s" or ""))
 
577
        if result.unsupported:
 
578
            for feature, count in sorted(result.unsupported.items()):
 
579
                self.stream.writeln("Missing feature '%s' skipped %d tests." %
 
580
                    (feature, count))
 
581
        result.finished()
 
582
        return result
655
583
 
656
584
 
657
585
def iter_suite_tests(suite):
658
586
    """Return all tests in a suite, recursing through nested suites"""
659
 
    if isinstance(suite, unittest.TestCase):
660
 
        yield suite
661
 
    elif isinstance(suite, unittest.TestSuite):
662
 
        for item in suite:
 
587
    for item in suite._tests:
 
588
        if isinstance(item, unittest.TestCase):
 
589
            yield item
 
590
        elif isinstance(item, unittest.TestSuite):
663
591
            for r in iter_suite_tests(item):
664
592
                yield r
665
 
    else:
666
 
        raise Exception('unknown type %r for object %r'
667
 
                        % (type(suite), suite))
668
 
 
669
 
 
670
 
TestSkipped = testtools.testcase.TestSkipped
 
593
        else:
 
594
            raise Exception('unknown object %r inside test suite %r'
 
595
                            % (item, suite))
 
596
 
 
597
 
 
598
class TestSkipped(Exception):
 
599
    """Indicates that a test was intentionally skipped, rather than failing."""
671
600
 
672
601
 
673
602
class TestNotApplicable(TestSkipped):
674
603
    """A test is not applicable to the situation where it was run.
675
604
 
676
 
    This is only normally raised by parameterized tests, if they find that
677
 
    the instance they're constructed upon does not support one aspect
 
605
    This is only normally raised by parameterized tests, if they find that 
 
606
    the instance they're constructed upon does not support one aspect 
678
607
    of its interface.
679
608
    """
680
609
 
681
610
 
682
 
# traceback._some_str fails to format exceptions that have the default
683
 
# __str__ which does an implicit ascii conversion. However, repr() on those
684
 
# objects works, for all that its not quite what the doctor may have ordered.
685
 
def _clever_some_str(value):
686
 
    try:
687
 
        return str(value)
688
 
    except:
689
 
        try:
690
 
            return repr(value).replace('\\n', '\n')
691
 
        except:
692
 
            return '<unprintable %s object>' % type(value).__name__
693
 
 
694
 
traceback._some_str = _clever_some_str
695
 
 
696
 
 
697
 
# deprecated - use self.knownFailure(), or self.expectFailure.
698
 
KnownFailure = testtools.testcase._ExpectedFailure
 
611
class KnownFailure(AssertionError):
 
612
    """Indicates that a test failed in a precisely expected manner.
 
613
 
 
614
    Such failures dont block the whole test suite from passing because they are
 
615
    indicators of partially completed code or of future work. We have an
 
616
    explicit error for them so that we can ensure that they are always visible:
 
617
    KnownFailures are always shown in the output of bzr selftest.
 
618
    """
699
619
 
700
620
 
701
621
class UnavailableFeature(Exception):
702
622
    """A feature required for this test was not available.
703
623
 
704
 
    This can be considered a specialised form of SkippedTest.
705
 
 
706
624
    The feature should be used to construct the exception.
707
625
    """
708
626
 
709
627
 
 
628
class CommandFailed(Exception):
 
629
    pass
 
630
 
 
631
 
710
632
class StringIOWrapper(object):
711
633
    """A wrapper around cStringIO which just adds an encoding attribute.
712
 
 
 
634
    
713
635
    Internally we can check sys.stdout to see what the output encoding
714
636
    should be. However, cStringIO has no encoding attribute that we can
715
637
    set. So we wrap it instead.
733
655
            return setattr(self._cstring, name, val)
734
656
 
735
657
 
736
 
class TestUIFactory(TextUIFactory):
 
658
class TestUIFactory(ui.CLIUIFactory):
737
659
    """A UI Factory for testing.
738
660
 
739
661
    Hide the progress bar but emit note()s.
740
662
    Redirect stdin.
741
663
    Allows get_password to be tested without real tty attached.
742
 
 
743
 
    See also CannedInputUIFactory which lets you provide programmatic input in
744
 
    a structured way.
745
664
    """
746
 
    # TODO: Capture progress events at the model level and allow them to be
747
 
    # observed by tests that care.
748
 
    #
749
 
    # XXX: Should probably unify more with CannedInputUIFactory or a
750
 
    # particular configuration of TextUIFactory, or otherwise have a clearer
751
 
    # idea of how they're supposed to be different.
752
 
    # See https://bugs.edge.launchpad.net/bzr/+bug/408213
753
665
 
754
 
    def __init__(self, stdout=None, stderr=None, stdin=None):
 
666
    def __init__(self,
 
667
                 stdout=None,
 
668
                 stderr=None,
 
669
                 stdin=None):
 
670
        super(TestUIFactory, self).__init__()
755
671
        if stdin is not None:
756
672
            # We use a StringIOWrapper to be able to test various
757
673
            # encodings, but the user is still responsible to
758
674
            # encode the string and to set the encoding attribute
759
675
            # of StringIOWrapper.
760
 
            stdin = StringIOWrapper(stdin)
761
 
        super(TestUIFactory, self).__init__(stdin, stdout, stderr)
762
 
 
763
 
    def get_non_echoed_password(self):
 
676
            self.stdin = StringIOWrapper(stdin)
 
677
        if stdout is None:
 
678
            self.stdout = sys.stdout
 
679
        else:
 
680
            self.stdout = stdout
 
681
        if stderr is None:
 
682
            self.stderr = sys.stderr
 
683
        else:
 
684
            self.stderr = stderr
 
685
 
 
686
    def clear(self):
 
687
        """See progress.ProgressBar.clear()."""
 
688
 
 
689
    def clear_term(self):
 
690
        """See progress.ProgressBar.clear_term()."""
 
691
 
 
692
    def clear_term(self):
 
693
        """See progress.ProgressBar.clear_term()."""
 
694
 
 
695
    def finished(self):
 
696
        """See progress.ProgressBar.finished()."""
 
697
 
 
698
    def note(self, fmt_string, *args, **kwargs):
 
699
        """See progress.ProgressBar.note()."""
 
700
        self.stdout.write((fmt_string + "\n") % args)
 
701
 
 
702
    def progress_bar(self):
 
703
        return self
 
704
 
 
705
    def nested_progress_bar(self):
 
706
        return self
 
707
 
 
708
    def update(self, message, count=None, total=None):
 
709
        """See progress.ProgressBar.update()."""
 
710
 
 
711
    def get_non_echoed_password(self, prompt):
764
712
        """Get password from stdin without trying to handle the echo mode"""
 
713
        if prompt:
 
714
            self.stdout.write(prompt.encode(self.stdout.encoding, 'replace'))
765
715
        password = self.stdin.readline()
766
716
        if not password:
767
717
            raise EOFError
769
719
            password = password[:-1]
770
720
        return password
771
721
 
772
 
    def make_progress_view(self):
773
 
        return NullProgressView()
774
 
 
775
 
 
776
 
class TestCase(testtools.TestCase):
 
722
 
 
723
def _report_leaked_threads():
 
724
    bzrlib.trace.warning('%s is leaking threads among %d leaking tests',
 
725
                         TestCase._first_thread_leaker_id,
 
726
                         TestCase._leaking_threads_tests)
 
727
 
 
728
 
 
729
class TestCase(unittest.TestCase):
777
730
    """Base class for bzr unit tests.
778
 
 
779
 
    Tests that need access to disk resources should subclass
 
731
    
 
732
    Tests that need access to disk resources should subclass 
780
733
    TestCaseInTempDir not TestCase.
781
734
 
782
735
    Error and debug log messages are redirected from their usual
784
737
    retrieved by _get_log().  We use a real OS file, not an in-memory object,
785
738
    so that it can also capture file IO.  When the test completes this file
786
739
    is read into memory and removed from disk.
787
 
 
 
740
       
788
741
    There are also convenience functions to invoke bzr's command-line
789
742
    routine, and to build and check bzr trees.
790
 
 
 
743
   
791
744
    In addition to the usual method of overriding tearDown(), this class also
792
745
    allows subclasses to register functions into the _cleanups list, which is
793
746
    run in order as the object is torn down.  It's less likely this will be
798
751
    _leaking_threads_tests = 0
799
752
    _first_thread_leaker_id = None
800
753
    _log_file_name = None
 
754
    _log_contents = ''
 
755
    _keep_log_file = False
801
756
    # record lsprof data when performing benchmark calls.
802
757
    _gather_lsprof_in_benchmarks = False
 
758
    attrs_to_keep = ('id', '_testMethodName', '_testMethodDoc',
 
759
                     '_log_contents', '_log_file_name', '_benchtime',
 
760
                     '_TestCase__testMethodName')
803
761
 
804
762
    def __init__(self, methodName='testMethod'):
805
763
        super(TestCase, self).__init__(methodName)
806
764
        self._cleanups = []
807
 
        self._directory_isolation = True
808
 
        self.exception_handlers.insert(0,
809
 
            (UnavailableFeature, self._do_unsupported_or_skip))
810
 
        self.exception_handlers.insert(0,
811
 
            (TestNotApplicable, self._do_not_applicable))
812
765
 
813
766
    def setUp(self):
814
 
        super(TestCase, self).setUp()
815
 
        for feature in getattr(self, '_test_needs_features', []):
816
 
            self.requireFeature(feature)
817
 
        self._log_contents = None
818
 
        self.addDetail("log", content.Content(content.ContentType("text",
819
 
            "plain", {"charset": "utf8"}),
820
 
            lambda:[self._get_log(keep_log_file=True)]))
 
767
        unittest.TestCase.setUp(self)
821
768
        self._cleanEnvironment()
822
769
        self._silenceUI()
823
770
        self._startLogFile()
824
771
        self._benchcalls = []
825
772
        self._benchtime = None
826
773
        self._clear_hooks()
827
 
        self._track_transports()
828
 
        self._track_locks()
829
774
        self._clear_debug_flags()
830
775
        TestCase._active_threads = threading.activeCount()
831
776
        self.addCleanup(self._check_leaked_threads)
832
777
 
833
 
    def debug(self):
834
 
        # debug a frame up.
835
 
        import pdb
836
 
        pdb.Pdb().set_trace(sys._getframe().f_back)
837
 
 
838
778
    def _check_leaked_threads(self):
839
779
        active = threading.activeCount()
840
780
        leaked_threads = active - TestCase._active_threads
841
781
        TestCase._active_threads = active
842
 
        # If some tests make the number of threads *decrease*, we'll consider
843
 
        # that they are just observing old threads dieing, not agressively kill
844
 
        # random threads. So we don't report these tests as leaking. The risk
845
 
        # is that we have false positives that way (the test see 2 threads
846
 
        # going away but leak one) but it seems less likely than the actual
847
 
        # false positives (the test see threads going away and does not leak).
848
 
        if leaked_threads > 0:
 
782
        if leaked_threads:
849
783
            TestCase._leaking_threads_tests += 1
850
784
            if TestCase._first_thread_leaker_id is None:
851
785
                TestCase._first_thread_leaker_id = self.id()
 
786
                # we're not specifically told when all tests are finished.
 
787
                # This will do. We use a function to avoid keeping a reference
 
788
                # to a TestCase object.
 
789
                atexit.register(_report_leaked_threads)
852
790
 
853
791
    def _clear_debug_flags(self):
854
792
        """Prevent externally set debug flags affecting tests.
856
794
        Tests that want to use debug flags can just set them in the
857
795
        debug_flags set during setup/teardown.
858
796
        """
859
 
        # Start with a copy of the current debug flags we can safely modify.
860
 
        self.overrideAttr(debug, 'debug_flags', set(debug.debug_flags))
 
797
        self._preserved_debug_flags = set(debug.debug_flags)
861
798
        if 'allow_debug' not in selftest_debug_flags:
862
799
            debug.debug_flags.clear()
863
 
        if 'disable_lock_checks' not in selftest_debug_flags:
864
 
            debug.debug_flags.add('strict_locks')
 
800
        self.addCleanup(self._restore_debug_flags)
865
801
 
866
802
    def _clear_hooks(self):
867
803
        # prevent hooks affecting tests
868
 
        self._preserved_hooks = {}
869
 
        for key, factory in hooks.known_hooks.items():
870
 
            parent, name = hooks.known_hooks_key_to_parent_and_attribute(key)
871
 
            current_hooks = hooks.known_hooks_key_to_object(key)
872
 
            self._preserved_hooks[parent] = (name, current_hooks)
 
804
        import bzrlib.branch
 
805
        import bzrlib.smart.client
 
806
        import bzrlib.smart.server
 
807
        self._preserved_hooks = {
 
808
            bzrlib.branch.Branch: bzrlib.branch.Branch.hooks,
 
809
            bzrlib.mutabletree.MutableTree: bzrlib.mutabletree.MutableTree.hooks,
 
810
            bzrlib.smart.client._SmartClient: bzrlib.smart.client._SmartClient.hooks,
 
811
            bzrlib.smart.server.SmartTCPServer: bzrlib.smart.server.SmartTCPServer.hooks,
 
812
            bzrlib.commands.Command: bzrlib.commands.Command.hooks,
 
813
            }
873
814
        self.addCleanup(self._restoreHooks)
874
 
        for key, factory in hooks.known_hooks.items():
875
 
            parent, name = hooks.known_hooks_key_to_parent_and_attribute(key)
876
 
            setattr(parent, name, factory())
877
 
        # this hook should always be installed
878
 
        request._install_hook()
879
 
 
880
 
    def disable_directory_isolation(self):
881
 
        """Turn off directory isolation checks."""
882
 
        self._directory_isolation = False
883
 
 
884
 
    def enable_directory_isolation(self):
885
 
        """Enable directory isolation checks."""
886
 
        self._directory_isolation = True
 
815
        # reset all hooks to an empty instance of the appropriate type
 
816
        bzrlib.branch.Branch.hooks = bzrlib.branch.BranchHooks()
 
817
        bzrlib.smart.client._SmartClient.hooks = bzrlib.smart.client.SmartClientHooks()
 
818
        bzrlib.smart.server.SmartTCPServer.hooks = bzrlib.smart.server.SmartServerHooks()
 
819
        bzrlib.commands.Command.hooks = bzrlib.commands.CommandHooks()
887
820
 
888
821
    def _silenceUI(self):
889
822
        """Turn off UI for duration of test"""
890
823
        # by default the UI is off; tests can turn it on if they want it.
891
 
        self.overrideAttr(ui, 'ui_factory', ui.SilentUIFactory())
892
 
 
893
 
    def _check_locks(self):
894
 
        """Check that all lock take/release actions have been paired."""
895
 
        # We always check for mismatched locks. If a mismatch is found, we
896
 
        # fail unless -Edisable_lock_checks is supplied to selftest, in which
897
 
        # case we just print a warning.
898
 
        # unhook:
899
 
        acquired_locks = [lock for action, lock in self._lock_actions
900
 
                          if action == 'acquired']
901
 
        released_locks = [lock for action, lock in self._lock_actions
902
 
                          if action == 'released']
903
 
        broken_locks = [lock for action, lock in self._lock_actions
904
 
                        if action == 'broken']
905
 
        # trivially, given the tests for lock acquistion and release, if we
906
 
        # have as many in each list, it should be ok. Some lock tests also
907
 
        # break some locks on purpose and should be taken into account by
908
 
        # considering that breaking a lock is just a dirty way of releasing it.
909
 
        if len(acquired_locks) != (len(released_locks) + len(broken_locks)):
910
 
            message = ('Different number of acquired and '
911
 
                       'released or broken locks. (%s, %s + %s)' %
912
 
                       (acquired_locks, released_locks, broken_locks))
913
 
            if not self._lock_check_thorough:
914
 
                # Rather than fail, just warn
915
 
                print "Broken test %s: %s" % (self, message)
916
 
                return
917
 
            self.fail(message)
918
 
 
919
 
    def _track_locks(self):
920
 
        """Track lock activity during tests."""
921
 
        self._lock_actions = []
922
 
        if 'disable_lock_checks' in selftest_debug_flags:
923
 
            self._lock_check_thorough = False
924
 
        else:
925
 
            self._lock_check_thorough = True
926
 
 
927
 
        self.addCleanup(self._check_locks)
928
 
        _mod_lock.Lock.hooks.install_named_hook('lock_acquired',
929
 
                                                self._lock_acquired, None)
930
 
        _mod_lock.Lock.hooks.install_named_hook('lock_released',
931
 
                                                self._lock_released, None)
932
 
        _mod_lock.Lock.hooks.install_named_hook('lock_broken',
933
 
                                                self._lock_broken, None)
934
 
 
935
 
    def _lock_acquired(self, result):
936
 
        self._lock_actions.append(('acquired', result))
937
 
 
938
 
    def _lock_released(self, result):
939
 
        self._lock_actions.append(('released', result))
940
 
 
941
 
    def _lock_broken(self, result):
942
 
        self._lock_actions.append(('broken', result))
943
 
 
944
 
    def permit_dir(self, name):
945
 
        """Permit a directory to be used by this test. See permit_url."""
946
 
        name_transport = get_transport(name)
947
 
        self.permit_url(name)
948
 
        self.permit_url(name_transport.base)
949
 
 
950
 
    def permit_url(self, url):
951
 
        """Declare that url is an ok url to use in this test.
952
 
        
953
 
        Do this for memory transports, temporary test directory etc.
954
 
        
955
 
        Do not do this for the current working directory, /tmp, or any other
956
 
        preexisting non isolated url.
957
 
        """
958
 
        if not url.endswith('/'):
959
 
            url += '/'
960
 
        self._bzr_selftest_roots.append(url)
961
 
 
962
 
    def permit_source_tree_branch_repo(self):
963
 
        """Permit the source tree bzr is running from to be opened.
964
 
 
965
 
        Some code such as bzrlib.version attempts to read from the bzr branch
966
 
        that bzr is executing from (if any). This method permits that directory
967
 
        to be used in the test suite.
968
 
        """
969
 
        path = self.get_source_path()
970
 
        self.record_directory_isolation()
971
 
        try:
972
 
            try:
973
 
                workingtree.WorkingTree.open(path)
974
 
            except (errors.NotBranchError, errors.NoWorkingTree):
975
 
                return
976
 
        finally:
977
 
            self.enable_directory_isolation()
978
 
 
979
 
    def _preopen_isolate_transport(self, transport):
980
 
        """Check that all transport openings are done in the test work area."""
981
 
        while isinstance(transport, pathfilter.PathFilteringTransport):
982
 
            # Unwrap pathfiltered transports
983
 
            transport = transport.server.backing_transport.clone(
984
 
                transport._filter('.'))
985
 
        url = transport.base
986
 
        # ReadonlySmartTCPServer_for_testing decorates the backing transport
987
 
        # urls it is given by prepending readonly+. This is appropriate as the
988
 
        # client shouldn't know that the server is readonly (or not readonly).
989
 
        # We could register all servers twice, with readonly+ prepending, but
990
 
        # that makes for a long list; this is about the same but easier to
991
 
        # read.
992
 
        if url.startswith('readonly+'):
993
 
            url = url[len('readonly+'):]
994
 
        self._preopen_isolate_url(url)
995
 
 
996
 
    def _preopen_isolate_url(self, url):
997
 
        if not self._directory_isolation:
998
 
            return
999
 
        if self._directory_isolation == 'record':
1000
 
            self._bzr_selftest_roots.append(url)
1001
 
            return
1002
 
        # This prevents all transports, including e.g. sftp ones backed on disk
1003
 
        # from working unless they are explicitly granted permission. We then
1004
 
        # depend on the code that sets up test transports to check that they are
1005
 
        # appropriately isolated and enable their use by calling
1006
 
        # self.permit_transport()
1007
 
        if not osutils.is_inside_any(self._bzr_selftest_roots, url):
1008
 
            raise errors.BzrError("Attempt to escape test isolation: %r %r"
1009
 
                % (url, self._bzr_selftest_roots))
1010
 
 
1011
 
    def record_directory_isolation(self):
1012
 
        """Gather accessed directories to permit later access.
1013
 
        
1014
 
        This is used for tests that access the branch bzr is running from.
1015
 
        """
1016
 
        self._directory_isolation = "record"
1017
 
 
1018
 
    def start_server(self, transport_server, backing_server=None):
1019
 
        """Start transport_server for this test.
1020
 
 
1021
 
        This starts the server, registers a cleanup for it and permits the
1022
 
        server's urls to be used.
1023
 
        """
1024
 
        if backing_server is None:
1025
 
            transport_server.start_server()
1026
 
        else:
1027
 
            transport_server.start_server(backing_server)
1028
 
        self.addCleanup(transport_server.stop_server)
1029
 
        # Obtain a real transport because if the server supplies a password, it
1030
 
        # will be hidden from the base on the client side.
1031
 
        t = get_transport(transport_server.get_url())
1032
 
        # Some transport servers effectively chroot the backing transport;
1033
 
        # others like SFTPServer don't - users of the transport can walk up the
1034
 
        # transport to read the entire backing transport. This wouldn't matter
1035
 
        # except that the workdir tests are given - and that they expect the
1036
 
        # server's url to point at - is one directory under the safety net. So
1037
 
        # Branch operations into the transport will attempt to walk up one
1038
 
        # directory. Chrooting all servers would avoid this but also mean that
1039
 
        # we wouldn't be testing directly against non-root urls. Alternatively
1040
 
        # getting the test framework to start the server with a backing server
1041
 
        # at the actual safety net directory would work too, but this then
1042
 
        # means that the self.get_url/self.get_transport methods would need
1043
 
        # to transform all their results. On balance its cleaner to handle it
1044
 
        # here, and permit a higher url when we have one of these transports.
1045
 
        if t.base.endswith('/work/'):
1046
 
            # we have safety net/test root/work
1047
 
            t = t.clone('../..')
1048
 
        elif isinstance(transport_server,
1049
 
                        test_server.SmartTCPServer_for_testing):
1050
 
            # The smart server adds a path similar to work, which is traversed
1051
 
            # up from by the client. But the server is chrooted - the actual
1052
 
            # backing transport is not escaped from, and VFS requests to the
1053
 
            # root will error (because they try to escape the chroot).
1054
 
            t2 = t.clone('..')
1055
 
            while t2.base != t.base:
1056
 
                t = t2
1057
 
                t2 = t.clone('..')
1058
 
        self.permit_url(t.base)
1059
 
 
1060
 
    def _track_transports(self):
1061
 
        """Install checks for transport usage."""
1062
 
        # TestCase has no safe place it can write to.
1063
 
        self._bzr_selftest_roots = []
1064
 
        # Currently the easiest way to be sure that nothing is going on is to
1065
 
        # hook into bzr dir opening. This leaves a small window of error for
1066
 
        # transport tests, but they are well known, and we can improve on this
1067
 
        # step.
1068
 
        bzrdir.BzrDir.hooks.install_named_hook("pre_open",
1069
 
            self._preopen_isolate_transport, "Check bzr directories are safe.")
 
824
        saved = ui.ui_factory
 
825
        def _restore():
 
826
            ui.ui_factory = saved
 
827
        ui.ui_factory = ui.SilentUIFactory()
 
828
        self.addCleanup(_restore)
1070
829
 
1071
830
    def _ndiff_strings(self, a, b):
1072
831
        """Return ndiff between two strings containing lines.
1073
 
 
 
832
        
1074
833
        A trailing newline is added if missing to make the strings
1075
834
        print properly."""
1076
835
        if b and b[-1] != '\n':
1101
860
 
1102
861
    def assertEqualDiff(self, a, b, message=None):
1103
862
        """Assert two texts are equal, if not raise an exception.
1104
 
 
1105
 
        This is intended for use with multi-line strings where it can
 
863
        
 
864
        This is intended for use with multi-line strings where it can 
1106
865
        be hard to find the differences by eye.
1107
866
        """
1108
867
        # TODO: perhaps override assertEquals to call this for strings?
1110
869
            return
1111
870
        if message is None:
1112
871
            message = "texts not equal:\n"
 
872
        if a == b + '\n':
 
873
            message = 'first string is missing a final newline.\n'
1113
874
        if a + '\n' == b:
1114
 
            message = 'first string is missing a final newline.\n'
1115
 
        if a == b + '\n':
1116
875
            message = 'second string is missing a final newline.\n'
1117
876
        raise AssertionError(message +
1118
877
                             self._ndiff_strings(a, b))
1119
 
 
 
878
        
1120
879
    def assertEqualMode(self, mode, mode_test):
1121
880
        self.assertEqual(mode, mode_test,
1122
881
                         'mode mismatch %o != %o' % (mode, mode_test))
1129
888
        :raises AssertionError: If the expected and actual stat values differ
1130
889
            other than by atime.
1131
890
        """
1132
 
        self.assertEqual(expected.st_size, actual.st_size,
1133
 
                         'st_size did not match')
1134
 
        self.assertEqual(expected.st_mtime, actual.st_mtime,
1135
 
                         'st_mtime did not match')
1136
 
        self.assertEqual(expected.st_ctime, actual.st_ctime,
1137
 
                         'st_ctime did not match')
1138
 
        if sys.platform != 'win32':
1139
 
            # On Win32 both 'dev' and 'ino' cannot be trusted. In python2.4 it
1140
 
            # is 'dev' that varies, in python 2.5 (6?) it is st_ino that is
1141
 
            # odd. Regardless we shouldn't actually try to assert anything
1142
 
            # about their values
1143
 
            self.assertEqual(expected.st_dev, actual.st_dev,
1144
 
                             'st_dev did not match')
1145
 
            self.assertEqual(expected.st_ino, actual.st_ino,
1146
 
                             'st_ino did not match')
1147
 
        self.assertEqual(expected.st_mode, actual.st_mode,
1148
 
                         'st_mode did not match')
1149
 
 
1150
 
    def assertLength(self, length, obj_with_len):
1151
 
        """Assert that obj_with_len is of length length."""
1152
 
        if len(obj_with_len) != length:
1153
 
            self.fail("Incorrect length: wanted %d, got %d for %r" % (
1154
 
                length, len(obj_with_len), obj_with_len))
1155
 
 
1156
 
    def assertLogsError(self, exception_class, func, *args, **kwargs):
1157
 
        """Assert that func(*args, **kwargs) quietly logs a specific exception.
1158
 
        """
1159
 
        from bzrlib import trace
1160
 
        captured = []
1161
 
        orig_log_exception_quietly = trace.log_exception_quietly
1162
 
        try:
1163
 
            def capture():
1164
 
                orig_log_exception_quietly()
1165
 
                captured.append(sys.exc_info())
1166
 
            trace.log_exception_quietly = capture
1167
 
            func(*args, **kwargs)
1168
 
        finally:
1169
 
            trace.log_exception_quietly = orig_log_exception_quietly
1170
 
        self.assertLength(1, captured)
1171
 
        err = captured[0][1]
1172
 
        self.assertIsInstance(err, exception_class)
1173
 
        return err
 
891
        self.assertEqual(expected.st_size, actual.st_size)
 
892
        self.assertEqual(expected.st_mtime, actual.st_mtime)
 
893
        self.assertEqual(expected.st_ctime, actual.st_ctime)
 
894
        self.assertEqual(expected.st_dev, actual.st_dev)
 
895
        self.assertEqual(expected.st_ino, actual.st_ino)
 
896
        self.assertEqual(expected.st_mode, actual.st_mode)
1174
897
 
1175
898
    def assertPositive(self, val):
1176
899
        """Assert that val is greater than 0."""
1207
930
            raise AssertionError('pattern "%s" found in "%s"'
1208
931
                    % (needle_re, haystack))
1209
932
 
1210
 
    def assertContainsString(self, haystack, needle):
1211
 
        if haystack.find(needle) == -1:
1212
 
            self.fail("string %r not found in '''%s'''" % (needle, haystack))
1213
 
 
1214
933
    def assertSubset(self, sublist, superlist):
1215
934
        """Assert that every entry in sublist is present in superlist."""
1216
935
        missing = set(sublist) - set(superlist)
1220
939
 
1221
940
    def assertListRaises(self, excClass, func, *args, **kwargs):
1222
941
        """Fail unless excClass is raised when the iterator from func is used.
1223
 
 
 
942
        
1224
943
        Many functions can return generators this makes sure
1225
944
        to wrap them in a list() call to make sure the whole generator
1226
945
        is run, and that the proper exception is raised.
1274
993
 
1275
994
    def assertTransportMode(self, transport, path, mode):
1276
995
        """Fail if a path does not have mode "mode".
1277
 
 
 
996
        
1278
997
        If modes are not supported on this transport, the assertion is ignored.
1279
998
        """
1280
999
        if not transport._can_roundtrip_unix_modebits():
1282
1001
        path_stat = transport.stat(path)
1283
1002
        actual_mode = stat.S_IMODE(path_stat.st_mode)
1284
1003
        self.assertEqual(mode, actual_mode,
1285
 
                         'mode of %r incorrect (%s != %s)'
1286
 
                         % (path, oct(mode), oct(actual_mode)))
 
1004
            'mode of %r incorrect (%o != %o)' % (path, mode, actual_mode))
1287
1005
 
1288
1006
    def assertIsSameRealPath(self, path1, path2):
1289
1007
        """Fail if path1 and path2 points to different files"""
1291
1009
                         osutils.realpath(path2),
1292
1010
                         "apparent paths:\na = %s\nb = %s\n," % (path1, path2))
1293
1011
 
1294
 
    def assertIsInstance(self, obj, kls, msg=None):
1295
 
        """Fail if obj is not an instance of kls
1296
 
        
1297
 
        :param msg: Supplementary message to show if the assertion fails.
1298
 
        """
 
1012
    def assertIsInstance(self, obj, kls):
 
1013
        """Fail if obj is not an instance of kls"""
1299
1014
        if not isinstance(obj, kls):
1300
 
            m = "%r is an instance of %s rather than %s" % (
1301
 
                obj, obj.__class__, kls)
1302
 
            if msg:
1303
 
                m += ": " + msg
1304
 
            self.fail(m)
 
1015
            self.fail("%r is an instance of %s rather than %s" % (
 
1016
                obj, obj.__class__, kls))
 
1017
 
 
1018
    def expectFailure(self, reason, assertion, *args, **kwargs):
 
1019
        """Invoke a test, expecting it to fail for the given reason.
 
1020
 
 
1021
        This is for assertions that ought to succeed, but currently fail.
 
1022
        (The failure is *expected* but not *wanted*.)  Please be very precise
 
1023
        about the failure you're expecting.  If a new bug is introduced,
 
1024
        AssertionError should be raised, not KnownFailure.
 
1025
 
 
1026
        Frequently, expectFailure should be followed by an opposite assertion.
 
1027
        See example below.
 
1028
 
 
1029
        Intended to be used with a callable that raises AssertionError as the
 
1030
        'assertion' parameter.  args and kwargs are passed to the 'assertion'.
 
1031
 
 
1032
        Raises KnownFailure if the test fails.  Raises AssertionError if the
 
1033
        test succeeds.
 
1034
 
 
1035
        example usage::
 
1036
 
 
1037
          self.expectFailure('Math is broken', self.assertNotEqual, 54,
 
1038
                             dynamic_val)
 
1039
          self.assertEqual(42, dynamic_val)
 
1040
 
 
1041
          This means that a dynamic_val of 54 will cause the test to raise
 
1042
          a KnownFailure.  Once math is fixed and the expectFailure is removed,
 
1043
          only a dynamic_val of 42 will allow the test to pass.  Anything other
 
1044
          than 54 or 42 will cause an AssertionError.
 
1045
        """
 
1046
        try:
 
1047
            assertion(*args, **kwargs)
 
1048
        except AssertionError:
 
1049
            raise KnownFailure(reason)
 
1050
        else:
 
1051
            self.fail('Unexpected success.  Should have failed: %s' % reason)
1305
1052
 
1306
1053
    def assertFileEqual(self, content, path):
1307
1054
        """Fail if path does not contain 'content'."""
1313
1060
            f.close()
1314
1061
        self.assertEqualDiff(content, s)
1315
1062
 
1316
 
    def assertDocstring(self, expected_docstring, obj):
1317
 
        """Fail if obj does not have expected_docstring"""
1318
 
        if __doc__ is None:
1319
 
            # With -OO the docstring should be None instead
1320
 
            self.assertIs(obj.__doc__, None)
1321
 
        else:
1322
 
            self.assertEqual(expected_docstring, obj.__doc__)
1323
 
 
1324
1063
    def failUnlessExists(self, path):
1325
1064
        """Fail unless path or paths, which may be abs or relative, exist."""
1326
1065
        if not isinstance(path, basestring):
1431
1170
    def callDeprecated(self, expected, callable, *args, **kwargs):
1432
1171
        """Assert that a callable is deprecated in a particular way.
1433
1172
 
1434
 
        This is a very precise test for unusual requirements. The
 
1173
        This is a very precise test for unusual requirements. The 
1435
1174
        applyDeprecated helper function is probably more suited for most tests
1436
1175
        as it allows you to simply specify the deprecation format being used
1437
1176
        and will ensure that that is issued for the function being called.
1466
1205
 
1467
1206
        Close the file and delete it, unless setKeepLogfile was called.
1468
1207
        """
1469
 
        if bzrlib.trace._trace_file:
1470
 
            # flush the log file, to get all content
1471
 
            bzrlib.trace._trace_file.flush()
 
1208
        if self._log_file is None:
 
1209
            return
1472
1210
        bzrlib.trace.pop_log_file(self._log_memento)
1473
 
        # Cache the log result and delete the file on disk
1474
 
        self._get_log(False)
1475
 
 
1476
 
    def thisFailsStrictLockCheck(self):
1477
 
        """It is known that this test would fail with -Dstrict_locks.
1478
 
 
1479
 
        By default, all tests are run with strict lock checking unless
1480
 
        -Edisable_lock_checks is supplied. However there are some tests which
1481
 
        we know fail strict locks at this point that have not been fixed.
1482
 
        They should call this function to disable the strict checking.
1483
 
 
1484
 
        This should be used sparingly, it is much better to fix the locking
1485
 
        issues rather than papering over the problem by calling this function.
1486
 
        """
1487
 
        debug.debug_flags.discard('strict_locks')
 
1211
        self._log_file.close()
 
1212
        self._log_file = None
 
1213
        if not self._keep_log_file:
 
1214
            os.remove(self._log_file_name)
 
1215
            self._log_file_name = None
 
1216
 
 
1217
    def setKeepLogfile(self):
 
1218
        """Make the logfile not be deleted when _finishLogFile is called."""
 
1219
        self._keep_log_file = True
1488
1220
 
1489
1221
    def addCleanup(self, callable, *args, **kwargs):
1490
1222
        """Arrange to run a callable when this case is torn down.
1491
1223
 
1492
 
        Callables are run in the reverse of the order they are registered,
 
1224
        Callables are run in the reverse of the order they are registered, 
1493
1225
        ie last-in first-out.
1494
1226
        """
1495
1227
        self._cleanups.append((callable, args, kwargs))
1496
1228
 
1497
 
    def overrideAttr(self, obj, attr_name, new=_unitialized_attr):
1498
 
        """Overrides an object attribute restoring it after the test.
1499
 
 
1500
 
        :param obj: The object that will be mutated.
1501
 
 
1502
 
        :param attr_name: The attribute name we want to preserve/override in
1503
 
            the object.
1504
 
 
1505
 
        :param new: The optional value we want to set the attribute to.
1506
 
 
1507
 
        :returns: The actual attr value.
1508
 
        """
1509
 
        value = getattr(obj, attr_name)
1510
 
        # The actual value is captured by the call below
1511
 
        self.addCleanup(setattr, obj, attr_name, value)
1512
 
        if new is not _unitialized_attr:
1513
 
            setattr(obj, attr_name, new)
1514
 
        return value
1515
 
 
1516
1229
    def _cleanEnvironment(self):
1517
1230
        new_env = {
1518
1231
            'BZR_HOME': None, # Don't inherit BZR_HOME to all the tests.
1520
1233
            # bzr now uses the Win32 API and doesn't rely on APPDATA, but the
1521
1234
            # tests do check our impls match APPDATA
1522
1235
            'BZR_EDITOR': None, # test_msgeditor manipulates this variable
1523
 
            'VISUAL': None,
1524
 
            'EDITOR': None,
1525
1236
            'BZR_EMAIL': None,
1526
1237
            'BZREMAIL': None, # may still be present in the environment
1527
1238
            'EMAIL': None,
1528
1239
            'BZR_PROGRESS_BAR': None,
1529
1240
            'BZR_LOG': None,
1530
1241
            'BZR_PLUGIN_PATH': None,
1531
 
            'BZR_DISABLE_PLUGINS': None,
1532
 
            'BZR_PLUGINS_AT': None,
1533
 
            'BZR_CONCURRENCY': None,
1534
 
            # Make sure that any text ui tests are consistent regardless of
1535
 
            # the environment the test case is run in; you may want tests that
1536
 
            # test other combinations.  'dumb' is a reasonable guess for tests
1537
 
            # going to a pipe or a StringIO.
1538
 
            'TERM': 'dumb',
1539
 
            'LINES': '25',
1540
 
            'COLUMNS': '80',
1541
 
            'BZR_COLUMNS': '80',
1542
1242
            # SSH Agent
1543
1243
            'SSH_AUTH_SOCK': None,
1544
1244
            # Proxies
1550
1250
            'NO_PROXY': None,
1551
1251
            'all_proxy': None,
1552
1252
            'ALL_PROXY': None,
1553
 
            # Nobody cares about ftp_proxy, FTP_PROXY AFAIK. So far at
 
1253
            # Nobody cares about these ones AFAIK. So far at
1554
1254
            # least. If you do (care), please update this comment
1555
 
            # -- vila 20080401
 
1255
            # -- vila 20061212
1556
1256
            'ftp_proxy': None,
1557
1257
            'FTP_PROXY': None,
1558
1258
            'BZR_REMOTE_PATH': None,
1559
 
            # Generally speaking, we don't want apport reporting on crashes in
1560
 
            # the test envirnoment unless we're specifically testing apport,
1561
 
            # so that it doesn't leak into the real system environment.  We
1562
 
            # use an env var so it propagates to subprocesses.
1563
 
            'APPORT_DISABLE': '1',
1564
1259
        }
1565
 
        self._old_env = {}
 
1260
        self.__old_env = {}
1566
1261
        self.addCleanup(self._restoreEnvironment)
1567
1262
        for name, value in new_env.iteritems():
1568
1263
            self._captureVar(name, value)
1569
1264
 
1570
1265
    def _captureVar(self, name, newvalue):
1571
1266
        """Set an environment variable, and reset it when finished."""
1572
 
        self._old_env[name] = osutils.set_or_unset_env(name, newvalue)
 
1267
        self.__old_env[name] = osutils.set_or_unset_env(name, newvalue)
 
1268
 
 
1269
    def _restore_debug_flags(self):
 
1270
        debug.debug_flags.clear()
 
1271
        debug.debug_flags.update(self._preserved_debug_flags)
1573
1272
 
1574
1273
    def _restoreEnvironment(self):
1575
 
        for name, value in self._old_env.iteritems():
 
1274
        for name, value in self.__old_env.iteritems():
1576
1275
            osutils.set_or_unset_env(name, value)
1577
1276
 
1578
1277
    def _restoreHooks(self):
1579
 
        for klass, (name, hooks) in self._preserved_hooks.items():
1580
 
            setattr(klass, name, hooks)
 
1278
        for klass, hooks in self._preserved_hooks.items():
 
1279
            setattr(klass, 'hooks', hooks)
1581
1280
 
1582
1281
    def knownFailure(self, reason):
1583
1282
        """This test has failed for some known reason."""
1584
1283
        raise KnownFailure(reason)
1585
1284
 
1586
 
    def _do_skip(self, result, reason):
1587
 
        addSkip = getattr(result, 'addSkip', None)
1588
 
        if not callable(addSkip):
1589
 
            result.addSuccess(result)
1590
 
        else:
1591
 
            addSkip(self, reason)
1592
 
 
1593
 
    @staticmethod
1594
 
    def _do_known_failure(self, result, e):
1595
 
        err = sys.exc_info()
1596
 
        addExpectedFailure = getattr(result, 'addExpectedFailure', None)
1597
 
        if addExpectedFailure is not None:
1598
 
            addExpectedFailure(self, err)
1599
 
        else:
1600
 
            result.addSuccess(self)
1601
 
 
1602
 
    @staticmethod
1603
 
    def _do_not_applicable(self, result, e):
1604
 
        if not e.args:
1605
 
            reason = 'No reason given'
1606
 
        else:
1607
 
            reason = e.args[0]
1608
 
        addNotApplicable = getattr(result, 'addNotApplicable', None)
1609
 
        if addNotApplicable is not None:
1610
 
            result.addNotApplicable(self, reason)
1611
 
        else:
1612
 
            self._do_skip(result, reason)
1613
 
 
1614
 
    @staticmethod
1615
 
    def _do_unsupported_or_skip(self, result, e):
1616
 
        reason = e.args[0]
1617
 
        addNotSupported = getattr(result, 'addNotSupported', None)
1618
 
        if addNotSupported is not None:
1619
 
            result.addNotSupported(self, reason)
1620
 
        else:
1621
 
            self._do_skip(result, reason)
 
1285
    def run(self, result=None):
 
1286
        if result is None: result = self.defaultTestResult()
 
1287
        for feature in getattr(self, '_test_needs_features', []):
 
1288
            if not feature.available():
 
1289
                result.startTest(self)
 
1290
                if getattr(result, 'addNotSupported', None):
 
1291
                    result.addNotSupported(self, feature)
 
1292
                else:
 
1293
                    result.addSuccess(self)
 
1294
                result.stopTest(self)
 
1295
                return
 
1296
        try:
 
1297
            return unittest.TestCase.run(self, result)
 
1298
        finally:
 
1299
            saved_attrs = {}
 
1300
            absent_attr = object()
 
1301
            for attr_name in self.attrs_to_keep:
 
1302
                attr = getattr(self, attr_name, absent_attr)
 
1303
                if attr is not absent_attr:
 
1304
                    saved_attrs[attr_name] = attr
 
1305
            self.__dict__ = saved_attrs
 
1306
 
 
1307
    def tearDown(self):
 
1308
        self._runCleanups()
 
1309
        unittest.TestCase.tearDown(self)
1622
1310
 
1623
1311
    def time(self, callable, *args, **kwargs):
1624
1312
        """Run callable and accrue the time it takes to the benchmark time.
1625
 
 
 
1313
        
1626
1314
        If lsprofiling is enabled (i.e. by --lsprof-time to bzr selftest) then
1627
1315
        this will cause lsprofile statistics to be gathered and stored in
1628
1316
        self._benchcalls.
1629
1317
        """
1630
1318
        if self._benchtime is None:
1631
 
            self.addDetail('benchtime', content.Content(content.ContentType(
1632
 
                "text", "plain"), lambda:[str(self._benchtime)]))
1633
1319
            self._benchtime = 0
1634
1320
        start = time.time()
1635
1321
        try:
1644
1330
        finally:
1645
1331
            self._benchtime += time.time() - start
1646
1332
 
 
1333
    def _runCleanups(self):
 
1334
        """Run registered cleanup functions. 
 
1335
 
 
1336
        This should only be called from TestCase.tearDown.
 
1337
        """
 
1338
        # TODO: Perhaps this should keep running cleanups even if 
 
1339
        # one of them fails?
 
1340
 
 
1341
        # Actually pop the cleanups from the list so tearDown running
 
1342
        # twice is safe (this happens for skipped tests).
 
1343
        while self._cleanups:
 
1344
            cleanup, args, kwargs = self._cleanups.pop()
 
1345
            cleanup(*args, **kwargs)
 
1346
 
1647
1347
    def log(self, *args):
1648
1348
        mutter(*args)
1649
1349
 
1650
1350
    def _get_log(self, keep_log_file=False):
1651
 
        """Internal helper to get the log from bzrlib.trace for this test.
1652
 
 
1653
 
        Please use self.getDetails, or self.get_log to access this in test case
1654
 
        code.
 
1351
        """Get the log from bzrlib.trace calls from this test.
1655
1352
 
1656
1353
        :param keep_log_file: When True, if the log is still a file on disk
1657
1354
            leave it as a file on disk. When False, if the log is still a file
1659
1356
            self._log_contents.
1660
1357
        :return: A string containing the log.
1661
1358
        """
1662
 
        if self._log_contents is not None:
1663
 
            try:
1664
 
                self._log_contents.decode('utf8')
1665
 
            except UnicodeDecodeError:
1666
 
                unicodestr = self._log_contents.decode('utf8', 'replace')
1667
 
                self._log_contents = unicodestr.encode('utf8')
 
1359
        # flush the log file, to get all content
 
1360
        import bzrlib.trace
 
1361
        if bzrlib.trace._trace_file:
 
1362
            bzrlib.trace._trace_file.flush()
 
1363
        if self._log_contents:
 
1364
            # XXX: this can hardly contain the content flushed above --vila
 
1365
            # 20080128
1668
1366
            return self._log_contents
1669
 
        import bzrlib.trace
1670
 
        if bzrlib.trace._trace_file:
1671
 
            # flush the log file, to get all content
1672
 
            bzrlib.trace._trace_file.flush()
1673
1367
        if self._log_file_name is not None:
1674
1368
            logfile = open(self._log_file_name)
1675
1369
            try:
1676
1370
                log_contents = logfile.read()
1677
1371
            finally:
1678
1372
                logfile.close()
1679
 
            try:
1680
 
                log_contents.decode('utf8')
1681
 
            except UnicodeDecodeError:
1682
 
                unicodestr = log_contents.decode('utf8', 'replace')
1683
 
                log_contents = unicodestr.encode('utf8')
1684
1373
            if not keep_log_file:
1685
 
                close_attempts = 0
1686
 
                max_close_attempts = 100
1687
 
                first_close_error = None
1688
 
                while close_attempts < max_close_attempts:
1689
 
                    close_attempts += 1
1690
 
                    try:
1691
 
                        self._log_file.close()
1692
 
                    except IOError, ioe:
1693
 
                        if ioe.errno is None:
1694
 
                            # No errno implies 'close() called during
1695
 
                            # concurrent operation on the same file object', so
1696
 
                            # retry.  Probably a thread is trying to write to
1697
 
                            # the log file.
1698
 
                            if first_close_error is None:
1699
 
                                first_close_error = ioe
1700
 
                            continue
1701
 
                        raise
1702
 
                    else:
1703
 
                        break
1704
 
                if close_attempts > 1:
1705
 
                    sys.stderr.write(
1706
 
                        'Unable to close log file on first attempt, '
1707
 
                        'will retry: %s\n' % (first_close_error,))
1708
 
                    if close_attempts == max_close_attempts:
1709
 
                        sys.stderr.write(
1710
 
                            'Unable to close log file after %d attempts.\n'
1711
 
                            % (max_close_attempts,))
1712
 
                self._log_file = None
1713
 
                # Permit multiple calls to get_log until we clean it up in
1714
 
                # finishLogFile
1715
1374
                self._log_contents = log_contents
1716
1375
                try:
1717
1376
                    os.remove(self._log_file_name)
1721
1380
                                             ' %r\n' % self._log_file_name))
1722
1381
                    else:
1723
1382
                        raise
1724
 
                self._log_file_name = None
1725
1383
            return log_contents
1726
1384
        else:
1727
 
            return "No log file content and no log file name."
1728
 
 
1729
 
    def get_log(self):
1730
 
        """Get a unicode string containing the log from bzrlib.trace.
1731
 
 
1732
 
        Undecodable characters are replaced.
1733
 
        """
1734
 
        return u"".join(self.getDetails()['log'].iter_text())
 
1385
            return "DELETED log file to reduce memory footprint"
1735
1386
 
1736
1387
    def requireFeature(self, feature):
1737
1388
        """This test requires a specific feature is available.
1754
1405
 
1755
1406
    def _run_bzr_core(self, args, retcode, encoding, stdin,
1756
1407
            working_dir):
1757
 
        # Clear chk_map page cache, because the contents are likely to mask
1758
 
        # locking errors.
1759
 
        chk_map.clear_cache()
1760
1408
        if encoding is None:
1761
1409
            encoding = osutils.get_user_encoding()
1762
1410
        stdout = StringIOWrapper()
1779
1427
            os.chdir(working_dir)
1780
1428
 
1781
1429
        try:
1782
 
            try:
1783
 
                result = self.apply_redirected(ui.ui_factory.stdin,
1784
 
                    stdout, stderr,
1785
 
                    bzrlib.commands.run_bzr_catch_user_errors,
1786
 
                    args)
1787
 
            except KeyboardInterrupt:
1788
 
                # Reraise KeyboardInterrupt with contents of redirected stdout
1789
 
                # and stderr as arguments, for tests which are interested in
1790
 
                # stdout and stderr and are expecting the exception.
1791
 
                out = stdout.getvalue()
1792
 
                err = stderr.getvalue()
1793
 
                if out:
1794
 
                    self.log('output:\n%r', out)
1795
 
                if err:
1796
 
                    self.log('errors:\n%r', err)
1797
 
                raise KeyboardInterrupt(out, err)
 
1430
            result = self.apply_redirected(ui.ui_factory.stdin,
 
1431
                stdout, stderr,
 
1432
                bzrlib.commands.run_bzr_catch_user_errors,
 
1433
                args)
1798
1434
        finally:
1799
1435
            logger.removeHandler(handler)
1800
1436
            ui.ui_factory = old_ui_factory
1810
1446
        if retcode is not None:
1811
1447
            self.assertEquals(retcode, result,
1812
1448
                              message='Unexpected return code')
1813
 
        return result, out, err
 
1449
        return out, err
1814
1450
 
1815
1451
    def run_bzr(self, args, retcode=0, encoding=None, stdin=None,
1816
1452
                working_dir=None, error_regexes=[], output_encoding=None):
1821
1457
        passed in three ways:
1822
1458
 
1823
1459
        1- A list of strings, eg ["commit", "a"].  This is recommended
1824
 
        when the command contains whitespace or metacharacters, or
 
1460
        when the command contains whitespace or metacharacters, or 
1825
1461
        is built up at run time.
1826
1462
 
1827
 
        2- A single string, eg "add a".  This is the most convenient
 
1463
        2- A single string, eg "add a".  This is the most convenient 
1828
1464
        for hardcoded commands.
1829
1465
 
1830
1466
        This runs bzr through the interface that catches and reports
1845
1481
        :keyword error_regexes: A list of expected error messages.  If
1846
1482
            specified they must be seen in the error output of the command.
1847
1483
        """
1848
 
        retcode, out, err = self._run_bzr_autosplit(
 
1484
        out, err = self._run_bzr_autosplit(
1849
1485
            args=args,
1850
1486
            retcode=retcode,
1851
1487
            encoding=encoding,
1852
1488
            stdin=stdin,
1853
1489
            working_dir=working_dir,
1854
1490
            )
1855
 
        self.assertIsInstance(error_regexes, (list, tuple))
1856
1491
        for regex in error_regexes:
1857
1492
            self.assertContainsRe(err, regex)
1858
1493
        return out, err
1890
1525
    def run_bzr_subprocess(self, *args, **kwargs):
1891
1526
        """Run bzr in a subprocess for testing.
1892
1527
 
1893
 
        This starts a new Python interpreter and runs bzr in there.
 
1528
        This starts a new Python interpreter and runs bzr in there. 
1894
1529
        This should only be used for tests that have a justifiable need for
1895
1530
        this isolation: e.g. they are testing startup time, or signal
1896
 
        handling, or early startup code, etc.  Subprocess code can't be
 
1531
        handling, or early startup code, etc.  Subprocess code can't be 
1897
1532
        profiled or debugged so easily.
1898
1533
 
1899
1534
        :keyword retcode: The status code that is expected.  Defaults to 0.  If
2002
1637
        """
2003
1638
        return Popen(*args, **kwargs)
2004
1639
 
2005
 
    def get_source_path(self):
2006
 
        """Return the path of the directory containing bzrlib."""
2007
 
        return os.path.dirname(os.path.dirname(bzrlib.__file__))
2008
 
 
2009
1640
    def get_bzr_path(self):
2010
1641
        """Return the path of the 'bzr' executable for this test suite."""
2011
 
        bzr_path = self.get_source_path()+'/bzr'
 
1642
        bzr_path = os.path.dirname(os.path.dirname(bzrlib.__file__))+'/bzr'
2012
1643
        if not os.path.isfile(bzr_path):
2013
1644
            # We are probably installed. Assume sys.argv is the right file
2014
1645
            bzr_path = sys.argv[0]
2100
1731
 
2101
1732
        Tests that expect to provoke LockContention errors should call this.
2102
1733
        """
2103
 
        self.overrideAttr(bzrlib.lockdir, '_DEFAULT_TIMEOUT_SECONDS', 0)
 
1734
        orig_timeout = bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS
 
1735
        def resetTimeout():
 
1736
            bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS = orig_timeout
 
1737
        self.addCleanup(resetTimeout)
 
1738
        bzrlib.lockdir._DEFAULT_TIMEOUT_SECONDS = 0
2104
1739
 
2105
1740
    def make_utf8_encoded_stringio(self, encoding_type=None):
2106
1741
        """Return a StringIOWrapper instance, that will encode Unicode
2114
1749
        sio.encoding = output_encoding
2115
1750
        return sio
2116
1751
 
2117
 
    def disable_verb(self, verb):
2118
 
        """Disable a smart server verb for one test."""
2119
 
        from bzrlib.smart import request
2120
 
        request_handlers = request.request_handlers
2121
 
        orig_method = request_handlers.get(verb)
2122
 
        request_handlers.remove(verb)
2123
 
        self.addCleanup(request_handlers.register, verb, orig_method)
2124
 
 
2125
 
 
2126
 
class CapturedCall(object):
2127
 
    """A helper for capturing smart server calls for easy debug analysis."""
2128
 
 
2129
 
    def __init__(self, params, prefix_length):
2130
 
        """Capture the call with params and skip prefix_length stack frames."""
2131
 
        self.call = params
2132
 
        import traceback
2133
 
        # The last 5 frames are the __init__, the hook frame, and 3 smart
2134
 
        # client frames. Beyond this we could get more clever, but this is good
2135
 
        # enough for now.
2136
 
        stack = traceback.extract_stack()[prefix_length:-5]
2137
 
        self.stack = ''.join(traceback.format_list(stack))
2138
 
 
2139
 
    def __str__(self):
2140
 
        return self.call.method
2141
 
 
2142
 
    def __repr__(self):
2143
 
        return self.call.method
2144
 
 
2145
 
    def stack(self):
2146
 
        return self.stack
2147
 
 
2148
1752
 
2149
1753
class TestCaseWithMemoryTransport(TestCase):
2150
1754
    """Common test class for tests that do not need disk resources.
2170
1774
 
2171
1775
    def __init__(self, methodName='runTest'):
2172
1776
        # allow test parameterization after test construction and before test
2173
 
        # execution. Variables that the parameterizer sets need to be
 
1777
        # execution. Variables that the parameterizer sets need to be 
2174
1778
        # ones that are not set by setUp, or setUp will trash them.
2175
1779
        super(TestCaseWithMemoryTransport, self).__init__(methodName)
2176
1780
        self.vfs_transport_factory = default_transport
2183
1787
 
2184
1788
        This transport is for the test scratch space relative to
2185
1789
        "self._test_root"
2186
 
 
 
1790
        
2187
1791
        :param relpath: a path relative to the base url.
2188
1792
        """
2189
1793
        t = get_transport(self.get_url(relpath))
2192
1796
 
2193
1797
    def get_readonly_transport(self, relpath=None):
2194
1798
        """Return a readonly transport for the test scratch space
2195
 
 
 
1799
        
2196
1800
        This can be used to test that operations which should only need
2197
1801
        readonly access in fact do not try to write.
2198
1802
 
2217
1821
        if self.__readonly_server is None:
2218
1822
            if self.transport_readonly_server is None:
2219
1823
                # readonly decorator requested
2220
 
                self.__readonly_server = test_server.ReadonlyServer()
 
1824
                # bring up the server
 
1825
                self.__readonly_server = ReadonlyServer()
 
1826
                self.__readonly_server.setUp(self.get_vfs_only_server())
2221
1827
            else:
2222
 
                # explicit readonly transport.
2223
1828
                self.__readonly_server = self.create_transport_readonly_server()
2224
 
            self.start_server(self.__readonly_server,
2225
 
                self.get_vfs_only_server())
 
1829
                self.__readonly_server.setUp(self.get_vfs_only_server())
 
1830
            self.addCleanup(self.__readonly_server.tearDown)
2226
1831
        return self.__readonly_server
2227
1832
 
2228
1833
    def get_readonly_url(self, relpath=None):
2229
1834
        """Get a URL for the readonly transport.
2230
1835
 
2231
 
        This will either be backed by '.' or a decorator to the transport
 
1836
        This will either be backed by '.' or a decorator to the transport 
2232
1837
        used by self.get_url()
2233
1838
        relpath provides for clients to get a path relative to the base url.
2234
1839
        These should only be downwards relative, not upwards.
2246
1851
        is no means to override it.
2247
1852
        """
2248
1853
        if self.__vfs_server is None:
2249
 
            self.__vfs_server = memory.MemoryServer()
2250
 
            self.start_server(self.__vfs_server)
 
1854
            self.__vfs_server = MemoryServer()
 
1855
            self.__vfs_server.setUp()
 
1856
            self.addCleanup(self.__vfs_server.tearDown)
2251
1857
        return self.__vfs_server
2252
1858
 
2253
1859
    def get_server(self):
2260
1866
        then the self.get_vfs_server is returned.
2261
1867
        """
2262
1868
        if self.__server is None:
2263
 
            if (self.transport_server is None or self.transport_server is
2264
 
                self.vfs_transport_factory):
2265
 
                self.__server = self.get_vfs_only_server()
 
1869
            if self.transport_server is None or self.transport_server is self.vfs_transport_factory:
 
1870
                return self.get_vfs_only_server()
2266
1871
            else:
2267
1872
                # bring up a decorated means of access to the vfs only server.
2268
1873
                self.__server = self.transport_server()
2269
 
                self.start_server(self.__server, self.get_vfs_only_server())
 
1874
                try:
 
1875
                    self.__server.setUp(self.get_vfs_only_server())
 
1876
                except TypeError, e:
 
1877
                    # This should never happen; the try:Except here is to assist
 
1878
                    # developers having to update code rather than seeing an
 
1879
                    # uninformative TypeError.
 
1880
                    raise Exception, "Old server API in use: %s, %s" % (self.__server, e)
 
1881
            self.addCleanup(self.__server.tearDown)
2270
1882
        return self.__server
2271
1883
 
2272
1884
    def _adjust_url(self, base, relpath):
2334
1946
        propagating. This method ensures than a test did not leaked.
2335
1947
        """
2336
1948
        root = TestCaseWithMemoryTransport.TEST_ROOT
2337
 
        self.permit_url(get_transport(root).base)
2338
1949
        wt = workingtree.WorkingTree.open(root)
2339
1950
        last_rev = wt.last_revision()
2340
1951
        if last_rev != 'null:':
2342
1953
            # recreate a new one or all the followng tests will fail.
2343
1954
            # If you need to inspect its content uncomment the following line
2344
1955
            # import pdb; pdb.set_trace()
2345
 
            _rmtree_temp_dir(root + '/.bzr', test_id=self.id())
 
1956
            _rmtree_temp_dir(root + '/.bzr')
2346
1957
            self._create_safety_net()
2347
1958
            raise AssertionError('%s/.bzr should not be modified' % root)
2348
1959
 
2349
1960
    def _make_test_root(self):
2350
1961
        if TestCaseWithMemoryTransport.TEST_ROOT is None:
2351
 
            # Watch out for tricky test dir (on OSX /tmp -> /private/tmp)
2352
 
            root = osutils.realpath(osutils.mkdtemp(prefix='testbzr-',
2353
 
                                                    suffix='.tmp'))
 
1962
            root = osutils.mkdtemp(prefix='testbzr-', suffix='.tmp')
2354
1963
            TestCaseWithMemoryTransport.TEST_ROOT = root
2355
1964
 
2356
1965
            self._create_safety_net()
2359
1968
            # specifically told when all tests are finished.  This will do.
2360
1969
            atexit.register(_rmtree_temp_dir, root)
2361
1970
 
2362
 
        self.permit_dir(TestCaseWithMemoryTransport.TEST_ROOT)
2363
1971
        self.addCleanup(self._check_safety_net)
2364
1972
 
2365
1973
    def makeAndChdirToTestDir(self):
2366
1974
        """Create a temporary directories for this one test.
2367
 
 
 
1975
        
2368
1976
        This must set self.test_home_dir and self.test_dir and chdir to
2369
1977
        self.test_dir.
2370
 
 
 
1978
        
2371
1979
        For TestCaseWithMemoryTransport we chdir to the TEST_ROOT for this test.
2372
1980
        """
2373
1981
        os.chdir(TestCaseWithMemoryTransport.TEST_ROOT)
2374
1982
        self.test_dir = TestCaseWithMemoryTransport.TEST_ROOT
2375
1983
        self.test_home_dir = self.test_dir + "/MemoryTransportMissingHomeDir"
2376
 
        self.permit_dir(self.test_dir)
2377
 
 
 
1984
        
2378
1985
    def make_branch(self, relpath, format=None):
2379
1986
        """Create a branch on the transport at relpath."""
2380
1987
        repo = self.make_repository(relpath, format=format)
2398
2005
 
2399
2006
    def make_repository(self, relpath, shared=False, format=None):
2400
2007
        """Create a repository on our default transport at relpath.
2401
 
 
 
2008
        
2402
2009
        Note that relpath must be a relative path, not a full url.
2403
2010
        """
2404
2011
        # FIXME: If you create a remoterepository this returns the underlying
2405
 
        # real format, which is incorrect.  Actually we should make sure that
 
2012
        # real format, which is incorrect.  Actually we should make sure that 
2406
2013
        # RemoteBzrDir returns a RemoteRepository.
2407
2014
        # maybe  mbp 20070410
2408
2015
        made_control = self.make_bzrdir(relpath, format=format)
2409
2016
        return made_control.create_repository(shared=shared)
2410
2017
 
2411
 
    def make_smart_server(self, path):
2412
 
        smart_server = test_server.SmartTCPServer_for_testing()
2413
 
        self.start_server(smart_server, self.get_server())
2414
 
        remote_transport = get_transport(smart_server.get_url()).clone(path)
2415
 
        return remote_transport
2416
 
 
2417
2018
    def make_branch_and_memory_tree(self, relpath, format=None):
2418
2019
        """Create a branch on the default transport and a MemoryTree for it."""
2419
2020
        b = self.make_branch(relpath, format=format)
2420
2021
        return memorytree.MemoryTree.create_on_branch(b)
2421
2022
 
2422
2023
    def make_branch_builder(self, relpath, format=None):
2423
 
        branch = self.make_branch(relpath, format=format)
2424
 
        return branchbuilder.BranchBuilder(branch=branch)
 
2024
        url = self.get_url(relpath)
 
2025
        tran = get_transport(url)
 
2026
        return branchbuilder.BranchBuilder(get_transport(url), format=format)
2425
2027
 
2426
2028
    def overrideEnvironmentForTesting(self):
2427
 
        test_home_dir = self.test_home_dir
2428
 
        if isinstance(test_home_dir, unicode):
2429
 
            test_home_dir = test_home_dir.encode(sys.getfilesystemencoding())
2430
 
        os.environ['HOME'] = test_home_dir
2431
 
        os.environ['BZR_HOME'] = test_home_dir
2432
 
 
 
2029
        os.environ['HOME'] = self.test_home_dir
 
2030
        os.environ['BZR_HOME'] = self.test_home_dir
 
2031
        
2433
2032
    def setUp(self):
2434
2033
        super(TestCaseWithMemoryTransport, self).setUp()
2435
2034
        self._make_test_root()
2436
 
        self.addCleanup(os.chdir, os.getcwdu())
 
2035
        _currentdir = os.getcwdu()
 
2036
        def _leaveDirectory():
 
2037
            os.chdir(_currentdir)
 
2038
        self.addCleanup(_leaveDirectory)
2437
2039
        self.makeAndChdirToTestDir()
2438
2040
        self.overrideEnvironmentForTesting()
2439
2041
        self.__readonly_server = None
2442
2044
 
2443
2045
    def setup_smart_server_with_call_log(self):
2444
2046
        """Sets up a smart server as the transport server with a call log."""
2445
 
        self.transport_server = test_server.SmartTCPServer_for_testing
 
2047
        self.transport_server = server.SmartTCPServer_for_testing
2446
2048
        self.hpss_calls = []
2447
 
        import traceback
2448
 
        # Skip the current stack down to the caller of
2449
 
        # setup_smart_server_with_call_log
2450
 
        prefix_length = len(traceback.extract_stack()) - 2
2451
2049
        def capture_hpss_call(params):
2452
 
            self.hpss_calls.append(
2453
 
                CapturedCall(params, prefix_length))
 
2050
            import traceback
 
2051
            self.hpss_calls.append((params, traceback.format_stack()))
2454
2052
        client._SmartClient.hooks.install_named_hook(
2455
2053
            'call', capture_hpss_call, None)
2456
2054
 
2457
2055
    def reset_smart_call_log(self):
2458
2056
        self.hpss_calls = []
2459
2057
 
2460
 
 
 
2058
     
2461
2059
class TestCaseInTempDir(TestCaseWithMemoryTransport):
2462
2060
    """Derived class that runs a test within a temporary directory.
2463
2061
 
2468
2066
    All test cases create their own directory within that.  If the
2469
2067
    tests complete successfully, the directory is removed.
2470
2068
 
2471
 
    :ivar test_base_dir: The path of the top-level directory for this
 
2069
    :ivar test_base_dir: The path of the top-level directory for this 
2472
2070
    test, which contains a home directory and a work directory.
2473
2071
 
2474
2072
    :ivar test_home_dir: An initially empty directory under test_base_dir
2490
2088
 
2491
2089
    def _getTestDirPrefix(self):
2492
2090
        # create a directory within the top level test directory
2493
 
        if sys.platform in ('win32', 'cygwin'):
 
2091
        if sys.platform == 'win32':
2494
2092
            name_prefix = re.sub('[<>*=+",:;_/\\-]', '_', self.id())
2495
2093
            # windows is likely to have path-length limits so use a short name
2496
2094
            name_prefix = name_prefix[-30:]
2500
2098
 
2501
2099
    def makeAndChdirToTestDir(self):
2502
2100
        """See TestCaseWithMemoryTransport.makeAndChdirToTestDir().
2503
 
 
 
2101
        
2504
2102
        For TestCaseInTempDir we create a temporary directory based on the test
2505
2103
        name and then create two subdirs - test and home under it.
2506
2104
        """
2507
 
        name_prefix = osutils.pathjoin(TestCaseWithMemoryTransport.TEST_ROOT,
2508
 
            self._getTestDirPrefix())
 
2105
        name_prefix = osutils.pathjoin(self.TEST_ROOT, self._getTestDirPrefix())
2509
2106
        name = name_prefix
2510
2107
        for i in range(100):
2511
2108
            if os.path.exists(name):
2512
2109
                name = name_prefix + '_' + str(i)
2513
2110
            else:
2514
 
                # now create test and home directories within this dir
2515
 
                self.test_base_dir = name
2516
 
                self.addCleanup(self.deleteTestDir)
2517
 
                os.mkdir(self.test_base_dir)
 
2111
                os.mkdir(name)
2518
2112
                break
2519
 
        self.permit_dir(self.test_base_dir)
2520
 
        # 'sprouting' and 'init' of a branch both walk up the tree to find
2521
 
        # stacking policy to honour; create a bzr dir with an unshared
2522
 
        # repository (but not a branch - our code would be trying to escape
2523
 
        # then!) to stop them, and permit it to be read.
2524
 
        # control = bzrdir.BzrDir.create(self.test_base_dir)
2525
 
        # control.create_repository()
 
2113
        # now create test and home directories within this dir
 
2114
        self.test_base_dir = name
2526
2115
        self.test_home_dir = self.test_base_dir + '/home'
2527
2116
        os.mkdir(self.test_home_dir)
2528
2117
        self.test_dir = self.test_base_dir + '/work'
2534
2123
            f.write(self.id())
2535
2124
        finally:
2536
2125
            f.close()
 
2126
        self.addCleanup(self.deleteTestDir)
2537
2127
 
2538
2128
    def deleteTestDir(self):
2539
 
        os.chdir(TestCaseWithMemoryTransport.TEST_ROOT)
2540
 
        _rmtree_temp_dir(self.test_base_dir, test_id=self.id())
 
2129
        os.chdir(self.TEST_ROOT)
 
2130
        _rmtree_temp_dir(self.test_base_dir)
2541
2131
 
2542
2132
    def build_tree(self, shape, line_endings='binary', transport=None):
2543
2133
        """Build a test tree according to a pattern.
2613
2203
    ReadonlyTransportDecorator is used instead which allows the use of non disk
2614
2204
    based read write transports.
2615
2205
 
2616
 
    If an explicit class is provided for readonly access, that server and the
 
2206
    If an explicit class is provided for readonly access, that server and the 
2617
2207
    readwrite one must both define get_url() as resolving to os.getcwd().
2618
2208
    """
2619
2209
 
2625
2215
        """
2626
2216
        if self.__vfs_server is None:
2627
2217
            self.__vfs_server = self.vfs_transport_factory()
2628
 
            self.start_server(self.__vfs_server)
 
2218
            self.__vfs_server.setUp()
 
2219
            self.addCleanup(self.__vfs_server.tearDown)
2629
2220
        return self.__vfs_server
2630
2221
 
2631
2222
    def make_branch_and_tree(self, relpath, format=None):
2638
2229
        repository will also be accessed locally. Otherwise a lightweight
2639
2230
        checkout is created and returned.
2640
2231
 
2641
 
        We do this because we can't physically create a tree in the local
2642
 
        path, with a branch reference to the transport_factory url, and
2643
 
        a branch + repository in the vfs_transport, unless the vfs_transport
2644
 
        namespace is distinct from the local disk - the two branch objects
2645
 
        would collide. While we could construct a tree with its branch object
2646
 
        pointing at the transport_factory transport in memory, reopening it
2647
 
        would behaving unexpectedly, and has in the past caused testing bugs
2648
 
        when we tried to do it that way.
2649
 
 
2650
2232
        :param format: The BzrDirFormat.
2651
2233
        :returns: the WorkingTree.
2652
2234
        """
2661
2243
            # We can only make working trees locally at the moment.  If the
2662
2244
            # transport can't support them, then we keep the non-disk-backed
2663
2245
            # branch and create a local checkout.
2664
 
            if self.vfs_transport_factory is test_server.LocalURLServer:
 
2246
            if self.vfs_transport_factory is LocalURLServer:
2665
2247
                # the branch is colocated on disk, we cannot create a checkout.
2666
2248
                # hopefully callers will expect this.
2667
2249
                local_controldir= bzrdir.BzrDir.open(self.get_vfs_only_url(relpath))
2704
2286
        super(TestCaseWithTransport, self).setUp()
2705
2287
        self.__vfs_server = None
2706
2288
 
2707
 
    def disable_missing_extensions_warning(self):
2708
 
        """Some tests expect a precise stderr content.
2709
 
 
2710
 
        There is no point in forcing them to duplicate the extension related
2711
 
        warning.
2712
 
        """
2713
 
        config.GlobalConfig().set_user_option('ignore_missing_extensions', True)
2714
 
 
2715
2289
 
2716
2290
class ChrootedTestCase(TestCaseWithTransport):
2717
2291
    """A support class that provides readonly urls outside the local namespace.
2721
2295
    for readonly urls.
2722
2296
 
2723
2297
    TODO RBC 20060127: make this an option to TestCaseWithTransport so it can
2724
 
                       be used without needed to redo it when a different
 
2298
                       be used without needed to redo it when a different 
2725
2299
                       subclass is in use ?
2726
2300
    """
2727
2301
 
2728
2302
    def setUp(self):
2729
2303
        super(ChrootedTestCase, self).setUp()
2730
 
        if not self.vfs_transport_factory == memory.MemoryServer:
 
2304
        if not self.vfs_transport_factory == MemoryServer:
2731
2305
            self.transport_readonly_server = HttpServer
2732
2306
 
2733
2307
 
2734
2308
def condition_id_re(pattern):
2735
2309
    """Create a condition filter which performs a re check on a test's id.
2736
 
 
 
2310
    
2737
2311
    :param pattern: A regular expression string.
2738
2312
    :return: A callable that returns True if the re matches.
2739
2313
    """
2740
 
    filter_re = osutils.re_compile_checked(pattern, 0,
2741
 
        'test filter')
 
2314
    filter_re = re.compile(pattern)
2742
2315
    def condition(test):
2743
2316
        test_id = test.id()
2744
2317
        return filter_re.search(test_id)
2747
2320
 
2748
2321
def condition_isinstance(klass_or_klass_list):
2749
2322
    """Create a condition filter which returns isinstance(param, klass).
2750
 
 
 
2323
    
2751
2324
    :return: A callable which when called with one parameter obj return the
2752
2325
        result of isinstance(obj, klass_or_klass_list).
2753
2326
    """
2758
2331
 
2759
2332
def condition_id_in_list(id_list):
2760
2333
    """Create a condition filter which verify that test's id in a list.
2761
 
 
 
2334
    
2762
2335
    :param id_list: A TestIdList object.
2763
2336
    :return: A callable that returns True if the test's id appears in the list.
2764
2337
    """
2769
2342
 
2770
2343
def condition_id_startswith(starts):
2771
2344
    """Create a condition filter verifying that test's id starts with a string.
2772
 
 
 
2345
    
2773
2346
    :param starts: A list of string.
2774
 
    :return: A callable that returns True if the test's id starts with one of
 
2347
    :return: A callable that returns True if the test's id starts with one of 
2775
2348
        the given strings.
2776
2349
    """
2777
2350
    def condition(test):
2800
2373
 
2801
2374
def filter_suite_by_condition(suite, condition):
2802
2375
    """Create a test suite by filtering another one.
2803
 
 
 
2376
    
2804
2377
    :param suite: The source suite.
2805
2378
    :param condition: A callable whose result evaluates True when called with a
2806
2379
        test case which should be included in the result.
2816
2389
 
2817
2390
def filter_suite_by_re(suite, pattern):
2818
2391
    """Create a test suite by filtering another one.
2819
 
 
 
2392
    
2820
2393
    :param suite:           the source suite
2821
2394
    :param pattern:         pattern that names must match
2822
2395
    :returns: the newly created suite
2874
2447
 
2875
2448
def randomize_suite(suite):
2876
2449
    """Return a new TestSuite with suite's tests in random order.
2877
 
 
 
2450
    
2878
2451
    The tests in the input suite are flattened into a single suite in order to
2879
2452
    accomplish this. Any nested TestSuites are removed to provide global
2880
2453
    randomness.
2886
2459
 
2887
2460
def split_suite_by_condition(suite, condition):
2888
2461
    """Split a test suite into two by a condition.
2889
 
 
 
2462
    
2890
2463
    :param suite: The suite to split.
2891
2464
    :param condition: The condition to match on. Tests that match this
2892
2465
        condition are returned in the first test suite, ones that do not match
2908
2481
 
2909
2482
def split_suite_by_re(suite, pattern):
2910
2483
    """Split a test suite into two by a regular expression.
2911
 
 
 
2484
    
2912
2485
    :param suite: The suite to split.
2913
2486
    :param pattern: A regular expression string. Test ids that match this
2914
2487
        pattern will be in the first test suite returned, and the others in the
2929
2502
              random_seed=None,
2930
2503
              exclude_pattern=None,
2931
2504
              strict=False,
2932
 
              runner_class=None,
2933
 
              suite_decorators=None,
2934
 
              stream=None,
2935
 
              result_decorators=None,
2936
 
              ):
 
2505
              runner_class=None):
2937
2506
    """Run a test suite for bzr selftest.
2938
2507
 
2939
2508
    :param runner_class: The class of runner to use. Must support the
2948
2517
        verbosity = 1
2949
2518
    if runner_class is None:
2950
2519
        runner_class = TextTestRunner
2951
 
    if stream is None:
2952
 
        stream = sys.stdout
2953
 
    runner = runner_class(stream=stream,
 
2520
    runner = runner_class(stream=sys.stdout,
2954
2521
                            descriptions=0,
2955
2522
                            verbosity=verbosity,
2956
2523
                            bench_history=bench_history,
2957
 
                            strict=strict,
2958
 
                            result_decorators=result_decorators,
 
2524
                            list_only=list_only,
2959
2525
                            )
2960
2526
    runner.stop_on_failure=stop_on_failure
2961
 
    # built in decorator factories:
2962
 
    decorators = [
2963
 
        random_order(random_seed, runner),
2964
 
        exclude_tests(exclude_pattern),
2965
 
        ]
2966
 
    if matching_tests_first:
2967
 
        decorators.append(tests_first(pattern))
 
2527
    # Initialise the random number generator and display the seed used.
 
2528
    # We convert the seed to a long to make it reuseable across invocations.
 
2529
    random_order = False
 
2530
    if random_seed is not None:
 
2531
        random_order = True
 
2532
        if random_seed == "now":
 
2533
            random_seed = long(time.time())
 
2534
        else:
 
2535
            # Convert the seed to a long if we can
 
2536
            try:
 
2537
                random_seed = long(random_seed)
 
2538
            except:
 
2539
                pass
 
2540
        runner.stream.writeln("Randomizing test order using seed %s\n" %
 
2541
            (random_seed))
 
2542
        random.seed(random_seed)
 
2543
    # Customise the list of tests if requested
 
2544
    if exclude_pattern is not None:
 
2545
        suite = exclude_tests_by_re(suite, exclude_pattern)
 
2546
    if random_order:
 
2547
        order_changer = randomize_suite
2968
2548
    else:
2969
 
        decorators.append(filter_tests(pattern))
2970
 
    if suite_decorators:
2971
 
        decorators.extend(suite_decorators)
2972
 
    # tell the result object how many tests will be running: (except if
2973
 
    # --parallel=fork is being used. Robert said he will provide a better
2974
 
    # progress design later -- vila 20090817)
2975
 
    if fork_decorator not in decorators:
2976
 
        decorators.append(CountingDecorator)
2977
 
    for decorator in decorators:
2978
 
        suite = decorator(suite)
2979
 
    if list_only:
2980
 
        # Done after test suite decoration to allow randomisation etc
2981
 
        # to take effect, though that is of marginal benefit.
2982
 
        if verbosity >= 2:
2983
 
            stream.write("Listing tests only ...\n")
2984
 
        for t in iter_suite_tests(suite):
2985
 
            stream.write("%s\n" % (t.id()))
2986
 
        return True
 
2549
        order_changer = preserve_input
 
2550
    if pattern != '.*' or random_order:
 
2551
        if matching_tests_first:
 
2552
            suites = map(order_changer, split_suite_by_re(suite, pattern))
 
2553
            suite = TestUtil.TestSuite(suites)
 
2554
        else:
 
2555
            suite = order_changer(filter_suite_by_re(suite, pattern))
 
2556
 
2987
2557
    result = runner.run(suite)
 
2558
 
2988
2559
    if strict:
2989
2560
        return result.wasStrictlySuccessful()
2990
 
    else:
2991
 
        return result.wasSuccessful()
2992
 
 
2993
 
 
2994
 
# A registry where get() returns a suite decorator.
2995
 
parallel_registry = registry.Registry()
2996
 
 
2997
 
 
2998
 
def fork_decorator(suite):
2999
 
    concurrency = osutils.local_concurrency()
3000
 
    if concurrency == 1:
3001
 
        return suite
3002
 
    from testtools import ConcurrentTestSuite
3003
 
    return ConcurrentTestSuite(suite, fork_for_tests)
3004
 
parallel_registry.register('fork', fork_decorator)
3005
 
 
3006
 
 
3007
 
def subprocess_decorator(suite):
3008
 
    concurrency = osutils.local_concurrency()
3009
 
    if concurrency == 1:
3010
 
        return suite
3011
 
    from testtools import ConcurrentTestSuite
3012
 
    return ConcurrentTestSuite(suite, reinvoke_for_tests)
3013
 
parallel_registry.register('subprocess', subprocess_decorator)
3014
 
 
3015
 
 
3016
 
def exclude_tests(exclude_pattern):
3017
 
    """Return a test suite decorator that excludes tests."""
3018
 
    if exclude_pattern is None:
3019
 
        return identity_decorator
3020
 
    def decorator(suite):
3021
 
        return ExcludeDecorator(suite, exclude_pattern)
3022
 
    return decorator
3023
 
 
3024
 
 
3025
 
def filter_tests(pattern):
3026
 
    if pattern == '.*':
3027
 
        return identity_decorator
3028
 
    def decorator(suite):
3029
 
        return FilterTestsDecorator(suite, pattern)
3030
 
    return decorator
3031
 
 
3032
 
 
3033
 
def random_order(random_seed, runner):
3034
 
    """Return a test suite decorator factory for randomising tests order.
3035
 
    
3036
 
    :param random_seed: now, a string which casts to a long, or a long.
3037
 
    :param runner: A test runner with a stream attribute to report on.
3038
 
    """
3039
 
    if random_seed is None:
3040
 
        return identity_decorator
3041
 
    def decorator(suite):
3042
 
        return RandomDecorator(suite, random_seed, runner.stream)
3043
 
    return decorator
3044
 
 
3045
 
 
3046
 
def tests_first(pattern):
3047
 
    if pattern == '.*':
3048
 
        return identity_decorator
3049
 
    def decorator(suite):
3050
 
        return TestFirstDecorator(suite, pattern)
3051
 
    return decorator
3052
 
 
3053
 
 
3054
 
def identity_decorator(suite):
3055
 
    """Return suite."""
3056
 
    return suite
3057
 
 
3058
 
 
3059
 
class TestDecorator(TestSuite):
3060
 
    """A decorator for TestCase/TestSuite objects.
3061
 
    
3062
 
    Usually, subclasses should override __iter__(used when flattening test
3063
 
    suites), which we do to filter, reorder, parallelise and so on, run() and
3064
 
    debug().
3065
 
    """
3066
 
 
3067
 
    def __init__(self, suite):
3068
 
        TestSuite.__init__(self)
3069
 
        self.addTest(suite)
3070
 
 
3071
 
    def countTestCases(self):
3072
 
        cases = 0
3073
 
        for test in self:
3074
 
            cases += test.countTestCases()
3075
 
        return cases
3076
 
 
3077
 
    def debug(self):
3078
 
        for test in self:
3079
 
            test.debug()
3080
 
 
3081
 
    def run(self, result):
3082
 
        # Use iteration on self, not self._tests, to allow subclasses to hook
3083
 
        # into __iter__.
3084
 
        for test in self:
3085
 
            if result.shouldStop:
3086
 
                break
3087
 
            test.run(result)
3088
 
        return result
3089
 
 
3090
 
 
3091
 
class CountingDecorator(TestDecorator):
3092
 
    """A decorator which calls result.progress(self.countTestCases)."""
3093
 
 
3094
 
    def run(self, result):
3095
 
        progress_method = getattr(result, 'progress', None)
3096
 
        if callable(progress_method):
3097
 
            progress_method(self.countTestCases(), SUBUNIT_SEEK_SET)
3098
 
        return super(CountingDecorator, self).run(result)
3099
 
 
3100
 
 
3101
 
class ExcludeDecorator(TestDecorator):
3102
 
    """A decorator which excludes test matching an exclude pattern."""
3103
 
 
3104
 
    def __init__(self, suite, exclude_pattern):
3105
 
        TestDecorator.__init__(self, suite)
3106
 
        self.exclude_pattern = exclude_pattern
3107
 
        self.excluded = False
3108
 
 
3109
 
    def __iter__(self):
3110
 
        if self.excluded:
3111
 
            return iter(self._tests)
3112
 
        self.excluded = True
3113
 
        suite = exclude_tests_by_re(self, self.exclude_pattern)
3114
 
        del self._tests[:]
3115
 
        self.addTests(suite)
3116
 
        return iter(self._tests)
3117
 
 
3118
 
 
3119
 
class FilterTestsDecorator(TestDecorator):
3120
 
    """A decorator which filters tests to those matching a pattern."""
3121
 
 
3122
 
    def __init__(self, suite, pattern):
3123
 
        TestDecorator.__init__(self, suite)
3124
 
        self.pattern = pattern
3125
 
        self.filtered = False
3126
 
 
3127
 
    def __iter__(self):
3128
 
        if self.filtered:
3129
 
            return iter(self._tests)
3130
 
        self.filtered = True
3131
 
        suite = filter_suite_by_re(self, self.pattern)
3132
 
        del self._tests[:]
3133
 
        self.addTests(suite)
3134
 
        return iter(self._tests)
3135
 
 
3136
 
 
3137
 
class RandomDecorator(TestDecorator):
3138
 
    """A decorator which randomises the order of its tests."""
3139
 
 
3140
 
    def __init__(self, suite, random_seed, stream):
3141
 
        TestDecorator.__init__(self, suite)
3142
 
        self.random_seed = random_seed
3143
 
        self.randomised = False
3144
 
        self.stream = stream
3145
 
 
3146
 
    def __iter__(self):
3147
 
        if self.randomised:
3148
 
            return iter(self._tests)
3149
 
        self.randomised = True
3150
 
        self.stream.write("Randomizing test order using seed %s\n\n" %
3151
 
            (self.actual_seed()))
3152
 
        # Initialise the random number generator.
3153
 
        random.seed(self.actual_seed())
3154
 
        suite = randomize_suite(self)
3155
 
        del self._tests[:]
3156
 
        self.addTests(suite)
3157
 
        return iter(self._tests)
3158
 
 
3159
 
    def actual_seed(self):
3160
 
        if self.random_seed == "now":
3161
 
            # We convert the seed to a long to make it reuseable across
3162
 
            # invocations (because the user can reenter it).
3163
 
            self.random_seed = long(time.time())
3164
 
        else:
3165
 
            # Convert the seed to a long if we can
3166
 
            try:
3167
 
                self.random_seed = long(self.random_seed)
3168
 
            except:
3169
 
                pass
3170
 
        return self.random_seed
3171
 
 
3172
 
 
3173
 
class TestFirstDecorator(TestDecorator):
3174
 
    """A decorator which moves named tests to the front."""
3175
 
 
3176
 
    def __init__(self, suite, pattern):
3177
 
        TestDecorator.__init__(self, suite)
3178
 
        self.pattern = pattern
3179
 
        self.filtered = False
3180
 
 
3181
 
    def __iter__(self):
3182
 
        if self.filtered:
3183
 
            return iter(self._tests)
3184
 
        self.filtered = True
3185
 
        suites = split_suite_by_re(self, self.pattern)
3186
 
        del self._tests[:]
3187
 
        self.addTests(suites)
3188
 
        return iter(self._tests)
3189
 
 
3190
 
 
3191
 
def partition_tests(suite, count):
3192
 
    """Partition suite into count lists of tests."""
3193
 
    result = []
3194
 
    tests = list(iter_suite_tests(suite))
3195
 
    tests_per_process = int(math.ceil(float(len(tests)) / count))
3196
 
    for block in range(count):
3197
 
        low_test = block * tests_per_process
3198
 
        high_test = low_test + tests_per_process
3199
 
        process_tests = tests[low_test:high_test]
3200
 
        result.append(process_tests)
3201
 
    return result
3202
 
 
3203
 
 
3204
 
def workaround_zealous_crypto_random():
3205
 
    """Crypto.Random want to help us being secure, but we don't care here.
3206
 
 
3207
 
    This workaround some test failure related to the sftp server. Once paramiko
3208
 
    stop using the controversial API in Crypto.Random, we may get rid of it.
3209
 
    """
3210
 
    try:
3211
 
        from Crypto.Random import atfork
3212
 
        atfork()
3213
 
    except ImportError:
3214
 
        pass
3215
 
 
3216
 
 
3217
 
def fork_for_tests(suite):
3218
 
    """Take suite and start up one runner per CPU by forking()
3219
 
 
3220
 
    :return: An iterable of TestCase-like objects which can each have
3221
 
        run(result) called on them to feed tests to result.
3222
 
    """
3223
 
    concurrency = osutils.local_concurrency()
3224
 
    result = []
3225
 
    from subunit import TestProtocolClient, ProtocolTestCase
3226
 
    from subunit.test_results import AutoTimingTestResultDecorator
3227
 
    class TestInOtherProcess(ProtocolTestCase):
3228
 
        # Should be in subunit, I think. RBC.
3229
 
        def __init__(self, stream, pid):
3230
 
            ProtocolTestCase.__init__(self, stream)
3231
 
            self.pid = pid
3232
 
 
3233
 
        def run(self, result):
3234
 
            try:
3235
 
                ProtocolTestCase.run(self, result)
3236
 
            finally:
3237
 
                os.waitpid(self.pid, 0)
3238
 
 
3239
 
    test_blocks = partition_tests(suite, concurrency)
3240
 
    for process_tests in test_blocks:
3241
 
        process_suite = TestSuite()
3242
 
        process_suite.addTests(process_tests)
3243
 
        c2pread, c2pwrite = os.pipe()
3244
 
        pid = os.fork()
3245
 
        if pid == 0:
3246
 
            workaround_zealous_crypto_random()
3247
 
            try:
3248
 
                os.close(c2pread)
3249
 
                # Leave stderr and stdout open so we can see test noise
3250
 
                # Close stdin so that the child goes away if it decides to
3251
 
                # read from stdin (otherwise its a roulette to see what
3252
 
                # child actually gets keystrokes for pdb etc).
3253
 
                sys.stdin.close()
3254
 
                sys.stdin = None
3255
 
                stream = os.fdopen(c2pwrite, 'wb', 1)
3256
 
                subunit_result = AutoTimingTestResultDecorator(
3257
 
                    TestProtocolClient(stream))
3258
 
                process_suite.run(subunit_result)
3259
 
            finally:
3260
 
                os._exit(0)
3261
 
        else:
3262
 
            os.close(c2pwrite)
3263
 
            stream = os.fdopen(c2pread, 'rb', 1)
3264
 
            test = TestInOtherProcess(stream, pid)
3265
 
            result.append(test)
3266
 
    return result
3267
 
 
3268
 
 
3269
 
def reinvoke_for_tests(suite):
3270
 
    """Take suite and start up one runner per CPU using subprocess().
3271
 
 
3272
 
    :return: An iterable of TestCase-like objects which can each have
3273
 
        run(result) called on them to feed tests to result.
3274
 
    """
3275
 
    concurrency = osutils.local_concurrency()
3276
 
    result = []
3277
 
    from subunit import ProtocolTestCase
3278
 
    class TestInSubprocess(ProtocolTestCase):
3279
 
        def __init__(self, process, name):
3280
 
            ProtocolTestCase.__init__(self, process.stdout)
3281
 
            self.process = process
3282
 
            self.process.stdin.close()
3283
 
            self.name = name
3284
 
 
3285
 
        def run(self, result):
3286
 
            try:
3287
 
                ProtocolTestCase.run(self, result)
3288
 
            finally:
3289
 
                self.process.wait()
3290
 
                os.unlink(self.name)
3291
 
            # print "pid %d finished" % finished_process
3292
 
    test_blocks = partition_tests(suite, concurrency)
3293
 
    for process_tests in test_blocks:
3294
 
        # ugly; currently reimplement rather than reuses TestCase methods.
3295
 
        bzr_path = os.path.dirname(os.path.dirname(bzrlib.__file__))+'/bzr'
3296
 
        if not os.path.isfile(bzr_path):
3297
 
            # We are probably installed. Assume sys.argv is the right file
3298
 
            bzr_path = sys.argv[0]
3299
 
        bzr_path = [bzr_path]
3300
 
        if sys.platform == "win32":
3301
 
            # if we're on windows, we can't execute the bzr script directly
3302
 
            bzr_path = [sys.executable] + bzr_path
3303
 
        fd, test_list_file_name = tempfile.mkstemp()
3304
 
        test_list_file = os.fdopen(fd, 'wb', 1)
3305
 
        for test in process_tests:
3306
 
            test_list_file.write(test.id() + '\n')
3307
 
        test_list_file.close()
3308
 
        try:
3309
 
            argv = bzr_path + ['selftest', '--load-list', test_list_file_name,
3310
 
                '--subunit']
3311
 
            if '--no-plugins' in sys.argv:
3312
 
                argv.append('--no-plugins')
3313
 
            # stderr=STDOUT would be ideal, but until we prevent noise on
3314
 
            # stderr it can interrupt the subunit protocol.
3315
 
            process = Popen(argv, stdin=PIPE, stdout=PIPE, stderr=PIPE,
3316
 
                bufsize=1)
3317
 
            test = TestInSubprocess(process, test_list_file_name)
3318
 
            result.append(test)
3319
 
        except:
3320
 
            os.unlink(test_list_file_name)
3321
 
            raise
3322
 
    return result
3323
 
 
3324
 
 
3325
 
class ForwardingResult(unittest.TestResult):
3326
 
 
3327
 
    def __init__(self, target):
3328
 
        unittest.TestResult.__init__(self)
3329
 
        self.result = target
3330
 
 
3331
 
    def startTest(self, test):
3332
 
        self.result.startTest(test)
3333
 
 
3334
 
    def stopTest(self, test):
3335
 
        self.result.stopTest(test)
3336
 
 
3337
 
    def startTestRun(self):
3338
 
        self.result.startTestRun()
3339
 
 
3340
 
    def stopTestRun(self):
3341
 
        self.result.stopTestRun()
3342
 
 
3343
 
    def addSkip(self, test, reason):
3344
 
        self.result.addSkip(test, reason)
3345
 
 
3346
 
    def addSuccess(self, test):
3347
 
        self.result.addSuccess(test)
3348
 
 
3349
 
    def addError(self, test, err):
3350
 
        self.result.addError(test, err)
3351
 
 
3352
 
    def addFailure(self, test, err):
3353
 
        self.result.addFailure(test, err)
3354
 
ForwardingResult = testtools.ExtendedToOriginalDecorator
3355
 
 
3356
 
 
3357
 
class ProfileResult(ForwardingResult):
3358
 
    """Generate profiling data for all activity between start and success.
3359
 
    
3360
 
    The profile data is appended to the test's _benchcalls attribute and can
3361
 
    be accessed by the forwarded-to TestResult.
3362
 
 
3363
 
    While it might be cleaner do accumulate this in stopTest, addSuccess is
3364
 
    where our existing output support for lsprof is, and this class aims to
3365
 
    fit in with that: while it could be moved it's not necessary to accomplish
3366
 
    test profiling, nor would it be dramatically cleaner.
3367
 
    """
3368
 
 
3369
 
    def startTest(self, test):
3370
 
        self.profiler = bzrlib.lsprof.BzrProfiler()
3371
 
        self.profiler.start()
3372
 
        ForwardingResult.startTest(self, test)
3373
 
 
3374
 
    def addSuccess(self, test):
3375
 
        stats = self.profiler.stop()
3376
 
        try:
3377
 
            calls = test._benchcalls
3378
 
        except AttributeError:
3379
 
            test._benchcalls = []
3380
 
            calls = test._benchcalls
3381
 
        calls.append(((test.id(), "", ""), stats))
3382
 
        ForwardingResult.addSuccess(self, test)
3383
 
 
3384
 
    def stopTest(self, test):
3385
 
        ForwardingResult.stopTest(self, test)
3386
 
        self.profiler = None
 
2561
 
 
2562
    return result.wasSuccessful()
3387
2563
 
3388
2564
 
3389
2565
# Controlled by "bzr selftest -E=..." option
3390
 
# Currently supported:
3391
 
#   -Eallow_debug           Will no longer clear debug.debug_flags() so it
3392
 
#                           preserves any flags supplied at the command line.
3393
 
#   -Edisable_lock_checks   Turns errors in mismatched locks into simple prints
3394
 
#                           rather than failing tests. And no longer raise
3395
 
#                           LockContention when fctnl locks are not being used
3396
 
#                           with proper exclusion rules.
3397
2566
selftest_debug_flags = set()
3398
2567
 
3399
2568
 
3411
2580
             debug_flags=None,
3412
2581
             starting_with=None,
3413
2582
             runner_class=None,
3414
 
             suite_decorators=None,
3415
 
             stream=None,
3416
 
             lsprof_tests=False,
3417
2583
             ):
3418
2584
    """Run the whole test suite under the enhanced runner"""
3419
2585
    # XXX: Very ugly way to do this...
3436
2602
            keep_only = None
3437
2603
        else:
3438
2604
            keep_only = load_test_id_list(load_list)
3439
 
        if starting_with:
3440
 
            starting_with = [test_prefix_alias_registry.resolve_alias(start)
3441
 
                             for start in starting_with]
3442
2605
        if test_suite_factory is None:
3443
 
            # Reduce loading time by loading modules based on the starting_with
3444
 
            # patterns.
3445
2606
            suite = test_suite(keep_only, starting_with)
3446
2607
        else:
3447
2608
            suite = test_suite_factory()
3448
 
        if starting_with:
3449
 
            # But always filter as requested.
3450
 
            suite = filter_suite_by_id_startswith(suite, starting_with)
3451
 
        result_decorators = []
3452
 
        if lsprof_tests:
3453
 
            result_decorators.append(ProfileResult)
3454
2609
        return run_suite(suite, 'testbzr', verbose=verbose, pattern=pattern,
3455
2610
                     stop_on_failure=stop_on_failure,
3456
2611
                     transport=transport,
3462
2617
                     exclude_pattern=exclude_pattern,
3463
2618
                     strict=strict,
3464
2619
                     runner_class=runner_class,
3465
 
                     suite_decorators=suite_decorators,
3466
 
                     stream=stream,
3467
 
                     result_decorators=result_decorators,
3468
2620
                     )
3469
2621
    finally:
3470
2622
        default_transport = old_transport
3498
2650
    """Warns about tests not appearing or appearing more than once.
3499
2651
 
3500
2652
    :param test_suite: A TestSuite object.
3501
 
    :param test_id_list: The list of test ids that should be found in
 
2653
    :param test_id_list: The list of test ids that should be found in 
3502
2654
         test_suite.
3503
2655
 
3504
2656
    :return: (absents, duplicates) absents is a list containing the test found
3618
2770
# appear prefixed ('bzrlib.' is "replaced" by 'bzrlib.').
3619
2771
test_prefix_alias_registry.register('bzrlib', 'bzrlib')
3620
2772
 
3621
 
# Obvious highest levels prefixes, feel free to add your own via a plugin
 
2773
# Obvious higest levels prefixes, feel free to add your own via a plugin
3622
2774
test_prefix_alias_registry.register('bd', 'bzrlib.doc')
3623
2775
test_prefix_alias_registry.register('bu', 'bzrlib.utils')
3624
2776
test_prefix_alias_registry.register('bt', 'bzrlib.tests')
3626
2778
test_prefix_alias_registry.register('bp', 'bzrlib.plugins')
3627
2779
 
3628
2780
 
3629
 
def _test_suite_testmod_names():
3630
 
    """Return the standard list of test module names to test."""
3631
 
    return [
3632
 
        'bzrlib.doc',
3633
 
        'bzrlib.tests.blackbox',
3634
 
        'bzrlib.tests.commands',
3635
 
        'bzrlib.tests.per_branch',
3636
 
        'bzrlib.tests.per_bzrdir',
3637
 
        'bzrlib.tests.per_bzrdir_colo',
3638
 
        'bzrlib.tests.per_foreign_vcs',
3639
 
        'bzrlib.tests.per_interrepository',
3640
 
        'bzrlib.tests.per_intertree',
3641
 
        'bzrlib.tests.per_inventory',
3642
 
        'bzrlib.tests.per_interbranch',
3643
 
        'bzrlib.tests.per_lock',
3644
 
        'bzrlib.tests.per_merger',
3645
 
        'bzrlib.tests.per_transport',
3646
 
        'bzrlib.tests.per_tree',
3647
 
        'bzrlib.tests.per_pack_repository',
3648
 
        'bzrlib.tests.per_repository',
3649
 
        'bzrlib.tests.per_repository_chk',
3650
 
        'bzrlib.tests.per_repository_reference',
3651
 
        'bzrlib.tests.per_uifactory',
3652
 
        'bzrlib.tests.per_versionedfile',
3653
 
        'bzrlib.tests.per_workingtree',
3654
 
        'bzrlib.tests.test__annotator',
3655
 
        'bzrlib.tests.test__bencode',
3656
 
        'bzrlib.tests.test__chk_map',
3657
 
        'bzrlib.tests.test__dirstate_helpers',
3658
 
        'bzrlib.tests.test__groupcompress',
3659
 
        'bzrlib.tests.test__known_graph',
3660
 
        'bzrlib.tests.test__rio',
3661
 
        'bzrlib.tests.test__simple_set',
3662
 
        'bzrlib.tests.test__static_tuple',
3663
 
        'bzrlib.tests.test__walkdirs_win32',
3664
 
        'bzrlib.tests.test_ancestry',
3665
 
        'bzrlib.tests.test_annotate',
3666
 
        'bzrlib.tests.test_api',
3667
 
        'bzrlib.tests.test_atomicfile',
3668
 
        'bzrlib.tests.test_bad_files',
3669
 
        'bzrlib.tests.test_bisect_multi',
3670
 
        'bzrlib.tests.test_branch',
3671
 
        'bzrlib.tests.test_branchbuilder',
3672
 
        'bzrlib.tests.test_btree_index',
3673
 
        'bzrlib.tests.test_bugtracker',
3674
 
        'bzrlib.tests.test_bundle',
3675
 
        'bzrlib.tests.test_bzrdir',
3676
 
        'bzrlib.tests.test__chunks_to_lines',
3677
 
        'bzrlib.tests.test_cache_utf8',
3678
 
        'bzrlib.tests.test_chk_map',
3679
 
        'bzrlib.tests.test_chk_serializer',
3680
 
        'bzrlib.tests.test_chunk_writer',
3681
 
        'bzrlib.tests.test_clean_tree',
3682
 
        'bzrlib.tests.test_cleanup',
3683
 
        'bzrlib.tests.test_cmdline',
3684
 
        'bzrlib.tests.test_commands',
3685
 
        'bzrlib.tests.test_commit',
3686
 
        'bzrlib.tests.test_commit_merge',
3687
 
        'bzrlib.tests.test_config',
3688
 
        'bzrlib.tests.test_conflicts',
3689
 
        'bzrlib.tests.test_counted_lock',
3690
 
        'bzrlib.tests.test_crash',
3691
 
        'bzrlib.tests.test_decorators',
3692
 
        'bzrlib.tests.test_delta',
3693
 
        'bzrlib.tests.test_debug',
3694
 
        'bzrlib.tests.test_deprecated_graph',
3695
 
        'bzrlib.tests.test_diff',
3696
 
        'bzrlib.tests.test_directory_service',
3697
 
        'bzrlib.tests.test_dirstate',
3698
 
        'bzrlib.tests.test_email_message',
3699
 
        'bzrlib.tests.test_eol_filters',
3700
 
        'bzrlib.tests.test_errors',
3701
 
        'bzrlib.tests.test_export',
3702
 
        'bzrlib.tests.test_extract',
3703
 
        'bzrlib.tests.test_fetch',
3704
 
        'bzrlib.tests.test_fifo_cache',
3705
 
        'bzrlib.tests.test_filters',
3706
 
        'bzrlib.tests.test_ftp_transport',
3707
 
        'bzrlib.tests.test_foreign',
3708
 
        'bzrlib.tests.test_generate_docs',
3709
 
        'bzrlib.tests.test_generate_ids',
3710
 
        'bzrlib.tests.test_globbing',
3711
 
        'bzrlib.tests.test_gpg',
3712
 
        'bzrlib.tests.test_graph',
3713
 
        'bzrlib.tests.test_groupcompress',
3714
 
        'bzrlib.tests.test_hashcache',
3715
 
        'bzrlib.tests.test_help',
3716
 
        'bzrlib.tests.test_hooks',
3717
 
        'bzrlib.tests.test_http',
3718
 
        'bzrlib.tests.test_http_response',
3719
 
        'bzrlib.tests.test_https_ca_bundle',
3720
 
        'bzrlib.tests.test_identitymap',
3721
 
        'bzrlib.tests.test_ignores',
3722
 
        'bzrlib.tests.test_index',
3723
 
        'bzrlib.tests.test_import_tariff',
3724
 
        'bzrlib.tests.test_info',
3725
 
        'bzrlib.tests.test_inv',
3726
 
        'bzrlib.tests.test_inventory_delta',
3727
 
        'bzrlib.tests.test_knit',
3728
 
        'bzrlib.tests.test_lazy_import',
3729
 
        'bzrlib.tests.test_lazy_regex',
3730
 
        'bzrlib.tests.test_lock',
3731
 
        'bzrlib.tests.test_lockable_files',
3732
 
        'bzrlib.tests.test_lockdir',
3733
 
        'bzrlib.tests.test_log',
3734
 
        'bzrlib.tests.test_lru_cache',
3735
 
        'bzrlib.tests.test_lsprof',
3736
 
        'bzrlib.tests.test_mail_client',
3737
 
        'bzrlib.tests.test_matchers',
3738
 
        'bzrlib.tests.test_memorytree',
3739
 
        'bzrlib.tests.test_merge',
3740
 
        'bzrlib.tests.test_merge3',
3741
 
        'bzrlib.tests.test_merge_core',
3742
 
        'bzrlib.tests.test_merge_directive',
3743
 
        'bzrlib.tests.test_missing',
3744
 
        'bzrlib.tests.test_msgeditor',
3745
 
        'bzrlib.tests.test_multiparent',
3746
 
        'bzrlib.tests.test_mutabletree',
3747
 
        'bzrlib.tests.test_nonascii',
3748
 
        'bzrlib.tests.test_options',
3749
 
        'bzrlib.tests.test_osutils',
3750
 
        'bzrlib.tests.test_osutils_encodings',
3751
 
        'bzrlib.tests.test_pack',
3752
 
        'bzrlib.tests.test_patch',
3753
 
        'bzrlib.tests.test_patches',
3754
 
        'bzrlib.tests.test_permissions',
3755
 
        'bzrlib.tests.test_plugins',
3756
 
        'bzrlib.tests.test_progress',
3757
 
        'bzrlib.tests.test_read_bundle',
3758
 
        'bzrlib.tests.test_reconcile',
3759
 
        'bzrlib.tests.test_reconfigure',
3760
 
        'bzrlib.tests.test_registry',
3761
 
        'bzrlib.tests.test_remote',
3762
 
        'bzrlib.tests.test_rename_map',
3763
 
        'bzrlib.tests.test_repository',
3764
 
        'bzrlib.tests.test_revert',
3765
 
        'bzrlib.tests.test_revision',
3766
 
        'bzrlib.tests.test_revisionspec',
3767
 
        'bzrlib.tests.test_revisiontree',
3768
 
        'bzrlib.tests.test_rio',
3769
 
        'bzrlib.tests.test_rules',
3770
 
        'bzrlib.tests.test_sampler',
3771
 
        'bzrlib.tests.test_script',
3772
 
        'bzrlib.tests.test_selftest',
3773
 
        'bzrlib.tests.test_serializer',
3774
 
        'bzrlib.tests.test_setup',
3775
 
        'bzrlib.tests.test_sftp_transport',
3776
 
        'bzrlib.tests.test_shelf',
3777
 
        'bzrlib.tests.test_shelf_ui',
3778
 
        'bzrlib.tests.test_smart',
3779
 
        'bzrlib.tests.test_smart_add',
3780
 
        'bzrlib.tests.test_smart_request',
3781
 
        'bzrlib.tests.test_smart_transport',
3782
 
        'bzrlib.tests.test_smtp_connection',
3783
 
        'bzrlib.tests.test_source',
3784
 
        'bzrlib.tests.test_ssh_transport',
3785
 
        'bzrlib.tests.test_status',
3786
 
        'bzrlib.tests.test_store',
3787
 
        'bzrlib.tests.test_strace',
3788
 
        'bzrlib.tests.test_subsume',
3789
 
        'bzrlib.tests.test_switch',
3790
 
        'bzrlib.tests.test_symbol_versioning',
3791
 
        'bzrlib.tests.test_tag',
3792
 
        'bzrlib.tests.test_testament',
3793
 
        'bzrlib.tests.test_textfile',
3794
 
        'bzrlib.tests.test_textmerge',
3795
 
        'bzrlib.tests.test_timestamp',
3796
 
        'bzrlib.tests.test_trace',
3797
 
        'bzrlib.tests.test_transactions',
3798
 
        'bzrlib.tests.test_transform',
3799
 
        'bzrlib.tests.test_transport',
3800
 
        'bzrlib.tests.test_transport_log',
3801
 
        'bzrlib.tests.test_tree',
3802
 
        'bzrlib.tests.test_treebuilder',
3803
 
        'bzrlib.tests.test_tsort',
3804
 
        'bzrlib.tests.test_tuned_gzip',
3805
 
        'bzrlib.tests.test_ui',
3806
 
        'bzrlib.tests.test_uncommit',
3807
 
        'bzrlib.tests.test_upgrade',
3808
 
        'bzrlib.tests.test_upgrade_stacked',
3809
 
        'bzrlib.tests.test_urlutils',
3810
 
        'bzrlib.tests.test_version',
3811
 
        'bzrlib.tests.test_version_info',
3812
 
        'bzrlib.tests.test_weave',
3813
 
        'bzrlib.tests.test_whitebox',
3814
 
        'bzrlib.tests.test_win32utils',
3815
 
        'bzrlib.tests.test_workingtree',
3816
 
        'bzrlib.tests.test_workingtree_4',
3817
 
        'bzrlib.tests.test_wsgi',
3818
 
        'bzrlib.tests.test_xml',
3819
 
        ]
3820
 
 
3821
 
 
3822
 
def _test_suite_modules_to_doctest():
3823
 
    """Return the list of modules to doctest."""
3824
 
    if __doc__ is None:
3825
 
        # GZ 2009-03-31: No docstrings with -OO so there's nothing to doctest
3826
 
        return []
3827
 
    return [
3828
 
        'bzrlib',
3829
 
        'bzrlib.branchbuilder',
3830
 
        'bzrlib.decorators',
3831
 
        'bzrlib.export',
3832
 
        'bzrlib.inventory',
3833
 
        'bzrlib.iterablefile',
3834
 
        'bzrlib.lockdir',
3835
 
        'bzrlib.merge3',
3836
 
        'bzrlib.option',
3837
 
        'bzrlib.symbol_versioning',
3838
 
        'bzrlib.tests',
3839
 
        'bzrlib.timestamp',
3840
 
        'bzrlib.version_info_formats.format_custom',
3841
 
        ]
3842
 
 
3843
 
 
3844
2781
def test_suite(keep_only=None, starting_with=None):
3845
2782
    """Build and return TestSuite for the whole of bzrlib.
3846
2783
 
3852
2789
    This function can be replaced if you need to change the default test
3853
2790
    suite on a global basis, but it is not encouraged.
3854
2791
    """
 
2792
    testmod_names = [
 
2793
                   'bzrlib.doc',
 
2794
                   'bzrlib.tests.blackbox',
 
2795
                   'bzrlib.tests.branch_implementations',
 
2796
                   'bzrlib.tests.bzrdir_implementations',
 
2797
                   'bzrlib.tests.commands',
 
2798
                   'bzrlib.tests.interrepository_implementations',
 
2799
                   'bzrlib.tests.intertree_implementations',
 
2800
                   'bzrlib.tests.inventory_implementations',
 
2801
                   'bzrlib.tests.per_lock',
 
2802
                   'bzrlib.tests.per_repository',
 
2803
                   'bzrlib.tests.per_repository_reference',
 
2804
                   'bzrlib.tests.test__dirstate_helpers',
 
2805
                   'bzrlib.tests.test__walkdirs_win32',
 
2806
                   'bzrlib.tests.test_ancestry',
 
2807
                   'bzrlib.tests.test_annotate',
 
2808
                   'bzrlib.tests.test_api',
 
2809
                   'bzrlib.tests.test_atomicfile',
 
2810
                   'bzrlib.tests.test_bad_files',
 
2811
                   'bzrlib.tests.test_bisect_multi',
 
2812
                   'bzrlib.tests.test_branch',
 
2813
                   'bzrlib.tests.test_branchbuilder',
 
2814
                   'bzrlib.tests.test_btree_index',
 
2815
                   'bzrlib.tests.test_bugtracker',
 
2816
                   'bzrlib.tests.test_bundle',
 
2817
                   'bzrlib.tests.test_bzrdir',
 
2818
                   'bzrlib.tests.test_cache_utf8',
 
2819
                   'bzrlib.tests.test_chunk_writer',
 
2820
                   'bzrlib.tests.test__chunks_to_lines',
 
2821
                   'bzrlib.tests.test_commands',
 
2822
                   'bzrlib.tests.test_commit',
 
2823
                   'bzrlib.tests.test_commit_merge',
 
2824
                   'bzrlib.tests.test_config',
 
2825
                   'bzrlib.tests.test_conflicts',
 
2826
                   'bzrlib.tests.test_counted_lock',
 
2827
                   'bzrlib.tests.test_decorators',
 
2828
                   'bzrlib.tests.test_delta',
 
2829
                   'bzrlib.tests.test_deprecated_graph',
 
2830
                   'bzrlib.tests.test_diff',
 
2831
                   'bzrlib.tests.test_directory_service',
 
2832
                   'bzrlib.tests.test_dirstate',
 
2833
                   'bzrlib.tests.test_email_message',
 
2834
                   'bzrlib.tests.test_errors',
 
2835
                   'bzrlib.tests.test_extract',
 
2836
                   'bzrlib.tests.test_fetch',
 
2837
                   'bzrlib.tests.test_fifo_cache',
 
2838
                   'bzrlib.tests.test_ftp_transport',
 
2839
                   'bzrlib.tests.test_foreign',
 
2840
                   'bzrlib.tests.test_generate_docs',
 
2841
                   'bzrlib.tests.test_generate_ids',
 
2842
                   'bzrlib.tests.test_globbing',
 
2843
                   'bzrlib.tests.test_gpg',
 
2844
                   'bzrlib.tests.test_graph',
 
2845
                   'bzrlib.tests.test_hashcache',
 
2846
                   'bzrlib.tests.test_help',
 
2847
                   'bzrlib.tests.test_hooks',
 
2848
                   'bzrlib.tests.test_http',
 
2849
                   'bzrlib.tests.test_http_implementations',
 
2850
                   'bzrlib.tests.test_http_response',
 
2851
                   'bzrlib.tests.test_https_ca_bundle',
 
2852
                   'bzrlib.tests.test_identitymap',
 
2853
                   'bzrlib.tests.test_ignores',
 
2854
                   'bzrlib.tests.test_index',
 
2855
                   'bzrlib.tests.test_info',
 
2856
                   'bzrlib.tests.test_inv',
 
2857
                   'bzrlib.tests.test_knit',
 
2858
                   'bzrlib.tests.test_lazy_import',
 
2859
                   'bzrlib.tests.test_lazy_regex',
 
2860
                   'bzrlib.tests.test_lockable_files',
 
2861
                   'bzrlib.tests.test_lockdir',
 
2862
                   'bzrlib.tests.test_log',
 
2863
                   'bzrlib.tests.test_lru_cache',
 
2864
                   'bzrlib.tests.test_lsprof',
 
2865
                   'bzrlib.tests.test_mail_client',
 
2866
                   'bzrlib.tests.test_memorytree',
 
2867
                   'bzrlib.tests.test_merge',
 
2868
                   'bzrlib.tests.test_merge3',
 
2869
                   'bzrlib.tests.test_merge_core',
 
2870
                   'bzrlib.tests.test_merge_directive',
 
2871
                   'bzrlib.tests.test_missing',
 
2872
                   'bzrlib.tests.test_msgeditor',
 
2873
                   'bzrlib.tests.test_multiparent',
 
2874
                   'bzrlib.tests.test_mutabletree',
 
2875
                   'bzrlib.tests.test_nonascii',
 
2876
                   'bzrlib.tests.test_options',
 
2877
                   'bzrlib.tests.test_osutils',
 
2878
                   'bzrlib.tests.test_osutils_encodings',
 
2879
                   'bzrlib.tests.test_pack',
 
2880
                   'bzrlib.tests.test_pack_repository',
 
2881
                   'bzrlib.tests.test_patch',
 
2882
                   'bzrlib.tests.test_patches',
 
2883
                   'bzrlib.tests.test_permissions',
 
2884
                   'bzrlib.tests.test_plugins',
 
2885
                   'bzrlib.tests.test_progress',
 
2886
                   'bzrlib.tests.test_read_bundle',
 
2887
                   'bzrlib.tests.test_reconcile',
 
2888
                   'bzrlib.tests.test_reconfigure',
 
2889
                   'bzrlib.tests.test_registry',
 
2890
                   'bzrlib.tests.test_remote',
 
2891
                   'bzrlib.tests.test_repository',
 
2892
                   'bzrlib.tests.test_revert',
 
2893
                   'bzrlib.tests.test_revision',
 
2894
                   'bzrlib.tests.test_revisionspec',
 
2895
                   'bzrlib.tests.test_revisiontree',
 
2896
                   'bzrlib.tests.test_rio',
 
2897
                   'bzrlib.tests.test_rules',
 
2898
                   'bzrlib.tests.test_sampler',
 
2899
                   'bzrlib.tests.test_selftest',
 
2900
                   'bzrlib.tests.test_setup',
 
2901
                   'bzrlib.tests.test_sftp_transport',
 
2902
                   'bzrlib.tests.test_shelf',
 
2903
                   'bzrlib.tests.test_shelf_ui',
 
2904
                   'bzrlib.tests.test_smart',
 
2905
                   'bzrlib.tests.test_smart_add',
 
2906
                   'bzrlib.tests.test_smart_request',
 
2907
                   'bzrlib.tests.test_smart_transport',
 
2908
                   'bzrlib.tests.test_smtp_connection',
 
2909
                   'bzrlib.tests.test_source',
 
2910
                   'bzrlib.tests.test_ssh_transport',
 
2911
                   'bzrlib.tests.test_status',
 
2912
                   'bzrlib.tests.test_store',
 
2913
                   'bzrlib.tests.test_strace',
 
2914
                   'bzrlib.tests.test_subsume',
 
2915
                   'bzrlib.tests.test_switch',
 
2916
                   'bzrlib.tests.test_symbol_versioning',
 
2917
                   'bzrlib.tests.test_tag',
 
2918
                   'bzrlib.tests.test_testament',
 
2919
                   'bzrlib.tests.test_textfile',
 
2920
                   'bzrlib.tests.test_textmerge',
 
2921
                   'bzrlib.tests.test_timestamp',
 
2922
                   'bzrlib.tests.test_trace',
 
2923
                   'bzrlib.tests.test_transactions',
 
2924
                   'bzrlib.tests.test_transform',
 
2925
                   'bzrlib.tests.test_transport',
 
2926
                   'bzrlib.tests.test_transport_implementations',
 
2927
                   'bzrlib.tests.test_transport_log',
 
2928
                   'bzrlib.tests.test_tree',
 
2929
                   'bzrlib.tests.test_treebuilder',
 
2930
                   'bzrlib.tests.test_tsort',
 
2931
                   'bzrlib.tests.test_tuned_gzip',
 
2932
                   'bzrlib.tests.test_ui',
 
2933
                   'bzrlib.tests.test_uncommit',
 
2934
                   'bzrlib.tests.test_upgrade',
 
2935
                   'bzrlib.tests.test_upgrade_stacked',
 
2936
                   'bzrlib.tests.test_urlutils',
 
2937
                   'bzrlib.tests.test_version',
 
2938
                   'bzrlib.tests.test_version_info',
 
2939
                   'bzrlib.tests.test_versionedfile',
 
2940
                   'bzrlib.tests.test_weave',
 
2941
                   'bzrlib.tests.test_whitebox',
 
2942
                   'bzrlib.tests.test_win32utils',
 
2943
                   'bzrlib.tests.test_workingtree',
 
2944
                   'bzrlib.tests.test_workingtree_4',
 
2945
                   'bzrlib.tests.test_wsgi',
 
2946
                   'bzrlib.tests.test_xml',
 
2947
                   'bzrlib.tests.tree_implementations',
 
2948
                   'bzrlib.tests.workingtree_implementations',
 
2949
                   'bzrlib.util.tests.test_bencode',
 
2950
                   ]
3855
2951
 
3856
2952
    loader = TestUtil.TestLoader()
3857
2953
 
3858
 
    if keep_only is not None:
3859
 
        id_filter = TestIdList(keep_only)
3860
2954
    if starting_with:
 
2955
        starting_with = [test_prefix_alias_registry.resolve_alias(start)
 
2956
                         for start in starting_with]
3861
2957
        # We take precedence over keep_only because *at loading time* using
3862
2958
        # both options means we will load less tests for the same final result.
3863
2959
        def interesting_module(name):
3873
2969
        loader = TestUtil.FilteredByModuleTestLoader(interesting_module)
3874
2970
 
3875
2971
    elif keep_only is not None:
 
2972
        id_filter = TestIdList(keep_only)
3876
2973
        loader = TestUtil.FilteredByModuleTestLoader(id_filter.refers_to)
3877
2974
        def interesting_module(name):
3878
2975
            return id_filter.refers_to(name)
3886
2983
    suite = loader.suiteClass()
3887
2984
 
3888
2985
    # modules building their suite with loadTestsFromModuleNames
3889
 
    suite.addTest(loader.loadTestsFromModuleNames(_test_suite_testmod_names()))
3890
 
 
3891
 
    for mod in _test_suite_modules_to_doctest():
 
2986
    suite.addTest(loader.loadTestsFromModuleNames(testmod_names))
 
2987
 
 
2988
    modules_to_doctest = [
 
2989
        'bzrlib',
 
2990
        'bzrlib.branchbuilder',
 
2991
        'bzrlib.export',
 
2992
        'bzrlib.inventory',
 
2993
        'bzrlib.iterablefile',
 
2994
        'bzrlib.lockdir',
 
2995
        'bzrlib.merge3',
 
2996
        'bzrlib.option',
 
2997
        'bzrlib.symbol_versioning',
 
2998
        'bzrlib.tests',
 
2999
        'bzrlib.timestamp',
 
3000
        'bzrlib.version_info_formats.format_custom',
 
3001
        ]
 
3002
 
 
3003
    for mod in modules_to_doctest:
3892
3004
        if not interesting_module(mod):
3893
3005
            # No tests to keep here, move along
3894
3006
            continue
3895
3007
        try:
3896
 
            # note that this really does mean "report only" -- doctest
 
3008
            # note that this really does mean "report only" -- doctest 
3897
3009
            # still runs the rest of the examples
3898
3010
            doc_suite = doctest.DocTestSuite(mod,
3899
3011
                optionflags=doctest.REPORT_ONLY_FIRST_FAILURE)
3923
3035
            reload(sys)
3924
3036
            sys.setdefaultencoding(default_encoding)
3925
3037
 
 
3038
    if starting_with:
 
3039
        suite = filter_suite_by_id_startswith(suite, starting_with)
 
3040
 
3926
3041
    if keep_only is not None:
3927
3042
        # Now that the referred modules have loaded their tests, keep only the
3928
3043
        # requested ones.
3945
3060
    return suite
3946
3061
 
3947
3062
 
 
3063
def multiply_tests_from_modules(module_name_list, scenario_iter, loader=None):
 
3064
    """Adapt all tests in some given modules to given scenarios.
 
3065
 
 
3066
    This is the recommended public interface for test parameterization.
 
3067
    Typically the test_suite() method for a per-implementation test
 
3068
    suite will call multiply_tests_from_modules and return the 
 
3069
    result.
 
3070
 
 
3071
    :param module_name_list: List of fully-qualified names of test
 
3072
        modules.
 
3073
    :param scenario_iter: Iterable of pairs of (scenario_name, 
 
3074
        scenario_param_dict).
 
3075
    :param loader: If provided, will be used instead of a new 
 
3076
        bzrlib.tests.TestLoader() instance.
 
3077
 
 
3078
    This returns a new TestSuite containing the cross product of
 
3079
    all the tests in all the modules, each repeated for each scenario.
 
3080
    Each test is adapted by adding the scenario name at the end 
 
3081
    of its name, and updating the test object's __dict__ with the
 
3082
    scenario_param_dict.
 
3083
 
 
3084
    >>> r = multiply_tests_from_modules(
 
3085
    ...     ['bzrlib.tests.test_sampler'],
 
3086
    ...     [('one', dict(param=1)), 
 
3087
    ...      ('two', dict(param=2))])
 
3088
    >>> tests = list(iter_suite_tests(r))
 
3089
    >>> len(tests)
 
3090
    2
 
3091
    >>> tests[0].id()
 
3092
    'bzrlib.tests.test_sampler.DemoTest.test_nothing(one)'
 
3093
    >>> tests[0].param
 
3094
    1
 
3095
    >>> tests[1].param
 
3096
    2
 
3097
    """
 
3098
    # XXX: Isn't load_tests() a better way to provide the same functionality
 
3099
    # without forcing a predefined TestScenarioApplier ? --vila 080215
 
3100
    if loader is None:
 
3101
        loader = TestUtil.TestLoader()
 
3102
 
 
3103
    suite = loader.suiteClass()
 
3104
 
 
3105
    adapter = TestScenarioApplier()
 
3106
    adapter.scenarios = list(scenario_iter)
 
3107
    adapt_modules(module_name_list, adapter, loader, suite)
 
3108
    return suite
 
3109
 
 
3110
 
3948
3111
def multiply_scenarios(scenarios_left, scenarios_right):
3949
3112
    """Multiply two sets of scenarios.
3950
3113
 
3959
3122
        for right_name, right_dict in scenarios_right]
3960
3123
 
3961
3124
 
3962
 
def multiply_tests(tests, scenarios, result):
3963
 
    """Multiply tests_list by scenarios into result.
3964
 
 
3965
 
    This is the core workhorse for test parameterisation.
3966
 
 
3967
 
    Typically the load_tests() method for a per-implementation test suite will
3968
 
    call multiply_tests and return the result.
3969
 
 
3970
 
    :param tests: The tests to parameterise.
3971
 
    :param scenarios: The scenarios to apply: pairs of (scenario_name,
3972
 
        scenario_param_dict).
3973
 
    :param result: A TestSuite to add created tests to.
3974
 
 
3975
 
    This returns the passed in result TestSuite with the cross product of all
3976
 
    the tests repeated once for each scenario.  Each test is adapted by adding
3977
 
    the scenario name at the end of its id(), and updating the test object's
3978
 
    __dict__ with the scenario_param_dict.
3979
 
 
3980
 
    >>> import bzrlib.tests.test_sampler
3981
 
    >>> r = multiply_tests(
3982
 
    ...     bzrlib.tests.test_sampler.DemoTest('test_nothing'),
3983
 
    ...     [('one', dict(param=1)),
3984
 
    ...      ('two', dict(param=2))],
3985
 
    ...     TestSuite())
3986
 
    >>> tests = list(iter_suite_tests(r))
3987
 
    >>> len(tests)
3988
 
    2
3989
 
    >>> tests[0].id()
3990
 
    'bzrlib.tests.test_sampler.DemoTest.test_nothing(one)'
3991
 
    >>> tests[0].param
3992
 
    1
3993
 
    >>> tests[1].param
3994
 
    2
3995
 
    """
3996
 
    for test in iter_suite_tests(tests):
3997
 
        apply_scenarios(test, scenarios, result)
3998
 
    return result
3999
 
 
4000
 
 
4001
 
def apply_scenarios(test, scenarios, result):
4002
 
    """Apply the scenarios in scenarios to test and add to result.
4003
 
 
4004
 
    :param test: The test to apply scenarios to.
4005
 
    :param scenarios: An iterable of scenarios to apply to test.
4006
 
    :return: result
4007
 
    :seealso: apply_scenario
4008
 
    """
4009
 
    for scenario in scenarios:
4010
 
        result.addTest(apply_scenario(test, scenario))
4011
 
    return result
4012
 
 
4013
 
 
4014
 
def apply_scenario(test, scenario):
4015
 
    """Copy test and apply scenario to it.
4016
 
 
4017
 
    :param test: A test to adapt.
4018
 
    :param scenario: A tuple describing the scenarion.
4019
 
        The first element of the tuple is the new test id.
4020
 
        The second element is a dict containing attributes to set on the
4021
 
        test.
4022
 
    :return: The adapted test.
4023
 
    """
4024
 
    new_id = "%s(%s)" % (test.id(), scenario[0])
4025
 
    new_test = clone_test(test, new_id)
4026
 
    for name, value in scenario[1].items():
4027
 
        setattr(new_test, name, value)
4028
 
    return new_test
4029
 
 
4030
 
 
4031
 
def clone_test(test, new_id):
4032
 
    """Clone a test giving it a new id.
4033
 
 
4034
 
    :param test: The test to clone.
4035
 
    :param new_id: The id to assign to it.
4036
 
    :return: The new test.
4037
 
    """
4038
 
    new_test = copy(test)
4039
 
    new_test.id = lambda: new_id
4040
 
    return new_test
4041
 
 
4042
 
 
4043
 
def permute_tests_for_extension(standard_tests, loader, py_module_name,
4044
 
                                ext_module_name):
4045
 
    """Helper for permutating tests against an extension module.
4046
 
 
4047
 
    This is meant to be used inside a modules 'load_tests()' function. It will
4048
 
    create 2 scenarios, and cause all tests in the 'standard_tests' to be run
4049
 
    against both implementations. Setting 'test.module' to the appropriate
4050
 
    module. See bzrlib.tests.test__chk_map.load_tests as an example.
4051
 
 
4052
 
    :param standard_tests: A test suite to permute
4053
 
    :param loader: A TestLoader
4054
 
    :param py_module_name: The python path to a python module that can always
4055
 
        be loaded, and will be considered the 'python' implementation. (eg
4056
 
        'bzrlib._chk_map_py')
4057
 
    :param ext_module_name: The python path to an extension module. If the
4058
 
        module cannot be loaded, a single test will be added, which notes that
4059
 
        the module is not available. If it can be loaded, all standard_tests
4060
 
        will be run against that module.
4061
 
    :return: (suite, feature) suite is a test-suite that has all the permuted
4062
 
        tests. feature is the Feature object that can be used to determine if
4063
 
        the module is available.
4064
 
    """
4065
 
 
4066
 
    py_module = __import__(py_module_name, {}, {}, ['NO_SUCH_ATTRIB'])
4067
 
    scenarios = [
4068
 
        ('python', {'module': py_module}),
4069
 
    ]
4070
 
    suite = loader.suiteClass()
4071
 
    feature = ModuleAvailableFeature(ext_module_name)
4072
 
    if feature.available():
4073
 
        scenarios.append(('C', {'module': feature.module}))
4074
 
    else:
4075
 
        # the compiled module isn't available, so we add a failing test
4076
 
        class FailWithoutFeature(TestCase):
4077
 
            def test_fail(self):
4078
 
                self.requireFeature(feature)
4079
 
        suite.addTest(loader.loadTestsFromTestCase(FailWithoutFeature))
4080
 
    result = multiply_tests(standard_tests, scenarios, suite)
4081
 
    return result, feature
4082
 
 
4083
 
 
4084
 
def _rmtree_temp_dir(dirname, test_id=None):
 
3125
 
 
3126
def adapt_modules(mods_list, adapter, loader, suite):
 
3127
    """Adapt the modules in mods_list using adapter and add to suite."""
 
3128
    tests = loader.loadTestsFromModuleNames(mods_list)
 
3129
    adapt_tests(tests, adapter, suite)
 
3130
 
 
3131
 
 
3132
def adapt_tests(tests_list, adapter, suite):
 
3133
    """Adapt the tests in tests_list using adapter and add to suite."""
 
3134
    for test in iter_suite_tests(tests_list):
 
3135
        suite.addTests(adapter.adapt(test))
 
3136
 
 
3137
 
 
3138
def _rmtree_temp_dir(dirname):
4085
3139
    # If LANG=C we probably have created some bogus paths
4086
3140
    # which rmtree(unicode) will fail to delete
4087
3141
    # so make sure we are using rmtree(str) to delete everything
4096
3150
    try:
4097
3151
        osutils.rmtree(dirname)
4098
3152
    except OSError, e:
4099
 
        # We don't want to fail here because some useful display will be lost
4100
 
        # otherwise. Polluting the tmp dir is bad, but not giving all the
4101
 
        # possible info to the test runner is even worse.
4102
 
        if test_id != None:
4103
 
            ui.ui_factory.clear_term()
4104
 
            sys.stderr.write('\nWhile running: %s\n' % (test_id,))
4105
 
        sys.stderr.write('Unable to remove testing dir %s\n%s'
4106
 
                         % (os.path.basename(dirname), e))
 
3153
        if sys.platform == 'win32' and e.errno == errno.EACCES:
 
3154
            sys.stderr.write(('Permission denied: '
 
3155
                                 'unable to remove testing dir '
 
3156
                                 '%s\n' % os.path.basename(dirname)))
 
3157
        else:
 
3158
            raise
4107
3159
 
4108
3160
 
4109
3161
class Feature(object):
4191
3243
UnicodeFilenameFeature = _UnicodeFilenameFeature()
4192
3244
 
4193
3245
 
4194
 
class _CompatabilityThunkFeature(Feature):
4195
 
    """This feature is just a thunk to another feature.
4196
 
 
4197
 
    It issues a deprecation warning if it is accessed, to let you know that you
4198
 
    should really use a different feature.
4199
 
    """
4200
 
 
4201
 
    def __init__(self, dep_version, module, name,
4202
 
                 replacement_name, replacement_module=None):
4203
 
        super(_CompatabilityThunkFeature, self).__init__()
4204
 
        self._module = module
4205
 
        if replacement_module is None:
4206
 
            replacement_module = module
4207
 
        self._replacement_module = replacement_module
4208
 
        self._name = name
4209
 
        self._replacement_name = replacement_name
4210
 
        self._dep_version = dep_version
4211
 
        self._feature = None
4212
 
 
4213
 
    def _ensure(self):
4214
 
        if self._feature is None:
4215
 
            depr_msg = self._dep_version % ('%s.%s'
4216
 
                                            % (self._module, self._name))
4217
 
            use_msg = ' Use %s.%s instead.' % (self._replacement_module,
4218
 
                                               self._replacement_name)
4219
 
            symbol_versioning.warn(depr_msg + use_msg, DeprecationWarning)
4220
 
            # Import the new feature and use it as a replacement for the
4221
 
            # deprecated one.
4222
 
            mod = __import__(self._replacement_module, {}, {},
4223
 
                             [self._replacement_name])
4224
 
            self._feature = getattr(mod, self._replacement_name)
4225
 
 
4226
 
    def _probe(self):
4227
 
        self._ensure()
4228
 
        return self._feature._probe()
4229
 
 
4230
 
 
4231
 
class ModuleAvailableFeature(Feature):
4232
 
    """This is a feature than describes a module we want to be available.
4233
 
 
4234
 
    Declare the name of the module in __init__(), and then after probing, the
4235
 
    module will be available as 'self.module'.
4236
 
 
4237
 
    :ivar module: The module if it is available, else None.
4238
 
    """
4239
 
 
4240
 
    def __init__(self, module_name):
4241
 
        super(ModuleAvailableFeature, self).__init__()
4242
 
        self.module_name = module_name
4243
 
 
4244
 
    def _probe(self):
4245
 
        try:
4246
 
            self._module = __import__(self.module_name, {}, {}, [''])
4247
 
            return True
4248
 
        except ImportError:
4249
 
            return False
4250
 
 
4251
 
    @property
4252
 
    def module(self):
4253
 
        if self.available(): # Make sure the probe has been done
4254
 
            return self._module
4255
 
        return None
4256
 
 
4257
 
    def feature_name(self):
4258
 
        return self.module_name
4259
 
 
4260
 
 
4261
 
# This is kept here for compatibility, it is recommended to use
4262
 
# 'bzrlib.tests.feature.paramiko' instead
4263
 
ParamikoFeature = _CompatabilityThunkFeature(
4264
 
    deprecated_in((2,1,0)),
4265
 
    'bzrlib.tests.features', 'ParamikoFeature', 'paramiko')
 
3246
class TestScenarioApplier(object):
 
3247
    """A tool to apply scenarios to tests."""
 
3248
 
 
3249
    def adapt(self, test):
 
3250
        """Return a TestSuite containing a copy of test for each scenario."""
 
3251
        result = unittest.TestSuite()
 
3252
        for scenario in self.scenarios:
 
3253
            result.addTest(self.adapt_test_to_scenario(test, scenario))
 
3254
        return result
 
3255
 
 
3256
    def adapt_test_to_scenario(self, test, scenario):
 
3257
        """Copy test and apply scenario to it.
 
3258
 
 
3259
        :param test: A test to adapt.
 
3260
        :param scenario: A tuple describing the scenarion.
 
3261
            The first element of the tuple is the new test id.
 
3262
            The second element is a dict containing attributes to set on the
 
3263
            test.
 
3264
        :return: The adapted test.
 
3265
        """
 
3266
        from copy import deepcopy
 
3267
        new_test = deepcopy(test)
 
3268
        for name, value in scenario[1].items():
 
3269
            setattr(new_test, name, value)
 
3270
        new_id = "%s(%s)" % (new_test.id(), scenario[0])
 
3271
        new_test.id = lambda: new_id
 
3272
        return new_test
4266
3273
 
4267
3274
 
4268
3275
def probe_unicode_in_user_encoding():
4298
3305
    return None
4299
3306
 
4300
3307
 
 
3308
class _FTPServerFeature(Feature):
 
3309
    """Some tests want an FTP Server, check if one is available.
 
3310
 
 
3311
    Right now, the only way this is available is if 'medusa' is installed.
 
3312
    http://www.amk.ca/python/code/medusa.html
 
3313
    """
 
3314
 
 
3315
    def _probe(self):
 
3316
        try:
 
3317
            import bzrlib.tests.ftp_server
 
3318
            return True
 
3319
        except ImportError:
 
3320
            return False
 
3321
 
 
3322
    def feature_name(self):
 
3323
        return 'FTPServer'
 
3324
 
 
3325
 
 
3326
FTPServerFeature = _FTPServerFeature()
 
3327
 
 
3328
 
4301
3329
class _HTTPSServerFeature(Feature):
4302
3330
    """Some tests want an https Server, check if one is available.
4303
3331
 
4350
3378
UTF8Filesystem = _UTF8Filesystem()
4351
3379
 
4352
3380
 
4353
 
class _BreakinFeature(Feature):
4354
 
    """Does this platform support the breakin feature?"""
4355
 
 
4356
 
    def _probe(self):
4357
 
        from bzrlib import breakin
4358
 
        if breakin.determine_signal() is None:
4359
 
            return False
4360
 
        if sys.platform == 'win32':
4361
 
            # Windows doesn't have os.kill, and we catch the SIGBREAK signal.
4362
 
            # We trigger SIGBREAK via a Console api so we need ctypes to
4363
 
            # access the function
4364
 
            try:
4365
 
                import ctypes
4366
 
            except OSError:
4367
 
                return False
4368
 
        return True
4369
 
 
4370
 
    def feature_name(self):
4371
 
        return "SIGQUIT or SIGBREAK w/ctypes on win32"
4372
 
 
4373
 
 
4374
 
BreakinFeature = _BreakinFeature()
4375
 
 
4376
 
 
4377
3381
class _CaseInsCasePresFilenameFeature(Feature):
4378
3382
    """Is the file-system case insensitive, but case-preserving?"""
4379
3383
 
4427
3431
        return 'case-insensitive filesystem'
4428
3432
 
4429
3433
CaseInsensitiveFilesystemFeature = _CaseInsensitiveFilesystemFeature()
4430
 
 
4431
 
 
4432
 
class _CaseSensitiveFilesystemFeature(Feature):
4433
 
 
4434
 
    def _probe(self):
4435
 
        if CaseInsCasePresFilenameFeature.available():
4436
 
            return False
4437
 
        elif CaseInsensitiveFilesystemFeature.available():
4438
 
            return False
4439
 
        else:
4440
 
            return True
4441
 
 
4442
 
    def feature_name(self):
4443
 
        return 'case-sensitive filesystem'
4444
 
 
4445
 
# new coding style is for feature instances to be lowercase
4446
 
case_sensitive_filesystem_feature = _CaseSensitiveFilesystemFeature()
4447
 
 
4448
 
 
4449
 
# Kept for compatibility, use bzrlib.tests.features.subunit instead
4450
 
SubUnitFeature = _CompatabilityThunkFeature(
4451
 
    deprecated_in((2,1,0)),
4452
 
    'bzrlib.tests.features', 'SubUnitFeature', 'subunit')
4453
 
# Only define SubUnitBzrRunner if subunit is available.
4454
 
try:
4455
 
    from subunit import TestProtocolClient
4456
 
    from subunit.test_results import AutoTimingTestResultDecorator
4457
 
    class SubUnitBzrRunner(TextTestRunner):
4458
 
        def run(self, test):
4459
 
            result = AutoTimingTestResultDecorator(
4460
 
                TestProtocolClient(self.stream))
4461
 
            test.run(result)
4462
 
            return result
4463
 
except ImportError:
4464
 
    pass
4465
 
 
4466
 
class _PosixPermissionsFeature(Feature):
4467
 
 
4468
 
    def _probe(self):
4469
 
        def has_perms():
4470
 
            # create temporary file and check if specified perms are maintained.
4471
 
            import tempfile
4472
 
 
4473
 
            write_perms = stat.S_IRUSR | stat.S_IWUSR | stat.S_IXUSR
4474
 
            f = tempfile.mkstemp(prefix='bzr_perms_chk_')
4475
 
            fd, name = f
4476
 
            os.close(fd)
4477
 
            os.chmod(name, write_perms)
4478
 
 
4479
 
            read_perms = os.stat(name).st_mode & 0777
4480
 
            os.unlink(name)
4481
 
            return (write_perms == read_perms)
4482
 
 
4483
 
        return (os.name == 'posix') and has_perms()
4484
 
 
4485
 
    def feature_name(self):
4486
 
        return 'POSIX permissions support'
4487
 
 
4488
 
posix_permissions_feature = _PosixPermissionsFeature()