/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/tests/__init__.py

  • Committer: Gordon Tyler
  • Date: 2011-06-30 21:00:38 UTC
  • mto: This revision was merged to the branch mainline in revision 6007.
  • Revision ID: gordon@doxxx.net-20110630210038-bzscps46jgcqtkr0
Use known executables for win32 and other platforms in test_exe_on_path.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2010 Canonical Ltd
 
1
# Copyright (C) 2005-2011 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
29
29
 
30
30
import atexit
31
31
import codecs
32
 
from copy import copy
 
32
import copy
33
33
from cStringIO import StringIO
34
34
import difflib
35
35
import doctest
36
36
import errno
 
37
import itertools
37
38
import logging
38
 
import math
39
39
import os
40
 
from pprint import pformat
 
40
import platform
 
41
import pprint
41
42
import random
42
43
import re
43
44
import shlex
44
45
import stat
45
 
from subprocess import Popen, PIPE, STDOUT
 
46
import subprocess
46
47
import sys
47
48
import tempfile
48
49
import threading
54
55
import testtools
55
56
# nb: check this before importing anything else from within it
56
57
_testtools_version = getattr(testtools, '__version__', ())
57
 
if _testtools_version < (0, 9, 2):
58
 
    raise ImportError("need at least testtools 0.9.2: %s is %r"
 
58
if _testtools_version < (0, 9, 5):
 
59
    raise ImportError("need at least testtools 0.9.5: %s is %r"
59
60
        % (testtools.__file__, _testtools_version))
60
61
from testtools import content
61
62
 
 
63
import bzrlib
62
64
from bzrlib import (
63
65
    branchbuilder,
64
66
    bzrdir,
65
67
    chk_map,
 
68
    commands as _mod_commands,
66
69
    config,
67
70
    debug,
68
71
    errors,
69
72
    hooks,
70
73
    lock as _mod_lock,
 
74
    lockdir,
71
75
    memorytree,
72
76
    osutils,
73
 
    progress,
 
77
    plugin as _mod_plugin,
 
78
    pyutils,
74
79
    ui,
75
80
    urlutils,
76
81
    registry,
 
82
    symbol_versioning,
 
83
    trace,
 
84
    transport as _mod_transport,
77
85
    workingtree,
78
86
    )
79
 
import bzrlib.branch
80
 
import bzrlib.commands
81
 
import bzrlib.timestamp
82
 
import bzrlib.export
83
 
import bzrlib.inventory
84
 
import bzrlib.iterablefile
85
 
import bzrlib.lockdir
86
87
try:
87
88
    import bzrlib.lsprof
88
89
except ImportError:
89
90
    # lsprof not available
90
91
    pass
91
 
from bzrlib.merge import merge_inner
92
 
import bzrlib.merge3
93
 
import bzrlib.plugin
94
 
from bzrlib.smart import client, request, server
95
 
import bzrlib.store
96
 
from bzrlib import symbol_versioning
97
 
from bzrlib.symbol_versioning import (
98
 
    DEPRECATED_PARAMETER,
99
 
    deprecated_function,
100
 
    deprecated_in,
101
 
    deprecated_method,
102
 
    deprecated_passed,
103
 
    )
104
 
import bzrlib.trace
 
92
from bzrlib.smart import client, request
105
93
from bzrlib.transport import (
106
 
    get_transport,
107
94
    memory,
108
95
    pathfilter,
109
96
    )
110
 
import bzrlib.transport
111
 
from bzrlib.trace import mutter, note
112
97
from bzrlib.tests import (
113
98
    test_server,
114
99
    TestUtil,
 
100
    treeshape,
115
101
    )
116
 
from bzrlib.tests.http_server import HttpServer
117
 
from bzrlib.tests.TestUtil import (
118
 
                          TestSuite,
119
 
                          TestLoader,
120
 
                          )
121
 
from bzrlib.tests.treeshape import build_tree_contents
122
102
from bzrlib.ui import NullProgressView
123
103
from bzrlib.ui.text import TextUIFactory
124
 
import bzrlib.version_info_formats.format_custom
125
 
from bzrlib.workingtree import WorkingTree, WorkingTreeFormat2
126
104
 
127
105
# Mark this python module as being part of the implementation
128
106
# of unittest: this gives us better tracebacks where the last
140
118
SUBUNIT_SEEK_SET = 0
141
119
SUBUNIT_SEEK_CUR = 1
142
120
 
143
 
 
144
 
class ExtendedTestResult(unittest._TextTestResult):
 
121
# These are intentionally brought into this namespace. That way plugins, etc
 
122
# can just "from bzrlib.tests import TestCase, TestLoader, etc"
 
123
TestSuite = TestUtil.TestSuite
 
124
TestLoader = TestUtil.TestLoader
 
125
 
 
126
# Tests should run in a clean and clearly defined environment. The goal is to
 
127
# keep them isolated from the running environment as mush as possible. The test
 
128
# framework ensures the variables defined below are set (or deleted if the
 
129
# value is None) before a test is run and reset to their original value after
 
130
# the test is run. Generally if some code depends on an environment variable,
 
131
# the tests should start without this variable in the environment. There are a
 
132
# few exceptions but you shouldn't violate this rule lightly.
 
133
isolated_environ = {
 
134
    'BZR_HOME': None,
 
135
    'HOME': None,
 
136
    # bzr now uses the Win32 API and doesn't rely on APPDATA, but the
 
137
    # tests do check our impls match APPDATA
 
138
    'BZR_EDITOR': None, # test_msgeditor manipulates this variable
 
139
    'VISUAL': None,
 
140
    'EDITOR': None,
 
141
    'BZR_EMAIL': None,
 
142
    'BZREMAIL': None, # may still be present in the environment
 
143
    'EMAIL': 'jrandom@example.com', # set EMAIL as bzr does not guess
 
144
    'BZR_PROGRESS_BAR': None,
 
145
    # This should trap leaks to ~/.bzr.log. This occurs when tests use TestCase
 
146
    # as a base class instead of TestCaseInTempDir. Tests inheriting from
 
147
    # TestCase should not use disk resources, BZR_LOG is one.
 
148
    'BZR_LOG': '/you-should-use-TestCaseInTempDir-if-you-need-a-log-file',
 
149
    'BZR_PLUGIN_PATH': None,
 
150
    'BZR_DISABLE_PLUGINS': None,
 
151
    'BZR_PLUGINS_AT': None,
 
152
    'BZR_CONCURRENCY': None,
 
153
    # Make sure that any text ui tests are consistent regardless of
 
154
    # the environment the test case is run in; you may want tests that
 
155
    # test other combinations.  'dumb' is a reasonable guess for tests
 
156
    # going to a pipe or a StringIO.
 
157
    'TERM': 'dumb',
 
158
    'LINES': '25',
 
159
    'COLUMNS': '80',
 
160
    'BZR_COLUMNS': '80',
 
161
    # Disable SSH Agent
 
162
    'SSH_AUTH_SOCK': None,
 
163
    # Proxies
 
164
    'http_proxy': None,
 
165
    'HTTP_PROXY': None,
 
166
    'https_proxy': None,
 
167
    'HTTPS_PROXY': None,
 
168
    'no_proxy': None,
 
169
    'NO_PROXY': None,
 
170
    'all_proxy': None,
 
171
    'ALL_PROXY': None,
 
172
    # Nobody cares about ftp_proxy, FTP_PROXY AFAIK. So far at
 
173
    # least. If you do (care), please update this comment
 
174
    # -- vila 20080401
 
175
    'ftp_proxy': None,
 
176
    'FTP_PROXY': None,
 
177
    'BZR_REMOTE_PATH': None,
 
178
    # Generally speaking, we don't want apport reporting on crashes in
 
179
    # the test envirnoment unless we're specifically testing apport,
 
180
    # so that it doesn't leak into the real system environment.  We
 
181
    # use an env var so it propagates to subprocesses.
 
182
    'APPORT_DISABLE': '1',
 
183
    }
 
184
 
 
185
 
 
186
def override_os_environ(test, env=None):
 
187
    """Modify os.environ keeping a copy.
 
188
    
 
189
    :param test: A test instance
 
190
 
 
191
    :param env: A dict containing variable definitions to be installed
 
192
    """
 
193
    if env is None:
 
194
        env = isolated_environ
 
195
    test._original_os_environ = dict([(var, value)
 
196
                                      for var, value in os.environ.iteritems()])
 
197
    for var, value in env.iteritems():
 
198
        osutils.set_or_unset_env(var, value)
 
199
        if var not in test._original_os_environ:
 
200
            # The var is new, add it with a value of None, so
 
201
            # restore_os_environ will delete it
 
202
            test._original_os_environ[var] = None
 
203
 
 
204
 
 
205
def restore_os_environ(test):
 
206
    """Restore os.environ to its original state.
 
207
 
 
208
    :param test: A test instance previously passed to override_os_environ.
 
209
    """
 
210
    for var, value in test._original_os_environ.iteritems():
 
211
        # Restore the original value (or delete it if the value has been set to
 
212
        # None in override_os_environ).
 
213
        osutils.set_or_unset_env(var, value)
 
214
 
 
215
 
 
216
class ExtendedTestResult(testtools.TextTestResult):
145
217
    """Accepts, reports and accumulates the results of running tests.
146
218
 
147
219
    Compared to the unittest version this class adds support for
168
240
        :param bench_history: Optionally, a writable file object to accumulate
169
241
            benchmark results.
170
242
        """
171
 
        unittest._TextTestResult.__init__(self, stream, descriptions, verbosity)
 
243
        testtools.TextTestResult.__init__(self, stream)
172
244
        if bench_history is not None:
173
245
            from bzrlib.version import _get_bzr_source_tree
174
246
            src_tree = _get_bzr_source_tree()
195
267
        self.count = 0
196
268
        self._overall_start_time = time.time()
197
269
        self._strict = strict
 
270
        self._first_thread_leaker_id = None
 
271
        self._tests_leaking_threads_count = 0
 
272
        self._traceback_from_test = None
198
273
 
199
274
    def stopTestRun(self):
200
275
        run = self.testsRun
201
276
        actionTaken = "Ran"
202
277
        stopTime = time.time()
203
278
        timeTaken = stopTime - self.startTime
204
 
        self.printErrors()
205
 
        self.stream.writeln(self.separator2)
206
 
        self.stream.writeln("%s %d test%s in %.3fs" % (actionTaken,
 
279
        # GZ 2010-07-19: Seems testtools has no printErrors method, and though
 
280
        #                the parent class method is similar have to duplicate
 
281
        self._show_list('ERROR', self.errors)
 
282
        self._show_list('FAIL', self.failures)
 
283
        self.stream.write(self.sep2)
 
284
        self.stream.write("%s %d test%s in %.3fs\n\n" % (actionTaken,
207
285
                            run, run != 1 and "s" or "", timeTaken))
208
 
        self.stream.writeln()
209
286
        if not self.wasSuccessful():
210
287
            self.stream.write("FAILED (")
211
288
            failed, errored = map(len, (self.failures, self.errors))
218
295
                if failed or errored: self.stream.write(", ")
219
296
                self.stream.write("known_failure_count=%d" %
220
297
                    self.known_failure_count)
221
 
            self.stream.writeln(")")
 
298
            self.stream.write(")\n")
222
299
        else:
223
300
            if self.known_failure_count:
224
 
                self.stream.writeln("OK (known_failures=%d)" %
 
301
                self.stream.write("OK (known_failures=%d)\n" %
225
302
                    self.known_failure_count)
226
303
            else:
227
 
                self.stream.writeln("OK")
 
304
                self.stream.write("OK\n")
228
305
        if self.skip_count > 0:
229
306
            skipped = self.skip_count
230
 
            self.stream.writeln('%d test%s skipped' %
 
307
            self.stream.write('%d test%s skipped\n' %
231
308
                                (skipped, skipped != 1 and "s" or ""))
232
309
        if self.unsupported:
233
310
            for feature, count in sorted(self.unsupported.items()):
234
 
                self.stream.writeln("Missing feature '%s' skipped %d tests." %
 
311
                self.stream.write("Missing feature '%s' skipped %d tests.\n" %
235
312
                    (feature, count))
236
313
        if self._strict:
237
314
            ok = self.wasStrictlySuccessful()
238
315
        else:
239
316
            ok = self.wasSuccessful()
240
 
        if TestCase._first_thread_leaker_id:
 
317
        if self._first_thread_leaker_id:
241
318
            self.stream.write(
242
319
                '%s is leaking threads among %d leaking tests.\n' % (
243
 
                TestCase._first_thread_leaker_id,
244
 
                TestCase._leaking_threads_tests))
 
320
                self._first_thread_leaker_id,
 
321
                self._tests_leaking_threads_count))
245
322
            # We don't report the main thread as an active one.
246
323
            self.stream.write(
247
324
                '%d non-main threads were left active in the end.\n'
248
 
                % (TestCase._active_threads - 1))
 
325
                % (len(self._active_threads) - 1))
249
326
 
250
327
    def getDescription(self, test):
251
328
        return test.id()
258
335
 
259
336
    def _elapsedTestTimeString(self):
260
337
        """Return a time string for the overall time the current test has taken."""
261
 
        return self._formatTime(time.time() - self._start_time)
 
338
        return self._formatTime(self._delta_to_float(
 
339
            self._now() - self._start_datetime))
262
340
 
263
341
    def _testTimeString(self, testCase):
264
342
        benchmark_time = self._extractBenchmarkTime(testCase)
275
353
 
276
354
    def _shortened_test_description(self, test):
277
355
        what = test.id()
278
 
        what = re.sub(r'^bzrlib\.(tests|benchmarks)\.', '', what)
 
356
        what = re.sub(r'^bzrlib\.tests\.', '', what)
279
357
        return what
280
358
 
 
359
    # GZ 2010-10-04: Cloned tests may end up harmlessly calling this method
 
360
    #                multiple times in a row, because the handler is added for
 
361
    #                each test but the container list is shared between cases.
 
362
    #                See lp:498869 lp:625574 and lp:637725 for background.
 
363
    def _record_traceback_from_test(self, exc_info):
 
364
        """Store the traceback from passed exc_info tuple till"""
 
365
        self._traceback_from_test = exc_info[2]
 
366
 
281
367
    def startTest(self, test):
282
 
        unittest.TestResult.startTest(self, test)
 
368
        super(ExtendedTestResult, self).startTest(test)
283
369
        if self.count == 0:
284
370
            self.startTests()
 
371
        self.count += 1
285
372
        self.report_test_start(test)
286
373
        test.number = self.count
287
374
        self._recordTestStartTime()
 
375
        # Make testtools cases give us the real traceback on failure
 
376
        addOnException = getattr(test, "addOnException", None)
 
377
        if addOnException is not None:
 
378
            addOnException(self._record_traceback_from_test)
 
379
        # Only check for thread leaks on bzrlib derived test cases
 
380
        if isinstance(test, TestCase):
 
381
            test.addCleanup(self._check_leaked_threads, test)
 
382
 
 
383
    def stopTest(self, test):
 
384
        super(ExtendedTestResult, self).stopTest(test)
 
385
        # Manually break cycles, means touching various private things but hey
 
386
        getDetails = getattr(test, "getDetails", None)
 
387
        if getDetails is not None:
 
388
            getDetails().clear()
 
389
        type_equality_funcs = getattr(test, "_type_equality_funcs", None)
 
390
        if type_equality_funcs is not None:
 
391
            type_equality_funcs.clear()
 
392
        self._traceback_from_test = None
288
393
 
289
394
    def startTests(self):
290
 
        import platform
291
 
        if getattr(sys, 'frozen', None) is None:
292
 
            bzr_path = osutils.realpath(sys.argv[0])
293
 
        else:
294
 
            bzr_path = sys.executable
295
 
        self.stream.write(
296
 
            'bzr selftest: %s\n' % (bzr_path,))
297
 
        self.stream.write(
298
 
            '   %s\n' % (
299
 
                    bzrlib.__path__[0],))
300
 
        self.stream.write(
301
 
            '   bzr-%s python-%s %s\n' % (
302
 
                    bzrlib.version_string,
303
 
                    bzrlib._format_version_tuple(sys.version_info),
304
 
                    platform.platform(aliased=1),
305
 
                    ))
306
 
        self.stream.write('\n')
 
395
        self.report_tests_starting()
 
396
        self._active_threads = threading.enumerate()
 
397
 
 
398
    def _check_leaked_threads(self, test):
 
399
        """See if any threads have leaked since last call
 
400
 
 
401
        A sample of live threads is stored in the _active_threads attribute,
 
402
        when this method runs it compares the current live threads and any not
 
403
        in the previous sample are treated as having leaked.
 
404
        """
 
405
        now_active_threads = set(threading.enumerate())
 
406
        threads_leaked = now_active_threads.difference(self._active_threads)
 
407
        if threads_leaked:
 
408
            self._report_thread_leak(test, threads_leaked, now_active_threads)
 
409
            self._tests_leaking_threads_count += 1
 
410
            if self._first_thread_leaker_id is None:
 
411
                self._first_thread_leaker_id = test.id()
 
412
            self._active_threads = now_active_threads
307
413
 
308
414
    def _recordTestStartTime(self):
309
415
        """Record that a test has started."""
310
 
        self._start_time = time.time()
311
 
 
312
 
    def _cleanupLogFile(self, test):
313
 
        # We can only do this if we have one of our TestCases, not if
314
 
        # we have a doctest.
315
 
        setKeepLogfile = getattr(test, 'setKeepLogfile', None)
316
 
        if setKeepLogfile is not None:
317
 
            setKeepLogfile()
 
416
        self._start_datetime = self._now()
318
417
 
319
418
    def addError(self, test, err):
320
419
        """Tell result that test finished with an error.
322
421
        Called from the TestCase run() method when the test
323
422
        fails with an unexpected error.
324
423
        """
325
 
        self._post_mortem()
326
 
        unittest.TestResult.addError(self, test, err)
 
424
        self._post_mortem(self._traceback_from_test)
 
425
        super(ExtendedTestResult, self).addError(test, err)
327
426
        self.error_count += 1
328
427
        self.report_error(test, err)
329
428
        if self.stop_early:
330
429
            self.stop()
331
 
        self._cleanupLogFile(test)
332
430
 
333
431
    def addFailure(self, test, err):
334
432
        """Tell result that test failed.
336
434
        Called from the TestCase run() method when the test
337
435
        fails because e.g. an assert() method failed.
338
436
        """
339
 
        self._post_mortem()
340
 
        unittest.TestResult.addFailure(self, test, err)
 
437
        self._post_mortem(self._traceback_from_test)
 
438
        super(ExtendedTestResult, self).addFailure(test, err)
341
439
        self.failure_count += 1
342
440
        self.report_failure(test, err)
343
441
        if self.stop_early:
344
442
            self.stop()
345
 
        self._cleanupLogFile(test)
346
443
 
347
444
    def addSuccess(self, test, details=None):
348
445
        """Tell result that test completed successfully.
356
453
                    self._formatTime(benchmark_time),
357
454
                    test.id()))
358
455
        self.report_success(test)
359
 
        self._cleanupLogFile(test)
360
 
        unittest.TestResult.addSuccess(self, test)
 
456
        super(ExtendedTestResult, self).addSuccess(test)
361
457
        test._log_contents = ''
362
458
 
363
459
    def addExpectedFailure(self, test, err):
364
460
        self.known_failure_count += 1
365
461
        self.report_known_failure(test, err)
366
462
 
 
463
    def addUnexpectedSuccess(self, test, details=None):
 
464
        """Tell result the test unexpectedly passed, counting as a failure
 
465
 
 
466
        When the minimum version of testtools required becomes 0.9.8 this
 
467
        can be updated to use the new handling there.
 
468
        """
 
469
        super(ExtendedTestResult, self).addFailure(test, details=details)
 
470
        self.failure_count += 1
 
471
        self.report_unexpected_success(test,
 
472
            "".join(details["reason"].iter_text()))
 
473
        if self.stop_early:
 
474
            self.stop()
 
475
 
367
476
    def addNotSupported(self, test, feature):
368
477
        """The test will not be run because of a missing feature.
369
478
        """
386
495
        self.not_applicable_count += 1
387
496
        self.report_not_applicable(test, reason)
388
497
 
389
 
    def _post_mortem(self):
 
498
    def _post_mortem(self, tb=None):
390
499
        """Start a PDB post mortem session."""
391
500
        if os.environ.get('BZR_TEST_PDB', None):
392
 
            import pdb;pdb.post_mortem()
 
501
            import pdb
 
502
            pdb.post_mortem(tb)
393
503
 
394
504
    def progress(self, offset, whence):
395
505
        """The test is adjusting the count of tests to run."""
400
510
        else:
401
511
            raise errors.BzrError("Unknown whence %r" % whence)
402
512
 
403
 
    def report_cleaning_up(self):
404
 
        pass
 
513
    def report_tests_starting(self):
 
514
        """Display information before the test run begins"""
 
515
        if getattr(sys, 'frozen', None) is None:
 
516
            bzr_path = osutils.realpath(sys.argv[0])
 
517
        else:
 
518
            bzr_path = sys.executable
 
519
        self.stream.write(
 
520
            'bzr selftest: %s\n' % (bzr_path,))
 
521
        self.stream.write(
 
522
            '   %s\n' % (
 
523
                    bzrlib.__path__[0],))
 
524
        self.stream.write(
 
525
            '   bzr-%s python-%s %s\n' % (
 
526
                    bzrlib.version_string,
 
527
                    bzrlib._format_version_tuple(sys.version_info),
 
528
                    platform.platform(aliased=1),
 
529
                    ))
 
530
        self.stream.write('\n')
 
531
 
 
532
    def report_test_start(self, test):
 
533
        """Display information on the test just about to be run"""
 
534
 
 
535
    def _report_thread_leak(self, test, leaked_threads, active_threads):
 
536
        """Display information on a test that leaked one or more threads"""
 
537
        # GZ 2010-09-09: A leak summary reported separately from the general
 
538
        #                thread debugging would be nice. Tests under subunit
 
539
        #                need something not using stream, perhaps adding a
 
540
        #                testtools details object would be fitting.
 
541
        if 'threads' in selftest_debug_flags:
 
542
            self.stream.write('%s is leaking, active is now %d\n' %
 
543
                (test.id(), len(active_threads)))
405
544
 
406
545
    def startTestRun(self):
407
546
        self.startTime = time.time()
444
583
        self.pb.finished()
445
584
        super(TextTestResult, self).stopTestRun()
446
585
 
447
 
    def startTestRun(self):
448
 
        super(TextTestResult, self).startTestRun()
 
586
    def report_tests_starting(self):
 
587
        super(TextTestResult, self).report_tests_starting()
449
588
        self.pb.update('[test 0/%d] Starting' % (self.num_tests))
450
589
 
451
 
    def printErrors(self):
452
 
        # clear the pb to make room for the error listing
453
 
        self.pb.clear()
454
 
        super(TextTestResult, self).printErrors()
455
 
 
456
590
    def _progress_prefix_text(self):
457
591
        # the longer this text, the less space we have to show the test
458
592
        # name...
480
614
        return a
481
615
 
482
616
    def report_test_start(self, test):
483
 
        self.count += 1
484
617
        self.pb.update(
485
618
                self._progress_prefix_text()
486
619
                + ' '
504
637
    def report_known_failure(self, test, err):
505
638
        pass
506
639
 
 
640
    def report_unexpected_success(self, test, reason):
 
641
        self.stream.write('FAIL: %s\n    %s: %s\n' % (
 
642
            self._test_description(test),
 
643
            "Unexpected success. Should have failed",
 
644
            reason,
 
645
            ))
 
646
 
507
647
    def report_skip(self, test, reason):
508
648
        pass
509
649
 
513
653
    def report_unsupported(self, test, feature):
514
654
        """test cannot be run because feature is missing."""
515
655
 
516
 
    def report_cleaning_up(self):
517
 
        self.pb.update('Cleaning up')
518
 
 
519
656
 
520
657
class VerboseTestResult(ExtendedTestResult):
521
658
    """Produce long output, with one line per test run plus times"""
528
665
            result = a_string
529
666
        return result.ljust(final_width)
530
667
 
531
 
    def startTestRun(self):
532
 
        super(VerboseTestResult, self).startTestRun()
 
668
    def report_tests_starting(self):
533
669
        self.stream.write('running %d tests...\n' % self.num_tests)
 
670
        super(VerboseTestResult, self).report_tests_starting()
534
671
 
535
672
    def report_test_start(self, test):
536
 
        self.count += 1
537
673
        name = self._shortened_test_description(test)
538
674
        width = osutils.terminal_width()
539
675
        if width is not None:
551
687
        return '%s%s' % (indent, err[1])
552
688
 
553
689
    def report_error(self, test, err):
554
 
        self.stream.writeln('ERROR %s\n%s'
 
690
        self.stream.write('ERROR %s\n%s\n'
555
691
                % (self._testTimeString(test),
556
692
                   self._error_summary(err)))
557
693
 
558
694
    def report_failure(self, test, err):
559
 
        self.stream.writeln(' FAIL %s\n%s'
 
695
        self.stream.write(' FAIL %s\n%s\n'
560
696
                % (self._testTimeString(test),
561
697
                   self._error_summary(err)))
562
698
 
563
699
    def report_known_failure(self, test, err):
564
 
        self.stream.writeln('XFAIL %s\n%s'
 
700
        self.stream.write('XFAIL %s\n%s\n'
565
701
                % (self._testTimeString(test),
566
702
                   self._error_summary(err)))
567
703
 
 
704
    def report_unexpected_success(self, test, reason):
 
705
        self.stream.write(' FAIL %s\n%s: %s\n'
 
706
                % (self._testTimeString(test),
 
707
                   "Unexpected success. Should have failed",
 
708
                   reason))
 
709
 
568
710
    def report_success(self, test):
569
 
        self.stream.writeln('   OK %s' % self._testTimeString(test))
 
711
        self.stream.write('   OK %s\n' % self._testTimeString(test))
570
712
        for bench_called, stats in getattr(test, '_benchcalls', []):
571
 
            self.stream.writeln('LSProf output for %s(%s, %s)' % bench_called)
 
713
            self.stream.write('LSProf output for %s(%s, %s)\n' % bench_called)
572
714
            stats.pprint(file=self.stream)
573
715
        # flush the stream so that we get smooth output. This verbose mode is
574
716
        # used to show the output in PQM.
575
717
        self.stream.flush()
576
718
 
577
719
    def report_skip(self, test, reason):
578
 
        self.stream.writeln(' SKIP %s\n%s'
 
720
        self.stream.write(' SKIP %s\n%s\n'
579
721
                % (self._testTimeString(test), reason))
580
722
 
581
723
    def report_not_applicable(self, test, reason):
582
 
        self.stream.writeln('  N/A %s\n    %s'
 
724
        self.stream.write('  N/A %s\n    %s\n'
583
725
                % (self._testTimeString(test), reason))
584
726
 
585
727
    def report_unsupported(self, test, feature):
586
728
        """test cannot be run because feature is missing."""
587
 
        self.stream.writeln("NODEP %s\n    The feature '%s' is not available."
 
729
        self.stream.write("NODEP %s\n    The feature '%s' is not available.\n"
588
730
                %(self._testTimeString(test), feature))
589
731
 
590
732
 
617
759
            encode = codec[0]
618
760
        else:
619
761
            encode = codec.encode
620
 
        stream = osutils.UnicodeOrBytesToBytesWriter(encode, stream)
 
762
        # GZ 2010-09-08: Really we don't want to be writing arbitrary bytes,
 
763
        #                so should swap to the plain codecs.StreamWriter
 
764
        stream = osutils.UnicodeOrBytesToBytesWriter(encode, stream,
 
765
            "backslashreplace")
621
766
        stream.encoding = new_encoding
622
 
        self.stream = unittest._WritelnDecorator(stream)
 
767
        self.stream = stream
623
768
        self.descriptions = descriptions
624
769
        self.verbosity = verbosity
625
770
        self._bench_history = bench_history
749
894
    # XXX: Should probably unify more with CannedInputUIFactory or a
750
895
    # particular configuration of TextUIFactory, or otherwise have a clearer
751
896
    # idea of how they're supposed to be different.
752
 
    # See https://bugs.edge.launchpad.net/bzr/+bug/408213
 
897
    # See https://bugs.launchpad.net/bzr/+bug/408213
753
898
 
754
899
    def __init__(self, stdout=None, stderr=None, stdin=None):
755
900
        if stdin is not None:
773
918
        return NullProgressView()
774
919
 
775
920
 
 
921
def isolated_doctest_setUp(test):
 
922
    override_os_environ(test)
 
923
 
 
924
 
 
925
def isolated_doctest_tearDown(test):
 
926
    restore_os_environ(test)
 
927
 
 
928
 
 
929
def IsolatedDocTestSuite(*args, **kwargs):
 
930
    """Overrides doctest.DocTestSuite to handle isolation.
 
931
 
 
932
    The method is really a factory and users are expected to use it as such.
 
933
    """
 
934
 
 
935
    kwargs['setUp'] = isolated_doctest_setUp
 
936
    kwargs['tearDown'] = isolated_doctest_tearDown
 
937
    return doctest.DocTestSuite(*args, **kwargs)
 
938
 
 
939
 
776
940
class TestCase(testtools.TestCase):
777
941
    """Base class for bzr unit tests.
778
942
 
789
953
    routine, and to build and check bzr trees.
790
954
 
791
955
    In addition to the usual method of overriding tearDown(), this class also
792
 
    allows subclasses to register functions into the _cleanups list, which is
 
956
    allows subclasses to register cleanup functions via addCleanup, which are
793
957
    run in order as the object is torn down.  It's less likely this will be
794
958
    accidentally overlooked.
795
959
    """
796
960
 
797
 
    _active_threads = None
798
 
    _leaking_threads_tests = 0
799
 
    _first_thread_leaker_id = None
800
 
    _log_file_name = None
 
961
    _log_file = None
801
962
    # record lsprof data when performing benchmark calls.
802
963
    _gather_lsprof_in_benchmarks = False
803
964
 
804
965
    def __init__(self, methodName='testMethod'):
805
966
        super(TestCase, self).__init__(methodName)
806
 
        self._cleanups = []
807
967
        self._directory_isolation = True
808
968
        self.exception_handlers.insert(0,
809
969
            (UnavailableFeature, self._do_unsupported_or_skip))
814
974
        super(TestCase, self).setUp()
815
975
        for feature in getattr(self, '_test_needs_features', []):
816
976
            self.requireFeature(feature)
817
 
        self._log_contents = None
818
 
        self.addDetail("log", content.Content(content.ContentType("text",
819
 
            "plain", {"charset": "utf8"}),
820
 
            lambda:[self._get_log(keep_log_file=True)]))
821
977
        self._cleanEnvironment()
822
978
        self._silenceUI()
823
979
        self._startLogFile()
827
983
        self._track_transports()
828
984
        self._track_locks()
829
985
        self._clear_debug_flags()
830
 
        TestCase._active_threads = threading.activeCount()
831
 
        self.addCleanup(self._check_leaked_threads)
 
986
        # Isolate global verbosity level, to make sure it's reproducible
 
987
        # between tests.  We should get rid of this altogether: bug 656694. --
 
988
        # mbp 20101008
 
989
        self.overrideAttr(bzrlib.trace, '_verbosity_level', 0)
 
990
        # Isolate config option expansion until its default value for bzrlib is
 
991
        # settled on or a the FIXME associated with _get_expand_default_value
 
992
        # is addressed -- vila 20110219
 
993
        self.overrideAttr(config, '_expand_default_value', None)
 
994
        self._log_files = set()
 
995
        # Each key in the ``_counters`` dict holds a value for a different
 
996
        # counter. When the test ends, addDetail() should be used to output the
 
997
        # counter values. This happens in install_counter_hook().
 
998
        self._counters = {}
 
999
        if 'config_stats' in selftest_debug_flags:
 
1000
            self._install_config_stats_hooks()
832
1001
 
833
1002
    def debug(self):
834
1003
        # debug a frame up.
835
1004
        import pdb
836
1005
        pdb.Pdb().set_trace(sys._getframe().f_back)
837
1006
 
838
 
    def _check_leaked_threads(self):
839
 
        active = threading.activeCount()
840
 
        leaked_threads = active - TestCase._active_threads
841
 
        TestCase._active_threads = active
842
 
        # If some tests make the number of threads *decrease*, we'll consider
843
 
        # that they are just observing old threads dieing, not agressively kill
844
 
        # random threads. So we don't report these tests as leaking. The risk
845
 
        # is that we have false positives that way (the test see 2 threads
846
 
        # going away but leak one) but it seems less likely than the actual
847
 
        # false positives (the test see threads going away and does not leak).
848
 
        if leaked_threads > 0:
849
 
            TestCase._leaking_threads_tests += 1
850
 
            if TestCase._first_thread_leaker_id is None:
851
 
                TestCase._first_thread_leaker_id = self.id()
 
1007
    def discardDetail(self, name):
 
1008
        """Extend the addDetail, getDetails api so we can remove a detail.
 
1009
 
 
1010
        eg. bzr always adds the 'log' detail at startup, but we don't want to
 
1011
        include it for skipped, xfail, etc tests.
 
1012
 
 
1013
        It is safe to call this for a detail that doesn't exist, in case this
 
1014
        gets called multiple times.
 
1015
        """
 
1016
        # We cheat. details is stored in __details which means we shouldn't
 
1017
        # touch it. but getDetails() returns the dict directly, so we can
 
1018
        # mutate it.
 
1019
        details = self.getDetails()
 
1020
        if name in details:
 
1021
            del details[name]
 
1022
 
 
1023
    def install_counter_hook(self, hooks, name, counter_name=None):
 
1024
        """Install a counting hook.
 
1025
 
 
1026
        Any hook can be counted as long as it doesn't need to return a value.
 
1027
 
 
1028
        :param hooks: Where the hook should be installed.
 
1029
 
 
1030
        :param name: The hook name that will be counted.
 
1031
 
 
1032
        :param counter_name: The counter identifier in ``_counters``, defaults
 
1033
            to ``name``.
 
1034
        """
 
1035
        _counters = self._counters # Avoid closing over self
 
1036
        if counter_name is None:
 
1037
            counter_name = name
 
1038
        if _counters.has_key(counter_name):
 
1039
            raise AssertionError('%s is already used as a counter name'
 
1040
                                  % (counter_name,))
 
1041
        _counters[counter_name] = 0
 
1042
        self.addDetail(counter_name, content.Content(content.UTF8_TEXT,
 
1043
            lambda: ['%d' % (_counters[counter_name],)]))
 
1044
        def increment_counter(*args, **kwargs):
 
1045
            _counters[counter_name] += 1
 
1046
        label = 'count %s calls' % (counter_name,)
 
1047
        hooks.install_named_hook(name, increment_counter, label)
 
1048
        self.addCleanup(hooks.uninstall_named_hook, name, label)
 
1049
 
 
1050
    def _install_config_stats_hooks(self):
 
1051
        """Install config hooks to count hook calls.
 
1052
 
 
1053
        """
 
1054
        for hook_name in ('get', 'set', 'remove', 'load', 'save'):
 
1055
            self.install_counter_hook(config.ConfigHooks, hook_name,
 
1056
                                       'config.%s' % (hook_name,))
 
1057
 
 
1058
        # The OldConfigHooks are private and need special handling to protect
 
1059
        # against recursive tests (tests that run other tests), so we just do
 
1060
        # manually what registering them into _builtin_known_hooks will provide
 
1061
        # us.
 
1062
        self.overrideAttr(config, 'OldConfigHooks', config._OldConfigHooks())
 
1063
        for hook_name in ('get', 'set', 'remove', 'load', 'save'):
 
1064
            self.install_counter_hook(config.OldConfigHooks, hook_name,
 
1065
                                      'old_config.%s' % (hook_name,))
852
1066
 
853
1067
    def _clear_debug_flags(self):
854
1068
        """Prevent externally set debug flags affecting tests.
865
1079
 
866
1080
    def _clear_hooks(self):
867
1081
        # prevent hooks affecting tests
 
1082
        known_hooks = hooks.known_hooks
868
1083
        self._preserved_hooks = {}
869
 
        for key, factory in hooks.known_hooks.items():
870
 
            parent, name = hooks.known_hooks_key_to_parent_and_attribute(key)
871
 
            current_hooks = hooks.known_hooks_key_to_object(key)
 
1084
        for key, (parent, name) in known_hooks.iter_parent_objects():
 
1085
            current_hooks = getattr(parent, name)
872
1086
            self._preserved_hooks[parent] = (name, current_hooks)
 
1087
        self._preserved_lazy_hooks = hooks._lazy_hooks
 
1088
        hooks._lazy_hooks = {}
873
1089
        self.addCleanup(self._restoreHooks)
874
 
        for key, factory in hooks.known_hooks.items():
875
 
            parent, name = hooks.known_hooks_key_to_parent_and_attribute(key)
 
1090
        for key, (parent, name) in known_hooks.iter_parent_objects():
 
1091
            factory = known_hooks.get(key)
876
1092
            setattr(parent, name, factory())
877
1093
        # this hook should always be installed
878
1094
        request._install_hook()
907
1123
        # break some locks on purpose and should be taken into account by
908
1124
        # considering that breaking a lock is just a dirty way of releasing it.
909
1125
        if len(acquired_locks) != (len(released_locks) + len(broken_locks)):
910
 
            message = ('Different number of acquired and '
911
 
                       'released or broken locks. (%s, %s + %s)' %
912
 
                       (acquired_locks, released_locks, broken_locks))
 
1126
            message = (
 
1127
                'Different number of acquired and '
 
1128
                'released or broken locks.\n'
 
1129
                'acquired=%s\n'
 
1130
                'released=%s\n'
 
1131
                'broken=%s\n' %
 
1132
                (acquired_locks, released_locks, broken_locks))
913
1133
            if not self._lock_check_thorough:
914
1134
                # Rather than fail, just warn
915
1135
                print "Broken test %s: %s" % (self, message)
943
1163
 
944
1164
    def permit_dir(self, name):
945
1165
        """Permit a directory to be used by this test. See permit_url."""
946
 
        name_transport = get_transport(name)
 
1166
        name_transport = _mod_transport.get_transport(name)
947
1167
        self.permit_url(name)
948
1168
        self.permit_url(name_transport.base)
949
1169
 
972
1192
            try:
973
1193
                workingtree.WorkingTree.open(path)
974
1194
            except (errors.NotBranchError, errors.NoWorkingTree):
975
 
                return
 
1195
                raise TestSkipped('Needs a working tree of bzr sources')
976
1196
        finally:
977
1197
            self.enable_directory_isolation()
978
1198
 
1028
1248
        self.addCleanup(transport_server.stop_server)
1029
1249
        # Obtain a real transport because if the server supplies a password, it
1030
1250
        # will be hidden from the base on the client side.
1031
 
        t = get_transport(transport_server.get_url())
 
1251
        t = _mod_transport.get_transport(transport_server.get_url())
1032
1252
        # Some transport servers effectively chroot the backing transport;
1033
1253
        # others like SFTPServer don't - users of the transport can walk up the
1034
1254
        # transport to read the entire backing transport. This wouldn't matter
1090
1310
        except UnicodeError, e:
1091
1311
            # If we can't compare without getting a UnicodeError, then
1092
1312
            # obviously they are different
1093
 
            mutter('UnicodeError: %s', e)
 
1313
            trace.mutter('UnicodeError: %s', e)
1094
1314
        if message:
1095
1315
            message += '\n'
1096
1316
        raise AssertionError("%snot equal:\na = %s\nb = %s\n"
1097
1317
            % (message,
1098
 
               pformat(a), pformat(b)))
 
1318
               pprint.pformat(a), pprint.pformat(b)))
1099
1319
 
1100
1320
    assertEquals = assertEqual
1101
1321
 
1135
1355
                         'st_mtime did not match')
1136
1356
        self.assertEqual(expected.st_ctime, actual.st_ctime,
1137
1357
                         'st_ctime did not match')
1138
 
        if sys.platform != 'win32':
 
1358
        if sys.platform == 'win32':
1139
1359
            # On Win32 both 'dev' and 'ino' cannot be trusted. In python2.4 it
1140
1360
            # is 'dev' that varies, in python 2.5 (6?) it is st_ino that is
1141
 
            # odd. Regardless we shouldn't actually try to assert anything
1142
 
            # about their values
 
1361
            # odd. We just force it to always be 0 to avoid any problems.
 
1362
            self.assertEqual(0, expected.st_dev)
 
1363
            self.assertEqual(0, actual.st_dev)
 
1364
            self.assertEqual(0, expected.st_ino)
 
1365
            self.assertEqual(0, actual.st_ino)
 
1366
        else:
1143
1367
            self.assertEqual(expected.st_dev, actual.st_dev,
1144
1368
                             'st_dev did not match')
1145
1369
            self.assertEqual(expected.st_ino, actual.st_ino,
1154
1378
                length, len(obj_with_len), obj_with_len))
1155
1379
 
1156
1380
    def assertLogsError(self, exception_class, func, *args, **kwargs):
1157
 
        """Assert that func(*args, **kwargs) quietly logs a specific exception.
 
1381
        """Assert that `func(*args, **kwargs)` quietly logs a specific error.
1158
1382
        """
1159
 
        from bzrlib import trace
1160
1383
        captured = []
1161
1384
        orig_log_exception_quietly = trace.log_exception_quietly
1162
1385
        try:
1163
1386
            def capture():
1164
1387
                orig_log_exception_quietly()
1165
 
                captured.append(sys.exc_info())
 
1388
                captured.append(sys.exc_info()[1])
1166
1389
            trace.log_exception_quietly = capture
1167
1390
            func(*args, **kwargs)
1168
1391
        finally:
1169
1392
            trace.log_exception_quietly = orig_log_exception_quietly
1170
1393
        self.assertLength(1, captured)
1171
 
        err = captured[0][1]
 
1394
        err = captured[0]
1172
1395
        self.assertIsInstance(err, exception_class)
1173
1396
        return err
1174
1397
 
1211
1434
        if haystack.find(needle) == -1:
1212
1435
            self.fail("string %r not found in '''%s'''" % (needle, haystack))
1213
1436
 
 
1437
    def assertNotContainsString(self, haystack, needle):
 
1438
        if haystack.find(needle) != -1:
 
1439
            self.fail("string %r found in '''%s'''" % (needle, haystack))
 
1440
 
1214
1441
    def assertSubset(self, sublist, superlist):
1215
1442
        """Assert that every entry in sublist is present in superlist."""
1216
1443
        missing = set(sublist) - set(superlist)
1305
1532
 
1306
1533
    def assertFileEqual(self, content, path):
1307
1534
        """Fail if path does not contain 'content'."""
1308
 
        self.failUnlessExists(path)
 
1535
        self.assertPathExists(path)
1309
1536
        f = file(path, 'rb')
1310
1537
        try:
1311
1538
            s = f.read()
1321
1548
        else:
1322
1549
            self.assertEqual(expected_docstring, obj.__doc__)
1323
1550
 
 
1551
    @symbol_versioning.deprecated_method(symbol_versioning.deprecated_in((2, 4)))
1324
1552
    def failUnlessExists(self, path):
 
1553
        return self.assertPathExists(path)
 
1554
 
 
1555
    def assertPathExists(self, path):
1325
1556
        """Fail unless path or paths, which may be abs or relative, exist."""
1326
1557
        if not isinstance(path, basestring):
1327
1558
            for p in path:
1328
 
                self.failUnlessExists(p)
 
1559
                self.assertPathExists(p)
1329
1560
        else:
1330
 
            self.failUnless(osutils.lexists(path),path+" does not exist")
 
1561
            self.assertTrue(osutils.lexists(path),
 
1562
                path + " does not exist")
1331
1563
 
 
1564
    @symbol_versioning.deprecated_method(symbol_versioning.deprecated_in((2, 4)))
1332
1565
    def failIfExists(self, path):
 
1566
        return self.assertPathDoesNotExist(path)
 
1567
 
 
1568
    def assertPathDoesNotExist(self, path):
1333
1569
        """Fail if path or paths, which may be abs or relative, exist."""
1334
1570
        if not isinstance(path, basestring):
1335
1571
            for p in path:
1336
 
                self.failIfExists(p)
 
1572
                self.assertPathDoesNotExist(p)
1337
1573
        else:
1338
 
            self.failIf(osutils.lexists(path),path+" exists")
 
1574
            self.assertFalse(osutils.lexists(path),
 
1575
                path + " exists")
1339
1576
 
1340
1577
    def _capture_deprecation_warnings(self, a_callable, *args, **kwargs):
1341
1578
        """A helper for callDeprecated and applyDeprecated.
1367
1604
        not other callers that go direct to the warning module.
1368
1605
 
1369
1606
        To test that a deprecated method raises an error, do something like
1370
 
        this::
 
1607
        this (remember that both assertRaises and applyDeprecated delays *args
 
1608
        and **kwargs passing)::
1371
1609
 
1372
1610
            self.assertRaises(errors.ReservedId,
1373
1611
                self.applyDeprecated,
1455
1693
 
1456
1694
        The file is removed as the test is torn down.
1457
1695
        """
1458
 
        fileno, name = tempfile.mkstemp(suffix='.log', prefix='testbzr')
1459
 
        self._log_file = os.fdopen(fileno, 'w+')
1460
 
        self._log_memento = bzrlib.trace.push_log_file(self._log_file)
1461
 
        self._log_file_name = name
 
1696
        pseudo_log_file = StringIO()
 
1697
        def _get_log_contents_for_weird_testtools_api():
 
1698
            return [pseudo_log_file.getvalue().decode(
 
1699
                "utf-8", "replace").encode("utf-8")]
 
1700
        self.addDetail("log", content.Content(content.ContentType("text",
 
1701
            "plain", {"charset": "utf8"}),
 
1702
            _get_log_contents_for_weird_testtools_api))
 
1703
        self._log_file = pseudo_log_file
 
1704
        self._log_memento = trace.push_log_file(self._log_file)
1462
1705
        self.addCleanup(self._finishLogFile)
1463
1706
 
1464
1707
    def _finishLogFile(self):
1465
1708
        """Finished with the log file.
1466
1709
 
1467
 
        Close the file and delete it, unless setKeepLogfile was called.
 
1710
        Close the file and delete it.
1468
1711
        """
1469
 
        if bzrlib.trace._trace_file:
 
1712
        if trace._trace_file:
1470
1713
            # flush the log file, to get all content
1471
 
            bzrlib.trace._trace_file.flush()
1472
 
        bzrlib.trace.pop_log_file(self._log_memento)
1473
 
        # Cache the log result and delete the file on disk
1474
 
        self._get_log(False)
 
1714
            trace._trace_file.flush()
 
1715
        trace.pop_log_file(self._log_memento)
1475
1716
 
1476
1717
    def thisFailsStrictLockCheck(self):
1477
1718
        """It is known that this test would fail with -Dstrict_locks.
1486
1727
        """
1487
1728
        debug.debug_flags.discard('strict_locks')
1488
1729
 
1489
 
    def addCleanup(self, callable, *args, **kwargs):
1490
 
        """Arrange to run a callable when this case is torn down.
1491
 
 
1492
 
        Callables are run in the reverse of the order they are registered,
1493
 
        ie last-in first-out.
1494
 
        """
1495
 
        self._cleanups.append((callable, args, kwargs))
1496
 
 
1497
1730
    def overrideAttr(self, obj, attr_name, new=_unitialized_attr):
1498
1731
        """Overrides an object attribute restoring it after the test.
1499
1732
 
1513
1746
            setattr(obj, attr_name, new)
1514
1747
        return value
1515
1748
 
 
1749
    def overrideEnv(self, name, new):
 
1750
        """Set an environment variable, and reset it after the test.
 
1751
 
 
1752
        :param name: The environment variable name.
 
1753
 
 
1754
        :param new: The value to set the variable to. If None, the 
 
1755
            variable is deleted from the environment.
 
1756
 
 
1757
        :returns: The actual variable value.
 
1758
        """
 
1759
        value = osutils.set_or_unset_env(name, new)
 
1760
        self.addCleanup(osutils.set_or_unset_env, name, value)
 
1761
        return value
 
1762
 
1516
1763
    def _cleanEnvironment(self):
1517
 
        new_env = {
1518
 
            'BZR_HOME': None, # Don't inherit BZR_HOME to all the tests.
1519
 
            'HOME': os.getcwd(),
1520
 
            # bzr now uses the Win32 API and doesn't rely on APPDATA, but the
1521
 
            # tests do check our impls match APPDATA
1522
 
            'BZR_EDITOR': None, # test_msgeditor manipulates this variable
1523
 
            'VISUAL': None,
1524
 
            'EDITOR': None,
1525
 
            'BZR_EMAIL': None,
1526
 
            'BZREMAIL': None, # may still be present in the environment
1527
 
            'EMAIL': None,
1528
 
            'BZR_PROGRESS_BAR': None,
1529
 
            'BZR_LOG': None,
1530
 
            'BZR_PLUGIN_PATH': None,
1531
 
            'BZR_DISABLE_PLUGINS': None,
1532
 
            'BZR_PLUGINS_AT': None,
1533
 
            'BZR_CONCURRENCY': None,
1534
 
            # Make sure that any text ui tests are consistent regardless of
1535
 
            # the environment the test case is run in; you may want tests that
1536
 
            # test other combinations.  'dumb' is a reasonable guess for tests
1537
 
            # going to a pipe or a StringIO.
1538
 
            'TERM': 'dumb',
1539
 
            'LINES': '25',
1540
 
            'COLUMNS': '80',
1541
 
            'BZR_COLUMNS': '80',
1542
 
            # SSH Agent
1543
 
            'SSH_AUTH_SOCK': None,
1544
 
            # Proxies
1545
 
            'http_proxy': None,
1546
 
            'HTTP_PROXY': None,
1547
 
            'https_proxy': None,
1548
 
            'HTTPS_PROXY': None,
1549
 
            'no_proxy': None,
1550
 
            'NO_PROXY': None,
1551
 
            'all_proxy': None,
1552
 
            'ALL_PROXY': None,
1553
 
            # Nobody cares about ftp_proxy, FTP_PROXY AFAIK. So far at
1554
 
            # least. If you do (care), please update this comment
1555
 
            # -- vila 20080401
1556
 
            'ftp_proxy': None,
1557
 
            'FTP_PROXY': None,
1558
 
            'BZR_REMOTE_PATH': None,
1559
 
            # Generally speaking, we don't want apport reporting on crashes in
1560
 
            # the test envirnoment unless we're specifically testing apport,
1561
 
            # so that it doesn't leak into the real system environment.  We
1562
 
            # use an env var so it propagates to subprocesses.
1563
 
            'APPORT_DISABLE': '1',
1564
 
        }
1565
 
        self._old_env = {}
1566
 
        self.addCleanup(self._restoreEnvironment)
1567
 
        for name, value in new_env.iteritems():
1568
 
            self._captureVar(name, value)
1569
 
 
1570
 
    def _captureVar(self, name, newvalue):
1571
 
        """Set an environment variable, and reset it when finished."""
1572
 
        self._old_env[name] = osutils.set_or_unset_env(name, newvalue)
1573
 
 
1574
 
    def _restoreEnvironment(self):
1575
 
        for name, value in self._old_env.iteritems():
1576
 
            osutils.set_or_unset_env(name, value)
 
1764
        for name, value in isolated_environ.iteritems():
 
1765
            self.overrideEnv(name, value)
1577
1766
 
1578
1767
    def _restoreHooks(self):
1579
1768
        for klass, (name, hooks) in self._preserved_hooks.items():
1580
1769
            setattr(klass, name, hooks)
 
1770
        self._preserved_hooks.clear()
 
1771
        bzrlib.hooks._lazy_hooks = self._preserved_lazy_hooks
 
1772
        self._preserved_lazy_hooks.clear()
1581
1773
 
1582
1774
    def knownFailure(self, reason):
1583
1775
        """This test has failed for some known reason."""
1584
1776
        raise KnownFailure(reason)
1585
1777
 
 
1778
    def _suppress_log(self):
 
1779
        """Remove the log info from details."""
 
1780
        self.discardDetail('log')
 
1781
 
1586
1782
    def _do_skip(self, result, reason):
 
1783
        self._suppress_log()
1587
1784
        addSkip = getattr(result, 'addSkip', None)
1588
1785
        if not callable(addSkip):
1589
1786
            result.addSuccess(result)
1592
1789
 
1593
1790
    @staticmethod
1594
1791
    def _do_known_failure(self, result, e):
 
1792
        self._suppress_log()
1595
1793
        err = sys.exc_info()
1596
1794
        addExpectedFailure = getattr(result, 'addExpectedFailure', None)
1597
1795
        if addExpectedFailure is not None:
1605
1803
            reason = 'No reason given'
1606
1804
        else:
1607
1805
            reason = e.args[0]
 
1806
        self._suppress_log ()
1608
1807
        addNotApplicable = getattr(result, 'addNotApplicable', None)
1609
1808
        if addNotApplicable is not None:
1610
1809
            result.addNotApplicable(self, reason)
1612
1811
            self._do_skip(result, reason)
1613
1812
 
1614
1813
    @staticmethod
 
1814
    def _report_skip(self, result, err):
 
1815
        """Override the default _report_skip.
 
1816
 
 
1817
        We want to strip the 'log' detail. If we waint until _do_skip, it has
 
1818
        already been formatted into the 'reason' string, and we can't pull it
 
1819
        out again.
 
1820
        """
 
1821
        self._suppress_log()
 
1822
        super(TestCase, self)._report_skip(self, result, err)
 
1823
 
 
1824
    @staticmethod
 
1825
    def _report_expected_failure(self, result, err):
 
1826
        """Strip the log.
 
1827
 
 
1828
        See _report_skip for motivation.
 
1829
        """
 
1830
        self._suppress_log()
 
1831
        super(TestCase, self)._report_expected_failure(self, result, err)
 
1832
 
 
1833
    @staticmethod
1615
1834
    def _do_unsupported_or_skip(self, result, e):
1616
1835
        reason = e.args[0]
 
1836
        self._suppress_log()
1617
1837
        addNotSupported = getattr(result, 'addNotSupported', None)
1618
1838
        if addNotSupported is not None:
1619
1839
            result.addNotSupported(self, reason)
1645
1865
            self._benchtime += time.time() - start
1646
1866
 
1647
1867
    def log(self, *args):
1648
 
        mutter(*args)
1649
 
 
1650
 
    def _get_log(self, keep_log_file=False):
1651
 
        """Internal helper to get the log from bzrlib.trace for this test.
1652
 
 
1653
 
        Please use self.getDetails, or self.get_log to access this in test case
1654
 
        code.
1655
 
 
1656
 
        :param keep_log_file: When True, if the log is still a file on disk
1657
 
            leave it as a file on disk. When False, if the log is still a file
1658
 
            on disk, the log file is deleted and the log preserved as
1659
 
            self._log_contents.
1660
 
        :return: A string containing the log.
1661
 
        """
1662
 
        if self._log_contents is not None:
1663
 
            try:
1664
 
                self._log_contents.decode('utf8')
1665
 
            except UnicodeDecodeError:
1666
 
                unicodestr = self._log_contents.decode('utf8', 'replace')
1667
 
                self._log_contents = unicodestr.encode('utf8')
1668
 
            return self._log_contents
1669
 
        import bzrlib.trace
1670
 
        if bzrlib.trace._trace_file:
1671
 
            # flush the log file, to get all content
1672
 
            bzrlib.trace._trace_file.flush()
1673
 
        if self._log_file_name is not None:
1674
 
            logfile = open(self._log_file_name)
1675
 
            try:
1676
 
                log_contents = logfile.read()
1677
 
            finally:
1678
 
                logfile.close()
1679
 
            try:
1680
 
                log_contents.decode('utf8')
1681
 
            except UnicodeDecodeError:
1682
 
                unicodestr = log_contents.decode('utf8', 'replace')
1683
 
                log_contents = unicodestr.encode('utf8')
1684
 
            if not keep_log_file:
1685
 
                close_attempts = 0
1686
 
                max_close_attempts = 100
1687
 
                first_close_error = None
1688
 
                while close_attempts < max_close_attempts:
1689
 
                    close_attempts += 1
1690
 
                    try:
1691
 
                        self._log_file.close()
1692
 
                    except IOError, ioe:
1693
 
                        if ioe.errno is None:
1694
 
                            # No errno implies 'close() called during
1695
 
                            # concurrent operation on the same file object', so
1696
 
                            # retry.  Probably a thread is trying to write to
1697
 
                            # the log file.
1698
 
                            if first_close_error is None:
1699
 
                                first_close_error = ioe
1700
 
                            continue
1701
 
                        raise
1702
 
                    else:
1703
 
                        break
1704
 
                if close_attempts > 1:
1705
 
                    sys.stderr.write(
1706
 
                        'Unable to close log file on first attempt, '
1707
 
                        'will retry: %s\n' % (first_close_error,))
1708
 
                    if close_attempts == max_close_attempts:
1709
 
                        sys.stderr.write(
1710
 
                            'Unable to close log file after %d attempts.\n'
1711
 
                            % (max_close_attempts,))
1712
 
                self._log_file = None
1713
 
                # Permit multiple calls to get_log until we clean it up in
1714
 
                # finishLogFile
1715
 
                self._log_contents = log_contents
1716
 
                try:
1717
 
                    os.remove(self._log_file_name)
1718
 
                except OSError, e:
1719
 
                    if sys.platform == 'win32' and e.errno == errno.EACCES:
1720
 
                        sys.stderr.write(('Unable to delete log file '
1721
 
                                             ' %r\n' % self._log_file_name))
1722
 
                    else:
1723
 
                        raise
1724
 
                self._log_file_name = None
1725
 
            return log_contents
1726
 
        else:
1727
 
            return "No log file content and no log file name."
 
1868
        trace.mutter(*args)
1728
1869
 
1729
1870
    def get_log(self):
1730
1871
        """Get a unicode string containing the log from bzrlib.trace.
1780
1921
 
1781
1922
        try:
1782
1923
            try:
1783
 
                result = self.apply_redirected(ui.ui_factory.stdin,
 
1924
                result = self.apply_redirected(
 
1925
                    ui.ui_factory.stdin,
1784
1926
                    stdout, stderr,
1785
 
                    bzrlib.commands.run_bzr_catch_user_errors,
 
1927
                    _mod_commands.run_bzr_catch_user_errors,
1786
1928
                    args)
1787
1929
            except KeyboardInterrupt:
1788
1930
                # Reraise KeyboardInterrupt with contents of redirected stdout
1930
2072
    def start_bzr_subprocess(self, process_args, env_changes=None,
1931
2073
                             skip_if_plan_to_signal=False,
1932
2074
                             working_dir=None,
1933
 
                             allow_plugins=False):
 
2075
                             allow_plugins=False, stderr=subprocess.PIPE):
1934
2076
        """Start bzr in a subprocess for testing.
1935
2077
 
1936
2078
        This starts a new Python interpreter and runs bzr in there.
1945
2087
            variables. A value of None will unset the env variable.
1946
2088
            The values must be strings. The change will only occur in the
1947
2089
            child, so you don't need to fix the environment after running.
1948
 
        :param skip_if_plan_to_signal: raise TestSkipped when true and os.kill
1949
 
            is not available.
 
2090
        :param skip_if_plan_to_signal: raise TestSkipped when true and system
 
2091
            doesn't support signalling subprocesses.
1950
2092
        :param allow_plugins: If False (default) pass --no-plugins to bzr.
 
2093
        :param stderr: file to use for the subprocess's stderr.  Valid values
 
2094
            are those valid for the stderr argument of `subprocess.Popen`.
 
2095
            Default value is ``subprocess.PIPE``.
1951
2096
 
1952
2097
        :returns: Popen object for the started process.
1953
2098
        """
1954
2099
        if skip_if_plan_to_signal:
1955
 
            if not getattr(os, 'kill', None):
1956
 
                raise TestSkipped("os.kill not available.")
 
2100
            if os.name != "posix":
 
2101
                raise TestSkipped("Sending signals not supported")
1957
2102
 
1958
2103
        if env_changes is None:
1959
2104
            env_changes = {}
1979
2124
            # so we will avoid using it on all platforms, just to
1980
2125
            # make sure the code path is used, and we don't break on win32
1981
2126
            cleanup_environment()
 
2127
            # Include the subprocess's log file in the test details, in case
 
2128
            # the test fails due to an error in the subprocess.
 
2129
            self._add_subprocess_log(trace._get_bzr_log_filename())
1982
2130
            command = [sys.executable]
1983
2131
            # frozen executables don't need the path to bzr
1984
2132
            if getattr(sys, "frozen", None) is None:
1986
2134
            if not allow_plugins:
1987
2135
                command.append('--no-plugins')
1988
2136
            command.extend(process_args)
1989
 
            process = self._popen(command, stdin=PIPE, stdout=PIPE, stderr=PIPE)
 
2137
            process = self._popen(command, stdin=subprocess.PIPE,
 
2138
                                  stdout=subprocess.PIPE,
 
2139
                                  stderr=stderr)
1990
2140
        finally:
1991
2141
            restore_environment()
1992
2142
            if cwd is not None:
1994
2144
 
1995
2145
        return process
1996
2146
 
 
2147
    def _add_subprocess_log(self, log_file_path):
 
2148
        if len(self._log_files) == 0:
 
2149
            # Register an addCleanup func.  We do this on the first call to
 
2150
            # _add_subprocess_log rather than in TestCase.setUp so that this
 
2151
            # addCleanup is registered after any cleanups for tempdirs that
 
2152
            # subclasses might create, which will probably remove the log file
 
2153
            # we want to read.
 
2154
            self.addCleanup(self._subprocess_log_cleanup)
 
2155
        # self._log_files is a set, so if a log file is reused we won't grab it
 
2156
        # twice.
 
2157
        self._log_files.add(log_file_path)
 
2158
 
 
2159
    def _subprocess_log_cleanup(self):
 
2160
        for count, log_file_path in enumerate(self._log_files):
 
2161
            # We use buffer_now=True to avoid holding the file open beyond
 
2162
            # the life of this function, which might interfere with e.g.
 
2163
            # cleaning tempdirs on Windows.
 
2164
            # XXX: Testtools 0.9.5 doesn't have the content_from_file helper
 
2165
            #detail_content = content.content_from_file(
 
2166
            #    log_file_path, buffer_now=True)
 
2167
            with open(log_file_path, 'rb') as log_file:
 
2168
                log_file_bytes = log_file.read()
 
2169
            detail_content = content.Content(content.ContentType("text",
 
2170
                "plain", {"charset": "utf8"}), lambda: [log_file_bytes])
 
2171
            self.addDetail("start_bzr_subprocess-log-%d" % (count,),
 
2172
                detail_content)
 
2173
 
1997
2174
    def _popen(self, *args, **kwargs):
1998
2175
        """Place a call to Popen.
1999
2176
 
2000
2177
        Allows tests to override this method to intercept the calls made to
2001
2178
        Popen for introspection.
2002
2179
        """
2003
 
        return Popen(*args, **kwargs)
 
2180
        return subprocess.Popen(*args, **kwargs)
2004
2181
 
2005
2182
    def get_source_path(self):
2006
2183
        """Return the path of the directory containing bzrlib."""
2008
2185
 
2009
2186
    def get_bzr_path(self):
2010
2187
        """Return the path of the 'bzr' executable for this test suite."""
2011
 
        bzr_path = self.get_source_path()+'/bzr'
 
2188
        bzr_path = os.path.join(self.get_source_path(), "bzr")
2012
2189
        if not os.path.isfile(bzr_path):
2013
2190
            # We are probably installed. Assume sys.argv is the right file
2014
2191
            bzr_path = sys.argv[0]
2036
2213
        if retcode is not None and retcode != process.returncode:
2037
2214
            if process_args is None:
2038
2215
                process_args = "(unknown args)"
2039
 
            mutter('Output of bzr %s:\n%s', process_args, out)
2040
 
            mutter('Error for bzr %s:\n%s', process_args, err)
 
2216
            trace.mutter('Output of bzr %s:\n%s', process_args, out)
 
2217
            trace.mutter('Error for bzr %s:\n%s', process_args, err)
2041
2218
            self.fail('Command bzr %s failed with retcode %s != %s'
2042
2219
                      % (process_args, retcode, process.returncode))
2043
2220
        return [out, err]
2044
2221
 
2045
 
    def check_inventory_shape(self, inv, shape):
2046
 
        """Compare an inventory to a list of expected names.
 
2222
    def check_tree_shape(self, tree, shape):
 
2223
        """Compare a tree to a list of expected names.
2047
2224
 
2048
2225
        Fail if they are not precisely equal.
2049
2226
        """
2050
2227
        extras = []
2051
2228
        shape = list(shape)             # copy
2052
 
        for path, ie in inv.entries():
 
2229
        for path, ie in tree.iter_entries_by_dir():
2053
2230
            name = path.replace('\\', '/')
2054
2231
            if ie.kind == 'directory':
2055
2232
                name = name + '/'
2056
 
            if name in shape:
 
2233
            if name == "/":
 
2234
                pass # ignore root entry
 
2235
            elif name in shape:
2057
2236
                shape.remove(name)
2058
2237
            else:
2059
2238
                extras.append(name)
2100
2279
 
2101
2280
        Tests that expect to provoke LockContention errors should call this.
2102
2281
        """
2103
 
        self.overrideAttr(bzrlib.lockdir, '_DEFAULT_TIMEOUT_SECONDS', 0)
 
2282
        self.overrideAttr(lockdir, '_DEFAULT_TIMEOUT_SECONDS', 0)
2104
2283
 
2105
2284
    def make_utf8_encoded_stringio(self, encoding_type=None):
2106
2285
        """Return a StringIOWrapper instance, that will encode Unicode
2149
2328
class TestCaseWithMemoryTransport(TestCase):
2150
2329
    """Common test class for tests that do not need disk resources.
2151
2330
 
2152
 
    Tests that need disk resources should derive from TestCaseWithTransport.
 
2331
    Tests that need disk resources should derive from TestCaseInTempDir
 
2332
    orTestCaseWithTransport.
2153
2333
 
2154
2334
    TestCaseWithMemoryTransport sets the TEST_ROOT variable for all bzr tests.
2155
2335
 
2156
 
    For TestCaseWithMemoryTransport the test_home_dir is set to the name of
 
2336
    For TestCaseWithMemoryTransport the ``test_home_dir`` is set to the name of
2157
2337
    a directory which does not exist. This serves to help ensure test isolation
2158
 
    is preserved. test_dir is set to the TEST_ROOT, as is cwd, because they
2159
 
    must exist. However, TestCaseWithMemoryTransport does not offer local
2160
 
    file defaults for the transport in tests, nor does it obey the command line
 
2338
    is preserved. ``test_dir`` is set to the TEST_ROOT, as is cwd, because they
 
2339
    must exist. However, TestCaseWithMemoryTransport does not offer local file
 
2340
    defaults for the transport in tests, nor does it obey the command line
2161
2341
    override, so tests that accidentally write to the common directory should
2162
2342
    be rare.
2163
2343
 
2164
 
    :cvar TEST_ROOT: Directory containing all temporary directories, plus
2165
 
    a .bzr directory that stops us ascending higher into the filesystem.
 
2344
    :cvar TEST_ROOT: Directory containing all temporary directories, plus a
 
2345
        ``.bzr`` directory that stops us ascending higher into the filesystem.
2166
2346
    """
2167
2347
 
2168
2348
    TEST_ROOT = None
2186
2366
 
2187
2367
        :param relpath: a path relative to the base url.
2188
2368
        """
2189
 
        t = get_transport(self.get_url(relpath))
 
2369
        t = _mod_transport.get_transport(self.get_url(relpath))
2190
2370
        self.assertFalse(t.is_readonly())
2191
2371
        return t
2192
2372
 
2198
2378
 
2199
2379
        :param relpath: a path relative to the base url.
2200
2380
        """
2201
 
        t = get_transport(self.get_readonly_url(relpath))
 
2381
        t = _mod_transport.get_transport(self.get_readonly_url(relpath))
2202
2382
        self.assertTrue(t.is_readonly())
2203
2383
        return t
2204
2384
 
2334
2514
        propagating. This method ensures than a test did not leaked.
2335
2515
        """
2336
2516
        root = TestCaseWithMemoryTransport.TEST_ROOT
2337
 
        self.permit_url(get_transport(root).base)
 
2517
        self.permit_url(_mod_transport.get_transport(root).base)
2338
2518
        wt = workingtree.WorkingTree.open(root)
2339
2519
        last_rev = wt.last_revision()
2340
2520
        if last_rev != 'null:':
2385
2565
            # might be a relative or absolute path
2386
2566
            maybe_a_url = self.get_url(relpath)
2387
2567
            segments = maybe_a_url.rsplit('/', 1)
2388
 
            t = get_transport(maybe_a_url)
 
2568
            t = _mod_transport.get_transport(maybe_a_url)
2389
2569
            if len(segments) > 1 and segments[-1] not in ('', '.'):
2390
2570
                t.ensure_base()
2391
2571
            if format is None:
2408
2588
        made_control = self.make_bzrdir(relpath, format=format)
2409
2589
        return made_control.create_repository(shared=shared)
2410
2590
 
2411
 
    def make_smart_server(self, path):
 
2591
    def make_smart_server(self, path, backing_server=None):
 
2592
        if backing_server is None:
 
2593
            backing_server = self.get_server()
2412
2594
        smart_server = test_server.SmartTCPServer_for_testing()
2413
 
        self.start_server(smart_server, self.get_server())
2414
 
        remote_transport = get_transport(smart_server.get_url()).clone(path)
 
2595
        self.start_server(smart_server, backing_server)
 
2596
        remote_transport = _mod_transport.get_transport(smart_server.get_url()
 
2597
                                                   ).clone(path)
2415
2598
        return remote_transport
2416
2599
 
2417
2600
    def make_branch_and_memory_tree(self, relpath, format=None):
2427
2610
        test_home_dir = self.test_home_dir
2428
2611
        if isinstance(test_home_dir, unicode):
2429
2612
            test_home_dir = test_home_dir.encode(sys.getfilesystemencoding())
2430
 
        os.environ['HOME'] = test_home_dir
2431
 
        os.environ['BZR_HOME'] = test_home_dir
 
2613
        self.overrideEnv('HOME', test_home_dir)
 
2614
        self.overrideEnv('BZR_HOME', test_home_dir)
2432
2615
 
2433
2616
    def setUp(self):
2434
2617
        super(TestCaseWithMemoryTransport, self).setUp()
 
2618
        # Ensure that ConnectedTransport doesn't leak sockets
 
2619
        def get_transport_with_cleanup(*args, **kwargs):
 
2620
            t = orig_get_transport(*args, **kwargs)
 
2621
            if isinstance(t, _mod_transport.ConnectedTransport):
 
2622
                self.addCleanup(t.disconnect)
 
2623
            return t
 
2624
 
 
2625
        orig_get_transport = self.overrideAttr(_mod_transport, 'get_transport',
 
2626
                                               get_transport_with_cleanup)
2435
2627
        self._make_test_root()
2436
2628
        self.addCleanup(os.chdir, os.getcwdu())
2437
2629
        self.makeAndChdirToTestDir()
2480
2672
 
2481
2673
    OVERRIDE_PYTHON = 'python'
2482
2674
 
 
2675
    def setUp(self):
 
2676
        super(TestCaseInTempDir, self).setUp()
 
2677
        # Remove the protection set in isolated_environ, we have a proper
 
2678
        # access to disk resources now.
 
2679
        self.overrideEnv('BZR_LOG', None)
 
2680
 
2483
2681
    def check_file_contents(self, filename, expect):
2484
2682
        self.log("check contents of file %s" % filename)
2485
 
        contents = file(filename, 'r').read()
 
2683
        f = file(filename)
 
2684
        try:
 
2685
            contents = f.read()
 
2686
        finally:
 
2687
            f.close()
2486
2688
        if contents != expect:
2487
2689
            self.log("expected: %r" % expect)
2488
2690
            self.log("actually: %r" % contents)
2562
2764
                "a list or a tuple. Got %r instead" % (shape,))
2563
2765
        # It's OK to just create them using forward slashes on windows.
2564
2766
        if transport is None or transport.is_readonly():
2565
 
            transport = get_transport(".")
 
2767
            transport = _mod_transport.get_transport(".")
2566
2768
        for name in shape:
2567
2769
            self.assertIsInstance(name, basestring)
2568
2770
            if name[-1] == '/':
2578
2780
                content = "contents of %s%s" % (name.encode('utf-8'), end)
2579
2781
                transport.put_bytes_non_atomic(urlutils.escape(name), content)
2580
2782
 
2581
 
    def build_tree_contents(self, shape):
2582
 
        build_tree_contents(shape)
 
2783
    build_tree_contents = staticmethod(treeshape.build_tree_contents)
2583
2784
 
2584
2785
    def assertInWorkingTree(self, path, root_path='.', tree=None):
2585
2786
        """Assert whether path or paths are in the WorkingTree"""
2726
2927
    """
2727
2928
 
2728
2929
    def setUp(self):
 
2930
        from bzrlib.tests import http_server
2729
2931
        super(ChrootedTestCase, self).setUp()
2730
2932
        if not self.vfs_transport_factory == memory.MemoryServer:
2731
 
            self.transport_readonly_server = HttpServer
 
2933
            self.transport_readonly_server = http_server.HttpServer
2732
2934
 
2733
2935
 
2734
2936
def condition_id_re(pattern):
2737
2939
    :param pattern: A regular expression string.
2738
2940
    :return: A callable that returns True if the re matches.
2739
2941
    """
2740
 
    filter_re = osutils.re_compile_checked(pattern, 0,
2741
 
        'test filter')
 
2942
    filter_re = re.compile(pattern, 0)
2742
2943
    def condition(test):
2743
2944
        test_id = test.id()
2744
2945
        return filter_re.search(test_id)
2996
3197
 
2997
3198
 
2998
3199
def fork_decorator(suite):
 
3200
    if getattr(os, "fork", None) is None:
 
3201
        raise errors.BzrCommandError("platform does not support fork,"
 
3202
            " try --parallel=subprocess instead.")
2999
3203
    concurrency = osutils.local_concurrency()
3000
3204
    if concurrency == 1:
3001
3205
        return suite
3056
3260
    return suite
3057
3261
 
3058
3262
 
3059
 
class TestDecorator(TestSuite):
 
3263
class TestDecorator(TestUtil.TestSuite):
3060
3264
    """A decorator for TestCase/TestSuite objects.
3061
3265
    
3062
3266
    Usually, subclasses should override __iter__(used when flattening test
3065
3269
    """
3066
3270
 
3067
3271
    def __init__(self, suite):
3068
 
        TestSuite.__init__(self)
 
3272
        TestUtil.TestSuite.__init__(self)
3069
3273
        self.addTest(suite)
3070
3274
 
3071
3275
    def countTestCases(self):
3190
3394
 
3191
3395
def partition_tests(suite, count):
3192
3396
    """Partition suite into count lists of tests."""
3193
 
    result = []
3194
 
    tests = list(iter_suite_tests(suite))
3195
 
    tests_per_process = int(math.ceil(float(len(tests)) / count))
3196
 
    for block in range(count):
3197
 
        low_test = block * tests_per_process
3198
 
        high_test = low_test + tests_per_process
3199
 
        process_tests = tests[low_test:high_test]
3200
 
        result.append(process_tests)
3201
 
    return result
 
3397
    # This just assigns tests in a round-robin fashion.  On one hand this
 
3398
    # splits up blocks of related tests that might run faster if they shared
 
3399
    # resources, but on the other it avoids assigning blocks of slow tests to
 
3400
    # just one partition.  So the slowest partition shouldn't be much slower
 
3401
    # than the fastest.
 
3402
    partitions = [list() for i in range(count)]
 
3403
    tests = iter_suite_tests(suite)
 
3404
    for partition, test in itertools.izip(itertools.cycle(partitions), tests):
 
3405
        partition.append(test)
 
3406
    return partitions
3202
3407
 
3203
3408
 
3204
3409
def workaround_zealous_crypto_random():
3238
3443
 
3239
3444
    test_blocks = partition_tests(suite, concurrency)
3240
3445
    for process_tests in test_blocks:
3241
 
        process_suite = TestSuite()
 
3446
        process_suite = TestUtil.TestSuite()
3242
3447
        process_suite.addTests(process_tests)
3243
3448
        c2pread, c2pwrite = os.pipe()
3244
3449
        pid = os.fork()
3310
3515
                '--subunit']
3311
3516
            if '--no-plugins' in sys.argv:
3312
3517
                argv.append('--no-plugins')
3313
 
            # stderr=STDOUT would be ideal, but until we prevent noise on
3314
 
            # stderr it can interrupt the subunit protocol.
3315
 
            process = Popen(argv, stdin=PIPE, stdout=PIPE, stderr=PIPE,
3316
 
                bufsize=1)
 
3518
            # stderr=subprocess.STDOUT would be ideal, but until we prevent
 
3519
            # noise on stderr it can interrupt the subunit protocol.
 
3520
            process = subprocess.Popen(argv, stdin=subprocess.PIPE,
 
3521
                                      stdout=subprocess.PIPE,
 
3522
                                      stderr=subprocess.PIPE,
 
3523
                                      bufsize=1)
3317
3524
            test = TestInSubprocess(process, test_list_file_name)
3318
3525
            result.append(test)
3319
3526
        except:
3322
3529
    return result
3323
3530
 
3324
3531
 
3325
 
class ForwardingResult(unittest.TestResult):
3326
 
 
3327
 
    def __init__(self, target):
3328
 
        unittest.TestResult.__init__(self)
3329
 
        self.result = target
3330
 
 
3331
 
    def startTest(self, test):
3332
 
        self.result.startTest(test)
3333
 
 
3334
 
    def stopTest(self, test):
3335
 
        self.result.stopTest(test)
3336
 
 
3337
 
    def startTestRun(self):
3338
 
        self.result.startTestRun()
3339
 
 
3340
 
    def stopTestRun(self):
3341
 
        self.result.stopTestRun()
3342
 
 
3343
 
    def addSkip(self, test, reason):
3344
 
        self.result.addSkip(test, reason)
3345
 
 
3346
 
    def addSuccess(self, test):
3347
 
        self.result.addSuccess(test)
3348
 
 
3349
 
    def addError(self, test, err):
3350
 
        self.result.addError(test, err)
3351
 
 
3352
 
    def addFailure(self, test, err):
3353
 
        self.result.addFailure(test, err)
3354
 
ForwardingResult = testtools.ExtendedToOriginalDecorator
3355
 
 
3356
 
 
3357
 
class ProfileResult(ForwardingResult):
 
3532
class ProfileResult(testtools.ExtendedToOriginalDecorator):
3358
3533
    """Generate profiling data for all activity between start and success.
3359
3534
    
3360
3535
    The profile data is appended to the test's _benchcalls attribute and can
3368
3543
 
3369
3544
    def startTest(self, test):
3370
3545
        self.profiler = bzrlib.lsprof.BzrProfiler()
 
3546
        # Prevent deadlocks in tests that use lsprof: those tests will
 
3547
        # unavoidably fail.
 
3548
        bzrlib.lsprof.BzrProfiler.profiler_block = 0
3371
3549
        self.profiler.start()
3372
 
        ForwardingResult.startTest(self, test)
 
3550
        testtools.ExtendedToOriginalDecorator.startTest(self, test)
3373
3551
 
3374
3552
    def addSuccess(self, test):
3375
3553
        stats = self.profiler.stop()
3379
3557
            test._benchcalls = []
3380
3558
            calls = test._benchcalls
3381
3559
        calls.append(((test.id(), "", ""), stats))
3382
 
        ForwardingResult.addSuccess(self, test)
 
3560
        testtools.ExtendedToOriginalDecorator.addSuccess(self, test)
3383
3561
 
3384
3562
    def stopTest(self, test):
3385
 
        ForwardingResult.stopTest(self, test)
 
3563
        testtools.ExtendedToOriginalDecorator.stopTest(self, test)
3386
3564
        self.profiler = None
3387
3565
 
3388
3566
 
3394
3572
#                           rather than failing tests. And no longer raise
3395
3573
#                           LockContention when fctnl locks are not being used
3396
3574
#                           with proper exclusion rules.
 
3575
#   -Ethreads               Will display thread ident at creation/join time to
 
3576
#                           help track thread leaks
 
3577
 
 
3578
#   -Econfig_stats          Will collect statistics using addDetail
3397
3579
selftest_debug_flags = set()
3398
3580
 
3399
3581
 
3593
3775
                key, obj, help=help, info=info, override_existing=False)
3594
3776
        except KeyError:
3595
3777
            actual = self.get(key)
3596
 
            note('Test prefix alias %s is already used for %s, ignoring %s'
3597
 
                 % (key, actual, obj))
 
3778
            trace.note(
 
3779
                'Test prefix alias %s is already used for %s, ignoring %s'
 
3780
                % (key, actual, obj))
3598
3781
 
3599
3782
    def resolve_alias(self, id_start):
3600
3783
        """Replace the alias by the prefix in the given string.
3632
3815
        'bzrlib.doc',
3633
3816
        'bzrlib.tests.blackbox',
3634
3817
        'bzrlib.tests.commands',
 
3818
        'bzrlib.tests.doc_generate',
3635
3819
        'bzrlib.tests.per_branch',
3636
3820
        'bzrlib.tests.per_bzrdir',
3637
 
        'bzrlib.tests.per_bzrdir_colo',
 
3821
        'bzrlib.tests.per_controldir',
 
3822
        'bzrlib.tests.per_controldir_colo',
3638
3823
        'bzrlib.tests.per_foreign_vcs',
3639
3824
        'bzrlib.tests.per_interrepository',
3640
3825
        'bzrlib.tests.per_intertree',
3648
3833
        'bzrlib.tests.per_repository',
3649
3834
        'bzrlib.tests.per_repository_chk',
3650
3835
        'bzrlib.tests.per_repository_reference',
 
3836
        'bzrlib.tests.per_repository_vf',
3651
3837
        'bzrlib.tests.per_uifactory',
3652
3838
        'bzrlib.tests.per_versionedfile',
3653
3839
        'bzrlib.tests.per_workingtree',
3654
3840
        'bzrlib.tests.test__annotator',
3655
3841
        'bzrlib.tests.test__bencode',
 
3842
        'bzrlib.tests.test__btree_serializer',
3656
3843
        'bzrlib.tests.test__chk_map',
3657
3844
        'bzrlib.tests.test__dirstate_helpers',
3658
3845
        'bzrlib.tests.test__groupcompress',
3686
3873
        'bzrlib.tests.test_commit_merge',
3687
3874
        'bzrlib.tests.test_config',
3688
3875
        'bzrlib.tests.test_conflicts',
 
3876
        'bzrlib.tests.test_controldir',
3689
3877
        'bzrlib.tests.test_counted_lock',
3690
3878
        'bzrlib.tests.test_crash',
3691
3879
        'bzrlib.tests.test_decorators',
3692
3880
        'bzrlib.tests.test_delta',
3693
3881
        'bzrlib.tests.test_debug',
3694
 
        'bzrlib.tests.test_deprecated_graph',
3695
3882
        'bzrlib.tests.test_diff',
3696
3883
        'bzrlib.tests.test_directory_service',
3697
3884
        'bzrlib.tests.test_dirstate',
3699
3886
        'bzrlib.tests.test_eol_filters',
3700
3887
        'bzrlib.tests.test_errors',
3701
3888
        'bzrlib.tests.test_export',
 
3889
        'bzrlib.tests.test_export_pot',
3702
3890
        'bzrlib.tests.test_extract',
3703
3891
        'bzrlib.tests.test_fetch',
 
3892
        'bzrlib.tests.test_fixtures',
3704
3893
        'bzrlib.tests.test_fifo_cache',
3705
3894
        'bzrlib.tests.test_filters',
3706
3895
        'bzrlib.tests.test_ftp_transport',
3717
3906
        'bzrlib.tests.test_http',
3718
3907
        'bzrlib.tests.test_http_response',
3719
3908
        'bzrlib.tests.test_https_ca_bundle',
 
3909
        'bzrlib.tests.test_i18n',
3720
3910
        'bzrlib.tests.test_identitymap',
3721
3911
        'bzrlib.tests.test_ignores',
3722
3912
        'bzrlib.tests.test_index',
3727
3917
        'bzrlib.tests.test_knit',
3728
3918
        'bzrlib.tests.test_lazy_import',
3729
3919
        'bzrlib.tests.test_lazy_regex',
 
3920
        'bzrlib.tests.test_library_state',
3730
3921
        'bzrlib.tests.test_lock',
3731
3922
        'bzrlib.tests.test_lockable_files',
3732
3923
        'bzrlib.tests.test_lockdir',
3740
3931
        'bzrlib.tests.test_merge3',
3741
3932
        'bzrlib.tests.test_merge_core',
3742
3933
        'bzrlib.tests.test_merge_directive',
 
3934
        'bzrlib.tests.test_mergetools',
3743
3935
        'bzrlib.tests.test_missing',
3744
3936
        'bzrlib.tests.test_msgeditor',
3745
3937
        'bzrlib.tests.test_multiparent',
3754
3946
        'bzrlib.tests.test_permissions',
3755
3947
        'bzrlib.tests.test_plugins',
3756
3948
        'bzrlib.tests.test_progress',
 
3949
        'bzrlib.tests.test_pyutils',
3757
3950
        'bzrlib.tests.test_read_bundle',
3758
3951
        'bzrlib.tests.test_reconcile',
3759
3952
        'bzrlib.tests.test_reconfigure',
3768
3961
        'bzrlib.tests.test_rio',
3769
3962
        'bzrlib.tests.test_rules',
3770
3963
        'bzrlib.tests.test_sampler',
 
3964
        'bzrlib.tests.test_scenarios',
3771
3965
        'bzrlib.tests.test_script',
3772
3966
        'bzrlib.tests.test_selftest',
3773
3967
        'bzrlib.tests.test_serializer',
3789
3983
        'bzrlib.tests.test_switch',
3790
3984
        'bzrlib.tests.test_symbol_versioning',
3791
3985
        'bzrlib.tests.test_tag',
 
3986
        'bzrlib.tests.test_test_server',
3792
3987
        'bzrlib.tests.test_testament',
3793
3988
        'bzrlib.tests.test_textfile',
3794
3989
        'bzrlib.tests.test_textmerge',
 
3990
        'bzrlib.tests.test_cethread',
3795
3991
        'bzrlib.tests.test_timestamp',
3796
3992
        'bzrlib.tests.test_trace',
3797
3993
        'bzrlib.tests.test_transactions',
3800
3996
        'bzrlib.tests.test_transport_log',
3801
3997
        'bzrlib.tests.test_tree',
3802
3998
        'bzrlib.tests.test_treebuilder',
 
3999
        'bzrlib.tests.test_treeshape',
3803
4000
        'bzrlib.tests.test_tsort',
3804
4001
        'bzrlib.tests.test_tuned_gzip',
3805
4002
        'bzrlib.tests.test_ui',
3807
4004
        'bzrlib.tests.test_upgrade',
3808
4005
        'bzrlib.tests.test_upgrade_stacked',
3809
4006
        'bzrlib.tests.test_urlutils',
 
4007
        'bzrlib.tests.test_utextwrap',
3810
4008
        'bzrlib.tests.test_version',
3811
4009
        'bzrlib.tests.test_version_info',
 
4010
        'bzrlib.tests.test_versionedfile',
3812
4011
        'bzrlib.tests.test_weave',
3813
4012
        'bzrlib.tests.test_whitebox',
3814
4013
        'bzrlib.tests.test_win32utils',
3828
4027
        'bzrlib',
3829
4028
        'bzrlib.branchbuilder',
3830
4029
        'bzrlib.decorators',
3831
 
        'bzrlib.export',
3832
4030
        'bzrlib.inventory',
3833
4031
        'bzrlib.iterablefile',
3834
4032
        'bzrlib.lockdir',
3835
4033
        'bzrlib.merge3',
3836
4034
        'bzrlib.option',
 
4035
        'bzrlib.pyutils',
3837
4036
        'bzrlib.symbol_versioning',
3838
4037
        'bzrlib.tests',
 
4038
        'bzrlib.tests.fixtures',
3839
4039
        'bzrlib.timestamp',
 
4040
        'bzrlib.transport.http',
3840
4041
        'bzrlib.version_info_formats.format_custom',
3841
4042
        ]
3842
4043
 
3895
4096
        try:
3896
4097
            # note that this really does mean "report only" -- doctest
3897
4098
            # still runs the rest of the examples
3898
 
            doc_suite = doctest.DocTestSuite(mod,
3899
 
                optionflags=doctest.REPORT_ONLY_FIRST_FAILURE)
 
4099
            doc_suite = IsolatedDocTestSuite(
 
4100
                mod, optionflags=doctest.REPORT_ONLY_FIRST_FAILURE)
3900
4101
        except ValueError, e:
3901
4102
            print '**failed to get doctest for: %s\n%s' % (mod, e)
3902
4103
            raise
3905
4106
        suite.addTest(doc_suite)
3906
4107
 
3907
4108
    default_encoding = sys.getdefaultencoding()
3908
 
    for name, plugin in bzrlib.plugin.plugins().items():
 
4109
    for name, plugin in _mod_plugin.plugins().items():
3909
4110
        if not interesting_module(plugin.module.__name__):
3910
4111
            continue
3911
4112
        plugin_suite = plugin.test_suite()
3917
4118
        if plugin_suite is not None:
3918
4119
            suite.addTest(plugin_suite)
3919
4120
        if default_encoding != sys.getdefaultencoding():
3920
 
            bzrlib.trace.warning(
 
4121
            trace.warning(
3921
4122
                'Plugin "%s" tried to reset default encoding to: %s', name,
3922
4123
                sys.getdefaultencoding())
3923
4124
            reload(sys)
3938
4139
            # Some tests mentioned in the list are not in the test suite. The
3939
4140
            # list may be out of date, report to the tester.
3940
4141
            for id in not_found:
3941
 
                bzrlib.trace.warning('"%s" not found in the test suite', id)
 
4142
                trace.warning('"%s" not found in the test suite', id)
3942
4143
        for id in duplicates:
3943
 
            bzrlib.trace.warning('"%s" is used as an id by several tests', id)
 
4144
            trace.warning('"%s" is used as an id by several tests', id)
3944
4145
 
3945
4146
    return suite
3946
4147
 
3947
4148
 
3948
 
def multiply_scenarios(scenarios_left, scenarios_right):
 
4149
def multiply_scenarios(*scenarios):
 
4150
    """Multiply two or more iterables of scenarios.
 
4151
 
 
4152
    It is safe to pass scenario generators or iterators.
 
4153
 
 
4154
    :returns: A list of compound scenarios: the cross-product of all 
 
4155
        scenarios, with the names concatenated and the parameters
 
4156
        merged together.
 
4157
    """
 
4158
    return reduce(_multiply_two_scenarios, map(list, scenarios))
 
4159
 
 
4160
 
 
4161
def _multiply_two_scenarios(scenarios_left, scenarios_right):
3949
4162
    """Multiply two sets of scenarios.
3950
4163
 
3951
4164
    :returns: the cartesian product of the two sets of scenarios, that is
3982
4195
    ...     bzrlib.tests.test_sampler.DemoTest('test_nothing'),
3983
4196
    ...     [('one', dict(param=1)),
3984
4197
    ...      ('two', dict(param=2))],
3985
 
    ...     TestSuite())
 
4198
    ...     TestUtil.TestSuite())
3986
4199
    >>> tests = list(iter_suite_tests(r))
3987
4200
    >>> len(tests)
3988
4201
    2
4035
4248
    :param new_id: The id to assign to it.
4036
4249
    :return: The new test.
4037
4250
    """
4038
 
    new_test = copy(test)
 
4251
    new_test = copy.copy(test)
4039
4252
    new_test.id = lambda: new_id
 
4253
    # XXX: Workaround <https://bugs.launchpad.net/testtools/+bug/637725>, which
 
4254
    # causes cloned tests to share the 'details' dict.  This makes it hard to
 
4255
    # read the test output for parameterized tests, because tracebacks will be
 
4256
    # associated with irrelevant tests.
 
4257
    try:
 
4258
        details = new_test._TestCase__details
 
4259
    except AttributeError:
 
4260
        # must be a different version of testtools than expected.  Do nothing.
 
4261
        pass
 
4262
    else:
 
4263
        # Reset the '__details' dict.
 
4264
        new_test._TestCase__details = {}
4040
4265
    return new_test
4041
4266
 
4042
4267
 
4063
4288
        the module is available.
4064
4289
    """
4065
4290
 
4066
 
    py_module = __import__(py_module_name, {}, {}, ['NO_SUCH_ATTRIB'])
 
4291
    py_module = pyutils.get_named_object(py_module_name)
4067
4292
    scenarios = [
4068
4293
        ('python', {'module': py_module}),
4069
4294
    ]
4102
4327
        if test_id != None:
4103
4328
            ui.ui_factory.clear_term()
4104
4329
            sys.stderr.write('\nWhile running: %s\n' % (test_id,))
 
4330
        # Ugly, but the last thing we want here is fail, so bear with it.
 
4331
        printable_e = str(e).decode(osutils.get_user_encoding(), 'replace'
 
4332
                                    ).encode('ascii', 'replace')
4105
4333
        sys.stderr.write('Unable to remove testing dir %s\n%s'
4106
 
                         % (os.path.basename(dirname), e))
 
4334
                         % (os.path.basename(dirname), printable_e))
4107
4335
 
4108
4336
 
4109
4337
class Feature(object):
4219
4447
            symbol_versioning.warn(depr_msg + use_msg, DeprecationWarning)
4220
4448
            # Import the new feature and use it as a replacement for the
4221
4449
            # deprecated one.
4222
 
            mod = __import__(self._replacement_module, {}, {},
4223
 
                             [self._replacement_name])
4224
 
            self._feature = getattr(mod, self._replacement_name)
 
4450
            self._feature = pyutils.get_named_object(
 
4451
                self._replacement_module, self._replacement_name)
4225
4452
 
4226
4453
    def _probe(self):
4227
4454
        self._ensure()
4258
4485
        return self.module_name
4259
4486
 
4260
4487
 
4261
 
# This is kept here for compatibility, it is recommended to use
4262
 
# 'bzrlib.tests.feature.paramiko' instead
4263
 
ParamikoFeature = _CompatabilityThunkFeature(
4264
 
    deprecated_in((2,1,0)),
4265
 
    'bzrlib.tests.features', 'ParamikoFeature', 'paramiko')
4266
 
 
4267
 
 
4268
4488
def probe_unicode_in_user_encoding():
4269
4489
    """Try to encode several unicode strings to use in unicode-aware tests.
4270
4490
    Return first successfull match.
4339
4559
UnicodeFilename = _UnicodeFilename()
4340
4560
 
4341
4561
 
 
4562
class _ByteStringNamedFilesystem(Feature):
 
4563
    """Is the filesystem based on bytes?"""
 
4564
 
 
4565
    def _probe(self):
 
4566
        if os.name == "posix":
 
4567
            return True
 
4568
        return False
 
4569
 
 
4570
ByteStringNamedFilesystem = _ByteStringNamedFilesystem()
 
4571
 
 
4572
 
4342
4573
class _UTF8Filesystem(Feature):
4343
4574
    """Is the filesystem UTF-8?"""
4344
4575
 
4446
4677
case_sensitive_filesystem_feature = _CaseSensitiveFilesystemFeature()
4447
4678
 
4448
4679
 
4449
 
# Kept for compatibility, use bzrlib.tests.features.subunit instead
4450
 
SubUnitFeature = _CompatabilityThunkFeature(
4451
 
    deprecated_in((2,1,0)),
4452
 
    'bzrlib.tests.features', 'SubUnitFeature', 'subunit')
4453
4680
# Only define SubUnitBzrRunner if subunit is available.
4454
4681
try:
4455
4682
    from subunit import TestProtocolClient
4456
4683
    from subunit.test_results import AutoTimingTestResultDecorator
 
4684
    class SubUnitBzrProtocolClient(TestProtocolClient):
 
4685
 
 
4686
        def addSuccess(self, test, details=None):
 
4687
            # The subunit client always includes the details in the subunit
 
4688
            # stream, but we don't want to include it in ours.
 
4689
            if details is not None and 'log' in details:
 
4690
                del details['log']
 
4691
            return super(SubUnitBzrProtocolClient, self).addSuccess(
 
4692
                test, details)
 
4693
 
4457
4694
    class SubUnitBzrRunner(TextTestRunner):
4458
4695
        def run(self, test):
4459
4696
            result = AutoTimingTestResultDecorator(
4460
 
                TestProtocolClient(self.stream))
 
4697
                SubUnitBzrProtocolClient(self.stream))
4461
4698
            test.run(result)
4462
4699
            return result
4463
4700
except ImportError: