/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/tests/test_source.py

  • Committer: John Arbash Meinel
  • Date: 2006-10-11 23:32:09 UTC
  • mto: This revision was merged to the branch mainline in revision 2080.
  • Revision ID: john@arbash-meinel.com-20061011233209-9ee5ee88a8ae79a2
Add (c) Canonical to files that Aaron has approved

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2010 Canonical Ltd
 
1
# Copyright (C) 2005 Canonical Ltd
 
2
#   Authors: Robert Collins <robert.collins@canonical.com>
2
3
#
3
4
# This program is free software; you can redistribute it and/or modify
4
5
# it under the terms of the GNU General Public License as published by
12
13
#
13
14
# You should have received a copy of the GNU General Public License
14
15
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
16
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
17
 
17
18
"""These tests are tests about the source code of bzrlib itself.
18
19
 
21
22
 
22
23
# import system imports here
23
24
import os
24
 
import parser
25
25
import re
26
 
import symbol
27
26
import sys
28
 
import token
29
27
 
30
28
#import bzrlib specific imports here
31
29
from bzrlib import (
32
30
    osutils,
33
31
    )
34
32
import bzrlib.branch
35
 
from bzrlib.tests import (
36
 
    TestCase,
37
 
    TestSkipped,
38
 
    )
39
 
 
40
 
 
41
 
# Files which are listed here will be skipped when testing for Copyright (or
42
 
# GPL) statements.
43
 
COPYRIGHT_EXCEPTIONS = ['bzrlib/lsprof.py', 'bzrlib/_bencode_py.py',
44
 
    'bzrlib/doc_generate/sphinx_conf.py']
45
 
 
46
 
LICENSE_EXCEPTIONS = ['bzrlib/lsprof.py', 'bzrlib/_bencode_py.py',
47
 
    'bzrlib/doc_generate/sphinx_conf.py']
48
 
# Technically, 'bzrlib/lsprof.py' should be 'bzrlib/util/lsprof.py',
49
 
# (we do not check bzrlib/util/, since that is code bundled from elsewhere)
50
 
# but for compatibility with previous releases, we don't want to move it.
51
 
#
52
 
# sphinx_conf is semi-autogenerated.
 
33
from bzrlib.tests import TestCase, TestSkipped
53
34
 
54
35
 
55
36
class TestSourceHelper(TestCase):
56
37
 
57
38
    def source_file_name(self, package):
58
39
        """Return the path of the .py file for package."""
59
 
        if getattr(sys, "frozen", None) is not None:
60
 
            raise TestSkipped("can't test sources in frozen distributions.")
61
40
        path = package.__file__
62
41
        if path[-1] in 'co':
63
42
            return path[:-1]
83
62
        # do not even think of increasing this number. If you think you need to
84
63
        # increase it, then you almost certainly are doing something wrong as
85
64
        # the relationship from working_tree to branch is one way.
86
 
        # Note that this is an exact equality so that when the number drops,
 
65
        # Note that this is an exact equality so that when the number drops, 
87
66
        #it is not given a buffer but rather has this test updated immediately.
88
67
        self.assertEqual(0, occurences)
89
68
 
91
70
        """Test that the number of uses of working_tree in branch is stable."""
92
71
        occurences = self.find_occurences('WorkingTree',
93
72
                                          self.source_file_name(bzrlib.branch))
94
 
        # Do not even think of increasing this number. If you think you need to
 
73
        # do not even think of increasing this number. If you think you need to
95
74
        # increase it, then you almost certainly are doing something wrong as
96
75
        # the relationship from working_tree to branch is one way.
97
 
        # As of 20070809, there are no longer any mentions at all.
98
 
        self.assertEqual(0, occurences)
 
76
        # This number should be 4 (import NoWorkingTree and WorkingTree, 
 
77
        # raise NoWorkingTree from working_tree(), and construct a working tree
 
78
        # there) but a merge that regressed this was done before this test was
 
79
        # written. Note that this is an exact equality so that when the number
 
80
        # drops, it is not given a buffer but rather this test updated
 
81
        # immediately.
 
82
        self.assertEqual(2, occurences)
99
83
 
100
84
 
101
85
class TestSource(TestSourceHelper):
111
95
                              % source_dir)
112
96
        return source_dir
113
97
 
114
 
    def get_source_files(self, extensions=None):
115
 
        """Yield all source files for bzr and bzrlib
116
 
 
117
 
        :param our_files_only: If true, exclude files from included libraries
118
 
            or plugins.
119
 
        """
 
98
    def get_source_files(self):
 
99
        """yield all source files for bzr and bzrlib"""
120
100
        bzrlib_dir = self.get_bzrlib_dir()
121
 
        if extensions is None:
122
 
            extensions = ('.py',)
123
101
 
124
102
        # This is the front-end 'bzr' script
125
103
        bzr_path = self.get_bzr_path()
126
104
        yield bzr_path
127
105
 
128
106
        for root, dirs, files in os.walk(bzrlib_dir):
129
 
            for d in dirs:
130
 
                if d.endswith('.tmp'):
131
 
                    dirs.remove(d)
132
107
            for f in files:
133
 
                for extension in extensions:
134
 
                    if f.endswith(extension):
135
 
                        break
136
 
                else:
137
 
                    # Did not match the accepted extensions
 
108
                if not f.endswith('.py'):
138
109
                    continue
139
110
                yield osutils.pathjoin(root, f)
140
111
 
141
 
    def get_source_file_contents(self, extensions=None):
142
 
        for fname in self.get_source_files(extensions=extensions):
 
112
    def get_source_file_contents(self):
 
113
        for fname in self.get_source_files():
143
114
            f = open(fname, 'rb')
144
115
            try:
145
116
                text = f.read()
147
118
                f.close()
148
119
            yield fname, text
149
120
 
150
 
    def is_our_code(self, fname):
151
 
        """Return true if it's a "real" part of bzrlib rather than external code"""
152
 
        if '/util/' in fname or '/plugins/' in fname:
153
 
            return False
154
 
        else:
155
 
            return True
156
 
 
157
 
    def is_copyright_exception(self, fname):
158
 
        """Certain files are allowed to be different"""
159
 
        if not self.is_our_code(fname):
160
 
            # We don't ask that external utilities or plugins be
161
 
            # (C) Canonical Ltd
162
 
            return True
163
 
        for exc in COPYRIGHT_EXCEPTIONS:
164
 
            if fname.endswith(exc):
165
 
                return True
166
 
        return False
167
 
 
168
 
    def is_license_exception(self, fname):
169
 
        """Certain files are allowed to be different"""
170
 
        if not self.is_our_code(fname):
171
 
            return True
172
 
        for exc in LICENSE_EXCEPTIONS:
173
 
            if fname.endswith(exc):
174
 
                return True
175
 
        return False
176
 
 
177
 
    def test_tmpdir_not_in_source_files(self):
178
 
        """When scanning for source files, we don't descend test tempdirs"""
179
 
        for filename in self.get_source_files():
180
 
            if re.search(r'test....\.tmp', filename):
181
 
                self.fail("get_source_file() returned filename %r "
182
 
                          "from within a temporary directory"
183
 
                          % filename)
 
121
    def is_exception(self, fname):
 
122
        """Certain files are allowed to be different"""
 
123
        if '/util/' in fname:
 
124
            # We don't require external utilities to be (C) Canonical Ltd
 
125
            return True
 
126
 
 
127
        exceptions = ['bzrlib/lsprof.py']
 
128
        for exc in exceptions:
 
129
            if fname.endswith(exc):
 
130
                return True
 
131
 
 
132
        return False
184
133
 
185
134
    def test_copyright(self):
186
 
        """Test that all .py and .pyx files have a valid copyright statement"""
 
135
        """Test that all .py files have a valid copyright statement"""
 
136
        # These are files which contain a different copyright statement
 
137
        # and that is okay.
187
138
        incorrect = []
188
139
 
189
 
        copyright_re = re.compile('#\\s*copyright.*(?=\n)', re.I)
 
140
        copyright_re = re.compile('#\\s*copyright.*\n', re.I)
190
141
        copyright_canonical_re = re.compile(
191
142
            r'# Copyright \(C\) ' # Opening "# Copyright (C)"
192
143
            r'(\d+)(, \d+)*' # Followed by a series of dates
193
144
            r'.*Canonical Ltd' # And containing 'Canonical Ltd'
194
145
            )
195
146
 
196
 
        for fname, text in self.get_source_file_contents(
197
 
                extensions=('.py', '.pyx')):
198
 
            if self.is_copyright_exception(fname):
 
147
        for fname, text in self.get_source_file_contents():
 
148
            if self.is_exception(fname):
199
149
                continue
200
150
            match = copyright_canonical_re.search(text)
201
151
            if not match:
213
163
        if incorrect:
214
164
            help_text = ["Some files have missing or incorrect copyright"
215
165
                         " statements.",
216
 
                         "",
217
 
                         "Please either add them to the list of"
218
 
                         " COPYRIGHT_EXCEPTIONS in"
219
 
                         " bzrlib/tests/test_source.py",
220
 
                         # this is broken to prevent a false match
221
 
                         "or add '# Copyright (C)"
222
 
                         " 2007 Canonical Ltd' to these files:",
 
166
                         "Please add '# Copyright (C) 2006 Canonical Ltd'"
 
167
                         " to these files:",
223
168
                         "",
224
169
                        ]
225
170
            for fname, comment in incorrect:
229
174
            self.fail('\n'.join(help_text))
230
175
 
231
176
    def test_gpl(self):
232
 
        """Test that all .py and .pyx files have a GPL disclaimer."""
 
177
        """Test that all .py files have a GPL disclaimer"""
233
178
        incorrect = []
234
179
 
235
180
        gpl_txt = """
245
190
#
246
191
# You should have received a copy of the GNU General Public License
247
192
# along with this program; if not, write to the Free Software
248
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
193
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
249
194
"""
250
195
        gpl_re = re.compile(re.escape(gpl_txt), re.MULTILINE)
251
196
 
252
 
        for fname, text in self.get_source_file_contents(
253
 
                extensions=('.py', '.pyx')):
254
 
            if self.is_license_exception(fname):
 
197
        for fname, text in self.get_source_file_contents():
 
198
            if self.is_exception(fname):
255
199
                continue
256
200
            if not gpl_re.search(text):
257
201
                incorrect.append(fname)
258
202
 
259
203
        if incorrect:
260
204
            help_text = ['Some files have missing or incomplete GPL statement',
261
 
                         "",
262
 
                         "Please either add them to the list of"
263
 
                         " LICENSE_EXCEPTIONS in"
264
 
                         " bzrlib/tests/test_source.py",
265
 
                         "Or add the following text to the beginning:",
 
205
                         'Please fix the following files to have text:',
266
206
                         gpl_txt
267
207
                        ]
268
208
            for fname in incorrect:
269
209
                help_text.append((' '*4) + fname)
270
210
 
271
211
            self.fail('\n'.join(help_text))
272
 
 
273
 
    def _push_file(self, dict_, fname, line_no):
274
 
        if fname not in dict_:
275
 
            dict_[fname] = [line_no]
276
 
        else:
277
 
            dict_[fname].append(line_no)
278
 
 
279
 
    def _format_message(self, dict_, message):
280
 
        files = ["%s: %s" % (f, ', '.join([str(i+1) for i in lines]))
281
 
                for f, lines in dict_.items()]
282
 
        files.sort()
283
 
        return message + '\n\n    %s' % ('\n    '.join(files))
284
 
 
285
 
    def test_coding_style(self):
286
 
        """Check if bazaar code conforms to some coding style conventions.
287
 
 
288
 
        Currently we assert that the following is not present:
289
 
         * any tab characters
290
 
         * non-unix newlines
291
 
         * no newline at end of files
292
 
 
293
 
        Print how many files have
294
 
         * trailing white space
295
 
         * lines longer than 79 chars
296
 
        """
297
 
        tabs = {}
298
 
        trailing_ws = {}
299
 
        illegal_newlines = {}
300
 
        long_lines = {}
301
 
        no_newline_at_eof = []
302
 
        for fname, text in self.get_source_file_contents(
303
 
                extensions=('.py', '.pyx')):
304
 
            if not self.is_our_code(fname):
305
 
                continue
306
 
            lines = text.splitlines(True)
307
 
            last_line_no = len(lines) - 1
308
 
            for line_no, line in enumerate(lines):
309
 
                if '\t' in line:
310
 
                    self._push_file(tabs, fname, line_no)
311
 
                if not line.endswith('\n') or line.endswith('\r\n'):
312
 
                    if line_no != last_line_no: # not no_newline_at_eof
313
 
                        self._push_file(illegal_newlines, fname, line_no)
314
 
                if line.endswith(' \n'):
315
 
                    self._push_file(trailing_ws, fname, line_no)
316
 
                if len(line) > 80:
317
 
                    self._push_file(long_lines, fname, line_no)
318
 
            if not lines[-1].endswith('\n'):
319
 
                no_newline_at_eof.append(fname)
320
 
        problems = []
321
 
        if tabs:
322
 
            problems.append(self._format_message(tabs,
323
 
                'Tab characters were found in the following source files.'
324
 
                '\nThey should either be replaced by "\\t" or by spaces:'))
325
 
        if trailing_ws:
326
 
            print ("There are %i lines with trailing white space in %i files."
327
 
                % (sum([len(lines) for f, lines in trailing_ws.items()]),
328
 
                    len(trailing_ws)))
329
 
        if illegal_newlines:
330
 
            problems.append(self._format_message(illegal_newlines,
331
 
                'Non-unix newlines were found in the following source files:'))
332
 
        if long_lines:
333
 
            print ("There are %i lines longer than 79 characters in %i files."
334
 
                % (sum([len(lines) for f, lines in long_lines.items()]),
335
 
                    len(long_lines)))
336
 
        if no_newline_at_eof:
337
 
            no_newline_at_eof.sort()
338
 
            problems.append("The following source files doesn't have a "
339
 
                "newline at the end:"
340
 
               '\n\n    %s'
341
 
               % ('\n    '.join(no_newline_at_eof)))
342
 
        if problems:
343
 
            self.fail('\n\n'.join(problems))
344
 
 
345
 
    def test_no_asserts(self):
346
 
        """bzr shouldn't use the 'assert' statement."""
347
 
        # assert causes too much variation between -O and not, and tends to
348
 
        # give bad errors to the user
349
 
        def search(x):
350
 
            # scan down through x for assert statements, report any problems
351
 
            # this is a bit cheesy; it may get some false positives?
352
 
            if x[0] == symbol.assert_stmt:
353
 
                return True
354
 
            elif x[0] == token.NAME:
355
 
                # can't search further down
356
 
                return False
357
 
            for sub in x[1:]:
358
 
                if sub and search(sub):
359
 
                    return True
360
 
            return False
361
 
        badfiles = []
362
 
        assert_re = re.compile(r'\bassert\b')
363
 
        for fname, text in self.get_source_file_contents():
364
 
            if not self.is_our_code(fname):
365
 
                continue
366
 
            if not assert_re.search(text):
367
 
                continue
368
 
            ast = parser.ast2tuple(parser.suite(text))
369
 
            if search(ast):
370
 
                badfiles.append(fname)
371
 
        if badfiles:
372
 
            self.fail(
373
 
                "these files contain an assert statement and should not:\n%s"
374
 
                % '\n'.join(badfiles))
375
 
 
376
 
    def test_extension_exceptions(self):
377
 
        """Extension functions should propagate exceptions.
378
 
 
379
 
        Either they should return an object, have an 'except' clause, or have a
380
 
        "# cannot_raise" to indicate that we've audited them and defined them as not
381
 
        raising exceptions.
382
 
        """
383
 
        both_exc_and_no_exc = []
384
 
        missing_except = []
385
 
        class_re = re.compile(r'^(cdef\s+)?(public\s+)?(api\s+)?class (\w+).*:',
386
 
                              re.MULTILINE)
387
 
        except_re = re.compile(r'cdef\s+' # start with cdef
388
 
                               r'([\w *]*?)\s*' # this is the return signature
389
 
                               r'(\w+)\s*\(' # the function name
390
 
                               r'[^)]*\)\s*' # parameters
391
 
                               r'(.*)\s*:' # the except clause
392
 
                               r'\s*(#\s*cannot[- _]raise)?' # cannot raise comment
393
 
                              )
394
 
        for fname, text in self.get_source_file_contents(
395
 
                extensions=('.pyx',)):
396
 
            known_classes = set([m[-1] for m in class_re.findall(text)])
397
 
            cdefs = except_re.findall(text)
398
 
            for sig, func, exc_clause, no_exc_comment in cdefs:
399
 
                if sig.startswith('api '):
400
 
                    sig = sig[4:]
401
 
                if not sig or sig in known_classes:
402
 
                    sig = 'object'
403
 
                if 'nogil' in exc_clause:
404
 
                    exc_clause = exc_clause.replace('nogil', '').strip()
405
 
                if exc_clause and no_exc_comment:
406
 
                    both_exc_and_no_exc.append((fname, func))
407
 
                if sig != 'object' and not (exc_clause or no_exc_comment):
408
 
                    missing_except.append((fname, func))
409
 
        error_msg = []
410
 
        if both_exc_and_no_exc:
411
 
            error_msg.append('The following functions had "cannot raise" comments'
412
 
                             ' but did have an except clause set:')
413
 
            for fname, func in both_exc_and_no_exc:
414
 
                error_msg.append('%s:%s' % (fname, func))
415
 
            error_msg.extend(('', ''))
416
 
        if missing_except:
417
 
            error_msg.append('The following functions have fixed return types,'
418
 
                             ' but no except clause.')
419
 
            error_msg.append('Either add an except or append "# cannot_raise".')
420
 
            for fname, func in missing_except:
421
 
                error_msg.append('%s:%s' % (fname, func))
422
 
            error_msg.extend(('', ''))
423
 
        if error_msg:
424
 
            self.fail('\n'.join(error_msg))