/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to doc/developers/HACKING

Return mapping in revision_id_bzr_to_foreign() as required by the interface.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
======================
2
 
Bazaar Developer Guide
3
 
======================
4
 
 
5
 
.. contents::
6
 
 
7
 
(The current version of this document is available in the file ``HACKING``
8
 
in the source tree, or at
9
 
http://doc.bazaar-vcs.org/bzr.dev/developers/HACKING.htm)
10
 
 
11
 
 
12
 
Getting Started
13
 
###############
14
 
 
15
 
Exploring the Bazaar Platform
16
 
=============================
17
 
 
18
 
Before making changes, it's a good idea to explore the work already
19
 
done by others. Perhaps the new feature or improvement you're looking
20
 
for is available in another plug-in already? If you find a bug,
21
 
perhaps someone else has already fixed it?
22
 
 
23
 
To answer these questions and more, take a moment to explore the
24
 
overall Bazaar Platform. Here are some links to browse:
25
 
 
26
 
* The Plugins page on the Wiki - http://bazaar-vcs.org/BzrPlugins
27
 
 
28
 
* The Bazaar product family on Launchpad - https://launchpad.net/bazaar
29
 
 
30
 
* Bug Tracker for the core product - https://bugs.launchpad.net/bzr/
31
 
 
32
 
* Blueprint Tracker for the core product - https://blueprints.launchpad.net/bzr/
33
 
 
34
 
If nothing else, perhaps you'll find inspiration in how other developers
35
 
have solved their challenges.
36
 
 
37
 
 
38
 
Planning and Discussing Changes
39
 
===============================
40
 
 
41
 
There is a very active community around Bazaar. Mostly we meet on IRC
42
 
(#bzr on irc.freenode.net) and on the mailing list. To join the Bazaar
43
 
community, see http://bazaar-vcs.org/BzrSupport.
44
 
 
45
 
If you are planning to make a change, it's a very good idea to mention it
46
 
on the IRC channel and/or on the mailing list. There are many advantages
47
 
to involving the community before you spend much time on a change.
48
 
These include:
49
 
 
50
 
* you get to build on the wisdom on others, saving time
51
 
 
52
 
* if others can direct you to similar code, it minimises the work to be done 
53
 
 
54
 
* it assists everyone in coordinating direction, priorities and effort.
55
 
 
56
 
In summary, maximising the input from others typically minimises the
57
 
total effort required to get your changes merged. The community is
58
 
friendly, helpful and always keen to welcome newcomers.
59
 
 
60
 
 
61
 
Bazaar Development in a Nutshell
62
 
================================
63
 
 
64
 
Looking for a 10 minute introduction to submitting a change?
65
 
See http://bazaar-vcs.org/BzrGivingBack.
66
 
 
67
 
TODO: Merge that Wiki page into this document.
68
 
 
69
 
 
70
 
Understanding the Development Process
71
 
=====================================
72
 
 
73
 
The development team follows many best-practices including:
74
 
 
75
 
* a public roadmap and planning process in which anyone can participate
76
 
 
77
 
* time based milestones everyone can work towards and plan around
78
 
 
79
 
* extensive code review and feedback to contributors
80
 
 
81
 
* complete and rigorous test coverage on any code contributed
82
 
 
83
 
* automated validation that all tests still pass before code is merged
84
 
  into the main code branch.
85
 
 
86
 
The key tools we use to enable these practices are:
87
 
 
88
 
* Launchpad - https://launchpad.net/
89
 
 
90
 
* Bazaar - http://bazaar-vcs.org/
91
 
 
92
 
* Bundle Buggy - http://bundlebuggy.aaronbentley.com/
93
 
 
94
 
* Patch Queue Manager - https://launchpad.net/pqm/
95
 
 
96
 
For further information, see http://bazaar-vcs.org/BzrDevelopment.
97
 
 
98
 
 
99
 
A Closer Look at the Merge & Review Process
100
 
===========================================
101
 
 
102
 
If you'd like to propose a change, please post to the
103
 
bazaar@lists.canonical.com list with a bundle, patch, or link to a
104
 
branch. Put '[PATCH]' or '[MERGE]' in the subject so Bundle Buggy
105
 
can pick it out, and explain the change in the email message text.
106
 
Remember to update the NEWS file as part of your change if it makes any
107
 
changes visible to users or plugin developers. Please include a diff
108
 
against mainline if you're giving a link to a branch.
109
 
 
110
 
You can generate a bundle like this::
111
 
 
112
 
  bzr bundle > mybundle.patch
113
 
  
114
 
A .patch extension is recommended instead of .bundle as many mail clients
115
 
will send the latter as a binary file. If a bundle would be too long or your
116
 
mailer mangles whitespace (e.g. implicitly converts Unix newlines to DOS
117
 
newlines), use the merge-directive command instead like this::
118
 
 
119
 
  bzr merge-directive http://bazaar-vcs.org http://example.org/my_branch > my_directive.patch
120
 
 
121
 
See the help for details on the arguments to merge-directive.
122
 
 
123
 
Please do **NOT** put [PATCH] or [MERGE] in the subject line if you don't
124
 
want it to be merged. If you want comments from developers rather than
125
 
to be merged, you can put '[RFC]' in the subject line.
126
 
 
127
 
Anyone is welcome to review code.  There are broadly three gates for
128
 
code to get in:
129
 
 
130
 
 * Doesn't reduce test coverage: if it adds new methods or commands,
131
 
   there should be tests for them.  There is a good test framework
132
 
   and plenty of examples to crib from, but if you are having trouble
133
 
   working out how to test something feel free to post a draft patch
134
 
   and ask for help.
135
 
 
136
 
 * Doesn't reduce design clarity, such as by entangling objects
137
 
   we're trying to separate.  This is mostly something the more
138
 
   experienced reviewers need to help check.
139
 
 
140
 
 * Improves bugs, features, speed, or code simplicity.
141
 
 
142
 
Code that goes in should pass all three. The core developers take care
143
 
to keep the code quality high and understandable while recognising that
144
 
perfect is sometimes the enemy of good. (It is easy for reviews to make
145
 
people notice other things which should be fixed but those things should
146
 
not hold up the original fix being accepted. New things can easily be
147
 
recorded in the Bug Tracker instead.)
148
 
 
149
 
Anyone can "vote" on the mailing list. Core developers can also vote using
150
 
Bundle Buggy. Here are the voting codes and their explanations.
151
 
 
152
 
:approve:  Reviewer wants this submission merged.
153
 
:tweak:    Reviewer wants this submission merged with small changes. (No
154
 
  re-review required.)
155
 
:abstain:  Reviewer does not intend to vote on this patch.
156
 
:resubmit: Please make changes and resubmit for review.
157
 
:reject:   Reviewer doesn't want this kind of change merged.
158
 
:comment:  Not really a vote. Reviewer just wants to comment, for now.
159
 
 
160
 
If a change gets two approvals from core reviewers, and no rejections,
161
 
then it's OK to come in.  Any of the core developers can bring it into the
162
 
bzr.dev trunk and backport it to maintenance branches if required.  The
163
 
Release Manager will merge the change into the branch for a pending
164
 
release, if any. As a guideline, core developers usually merge their own
165
 
changes and volunteer to merge other contributions if they were the second
166
 
reviewer to agree to a change.
167
 
 
168
 
To track the progress of proposed changes, use Bundle Buggy. See
169
 
http://bundlebuggy.aaronbentley.com/help for a link to all the
170
 
outstanding merge requests together with an explanation of the columns.
171
 
Bundle Buggy will also mail you a link to track just your change.
172
 
 
173
 
 
174
 
Preparing a Sandbox for Making Changes to Bazaar
175
 
================================================
176
 
 
177
 
Bazaar supports many ways of organising your work. See
178
 
http://bazaar-vcs.org/SharedRepositoryLayouts for a summary of the
179
 
popular alternatives.
180
 
 
181
 
Of course, the best choice for you will depend on numerous factors:
182
 
the number of changes you may be making, the complexity of the changes, etc.
183
 
As a starting suggestion though:
184
 
 
185
 
* create a local copy of the main development branch (bzr.dev) by using
186
 
  this command::
187
 
  
188
 
    bzr branch http://bazaar-vcs.org/bzr/bzr.dev/ bzr.dev
189
 
   
190
 
* keep your copy of bzr.dev prestine (by not developing in it) and keep
191
 
  it up to date (by using bzr pull)
192
 
 
193
 
* create a new branch off your local bzr.dev copy for each issue
194
 
  (bug or feature) you are working on.
195
 
 
196
 
This approach makes it easy to go back and make any required changes
197
 
after a code review. Resubmitting the change is then simple with no
198
 
risk of accidentially including edits related to other issues you may
199
 
be working on. After the changes for an issue are accepted and merged,
200
 
the associated branch can be deleted or archived as you wish.
201
 
 
202
 
 
203
 
Navigating the Code Base
204
 
========================
205
 
 
206
 
TODO: List and describe in one line the purpose of each directory
207
 
inside an installation of bzr.
208
 
 
209
 
TODO: Refer to a central location holding an up to date copy of the API
210
 
documentation generated by epydoc, e.g. something like
211
 
http://starship.python.net/crew/mwh/bzrlibapi/bzrlib.html.
212
 
 
213
 
 
214
 
Testing Bazaar
215
 
##############
216
 
 
217
 
The Importance of Testing
218
 
=========================
219
 
 
220
 
Reliability is a critical success factor for any Version Control System.
221
 
We want Bazaar to be highly reliable across multiple platforms while
222
 
evolving over time to meet the needs of its community. 
223
 
 
224
 
In a nutshell, this is want we expect and encourage:
225
 
 
226
 
* New functionality should have test cases.  Preferably write the
227
 
  test before writing the code.
228
 
 
229
 
  In general, you can test at either the command-line level or the
230
 
  internal API level.  See Writing tests below for more detail.
231
 
 
232
 
* Try to practice Test-Driven Development: before fixing a bug, write a
233
 
  test case so that it does not regress.  Similarly for adding a new
234
 
  feature: write a test case for a small version of the new feature before
235
 
  starting on the code itself.  Check the test fails on the old code, then
236
 
  add the feature or fix and check it passes.
237
 
 
238
 
By doing these things, the Bazaar team gets increased confidence that
239
 
changes do what they claim to do, whether provided by the core team or
240
 
by community members. Equally importantly, we can be surer that changes
241
 
down the track do not break new features or bug fixes that you are
242
 
contributing today.
243
 
 
244
 
As of May 2007, Bazaar ships with a test suite containing over 6000 tests
245
 
and growing. We are proud of it and want to remain so. As community
246
 
members, we all benefit from it. Would you trust version control on
247
 
your project to a product *without* a test suite like Bazaar has?
248
 
 
249
 
 
250
 
Running the Test Suite
251
 
======================
252
 
 
253
 
Currently, bzr selftest is used to invoke tests.
254
 
You can provide a pattern argument to run a subset. For example, 
255
 
to run just the blackbox tests, run::
256
 
 
257
 
  ./bzr selftest -v blackbox
258
 
 
259
 
To skip a particular test (or set of tests), use the --exclude option
260
 
(shorthand -x) like so::
261
 
 
262
 
  ./bzr selftest -v -x blackbox  
263
 
 
264
 
To list tests without running them, use the --list-only option like so::
265
 
 
266
 
  ./bzr selftest --list-only
267
 
 
268
 
This option can be combined with other selftest options (like -x) and
269
 
filter patterns to understand their effect.
270
 
 
271
 
 
272
 
Writing Tests
273
 
=============
274
 
 
275
 
In general tests should be placed in a file named test_FOO.py where 
276
 
FOO is the logical thing under test. That file should be placed in the
277
 
tests subdirectory under the package being tested.
278
 
 
279
 
For example, tests for merge3 in bzrlib belong in bzrlib/tests/test_merge3.py.
280
 
See bzrlib/tests/test_sampler.py for a template test script.
281
 
 
282
 
Tests can be written for the UI or for individual areas of the library.
283
 
Choose whichever is appropriate: if adding a new command, or a new command 
284
 
option, then you should be writing a UI test.  If you are both adding UI
285
 
functionality and library functionality, you will want to write tests for 
286
 
both the UI and the core behaviours.  We call UI tests 'blackbox' tests
287
 
and they are found in ``bzrlib/tests/blackbox/*.py``. 
288
 
 
289
 
When writing blackbox tests please honour the following conventions:
290
 
 
291
 
 1. Place the tests for the command 'name' in
292
 
    bzrlib/tests/blackbox/test_name.py. This makes it easy for developers
293
 
    to locate the test script for a faulty command.
294
 
 
295
 
 2. Use the 'self.run_bzr("name")' utility function to invoke the command
296
 
    rather than running bzr in a subprocess or invoking the
297
 
    cmd_object.run() method directly. This is a lot faster than
298
 
    subprocesses and generates the same logging output as running it in a
299
 
    subprocess (which invoking the method directly does not).
300
 
 
301
 
 3. Only test the one command in a single test script. Use the bzrlib 
302
 
    library when setting up tests and when evaluating the side-effects of
303
 
    the command. We do this so that the library api has continual pressure
304
 
    on it to be as functional as the command line in a simple manner, and
305
 
    to isolate knock-on effects throughout the blackbox test suite when a
306
 
    command changes its name or signature. Ideally only the tests for a
307
 
    given command are affected when a given command is changed.
308
 
 
309
 
 4. If you have a test which does actually require running bzr in a
310
 
    subprocess you can use ``run_bzr_subprocess``. By default the spawned
311
 
    process will not load plugins unless ``--allow-plugins`` is supplied.
312
 
 
313
 
 
314
 
Doctests
315
 
--------
316
 
 
317
 
We make selective use of doctests__.  In general they should provide 
318
 
*examples* within the API documentation which can incidentally be tested.  We 
319
 
don't try to test every important case using doctests -- regular Python
320
 
tests are generally a better solution.
321
 
 
322
 
Most of these are in ``bzrlib/doc/api``.  More additions are welcome.
323
 
 
324
 
  __ http://docs.python.org/lib/module-doctest.html
325
 
 
326
 
 
327
 
Skipping tests and test requirements
328
 
------------------------------------
329
 
 
330
 
In our enhancements to unittest we allow for some addition results beyond
331
 
just success or failure.
332
 
 
333
 
If a test can't be run, it can say that it's skipped.  This is typically
334
 
used in parameterized tests - for example if a transport doesn't support
335
 
setting permissions, we'll skip the tests that relating to that.  ::
336
 
 
337
 
    try:
338
 
        return self.branch_format.initialize(repo.bzrdir)
339
 
    except errors.UninitializableFormat:
340
 
        raise tests.TestSkipped('Uninitializable branch format')
341
 
 
342
 
Raising TestSkipped is a good idea when you want to make it clear that the
343
 
test was not run, rather than just returning which makes it look as if it
344
 
was run and passed.
345
 
 
346
 
A subtly different case is a test that should run, but can't run in the
347
 
current environment.  This covers tests that can only run in particular
348
 
operating systems or locales, or that depend on external libraries.  Here
349
 
we want to inform the user that they didn't get full test coverage, but
350
 
they possibly could if they installed more libraries.  These are expressed
351
 
as a dependency on a feature so we can summarise them, and so that the
352
 
test for the feature is done only once.  (For historical reasons, as of
353
 
May 2007 many cases that should depend on features currently raise
354
 
TestSkipped.)  The typical use is::
355
 
 
356
 
    class TestStrace(TestCaseWithTransport):
357
 
 
358
 
        _test_needs_features = [StraceFeature]
359
 
 
360
 
which means all tests in this class need the feature.  The feature itself
361
 
should provide a ``_probe`` method which is called once to determine if
362
 
it's available.
363
 
 
364
 
 
365
 
Known failures
366
 
--------------
367
 
 
368
 
Known failures are when a test exists but we know it currently doesn't
369
 
work, allowing the test suite to still pass.  These should be used with
370
 
care, we don't want a proliferation of quietly broken tests.  It might be
371
 
appropriate to use them if you've committed a test for a bug but not the
372
 
fix for it, or if something works on Unix but not on Windows.
373
 
 
374
 
 
375
 
Testing exceptions and errors
376
 
-----------------------------
377
 
 
378
 
It's important to test handling of errors and exceptions.  Because this
379
 
code is often not hit in ad-hoc testing it can often have hidden bugs --
380
 
it's particularly common to get NameError because the exception code
381
 
references a variable that has since been renamed.
382
 
 
383
 
.. TODO: Something about how to provoke errors in the right way?
384
 
 
385
 
In general we want to test errors at two levels:
386
 
 
387
 
1. A test in ``test_errors.py`` checking that when the exception object is
388
 
   constructed with known parameters it produces an expected string form.
389
 
   This guards against mistakes in writing the format string, or in the
390
 
   ``str`` representations of its parameters.  There should be one for
391
 
   each exception class.
392
 
 
393
 
2. Tests that when an api is called in a particular situation, it raises
394
 
   an error of the expected class.  You should typically use
395
 
   ``assertRaises``, which in the Bazaar test suite returns the exception
396
 
   object to allow you to examine its parameters.  
397
 
 
398
 
In some cases blackbox tests will also want to check error reporting.  But
399
 
it can be difficult to provoke every error through the commandline
400
 
interface, so those tests are only done as needed -- eg in response to a
401
 
particular bug or if the error is reported in an unusual way(?)  Blackbox
402
 
tests should mostly be testing how the command-line interface works, so
403
 
should only test errors if there is something particular to the cli in how
404
 
they're displayed or handled.
405
 
 
406
 
 
407
 
Essential Domain Classes
408
 
########################
409
 
 
410
 
Introducing the Object Model
411
 
============================
412
 
 
413
 
The core domain objects within the bazaar model are:
414
 
 
415
 
* Transport
416
 
 
417
 
* Branch
418
 
 
419
 
* Repository
420
 
 
421
 
* WorkingTree
422
 
 
423
 
Transports are explained below. See http://bazaar-vcs.org/Classes/
424
 
for an introduction to the other key classes.
425
 
 
426
 
Using Transports
427
 
================
428
 
 
429
 
The ``Transport`` layer handles access to local or remote directories.
430
 
Each Transport object acts like a logical connection to a particular
431
 
directory, and it allows various operations on files within it.  You can
432
 
*clone* a transport to get a new Transport connected to a subdirectory or
433
 
parent directory.
434
 
 
435
 
Transports are not used for access to the working tree.  At present
436
 
working trees are always local and they are accessed through the regular
437
 
Python file io mechanisms.
438
 
 
439
 
Filenames vs URLs
440
 
-----------------
441
 
 
442
 
Transports work in URLs.  Take note that URLs are by definition only
443
 
ASCII - the decision of how to encode a Unicode string into a URL must be
444
 
taken at a higher level, typically in the Store.  (Note that Stores also
445
 
escape filenames which cannot be safely stored on all filesystems, but
446
 
this is a different level.)
447
 
 
448
 
The main reason for this is that it's not possible to safely roundtrip a
449
 
URL into Unicode and then back into the same URL.  The URL standard
450
 
gives a way to represent non-ASCII bytes in ASCII (as %-escapes), but
451
 
doesn't say how those bytes represent non-ASCII characters.  (They're not
452
 
guaranteed to be UTF-8 -- that is common but doesn't happen everywhere.)
453
 
 
454
 
For example if the user enters the url ``http://example/%e0`` there's no
455
 
way to tell whether that character represents "latin small letter a with
456
 
grave" in iso-8859-1, or "latin small letter r with acute" in iso-8859-2
457
 
or malformed UTF-8.  So we can't convert their URL to Unicode reliably.
458
 
 
459
 
Equally problematic if we're given a url-like string containing non-ascii
460
 
characters (such as the accented a) we can't be sure how to convert that
461
 
to the correct URL, because we don't know what encoding the server expects
462
 
for those characters.  (Although this is not totally reliable we might still
463
 
accept these and assume they should be put into UTF-8.)
464
 
 
465
 
A similar edge case is that the url ``http://foo/sweet%2Fsour`` contains
466
 
one directory component whose name is "sweet/sour".  The escaped slash is
467
 
not a directory separator.  If we try to convert URLs to regular Unicode
468
 
paths this information will be lost.
469
 
 
470
 
This implies that Transports must natively deal with URLs; for simplicity
471
 
they *only* deal with URLs and conversion of other strings to URLs is done
472
 
elsewhere.  Information they return, such as from ``list_dir``, is also in
473
 
the form of URL components.
474
 
 
475
 
 
476
 
Core Topics
477
 
###########
478
 
 
479
 
Evolving Interfaces
480
 
===================
481
 
 
482
 
We have a commitment to 6 months API stability - any supported symbol in a
483
 
release of bzr MUST NOT be altered in any way that would result in
484
 
breaking existing code that uses it. That means that method names,
485
 
parameter ordering, parameter names, variable and attribute names etc must
486
 
not be changed without leaving a 'deprecated forwarder' behind. This even
487
 
applies to modules and classes.
488
 
 
489
 
If you wish to change the behaviour of a supported API in an incompatible
490
 
way, you need to change its name as well. For instance, if I add an optional keyword
491
 
parameter to branch.commit - that's fine. On the other hand, if I add a
492
 
keyword parameter to branch.commit which is a *required* transaction
493
 
object, I should rename the API - i.e. to 'branch.commit_transaction'. 
494
 
 
495
 
When renaming such supported API's, be sure to leave a deprecated_method (or
496
 
_function or ...) behind which forwards to the new API. See the
497
 
bzrlib.symbol_versioning module for decorators that take care of the
498
 
details for you - such as updating the docstring, and issuing a warning
499
 
when the old api is used.
500
 
 
501
 
For unsupported API's, it does not hurt to follow this discipline, but it's
502
 
not required. Minimally though, please try to rename things so that
503
 
callers will at least get an AttributeError rather than weird results.
504
 
 
505
 
 
506
 
Coding Style Guidelines
507
 
=======================
508
 
 
509
 
Please write PEP-8__ compliant code.  
510
 
 
511
 
One often-missed requirement is that the first line of docstrings
512
 
should be a self-contained one-sentence summary.
513
 
 
514
 
__ http://www.python.org/peps/pep-0008.html
515
 
 
516
 
 
517
 
Module Imports
518
 
--------------
519
 
 
520
 
* Imports should be done at the top-level of the file, unless there is
521
 
  a strong reason to have them lazily loaded when a particular
522
 
  function runs.  Import statements have a cost, so try to make sure
523
 
  they don't run inside hot functions.
524
 
 
525
 
* Module names should always be given fully-qualified,
526
 
  i.e. ``bzrlib.hashcache`` not just ``hashcache``.
527
 
 
528
 
 
529
 
Naming
530
 
------
531
 
 
532
 
Functions, methods or members that are "private" to bzrlib are given
533
 
a leading underscore prefix.  Names without a leading underscore are
534
 
public not just across modules but to programmers using bzrlib as an
535
 
API. As a consequence, a leading underscore is appropriate for names
536
 
exposed across modules but that are not to be exposed to bzrlib API
537
 
programmers.
538
 
 
539
 
We prefer class names to be concatenated capital words (``TestCase``)
540
 
and variables, methods and functions to be lowercase words joined by
541
 
underscores (``revision_id``, ``get_revision``).
542
 
 
543
 
For the purposes of naming some names are treated as single compound
544
 
words: "filename", "revno".
545
 
 
546
 
Consider naming classes as nouns and functions/methods as verbs.
547
 
 
548
 
Try to avoid using abbreviations in names, because there can be
549
 
inconsistency if other people use the full name.
550
 
 
551
 
 
552
 
Standard Names
553
 
--------------
554
 
 
555
 
``revision_id`` not ``rev_id`` or ``revid``
556
 
 
557
 
Functions that transform one thing to another should be named ``x_to_y``
558
 
(not ``x2y`` as occurs in some old code.)
559
 
 
560
 
 
561
 
Destructors
562
 
-----------
563
 
 
564
 
Python destructors (``__del__``) work differently to those of other
565
 
languages.  In particular, bear in mind that destructors may be called
566
 
immediately when the object apparently becomes unreferenced, or at some
567
 
later time, or possibly never at all.  Therefore we have restrictions on
568
 
what can be done inside them.
569
 
 
570
 
 0. Never use a __del__ method without asking Martin/Robert first.
571
 
 
572
 
 1. Never rely on a ``__del__`` method running.  If there is code that
573
 
    must run, do it from a ``finally`` block instead.
574
 
 
575
 
 2. Never ``import`` from inside a ``__del__`` method, or you may crash the
576
 
    interpreter!!
577
 
 
578
 
 3. In some places we raise a warning from the destructor if the object
579
 
    has not been cleaned up or closed.  This is considered OK: the warning
580
 
    may not catch every case but it's still useful sometimes.
581
 
 
582
 
 
583
 
Factories
584
 
---------
585
 
 
586
 
In some places we have variables which point to callables that construct
587
 
new instances.  That is to say, they can be used a lot like class objects,
588
 
but they shouldn't be *named* like classes:
589
 
 
590
 
> I think that things named FooBar should create instances of FooBar when
591
 
> called. Its plain confusing for them to do otherwise. When we have
592
 
> something that is going to be used as a class - that is, checked for via
593
 
> isinstance or other such idioms, them I would call it foo_class, so that
594
 
> it is clear that a callable is not sufficient. If it is only used as a
595
 
> factory, then yes, foo_factory is what I would use.
596
 
 
597
 
 
598
 
Registries
599
 
----------
600
 
 
601
 
Several places in Bazaar use (or will use) a registry, which is a 
602
 
mapping from names to objects or classes.  The registry allows for 
603
 
loading in registered code only when it's needed, and keeping
604
 
associated information such as a help string or description.
605
 
 
606
 
 
607
 
Lazy Imports
608
 
------------
609
 
 
610
 
To make startup time faster, we use the ``bzrlib.lazy_import`` module to
611
 
delay importing modules until they are actually used. ``lazy_import`` uses
612
 
the same syntax as regular python imports. So to import a few modules in a
613
 
lazy fashion do::
614
 
 
615
 
  from bzrlib.lazy_import import lazy_import
616
 
  lazy_import(globals(), """
617
 
  import os
618
 
  import subprocess
619
 
  import sys
620
 
  import time
621
 
 
622
 
  from bzrlib import (
623
 
     errors,
624
 
     transport,
625
 
     revision as _mod_revision,
626
 
     )
627
 
  import bzrlib.transport
628
 
  import bzrlib.xml5
629
 
  """)
630
 
 
631
 
At this point, all of these exist as a ``ImportReplacer`` object, ready to
632
 
be imported once a member is accessed. Also, when importing a module into
633
 
the local namespace, which is likely to clash with variable names, it is
634
 
recommended to prefix it as ``_mod_<module>``. This makes it clearer that
635
 
the variable is a module, and these object should be hidden anyway, since
636
 
they shouldn't be imported into other namespaces.
637
 
 
638
 
 
639
 
Modules versus Members
640
 
~~~~~~~~~~~~~~~~~~~~~~
641
 
 
642
 
While it is possible for ``lazy_import()`` to import members of a module
643
 
when using the ``from module import member`` syntax, it is recommended to
644
 
only use that syntax to load sub modules ``from module import submodule``.
645
 
This is because variables and classes can frequently be used without
646
 
needing a sub-member for example::
647
 
 
648
 
  lazy_import(globals(), """
649
 
  from module import MyClass
650
 
  """)
651
 
 
652
 
  def test(x):
653
 
      return isinstance(x, MyClass)
654
 
 
655
 
This will incorrectly fail, because ``MyClass`` is a ``ImportReplacer``
656
 
object, rather than the real class.
657
 
 
658
 
 
659
 
Passing to Other Variables
660
 
~~~~~~~~~~~~~~~~~~~~~~~~~~
661
 
 
662
 
It also is incorrect to assign ``ImportReplacer`` objects to other variables.
663
 
Because the replacer only knows about the original name, it is unable to
664
 
replace other variables. The ``ImportReplacer`` class will raise an
665
 
``IllegalUseOfScopeReplacer`` exception if it can figure out that this
666
 
happened. But it requires accessing a member more than once from the new
667
 
variable, so some bugs are not detected right away.
668
 
 
669
 
 
670
 
The Null revision
671
 
-----------------
672
 
 
673
 
The null revision is the ancestor of all revisions.  Its revno is 0, its
674
 
revision-id is ``null:``, and its tree is the empty tree.  When referring
675
 
to the null revision, please use ``bzrlib.revision.NULL_REVISION``.  Old
676
 
code sometimes uses ``None`` for the null revision, but this practice is
677
 
being phased out.
678
 
 
679
 
 
680
 
Getting Input
681
 
=============
682
 
 
683
 
Processing Command Lines
684
 
------------------------
685
 
 
686
 
bzrlib has a standard framework for parsing command lines and calling
687
 
processing routines associated with various commands. See builtins.py
688
 
for numerous examples.
689
 
 
690
 
 
691
 
Standard Parameter Types
692
 
------------------------
693
 
 
694
 
There are some common requirements in the library: some parameters need to be
695
 
unicode safe, some need byte strings, and so on. At the moment we have
696
 
only codified one specific pattern: Parameters that need to be unicode
697
 
should be checked via ``bzrlib.osutils.safe_unicode``. This will coerce the
698
 
input into unicode in a consistent fashion, allowing trivial strings to be
699
 
used for programmer convenience, but not performing unpredictably in the
700
 
presence of different locales.
701
 
 
702
 
 
703
 
Writing Output
704
 
==============
705
 
 
706
 
(The strategy described here is what we want to get to, but it's not
707
 
consistently followed in the code at the moment.)
708
 
 
709
 
bzrlib is intended to be a generically reusable library.  It shouldn't
710
 
write messages to stdout or stderr, because some programs that use it
711
 
might want to display that information through a GUI or some other
712
 
mechanism.
713
 
 
714
 
We can distinguish two types of output from the library:
715
 
 
716
 
 1. Structured data representing the progress or result of an
717
 
    operation.  For example, for a commit command this will be a list
718
 
    of the modified files and the finally committed revision number
719
 
    and id.
720
 
 
721
 
    These should be exposed either through the return code or by calls
722
 
    to a callback parameter.
723
 
 
724
 
    A special case of this is progress indicators for long-lived
725
 
    operations, where the caller should pass a ProgressBar object.
726
 
 
727
 
 2. Unstructured log/debug messages, mostly for the benefit of the
728
 
    developers or users trying to debug problems.  This should always
729
 
    be sent through ``bzrlib.trace`` and Python ``logging``, so that
730
 
    it can be redirected by the client.
731
 
 
732
 
The distinction between the two is a bit subjective, but in general if
733
 
there is any chance that a library would want to see something as
734
 
structured data, we should make it so.
735
 
 
736
 
The policy about how output is presented in the text-mode client
737
 
should be only in the command-line tool.
738
 
 
739
 
 
740
 
 
741
 
Displaying help
742
 
===============
743
 
 
744
 
Bazaar has online help for various topics through ``bzr help COMMAND`` or
745
 
equivalently ``bzr command -h``.  We also have help on command options,
746
 
and on other help topics.  (See ``help_topics.py``.)
747
 
 
748
 
As for python docstrings, the first paragraph should be a single-sentence
749
 
synopsis of the command.
750
 
 
751
 
The help for options should be one or more proper sentences, starting with
752
 
a capital letter and finishing with a full stop (period).
753
 
 
754
 
All help messages and documentation should have two spaces between
755
 
sentences.
756
 
 
757
 
 
758
 
Writing tests
759
 
=============
760
 
 
761
 
In general tests should be placed in a file named test_FOO.py where 
762
 
FOO is the logical thing under test. That file should be placed in the
763
 
tests subdirectory under the package being tested.
764
 
 
765
 
For example, tests for merge3 in bzrlib belong in bzrlib/tests/test_merge3.py.
766
 
See bzrlib/tests/test_sampler.py for a template test script.
767
 
 
768
 
Tests can be written for the UI or for individual areas of the library.
769
 
Choose whichever is appropriate: if adding a new command, or a new command 
770
 
option, then you should be writing a UI test.  If you are both adding UI
771
 
functionality and library functionality, you will want to write tests for 
772
 
both the UI and the core behaviours.  We call UI tests 'blackbox' tests
773
 
and they are found in ``bzrlib/tests/blackbox/*.py``. 
774
 
 
775
 
When writing blackbox tests please honour the following conventions:
776
 
 
777
 
 1. Place the tests for the command 'name' in
778
 
    bzrlib/tests/blackbox/test_name.py. This makes it easy for developers
779
 
    to locate the test script for a faulty command.
780
 
 
781
 
 2. Use the 'self.run_bzr("name")' utility function to invoke the command
782
 
    rather than running bzr in a subprocess or invoking the
783
 
    cmd_object.run() method directly. This is a lot faster than
784
 
    subprocesses and generates the same logging output as running it in a
785
 
    subprocess (which invoking the method directly does not).
786
 
 
787
 
 3. Only test the one command in a single test script. Use the bzrlib 
788
 
    library when setting up tests and when evaluating the side-effects of
789
 
    the command. We do this so that the library api has continual pressure
790
 
    on it to be as functional as the command line in a simple manner, and
791
 
    to isolate knock-on effects throughout the blackbox test suite when a
792
 
    command changes its name or signature. Ideally only the tests for a
793
 
    given command are affected when a given command is changed.
794
 
 
795
 
 4. If you have a test which does actually require running bzr in a
796
 
    subprocess you can use ``run_bzr_subprocess``. By default the spawned
797
 
    process will not load plugins unless ``--allow-plugins`` is supplied.
798
 
 
799
 
 
800
 
Test support
801
 
------------
802
 
 
803
 
We have a rich collection of tools to support writing tests. Please use
804
 
them in preference to ad-hoc solutions as they provide portability and
805
 
performance benefits.
806
 
 
807
 
TreeBuilder
808
 
~~~~~~~~~~~
809
 
 
810
 
The ``TreeBuilder`` interface allows the construction of arbitrary trees
811
 
with a declarative interface. A sample session might look like::
812
 
 
813
 
  tree = self.make_branch_and_tree('path')
814
 
  builder = TreeBuilder()
815
 
  builder.start_tree(tree)
816
 
  builder.build(['foo', "bar/", "bar/file"])
817
 
  tree.commit('commit the tree')
818
 
  builder.finish_tree()
819
 
 
820
 
Please see bzrlib.treebuilder for more details.
821
 
 
822
 
BranchBuilder
823
 
~~~~~~~~~~~~~
824
 
 
825
 
The ``BranchBuilder`` interface allows the creation of test branches in a
826
 
quick and easy manner. A sample session::
827
 
 
828
 
  builder = BranchBuilder(self.get_transport().clone('relpath'))
829
 
  builder.build_commit()
830
 
  builder.build_commit()
831
 
  builder.build_commit()
832
 
  branch = builder.get_branch()
833
 
 
834
 
Please see bzrlib.branchbuilder for more details.
835
 
 
836
 
Doctests
837
 
--------
838
 
 
839
 
We make selective use of doctests__.  In general they should provide 
840
 
*examples* within the API documentation which can incidentally be tested.  We 
841
 
don't try to test every important case using doctests -- regular Python
842
 
tests are generally a better solution.
843
 
 
844
 
Most of these are in ``bzrlib/doc/api``.  More additions are welcome.
845
 
 
846
 
  __ http://docs.python.org/lib/module-doctest.html
847
 
 
848
 
 
849
 
Running tests
850
 
=============
851
 
Currently, bzr selftest is used to invoke tests.
852
 
You can provide a pattern argument to run a subset. For example, 
853
 
to run just the blackbox tests, run::
854
 
 
855
 
  ./bzr selftest -v blackbox
856
 
 
857
 
To skip a particular test (or set of tests), use the --exclude option
858
 
(shorthand -x) like so::
859
 
 
860
 
  ./bzr selftest -v -x blackbox  
861
 
 
862
 
To list tests without running them, use the --list-only option like so::
863
 
 
864
 
  ./bzr selftest --list-only
865
 
 
866
 
This option can be combined with other selftest options (like -x) and
867
 
filter patterns to understand their effect.
868
 
 
869
 
 
870
 
Handling Errors and Exceptions
871
 
==============================
872
 
 
873
 
Commands should return non-zero when they encounter circumstances that
874
 
the user should really pay attention to - which includes trivial shell
875
 
pipelines.
876
 
 
877
 
Recommended values are:
878
 
 
879
 
    0. OK.
880
 
    1. Conflicts in merge-like operations, or changes are present in
881
 
       diff-like operations. 
882
 
    2. Unrepresentable diff changes (i.e. binary files that we cannot show 
883
 
       a diff of).
884
 
    3. An error or exception has occurred.
885
 
 
886
 
Errors are handled through Python exceptions. Exceptions should be defined
887
 
inside bzrlib.errors, so that we can see the whole tree at a glance.
888
 
 
889
 
We broadly classify errors as either being either internal or not,
890
 
depending on whether ``internal_error`` is set or not.  If we think it's our
891
 
fault, we show a backtrace, an invitation to report the bug, and possibly
892
 
other details.  This is the default for errors that aren't specifically
893
 
recognized as being caused by a user error.  Otherwise we show a briefer
894
 
message, unless -Derror was given.
895
 
 
896
 
Many errors originate as "environmental errors" which are raised by Python
897
 
or builtin libraries -- for example IOError.  These are treated as being
898
 
our fault, unless they're caught in a particular tight scope where we know
899
 
that they indicate a user errors.  For example if the repository format
900
 
is not found, the user probably gave the wrong path or URL.  But if one of
901
 
the files inside the repository is not found, then it's our fault --
902
 
either there's a bug in bzr, or something complicated has gone wrong in
903
 
the environment that means one internal file was deleted.
904
 
 
905
 
Many errors are defined in ``bzrlib/errors.py`` but it's OK for new errors
906
 
to be added near the place where they are used.
907
 
 
908
 
Exceptions are formatted for the user by conversion to a string
909
 
(eventually calling their ``__str__`` method.)  As a convenience the
910
 
``._fmt`` member can be used as a template which will be mapped to the
911
 
error's instance dict.
912
 
 
913
 
New exception classes should be defined when callers might want to catch
914
 
that exception specifically, or when it needs a substantially different
915
 
format string.
916
 
 
917
 
Exception strings should start with a capital letter and should not have a
918
 
final fullstop.  If long, they may contain newlines to break the text.
919
 
 
920
 
 
921
 
Documenting Changes
922
 
===================
923
 
 
924
 
When you change bzrlib, please update the relevant documentation for the
925
 
change you made: Changes to commands should update their help, and
926
 
possibly end user tutorials; changes to the core library should be
927
 
reflected in API documentation.
928
 
 
929
 
NEWS File
930
 
---------
931
 
 
932
 
If you make a user-visible change, please add a note to the NEWS file.
933
 
The description should be written to make sense to someone who's just
934
 
a user of bzr, not a developer: new functions or classes shouldn't be
935
 
mentioned, but new commands, changes in behaviour or fixed nontrivial
936
 
bugs should be listed.  See the existing entries for an idea of what
937
 
should be done.
938
 
 
939
 
Within each release, entries in the news file should have the most
940
 
user-visible changes first.  So the order should be approximately:
941
 
 
942
 
 * changes to existing behaviour - the highest priority because the 
943
 
   user's existing knowledge is incorrect
944
 
 * new features - should be brought to their attention
945
 
 * bug fixes - may be of interest if the bug was affecting them, and
946
 
   should include the bug number if any
947
 
 * major documentation changes
948
 
 * changes to internal interfaces
949
 
 
950
 
People who made significant contributions to each change are listed in
951
 
parenthesis.  This can include reporting bugs (particularly with good
952
 
details or reproduction recipes), submitting patches, etc.
953
 
 
954
 
Commands
955
 
--------
956
 
 
957
 
The docstring of a command is used by ``bzr help`` to generate help output
958
 
for the command. The list 'takes_options' attribute on a command is used by
959
 
``bzr help`` to document the options for the command - the command
960
 
docstring does not need to document them. Finally, the '_see_also'
961
 
attribute on a command can be used to reference other related help topics.
962
 
 
963
 
API Documentation
964
 
-----------------
965
 
 
966
 
Functions, methods, classes and modules should have docstrings
967
 
describing how they are used. 
968
 
 
969
 
The first line of the docstring should be a self-contained sentence.
970
 
 
971
 
For the special case of Command classes, this acts as the user-visible
972
 
documentation shown by the help command.
973
 
 
974
 
The docstrings should be formatted as reStructuredText_ (like this
975
 
document), suitable for processing using the epydoc_ tool into HTML
976
 
documentation.
977
 
 
978
 
.. _reStructuredText: http://docutils.sourceforge.net/rst.html
979
 
.. _epydoc: http://epydoc.sourceforge.net/
980
 
 
981
 
 
982
 
General Guidelines
983
 
==================
984
 
 
985
 
Copyright
986
 
---------
987
 
 
988
 
The copyright policy for bzr was recently made clear in this email (edited
989
 
for grammatical correctness)::
990
 
 
991
 
    The attached patch cleans up the copyright and license statements in
992
 
    the bzr source. It also adds tests to help us remember to add them
993
 
    with the correct text.
994
 
 
995
 
    We had the problem that lots of our files were "Copyright Canonical
996
 
    Development Ltd" which is not a real company, and some other variations
997
 
    on this theme. Also, some files were missing the GPL statements.
998
 
    
999
 
    I want to be clear about the intent of this patch, since copyright can
1000
 
    be a little controversial.
1001
 
    
1002
 
    1) The big motivation for this is not to shut out the community, but
1003
 
    just to clean up all of the invalid copyright statements.
1004
 
    
1005
 
    2) It has been the general policy for bzr that we want a single
1006
 
    copyright holder for all of the core code. This is following the model
1007
 
    set by the FSF, which makes it easier to update the code to a new
1008
 
    license in case problems are encountered. (For example, if we want to
1009
 
    upgrade the project universally to GPL v3 it is much simpler if there is
1010
 
    a single copyright holder). It also makes it clearer if copyright is
1011
 
    ever debated, there is a single holder, which makes it easier to defend
1012
 
    in court, etc. (I think the FSF position is that if you assign them
1013
 
    copyright, they can defend it in court rather than you needing to, and
1014
 
    I'm sure Canonical would do the same).
1015
 
    As such, Canonical has requested copyright assignments from all of the
1016
 
    major contributers.
1017
 
    
1018
 
    3) If someone wants to add code and not attribute it to Canonical, there
1019
 
    is a specific list of files that are excluded from this check. And the
1020
 
    test failure indicates where that is, and how to update it.
1021
 
    
1022
 
    4) If anyone feels that I changed a copyright statement incorrectly, just
1023
 
    let me know, and I'll be happy to correct it. Whenever you have large
1024
 
    mechanical changes like this, it is possible to make some mistakes.
1025
 
    
1026
 
    Just to reiterate, this is a community project, and it is meant to stay
1027
 
    that way. Core bzr code is copyright Canonical for legal reasons, and
1028
 
    the tests are just there to help us maintain that.
1029
 
 
1030
 
 
1031
 
Miscellaneous Topics
1032
 
####################
1033
 
 
1034
 
Debugging
1035
 
=========
1036
 
 
1037
 
Bazaar has a few facilities to help debug problems by going into pdb_, the
1038
 
Python debugger.
1039
 
 
1040
 
.. _pdb: http://docs.python.org/lib/debugger-commands.html
1041
 
 
1042
 
If the ``BZR_PDB`` environment variable is set 
1043
 
then bzr will go into pdb post-mortem mode when an unhandled exception
1044
 
occurs.
1045
 
 
1046
 
If you send a SIGQUIT signal to bzr, which can be done by pressing
1047
 
Ctrl-\\ on Unix, bzr will go into the debugger immediately.  You can
1048
 
continue execution by typing ``c``.  This can be disabled if necessary
1049
 
by setting the environment variable ``BZR_SIGQUIT_PDB=0``.
1050
 
 
1051
 
 
1052
 
Jargon
1053
 
======
1054
 
 
1055
 
revno
1056
 
    Integer identifier for a revision on the main line of a branch.
1057
 
    Revision 0 is always the null revision; others are 1-based
1058
 
    indexes into the branch's revision history.
1059
 
 
1060
 
 
1061
 
Unicode and Encoding Support
1062
 
============================
1063
 
 
1064
 
This section discusses various techniques that Bazaar uses to handle
1065
 
characters that are outside the ASCII set.
1066
 
 
1067
 
``Command.outf``
1068
 
----------------
1069
 
 
1070
 
When a ``Command`` object is created, it is given a member variable
1071
 
accessible by ``self.outf``.  This is a file-like object, which is bound to
1072
 
``sys.stdout``, and should be used to write information to the screen,
1073
 
rather than directly writing to ``sys.stdout`` or calling ``print``.
1074
 
This file has the ability to translate Unicode objects into the correct
1075
 
representation, based on the console encoding.  Also, the class attribute
1076
 
``encoding_type`` will effect how unprintable characters will be
1077
 
handled.  This parameter can take one of 3 values:
1078
 
 
1079
 
  replace
1080
 
    Unprintable characters will be represented with a suitable replacement
1081
 
    marker (typically '?'), and no exception will be raised. This is for
1082
 
    any command which generates text for the user to review, rather than
1083
 
    for automated processing.
1084
 
    For example: ``bzr log`` should not fail if one of the entries has text
1085
 
    that cannot be displayed.
1086
 
  
1087
 
  strict
1088
 
    Attempting to print an unprintable character will cause a UnicodeError.
1089
 
    This is for commands that are intended more as scripting support, rather
1090
 
    than plain user review.
1091
 
    For exampl: ``bzr ls`` is designed to be used with shell scripting. One
1092
 
    use would be ``bzr ls --null --unknows | xargs -0 rm``.  If ``bzr``
1093
 
    printed a filename with a '?', the wrong file could be deleted. (At the
1094
 
    very least, the correct file would not be deleted). An error is used to
1095
 
    indicate that the requested action could not be performed.
1096
 
  
1097
 
  exact
1098
 
    Do not attempt to automatically convert Unicode strings. This is used
1099
 
    for commands that must handle conversion themselves.
1100
 
    For example: ``bzr diff`` needs to translate Unicode paths, but should
1101
 
    not change the exact text of the contents of the files.
1102
 
 
1103
 
 
1104
 
``bzrlib.urlutils.unescape_for_display``
1105
 
----------------------------------------
1106
 
 
1107
 
Because Transports work in URLs (as defined earlier), printing the raw URL
1108
 
to the user is usually less than optimal. Characters outside the standard
1109
 
set are printed as escapes, rather than the real character, and local
1110
 
paths would be printed as ``file://`` urls. The function
1111
 
``unescape_for_display`` attempts to unescape a URL, such that anything
1112
 
that cannot be printed in the current encoding stays an escaped URL, but
1113
 
valid characters are generated where possible.
1114
 
 
1115
 
 
1116
 
Portability Tips
1117
 
================
1118
 
 
1119
 
The ``bzrlib.osutils`` module has many useful helper functions, including
1120
 
some more portable variants of functions in the standard library.
1121
 
 
1122
 
In particular, don't use ``shutil.rmtree`` unless it's acceptable for it
1123
 
to fail on Windows if some files are readonly or still open elsewhere.
1124
 
Use ``bzrlib.osutils.rmtree`` instead.
1125
 
 
1126
 
 
1127
 
C Extension Modules
1128
 
===================
1129
 
 
1130
 
We write some extensions in C using pyrex. We design these to work in
1131
 
three scenarios:
1132
 
 
1133
 
 * User with no C compiler
1134
 
 * User with C compiler
1135
 
 * Developers
1136
 
 
1137
 
The recommended way to install bzr is to have a C compiler so that the
1138
 
extensions can be built, but if no C compiler is present, the pure python
1139
 
versions we supply will work, though more slowly.
1140
 
 
1141
 
For developers we recommend that pyrex be installed, so that the C
1142
 
extensions can be changed if needed.
1143
 
 
1144
 
For the C extensions, the extension module should always match the
1145
 
original python one in all respects (modulo speed). This should be
1146
 
maintained over time.
1147
 
 
1148
 
To create an extension, add rules to setup.py for building it with pyrex,
1149
 
and with distutils. Now start with an empty .pyx file. At the top add
1150
 
"include 'yourmodule.py'". This will import the contents of foo.py into this 
1151
 
file at build time - remember that only one module will be loaded at
1152
 
runtime. Now you can subclass classes, or replace functions, and only your
1153
 
changes need to be present in the .pyx file.
1154
 
 
1155
 
Note that pyrex does not support all 2.4 programming idioms, so some
1156
 
syntax changes may be required. I.e. 
1157
 
 
1158
 
 - 'from foo import (bar, gam)' needs to change to not use the brackets. 
1159
 
 - 'import foo.bar as bar' needs to be 'import foo.bar; bar = foo.bar' 
1160
 
 
1161
 
If the changes are too dramatic, consider
1162
 
maintaining the python code twice - once in the .pyx, and once in the .py,
1163
 
and no longer including the .py file.
1164
 
 
1165
 
 
1166
 
Making Installers for OS Windows
1167
 
================================
1168
 
To build a win32 installer, see the instructions on the wiki page:
1169
 
http://bazaar-vcs.org/BzrWin32Installer
1170
 
 
1171
 
 
1172
 
..
1173
 
   vim: ft=rst tw=74 ai