/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to doc/developers/HACKING.txt

  • Committer: Aaron Bentley
  • Date: 2008-04-15 04:29:44 UTC
  • mto: This revision was merged to the branch mainline in revision 3371.
  • Revision ID: aaron@aaronbentley.com-20080415042944-2o3o664x26507hej
PEP8 fix

Show diffs side-by-side

added added

removed removed

Lines of Context:
2
2
Bazaar Developer Guide
3
3
======================
4
4
 
5
 
This document describes the Bazaar internals and the development process.
 
5
This document describes the Bazaar internals and the development process.  
6
6
It's meant for people interested in developing Bazaar, and some parts will
7
7
also be useful to people developing Bazaar plugins.
8
8
 
11
11
the Bazaar mailing list.  To propose a correction or addition to this
12
12
document, send a merge request or new text to the mailing list.
13
13
 
14
 
The latest developer documentation can be found online at
15
 
http://doc.bazaar-vcs.org/developers/.
 
14
The current version of this document is available in the file 
 
15
``doc/developers/HACKING.txt`` in the source tree, or at
 
16
http://doc.bazaar-vcs.org/bzr.dev/en/developer-guide/HACKING.html
 
17
 
 
18
.. contents::
16
19
 
17
20
 
18
21
Getting Started
40
43
If nothing else, perhaps you'll find inspiration in how other developers
41
44
have solved their challenges.
42
45
 
43
 
Finding Something To Do
44
 
=======================
45
 
 
46
 
Ad-hoc performance work can also be done. One useful tool is the 'evil' debug
47
 
flag. For instance running ``bzr -Devil commit -m "test"`` will log a backtrace
48
 
to the bzr log file for every method call which triggers a slow or non-scalable
49
 
part of the bzr library. So checking that a given command with ``-Devil`` has
50
 
no backtraces logged to the log file is a good way to find problem function
51
 
calls that might be nested deep in the code base.
52
46
 
53
47
Planning and Discussing Changes
54
48
===============================
62
56
to involving the community before you spend much time on a change.
63
57
These include:
64
58
 
65
 
* you get to build on the wisdom of others, saving time
 
59
* you get to build on the wisdom on others, saving time
66
60
 
67
 
* if others can direct you to similar code, it minimises the work to be done
 
61
* if others can direct you to similar code, it minimises the work to be done 
68
62
 
69
63
* it assists everyone in coordinating direction, priorities and effort.
70
64
 
76
70
Bazaar Development in a Nutshell
77
71
================================
78
72
 
79
 
.. was from bazaar-vcs.org/BzrGivingBack
80
 
 
81
 
One of the fun things about working on a version control system like Bazaar is
82
 
that the users have a high level of proficiency in contributing back into
83
 
the tool.  Consider the following very brief introduction to contributing back
84
 
to Bazaar.  More detailed instructions are in the following sections.
85
 
 
86
 
Making the change
87
 
-----------------
88
 
 
89
 
First, get a local copy of the development mainline (See `Why make a local
90
 
copy of bzr.dev?`_.)
91
 
::
92
 
 
93
 
 $ bzr init-repo ~/bzr
94
 
 $ cd ~/bzr
95
 
 $ bzr branch http://bazaar-vcs.org/bzr/bzr.dev/ bzr.dev
96
 
 
97
 
Now make your own branch::
98
 
 
99
 
 $ bzr branch bzr.dev 123456-my-bugfix
100
 
 
101
 
This will give you a branch called "123456-my-bugfix" that you can work on
102
 
and commit in. Here, you can study the code, make a fix or a new feature.
103
 
Feel free to commit early and often (after all, it's your branch!).
104
 
 
105
 
Documentation improvements are an easy place to get started giving back to the
106
 
Bazaar project.  The documentation is in the `doc/` subdirectory of the Bazaar
107
 
source tree.
108
 
 
109
 
When you are done, make sure that you commit your last set of changes as well!
110
 
Once you are happy with your changes, ask for them to be merged, as described
111
 
below.
112
 
 
113
 
Making a Merge Proposal
114
 
-----------------------
115
 
 
116
 
The Bazaar developers use Launchpad to further enable a truly distributed
117
 
style of development.  Anyone can propose a branch for merging into the Bazaar
118
 
trunk.  To start this process, you need to push your branch to Launchpad.  To
119
 
do this, you will need a Launchpad account and user name, e.g.
120
 
`your_lp_username`.  You can push your branch to Launchpad directly from
121
 
Bazaar::
122
 
 
123
 
  $ bzr push lp:~your_lp_username/bzr/meaningful_name_here
124
 
 
125
 
After you have pushed your branch, you will need to propose it for merging to
126
 
the Bazaar trunk.  Go to
127
 
<https://launchpad.net/your_lp_username/bzr/meaningful_name_here> and choose
128
 
"Propose for merging into another branch".  Select "~bzr/bzr/trunk" to hand
129
 
your changes off to the Bazaar developers for review and merging.
130
 
 
131
 
Using a meaningful name for your branch will help you and the reviewer(s)
132
 
better track the submission. Use a very succint description of your submission
133
 
and prefix it with bug number if needed (lp:~mbp/bzr/484558-merge-directory
134
 
for example). Alternatively, you can suffix with the bug number
135
 
(lp:~jameinel/bzr/export-file-511987).
136
 
 
137
 
 
138
 
Why make a local copy of bzr.dev?
139
 
---------------------------------
140
 
 
141
 
Making a local mirror of bzr.dev is not strictly necessary, but it means
142
 
 
143
 
- You can use that copy of bzr.dev as your main bzr executable, and keep it
144
 
  up-to-date using ``bzr pull``.
145
 
- Certain operations are faster, and can be done when offline.  For example:
146
 
 
147
 
  - ``bzr bundle``
148
 
  - ``bzr diff -r ancestor:...``
149
 
  - ``bzr merge``
150
 
 
151
 
- When it's time to create your next branch, it's more convenient.  When you
152
 
  have further contributions to make, you should do them in their own branch::
153
 
 
154
 
    $ cd ~/bzr
155
 
    $ bzr branch bzr.dev additional_fixes
156
 
    $ cd additional_fixes # hack, hack, hack
157
 
 
 
73
Looking for a 10 minute introduction to submitting a change?
 
74
See http://bazaar-vcs.org/BzrGivingBack.
 
75
 
 
76
TODO: Merge that Wiki page into this document.
158
77
 
159
78
 
160
79
Understanding the Development Process
161
80
=====================================
162
81
 
163
 
The development team follows many practices including:
 
82
The development team follows many best-practices including:
164
83
 
165
84
* a public roadmap and planning process in which anyone can participate
166
85
 
186
105
For further information, see http://bazaar-vcs.org/BzrDevelopment.
187
106
 
188
107
 
189
 
 
190
 
 
191
 
Preparing a Sandbox for Making Changes to Bazaar
192
 
================================================
193
 
 
194
 
Bazaar supports many ways of organising your work. See
195
 
http://bazaar-vcs.org/SharedRepositoryLayouts for a summary of the
196
 
popular alternatives.
197
 
 
198
 
Of course, the best choice for you will depend on numerous factors:
199
 
the number of changes you may be making, the complexity of the changes, etc.
200
 
As a starting suggestion though:
201
 
 
202
 
* create a local copy of the main development branch (bzr.dev) by using
203
 
  this command::
204
 
 
205
 
    bzr branch http://bazaar-vcs.org/bzr/bzr.dev/ bzr.dev
206
 
 
207
 
* keep your copy of bzr.dev pristine (by not developing in it) and keep
208
 
  it up to date (by using bzr pull)
209
 
 
210
 
* create a new branch off your local bzr.dev copy for each issue
211
 
  (bug or feature) you are working on.
212
 
 
213
 
This approach makes it easy to go back and make any required changes
214
 
after a code review. Resubmitting the change is then simple with no
215
 
risk of accidentally including edits related to other issues you may
216
 
be working on. After the changes for an issue are accepted and merged,
217
 
the associated branch can be deleted or archived as you wish.
218
 
 
219
 
 
220
 
Navigating the Code Base
221
 
========================
222
 
 
223
 
.. Was at <http://bazaar-vcs.org/NewDeveloperIntroduction>
224
 
 
225
 
Some of the key files in this directory are:
226
 
 
227
 
bzr
228
 
    The command you run to start Bazaar itself.  This script is pretty
229
 
    short and just does some checks then jumps into bzrlib.
230
 
 
231
 
README
232
 
    This file covers a brief introduction to Bazaar and lists some of its
233
 
    key features.
234
 
 
235
 
NEWS
236
 
    Summary of changes in each Bazaar release that can affect users or
237
 
    plugin developers.
238
 
 
239
 
setup.py
240
 
    Installs Bazaar system-wide or to your home directory.  To perform
241
 
    development work on Bazaar it is not required to run this file - you
242
 
    can simply run the bzr command from the top level directory of your
243
 
    development copy. Note: That if you run setup.py this will create a
244
 
    'build' directory in your development branch. There's nothing wrong
245
 
    with this but don't be confused by it. The build process puts a copy
246
 
    of the main code base into this build directory, along with some other
247
 
    files. You don't need to go in here for anything discussed in this
248
 
    guide.
249
 
 
250
 
bzrlib
251
 
    Possibly the most exciting folder of all, bzrlib holds the main code
252
 
    base. This is where you will go to edit python files and contribute to
253
 
    Bazaar.
254
 
 
255
 
doc
256
 
    Holds documentation on a whole range of things on Bazaar from the
257
 
    origination of ideas within the project to information on Bazaar
258
 
    features and use cases.  Within this directory there is a subdirectory
259
 
    for each translation into a human language.  All the documentation
260
 
    is in the ReStructuredText markup language.
261
 
 
262
 
doc/developers
263
 
    Documentation specifically targeted at Bazaar and plugin developers.
264
 
    (Including this document.)
265
 
 
266
 
 
267
 
 
268
 
Automatically-generated API reference information is available at
269
 
<http://starship.python.net/crew/mwh/bzrlibapi/>.
270
 
 
271
 
See also the `Bazaar Architectural Overview
272
 
<http://doc.bazaar-vcs.org/developers/overview.html>`_.
273
 
 
274
 
 
275
 
The Code Review Process
276
 
#######################
277
 
 
278
 
All code changes coming in to Bazaar are reviewed by someone else.
279
 
Normally changes by core contributors are reviewed by one other core
280
 
developer, and changes from other people are reviewed by two core
281
 
developers.  Use intelligent discretion if the patch is trivial.
282
 
 
283
 
Good reviews do take time. They also regularly require a solid
284
 
understanding of the overall code base. In practice, this means a small
285
 
number of people often have a large review burden - with knowledge comes
286
 
responsibility. No one likes their merge requests sitting in a queue going
287
 
nowhere, so reviewing sooner rather than later is strongly encouraged.
288
 
 
289
 
 
290
 
 
291
 
 
292
 
 
293
 
Review cover letters
294
 
====================
295
 
 
296
 
Please put a "cover letter" on your merge request explaining:
297
 
 
298
 
* the reason **why** you're making this change
299
 
 
300
 
* **how** this change achieves this purpose
301
 
 
302
 
* anything else you may have fixed in passing
303
 
 
304
 
* anything significant that you thought of doing, such as a more
305
 
  extensive fix or a different approach, but didn't or couldn't do now
306
 
 
307
 
A good cover letter makes reviewers' lives easier because they can decide
308
 
from the letter whether they agree with the purpose and approach, and then
309
 
assess whether the patch actually does what the cover letter says.
310
 
Explaining any "drive-by fixes" or roads not taken may also avoid queries
311
 
from the reviewer.  All in all this should give faster and better reviews.
312
 
Sometimes writing the cover letter helps the submitter realize something
313
 
else they need to do.  The size of the cover letter should be proportional
314
 
to the size and complexity of the patch.
315
 
 
316
 
 
317
 
Reviewing proposed changes
318
 
==========================
319
 
 
320
 
Anyone is welcome to review code, and reply to the thread with their
321
 
opinion or comments.
322
 
 
323
 
The simplest way to review a proposed change is to just read the patch on
324
 
the list or in Bundle Buggy.  For more complex changes it may be useful
325
 
to make a new working tree or branch from trunk, and merge the proposed
326
 
change into it, so you can experiment with the code or look at a wider
327
 
context.
328
 
 
329
 
There are three main requirements for code to get in:
330
 
 
331
 
* Doesn't reduce test coverage: if it adds new methods or commands,
332
 
  there should be tests for them.  There is a good test framework
333
 
  and plenty of examples to crib from, but if you are having trouble
334
 
  working out how to test something feel free to post a draft patch
335
 
  and ask for help.
336
 
 
337
 
* Doesn't reduce design clarity, such as by entangling objects
338
 
  we're trying to separate.  This is mostly something the more
339
 
  experienced reviewers need to help check.
340
 
 
341
 
* Improves bugs, features, speed, or code simplicity.
342
 
 
343
 
Code that goes in should not degrade any of these aspects.  Patches are
344
 
welcome that only cleanup the code without changing the external
345
 
behaviour.  The core developers take care to keep the code quality high
346
 
and understandable while recognising that perfect is sometimes the enemy
347
 
of good.
348
 
 
349
 
It is easy for reviews to make people notice other things which should be
350
 
fixed but those things should not hold up the original fix being accepted.
351
 
New things can easily be recorded in the Bug Tracker instead.
352
 
 
353
 
It's normally much easier to review several smaller patches than one large
354
 
one.  You might want to use ``bzr-loom`` to maintain threads of related
355
 
work, or submit a preparatory patch that will make your "real" change
356
 
easier.
357
 
 
358
 
 
359
 
Checklist for reviewers
360
 
=======================
361
 
 
362
 
* Do you understand what the code's doing and why?
363
 
 
364
 
* Will it perform reasonably for large inputs, both in memory size and
365
 
  run time?  Are there some scenarios where performance should be
366
 
  measured?
367
 
 
368
 
* Is it tested, and are the tests at the right level?  Are there both
369
 
  blackbox (command-line level) and API-oriented tests?
370
 
 
371
 
* If this change will be visible to end users or API users, is it
372
 
  appropriately documented in NEWS?
373
 
 
374
 
* Does it meet the coding standards below?
375
 
 
376
 
* If it changes the user-visible behaviour, does it update the help
377
 
  strings and user documentation?
378
 
 
379
 
* If it adds a new major concept or standard practice, does it update the
380
 
  developer documentation?
381
 
 
382
 
* (your ideas here...)
383
 
 
384
 
 
385
 
Reviews on Launchpad
386
 
====================
387
 
 
388
 
From May 2009 on, we prefer people to propose code reviews through
389
 
Launchpad.
390
 
 
391
 
 * <https://launchpad.net/+tour/code-review>
392
 
 
393
 
 * <https://help.launchpad.net/Code/Review>
394
 
 
395
 
Anyone can propose or comment on a merge proposal just by creating a
396
 
Launchpad account.
397
 
 
398
 
There are two ways to create a new merge proposal: through the web
399
 
interface or by email.
400
 
 
401
 
 
402
 
Proposing a merge through the web
403
 
---------------------------------
404
 
 
405
 
To create the proposal through the web, first push your branch to Launchpad.
406
 
For example, a branch dealing with documentation belonging to the Launchpad
407
 
User mbp could be pushed as ::
408
 
 
409
 
  bzr push lp:~mbp/bzr/doc
410
 
 
411
 
Then go to the branch's web page, which in this case would be
412
 
<https://code.launchpad.net/~mbp/bzr/doc>.  You can simplify this step by just
413
 
running ::
414
 
 
415
 
  bzr lp-open
416
 
 
417
 
You can then click "Propose for merging into another branch", and enter your
418
 
cover letter (see above) into the web form.  Typically you'll want to merge
419
 
into ``~bzr/bzr/trunk`` which will be the default; you might also want to
420
 
nominate merging into a release branch for a bug fix.  There is the option to
421
 
specify a specific reviewer or type of review, and you shouldn't normally
422
 
change those.
423
 
 
424
 
Submitting the form takes you to the new page about the merge proposal
425
 
containing the diff of the changes, comments by interested people, and
426
 
controls to comment or vote on the change.
427
 
 
428
 
Proposing a merge by mail
429
 
-------------------------
430
 
 
431
 
To propose a merge by mail, send a bundle to ``merge@code.launchpad.net``.
432
 
 
433
 
You can generate a merge request like this::
434
 
 
435
 
  bzr send -o bug-1234.diff
436
 
 
437
 
``bzr send`` can also send mail directly if you prefer; see the help.
438
 
 
439
 
Reviewing changes
440
 
-----------------
441
 
 
442
 
From <https://code.launchpad.net/bzr/+activereviews> you can see all
443
 
currently active reviews, and choose one to comment on.  This page also
444
 
shows proposals that are now approved and should be merged by someone with
445
 
PQM access.
446
 
 
447
 
 
448
 
Reviews through Bundle Buggy
449
 
============================
450
 
 
451
 
The Bundle Buggy tool used up to May 2009 is still available as a review
452
 
mechanism.
453
 
 
454
 
Sending patches for review
455
 
--------------------------
 
108
A Closer Look at the Merge & Review Process
 
109
===========================================
456
110
 
457
111
If you'd like to propose a change, please post to the
458
112
bazaar@lists.canonical.com list with a bundle, patch, or link to a
459
 
branch. Put ``[PATCH]`` or ``[MERGE]`` in the subject so Bundle Buggy
 
113
branch. Put '[PATCH]' or '[MERGE]' in the subject so Bundle Buggy
460
114
can pick it out, and explain the change in the email message text.
461
115
Remember to update the NEWS file as part of your change if it makes any
462
116
changes visible to users or plugin developers. Please include a diff
463
117
against mainline if you're giving a link to a branch.
464
118
 
465
 
You can generate a merge request like this::
466
 
 
467
 
  bzr send -o bug-1234.patch
468
 
 
469
 
A ``.patch`` extension is recommended instead of .bundle as many mail clients
470
 
will send the latter as a binary file.
471
 
 
472
 
``bzr send`` can also send mail directly if you prefer; see the help.
 
119
You can generate a bundle like this::
 
120
 
 
121
  bzr bundle > mybundle.patch
 
122
  
 
123
A .patch extension is recommended instead of .bundle as many mail clients
 
124
will send the latter as a binary file. If a bundle would be too long or your
 
125
mailer mangles whitespace (e.g. implicitly converts Unix newlines to DOS
 
126
newlines), use the merge-directive command instead like this::
 
127
 
 
128
  bzr merge-directive http://bazaar-vcs.org http://example.org/my_branch > my_directive.patch
 
129
 
 
130
See the help for details on the arguments to merge-directive.
473
131
 
474
132
Please do **NOT** put [PATCH] or [MERGE] in the subject line if you don't
475
133
want it to be merged. If you want comments from developers rather than
476
 
to be merged, you can put ``[RFC]`` in the subject line.
477
 
 
478
 
If this change addresses a bug, please put the bug number in the subject
479
 
line too, in the form ``[#1]`` so that Bundle Buggy can recognize it.
480
 
 
481
 
If the change is intended for a particular release mark that in the
482
 
subject too, e.g. ``[1.6]``.
483
 
Anyone can "vote" on the mailing list by expressing an opinion. Core
484
 
developers can also vote using Bundle Buggy. Here are the voting codes and
485
 
their explanations.
 
134
to be merged, you can put '[RFC]' in the subject line.
 
135
 
 
136
Anyone is welcome to review code.  There are broadly three gates for
 
137
code to get in:
 
138
 
 
139
 * Doesn't reduce test coverage: if it adds new methods or commands,
 
140
   there should be tests for them.  There is a good test framework
 
141
   and plenty of examples to crib from, but if you are having trouble
 
142
   working out how to test something feel free to post a draft patch
 
143
   and ask for help.
 
144
 
 
145
 * Doesn't reduce design clarity, such as by entangling objects
 
146
   we're trying to separate.  This is mostly something the more
 
147
   experienced reviewers need to help check.
 
148
 
 
149
 * Improves bugs, features, speed, or code simplicity.
 
150
 
 
151
Code that goes in should pass all three. The core developers take care
 
152
to keep the code quality high and understandable while recognising that
 
153
perfect is sometimes the enemy of good. (It is easy for reviews to make
 
154
people notice other things which should be fixed but those things should
 
155
not hold up the original fix being accepted. New things can easily be
 
156
recorded in the Bug Tracker instead.)
 
157
 
 
158
Anyone can "vote" on the mailing list. Core developers can also vote using
 
159
Bundle Buggy. Here are the voting codes and their explanations.
486
160
 
487
161
:approve:  Reviewer wants this submission merged.
488
162
:tweak:    Reviewer wants this submission merged with small changes. (No
505
179
outstanding merge requests together with an explanation of the columns.
506
180
Bundle Buggy will also mail you a link to track just your change.
507
181
 
 
182
 
 
183
Preparing a Sandbox for Making Changes to Bazaar
 
184
================================================
 
185
 
 
186
Bazaar supports many ways of organising your work. See
 
187
http://bazaar-vcs.org/SharedRepositoryLayouts for a summary of the
 
188
popular alternatives.
 
189
 
 
190
Of course, the best choice for you will depend on numerous factors:
 
191
the number of changes you may be making, the complexity of the changes, etc.
 
192
As a starting suggestion though:
 
193
 
 
194
* create a local copy of the main development branch (bzr.dev) by using
 
195
  this command::
 
196
  
 
197
    bzr branch http://bazaar-vcs.org/bzr/bzr.dev/ bzr.dev
 
198
   
 
199
* keep your copy of bzr.dev prestine (by not developing in it) and keep
 
200
  it up to date (by using bzr pull)
 
201
 
 
202
* create a new branch off your local bzr.dev copy for each issue
 
203
  (bug or feature) you are working on.
 
204
 
 
205
This approach makes it easy to go back and make any required changes
 
206
after a code review. Resubmitting the change is then simple with no
 
207
risk of accidentially including edits related to other issues you may
 
208
be working on. After the changes for an issue are accepted and merged,
 
209
the associated branch can be deleted or archived as you wish.
 
210
 
 
211
 
 
212
Navigating the Code Base
 
213
========================
 
214
 
 
215
TODO: List and describe in one line the purpose of each directory
 
216
inside an installation of bzr.
 
217
 
 
218
TODO: Refer to a central location holding an up to date copy of the API
 
219
documentation generated by epydoc, e.g. something like
 
220
http://starship.python.net/crew/mwh/bzrlibapi/bzrlib.html.
 
221
 
 
222
 
 
223
Testing Bazaar
 
224
##############
 
225
 
 
226
The Importance of Testing
 
227
=========================
 
228
 
 
229
Reliability is a critical success factor for any Version Control System.
 
230
We want Bazaar to be highly reliable across multiple platforms while
 
231
evolving over time to meet the needs of its community. 
 
232
 
 
233
In a nutshell, this is want we expect and encourage:
 
234
 
 
235
* New functionality should have test cases.  Preferably write the
 
236
  test before writing the code.
 
237
 
 
238
  In general, you can test at either the command-line level or the
 
239
  internal API level.  See Writing tests below for more detail.
 
240
 
 
241
* Try to practice Test-Driven Development: before fixing a bug, write a
 
242
  test case so that it does not regress.  Similarly for adding a new
 
243
  feature: write a test case for a small version of the new feature before
 
244
  starting on the code itself.  Check the test fails on the old code, then
 
245
  add the feature or fix and check it passes.
 
246
 
 
247
By doing these things, the Bazaar team gets increased confidence that
 
248
changes do what they claim to do, whether provided by the core team or
 
249
by community members. Equally importantly, we can be surer that changes
 
250
down the track do not break new features or bug fixes that you are
 
251
contributing today.
 
252
 
 
253
As of May 2007, Bazaar ships with a test suite containing over 6000 tests
 
254
and growing. We are proud of it and want to remain so. As community
 
255
members, we all benefit from it. Would you trust version control on
 
256
your project to a product *without* a test suite like Bazaar has?
 
257
 
 
258
 
 
259
Running the Test Suite
 
260
======================
 
261
 
 
262
Currently, bzr selftest is used to invoke tests.
 
263
You can provide a pattern argument to run a subset. For example, 
 
264
to run just the blackbox tests, run::
 
265
 
 
266
  ./bzr selftest -v blackbox
 
267
 
 
268
To skip a particular test (or set of tests), use the --exclude option
 
269
(shorthand -x) like so::
 
270
 
 
271
  ./bzr selftest -v -x blackbox  
 
272
 
 
273
To ensure that all tests are being run and succeeding, you can use the
 
274
--strict option which will fail if there are any missing features or known
 
275
failures, like so::
 
276
 
 
277
  ./bzr selftest --strict
 
278
 
 
279
To list tests without running them, use the --list-only option like so::
 
280
 
 
281
  ./bzr selftest --list-only
 
282
 
 
283
This option can be combined with other selftest options (like -x) and
 
284
filter patterns to understand their effect.
 
285
 
 
286
 
 
287
Writing Tests
 
288
=============
 
289
 
 
290
In general tests should be placed in a file named test_FOO.py where 
 
291
FOO is the logical thing under test. That file should be placed in the
 
292
tests subdirectory under the package being tested.
 
293
 
 
294
For example, tests for merge3 in bzrlib belong in bzrlib/tests/test_merge3.py.
 
295
See bzrlib/tests/test_sampler.py for a template test script.
 
296
 
 
297
Tests can be written for the UI or for individual areas of the library.
 
298
Choose whichever is appropriate: if adding a new command, or a new command 
 
299
option, then you should be writing a UI test.  If you are both adding UI
 
300
functionality and library functionality, you will want to write tests for 
 
301
both the UI and the core behaviours.  We call UI tests 'blackbox' tests
 
302
and they are found in ``bzrlib/tests/blackbox/*.py``. 
 
303
 
 
304
When writing blackbox tests please honour the following conventions:
 
305
 
 
306
 1. Place the tests for the command 'name' in
 
307
    bzrlib/tests/blackbox/test_name.py. This makes it easy for developers
 
308
    to locate the test script for a faulty command.
 
309
 
 
310
 2. Use the 'self.run_bzr("name")' utility function to invoke the command
 
311
    rather than running bzr in a subprocess or invoking the
 
312
    cmd_object.run() method directly. This is a lot faster than
 
313
    subprocesses and generates the same logging output as running it in a
 
314
    subprocess (which invoking the method directly does not).
 
315
 
 
316
 3. Only test the one command in a single test script. Use the bzrlib 
 
317
    library when setting up tests and when evaluating the side-effects of
 
318
    the command. We do this so that the library api has continual pressure
 
319
    on it to be as functional as the command line in a simple manner, and
 
320
    to isolate knock-on effects throughout the blackbox test suite when a
 
321
    command changes its name or signature. Ideally only the tests for a
 
322
    given command are affected when a given command is changed.
 
323
 
 
324
 4. If you have a test which does actually require running bzr in a
 
325
    subprocess you can use ``run_bzr_subprocess``. By default the spawned
 
326
    process will not load plugins unless ``--allow-plugins`` is supplied.
 
327
 
 
328
 
 
329
Doctests
 
330
--------
 
331
 
 
332
We make selective use of doctests__.  In general they should provide 
 
333
*examples* within the API documentation which can incidentally be tested.  We 
 
334
don't try to test every important case using doctests -- regular Python
 
335
tests are generally a better solution.
 
336
 
 
337
Most of these are in ``bzrlib/doc/api``.  More additions are welcome.
 
338
 
 
339
  __ http://docs.python.org/lib/module-doctest.html
 
340
 
 
341
 
 
342
Skipping tests and test requirements
 
343
------------------------------------
 
344
 
 
345
In our enhancements to unittest we allow for some addition results beyond
 
346
just success or failure.
 
347
 
 
348
If a test can't be run, it can say that it's skipped.  This is typically
 
349
used in parameterized tests - for example if a transport doesn't support
 
350
setting permissions, we'll skip the tests that relating to that.  ::
 
351
 
 
352
    try:
 
353
        return self.branch_format.initialize(repo.bzrdir)
 
354
    except errors.UninitializableFormat:
 
355
        raise tests.TestSkipped('Uninitializable branch format')
 
356
 
 
357
Raising TestSkipped is a good idea when you want to make it clear that the
 
358
test was not run, rather than just returning which makes it look as if it
 
359
was run and passed.
 
360
 
 
361
Several different cases are distinguished:
 
362
 
 
363
TestSkipped
 
364
        Generic skip; the only type that was present up to bzr 0.18.
 
365
 
 
366
TestNotApplicable
 
367
        The test doesn't apply to the parameters with which it was run.
 
368
        This is typically used when the test is being applied to all
 
369
        implementations of an interface, but some aspects of the interface
 
370
        are optional and not present in particular concrete
 
371
        implementations.  (Some tests that should raise this currently
 
372
        either silently return or raise TestSkipped.)  Another option is
 
373
        to use more precise parameterization to avoid generating the test
 
374
        at all.
 
375
 
 
376
TestPlatformLimit
 
377
        **(Not implemented yet)**
 
378
        The test can't be run because of an inherent limitation of the
 
379
        environment, such as not having symlinks or not supporting
 
380
        unicode.
 
381
 
 
382
UnavailableFeature
 
383
        The test can't be run because a dependency (typically a Python
 
384
        library) is not available in the test environment.  These
 
385
        are in general things that the person running the test could fix 
 
386
        by installing the library.  It's OK if some of these occur when 
 
387
        an end user runs the tests or if we're specifically testing in a
 
388
        limited environment, but a full test should never see them.
 
389
 
 
390
KnownFailure
 
391
        The test exists but is known to fail, for example because the 
 
392
        code to fix it hasn't been run yet.  Raising this allows 
 
393
        you to distinguish these failures from the ones that are not 
 
394
        expected to fail.  This could be conditionally raised if something
 
395
        is broken on some platforms but not on others.
 
396
 
 
397
We plan to support three modes for running the test suite to control the
 
398
interpretation of these results.  Strict mode is for use in situations
 
399
like merges to the mainline and releases where we want to make sure that
 
400
everything that can be tested has been tested.  Lax mode is for use by
 
401
developers who want to temporarily tolerate some known failures.  The
 
402
default behaviour is obtained by ``bzr selftest`` with no options, and
 
403
also (if possible) by running under another unittest harness.
 
404
 
 
405
======================= ======= ======= ========
 
406
result                  strict  default lax
 
407
======================= ======= ======= ========
 
408
TestSkipped             pass    pass    pass
 
409
TestNotApplicable       pass    pass    pass
 
410
TestPlatformLimit       pass    pass    pass
 
411
TestDependencyMissing   fail    pass    pass
 
412
KnownFailure            fail    pass    pass
 
413
======================= ======= ======= ========
 
414
     
 
415
 
 
416
Test feature dependencies
 
417
-------------------------
 
418
 
 
419
Rather than manually checking the environment in each test, a test class
 
420
can declare its dependence on some test features.  The feature objects are
 
421
checked only once for each run of the whole test suite.
 
422
 
 
423
For historical reasons, as of May 2007 many cases that should depend on
 
424
features currently raise TestSkipped.)
 
425
 
 
426
::
 
427
 
 
428
    class TestStrace(TestCaseWithTransport):
 
429
 
 
430
        _test_needs_features = [StraceFeature]
 
431
 
 
432
This means all tests in this class need the feature.  The feature itself
 
433
should provide a ``_probe`` method which is called once to determine if
 
434
it's available.
 
435
 
 
436
These should generally be equivalent to either TestDependencyMissing or
 
437
sometimes TestPlatformLimit.
 
438
 
 
439
 
 
440
Known failures
 
441
--------------
 
442
 
 
443
Known failures are when a test exists but we know it currently doesn't
 
444
work, allowing the test suite to still pass.  These should be used with
 
445
care, we don't want a proliferation of quietly broken tests.  It might be
 
446
appropriate to use them if you've committed a test for a bug but not the
 
447
fix for it, or if something works on Unix but not on Windows.
 
448
 
 
449
 
 
450
Testing exceptions and errors
 
451
-----------------------------
 
452
 
 
453
It's important to test handling of errors and exceptions.  Because this
 
454
code is often not hit in ad-hoc testing it can often have hidden bugs --
 
455
it's particularly common to get NameError because the exception code
 
456
references a variable that has since been renamed.
 
457
 
 
458
.. TODO: Something about how to provoke errors in the right way?
 
459
 
 
460
In general we want to test errors at two levels:
 
461
 
 
462
1. A test in ``test_errors.py`` checking that when the exception object is
 
463
   constructed with known parameters it produces an expected string form.
 
464
   This guards against mistakes in writing the format string, or in the
 
465
   ``str`` representations of its parameters.  There should be one for
 
466
   each exception class.
 
467
 
 
468
2. Tests that when an api is called in a particular situation, it raises
 
469
   an error of the expected class.  You should typically use
 
470
   ``assertRaises``, which in the Bazaar test suite returns the exception
 
471
   object to allow you to examine its parameters.  
 
472
 
 
473
In some cases blackbox tests will also want to check error reporting.  But
 
474
it can be difficult to provoke every error through the commandline
 
475
interface, so those tests are only done as needed -- eg in response to a
 
476
particular bug or if the error is reported in an unusual way(?)  Blackbox
 
477
tests should mostly be testing how the command-line interface works, so
 
478
should only test errors if there is something particular to the cli in how
 
479
they're displayed or handled.
 
480
 
 
481
 
 
482
Testing warnings
 
483
----------------
 
484
 
 
485
The Python ``warnings`` module is used to indicate a non-fatal code
 
486
problem.  Code that's expected to raise a warning can be tested through
 
487
callCatchWarnings.
 
488
 
 
489
The test suite can be run with ``-Werror`` to check no unexpected errors
 
490
occur.
 
491
 
 
492
However, warnings should be used with discretion.  It's not an appropriate
 
493
way to give messages to the user, because the warning is normally shown
 
494
only once per source line that causes the problem.  You should also think
 
495
about whether the warning is serious enought that it should be visible to
 
496
users who may not be able to fix it.
 
497
 
 
498
 
 
499
Interface implementation testing and test scenarios
 
500
---------------------------------------------------
 
501
 
 
502
There are several cases in Bazaar of multiple implementations of a common 
 
503
conceptual interface.  ("Conceptual" because 
 
504
it's not necessary for all the implementations to share a base class,
 
505
though they often do.)  Examples include transports and the working tree,
 
506
branch and repository classes. 
 
507
 
 
508
In these cases we want to make sure that every implementation correctly
 
509
fulfils the interface requirements.  For example, every Transport should
 
510
support the ``has()`` and ``get()`` and ``clone()`` methods.  We have a
 
511
sub-suite of tests in ``test_transport_implementations``.  (Most
 
512
per-implementation tests are in submodules of ``bzrlib.tests``, but not
 
513
the transport tests at the moment.)  
 
514
 
 
515
These tests are repeated for each registered Transport, by generating a
 
516
new TestCase instance for the cross product of test methods and transport
 
517
implementations.  As each test runs, it has ``transport_class`` and
 
518
``transport_server`` set to the class it should test.  Most tests don't
 
519
access these directly, but rather use ``self.get_transport`` which returns
 
520
a transport of the appropriate type.
 
521
 
 
522
The goal is to run per-implementation only tests that relate to that
 
523
particular interface.  Sometimes we discover a bug elsewhere that happens
 
524
with only one particular transport.  Once it's isolated, we can consider 
 
525
whether a test should be added for that particular implementation,
 
526
or for all implementations of the interface.
 
527
 
 
528
The multiplication of tests for different implementations is normally 
 
529
accomplished by overriding the ``test_suite`` function used to load 
 
530
tests from a module.  This function typically loads all the tests,
 
531
then applies a TestProviderAdapter to them, which generates a longer 
 
532
suite containing all the test variations.
 
533
 
 
534
 
 
535
Test scenarios
 
536
--------------
 
537
 
 
538
Some utilities are provided for generating variations of tests.  This can
 
539
be used for per-implementation tests, or other cases where the same test
 
540
code needs to run several times on different scenarios.
 
541
 
 
542
The general approach is to define a class that provides test methods,
 
543
which depend on attributes of the test object being pre-set with the
 
544
values to which the test should be applied.  The test suite should then
 
545
also provide a list of scenarios in which to run the tests.
 
546
 
 
547
Typically ``multiply_tests_from_modules`` should be called from the test
 
548
module's ``test_suite`` function.
 
549
 
 
550
 
 
551
Essential Domain Classes
 
552
########################
 
553
 
 
554
Introducing the Object Model
 
555
============================
 
556
 
 
557
The core domain objects within the bazaar model are:
 
558
 
 
559
* Transport
 
560
 
 
561
* Branch
 
562
 
 
563
* Repository
 
564
 
 
565
* WorkingTree
 
566
 
 
567
Transports are explained below. See http://bazaar-vcs.org/Classes/
 
568
for an introduction to the other key classes.
 
569
 
 
570
Using Transports
 
571
================
 
572
 
 
573
The ``Transport`` layer handles access to local or remote directories.
 
574
Each Transport object acts like a logical connection to a particular
 
575
directory, and it allows various operations on files within it.  You can
 
576
*clone* a transport to get a new Transport connected to a subdirectory or
 
577
parent directory.
 
578
 
 
579
Transports are not used for access to the working tree.  At present
 
580
working trees are always local and they are accessed through the regular
 
581
Python file io mechanisms.
 
582
 
 
583
Filenames vs URLs
 
584
-----------------
 
585
 
 
586
Transports work in URLs.  Take note that URLs are by definition only
 
587
ASCII - the decision of how to encode a Unicode string into a URL must be
 
588
taken at a higher level, typically in the Store.  (Note that Stores also
 
589
escape filenames which cannot be safely stored on all filesystems, but
 
590
this is a different level.)
 
591
 
 
592
The main reason for this is that it's not possible to safely roundtrip a
 
593
URL into Unicode and then back into the same URL.  The URL standard
 
594
gives a way to represent non-ASCII bytes in ASCII (as %-escapes), but
 
595
doesn't say how those bytes represent non-ASCII characters.  (They're not
 
596
guaranteed to be UTF-8 -- that is common but doesn't happen everywhere.)
 
597
 
 
598
For example if the user enters the url ``http://example/%e0`` there's no
 
599
way to tell whether that character represents "latin small letter a with
 
600
grave" in iso-8859-1, or "latin small letter r with acute" in iso-8859-2
 
601
or malformed UTF-8.  So we can't convert their URL to Unicode reliably.
 
602
 
 
603
Equally problematic if we're given a url-like string containing non-ascii
 
604
characters (such as the accented a) we can't be sure how to convert that
 
605
to the correct URL, because we don't know what encoding the server expects
 
606
for those characters.  (Although this is not totally reliable we might still
 
607
accept these and assume they should be put into UTF-8.)
 
608
 
 
609
A similar edge case is that the url ``http://foo/sweet%2Fsour`` contains
 
610
one directory component whose name is "sweet/sour".  The escaped slash is
 
611
not a directory separator.  If we try to convert URLs to regular Unicode
 
612
paths this information will be lost.
 
613
 
 
614
This implies that Transports must natively deal with URLs; for simplicity
 
615
they *only* deal with URLs and conversion of other strings to URLs is done
 
616
elsewhere.  Information they return, such as from ``list_dir``, is also in
 
617
the form of URL components.
 
618
 
 
619
 
 
620
Core Topics
 
621
###########
 
622
 
 
623
Evolving Interfaces
 
624
===================
 
625
 
 
626
We have a commitment to 6 months API stability - any supported symbol in a
 
627
release of bzr MUST NOT be altered in any way that would result in
 
628
breaking existing code that uses it. That means that method names,
 
629
parameter ordering, parameter names, variable and attribute names etc must
 
630
not be changed without leaving a 'deprecated forwarder' behind. This even
 
631
applies to modules and classes.
 
632
 
 
633
If you wish to change the behaviour of a supported API in an incompatible
 
634
way, you need to change its name as well. For instance, if I add an optional keyword
 
635
parameter to branch.commit - that's fine. On the other hand, if I add a
 
636
keyword parameter to branch.commit which is a *required* transaction
 
637
object, I should rename the API - i.e. to 'branch.commit_transaction'. 
 
638
 
 
639
When renaming such supported API's, be sure to leave a deprecated_method (or
 
640
_function or ...) behind which forwards to the new API. See the
 
641
bzrlib.symbol_versioning module for decorators that take care of the
 
642
details for you - such as updating the docstring, and issuing a warning
 
643
when the old api is used.
 
644
 
 
645
For unsupported API's, it does not hurt to follow this discipline, but it's
 
646
not required. Minimally though, please try to rename things so that
 
647
callers will at least get an AttributeError rather than weird results.
 
648
 
 
649
 
 
650
Deprecation decorators
 
651
----------------------
 
652
 
 
653
``bzrlib.symbol_versioning`` provides decorators that can be attached to
 
654
methods, functions, and other interfaces to indicate that they should no
 
655
longer be used.
 
656
 
 
657
To deprecate a static method you must call ``deprecated_function``
 
658
(**not** method), after the staticmethod call::
 
659
 
 
660
    @staticmethod
 
661
    @deprecated_function(zero_ninetyone)
 
662
    def create_repository(base, shared=False, format=None):
 
663
 
 
664
When you deprecate an API, you should not just delete its tests, because
 
665
then we might introduce bugs in them.  If the API is still present at all,
 
666
it should still work.  The basic approach is to use
 
667
``TestCase.applyDeprecated`` which in one step checks that the API gives
 
668
the expected deprecation message, and also returns the real result from
 
669
the method, so that tests can keep running.
 
670
 
508
671
Coding Style Guidelines
509
 
#######################
 
672
=======================
510
673
 
511
 
hasattr and getattr
512
 
===================
 
674
General Python rules
 
675
--------------------
513
676
 
514
677
``hasattr`` should not be used because it swallows exceptions including
515
678
``KeyboardInterrupt``.  Instead, say something like ::
518
681
 
519
682
 
520
683
Code layout
521
 
===========
 
684
-----------
522
685
 
523
 
Please write PEP-8__ compliant code.
 
686
Please write PEP-8__ compliant code.  
524
687
 
525
688
__ http://www.python.org/peps/pep-0008.html
526
689
 
530
693
We use 4 space indents for blocks, and never use tab characters.  (In vim,
531
694
``set expandtab``.)
532
695
 
533
 
Trailing white space should be avoided, but is allowed.
534
 
You should however not make lots of unrelated white space changes.
535
 
 
536
 
Unix style newlines (LF) are used.
537
 
 
538
 
Each file must have a newline at the end of it.
539
 
 
540
696
Lines should be no more than 79 characters if at all possible.
541
 
Lines that continue a long statement may be indented in either of
 
697
Lines that continue a long statement may be indented in either of 
542
698
two ways:
543
699
 
544
700
within the parenthesis or other character that opens the block, e.g.::
583
739
        marmalade,
584
740
        )
585
741
 
586
 
There should be spaces between function parameters, but not between the
 
742
There should be spaces between function paramaters, but not between the
587
743
keyword name and the value::
588
744
 
589
745
    call(1, 3, cheese=quark)
614
770
 
615
771
 
616
772
Module Imports
617
 
==============
 
773
--------------
618
774
 
619
775
* Imports should be done at the top-level of the file, unless there is
620
776
  a strong reason to have them lazily loaded when a particular
626
782
 
627
783
 
628
784
Naming
629
 
======
 
785
------
630
786
 
631
 
Functions, methods or members that are relatively private are given
 
787
Functions, methods or members that are "private" to bzrlib are given
632
788
a leading underscore prefix.  Names without a leading underscore are
633
789
public not just across modules but to programmers using bzrlib as an
634
 
API.
 
790
API. As a consequence, a leading underscore is appropriate for names
 
791
exposed across modules but that are not to be exposed to bzrlib API
 
792
programmers.
635
793
 
636
794
We prefer class names to be concatenated capital words (``TestCase``)
637
795
and variables, methods and functions to be lowercase words joined by
647
805
 
648
806
 
649
807
Standard Names
650
 
==============
 
808
--------------
651
809
 
652
810
``revision_id`` not ``rev_id`` or ``revid``
653
811
 
656
814
 
657
815
 
658
816
Destructors
659
 
===========
 
817
-----------
660
818
 
661
819
Python destructors (``__del__``) work differently to those of other
662
820
languages.  In particular, bear in mind that destructors may be called
664
822
later time, or possibly never at all.  Therefore we have restrictions on
665
823
what can be done inside them.
666
824
 
667
 
 0. If you think you need to use a ``__del__`` method ask another
668
 
    developer for alternatives.  If you do need to use one, explain
669
 
    why in a comment.
 
825
 0. Never use a __del__ method without asking Martin/Robert first.
670
826
 
671
827
 1. Never rely on a ``__del__`` method running.  If there is code that
672
828
    must run, do it from a ``finally`` block instead.
679
835
    may not catch every case but it's still useful sometimes.
680
836
 
681
837
 
682
 
Cleanup methods
683
 
===============
684
 
 
685
 
Often when something has failed later code, including cleanups invoked
686
 
from ``finally`` blocks, will fail too.  These secondary failures are
687
 
generally uninteresting compared to the original exception.  So use the
688
 
``only_raises`` decorator (from ``bzrlib.decorators``) for methods that
689
 
are typically called in ``finally`` blocks, such as ``unlock`` methods.
690
 
For example, ``@only_raises(LockNotHeld, LockBroken)``.  All errors that
691
 
are unlikely to be a knock-on failure from a previous failure should be
692
 
allowed.
693
 
 
694
 
 
695
838
Factories
696
 
=========
 
839
---------
697
840
 
698
841
In some places we have variables which point to callables that construct
699
842
new instances.  That is to say, they can be used a lot like class objects,
700
 
but they shouldn't be *named* like classes::
 
843
but they shouldn't be *named* like classes:
701
844
 
702
845
> I think that things named FooBar should create instances of FooBar when
703
846
> called. Its plain confusing for them to do otherwise. When we have
708
851
 
709
852
 
710
853
Registries
711
 
==========
 
854
----------
712
855
 
713
 
Several places in Bazaar use (or will use) a registry, which is a
714
 
mapping from names to objects or classes.  The registry allows for
 
856
Several places in Bazaar use (or will use) a registry, which is a 
 
857
mapping from names to objects or classes.  The registry allows for 
715
858
loading in registered code only when it's needed, and keeping
716
859
associated information such as a help string or description.
717
860
 
718
861
 
719
 
InterObject and multiple dispatch
720
 
=================================
721
 
 
722
 
The ``InterObject`` provides for two-way `multiple dispatch`__: matching
723
 
up for example a source and destination repository to find the right way
724
 
to transfer data between them.
725
 
 
726
 
.. __: http://en.wikipedia.org/wiki/Multiple_dispatch
727
 
 
728
 
There is a subclass ``InterObject`` classes for each type of object that is
729
 
dispatched this way, e.g. ``InterRepository``.  Calling ``.get()`` on this
730
 
class will return an ``InterObject`` instance providing the best match for
731
 
those parameters, and this instance then has methods for operations
732
 
between the objects.
733
 
 
734
 
::
735
 
 
736
 
  inter = InterRepository.get(source_repo, target_repo)
737
 
  inter.fetch(revision_id)
738
 
 
739
 
``InterRepository`` also acts as a registry-like object for its
740
 
subclasses, and they can be added through ``.register_optimizer``.  The
741
 
right one to run is selected by asking each class, in reverse order of
742
 
registration, whether it ``.is_compatible`` with the relevant objects.
743
 
 
744
862
Lazy Imports
745
 
============
 
863
------------
746
864
 
747
865
To make startup time faster, we use the ``bzrlib.lazy_import`` module to
748
866
delay importing modules until they are actually used. ``lazy_import`` uses
772
890
the variable is a module, and these object should be hidden anyway, since
773
891
they shouldn't be imported into other namespaces.
774
892
 
 
893
 
 
894
Modules versus Members
 
895
~~~~~~~~~~~~~~~~~~~~~~
 
896
 
775
897
While it is possible for ``lazy_import()`` to import members of a module
776
898
when using the ``from module import member`` syntax, it is recommended to
777
899
only use that syntax to load sub modules ``from module import submodule``.
788
910
This will incorrectly fail, because ``MyClass`` is a ``ImportReplacer``
789
911
object, rather than the real class.
790
912
 
 
913
 
 
914
Passing to Other Variables
 
915
~~~~~~~~~~~~~~~~~~~~~~~~~~
 
916
 
791
917
It also is incorrect to assign ``ImportReplacer`` objects to other variables.
792
918
Because the replacer only knows about the original name, it is unable to
793
919
replace other variables. The ``ImportReplacer`` class will raise an
797
923
 
798
924
 
799
925
The Null revision
800
 
=================
 
926
-----------------
801
927
 
802
928
The null revision is the ancestor of all revisions.  Its revno is 0, its
803
929
revision-id is ``null:``, and its tree is the empty tree.  When referring
806
932
being phased out.
807
933
 
808
934
 
809
 
Object string representations
810
 
=============================
811
 
 
812
 
Python prints objects using their ``__repr__`` method when they are
813
 
written to logs, exception tracebacks, or the debugger.  We want
814
 
objects to have useful representations to help in determining what went
815
 
wrong.
816
 
 
817
 
If you add a new class you should generally add a ``__repr__`` method
818
 
unless there is an adequate method in a parent class.  There should be a
819
 
test for the repr.
820
 
 
821
 
Representations should typically look like Python constructor syntax, but
822
 
they don't need to include every value in the object and they don't need
823
 
to be able to actually execute.  They're to be read by humans, not
824
 
machines.  Don't hardcode the classname in the format, so that we get the
825
 
correct value if the method is inherited by a subclass.  If you're
826
 
printing attributes of the object, including strings, you should normally
827
 
use ``%r`` syntax (to call their repr in turn).
828
 
 
829
 
Try to avoid the representation becoming more than one or two lines long.
830
 
(But balance this against including useful information, and simplicity of
831
 
implementation.)
832
 
 
833
 
Because repr methods are often called when something has already gone
834
 
wrong, they should be written somewhat more defensively than most code.
835
 
The object may be half-initialized or in some other way in an illegal
836
 
state.  The repr method shouldn't raise an exception, or it may hide the
837
 
(probably more useful) underlying exception.
838
 
 
839
 
Example::
840
 
 
841
 
    def __repr__(self):
842
 
        return '%s(%r)' % (self.__class__.__name__,
843
 
                           self._transport)
844
 
 
845
 
 
846
 
Exception handling
847
 
==================
848
 
 
849
 
A bare ``except`` statement will catch all exceptions, including ones that
850
 
really should terminate the program such as ``MemoryError`` and
851
 
``KeyboardInterrupt``.  They should rarely be used unless the exception is
852
 
later re-raised.  Even then, think about whether catching just
853
 
``Exception`` (which excludes system errors in Python2.5 and later) would
854
 
be better.
855
 
 
856
 
 
857
 
Test coverage
858
 
=============
859
 
 
860
 
All code should be exercised by the test suite.  See the `Bazaar Testing
861
 
Guide <http://doc.bazaar-vcs.org/developers/testing.html>`_ for detailed
862
 
information about writing tests.
863
 
 
864
 
 
865
 
Core Topics
866
 
###########
867
 
 
868
 
Evolving Interfaces
869
 
===================
870
 
 
871
 
We don't change APIs in stable branches: any supported symbol in a stable
872
 
release of bzr must not be altered in any way that would result in
873
 
breaking existing code that uses it. That means that method names,
874
 
parameter ordering, parameter names, variable and attribute names etc must
875
 
not be changed without leaving a 'deprecated forwarder' behind. This even
876
 
applies to modules and classes.
877
 
 
878
 
If you wish to change the behaviour of a supported API in an incompatible
879
 
way, you need to change its name as well. For instance, if I add an optional keyword
880
 
parameter to branch.commit - that's fine. On the other hand, if I add a
881
 
keyword parameter to branch.commit which is a *required* transaction
882
 
object, I should rename the API - i.e. to 'branch.commit_transaction'.
883
 
 
884
 
  (Actually, that may break code that provides a new implementation of
885
 
  ``commit`` and doesn't expect to receive the parameter.)
886
 
 
887
 
When renaming such supported API's, be sure to leave a deprecated_method (or
888
 
_function or ...) behind which forwards to the new API. See the
889
 
bzrlib.symbol_versioning module for decorators that take care of the
890
 
details for you - such as updating the docstring, and issuing a warning
891
 
when the old API is used.
892
 
 
893
 
For unsupported API's, it does not hurt to follow this discipline, but it's
894
 
not required. Minimally though, please try to rename things so that
895
 
callers will at least get an AttributeError rather than weird results.
896
 
 
897
 
 
898
 
Deprecation decorators
899
 
----------------------
900
 
 
901
 
``bzrlib.symbol_versioning`` provides decorators that can be attached to
902
 
methods, functions, and other interfaces to indicate that they should no
903
 
longer be used.  For example::
904
 
 
905
 
   @deprecated_method(deprecated_in((0, 1, 4)))
906
 
   def foo(self):
907
 
        return self._new_foo()
908
 
 
909
 
To deprecate a static method you must call ``deprecated_function``
910
 
(**not** method), after the staticmethod call::
911
 
 
912
 
    @staticmethod
913
 
    @deprecated_function(deprecated_in((0, 1, 4)))
914
 
    def create_repository(base, shared=False, format=None):
915
 
 
916
 
When you deprecate an API, you should not just delete its tests, because
917
 
then we might introduce bugs in them.  If the API is still present at all,
918
 
it should still work.  The basic approach is to use
919
 
``TestCase.applyDeprecated`` which in one step checks that the API gives
920
 
the expected deprecation message, and also returns the real result from
921
 
the method, so that tests can keep running.
922
 
 
923
 
Deprecation warnings will be suppressed for final releases, but not for
924
 
development versions or release candidates, or when running ``bzr
925
 
selftest``. This gives developers information about whether their code is
926
 
using deprecated functions, but avoids confusing users about things they
927
 
can't fix.
928
 
 
929
 
 
930
935
Getting Input
931
936
=============
932
937
 
987
992
should be only in the command-line tool.
988
993
 
989
994
 
990
 
Progress and Activity Indications
991
 
---------------------------------
992
 
 
993
 
bzrlib has a way for code to display to the user that stuff is happening
994
 
during a long operation.  There are two particular types: *activity* which
995
 
means that IO is happening on a Transport, and *progress* which means that
996
 
higher-level application work is occurring.  Both are drawn together by
997
 
the `ui_factory`.
998
 
 
999
 
Transport objects are responsible for calling `report_transport_activity`
1000
 
when they do IO.
1001
 
 
1002
 
Progress uses a model/view pattern: application code acts on a
1003
 
`ProgressTask` object, which notifies the UI when it needs to be
1004
 
displayed.  Progress tasks form a stack.  To create a new progress task on
1005
 
top of the stack, call `bzrlib.ui.ui_factory.nested_progress_bar()`, then
1006
 
call `update()` on the returned ProgressTask.  It can be updated with just
1007
 
a text description, with a numeric count, or with a numeric count and
1008
 
expected total count.  If an expected total count is provided the view
1009
 
can show the progress moving along towards the expected total.
1010
 
 
1011
 
The user should call `finish` on the `ProgressTask` when the logical
1012
 
operation has finished, so it can be removed from the stack.
1013
 
 
1014
 
Progress tasks have a complex relationship with generators: it's a very
1015
 
good place to use them, but because python2.4 does not allow ``finally``
1016
 
blocks in generators it's hard to clean them up properly.  In this case
1017
 
it's probably better to have the code calling the generator allocate a
1018
 
progress task for its use and then call `finalize` when it's done, which
1019
 
will close it if it was not already closed.  The generator should also
1020
 
finish the progress task when it exits, because it may otherwise be a long
1021
 
time until the finally block runs.
1022
 
 
1023
 
 
1024
 
Message guidelines
1025
 
------------------
1026
 
 
1027
 
When filenames or similar variables are presented inline within a message,
1028
 
they should be enclosed in double quotes (ascii 0x22, not chiral unicode
1029
 
quotes)::
1030
 
 
1031
 
  bzr: ERROR: No such file "asdf"
1032
 
 
1033
 
When we print just a list of filenames there should not be any quoting:
1034
 
see `bug 544297`_.
1035
 
 
1036
 
.. _bug 544297: https://bugs.launchpad.net/bugs/544297
1037
 
 
1038
 
https://wiki.ubuntu.com/UnitsPolicy provides a good explanation about
1039
 
which unit should be used when. Roughly speaking, IEC standard applies
1040
 
for base-2 units and SI standard applies for base-10 units:
1041
 
 
1042
 
* for network bandwidth and disk sizes, use base-10 (Mbits/s, kB/s, GB)
1043
 
 
1044
 
* for RAM sizes, use base-2 (GiB, TiB)
1045
 
 
1046
 
 
1047
995
 
1048
996
Displaying help
1049
997
===============
1053
1001
and on other help topics.  (See ``help_topics.py``.)
1054
1002
 
1055
1003
As for python docstrings, the first paragraph should be a single-sentence
1056
 
synopsis of the command. These are user-visible and should be prefixed with
1057
 
``__doc__ =`` so help works under ``python -OO`` with docstrings stripped.
 
1004
synopsis of the command.
1058
1005
 
1059
1006
The help for options should be one or more proper sentences, starting with
1060
1007
a capital letter and finishing with a full stop (period).
1063
1010
sentences.
1064
1011
 
1065
1012
 
 
1013
Writing tests
 
1014
=============
 
1015
 
 
1016
In general tests should be placed in a file named test_FOO.py where 
 
1017
FOO is the logical thing under test. That file should be placed in the
 
1018
tests subdirectory under the package being tested.
 
1019
 
 
1020
For example, tests for merge3 in bzrlib belong in bzrlib/tests/test_merge3.py.
 
1021
See bzrlib/tests/test_sampler.py for a template test script.
 
1022
 
 
1023
Tests can be written for the UI or for individual areas of the library.
 
1024
Choose whichever is appropriate: if adding a new command, or a new command 
 
1025
option, then you should be writing a UI test.  If you are both adding UI
 
1026
functionality and library functionality, you will want to write tests for 
 
1027
both the UI and the core behaviours.  We call UI tests 'blackbox' tests
 
1028
and they are found in ``bzrlib/tests/blackbox/*.py``. 
 
1029
 
 
1030
When writing blackbox tests please honour the following conventions:
 
1031
 
 
1032
 1. Place the tests for the command 'name' in
 
1033
    bzrlib/tests/blackbox/test_name.py. This makes it easy for developers
 
1034
    to locate the test script for a faulty command.
 
1035
 
 
1036
 2. Use the 'self.run_bzr("name")' utility function to invoke the command
 
1037
    rather than running bzr in a subprocess or invoking the
 
1038
    cmd_object.run() method directly. This is a lot faster than
 
1039
    subprocesses and generates the same logging output as running it in a
 
1040
    subprocess (which invoking the method directly does not).
 
1041
 
 
1042
 3. Only test the one command in a single test script. Use the bzrlib 
 
1043
    library when setting up tests and when evaluating the side-effects of
 
1044
    the command. We do this so that the library api has continual pressure
 
1045
    on it to be as functional as the command line in a simple manner, and
 
1046
    to isolate knock-on effects throughout the blackbox test suite when a
 
1047
    command changes its name or signature. Ideally only the tests for a
 
1048
    given command are affected when a given command is changed.
 
1049
 
 
1050
 4. If you have a test which does actually require running bzr in a
 
1051
    subprocess you can use ``run_bzr_subprocess``. By default the spawned
 
1052
    process will not load plugins unless ``--allow-plugins`` is supplied.
 
1053
 
 
1054
 
 
1055
Test support
 
1056
------------
 
1057
 
 
1058
We have a rich collection of tools to support writing tests. Please use
 
1059
them in preference to ad-hoc solutions as they provide portability and
 
1060
performance benefits.
 
1061
 
 
1062
TreeBuilder
 
1063
~~~~~~~~~~~
 
1064
 
 
1065
The ``TreeBuilder`` interface allows the construction of arbitrary trees
 
1066
with a declarative interface. A sample session might look like::
 
1067
 
 
1068
  tree = self.make_branch_and_tree('path')
 
1069
  builder = TreeBuilder()
 
1070
  builder.start_tree(tree)
 
1071
  builder.build(['foo', "bar/", "bar/file"])
 
1072
  tree.commit('commit the tree')
 
1073
  builder.finish_tree()
 
1074
 
 
1075
Please see bzrlib.treebuilder for more details.
 
1076
 
 
1077
BranchBuilder
 
1078
~~~~~~~~~~~~~
 
1079
 
 
1080
The ``BranchBuilder`` interface allows the creation of test branches in a
 
1081
quick and easy manner. A sample session::
 
1082
 
 
1083
  builder = BranchBuilder(self.get_transport().clone('relpath'))
 
1084
  builder.build_commit()
 
1085
  builder.build_commit()
 
1086
  builder.build_commit()
 
1087
  branch = builder.get_branch()
 
1088
 
 
1089
Please see bzrlib.branchbuilder for more details.
 
1090
 
 
1091
Doctests
 
1092
--------
 
1093
 
 
1094
We make selective use of doctests__.  In general they should provide 
 
1095
*examples* within the API documentation which can incidentally be tested.  We 
 
1096
don't try to test every important case using doctests -- regular Python
 
1097
tests are generally a better solution.
 
1098
 
 
1099
Most of these are in ``bzrlib/doc/api``.  More additions are welcome.
 
1100
 
 
1101
  __ http://docs.python.org/lib/module-doctest.html
 
1102
 
 
1103
 
 
1104
Running tests
 
1105
=============
 
1106
Currently, bzr selftest is used to invoke tests.
 
1107
You can provide a pattern argument to run a subset. For example, 
 
1108
to run just the blackbox tests, run::
 
1109
 
 
1110
  ./bzr selftest -v blackbox
 
1111
 
 
1112
To skip a particular test (or set of tests), use the --exclude option
 
1113
(shorthand -x) like so::
 
1114
 
 
1115
  ./bzr selftest -v -x blackbox  
 
1116
 
 
1117
To list tests without running them, use the --list-only option like so::
 
1118
 
 
1119
  ./bzr selftest --list-only
 
1120
 
 
1121
This option can be combined with other selftest options (like -x) and
 
1122
filter patterns to understand their effect.
 
1123
 
 
1124
 
1066
1125
Handling Errors and Exceptions
1067
1126
==============================
1068
1127
 
1074
1133
 
1075
1134
    0. OK.
1076
1135
    1. Conflicts in merge-like operations, or changes are present in
1077
 
       diff-like operations.
1078
 
    2. Unrepresentable diff changes (i.e. binary files that we cannot show
 
1136
       diff-like operations. 
 
1137
    2. Unrepresentable diff changes (i.e. binary files that we cannot show 
1079
1138
       a diff of).
1080
1139
    3. An error or exception has occurred.
1081
1140
    4. An internal error occurred (one that shows a traceback.)
1111
1170
that exception specifically, or when it needs a substantially different
1112
1171
format string.
1113
1172
 
1114
 
#. If it is something that a caller can recover from, a custom exception
1115
 
   is reasonable.
1116
 
 
1117
 
#. If it is a data consistency issue, using a builtin like
1118
 
   ``ValueError``/``TypeError`` is reasonable.
1119
 
 
1120
 
#. If it is a programmer error (using an api incorrectly)
1121
 
   ``AssertionError`` is reasonable.
1122
 
 
1123
 
#. Otherwise, use ``BzrError`` or ``InternalBzrError``.
1124
 
 
1125
1173
Exception strings should start with a capital letter and should not have a
1126
1174
final fullstop.  If long, they may contain newlines to break the text.
1127
1175
 
1128
1176
 
1129
 
Assertions
1130
 
==========
1131
 
 
1132
 
Do not use the Python ``assert`` statement, either in tests or elsewhere.
1133
 
A source test checks that it is not used.  It is ok to explicitly raise
1134
 
AssertionError.
1135
 
 
1136
 
Rationale:
1137
 
 
1138
 
 * It makes the behaviour vary depending on whether bzr is run with -O
1139
 
   or not, therefore giving a chance for bugs that occur in one case or
1140
 
   the other, several of which have already occurred: assertions with
1141
 
   side effects, code which can't continue unless the assertion passes,
1142
 
   cases where we should give the user a proper message rather than an
1143
 
   assertion failure.
1144
 
 * It's not that much shorter than an explicit if/raise.
1145
 
 * It tends to lead to fuzzy thinking about whether the check is
1146
 
   actually needed or not, and whether it's an internal error or not
1147
 
 * It tends to cause look-before-you-leap patterns.
1148
 
 * It's unsafe if the check is needed to protect the integrity of the
1149
 
   user's data.
1150
 
 * It tends to give poor messages since the developer can get by with
1151
 
   no explanatory text at all.
1152
 
 * We can't rely on people always running with -O in normal use, so we
1153
 
   can't use it for tests that are actually expensive.
1154
 
 * Expensive checks that help developers are better turned on from the
1155
 
   test suite or a -D flag.
1156
 
 * If used instead of ``self.assert*()`` in tests it makes them falsely pass with -O.
1157
 
 
1158
 
 
1159
1177
Documenting Changes
1160
1178
===================
1161
1179
 
1177
1195
Within each release, entries in the news file should have the most
1178
1196
user-visible changes first.  So the order should be approximately:
1179
1197
 
1180
 
 * changes to existing behaviour - the highest priority because the
 
1198
 * changes to existing behaviour - the highest priority because the 
1181
1199
   user's existing knowledge is incorrect
1182
1200
 * new features - should be brought to their attention
1183
1201
 * bug fixes - may be of interest if the bug was affecting them, and
1184
1202
   should include the bug number if any
1185
 
 * major documentation changes, including fixed documentation bugs
 
1203
 * major documentation changes
1186
1204
 * changes to internal interfaces
1187
1205
 
1188
1206
People who made significant contributions to each change are listed in
1189
1207
parenthesis.  This can include reporting bugs (particularly with good
1190
1208
details or reproduction recipes), submitting patches, etc.
1191
1209
 
1192
 
To help with merging, NEWS entries should be sorted lexicographically
1193
 
within each section.
1194
 
 
1195
1210
Commands
1196
1211
--------
1197
1212
 
1205
1220
-----------------
1206
1221
 
1207
1222
Functions, methods, classes and modules should have docstrings
1208
 
describing how they are used.
 
1223
describing how they are used. 
1209
1224
 
1210
1225
The first line of the docstring should be a self-contained sentence.
1211
1226
 
1236
1251
    We had the problem that lots of our files were "Copyright Canonical
1237
1252
    Development Ltd" which is not a real company, and some other variations
1238
1253
    on this theme. Also, some files were missing the GPL statements.
1239
 
 
 
1254
    
1240
1255
    I want to be clear about the intent of this patch, since copyright can
1241
1256
    be a little controversial.
1242
 
 
 
1257
    
1243
1258
    1) The big motivation for this is not to shut out the community, but
1244
1259
    just to clean up all of the invalid copyright statements.
1245
 
 
 
1260
    
1246
1261
    2) It has been the general policy for bzr that we want a single
1247
1262
    copyright holder for all of the core code. This is following the model
1248
1263
    set by the FSF, which makes it easier to update the code to a new
1255
1270
    I'm sure Canonical would do the same).
1256
1271
    As such, Canonical has requested copyright assignments from all of the
1257
1272
    major contributers.
1258
 
 
 
1273
    
1259
1274
    3) If someone wants to add code and not attribute it to Canonical, there
1260
1275
    is a specific list of files that are excluded from this check. And the
1261
1276
    test failure indicates where that is, and how to update it.
1262
 
 
 
1277
    
1263
1278
    4) If anyone feels that I changed a copyright statement incorrectly, just
1264
1279
    let me know, and I'll be happy to correct it. Whenever you have large
1265
1280
    mechanical changes like this, it is possible to make some mistakes.
1266
 
 
 
1281
    
1267
1282
    Just to reiterate, this is a community project, and it is meant to stay
1268
1283
    that way. Core bzr code is copyright Canonical for legal reasons, and
1269
1284
    the tests are just there to help us maintain that.
1280
1295
 
1281
1296
.. _pdb: http://docs.python.org/lib/debugger-commands.html
1282
1297
 
1283
 
If the ``BZR_PDB`` environment variable is set
 
1298
If the ``BZR_PDB`` environment variable is set 
1284
1299
then bzr will go into pdb post-mortem mode when an unhandled exception
1285
1300
occurs.
1286
1301
 
1287
 
If you send a SIGQUIT or SIGBREAK signal to bzr then it will drop into the
1288
 
debugger immediately. SIGQUIT can be generated by pressing Ctrl-\\ on
1289
 
Unix.  SIGBREAK is generated with Ctrl-Pause on Windows (some laptops have
1290
 
this as Fn-Pause).  You can continue execution by typing ``c``.  This can
1291
 
be disabled if necessary by setting the environment variable
1292
 
``BZR_SIGQUIT_PDB=0``.
1293
 
 
1294
 
 
1295
 
Debug Flags
1296
 
===========
1297
 
 
1298
 
Bazaar accepts some global options starting with ``-D`` such as
1299
 
``-Dhpss``.  These set a value in `bzrlib.debug.debug_flags`, and
1300
 
typically cause more information to be written to the trace file.  Most
1301
 
`mutter` calls should be guarded by a check of those flags so that we
1302
 
don't write out too much information if it's not needed.
1303
 
 
1304
 
Debug flags may have effects other than just emitting trace messages.
1305
 
 
1306
 
Run ``bzr help global-options`` to see them all.
1307
 
 
1308
 
These flags may also be set as a comma-separated list in the
1309
 
``debug_flags`` option in e.g.  ``~/.bazaar/bazaar.conf``.  (Note that it
1310
 
must be in this global file, not in the branch or location configuration,
1311
 
because it's currently only loaded at startup time.)  For instance you may
1312
 
want to always record hpss traces and to see full error tracebacks::
1313
 
 
1314
 
    debug_flags = hpss, error
 
1302
If you send a SIGQUIT signal to bzr, which can be done by pressing
 
1303
Ctrl-\\ on Unix, bzr will go into the debugger immediately.  You can
 
1304
continue execution by typing ``c``.  This can be disabled if necessary
 
1305
by setting the environment variable ``BZR_SIGQUIT_PDB=0``.
1315
1306
 
1316
1307
 
1317
1308
Jargon
1348
1339
    for automated processing.
1349
1340
    For example: ``bzr log`` should not fail if one of the entries has text
1350
1341
    that cannot be displayed.
1351
 
 
 
1342
  
1352
1343
  strict
1353
1344
    Attempting to print an unprintable character will cause a UnicodeError.
1354
1345
    This is for commands that are intended more as scripting support, rather
1355
1346
    than plain user review.
1356
 
    For example: ``bzr ls`` is designed to be used with shell scripting. One
1357
 
    use would be ``bzr ls --null --unknowns | xargs -0 rm``.  If ``bzr``
 
1347
    For exampl: ``bzr ls`` is designed to be used with shell scripting. One
 
1348
    use would be ``bzr ls --null --unknows | xargs -0 rm``.  If ``bzr``
1358
1349
    printed a filename with a '?', the wrong file could be deleted. (At the
1359
1350
    very least, the correct file would not be deleted). An error is used to
1360
1351
    indicate that the requested action could not be performed.
1361
 
 
 
1352
  
1362
1353
  exact
1363
1354
    Do not attempt to automatically convert Unicode strings. This is used
1364
1355
    for commands that must handle conversion themselves.
1412
1403
 
1413
1404
To create an extension, add rules to setup.py for building it with pyrex,
1414
1405
and with distutils. Now start with an empty .pyx file. At the top add
1415
 
"include 'yourmodule.py'". This will import the contents of foo.py into this
 
1406
"include 'yourmodule.py'". This will import the contents of foo.py into this 
1416
1407
file at build time - remember that only one module will be loaded at
1417
1408
runtime. Now you can subclass classes, or replace functions, and only your
1418
1409
changes need to be present in the .pyx file.
1419
1410
 
1420
1411
Note that pyrex does not support all 2.4 programming idioms, so some
1421
 
syntax changes may be required. I.e.
 
1412
syntax changes may be required. I.e. 
1422
1413
 
1423
 
 - 'from foo import (bar, gam)' needs to change to not use the brackets.
1424
 
 - 'import foo.bar as bar' needs to be 'import foo.bar; bar = foo.bar'
 
1414
 - 'from foo import (bar, gam)' needs to change to not use the brackets. 
 
1415
 - 'import foo.bar as bar' needs to be 'import foo.bar; bar = foo.bar' 
1425
1416
 
1426
1417
If the changes are too dramatic, consider
1427
1418
maintaining the python code twice - once in the .pyx, and once in the .py,
1451
1442
* reviewing changes
1452
1443
* reviewing blueprints
1453
1444
* planning releases
1454
 
* managing releases (see `Releasing Bazaar <http://doc.bazaar-vcs.org/developers/releasing.html>`_)
 
1445
* managing releases.
1455
1446
 
1456
1447
.. note::
1457
1448
  Removing barriers to community participation is a key reason for adopting
1462
1453
  differences between core and non-core contributors to a minimum.
1463
1454
 
1464
1455
 
 
1456
The Development Lifecycle
 
1457
-------------------------
 
1458
 
 
1459
As a rule, Bazaar development follows a 4 week cycle:
 
1460
 
 
1461
* 2 weeks - general changes
 
1462
* 1 week - feature freeze
 
1463
* 1 week+ - Release Candidate stabilization
 
1464
 
 
1465
During the FeatureFreeze week, the trunk (bzr.dev) is open in a limited
 
1466
way: only low risk changes, critical and high priority fixes are accepted
 
1467
during this time. At the end of FeatureFreeze, a branch is created for the
 
1468
first Release Candidate and the trunk is reopened for general development
 
1469
on the *next* release. A week or so later, the final release is packaged
 
1470
assuming no serious problems were encountered with the one or more Release
 
1471
Candidates.
 
1472
 
 
1473
.. note::
 
1474
  There is a one week overlap between the start of one release and
 
1475
  the end of the previous one.
 
1476
 
 
1477
 
1465
1478
Communicating and Coordinating
1466
1479
------------------------------
1467
1480
 
1494
1507
how to set it up and configure it.
1495
1508
 
1496
1509
 
 
1510
Reviewing Changes
 
1511
=================
 
1512
 
 
1513
Setting Up Your Workspace for Reviews
 
1514
-------------------------------------
 
1515
 
 
1516
TODO: Incorporate John Arbash Meinel's detailed email to Ian C on the
 
1517
numerous ways of setting up integration branches.
 
1518
 
 
1519
 
 
1520
The Review Checklist
 
1521
--------------------
 
1522
 
 
1523
See `A Closer Look at the Merge & Review Process`_
 
1524
for information on the gates used to decide whether code can be merged
 
1525
or not and details on how review results are recorded and communicated.
 
1526
 
 
1527
 
 
1528
The Importance of Timely Reviews
 
1529
--------------------------------
 
1530
 
 
1531
Good reviews do take time. They also regularly require a solid
 
1532
understanding of the overall code base. In practice, this means a small
 
1533
number of people often have a large review burden - with knowledge comes
 
1534
responsibility. No one like their merge requests sitting in a queue going
 
1535
nowhere, so reviewing sooner rather than later is strongly encouraged.
 
1536
 
 
1537
 
1497
1538
Submitting Changes
1498
1539
==================
1499
1540
 
1659
1700
https://blueprints.launchpad.net/bzr/. Once a blueprint for ready for
1660
1701
review, please announce it on the mailing list.
1661
1702
 
1662
 
Alternatively, send an email beginning with [RFC] with the proposal to the
 
1703
Alternatively, send an email begining with [RFC] with the proposal to the
1663
1704
list. In some cases, you may wish to attach proposed code  or a proposed
1664
1705
developer document if that best communicates the idea. Debate can then
1665
1706
proceed using the normal merge review processes.
1677
1718
Planning Releases
1678
1719
=================
1679
1720
 
 
1721
Roadmaps
 
1722
--------
 
1723
 
 
1724
As the two senior developers, Martin Pool and Robert Collins coordinate
 
1725
the overall Bazaar product development roadmap. Core developers provide
 
1726
input and review into this, particularly during sprints. It's totally
 
1727
expected that community members ought to be working on things that
 
1728
interest them the most. The roadmap is valuable though because it provides
 
1729
context for understanding where the product is going as a whole and why.
 
1730
 
1680
1731
 
1681
1732
Using Releases and Milestones in Launchpad
1682
1733
------------------------------------------
1704
1755
.. note::
1705
1756
  As well as prioritizing bugs and nominating them against a
1706
1757
  target milestone, Launchpad lets core developers offer to mentor others in
1707
 
  fixing them.
 
1758
  fixing them. Nice.
 
1759
 
 
1760
 
 
1761
Managing a Release
 
1762
==================
 
1763
 
 
1764
Starting a Release
 
1765
------------------
 
1766
 
 
1767
To start a new release cycle:
 
1768
 
 
1769
#. Send mail to the list with the key dates, who will be the release
 
1770
   manager, and the main themes or targetted bugs.  Ask people to nominate
 
1771
   objectives, or point out an high-risk things that are best done early,
 
1772
   or that interact with other changes.
 
1773
 
 
1774
#. Add a new "series" in Launchpad at <https://launchpad.net/bzr/+addseries>.  There is one 
 
1775
   series for every *x.y* release.
 
1776
 
 
1777
Weekly Status Updates
 
1778
---------------------
 
1779
 
 
1780
TODO: Things to cover:
 
1781
 
 
1782
* Early communication to downstream teams (e.g. Launchpad) about changes in dependencies.
 
1783
* Reminder re lifecycle and where we're up to right now
 
1784
* Summary of recent successes and pending work
 
1785
* Reminder re release objectives
 
1786
* Reminder re things needing attention, e.g. bug triage, reviews, testing of certain things, etc.
 
1787
 
 
1788
 
 
1789
Feature Freeze
 
1790
--------------
 
1791
 
 
1792
TODO: Get material from http://bazaar-vcs.org/FeatureFreeze.
 
1793
 
 
1794
 
 
1795
 
 
1796
Making a Release or Release Candidate
 
1797
-------------------------------------
 
1798
 
 
1799
.. Was previously at http://bazaar-vcs.org/ReleaseChecklist
 
1800
 
 
1801
.. TODO: Still needs more clarity on what's in a RC versus a final
 
1802
.. release?
 
1803
 
 
1804
.. TODO: Too much of this is manual but could be automated...
 
1805
 
 
1806
This is the procedure for making a new bzr release:
 
1807
 
 
1808
#. If the release is the first candidate, make a new branch in PQM. (Contact RobertCollins for this step).
 
1809
 
 
1810
   Register the branch at https://launchpad.net/products/bzr/+addbranch
 
1811
 
 
1812
#. Run the automatic test suite and any non-automated tests.  (For example, try a download over http; these should eventually be scripted though not automatically run.). Try to have all optional dependencies installed so that there are no tests skipped. Also make sure that you have the c extensions compiled (``make`` or ``python setup.py build_ext -i``).
 
1813
 
 
1814
#. In the release branch, update  ``version_info`` in ``./bzrlib/__init__.py``
 
1815
 
 
1816
#. Add the date and release number to ``./NEWS``.
 
1817
 
 
1818
#. Update the release number in the README. (It's not there as of 0.15, but please check).
 
1819
 
 
1820
#. Commit these changes to the release branch, using a command like::
 
1821
    
 
1822
     bzr commit -m "(jam) Release 0.12rc1." 
 
1823
   
 
1824
   The diff before you commit will be something like::
 
1825
 
 
1826
       === modified file 'NEWS'
 
1827
       --- NEWS        2006-10-23 13:11:17 +0000
 
1828
       +++ NEWS        2006-10-23 22:50:50 +0000
 
1829
       @@ -1,4 +1,4 @@
 
1830
       -IN DEVELOPMENT
 
1831
       +bzr 0.12rc1  2006-10-23
 
1832
 
 
1833
          IMPROVEMENTS:
 
1834
 
 
1835
 
 
1836
       === modified file 'bzrlib/__init__.py'
 
1837
       --- bzrlib/__init__.py  2006-10-16 01:47:43 +0000
 
1838
       +++ bzrlib/__init__.py  2006-10-23 22:49:46 +0000
 
1839
       @@ -35,7 +35,7 @@
 
1840
        # Python version 2.0 is (2, 0, 0, 'final', 0)."  Additionally we use a
 
1841
        # releaselevel of 'dev' for unreleased under-development code.
 
1842
 
 
1843
       -version_info = (0, 12, 0, 'dev', 0)
 
1844
       +version_info = (0, 12, 0, 'candidate', 1)
 
1845
 
 
1846
        if version_info[3] == 'final':
 
1847
            version_string = '%d.%d.%d' % version_info[:3]
 
1848
 
 
1849
#. Send the changes to PQM, to update the official master branch.
 
1850
 
 
1851
#. When PQM succeeds, pull down the master release branch.
 
1852
 
 
1853
#. Merge the release branch back into the trunk.  Check that changes in NEWS were merged into the right sections.  If it's not already done, advance the version number in bzr and bzrlib/__init__.py Submit this back into pqm for bzr.dev.
 
1854
 
 
1855
#. Make a distribution directory by running e.g. ``bzr export /tmp/bzr-<version>/`` in the working directory.
 
1856
 
 
1857
#. Run make in /tmp/bzr-<version>. This creates the extensions from the pyrex source.
 
1858
 
 
1859
#. Run the test suite in the distribution directory
 
1860
 
 
1861
#. Run ``setup.py install`` --root=prefix to do a test install into your system directory, home directory, or some other prefix.  Check the install worked and that the installed version is usable. (run the bzr script from the installed path with PYTHONPATH set to the site-packages directory it created). i.e. ::
 
1862
 
 
1863
    python setup.py install --root=installed
 
1864
    PYTHONPATH=installed/usr/lib/python2.4/site-packages installed/usr/bin/bzr
 
1865
 
 
1866
#. Clean the tree to get rid of .pyc files etc: make clean && rm -rf build && rm bzrlib/_*.c bzrlib/_*.so
 
1867
 
 
1868
#. Generate the reference documentation in text format: make doc/en/user-reference/bzr_man.txt.
 
1869
 
 
1870
#. Change back to your original branch and then run: make clean && make to create the compiled pyrex extensions.  You then need to copy the .c files over to the exported directory. 
 
1871
   
 
1872
   ``find . -name "*.c"`` will tell you which files you need.
 
1873
 
 
1874
#. Create the release tarball::
 
1875
   
 
1876
     cd /tmp && tar czf bzr-<version>.tar.gz bzr-<version>
 
1877
 
 
1878
#. Sign the tarball with e.g. ``gpg --detach-sign -a bzr-0.10rc1.tar.gz``
 
1879
 
 
1880
 
 
1881
Publishing the release
 
1882
----------------------
 
1883
 
 
1884
Now you have the releasable product.  The next step is making it
 
1885
available to the world.
 
1886
 
 
1887
#. In <https://launchpad.net/bzr/> click the "Release series" for this
 
1888
   series, to take you to e.g. <https://launchpad.net/bzr/1.1>.  Then
 
1889
   click "Register a release", and add information about this release.
 
1890
 
 
1891
#. Within that release, upload the source tarball and the GPG signature.
 
1892
 
 
1893
   (These used to also be uploaded to 
 
1894
   <sftp://escudero.ubuntu.com/srv/bazaar.canonical.com/www/releases/src>
 
1895
   but that's not accessible to all developers, and gets some mime types
 
1896
   wrong...)
 
1897
 
 
1898
#. Link from http://bazaar-vcs.org/Download to the tarball and signature.
 
1899
 
 
1900
#. Update http://doc.bazaar-vcs.org/ to have a directory of documentation
 
1901
   for this release.  (Controlled by the ``update-bzr-docs`` script on
 
1902
   escudero, and also update the ``latest`` symlink in
 
1903
   ``/srv/bazaar.canonical.com/doc/``.)
 
1904
 
 
1905
#. Announce on the `Bazaar home page`__
 
1906
   
 
1907
 __ http://bazaar-vcs.org/
 
1908
 
 
1909
 
 
1910
Announcing the release
 
1911
----------------------
 
1912
 
 
1913
Now that the release is publicly available, tell people about it.
 
1914
 
 
1915
#. Announce to ``bazaar-announce`` and ``bazaar`` mailing lists. 
 
1916
   The announce mail will look something like this:
 
1917
   
 
1918
    | Subject: bzr 0.11 release candidate 1
 
1919
    | 
 
1920
    | INTRO HERE. Mention the release number and date, and why the release. (i.e. release candidate for testing, final release of a version, backport/bugfix etc).
 
1921
    | 
 
1922
    | Tarballs:
 
1923
    | http://bazaar-vcs.org/releases/src/bzr-VERSION.tar.gz
 
1924
    | and GPG signature:
 
1925
    | http://bazaar-vcs.org/releases/src/bzr-VERSION.tar.gz.sig
 
1926
    | 
 
1927
    | DESCRIBE-CHANGES-IN-OVERVIEW-HERE
 
1928
    | 
 
1929
    | DESCRIBE-when the next release will be (if there is another - i.e. this is a release candidate)
 
1930
    | 
 
1931
    | Many thanks to all the contributors to this release! I've included the
 
1932
    | contents of NEWS for VERSION below:
 
1933
 
 
1934
   To generate the data from NEWS, just copy and paste the relevant news section and clean it up as appropriate. The main clean-up task is to confirm that all major changes are indeed covered. This can be done by running ``bzr log`` back to the point when the branch was opened and cross checking the changes against the NEWS entries.
 
1935
 
 
1936
   (RC announcements should remind plugin maintainers to update their plugins.)
 
1937
 
 
1938
     * For point releases (i.e. a release candidate, or an incremental fix to a released version) take everything in the relevant NEWS secion : for 0.11rc2 take everything in NEWS from the bzr 0.11rc2 line to the bzr 0.11rc1 line further down.
 
1939
 
 
1940
     * For major releases (i.e. 0.11, 0.12 etc), take all the combined NEWS sections from within that version: for 0.11 take all of the 0.11 specific section, plus 0.11rc2, plus 0.11rc1 etc.
 
1941
 
 
1942
#. Update the `news side menu`__ -- this currently requires downloading the file, editing it, deleting it, and uploading a replacement.
 
1943
 
 
1944
   __ http://bazaar-vcs.org/site/menu?action=AttachFile&do=view&target=news.html
 
1945
 
 
1946
#. Update the IRC channel topic. Use the ``/topic`` command to do this, ensuring the new topic text keeps the project name, web site link, etc.
 
1947
 
 
1948
#. Announce on http://freshmeat.net/projects/bzr/
 
1949
   
 
1950
   This should be done for both release candidates and final releases. If you do not have a Freshmeat account yet, ask one of the existing admins.
 
1951
 
 
1952
#. Update http://en.wikipedia.org/wiki/Bzr -- this should be done for final releases but not Release Candidates.
 
1953
 
 
1954
#. Package maintainers should update packages when they see the
 
1955
   announcement.
 
1956
 
 
1957
#. Blog about it.
 
1958
 
 
1959
#. Post to http://mail.python.org/mailman/listinfo/python-announce-list for major releases
 
1960
 
 
1961
#. Update the python package index: <http://pypi.python.org/pypi/bzr> - best
 
1962
   done by running ::
 
1963
 
 
1964
       python setup.py register
 
1965
 
 
1966
   Remember to check the results afterwards.
 
1967
 
 
1968
 
 
1969
Making Win32 installers
 
1970
-----------------------
 
1971
 
 
1972
**XXX:** This information is now probably obsolete, as Alexander uploads
 
1973
direct to Launchpad.  --mbp 20080116
 
1974
 
 
1975
Alexander Belchenko has been very good about getting packaged installers compiled (see Win32ReleaseChecklist for details). He generally e-mails John Arbash Meinel when they are ready. This is just a brief checklist of what needs to be done.
 
1976
 
 
1977
#. Download and verify the sha1 sums and gpg signatures. Frequently the sha1 files are in dos mode, and need to be converted to unix mode (strip off the trailing ``\r``) before they veryify correctly.
 
1978
 
 
1979
#. Upload to the Launchpad page for this release.
 
1980
 
 
1981
#. Upload to escudero (to the b.c.c/www/releases/win32 directory) using sftp, lftp or rsync
 
1982
 
 
1983
#. Cat the contents of the .sha1 files into the SHA1SUM.
 
1984
 
 
1985
#. Update the SHA1SUM and MD5SUM files using something like ``md5sum bzr-0.14.0.win32.exe >> MD5SUM``. Make sure you use append (>>) rather than overwrite (>).
 
1986
 
 
1987
#. Verify once again that everything is correct with ``sha1sum -c SHA1SUM`` and ``md5sum -c MD5SUM``.
 
1988
 
 
1989
#. Update ``.htaccess`` so that the 'bzr-latest.win32.exe' links point to the latest release. This is not done for candidate releases, only for final releases. (example: bzr-0.14.0, but not bzr-0.14.0rc1).
 
1990
 
 
1991
#. Make sure these urls work as expected:
 
1992
 
 
1993
   http://bazaar-vcs.org/releases/win32/bzr-latest.win32-py2.5.exe
 
1994
 
 
1995
   http://bazaar-vcs.org/releases/win32/bzr-latest.win32-py2.5.exe.asc
 
1996
 
 
1997
   http://bazaar-vcs.org/releases/win32/bzr-latest.win32-py2.4.exe
 
1998
 
 
1999
   http://bazaar-vcs.org/releases/win32/bzr-latest.win32-py2.4.exe.asc
 
2000
 
 
2001
   http://bazaar-vcs.org/releases/win32/bzr-setup-latest.exe
 
2002
 
 
2003
   http://bazaar-vcs.org/releases/win32/bzr-setup-latest.exe.asc
 
2004
   
 
2005
They should all try to download a file with the correct version number.
 
2006
 
 
2007
#. Update http://bazaar-vcs.org/Download to indicate the newly available versions.
 
2008
 
 
2009
#. Update http://bazaar-vcs.org/WindowsDownloads to have the correct version number as well as the correct sha1sum displayed.
 
2010
 
 
2011
 
 
2012
The Bazaar PPA archive
 
2013
----------------------
 
2014
 
 
2015
We build Ubuntu ``.deb`` packages for Bazaar as an important part of the release
 
2016
process.  These packages are hosted in a `Personal Package Archive (PPA)`__ on
 
2017
Launchpad, at <https://launchpad.net/~bzr/+archive>.
 
2018
 
 
2019
  __ https://help.launchpad.net/PPAQuickStart
 
2020
 
 
2021
We build packages for every supported Ubuntu release
 
2022
<https://wiki.ubuntu.com/Releases>.  Packages need no longer be updated
 
2023
when the release passes end-of-life because all users should have then
 
2024
update.
 
2025
 
 
2026
The ``debian/`` directory containing the packaging information is kept in
 
2027
branches on Launchpad, named like 
 
2028
<https://code.launchpad.net/~bzr/bzrtools/packaging-dapper>
 
2029
 
 
2030
Updating the PPA for a new release
 
2031
----------------------------------
 
2032
 
 
2033
Preconditions for building these packages:
 
2034
  
 
2035
 * You must have a Launchpad account and be a member of the `~bzr`__ team
 
2036
   
 
2037
 __ https://edge.launchpad.net/~bzr/+members>
 
2038
 
 
2039
 * You must have a GPG key registered to your Launchpad account.
 
2040
 
 
2041
 * Configure ``dput`` to upload to our PPA with this section in your
 
2042
   ``~/.dput.cf``::
 
2043
 
 
2044
        [bzr-ppa]
 
2045
        fqdn = ppa.launchpad.net
 
2046
        method = ftp
 
2047
        incoming = ~bzr/ubuntu
 
2048
        login = anonymous
 
2049
        allow_unsigned_uploads = 0
 
2050
 
 
2051
 * You need a Ubuntu (or probably Debian) machine, and ::
 
2052
 
 
2053
     sudo apt-get install build-essential devscripts dput
 
2054
 
 
2055
Here is the process; there are some steps which should be automated in
 
2056
future:
 
2057
 
 
2058
#. You will need a working directory for each supported release, such as
 
2059
   ``~/bzr/Packaging/dapper``
 
2060
 
 
2061
#. Download the official tarball of the release to e.g. ``~/bzr/Releases``
 
2062
 
 
2063
#. Copy the original tarball into your per-disto directory, then untar it 
 
2064
   and if necessary rename it::
 
2065
 
 
2066
     cp -l ~/bzr/Releases/bzrtools-1.3.0.tar.gz bzrtools_1.3.0.orig.tar.gz
 
2067
     tar xfvz bzrtools_1.3.0.orig.tar.gz
 
2068
     mv bzrtools bzrtools-1.3.0
 
2069
 
 
2070
#. Change into that directory and check out the packaging branch::
 
2071
 
 
2072
     cd bzrtools
 
2073
     bzr checkout \
 
2074
       bzr+ssh://bazaar.launchpad.net/~bzr/bzrtools/packaging-dapper \
 
2075
       debian
 
2076
 
 
2077
#. For Bazaar plugins, change the ``debian/control`` file to express a
 
2078
   dependency on the correct version of ``bzr``.
 
2079
 
 
2080
   For bzrtools this is typically::
 
2081
 
 
2082
      Build-Depends-Indep: bzr (>= 1.3~), rsync
 
2083
      Depends: ${python:Depends}, bzr (>= 1.3~), bzr (<< 1.4~), patch
 
2084
 
 
2085
#. Make a new ``debian/changelog`` entry for the new release,
 
2086
   either by using ``dch`` or just editing the file::
 
2087
 
 
2088
     dch -v '1.3.0-1~bazaar1~dapper1' -D dapper
 
2089
 
 
2090
   dch will default to the distro you're working in and this isn't checked
 
2091
   against the version number (which is just our conversion).  So make
 
2092
   sure to specify it.
 
2093
 
 
2094
   Make sure you have the correct email address for yourself, version
 
2095
   number, and distribution.  It should look something like this::
 
2096
 
 
2097
     >  bzrtools (1.3.0-1~bazaar1~dapper1) dapper; urgency=low
 
2098
     >
 
2099
     >   * New upstream release.
 
2100
     >
 
2101
     >  -- John Sample <sample@example.com>  Mon, 31 Mar 2008 12:36:27 +1100
 
2102
 
 
2103
   If you need to upload the package again to fix a problem, normally you
 
2104
   should increment the last number in the version number, following the
 
2105
   distro name.  Make sure not to omit the initial ``-1``, and make sure
 
2106
   that the distro name in the version is consistent with the target name
 
2107
   outside the parenthesis.
 
2108
 
 
2109
#. Commit these changes into the packaging branch::
 
2110
 
 
2111
     bzr ci -m '1.3.0-1~bazaar1~dapper1: New upstream release.' debian
 
2112
 
 
2113
#. Build a source package::
 
2114
 
 
2115
     debuild -S -sa -i
 
2116
 
 
2117
   This will create a ``.changes`` file in the per-distro directory,
 
2118
   and should invoke gpg to sign it with your key.
 
2119
   Check that file is reasonable: it should be uploading to the intended
 
2120
   distribution, have a .orig file included, and the right version number.
 
2121
 
 
2122
#. Upload into the PPA::
 
2123
 
 
2124
     dput bzr-ppa ../bzrtools__1.3.0-1\~bazaar1\~dapper1_source.changes
 
2125
 
 
2126
   Don't forget the ``bzr-ppa`` component or dput will try to upload into
 
2127
   the main archive by default.  You can disable this by adding this
 
2128
   section to your ``.dput.cf``::
 
2129
 
 
2130
     [ubuntu]
 
2131
     fqdn = SPECIFY.A.PPA.NAME
 
2132
 
 
2133
#. You should soon get an "upload accepted" mail from Launchpad, which
 
2134
   means that your package is waiting to be built.  You can then track its
 
2135
   progress in <https://launchpad.net/~bzr/+archive> and
 
2136
   <https://launchpad.net/~bzr/+archive/+builds>.
1708
2137
 
1709
2138
 
1710
2139
..