/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/commit.py

Merge and cleanup pre-external-reference-repository tests

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2010 Canonical Ltd
 
1
# Copyright (C) 2005, 2006, 2007 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
17
 
18
18
# The newly committed revision is going to have a shape corresponding
60
60
    debug,
61
61
    errors,
62
62
    revision,
63
 
    trace,
64
63
    tree,
65
 
    xml_serializer,
66
64
    )
67
65
from bzrlib.branch import Branch
68
 
from bzrlib.cleanup import OperationWithCleanups
69
66
import bzrlib.config
70
67
from bzrlib.errors import (BzrError, PointlessCommit,
71
68
                           ConflictsInTree,
72
69
                           StrictCommitFailed
73
70
                           )
74
 
from bzrlib.osutils import (get_user_encoding,
75
 
                            kind_marker, isdir,isfile, is_inside_any,
 
71
from bzrlib.osutils import (kind_marker, isdir,isfile, is_inside_any,
76
72
                            is_inside_or_parent_of_any,
77
73
                            minimum_path_selection,
78
74
                            quotefn, sha_file, split_lines,
80
76
                            )
81
77
from bzrlib.testament import Testament
82
78
from bzrlib.trace import mutter, note, warning, is_quiet
83
 
from bzrlib.inventory import Inventory, InventoryEntry, make_entry
 
79
from bzrlib.xml5 import serializer_v5
 
80
from bzrlib.inventory import InventoryEntry, make_entry
84
81
from bzrlib import symbol_versioning
85
82
from bzrlib.symbol_versioning import (deprecated_passed,
86
83
        deprecated_function,
106
103
    def completed(self, revno, rev_id):
107
104
        pass
108
105
 
109
 
    def deleted(self, path):
 
106
    def deleted(self, file_id):
 
107
        pass
 
108
 
 
109
    def escaped(self, escape_count, message):
110
110
        pass
111
111
 
112
112
    def missing(self, path):
129
129
        note(format, *args)
130
130
 
131
131
    def snapshot_change(self, change, path):
132
 
        if path == '' and change in ('added', 'modified'):
 
132
        if change == 'unchanged':
 
133
            return
 
134
        if change == 'added' and path == '':
133
135
            return
134
136
        self._note("%s %s", change, path)
135
137
 
147
149
 
148
150
    def completed(self, revno, rev_id):
149
151
        self._note('Committed revision %d.', revno)
150
 
        # self._note goes to the console too; so while we want to log the
151
 
        # rev_id, we can't trivially only log it. (See bug 526425). Long
152
 
        # term we should rearrange the reporting structure, but for now
153
 
        # we just mutter seperately. We mutter the revid and revno together
154
 
        # so that concurrent bzr invocations won't lead to confusion.
155
 
        mutter('Committed revid %s as revno %d.', rev_id, revno)
156
 
 
157
 
    def deleted(self, path):
158
 
        self._note('deleted %s', path)
 
152
 
 
153
    def deleted(self, file_id):
 
154
        self._note('deleted %s', file_id)
 
155
 
 
156
    def escaped(self, escape_count, message):
 
157
        self._note("replaced %d control characters in message", escape_count)
159
158
 
160
159
    def missing(self, path):
161
160
        self._note('missing %s', path)
205
204
               reporter=None,
206
205
               config=None,
207
206
               message_callback=None,
208
 
               recursive='down',
209
 
               exclude=None,
210
 
               possible_master_transports=None):
 
207
               recursive='down'):
211
208
        """Commit working copy as a new revision.
212
209
 
213
210
        :param message: the commit message (it or message_callback is required)
214
 
        :param message_callback: A callback: message = message_callback(cmt_obj)
215
211
 
216
212
        :param timestamp: if not None, seconds-since-epoch for a
217
213
            postdated/predated commit.
218
214
 
219
 
        :param specific_files: If not None, commit only those files. An empty
220
 
            list means 'commit no files'.
 
215
        :param specific_files: If true, commit only those files.
221
216
 
222
217
        :param rev_id: If set, use this as the new revision id.
223
218
            Useful for test or import commands that need to tightly
237
232
        :param verbose: if True and the reporter is not None, report everything
238
233
        :param recursive: If set to 'down', commit in any subtrees that have
239
234
            pending changes of any sort during this commit.
240
 
        :param exclude: None or a list of relative paths to exclude from the
241
 
            commit. Pending changes to excluded files will be ignored by the
242
 
            commit.
243
235
        """
244
 
        operation = OperationWithCleanups(self._commit)
245
 
        self.revprops = revprops or {}
246
 
        # XXX: Can be set on __init__ or passed in - this is a bit ugly.
247
 
        self.config = config or self.config
248
 
        return operation.run(
249
 
               message=message,
250
 
               timestamp=timestamp,
251
 
               timezone=timezone,
252
 
               committer=committer,
253
 
               specific_files=specific_files,
254
 
               rev_id=rev_id,
255
 
               allow_pointless=allow_pointless,
256
 
               strict=strict,
257
 
               verbose=verbose,
258
 
               working_tree=working_tree,
259
 
               local=local,
260
 
               reporter=reporter,
261
 
               message_callback=message_callback,
262
 
               recursive=recursive,
263
 
               exclude=exclude,
264
 
               possible_master_transports=possible_master_transports)
265
 
 
266
 
    def _commit(self, operation, message, timestamp, timezone, committer,
267
 
            specific_files, rev_id, allow_pointless, strict, verbose,
268
 
            working_tree, local, reporter, message_callback, recursive,
269
 
            exclude, possible_master_transports):
270
236
        mutter('preparing to commit')
271
237
 
272
238
        if working_tree is None:
280
246
        if message_callback is None:
281
247
            if message is not None:
282
248
                if isinstance(message, str):
283
 
                    message = message.decode(get_user_encoding())
 
249
                    message = message.decode(bzrlib.user_encoding)
284
250
                message_callback = lambda x: message
285
251
            else:
286
252
                raise BzrError("The message or message_callback keyword"
287
253
                               " parameter is required for commit().")
288
254
 
289
255
        self.bound_branch = None
 
256
        self.any_entries_changed = False
290
257
        self.any_entries_deleted = False
291
 
        if exclude is not None:
292
 
            self.exclude = sorted(
293
 
                minimum_path_selection(exclude))
294
 
        else:
295
 
            self.exclude = []
296
258
        self.local = local
297
259
        self.master_branch = None
 
260
        self.master_locked = False
298
261
        self.recursive = recursive
299
262
        self.rev_id = None
300
 
        # self.specific_files is None to indicate no filter, or any iterable to
301
 
        # indicate a filter - [] means no files at all, as per iter_changes.
302
263
        if specific_files is not None:
303
264
            self.specific_files = sorted(
304
265
                minimum_path_selection(specific_files))
305
266
        else:
306
267
            self.specific_files = None
307
 
            
 
268
        self.specific_file_ids = None
308
269
        self.allow_pointless = allow_pointless
 
270
        self.revprops = revprops
309
271
        self.message_callback = message_callback
310
272
        self.timestamp = timestamp
311
273
        self.timezone = timezone
312
274
        self.committer = committer
313
275
        self.strict = strict
314
276
        self.verbose = verbose
 
277
        # accumulates an inventory delta to the basis entry, so we can make
 
278
        # just the necessary updates to the workingtree's cached basis.
 
279
        self._basis_delta = []
315
280
 
316
281
        self.work_tree.lock_write()
317
 
        operation.add_cleanup(self.work_tree.unlock)
318
 
        self.parents = self.work_tree.get_parent_ids()
319
 
        # We can use record_iter_changes IFF iter_changes is compatible with
320
 
        # the command line parameters, and the repository has fast delta
321
 
        # generation. See bug 347649.
322
 
        self.use_record_iter_changes = (
323
 
            not self.exclude and 
324
 
            not self.branch.repository._format.supports_tree_reference and
325
 
            (self.branch.repository._format.fast_deltas or
326
 
             len(self.parents) < 2))
327
282
        self.pb = bzrlib.ui.ui_factory.nested_progress_bar()
328
 
        operation.add_cleanup(self.pb.finished)
329
283
        self.basis_revid = self.work_tree.last_revision()
330
284
        self.basis_tree = self.work_tree.basis_tree()
331
285
        self.basis_tree.lock_read()
332
 
        operation.add_cleanup(self.basis_tree.unlock)
333
 
        # Cannot commit with conflicts present.
334
 
        if len(self.work_tree.conflicts()) > 0:
335
 
            raise ConflictsInTree
336
 
 
337
 
        # Setup the bound branch variables as needed.
338
 
        self._check_bound_branch(operation, possible_master_transports)
339
 
 
340
 
        # Check that the working tree is up to date
341
 
        old_revno, new_revno = self._check_out_of_date_tree()
342
 
 
343
 
        # Complete configuration setup
344
 
        if reporter is not None:
345
 
            self.reporter = reporter
346
 
        elif self.reporter is None:
347
 
            self.reporter = self._select_reporter()
348
 
        if self.config is None:
349
 
            self.config = self.branch.get_config()
350
 
 
351
 
        self._set_specific_file_ids()
352
 
 
353
 
        # Setup the progress bar. As the number of files that need to be
354
 
        # committed in unknown, progress is reported as stages.
355
 
        # We keep track of entries separately though and include that
356
 
        # information in the progress bar during the relevant stages.
357
 
        self.pb_stage_name = ""
358
 
        self.pb_stage_count = 0
359
 
        self.pb_stage_total = 5
360
 
        if self.bound_branch:
361
 
            self.pb_stage_total += 1
362
 
        self.pb.show_pct = False
363
 
        self.pb.show_spinner = False
364
 
        self.pb.show_eta = False
365
 
        self.pb.show_count = True
366
 
        self.pb.show_bar = True
367
 
 
368
 
        self._gather_parents()
369
 
        # After a merge, a selected file commit is not supported.
370
 
        # See 'bzr help merge' for an explanation as to why.
371
 
        if len(self.parents) > 1 and self.specific_files is not None:
372
 
            raise errors.CannotCommitSelectedFileMerge(self.specific_files)
373
 
        # Excludes are a form of selected file commit.
374
 
        if len(self.parents) > 1 and self.exclude:
375
 
            raise errors.CannotCommitSelectedFileMerge(self.exclude)
376
 
 
377
 
        # Collect the changes
378
 
        self._set_progress_stage("Collecting changes", counter=True)
379
 
        self.builder = self.branch.get_commit_builder(self.parents,
380
 
            self.config, timestamp, timezone, committer, self.revprops, rev_id)
381
 
 
382
286
        try:
383
 
            self.builder.will_record_deletes()
384
 
            # find the location being committed to
385
 
            if self.bound_branch:
386
 
                master_location = self.master_branch.base
387
 
            else:
388
 
                master_location = self.branch.base
389
 
 
390
 
            # report the start of the commit
391
 
            self.reporter.started(new_revno, self.rev_id, master_location)
392
 
 
393
 
            self._update_builder_with_changes()
394
 
            self._check_pointless()
395
 
 
396
 
            # TODO: Now the new inventory is known, check for conflicts.
397
 
            # ADHB 2006-08-08: If this is done, populate_new_inv should not add
398
 
            # weave lines, because nothing should be recorded until it is known
399
 
            # that commit will succeed.
400
 
            self._set_progress_stage("Saving data locally")
401
 
            self.builder.finish_inventory()
402
 
 
403
 
            # Prompt the user for a commit message if none provided
404
 
            message = message_callback(self)
405
 
            self.message = message
406
 
 
407
 
            # Add revision data to the local branch
408
 
            self.rev_id = self.builder.commit(self.message)
409
 
 
410
 
        except Exception, e:
411
 
            mutter("aborting commit write group because of exception:")
412
 
            trace.log_exception_quietly()
413
 
            note("aborting commit write group: %r" % (e,))
414
 
            self.builder.abort()
415
 
            raise
416
 
 
417
 
        self._process_pre_hooks(old_revno, new_revno)
418
 
 
419
 
        # Upload revision data to the master.
420
 
        # this will propagate merged revisions too if needed.
421
 
        if self.bound_branch:
422
 
            self._set_progress_stage("Uploading data to master branch")
423
 
            # 'commit' to the master first so a timeout here causes the
424
 
            # local branch to be out of date
425
 
            self.master_branch.import_last_revision_info(
426
 
                self.branch.repository, new_revno, self.rev_id)
427
 
 
428
 
        # and now do the commit locally.
429
 
        self.branch.set_last_revision_info(new_revno, self.rev_id)
430
 
 
431
 
        # Make the working tree be up to date with the branch. This
432
 
        # includes automatic changes scheduled to be made to the tree, such
433
 
        # as updating its basis and unversioning paths that were missing.
434
 
        self.work_tree.unversion(self.deleted_ids)
435
 
        self._set_progress_stage("Updating the working tree")
436
 
        self.work_tree.update_basis_by_delta(self.rev_id,
437
 
             self.builder.get_basis_delta())
438
 
        self.reporter.completed(new_revno, self.rev_id)
439
 
        self._process_post_hooks(old_revno, new_revno)
 
287
            # Cannot commit with conflicts present.
 
288
            if len(self.work_tree.conflicts()) > 0:
 
289
                raise ConflictsInTree
 
290
 
 
291
            # Setup the bound branch variables as needed.
 
292
            self._check_bound_branch()
 
293
 
 
294
            # Check that the working tree is up to date
 
295
            old_revno, new_revno = self._check_out_of_date_tree()
 
296
 
 
297
            # Complete configuration setup
 
298
            if reporter is not None:
 
299
                self.reporter = reporter
 
300
            elif self.reporter is None:
 
301
                self.reporter = self._select_reporter()
 
302
            if self.config is None:
 
303
                self.config = self.branch.get_config()
 
304
 
 
305
            # If provided, ensure the specified files are versioned
 
306
            if self.specific_files is not None:
 
307
                # Note: This routine is being called because it raises
 
308
                # PathNotVersionedError as a side effect of finding the IDs. We
 
309
                # later use the ids we found as input to the working tree
 
310
                # inventory iterator, so we only consider those ids rather than
 
311
                # examining the whole tree again.
 
312
                # XXX: Dont we have filter_unversioned to do this more
 
313
                # cheaply?
 
314
                self.specific_file_ids = tree.find_ids_across_trees(
 
315
                    specific_files, [self.basis_tree, self.work_tree])
 
316
 
 
317
            # Setup the progress bar. As the number of files that need to be
 
318
            # committed in unknown, progress is reported as stages.
 
319
            # We keep track of entries separately though and include that
 
320
            # information in the progress bar during the relevant stages.
 
321
            self.pb_stage_name = ""
 
322
            self.pb_stage_count = 0
 
323
            self.pb_stage_total = 5
 
324
            if self.bound_branch:
 
325
                self.pb_stage_total += 1
 
326
            self.pb.show_pct = False
 
327
            self.pb.show_spinner = False
 
328
            self.pb.show_eta = False
 
329
            self.pb.show_count = True
 
330
            self.pb.show_bar = True
 
331
 
 
332
            # After a merge, a selected file commit is not supported.
 
333
            # See 'bzr help merge' for an explanation as to why.
 
334
            self.basis_inv = self.basis_tree.inventory
 
335
            self._gather_parents()
 
336
            if len(self.parents) > 1 and self.specific_files:
 
337
                raise errors.CannotCommitSelectedFileMerge(self.specific_files)
 
338
 
 
339
            # Collect the changes
 
340
            self._set_progress_stage("Collecting changes",
 
341
                    entries_title="Directory")
 
342
            self.builder = self.branch.get_commit_builder(self.parents,
 
343
                self.config, timestamp, timezone, committer, revprops, rev_id)
 
344
            
 
345
            try:
 
346
                # find the location being committed to
 
347
                if self.bound_branch:
 
348
                    master_location = self.master_branch.base
 
349
                else:
 
350
                    master_location = self.branch.base
 
351
 
 
352
                # report the start of the commit
 
353
                self.reporter.started(new_revno, self.rev_id, master_location)
 
354
 
 
355
                self._update_builder_with_changes()
 
356
                self._report_and_accumulate_deletes()
 
357
                self._check_pointless()
 
358
 
 
359
                # TODO: Now the new inventory is known, check for conflicts.
 
360
                # ADHB 2006-08-08: If this is done, populate_new_inv should not add
 
361
                # weave lines, because nothing should be recorded until it is known
 
362
                # that commit will succeed.
 
363
                self._set_progress_stage("Saving data locally")
 
364
                self.builder.finish_inventory()
 
365
 
 
366
                # Prompt the user for a commit message if none provided
 
367
                message = message_callback(self)
 
368
                self.message = message
 
369
                self._escape_commit_message()
 
370
 
 
371
                # Add revision data to the local branch
 
372
                self.rev_id = self.builder.commit(self.message)
 
373
 
 
374
            except:
 
375
                self.builder.abort()
 
376
                raise
 
377
 
 
378
            self._process_pre_hooks(old_revno, new_revno)
 
379
 
 
380
            # Upload revision data to the master.
 
381
            # this will propagate merged revisions too if needed.
 
382
            if self.bound_branch:
 
383
                if not self.master_branch.repository.has_same_location(
 
384
                        self.branch.repository):
 
385
                    self._set_progress_stage("Uploading data to master branch")
 
386
                    self.master_branch.repository.fetch(self.branch.repository,
 
387
                        revision_id=self.rev_id)
 
388
                # now the master has the revision data
 
389
                # 'commit' to the master first so a timeout here causes the
 
390
                # local branch to be out of date
 
391
                self.master_branch.set_last_revision_info(new_revno,
 
392
                                                          self.rev_id)
 
393
 
 
394
            # and now do the commit locally.
 
395
            self.branch.set_last_revision_info(new_revno, self.rev_id)
 
396
 
 
397
            # Make the working tree up to date with the branch
 
398
            self._set_progress_stage("Updating the working tree")
 
399
            self.work_tree.update_basis_by_delta(self.rev_id,
 
400
                 self._basis_delta)
 
401
            self.reporter.completed(new_revno, self.rev_id)
 
402
            self._process_post_hooks(old_revno, new_revno)
 
403
        finally:
 
404
            self._cleanup()
440
405
        return self.rev_id
441
406
 
442
407
    def _select_reporter(self):
451
416
        # A merge with no effect on files
452
417
        if len(self.parents) > 1:
453
418
            return
454
 
        # TODO: we could simplify this by using self.builder.basis_delta.
 
419
        # TODO: we could simplify this by using self._basis_delta.
455
420
 
456
421
        # The initial commit adds a root directory, but this in itself is not
457
422
        # a worthwhile commit.
458
423
        if (self.basis_revid == revision.NULL_REVISION and
459
 
            ((self.builder.new_inventory is not None and
460
 
             len(self.builder.new_inventory) == 1) or
461
 
            len(self.builder._basis_delta) == 1)):
 
424
            len(self.builder.new_inventory) == 1):
462
425
            raise PointlessCommit()
463
 
        if self.builder.any_changes():
 
426
        # If length == 1, then we only have the root entry. Which means
 
427
        # that there is no real difference (only the root could be different)
 
428
        # unless deletes occured, in which case the length is irrelevant.
 
429
        if (self.any_entries_deleted or 
 
430
            (len(self.builder.new_inventory) != 1 and
 
431
             self.any_entries_changed)):
464
432
            return
465
433
        raise PointlessCommit()
466
434
 
467
 
    def _check_bound_branch(self, operation, possible_master_transports=None):
 
435
    def _check_bound_branch(self):
468
436
        """Check to see if the local branch is bound.
469
437
 
470
438
        If it is bound, then most of the commit will actually be
475
443
            raise errors.LocalRequiresBoundBranch()
476
444
 
477
445
        if not self.local:
478
 
            self.master_branch = self.branch.get_master_branch(
479
 
                possible_master_transports)
 
446
            self.master_branch = self.branch.get_master_branch()
480
447
 
481
448
        if not self.master_branch:
482
449
            # make this branch the reference branch for out of date checks.
493
460
        #       commits to the remote branch if they would fit.
494
461
        #       But for now, just require remote to be identical
495
462
        #       to local.
496
 
 
 
463
        
497
464
        # Make sure the local branch is identical to the master
498
465
        master_info = self.master_branch.last_revision_info()
499
466
        local_info = self.branch.last_revision_info()
505
472
        # so grab the lock
506
473
        self.bound_branch = self.branch
507
474
        self.master_branch.lock_write()
508
 
        operation.add_cleanup(self.master_branch.unlock)
 
475
        self.master_locked = True
509
476
 
510
477
    def _check_out_of_date_tree(self):
511
478
        """Check that the working tree is up to date.
556
523
    def _process_hooks(self, hook_name, old_revno, new_revno):
557
524
        if not Branch.hooks[hook_name]:
558
525
            return
559
 
 
 
526
        
560
527
        # new style commit hooks:
561
528
        if not self.bound_branch:
562
529
            hook_master = self.branch
571
538
            old_revid = self.parents[0]
572
539
        else:
573
540
            old_revid = bzrlib.revision.NULL_REVISION
574
 
 
 
541
        
575
542
        if hook_name == "pre_commit":
576
543
            future_tree = self.builder.revision_tree()
577
544
            tree_delta = future_tree.changes_from(self.basis_tree,
578
545
                                             include_root=True)
579
 
 
 
546
        
580
547
        for hook in Branch.hooks[hook_name]:
581
548
            # show the running hook in the progress bar. As hooks may
582
549
            # end up doing nothing (e.g. because they are not configured by
596
563
                     old_revno, old_revid, new_revno, self.rev_id,
597
564
                     tree_delta, future_tree)
598
565
 
 
566
    def _cleanup(self):
 
567
        """Cleanup any open locks, progress bars etc."""
 
568
        cleanups = [self._cleanup_bound_branch,
 
569
                    self.basis_tree.unlock,
 
570
                    self.work_tree.unlock,
 
571
                    self.pb.finished]
 
572
        found_exception = None
 
573
        for cleanup in cleanups:
 
574
            try:
 
575
                cleanup()
 
576
            # we want every cleanup to run no matter what.
 
577
            # so we have a catchall here, but we will raise the
 
578
            # last encountered exception up the stack: and
 
579
            # typically this will be useful enough.
 
580
            except Exception, e:
 
581
                found_exception = e
 
582
        if found_exception is not None: 
 
583
            # don't do a plan raise, because the last exception may have been
 
584
            # trashed, e is our sure-to-work exception even though it loses the
 
585
            # full traceback. XXX: RBC 20060421 perhaps we could check the
 
586
            # exc_info and if its the same one do a plain raise otherwise 
 
587
            # 'raise e' as we do now.
 
588
            raise e
 
589
 
 
590
    def _cleanup_bound_branch(self):
 
591
        """Executed at the end of a try/finally to cleanup a bound branch.
 
592
 
 
593
        If the branch wasn't bound, this is a no-op.
 
594
        If it was, it resents self.branch to the local branch, instead
 
595
        of being the master.
 
596
        """
 
597
        if not self.bound_branch:
 
598
            return
 
599
        if self.master_locked:
 
600
            self.master_branch.unlock()
 
601
 
 
602
    def _escape_commit_message(self):
 
603
        """Replace xml-incompatible control characters."""
 
604
        # FIXME: RBC 20060419 this should be done by the revision
 
605
        # serialiser not by commit. Then we can also add an unescaper
 
606
        # in the deserializer and start roundtripping revision messages
 
607
        # precisely. See repository_implementations/test_repository.py
 
608
        
 
609
        # Python strings can include characters that can't be
 
610
        # represented in well-formed XML; escape characters that
 
611
        # aren't listed in the XML specification
 
612
        # (http://www.w3.org/TR/REC-xml/#NT-Char).
 
613
        self.message, escape_count = re.subn(
 
614
            u'[^\x09\x0A\x0D\u0020-\uD7FF\uE000-\uFFFD]+',
 
615
            lambda match: match.group(0).encode('unicode_escape'),
 
616
            self.message)
 
617
        if escape_count:
 
618
            self.reporter.escaped(escape_count, self.message)
 
619
 
599
620
    def _gather_parents(self):
600
621
        """Record the parents of a merge for merge detection."""
601
 
        # TODO: Make sure that this list doesn't contain duplicate
 
622
        # TODO: Make sure that this list doesn't contain duplicate 
602
623
        # entries and the order is preserved when doing this.
603
 
        if self.use_record_iter_changes:
604
 
            return
605
 
        self.basis_inv = self.basis_tree.inventory
 
624
        self.parents = self.work_tree.get_parent_ids()
606
625
        self.parent_invs = [self.basis_inv]
607
626
        for revision in self.parents[1:]:
608
627
            if self.branch.repository.has_revision(revision):
615
634
    def _update_builder_with_changes(self):
616
635
        """Update the commit builder with the data about what has changed.
617
636
        """
618
 
        exclude = self.exclude
 
637
        # Build the revision inventory.
 
638
        #
 
639
        # This starts by creating a new empty inventory. Depending on
 
640
        # which files are selected for commit, and what is present in the
 
641
        # current tree, the new inventory is populated. inventory entries 
 
642
        # which are candidates for modification have their revision set to
 
643
        # None; inventory entries that are carried over untouched have their
 
644
        # revision set to their prior value.
 
645
        #
 
646
        # ESEPARATIONOFCONCERNS: this function is diffing and using the diff
 
647
        # results to create a new inventory at the same time, which results
 
648
        # in bugs like #46635.  Any reason not to use/enhance Tree.changes_from?
 
649
        # ADHB 11-07-2006
 
650
 
619
651
        specific_files = self.specific_files
620
652
        mutter("Selecting files for commit with filter %s", specific_files)
621
653
 
622
 
        self._check_strict()
623
 
        if self.use_record_iter_changes:
624
 
            iter_changes = self.work_tree.iter_changes(self.basis_tree,
625
 
                specific_files=specific_files)
626
 
            iter_changes = self._filter_iter_changes(iter_changes)
627
 
            for file_id, path, fs_hash in self.builder.record_iter_changes(
628
 
                self.work_tree, self.basis_revid, iter_changes):
629
 
                self.work_tree._observed_sha1(file_id, path, fs_hash)
630
 
        else:
631
 
            # Build the new inventory
632
 
            self._populate_from_inventory()
633
 
            self._record_unselected()
634
 
            self._report_and_accumulate_deletes()
635
 
 
636
 
    def _filter_iter_changes(self, iter_changes):
637
 
        """Process iter_changes.
638
 
 
639
 
        This method reports on the changes in iter_changes to the user, and 
640
 
        converts 'missing' entries in the iter_changes iterator to 'deleted'
641
 
        entries. 'missing' entries have their
642
 
 
643
 
        :param iter_changes: An iter_changes to process.
644
 
        :return: A generator of changes.
645
 
        """
646
 
        reporter = self.reporter
647
 
        report_changes = reporter.is_verbose()
648
 
        deleted_ids = []
649
 
        for change in iter_changes:
650
 
            if report_changes:
651
 
                old_path = change[1][0]
652
 
                new_path = change[1][1]
653
 
                versioned = change[3][1]
654
 
            kind = change[6][1]
655
 
            versioned = change[3][1]
656
 
            if kind is None and versioned:
657
 
                # 'missing' path
658
 
                if report_changes:
659
 
                    reporter.missing(new_path)
660
 
                deleted_ids.append(change[0])
661
 
                # Reset the new path (None) and new versioned flag (False)
662
 
                change = (change[0], (change[1][0], None), change[2],
663
 
                    (change[3][0], False)) + change[4:]
664
 
            elif kind == 'tree-reference':
665
 
                if self.recursive == 'down':
666
 
                    self._commit_nested_tree(change[0], change[1][1])
667
 
            if change[3][0] or change[3][1]:
668
 
                yield change
669
 
                if report_changes:
670
 
                    if new_path is None:
671
 
                        reporter.deleted(old_path)
672
 
                    elif old_path is None:
673
 
                        reporter.snapshot_change('added', new_path)
674
 
                    elif old_path != new_path:
675
 
                        reporter.renamed('renamed', old_path, new_path)
676
 
                    else:
677
 
                        if (new_path or 
678
 
                            self.work_tree.branch.repository._format.rich_root_data):
679
 
                            # Don't report on changes to '' in non rich root
680
 
                            # repositories.
681
 
                            reporter.snapshot_change('modified', new_path)
682
 
            self._next_progress_entry()
683
 
        # Unversion IDs that were found to be deleted
684
 
        self.deleted_ids = deleted_ids
685
 
 
686
 
    def _record_unselected(self):
 
654
        # Build the new inventory
 
655
        self._populate_from_inventory(specific_files)
 
656
 
687
657
        # If specific files are selected, then all un-selected files must be
688
658
        # recorded in their previous state. For more details, see
689
659
        # https://lists.ubuntu.com/archives/bazaar/2007q3/028476.html.
690
 
        if self.specific_files or self.exclude:
691
 
            specific_files = self.specific_files or []
 
660
        if specific_files:
692
661
            for path, old_ie in self.basis_inv.iter_entries():
693
662
                if old_ie.file_id in self.builder.new_inventory:
694
663
                    # already added - skip.
695
664
                    continue
696
 
                if (is_inside_any(specific_files, path)
697
 
                    and not is_inside_any(self.exclude, path)):
698
 
                    # was inside the selected path, and not excluded - if not
699
 
                    # present it has been deleted so skip.
 
665
                if is_inside_any(specific_files, path):
 
666
                    # was inside the selected path, if not present it has been
 
667
                    # deleted so skip.
700
668
                    continue
701
 
                # From here down it was either not selected, or was excluded:
702
 
                # We preserve the entry unaltered.
 
669
                if old_ie.kind == 'directory':
 
670
                    self._next_progress_entry()
 
671
                # not in final inv yet, was not in the selected files, so is an
 
672
                # entry to be preserved unaltered.
703
673
                ie = old_ie.copy()
704
674
                # Note: specific file commits after a merge are currently
705
675
                # prohibited. This test is for sanity/safety in case it's
706
676
                # required after that changes.
707
677
                if len(self.parents) > 1:
708
678
                    ie.revision = None
709
 
                self.builder.record_entry_contents(ie, self.parent_invs, path,
710
 
                    self.basis_tree, None)
 
679
                delta, version_recorded = self.builder.record_entry_contents(
 
680
                    ie, self.parent_invs, path, self.basis_tree, None)
 
681
                if version_recorded:
 
682
                    self.any_entries_changed = True
 
683
                if delta: self._basis_delta.append(delta)
711
684
 
712
685
    def _report_and_accumulate_deletes(self):
713
 
        if (isinstance(self.basis_inv, Inventory)
714
 
            and isinstance(self.builder.new_inventory, Inventory)):
715
 
            # the older Inventory classes provide a _byid dict, and building a
716
 
            # set from the keys of this dict is substantially faster than even
717
 
            # getting a set of ids from the inventory
718
 
            #
719
 
            # <lifeless> set(dict) is roughly the same speed as
720
 
            # set(iter(dict)) and both are significantly slower than
721
 
            # set(dict.keys())
722
 
            deleted_ids = set(self.basis_inv._byid.keys()) - \
723
 
               set(self.builder.new_inventory._byid.keys())
724
 
        else:
725
 
            deleted_ids = set(self.basis_inv) - set(self.builder.new_inventory)
 
686
        # XXX: Could the list of deleted paths and ids be instead taken from
 
687
        # _populate_from_inventory?
 
688
        deleted_ids = set(self.basis_inv._byid.keys()) - \
 
689
            set(self.builder.new_inventory._byid.keys())
726
690
        if deleted_ids:
727
691
            self.any_entries_deleted = True
728
692
            deleted = [(self.basis_tree.id2path(file_id), file_id)
730
694
            deleted.sort()
731
695
            # XXX: this is not quite directory-order sorting
732
696
            for path, file_id in deleted:
733
 
                self.builder.record_delete(path, file_id)
 
697
                self._basis_delta.append((path, None, file_id, None))
734
698
                self.reporter.deleted(path)
735
699
 
736
 
    def _check_strict(self):
737
 
        # XXX: when we use iter_changes this would likely be faster if
738
 
        # iter_changes would check for us (even in the presence of
739
 
        # selected_files).
 
700
    def _populate_from_inventory(self, specific_files):
 
701
        """Populate the CommitBuilder by walking the working tree inventory."""
740
702
        if self.strict:
741
703
            # raise an exception as soon as we find a single unknown.
742
704
            for unknown in self.work_tree.unknowns():
743
705
                raise StrictCommitFailed()
744
 
 
745
 
    def _populate_from_inventory(self):
746
 
        """Populate the CommitBuilder by walking the working tree inventory."""
747
 
        # Build the revision inventory.
748
 
        #
749
 
        # This starts by creating a new empty inventory. Depending on
750
 
        # which files are selected for commit, and what is present in the
751
 
        # current tree, the new inventory is populated. inventory entries
752
 
        # which are candidates for modification have their revision set to
753
 
        # None; inventory entries that are carried over untouched have their
754
 
        # revision set to their prior value.
755
 
        #
756
 
        # ESEPARATIONOFCONCERNS: this function is diffing and using the diff
757
 
        # results to create a new inventory at the same time, which results
758
 
        # in bugs like #46635.  Any reason not to use/enhance Tree.changes_from?
759
 
        # ADHB 11-07-2006
760
 
 
761
 
        specific_files = self.specific_files
762
 
        exclude = self.exclude
 
706
               
763
707
        report_changes = self.reporter.is_verbose()
764
708
        deleted_ids = []
765
709
        # A tree of paths that have been deleted. E.g. if foo/bar has been
768
712
        # XXX: Note that entries may have the wrong kind because the entry does
769
713
        # not reflect the status on disk.
770
714
        work_inv = self.work_tree.inventory
771
 
        # NB: entries will include entries within the excluded ids/paths
772
 
        # because iter_entries_by_dir has no 'exclude' facility today.
773
715
        entries = work_inv.iter_entries_by_dir(
774
716
            specific_file_ids=self.specific_file_ids, yield_parents=True)
775
717
        for path, existing_ie in entries:
777
719
            name = existing_ie.name
778
720
            parent_id = existing_ie.parent_id
779
721
            kind = existing_ie.kind
 
722
            if kind == 'directory':
 
723
                self._next_progress_entry()
780
724
            # Skip files that have been deleted from the working tree.
781
725
            # The deleted path ids are also recorded so they can be explicitly
782
726
            # unversioned later.
795
739
                if deleted_dict is not None:
796
740
                    # the path has a deleted parent, do not add it.
797
741
                    continue
798
 
            if exclude and is_inside_any(exclude, path):
799
 
                # Skip excluded paths. Excluded paths are processed by
800
 
                # _update_builder_with_changes.
801
 
                continue
802
742
            content_summary = self.work_tree.path_content_summary(path)
803
 
            kind = content_summary[0]
804
743
            # Note that when a filter of specific files is given, we must only
805
744
            # skip/record deleted files matching that filter.
806
745
            if not specific_files or is_inside_any(specific_files, path):
807
 
                if kind == 'missing':
 
746
                if content_summary[0] == 'missing':
808
747
                    if not deleted_paths:
809
748
                        # path won't have been split yet.
810
749
                        path_segments = splitpath(path)
812
751
                    for segment in path_segments:
813
752
                        deleted_dict = deleted_dict.setdefault(segment, {})
814
753
                    self.reporter.missing(path)
815
 
                    self._next_progress_entry()
816
754
                    deleted_ids.append(file_id)
817
755
                    continue
818
756
            # TODO: have the builder do the nested commit just-in-time IF and
819
757
            # only if needed.
820
 
            if kind == 'tree-reference':
 
758
            if content_summary[0] == 'tree-reference':
821
759
                # enforce repository nested tree policy.
822
760
                if (not self.work_tree.supports_tree_reference() or
823
761
                    # repository does not support it either.
824
762
                    not self.branch.repository._format.supports_tree_reference):
825
 
                    kind = 'directory'
826
 
                    content_summary = (kind, None, None, None)
827
 
                elif self.recursive == 'down':
 
763
                    content_summary = ('directory',) + content_summary[1:]
 
764
            kind = content_summary[0]
 
765
            # TODO: specific_files filtering before nested tree processing
 
766
            if kind == 'tree-reference':
 
767
                if self.recursive == 'down':
828
768
                    nested_revision_id = self._commit_nested_tree(
829
769
                        file_id, path)
830
 
                    content_summary = (kind, None, None, nested_revision_id)
 
770
                    content_summary = content_summary[:3] + (
 
771
                        nested_revision_id,)
831
772
                else:
832
 
                    nested_revision_id = self.work_tree.get_reference_revision(file_id)
833
 
                    content_summary = (kind, None, None, nested_revision_id)
 
773
                    content_summary = content_summary[:3] + (
 
774
                        self.work_tree.get_reference_revision(file_id),)
834
775
 
835
776
            # Record an entry for this item
836
777
            # Note: I don't particularly want to have the existing_ie
842
783
                content_summary)
843
784
 
844
785
        # Unversion IDs that were found to be deleted
845
 
        self.deleted_ids = deleted_ids
 
786
        self.work_tree.unversion(deleted_ids)
846
787
 
847
788
    def _commit_nested_tree(self, file_id, path):
848
789
        "Commit a nested tree."
850
791
        # FIXME: be more comprehensive here:
851
792
        # this works when both trees are in --trees repository,
852
793
        # but when both are bound to a different repository,
853
 
        # it fails; a better way of approaching this is to
 
794
        # it fails; a better way of approaching this is to 
854
795
        # finally implement the explicit-caches approach design
855
796
        # a while back - RBC 20070306.
856
797
        if sub_tree.branch.repository.has_same_location(
880
821
        else:
881
822
            ie = existing_ie.copy()
882
823
            ie.revision = None
883
 
        # For carried over entries we don't care about the fs hash - the repo
884
 
        # isn't generating a sha, so we're not saving computation time.
885
 
        _, _, fs_hash = self.builder.record_entry_contents(
886
 
            ie, self.parent_invs, path, self.work_tree, content_summary)
 
824
        delta, version_recorded = self.builder.record_entry_contents(ie,
 
825
            self.parent_invs, path, self.work_tree, content_summary)
 
826
        if delta:
 
827
            self._basis_delta.append(delta)
 
828
        if version_recorded:
 
829
            self.any_entries_changed = True
887
830
        if report_changes:
888
831
            self._report_change(ie, path)
889
 
        if fs_hash:
890
 
            self.work_tree._observed_sha1(ie.file_id, path, fs_hash)
891
832
        return ie
892
833
 
893
834
    def _report_change(self, ie, path):
901
842
        else:
902
843
            basis_ie = None
903
844
        change = ie.describe_change(basis_ie, ie)
904
 
        if change in (InventoryEntry.RENAMED,
 
845
        if change in (InventoryEntry.RENAMED, 
905
846
            InventoryEntry.MODIFIED_AND_RENAMED):
906
847
            old_path = self.basis_inv.id2path(ie.file_id)
907
848
            self.reporter.renamed(change, old_path, path)
908
 
            self._next_progress_entry()
909
849
        else:
910
 
            if change == 'unchanged':
911
 
                return
912
850
            self.reporter.snapshot_change(change, path)
913
 
            self._next_progress_entry()
914
851
 
915
 
    def _set_progress_stage(self, name, counter=False):
 
852
    def _set_progress_stage(self, name, entries_title=None):
916
853
        """Set the progress stage and emit an update to the progress bar."""
917
854
        self.pb_stage_name = name
918
855
        self.pb_stage_count += 1
919
 
        if counter:
 
856
        self.pb_entries_title = entries_title
 
857
        if entries_title is not None:
920
858
            self.pb_entries_count = 0
921
 
        else:
922
 
            self.pb_entries_count = None
 
859
            self.pb_entries_total = '?'
923
860
        self._emit_progress()
924
861
 
925
862
    def _next_progress_entry(self):
928
865
        self._emit_progress()
929
866
 
930
867
    def _emit_progress(self):
931
 
        if self.pb_entries_count is not None:
932
 
            text = "%s [%d] - Stage" % (self.pb_stage_name,
933
 
                self.pb_entries_count)
 
868
        if self.pb_entries_title:
 
869
            if self.pb_entries_total == '?':
 
870
                text = "%s [%s %d] - Stage" % (self.pb_stage_name,
 
871
                    self.pb_entries_title, self.pb_entries_count)
 
872
            else:
 
873
                text = "%s [%s %d/%s] - Stage" % (self.pb_stage_name,
 
874
                    self.pb_entries_title, self.pb_entries_count,
 
875
                    str(self.pb_entries_total))
934
876
        else:
935
 
            text = "%s - Stage" % (self.pb_stage_name, )
 
877
            text = "%s - Stage" % (self.pb_stage_name)
936
878
        self.pb.update(text, self.pb_stage_count, self.pb_stage_total)
937
879
 
938
 
    def _set_specific_file_ids(self):
939
 
        """populate self.specific_file_ids if we will use it."""
940
 
        if not self.use_record_iter_changes:
941
 
            # If provided, ensure the specified files are versioned
942
 
            if self.specific_files is not None:
943
 
                # Note: This routine is being called because it raises
944
 
                # PathNotVersionedError as a side effect of finding the IDs. We
945
 
                # later use the ids we found as input to the working tree
946
 
                # inventory iterator, so we only consider those ids rather than
947
 
                # examining the whole tree again.
948
 
                # XXX: Dont we have filter_unversioned to do this more
949
 
                # cheaply?
950
 
                self.specific_file_ids = tree.find_ids_across_trees(
951
 
                    self.specific_files, [self.basis_tree, self.work_tree])
952
 
            else:
953
 
                self.specific_file_ids = None