/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/repository.py

  • Committer: Andrew Bennetts
  • Date: 2009-07-15 06:39:07 UTC
  • mto: (4476.3.44 inventory-delta)
  • mto: This revision was merged to the branch mainline in revision 4608.
  • Revision ID: andrew.bennetts@canonical.com-20090715063907-rw44os6ox1253nm8
Trivial improvement to test coverage in test_xml.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2010 Canonical Ltd
 
1
# Copyright (C) 2005, 2006, 2007, 2008, 2009 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
24
24
    bzrdir,
25
25
    check,
26
26
    chk_map,
27
 
    config,
28
27
    debug,
29
28
    errors,
30
 
    fetch as _mod_fetch,
31
29
    fifo_cache,
32
30
    generate_ids,
33
31
    gpg,
40
38
    lru_cache,
41
39
    osutils,
42
40
    revision as _mod_revision,
43
 
    static_tuple,
44
41
    symbol_versioning,
45
 
    trace,
46
42
    tsort,
47
43
    ui,
48
44
    versionedfile,
53
49
from bzrlib.testament import Testament
54
50
""")
55
51
 
56
 
from bzrlib.decorators import needs_read_lock, needs_write_lock, only_raises
 
52
from bzrlib.decorators import needs_read_lock, needs_write_lock
57
53
from bzrlib.inter import InterObject
58
54
from bzrlib.inventory import (
59
55
    Inventory,
61
57
    ROOT_ID,
62
58
    entry_factory,
63
59
    )
64
 
from bzrlib.lock import _RelockDebugMixin
65
60
from bzrlib import registry
66
61
from bzrlib.trace import (
67
62
    log_exception_quietly, note, mutter, mutter_callsite, warning)
210
205
            # an inventory delta was accumulated without creating a new
211
206
            # inventory.
212
207
            basis_id = self.basis_delta_revision
213
 
            # We ignore the 'inventory' returned by add_inventory_by_delta
214
 
            # because self.new_inventory is used to hint to the rest of the
215
 
            # system what code path was taken
216
 
            self.inv_sha1, _ = self.repository.add_inventory_by_delta(
 
208
            self.inv_sha1 = self.repository.add_inventory_by_delta(
217
209
                basis_id, self._basis_delta, self._new_revision_id,
218
210
                self.parents)
219
211
        else:
473
465
            if content_summary[2] is None:
474
466
                raise ValueError("Files must not have executable = None")
475
467
            if not store:
476
 
                # We can't trust a check of the file length because of content
477
 
                # filtering...
478
 
                if (# if the exec bit has changed we have to store:
 
468
                if (# if the file length changed we have to store:
 
469
                    parent_entry.text_size != content_summary[1] or
 
470
                    # if the exec bit has changed we have to store:
479
471
                    parent_entry.executable != content_summary[2]):
480
472
                    store = True
481
473
                elif parent_entry.text_sha1 == content_summary[3]:
548
540
                ie.revision = parent_entry.revision
549
541
                return self._get_delta(ie, basis_inv, path), False, None
550
542
            ie.reference_revision = content_summary[3]
551
 
            if ie.reference_revision is None:
552
 
                raise AssertionError("invalid content_summary for nested tree: %r"
553
 
                    % (content_summary,))
554
543
            self._add_text_to_weave(ie.file_id, '', heads, None)
555
544
        else:
556
545
            raise NotImplementedError('unknown kind')
818
807
                seen_root = True
819
808
        self.new_inventory = None
820
809
        if len(inv_delta):
821
 
            # This should perhaps be guarded by a check that the basis we
822
 
            # commit against is the basis for the commit and if not do a delta
823
 
            # against the basis.
824
810
            self._any_changes = True
825
811
        if not seen_root:
826
812
            # housekeeping root entry changes do not affect no-change commits.
860
846
        # versioned roots do not change unless the tree found a change.
861
847
 
862
848
 
863
 
class RepositoryWriteLockResult(object):
864
 
    """The result of write locking a repository.
865
 
 
866
 
    :ivar repository_token: The token obtained from the underlying lock, or
867
 
        None.
868
 
    :ivar unlock: A callable which will unlock the lock.
869
 
    """
870
 
 
871
 
    def __init__(self, unlock, repository_token):
872
 
        self.repository_token = repository_token
873
 
        self.unlock = unlock
874
 
 
875
 
 
876
849
######################################################################
877
850
# Repositories
878
851
 
879
 
 
880
 
class Repository(_RelockDebugMixin, bzrdir.ControlComponent):
 
852
class Repository(object):
881
853
    """Repository holding history for one or more branches.
882
854
 
883
855
    The repository holds and retrieves historical information including
1041
1013
 
1042
1014
        :seealso: add_inventory, for the contract.
1043
1015
        """
1044
 
        inv_lines = self._serializer.write_inventory_to_lines(inv)
 
1016
        inv_lines = self._serialise_inventory_to_lines(inv)
1045
1017
        return self._inventory_add_lines(revision_id, parents,
1046
1018
            inv_lines, check_content=False)
1047
1019
 
1096
1068
        check_content=True):
1097
1069
        """Store lines in inv_vf and return the sha1 of the inventory."""
1098
1070
        parents = [(parent,) for parent in parents]
1099
 
        result = self.inventories.add_lines((revision_id,), parents, lines,
 
1071
        return self.inventories.add_lines((revision_id,), parents, lines,
1100
1072
            check_content=check_content)[0]
1101
 
        self.inventories._access.flush()
1102
 
        return result
1103
1073
 
1104
1074
    def add_revision(self, revision_id, rev, inv=None, config=None):
1105
1075
        """Add rev to the revision store as revision_id.
1181
1151
        # The old API returned a list, should this actually be a set?
1182
1152
        return parent_map.keys()
1183
1153
 
1184
 
    def _check_inventories(self, checker):
1185
 
        """Check the inventories found from the revision scan.
1186
 
        
1187
 
        This is responsible for verifying the sha1 of inventories and
1188
 
        creating a pending_keys set that covers data referenced by inventories.
1189
 
        """
1190
 
        bar = ui.ui_factory.nested_progress_bar()
1191
 
        try:
1192
 
            self._do_check_inventories(checker, bar)
1193
 
        finally:
1194
 
            bar.finished()
1195
 
 
1196
 
    def _do_check_inventories(self, checker, bar):
1197
 
        """Helper for _check_inventories."""
1198
 
        revno = 0
1199
 
        keys = {'chk_bytes':set(), 'inventories':set(), 'texts':set()}
1200
 
        kinds = ['chk_bytes', 'texts']
1201
 
        count = len(checker.pending_keys)
1202
 
        bar.update("inventories", 0, 2)
1203
 
        current_keys = checker.pending_keys
1204
 
        checker.pending_keys = {}
1205
 
        # Accumulate current checks.
1206
 
        for key in current_keys:
1207
 
            if key[0] != 'inventories' and key[0] not in kinds:
1208
 
                checker._report_items.append('unknown key type %r' % (key,))
1209
 
            keys[key[0]].add(key[1:])
1210
 
        if keys['inventories']:
1211
 
            # NB: output order *should* be roughly sorted - topo or
1212
 
            # inverse topo depending on repository - either way decent
1213
 
            # to just delta against. However, pre-CHK formats didn't
1214
 
            # try to optimise inventory layout on disk. As such the
1215
 
            # pre-CHK code path does not use inventory deltas.
1216
 
            last_object = None
1217
 
            for record in self.inventories.check(keys=keys['inventories']):
1218
 
                if record.storage_kind == 'absent':
1219
 
                    checker._report_items.append(
1220
 
                        'Missing inventory {%s}' % (record.key,))
1221
 
                else:
1222
 
                    last_object = self._check_record('inventories', record,
1223
 
                        checker, last_object,
1224
 
                        current_keys[('inventories',) + record.key])
1225
 
            del keys['inventories']
1226
 
        else:
1227
 
            return
1228
 
        bar.update("texts", 1)
1229
 
        while (checker.pending_keys or keys['chk_bytes']
1230
 
            or keys['texts']):
1231
 
            # Something to check.
1232
 
            current_keys = checker.pending_keys
1233
 
            checker.pending_keys = {}
1234
 
            # Accumulate current checks.
1235
 
            for key in current_keys:
1236
 
                if key[0] not in kinds:
1237
 
                    checker._report_items.append('unknown key type %r' % (key,))
1238
 
                keys[key[0]].add(key[1:])
1239
 
            # Check the outermost kind only - inventories || chk_bytes || texts
1240
 
            for kind in kinds:
1241
 
                if keys[kind]:
1242
 
                    last_object = None
1243
 
                    for record in getattr(self, kind).check(keys=keys[kind]):
1244
 
                        if record.storage_kind == 'absent':
1245
 
                            checker._report_items.append(
1246
 
                                'Missing %s {%s}' % (kind, record.key,))
1247
 
                        else:
1248
 
                            last_object = self._check_record(kind, record,
1249
 
                                checker, last_object, current_keys[(kind,) + record.key])
1250
 
                    keys[kind] = set()
1251
 
                    break
1252
 
 
1253
 
    def _check_record(self, kind, record, checker, last_object, item_data):
1254
 
        """Check a single text from this repository."""
1255
 
        if kind == 'inventories':
1256
 
            rev_id = record.key[0]
1257
 
            inv = self._deserialise_inventory(rev_id,
1258
 
                record.get_bytes_as('fulltext'))
1259
 
            if last_object is not None:
1260
 
                delta = inv._make_delta(last_object)
1261
 
                for old_path, path, file_id, ie in delta:
1262
 
                    if ie is None:
1263
 
                        continue
1264
 
                    ie.check(checker, rev_id, inv)
1265
 
            else:
1266
 
                for path, ie in inv.iter_entries():
1267
 
                    ie.check(checker, rev_id, inv)
1268
 
            if self._format.fast_deltas:
1269
 
                return inv
1270
 
        elif kind == 'chk_bytes':
1271
 
            # No code written to check chk_bytes for this repo format.
1272
 
            checker._report_items.append(
1273
 
                'unsupported key type chk_bytes for %s' % (record.key,))
1274
 
        elif kind == 'texts':
1275
 
            self._check_text(record, checker, item_data)
1276
 
        else:
1277
 
            checker._report_items.append(
1278
 
                'unknown key type %s for %s' % (kind, record.key))
1279
 
 
1280
 
    def _check_text(self, record, checker, item_data):
1281
 
        """Check a single text."""
1282
 
        # Check it is extractable.
1283
 
        # TODO: check length.
1284
 
        if record.storage_kind == 'chunked':
1285
 
            chunks = record.get_bytes_as(record.storage_kind)
1286
 
            sha1 = osutils.sha_strings(chunks)
1287
 
            length = sum(map(len, chunks))
1288
 
        else:
1289
 
            content = record.get_bytes_as('fulltext')
1290
 
            sha1 = osutils.sha_string(content)
1291
 
            length = len(content)
1292
 
        if item_data and sha1 != item_data[1]:
1293
 
            checker._report_items.append(
1294
 
                'sha1 mismatch: %s has sha1 %s expected %s referenced by %s' %
1295
 
                (record.key, sha1, item_data[1], item_data[2]))
1296
 
 
1297
1154
    @staticmethod
1298
1155
    def create(a_bzrdir):
1299
1156
        """Construct the current default format repository in a_bzrdir."""
1304
1161
 
1305
1162
        :param _format: The format of the repository on disk.
1306
1163
        :param a_bzrdir: The BzrDir of the repository.
 
1164
 
 
1165
        In the future we will have a single api for all stores for
 
1166
        getting file texts, inventories and revisions, then
 
1167
        this construct will accept instances of those things.
1307
1168
        """
1308
 
        # In the future we will have a single api for all stores for
1309
 
        # getting file texts, inventories and revisions, then
1310
 
        # this construct will accept instances of those things.
1311
1169
        super(Repository, self).__init__()
1312
1170
        self._format = _format
1313
1171
        # the following are part of the public API for Repository:
1319
1177
        self._reconcile_does_inventory_gc = True
1320
1178
        self._reconcile_fixes_text_parents = False
1321
1179
        self._reconcile_backsup_inventory = True
 
1180
        # not right yet - should be more semantically clear ?
 
1181
        #
 
1182
        # TODO: make sure to construct the right store classes, etc, depending
 
1183
        # on whether escaping is required.
 
1184
        self._warn_if_deprecated()
1322
1185
        self._write_group = None
1323
1186
        # Additional places to query for data.
1324
1187
        self._fallback_repositories = []
1325
1188
        # An InventoryEntry cache, used during deserialization
1326
1189
        self._inventory_entry_cache = fifo_cache.FIFOCache(10*1024)
1327
 
        # Is it safe to return inventory entries directly from the entry cache,
1328
 
        # rather copying them?
1329
 
        self._safe_to_return_from_cache = False
1330
 
 
1331
 
    @property
1332
 
    def user_transport(self):
1333
 
        return self.bzrdir.user_transport
1334
 
 
1335
 
    @property
1336
 
    def control_transport(self):
1337
 
        return self._transport
1338
1190
 
1339
1191
    def __repr__(self):
1340
 
        if self._fallback_repositories:
1341
 
            return '%s(%r, fallback_repositories=%r)' % (
1342
 
                self.__class__.__name__,
1343
 
                self.base,
1344
 
                self._fallback_repositories)
1345
 
        else:
1346
 
            return '%s(%r)' % (self.__class__.__name__,
1347
 
                               self.base)
1348
 
 
1349
 
    def _has_same_fallbacks(self, other_repo):
1350
 
        """Returns true if the repositories have the same fallbacks."""
1351
 
        my_fb = self._fallback_repositories
1352
 
        other_fb = other_repo._fallback_repositories
1353
 
        if len(my_fb) != len(other_fb):
1354
 
            return False
1355
 
        for f, g in zip(my_fb, other_fb):
1356
 
            if not f.has_same_location(g):
1357
 
                return False
1358
 
        return True
 
1192
        return '%s(%r)' % (self.__class__.__name__,
 
1193
                           self.base)
1359
1194
 
1360
1195
    def has_same_location(self, other):
1361
1196
        """Returns a boolean indicating if this repository is at the same
1389
1224
        data during reads, and allows a 'write_group' to be obtained. Write
1390
1225
        groups must be used for actual data insertion.
1391
1226
 
1392
 
        A token should be passed in if you know that you have locked the object
1393
 
        some other way, and need to synchronise this object's state with that
1394
 
        fact.
1395
 
 
1396
 
        XXX: this docstring is duplicated in many places, e.g. lockable_files.py
1397
 
 
1398
1227
        :param token: if this is already locked, then lock_write will fail
1399
1228
            unless the token matches the existing lock.
1400
1229
        :returns: a token if this instance supports tokens, otherwise None.
1403
1232
        :raises MismatchedToken: if the specified token doesn't match the token
1404
1233
            of the existing lock.
1405
1234
        :seealso: start_write_group.
1406
 
        :return: A RepositoryWriteLockResult.
 
1235
 
 
1236
        A token should be passed in if you know that you have locked the object
 
1237
        some other way, and need to synchronise this object's state with that
 
1238
        fact.
 
1239
 
 
1240
        XXX: this docstring is duplicated in many places, e.g. lockable_files.py
1407
1241
        """
1408
1242
        locked = self.is_locked()
1409
 
        token = self.control_files.lock_write(token=token)
 
1243
        result = self.control_files.lock_write(token=token)
1410
1244
        if not locked:
1411
 
            self._warn_if_deprecated()
1412
 
            self._note_lock('w')
1413
1245
            for repo in self._fallback_repositories:
1414
1246
                # Writes don't affect fallback repos
1415
1247
                repo.lock_read()
1416
1248
            self._refresh_data()
1417
 
        return RepositoryWriteLockResult(self.unlock, token)
 
1249
        return result
1418
1250
 
1419
1251
    def lock_read(self):
1420
 
        """Lock the repository for read operations.
1421
 
 
1422
 
        :return: An object with an unlock method which will release the lock
1423
 
            obtained.
1424
 
        """
1425
1252
        locked = self.is_locked()
1426
1253
        self.control_files.lock_read()
1427
1254
        if not locked:
1428
 
            self._warn_if_deprecated()
1429
 
            self._note_lock('r')
1430
1255
            for repo in self._fallback_repositories:
1431
1256
                repo.lock_read()
1432
1257
            self._refresh_data()
1433
 
        return self
1434
1258
 
1435
1259
    def get_physical_lock_status(self):
1436
1260
        return self.control_files.get_physical_lock_status()
1496
1320
 
1497
1321
        # now gather global repository information
1498
1322
        # XXX: This is available for many repos regardless of listability.
1499
 
        if self.user_transport.listable():
 
1323
        if self.bzrdir.root_transport.listable():
1500
1324
            # XXX: do we want to __define len__() ?
1501
1325
            # Maybe the versionedfiles object should provide a different
1502
1326
            # method to get the number of keys.
1512
1336
        :param using: If True, list only branches using this repository.
1513
1337
        """
1514
1338
        if using and not self.is_shared():
1515
 
            return self.bzrdir.list_branches()
 
1339
            try:
 
1340
                return [self.bzrdir.open_branch()]
 
1341
            except errors.NotBranchError:
 
1342
                return []
1516
1343
        class Evaluator(object):
1517
1344
 
1518
1345
            def __init__(self):
1527
1354
                    except errors.NoRepositoryPresent:
1528
1355
                        pass
1529
1356
                    else:
1530
 
                        return False, ([], repository)
 
1357
                        return False, (None, repository)
1531
1358
                self.first_call = False
1532
 
                value = (bzrdir.list_branches(), None)
 
1359
                try:
 
1360
                    value = (bzrdir.open_branch(), None)
 
1361
                except errors.NotBranchError:
 
1362
                    value = (None, None)
1533
1363
                return True, value
1534
1364
 
1535
 
        ret = []
1536
 
        for branches, repository in bzrdir.BzrDir.find_bzrdirs(
1537
 
                self.user_transport, evaluate=Evaluator()):
1538
 
            if branches is not None:
1539
 
                ret.extend(branches)
 
1365
        branches = []
 
1366
        for branch, repository in bzrdir.BzrDir.find_bzrdirs(
 
1367
                self.bzrdir.root_transport, evaluate=Evaluator()):
 
1368
            if branch is not None:
 
1369
                branches.append(branch)
1540
1370
            if not using and repository is not None:
1541
 
                ret.extend(repository.find_branches())
1542
 
        return ret
 
1371
                branches.extend(repository.find_branches())
 
1372
        return branches
1543
1373
 
1544
1374
    @needs_read_lock
1545
1375
    def search_missing_revision_ids(self, other, revision_id=None, find_ghosts=True):
1574
1404
        """Commit the contents accrued within the current write group.
1575
1405
 
1576
1406
        :seealso: start_write_group.
1577
 
        
1578
 
        :return: it may return an opaque hint that can be passed to 'pack'.
1579
1407
        """
1580
1408
        if self._write_group is not self.get_transaction():
1581
1409
            # has an unlock or relock occured ?
1635
1463
        # but at the moment we're only checking for texts referenced by
1636
1464
        # inventories at the graph's edge.
1637
1465
        key_deps = self.revisions._index._key_dependencies
1638
 
        key_deps.satisfy_refs_for_keys(present_inventories)
 
1466
        key_deps.add_keys(present_inventories)
1639
1467
        referrers = frozenset(r[0] for r in key_deps.get_referrers())
1640
1468
        file_ids = self.fileids_altered_by_revision_ids(referrers)
1641
1469
        missing_texts = set()
1707
1535
            raise errors.InternalBzrError(
1708
1536
                "May not fetch while in a write group.")
1709
1537
        # fast path same-url fetch operations
1710
 
        # TODO: lift out to somewhere common with RemoteRepository
1711
 
        # <https://bugs.edge.launchpad.net/bzr/+bug/401646>
1712
 
        if (self.has_same_location(source)
1713
 
            and fetch_spec is None
1714
 
            and self._has_same_fallbacks(source)):
 
1538
        if self.has_same_location(source) and fetch_spec is None:
1715
1539
            # check that last_revision is in 'from' and then return a
1716
1540
            # no-operation.
1717
1541
            if (revision_id is not None and
1742
1566
        :param revprops: Optional dictionary of revision properties.
1743
1567
        :param revision_id: Optional revision id.
1744
1568
        """
1745
 
        if self._fallback_repositories:
1746
 
            raise errors.BzrError("Cannot commit from a lightweight checkout "
1747
 
                "to a stacked branch. See "
1748
 
                "https://bugs.launchpad.net/bzr/+bug/375013 for details.")
1749
1569
        result = self._commit_builder_class(self, parents, config,
1750
1570
            timestamp, timezone, committer, revprops, revision_id)
1751
1571
        self.start_write_group()
1752
1572
        return result
1753
1573
 
1754
 
    @only_raises(errors.LockNotHeld, errors.LockBroken)
1755
1574
    def unlock(self):
1756
1575
        if (self.control_files._lock_count == 1 and
1757
1576
            self.control_files._lock_mode == 'w'):
1879
1698
 
1880
1699
    @needs_read_lock
1881
1700
    def get_revisions(self, revision_ids):
1882
 
        """Get many revisions at once.
1883
 
        
1884
 
        Repositories that need to check data on every revision read should 
1885
 
        subclass this method.
1886
 
        """
 
1701
        """Get many revisions at once."""
1887
1702
        return self._get_revisions(revision_ids)
1888
1703
 
1889
1704
    @needs_read_lock
1890
1705
    def _get_revisions(self, revision_ids):
1891
1706
        """Core work logic to get many revisions without sanity checks."""
 
1707
        for rev_id in revision_ids:
 
1708
            if not rev_id or not isinstance(rev_id, basestring):
 
1709
                raise errors.InvalidRevisionId(revision_id=rev_id, branch=self)
 
1710
        keys = [(key,) for key in revision_ids]
 
1711
        stream = self.revisions.get_record_stream(keys, 'unordered', True)
1892
1712
        revs = {}
1893
 
        for revid, rev in self._iter_revisions(revision_ids):
1894
 
            if rev is None:
1895
 
                raise errors.NoSuchRevision(self, revid)
1896
 
            revs[revid] = rev
 
1713
        for record in stream:
 
1714
            if record.storage_kind == 'absent':
 
1715
                raise errors.NoSuchRevision(self, record.key[0])
 
1716
            text = record.get_bytes_as('fulltext')
 
1717
            rev = self._serializer.read_revision_from_string(text)
 
1718
            revs[record.key[0]] = rev
1897
1719
        return [revs[revid] for revid in revision_ids]
1898
1720
 
1899
 
    def _iter_revisions(self, revision_ids):
1900
 
        """Iterate over revision objects.
1901
 
 
1902
 
        :param revision_ids: An iterable of revisions to examine. None may be
1903
 
            passed to request all revisions known to the repository. Note that
1904
 
            not all repositories can find unreferenced revisions; for those
1905
 
            repositories only referenced ones will be returned.
1906
 
        :return: An iterator of (revid, revision) tuples. Absent revisions (
1907
 
            those asked for but not available) are returned as (revid, None).
1908
 
        """
1909
 
        if revision_ids is None:
1910
 
            revision_ids = self.all_revision_ids()
1911
 
        else:
1912
 
            for rev_id in revision_ids:
1913
 
                if not rev_id or not isinstance(rev_id, basestring):
1914
 
                    raise errors.InvalidRevisionId(revision_id=rev_id, branch=self)
1915
 
        keys = [(key,) for key in revision_ids]
1916
 
        stream = self.revisions.get_record_stream(keys, 'unordered', True)
1917
 
        for record in stream:
1918
 
            revid = record.key[0]
1919
 
            if record.storage_kind == 'absent':
1920
 
                yield (revid, None)
1921
 
            else:
1922
 
                text = record.get_bytes_as('fulltext')
1923
 
                rev = self._serializer.read_revision_from_string(text)
1924
 
                yield (revid, rev)
 
1721
    @needs_read_lock
 
1722
    def get_revision_xml(self, revision_id):
 
1723
        # TODO: jam 20070210 This shouldn't be necessary since get_revision
 
1724
        #       would have already do it.
 
1725
        # TODO: jam 20070210 Just use _serializer.write_revision_to_string()
 
1726
        # TODO: this can't just be replaced by:
 
1727
        # return self._serializer.write_revision_to_string(
 
1728
        #     self.get_revision(revision_id))
 
1729
        # as cStringIO preservers the encoding unlike write_revision_to_string
 
1730
        # or some other call down the path.
 
1731
        rev = self.get_revision(revision_id)
 
1732
        rev_tmp = cStringIO.StringIO()
 
1733
        # the current serializer..
 
1734
        self._serializer.write_revision(rev, rev_tmp)
 
1735
        rev_tmp.seek(0)
 
1736
        return rev_tmp.getvalue()
1925
1737
 
1926
1738
    def get_deltas_for_revisions(self, revisions, specific_fileids=None):
1927
1739
        """Produce a generator of revision deltas.
2170
1982
        """
2171
1983
        selected_keys = set((revid,) for revid in revision_ids)
2172
1984
        w = _inv_weave or self.inventories
2173
 
        return self._find_file_ids_from_xml_inventory_lines(
2174
 
            w.iter_lines_added_or_present_in_keys(
2175
 
                selected_keys, pb=None),
2176
 
            selected_keys)
 
1985
        pb = ui.ui_factory.nested_progress_bar()
 
1986
        try:
 
1987
            return self._find_file_ids_from_xml_inventory_lines(
 
1988
                w.iter_lines_added_or_present_in_keys(
 
1989
                    selected_keys, pb=pb),
 
1990
                selected_keys)
 
1991
        finally:
 
1992
            pb.finished()
2177
1993
 
2178
1994
    def iter_files_bytes(self, desired_files):
2179
1995
        """Iterate through file versions.
2261
2077
                batch_size]
2262
2078
            if not to_query:
2263
2079
                break
2264
 
            for revision_id in to_query:
 
2080
            for rev_tree in self.revision_trees(to_query):
 
2081
                revision_id = rev_tree.get_revision_id()
2265
2082
                parent_ids = ancestors[revision_id]
2266
2083
                for text_key in revision_keys[revision_id]:
2267
2084
                    pb.update("Calculating text parents", processed_texts)
2340
2157
        num_file_ids = len(file_ids)
2341
2158
        for file_id, altered_versions in file_ids.iteritems():
2342
2159
            if pb is not None:
2343
 
                pb.update("Fetch texts", count, num_file_ids)
 
2160
                pb.update("fetch texts", count, num_file_ids)
2344
2161
            count += 1
2345
2162
            yield ("file", file_id, altered_versions)
2346
2163
 
2367
2184
        """Get Inventory object by revision id."""
2368
2185
        return self.iter_inventories([revision_id]).next()
2369
2186
 
2370
 
    def iter_inventories(self, revision_ids, ordering=None):
 
2187
    def iter_inventories(self, revision_ids, ordering='unordered'):
2371
2188
        """Get many inventories by revision_ids.
2372
2189
 
2373
2190
        This will buffer some or all of the texts used in constructing the
2375
2192
        time.
2376
2193
 
2377
2194
        :param revision_ids: The expected revision ids of the inventories.
2378
 
        :param ordering: optional ordering, e.g. 'topological'.  If not
2379
 
            specified, the order of revision_ids will be preserved (by
2380
 
            buffering if necessary).
 
2195
        :param ordering: optional ordering, e.g. 'topological'.
2381
2196
        :return: An iterator of inventories.
2382
2197
        """
2383
2198
        if ((None in revision_ids)
2389
2204
        """single-document based inventory iteration."""
2390
2205
        inv_xmls = self._iter_inventory_xmls(revision_ids, ordering)
2391
2206
        for text, revision_id in inv_xmls:
2392
 
            yield self._deserialise_inventory(revision_id, text)
 
2207
            yield self.deserialise_inventory(revision_id, text)
2393
2208
 
2394
 
    def _iter_inventory_xmls(self, revision_ids, ordering):
2395
 
        if ordering is None:
2396
 
            order_as_requested = True
2397
 
            ordering = 'unordered'
2398
 
        else:
2399
 
            order_as_requested = False
 
2209
    def _iter_inventory_xmls(self, revision_ids, ordering='unordered'):
2400
2210
        keys = [(revision_id,) for revision_id in revision_ids]
2401
 
        if not keys:
2402
 
            return
2403
 
        if order_as_requested:
2404
 
            key_iter = iter(keys)
2405
 
            next_key = key_iter.next()
2406
2211
        stream = self.inventories.get_record_stream(keys, ordering, True)
2407
2212
        text_chunks = {}
2408
2213
        for record in stream:
2409
2214
            if record.storage_kind != 'absent':
2410
 
                chunks = record.get_bytes_as('chunked')
2411
 
                if order_as_requested:
2412
 
                    text_chunks[record.key] = chunks
2413
 
                else:
2414
 
                    yield ''.join(chunks), record.key[-1]
 
2215
                text_chunks[record.key] = record.get_bytes_as('chunked')
2415
2216
            else:
2416
2217
                raise errors.NoSuchRevision(self, record.key)
2417
 
            if order_as_requested:
2418
 
                # Yield as many results as we can while preserving order.
2419
 
                while next_key in text_chunks:
2420
 
                    chunks = text_chunks.pop(next_key)
2421
 
                    yield ''.join(chunks), next_key[-1]
2422
 
                    try:
2423
 
                        next_key = key_iter.next()
2424
 
                    except StopIteration:
2425
 
                        # We still want to fully consume the get_record_stream,
2426
 
                        # just in case it is not actually finished at this point
2427
 
                        next_key = None
2428
 
                        break
 
2218
        for key in keys:
 
2219
            chunks = text_chunks.pop(key)
 
2220
            yield ''.join(chunks), key[-1]
2429
2221
 
2430
 
    def _deserialise_inventory(self, revision_id, xml):
 
2222
    def deserialise_inventory(self, revision_id, xml):
2431
2223
        """Transform the xml into an inventory object.
2432
2224
 
2433
2225
        :param revision_id: The expected revision id of the inventory.
2434
2226
        :param xml: A serialised inventory.
2435
2227
        """
2436
2228
        result = self._serializer.read_inventory_from_string(xml, revision_id,
2437
 
                    entry_cache=self._inventory_entry_cache,
2438
 
                    return_from_cache=self._safe_to_return_from_cache)
 
2229
                    entry_cache=self._inventory_entry_cache)
2439
2230
        if result.revision_id != revision_id:
2440
2231
            raise AssertionError('revision id mismatch %s != %s' % (
2441
2232
                result.revision_id, revision_id))
2442
2233
        return result
2443
2234
 
 
2235
    def serialise_inventory(self, inv):
 
2236
        return self._serializer.write_inventory_to_string(inv)
 
2237
 
 
2238
    def _serialise_inventory_to_lines(self, inv):
 
2239
        return self._serializer.write_inventory_to_lines(inv)
 
2240
 
2444
2241
    def get_serializer_format(self):
2445
2242
        return self._serializer.format_num
2446
2243
 
2447
2244
    @needs_read_lock
2448
 
    def _get_inventory_xml(self, revision_id):
2449
 
        """Get serialized inventory as a string."""
 
2245
    def get_inventory_xml(self, revision_id):
 
2246
        """Get inventory XML as a file object."""
2450
2247
        texts = self._iter_inventory_xmls([revision_id], 'unordered')
2451
2248
        try:
2452
2249
            text, revision_id = texts.next()
2454
2251
            raise errors.HistoryMissing(self, 'inventory', revision_id)
2455
2252
        return text
2456
2253
 
 
2254
    @needs_read_lock
 
2255
    def get_inventory_sha1(self, revision_id):
 
2256
        """Return the sha1 hash of the inventory entry
 
2257
        """
 
2258
        return self.get_revision(revision_id).inventory_sha1
 
2259
 
2457
2260
    def get_rev_id_for_revno(self, revno, known_pair):
2458
2261
        """Return the revision id of a revno, given a later (revno, revid)
2459
2262
        pair in the same history.
2510
2313
            else:
2511
2314
                next_id = parents[0]
2512
2315
 
 
2316
    @needs_read_lock
 
2317
    def get_revision_inventory(self, revision_id):
 
2318
        """Return inventory of a past revision."""
 
2319
        # TODO: Unify this with get_inventory()
 
2320
        # bzr 0.0.6 and later imposes the constraint that the inventory_id
 
2321
        # must be the same as its revision, so this is trivial.
 
2322
        if revision_id is None:
 
2323
            # This does not make sense: if there is no revision,
 
2324
            # then it is the current tree inventory surely ?!
 
2325
            # and thus get_root_id() is something that looks at the last
 
2326
            # commit on the branch, and the get_root_id is an inventory check.
 
2327
            raise NotImplementedError
 
2328
            # return Inventory(self.get_root_id())
 
2329
        else:
 
2330
            return self.get_inventory(revision_id)
 
2331
 
2513
2332
    def is_shared(self):
2514
2333
        """Return True if this repository is flagged as a shared repository."""
2515
2334
        raise NotImplementedError(self.is_shared)
2549
2368
            return RevisionTree(self, Inventory(root_id=None),
2550
2369
                                _mod_revision.NULL_REVISION)
2551
2370
        else:
2552
 
            inv = self.get_inventory(revision_id)
 
2371
            inv = self.get_revision_inventory(revision_id)
2553
2372
            return RevisionTree(self, inv, revision_id)
2554
2373
 
2555
2374
    def revision_trees(self, revision_ids):
2608
2427
            keys = tsort.topo_sort(parent_map)
2609
2428
        return [None] + list(keys)
2610
2429
 
2611
 
    def pack(self, hint=None, clean_obsolete_packs=False):
 
2430
    def pack(self, hint=None):
2612
2431
        """Compress the data within the repository.
2613
2432
 
2614
2433
        This operation only makes sense for some repository types. For other
2624
2443
            obtained from the result of commit_write_group(). Out of
2625
2444
            date hints are simply ignored, because concurrent operations
2626
2445
            can obsolete them rapidly.
2627
 
 
2628
 
        :param clean_obsolete_packs: Clean obsolete packs immediately after
2629
 
            the pack operation.
2630
2446
        """
2631
2447
 
2632
2448
    def get_transaction(self):
2648
2464
        for ((revision_id,), parent_keys) in \
2649
2465
                self.revisions.get_parent_map(query_keys).iteritems():
2650
2466
            if parent_keys:
2651
 
                result[revision_id] = tuple([parent_revid
2652
 
                    for (parent_revid,) in parent_keys])
 
2467
                result[revision_id] = tuple(parent_revid
 
2468
                    for (parent_revid,) in parent_keys)
2653
2469
            else:
2654
2470
                result[revision_id] = (_mod_revision.NULL_REVISION,)
2655
2471
        return result
2657
2473
    def _make_parents_provider(self):
2658
2474
        return self
2659
2475
 
2660
 
    @needs_read_lock
2661
 
    def get_known_graph_ancestry(self, revision_ids):
2662
 
        """Return the known graph for a set of revision ids and their ancestors.
2663
 
        """
2664
 
        st = static_tuple.StaticTuple
2665
 
        revision_keys = [st(r_id).intern() for r_id in revision_ids]
2666
 
        known_graph = self.revisions.get_known_graph_ancestry(revision_keys)
2667
 
        return graph.GraphThunkIdsToKeys(known_graph)
2668
 
 
2669
2476
    def get_graph(self, other_repository=None):
2670
2477
        """Return the graph walker for this repository format"""
2671
2478
        parents_provider = self._make_parents_provider()
2675
2482
                [parents_provider, other_repository._make_parents_provider()])
2676
2483
        return graph.Graph(parents_provider)
2677
2484
 
2678
 
    def _get_versioned_file_checker(self, text_key_references=None,
2679
 
        ancestors=None):
 
2485
    def _get_versioned_file_checker(self, text_key_references=None):
2680
2486
        """Return an object suitable for checking versioned files.
2681
2487
        
2682
2488
        :param text_key_references: if non-None, an already built
2684
2490
            to whether they were referred to by the inventory of the
2685
2491
            revision_id that they contain. If None, this will be
2686
2492
            calculated.
2687
 
        :param ancestors: Optional result from
2688
 
            self.get_graph().get_parent_map(self.all_revision_ids()) if already
2689
 
            available.
2690
2493
        """
2691
2494
        return _VersionedFileChecker(self,
2692
 
            text_key_references=text_key_references, ancestors=ancestors)
 
2495
            text_key_references=text_key_references)
2693
2496
 
2694
2497
    def revision_ids_to_search_result(self, result_set):
2695
2498
        """Convert a set of revision ids to a graph SearchResult."""
2745
2548
        return record.get_bytes_as('fulltext')
2746
2549
 
2747
2550
    @needs_read_lock
2748
 
    def check(self, revision_ids=None, callback_refs=None, check_repo=True):
 
2551
    def check(self, revision_ids=None):
2749
2552
        """Check consistency of all history of given revision_ids.
2750
2553
 
2751
2554
        Different repository implementations should override _check().
2752
2555
 
2753
2556
        :param revision_ids: A non-empty list of revision_ids whose ancestry
2754
2557
             will be checked.  Typically the last revision_id of a branch.
2755
 
        :param callback_refs: A dict of check-refs to resolve and callback
2756
 
            the check/_check method on the items listed as wanting the ref.
2757
 
            see bzrlib.check.
2758
 
        :param check_repo: If False do not check the repository contents, just 
2759
 
            calculate the data callback_refs requires and call them back.
2760
2558
        """
2761
 
        return self._check(revision_ids, callback_refs=callback_refs,
2762
 
            check_repo=check_repo)
 
2559
        return self._check(revision_ids)
2763
2560
 
2764
 
    def _check(self, revision_ids, callback_refs, check_repo):
2765
 
        result = check.Check(self, check_repo=check_repo)
2766
 
        result.check(callback_refs)
 
2561
    def _check(self, revision_ids):
 
2562
        result = check.Check(self)
 
2563
        result.check()
2767
2564
        return result
2768
2565
 
2769
 
    def _warn_if_deprecated(self, branch=None):
 
2566
    def _warn_if_deprecated(self):
2770
2567
        global _deprecation_warning_done
2771
2568
        if _deprecation_warning_done:
2772
2569
            return
2773
 
        try:
2774
 
            if branch is None:
2775
 
                conf = config.GlobalConfig()
2776
 
            else:
2777
 
                conf = branch.get_config()
2778
 
            if conf.suppress_warning('format_deprecation'):
2779
 
                return
2780
 
            warning("Format %s for %s is deprecated -"
2781
 
                    " please use 'bzr upgrade' to get better performance"
2782
 
                    % (self._format, self.bzrdir.transport.base))
2783
 
        finally:
2784
 
            _deprecation_warning_done = True
 
2570
        _deprecation_warning_done = True
 
2571
        warning("Format %s for %s is deprecated - please use 'bzr upgrade' to get better performance"
 
2572
                % (self._format, self.bzrdir.transport.base))
2785
2573
 
2786
2574
    def supports_rich_root(self):
2787
2575
        return self._format.rich_root_data
3068
2856
    # help), and for fetching when data won't have come from the same
3069
2857
    # compressor.
3070
2858
    pack_compresses = False
3071
 
    # Does the repository inventory storage understand references to trees?
3072
 
    supports_tree_reference = None
3073
 
    # Is the format experimental ?
3074
 
    experimental = False
3075
2859
 
3076
 
    def __repr__(self):
3077
 
        return "%s()" % self.__class__.__name__
 
2860
    def __str__(self):
 
2861
        return "<%s>" % self.__class__.__name__
3078
2862
 
3079
2863
    def __eq__(self, other):
3080
2864
        # format objects are generally stateless
3093
2877
        """
3094
2878
        try:
3095
2879
            transport = a_bzrdir.get_repository_transport(None)
3096
 
            format_string = transport.get_bytes("format")
 
2880
            format_string = transport.get("format").read()
3097
2881
            return format_registry.get(format_string)
3098
2882
        except errors.NoSuchFile:
3099
2883
            raise errors.NoRepositoryPresent(a_bzrdir)
3181
2965
        raise NotImplementedError(self.network_name)
3182
2966
 
3183
2967
    def check_conversion_target(self, target_format):
3184
 
        if self.rich_root_data and not target_format.rich_root_data:
3185
 
            raise errors.BadConversionTarget(
3186
 
                'Does not support rich root data.', target_format,
3187
 
                from_format=self)
3188
 
        if (self.supports_tree_reference and 
3189
 
            not getattr(target_format, 'supports_tree_reference', False)):
3190
 
            raise errors.BadConversionTarget(
3191
 
                'Does not support nested trees', target_format,
3192
 
                from_format=self)
 
2968
        raise NotImplementedError(self.check_conversion_target)
3193
2969
 
3194
2970
    def open(self, a_bzrdir, _found=False):
3195
2971
        """Return an instance of this format for the bzrdir a_bzrdir.
3198
2974
        """
3199
2975
        raise NotImplementedError(self.open)
3200
2976
 
3201
 
    def _run_post_repo_init_hooks(self, repository, a_bzrdir, shared):
3202
 
        from bzrlib.bzrdir import BzrDir, RepoInitHookParams
3203
 
        hooks = BzrDir.hooks['post_repo_init']
3204
 
        if not hooks:
3205
 
            return
3206
 
        params = RepoInitHookParams(repository, self, a_bzrdir, shared)
3207
 
        for hook in hooks:
3208
 
            hook(params)
3209
 
 
3210
2977
 
3211
2978
class MetaDirRepositoryFormat(RepositoryFormat):
3212
2979
    """Common base class for the new repositories using the metadir layout."""
3417
3184
 
3418
3185
        :param revision_id: if None all content is copied, if NULL_REVISION no
3419
3186
                            content is copied.
3420
 
        :param pb: ignored.
 
3187
        :param pb: optional progress bar to use for progress reports. If not
 
3188
                   provided a default one will be created.
3421
3189
        :return: None.
3422
3190
        """
3423
 
        ui.ui_factory.warn_experimental_format_fetch(self)
3424
3191
        from bzrlib.fetch import RepoFetcher
3425
 
        # See <https://launchpad.net/bugs/456077> asking for a warning here
3426
 
        if self.source._format.network_name() != self.target._format.network_name():
3427
 
            ui.ui_factory.show_user_warning('cross_format_fetch',
3428
 
                from_format=self.source._format,
3429
 
                to_format=self.target._format)
3430
3192
        f = RepoFetcher(to_repository=self.target,
3431
3193
                               from_repository=self.source,
3432
3194
                               last_revision=revision_id,
3433
3195
                               fetch_spec=fetch_spec,
3434
 
                               find_ghosts=find_ghosts)
 
3196
                               pb=pb, find_ghosts=find_ghosts)
3435
3197
 
3436
3198
    def _walk_to_common_revisions(self, revision_ids):
3437
3199
        """Walk out from revision_ids in source to revisions target has.
3606
3368
                self.target.texts.insert_record_stream(
3607
3369
                    self.source.texts.get_record_stream(
3608
3370
                        self.source.texts.keys(), 'topological', False))
3609
 
                pb.update('Copying inventory', 0, 1)
 
3371
                pb.update('copying inventory', 0, 1)
3610
3372
                self.target.inventories.insert_record_stream(
3611
3373
                    self.source.inventories.get_record_stream(
3612
3374
                        self.source.inventories.keys(), 'topological', False))
3726
3488
        return self.source.revision_ids_to_search_result(result_set)
3727
3489
 
3728
3490
 
3729
 
class InterDifferingSerializer(InterRepository):
3730
 
 
3731
 
    @classmethod
3732
 
    def _get_repo_format_to_test(self):
3733
 
        return None
3734
 
 
3735
 
    @staticmethod
3736
 
    def is_compatible(source, target):
3737
 
        """Be compatible with Knit2 source and Knit3 target"""
3738
 
        # This is redundant with format.check_conversion_target(), however that
3739
 
        # raises an exception, and we just want to say "False" as in we won't
3740
 
        # support converting between these formats.
3741
 
        if 'IDS_never' in debug.debug_flags:
3742
 
            return False
3743
 
        if source.supports_rich_root() and not target.supports_rich_root():
3744
 
            return False
3745
 
        if (source._format.supports_tree_reference
3746
 
            and not target._format.supports_tree_reference):
3747
 
            return False
3748
 
        if target._fallback_repositories and target._format.supports_chks:
3749
 
            # IDS doesn't know how to copy CHKs for the parent inventories it
3750
 
            # adds to stacked repos.
3751
 
            return False
3752
 
        if 'IDS_always' in debug.debug_flags:
3753
 
            return True
3754
 
        # Only use this code path for local source and target.  IDS does far
3755
 
        # too much IO (both bandwidth and roundtrips) over a network.
3756
 
        if not source.bzrdir.transport.base.startswith('file:///'):
3757
 
            return False
3758
 
        if not target.bzrdir.transport.base.startswith('file:///'):
3759
 
            return False
3760
 
        return True
3761
 
 
3762
 
    def _get_trees(self, revision_ids, cache):
3763
 
        possible_trees = []
3764
 
        for rev_id in revision_ids:
3765
 
            if rev_id in cache:
3766
 
                possible_trees.append((rev_id, cache[rev_id]))
3767
 
            else:
3768
 
                # Not cached, but inventory might be present anyway.
3769
 
                try:
3770
 
                    tree = self.source.revision_tree(rev_id)
3771
 
                except errors.NoSuchRevision:
3772
 
                    # Nope, parent is ghost.
3773
 
                    pass
3774
 
                else:
3775
 
                    cache[rev_id] = tree
3776
 
                    possible_trees.append((rev_id, tree))
3777
 
        return possible_trees
3778
 
 
3779
 
    def _get_delta_for_revision(self, tree, parent_ids, possible_trees):
3780
 
        """Get the best delta and base for this revision.
3781
 
 
3782
 
        :return: (basis_id, delta)
3783
 
        """
3784
 
        deltas = []
3785
 
        # Generate deltas against each tree, to find the shortest.
3786
 
        texts_possibly_new_in_tree = set()
3787
 
        for basis_id, basis_tree in possible_trees:
3788
 
            delta = tree.inventory._make_delta(basis_tree.inventory)
3789
 
            for old_path, new_path, file_id, new_entry in delta:
3790
 
                if new_path is None:
3791
 
                    # This file_id isn't present in the new rev, so we don't
3792
 
                    # care about it.
3793
 
                    continue
3794
 
                if not new_path:
3795
 
                    # Rich roots are handled elsewhere...
3796
 
                    continue
3797
 
                kind = new_entry.kind
3798
 
                if kind != 'directory' and kind != 'file':
3799
 
                    # No text record associated with this inventory entry.
3800
 
                    continue
3801
 
                # This is a directory or file that has changed somehow.
3802
 
                texts_possibly_new_in_tree.add((file_id, new_entry.revision))
3803
 
            deltas.append((len(delta), basis_id, delta))
3804
 
        deltas.sort()
3805
 
        return deltas[0][1:]
3806
 
 
3807
 
    def _fetch_parent_invs_for_stacking(self, parent_map, cache):
3808
 
        """Find all parent revisions that are absent, but for which the
3809
 
        inventory is present, and copy those inventories.
3810
 
 
3811
 
        This is necessary to preserve correctness when the source is stacked
3812
 
        without fallbacks configured.  (Note that in cases like upgrade the
3813
 
        source may be not have _fallback_repositories even though it is
3814
 
        stacked.)
3815
 
        """
3816
 
        parent_revs = set()
3817
 
        for parents in parent_map.values():
3818
 
            parent_revs.update(parents)
3819
 
        present_parents = self.source.get_parent_map(parent_revs)
3820
 
        absent_parents = set(parent_revs).difference(present_parents)
3821
 
        parent_invs_keys_for_stacking = self.source.inventories.get_parent_map(
3822
 
            (rev_id,) for rev_id in absent_parents)
3823
 
        parent_inv_ids = [key[-1] for key in parent_invs_keys_for_stacking]
3824
 
        for parent_tree in self.source.revision_trees(parent_inv_ids):
3825
 
            current_revision_id = parent_tree.get_revision_id()
3826
 
            parents_parents_keys = parent_invs_keys_for_stacking[
3827
 
                (current_revision_id,)]
3828
 
            parents_parents = [key[-1] for key in parents_parents_keys]
3829
 
            basis_id = _mod_revision.NULL_REVISION
3830
 
            basis_tree = self.source.revision_tree(basis_id)
3831
 
            delta = parent_tree.inventory._make_delta(basis_tree.inventory)
3832
 
            self.target.add_inventory_by_delta(
3833
 
                basis_id, delta, current_revision_id, parents_parents)
3834
 
            cache[current_revision_id] = parent_tree
3835
 
 
3836
 
    def _fetch_batch(self, revision_ids, basis_id, cache, a_graph=None):
3837
 
        """Fetch across a few revisions.
3838
 
 
3839
 
        :param revision_ids: The revisions to copy
3840
 
        :param basis_id: The revision_id of a tree that must be in cache, used
3841
 
            as a basis for delta when no other base is available
3842
 
        :param cache: A cache of RevisionTrees that we can use.
3843
 
        :param a_graph: A Graph object to determine the heads() of the
3844
 
            rich-root data stream.
3845
 
        :return: The revision_id of the last converted tree. The RevisionTree
3846
 
            for it will be in cache
3847
 
        """
3848
 
        # Walk though all revisions; get inventory deltas, copy referenced
3849
 
        # texts that delta references, insert the delta, revision and
3850
 
        # signature.
3851
 
        root_keys_to_create = set()
3852
 
        text_keys = set()
3853
 
        pending_deltas = []
3854
 
        pending_revisions = []
3855
 
        parent_map = self.source.get_parent_map(revision_ids)
3856
 
        self._fetch_parent_invs_for_stacking(parent_map, cache)
3857
 
        self.source._safe_to_return_from_cache = True
3858
 
        for tree in self.source.revision_trees(revision_ids):
3859
 
            # Find a inventory delta for this revision.
3860
 
            # Find text entries that need to be copied, too.
3861
 
            current_revision_id = tree.get_revision_id()
3862
 
            parent_ids = parent_map.get(current_revision_id, ())
3863
 
            parent_trees = self._get_trees(parent_ids, cache)
3864
 
            possible_trees = list(parent_trees)
3865
 
            if len(possible_trees) == 0:
3866
 
                # There either aren't any parents, or the parents are ghosts,
3867
 
                # so just use the last converted tree.
3868
 
                possible_trees.append((basis_id, cache[basis_id]))
3869
 
            basis_id, delta = self._get_delta_for_revision(tree, parent_ids,
3870
 
                                                           possible_trees)
3871
 
            revision = self.source.get_revision(current_revision_id)
3872
 
            pending_deltas.append((basis_id, delta,
3873
 
                current_revision_id, revision.parent_ids))
3874
 
            if self._converting_to_rich_root:
3875
 
                self._revision_id_to_root_id[current_revision_id] = \
3876
 
                    tree.get_root_id()
3877
 
            # Determine which texts are in present in this revision but not in
3878
 
            # any of the available parents.
3879
 
            texts_possibly_new_in_tree = set()
3880
 
            for old_path, new_path, file_id, entry in delta:
3881
 
                if new_path is None:
3882
 
                    # This file_id isn't present in the new rev
3883
 
                    continue
3884
 
                if not new_path:
3885
 
                    # This is the root
3886
 
                    if not self.target.supports_rich_root():
3887
 
                        # The target doesn't support rich root, so we don't
3888
 
                        # copy
3889
 
                        continue
3890
 
                    if self._converting_to_rich_root:
3891
 
                        # This can't be copied normally, we have to insert
3892
 
                        # it specially
3893
 
                        root_keys_to_create.add((file_id, entry.revision))
3894
 
                        continue
3895
 
                kind = entry.kind
3896
 
                texts_possibly_new_in_tree.add((file_id, entry.revision))
3897
 
            for basis_id, basis_tree in possible_trees:
3898
 
                basis_inv = basis_tree.inventory
3899
 
                for file_key in list(texts_possibly_new_in_tree):
3900
 
                    file_id, file_revision = file_key
3901
 
                    try:
3902
 
                        entry = basis_inv[file_id]
3903
 
                    except errors.NoSuchId:
3904
 
                        continue
3905
 
                    if entry.revision == file_revision:
3906
 
                        texts_possibly_new_in_tree.remove(file_key)
3907
 
            text_keys.update(texts_possibly_new_in_tree)
3908
 
            pending_revisions.append(revision)
3909
 
            cache[current_revision_id] = tree
3910
 
            basis_id = current_revision_id
3911
 
        self.source._safe_to_return_from_cache = False
3912
 
        # Copy file texts
3913
 
        from_texts = self.source.texts
3914
 
        to_texts = self.target.texts
3915
 
        if root_keys_to_create:
3916
 
            root_stream = _mod_fetch._new_root_data_stream(
3917
 
                root_keys_to_create, self._revision_id_to_root_id, parent_map,
3918
 
                self.source, graph=a_graph)
3919
 
            to_texts.insert_record_stream(root_stream)
3920
 
        to_texts.insert_record_stream(from_texts.get_record_stream(
3921
 
            text_keys, self.target._format._fetch_order,
3922
 
            not self.target._format._fetch_uses_deltas))
3923
 
        # insert inventory deltas
3924
 
        for delta in pending_deltas:
3925
 
            self.target.add_inventory_by_delta(*delta)
3926
 
        if self.target._fallback_repositories:
3927
 
            # Make sure this stacked repository has all the parent inventories
3928
 
            # for the new revisions that we are about to insert.  We do this
3929
 
            # before adding the revisions so that no revision is added until
3930
 
            # all the inventories it may depend on are added.
3931
 
            # Note that this is overzealous, as we may have fetched these in an
3932
 
            # earlier batch.
3933
 
            parent_ids = set()
3934
 
            revision_ids = set()
3935
 
            for revision in pending_revisions:
3936
 
                revision_ids.add(revision.revision_id)
3937
 
                parent_ids.update(revision.parent_ids)
3938
 
            parent_ids.difference_update(revision_ids)
3939
 
            parent_ids.discard(_mod_revision.NULL_REVISION)
3940
 
            parent_map = self.source.get_parent_map(parent_ids)
3941
 
            # we iterate over parent_map and not parent_ids because we don't
3942
 
            # want to try copying any revision which is a ghost
3943
 
            for parent_tree in self.source.revision_trees(parent_map):
3944
 
                current_revision_id = parent_tree.get_revision_id()
3945
 
                parents_parents = parent_map[current_revision_id]
3946
 
                possible_trees = self._get_trees(parents_parents, cache)
3947
 
                if len(possible_trees) == 0:
3948
 
                    # There either aren't any parents, or the parents are
3949
 
                    # ghosts, so just use the last converted tree.
3950
 
                    possible_trees.append((basis_id, cache[basis_id]))
3951
 
                basis_id, delta = self._get_delta_for_revision(parent_tree,
3952
 
                    parents_parents, possible_trees)
3953
 
                self.target.add_inventory_by_delta(
3954
 
                    basis_id, delta, current_revision_id, parents_parents)
3955
 
        # insert signatures and revisions
3956
 
        for revision in pending_revisions:
3957
 
            try:
3958
 
                signature = self.source.get_signature_text(
3959
 
                    revision.revision_id)
3960
 
                self.target.add_signature_text(revision.revision_id,
3961
 
                    signature)
3962
 
            except errors.NoSuchRevision:
3963
 
                pass
3964
 
            self.target.add_revision(revision.revision_id, revision)
3965
 
        return basis_id
3966
 
 
3967
 
    def _fetch_all_revisions(self, revision_ids, pb):
3968
 
        """Fetch everything for the list of revisions.
3969
 
 
3970
 
        :param revision_ids: The list of revisions to fetch. Must be in
3971
 
            topological order.
3972
 
        :param pb: A ProgressTask
3973
 
        :return: None
3974
 
        """
3975
 
        basis_id, basis_tree = self._get_basis(revision_ids[0])
3976
 
        batch_size = 100
3977
 
        cache = lru_cache.LRUCache(100)
3978
 
        cache[basis_id] = basis_tree
3979
 
        del basis_tree # We don't want to hang on to it here
3980
 
        hints = []
3981
 
        if self._converting_to_rich_root and len(revision_ids) > 100:
3982
 
            a_graph = _mod_fetch._get_rich_root_heads_graph(self.source,
3983
 
                                                            revision_ids)
3984
 
        else:
3985
 
            a_graph = None
3986
 
 
3987
 
        for offset in range(0, len(revision_ids), batch_size):
3988
 
            self.target.start_write_group()
3989
 
            try:
3990
 
                pb.update('Transferring revisions', offset,
3991
 
                          len(revision_ids))
3992
 
                batch = revision_ids[offset:offset+batch_size]
3993
 
                basis_id = self._fetch_batch(batch, basis_id, cache,
3994
 
                                             a_graph=a_graph)
3995
 
            except:
3996
 
                self.source._safe_to_return_from_cache = False
3997
 
                self.target.abort_write_group()
3998
 
                raise
3999
 
            else:
4000
 
                hint = self.target.commit_write_group()
4001
 
                if hint:
4002
 
                    hints.extend(hint)
4003
 
        if hints and self.target._format.pack_compresses:
4004
 
            self.target.pack(hint=hints)
4005
 
        pb.update('Transferring revisions', len(revision_ids),
4006
 
                  len(revision_ids))
4007
 
 
4008
 
    @needs_write_lock
4009
 
    def fetch(self, revision_id=None, pb=None, find_ghosts=False,
4010
 
            fetch_spec=None):
4011
 
        """See InterRepository.fetch()."""
4012
 
        if fetch_spec is not None:
4013
 
            raise AssertionError("Not implemented yet...")
4014
 
        ui.ui_factory.warn_experimental_format_fetch(self)
4015
 
        if (not self.source.supports_rich_root()
4016
 
            and self.target.supports_rich_root()):
4017
 
            self._converting_to_rich_root = True
4018
 
            self._revision_id_to_root_id = {}
4019
 
        else:
4020
 
            self._converting_to_rich_root = False
4021
 
        # See <https://launchpad.net/bugs/456077> asking for a warning here
4022
 
        if self.source._format.network_name() != self.target._format.network_name():
4023
 
            ui.ui_factory.show_user_warning('cross_format_fetch',
4024
 
                from_format=self.source._format,
4025
 
                to_format=self.target._format)
4026
 
        revision_ids = self.target.search_missing_revision_ids(self.source,
4027
 
            revision_id, find_ghosts=find_ghosts).get_keys()
4028
 
        if not revision_ids:
4029
 
            return 0, 0
4030
 
        revision_ids = tsort.topo_sort(
4031
 
            self.source.get_graph().get_parent_map(revision_ids))
4032
 
        if not revision_ids:
4033
 
            return 0, 0
4034
 
        # Walk though all revisions; get inventory deltas, copy referenced
4035
 
        # texts that delta references, insert the delta, revision and
4036
 
        # signature.
4037
 
        if pb is None:
4038
 
            my_pb = ui.ui_factory.nested_progress_bar()
4039
 
            pb = my_pb
4040
 
        else:
4041
 
            symbol_versioning.warn(
4042
 
                symbol_versioning.deprecated_in((1, 14, 0))
4043
 
                % "pb parameter to fetch()")
4044
 
            my_pb = None
4045
 
        try:
4046
 
            self._fetch_all_revisions(revision_ids, pb)
4047
 
        finally:
4048
 
            if my_pb is not None:
4049
 
                my_pb.finished()
4050
 
        return len(revision_ids), 0
4051
 
 
4052
 
    def _get_basis(self, first_revision_id):
4053
 
        """Get a revision and tree which exists in the target.
4054
 
 
4055
 
        This assumes that first_revision_id is selected for transmission
4056
 
        because all other ancestors are already present. If we can't find an
4057
 
        ancestor we fall back to NULL_REVISION since we know that is safe.
4058
 
 
4059
 
        :return: (basis_id, basis_tree)
4060
 
        """
4061
 
        first_rev = self.source.get_revision(first_revision_id)
4062
 
        try:
4063
 
            basis_id = first_rev.parent_ids[0]
4064
 
            # only valid as a basis if the target has it
4065
 
            self.target.get_revision(basis_id)
4066
 
            # Try to get a basis tree - if its a ghost it will hit the
4067
 
            # NoSuchRevision case.
4068
 
            basis_tree = self.source.revision_tree(basis_id)
4069
 
        except (IndexError, errors.NoSuchRevision):
4070
 
            basis_id = _mod_revision.NULL_REVISION
4071
 
            basis_tree = self.source.revision_tree(basis_id)
4072
 
        return basis_id, basis_tree
4073
 
 
4074
 
 
4075
 
InterRepository.register_optimiser(InterDifferingSerializer)
4076
3491
InterRepository.register_optimiser(InterSameDataRepository)
4077
3492
InterRepository.register_optimiser(InterWeaveRepo)
4078
3493
InterRepository.register_optimiser(InterKnitRepo)
4097
3512
        :param to_convert: The disk object to convert.
4098
3513
        :param pb: a progress bar to use for progress information.
4099
3514
        """
4100
 
        pb = ui.ui_factory.nested_progress_bar()
 
3515
        self.pb = pb
4101
3516
        self.count = 0
4102
3517
        self.total = 4
4103
3518
        # this is only useful with metadir layouts - separated repo content.
4104
3519
        # trigger an assertion if not such
4105
3520
        repo._format.get_format_string()
4106
3521
        self.repo_dir = repo.bzrdir
4107
 
        pb.update('Moving repository to repository.backup')
 
3522
        self.step('Moving repository to repository.backup')
4108
3523
        self.repo_dir.transport.move('repository', 'repository.backup')
4109
3524
        backup_transport =  self.repo_dir.transport.clone('repository.backup')
4110
3525
        repo._format.check_conversion_target(self.target_format)
4111
3526
        self.source_repo = repo._format.open(self.repo_dir,
4112
3527
            _found=True,
4113
3528
            _override_transport=backup_transport)
4114
 
        pb.update('Creating new repository')
 
3529
        self.step('Creating new repository')
4115
3530
        converted = self.target_format.initialize(self.repo_dir,
4116
3531
                                                  self.source_repo.is_shared())
4117
3532
        converted.lock_write()
4118
3533
        try:
4119
 
            pb.update('Copying content')
 
3534
            self.step('Copying content into repository.')
4120
3535
            self.source_repo.copy_content_into(converted)
4121
3536
        finally:
4122
3537
            converted.unlock()
4123
 
        pb.update('Deleting old repository content')
 
3538
        self.step('Deleting old repository content.')
4124
3539
        self.repo_dir.transport.delete_tree('repository.backup')
4125
 
        ui.ui_factory.note('repository converted')
4126
 
        pb.finished()
 
3540
        self.pb.note('repository converted')
 
3541
 
 
3542
    def step(self, message):
 
3543
        """Update the pb by a step."""
 
3544
        self.count +=1
 
3545
        self.pb.update(message, self.count, self.total)
4127
3546
 
4128
3547
 
4129
3548
_unescape_map = {
4158
3577
 
4159
3578
class _VersionedFileChecker(object):
4160
3579
 
4161
 
    def __init__(self, repository, text_key_references=None, ancestors=None):
 
3580
    def __init__(self, repository, text_key_references=None):
4162
3581
        self.repository = repository
4163
3582
        self.text_index = self.repository._generate_text_key_index(
4164
 
            text_key_references=text_key_references, ancestors=ancestors)
 
3583
            text_key_references=text_key_references)
4165
3584
 
4166
3585
    def calculate_file_version_parents(self, text_key):
4167
3586
        """Calculate the correct parents for a file version according to
4185
3604
            revision_id) tuples for versions that are present in this versioned
4186
3605
            file, but not used by the corresponding inventory.
4187
3606
        """
4188
 
        local_progress = None
4189
 
        if progress_bar is None:
4190
 
            local_progress = ui.ui_factory.nested_progress_bar()
4191
 
            progress_bar = local_progress
4192
 
        try:
4193
 
            return self._check_file_version_parents(texts, progress_bar)
4194
 
        finally:
4195
 
            if local_progress:
4196
 
                local_progress.finished()
4197
 
 
4198
 
    def _check_file_version_parents(self, texts, progress_bar):
4199
 
        """See check_file_version_parents."""
4200
3607
        wrong_parents = {}
4201
3608
        self.file_ids = set([file_id for file_id, _ in
4202
3609
            self.text_index.iterkeys()])
4208
3615
        text_keys = self.repository.texts.keys()
4209
3616
        unused_keys = frozenset(text_keys) - set(self.text_index)
4210
3617
        for num, key in enumerate(self.text_index.iterkeys()):
4211
 
            progress_bar.update('checking text graph', num, n_versions)
 
3618
            if progress_bar is not None:
 
3619
                progress_bar.update('checking text graph', num, n_versions)
4212
3620
            correct_parents = self.calculate_file_version_parents(key)
4213
3621
            try:
4214
3622
                knit_parents = parent_map[key]
4298
3706
                pass
4299
3707
            else:
4300
3708
                new_pack.set_write_cache_size(1024*1024)
 
3709
        delta_deserializer = inventory_delta.InventoryDeltaSerializer()
4301
3710
        for substream_type, substream in stream:
4302
 
            if 'stream' in debug.debug_flags:
4303
 
                mutter('inserting substream: %s', substream_type)
4304
3711
            if substream_type == 'texts':
4305
3712
                self.target_repo.texts.insert_record_stream(substream)
4306
3713
            elif substream_type == 'inventories':
4309
3716
                        substream)
4310
3717
                else:
4311
3718
                    self._extract_and_insert_inventories(
4312
 
                        substream, src_serializer)
4313
 
            elif substream_type == 'inventory-deltas':
4314
 
                self._extract_and_insert_inventory_deltas(
4315
 
                    substream, src_serializer)
 
3719
                        substream, src_serializer,
 
3720
                        delta_deserializer.parse_text_bytes)
4316
3721
            elif substream_type == 'chk_bytes':
4317
3722
                # XXX: This doesn't support conversions, as it assumes the
4318
3723
                #      conversion was done in the fetch code.
4349
3754
                ):
4350
3755
                if versioned_file is None:
4351
3756
                    continue
4352
 
                # TODO: key is often going to be a StaticTuple object
4353
 
                #       I don't believe we can define a method by which
4354
 
                #       (prefix,) + StaticTuple will work, though we could
4355
 
                #       define a StaticTuple.sq_concat that would allow you to
4356
 
                #       pass in either a tuple or a StaticTuple as the second
4357
 
                #       object, so instead we could have:
4358
 
                #       StaticTuple(prefix) + key here...
4359
3757
                missing_keys.update((prefix,) + key for key in
4360
3758
                    versioned_file.get_missing_compression_parent_keys())
4361
3759
        except NotImplementedError:
4376
3774
            self.target_repo.pack(hint=hint)
4377
3775
        return [], set()
4378
3776
 
4379
 
    def _extract_and_insert_inventory_deltas(self, substream, serializer):
4380
 
        target_rich_root = self.target_repo._format.rich_root_data
4381
 
        target_tree_refs = self.target_repo._format.supports_tree_reference
4382
 
        for record in substream:
4383
 
            # Insert the delta directly
4384
 
            inventory_delta_bytes = record.get_bytes_as('fulltext')
4385
 
            deserialiser = inventory_delta.InventoryDeltaDeserializer()
4386
 
            try:
4387
 
                parse_result = deserialiser.parse_text_bytes(
4388
 
                    inventory_delta_bytes)
4389
 
            except inventory_delta.IncompatibleInventoryDelta, err:
4390
 
                trace.mutter("Incompatible delta: %s", err.msg)
4391
 
                raise errors.IncompatibleRevision(self.target_repo._format)
4392
 
            basis_id, new_id, rich_root, tree_refs, inv_delta = parse_result
4393
 
            revision_id = new_id
4394
 
            parents = [key[0] for key in record.parents]
4395
 
            self.target_repo.add_inventory_by_delta(
4396
 
                basis_id, inv_delta, revision_id, parents)
4397
 
 
4398
3777
    def _extract_and_insert_inventories(self, substream, serializer,
4399
3778
            parse_delta=None):
4400
3779
        """Generate a new inventory versionedfile in target, converting data.
4405
3784
        target_rich_root = self.target_repo._format.rich_root_data
4406
3785
        target_tree_refs = self.target_repo._format.supports_tree_reference
4407
3786
        for record in substream:
 
3787
            if record.storage_kind == 'inventory-delta':
 
3788
                # Insert the delta directly
 
3789
                delta_tuple = record.get_bytes_as('inventory-delta')
 
3790
                basis_id, new_id, inv_delta, format_flags = delta_tuple
 
3791
                # Make sure the delta is compatible with the target
 
3792
                if format_flags[0] and not target_rich_root:
 
3793
                    raise errors.IncompatibleRevision(self.target_repo._format)
 
3794
                if format_flags[1] and not target_tree_refs:
 
3795
                    raise errors.IncompatibleRevision(self.target_repo._format)
 
3796
                revision_id = new_id[0]
 
3797
                parents = [key[0] for key in record.parents]
 
3798
                self.target_repo.add_inventory_by_delta(
 
3799
                    basis_id, inv_delta, revision_id, parents)
 
3800
                continue
4408
3801
            # It's not a delta, so it must be a fulltext in the source
4409
3802
            # serializer's format.
4410
3803
            bytes = record.get_bytes_as('fulltext')
4473
3866
        fetching the inventory weave.
4474
3867
        """
4475
3868
        if self._rich_root_upgrade():
4476
 
            return _mod_fetch.Inter1and2Helper(
 
3869
            import bzrlib.fetch
 
3870
            return bzrlib.fetch.Inter1and2Helper(
4477
3871
                self.from_repository).generate_root_texts(revs)
4478
3872
        else:
4479
3873
            return []
4482
3876
        phase = 'file'
4483
3877
        revs = search.get_keys()
4484
3878
        graph = self.from_repository.get_graph()
4485
 
        revs = tsort.topo_sort(graph.get_parent_map(revs))
 
3879
        revs = list(graph.iter_topo_order(revs))
4486
3880
        data_to_fetch = self.from_repository.item_keys_introduced_by(revs)
4487
3881
        text_keys = []
4488
3882
        for knit_kind, file_id, revisions in data_to_fetch:
4555
3949
                # Some missing keys are genuinely ghosts, filter those out.
4556
3950
                present = self.from_repository.inventories.get_parent_map(keys)
4557
3951
                revs = [key[0] for key in present]
 
3952
                # As with the original stream, we may need to generate root
 
3953
                # texts for the inventories we're about to stream.
 
3954
                for _ in self._generate_root_texts(revs):
 
3955
                    yield _
4558
3956
                # Get the inventory stream more-or-less as we do for the
4559
3957
                # original stream; there's no reason to assume that records
4560
3958
                # direct from the source will be suitable for the sink.  (Think
4585
3983
 
4586
3984
    def _get_inventory_stream(self, revision_ids, missing=False):
4587
3985
        from_format = self.from_repository._format
4588
 
        if (from_format.supports_chks and self.to_format.supports_chks and
4589
 
            from_format.network_name() == self.to_format.network_name()):
 
3986
        if (from_format.supports_chks and self.to_format.supports_chks):
4590
3987
            raise AssertionError(
4591
3988
                "this case should be handled by GroupCHKStreamSource")
4592
 
        elif 'forceinvdeltas' in debug.debug_flags:
4593
 
            return self._get_convertable_inventory_stream(revision_ids,
4594
 
                    delta_versus_null=missing)
4595
 
        elif from_format.network_name() == self.to_format.network_name():
4596
 
            # Same format.
4597
 
            return self._get_simple_inventory_stream(revision_ids,
4598
 
                    missing=missing)
4599
 
        elif (not from_format.supports_chks and not self.to_format.supports_chks
4600
 
                and from_format._serializer == self.to_format._serializer):
4601
 
            # Essentially the same format.
 
3989
        elif (not from_format.supports_chks):
 
3990
            # Source repository doesn't support chks. So we can transmit the
 
3991
            # inventories 'as-is' and either they are just accepted on the
 
3992
            # target, or the Sink will properly convert it.
 
3993
            # (XXX: this assumes that all non-chk formats are understood as-is
 
3994
            # by any Sink, but that presumably isn't true for foreign repo
 
3995
            # formats added by bzr-svn etc?)
4602
3996
            return self._get_simple_inventory_stream(revision_ids,
4603
3997
                    missing=missing)
4604
3998
        else:
4605
 
            # Any time we switch serializations, we want to use an
4606
 
            # inventory-delta based approach.
 
3999
            # Make chk->non-chk (and chk with different serializers) fetch:
 
4000
            # copy the inventories as (format-neutral) inventory deltas.
4607
4001
            return self._get_convertable_inventory_stream(revision_ids,
4608
 
                    delta_versus_null=missing)
 
4002
                    fulltexts=missing)
4609
4003
 
4610
4004
    def _get_simple_inventory_stream(self, revision_ids, missing=False):
4611
4005
        # NB: This currently reopens the inventory weave in source;
4619
4013
            [(rev_id,) for rev_id in revision_ids],
4620
4014
            self.inventory_fetch_order(), delta_closure))
4621
4015
 
4622
 
    def _get_convertable_inventory_stream(self, revision_ids,
4623
 
                                          delta_versus_null=False):
4624
 
        # The two formats are sufficiently different that there is no fast
4625
 
        # path, so we need to send just inventorydeltas, which any
4626
 
        # sufficiently modern client can insert into any repository.
4627
 
        # The StreamSink code expects to be able to
 
4016
    def _get_convertable_inventory_stream(self, revision_ids, fulltexts=False):
 
4017
        # The source is using CHKs, but the target either doesn't or is has a
 
4018
        # different serializer.  The StreamSink code expects to be able to
4628
4019
        # convert on the target, so we need to put bytes-on-the-wire that can
4629
 
        # be converted.  That means inventory deltas (if the remote is <1.19,
 
4020
        # be converted.  That means inventory deltas (if the remote is <1.18,
4630
4021
        # RemoteStreamSink will fallback to VFS to insert the deltas).
4631
 
        yield ('inventory-deltas',
4632
 
           self._stream_invs_as_deltas(revision_ids,
4633
 
                                       delta_versus_null=delta_versus_null))
4634
 
 
4635
 
    def _stream_invs_as_deltas(self, revision_ids, delta_versus_null=False):
4636
 
        """Return a stream of inventory-deltas for the given rev ids.
4637
 
 
4638
 
        :param revision_ids: The list of inventories to transmit
4639
 
        :param delta_versus_null: Don't try to find a minimal delta for this
4640
 
            entry, instead compute the delta versus the NULL_REVISION. This
4641
 
            effectively streams a complete inventory. Used for stuff like
4642
 
            filling in missing parents, etc.
4643
 
        """
 
4022
        yield ('inventories',
 
4023
           self._stream_invs_as_deltas(revision_ids, fulltexts=fulltexts))
 
4024
 
 
4025
    def _stream_invs_as_deltas(self, revision_ids, fulltexts=False):
4644
4026
        from_repo = self.from_repository
4645
4027
        revision_keys = [(rev_id,) for rev_id in revision_ids]
4646
4028
        parent_map = from_repo.inventories.get_parent_map(revision_keys)
4648
4030
        # method...
4649
4031
        inventories = self.from_repository.iter_inventories(
4650
4032
            revision_ids, 'topological')
 
4033
        # XXX: ideally these flags would be per-revision, not per-repo (e.g.
 
4034
        # streaming a non-rich-root revision out of a rich-root repo back into
 
4035
        # a non-rich-root repo ought to be allowed)
4651
4036
        format = from_repo._format
 
4037
        flags = (format.rich_root_data, format.supports_tree_reference)
4652
4038
        invs_sent_so_far = set([_mod_revision.NULL_REVISION])
4653
 
        inventory_cache = lru_cache.LRUCache(50)
4654
 
        null_inventory = from_repo.revision_tree(
4655
 
            _mod_revision.NULL_REVISION).inventory
4656
 
        # XXX: ideally the rich-root/tree-refs flags would be per-revision, not
4657
 
        # per-repo (e.g.  streaming a non-rich-root revision out of a rich-root
4658
 
        # repo back into a non-rich-root repo ought to be allowed)
4659
 
        serializer = inventory_delta.InventoryDeltaSerializer(
4660
 
            versioned_root=format.rich_root_data,
4661
 
            tree_references=format.supports_tree_reference)
4662
4039
        for inv in inventories:
4663
4040
            key = (inv.revision_id,)
4664
 
            parent_keys = parent_map.get(key, ())
4665
 
            delta = None
4666
 
            if not delta_versus_null and parent_keys:
4667
 
                # The caller did not ask for complete inventories and we have
4668
 
                # some parents that we can delta against.  Make a delta against
4669
 
                # each parent so that we can find the smallest.
4670
 
                parent_ids = [parent_key[0] for parent_key in parent_keys]
 
4041
            parents = parent_map.get(key, ())
 
4042
            if fulltexts or parents == ():
 
4043
                # Either the caller asked for fulltexts, or there is no parent,
 
4044
                # so, stream as a delta from null:.
 
4045
                basis_id = _mod_revision.NULL_REVISION
 
4046
                parent_inv = Inventory(None)
 
4047
                delta = inv._make_delta(parent_inv)
 
4048
            else:
 
4049
                # Make a delta against each parent so that we can find the
 
4050
                # smallest.
 
4051
                best_delta = None
 
4052
                parent_ids = [parent_key[0] for parent_key in parents]
 
4053
                parent_ids.append(_mod_revision.NULL_REVISION)
4671
4054
                for parent_id in parent_ids:
4672
4055
                    if parent_id not in invs_sent_so_far:
4673
4056
                        # We don't know that the remote side has this basis, so
4674
4057
                        # we can't use it.
4675
4058
                        continue
4676
4059
                    if parent_id == _mod_revision.NULL_REVISION:
4677
 
                        parent_inv = null_inventory
 
4060
                        parent_inv = Inventory(None)
4678
4061
                    else:
4679
 
                        parent_inv = inventory_cache.get(parent_id, None)
4680
 
                        if parent_inv is None:
4681
 
                            parent_inv = from_repo.get_inventory(parent_id)
 
4062
                        parent_inv = from_repo.get_inventory(parent_id)
4682
4063
                    candidate_delta = inv._make_delta(parent_inv)
4683
 
                    if (delta is None or
4684
 
                        len(delta) > len(candidate_delta)):
4685
 
                        delta = candidate_delta
 
4064
                    if (best_delta is None or
 
4065
                        len(best_delta) > len(candidate_delta)):
 
4066
                        best_delta = candidate_delta
4686
4067
                        basis_id = parent_id
4687
 
            if delta is None:
4688
 
                # Either none of the parents ended up being suitable, or we
4689
 
                # were asked to delta against NULL
4690
 
                basis_id = _mod_revision.NULL_REVISION
4691
 
                delta = inv._make_delta(null_inventory)
4692
 
            invs_sent_so_far.add(inv.revision_id)
4693
 
            inventory_cache[inv.revision_id] = inv
4694
 
            delta_serialized = ''.join(
4695
 
                serializer.delta_to_lines(basis_id, key[-1], delta))
4696
 
            yield versionedfile.FulltextContentFactory(
4697
 
                key, parent_keys, None, delta_serialized)
 
4068
                delta = best_delta
 
4069
            invs_sent_so_far.add(basis_id)
 
4070
            yield versionedfile.InventoryDeltaContentFactory(
 
4071
                key, parents, None, delta, basis_id, flags)
4698
4072
 
4699
4073
 
4700
4074
def _iter_for_revno(repo, partial_history_cache, stop_index=None,