/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/repofmt/pack_repo.py

  • Committer: John Arbash Meinel
  • Date: 2007-11-30 23:18:15 UTC
  • mto: This revision was merged to the branch mainline in revision 3072.
  • Revision ID: john@arbash-meinel.com-20071130231815-0r6ce70307kmv28r
Use a Graph.heads() check to determine if the ancestries are compatible.
Whether we should do nothing because source is already ahead,
raise an exception because we have diverged,
or move forward because the new revision is a tip revision.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2007-2010 Canonical Ltd
 
1
# Copyright (C) 2005, 2006, 2007 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
 
 
17
 
import re
18
 
import sys
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
19
16
 
20
17
from bzrlib.lazy_import import lazy_import
21
18
lazy_import(globals(), """
22
19
from itertools import izip
 
20
import math
 
21
import md5
23
22
import time
24
23
 
25
24
from bzrlib import (
26
 
    chk_map,
27
 
    cleanup,
28
 
    debug,
29
 
    graph,
30
 
    osutils,
31
 
    pack,
32
 
    transactions,
33
 
    ui,
34
 
    xml5,
35
 
    xml6,
36
 
    xml7,
37
 
    )
 
25
        debug,
 
26
        pack,
 
27
        ui,
 
28
        )
 
29
from bzrlib.graph import Graph
38
30
from bzrlib.index import (
 
31
    GraphIndex,
 
32
    GraphIndexBuilder,
 
33
    InMemoryGraphIndex,
39
34
    CombinedGraphIndex,
40
35
    GraphIndexPrefixAdapter,
41
36
    )
42
 
from bzrlib.knit import (
43
 
    KnitPlainFactory,
44
 
    KnitVersionedFiles,
45
 
    _KnitGraphIndex,
46
 
    _DirectPackAccess,
47
 
    )
48
 
from bzrlib import tsort
 
37
from bzrlib.knit import KnitGraphIndex, _PackAccess, _KnitData
 
38
from bzrlib.osutils import rand_chars
 
39
from bzrlib.pack import ContainerWriter
 
40
from bzrlib.store import revision
49
41
""")
50
42
from bzrlib import (
51
43
    bzrdir,
 
44
    deprecated_graph,
52
45
    errors,
 
46
    knit,
53
47
    lockable_files,
54
48
    lockdir,
55
 
    revision as _mod_revision,
 
49
    osutils,
 
50
    transactions,
 
51
    xml5,
 
52
    xml6,
 
53
    xml7,
56
54
    )
57
55
 
58
 
from bzrlib.decorators import needs_write_lock, only_raises
59
 
from bzrlib.btree_index import (
60
 
    BTreeGraphIndex,
61
 
    BTreeBuilder,
62
 
    )
63
 
from bzrlib.index import (
64
 
    GraphIndex,
65
 
    InMemoryGraphIndex,
66
 
    )
 
56
from bzrlib.decorators import needs_read_lock, needs_write_lock
67
57
from bzrlib.repofmt.knitrepo import KnitRepository
68
58
from bzrlib.repository import (
69
59
    CommitBuilder,
 
60
    MetaDirRepository,
70
61
    MetaDirRepositoryFormat,
71
 
    RepositoryFormat,
72
62
    RootCommitBuilder,
73
 
    StreamSource,
74
 
    )
75
 
from bzrlib.trace import (
76
 
    mutter,
77
 
    note,
78
 
    warning,
79
 
    )
 
63
    )
 
64
import bzrlib.revision as _mod_revision
 
65
from bzrlib.store.revision.knit import KnitRevisionStore
 
66
from bzrlib.store.versioned import VersionedFileStore
 
67
from bzrlib.trace import mutter, note, warning
80
68
 
81
69
 
82
70
class PackCommitBuilder(CommitBuilder):
83
71
    """A subclass of CommitBuilder to add texts with pack semantics.
84
 
 
 
72
    
85
73
    Specifically this uses one knit object rather than one knit object per
86
74
    added text, reducing memory and object pressure.
87
75
    """
92
80
        CommitBuilder.__init__(self, repository, parents, config,
93
81
            timestamp=timestamp, timezone=timezone, committer=committer,
94
82
            revprops=revprops, revision_id=revision_id)
95
 
        self._file_graph = graph.Graph(
 
83
        self._file_graph = Graph(
96
84
            repository._pack_collection.text_index.combined_index)
97
85
 
 
86
    def _add_text_to_weave(self, file_id, new_lines, parents, nostore_sha):
 
87
        return self.repository._pack_collection._add_text_to_weave(file_id,
 
88
            self._new_revision_id, new_lines, parents, nostore_sha,
 
89
            self.random_revid)
 
90
 
98
91
    def _heads(self, file_id, revision_ids):
99
92
        keys = [(file_id, revision_id) for revision_id in revision_ids]
100
93
        return set([key[1] for key in self._file_graph.heads(keys)])
102
95
 
103
96
class PackRootCommitBuilder(RootCommitBuilder):
104
97
    """A subclass of RootCommitBuilder to add texts with pack semantics.
105
 
 
 
98
    
106
99
    Specifically this uses one knit object rather than one knit object per
107
100
    added text, reducing memory and object pressure.
108
101
    """
113
106
        CommitBuilder.__init__(self, repository, parents, config,
114
107
            timestamp=timestamp, timezone=timezone, committer=committer,
115
108
            revprops=revprops, revision_id=revision_id)
116
 
        self._file_graph = graph.Graph(
 
109
        self._file_graph = Graph(
117
110
            repository._pack_collection.text_index.combined_index)
118
111
 
 
112
    def _add_text_to_weave(self, file_id, new_lines, parents, nostore_sha):
 
113
        return self.repository._pack_collection._add_text_to_weave(file_id,
 
114
            self._new_revision_id, new_lines, parents, nostore_sha,
 
115
            self.random_revid)
 
116
 
119
117
    def _heads(self, file_id, revision_ids):
120
118
        keys = [(file_id, revision_id) for revision_id in revision_ids]
121
119
        return set([key[1] for key in self._file_graph.heads(keys)])
128
126
    ExistingPack and NewPack are used.
129
127
    """
130
128
 
131
 
    # A map of index 'type' to the file extension and position in the
132
 
    # index_sizes array.
133
 
    index_definitions = {
134
 
        'chk': ('.cix', 4),
135
 
        'revision': ('.rix', 0),
136
 
        'inventory': ('.iix', 1),
137
 
        'text': ('.tix', 2),
138
 
        'signature': ('.six', 3),
139
 
        }
140
 
 
141
129
    def __init__(self, revision_index, inventory_index, text_index,
142
 
        signature_index, chk_index=None):
 
130
        signature_index):
143
131
        """Create a pack instance.
144
132
 
145
133
        :param revision_index: A GraphIndex for determining what revisions are
150
138
        :param text_index: A GraphIndex for determining what file texts
151
139
            are present in the pack and accessing the locations of their
152
140
            texts/deltas (via (fileid, revisionid) tuples).
153
 
        :param signature_index: A GraphIndex for determining what signatures are
 
141
        :param revision_index: A GraphIndex for determining what signatures are
154
142
            present in the Pack and accessing the locations of their texts.
155
 
        :param chk_index: A GraphIndex for accessing content by CHK, if the
156
 
            pack has one.
157
143
        """
158
144
        self.revision_index = revision_index
159
145
        self.inventory_index = inventory_index
160
146
        self.text_index = text_index
161
147
        self.signature_index = signature_index
162
 
        self.chk_index = chk_index
163
148
 
164
149
    def access_tuple(self):
165
150
        """Return a tuple (transport, name) for the pack content."""
166
151
        return self.pack_transport, self.file_name()
167
152
 
168
 
    def _check_references(self):
169
 
        """Make sure our external references are present.
170
 
 
171
 
        Packs are allowed to have deltas whose base is not in the pack, but it
172
 
        must be present somewhere in this collection.  It is not allowed to
173
 
        have deltas based on a fallback repository.
174
 
        (See <https://bugs.launchpad.net/bzr/+bug/288751>)
175
 
        """
176
 
        missing_items = {}
177
 
        for (index_name, external_refs, index) in [
178
 
            ('texts',
179
 
                self._get_external_refs(self.text_index),
180
 
                self._pack_collection.text_index.combined_index),
181
 
            ('inventories',
182
 
                self._get_external_refs(self.inventory_index),
183
 
                self._pack_collection.inventory_index.combined_index),
184
 
            ]:
185
 
            missing = external_refs.difference(
186
 
                k for (idx, k, v, r) in
187
 
                index.iter_entries(external_refs))
188
 
            if missing:
189
 
                missing_items[index_name] = sorted(list(missing))
190
 
        if missing_items:
191
 
            from pprint import pformat
192
 
            raise errors.BzrCheckError(
193
 
                "Newly created pack file %r has delta references to "
194
 
                "items not in its repository:\n%s"
195
 
                % (self, pformat(missing_items)))
196
 
 
197
153
    def file_name(self):
198
154
        """Get the file name for the pack on disk."""
199
155
        return self.name + '.pack'
201
157
    def get_revision_count(self):
202
158
        return self.revision_index.key_count()
203
159
 
204
 
    def index_name(self, index_type, name):
205
 
        """Get the disk name of an index type for pack name 'name'."""
206
 
        return name + Pack.index_definitions[index_type][0]
207
 
 
208
 
    def index_offset(self, index_type):
209
 
        """Get the position in a index_size array for a given index type."""
210
 
        return Pack.index_definitions[index_type][1]
211
 
 
212
160
    def inventory_index_name(self, name):
213
161
        """The inv index is the name + .iix."""
214
162
        return self.index_name('inventory', name)
225
173
        """The text index is the name + .tix."""
226
174
        return self.index_name('text', name)
227
175
 
228
 
    def _replace_index_with_readonly(self, index_type):
229
 
        unlimited_cache = False
230
 
        if index_type == 'chk':
231
 
            unlimited_cache = True
232
 
        setattr(self, index_type + '_index',
233
 
            self.index_class(self.index_transport,
234
 
                self.index_name(index_type, self.name),
235
 
                self.index_sizes[self.index_offset(index_type)],
236
 
                unlimited_cache=unlimited_cache))
237
 
 
238
176
 
239
177
class ExistingPack(Pack):
240
178
    """An in memory proxy for an existing .pack and its disk indices."""
241
179
 
242
180
    def __init__(self, pack_transport, name, revision_index, inventory_index,
243
 
        text_index, signature_index, chk_index=None):
 
181
        text_index, signature_index):
244
182
        """Create an ExistingPack object.
245
183
 
246
184
        :param pack_transport: The transport where the pack file resides.
247
185
        :param name: The name of the pack on disk in the pack_transport.
248
186
        """
249
187
        Pack.__init__(self, revision_index, inventory_index, text_index,
250
 
            signature_index, chk_index)
 
188
            signature_index)
251
189
        self.name = name
252
190
        self.pack_transport = pack_transport
253
 
        if None in (revision_index, inventory_index, text_index,
254
 
                signature_index, name, pack_transport):
255
 
            raise AssertionError()
 
191
        assert None not in (revision_index, inventory_index, text_index,
 
192
            signature_index, name, pack_transport)
256
193
 
257
194
    def __eq__(self, other):
258
195
        return self.__dict__ == other.__dict__
261
198
        return not self.__eq__(other)
262
199
 
263
200
    def __repr__(self):
264
 
        return "<%s.%s object at 0x%x, %s, %s" % (
265
 
            self.__class__.__module__, self.__class__.__name__, id(self),
266
 
            self.pack_transport, self.name)
267
 
 
268
 
 
269
 
class ResumedPack(ExistingPack):
270
 
 
271
 
    def __init__(self, name, revision_index, inventory_index, text_index,
272
 
        signature_index, upload_transport, pack_transport, index_transport,
273
 
        pack_collection, chk_index=None):
274
 
        """Create a ResumedPack object."""
275
 
        ExistingPack.__init__(self, pack_transport, name, revision_index,
276
 
            inventory_index, text_index, signature_index,
277
 
            chk_index=chk_index)
278
 
        self.upload_transport = upload_transport
279
 
        self.index_transport = index_transport
280
 
        self.index_sizes = [None, None, None, None]
281
 
        indices = [
282
 
            ('revision', revision_index),
283
 
            ('inventory', inventory_index),
284
 
            ('text', text_index),
285
 
            ('signature', signature_index),
286
 
            ]
287
 
        if chk_index is not None:
288
 
            indices.append(('chk', chk_index))
289
 
            self.index_sizes.append(None)
290
 
        for index_type, index in indices:
291
 
            offset = self.index_offset(index_type)
292
 
            self.index_sizes[offset] = index._size
293
 
        self.index_class = pack_collection._index_class
294
 
        self._pack_collection = pack_collection
295
 
        self._state = 'resumed'
296
 
        # XXX: perhaps check that the .pack file exists?
297
 
 
298
 
    def access_tuple(self):
299
 
        if self._state == 'finished':
300
 
            return Pack.access_tuple(self)
301
 
        elif self._state == 'resumed':
302
 
            return self.upload_transport, self.file_name()
303
 
        else:
304
 
            raise AssertionError(self._state)
305
 
 
306
 
    def abort(self):
307
 
        self.upload_transport.delete(self.file_name())
308
 
        indices = [self.revision_index, self.inventory_index, self.text_index,
309
 
            self.signature_index]
310
 
        if self.chk_index is not None:
311
 
            indices.append(self.chk_index)
312
 
        for index in indices:
313
 
            index._transport.delete(index._name)
314
 
 
315
 
    def finish(self):
316
 
        self._check_references()
317
 
        index_types = ['revision', 'inventory', 'text', 'signature']
318
 
        if self.chk_index is not None:
319
 
            index_types.append('chk')
320
 
        for index_type in index_types:
321
 
            old_name = self.index_name(index_type, self.name)
322
 
            new_name = '../indices/' + old_name
323
 
            self.upload_transport.rename(old_name, new_name)
324
 
            self._replace_index_with_readonly(index_type)
325
 
        new_name = '../packs/' + self.file_name()
326
 
        self.upload_transport.rename(self.file_name(), new_name)
327
 
        self._state = 'finished'
328
 
 
329
 
    def _get_external_refs(self, index):
330
 
        """Return compression parents for this index that are not present.
331
 
 
332
 
        This returns any compression parents that are referenced by this index,
333
 
        which are not contained *in* this index. They may be present elsewhere.
334
 
        """
335
 
        return index.external_references(1)
 
201
        return "<bzrlib.repofmt.pack_repo.Pack object at 0x%x, %s, %s" % (
 
202
            id(self), self.transport, self.name)
336
203
 
337
204
 
338
205
class NewPack(Pack):
339
206
    """An in memory proxy for a pack which is being created."""
340
207
 
341
 
    def __init__(self, pack_collection, upload_suffix='', file_mode=None):
 
208
    # A map of index 'type' to the file extension and position in the
 
209
    # index_sizes array.
 
210
    index_definitions = {
 
211
        'revision': ('.rix', 0),
 
212
        'inventory': ('.iix', 1),
 
213
        'text': ('.tix', 2),
 
214
        'signature': ('.six', 3),
 
215
        }
 
216
 
 
217
    def __init__(self, upload_transport, index_transport, pack_transport,
 
218
        upload_suffix='', file_mode=None):
342
219
        """Create a NewPack instance.
343
220
 
344
 
        :param pack_collection: A PackCollection into which this is being inserted.
 
221
        :param upload_transport: A writable transport for the pack to be
 
222
            incrementally uploaded to.
 
223
        :param index_transport: A writable transport for the pack's indices to
 
224
            be written to when the pack is finished.
 
225
        :param pack_transport: A writable transport for the pack to be renamed
 
226
            to when the upload is complete. This *must* be the same as
 
227
            upload_transport.clone('../packs').
345
228
        :param upload_suffix: An optional suffix to be given to any temporary
346
229
            files created during the pack creation. e.g '.autopack'
347
 
        :param file_mode: Unix permissions for newly created file.
 
230
        :param file_mode: An optional file mode to create the new files with.
348
231
        """
349
232
        # The relative locations of the packs are constrained, but all are
350
233
        # passed in because the caller has them, so as to avoid object churn.
351
 
        index_builder_class = pack_collection._index_builder_class
352
 
        if pack_collection.chk_index is not None:
353
 
            chk_index = index_builder_class(reference_lists=0)
354
 
        else:
355
 
            chk_index = None
356
234
        Pack.__init__(self,
357
235
            # Revisions: parents list, no text compression.
358
 
            index_builder_class(reference_lists=1),
 
236
            InMemoryGraphIndex(reference_lists=1),
359
237
            # Inventory: We want to map compression only, but currently the
360
238
            # knit code hasn't been updated enough to understand that, so we
361
239
            # have a regular 2-list index giving parents and compression
362
240
            # source.
363
 
            index_builder_class(reference_lists=2),
 
241
            InMemoryGraphIndex(reference_lists=2),
364
242
            # Texts: compression and per file graph, for all fileids - so two
365
243
            # reference lists and two elements in the key tuple.
366
 
            index_builder_class(reference_lists=2, key_elements=2),
 
244
            InMemoryGraphIndex(reference_lists=2, key_elements=2),
367
245
            # Signatures: Just blobs to store, no compression, no parents
368
246
            # listing.
369
 
            index_builder_class(reference_lists=0),
370
 
            # CHK based storage - just blobs, no compression or parents.
371
 
            chk_index=chk_index
 
247
            InMemoryGraphIndex(reference_lists=0),
372
248
            )
373
 
        self._pack_collection = pack_collection
374
 
        # When we make readonly indices, we need this.
375
 
        self.index_class = pack_collection._index_class
376
249
        # where should the new pack be opened
377
 
        self.upload_transport = pack_collection._upload_transport
 
250
        self.upload_transport = upload_transport
378
251
        # where are indices written out to
379
 
        self.index_transport = pack_collection._index_transport
 
252
        self.index_transport = index_transport
380
253
        # where is the pack renamed to when it is finished?
381
 
        self.pack_transport = pack_collection._pack_transport
 
254
        self.pack_transport = pack_transport
382
255
        # What file mode to upload the pack and indices with.
383
256
        self._file_mode = file_mode
384
257
        # tracks the content written to the .pack file.
385
 
        self._hash = osutils.md5()
386
 
        # a tuple with the length in bytes of the indices, once the pack
387
 
        # is finalised. (rev, inv, text, sigs, chk_if_in_use)
 
258
        self._hash = md5.new()
 
259
        # a four-tuple with the length in bytes of the indices, once the pack
 
260
        # is finalised. (rev, inv, text, sigs)
388
261
        self.index_sizes = None
389
262
        # How much data to cache when writing packs. Note that this is not
390
263
        # synchronised with reads, because it's not in the transport layer, so
392
265
        # under creation.
393
266
        self._cache_limit = 0
394
267
        # the temporary pack file name.
395
 
        self.random_name = osutils.rand_chars(20) + upload_suffix
 
268
        self.random_name = rand_chars(20) + upload_suffix
396
269
        # when was this pack started ?
397
270
        self.start_time = time.time()
398
271
        # open an output stream for the data added to the pack.
402
275
            mutter('%s: create_pack: pack stream open: %s%s t+%6.3fs',
403
276
                time.ctime(), self.upload_transport.base, self.random_name,
404
277
                time.time() - self.start_time)
405
 
        # A list of byte sequences to be written to the new pack, and the
406
 
        # aggregate size of them.  Stored as a list rather than separate
 
278
        # A list of byte sequences to be written to the new pack, and the 
 
279
        # aggregate size of them.  Stored as a list rather than separate 
407
280
        # variables so that the _write_data closure below can update them.
408
281
        self._buffer = [[], 0]
409
 
        # create a callable for adding data
 
282
        # create a callable for adding data 
410
283
        #
411
284
        # robertc says- this is a closure rather than a method on the object
412
285
        # so that the variables are locals, and faster than accessing object
428
301
        self._writer.begin()
429
302
        # what state is the pack in? (open, finished, aborted)
430
303
        self._state = 'open'
431
 
        # no name until we finish writing the content
432
 
        self.name = None
433
304
 
434
305
    def abort(self):
435
306
        """Cancel creating this pack."""
441
312
 
442
313
    def access_tuple(self):
443
314
        """Return a tuple (transport, name) for the pack content."""
 
315
        assert self._state in ('open', 'finished')
444
316
        if self._state == 'finished':
445
317
            return Pack.access_tuple(self)
446
 
        elif self._state == 'open':
 
318
        else:
447
319
            return self.upload_transport, self.random_name
448
 
        else:
449
 
            raise AssertionError(self._state)
450
320
 
451
321
    def data_inserted(self):
452
322
        """True if data has been added to this pack."""
453
323
        return bool(self.get_revision_count() or
454
324
            self.inventory_index.key_count() or
455
325
            self.text_index.key_count() or
456
 
            self.signature_index.key_count() or
457
 
            (self.chk_index is not None and self.chk_index.key_count()))
458
 
 
459
 
    def finish_content(self):
460
 
        if self.name is not None:
461
 
            return
462
 
        self._writer.end()
463
 
        if self._buffer[1]:
464
 
            self._write_data('', flush=True)
465
 
        self.name = self._hash.hexdigest()
466
 
 
467
 
    def finish(self, suspend=False):
 
326
            self.signature_index.key_count())
 
327
 
 
328
    def finish(self):
468
329
        """Finish the new pack.
469
330
 
470
331
        This:
475
336
         - stores the index size tuple for the pack in the index_sizes
476
337
           attribute.
477
338
        """
478
 
        self.finish_content()
479
 
        if not suspend:
480
 
            self._check_references()
 
339
        self._writer.end()
 
340
        if self._buffer[1]:
 
341
            self._write_data('', flush=True)
 
342
        self.name = self._hash.hexdigest()
481
343
        # write indices
482
344
        # XXX: It'd be better to write them all to temporary names, then
483
345
        # rename them all into place, so that the window when only some are
484
346
        # visible is smaller.  On the other hand none will be seen until
485
347
        # they're in the names list.
486
348
        self.index_sizes = [None, None, None, None]
487
 
        self._write_index('revision', self.revision_index, 'revision', suspend)
488
 
        self._write_index('inventory', self.inventory_index, 'inventory',
489
 
            suspend)
490
 
        self._write_index('text', self.text_index, 'file texts', suspend)
 
349
        self._write_index('revision', self.revision_index, 'revision')
 
350
        self._write_index('inventory', self.inventory_index, 'inventory')
 
351
        self._write_index('text', self.text_index, 'file texts')
491
352
        self._write_index('signature', self.signature_index,
492
 
            'revision signatures', suspend)
493
 
        if self.chk_index is not None:
494
 
            self.index_sizes.append(None)
495
 
            self._write_index('chk', self.chk_index,
496
 
                'content hash bytes', suspend)
 
353
            'revision signatures')
497
354
        self.write_stream.close()
498
355
        # Note that this will clobber an existing pack with the same name,
499
356
        # without checking for hash collisions. While this is undesirable this
506
363
        #  - try for HASH.pack
507
364
        #  - try for temporary-name
508
365
        #  - refresh the pack-list to see if the pack is now absent
509
 
        new_name = self.name + '.pack'
510
 
        if not suspend:
511
 
            new_name = '../packs/' + new_name
512
 
        self.upload_transport.rename(self.random_name, new_name)
 
366
        self.upload_transport.rename(self.random_name,
 
367
                '../packs/' + self.name + '.pack')
513
368
        self._state = 'finished'
514
369
        if 'pack' in debug.debug_flags:
515
370
            # XXX: size might be interesting?
516
 
            mutter('%s: create_pack: pack finished: %s%s->%s t+%6.3fs',
 
371
            mutter('%s: create_pack: pack renamed into place: %s%s->%s%s t+%6.3fs',
517
372
                time.ctime(), self.upload_transport.base, self.random_name,
518
 
                new_name, time.time() - self.start_time)
519
 
 
520
 
    def flush(self):
521
 
        """Flush any current data."""
522
 
        if self._buffer[1]:
523
 
            bytes = ''.join(self._buffer[0])
524
 
            self.write_stream.write(bytes)
525
 
            self._hash.update(bytes)
526
 
            self._buffer[:] = [[], 0]
527
 
 
528
 
    def _get_external_refs(self, index):
529
 
        return index._external_references()
 
373
                self.pack_transport, self.name,
 
374
                time.time() - self.start_time)
 
375
 
 
376
    def index_name(self, index_type, name):
 
377
        """Get the disk name of an index type for pack name 'name'."""
 
378
        return name + NewPack.index_definitions[index_type][0]
 
379
 
 
380
    def index_offset(self, index_type):
 
381
        """Get the position in a index_size array for a given index type."""
 
382
        return NewPack.index_definitions[index_type][1]
 
383
 
 
384
    def _replace_index_with_readonly(self, index_type):
 
385
        setattr(self, index_type + '_index',
 
386
            GraphIndex(self.index_transport,
 
387
                self.index_name(index_type, self.name),
 
388
                self.index_sizes[self.index_offset(index_type)]))
530
389
 
531
390
    def set_write_cache_size(self, size):
532
391
        self._cache_limit = size
533
392
 
534
 
    def _write_index(self, index_type, index, label, suspend=False):
 
393
    def _write_index(self, index_type, index, label):
535
394
        """Write out an index.
536
395
 
537
396
        :param index_type: The type of index to write - e.g. 'revision'.
539
398
        :param label: What label to give the index e.g. 'revision'.
540
399
        """
541
400
        index_name = self.index_name(index_type, self.name)
542
 
        if suspend:
543
 
            transport = self.upload_transport
544
 
        else:
545
 
            transport = self.index_transport
546
 
        self.index_sizes[self.index_offset(index_type)] = transport.put_file(
547
 
            index_name, index.finish(), mode=self._file_mode)
 
401
        self.index_sizes[self.index_offset(index_type)] = \
 
402
            self.index_transport.put_file(index_name, index.finish(),
 
403
            mode=self._file_mode)
548
404
        if 'pack' in debug.debug_flags:
549
405
            # XXX: size might be interesting?
550
406
            mutter('%s: create_pack: wrote %s index: %s%s t+%6.3fs',
551
407
                time.ctime(), label, self.upload_transport.base,
552
408
                self.random_name, time.time() - self.start_time)
553
 
        # Replace the writable index on this object with a readonly,
 
409
        # Replace the writable index on this object with a readonly, 
554
410
        # presently unloaded index. We should alter
555
411
        # the index layer to make its finish() error if add_node is
556
412
        # subsequently used. RBC
565
421
    such as 'revision index'.
566
422
 
567
423
    A CombinedIndex provides an index on a single key space built up
568
 
    from several on-disk indices.  The AggregateIndex builds on this
 
424
    from several on-disk indices.  The AggregateIndex builds on this 
569
425
    to provide a knit access layer, and allows having up to one writable
570
426
    index within the collection.
571
427
    """
572
428
    # XXX: Probably 'can be written to' could/should be separated from 'acts
573
429
    # like a knit index' -- mbp 20071024
574
430
 
575
 
    def __init__(self, reload_func=None, flush_func=None):
576
 
        """Create an AggregateIndex.
577
 
 
578
 
        :param reload_func: A function to call if we find we are missing an
579
 
            index. Should have the form reload_func() => True if the list of
580
 
            active pack files has changed.
581
 
        """
582
 
        self._reload_func = reload_func
 
431
    def __init__(self):
 
432
        """Create an AggregateIndex."""
583
433
        self.index_to_pack = {}
584
 
        self.combined_index = CombinedGraphIndex([], reload_func=reload_func)
585
 
        self.data_access = _DirectPackAccess(self.index_to_pack,
586
 
                                             reload_func=reload_func,
587
 
                                             flush_func=flush_func)
 
434
        self.combined_index = CombinedGraphIndex([])
 
435
        self.knit_access = _PackAccess(self.index_to_pack)
 
436
 
 
437
    def replace_indices(self, index_to_pack, indices):
 
438
        """Replace the current mappings with fresh ones.
 
439
 
 
440
        This should probably not be used eventually, rather incremental add and
 
441
        removal of indices. It has been added during refactoring of existing
 
442
        code.
 
443
 
 
444
        :param index_to_pack: A mapping from index objects to
 
445
            (transport, name) tuples for the pack file data.
 
446
        :param indices: A list of indices.
 
447
        """
 
448
        # refresh the revision pack map dict without replacing the instance.
 
449
        self.index_to_pack.clear()
 
450
        self.index_to_pack.update(index_to_pack)
 
451
        # XXX: API break - clearly a 'replace' method would be good?
 
452
        self.combined_index._indices[:] = indices
 
453
        # the current add nodes callback for the current writable index if
 
454
        # there is one.
588
455
        self.add_callback = None
589
456
 
590
457
    def add_index(self, index, pack):
592
459
 
593
460
        Future searches on the aggregate index will seach this new index
594
461
        before all previously inserted indices.
595
 
 
 
462
        
596
463
        :param index: An Index for the pack.
597
464
        :param pack: A Pack instance.
598
465
        """
599
466
        # expose it to the index map
600
467
        self.index_to_pack[index] = pack.access_tuple()
601
468
        # put it at the front of the linear index list
602
 
        self.combined_index.insert_index(0, index, pack.name)
 
469
        self.combined_index.insert_index(0, index)
603
470
 
604
471
    def add_writable_index(self, index, pack):
605
472
        """Add an index which is able to have data added to it.
606
473
 
607
474
        There can be at most one writable index at any time.  Any
608
475
        modifications made to the knit are put into this index.
609
 
 
 
476
        
610
477
        :param index: An index from the pack parameter.
611
478
        :param pack: A Pack instance.
612
479
        """
613
 
        if self.add_callback is not None:
614
 
            raise AssertionError(
615
 
                "%s already has a writable index through %s" % \
616
 
                (self, self.add_callback))
 
480
        assert self.add_callback is None, \
 
481
            "%s already has a writable index through %s" % \
 
482
            (self, self.add_callback)
617
483
        # allow writing: queue writes to a new index
618
484
        self.add_index(index, pack)
619
485
        # Updates the index to packs mapping as a side effect,
620
 
        self.data_access.set_writer(pack._writer, index, pack.access_tuple())
 
486
        self.knit_access.set_writer(pack._writer, index, pack.access_tuple())
621
487
        self.add_callback = index.add_nodes
622
488
 
623
489
    def clear(self):
624
490
        """Reset all the aggregate data to nothing."""
625
 
        self.data_access.set_writer(None, None, (None, None))
 
491
        self.knit_access.set_writer(None, None, (None, None))
626
492
        self.index_to_pack.clear()
627
493
        del self.combined_index._indices[:]
628
 
        del self.combined_index._index_names[:]
629
494
        self.add_callback = None
630
495
 
631
 
    def remove_index(self, index):
 
496
    def remove_index(self, index, pack):
632
497
        """Remove index from the indices used to answer queries.
633
 
 
 
498
        
634
499
        :param index: An index from the pack parameter.
 
500
        :param pack: A Pack instance.
635
501
        """
636
502
        del self.index_to_pack[index]
637
 
        pos = self.combined_index._indices.index(index)
638
 
        del self.combined_index._indices[pos]
639
 
        del self.combined_index._index_names[pos]
 
503
        self.combined_index._indices.remove(index)
640
504
        if (self.add_callback is not None and
641
505
            getattr(index, 'add_nodes', None) == self.add_callback):
642
506
            self.add_callback = None
643
 
            self.data_access.set_writer(None, None, (None, None))
 
507
            self.knit_access.set_writer(None, None, (None, None))
644
508
 
645
509
 
646
510
class Packer(object):
647
511
    """Create a pack from packs."""
648
512
 
649
 
    def __init__(self, pack_collection, packs, suffix, revision_ids=None,
650
 
                 reload_func=None):
 
513
    def __init__(self, pack_collection, packs, suffix, revision_ids=None):
651
514
        """Create a Packer.
652
515
 
653
516
        :param pack_collection: A RepositoryPackCollection object where the
655
518
        :param packs: The packs to combine.
656
519
        :param suffix: The suffix to use on the temporary files for the pack.
657
520
        :param revision_ids: Revision ids to limit the pack to.
658
 
        :param reload_func: A function to call if a pack file/index goes
659
 
            missing. The side effect of calling this function should be to
660
 
            update self.packs. See also AggregateIndex
661
521
        """
662
522
        self.packs = packs
663
523
        self.suffix = suffix
664
524
        self.revision_ids = revision_ids
665
 
        # The pack object we are creating.
666
 
        self.new_pack = None
667
525
        self._pack_collection = pack_collection
668
 
        self._reload_func = reload_func
669
 
        # The index layer keys for the revisions being copied. None for 'all
670
 
        # objects'.
671
 
        self._revision_keys = None
672
 
        # What text keys to copy. None for 'all texts'. This is set by
673
 
        # _copy_inventory_texts
674
 
        self._text_filter = None
675
 
        self._extra_init()
676
 
 
677
 
    def _extra_init(self):
678
 
        """A template hook to allow extending the constructor trivially."""
679
 
 
680
 
    def _pack_map_and_index_list(self, index_attribute):
681
 
        """Convert a list of packs to an index pack map and index list.
682
 
 
683
 
        :param index_attribute: The attribute that the desired index is found
684
 
            on.
685
 
        :return: A tuple (map, list) where map contains the dict from
686
 
            index:pack_tuple, and list contains the indices in the preferred
687
 
            access order.
688
 
        """
689
 
        indices = []
690
 
        pack_map = {}
691
 
        for pack_obj in self.packs:
692
 
            index = getattr(pack_obj, index_attribute)
693
 
            indices.append(index)
694
 
            pack_map[index] = pack_obj
695
 
        return pack_map, indices
696
 
 
697
 
    def _index_contents(self, indices, key_filter=None):
698
 
        """Get an iterable of the index contents from a pack_map.
699
 
 
700
 
        :param indices: The list of indices to query
701
 
        :param key_filter: An optional filter to limit the keys returned.
702
 
        """
703
 
        all_index = CombinedGraphIndex(indices)
704
 
        if key_filter is None:
705
 
            return all_index.iter_all_entries()
706
 
        else:
707
 
            return all_index.iter_entries(key_filter)
708
526
 
709
527
    def pack(self, pb=None):
710
528
        """Create a new pack by reading data from other packs.
712
530
        This does little more than a bulk copy of data. One key difference
713
531
        is that data with the same item key across multiple packs is elided
714
532
        from the output. The new pack is written into the current pack store
715
 
        along with its indices, and the name added to the pack names. The
 
533
        along with its indices, and the name added to the pack names. The 
716
534
        source packs are not altered and are not required to be in the current
717
535
        pack collection.
718
536
 
725
543
        # XXX: - duplicate code warning with start_write_group; fix before
726
544
        #      considering 'done'.
727
545
        if self._pack_collection._new_pack is not None:
728
 
            raise errors.BzrError('call to %s.pack() while another pack is'
729
 
                                  ' being written.'
730
 
                                  % (self.__class__.__name__,))
 
546
            raise errors.BzrError('call to create_pack_from_packs while '
 
547
                'another pack is being written.')
731
548
        if self.revision_ids is not None:
732
549
            if len(self.revision_ids) == 0:
733
550
                # silly fetch request.
734
551
                return None
735
552
            else:
736
553
                self.revision_ids = frozenset(self.revision_ids)
737
 
                self.revision_keys = frozenset((revid,) for revid in
738
 
                    self.revision_ids)
739
554
        if pb is None:
740
555
            self.pb = ui.ui_factory.nested_progress_bar()
741
556
        else:
748
563
 
749
564
    def open_pack(self):
750
565
        """Open a pack for the pack we are creating."""
751
 
        new_pack = self._pack_collection.pack_factory(self._pack_collection,
752
 
                upload_suffix=self.suffix,
753
 
                file_mode=self._pack_collection.repo.bzrdir._get_file_mode())
754
 
        # We know that we will process all nodes in order, and don't need to
755
 
        # query, so don't combine any indices spilled to disk until we are done
756
 
        new_pack.revision_index.set_optimize(combine_backing_indices=False)
757
 
        new_pack.inventory_index.set_optimize(combine_backing_indices=False)
758
 
        new_pack.text_index.set_optimize(combine_backing_indices=False)
759
 
        new_pack.signature_index.set_optimize(combine_backing_indices=False)
760
 
        return new_pack
761
 
 
762
 
    def _update_pack_order(self, entries, index_to_pack_map):
763
 
        """Determine how we want our packs to be ordered.
764
 
 
765
 
        This changes the sort order of the self.packs list so that packs unused
766
 
        by 'entries' will be at the end of the list, so that future requests
767
 
        can avoid probing them.  Used packs will be at the front of the
768
 
        self.packs list, in the order of their first use in 'entries'.
769
 
 
770
 
        :param entries: A list of (index, ...) tuples
771
 
        :param index_to_pack_map: A mapping from index objects to pack objects.
772
 
        """
773
 
        packs = []
774
 
        seen_indexes = set()
775
 
        for entry in entries:
776
 
            index = entry[0]
777
 
            if index not in seen_indexes:
778
 
                packs.append(index_to_pack_map[index])
779
 
                seen_indexes.add(index)
780
 
        if len(packs) == len(self.packs):
781
 
            if 'pack' in debug.debug_flags:
782
 
                mutter('Not changing pack list, all packs used.')
783
 
            return
784
 
        seen_packs = set(packs)
785
 
        for pack in self.packs:
786
 
            if pack not in seen_packs:
787
 
                packs.append(pack)
788
 
                seen_packs.add(pack)
 
566
        return NewPack(self._pack_collection._upload_transport,
 
567
            self._pack_collection._index_transport,
 
568
            self._pack_collection._pack_transport, upload_suffix=self.suffix,
 
569
            file_mode=self._pack_collection.repo.control_files._file_mode)
 
570
 
 
571
    def _create_pack_from_packs(self):
 
572
        self.pb.update("Opening pack", 0, 5)
 
573
        new_pack = self.open_pack()
 
574
        # buffer data - we won't be reading-back during the pack creation and
 
575
        # this makes a significant difference on sftp pushes.
 
576
        new_pack.set_write_cache_size(1024*1024)
789
577
        if 'pack' in debug.debug_flags:
790
 
            old_names = [p.access_tuple()[1] for p in self.packs]
791
 
            new_names = [p.access_tuple()[1] for p in packs]
792
 
            mutter('Reordering packs\nfrom: %s\n  to: %s',
793
 
                   old_names, new_names)
794
 
        self.packs = packs
795
 
 
796
 
    def _copy_revision_texts(self):
797
 
        """Copy revision data to the new pack."""
 
578
            plain_pack_list = ['%s%s' % (a_pack.pack_transport.base, a_pack.name)
 
579
                for a_pack in self.packs]
 
580
            if self.revision_ids is not None:
 
581
                rev_count = len(self.revision_ids)
 
582
            else:
 
583
                rev_count = 'all'
 
584
            mutter('%s: create_pack: creating pack from source packs: '
 
585
                '%s%s %s revisions wanted %s t=0',
 
586
                time.ctime(), self._pack_collection._upload_transport.base, new_pack.random_name,
 
587
                plain_pack_list, rev_count)
798
588
        # select revisions
799
589
        if self.revision_ids:
800
590
            revision_keys = [(revision_id,) for revision_id in self.revision_ids]
801
591
        else:
802
592
            revision_keys = None
 
593
 
803
594
        # select revision keys
804
 
        revision_index_map, revision_indices = self._pack_map_and_index_list(
805
 
            'revision_index')
806
 
        revision_nodes = self._index_contents(revision_indices, revision_keys)
807
 
        revision_nodes = list(revision_nodes)
808
 
        self._update_pack_order(revision_nodes, revision_index_map)
 
595
        revision_index_map = self._pack_collection._packs_list_to_pack_map_and_index_list(
 
596
            self.packs, 'revision_index')[0]
 
597
        revision_nodes = self._pack_collection._index_contents(revision_index_map, revision_keys)
809
598
        # copy revision keys and adjust values
810
599
        self.pb.update("Copying revision texts", 1)
811
 
        total_items, readv_group_iter = self._revision_node_readv(revision_nodes)
812
 
        list(self._copy_nodes_graph(revision_index_map, self.new_pack._writer,
813
 
            self.new_pack.revision_index, readv_group_iter, total_items))
 
600
        list(self._copy_nodes_graph(revision_nodes, revision_index_map,
 
601
            new_pack._writer, new_pack.revision_index))
814
602
        if 'pack' in debug.debug_flags:
815
603
            mutter('%s: create_pack: revisions copied: %s%s %d items t+%6.3fs',
816
 
                time.ctime(), self._pack_collection._upload_transport.base,
817
 
                self.new_pack.random_name,
818
 
                self.new_pack.revision_index.key_count(),
819
 
                time.time() - self.new_pack.start_time)
820
 
        self._revision_keys = revision_keys
821
 
 
822
 
    def _copy_inventory_texts(self):
823
 
        """Copy the inventory texts to the new pack.
824
 
 
825
 
        self._revision_keys is used to determine what inventories to copy.
826
 
 
827
 
        Sets self._text_filter appropriately.
828
 
        """
 
604
                time.ctime(), self._pack_collection._upload_transport.base, new_pack.random_name,
 
605
                new_pack.revision_index.key_count(),
 
606
                time.time() - new_pack.start_time)
829
607
        # select inventory keys
830
 
        inv_keys = self._revision_keys # currently the same keyspace, and note that
 
608
        inv_keys = revision_keys # currently the same keyspace, and note that
831
609
        # querying for keys here could introduce a bug where an inventory item
832
610
        # is missed, so do not change it to query separately without cross
833
611
        # checking like the text key check below.
834
 
        inventory_index_map, inventory_indices = self._pack_map_and_index_list(
835
 
            'inventory_index')
836
 
        inv_nodes = self._index_contents(inventory_indices, inv_keys)
 
612
        inventory_index_map = self._pack_collection._packs_list_to_pack_map_and_index_list(
 
613
            self.packs, 'inventory_index')[0]
 
614
        inv_nodes = self._pack_collection._index_contents(inventory_index_map, inv_keys)
837
615
        # copy inventory keys and adjust values
838
616
        # XXX: Should be a helper function to allow different inv representation
839
617
        # at this point.
840
618
        self.pb.update("Copying inventory texts", 2)
841
 
        total_items, readv_group_iter = self._least_readv_node_readv(inv_nodes)
842
 
        # Only grab the output lines if we will be processing them
843
 
        output_lines = bool(self.revision_ids)
844
 
        inv_lines = self._copy_nodes_graph(inventory_index_map,
845
 
            self.new_pack._writer, self.new_pack.inventory_index,
846
 
            readv_group_iter, total_items, output_lines=output_lines)
 
619
        inv_lines = self._copy_nodes_graph(inv_nodes, inventory_index_map,
 
620
            new_pack._writer, new_pack.inventory_index, output_lines=True)
847
621
        if self.revision_ids:
848
 
            self._process_inventory_lines(inv_lines)
 
622
            fileid_revisions = self._pack_collection.repo._find_file_ids_from_xml_inventory_lines(
 
623
                inv_lines, self.revision_ids)
 
624
            text_filter = []
 
625
            for fileid, file_revids in fileid_revisions.iteritems():
 
626
                text_filter.extend(
 
627
                    [(fileid, file_revid) for file_revid in file_revids])
849
628
        else:
850
629
            # eat the iterator to cause it to execute.
851
630
            list(inv_lines)
852
 
            self._text_filter = None
 
631
            text_filter = None
853
632
        if 'pack' in debug.debug_flags:
854
633
            mutter('%s: create_pack: inventories copied: %s%s %d items t+%6.3fs',
855
 
                time.ctime(), self._pack_collection._upload_transport.base,
856
 
                self.new_pack.random_name,
857
 
                self.new_pack.inventory_index.key_count(),
858
 
                time.time() - self.new_pack.start_time)
859
 
 
860
 
    def _copy_text_texts(self):
 
634
                time.ctime(), self._pack_collection._upload_transport.base, new_pack.random_name,
 
635
                new_pack.inventory_index.key_count(),
 
636
                time.time() - new_pack.start_time)
861
637
        # select text keys
862
 
        text_index_map, text_nodes = self._get_text_nodes()
863
 
        if self._text_filter is not None:
 
638
        text_index_map = self._pack_collection._packs_list_to_pack_map_and_index_list(
 
639
            self.packs, 'text_index')[0]
 
640
        text_nodes = self._pack_collection._index_contents(text_index_map, text_filter)
 
641
        if text_filter is not None:
864
642
            # We could return the keys copied as part of the return value from
865
643
            # _copy_nodes_graph but this doesn't work all that well with the
866
644
            # need to get line output too, so we check separately, and as we're
869
647
            # mising records.
870
648
            text_nodes = set(text_nodes)
871
649
            present_text_keys = set(_node[1] for _node in text_nodes)
872
 
            missing_text_keys = set(self._text_filter) - present_text_keys
 
650
            missing_text_keys = set(text_filter) - present_text_keys
873
651
            if missing_text_keys:
874
652
                # TODO: raise a specific error that can handle many missing
875
653
                # keys.
876
 
                mutter("missing keys during fetch: %r", missing_text_keys)
877
654
                a_missing_key = missing_text_keys.pop()
878
655
                raise errors.RevisionNotPresent(a_missing_key[1],
879
656
                    a_missing_key[0])
880
657
        # copy text keys and adjust values
881
658
        self.pb.update("Copying content texts", 3)
882
 
        total_items, readv_group_iter = self._least_readv_node_readv(text_nodes)
883
 
        list(self._copy_nodes_graph(text_index_map, self.new_pack._writer,
884
 
            self.new_pack.text_index, readv_group_iter, total_items))
885
 
        self._log_copied_texts()
886
 
 
887
 
    def _create_pack_from_packs(self):
888
 
        self.pb.update("Opening pack", 0, 5)
889
 
        self.new_pack = self.open_pack()
890
 
        new_pack = self.new_pack
891
 
        # buffer data - we won't be reading-back during the pack creation and
892
 
        # this makes a significant difference on sftp pushes.
893
 
        new_pack.set_write_cache_size(1024*1024)
 
659
        list(self._copy_nodes_graph(text_nodes, text_index_map,
 
660
            new_pack._writer, new_pack.text_index))
894
661
        if 'pack' in debug.debug_flags:
895
 
            plain_pack_list = ['%s%s' % (a_pack.pack_transport.base, a_pack.name)
896
 
                for a_pack in self.packs]
897
 
            if self.revision_ids is not None:
898
 
                rev_count = len(self.revision_ids)
899
 
            else:
900
 
                rev_count = 'all'
901
 
            mutter('%s: create_pack: creating pack from source packs: '
902
 
                '%s%s %s revisions wanted %s t=0',
 
662
            mutter('%s: create_pack: file texts copied: %s%s %d items t+%6.3fs',
903
663
                time.ctime(), self._pack_collection._upload_transport.base, new_pack.random_name,
904
 
                plain_pack_list, rev_count)
905
 
        self._copy_revision_texts()
906
 
        self._copy_inventory_texts()
907
 
        self._copy_text_texts()
 
664
                new_pack.text_index.key_count(),
 
665
                time.time() - new_pack.start_time)
908
666
        # select signature keys
909
 
        signature_filter = self._revision_keys # same keyspace
910
 
        signature_index_map, signature_indices = self._pack_map_and_index_list(
911
 
            'signature_index')
912
 
        signature_nodes = self._index_contents(signature_indices,
 
667
        signature_filter = revision_keys # same keyspace
 
668
        signature_index_map = self._pack_collection._packs_list_to_pack_map_and_index_list(
 
669
            self.packs, 'signature_index')[0]
 
670
        signature_nodes = self._pack_collection._index_contents(signature_index_map,
913
671
            signature_filter)
914
672
        # copy signature keys and adjust values
915
673
        self.pb.update("Copying signature texts", 4)
920
678
                time.ctime(), self._pack_collection._upload_transport.base, new_pack.random_name,
921
679
                new_pack.signature_index.key_count(),
922
680
                time.time() - new_pack.start_time)
923
 
        # copy chk contents
924
 
        # NB XXX: how to check CHK references are present? perhaps by yielding
925
 
        # the items? How should that interact with stacked repos?
926
 
        if new_pack.chk_index is not None:
927
 
            self._copy_chks()
928
 
            if 'pack' in debug.debug_flags:
929
 
                mutter('%s: create_pack: chk content copied: %s%s %d items t+%6.3fs',
930
 
                    time.ctime(), self._pack_collection._upload_transport.base,
931
 
                    new_pack.random_name,
932
 
                    new_pack.chk_index.key_count(),
933
 
                    time.time() - new_pack.start_time)
934
 
        new_pack._check_references()
935
 
        if not self._use_pack(new_pack):
 
681
        if not new_pack.data_inserted():
936
682
            new_pack.abort()
937
683
            return None
938
684
        self.pb.update("Finishing pack", 5)
940
686
        self._pack_collection.allocate(new_pack)
941
687
        return new_pack
942
688
 
943
 
    def _copy_chks(self, refs=None):
944
 
        # XXX: Todo, recursive follow-pointers facility when fetching some
945
 
        # revisions only.
946
 
        chk_index_map, chk_indices = self._pack_map_and_index_list(
947
 
            'chk_index')
948
 
        chk_nodes = self._index_contents(chk_indices, refs)
949
 
        new_refs = set()
950
 
        # TODO: This isn't strictly tasteful as we are accessing some private
951
 
        #       variables (_serializer). Perhaps a better way would be to have
952
 
        #       Repository._deserialise_chk_node()
953
 
        search_key_func = chk_map.search_key_registry.get(
954
 
            self._pack_collection.repo._serializer.search_key_name)
955
 
        def accumlate_refs(lines):
956
 
            # XXX: move to a generic location
957
 
            # Yay mismatch:
958
 
            bytes = ''.join(lines)
959
 
            node = chk_map._deserialise(bytes, ("unknown",), search_key_func)
960
 
            new_refs.update(node.refs())
961
 
        self._copy_nodes(chk_nodes, chk_index_map, self.new_pack._writer,
962
 
            self.new_pack.chk_index, output_lines=accumlate_refs)
963
 
        return new_refs
964
 
 
965
 
    def _copy_nodes(self, nodes, index_map, writer, write_index,
966
 
        output_lines=None):
967
 
        """Copy knit nodes between packs with no graph references.
968
 
 
969
 
        :param output_lines: Output full texts of copied items.
970
 
        """
 
689
    def _copy_nodes(self, nodes, index_map, writer, write_index):
 
690
        """Copy knit nodes between packs with no graph references."""
971
691
        pb = ui.ui_factory.nested_progress_bar()
972
692
        try:
973
693
            return self._do_copy_nodes(nodes, index_map, writer,
974
 
                write_index, pb, output_lines=output_lines)
 
694
                write_index, pb)
975
695
        finally:
976
696
            pb.finished()
977
697
 
978
 
    def _do_copy_nodes(self, nodes, index_map, writer, write_index, pb,
979
 
        output_lines=None):
 
698
    def _do_copy_nodes(self, nodes, index_map, writer, write_index, pb):
980
699
        # for record verification
981
 
        knit = KnitVersionedFiles(None, None)
 
700
        knit_data = _KnitData(None)
982
701
        # plan a readv on each source pack:
983
702
        # group by pack
984
703
        nodes = sorted(nodes)
985
704
        # how to map this into knit.py - or knit.py into this?
986
705
        # we don't want the typical knit logic, we want grouping by pack
987
 
        # at this point - perhaps a helper library for the following code
 
706
        # at this point - perhaps a helper library for the following code 
988
707
        # duplication points?
989
708
        request_groups = {}
990
709
        for index, key, value in nodes:
1003
722
            # linear scan up the pack
1004
723
            pack_readv_requests.sort()
1005
724
            # copy the data
1006
 
            pack_obj = index_map[index]
1007
 
            transport, path = pack_obj.access_tuple()
1008
 
            try:
1009
 
                reader = pack.make_readv_reader(transport, path,
1010
 
                    [offset[0:2] for offset in pack_readv_requests])
1011
 
            except errors.NoSuchFile:
1012
 
                if self._reload_func is not None:
1013
 
                    self._reload_func()
1014
 
                raise
 
725
            transport, path = index_map[index]
 
726
            reader = pack.make_readv_reader(transport, path,
 
727
                [offset[0:2] for offset in pack_readv_requests])
1015
728
            for (names, read_func), (_1, _2, (key, eol_flag)) in \
1016
729
                izip(reader.iter_records(), pack_readv_requests):
1017
730
                raw_data = read_func(None)
1018
731
                # check the header only
1019
 
                if output_lines is not None:
1020
 
                    output_lines(knit._parse_record(key[-1], raw_data)[0])
1021
 
                else:
1022
 
                    df, _ = knit._parse_record_header(key, raw_data)
1023
 
                    df.close()
 
732
                df, _ = knit_data._parse_record_header(key[-1], raw_data)
 
733
                df.close()
1024
734
                pos, size = writer.add_bytes_record(raw_data, names)
1025
735
                write_index.add_node(key, eol_flag + "%d %d" % (pos, size))
1026
736
                pb.update("Copied record", record_index)
1027
737
                record_index += 1
1028
738
 
1029
 
    def _copy_nodes_graph(self, index_map, writer, write_index,
1030
 
        readv_group_iter, total_items, output_lines=False):
 
739
    def _copy_nodes_graph(self, nodes, index_map, writer, write_index,
 
740
        output_lines=False):
1031
741
        """Copy knit nodes between packs.
1032
742
 
1033
743
        :param output_lines: Return lines present in the copied data as
1035
745
        """
1036
746
        pb = ui.ui_factory.nested_progress_bar()
1037
747
        try:
1038
 
            for result in self._do_copy_nodes_graph(index_map, writer,
1039
 
                write_index, output_lines, pb, readv_group_iter, total_items):
 
748
            for result in self._do_copy_nodes_graph(nodes, index_map, writer,
 
749
                write_index, output_lines, pb):
1040
750
                yield result
1041
751
        except Exception:
1042
752
            # Python 2.4 does not permit try:finally: in a generator.
1045
755
        else:
1046
756
            pb.finished()
1047
757
 
1048
 
    def _do_copy_nodes_graph(self, index_map, writer, write_index,
1049
 
        output_lines, pb, readv_group_iter, total_items):
 
758
    def _do_copy_nodes_graph(self, nodes, index_map, writer, write_index,
 
759
        output_lines, pb):
1050
760
        # for record verification
1051
 
        knit = KnitVersionedFiles(None, None)
 
761
        knit_data = _KnitData(None)
1052
762
        # for line extraction when requested (inventories only)
1053
763
        if output_lines:
1054
 
            factory = KnitPlainFactory()
 
764
            factory = knit.KnitPlainFactory()
 
765
        # plan a readv on each source pack:
 
766
        # group by pack
 
767
        nodes = sorted(nodes)
 
768
        # how to map this into knit.py - or knit.py into this?
 
769
        # we don't want the typical knit logic, we want grouping by pack
 
770
        # at this point - perhaps a helper library for the following code 
 
771
        # duplication points?
 
772
        request_groups = {}
1055
773
        record_index = 0
1056
 
        pb.update("Copied record", record_index, total_items)
1057
 
        for index, readv_vector, node_vector in readv_group_iter:
 
774
        pb.update("Copied record", record_index, len(nodes))
 
775
        for index, key, value, references in nodes:
 
776
            if index not in request_groups:
 
777
                request_groups[index] = []
 
778
            request_groups[index].append((key, value, references))
 
779
        for index, items in request_groups.iteritems():
 
780
            pack_readv_requests = []
 
781
            for key, value, references in items:
 
782
                # ---- KnitGraphIndex.get_position
 
783
                bits = value[1:].split(' ')
 
784
                offset, length = int(bits[0]), int(bits[1])
 
785
                pack_readv_requests.append((offset, length, (key, value[0], references)))
 
786
            # linear scan up the pack
 
787
            pack_readv_requests.sort()
1058
788
            # copy the data
1059
 
            pack_obj = index_map[index]
1060
 
            transport, path = pack_obj.access_tuple()
1061
 
            try:
1062
 
                reader = pack.make_readv_reader(transport, path, readv_vector)
1063
 
            except errors.NoSuchFile:
1064
 
                if self._reload_func is not None:
1065
 
                    self._reload_func()
1066
 
                raise
1067
 
            for (names, read_func), (key, eol_flag, references) in \
1068
 
                izip(reader.iter_records(), node_vector):
 
789
            transport, path = index_map[index]
 
790
            reader = pack.make_readv_reader(transport, path,
 
791
                [offset[0:2] for offset in pack_readv_requests])
 
792
            for (names, read_func), (_1, _2, (key, eol_flag, references)) in \
 
793
                izip(reader.iter_records(), pack_readv_requests):
1069
794
                raw_data = read_func(None)
 
795
                version_id = key[-1]
1070
796
                if output_lines:
1071
797
                    # read the entire thing
1072
 
                    content, _ = knit._parse_record(key[-1], raw_data)
 
798
                    content, _ = knit_data._parse_record(version_id, raw_data)
1073
799
                    if len(references[-1]) == 0:
1074
800
                        line_iterator = factory.get_fulltext_content(content)
1075
801
                    else:
1076
802
                        line_iterator = factory.get_linedelta_content(content)
1077
803
                    for line in line_iterator:
1078
 
                        yield line, key
 
804
                        yield line, version_id
1079
805
                else:
1080
806
                    # check the header only
1081
 
                    df, _ = knit._parse_record_header(key, raw_data)
 
807
                    df, _ = knit_data._parse_record_header(version_id, raw_data)
1082
808
                    df.close()
1083
809
                pos, size = writer.add_bytes_record(raw_data, names)
1084
810
                write_index.add_node(key, eol_flag + "%d %d" % (pos, size), references)
1085
811
                pb.update("Copied record", record_index)
1086
812
                record_index += 1
1087
813
 
1088
 
    def _get_text_nodes(self):
1089
 
        text_index_map, text_indices = self._pack_map_and_index_list(
1090
 
            'text_index')
1091
 
        return text_index_map, self._index_contents(text_indices,
1092
 
            self._text_filter)
1093
 
 
1094
 
    def _least_readv_node_readv(self, nodes):
1095
 
        """Generate request groups for nodes using the least readv's.
1096
 
 
1097
 
        :param nodes: An iterable of graph index nodes.
1098
 
        :return: Total node count and an iterator of the data needed to perform
1099
 
            readvs to obtain the data for nodes. Each item yielded by the
1100
 
            iterator is a tuple with:
1101
 
            index, readv_vector, node_vector. readv_vector is a list ready to
1102
 
            hand to the transport readv method, and node_vector is a list of
1103
 
            (key, eol_flag, references) for the node retrieved by the
1104
 
            matching readv_vector.
1105
 
        """
1106
 
        # group by pack so we do one readv per pack
1107
 
        nodes = sorted(nodes)
1108
 
        total = len(nodes)
1109
 
        request_groups = {}
1110
 
        for index, key, value, references in nodes:
1111
 
            if index not in request_groups:
1112
 
                request_groups[index] = []
1113
 
            request_groups[index].append((key, value, references))
1114
 
        result = []
1115
 
        for index, items in request_groups.iteritems():
1116
 
            pack_readv_requests = []
1117
 
            for key, value, references in items:
1118
 
                # ---- KnitGraphIndex.get_position
1119
 
                bits = value[1:].split(' ')
1120
 
                offset, length = int(bits[0]), int(bits[1])
1121
 
                pack_readv_requests.append(
1122
 
                    ((offset, length), (key, value[0], references)))
1123
 
            # linear scan up the pack to maximum range combining.
1124
 
            pack_readv_requests.sort()
1125
 
            # split out the readv and the node data.
1126
 
            pack_readv = [readv for readv, node in pack_readv_requests]
1127
 
            node_vector = [node for readv, node in pack_readv_requests]
1128
 
            result.append((index, pack_readv, node_vector))
1129
 
        return total, result
1130
 
 
1131
 
    def _log_copied_texts(self):
1132
 
        if 'pack' in debug.debug_flags:
1133
 
            mutter('%s: create_pack: file texts copied: %s%s %d items t+%6.3fs',
1134
 
                time.ctime(), self._pack_collection._upload_transport.base,
1135
 
                self.new_pack.random_name,
1136
 
                self.new_pack.text_index.key_count(),
1137
 
                time.time() - self.new_pack.start_time)
1138
 
 
1139
 
    def _process_inventory_lines(self, inv_lines):
1140
 
        """Use up the inv_lines generator and setup a text key filter."""
1141
 
        repo = self._pack_collection.repo
1142
 
        fileid_revisions = repo._find_file_ids_from_xml_inventory_lines(
1143
 
            inv_lines, self.revision_keys)
1144
 
        text_filter = []
1145
 
        for fileid, file_revids in fileid_revisions.iteritems():
1146
 
            text_filter.extend([(fileid, file_revid) for file_revid in file_revids])
1147
 
        self._text_filter = text_filter
1148
 
 
1149
 
    def _revision_node_readv(self, revision_nodes):
1150
 
        """Return the total revisions and the readv's to issue.
1151
 
 
1152
 
        :param revision_nodes: The revision index contents for the packs being
1153
 
            incorporated into the new pack.
1154
 
        :return: As per _least_readv_node_readv.
1155
 
        """
1156
 
        return self._least_readv_node_readv(revision_nodes)
1157
 
 
1158
 
    def _use_pack(self, new_pack):
1159
 
        """Return True if new_pack should be used.
1160
 
 
1161
 
        :param new_pack: The pack that has just been created.
1162
 
        :return: True if the pack should be used.
1163
 
        """
1164
 
        return new_pack.data_inserted()
1165
 
 
1166
 
 
1167
 
class OptimisingPacker(Packer):
1168
 
    """A packer which spends more time to create better disk layouts."""
1169
 
 
1170
 
    def _revision_node_readv(self, revision_nodes):
1171
 
        """Return the total revisions and the readv's to issue.
1172
 
 
1173
 
        This sort places revisions in topological order with the ancestors
1174
 
        after the children.
1175
 
 
1176
 
        :param revision_nodes: The revision index contents for the packs being
1177
 
            incorporated into the new pack.
1178
 
        :return: As per _least_readv_node_readv.
1179
 
        """
1180
 
        # build an ancestors dict
1181
 
        ancestors = {}
1182
 
        by_key = {}
1183
 
        for index, key, value, references in revision_nodes:
1184
 
            ancestors[key] = references[0]
1185
 
            by_key[key] = (index, value, references)
1186
 
        order = tsort.topo_sort(ancestors)
1187
 
        total = len(order)
1188
 
        # Single IO is pathological, but it will work as a starting point.
1189
 
        requests = []
1190
 
        for key in reversed(order):
1191
 
            index, value, references = by_key[key]
1192
 
            # ---- KnitGraphIndex.get_position
1193
 
            bits = value[1:].split(' ')
1194
 
            offset, length = int(bits[0]), int(bits[1])
1195
 
            requests.append(
1196
 
                (index, [(offset, length)], [(key, value[0], references)]))
1197
 
        # TODO: combine requests in the same index that are in ascending order.
1198
 
        return total, requests
1199
 
 
1200
 
    def open_pack(self):
1201
 
        """Open a pack for the pack we are creating."""
1202
 
        new_pack = super(OptimisingPacker, self).open_pack()
1203
 
        # Turn on the optimization flags for all the index builders.
1204
 
        new_pack.revision_index.set_optimize(for_size=True)
1205
 
        new_pack.inventory_index.set_optimize(for_size=True)
1206
 
        new_pack.text_index.set_optimize(for_size=True)
1207
 
        new_pack.signature_index.set_optimize(for_size=True)
1208
 
        return new_pack
1209
 
 
1210
814
 
1211
815
class ReconcilePacker(Packer):
1212
816
    """A packer which regenerates indices etc as it copies.
1213
 
 
 
817
    
1214
818
    This is used by ``bzr reconcile`` to cause parent text pointers to be
1215
819
    regenerated.
1216
820
    """
1217
821
 
1218
 
    def _extra_init(self):
1219
 
        self._data_changed = False
1220
 
 
1221
 
    def _process_inventory_lines(self, inv_lines):
1222
 
        """Generate a text key reference map rather for reconciling with."""
1223
 
        repo = self._pack_collection.repo
1224
 
        refs = repo._find_text_key_references_from_xml_inventory_lines(
1225
 
            inv_lines)
1226
 
        self._text_refs = refs
1227
 
        # during reconcile we:
1228
 
        #  - convert unreferenced texts to full texts
1229
 
        #  - correct texts which reference a text not copied to be full texts
1230
 
        #  - copy all others as-is but with corrected parents.
1231
 
        #  - so at this point we don't know enough to decide what becomes a full
1232
 
        #    text.
1233
 
        self._text_filter = None
1234
 
 
1235
 
    def _copy_text_texts(self):
1236
 
        """generate what texts we should have and then copy."""
1237
 
        self.pb.update("Copying content texts", 3)
1238
 
        # we have three major tasks here:
1239
 
        # 1) generate the ideal index
1240
 
        repo = self._pack_collection.repo
1241
 
        ancestors = dict([(key[0], tuple(ref[0] for ref in refs[0])) for
1242
 
            _1, key, _2, refs in
1243
 
            self.new_pack.revision_index.iter_all_entries()])
1244
 
        ideal_index = repo._generate_text_key_index(self._text_refs, ancestors)
1245
 
        # 2) generate a text_nodes list that contains all the deltas that can
1246
 
        #    be used as-is, with corrected parents.
1247
 
        ok_nodes = []
1248
 
        bad_texts = []
1249
 
        discarded_nodes = []
1250
 
        NULL_REVISION = _mod_revision.NULL_REVISION
1251
 
        text_index_map, text_nodes = self._get_text_nodes()
1252
 
        for node in text_nodes:
1253
 
            # 0 - index
1254
 
            # 1 - key
1255
 
            # 2 - value
1256
 
            # 3 - refs
1257
 
            try:
1258
 
                ideal_parents = tuple(ideal_index[node[1]])
1259
 
            except KeyError:
1260
 
                discarded_nodes.append(node)
1261
 
                self._data_changed = True
1262
 
            else:
1263
 
                if ideal_parents == (NULL_REVISION,):
1264
 
                    ideal_parents = ()
1265
 
                if ideal_parents == node[3][0]:
1266
 
                    # no change needed.
1267
 
                    ok_nodes.append(node)
1268
 
                elif ideal_parents[0:1] == node[3][0][0:1]:
1269
 
                    # the left most parent is the same, or there are no parents
1270
 
                    # today. Either way, we can preserve the representation as
1271
 
                    # long as we change the refs to be inserted.
1272
 
                    self._data_changed = True
1273
 
                    ok_nodes.append((node[0], node[1], node[2],
1274
 
                        (ideal_parents, node[3][1])))
1275
 
                    self._data_changed = True
1276
 
                else:
1277
 
                    # Reinsert this text completely
1278
 
                    bad_texts.append((node[1], ideal_parents))
1279
 
                    self._data_changed = True
1280
 
        # we're finished with some data.
1281
 
        del ideal_index
1282
 
        del text_nodes
1283
 
        # 3) bulk copy the ok data
1284
 
        total_items, readv_group_iter = self._least_readv_node_readv(ok_nodes)
1285
 
        list(self._copy_nodes_graph(text_index_map, self.new_pack._writer,
1286
 
            self.new_pack.text_index, readv_group_iter, total_items))
1287
 
        # 4) adhoc copy all the other texts.
1288
 
        # We have to topologically insert all texts otherwise we can fail to
1289
 
        # reconcile when parts of a single delta chain are preserved intact,
1290
 
        # and other parts are not. E.g. Discarded->d1->d2->d3. d1 will be
1291
 
        # reinserted, and if d3 has incorrect parents it will also be
1292
 
        # reinserted. If we insert d3 first, d2 is present (as it was bulk
1293
 
        # copied), so we will try to delta, but d2 is not currently able to be
1294
 
        # extracted because it's basis d1 is not present. Topologically sorting
1295
 
        # addresses this. The following generates a sort for all the texts that
1296
 
        # are being inserted without having to reference the entire text key
1297
 
        # space (we only topo sort the revisions, which is smaller).
1298
 
        topo_order = tsort.topo_sort(ancestors)
1299
 
        rev_order = dict(zip(topo_order, range(len(topo_order))))
1300
 
        bad_texts.sort(key=lambda key:rev_order.get(key[0][1], 0))
1301
 
        transaction = repo.get_transaction()
1302
 
        file_id_index = GraphIndexPrefixAdapter(
1303
 
            self.new_pack.text_index,
1304
 
            ('blank', ), 1,
1305
 
            add_nodes_callback=self.new_pack.text_index.add_nodes)
1306
 
        data_access = _DirectPackAccess(
1307
 
                {self.new_pack.text_index:self.new_pack.access_tuple()})
1308
 
        data_access.set_writer(self.new_pack._writer, self.new_pack.text_index,
1309
 
            self.new_pack.access_tuple())
1310
 
        output_texts = KnitVersionedFiles(
1311
 
            _KnitGraphIndex(self.new_pack.text_index,
1312
 
                add_callback=self.new_pack.text_index.add_nodes,
1313
 
                deltas=True, parents=True, is_locked=repo.is_locked),
1314
 
            data_access=data_access, max_delta_chain=200)
1315
 
        for key, parent_keys in bad_texts:
1316
 
            # We refer to the new pack to delta data being output.
1317
 
            # A possible improvement would be to catch errors on short reads
1318
 
            # and only flush then.
1319
 
            self.new_pack.flush()
1320
 
            parents = []
1321
 
            for parent_key in parent_keys:
1322
 
                if parent_key[0] != key[0]:
1323
 
                    # Graph parents must match the fileid
1324
 
                    raise errors.BzrError('Mismatched key parent %r:%r' %
1325
 
                        (key, parent_keys))
1326
 
                parents.append(parent_key[1])
1327
 
            text_lines = osutils.split_lines(repo.texts.get_record_stream(
1328
 
                [key], 'unordered', True).next().get_bytes_as('fulltext'))
1329
 
            output_texts.add_lines(key, parent_keys, text_lines,
1330
 
                random_id=True, check_content=False)
1331
 
        # 5) check that nothing inserted has a reference outside the keyspace.
1332
 
        missing_text_keys = self.new_pack.text_index._external_references()
1333
 
        if missing_text_keys:
1334
 
            raise errors.BzrCheckError('Reference to missing compression parents %r'
1335
 
                % (missing_text_keys,))
1336
 
        self._log_copied_texts()
1337
 
 
1338
 
    def _use_pack(self, new_pack):
1339
 
        """Override _use_pack to check for reconcile having changed content."""
1340
 
        # XXX: we might be better checking this at the copy time.
1341
 
        original_inventory_keys = set()
1342
 
        inv_index = self._pack_collection.inventory_index.combined_index
1343
 
        for entry in inv_index.iter_all_entries():
1344
 
            original_inventory_keys.add(entry[1])
1345
 
        new_inventory_keys = set()
1346
 
        for entry in new_pack.inventory_index.iter_all_entries():
1347
 
            new_inventory_keys.add(entry[1])
1348
 
        if new_inventory_keys != original_inventory_keys:
1349
 
            self._data_changed = True
1350
 
        return new_pack.data_inserted() and self._data_changed
1351
 
 
1352
822
 
1353
823
class RepositoryPackCollection(object):
1354
 
    """Management of packs within a repository.
1355
 
 
1356
 
    :ivar _names: map of {pack_name: (index_size,)}
1357
 
    """
1358
 
 
1359
 
    pack_factory = NewPack
1360
 
    resumed_pack_factory = ResumedPack
 
824
    """Management of packs within a repository."""
1361
825
 
1362
826
    def __init__(self, repo, transport, index_transport, upload_transport,
1363
 
                 pack_transport, index_builder_class, index_class,
1364
 
                 use_chk_index):
 
827
                 pack_transport):
1365
828
        """Create a new RepositoryPackCollection.
1366
829
 
1367
 
        :param transport: Addresses the repository base directory
 
830
        :param transport: Addresses the repository base directory 
1368
831
            (typically .bzr/repository/).
1369
832
        :param index_transport: Addresses the directory containing indices.
1370
833
        :param upload_transport: Addresses the directory into which packs are written
1371
834
            while they're being created.
1372
835
        :param pack_transport: Addresses the directory of existing complete packs.
1373
 
        :param index_builder_class: The index builder class to use.
1374
 
        :param index_class: The index class to use.
1375
 
        :param use_chk_index: Whether to setup and manage a CHK index.
1376
836
        """
1377
 
        # XXX: This should call self.reset()
1378
837
        self.repo = repo
1379
838
        self.transport = transport
1380
839
        self._index_transport = index_transport
1381
840
        self._upload_transport = upload_transport
1382
841
        self._pack_transport = pack_transport
1383
 
        self._index_builder_class = index_builder_class
1384
 
        self._index_class = index_class
1385
 
        self._suffix_offsets = {'.rix': 0, '.iix': 1, '.tix': 2, '.six': 3,
1386
 
            '.cix': 4}
 
842
        self._suffix_offsets = {'.rix': 0, '.iix': 1, '.tix': 2, '.six': 3}
1387
843
        self.packs = []
1388
844
        # name:Pack mapping
1389
 
        self._names = None
1390
845
        self._packs_by_name = {}
1391
846
        # the previous pack-names content
1392
847
        self._packs_at_load = None
1393
848
        # when a pack is being created by this object, the state of that pack.
1394
849
        self._new_pack = None
1395
850
        # aggregated revision index data
1396
 
        flush = self._flush_new_pack
1397
 
        self.revision_index = AggregateIndex(self.reload_pack_names, flush)
1398
 
        self.inventory_index = AggregateIndex(self.reload_pack_names, flush)
1399
 
        self.text_index = AggregateIndex(self.reload_pack_names, flush)
1400
 
        self.signature_index = AggregateIndex(self.reload_pack_names, flush)
1401
 
        all_indices = [self.revision_index, self.inventory_index,
1402
 
                self.text_index, self.signature_index]
1403
 
        if use_chk_index:
1404
 
            self.chk_index = AggregateIndex(self.reload_pack_names, flush)
1405
 
            all_indices.append(self.chk_index)
1406
 
        else:
1407
 
            # used to determine if we're using a chk_index elsewhere.
1408
 
            self.chk_index = None
1409
 
        # Tell all the CombinedGraphIndex objects about each other, so they can
1410
 
        # share hints about which pack names to search first.
1411
 
        all_combined = [agg_idx.combined_index for agg_idx in all_indices]
1412
 
        for combined_idx in all_combined:
1413
 
            combined_idx.set_sibling_indices(
1414
 
                set(all_combined).difference([combined_idx]))
1415
 
        # resumed packs
1416
 
        self._resumed_packs = []
1417
 
 
1418
 
    def __repr__(self):
1419
 
        return '%s(%r)' % (self.__class__.__name__, self.repo)
 
851
        self.revision_index = AggregateIndex()
 
852
        self.inventory_index = AggregateIndex()
 
853
        self.text_index = AggregateIndex()
 
854
        self.signature_index = AggregateIndex()
1420
855
 
1421
856
    def add_pack_to_memory(self, pack):
1422
857
        """Make a Pack object available to the repository to satisfy queries.
1423
 
 
 
858
        
1424
859
        :param pack: A Pack object.
1425
860
        """
1426
 
        if pack.name in self._packs_by_name:
1427
 
            raise AssertionError(
1428
 
                'pack %s already in _packs_by_name' % (pack.name,))
 
861
        assert pack.name not in self._packs_by_name
1429
862
        self.packs.append(pack)
1430
863
        self._packs_by_name[pack.name] = pack
1431
864
        self.revision_index.add_index(pack.revision_index, pack)
1432
865
        self.inventory_index.add_index(pack.inventory_index, pack)
1433
866
        self.text_index.add_index(pack.text_index, pack)
1434
867
        self.signature_index.add_index(pack.signature_index, pack)
1435
 
        if self.chk_index is not None:
1436
 
            self.chk_index.add_index(pack.chk_index, pack)
 
868
        
 
869
    def _add_text_to_weave(self, file_id, revision_id, new_lines, parents,
 
870
        nostore_sha, random_revid):
 
871
        file_id_index = GraphIndexPrefixAdapter(
 
872
            self.text_index.combined_index,
 
873
            (file_id, ), 1,
 
874
            add_nodes_callback=self.text_index.add_callback)
 
875
        self.repo._text_knit._index._graph_index = file_id_index
 
876
        self.repo._text_knit._index._add_callback = file_id_index.add_nodes
 
877
        return self.repo._text_knit.add_lines_with_ghosts(
 
878
            revision_id, parents, new_lines, nostore_sha=nostore_sha,
 
879
            random_id=random_revid, check_content=False)[0:2]
1437
880
 
1438
881
    def all_packs(self):
1439
882
        """Return a list of all the Pack objects this repository has.
1449
892
 
1450
893
    def autopack(self):
1451
894
        """Pack the pack collection incrementally.
1452
 
 
 
895
        
1453
896
        This will not attempt global reorganisation or recompression,
1454
897
        rather it will just ensure that the total number of packs does
1455
898
        not grow without bound. It uses the _max_pack_count method to
1461
904
        in synchronisation with certain steps. Otherwise the names collection
1462
905
        is not flushed.
1463
906
 
1464
 
        :return: Something evaluating true if packing took place.
 
907
        :return: True if packing took place.
1465
908
        """
1466
 
        while True:
1467
 
            try:
1468
 
                return self._do_autopack()
1469
 
            except errors.RetryAutopack:
1470
 
                # If we get a RetryAutopack exception, we should abort the
1471
 
                # current action, and retry.
1472
 
                pass
1473
 
 
1474
 
    def _do_autopack(self):
1475
909
        # XXX: Should not be needed when the management of indices is sane.
1476
910
        total_revisions = self.revision_index.combined_index.key_count()
1477
911
        total_packs = len(self._names)
1478
912
        if self._max_pack_count(total_revisions) >= total_packs:
1479
 
            return None
 
913
            return False
 
914
        # XXX: the following may want to be a class, to pack with a given
 
915
        # policy.
 
916
        mutter('Auto-packing repository %s, which has %d pack files, '
 
917
            'containing %d revisions into %d packs.', self, total_packs,
 
918
            total_revisions, self._max_pack_count(total_revisions))
1480
919
        # determine which packs need changing
1481
920
        pack_distribution = self.pack_distribution(total_revisions)
1482
921
        existing_packs = []
1490
929
                # group their data with the relevant commit, and that may
1491
930
                # involve rewriting ancient history - which autopack tries to
1492
931
                # avoid. Alternatively we could not group the data but treat
1493
 
                # each of these as having a single revision, and thus add
 
932
                # each of these as having a single revision, and thus add 
1494
933
                # one revision for each to the total revision count, to get
1495
934
                # a matching distribution.
1496
935
                continue
1497
936
            existing_packs.append((revision_count, pack))
1498
937
        pack_operations = self.plan_autopack_combinations(
1499
938
            existing_packs, pack_distribution)
1500
 
        num_new_packs = len(pack_operations)
1501
 
        num_old_packs = sum([len(po[1]) for po in pack_operations])
1502
 
        num_revs_affected = sum([po[0] for po in pack_operations])
1503
 
        mutter('Auto-packing repository %s, which has %d pack files, '
1504
 
            'containing %d revisions. Packing %d files into %d affecting %d'
1505
 
            ' revisions', self, total_packs, total_revisions, num_old_packs,
1506
 
            num_new_packs, num_revs_affected)
1507
 
        result = self._execute_pack_operations(pack_operations,
1508
 
                                      reload_func=self._restart_autopack)
1509
 
        mutter('Auto-packing repository %s completed', self)
1510
 
        return result
 
939
        self._execute_pack_operations(pack_operations)
 
940
        return True
1511
941
 
1512
 
    def _execute_pack_operations(self, pack_operations, _packer_class=Packer,
1513
 
                                 reload_func=None):
 
942
    def _execute_pack_operations(self, pack_operations):
1514
943
        """Execute a series of pack operations.
1515
944
 
1516
945
        :param pack_operations: A list of [revision_count, packs_to_combine].
1517
 
        :param _packer_class: The class of packer to use (default: Packer).
1518
 
        :return: The new pack names.
 
946
        :return: None.
1519
947
        """
1520
948
        for revision_count, packs in pack_operations:
1521
949
            # we may have no-ops from the setup logic
1522
950
            if len(packs) == 0:
1523
951
                continue
1524
 
            packer = _packer_class(self, packs, '.autopack',
1525
 
                                   reload_func=reload_func)
1526
 
            try:
1527
 
                packer.pack()
1528
 
            except errors.RetryWithNewPacks:
1529
 
                # An exception is propagating out of this context, make sure
1530
 
                # this packer has cleaned up. Packer() doesn't set its new_pack
1531
 
                # state into the RepositoryPackCollection object, so we only
1532
 
                # have access to it directly here.
1533
 
                if packer.new_pack is not None:
1534
 
                    packer.new_pack.abort()
1535
 
                raise
 
952
            Packer(self, packs, '.autopack').pack()
1536
953
            for pack in packs:
1537
954
                self._remove_pack_from_memory(pack)
1538
955
        # record the newly available packs and stop advertising the old
1539
956
        # packs
1540
 
        to_be_obsoleted = []
1541
 
        for _, packs in pack_operations:
1542
 
            to_be_obsoleted.extend(packs)
1543
 
        result = self._save_pack_names(clear_obsolete_packs=True,
1544
 
                                       obsolete_packs=to_be_obsoleted)
1545
 
        return result
1546
 
 
1547
 
    def _flush_new_pack(self):
1548
 
        if self._new_pack is not None:
1549
 
            self._new_pack.flush()
 
957
        self._save_pack_names(clear_obsolete_packs=True)
 
958
        # Move the old packs out of the way now they are no longer referenced.
 
959
        for revision_count, packs in pack_operations:
 
960
            self._obsolete_packs(packs)
1550
961
 
1551
962
    def lock_names(self):
1552
963
        """Acquire the mutex around the pack-names index.
1553
 
 
 
964
        
1554
965
        This cannot be used in the middle of a read-only transaction on the
1555
966
        repository.
1556
967
        """
1557
968
        self.repo.control_files.lock_write()
1558
969
 
1559
 
    def _already_packed(self):
1560
 
        """Is the collection already packed?"""
1561
 
        return not (self.repo._format.pack_compresses or (len(self._names) > 1))
1562
 
 
1563
 
    def pack(self, hint=None, clean_obsolete_packs=False):
 
970
    def pack(self):
1564
971
        """Pack the pack collection totally."""
1565
972
        self.ensure_loaded()
1566
973
        total_packs = len(self._names)
1567
 
        if self._already_packed():
 
974
        if total_packs < 2:
1568
975
            return
1569
976
        total_revisions = self.revision_index.combined_index.key_count()
1570
977
        # XXX: the following may want to be a class, to pack with a given
1571
978
        # policy.
1572
979
        mutter('Packing repository %s, which has %d pack files, '
1573
 
            'containing %d revisions with hint %r.', self, total_packs,
1574
 
            total_revisions, hint)
 
980
            'containing %d revisions into 1 packs.', self, total_packs,
 
981
            total_revisions)
1575
982
        # determine which packs need changing
 
983
        pack_distribution = [1]
1576
984
        pack_operations = [[0, []]]
1577
985
        for pack in self.all_packs():
1578
 
            if hint is None or pack.name in hint:
1579
 
                # Either no hint was provided (so we are packing everything),
1580
 
                # or this pack was included in the hint.
1581
 
                pack_operations[-1][0] += pack.get_revision_count()
1582
 
                pack_operations[-1][1].append(pack)
1583
 
        self._execute_pack_operations(pack_operations, OptimisingPacker)
1584
 
 
1585
 
        if clean_obsolete_packs:
1586
 
            self._clear_obsolete_packs()
 
986
            revision_count = pack.get_revision_count()
 
987
            pack_operations[-1][0] += revision_count
 
988
            pack_operations[-1][1].append(pack)
 
989
        self._execute_pack_operations(pack_operations)
1587
990
 
1588
991
    def plan_autopack_combinations(self, existing_packs, pack_distribution):
1589
992
        """Plan a pack operation.
1600
1003
        # plan out what packs to keep, and what to reorganise
1601
1004
        while len(existing_packs):
1602
1005
            # take the largest pack, and if its less than the head of the
1603
 
            # distribution chart we will include its contents in the new pack
1604
 
            # for that position. If its larger, we remove its size from the
 
1006
            # distribution chart we will include its contents in the new pack for
 
1007
            # that position. If its larger, we remove its size from the
1605
1008
            # distribution chart
1606
1009
            next_pack_rev_count, next_pack = existing_packs.pop(0)
1607
1010
            if next_pack_rev_count >= pack_distribution[0]:
1624
1027
                    # this pack is used up, shift left.
1625
1028
                    del pack_distribution[0]
1626
1029
                    pack_operations.append([0, []])
1627
 
        # Now that we know which pack files we want to move, shove them all
1628
 
        # into a single pack file.
1629
 
        final_rev_count = 0
1630
 
        final_pack_list = []
1631
 
        for num_revs, pack_files in pack_operations:
1632
 
            final_rev_count += num_revs
1633
 
            final_pack_list.extend(pack_files)
1634
 
        if len(final_pack_list) == 1:
1635
 
            raise AssertionError('We somehow generated an autopack with a'
1636
 
                ' single pack file being moved.')
1637
 
            return []
1638
 
        return [[final_rev_count, final_pack_list]]
 
1030
        
 
1031
        return pack_operations
1639
1032
 
1640
1033
    def ensure_loaded(self):
1641
 
        """Ensure we have read names from disk.
1642
 
 
1643
 
        :return: True if the disk names had not been previously read.
1644
 
        """
1645
1034
        # NB: if you see an assertion error here, its probably access against
1646
1035
        # an unlocked repo. Naughty.
1647
 
        if not self.repo.is_locked():
1648
 
            raise errors.ObjectNotLocked(self.repo)
 
1036
        assert self.repo.is_locked()
1649
1037
        if self._names is None:
1650
1038
            self._names = {}
1651
1039
            self._packs_at_load = set()
1653
1041
                name = key[0]
1654
1042
                self._names[name] = self._parse_index_sizes(value)
1655
1043
                self._packs_at_load.add((key, value))
1656
 
            result = True
1657
 
        else:
1658
 
            result = False
1659
1044
        # populate all the metadata.
1660
1045
        self.all_packs()
1661
 
        return result
1662
1046
 
1663
1047
    def _parse_index_sizes(self, value):
1664
1048
        """Parse a string of index sizes."""
1677
1061
            inv_index = self._make_index(name, '.iix')
1678
1062
            txt_index = self._make_index(name, '.tix')
1679
1063
            sig_index = self._make_index(name, '.six')
1680
 
            if self.chk_index is not None:
1681
 
                chk_index = self._make_index(name, '.cix', unlimited_cache=True)
1682
 
            else:
1683
 
                chk_index = None
1684
1064
            result = ExistingPack(self._pack_transport, name, rev_index,
1685
 
                inv_index, txt_index, sig_index, chk_index)
 
1065
                inv_index, txt_index, sig_index)
1686
1066
            self.add_pack_to_memory(result)
1687
1067
            return result
1688
1068
 
1689
 
    def _resume_pack(self, name):
1690
 
        """Get a suspended Pack object by name.
1691
 
 
1692
 
        :param name: The name of the pack - e.g. '123456'
1693
 
        :return: A Pack object.
1694
 
        """
1695
 
        if not re.match('[a-f0-9]{32}', name):
1696
 
            # Tokens should be md5sums of the suspended pack file, i.e. 32 hex
1697
 
            # digits.
1698
 
            raise errors.UnresumableWriteGroup(
1699
 
                self.repo, [name], 'Malformed write group token')
1700
 
        try:
1701
 
            rev_index = self._make_index(name, '.rix', resume=True)
1702
 
            inv_index = self._make_index(name, '.iix', resume=True)
1703
 
            txt_index = self._make_index(name, '.tix', resume=True)
1704
 
            sig_index = self._make_index(name, '.six', resume=True)
1705
 
            if self.chk_index is not None:
1706
 
                chk_index = self._make_index(name, '.cix', resume=True,
1707
 
                                             unlimited_cache=True)
1708
 
            else:
1709
 
                chk_index = None
1710
 
            result = self.resumed_pack_factory(name, rev_index, inv_index,
1711
 
                txt_index, sig_index, self._upload_transport,
1712
 
                self._pack_transport, self._index_transport, self,
1713
 
                chk_index=chk_index)
1714
 
        except errors.NoSuchFile, e:
1715
 
            raise errors.UnresumableWriteGroup(self.repo, [name], str(e))
1716
 
        self.add_pack_to_memory(result)
1717
 
        self._resumed_packs.append(result)
1718
 
        return result
1719
 
 
1720
1069
    def allocate(self, a_new_pack):
1721
1070
        """Allocate name in the list of packs.
1722
1071
 
1725
1074
        """
1726
1075
        self.ensure_loaded()
1727
1076
        if a_new_pack.name in self._names:
1728
 
            raise errors.BzrError(
1729
 
                'Pack %r already exists in %s' % (a_new_pack.name, self))
 
1077
            # a collision with the packs we know about (not the only possible
 
1078
            # collision, see NewPack.finish() for some discussion). Remove our
 
1079
            # prior reference to it.
 
1080
            self._remove_pack_from_memory(a_new_pack)
1730
1081
        self._names[a_new_pack.name] = tuple(a_new_pack.index_sizes)
1731
1082
        self.add_pack_to_memory(a_new_pack)
1732
1083
 
1733
1084
    def _iter_disk_pack_index(self):
1734
1085
        """Iterate over the contents of the pack-names index.
1735
 
 
 
1086
        
1736
1087
        This is used when loading the list from disk, and before writing to
1737
1088
        detect updates from others during our write operation.
1738
1089
        :return: An iterator of the index contents.
1739
1090
        """
1740
 
        return self._index_class(self.transport, 'pack-names', None
 
1091
        return GraphIndex(self.transport, 'pack-names', None
1741
1092
                ).iter_all_entries()
1742
1093
 
1743
 
    def _make_index(self, name, suffix, resume=False, unlimited_cache=False):
 
1094
    def _make_index(self, name, suffix):
1744
1095
        size_offset = self._suffix_offsets[suffix]
1745
1096
        index_name = name + suffix
1746
 
        if resume:
1747
 
            transport = self._upload_transport
1748
 
            index_size = transport.stat(index_name).st_size
1749
 
        else:
1750
 
            transport = self._index_transport
1751
 
            index_size = self._names[name][size_offset]
1752
 
        return self._index_class(transport, index_name, index_size,
1753
 
                                 unlimited_cache=unlimited_cache)
 
1097
        index_size = self._names[name][size_offset]
 
1098
        return GraphIndex(
 
1099
            self._index_transport, index_name, index_size)
1754
1100
 
1755
1101
    def _max_pack_count(self, total_revisions):
1756
1102
        """Return the maximum number of packs to use for total revisions.
1757
 
 
 
1103
        
1758
1104
        :param total_revisions: The total number of revisions in the
1759
1105
            repository.
1760
1106
        """
1784
1130
        :param return: None.
1785
1131
        """
1786
1132
        for pack in packs:
1787
 
            try:
1788
 
                pack.pack_transport.rename(pack.file_name(),
1789
 
                    '../obsolete_packs/' + pack.file_name())
1790
 
            except (errors.PathError, errors.TransportError), e:
1791
 
                # TODO: Should these be warnings or mutters?
1792
 
                mutter("couldn't rename obsolete pack, skipping it:\n%s"
1793
 
                       % (e,))
 
1133
            pack.pack_transport.rename(pack.file_name(),
 
1134
                '../obsolete_packs/' + pack.file_name())
1794
1135
            # TODO: Probably needs to know all possible indices for this pack
1795
1136
            # - or maybe list the directory and move all indices matching this
1796
1137
            # name whether we recognize it or not?
1797
 
            suffixes = ['.iix', '.six', '.tix', '.rix']
1798
 
            if self.chk_index is not None:
1799
 
                suffixes.append('.cix')
1800
 
            for suffix in suffixes:
1801
 
                try:
1802
 
                    self._index_transport.rename(pack.name + suffix,
1803
 
                        '../obsolete_packs/' + pack.name + suffix)
1804
 
                except (errors.PathError, errors.TransportError), e:
1805
 
                    mutter("couldn't rename obsolete index, skipping it:\n%s"
1806
 
                           % (e,))
 
1138
            for suffix in ('.iix', '.six', '.tix', '.rix'):
 
1139
                self._index_transport.rename(pack.name + suffix,
 
1140
                    '../obsolete_packs/' + pack.name + suffix)
1807
1141
 
1808
1142
    def pack_distribution(self, total_revisions):
1809
1143
        """Generate a list of the number of revisions to put in each pack.
1827
1161
 
1828
1162
    def _remove_pack_from_memory(self, pack):
1829
1163
        """Remove pack from the packs accessed by this repository.
1830
 
 
 
1164
        
1831
1165
        Only affects memory state, until self._save_pack_names() is invoked.
1832
1166
        """
1833
1167
        self._names.pop(pack.name)
1834
1168
        self._packs_by_name.pop(pack.name)
1835
1169
        self._remove_pack_indices(pack)
1836
 
        self.packs.remove(pack)
1837
1170
 
1838
 
    def _remove_pack_indices(self, pack, ignore_missing=False):
1839
 
        """Remove the indices for pack from the aggregated indices.
1840
 
        
1841
 
        :param ignore_missing: Suppress KeyErrors from calling remove_index.
1842
 
        """
1843
 
        for index_type in Pack.index_definitions.keys():
1844
 
            attr_name = index_type + '_index'
1845
 
            aggregate_index = getattr(self, attr_name)
1846
 
            if aggregate_index is not None:
1847
 
                pack_index = getattr(pack, attr_name)
1848
 
                try:
1849
 
                    aggregate_index.remove_index(pack_index)
1850
 
                except KeyError:
1851
 
                    if ignore_missing:
1852
 
                        continue
1853
 
                    raise
 
1171
    def _remove_pack_indices(self, pack):
 
1172
        """Remove the indices for pack from the aggregated indices."""
 
1173
        self.revision_index.remove_index(pack.revision_index, pack)
 
1174
        self.inventory_index.remove_index(pack.inventory_index, pack)
 
1175
        self.text_index.remove_index(pack.text_index, pack)
 
1176
        self.signature_index.remove_index(pack.signature_index, pack)
1854
1177
 
1855
1178
    def reset(self):
1856
1179
        """Clear all cached data."""
1857
1180
        # cached revision data
 
1181
        self.repo._revision_knit = None
1858
1182
        self.revision_index.clear()
1859
1183
        # cached signature data
 
1184
        self.repo._signature_knit = None
1860
1185
        self.signature_index.clear()
1861
1186
        # cached file text data
1862
1187
        self.text_index.clear()
 
1188
        self.repo._text_knit = None
1863
1189
        # cached inventory data
1864
1190
        self.inventory_index.clear()
1865
 
        # cached chk data
1866
 
        if self.chk_index is not None:
1867
 
            self.chk_index.clear()
1868
1191
        # remove the open pack
1869
1192
        self._new_pack = None
1870
1193
        # information about packs.
1873
1196
        self._packs_by_name = {}
1874
1197
        self._packs_at_load = None
1875
1198
 
 
1199
    def _make_index_map(self, index_suffix):
 
1200
        """Return information on existing indices.
 
1201
 
 
1202
        :param suffix: Index suffix added to pack name.
 
1203
 
 
1204
        :returns: (pack_map, indices) where indices is a list of GraphIndex 
 
1205
        objects, and pack_map is a mapping from those objects to the 
 
1206
        pack tuple they describe.
 
1207
        """
 
1208
        # TODO: stop using this; it creates new indices unnecessarily.
 
1209
        self.ensure_loaded()
 
1210
        suffix_map = {'.rix': 'revision_index',
 
1211
            '.six': 'signature_index',
 
1212
            '.iix': 'inventory_index',
 
1213
            '.tix': 'text_index',
 
1214
        }
 
1215
        return self._packs_list_to_pack_map_and_index_list(self.all_packs(),
 
1216
            suffix_map[index_suffix])
 
1217
 
 
1218
    def _packs_list_to_pack_map_and_index_list(self, packs, index_attribute):
 
1219
        """Convert a list of packs to an index pack map and index list.
 
1220
 
 
1221
        :param packs: The packs list to process.
 
1222
        :param index_attribute: The attribute that the desired index is found
 
1223
            on.
 
1224
        :return: A tuple (map, list) where map contains the dict from
 
1225
            index:pack_tuple, and lsit contains the indices in the same order
 
1226
            as the packs list.
 
1227
        """
 
1228
        indices = []
 
1229
        pack_map = {}
 
1230
        for pack in packs:
 
1231
            index = getattr(pack, index_attribute)
 
1232
            indices.append(index)
 
1233
            pack_map[index] = (pack.pack_transport, pack.file_name())
 
1234
        return pack_map, indices
 
1235
 
 
1236
    def _index_contents(self, pack_map, key_filter=None):
 
1237
        """Get an iterable of the index contents from a pack_map.
 
1238
 
 
1239
        :param pack_map: A map from indices to pack details.
 
1240
        :param key_filter: An optional filter to limit the
 
1241
            keys returned.
 
1242
        """
 
1243
        indices = [index for index in pack_map.iterkeys()]
 
1244
        all_index = CombinedGraphIndex(indices)
 
1245
        if key_filter is None:
 
1246
            return all_index.iter_all_entries()
 
1247
        else:
 
1248
            return all_index.iter_entries(key_filter)
 
1249
 
1876
1250
    def _unlock_names(self):
1877
1251
        """Release the mutex around the pack-names index."""
1878
1252
        self.repo.control_files.unlock()
1879
1253
 
1880
 
    def _diff_pack_names(self):
1881
 
        """Read the pack names from disk, and compare it to the one in memory.
1882
 
 
1883
 
        :return: (disk_nodes, deleted_nodes, new_nodes)
1884
 
            disk_nodes    The final set of nodes that should be referenced
1885
 
            deleted_nodes Nodes which have been removed from when we started
1886
 
            new_nodes     Nodes that are newly introduced
1887
 
        """
1888
 
        # load the disk nodes across
1889
 
        disk_nodes = set()
1890
 
        for index, key, value in self._iter_disk_pack_index():
1891
 
            disk_nodes.add((key, value))
1892
 
        orig_disk_nodes = set(disk_nodes)
1893
 
 
1894
 
        # do a two-way diff against our original content
1895
 
        current_nodes = set()
1896
 
        for name, sizes in self._names.iteritems():
1897
 
            current_nodes.add(
1898
 
                ((name, ), ' '.join(str(size) for size in sizes)))
1899
 
 
1900
 
        # Packs no longer present in the repository, which were present when we
1901
 
        # locked the repository
1902
 
        deleted_nodes = self._packs_at_load - current_nodes
1903
 
        # Packs which this process is adding
1904
 
        new_nodes = current_nodes - self._packs_at_load
1905
 
 
1906
 
        # Update the disk_nodes set to include the ones we are adding, and
1907
 
        # remove the ones which were removed by someone else
1908
 
        disk_nodes.difference_update(deleted_nodes)
1909
 
        disk_nodes.update(new_nodes)
1910
 
 
1911
 
        return disk_nodes, deleted_nodes, new_nodes, orig_disk_nodes
1912
 
 
1913
 
    def _syncronize_pack_names_from_disk_nodes(self, disk_nodes):
1914
 
        """Given the correct set of pack files, update our saved info.
1915
 
 
1916
 
        :return: (removed, added, modified)
1917
 
            removed     pack names removed from self._names
1918
 
            added       pack names added to self._names
1919
 
            modified    pack names that had changed value
1920
 
        """
1921
 
        removed = []
1922
 
        added = []
1923
 
        modified = []
1924
 
        ## self._packs_at_load = disk_nodes
 
1254
    def _save_pack_names(self, clear_obsolete_packs=False):
 
1255
        """Save the list of packs.
 
1256
 
 
1257
        This will take out the mutex around the pack names list for the
 
1258
        duration of the method call. If concurrent updates have been made, a
 
1259
        three-way merge between the current list and the current in memory list
 
1260
        is performed.
 
1261
 
 
1262
        :param clear_obsolete_packs: If True, clear out the contents of the
 
1263
            obsolete_packs directory.
 
1264
        """
 
1265
        self.lock_names()
 
1266
        try:
 
1267
            builder = GraphIndexBuilder()
 
1268
            # load the disk nodes across
 
1269
            disk_nodes = set()
 
1270
            for index, key, value in self._iter_disk_pack_index():
 
1271
                disk_nodes.add((key, value))
 
1272
            # do a two-way diff against our original content
 
1273
            current_nodes = set()
 
1274
            for name, sizes in self._names.iteritems():
 
1275
                current_nodes.add(
 
1276
                    ((name, ), ' '.join(str(size) for size in sizes)))
 
1277
            deleted_nodes = self._packs_at_load - current_nodes
 
1278
            new_nodes = current_nodes - self._packs_at_load
 
1279
            disk_nodes.difference_update(deleted_nodes)
 
1280
            disk_nodes.update(new_nodes)
 
1281
            # TODO: handle same-name, index-size-changes here - 
 
1282
            # e.g. use the value from disk, not ours, *unless* we're the one
 
1283
            # changing it.
 
1284
            for key, value in disk_nodes:
 
1285
                builder.add_node(key, value)
 
1286
            self.transport.put_file('pack-names', builder.finish(),
 
1287
                mode=self.repo.control_files._file_mode)
 
1288
            # move the baseline forward
 
1289
            self._packs_at_load = disk_nodes
 
1290
            # now clear out the obsolete packs directory
 
1291
            if clear_obsolete_packs:
 
1292
                self.transport.clone('obsolete_packs').delete_multi(
 
1293
                    self.transport.list_dir('obsolete_packs'))
 
1294
        finally:
 
1295
            self._unlock_names()
 
1296
        # synchronise the memory packs list with what we just wrote:
1925
1297
        new_names = dict(disk_nodes)
1926
1298
        # drop no longer present nodes
1927
1299
        for pack in self.all_packs():
1928
1300
            if (pack.name,) not in new_names:
1929
 
                removed.append(pack.name)
1930
1301
                self._remove_pack_from_memory(pack)
1931
1302
        # add new nodes/refresh existing ones
1932
1303
        for key, value in disk_nodes:
1946
1317
                    self._remove_pack_from_memory(self.get_pack_by_name(name))
1947
1318
                    self._names[name] = sizes
1948
1319
                    self.get_pack_by_name(name)
1949
 
                    modified.append(name)
1950
1320
            else:
1951
1321
                # new
1952
1322
                self._names[name] = sizes
1953
1323
                self.get_pack_by_name(name)
1954
 
                added.append(name)
1955
 
        return removed, added, modified
1956
 
 
1957
 
    def _save_pack_names(self, clear_obsolete_packs=False, obsolete_packs=None):
1958
 
        """Save the list of packs.
1959
 
 
1960
 
        This will take out the mutex around the pack names list for the
1961
 
        duration of the method call. If concurrent updates have been made, a
1962
 
        three-way merge between the current list and the current in memory list
1963
 
        is performed.
1964
 
 
1965
 
        :param clear_obsolete_packs: If True, clear out the contents of the
1966
 
            obsolete_packs directory.
1967
 
        :param obsolete_packs: Packs that are obsolete once the new pack-names
1968
 
            file has been written.
1969
 
        :return: A list of the names saved that were not previously on disk.
1970
 
        """
1971
 
        already_obsolete = []
1972
 
        self.lock_names()
1973
 
        try:
1974
 
            builder = self._index_builder_class()
1975
 
            (disk_nodes, deleted_nodes, new_nodes,
1976
 
             orig_disk_nodes) = self._diff_pack_names()
1977
 
            # TODO: handle same-name, index-size-changes here -
1978
 
            # e.g. use the value from disk, not ours, *unless* we're the one
1979
 
            # changing it.
1980
 
            for key, value in disk_nodes:
1981
 
                builder.add_node(key, value)
1982
 
            self.transport.put_file('pack-names', builder.finish(),
1983
 
                mode=self.repo.bzrdir._get_file_mode())
1984
 
            self._packs_at_load = disk_nodes
1985
 
            if clear_obsolete_packs:
1986
 
                to_preserve = None
1987
 
                if obsolete_packs:
1988
 
                    to_preserve = set([o.name for o in obsolete_packs])
1989
 
                already_obsolete = self._clear_obsolete_packs(to_preserve)
1990
 
        finally:
1991
 
            self._unlock_names()
1992
 
        # synchronise the memory packs list with what we just wrote:
1993
 
        self._syncronize_pack_names_from_disk_nodes(disk_nodes)
1994
 
        if obsolete_packs:
1995
 
            # TODO: We could add one more condition here. "if o.name not in
1996
 
            #       orig_disk_nodes and o != the new_pack we haven't written to
1997
 
            #       disk yet. However, the new pack object is not easily
1998
 
            #       accessible here (it would have to be passed through the
1999
 
            #       autopacking code, etc.)
2000
 
            obsolete_packs = [o for o in obsolete_packs
2001
 
                              if o.name not in already_obsolete]
2002
 
            self._obsolete_packs(obsolete_packs)
2003
 
        return [new_node[0][0] for new_node in new_nodes]
2004
 
 
2005
 
    def reload_pack_names(self):
2006
 
        """Sync our pack listing with what is present in the repository.
2007
 
 
2008
 
        This should be called when we find out that something we thought was
2009
 
        present is now missing. This happens when another process re-packs the
2010
 
        repository, etc.
2011
 
 
2012
 
        :return: True if the in-memory list of packs has been altered at all.
2013
 
        """
2014
 
        # The ensure_loaded call is to handle the case where the first call
2015
 
        # made involving the collection was to reload_pack_names, where we 
2016
 
        # don't have a view of disk contents. Its a bit of a bandaid, and
2017
 
        # causes two reads of pack-names, but its a rare corner case not struck
2018
 
        # with regular push/pull etc.
2019
 
        first_read = self.ensure_loaded()
2020
 
        if first_read:
2021
 
            return True
2022
 
        # out the new value.
2023
 
        (disk_nodes, deleted_nodes, new_nodes,
2024
 
         orig_disk_nodes) = self._diff_pack_names()
2025
 
        # _packs_at_load is meant to be the explicit list of names in
2026
 
        # 'pack-names' at then start. As such, it should not contain any
2027
 
        # pending names that haven't been written out yet.
2028
 
        self._packs_at_load = orig_disk_nodes
2029
 
        (removed, added,
2030
 
         modified) = self._syncronize_pack_names_from_disk_nodes(disk_nodes)
2031
 
        if removed or added or modified:
2032
 
            return True
2033
 
        return False
2034
 
 
2035
 
    def _restart_autopack(self):
2036
 
        """Reload the pack names list, and restart the autopack code."""
2037
 
        if not self.reload_pack_names():
2038
 
            # Re-raise the original exception, because something went missing
2039
 
            # and a restart didn't find it
2040
 
            raise
2041
 
        raise errors.RetryAutopack(self.repo, False, sys.exc_info())
2042
 
 
2043
 
    def _clear_obsolete_packs(self, preserve=None):
2044
 
        """Delete everything from the obsolete-packs directory.
2045
 
 
2046
 
        :return: A list of pack identifiers (the filename without '.pack') that
2047
 
            were found in obsolete_packs.
2048
 
        """
2049
 
        found = []
2050
 
        obsolete_pack_transport = self.transport.clone('obsolete_packs')
2051
 
        if preserve is None:
2052
 
            preserve = set()
2053
 
        for filename in obsolete_pack_transport.list_dir('.'):
2054
 
            name, ext = osutils.splitext(filename)
2055
 
            if ext == '.pack':
2056
 
                found.append(name)
2057
 
            if name in preserve:
2058
 
                continue
2059
 
            try:
2060
 
                obsolete_pack_transport.delete(filename)
2061
 
            except (errors.PathError, errors.TransportError), e:
2062
 
                warning("couldn't delete obsolete pack, skipping it:\n%s"
2063
 
                        % (e,))
2064
 
        return found
2065
1324
 
2066
1325
    def _start_write_group(self):
2067
1326
        # Do not permit preparation for writing if we're not in a 'write lock'.
2068
1327
        if not self.repo.is_write_locked():
2069
1328
            raise errors.NotWriteLocked(self)
2070
 
        self._new_pack = self.pack_factory(self, upload_suffix='.pack',
2071
 
            file_mode=self.repo.bzrdir._get_file_mode())
 
1329
        self._new_pack = NewPack(self._upload_transport, self._index_transport,
 
1330
            self._pack_transport, upload_suffix='.pack',
 
1331
            file_mode=self.repo.control_files._file_mode)
2072
1332
        # allow writing: queue writes to a new index
2073
1333
        self.revision_index.add_writable_index(self._new_pack.revision_index,
2074
1334
            self._new_pack)
2076
1336
            self._new_pack)
2077
1337
        self.text_index.add_writable_index(self._new_pack.text_index,
2078
1338
            self._new_pack)
2079
 
        self._new_pack.text_index.set_optimize(combine_backing_indices=False)
2080
1339
        self.signature_index.add_writable_index(self._new_pack.signature_index,
2081
1340
            self._new_pack)
2082
 
        if self.chk_index is not None:
2083
 
            self.chk_index.add_writable_index(self._new_pack.chk_index,
2084
 
                self._new_pack)
2085
 
            self.repo.chk_bytes._index._add_callback = self.chk_index.add_callback
2086
 
            self._new_pack.chk_index.set_optimize(combine_backing_indices=False)
2087
1341
 
2088
 
        self.repo.inventories._index._add_callback = self.inventory_index.add_callback
2089
 
        self.repo.revisions._index._add_callback = self.revision_index.add_callback
2090
 
        self.repo.signatures._index._add_callback = self.signature_index.add_callback
2091
 
        self.repo.texts._index._add_callback = self.text_index.add_callback
 
1342
        # reused revision and signature knits may need updating
 
1343
        #
 
1344
        # "Hysterical raisins. client code in bzrlib grabs those knits outside
 
1345
        # of write groups and then mutates it inside the write group."
 
1346
        if self.repo._revision_knit is not None:
 
1347
            self.repo._revision_knit._index._add_callback = \
 
1348
                self.revision_index.add_callback
 
1349
        if self.repo._signature_knit is not None:
 
1350
            self.repo._signature_knit._index._add_callback = \
 
1351
                self.signature_index.add_callback
 
1352
        # create a reused knit object for text addition in commit.
 
1353
        self.repo._text_knit = self.repo.weave_store.get_weave_or_empty(
 
1354
            'all-texts', None)
2092
1355
 
2093
1356
    def _abort_write_group(self):
2094
1357
        # FIXME: just drop the transient index.
2095
1358
        # forget what names there are
2096
 
        if self._new_pack is not None:
2097
 
            operation = cleanup.OperationWithCleanups(self._new_pack.abort)
2098
 
            operation.add_cleanup(setattr, self, '_new_pack', None)
2099
 
            # If we aborted while in the middle of finishing the write
2100
 
            # group, _remove_pack_indices could fail because the indexes are
2101
 
            # already gone.  But they're not there we shouldn't fail in this
2102
 
            # case, so we pass ignore_missing=True.
2103
 
            operation.add_cleanup(self._remove_pack_indices, self._new_pack,
2104
 
                ignore_missing=True)
2105
 
            operation.run_simple()
2106
 
        for resumed_pack in self._resumed_packs:
2107
 
            operation = cleanup.OperationWithCleanups(resumed_pack.abort)
2108
 
            # See comment in previous finally block.
2109
 
            operation.add_cleanup(self._remove_pack_indices, resumed_pack,
2110
 
                ignore_missing=True)
2111
 
            operation.run_simple()
2112
 
        del self._resumed_packs[:]
2113
 
 
2114
 
    def _remove_resumed_pack_indices(self):
2115
 
        for resumed_pack in self._resumed_packs:
2116
 
            self._remove_pack_indices(resumed_pack)
2117
 
        del self._resumed_packs[:]
2118
 
 
2119
 
    def _check_new_inventories(self):
2120
 
        """Detect missing inventories in this write group.
2121
 
 
2122
 
        :returns: list of strs, summarising any problems found.  If the list is
2123
 
            empty no problems were found.
2124
 
        """
2125
 
        # The base implementation does no checks.  GCRepositoryPackCollection
2126
 
        # overrides this.
2127
 
        return []
2128
 
        
 
1359
        self._new_pack.abort()
 
1360
        self._remove_pack_indices(self._new_pack)
 
1361
        self._new_pack = None
 
1362
        self.repo._text_knit = None
 
1363
 
2129
1364
    def _commit_write_group(self):
2130
 
        all_missing = set()
2131
 
        for prefix, versioned_file in (
2132
 
                ('revisions', self.repo.revisions),
2133
 
                ('inventories', self.repo.inventories),
2134
 
                ('texts', self.repo.texts),
2135
 
                ('signatures', self.repo.signatures),
2136
 
                ):
2137
 
            missing = versioned_file.get_missing_compression_parent_keys()
2138
 
            all_missing.update([(prefix,) + key for key in missing])
2139
 
        if all_missing:
2140
 
            raise errors.BzrCheckError(
2141
 
                "Repository %s has missing compression parent(s) %r "
2142
 
                 % (self.repo, sorted(all_missing)))
2143
 
        problems = self._check_new_inventories()
2144
 
        if problems:
2145
 
            problems_summary = '\n'.join(problems)
2146
 
            raise errors.BzrCheckError(
2147
 
                "Cannot add revision(s) to repository: " + problems_summary)
2148
1365
        self._remove_pack_indices(self._new_pack)
2149
 
        any_new_content = False
2150
1366
        if self._new_pack.data_inserted():
2151
1367
            # get all the data to disk and read to use
2152
1368
            self._new_pack.finish()
2153
1369
            self.allocate(self._new_pack)
2154
1370
            self._new_pack = None
2155
 
            any_new_content = True
2156
 
        else:
2157
 
            self._new_pack.abort()
2158
 
            self._new_pack = None
2159
 
        for resumed_pack in self._resumed_packs:
2160
 
            # XXX: this is a pretty ugly way to turn the resumed pack into a
2161
 
            # properly committed pack.
2162
 
            self._names[resumed_pack.name] = None
2163
 
            self._remove_pack_from_memory(resumed_pack)
2164
 
            resumed_pack.finish()
2165
 
            self.allocate(resumed_pack)
2166
 
            any_new_content = True
2167
 
        del self._resumed_packs[:]
2168
 
        if any_new_content:
2169
 
            result = self.autopack()
2170
 
            if not result:
 
1371
            if not self.autopack():
2171
1372
                # when autopack takes no steps, the names list is still
2172
1373
                # unsaved.
2173
 
                return self._save_pack_names()
2174
 
            return result
2175
 
        return []
2176
 
 
2177
 
    def _suspend_write_group(self):
2178
 
        tokens = [pack.name for pack in self._resumed_packs]
2179
 
        self._remove_pack_indices(self._new_pack)
2180
 
        if self._new_pack.data_inserted():
2181
 
            # get all the data to disk and read to use
2182
 
            self._new_pack.finish(suspend=True)
2183
 
            tokens.append(self._new_pack.name)
2184
 
            self._new_pack = None
 
1374
                self._save_pack_names()
2185
1375
        else:
2186
1376
            self._new_pack.abort()
2187
1377
            self._new_pack = None
2188
 
        self._remove_resumed_pack_indices()
2189
 
        return tokens
2190
 
 
2191
 
    def _resume_write_group(self, tokens):
2192
 
        for token in tokens:
2193
 
            self._resume_pack(token)
 
1378
        self.repo._text_knit = None
 
1379
 
 
1380
 
 
1381
class KnitPackRevisionStore(KnitRevisionStore):
 
1382
    """An object to adapt access from RevisionStore's to use KnitPacks.
 
1383
 
 
1384
    This class works by replacing the original RevisionStore.
 
1385
    We need to do this because the KnitPackRevisionStore is less
 
1386
    isolated in its layering - it uses services from the repo.
 
1387
    """
 
1388
 
 
1389
    def __init__(self, repo, transport, revisionstore):
 
1390
        """Create a KnitPackRevisionStore on repo with revisionstore.
 
1391
 
 
1392
        This will store its state in the Repository, use the
 
1393
        indices to provide a KnitGraphIndex,
 
1394
        and at the end of transactions write new indices.
 
1395
        """
 
1396
        KnitRevisionStore.__init__(self, revisionstore.versioned_file_store)
 
1397
        self.repo = repo
 
1398
        self._serializer = revisionstore._serializer
 
1399
        self.transport = transport
 
1400
 
 
1401
    def get_revision_file(self, transaction):
 
1402
        """Get the revision versioned file object."""
 
1403
        if getattr(self.repo, '_revision_knit', None) is not None:
 
1404
            return self.repo._revision_knit
 
1405
        self.repo._pack_collection.ensure_loaded()
 
1406
        add_callback = self.repo._pack_collection.revision_index.add_callback
 
1407
        # setup knit specific objects
 
1408
        knit_index = KnitGraphIndex(
 
1409
            self.repo._pack_collection.revision_index.combined_index,
 
1410
            add_callback=add_callback)
 
1411
        self.repo._revision_knit = knit.KnitVersionedFile(
 
1412
            'revisions', self.transport.clone('..'),
 
1413
            self.repo.control_files._file_mode,
 
1414
            create=False, access_mode=self.repo._access_mode(),
 
1415
            index=knit_index, delta=False, factory=knit.KnitPlainFactory(),
 
1416
            access_method=self.repo._pack_collection.revision_index.knit_access)
 
1417
        return self.repo._revision_knit
 
1418
 
 
1419
    def get_signature_file(self, transaction):
 
1420
        """Get the signature versioned file object."""
 
1421
        if getattr(self.repo, '_signature_knit', None) is not None:
 
1422
            return self.repo._signature_knit
 
1423
        self.repo._pack_collection.ensure_loaded()
 
1424
        add_callback = self.repo._pack_collection.signature_index.add_callback
 
1425
        # setup knit specific objects
 
1426
        knit_index = KnitGraphIndex(
 
1427
            self.repo._pack_collection.signature_index.combined_index,
 
1428
            add_callback=add_callback, parents=False)
 
1429
        self.repo._signature_knit = knit.KnitVersionedFile(
 
1430
            'signatures', self.transport.clone('..'),
 
1431
            self.repo.control_files._file_mode,
 
1432
            create=False, access_mode=self.repo._access_mode(),
 
1433
            index=knit_index, delta=False, factory=knit.KnitPlainFactory(),
 
1434
            access_method=self.repo._pack_collection.signature_index.knit_access)
 
1435
        return self.repo._signature_knit
 
1436
 
 
1437
 
 
1438
class KnitPackTextStore(VersionedFileStore):
 
1439
    """Presents a TextStore abstraction on top of packs.
 
1440
 
 
1441
    This class works by replacing the original VersionedFileStore.
 
1442
    We need to do this because the KnitPackRevisionStore is less
 
1443
    isolated in its layering - it uses services from the repo and shares them
 
1444
    with all the data written in a single write group.
 
1445
    """
 
1446
 
 
1447
    def __init__(self, repo, transport, weavestore):
 
1448
        """Create a KnitPackTextStore on repo with weavestore.
 
1449
 
 
1450
        This will store its state in the Repository, use the
 
1451
        indices FileNames to provide a KnitGraphIndex,
 
1452
        and at the end of transactions write new indices.
 
1453
        """
 
1454
        # don't call base class constructor - it's not suitable.
 
1455
        # no transient data stored in the transaction
 
1456
        # cache.
 
1457
        self._precious = False
 
1458
        self.repo = repo
 
1459
        self.transport = transport
 
1460
        self.weavestore = weavestore
 
1461
        # XXX for check() which isn't updated yet
 
1462
        self._transport = weavestore._transport
 
1463
 
 
1464
    def get_weave_or_empty(self, file_id, transaction):
 
1465
        """Get a 'Knit' backed by the .tix indices.
 
1466
 
 
1467
        The transaction parameter is ignored.
 
1468
        """
 
1469
        self.repo._pack_collection.ensure_loaded()
 
1470
        add_callback = self.repo._pack_collection.text_index.add_callback
 
1471
        # setup knit specific objects
 
1472
        file_id_index = GraphIndexPrefixAdapter(
 
1473
            self.repo._pack_collection.text_index.combined_index,
 
1474
            (file_id, ), 1, add_nodes_callback=add_callback)
 
1475
        knit_index = KnitGraphIndex(file_id_index,
 
1476
            add_callback=file_id_index.add_nodes,
 
1477
            deltas=True, parents=True)
 
1478
        return knit.KnitVersionedFile('text:' + file_id,
 
1479
            self.transport.clone('..'),
 
1480
            None,
 
1481
            index=knit_index,
 
1482
            access_method=self.repo._pack_collection.text_index.knit_access,
 
1483
            factory=knit.KnitPlainFactory())
 
1484
 
 
1485
    get_weave = get_weave_or_empty
 
1486
 
 
1487
    def __iter__(self):
 
1488
        """Generate a list of the fileids inserted, for use by check."""
 
1489
        self.repo._pack_collection.ensure_loaded()
 
1490
        ids = set()
 
1491
        for index, key, value, refs in \
 
1492
            self.repo._pack_collection.text_index.combined_index.iter_all_entries():
 
1493
            ids.add(key[0])
 
1494
        return iter(ids)
 
1495
 
 
1496
 
 
1497
class InventoryKnitThunk(object):
 
1498
    """An object to manage thunking get_inventory_weave to pack based knits."""
 
1499
 
 
1500
    def __init__(self, repo, transport):
 
1501
        """Create an InventoryKnitThunk for repo at transport.
 
1502
 
 
1503
        This will store its state in the Repository, use the
 
1504
        indices FileNames to provide a KnitGraphIndex,
 
1505
        and at the end of transactions write a new index..
 
1506
        """
 
1507
        self.repo = repo
 
1508
        self.transport = transport
 
1509
 
 
1510
    def get_weave(self):
 
1511
        """Get a 'Knit' that contains inventory data."""
 
1512
        self.repo._pack_collection.ensure_loaded()
 
1513
        add_callback = self.repo._pack_collection.inventory_index.add_callback
 
1514
        # setup knit specific objects
 
1515
        knit_index = KnitGraphIndex(
 
1516
            self.repo._pack_collection.inventory_index.combined_index,
 
1517
            add_callback=add_callback, deltas=True, parents=True)
 
1518
        return knit.KnitVersionedFile(
 
1519
            'inventory', self.transport.clone('..'),
 
1520
            self.repo.control_files._file_mode,
 
1521
            create=False, access_mode=self.repo._access_mode(),
 
1522
            index=knit_index, delta=True, factory=knit.KnitPlainFactory(),
 
1523
            access_method=self.repo._pack_collection.inventory_index.knit_access)
2194
1524
 
2195
1525
 
2196
1526
class KnitPackRepository(KnitRepository):
2197
 
    """Repository with knit objects stored inside pack containers.
2198
 
 
2199
 
    The layering for a KnitPackRepository is:
2200
 
 
2201
 
    Graph        |  HPSS    | Repository public layer |
2202
 
    ===================================================
2203
 
    Tuple based apis below, string based, and key based apis above
2204
 
    ---------------------------------------------------
2205
 
    KnitVersionedFiles
2206
 
      Provides .texts, .revisions etc
2207
 
      This adapts the N-tuple keys to physical knit records which only have a
2208
 
      single string identifier (for historical reasons), which in older formats
2209
 
      was always the revision_id, and in the mapped code for packs is always
2210
 
      the last element of key tuples.
2211
 
    ---------------------------------------------------
2212
 
    GraphIndex
2213
 
      A separate GraphIndex is used for each of the
2214
 
      texts/inventories/revisions/signatures contained within each individual
2215
 
      pack file. The GraphIndex layer works in N-tuples and is unaware of any
2216
 
      semantic value.
2217
 
    ===================================================
2218
 
 
2219
 
    """
2220
 
 
2221
 
    def __init__(self, _format, a_bzrdir, control_files, _commit_builder_class,
2222
 
        _serializer):
 
1527
    """Experimental graph-knit using repository."""
 
1528
 
 
1529
    def __init__(self, _format, a_bzrdir, control_files, _revision_store,
 
1530
        control_store, text_store, _commit_builder_class, _serializer):
2223
1531
        KnitRepository.__init__(self, _format, a_bzrdir, control_files,
2224
 
            _commit_builder_class, _serializer)
2225
 
        index_transport = self._transport.clone('indices')
2226
 
        self._pack_collection = RepositoryPackCollection(self, self._transport,
 
1532
            _revision_store, control_store, text_store, _commit_builder_class,
 
1533
            _serializer)
 
1534
        index_transport = control_files._transport.clone('indices')
 
1535
        self._pack_collection = RepositoryPackCollection(self, control_files._transport,
2227
1536
            index_transport,
2228
 
            self._transport.clone('upload'),
2229
 
            self._transport.clone('packs'),
2230
 
            _format.index_builder_class,
2231
 
            _format.index_class,
2232
 
            use_chk_index=self._format.supports_chks,
2233
 
            )
2234
 
        self.inventories = KnitVersionedFiles(
2235
 
            _KnitGraphIndex(self._pack_collection.inventory_index.combined_index,
2236
 
                add_callback=self._pack_collection.inventory_index.add_callback,
2237
 
                deltas=True, parents=True, is_locked=self.is_locked),
2238
 
            data_access=self._pack_collection.inventory_index.data_access,
2239
 
            max_delta_chain=200)
2240
 
        self.revisions = KnitVersionedFiles(
2241
 
            _KnitGraphIndex(self._pack_collection.revision_index.combined_index,
2242
 
                add_callback=self._pack_collection.revision_index.add_callback,
2243
 
                deltas=False, parents=True, is_locked=self.is_locked,
2244
 
                track_external_parent_refs=True),
2245
 
            data_access=self._pack_collection.revision_index.data_access,
2246
 
            max_delta_chain=0)
2247
 
        self.signatures = KnitVersionedFiles(
2248
 
            _KnitGraphIndex(self._pack_collection.signature_index.combined_index,
2249
 
                add_callback=self._pack_collection.signature_index.add_callback,
2250
 
                deltas=False, parents=False, is_locked=self.is_locked),
2251
 
            data_access=self._pack_collection.signature_index.data_access,
2252
 
            max_delta_chain=0)
2253
 
        self.texts = KnitVersionedFiles(
2254
 
            _KnitGraphIndex(self._pack_collection.text_index.combined_index,
2255
 
                add_callback=self._pack_collection.text_index.add_callback,
2256
 
                deltas=True, parents=True, is_locked=self.is_locked),
2257
 
            data_access=self._pack_collection.text_index.data_access,
2258
 
            max_delta_chain=200)
2259
 
        if _format.supports_chks:
2260
 
            # No graph, no compression:- references from chks are between
2261
 
            # different objects not temporal versions of the same; and without
2262
 
            # some sort of temporal structure knit compression will just fail.
2263
 
            self.chk_bytes = KnitVersionedFiles(
2264
 
                _KnitGraphIndex(self._pack_collection.chk_index.combined_index,
2265
 
                    add_callback=self._pack_collection.chk_index.add_callback,
2266
 
                    deltas=False, parents=False, is_locked=self.is_locked),
2267
 
                data_access=self._pack_collection.chk_index.data_access,
2268
 
                max_delta_chain=0)
2269
 
        else:
2270
 
            self.chk_bytes = None
 
1537
            control_files._transport.clone('upload'),
 
1538
            control_files._transport.clone('packs'))
 
1539
        self._revision_store = KnitPackRevisionStore(self, index_transport, self._revision_store)
 
1540
        self.weave_store = KnitPackTextStore(self, index_transport, self.weave_store)
 
1541
        self._inv_thunk = InventoryKnitThunk(self, index_transport)
2271
1542
        # True when the repository object is 'write locked' (as opposed to the
2272
 
        # physical lock only taken out around changes to the pack-names list.)
 
1543
        # physical lock only taken out around changes to the pack-names list.) 
2273
1544
        # Another way to represent this would be a decorator around the control
2274
1545
        # files object that presents logical locks as physical ones - if this
2275
1546
        # gets ugly consider that alternative design. RBC 20071011
2277
1548
        self._transaction = None
2278
1549
        # for tests
2279
1550
        self._reconcile_does_inventory_gc = True
2280
 
        self._reconcile_fixes_text_parents = True
 
1551
        self._reconcile_fixes_text_parents = False
2281
1552
        self._reconcile_backsup_inventory = False
2282
1553
 
2283
 
    def _warn_if_deprecated(self, branch=None):
2284
 
        # This class isn't deprecated, but one sub-format is
2285
 
        if isinstance(self._format, RepositoryFormatKnitPack5RichRootBroken):
2286
 
            super(KnitPackRepository, self)._warn_if_deprecated(branch)
2287
 
 
2288
1554
    def _abort_write_group(self):
2289
 
        self.revisions._index._key_dependencies.clear()
2290
1555
        self._pack_collection._abort_write_group()
2291
1556
 
2292
 
    def _get_source(self, to_format):
2293
 
        if to_format.network_name() == self._format.network_name():
2294
 
            return KnitPackStreamSource(self, to_format)
2295
 
        return super(KnitPackRepository, self)._get_source(to_format)
 
1557
    def _access_mode(self):
 
1558
        """Return 'w' or 'r' for depending on whether a write lock is active.
 
1559
        
 
1560
        This method is a helper for the Knit-thunking support objects.
 
1561
        """
 
1562
        if self.is_write_locked():
 
1563
            return 'w'
 
1564
        return 'r'
 
1565
 
 
1566
    def _find_inconsistent_revision_parents(self):
 
1567
        """Find revisions with incorrectly cached parents.
 
1568
 
 
1569
        :returns: an iterator yielding tuples of (revison-id, parents-in-index,
 
1570
            parents-in-revision).
 
1571
        """
 
1572
        assert self.is_locked()
 
1573
        pb = ui.ui_factory.nested_progress_bar()
 
1574
        result = []
 
1575
        try:
 
1576
            revision_nodes = self._pack_collection.revision_index \
 
1577
                .combined_index.iter_all_entries()
 
1578
            index_positions = []
 
1579
            # Get the cached index values for all revisions, and also the location
 
1580
            # in each index of the revision text so we can perform linear IO.
 
1581
            for index, key, value, refs in revision_nodes:
 
1582
                pos, length = value[1:].split(' ')
 
1583
                index_positions.append((index, int(pos), key[0],
 
1584
                    tuple(parent[0] for parent in refs[0])))
 
1585
                pb.update("Reading revision index.", 0, 0)
 
1586
            index_positions.sort()
 
1587
            batch_count = len(index_positions) / 1000 + 1
 
1588
            pb.update("Checking cached revision graph.", 0, batch_count)
 
1589
            for offset in xrange(batch_count):
 
1590
                pb.update("Checking cached revision graph.", offset)
 
1591
                to_query = index_positions[offset * 1000:(offset + 1) * 1000]
 
1592
                if not to_query:
 
1593
                    break
 
1594
                rev_ids = [item[2] for item in to_query]
 
1595
                revs = self.get_revisions(rev_ids)
 
1596
                for revision, item in zip(revs, to_query):
 
1597
                    index_parents = item[3]
 
1598
                    rev_parents = tuple(revision.parent_ids)
 
1599
                    if index_parents != rev_parents:
 
1600
                        result.append((revision.revision_id, index_parents, rev_parents))
 
1601
        finally:
 
1602
            pb.finished()
 
1603
        return result
 
1604
 
 
1605
    def get_parents(self, revision_ids):
 
1606
        """See StackedParentsProvider.get_parents.
 
1607
        
 
1608
        This implementation accesses the combined revision index to provide
 
1609
        answers.
 
1610
        """
 
1611
        self._pack_collection.ensure_loaded()
 
1612
        index = self._pack_collection.revision_index.combined_index
 
1613
        search_keys = set()
 
1614
        for revision_id in revision_ids:
 
1615
            if revision_id != _mod_revision.NULL_REVISION:
 
1616
                search_keys.add((revision_id,))
 
1617
        found_parents = {_mod_revision.NULL_REVISION:[]}
 
1618
        for index, key, value, refs in index.iter_entries(search_keys):
 
1619
            parents = refs[0]
 
1620
            if not parents:
 
1621
                parents = (_mod_revision.NULL_REVISION,)
 
1622
            else:
 
1623
                parents = tuple(parent[0] for parent in parents)
 
1624
            found_parents[key[0]] = parents
 
1625
        result = []
 
1626
        for revision_id in revision_ids:
 
1627
            try:
 
1628
                result.append(found_parents[revision_id])
 
1629
            except KeyError:
 
1630
                result.append(None)
 
1631
        return result
2296
1632
 
2297
1633
    def _make_parents_provider(self):
2298
 
        return graph.CachingParentsProvider(self)
 
1634
        return self
2299
1635
 
2300
1636
    def _refresh_data(self):
2301
 
        if not self.is_locked():
2302
 
            return
2303
 
        self._pack_collection.reload_pack_names()
 
1637
        if self._write_lock_count == 1 or (
 
1638
            self.control_files._lock_count == 1 and
 
1639
            self.control_files._lock_mode == 'r'):
 
1640
            # forget what names there are
 
1641
            self._pack_collection.reset()
 
1642
            # XXX: Better to do an in-memory merge when acquiring a new lock -
 
1643
            # factor out code from _save_pack_names.
 
1644
            self._pack_collection.ensure_loaded()
2304
1645
 
2305
1646
    def _start_write_group(self):
2306
1647
        self._pack_collection._start_write_group()
2307
1648
 
2308
1649
    def _commit_write_group(self):
2309
 
        hint = self._pack_collection._commit_write_group()
2310
 
        self.revisions._index._key_dependencies.clear()
2311
 
        return hint
2312
 
 
2313
 
    def suspend_write_group(self):
2314
 
        # XXX check self._write_group is self.get_transaction()?
2315
 
        tokens = self._pack_collection._suspend_write_group()
2316
 
        self.revisions._index._key_dependencies.clear()
2317
 
        self._write_group = None
2318
 
        return tokens
2319
 
 
2320
 
    def _resume_write_group(self, tokens):
2321
 
        self._start_write_group()
2322
 
        try:
2323
 
            self._pack_collection._resume_write_group(tokens)
2324
 
        except errors.UnresumableWriteGroup:
2325
 
            self._abort_write_group()
2326
 
            raise
2327
 
        for pack in self._pack_collection._resumed_packs:
2328
 
            self.revisions._index.scan_unvalidated_index(pack.revision_index)
 
1650
        return self._pack_collection._commit_write_group()
 
1651
 
 
1652
    def get_inventory_weave(self):
 
1653
        return self._inv_thunk.get_weave()
2329
1654
 
2330
1655
    def get_transaction(self):
2331
1656
        if self._write_lock_count:
2340
1665
        return self._write_lock_count
2341
1666
 
2342
1667
    def lock_write(self, token=None):
2343
 
        locked = self.is_locked()
2344
 
        if not self._write_lock_count and locked:
 
1668
        if not self._write_lock_count and self.is_locked():
2345
1669
            raise errors.ReadOnlyError(self)
2346
1670
        self._write_lock_count += 1
2347
1671
        if self._write_lock_count == 1:
 
1672
            from bzrlib import transactions
2348
1673
            self._transaction = transactions.WriteTransaction()
2349
 
        if not locked:
2350
 
            if 'relock' in debug.debug_flags and self._prev_lock == 'w':
2351
 
                note('%r was write locked again', self)
2352
 
            self._prev_lock = 'w'
2353
 
            for repo in self._fallback_repositories:
2354
 
                # Writes don't affect fallback repos
2355
 
                repo.lock_read()
2356
 
            self._refresh_data()
 
1674
        self._refresh_data()
2357
1675
 
2358
1676
    def lock_read(self):
2359
 
        locked = self.is_locked()
2360
1677
        if self._write_lock_count:
2361
1678
            self._write_lock_count += 1
2362
1679
        else:
2363
1680
            self.control_files.lock_read()
2364
 
        if not locked:
2365
 
            if 'relock' in debug.debug_flags and self._prev_lock == 'r':
2366
 
                note('%r was read locked again', self)
2367
 
            self._prev_lock = 'r'
2368
 
            for repo in self._fallback_repositories:
2369
 
                repo.lock_read()
2370
 
            self._refresh_data()
 
1681
        self._refresh_data()
2371
1682
 
2372
1683
    def leave_lock_in_place(self):
2373
1684
        # not supported - raise an error
2378
1689
        raise NotImplementedError(self.dont_leave_lock_in_place)
2379
1690
 
2380
1691
    @needs_write_lock
2381
 
    def pack(self, hint=None, clean_obsolete_packs=False):
 
1692
    def pack(self):
2382
1693
        """Compress the data within the repository.
2383
1694
 
2384
1695
        This will pack all the data to a single pack. In future it may
2385
1696
        recompress deltas or do other such expensive operations.
2386
1697
        """
2387
 
        self._pack_collection.pack(hint=hint, clean_obsolete_packs=clean_obsolete_packs)
 
1698
        self._pack_collection.pack()
2388
1699
 
2389
1700
    @needs_write_lock
2390
1701
    def reconcile(self, other=None, thorough=False):
2394
1705
        reconciler.reconcile()
2395
1706
        return reconciler
2396
1707
 
2397
 
    def _reconcile_pack(self, collection, packs, extension, revs, pb):
2398
 
        packer = ReconcilePacker(collection, packs, extension, revs)
2399
 
        return packer.pack(pb)
2400
 
 
2401
 
    @only_raises(errors.LockNotHeld, errors.LockBroken)
2402
1708
    def unlock(self):
2403
1709
        if self._write_lock_count == 1 and self._write_group is not None:
2404
1710
            self.abort_write_group()
2416
1722
        else:
2417
1723
            self.control_files.unlock()
2418
1724
 
2419
 
        if not self.is_locked():
2420
 
            for repo in self._fallback_repositories:
2421
 
                repo.unlock()
2422
 
 
2423
 
 
2424
 
class KnitPackStreamSource(StreamSource):
2425
 
    """A StreamSource used to transfer data between same-format KnitPack repos.
2426
 
 
2427
 
    This source assumes:
2428
 
        1) Same serialization format for all objects
2429
 
        2) Same root information
2430
 
        3) XML format inventories
2431
 
        4) Atomic inserts (so we can stream inventory texts before text
2432
 
           content)
2433
 
        5) No chk_bytes
2434
 
    """
2435
 
 
2436
 
    def __init__(self, from_repository, to_format):
2437
 
        super(KnitPackStreamSource, self).__init__(from_repository, to_format)
2438
 
        self._text_keys = None
2439
 
        self._text_fetch_order = 'unordered'
2440
 
 
2441
 
    def _get_filtered_inv_stream(self, revision_ids):
2442
 
        from_repo = self.from_repository
2443
 
        parent_ids = from_repo._find_parent_ids_of_revisions(revision_ids)
2444
 
        parent_keys = [(p,) for p in parent_ids]
2445
 
        find_text_keys = from_repo._find_text_key_references_from_xml_inventory_lines
2446
 
        parent_text_keys = set(find_text_keys(
2447
 
            from_repo._inventory_xml_lines_for_keys(parent_keys)))
2448
 
        content_text_keys = set()
2449
 
        knit = KnitVersionedFiles(None, None)
2450
 
        factory = KnitPlainFactory()
2451
 
        def find_text_keys_from_content(record):
2452
 
            if record.storage_kind not in ('knit-delta-gz', 'knit-ft-gz'):
2453
 
                raise ValueError("Unknown content storage kind for"
2454
 
                    " inventory text: %s" % (record.storage_kind,))
2455
 
            # It's a knit record, it has a _raw_record field (even if it was
2456
 
            # reconstituted from a network stream).
2457
 
            raw_data = record._raw_record
2458
 
            # read the entire thing
2459
 
            revision_id = record.key[-1]
2460
 
            content, _ = knit._parse_record(revision_id, raw_data)
2461
 
            if record.storage_kind == 'knit-delta-gz':
2462
 
                line_iterator = factory.get_linedelta_content(content)
2463
 
            elif record.storage_kind == 'knit-ft-gz':
2464
 
                line_iterator = factory.get_fulltext_content(content)
2465
 
            content_text_keys.update(find_text_keys(
2466
 
                [(line, revision_id) for line in line_iterator]))
2467
 
        revision_keys = [(r,) for r in revision_ids]
2468
 
        def _filtered_inv_stream():
2469
 
            source_vf = from_repo.inventories
2470
 
            stream = source_vf.get_record_stream(revision_keys,
2471
 
                                                 'unordered', False)
2472
 
            for record in stream:
2473
 
                if record.storage_kind == 'absent':
2474
 
                    raise errors.NoSuchRevision(from_repo, record.key)
2475
 
                find_text_keys_from_content(record)
2476
 
                yield record
2477
 
            self._text_keys = content_text_keys - parent_text_keys
2478
 
        return ('inventories', _filtered_inv_stream())
2479
 
 
2480
 
    def _get_text_stream(self):
2481
 
        # Note: We know we don't have to handle adding root keys, because both
2482
 
        # the source and target are the identical network name.
2483
 
        text_stream = self.from_repository.texts.get_record_stream(
2484
 
                        self._text_keys, self._text_fetch_order, False)
2485
 
        return ('texts', text_stream)
2486
 
 
2487
 
    def get_stream(self, search):
2488
 
        revision_ids = search.get_keys()
2489
 
        for stream_info in self._fetch_revision_texts(revision_ids):
2490
 
            yield stream_info
2491
 
        self._revision_keys = [(rev_id,) for rev_id in revision_ids]
2492
 
        yield self._get_filtered_inv_stream(revision_ids)
2493
 
        yield self._get_text_stream()
2494
 
 
2495
 
 
2496
1725
 
2497
1726
class RepositoryFormatPack(MetaDirRepositoryFormat):
2498
1727
    """Format logic for pack structured repositories.
2519
1748
    # Set this attribute in derived clases to control the _serializer that the
2520
1749
    # repository objects will have passed to their constructor.
2521
1750
    _serializer = None
2522
 
    # Packs are not confused by ghosts.
2523
 
    supports_ghosts = True
2524
 
    # External references are not supported in pack repositories yet.
2525
 
    supports_external_lookups = False
2526
 
    # Most pack formats do not use chk lookups.
2527
 
    supports_chks = False
2528
 
    # What index classes to use
2529
 
    index_builder_class = None
2530
 
    index_class = None
2531
 
    _fetch_uses_deltas = True
2532
 
    fast_deltas = False
 
1751
 
 
1752
    def _get_control_store(self, repo_transport, control_files):
 
1753
        """Return the control store for this repository."""
 
1754
        return VersionedFileStore(
 
1755
            repo_transport,
 
1756
            prefixed=False,
 
1757
            file_mode=control_files._file_mode,
 
1758
            versionedfile_class=knit.KnitVersionedFile,
 
1759
            versionedfile_kwargs={'factory': knit.KnitPlainFactory()},
 
1760
            )
 
1761
 
 
1762
    def _get_revision_store(self, repo_transport, control_files):
 
1763
        """See RepositoryFormat._get_revision_store()."""
 
1764
        versioned_file_store = VersionedFileStore(
 
1765
            repo_transport,
 
1766
            file_mode=control_files._file_mode,
 
1767
            prefixed=False,
 
1768
            precious=True,
 
1769
            versionedfile_class=knit.KnitVersionedFile,
 
1770
            versionedfile_kwargs={'delta': False,
 
1771
                                  'factory': knit.KnitPlainFactory(),
 
1772
                                 },
 
1773
            escaped=True,
 
1774
            )
 
1775
        return KnitRevisionStore(versioned_file_store)
 
1776
 
 
1777
    def _get_text_store(self, transport, control_files):
 
1778
        """See RepositoryFormat._get_text_store()."""
 
1779
        return self._get_versioned_file_store('knits',
 
1780
                                  transport,
 
1781
                                  control_files,
 
1782
                                  versionedfile_class=knit.KnitVersionedFile,
 
1783
                                  versionedfile_kwargs={
 
1784
                                      'create_parent_dir': True,
 
1785
                                      'delay_create': True,
 
1786
                                      'dir_mode': control_files._dir_mode,
 
1787
                                  },
 
1788
                                  escaped=True)
2533
1789
 
2534
1790
    def initialize(self, a_bzrdir, shared=False):
2535
1791
        """Create a pack based repository.
2541
1797
        """
2542
1798
        mutter('creating repository in %s.', a_bzrdir.transport.base)
2543
1799
        dirs = ['indices', 'obsolete_packs', 'packs', 'upload']
2544
 
        builder = self.index_builder_class()
 
1800
        builder = GraphIndexBuilder()
2545
1801
        files = [('pack-names', builder.finish())]
2546
1802
        utf8_files = [('format', self.get_format_string())]
2547
 
 
 
1803
        
2548
1804
        self._upload_blank_content(a_bzrdir, dirs, files, utf8_files, shared)
2549
 
        repository = self.open(a_bzrdir=a_bzrdir, _found=True)
2550
 
        self._run_post_repo_init_hooks(repository, a_bzrdir, shared)
2551
 
        return repository
 
1805
        return self.open(a_bzrdir=a_bzrdir, _found=True)
2552
1806
 
2553
1807
    def open(self, a_bzrdir, _found=False, _override_transport=None):
2554
1808
        """See RepositoryFormat.open().
2555
 
 
 
1809
        
2556
1810
        :param _override_transport: INTERNAL USE ONLY. Allows opening the
2557
1811
                                    repository at a slightly different url
2558
1812
                                    than normal. I.e. during 'upgrade'.
2559
1813
        """
2560
1814
        if not _found:
2561
1815
            format = RepositoryFormat.find_format(a_bzrdir)
 
1816
            assert format.__class__ ==  self.__class__
2562
1817
        if _override_transport is not None:
2563
1818
            repo_transport = _override_transport
2564
1819
        else:
2565
1820
            repo_transport = a_bzrdir.get_repository_transport(None)
2566
1821
        control_files = lockable_files.LockableFiles(repo_transport,
2567
1822
                                'lock', lockdir.LockDir)
 
1823
        text_store = self._get_text_store(repo_transport, control_files)
 
1824
        control_store = self._get_control_store(repo_transport, control_files)
 
1825
        _revision_store = self._get_revision_store(repo_transport, control_files)
2568
1826
        return self.repository_class(_format=self,
2569
1827
                              a_bzrdir=a_bzrdir,
2570
1828
                              control_files=control_files,
 
1829
                              _revision_store=_revision_store,
 
1830
                              control_store=control_store,
 
1831
                              text_store=text_store,
2571
1832
                              _commit_builder_class=self._commit_builder_class,
2572
1833
                              _serializer=self._serializer)
2573
1834
 
2574
1835
 
2575
1836
class RepositoryFormatKnitPack1(RepositoryFormatPack):
2576
 
    """A no-subtrees parameterized Pack repository.
 
1837
    """A no-subtrees parameterised Pack repository.
2577
1838
 
2578
1839
    This format was introduced in 0.92.
2579
1840
    """
2580
1841
 
2581
1842
    repository_class = KnitPackRepository
2582
1843
    _commit_builder_class = PackCommitBuilder
2583
 
    @property
2584
 
    def _serializer(self):
2585
 
        return xml5.serializer_v5
2586
 
    # What index classes to use
2587
 
    index_builder_class = InMemoryGraphIndex
2588
 
    index_class = GraphIndex
 
1844
    _serializer = xml5.serializer_v5
2589
1845
 
2590
1846
    def _get_matching_bzrdir(self):
2591
1847
        return bzrdir.format_registry.make_bzrdir('pack-0.92')
2603
1859
        """See RepositoryFormat.get_format_description()."""
2604
1860
        return "Packs containing knits without subtree support"
2605
1861
 
 
1862
    def check_conversion_target(self, target_format):
 
1863
        pass
 
1864
 
2606
1865
 
2607
1866
class RepositoryFormatKnitPack3(RepositoryFormatPack):
2608
 
    """A subtrees parameterized Pack repository.
 
1867
    """A subtrees parameterised Pack repository.
2609
1868
 
2610
1869
    This repository format uses the xml7 serializer to get:
2611
1870
     - support for recording full info about the tree root
2617
1876
    repository_class = KnitPackRepository
2618
1877
    _commit_builder_class = PackRootCommitBuilder
2619
1878
    rich_root_data = True
2620
 
    experimental = True
2621
1879
    supports_tree_reference = True
2622
 
    @property
2623
 
    def _serializer(self):
2624
 
        return xml7.serializer_v7
2625
 
    # What index classes to use
2626
 
    index_builder_class = InMemoryGraphIndex
2627
 
    index_class = GraphIndex
 
1880
    _serializer = xml7.serializer_v7
2628
1881
 
2629
1882
    def _get_matching_bzrdir(self):
2630
1883
        return bzrdir.format_registry.make_bzrdir(
2635
1888
 
2636
1889
    _matchingbzrdir = property(_get_matching_bzrdir, _ignore_setting_bzrdir)
2637
1890
 
 
1891
    def check_conversion_target(self, target_format):
 
1892
        if not target_format.rich_root_data:
 
1893
            raise errors.BadConversionTarget(
 
1894
                'Does not support rich root data.', target_format)
 
1895
        if not getattr(target_format, 'supports_tree_reference', False):
 
1896
            raise errors.BadConversionTarget(
 
1897
                'Does not support nested trees', target_format)
 
1898
            
2638
1899
    def get_format_string(self):
2639
1900
        """See RepositoryFormat.get_format_string()."""
2640
1901
        return "Bazaar pack repository format 1 with subtree support (needs bzr 0.92)\n"
2645
1906
 
2646
1907
 
2647
1908
class RepositoryFormatKnitPack4(RepositoryFormatPack):
2648
 
    """A rich-root, no subtrees parameterized Pack repository.
 
1909
    """A rich-root, no subtrees parameterised Pack repository.
2649
1910
 
2650
1911
    This repository format uses the xml6 serializer to get:
2651
1912
     - support for recording full info about the tree root
2657
1918
    _commit_builder_class = PackRootCommitBuilder
2658
1919
    rich_root_data = True
2659
1920
    supports_tree_reference = False
2660
 
    @property
2661
 
    def _serializer(self):
2662
 
        return xml6.serializer_v6
2663
 
    # What index classes to use
2664
 
    index_builder_class = InMemoryGraphIndex
2665
 
    index_class = GraphIndex
 
1921
    _serializer = xml6.serializer_v6
2666
1922
 
2667
1923
    def _get_matching_bzrdir(self):
2668
1924
        return bzrdir.format_registry.make_bzrdir(
2673
1929
 
2674
1930
    _matchingbzrdir = property(_get_matching_bzrdir, _ignore_setting_bzrdir)
2675
1931
 
 
1932
    def check_conversion_target(self, target_format):
 
1933
        if not target_format.rich_root_data:
 
1934
            raise errors.BadConversionTarget(
 
1935
                'Does not support rich root data.', target_format)
 
1936
 
2676
1937
    def get_format_string(self):
2677
1938
        """See RepositoryFormat.get_format_string()."""
2678
1939
        return ("Bazaar pack repository format 1 with rich root"
2681
1942
    def get_format_description(self):
2682
1943
        """See RepositoryFormat.get_format_description()."""
2683
1944
        return "Packs containing knits with rich root support\n"
2684
 
 
2685
 
 
2686
 
class RepositoryFormatKnitPack5(RepositoryFormatPack):
2687
 
    """Repository that supports external references to allow stacking.
2688
 
 
2689
 
    New in release 1.6.
2690
 
 
2691
 
    Supports external lookups, which results in non-truncated ghosts after
2692
 
    reconcile compared to pack-0.92 formats.
2693
 
    """
2694
 
 
2695
 
    repository_class = KnitPackRepository
2696
 
    _commit_builder_class = PackCommitBuilder
2697
 
    supports_external_lookups = True
2698
 
    # What index classes to use
2699
 
    index_builder_class = InMemoryGraphIndex
2700
 
    index_class = GraphIndex
2701
 
 
2702
 
    @property
2703
 
    def _serializer(self):
2704
 
        return xml5.serializer_v5
2705
 
 
2706
 
    def _get_matching_bzrdir(self):
2707
 
        return bzrdir.format_registry.make_bzrdir('1.6')
2708
 
 
2709
 
    def _ignore_setting_bzrdir(self, format):
2710
 
        pass
2711
 
 
2712
 
    _matchingbzrdir = property(_get_matching_bzrdir, _ignore_setting_bzrdir)
2713
 
 
2714
 
    def get_format_string(self):
2715
 
        """See RepositoryFormat.get_format_string()."""
2716
 
        return "Bazaar RepositoryFormatKnitPack5 (bzr 1.6)\n"
2717
 
 
2718
 
    def get_format_description(self):
2719
 
        """See RepositoryFormat.get_format_description()."""
2720
 
        return "Packs 5 (adds stacking support, requires bzr 1.6)"
2721
 
 
2722
 
 
2723
 
class RepositoryFormatKnitPack5RichRoot(RepositoryFormatPack):
2724
 
    """A repository with rich roots and stacking.
2725
 
 
2726
 
    New in release 1.6.1.
2727
 
 
2728
 
    Supports stacking on other repositories, allowing data to be accessed
2729
 
    without being stored locally.
2730
 
    """
2731
 
 
2732
 
    repository_class = KnitPackRepository
2733
 
    _commit_builder_class = PackRootCommitBuilder
2734
 
    rich_root_data = True
2735
 
    supports_tree_reference = False # no subtrees
2736
 
    supports_external_lookups = True
2737
 
    # What index classes to use
2738
 
    index_builder_class = InMemoryGraphIndex
2739
 
    index_class = GraphIndex
2740
 
 
2741
 
    @property
2742
 
    def _serializer(self):
2743
 
        return xml6.serializer_v6
2744
 
 
2745
 
    def _get_matching_bzrdir(self):
2746
 
        return bzrdir.format_registry.make_bzrdir(
2747
 
            '1.6.1-rich-root')
2748
 
 
2749
 
    def _ignore_setting_bzrdir(self, format):
2750
 
        pass
2751
 
 
2752
 
    _matchingbzrdir = property(_get_matching_bzrdir, _ignore_setting_bzrdir)
2753
 
 
2754
 
    def get_format_string(self):
2755
 
        """See RepositoryFormat.get_format_string()."""
2756
 
        return "Bazaar RepositoryFormatKnitPack5RichRoot (bzr 1.6.1)\n"
2757
 
 
2758
 
    def get_format_description(self):
2759
 
        return "Packs 5 rich-root (adds stacking support, requires bzr 1.6.1)"
2760
 
 
2761
 
 
2762
 
class RepositoryFormatKnitPack5RichRootBroken(RepositoryFormatPack):
2763
 
    """A repository with rich roots and external references.
2764
 
 
2765
 
    New in release 1.6.
2766
 
 
2767
 
    Supports external lookups, which results in non-truncated ghosts after
2768
 
    reconcile compared to pack-0.92 formats.
2769
 
 
2770
 
    This format was deprecated because the serializer it uses accidentally
2771
 
    supported subtrees, when the format was not intended to. This meant that
2772
 
    someone could accidentally fetch from an incorrect repository.
2773
 
    """
2774
 
 
2775
 
    repository_class = KnitPackRepository
2776
 
    _commit_builder_class = PackRootCommitBuilder
2777
 
    rich_root_data = True
2778
 
    supports_tree_reference = False # no subtrees
2779
 
 
2780
 
    supports_external_lookups = True
2781
 
    # What index classes to use
2782
 
    index_builder_class = InMemoryGraphIndex
2783
 
    index_class = GraphIndex
2784
 
 
2785
 
    @property
2786
 
    def _serializer(self):
2787
 
        return xml7.serializer_v7
2788
 
 
2789
 
    def _get_matching_bzrdir(self):
2790
 
        matching = bzrdir.format_registry.make_bzrdir(
2791
 
            '1.6.1-rich-root')
2792
 
        matching.repository_format = self
2793
 
        return matching
2794
 
 
2795
 
    def _ignore_setting_bzrdir(self, format):
2796
 
        pass
2797
 
 
2798
 
    _matchingbzrdir = property(_get_matching_bzrdir, _ignore_setting_bzrdir)
2799
 
 
2800
 
    def get_format_string(self):
2801
 
        """See RepositoryFormat.get_format_string()."""
2802
 
        return "Bazaar RepositoryFormatKnitPack5RichRoot (bzr 1.6)\n"
2803
 
 
2804
 
    def get_format_description(self):
2805
 
        return ("Packs 5 rich-root (adds stacking support, requires bzr 1.6)"
2806
 
                " (deprecated)")
2807
 
 
2808
 
 
2809
 
class RepositoryFormatKnitPack6(RepositoryFormatPack):
2810
 
    """A repository with stacking and btree indexes,
2811
 
    without rich roots or subtrees.
2812
 
 
2813
 
    This is equivalent to pack-1.6 with B+Tree indices.
2814
 
    """
2815
 
 
2816
 
    repository_class = KnitPackRepository
2817
 
    _commit_builder_class = PackCommitBuilder
2818
 
    supports_external_lookups = True
2819
 
    # What index classes to use
2820
 
    index_builder_class = BTreeBuilder
2821
 
    index_class = BTreeGraphIndex
2822
 
 
2823
 
    @property
2824
 
    def _serializer(self):
2825
 
        return xml5.serializer_v5
2826
 
 
2827
 
    def _get_matching_bzrdir(self):
2828
 
        return bzrdir.format_registry.make_bzrdir('1.9')
2829
 
 
2830
 
    def _ignore_setting_bzrdir(self, format):
2831
 
        pass
2832
 
 
2833
 
    _matchingbzrdir = property(_get_matching_bzrdir, _ignore_setting_bzrdir)
2834
 
 
2835
 
    def get_format_string(self):
2836
 
        """See RepositoryFormat.get_format_string()."""
2837
 
        return "Bazaar RepositoryFormatKnitPack6 (bzr 1.9)\n"
2838
 
 
2839
 
    def get_format_description(self):
2840
 
        """See RepositoryFormat.get_format_description()."""
2841
 
        return "Packs 6 (uses btree indexes, requires bzr 1.9)"
2842
 
 
2843
 
 
2844
 
class RepositoryFormatKnitPack6RichRoot(RepositoryFormatPack):
2845
 
    """A repository with rich roots, no subtrees, stacking and btree indexes.
2846
 
 
2847
 
    1.6-rich-root with B+Tree indices.
2848
 
    """
2849
 
 
2850
 
    repository_class = KnitPackRepository
2851
 
    _commit_builder_class = PackRootCommitBuilder
2852
 
    rich_root_data = True
2853
 
    supports_tree_reference = False # no subtrees
2854
 
    supports_external_lookups = True
2855
 
    # What index classes to use
2856
 
    index_builder_class = BTreeBuilder
2857
 
    index_class = BTreeGraphIndex
2858
 
 
2859
 
    @property
2860
 
    def _serializer(self):
2861
 
        return xml6.serializer_v6
2862
 
 
2863
 
    def _get_matching_bzrdir(self):
2864
 
        return bzrdir.format_registry.make_bzrdir(
2865
 
            '1.9-rich-root')
2866
 
 
2867
 
    def _ignore_setting_bzrdir(self, format):
2868
 
        pass
2869
 
 
2870
 
    _matchingbzrdir = property(_get_matching_bzrdir, _ignore_setting_bzrdir)
2871
 
 
2872
 
    def get_format_string(self):
2873
 
        """See RepositoryFormat.get_format_string()."""
2874
 
        return "Bazaar RepositoryFormatKnitPack6RichRoot (bzr 1.9)\n"
2875
 
 
2876
 
    def get_format_description(self):
2877
 
        return "Packs 6 rich-root (uses btree indexes, requires bzr 1.9)"
2878
 
 
2879
 
 
2880
 
class RepositoryFormatPackDevelopment2Subtree(RepositoryFormatPack):
2881
 
    """A subtrees development repository.
2882
 
 
2883
 
    This format should be retained until the second release after bzr 1.7.
2884
 
 
2885
 
    1.6.1-subtree[as it might have been] with B+Tree indices.
2886
 
 
2887
 
    This is [now] retained until we have a CHK based subtree format in
2888
 
    development.
2889
 
    """
2890
 
 
2891
 
    repository_class = KnitPackRepository
2892
 
    _commit_builder_class = PackRootCommitBuilder
2893
 
    rich_root_data = True
2894
 
    experimental = True
2895
 
    supports_tree_reference = True
2896
 
    supports_external_lookups = True
2897
 
    # What index classes to use
2898
 
    index_builder_class = BTreeBuilder
2899
 
    index_class = BTreeGraphIndex
2900
 
 
2901
 
    @property
2902
 
    def _serializer(self):
2903
 
        return xml7.serializer_v7
2904
 
 
2905
 
    def _get_matching_bzrdir(self):
2906
 
        return bzrdir.format_registry.make_bzrdir(
2907
 
            'development-subtree')
2908
 
 
2909
 
    def _ignore_setting_bzrdir(self, format):
2910
 
        pass
2911
 
 
2912
 
    _matchingbzrdir = property(_get_matching_bzrdir, _ignore_setting_bzrdir)
2913
 
 
2914
 
    def get_format_string(self):
2915
 
        """See RepositoryFormat.get_format_string()."""
2916
 
        return ("Bazaar development format 2 with subtree support "
2917
 
            "(needs bzr.dev from before 1.8)\n")
2918
 
 
2919
 
    def get_format_description(self):
2920
 
        """See RepositoryFormat.get_format_description()."""
2921
 
        return ("Development repository format, currently the same as "
2922
 
            "1.6.1-subtree with B+Tree indices.\n")
2923