/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to breezy/bundle/serializer/v4.py

  • Committer: Jelmer Vernooij
  • Date: 2017-05-22 00:56:52 UTC
  • mfrom: (6621.2.26 py3_pokes)
  • Revision ID: jelmer@jelmer.uk-20170522005652-yjahcr9hwmjkno7n
Merge Python3 porting work ('py3 pokes')

Show diffs side-by-side

added added

removed removed

Lines of Context:
breezy/bundle/serializer/v4.py
1
 
# Copyright (C) 2007 Canonical Ltd
 
1
# Copyright (C) 2007-2010 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
 
from cStringIO import StringIO
 
17
from __future__ import absolute_import
 
18
 
18
19
import bz2
19
20
import re
20
21
 
21
 
from bzrlib import (
22
 
    diff,
 
22
from ... import (
 
23
    bencode,
23
24
    errors,
24
25
    iterablefile,
25
26
    lru_cache,
30
31
    serializer,
31
32
    trace,
32
33
    ui,
33
 
    )
34
 
from bzrlib.bundle import bundle_data, serializer as bundle_serializer
35
 
from bzrlib import bencode
 
34
    versionedfile as _mod_versionedfile,
 
35
    )
 
36
from ...bundle import bundle_data, serializer as bundle_serializer
 
37
from ...i18n import ngettext
 
38
from ...sixish import (
 
39
    BytesIO,
 
40
    )
 
41
 
 
42
 
 
43
class _MPDiffInventoryGenerator(_mod_versionedfile._MPDiffGenerator):
 
44
    """Generate Inventory diffs serialized inventories."""
 
45
 
 
46
    def __init__(self, repo, inventory_keys):
 
47
        super(_MPDiffInventoryGenerator, self).__init__(repo.inventories,
 
48
            inventory_keys)
 
49
        self.repo = repo
 
50
        self.sha1s = {}
 
51
 
 
52
    def iter_diffs(self):
 
53
        """Compute the diffs one at a time."""
 
54
        # This is instead of compute_diffs() since we guarantee our ordering of
 
55
        # inventories, we don't have to do any buffering
 
56
        self._find_needed_keys()
 
57
        # We actually use a slightly different ordering. We grab all of the
 
58
        # parents first, and then grab the ordered requests.
 
59
        needed_ids = [k[-1] for k in self.present_parents]
 
60
        needed_ids.extend([k[-1] for k in self.ordered_keys])
 
61
        inv_to_str = self.repo._serializer.write_inventory_to_string
 
62
        for inv in self.repo.iter_inventories(needed_ids):
 
63
            revision_id = inv.revision_id
 
64
            key = (revision_id,)
 
65
            if key in self.present_parents:
 
66
                # Not a key we will transmit, which is a shame, since because
 
67
                # of that bundles don't work with stacked branches
 
68
                parent_ids = None
 
69
            else:
 
70
                parent_ids = [k[-1] for k in self.parent_map[key]]
 
71
            as_bytes = inv_to_str(inv)
 
72
            self._process_one_record(key, (as_bytes,))
 
73
            if parent_ids is None:
 
74
                continue
 
75
            diff = self.diffs.pop(key)
 
76
            sha1 = osutils.sha_string(as_bytes)
 
77
            yield revision_id, parent_ids, sha1, diff
36
78
 
37
79
 
38
80
class BundleWriter(object):
164
206
        if stream_input:
165
207
            source_file = iterablefile.IterableFile(self.iter_decode(fileobj))
166
208
        else:
167
 
            source_file = StringIO(bz2.decompress(fileobj.read()))
 
209
            source_file = BytesIO(bz2.decompress(fileobj.read()))
168
210
        self._container_file = source_file
169
211
 
170
212
    @staticmethod
280
322
            # Strip ghosts
281
323
            parents = graph.get_parent_map(revision_ids)
282
324
            self.revision_ids = [r for r in revision_ids if r in parents]
283
 
        self.revision_keys = set([(revid,) for revid in self.revision_ids])
 
325
        self.revision_keys = {(revid,) for revid in self.revision_ids}
284
326
 
285
327
    def do_write(self):
286
328
        """Write all data to the bundle"""
287
 
        trace.note('Bundling %d revision(s).', len(self.revision_ids))
 
329
        trace.note(ngettext('Bundling %d revision.', 'Bundling %d revisions.',
 
330
                            len(self.revision_ids)), len(self.revision_ids))
288
331
        self.repository.lock_read()
289
332
        try:
290
333
            self.bundle.begin()
348
391
        the other side.
349
392
        """
350
393
        inventory_key_order = [(r,) for r in revision_order]
351
 
        parent_map = self.repository.inventories.get_parent_map(
352
 
                            inventory_key_order)
353
 
        missing_keys = set(inventory_key_order).difference(parent_map)
354
 
        if missing_keys:
355
 
            raise errors.RevisionNotPresent(list(missing_keys)[0],
356
 
                                            self.repository.inventories)
357
 
        inv_to_str = self.repository._serializer.write_inventory_to_string
358
 
        # Make sure that we grab the parent texts first
359
 
        just_parents = set()
360
 
        map(just_parents.update, parent_map.itervalues())
361
 
        just_parents.difference_update(parent_map)
362
 
        # Ignore ghost parents
363
 
        present_parents = self.repository.inventories.get_parent_map(
364
 
                            just_parents)
365
 
        ghost_keys = just_parents.difference(present_parents)
366
 
        needed_inventories = list(present_parents) + inventory_key_order
367
 
        needed_inventories = [k[-1] for k in needed_inventories]
368
 
        all_lines = {}
369
 
        for inv in self.repository.iter_inventories(needed_inventories):
370
 
            revision_id = inv.revision_id
371
 
            key = (revision_id,)
372
 
            as_bytes = inv_to_str(inv)
373
 
            # The sha1 is validated as the xml/textual form, not as the
374
 
            # form-in-the-repository
375
 
            sha1 = osutils.sha_string(as_bytes)
376
 
            as_lines = osutils.split_lines(as_bytes)
377
 
            del as_bytes
378
 
            all_lines[key] = as_lines
379
 
            if key in just_parents:
380
 
                # We don't transmit those entries
381
 
                continue
382
 
            # Create an mpdiff for this text, and add it to the output
383
 
            parent_keys = parent_map[key]
384
 
            # See the comment in VF.make_mpdiffs about how this effects
385
 
            # ordering when there are ghosts present. I think we have a latent
386
 
            # bug
387
 
            parent_lines = [all_lines[p_key] for p_key in parent_keys
388
 
                            if p_key not in ghost_keys]
389
 
            diff = multiparent.MultiParent.from_lines(
390
 
                as_lines, parent_lines)
 
394
        generator = _MPDiffInventoryGenerator(self.repository,
 
395
                                              inventory_key_order)
 
396
        for revision_id, parent_ids, sha1, diff in generator.iter_diffs():
391
397
            text = ''.join(diff.to_patch())
392
 
            parent_ids = [k[-1] for k in parent_keys]
393
398
            self.bundle.add_multiparent_record(text, sha1, parent_ids,
394
399
                                               'inventory', revision_id, None)
395
400