/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/weave.py

  • Committer: Robert Collins
  • Date: 2010-05-05 00:05:29 UTC
  • mto: This revision was merged to the branch mainline in revision 5206.
  • Revision ID: robertc@robertcollins.net-20100505000529-ltmllyms5watqj5u
Make 'pydoc bzrlib.tests.build_tree_shape' useful.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
#! /usr/bin/python
2
 
 
3
 
# Copyright (C) 2005 Canonical Ltd
4
 
 
 
1
# Copyright (C) 2005, 2009 Canonical Ltd
 
2
#
5
3
# This program is free software; you can redistribute it and/or modify
6
4
# it under the terms of the GNU General Public License as published by
7
5
# the Free Software Foundation; either version 2 of the License, or
8
6
# (at your option) any later version.
9
 
 
 
7
#
10
8
# This program is distributed in the hope that it will be useful,
11
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
12
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13
11
# GNU General Public License for more details.
14
 
 
 
12
#
15
13
# You should have received a copy of the GNU General Public License
16
14
# along with this program; if not, write to the Free Software
17
 
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
18
16
 
19
17
# Author: Martin Pool <mbp@canonical.com>
20
18
 
27
25
# property.
28
26
 
29
27
# TODO: Nothing here so far assumes the lines are really \n newlines,
30
 
# rather than being split up in some other way.  We could accomodate
 
28
# rather than being split up in some other way.  We could accommodate
31
29
# binaries, perhaps by naively splitting on \n or perhaps using
32
30
# something like a rolling checksum.
33
31
 
61
59
# where the basis and destination are unchanged.
62
60
 
63
61
# FIXME: Sometimes we will be given a parents list for a revision
64
 
# that includes some redundant parents (i.e. already a parent of 
65
 
# something in the list.)  We should eliminate them.  This can 
 
62
# that includes some redundant parents (i.e. already a parent of
 
63
# something in the list.)  We should eliminate them.  This can
66
64
# be done fairly efficiently because the sequence numbers constrain
67
65
# the possible relationships.
68
66
 
 
67
# FIXME: the conflict markers should be *7* characters
69
68
 
 
69
from copy import copy
 
70
from cStringIO import StringIO
70
71
import os
71
 
import sha
72
 
from difflib import SequenceMatcher
73
72
 
 
73
from bzrlib.lazy_import import lazy_import
 
74
lazy_import(globals(), """
 
75
from bzrlib import tsort
 
76
""")
 
77
from bzrlib import (
 
78
    errors,
 
79
    osutils,
 
80
    )
 
81
from bzrlib.errors import (WeaveError, WeaveFormatError, WeaveParentMismatch,
 
82
        RevisionAlreadyPresent,
 
83
        RevisionNotPresent,
 
84
        UnavailableRepresentation,
 
85
        )
 
86
from bzrlib.osutils import dirname, sha, sha_strings, split_lines
 
87
import bzrlib.patiencediff
 
88
from bzrlib.revision import NULL_REVISION
 
89
from bzrlib.symbol_versioning import *
74
90
from bzrlib.trace import mutter
75
 
from bzrlib.errors import (WeaveError, WeaveFormatError, WeaveParentMismatch,
76
 
        WeaveRevisionNotPresent, WeaveRevisionAlreadyPresent)
77
 
import bzrlib.errors as errors
78
 
from bzrlib.tsort import topo_sort
79
 
 
80
 
 
81
 
class Weave(object):
 
91
from bzrlib.versionedfile import (
 
92
    AbsentContentFactory,
 
93
    adapter_registry,
 
94
    ContentFactory,
 
95
    sort_groupcompress,
 
96
    VersionedFile,
 
97
    )
 
98
from bzrlib.weavefile import _read_weave_v5, write_weave_v5
 
99
 
 
100
 
 
101
class WeaveContentFactory(ContentFactory):
 
102
    """Content factory for streaming from weaves.
 
103
 
 
104
    :seealso ContentFactory:
 
105
    """
 
106
 
 
107
    def __init__(self, version, weave):
 
108
        """Create a WeaveContentFactory for version from weave."""
 
109
        ContentFactory.__init__(self)
 
110
        self.sha1 = weave.get_sha1s([version])[version]
 
111
        self.key = (version,)
 
112
        parents = weave.get_parent_map([version])[version]
 
113
        self.parents = tuple((parent,) for parent in parents)
 
114
        self.storage_kind = 'fulltext'
 
115
        self._weave = weave
 
116
 
 
117
    def get_bytes_as(self, storage_kind):
 
118
        if storage_kind == 'fulltext':
 
119
            return self._weave.get_text(self.key[-1])
 
120
        elif storage_kind == 'chunked':
 
121
            return self._weave.get_lines(self.key[-1])
 
122
        else:
 
123
            raise UnavailableRepresentation(self.key, storage_kind, 'fulltext')
 
124
 
 
125
 
 
126
class Weave(VersionedFile):
82
127
    """weave - versioned text file storage.
83
 
    
 
128
 
84
129
    A Weave manages versions of line-based text files, keeping track
85
130
    of the originating version for each line.
86
131
 
132
177
 
133
178
    * It doesn't seem very useful to have an active insertion
134
179
      inside an inactive insertion, but it might happen.
135
 
      
 
180
 
136
181
    * Therefore, all instructions are always"considered"; that
137
182
      is passed onto and off the stack.  An outer inactive block
138
183
      doesn't disable an inner block.
168
213
    """
169
214
 
170
215
    __slots__ = ['_weave', '_parents', '_sha1s', '_names', '_name_map',
171
 
                 '_weave_name']
172
 
    
173
 
    def __init__(self, weave_name=None):
 
216
                 '_weave_name', '_matcher', '_allow_reserved']
 
217
 
 
218
    def __init__(self, weave_name=None, access_mode='w', matcher=None,
 
219
                 get_scope=None, allow_reserved=False):
 
220
        """Create a weave.
 
221
 
 
222
        :param get_scope: A callable that returns an opaque object to be used
 
223
            for detecting when this weave goes out of scope (should stop
 
224
            answering requests or allowing mutation).
 
225
        """
 
226
        super(Weave, self).__init__()
174
227
        self._weave = []
175
228
        self._parents = []
176
229
        self._sha1s = []
177
230
        self._names = []
178
231
        self._name_map = {}
179
232
        self._weave_name = weave_name
 
233
        if matcher is None:
 
234
            self._matcher = bzrlib.patiencediff.PatienceSequenceMatcher
 
235
        else:
 
236
            self._matcher = matcher
 
237
        if get_scope is None:
 
238
            get_scope = lambda:None
 
239
        self._get_scope = get_scope
 
240
        self._scope = get_scope()
 
241
        self._access_mode = access_mode
 
242
        self._allow_reserved = allow_reserved
180
243
 
181
244
    def __repr__(self):
182
245
        return "Weave(%r)" % self._weave_name
183
246
 
 
247
    def _check_write_ok(self):
 
248
        """Is the versioned file marked as 'finished' ? Raise if it is."""
 
249
        if self._get_scope() != self._scope:
 
250
            raise errors.OutSideTransaction()
 
251
        if self._access_mode != 'w':
 
252
            raise errors.ReadOnlyObjectDirtiedError(self)
184
253
 
185
254
    def copy(self):
186
255
        """Return a deep copy of self.
187
 
        
 
256
 
188
257
        The copy can be modified without affecting the original weave."""
189
258
        other = Weave()
190
259
        other._weave = self._weave[:]
200
269
            return False
201
270
        return self._parents == other._parents \
202
271
               and self._weave == other._weave \
203
 
               and self._sha1s == other._sha1s 
 
272
               and self._sha1s == other._sha1s
204
273
 
205
 
    
206
274
    def __ne__(self, other):
207
275
        return not self.__eq__(other)
208
276
 
209
 
    def __contains__(self, name):
210
 
        return self._name_map.has_key(name)
211
 
 
212
 
    def maybe_lookup(self, name_or_index):
213
 
        """Convert possible symbolic name to index, or pass through indexes."""
214
 
        if isinstance(name_or_index, (int, long)):
215
 
            return name_or_index
216
 
        else:
217
 
            return self.lookup(name_or_index)
218
 
 
219
 
        
220
 
    def lookup(self, name):
 
277
    def _idx_to_name(self, version):
 
278
        return self._names[version]
 
279
 
 
280
    def _lookup(self, name):
221
281
        """Convert symbolic version name to index."""
 
282
        if not self._allow_reserved:
 
283
            self.check_not_reserved_id(name)
222
284
        try:
223
285
            return self._name_map[name]
224
286
        except KeyError:
225
 
            raise WeaveRevisionNotPresent(name, self)
 
287
            raise RevisionNotPresent(name, self._weave_name)
226
288
 
227
 
    def names(self):
 
289
    def versions(self):
 
290
        """See VersionedFile.versions."""
228
291
        return self._names[:]
229
292
 
230
 
    def iter_names(self):
231
 
        """Yield a list of all names in this weave."""
232
 
        return iter(self._names)
233
 
 
234
 
    def idx_to_name(self, version):
235
 
        return self._names[version]
 
293
    def has_version(self, version_id):
 
294
        """See VersionedFile.has_version."""
 
295
        return (version_id in self._name_map)
 
296
 
 
297
    __contains__ = has_version
 
298
 
 
299
    def get_record_stream(self, versions, ordering, include_delta_closure):
 
300
        """Get a stream of records for versions.
 
301
 
 
302
        :param versions: The versions to include. Each version is a tuple
 
303
            (version,).
 
304
        :param ordering: Either 'unordered' or 'topological'. A topologically
 
305
            sorted stream has compression parents strictly before their
 
306
            children.
 
307
        :param include_delta_closure: If True then the closure across any
 
308
            compression parents will be included (in the opaque data).
 
309
        :return: An iterator of ContentFactory objects, each of which is only
 
310
            valid until the iterator is advanced.
 
311
        """
 
312
        versions = [version[-1] for version in versions]
 
313
        if ordering == 'topological':
 
314
            parents = self.get_parent_map(versions)
 
315
            new_versions = tsort.topo_sort(parents)
 
316
            new_versions.extend(set(versions).difference(set(parents)))
 
317
            versions = new_versions
 
318
        elif ordering == 'groupcompress':
 
319
            parents = self.get_parent_map(versions)
 
320
            new_versions = sort_groupcompress(parents)
 
321
            new_versions.extend(set(versions).difference(set(parents)))
 
322
            versions = new_versions
 
323
        for version in versions:
 
324
            if version in self:
 
325
                yield WeaveContentFactory(version, self)
 
326
            else:
 
327
                yield AbsentContentFactory((version,))
 
328
 
 
329
    def get_parent_map(self, version_ids):
 
330
        """See VersionedFile.get_parent_map."""
 
331
        result = {}
 
332
        for version_id in version_ids:
 
333
            if version_id == NULL_REVISION:
 
334
                parents = ()
 
335
            else:
 
336
                try:
 
337
                    parents = tuple(
 
338
                        map(self._idx_to_name,
 
339
                            self._parents[self._lookup(version_id)]))
 
340
                except RevisionNotPresent:
 
341
                    continue
 
342
            result[version_id] = parents
 
343
        return result
 
344
 
 
345
    def get_parents_with_ghosts(self, version_id):
 
346
        raise NotImplementedError(self.get_parents_with_ghosts)
 
347
 
 
348
    def insert_record_stream(self, stream):
 
349
        """Insert a record stream into this versioned file.
 
350
 
 
351
        :param stream: A stream of records to insert.
 
352
        :return: None
 
353
        :seealso VersionedFile.get_record_stream:
 
354
        """
 
355
        adapters = {}
 
356
        for record in stream:
 
357
            # Raise an error when a record is missing.
 
358
            if record.storage_kind == 'absent':
 
359
                raise RevisionNotPresent([record.key[0]], self)
 
360
            # adapt to non-tuple interface
 
361
            parents = [parent[0] for parent in record.parents]
 
362
            if (record.storage_kind == 'fulltext'
 
363
                or record.storage_kind == 'chunked'):
 
364
                self.add_lines(record.key[0], parents,
 
365
                    osutils.chunks_to_lines(record.get_bytes_as('chunked')))
 
366
            else:
 
367
                adapter_key = record.storage_kind, 'fulltext'
 
368
                try:
 
369
                    adapter = adapters[adapter_key]
 
370
                except KeyError:
 
371
                    adapter_factory = adapter_registry.get(adapter_key)
 
372
                    adapter = adapter_factory(self)
 
373
                    adapters[adapter_key] = adapter
 
374
                lines = split_lines(adapter.get_bytes(record))
 
375
                try:
 
376
                    self.add_lines(record.key[0], parents, lines)
 
377
                except RevisionAlreadyPresent:
 
378
                    pass
236
379
 
237
380
    def _check_repeated_add(self, name, parents, text, sha1):
238
381
        """Check that a duplicated add is OK.
239
382
 
240
383
        If it is, return the (old) index; otherwise raise an exception.
241
384
        """
242
 
        idx = self.lookup(name)
 
385
        idx = self._lookup(name)
243
386
        if sorted(self._parents[idx]) != sorted(parents) \
244
387
            or sha1 != self._sha1s[idx]:
245
 
            raise WeaveRevisionAlreadyPresent(name, self)
 
388
            raise RevisionAlreadyPresent(name, self._weave_name)
246
389
        return idx
247
 
        
248
 
    def add(self, name, parents, text, sha1=None):
 
390
 
 
391
    def _add_lines(self, version_id, parents, lines, parent_texts,
 
392
       left_matching_blocks, nostore_sha, random_id, check_content):
 
393
        """See VersionedFile.add_lines."""
 
394
        idx = self._add(version_id, lines, map(self._lookup, parents),
 
395
            nostore_sha=nostore_sha)
 
396
        return sha_strings(lines), sum(map(len, lines)), idx
 
397
 
 
398
    def _add(self, version_id, lines, parents, sha1=None, nostore_sha=None):
249
399
        """Add a single text on top of the weave.
250
 
  
 
400
 
251
401
        Returns the index number of the newly added version.
252
402
 
253
 
        name
 
403
        version_id
254
404
            Symbolic name for this version.
255
405
            (Typically the revision-id of the revision that added it.)
 
406
            If None, a name will be allocated based on the hash. (sha1:SHAHASH)
256
407
 
257
408
        parents
258
409
            List or set of direct parent version numbers.
259
 
            
260
 
        text
 
410
 
 
411
        lines
261
412
            Sequence of lines to be added in the new version.
262
413
 
263
 
        sha -- SHA-1 of the file, if known.  This is trusted to be
264
 
            correct if supplied.
 
414
        :param nostore_sha: See VersionedFile.add_lines.
265
415
        """
266
 
        from bzrlib.osutils import sha_strings
267
 
 
268
 
        assert isinstance(name, basestring)
269
 
        if sha1 is None:
270
 
            sha1 = sha_strings(text)
271
 
        if name in self._name_map:
272
 
            return self._check_repeated_add(name, parents, text, sha1)
273
 
 
274
 
        parents = map(self.maybe_lookup, parents)
 
416
        self._check_lines_not_unicode(lines)
 
417
        self._check_lines_are_lines(lines)
 
418
        if not sha1:
 
419
            sha1 = sha_strings(lines)
 
420
        if sha1 == nostore_sha:
 
421
            raise errors.ExistingContent
 
422
        if version_id is None:
 
423
            version_id = "sha1:" + sha1
 
424
        if version_id in self._name_map:
 
425
            return self._check_repeated_add(version_id, parents, lines, sha1)
 
426
 
275
427
        self._check_versions(parents)
276
 
        ## self._check_lines(text)
 
428
        ## self._check_lines(lines)
277
429
        new_version = len(self._parents)
278
430
 
279
 
 
280
431
        # if we abort after here the (in-memory) weave will be corrupt because only
281
432
        # some fields are updated
 
433
        # XXX: FIXME implement a succeed-or-fail of the rest of this routine.
 
434
        #      - Robert Collins 20060226
282
435
        self._parents.append(parents[:])
283
436
        self._sha1s.append(sha1)
284
 
        self._names.append(name)
285
 
        self._name_map[name] = new_version
286
 
 
287
 
            
 
437
        self._names.append(version_id)
 
438
        self._name_map[version_id] = new_version
 
439
 
 
440
 
288
441
        if not parents:
289
442
            # special case; adding with no parents revision; can do
290
443
            # this more quickly by just appending unconditionally.
291
444
            # even more specially, if we're adding an empty text we
292
445
            # need do nothing at all.
293
 
            if text:
 
446
            if lines:
294
447
                self._weave.append(('{', new_version))
295
 
                self._weave.extend(text)
 
448
                self._weave.extend(lines)
296
449
                self._weave.append(('}', None))
297
 
        
298
450
            return new_version
299
451
 
300
452
        if len(parents) == 1:
302
454
            if sha1 == self._sha1s[pv]:
303
455
                # special case: same as the single parent
304
456
                return new_version
305
 
            
306
 
 
307
 
        ancestors = self.inclusions(parents)
 
457
 
 
458
 
 
459
        ancestors = self._inclusions(parents)
308
460
 
309
461
        l = self._weave
310
462
 
317
469
 
318
470
        # another small special case: a merge, producing the same text
319
471
        # as auto-merge
320
 
        if text == basis_lines:
321
 
            return new_version            
 
472
        if lines == basis_lines:
 
473
            return new_version
322
474
 
323
 
        # add a sentinal, because we can also match against the final line
 
475
        # add a sentinel, because we can also match against the final line
324
476
        basis_lineno.append(len(self._weave))
325
477
 
326
478
        # XXX: which line of the weave should we really consider
330
482
        #print 'basis_lines:', basis_lines
331
483
        #print 'new_lines:  ', lines
332
484
 
333
 
        s = SequenceMatcher(None, basis_lines, text)
 
485
        s = self._matcher(None, basis_lines, lines)
334
486
 
335
487
        # offset gives the number of lines that have been inserted
336
488
        # into the weave up to the current point; if the original edit instruction
343
495
            #print 'raw match', tag, i1, i2, j1, j2
344
496
            if tag == 'equal':
345
497
                continue
346
 
 
347
498
            i1 = basis_lineno[i1]
348
499
            i2 = basis_lineno[i2]
349
 
 
350
 
            assert 0 <= j1 <= j2 <= len(text)
351
 
 
352
 
            #print tag, i1, i2, j1, j2
353
 
 
354
500
            # the deletion and insertion are handled separately.
355
501
            # first delete the region.
356
502
            if i1 != i2:
363
509
                # i2; we want to insert after this region to make sure
364
510
                # we don't destroy ourselves
365
511
                i = i2 + offset
366
 
                self._weave[i:i] = ([('{', new_version)] 
367
 
                                    + text[j1:j2] 
 
512
                self._weave[i:i] = ([('{', new_version)]
 
513
                                    + lines[j1:j2]
368
514
                                    + [('}', None)])
369
515
                offset += 2 + (j2 - j1)
370
 
 
371
516
        return new_version
372
517
 
373
 
    def add_identical(self, old_rev_id, new_rev_id, parents):
374
 
        """Add an identical text to old_rev_id as new_rev_id."""
375
 
        old_lines = self.get(self.lookup(old_rev_id))
376
 
        self.add(new_rev_id, parents, old_lines)
377
 
 
378
 
    def inclusions(self, versions):
 
518
    def _inclusions(self, versions):
379
519
        """Return set of all ancestors of given version(s)."""
 
520
        if not len(versions):
 
521
            return []
380
522
        i = set(versions)
381
523
        for v in xrange(max(versions), 0, -1):
382
524
            if v in i:
386
528
        ## except IndexError:
387
529
        ##     raise ValueError("version %d not present in weave" % v)
388
530
 
389
 
 
390
 
    def parents(self, version):
391
 
        return self._parents[version]
392
 
 
393
 
 
394
 
    def parent_names(self, version):
395
 
        """Return version names for parents of a version."""
396
 
        return map(self.idx_to_name, self._parents[self.lookup(version)])
397
 
 
398
 
 
399
 
    def minimal_parents(self, version):
400
 
        """Find the minimal set of parents for the version."""
401
 
        included = self._parents[version]
402
 
        if not included:
403
 
            return []
404
 
        
405
 
        li = list(included)
406
 
        li.sort(reverse=True)
407
 
 
408
 
        mininc = []
409
 
        gotit = set()
410
 
 
411
 
        for pv in li:
412
 
            if pv not in gotit:
413
 
                mininc.append(pv)
414
 
                gotit.update(self.inclusions(pv))
415
 
 
416
 
        assert mininc[0] >= 0
417
 
        assert mininc[-1] < version
418
 
        return mininc
419
 
 
420
 
 
 
531
    def get_ancestry(self, version_ids, topo_sorted=True):
 
532
        """See VersionedFile.get_ancestry."""
 
533
        if isinstance(version_ids, basestring):
 
534
            version_ids = [version_ids]
 
535
        i = self._inclusions([self._lookup(v) for v in version_ids])
 
536
        return [self._idx_to_name(v) for v in i]
421
537
 
422
538
    def _check_lines(self, text):
423
539
        if not isinstance(text, list):
427
543
            if not isinstance(l, basestring):
428
544
                raise ValueError("text line should be a string or unicode, not %s"
429
545
                                 % type(l))
430
 
        
 
546
 
431
547
 
432
548
 
433
549
    def _check_versions(self, indexes):
438
554
            except IndexError:
439
555
                raise IndexError("invalid version number %r" % i)
440
556
 
441
 
    
442
 
    def annotate(self, name_or_index):
443
 
        return list(self.annotate_iter(name_or_index))
444
 
 
445
 
 
446
 
    def annotate_iter(self, name_or_index):
447
 
        """Yield list of (index-id, line) pairs for the specified version.
 
557
    def _compatible_parents(self, my_parents, other_parents):
 
558
        """During join check that other_parents are joinable with my_parents.
 
559
 
 
560
        Joinable is defined as 'is a subset of' - supersets may require
 
561
        regeneration of diffs, but subsets do not.
 
562
        """
 
563
        return len(other_parents.difference(my_parents)) == 0
 
564
 
 
565
    def annotate(self, version_id):
 
566
        """Return a list of (version-id, line) tuples for version_id.
448
567
 
449
568
        The index indicates when the line originated in the weave."""
450
 
        incls = [self.maybe_lookup(name_or_index)]
451
 
        for origin, lineno, text in self._extract(incls):
452
 
            yield origin, text
453
 
 
454
 
    def _walk(self):
455
 
        """Walk the weave.
456
 
 
457
 
        Yields sequence of
458
 
        (lineno, insert, deletes, text)
459
 
        for each literal line.
460
 
        """
461
 
        
 
569
        incls = [self._lookup(version_id)]
 
570
        return [(self._idx_to_name(origin), text) for origin, lineno, text in
 
571
            self._extract(incls)]
 
572
 
 
573
    def iter_lines_added_or_present_in_versions(self, version_ids=None,
 
574
                                                pb=None):
 
575
        """See VersionedFile.iter_lines_added_or_present_in_versions()."""
 
576
        if version_ids is None:
 
577
            version_ids = self.versions()
 
578
        version_ids = set(version_ids)
 
579
        for lineno, inserted, deletes, line in self._walk_internal(version_ids):
 
580
            if inserted not in version_ids: continue
 
581
            if line[-1] != '\n':
 
582
                yield line + '\n', inserted
 
583
            else:
 
584
                yield line, inserted
 
585
 
 
586
    def _walk_internal(self, version_ids=None):
 
587
        """Helper method for weave actions."""
 
588
 
462
589
        istack = []
463
590
        dset = set()
464
591
 
465
592
        lineno = 0         # line of weave, 0-based
466
593
 
467
594
        for l in self._weave:
468
 
            if isinstance(l, tuple):
 
595
            if l.__class__ == tuple:
469
596
                c, v = l
470
597
                isactive = None
471
598
                if c == '{':
472
 
                    istack.append(v)
 
599
                    istack.append(self._names[v])
473
600
                elif c == '}':
474
601
                    istack.pop()
475
602
                elif c == '[':
476
 
                    assert v not in dset
477
 
                    dset.add(v)
 
603
                    dset.add(self._names[v])
478
604
                elif c == ']':
479
 
                    dset.remove(v)
 
605
                    dset.remove(self._names[v])
480
606
                else:
481
607
                    raise WeaveFormatError('unexpected instruction %r' % v)
482
608
            else:
483
 
                assert isinstance(l, basestring)
484
 
                assert istack
485
 
                yield lineno, istack[-1], dset, l
 
609
                yield lineno, istack[-1], frozenset(dset), l
486
610
            lineno += 1
487
611
 
488
612
        if istack:
492
616
            raise WeaveFormatError("unclosed deletion blocks at end of weave: %s"
493
617
                                   % dset)
494
618
 
 
619
    def plan_merge(self, ver_a, ver_b):
 
620
        """Return pseudo-annotation indicating how the two versions merge.
 
621
 
 
622
        This is computed between versions a and b and their common
 
623
        base.
 
624
 
 
625
        Weave lines present in none of them are skipped entirely.
 
626
        """
 
627
        inc_a = set(self.get_ancestry([ver_a]))
 
628
        inc_b = set(self.get_ancestry([ver_b]))
 
629
        inc_c = inc_a & inc_b
 
630
 
 
631
        for lineno, insert, deleteset, line in self._walk_internal([ver_a, ver_b]):
 
632
            if deleteset & inc_c:
 
633
                # killed in parent; can't be in either a or b
 
634
                # not relevant to our work
 
635
                yield 'killed-base', line
 
636
            elif insert in inc_c:
 
637
                # was inserted in base
 
638
                killed_a = bool(deleteset & inc_a)
 
639
                killed_b = bool(deleteset & inc_b)
 
640
                if killed_a and killed_b:
 
641
                    yield 'killed-both', line
 
642
                elif killed_a:
 
643
                    yield 'killed-a', line
 
644
                elif killed_b:
 
645
                    yield 'killed-b', line
 
646
                else:
 
647
                    yield 'unchanged', line
 
648
            elif insert in inc_a:
 
649
                if deleteset & inc_a:
 
650
                    yield 'ghost-a', line
 
651
                else:
 
652
                    # new in A; not in B
 
653
                    yield 'new-a', line
 
654
            elif insert in inc_b:
 
655
                if deleteset & inc_b:
 
656
                    yield 'ghost-b', line
 
657
                else:
 
658
                    yield 'new-b', line
 
659
            else:
 
660
                # not in either revision
 
661
                yield 'irrelevant', line
 
662
 
495
663
    def _extract(self, versions):
496
664
        """Yield annotation of lines in included set.
497
665
 
504
672
        for i in versions:
505
673
            if not isinstance(i, int):
506
674
                raise ValueError(i)
507
 
            
508
 
        included = self.inclusions(versions)
 
675
 
 
676
        included = self._inclusions(versions)
509
677
 
510
678
        istack = []
 
679
        iset = set()
511
680
        dset = set()
512
681
 
513
682
        lineno = 0         # line of weave, 0-based
518
687
 
519
688
        WFE = WeaveFormatError
520
689
 
 
690
        # wow.
 
691
        #  449       0   4474.6820   2356.5590   bzrlib.weave:556(_extract)
 
692
        #  +285282   0   1676.8040   1676.8040   +<isinstance>
 
693
        # 1.6 seconds in 'isinstance'.
 
694
        # changing the first isinstance:
 
695
        #  449       0   2814.2660   1577.1760   bzrlib.weave:556(_extract)
 
696
        #  +140414   0    762.8050    762.8050   +<isinstance>
 
697
        # note that the inline time actually dropped (less function calls)
 
698
        # and total processing time was halved.
 
699
        # we're still spending ~1/4 of the method in isinstance though.
 
700
        # so lets hard code the acceptable string classes we expect:
 
701
        #  449       0   1202.9420    786.2930   bzrlib.weave:556(_extract)
 
702
        # +71352     0    377.5560    377.5560   +<method 'append' of 'list'
 
703
        #                                          objects>
 
704
        # yay, down to ~1/4 the initial extract time, and our inline time
 
705
        # has shrunk again, with isinstance no longer dominating.
 
706
        # tweaking the stack inclusion test to use a set gives:
 
707
        #  449       0   1122.8030    713.0080   bzrlib.weave:556(_extract)
 
708
        # +71352     0    354.9980    354.9980   +<method 'append' of 'list'
 
709
        #                                          objects>
 
710
        # - a 5% win, or possibly just noise. However with large istacks that
 
711
        # 'in' test could dominate, so I'm leaving this change in place -
 
712
        # when its fast enough to consider profiling big datasets we can review.
 
713
 
 
714
 
 
715
 
 
716
 
521
717
        for l in self._weave:
522
 
            if isinstance(l, tuple):
 
718
            if l.__class__ == tuple:
523
719
                c, v = l
524
720
                isactive = None
525
721
                if c == '{':
526
 
                    assert v not in istack
527
722
                    istack.append(v)
 
723
                    iset.add(v)
528
724
                elif c == '}':
529
 
                    istack.pop()
 
725
                    iset.remove(istack.pop())
530
726
                elif c == '[':
531
727
                    if v in included:
532
 
                        assert v not in dset
533
728
                        dset.add(v)
534
 
                else:
535
 
                    assert c == ']'
 
729
                elif c == ']':
536
730
                    if v in included:
537
 
                        assert v in dset
538
731
                        dset.remove(v)
 
732
                else:
 
733
                    raise AssertionError()
539
734
            else:
540
 
                assert isinstance(l, basestring)
541
735
                if isactive is None:
542
736
                    isactive = (not dset) and istack and (istack[-1] in included)
543
737
                if isactive:
551
745
                                   % dset)
552
746
        return result
553
747
 
 
748
    def _maybe_lookup(self, name_or_index):
 
749
        """Convert possible symbolic name to index, or pass through indexes.
554
750
 
555
 
    def get_iter(self, name_or_index):
556
 
        """Yield lines for the specified version."""
557
 
        incls = [self.maybe_lookup(name_or_index)]
558
 
        if len(incls) == 1:
559
 
            index = incls[0]
560
 
            cur_sha = sha.new()
 
751
        NOT FOR PUBLIC USE.
 
752
        """
 
753
        if isinstance(name_or_index, (int, long)):
 
754
            return name_or_index
561
755
        else:
562
 
            # We don't have sha1 sums for multiple entries
563
 
            cur_sha = None
564
 
        for origin, lineno, line in self._extract(incls):
565
 
            if cur_sha:
566
 
                cur_sha.update(line)
567
 
            yield line
568
 
        if cur_sha:
569
 
            expected_sha1 = self._sha1s[index]
570
 
            measured_sha1 = cur_sha.hexdigest() 
571
 
            if measured_sha1 != expected_sha1:
572
 
                raise errors.WeaveInvalidChecksum(
573
 
                        'file %s, revision %s, expected: %s, measured %s' 
574
 
                        % (self._weave_name, self._names[index],
575
 
                           expected_sha1, measured_sha1))
576
 
 
577
 
 
578
 
    def get_text(self, name_or_index):
579
 
        return ''.join(self.get_iter(name_or_index))
580
 
        assert isinstance(version, int)
581
 
 
582
 
 
583
 
    def get_lines(self, name_or_index):
584
 
        return list(self.get_iter(name_or_index))
585
 
 
586
 
 
587
 
    get = get_lines
588
 
 
589
 
 
590
 
    def get_sha1(self, name):
591
 
        """Get the stored sha1 sum for the given revision.
592
 
        
593
 
        :param name: The name of the version to lookup
594
 
        """
595
 
        return self._sha1s[self.lookup(name)]
596
 
 
597
 
    def mash_iter(self, included):
598
 
        """Return composed version of multiple included versions."""
599
 
        included = map(self.maybe_lookup, included)
600
 
        for origin, lineno, text in self._extract(included):
601
 
            yield text
602
 
 
603
 
 
604
 
    def dump(self, to_file):
605
 
        from pprint import pprint
606
 
        print >>to_file, "Weave._weave = ",
607
 
        pprint(self._weave, to_file)
608
 
        print >>to_file, "Weave._parents = ",
609
 
        pprint(self._parents, to_file)
610
 
 
611
 
 
612
 
 
613
 
    def numversions(self):
 
756
            return self._lookup(name_or_index)
 
757
 
 
758
    def get_lines(self, version_id):
 
759
        """See VersionedFile.get_lines()."""
 
760
        int_index = self._maybe_lookup(version_id)
 
761
        result = [line for (origin, lineno, line) in self._extract([int_index])]
 
762
        expected_sha1 = self._sha1s[int_index]
 
763
        measured_sha1 = sha_strings(result)
 
764
        if measured_sha1 != expected_sha1:
 
765
            raise errors.WeaveInvalidChecksum(
 
766
                    'file %s, revision %s, expected: %s, measured %s'
 
767
                    % (self._weave_name, version_id,
 
768
                       expected_sha1, measured_sha1))
 
769
        return result
 
770
 
 
771
    def get_sha1s(self, version_ids):
 
772
        """See VersionedFile.get_sha1s()."""
 
773
        result = {}
 
774
        for v in version_ids:
 
775
            result[v] = self._sha1s[self._lookup(v)]
 
776
        return result
 
777
 
 
778
    def num_versions(self):
 
779
        """How many versions are in this weave?"""
614
780
        l = len(self._parents)
615
 
        assert l == len(self._sha1s)
616
781
        return l
617
782
 
618
 
 
619
 
    def __len__(self):
620
 
        return self.numversions()
 
783
    __len__ = num_versions
621
784
 
622
785
    def check(self, progress_bar=None):
623
 
        # check no circular inclusions
624
 
        for version in range(self.numversions()):
 
786
        # TODO evaluate performance hit of using string sets in this routine.
 
787
        # TODO: check no circular inclusions
 
788
        # TODO: create a nested progress bar
 
789
        for version in range(self.num_versions()):
625
790
            inclusions = list(self._parents[version])
626
791
            if inclusions:
627
792
                inclusions.sort()
630
795
                                           % (inclusions[-1], version))
631
796
 
632
797
        # try extracting all versions; parallel extraction is used
633
 
        nv = self.numversions()
634
 
        sha1s = [sha.new() for i in range(nv)]
635
 
        texts = [[] for i in range(nv)]
636
 
        inclusions = []
 
798
        nv = self.num_versions()
 
799
        sha1s = {}
 
800
        texts = {}
 
801
        inclusions = {}
637
802
        for i in range(nv):
638
803
            # For creating the ancestry, IntSet is much faster (3.7s vs 0.17s)
639
804
            # The problem is that set membership is much more expensive
640
 
            new_inc = set([i])
 
805
            name = self._idx_to_name(i)
 
806
            sha1s[name] = sha()
 
807
            texts[name] = []
 
808
            new_inc = set([name])
641
809
            for p in self._parents[i]:
642
 
                new_inc.update(inclusions[p])
 
810
                new_inc.update(inclusions[self._idx_to_name(p)])
643
811
 
644
 
            #assert set(new_inc) == self.inclusions([i]), 'failed %s != %s' % (new_inc, self.inclusions([i]))
645
 
            inclusions.append(new_inc)
 
812
            if set(new_inc) != set(self.get_ancestry(name)):
 
813
                raise AssertionError(
 
814
                    'failed %s != %s'
 
815
                    % (set(new_inc), set(self.get_ancestry(name))))
 
816
            inclusions[name] = new_inc
646
817
 
647
818
        nlines = len(self._weave)
648
819
 
652
823
            update_text = 'checking %s' % (short_name,)
653
824
            update_text = update_text[:25]
654
825
 
655
 
        for lineno, insert, deleteset, line in self._walk():
 
826
        for lineno, insert, deleteset, line in self._walk_internal():
656
827
            if progress_bar:
657
828
                progress_bar.update(update_text, lineno, nlines)
658
829
 
659
 
            for j, j_inc in enumerate(inclusions):
 
830
            for name, name_inclusions in inclusions.items():
660
831
                # The active inclusion must be an ancestor,
661
832
                # and no ancestors must have deleted this line,
662
833
                # because we don't support resurrection.
663
 
                if (insert in j_inc) and not (deleteset & j_inc):
664
 
                    sha1s[j].update(line)
 
834
                if (insert in name_inclusions) and not (deleteset & name_inclusions):
 
835
                    sha1s[name].update(line)
665
836
 
666
 
        for version in range(nv):
 
837
        for i in range(nv):
 
838
            version = self._idx_to_name(i)
667
839
            hd = sha1s[version].hexdigest()
668
 
            expected = self._sha1s[version]
 
840
            expected = self._sha1s[i]
669
841
            if hd != expected:
670
842
                raise errors.WeaveInvalidChecksum(
671
843
                        "mismatched sha1 for version %s: "
672
844
                        "got %s, expected %s"
673
 
                        % (self._names[version], hd, expected))
 
845
                        % (version, hd, expected))
674
846
 
675
847
        # TODO: check insertions are properly nested, that there are
676
848
        # no lines outside of insertion blocks, that deletions are
677
849
        # properly paired, etc.
678
850
 
679
 
    def _delta(self, included, lines):
680
 
        """Return changes from basis to new revision.
681
 
 
682
 
        The old text for comparison is the union of included revisions.
683
 
 
684
 
        This is used in inserting a new text.
685
 
 
686
 
        Delta is returned as a sequence of
687
 
        (weave1, weave2, newlines).
688
 
 
689
 
        This indicates that weave1:weave2 of the old weave should be
690
 
        replaced by the sequence of lines in newlines.  Note that
691
 
        these line numbers are positions in the total weave and don't
692
 
        correspond to the lines in any extracted version, or even the
693
 
        extracted union of included versions.
694
 
 
695
 
        If line1=line2, this is a pure insert; if newlines=[] this is a
696
 
        pure delete.  (Similar to difflib.)
697
 
        """
698
 
        raise NotImplementedError()
699
 
 
700
 
            
701
 
    def plan_merge(self, ver_a, ver_b):
702
 
        """Return pseudo-annotation indicating how the two versions merge.
703
 
 
704
 
        This is computed between versions a and b and their common
705
 
        base.
706
 
 
707
 
        Weave lines present in none of them are skipped entirely.
708
 
        """
709
 
        inc_a = self.inclusions([ver_a])
710
 
        inc_b = self.inclusions([ver_b])
711
 
        inc_c = inc_a & inc_b
712
 
 
713
 
        for lineno, insert, deleteset, line in self._walk():
714
 
            if deleteset & inc_c:
715
 
                # killed in parent; can't be in either a or b
716
 
                # not relevant to our work
717
 
                yield 'killed-base', line
718
 
            elif insert in inc_c:
719
 
                # was inserted in base
720
 
                killed_a = bool(deleteset & inc_a)
721
 
                killed_b = bool(deleteset & inc_b)
722
 
                if killed_a and killed_b:
723
 
                    yield 'killed-both', line
724
 
                elif killed_a:
725
 
                    yield 'killed-a', line
726
 
                elif killed_b:
727
 
                    yield 'killed-b', line
728
 
                else:
729
 
                    yield 'unchanged', line
730
 
            elif insert in inc_a:
731
 
                if deleteset & inc_a:
732
 
                    yield 'ghost-a', line
733
 
                else:
734
 
                    # new in A; not in B
735
 
                    yield 'new-a', line
736
 
            elif insert in inc_b:
737
 
                if deleteset & inc_b:
738
 
                    yield 'ghost-b', line
739
 
                else:
740
 
                    yield 'new-b', line
741
 
            else:
742
 
                # not in either revision
743
 
                yield 'irrelevant', line
744
 
 
745
 
        yield 'unchanged', ''           # terminator
746
 
 
747
 
 
748
 
 
749
 
    def weave_merge(self, plan):
750
 
        lines_a = []
751
 
        lines_b = []
752
 
        ch_a = ch_b = False
753
 
        # TODO: Return a structured form of the conflicts (e.g. 2-tuples for
754
 
        # conflicted regions), rather than just inserting the markers.
755
 
        # 
756
 
        # TODO: Show some version information (e.g. author, date) on 
757
 
        # conflicted regions.
758
 
        for state, line in plan:
759
 
            if state == 'unchanged' or state == 'killed-both':
760
 
                # resync and flush queued conflicts changes if any
761
 
                if not lines_a and not lines_b:
762
 
                    pass
763
 
                elif ch_a and not ch_b:
764
 
                    # one-sided change:                    
765
 
                    for l in lines_a: yield l
766
 
                elif ch_b and not ch_a:
767
 
                    for l in lines_b: yield l
768
 
                elif lines_a == lines_b:
769
 
                    for l in lines_a: yield l
770
 
                else:
771
 
                    yield '<<<<<<<\n'
772
 
                    for l in lines_a: yield l
773
 
                    yield '=======\n'
774
 
                    for l in lines_b: yield l
775
 
                    yield '>>>>>>>\n'
776
 
 
777
 
                del lines_a[:]
778
 
                del lines_b[:]
779
 
                ch_a = ch_b = False
780
 
                
781
 
            if state == 'unchanged':
782
 
                if line:
783
 
                    yield line
784
 
            elif state == 'killed-a':
785
 
                ch_a = True
786
 
                lines_b.append(line)
787
 
            elif state == 'killed-b':
788
 
                ch_b = True
789
 
                lines_a.append(line)
790
 
            elif state == 'new-a':
791
 
                ch_a = True
792
 
                lines_a.append(line)
793
 
            elif state == 'new-b':
794
 
                ch_b = True
795
 
                lines_b.append(line)
796
 
            else:
797
 
                assert state in ('irrelevant', 'ghost-a', 'ghost-b', 'killed-base',
798
 
                                 'killed-both'), \
799
 
                       state
800
 
 
801
 
 
802
 
    def join(self, other, pb=None, msg=None):
803
 
        import sys, time
804
 
        """Integrate versions from other into this weave.
805
 
 
806
 
        The resulting weave contains all the history of both weaves; 
807
 
        any version you could retrieve from either self or other can be 
808
 
        retrieved from self after this call.
809
 
 
810
 
        It is illegal for the two weaves to contain different values 
811
 
        or different parents for any version.  See also reweave().
812
 
 
813
 
        :param other: The other weave to pull into this one
814
 
        :param pb: An optional progress bar
815
 
        :param msg: An optional message to display for progress
816
 
        """
817
 
        if other.numversions() == 0:
818
 
            return          # nothing to update, easy
819
 
        # two loops so that we do not change ourselves before verifying it
820
 
        # will be ok
821
 
        # work through in index order to make sure we get all dependencies
822
 
        names_to_join = []
823
 
        processed = 0
824
 
        for other_idx, name in enumerate(other._names):
825
 
            self._check_version_consistent(other, other_idx, name)
826
 
            sha1 = other._sha1s[other_idx]
827
 
 
828
 
            processed += 1
829
 
 
830
 
            if name in self._name_map:
831
 
                idx = self.lookup(name)
832
 
                n1 = set(map(other.idx_to_name, other._parents[other_idx]))
833
 
                n2 = set(map(self.idx_to_name, self._parents[idx]))
834
 
                if sha1 ==  self._sha1s[idx] and n1 == n2:
835
 
                        continue
836
 
 
837
 
            names_to_join.append((other_idx, name))
838
 
 
839
 
        if pb and not msg:
840
 
            msg = 'weave join'
841
 
 
842
 
        merged = 0
843
 
        time0 = time.time( )
844
 
        for other_idx, name in names_to_join:
845
 
            # TODO: If all the parents of the other version are already
846
 
            # present then we can avoid some work by just taking the delta
847
 
            # and adjusting the offsets.
848
 
            new_parents = self._imported_parents(other, other_idx)
849
 
            sha1 = other._sha1s[other_idx]
850
 
 
851
 
            merged += 1
852
 
 
853
 
            if pb:
854
 
                pb.update(msg, merged, len(names_to_join))
855
 
           
856
 
            lines = other.get_lines(other_idx)
857
 
            self.add(name, new_parents, lines, sha1)
858
 
 
859
 
        mutter("merged = %d, processed = %d, file_id=%s; deltat=%d"%(
860
 
                merged, processed, self._weave_name, time.time( )-time0))
861
 
 
862
851
    def _imported_parents(self, other, other_idx):
863
852
        """Return list of parents in self corresponding to indexes in other."""
864
853
        new_parents = []
865
854
        for parent_idx in other._parents[other_idx]:
866
855
            parent_name = other._names[parent_idx]
867
 
            if parent_name not in self._names:
 
856
            if parent_name not in self._name_map:
868
857
                # should not be possible
869
 
                raise WeaveError("missing parent {%s} of {%s} in %r" 
 
858
                raise WeaveError("missing parent {%s} of {%s} in %r"
870
859
                                 % (parent_name, other._name_map[other_idx], self))
871
860
            new_parents.append(self._name_map[parent_name])
872
861
        return new_parents
879
868
         * the same text
880
869
         * the same direct parents (by name, not index, and disregarding
881
870
           order)
882
 
        
 
871
 
883
872
        If present & correct return True;
884
 
        if not present in self return False; 
 
873
        if not present in self return False;
885
874
        if inconsistent raise error."""
886
875
        this_idx = self._name_map.get(name, -1)
887
876
        if this_idx != -1:
888
877
            if self._sha1s[this_idx] != other._sha1s[other_idx]:
889
 
                raise WeaveError("inconsistent texts for version {%s} "
890
 
                                 "when joining weaves"
891
 
                                 % (name))
 
878
                raise errors.WeaveTextDiffers(name, self, other)
892
879
            self_parents = self._parents[this_idx]
893
880
            other_parents = other._parents[other_idx]
894
881
            n1 = set([self._names[i] for i in self_parents])
895
882
            n2 = set([other._names[i] for i in other_parents])
896
 
            if n1 != n2:
 
883
            if not self._compatible_parents(n1, n2):
897
884
                raise WeaveParentMismatch("inconsistent parents "
898
885
                    "for version {%s}: %s vs %s" % (name, n1, n2))
899
886
            else:
901
888
        else:
902
889
            return False
903
890
 
904
 
    def reweave(self, other, pb=None, msg=None):
905
 
        """Reweave self with other.
 
891
    def _reweave(self, other, pb, msg):
 
892
        """Reweave self with other - internal helper for join().
906
893
 
907
894
        :param other: The other weave to merge
908
895
        :param pb: An optional progress bar, indicating how far done we are
909
896
        :param msg: An optional message for the progress
910
897
        """
911
 
        new_weave = reweave(self, other, pb=pb, msg=msg)
 
898
        new_weave = _reweave(self, other, pb=pb, msg=msg)
 
899
        self._copy_weave_content(new_weave)
 
900
 
 
901
    def _copy_weave_content(self, otherweave):
 
902
        """adsorb the content from otherweave."""
912
903
        for attr in self.__slots__:
913
 
            setattr(self, attr, getattr(new_weave, attr))
914
 
 
915
 
 
916
 
def reweave(wa, wb, pb=None, msg=None):
 
904
            if attr != '_weave_name':
 
905
                setattr(self, attr, copy(getattr(otherweave, attr)))
 
906
 
 
907
 
 
908
class WeaveFile(Weave):
 
909
    """A WeaveFile represents a Weave on disk and writes on change."""
 
910
 
 
911
    WEAVE_SUFFIX = '.weave'
 
912
 
 
913
    def __init__(self, name, transport, filemode=None, create=False, access_mode='w', get_scope=None):
 
914
        """Create a WeaveFile.
 
915
 
 
916
        :param create: If not True, only open an existing knit.
 
917
        """
 
918
        super(WeaveFile, self).__init__(name, access_mode, get_scope=get_scope,
 
919
            allow_reserved=False)
 
920
        self._transport = transport
 
921
        self._filemode = filemode
 
922
        try:
 
923
            _read_weave_v5(self._transport.get(name + WeaveFile.WEAVE_SUFFIX), self)
 
924
        except errors.NoSuchFile:
 
925
            if not create:
 
926
                raise
 
927
            # new file, save it
 
928
            self._save()
 
929
 
 
930
    def _add_lines(self, version_id, parents, lines, parent_texts,
 
931
        left_matching_blocks, nostore_sha, random_id, check_content):
 
932
        """Add a version and save the weave."""
 
933
        self.check_not_reserved_id(version_id)
 
934
        result = super(WeaveFile, self)._add_lines(version_id, parents, lines,
 
935
            parent_texts, left_matching_blocks, nostore_sha, random_id,
 
936
            check_content)
 
937
        self._save()
 
938
        return result
 
939
 
 
940
    def copy_to(self, name, transport):
 
941
        """See VersionedFile.copy_to()."""
 
942
        # as we are all in memory always, just serialise to the new place.
 
943
        sio = StringIO()
 
944
        write_weave_v5(self, sio)
 
945
        sio.seek(0)
 
946
        transport.put_file(name + WeaveFile.WEAVE_SUFFIX, sio, self._filemode)
 
947
 
 
948
    def _save(self):
 
949
        """Save the weave."""
 
950
        self._check_write_ok()
 
951
        sio = StringIO()
 
952
        write_weave_v5(self, sio)
 
953
        sio.seek(0)
 
954
        bytes = sio.getvalue()
 
955
        path = self._weave_name + WeaveFile.WEAVE_SUFFIX
 
956
        try:
 
957
            self._transport.put_bytes(path, bytes, self._filemode)
 
958
        except errors.NoSuchFile:
 
959
            self._transport.mkdir(dirname(path))
 
960
            self._transport.put_bytes(path, bytes, self._filemode)
 
961
 
 
962
    @staticmethod
 
963
    def get_suffixes():
 
964
        """See VersionedFile.get_suffixes()."""
 
965
        return [WeaveFile.WEAVE_SUFFIX]
 
966
 
 
967
    def insert_record_stream(self, stream):
 
968
        super(WeaveFile, self).insert_record_stream(stream)
 
969
        self._save()
 
970
 
 
971
 
 
972
def _reweave(wa, wb, pb=None, msg=None):
917
973
    """Combine two weaves and return the result.
918
974
 
919
 
    This works even if a revision R has different parents in 
 
975
    This works even if a revision R has different parents in
920
976
    wa and wb.  In the resulting weave all the parents are given.
921
977
 
922
 
    This is done by just building up a new weave, maintaining ordering 
 
978
    This is done by just building up a new weave, maintaining ordering
923
979
    of the versions in the two inputs.  More efficient approaches
924
 
    might be possible but it should only be necessary to do 
925
 
    this operation rarely, when a new previously ghost version is 
 
980
    might be possible but it should only be necessary to do
 
981
    this operation rarely, when a new previously ghost version is
926
982
    inserted.
927
983
 
928
984
    :param pb: An optional progress bar, indicating how far done we are
930
986
    """
931
987
    wr = Weave()
932
988
    ia = ib = 0
933
 
    queue_a = range(wa.numversions())
934
 
    queue_b = range(wb.numversions())
 
989
    queue_a = range(wa.num_versions())
 
990
    queue_b = range(wb.num_versions())
935
991
    # first determine combined parents of all versions
936
992
    # map from version name -> all parent names
937
993
    combined_parents = _reweave_parent_graphs(wa, wb)
938
994
    mutter("combined parents: %r", combined_parents)
939
 
    order = topo_sort(combined_parents.iteritems())
 
995
    order = tsort.topo_sort(combined_parents.iteritems())
940
996
    mutter("order to reweave: %r", order)
941
997
 
942
998
    if pb and not msg:
959
1015
                    raise errors.WeaveTextDiffers(name, wa, wb)
960
1016
        else:
961
1017
            lines = wb.get_lines(name)
962
 
        wr.add(name, combined_parents[name], lines)
 
1018
        wr._add(name, lines, [wr._lookup(i) for i in combined_parents[name]])
963
1019
    return wr
964
1020
 
965
1021
 
966
1022
def _reweave_parent_graphs(wa, wb):
967
1023
    """Return combined parent ancestry for two weaves.
968
 
    
 
1024
 
969
1025
    Returned as a list of (version_name, set(parent_names))"""
970
1026
    combined = {}
971
1027
    for weave in [wa, wb]:
972
1028
        for idx, name in enumerate(weave._names):
973
1029
            p = combined.setdefault(name, set())
974
 
            p.update(map(weave.idx_to_name, weave._parents[idx]))
 
1030
            p.update(map(weave._idx_to_name, weave._parents[idx]))
975
1031
    return combined
976
 
 
977
 
 
978
 
def weave_toc(w):
979
 
    """Show the weave's table-of-contents"""
980
 
    print '%6s %50s %10s %10s' % ('ver', 'name', 'sha1', 'parents')
981
 
    for i in (6, 50, 10, 10):
982
 
        print '-' * i,
983
 
    print
984
 
    for i in range(w.numversions()):
985
 
        sha1 = w._sha1s[i]
986
 
        name = w._names[i]
987
 
        parent_str = ' '.join(map(str, w._parents[i]))
988
 
        print '%6d %-50.50s %10.10s %s' % (i, name, sha1, parent_str)
989
 
 
990
 
 
991
 
 
992
 
def weave_stats(weave_file, pb):
993
 
    from bzrlib.weavefile import read_weave
994
 
 
995
 
    wf = file(weave_file, 'rb')
996
 
    w = read_weave(wf)
997
 
    # FIXME: doesn't work on pipes
998
 
    weave_size = wf.tell()
999
 
 
1000
 
    total = 0
1001
 
    vers = len(w)
1002
 
    for i in range(vers):
1003
 
        pb.update('checking sizes', i, vers)
1004
 
        for origin, lineno, line in w._extract([i]):
1005
 
            total += len(line)
1006
 
 
1007
 
    pb.clear()
1008
 
 
1009
 
    print 'versions          %9d' % vers
1010
 
    print 'weave file        %9d bytes' % weave_size
1011
 
    print 'total contents    %9d bytes' % total
1012
 
    print 'compression ratio %9.2fx' % (float(total) / float(weave_size))
1013
 
    if vers:
1014
 
        avg = total/vers
1015
 
        print 'average size      %9d bytes' % avg
1016
 
        print 'relative size     %9.2fx' % (float(weave_size) / float(avg))
1017
 
 
1018
 
 
1019
 
def usage():
1020
 
    print """bzr weave tool
1021
 
 
1022
 
Experimental tool for weave algorithm.
1023
 
 
1024
 
usage:
1025
 
    weave init WEAVEFILE
1026
 
        Create an empty weave file
1027
 
    weave get WEAVEFILE VERSION
1028
 
        Write out specified version.
1029
 
    weave check WEAVEFILE
1030
 
        Check consistency of all versions.
1031
 
    weave toc WEAVEFILE
1032
 
        Display table of contents.
1033
 
    weave add WEAVEFILE NAME [BASE...] < NEWTEXT
1034
 
        Add NEWTEXT, with specified parent versions.
1035
 
    weave annotate WEAVEFILE VERSION
1036
 
        Display origin of each line.
1037
 
    weave mash WEAVEFILE VERSION...
1038
 
        Display composite of all selected versions.
1039
 
    weave merge WEAVEFILE VERSION1 VERSION2 > OUT
1040
 
        Auto-merge two versions and display conflicts.
1041
 
    weave diff WEAVEFILE VERSION1 VERSION2 
1042
 
        Show differences between two versions.
1043
 
 
1044
 
example:
1045
 
 
1046
 
    % weave init foo.weave
1047
 
    % vi foo.txt
1048
 
    % weave add foo.weave ver0 < foo.txt
1049
 
    added version 0
1050
 
 
1051
 
    (create updated version)
1052
 
    % vi foo.txt
1053
 
    % weave get foo.weave 0 | diff -u - foo.txt
1054
 
    % weave add foo.weave ver1 0 < foo.txt
1055
 
    added version 1
1056
 
 
1057
 
    % weave get foo.weave 0 > foo.txt       (create forked version)
1058
 
    % vi foo.txt
1059
 
    % weave add foo.weave ver2 0 < foo.txt
1060
 
    added version 2
1061
 
 
1062
 
    % weave merge foo.weave 1 2 > foo.txt   (merge them)
1063
 
    % vi foo.txt                            (resolve conflicts)
1064
 
    % weave add foo.weave merged 1 2 < foo.txt     (commit merged version)     
1065
 
    
1066
 
"""
1067
 
    
1068
 
 
1069
 
 
1070
 
def main(argv):
1071
 
    import sys
1072
 
    import os
1073
 
    try:
1074
 
        import bzrlib
1075
 
    except ImportError:
1076
 
        # in case we're run directly from the subdirectory
1077
 
        sys.path.append('..')
1078
 
        import bzrlib
1079
 
    from bzrlib.weavefile import write_weave, read_weave
1080
 
    from bzrlib.progress import ProgressBar
1081
 
 
1082
 
    try:
1083
 
        import psyco
1084
 
        psyco.full()
1085
 
    except ImportError:
1086
 
        pass
1087
 
 
1088
 
    if len(argv) < 2:
1089
 
        usage()
1090
 
        return 0
1091
 
 
1092
 
    cmd = argv[1]
1093
 
 
1094
 
    def readit():
1095
 
        return read_weave(file(argv[2], 'rb'))
1096
 
    
1097
 
    if cmd == 'help':
1098
 
        usage()
1099
 
    elif cmd == 'add':
1100
 
        w = readit()
1101
 
        # at the moment, based on everything in the file
1102
 
        name = argv[3]
1103
 
        parents = map(int, argv[4:])
1104
 
        lines = sys.stdin.readlines()
1105
 
        ver = w.add(name, parents, lines)
1106
 
        write_weave(w, file(argv[2], 'wb'))
1107
 
        print 'added version %r %d' % (name, ver)
1108
 
    elif cmd == 'init':
1109
 
        fn = argv[2]
1110
 
        if os.path.exists(fn):
1111
 
            raise IOError("file exists")
1112
 
        w = Weave()
1113
 
        write_weave(w, file(fn, 'wb'))
1114
 
    elif cmd == 'get': # get one version
1115
 
        w = readit()
1116
 
        sys.stdout.writelines(w.get_iter(int(argv[3])))
1117
 
        
1118
 
    elif cmd == 'mash': # get composite
1119
 
        w = readit()
1120
 
        sys.stdout.writelines(w.mash_iter(map(int, argv[3:])))
1121
 
 
1122
 
    elif cmd == 'diff':
1123
 
        from difflib import unified_diff
1124
 
        w = readit()
1125
 
        fn = argv[2]
1126
 
        v1, v2 = map(int, argv[3:5])
1127
 
        lines1 = w.get(v1)
1128
 
        lines2 = w.get(v2)
1129
 
        diff_gen = unified_diff(lines1, lines2,
1130
 
                                '%s version %d' % (fn, v1),
1131
 
                                '%s version %d' % (fn, v2))
1132
 
        sys.stdout.writelines(diff_gen)
1133
 
            
1134
 
    elif cmd == 'annotate':
1135
 
        w = readit()
1136
 
        # newline is added to all lines regardless; too hard to get
1137
 
        # reasonable formatting otherwise
1138
 
        lasto = None
1139
 
        for origin, text in w.annotate(int(argv[3])):
1140
 
            text = text.rstrip('\r\n')
1141
 
            if origin == lasto:
1142
 
                print '      | %s' % (text)
1143
 
            else:
1144
 
                print '%5d | %s' % (origin, text)
1145
 
                lasto = origin
1146
 
                
1147
 
    elif cmd == 'toc':
1148
 
        weave_toc(readit())
1149
 
 
1150
 
    elif cmd == 'stats':
1151
 
        weave_stats(argv[2], ProgressBar())
1152
 
        
1153
 
    elif cmd == 'check':
1154
 
        w = readit()
1155
 
        pb = ProgressBar()
1156
 
        w.check(pb)
1157
 
        pb.clear()
1158
 
        print '%d versions ok' % w.numversions()
1159
 
 
1160
 
    elif cmd == 'inclusions':
1161
 
        w = readit()
1162
 
        print ' '.join(map(str, w.inclusions([int(argv[3])])))
1163
 
 
1164
 
    elif cmd == 'parents':
1165
 
        w = readit()
1166
 
        print ' '.join(map(str, w._parents[int(argv[3])]))
1167
 
 
1168
 
    elif cmd == 'plan-merge':
1169
 
        w = readit()
1170
 
        for state, line in w.plan_merge(int(argv[3]), int(argv[4])):
1171
 
            if line:
1172
 
                print '%14s | %s' % (state, line),
1173
 
 
1174
 
    elif cmd == 'merge':
1175
 
        w = readit()
1176
 
        p = w.plan_merge(int(argv[3]), int(argv[4]))
1177
 
        sys.stdout.writelines(w.weave_merge(p))
1178
 
            
1179
 
    elif cmd == 'mash-merge':
1180
 
        if len(argv) != 5:
1181
 
            usage()
1182
 
            return 1
1183
 
 
1184
 
        w = readit()
1185
 
        v1, v2 = map(int, argv[3:5])
1186
 
 
1187
 
        basis = w.inclusions([v1]).intersection(w.inclusions([v2]))
1188
 
 
1189
 
        base_lines = list(w.mash_iter(basis))
1190
 
        a_lines = list(w.get(v1))
1191
 
        b_lines = list(w.get(v2))
1192
 
 
1193
 
        from bzrlib.merge3 import Merge3
1194
 
        m3 = Merge3(base_lines, a_lines, b_lines)
1195
 
 
1196
 
        name_a = 'version %d' % v1
1197
 
        name_b = 'version %d' % v2
1198
 
        sys.stdout.writelines(m3.merge_lines(name_a=name_a, name_b=name_b))
1199
 
    else:
1200
 
        raise ValueError('unknown command %r' % cmd)
1201
 
    
1202
 
 
1203
 
 
1204
 
def profile_main(argv): 
1205
 
    import tempfile, hotshot, hotshot.stats
1206
 
 
1207
 
    prof_f = tempfile.NamedTemporaryFile()
1208
 
 
1209
 
    prof = hotshot.Profile(prof_f.name)
1210
 
 
1211
 
    ret = prof.runcall(main, argv)
1212
 
    prof.close()
1213
 
 
1214
 
    stats = hotshot.stats.load(prof_f.name)
1215
 
    #stats.strip_dirs()
1216
 
    stats.sort_stats('cumulative')
1217
 
    ## XXX: Might like to write to stderr or the trace file instead but
1218
 
    ## print_stats seems hardcoded to stdout
1219
 
    stats.print_stats(20)
1220
 
            
1221
 
    return ret
1222
 
 
1223
 
 
1224
 
def lsprofile_main(argv): 
1225
 
    from bzrlib.lsprof import profile
1226
 
    ret,stats = profile(main, argv)
1227
 
    stats.sort()
1228
 
    stats.pprint()
1229
 
    return ret
1230
 
 
1231
 
 
1232
 
if __name__ == '__main__':
1233
 
    import sys
1234
 
    if '--profile' in sys.argv:
1235
 
        args = sys.argv[:]
1236
 
        args.remove('--profile')
1237
 
        sys.exit(profile_main(args))
1238
 
    elif '--lsprof' in sys.argv:
1239
 
        args = sys.argv[:]
1240
 
        args.remove('--lsprof')
1241
 
        sys.exit(lsprofile_main(args))
1242
 
    else:
1243
 
        sys.exit(main(sys.argv))
1244