/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/weave.py

  • Committer: Aaron Bentley
  • Date: 2006-04-18 23:42:34 UTC
  • mto: This revision was merged to the branch mainline in revision 1672.
  • Revision ID: aaron.bentley@utoronto.ca-20060418234234-d3d230b99ba70b9f
Ported weave merge test to versionedfile

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2009 Canonical Ltd
2
 
#
 
1
#! /usr/bin/python
 
2
 
 
3
# Copyright (C) 2005 Canonical Ltd
 
4
 
3
5
# This program is free software; you can redistribute it and/or modify
4
6
# it under the terms of the GNU General Public License as published by
5
7
# the Free Software Foundation; either version 2 of the License, or
6
8
# (at your option) any later version.
7
 
#
 
9
 
8
10
# This program is distributed in the hope that it will be useful,
9
11
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
12
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
13
# GNU General Public License for more details.
12
 
#
 
14
 
13
15
# You should have received a copy of the GNU General Public License
14
16
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
17
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
18
 
17
19
# Author: Martin Pool <mbp@canonical.com>
18
20
 
25
27
# property.
26
28
 
27
29
# TODO: Nothing here so far assumes the lines are really \n newlines,
28
 
# rather than being split up in some other way.  We could accommodate
 
30
# rather than being split up in some other way.  We could accomodate
29
31
# binaries, perhaps by naively splitting on \n or perhaps using
30
32
# something like a rolling checksum.
31
33
 
59
61
# where the basis and destination are unchanged.
60
62
 
61
63
# FIXME: Sometimes we will be given a parents list for a revision
62
 
# that includes some redundant parents (i.e. already a parent of
63
 
# something in the list.)  We should eliminate them.  This can
 
64
# that includes some redundant parents (i.e. already a parent of 
 
65
# something in the list.)  We should eliminate them.  This can 
64
66
# be done fairly efficiently because the sequence numbers constrain
65
67
# the possible relationships.
66
68
 
68
70
 
69
71
from copy import copy
70
72
from cStringIO import StringIO
 
73
from difflib import SequenceMatcher
71
74
import os
 
75
import sha
 
76
import time
72
77
 
73
 
from bzrlib.lazy_import import lazy_import
74
 
lazy_import(globals(), """
75
 
from bzrlib import tsort
76
 
""")
77
 
from bzrlib import (
78
 
    errors,
79
 
    osutils,
80
 
    )
 
78
from bzrlib.trace import mutter
81
79
from bzrlib.errors import (WeaveError, WeaveFormatError, WeaveParentMismatch,
82
80
        RevisionAlreadyPresent,
83
81
        RevisionNotPresent,
84
 
        UnavailableRepresentation,
 
82
        WeaveRevisionAlreadyPresent,
 
83
        WeaveRevisionNotPresent,
85
84
        )
86
 
from bzrlib.osutils import dirname, sha, sha_strings, split_lines
87
 
import bzrlib.patiencediff
88
 
from bzrlib.revision import NULL_REVISION
 
85
import bzrlib.errors as errors
 
86
from bzrlib.osutils import sha_strings
89
87
from bzrlib.symbol_versioning import *
90
 
from bzrlib.trace import mutter
91
 
from bzrlib.versionedfile import (
92
 
    AbsentContentFactory,
93
 
    adapter_registry,
94
 
    ContentFactory,
95
 
    sort_groupcompress,
96
 
    VersionedFile,
97
 
    )
 
88
from bzrlib.tsort import topo_sort
 
89
from bzrlib.versionedfile import VersionedFile, InterVersionedFile
98
90
from bzrlib.weavefile import _read_weave_v5, write_weave_v5
99
91
 
100
92
 
101
 
class WeaveContentFactory(ContentFactory):
102
 
    """Content factory for streaming from weaves.
103
 
 
104
 
    :seealso ContentFactory:
105
 
    """
106
 
 
107
 
    def __init__(self, version, weave):
108
 
        """Create a WeaveContentFactory for version from weave."""
109
 
        ContentFactory.__init__(self)
110
 
        self.sha1 = weave.get_sha1s([version])[version]
111
 
        self.key = (version,)
112
 
        parents = weave.get_parent_map([version])[version]
113
 
        self.parents = tuple((parent,) for parent in parents)
114
 
        self.storage_kind = 'fulltext'
115
 
        self._weave = weave
116
 
 
117
 
    def get_bytes_as(self, storage_kind):
118
 
        if storage_kind == 'fulltext':
119
 
            return self._weave.get_text(self.key[-1])
120
 
        elif storage_kind == 'chunked':
121
 
            return self._weave.get_lines(self.key[-1])
122
 
        else:
123
 
            raise UnavailableRepresentation(self.key, storage_kind, 'fulltext')
124
 
 
125
 
 
126
93
class Weave(VersionedFile):
127
94
    """weave - versioned text file storage.
128
 
 
 
95
    
129
96
    A Weave manages versions of line-based text files, keeping track
130
97
    of the originating version for each line.
131
98
 
177
144
 
178
145
    * It doesn't seem very useful to have an active insertion
179
146
      inside an inactive insertion, but it might happen.
180
 
 
 
147
      
181
148
    * Therefore, all instructions are always"considered"; that
182
149
      is passed onto and off the stack.  An outer inactive block
183
150
      doesn't disable an inner block.
213
180
    """
214
181
 
215
182
    __slots__ = ['_weave', '_parents', '_sha1s', '_names', '_name_map',
216
 
                 '_weave_name', '_matcher', '_allow_reserved']
217
 
 
218
 
    def __init__(self, weave_name=None, access_mode='w', matcher=None,
219
 
                 get_scope=None, allow_reserved=False):
220
 
        """Create a weave.
221
 
 
222
 
        :param get_scope: A callable that returns an opaque object to be used
223
 
            for detecting when this weave goes out of scope (should stop
224
 
            answering requests or allowing mutation).
225
 
        """
226
 
        super(Weave, self).__init__()
 
183
                 '_weave_name']
 
184
    
 
185
    def __init__(self, weave_name=None, access_mode='w'):
 
186
        super(Weave, self).__init__(access_mode)
227
187
        self._weave = []
228
188
        self._parents = []
229
189
        self._sha1s = []
230
190
        self._names = []
231
191
        self._name_map = {}
232
192
        self._weave_name = weave_name
233
 
        if matcher is None:
234
 
            self._matcher = bzrlib.patiencediff.PatienceSequenceMatcher
235
 
        else:
236
 
            self._matcher = matcher
237
 
        if get_scope is None:
238
 
            get_scope = lambda:None
239
 
        self._get_scope = get_scope
240
 
        self._scope = get_scope()
241
 
        self._access_mode = access_mode
242
 
        self._allow_reserved = allow_reserved
243
193
 
244
194
    def __repr__(self):
245
195
        return "Weave(%r)" % self._weave_name
246
196
 
247
 
    def _check_write_ok(self):
248
 
        """Is the versioned file marked as 'finished' ? Raise if it is."""
249
 
        if self._get_scope() != self._scope:
250
 
            raise errors.OutSideTransaction()
251
 
        if self._access_mode != 'w':
252
 
            raise errors.ReadOnlyObjectDirtiedError(self)
253
 
 
254
197
    def copy(self):
255
198
        """Return a deep copy of self.
256
 
 
 
199
        
257
200
        The copy can be modified without affecting the original weave."""
258
201
        other = Weave()
259
202
        other._weave = self._weave[:]
269
212
            return False
270
213
        return self._parents == other._parents \
271
214
               and self._weave == other._weave \
272
 
               and self._sha1s == other._sha1s
273
 
 
 
215
               and self._sha1s == other._sha1s 
 
216
    
274
217
    def __ne__(self, other):
275
218
        return not self.__eq__(other)
276
219
 
 
220
    @deprecated_method(zero_eight)
 
221
    def idx_to_name(self, index):
 
222
        """Old public interface, the public interface is all names now."""
 
223
        return index
 
224
 
277
225
    def _idx_to_name(self, version):
278
226
        return self._names[version]
279
227
 
 
228
    @deprecated_method(zero_eight)
 
229
    def lookup(self, name):
 
230
        """Backwards compatability thunk:
 
231
 
 
232
        Return name, as name is valid in the api now, and spew deprecation
 
233
        warnings everywhere.
 
234
        """
 
235
        return name
 
236
 
280
237
    def _lookup(self, name):
281
238
        """Convert symbolic version name to index."""
282
 
        if not self._allow_reserved:
283
 
            self.check_not_reserved_id(name)
284
239
        try:
285
240
            return self._name_map[name]
286
241
        except KeyError:
287
242
            raise RevisionNotPresent(name, self._weave_name)
288
243
 
 
244
    @deprecated_method(zero_eight)
 
245
    def iter_names(self):
 
246
        """Deprecated convenience function, please see VersionedFile.names()."""
 
247
        return iter(self.names())
 
248
 
 
249
    @deprecated_method(zero_eight)
 
250
    def names(self):
 
251
        """See Weave.versions for the current api."""
 
252
        return self.versions()
 
253
 
289
254
    def versions(self):
290
255
        """See VersionedFile.versions."""
291
256
        return self._names[:]
292
257
 
293
258
    def has_version(self, version_id):
294
259
        """See VersionedFile.has_version."""
295
 
        return (version_id in self._name_map)
 
260
        return self._name_map.has_key(version_id)
296
261
 
297
262
    __contains__ = has_version
298
263
 
299
 
    def get_record_stream(self, versions, ordering, include_delta_closure):
300
 
        """Get a stream of records for versions.
301
 
 
302
 
        :param versions: The versions to include. Each version is a tuple
303
 
            (version,).
304
 
        :param ordering: Either 'unordered' or 'topological'. A topologically
305
 
            sorted stream has compression parents strictly before their
306
 
            children.
307
 
        :param include_delta_closure: If True then the closure across any
308
 
            compression parents will be included (in the opaque data).
309
 
        :return: An iterator of ContentFactory objects, each of which is only
310
 
            valid until the iterator is advanced.
311
 
        """
312
 
        versions = [version[-1] for version in versions]
313
 
        if ordering == 'topological':
314
 
            parents = self.get_parent_map(versions)
315
 
            new_versions = tsort.topo_sort(parents)
316
 
            new_versions.extend(set(versions).difference(set(parents)))
317
 
            versions = new_versions
318
 
        elif ordering == 'groupcompress':
319
 
            parents = self.get_parent_map(versions)
320
 
            new_versions = sort_groupcompress(parents)
321
 
            new_versions.extend(set(versions).difference(set(parents)))
322
 
            versions = new_versions
323
 
        for version in versions:
324
 
            if version in self:
325
 
                yield WeaveContentFactory(version, self)
326
 
            else:
327
 
                yield AbsentContentFactory((version,))
328
 
 
329
 
    def get_parent_map(self, version_ids):
330
 
        """See VersionedFile.get_parent_map."""
331
 
        result = {}
 
264
    def get_delta(self, version_id):
 
265
        """See VersionedFile.get_delta."""
 
266
        return self.get_deltas([version_id])[version_id]
 
267
 
 
268
    def get_deltas(self, version_ids):
 
269
        """See VersionedFile.get_deltas."""
 
270
        version_ids = self.get_ancestry(version_ids)
332
271
        for version_id in version_ids:
333
 
            if version_id == NULL_REVISION:
334
 
                parents = ()
335
 
            else:
336
 
                try:
337
 
                    parents = tuple(
338
 
                        map(self._idx_to_name,
339
 
                            self._parents[self._lookup(version_id)]))
340
 
                except RevisionNotPresent:
 
272
            if not self.has_version(version_id):
 
273
                raise RevisionNotPresent(version_id, self)
 
274
        # try extracting all versions; parallel extraction is used
 
275
        nv = self.num_versions()
 
276
        sha1s = {}
 
277
        deltas = {}
 
278
        texts = {}
 
279
        inclusions = {}
 
280
        noeols = {}
 
281
        last_parent_lines = {}
 
282
        parents = {}
 
283
        parent_inclusions = {}
 
284
        parent_linenums = {}
 
285
        parent_noeols = {}
 
286
        current_hunks = {}
 
287
        diff_hunks = {}
 
288
        # its simplest to generate a full set of prepared variables.
 
289
        for i in range(nv):
 
290
            name = self._names[i]
 
291
            sha1s[name] = self.get_sha1(name)
 
292
            parents_list = self.get_parents(name)
 
293
            try:
 
294
                parent = parents_list[0]
 
295
                parents[name] = parent
 
296
                parent_inclusions[name] = inclusions[parent]
 
297
            except IndexError:
 
298
                parents[name] = None
 
299
                parent_inclusions[name] = set()
 
300
            # we want to emit start, finish, replacement_length, replacement_lines tuples.
 
301
            diff_hunks[name] = []
 
302
            current_hunks[name] = [0, 0, 0, []] # #start, finish, repl_length, repl_tuples
 
303
            parent_linenums[name] = 0
 
304
            noeols[name] = False
 
305
            parent_noeols[name] = False
 
306
            last_parent_lines[name] = None
 
307
            new_inc = set([name])
 
308
            for p in self._parents[i]:
 
309
                new_inc.update(inclusions[self._idx_to_name(p)])
 
310
            # debug only, known good so far.
 
311
            #assert set(new_inc) == set(self.get_ancestry(name)), \
 
312
            #    'failed %s != %s' % (set(new_inc), set(self.get_ancestry(name)))
 
313
            inclusions[name] = new_inc
 
314
 
 
315
        nlines = len(self._weave)
 
316
 
 
317
        for lineno, inserted, deletes, line in self._walk_internal():
 
318
            # a line is active in a version if:
 
319
            # insert is in the versions inclusions
 
320
            # and
 
321
            # deleteset & the versions inclusions is an empty set.
 
322
            # so - if we have a included by mapping - version is included by
 
323
            # children, we get a list of children to examine for deletes affect
 
324
            # ing them, which is less than the entire set of children.
 
325
            for version_id in version_ids:  
 
326
                # The active inclusion must be an ancestor,
 
327
                # and no ancestors must have deleted this line,
 
328
                # because we don't support resurrection.
 
329
                parent_inclusion = parent_inclusions[version_id]
 
330
                inclusion = inclusions[version_id]
 
331
                parent_active = inserted in parent_inclusion and not (deletes & parent_inclusion)
 
332
                version_active = inserted in inclusion and not (deletes & inclusion)
 
333
                if not parent_active and not version_active:
 
334
                    # unrelated line of ancestry
341
335
                    continue
342
 
            result[version_id] = parents
 
336
                elif parent_active and version_active:
 
337
                    # shared line
 
338
                    parent_linenum = parent_linenums[version_id]
 
339
                    if current_hunks[version_id] != [parent_linenum, parent_linenum, 0, []]:
 
340
                        diff_hunks[version_id].append(tuple(current_hunks[version_id]))
 
341
                    parent_linenum += 1
 
342
                    current_hunks[version_id] = [parent_linenum, parent_linenum, 0, []]
 
343
                    parent_linenums[version_id] = parent_linenum
 
344
                    try:
 
345
                        if line[-1] != '\n':
 
346
                            noeols[version_id] = True
 
347
                    except IndexError:
 
348
                        pass
 
349
                elif parent_active and not version_active:
 
350
                    # deleted line
 
351
                    current_hunks[version_id][1] += 1
 
352
                    parent_linenums[version_id] += 1
 
353
                    last_parent_lines[version_id] = line
 
354
                elif not parent_active and version_active:
 
355
                    # replacement line
 
356
                    # noeol only occurs at the end of a file because we 
 
357
                    # diff linewise. We want to show noeol changes as a
 
358
                    # empty diff unless the actual eol-less content changed.
 
359
                    theline = line
 
360
                    try:
 
361
                        if last_parent_lines[version_id][-1] != '\n':
 
362
                            parent_noeols[version_id] = True
 
363
                    except (TypeError, IndexError):
 
364
                        pass
 
365
                    try:
 
366
                        if theline[-1] != '\n':
 
367
                            noeols[version_id] = True
 
368
                    except IndexError:
 
369
                        pass
 
370
                    new_line = False
 
371
                    parent_should_go = False
 
372
 
 
373
                    if parent_noeols[version_id] == noeols[version_id]:
 
374
                        # no noeol toggle, so trust the weaves statement
 
375
                        # that this line is changed.
 
376
                        new_line = True
 
377
                        if parent_noeols[version_id]:
 
378
                            theline = theline + '\n'
 
379
                    elif parent_noeols[version_id]:
 
380
                        # parent has no eol, we do:
 
381
                        # our line is new, report as such..
 
382
                        new_line = True
 
383
                    elif noeols[version_id]:
 
384
                        # append a eol so that it looks like
 
385
                        # a normalised delta
 
386
                        theline = theline + '\n'
 
387
                        if parents[version_id] is not None:
 
388
                        #if last_parent_lines[version_id] is not None:
 
389
                            parent_should_go = True
 
390
                        if last_parent_lines[version_id] != theline:
 
391
                            # but changed anyway
 
392
                            new_line = True
 
393
                            #parent_should_go = False
 
394
                    if new_line:
 
395
                        current_hunks[version_id][2] += 1
 
396
                        current_hunks[version_id][3].append((inserted, theline))
 
397
                    if parent_should_go:
 
398
                        # last hunk last parent line is not eaten
 
399
                        current_hunks[version_id][1] -= 1
 
400
                    if current_hunks[version_id][1] < 0:
 
401
                        current_hunks[version_id][1] = 0
 
402
                        # import pdb;pdb.set_trace()
 
403
                    # assert current_hunks[version_id][1] >= 0
 
404
 
 
405
        # flush last hunk
 
406
        for i in range(nv):
 
407
            version = self._idx_to_name(i)
 
408
            if current_hunks[version] != [0, 0, 0, []]:
 
409
                diff_hunks[version].append(tuple(current_hunks[version]))
 
410
        result = {}
 
411
        for version_id in version_ids:
 
412
            result[version_id] = (
 
413
                                  parents[version_id],
 
414
                                  sha1s[version_id],
 
415
                                  noeols[version_id],
 
416
                                  diff_hunks[version_id],
 
417
                                  )
343
418
        return result
344
419
 
345
 
    def get_parents_with_ghosts(self, version_id):
346
 
        raise NotImplementedError(self.get_parents_with_ghosts)
347
 
 
348
 
    def insert_record_stream(self, stream):
349
 
        """Insert a record stream into this versioned file.
350
 
 
351
 
        :param stream: A stream of records to insert.
352
 
        :return: None
353
 
        :seealso VersionedFile.get_record_stream:
354
 
        """
355
 
        adapters = {}
356
 
        for record in stream:
357
 
            # Raise an error when a record is missing.
358
 
            if record.storage_kind == 'absent':
359
 
                raise RevisionNotPresent([record.key[0]], self)
360
 
            # adapt to non-tuple interface
361
 
            parents = [parent[0] for parent in record.parents]
362
 
            if (record.storage_kind == 'fulltext'
363
 
                or record.storage_kind == 'chunked'):
364
 
                self.add_lines(record.key[0], parents,
365
 
                    osutils.chunks_to_lines(record.get_bytes_as('chunked')))
366
 
            else:
367
 
                adapter_key = record.storage_kind, 'fulltext'
368
 
                try:
369
 
                    adapter = adapters[adapter_key]
370
 
                except KeyError:
371
 
                    adapter_factory = adapter_registry.get(adapter_key)
372
 
                    adapter = adapter_factory(self)
373
 
                    adapters[adapter_key] = adapter
374
 
                lines = split_lines(adapter.get_bytes(record))
375
 
                try:
376
 
                    self.add_lines(record.key[0], parents, lines)
377
 
                except RevisionAlreadyPresent:
378
 
                    pass
 
420
    def get_parents(self, version_id):
 
421
        """See VersionedFile.get_parent."""
 
422
        return map(self._idx_to_name, self._parents[self._lookup(version_id)])
379
423
 
380
424
    def _check_repeated_add(self, name, parents, text, sha1):
381
425
        """Check that a duplicated add is OK.
388
432
            raise RevisionAlreadyPresent(name, self._weave_name)
389
433
        return idx
390
434
 
391
 
    def _add_lines(self, version_id, parents, lines, parent_texts,
392
 
       left_matching_blocks, nostore_sha, random_id, check_content):
 
435
    @deprecated_method(zero_eight)
 
436
    def add_identical(self, old_rev_id, new_rev_id, parents):
 
437
        """Please use Weave.clone_text now."""
 
438
        return self.clone_text(new_rev_id, old_rev_id, parents)
 
439
 
 
440
    def _add_lines(self, version_id, parents, lines, parent_texts):
393
441
        """See VersionedFile.add_lines."""
394
 
        idx = self._add(version_id, lines, map(self._lookup, parents),
395
 
            nostore_sha=nostore_sha)
396
 
        return sha_strings(lines), sum(map(len, lines)), idx
397
 
 
398
 
    def _add(self, version_id, lines, parents, sha1=None, nostore_sha=None):
 
442
        return self._add(version_id, lines, map(self._lookup, parents))
 
443
 
 
444
    @deprecated_method(zero_eight)
 
445
    def add(self, name, parents, text, sha1=None):
 
446
        """See VersionedFile.add_lines for the non deprecated api."""
 
447
        return self._add(name, text, map(self._maybe_lookup, parents), sha1)
 
448
 
 
449
    def _add(self, version_id, lines, parents, sha1=None):
399
450
        """Add a single text on top of the weave.
400
 
 
 
451
  
401
452
        Returns the index number of the newly added version.
402
453
 
403
454
        version_id
404
455
            Symbolic name for this version.
405
456
            (Typically the revision-id of the revision that added it.)
406
 
            If None, a name will be allocated based on the hash. (sha1:SHAHASH)
407
457
 
408
458
        parents
409
459
            List or set of direct parent version numbers.
410
 
 
 
460
            
411
461
        lines
412
462
            Sequence of lines to be added in the new version.
 
463
        """
413
464
 
414
 
        :param nostore_sha: See VersionedFile.add_lines.
415
 
        """
416
 
        self._check_lines_not_unicode(lines)
417
 
        self._check_lines_are_lines(lines)
 
465
        assert isinstance(version_id, basestring)
418
466
        if not sha1:
419
467
            sha1 = sha_strings(lines)
420
 
        if sha1 == nostore_sha:
421
 
            raise errors.ExistingContent
422
 
        if version_id is None:
423
 
            version_id = "sha1:" + sha1
424
468
        if version_id in self._name_map:
425
469
            return self._check_repeated_add(version_id, parents, lines, sha1)
426
470
 
437
481
        self._names.append(version_id)
438
482
        self._name_map[version_id] = new_version
439
483
 
440
 
 
 
484
            
441
485
        if not parents:
442
486
            # special case; adding with no parents revision; can do
443
487
            # this more quickly by just appending unconditionally.
454
498
            if sha1 == self._sha1s[pv]:
455
499
                # special case: same as the single parent
456
500
                return new_version
457
 
 
 
501
            
458
502
 
459
503
        ancestors = self._inclusions(parents)
460
504
 
470
514
        # another small special case: a merge, producing the same text
471
515
        # as auto-merge
472
516
        if lines == basis_lines:
473
 
            return new_version
 
517
            return new_version            
474
518
 
475
 
        # add a sentinel, because we can also match against the final line
 
519
        # add a sentinal, because we can also match against the final line
476
520
        basis_lineno.append(len(self._weave))
477
521
 
478
522
        # XXX: which line of the weave should we really consider
482
526
        #print 'basis_lines:', basis_lines
483
527
        #print 'new_lines:  ', lines
484
528
 
485
 
        s = self._matcher(None, basis_lines, lines)
 
529
        s = SequenceMatcher(None, basis_lines, lines)
486
530
 
487
531
        # offset gives the number of lines that have been inserted
488
532
        # into the weave up to the current point; if the original edit instruction
495
539
            #print 'raw match', tag, i1, i2, j1, j2
496
540
            if tag == 'equal':
497
541
                continue
 
542
 
498
543
            i1 = basis_lineno[i1]
499
544
            i2 = basis_lineno[i2]
 
545
 
 
546
            assert 0 <= j1 <= j2 <= len(lines)
 
547
 
 
548
            #print tag, i1, i2, j1, j2
 
549
 
500
550
            # the deletion and insertion are handled separately.
501
551
            # first delete the region.
502
552
            if i1 != i2:
509
559
                # i2; we want to insert after this region to make sure
510
560
                # we don't destroy ourselves
511
561
                i = i2 + offset
512
 
                self._weave[i:i] = ([('{', new_version)]
513
 
                                    + lines[j1:j2]
 
562
                self._weave[i:i] = ([('{', new_version)] 
 
563
                                    + lines[j1:j2] 
514
564
                                    + [('}', None)])
515
565
                offset += 2 + (j2 - j1)
516
566
        return new_version
517
567
 
 
568
    def _clone_text(self, new_version_id, old_version_id, parents):
 
569
        """See VersionedFile.clone_text."""
 
570
        old_lines = self.get_text(old_version_id)
 
571
        self.add_lines(new_version_id, parents, old_lines)
 
572
 
518
573
    def _inclusions(self, versions):
519
574
        """Return set of all ancestors of given version(s)."""
520
575
        if not len(versions):
528
583
        ## except IndexError:
529
584
        ##     raise ValueError("version %d not present in weave" % v)
530
585
 
531
 
    def get_ancestry(self, version_ids, topo_sorted=True):
 
586
    @deprecated_method(zero_eight)
 
587
    def inclusions(self, version_ids):
 
588
        """Deprecated - see VersionedFile.get_ancestry for the replacement."""
 
589
        if not version_ids:
 
590
            return []
 
591
        if isinstance(version_ids[0], int):
 
592
            return [self._idx_to_name(v) for v in self._inclusions(version_ids)]
 
593
        else:
 
594
            return self.get_ancestry(version_ids)
 
595
 
 
596
    def get_ancestry(self, version_ids):
532
597
        """See VersionedFile.get_ancestry."""
533
598
        if isinstance(version_ids, basestring):
534
599
            version_ids = [version_ids]
543
608
            if not isinstance(l, basestring):
544
609
                raise ValueError("text line should be a string or unicode, not %s"
545
610
                                 % type(l))
546
 
 
 
611
        
547
612
 
548
613
 
549
614
    def _check_versions(self, indexes):
557
622
    def _compatible_parents(self, my_parents, other_parents):
558
623
        """During join check that other_parents are joinable with my_parents.
559
624
 
560
 
        Joinable is defined as 'is a subset of' - supersets may require
 
625
        Joinable is defined as 'is a subset of' - supersets may require 
561
626
        regeneration of diffs, but subsets do not.
562
627
        """
563
628
        return len(other_parents.difference(my_parents)) == 0
564
629
 
565
630
    def annotate(self, version_id):
566
 
        """Return a list of (version-id, line) tuples for version_id.
 
631
        if isinstance(version_id, int):
 
632
            warn('Weave.annotate(int) is deprecated. Please use version names'
 
633
                 ' in all circumstances as of 0.8',
 
634
                 DeprecationWarning,
 
635
                 stacklevel=2
 
636
                 )
 
637
            result = []
 
638
            for origin, lineno, text in self._extract([version_id]):
 
639
                result.append((origin, text))
 
640
            return result
 
641
        else:
 
642
            return super(Weave, self).annotate(version_id)
 
643
    
 
644
    def annotate_iter(self, version_id):
 
645
        """Yield list of (version-id, line) pairs for the specified version.
567
646
 
568
647
        The index indicates when the line originated in the weave."""
569
648
        incls = [self._lookup(version_id)]
570
 
        return [(self._idx_to_name(origin), text) for origin, lineno, text in
571
 
            self._extract(incls)]
572
 
 
573
 
    def iter_lines_added_or_present_in_versions(self, version_ids=None,
574
 
                                                pb=None):
 
649
        for origin, lineno, text in self._extract(incls):
 
650
            yield self._idx_to_name(origin), text
 
651
 
 
652
    @deprecated_method(zero_eight)
 
653
    def _walk(self):
 
654
        """_walk has become visit, a supported api."""
 
655
        return self._walk_internal()
 
656
 
 
657
    def iter_lines_added_or_present_in_versions(self, version_ids=None):
575
658
        """See VersionedFile.iter_lines_added_or_present_in_versions()."""
576
659
        if version_ids is None:
577
660
            version_ids = self.versions()
578
661
        version_ids = set(version_ids)
579
662
        for lineno, inserted, deletes, line in self._walk_internal(version_ids):
580
 
            if inserted not in version_ids: continue
 
663
            # if inserted not in version_ids then it was inserted before the
 
664
            # versions we care about, but because weaves cannot represent ghosts
 
665
            # properly, we do not filter down to that
 
666
            # if inserted not in version_ids: continue
581
667
            if line[-1] != '\n':
582
 
                yield line + '\n', inserted
 
668
                yield line + '\n'
583
669
            else:
584
 
                yield line, inserted
 
670
                yield line
 
671
 
 
672
    #@deprecated_method(zero_eight)
 
673
    def walk(self, version_ids=None):
 
674
        """See VersionedFile.walk."""
 
675
        return self._walk_internal(version_ids)
585
676
 
586
677
    def _walk_internal(self, version_ids=None):
587
678
        """Helper method for weave actions."""
588
 
 
 
679
        
589
680
        istack = []
590
681
        dset = set()
591
682
 
600
691
                elif c == '}':
601
692
                    istack.pop()
602
693
                elif c == '[':
 
694
                    assert self._names[v] not in dset
603
695
                    dset.add(self._names[v])
604
696
                elif c == ']':
605
697
                    dset.remove(self._names[v])
606
698
                else:
607
699
                    raise WeaveFormatError('unexpected instruction %r' % v)
608
700
            else:
 
701
                assert l.__class__ in (str, unicode)
 
702
                assert istack
609
703
                yield lineno, istack[-1], frozenset(dset), l
610
704
            lineno += 1
611
705
 
628
722
        inc_b = set(self.get_ancestry([ver_b]))
629
723
        inc_c = inc_a & inc_b
630
724
 
631
 
        for lineno, insert, deleteset, line in self._walk_internal([ver_a, ver_b]):
 
725
        for lineno, insert, deleteset, line in\
 
726
            self.walk([ver_a, ver_b]):
632
727
            if deleteset & inc_c:
633
728
                # killed in parent; can't be in either a or b
634
729
                # not relevant to our work
660
755
                # not in either revision
661
756
                yield 'irrelevant', line
662
757
 
 
758
        yield 'unchanged', ''           # terminator
 
759
 
663
760
    def _extract(self, versions):
664
761
        """Yield annotation of lines in included set.
665
762
 
672
769
        for i in versions:
673
770
            if not isinstance(i, int):
674
771
                raise ValueError(i)
675
 
 
 
772
            
676
773
        included = self._inclusions(versions)
677
774
 
678
775
        istack = []
687
784
 
688
785
        WFE = WeaveFormatError
689
786
 
690
 
        # wow.
 
787
        # wow. 
691
788
        #  449       0   4474.6820   2356.5590   bzrlib.weave:556(_extract)
692
789
        #  +285282   0   1676.8040   1676.8040   +<isinstance>
693
790
        # 1.6 seconds in 'isinstance'.
699
796
        # we're still spending ~1/4 of the method in isinstance though.
700
797
        # so lets hard code the acceptable string classes we expect:
701
798
        #  449       0   1202.9420    786.2930   bzrlib.weave:556(_extract)
702
 
        # +71352     0    377.5560    377.5560   +<method 'append' of 'list'
 
799
        # +71352     0    377.5560    377.5560   +<method 'append' of 'list' 
703
800
        #                                          objects>
704
801
        # yay, down to ~1/4 the initial extract time, and our inline time
705
802
        # has shrunk again, with isinstance no longer dominating.
706
803
        # tweaking the stack inclusion test to use a set gives:
707
804
        #  449       0   1122.8030    713.0080   bzrlib.weave:556(_extract)
708
 
        # +71352     0    354.9980    354.9980   +<method 'append' of 'list'
 
805
        # +71352     0    354.9980    354.9980   +<method 'append' of 'list' 
709
806
        #                                          objects>
710
807
        # - a 5% win, or possibly just noise. However with large istacks that
711
808
        # 'in' test could dominate, so I'm leaving this change in place -
712
809
        # when its fast enough to consider profiling big datasets we can review.
713
810
 
714
 
 
715
 
 
 
811
              
 
812
             
716
813
 
717
814
        for l in self._weave:
718
815
            if l.__class__ == tuple:
719
816
                c, v = l
720
817
                isactive = None
721
818
                if c == '{':
 
819
                    assert v not in iset
722
820
                    istack.append(v)
723
821
                    iset.add(v)
724
822
                elif c == '}':
725
823
                    iset.remove(istack.pop())
726
824
                elif c == '[':
727
825
                    if v in included:
 
826
                        assert v not in dset
728
827
                        dset.add(v)
729
 
                elif c == ']':
 
828
                else:
 
829
                    assert c == ']'
730
830
                    if v in included:
 
831
                        assert v in dset
731
832
                        dset.remove(v)
732
 
                else:
733
 
                    raise AssertionError()
734
833
            else:
 
834
                assert l.__class__ in (str, unicode)
735
835
                if isactive is None:
736
836
                    isactive = (not dset) and istack and (istack[-1] in included)
737
837
                if isactive:
745
845
                                   % dset)
746
846
        return result
747
847
 
 
848
    @deprecated_method(zero_eight)
 
849
    def get_iter(self, name_or_index):
 
850
        """Deprecated, please do not use. Lookups are not not needed.
 
851
        
 
852
        Please use get_lines now.
 
853
        """
 
854
        return iter(self.get_lines(self._maybe_lookup(name_or_index)))
 
855
 
 
856
    @deprecated_method(zero_eight)
 
857
    def maybe_lookup(self, name_or_index):
 
858
        """Deprecated, please do not use. Lookups are not not needed."""
 
859
        return self._maybe_lookup(name_or_index)
 
860
 
748
861
    def _maybe_lookup(self, name_or_index):
749
862
        """Convert possible symbolic name to index, or pass through indexes.
750
 
 
 
863
        
751
864
        NOT FOR PUBLIC USE.
752
865
        """
753
866
        if isinstance(name_or_index, (int, long)):
755
868
        else:
756
869
            return self._lookup(name_or_index)
757
870
 
 
871
    @deprecated_method(zero_eight)
 
872
    def get(self, version_id):
 
873
        """Please use either Weave.get_text or Weave.get_lines as desired."""
 
874
        return self.get_lines(version_id)
 
875
 
758
876
    def get_lines(self, version_id):
759
877
        """See VersionedFile.get_lines()."""
760
878
        int_index = self._maybe_lookup(version_id)
763
881
        measured_sha1 = sha_strings(result)
764
882
        if measured_sha1 != expected_sha1:
765
883
            raise errors.WeaveInvalidChecksum(
766
 
                    'file %s, revision %s, expected: %s, measured %s'
 
884
                    'file %s, revision %s, expected: %s, measured %s' 
767
885
                    % (self._weave_name, version_id,
768
886
                       expected_sha1, measured_sha1))
769
887
        return result
770
888
 
771
 
    def get_sha1s(self, version_ids):
772
 
        """See VersionedFile.get_sha1s()."""
773
 
        result = {}
774
 
        for v in version_ids:
775
 
            result[v] = self._sha1s[self._lookup(v)]
776
 
        return result
 
889
    def get_sha1(self, name):
 
890
        """Get the stored sha1 sum for the given revision.
 
891
        
 
892
        :param name: The name of the version to lookup
 
893
        """
 
894
        return self._sha1s[self._lookup(name)]
 
895
 
 
896
    @deprecated_method(zero_eight)
 
897
    def numversions(self):
 
898
        """How many versions are in this weave?
 
899
 
 
900
        Deprecated in favour of num_versions.
 
901
        """
 
902
        return self.num_versions()
777
903
 
778
904
    def num_versions(self):
779
905
        """How many versions are in this weave?"""
780
906
        l = len(self._parents)
 
907
        assert l == len(self._sha1s)
781
908
        return l
782
909
 
783
910
    __len__ = num_versions
803
930
            # For creating the ancestry, IntSet is much faster (3.7s vs 0.17s)
804
931
            # The problem is that set membership is much more expensive
805
932
            name = self._idx_to_name(i)
806
 
            sha1s[name] = sha()
 
933
            sha1s[name] = sha.new()
807
934
            texts[name] = []
808
935
            new_inc = set([name])
809
936
            for p in self._parents[i]:
810
937
                new_inc.update(inclusions[self._idx_to_name(p)])
811
938
 
812
 
            if set(new_inc) != set(self.get_ancestry(name)):
813
 
                raise AssertionError(
814
 
                    'failed %s != %s'
815
 
                    % (set(new_inc), set(self.get_ancestry(name))))
 
939
            assert set(new_inc) == set(self.get_ancestry(name)), \
 
940
                'failed %s != %s' % (set(new_inc), set(self.get_ancestry(name)))
816
941
            inclusions[name] = new_inc
817
942
 
818
943
        nlines = len(self._weave)
848
973
        # no lines outside of insertion blocks, that deletions are
849
974
        # properly paired, etc.
850
975
 
 
976
    def _join(self, other, pb, msg, version_ids, ignore_missing):
 
977
        """Worker routine for join()."""
 
978
        if not other.versions():
 
979
            return          # nothing to update, easy
 
980
 
 
981
        if version_ids:
 
982
            for version_id in version_ids:
 
983
                if not other.has_version(version_id) and not ignore_missing:
 
984
                    raise RevisionNotPresent(version_id, self._weave_name)
 
985
        else:
 
986
            version_ids = other.versions()
 
987
 
 
988
        # two loops so that we do not change ourselves before verifying it
 
989
        # will be ok
 
990
        # work through in index order to make sure we get all dependencies
 
991
        names_to_join = []
 
992
        processed = 0
 
993
        # get the selected versions only that are in other.versions.
 
994
        version_ids = set(other.versions()).intersection(set(version_ids))
 
995
        # pull in the referenced graph.
 
996
        version_ids = other.get_ancestry(version_ids)
 
997
        pending_graph = [(version, other.get_parents(version)) for
 
998
                         version in version_ids]
 
999
        for name in topo_sort(pending_graph):
 
1000
            other_idx = other._name_map[name]
 
1001
            # returns True if we have it, False if we need it.
 
1002
            if not self._check_version_consistent(other, other_idx, name):
 
1003
                names_to_join.append((other_idx, name))
 
1004
            processed += 1
 
1005
 
 
1006
 
 
1007
        if pb and not msg:
 
1008
            msg = 'weave join'
 
1009
 
 
1010
        merged = 0
 
1011
        time0 = time.time()
 
1012
        for other_idx, name in names_to_join:
 
1013
            # TODO: If all the parents of the other version are already
 
1014
            # present then we can avoid some work by just taking the delta
 
1015
            # and adjusting the offsets.
 
1016
            new_parents = self._imported_parents(other, other_idx)
 
1017
            sha1 = other._sha1s[other_idx]
 
1018
 
 
1019
            merged += 1
 
1020
 
 
1021
            if pb:
 
1022
                pb.update(msg, merged, len(names_to_join))
 
1023
           
 
1024
            lines = other.get_lines(other_idx)
 
1025
            self._add(name, lines, new_parents, sha1)
 
1026
 
 
1027
        mutter("merged = %d, processed = %d, file_id=%s; deltat=%d"%(
 
1028
                merged, processed, self._weave_name, time.time()-time0))
 
1029
 
851
1030
    def _imported_parents(self, other, other_idx):
852
1031
        """Return list of parents in self corresponding to indexes in other."""
853
1032
        new_parents = []
855
1034
            parent_name = other._names[parent_idx]
856
1035
            if parent_name not in self._name_map:
857
1036
                # should not be possible
858
 
                raise WeaveError("missing parent {%s} of {%s} in %r"
 
1037
                raise WeaveError("missing parent {%s} of {%s} in %r" 
859
1038
                                 % (parent_name, other._name_map[other_idx], self))
860
1039
            new_parents.append(self._name_map[parent_name])
861
1040
        return new_parents
868
1047
         * the same text
869
1048
         * the same direct parents (by name, not index, and disregarding
870
1049
           order)
871
 
 
 
1050
        
872
1051
        If present & correct return True;
873
 
        if not present in self return False;
 
1052
        if not present in self return False; 
874
1053
        if inconsistent raise error."""
875
1054
        this_idx = self._name_map.get(name, -1)
876
1055
        if this_idx != -1:
888
1067
        else:
889
1068
            return False
890
1069
 
 
1070
    @deprecated_method(zero_eight)
 
1071
    def reweave(self, other, pb=None, msg=None):
 
1072
        """reweave has been superceded by plain use of join."""
 
1073
        return self.join(other, pb, msg)
 
1074
 
891
1075
    def _reweave(self, other, pb, msg):
892
1076
        """Reweave self with other - internal helper for join().
893
1077
 
909
1093
    """A WeaveFile represents a Weave on disk and writes on change."""
910
1094
 
911
1095
    WEAVE_SUFFIX = '.weave'
912
 
 
913
 
    def __init__(self, name, transport, filemode=None, create=False, access_mode='w', get_scope=None):
 
1096
    
 
1097
    def __init__(self, name, transport, filemode=None, create=False, access_mode='w'):
914
1098
        """Create a WeaveFile.
915
 
 
 
1099
        
916
1100
        :param create: If not True, only open an existing knit.
917
1101
        """
918
 
        super(WeaveFile, self).__init__(name, access_mode, get_scope=get_scope,
919
 
            allow_reserved=False)
 
1102
        super(WeaveFile, self).__init__(name, access_mode)
920
1103
        self._transport = transport
921
1104
        self._filemode = filemode
922
1105
        try:
927
1110
            # new file, save it
928
1111
            self._save()
929
1112
 
930
 
    def _add_lines(self, version_id, parents, lines, parent_texts,
931
 
        left_matching_blocks, nostore_sha, random_id, check_content):
 
1113
    def _add_lines(self, version_id, parents, lines, parent_texts):
932
1114
        """Add a version and save the weave."""
933
 
        self.check_not_reserved_id(version_id)
934
1115
        result = super(WeaveFile, self)._add_lines(version_id, parents, lines,
935
 
            parent_texts, left_matching_blocks, nostore_sha, random_id,
936
 
            check_content)
 
1116
                                                   parent_texts)
937
1117
        self._save()
938
1118
        return result
939
1119
 
 
1120
    def _clone_text(self, new_version_id, old_version_id, parents):
 
1121
        """See VersionedFile.clone_text."""
 
1122
        super(WeaveFile, self)._clone_text(new_version_id, old_version_id, parents)
 
1123
        self._save
 
1124
 
940
1125
    def copy_to(self, name, transport):
941
1126
        """See VersionedFile.copy_to()."""
942
1127
        # as we are all in memory always, just serialise to the new place.
943
1128
        sio = StringIO()
944
1129
        write_weave_v5(self, sio)
945
1130
        sio.seek(0)
946
 
        transport.put_file(name + WeaveFile.WEAVE_SUFFIX, sio, self._filemode)
 
1131
        transport.put(name + WeaveFile.WEAVE_SUFFIX, sio, self._filemode)
 
1132
 
 
1133
    def create_empty(self, name, transport, filemode=None):
 
1134
        return WeaveFile(name, transport, filemode, create=True)
947
1135
 
948
1136
    def _save(self):
949
1137
        """Save the weave."""
951
1139
        sio = StringIO()
952
1140
        write_weave_v5(self, sio)
953
1141
        sio.seek(0)
954
 
        bytes = sio.getvalue()
955
 
        path = self._weave_name + WeaveFile.WEAVE_SUFFIX
956
 
        try:
957
 
            self._transport.put_bytes(path, bytes, self._filemode)
958
 
        except errors.NoSuchFile:
959
 
            self._transport.mkdir(dirname(path))
960
 
            self._transport.put_bytes(path, bytes, self._filemode)
 
1142
        self._transport.put(self._weave_name + WeaveFile.WEAVE_SUFFIX,
 
1143
                            sio,
 
1144
                            self._filemode)
961
1145
 
962
1146
    @staticmethod
963
1147
    def get_suffixes():
964
1148
        """See VersionedFile.get_suffixes()."""
965
1149
        return [WeaveFile.WEAVE_SUFFIX]
966
1150
 
967
 
    def insert_record_stream(self, stream):
968
 
        super(WeaveFile, self).insert_record_stream(stream)
 
1151
    def join(self, other, pb=None, msg=None, version_ids=None,
 
1152
             ignore_missing=False):
 
1153
        """Join other into self and save."""
 
1154
        super(WeaveFile, self).join(other, pb, msg, version_ids, ignore_missing)
969
1155
        self._save()
970
1156
 
971
1157
 
 
1158
@deprecated_function(zero_eight)
 
1159
def reweave(wa, wb, pb=None, msg=None):
 
1160
    """reweaving is deprecation, please just use weave.join()."""
 
1161
    _reweave(wa, wb, pb, msg)
 
1162
 
972
1163
def _reweave(wa, wb, pb=None, msg=None):
973
1164
    """Combine two weaves and return the result.
974
1165
 
975
 
    This works even if a revision R has different parents in
 
1166
    This works even if a revision R has different parents in 
976
1167
    wa and wb.  In the resulting weave all the parents are given.
977
1168
 
978
 
    This is done by just building up a new weave, maintaining ordering
 
1169
    This is done by just building up a new weave, maintaining ordering 
979
1170
    of the versions in the two inputs.  More efficient approaches
980
 
    might be possible but it should only be necessary to do
981
 
    this operation rarely, when a new previously ghost version is
 
1171
    might be possible but it should only be necessary to do 
 
1172
    this operation rarely, when a new previously ghost version is 
982
1173
    inserted.
983
1174
 
984
1175
    :param pb: An optional progress bar, indicating how far done we are
992
1183
    # map from version name -> all parent names
993
1184
    combined_parents = _reweave_parent_graphs(wa, wb)
994
1185
    mutter("combined parents: %r", combined_parents)
995
 
    order = tsort.topo_sort(combined_parents.iteritems())
 
1186
    order = topo_sort(combined_parents.iteritems())
996
1187
    mutter("order to reweave: %r", order)
997
1188
 
998
1189
    if pb and not msg:
1018
1209
        wr._add(name, lines, [wr._lookup(i) for i in combined_parents[name]])
1019
1210
    return wr
1020
1211
 
1021
 
 
1022
1212
def _reweave_parent_graphs(wa, wb):
1023
1213
    """Return combined parent ancestry for two weaves.
1024
 
 
 
1214
    
1025
1215
    Returned as a list of (version_name, set(parent_names))"""
1026
1216
    combined = {}
1027
1217
    for weave in [wa, wb]:
1029
1219
            p = combined.setdefault(name, set())
1030
1220
            p.update(map(weave._idx_to_name, weave._parents[idx]))
1031
1221
    return combined
 
1222
 
 
1223
 
 
1224
def weave_toc(w):
 
1225
    """Show the weave's table-of-contents"""
 
1226
    print '%6s %50s %10s %10s' % ('ver', 'name', 'sha1', 'parents')
 
1227
    for i in (6, 50, 10, 10):
 
1228
        print '-' * i,
 
1229
    print
 
1230
    for i in range(w.num_versions()):
 
1231
        sha1 = w._sha1s[i]
 
1232
        name = w._names[i]
 
1233
        parent_str = ' '.join(map(str, w._parents[i]))
 
1234
        print '%6d %-50.50s %10.10s %s' % (i, name, sha1, parent_str)
 
1235
 
 
1236
 
 
1237
 
 
1238
def weave_stats(weave_file, pb):
 
1239
    from bzrlib.weavefile import read_weave
 
1240
 
 
1241
    wf = file(weave_file, 'rb')
 
1242
    w = read_weave(wf, WeaveVersionedFile)
 
1243
    # FIXME: doesn't work on pipes
 
1244
    weave_size = wf.tell()
 
1245
 
 
1246
    total = 0
 
1247
    vers = len(w)
 
1248
    for i in range(vers):
 
1249
        pb.update('checking sizes', i, vers)
 
1250
        for origin, lineno, line in w._extract([i]):
 
1251
            total += len(line)
 
1252
 
 
1253
    pb.clear()
 
1254
 
 
1255
    print 'versions          %9d' % vers
 
1256
    print 'weave file        %9d bytes' % weave_size
 
1257
    print 'total contents    %9d bytes' % total
 
1258
    print 'compression ratio %9.2fx' % (float(total) / float(weave_size))
 
1259
    if vers:
 
1260
        avg = total/vers
 
1261
        print 'average size      %9d bytes' % avg
 
1262
        print 'relative size     %9.2fx' % (float(weave_size) / float(avg))
 
1263
 
 
1264
 
 
1265
def usage():
 
1266
    print """bzr weave tool
 
1267
 
 
1268
Experimental tool for weave algorithm.
 
1269
 
 
1270
usage:
 
1271
    weave init WEAVEFILE
 
1272
        Create an empty weave file
 
1273
    weave get WEAVEFILE VERSION
 
1274
        Write out specified version.
 
1275
    weave check WEAVEFILE
 
1276
        Check consistency of all versions.
 
1277
    weave toc WEAVEFILE
 
1278
        Display table of contents.
 
1279
    weave add WEAVEFILE NAME [BASE...] < NEWTEXT
 
1280
        Add NEWTEXT, with specified parent versions.
 
1281
    weave annotate WEAVEFILE VERSION
 
1282
        Display origin of each line.
 
1283
    weave merge WEAVEFILE VERSION1 VERSION2 > OUT
 
1284
        Auto-merge two versions and display conflicts.
 
1285
    weave diff WEAVEFILE VERSION1 VERSION2 
 
1286
        Show differences between two versions.
 
1287
 
 
1288
example:
 
1289
 
 
1290
    % weave init foo.weave
 
1291
    % vi foo.txt
 
1292
    % weave add foo.weave ver0 < foo.txt
 
1293
    added version 0
 
1294
 
 
1295
    (create updated version)
 
1296
    % vi foo.txt
 
1297
    % weave get foo.weave 0 | diff -u - foo.txt
 
1298
    % weave add foo.weave ver1 0 < foo.txt
 
1299
    added version 1
 
1300
 
 
1301
    % weave get foo.weave 0 > foo.txt       (create forked version)
 
1302
    % vi foo.txt
 
1303
    % weave add foo.weave ver2 0 < foo.txt
 
1304
    added version 2
 
1305
 
 
1306
    % weave merge foo.weave 1 2 > foo.txt   (merge them)
 
1307
    % vi foo.txt                            (resolve conflicts)
 
1308
    % weave add foo.weave merged 1 2 < foo.txt     (commit merged version)     
 
1309
    
 
1310
"""
 
1311
    
 
1312
 
 
1313
 
 
1314
def main(argv):
 
1315
    import sys
 
1316
    import os
 
1317
    try:
 
1318
        import bzrlib
 
1319
    except ImportError:
 
1320
        # in case we're run directly from the subdirectory
 
1321
        sys.path.append('..')
 
1322
        import bzrlib
 
1323
    from bzrlib.weavefile import write_weave, read_weave
 
1324
    from bzrlib.progress import ProgressBar
 
1325
 
 
1326
    try:
 
1327
        import psyco
 
1328
        psyco.full()
 
1329
    except ImportError:
 
1330
        pass
 
1331
 
 
1332
    if len(argv) < 2:
 
1333
        usage()
 
1334
        return 0
 
1335
 
 
1336
    cmd = argv[1]
 
1337
 
 
1338
    def readit():
 
1339
        return read_weave(file(argv[2], 'rb'))
 
1340
    
 
1341
    if cmd == 'help':
 
1342
        usage()
 
1343
    elif cmd == 'add':
 
1344
        w = readit()
 
1345
        # at the moment, based on everything in the file
 
1346
        name = argv[3]
 
1347
        parents = map(int, argv[4:])
 
1348
        lines = sys.stdin.readlines()
 
1349
        ver = w.add(name, parents, lines)
 
1350
        write_weave(w, file(argv[2], 'wb'))
 
1351
        print 'added version %r %d' % (name, ver)
 
1352
    elif cmd == 'init':
 
1353
        fn = argv[2]
 
1354
        if os.path.exists(fn):
 
1355
            raise IOError("file exists")
 
1356
        w = Weave()
 
1357
        write_weave(w, file(fn, 'wb'))
 
1358
    elif cmd == 'get': # get one version
 
1359
        w = readit()
 
1360
        sys.stdout.writelines(w.get_iter(int(argv[3])))
 
1361
        
 
1362
    elif cmd == 'diff':
 
1363
        from difflib import unified_diff
 
1364
        w = readit()
 
1365
        fn = argv[2]
 
1366
        v1, v2 = map(int, argv[3:5])
 
1367
        lines1 = w.get(v1)
 
1368
        lines2 = w.get(v2)
 
1369
        diff_gen = unified_diff(lines1, lines2,
 
1370
                                '%s version %d' % (fn, v1),
 
1371
                                '%s version %d' % (fn, v2))
 
1372
        sys.stdout.writelines(diff_gen)
 
1373
            
 
1374
    elif cmd == 'annotate':
 
1375
        w = readit()
 
1376
        # newline is added to all lines regardless; too hard to get
 
1377
        # reasonable formatting otherwise
 
1378
        lasto = None
 
1379
        for origin, text in w.annotate(int(argv[3])):
 
1380
            text = text.rstrip('\r\n')
 
1381
            if origin == lasto:
 
1382
                print '      | %s' % (text)
 
1383
            else:
 
1384
                print '%5d | %s' % (origin, text)
 
1385
                lasto = origin
 
1386
                
 
1387
    elif cmd == 'toc':
 
1388
        weave_toc(readit())
 
1389
 
 
1390
    elif cmd == 'stats':
 
1391
        weave_stats(argv[2], ProgressBar())
 
1392
        
 
1393
    elif cmd == 'check':
 
1394
        w = readit()
 
1395
        pb = ProgressBar()
 
1396
        w.check(pb)
 
1397
        pb.clear()
 
1398
        print '%d versions ok' % w.num_versions()
 
1399
 
 
1400
    elif cmd == 'inclusions':
 
1401
        w = readit()
 
1402
        print ' '.join(map(str, w.inclusions([int(argv[3])])))
 
1403
 
 
1404
    elif cmd == 'parents':
 
1405
        w = readit()
 
1406
        print ' '.join(map(str, w._parents[int(argv[3])]))
 
1407
 
 
1408
    elif cmd == 'plan-merge':
 
1409
        # replaced by 'bzr weave-plan-merge'
 
1410
        w = readit()
 
1411
        for state, line in w.plan_merge(int(argv[3]), int(argv[4])):
 
1412
            if line:
 
1413
                print '%14s | %s' % (state, line),
 
1414
    elif cmd == 'merge':
 
1415
        # replaced by 'bzr weave-merge-text'
 
1416
        w = readit()
 
1417
        p = w.plan_merge(int(argv[3]), int(argv[4]))
 
1418
        sys.stdout.writelines(w.weave_merge(p))
 
1419
    else:
 
1420
        raise ValueError('unknown command %r' % cmd)
 
1421
    
 
1422
 
 
1423
 
 
1424
def profile_main(argv):
 
1425
    import tempfile, hotshot, hotshot.stats
 
1426
 
 
1427
    prof_f = tempfile.NamedTemporaryFile()
 
1428
 
 
1429
    prof = hotshot.Profile(prof_f.name)
 
1430
 
 
1431
    ret = prof.runcall(main, argv)
 
1432
    prof.close()
 
1433
 
 
1434
    stats = hotshot.stats.load(prof_f.name)
 
1435
    #stats.strip_dirs()
 
1436
    stats.sort_stats('cumulative')
 
1437
    ## XXX: Might like to write to stderr or the trace file instead but
 
1438
    ## print_stats seems hardcoded to stdout
 
1439
    stats.print_stats(20)
 
1440
            
 
1441
    return ret
 
1442
 
 
1443
 
 
1444
def lsprofile_main(argv): 
 
1445
    from bzrlib.lsprof import profile
 
1446
    ret,stats = profile(main, argv)
 
1447
    stats.sort()
 
1448
    stats.pprint()
 
1449
    return ret
 
1450
 
 
1451
 
 
1452
if __name__ == '__main__':
 
1453
    import sys
 
1454
    if '--profile' in sys.argv:
 
1455
        args = sys.argv[:]
 
1456
        args.remove('--profile')
 
1457
        sys.exit(profile_main(args))
 
1458
    elif '--lsprof' in sys.argv:
 
1459
        args = sys.argv[:]
 
1460
        args.remove('--lsprof')
 
1461
        sys.exit(lsprofile_main(args))
 
1462
    else:
 
1463
        sys.exit(main(sys.argv))
 
1464
 
 
1465
 
 
1466
class InterWeave(InterVersionedFile):
 
1467
    """Optimised code paths for weave to weave operations."""
 
1468
    
 
1469
    _matching_file_factory = staticmethod(WeaveFile)
 
1470
    
 
1471
    @staticmethod
 
1472
    def is_compatible(source, target):
 
1473
        """Be compatible with weaves."""
 
1474
        try:
 
1475
            return (isinstance(source, Weave) and
 
1476
                    isinstance(target, Weave))
 
1477
        except AttributeError:
 
1478
            return False
 
1479
 
 
1480
    def join(self, pb=None, msg=None, version_ids=None, ignore_missing=False):
 
1481
        """See InterVersionedFile.join."""
 
1482
        if self.target.versions() == []:
 
1483
            # optimised copy
 
1484
            self.target._copy_weave_content(self.source)
 
1485
            return
 
1486
        try:
 
1487
            self.target._join(self.source, pb, msg, version_ids, ignore_missing)
 
1488
        except errors.WeaveParentMismatch:
 
1489
            self.target._reweave(self.source, pb, msg)
 
1490
 
 
1491
 
 
1492
InterVersionedFile.register_optimiser(InterWeave)