/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to tools/history2weaves.py

  • Committer: Martin Pool
  • Date: 2005-09-16 09:56:24 UTC
  • Revision ID: mbp@sourcefrog.net-20050916095623-ca0dff452934f21f
- make progress bar more tolerant of out-of-range values

Show diffs side-by-side

added added

removed removed

Lines of Context:
tools/history2weaves.py
1
 
# Copyright (C) 2005, 2006, 2008, 2009, 2010 Canonical Ltd
 
1
#! /usr/bin/python
 
2
#
 
3
# Copyright (C) 2005 Canonical Ltd
2
4
#
3
5
# This program is free software; you can redistribute it and/or modify
4
6
# it under the terms of the GNU General Public License as published by
12
14
#
13
15
# You should have received a copy of the GNU General Public License
14
16
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
 
 
17
 
"""bzr upgrade logic."""
18
 
 
19
 
 
20
 
from bzrlib.bzrdir import BzrDir, format_registry
21
 
import bzrlib.errors as errors
22
 
from bzrlib.remote import RemoteBzrDir
23
 
import bzrlib.ui as ui
 
17
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
18
 
 
19
"""Experiment in converting existing bzr branches to weaves."""
 
20
 
 
21
# To make this properly useful
 
22
#
 
23
# 1. assign text version ids, and put those text versions into
 
24
#    the inventory as they're converted.
 
25
#
 
26
# 2. keep track of the previous version of each file, rather than
 
27
#    just using the last one imported
 
28
#
 
29
# 3. assign entry versions when files are added, renamed or moved.
 
30
#
 
31
# 4. when merged-in versions are observed, walk down through them
 
32
#    to discover everything, then commit bottom-up
 
33
#
 
34
# 5. track ancestry as things are merged in, and commit that in each
 
35
#    revision
 
36
#
 
37
# Perhaps it's best to first walk the whole graph and make a plan for
 
38
# what should be imported in what order?  Need a kind of topological
 
39
# sort of all revisions.  (Or do we, can we just before doing a revision
 
40
# see that all its parents have either been converted or abandoned?)
 
41
 
 
42
if False:
 
43
    try:
 
44
        import psyco
 
45
        psyco.full()
 
46
    except ImportError:
 
47
        pass
 
48
 
 
49
 
 
50
import tempfile
 
51
import hotshot, hotshot.stats
 
52
import sys
 
53
import logging
 
54
import time
 
55
 
 
56
from bzrlib.branch import Branch, find_branch
 
57
from bzrlib.revfile import Revfile
 
58
from bzrlib.weave import Weave
 
59
from bzrlib.weavefile import read_weave, write_weave
 
60
from bzrlib.progress import ProgressBar
 
61
from bzrlib.atomicfile import AtomicFile
 
62
from bzrlib.xml4 import serializer_v4
 
63
from bzrlib.xml5 import serializer_v5
 
64
from bzrlib.trace import mutter, note, warning, enable_default_logging
 
65
 
24
66
 
25
67
 
26
68
class Convert(object):
27
 
 
28
 
    def __init__(self, url, format=None):
29
 
        self.format = format
30
 
        self.bzrdir = BzrDir.open_unsupported(url)
31
 
        # XXX: Change to cleanup
32
 
        warning_id = 'cross_format_fetch'
33
 
        saved_warning = warning_id in ui.ui_factory.suppressed_warnings
34
 
        if isinstance(self.bzrdir, RemoteBzrDir):
35
 
            self.bzrdir._ensure_real()
36
 
            self.bzrdir = self.bzrdir._real_bzrdir
37
 
        if self.bzrdir.root_transport.is_readonly():
38
 
            raise errors.UpgradeReadonly
39
 
        self.transport = self.bzrdir.root_transport
40
 
        ui.ui_factory.suppressed_warnings.add(warning_id)
41
 
        try:
42
 
            self.convert()
43
 
        finally:
44
 
            if not saved_warning:
45
 
                ui.ui_factory.suppressed_warnings.remove(warning_id)
 
69
    def __init__(self):
 
70
        self.total_revs = 0
 
71
        self.converted_revs = set()
 
72
        self.absent_revisions = set()
 
73
        self.text_count = 0
 
74
        self.convert()
 
75
 
 
76
 
46
77
 
47
78
    def convert(self):
48
 
        try:
49
 
            branch = self.bzrdir.open_branch()
50
 
            if branch.user_url != self.bzrdir.user_url:
51
 
                ui.ui_factory.note("This is a checkout. The branch (%s) needs to be "
52
 
                             "upgraded separately." %
53
 
                             branch.user_url)
54
 
            del branch
55
 
        except (errors.NotBranchError, errors.IncompatibleRepositories):
56
 
            # might not be a format we can open without upgrading; see e.g.
57
 
            # https://bugs.launchpad.net/bzr/+bug/253891
58
 
            pass
59
 
        if self.format is None:
60
 
            try:
61
 
                rich_root = self.bzrdir.find_repository()._format.rich_root_data
62
 
            except errors.NoRepositoryPresent:
63
 
                rich_root = False # assume no rich roots
64
 
            if rich_root:
65
 
                format_name = "default-rich-root"
 
79
        enable_default_logging()
 
80
        self.pb = ProgressBar()
 
81
        self.inv_weave = Weave('__inventory')
 
82
        self.anc_weave = Weave('__ancestry')
 
83
 
 
84
        last_text_sha = {}
 
85
 
 
86
        # holds in-memory weaves for all files
 
87
        text_weaves = {}
 
88
 
 
89
        b = self.branch = Branch('.', relax_version_check=True)
 
90
 
 
91
        revno = 1
 
92
        rev_history = b.revision_history()
 
93
        last_idx = None
 
94
        inv_parents = []
 
95
 
 
96
        # todo is a stack holding the revisions we still need to process;
 
97
        # appending to it adds new highest-priority revisions
 
98
        self.todo = rev_history[:]
 
99
        self.todo.reverse()
 
100
        self.total_revs = len(self.todo)
 
101
 
 
102
        while self.todo:
 
103
            self._convert_one_rev(self.todo.pop())
 
104
 
 
105
        self.pb.clear()
 
106
        print 'upgraded to weaves:'
 
107
        print '  %6d revisions and inventories' % len(self.converted_revs)
 
108
        print '  %6d absent revisions removed' % len(self.absent_revisions)
 
109
        print '  %6d texts' % self.text_count
 
110
 
 
111
        self._write_all_weaves()
 
112
 
 
113
 
 
114
    def _write_all_weaves(self):
 
115
        i = 0
 
116
        return ############################################
 
117
        # TODO: commit them all atomically at the end, not one by one
 
118
        write_atomic_weave(self.inv_weave, 'weaves/inventory.weave')
 
119
        write_atomic_weave(self.anc_weave, 'weaves/ancestry.weave')
 
120
        for file_id, file_weave in text_weaves.items():
 
121
            self.pb.update('writing weave', i, len(text_weaves))
 
122
            write_atomic_weave(file_weave, 'weaves/%s.weave' % file_id)
 
123
            i += 1
 
124
 
 
125
        self.pb.clear()
 
126
 
 
127
        
 
128
    def _convert_one_rev(self, rev_id):
 
129
        self._bump_progress()
 
130
        b = self.branch
 
131
 
 
132
        if rev_id not in b.revision_store:
 
133
            self.pb.clear()
 
134
            note('revision {%s} not present in branch; '
 
135
                 'will not be converted',
 
136
                 rev_id)
 
137
            self.absent_revisions.add(rev_id)
 
138
            return
 
139
        
 
140
        rev_xml = b.revision_store[rev_id].read()
 
141
        inv_xml = b.inventory_store[rev_id].read()
 
142
 
 
143
        rev = serializer_v4.read_revision_from_string(rev_xml)
 
144
        inv = serializer_v4.read_inventory_from_string(inv_xml)
 
145
 
 
146
        # see if parents need to be done first
 
147
        for parent_id in [x.revision_id for x in rev.parents]:
 
148
            if parent_id not in self.converted_revs:
 
149
                self.todo.append(parent_id)
 
150
 
 
151
        self.converted_revs.add(rev_id)
 
152
        
 
153
        return ##########################################
 
154
 
 
155
        new_idx = self.inv_weave.add(rev_id, inv_parents, inv_xml)
 
156
        inv_parents = [new_idx]
 
157
 
 
158
        tree = b.revision_tree(rev_id)
 
159
        inv = tree.inventory
 
160
 
 
161
        # for each file in the inventory, put it into its own revfile
 
162
        for file_id in inv:
 
163
            ie = inv[file_id]
 
164
            if ie.kind != 'file':
 
165
                continue
 
166
            if last_text_sha.get(file_id) == ie.text_sha1:
 
167
                # same as last time
 
168
                continue
 
169
            last_text_sha[file_id] = ie.text_sha1
 
170
 
 
171
            # new text (though possibly already stored); need to store it
 
172
            text_lines = tree.get_file(file_id).readlines()
 
173
 
 
174
            # if the file's created for the first time in this
 
175
            # revision then make a new weave; else find the old one
 
176
            if file_id not in text_weaves:
 
177
                text_weaves[file_id] = Weave()
 
178
 
 
179
            w = text_weaves[file_id]
 
180
 
 
181
            # base the new text version off whatever was last
 
182
            # (actually it'd be better to track this, to allow for
 
183
            # files that are deleted and then reappear)
 
184
            last = len(w)
 
185
            if last == 0:
 
186
                parents = []
66
187
            else:
67
 
                format_name = "default"
68
 
            format = format_registry.make_bzrdir(format_name)
69
 
        else:
70
 
            format = self.format
71
 
        if not self.bzrdir.needs_format_conversion(format):
72
 
            raise errors.UpToDateFormat(self.bzrdir._format)
73
 
        if not self.bzrdir.can_convert_format():
74
 
            raise errors.BzrError("cannot upgrade from bzrdir format %s" %
75
 
                           self.bzrdir._format)
76
 
        self.bzrdir.check_conversion_target(format)
77
 
        ui.ui_factory.note('starting upgrade of %s' % self.transport.base)
78
 
 
79
 
        self.bzrdir.backup_bzrdir()
80
 
        while self.bzrdir.needs_format_conversion(format):
81
 
            converter = self.bzrdir._format.get_converter(format)
82
 
            self.bzrdir = converter.convert(self.bzrdir, None)
83
 
        ui.ui_factory.note("finished")
84
 
 
85
 
 
86
 
def upgrade(url, format=None):
87
 
    """Upgrade to format, or the default bzrdir format if not supplied."""
88
 
    Convert(url, format)
 
188
                parents = [last-1]
 
189
 
 
190
            w.add(rev_id, parents, text_lines)
 
191
            text_count += 1
 
192
 
 
193
        revno += 1
 
194
        
 
195
    def _bump_progress(self):
 
196
        self.pb.update('converting revisions',
 
197
                       len(self.converted_revs),
 
198
                       self.total_revs)
 
199
 
 
200
 
 
201
def write_atomic_weave(weave, filename):
 
202
    inv_wf = AtomicFile(filename)
 
203
    try:
 
204
        write_weave(weave, inv_wf)
 
205
        inv_wf.commit()
 
206
    finally:
 
207
        inv_wf.close()
 
208
 
 
209
    
 
210
 
 
211
 
 
212
def profile_convert(): 
 
213
    prof_f = tempfile.NamedTemporaryFile()
 
214
 
 
215
    prof = hotshot.Profile(prof_f.name)
 
216
 
 
217
    prof.runcall(Convert) 
 
218
    prof.close()
 
219
 
 
220
    stats = hotshot.stats.load(prof_f.name)
 
221
    ##stats.strip_dirs()
 
222
    stats.sort_stats('time')
 
223
    # XXX: Might like to write to stderr or the trace file instead but
 
224
    # print_stats seems hardcoded to stdout
 
225
    stats.print_stats(20)
 
226
            
 
227
 
 
228
if '-p' in sys.argv[1:]:
 
229
    profile_convert()
 
230
else:
 
231
    Convert()
 
232