/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to push.py

https://launchpad.net/bugs/393706
Avoid writing empty trees.

Show diffs side-by-side

added added

removed removed

Lines of Context:
push.py
1
 
# Copyright (C) 2009-2010 Jelmer Vernooij <jelmer@samba.org>
 
1
# Copyright (C) 2009 Jelmer Vernooij <jelmer@samba.org>
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
17
17
"""Push implementation that simply prints message saying push is not supported."""
18
18
 
19
19
from bzrlib import (
20
 
    errors,
21
20
    ui,
22
21
    )
23
22
from bzrlib.repository import (
30
29
from bzrlib.plugins.git.errors import (
31
30
    NoPushSupport,
32
31
    )
 
32
from bzrlib.plugins.git.mapping import (
 
33
    extract_unusual_modes,
 
34
    )
33
35
from bzrlib.plugins.git.object_store import (
34
36
    BazaarObjectStore,
35
37
    )
54
56
        """
55
57
        self.source = source
56
58
        self._object_store = store
 
59
        self._revids = set()
 
60
        self._sent_shas = set()
57
61
        self._pending = []
58
62
        self.pb = pb
59
63
 
60
 
    def import_revisions(self, revids, roundtrip):
61
 
        """Import a set of revisions into this git repository.
62
 
 
63
 
        :param revids: Revision ids of revisions to import
64
 
        :param roundtrip: Whether to roundtrip bzr metadata
65
 
        """
 
64
    def import_revisions(self, revids):
 
65
        self._revids.update(revids)
66
66
        for i, revid in enumerate(revids):
67
67
            if self.pb:
68
68
                self.pb.update("pushing revisions", i, len(revids))
69
 
            git_commit = self.import_revision(revid, roundtrip)
 
69
            git_commit = self.import_revision(revid)
70
70
            yield (revid, git_commit)
71
71
 
72
 
    def import_revision(self, revid, roundtrip):
73
 
        """Import a revision into this Git repository.
74
 
 
75
 
        :param revid: Revision id of the revision
76
 
        :param roundtrip: Whether to roundtrip bzr metadata
 
72
    def need_sha(self, sha):
 
73
        if sha is None or sha in self._sent_shas:
 
74
            return False
 
75
        (type, (fileid, revid)) = self._object_store._idmap.lookup_git_sha(sha)
 
76
        assert type in ("blob", "tree")
 
77
        if revid in self._revids:
 
78
            # Not sent yet, and part of the set of revisions to send
 
79
            return True
 
80
        # Not changed in the revisions to send, so either not necessary
 
81
        # or already present remotely (as git doesn't do ghosts)
 
82
        return False
 
83
 
 
84
    def queue(self, sha, obj, path, ie=None, inv=None, unusual_modes=None):
 
85
        if obj is None:
 
86
            # Can't lazy-evaluate directories, since they might be eliminated
 
87
            if ie.kind == "directory":
 
88
                obj = self._object_store._get_ie_object(ie, inv, unusual_modes)
 
89
                if obj is None:
 
90
                    return
 
91
            else:
 
92
                obj = (ie, inv, unusual_modes)
 
93
        self._pending.append((obj, path))
 
94
        self._sent_shas.add(sha)
 
95
 
 
96
    def import_revision(self, revid):
 
97
        """Import the gist of a revision into this Git repository.
 
98
 
77
99
        """
78
 
        tree = self._object_store.tree_cache.revision_tree(revid)
 
100
        inv = self.source.get_inventory(revid)
79
101
        rev = self.source.get_revision(revid)
80
 
        commit = None
81
 
        for path, obj, ie in self._object_store._revision_to_objects(rev, tree,
82
 
            roundtrip):
83
 
            if obj.type_name == "commit":
84
 
                commit = obj
85
 
            self._pending.append((obj, path))
 
102
        unusual_modes = extract_unusual_modes(rev)
 
103
        todo = [inv.root]
 
104
        tree_sha = None
 
105
        while todo:
 
106
            ie = todo.pop()
 
107
            (sha, object) = self._object_store._get_ie_object_or_sha1(ie, inv, unusual_modes)
 
108
            if ie.parent_id is None:
 
109
                tree_sha = sha
 
110
            if not self.need_sha(sha):
 
111
                continue
 
112
            self.queue(sha, object, inv.id2path(ie.file_id), ie, inv, unusual_modes)
 
113
            if ie.kind == "directory":
 
114
                todo.extend(ie.children.values())
 
115
        assert tree_sha is not None
 
116
        commit = self._object_store._get_commit(rev, tree_sha)
 
117
        self.queue(commit.id, commit, None, None)
86
118
        return commit.id
87
119
 
88
120
    def __len__(self):
89
121
        return len(self._pending)
90
122
 
91
123
    def __iter__(self):
92
 
        return iter(self._pending)
 
124
        for i, (object, path) in enumerate(self._pending):
 
125
            if self.pb:
 
126
                self.pb.update("writing pack objects", i, len(self))
 
127
            if isinstance(object, tuple):
 
128
                object = self._object_store._get_ie_object(*object)
 
129
            yield (object, path)   
93
130
 
94
131
 
95
132
class InterToGitRepository(InterRepository):
110
147
        """See InterRepository.copy_content."""
111
148
        self.fetch(revision_id, pb, find_ghosts=False)
112
149
 
113
 
    def dfetch_refs(self, update_refs):
114
 
        """Fetch non-roundtripped revisions into the target repository.
115
 
 
116
 
        :param update_refs: Generate refs to fetch. Receives dictionary
117
 
            with old names to old git shas. Should return a dictionary
118
 
            of new names to Bazaar revision ids.
119
 
        :return: revision id map, old refs dictionary and new refs dictionary
120
 
        """
121
 
        raise NotImplementedError(self.dfetch_refs)
122
 
 
123
 
    def fetch_refs(self, update_refs):
124
 
        """Fetch possibly roundtripped revisions into the target repository.
125
 
 
126
 
        :param update_refs: Generate refs to fetch. Receives dictionary
127
 
            with old refs (git shas), returns dictionary of new names to
128
 
            git shas.
129
 
        :return: old refs, new refs
130
 
        """
131
 
        raise NotImplementedError(self.fetch_refs)
 
150
    def fetch(self, revision_id=None, pb=None, find_ghosts=False, 
 
151
            fetch_spec=None):
 
152
        raise NoPushSupport()
132
153
 
133
154
 
134
155
class InterToLocalGitRepository(InterToGitRepository):
135
 
    """InterBranch implementation between a Bazaar and a Git repository."""
136
 
 
137
 
    def __init__(self, source, target):
138
 
        super(InterToLocalGitRepository, self).__init__(source, target)
139
 
        self.target_store = self.target._git.object_store
140
 
        self.target_refs = self.target._git.refs
141
 
 
142
 
    def _revision_needs_fetching(self, sha_id, revid):
143
 
        if revid == NULL_REVISION:
144
 
            return False
145
 
        if sha_id is None:
146
 
            try:
147
 
                sha_id = self.source_store._lookup_revision_sha1(revid)
148
 
            except KeyError:
149
 
                return False
150
 
        try:
151
 
            return (sha_id not in self.target_store)
152
 
        except errors.NoSuchRevision:
153
 
            # Ghost, can't push
154
 
            return False
155
 
 
156
 
    def missing_revisions(self, stop_revisions):
157
 
        """Find the revisions that are missing from the target repository.
158
 
 
159
 
        :param stop_revisions: Revisions to check for (tuples with
160
 
            Git SHA1, bzr revid)
161
 
        :return: sequence of missing revisions, in topological order
162
 
        :raise: NoSuchRevision if the stop_revisions are not present in
163
 
            the source
164
 
        """
165
 
        revid_sha_map = {}
166
 
        stop_revids = []
167
 
        stop_sha1s = []
168
 
        for (sha1, revid) in stop_revisions:
169
 
            if sha1 is not None and revid is not None:
170
 
                revid_sha_map[revid] = sha1
171
 
            elif sha1 is not None:
172
 
                stop_sha1s.append(sha1)
173
 
            else:
174
 
                assert revid is not None
175
 
                stop_revids.append(revid)
 
156
 
 
157
    def missing_revisions(self, stop_revisions, check_revid):
176
158
        missing = []
177
 
        graph = self.source.get_graph()
178
159
        pb = ui.ui_factory.nested_progress_bar()
179
160
        try:
180
 
            for revid, _ in graph.iter_ancestry(stop_revids):
181
 
                assert type(revid) is str
 
161
            graph = self.source.get_graph()
 
162
            for revid, _ in graph.iter_ancestry(stop_revisions):
182
163
                pb.update("determining revisions to fetch", len(missing))
183
 
                sha1 = revid_sha_map.get(revid)
184
 
                if self._revision_needs_fetching(sha1, revid):
 
164
                if not check_revid(revid):
185
165
                    missing.append(revid)
 
166
            return graph.iter_topo_order(missing)
186
167
        finally:
187
168
            pb.finished()
188
 
        for sha1 in stop_sha1s:
189
 
            try:
190
 
                (kind, (revid, tree_sha, verifiers)) = self.source_store.lookup_git_sha(sha1)
191
 
            except KeyError:
192
 
                continue
193
 
            else:
194
 
                missing.append(revid)
195
 
                revid_sha_map[revid] = sha1
196
 
        return graph.iter_topo_order(missing)
197
 
 
198
 
    def _get_target_bzr_refs(self):
199
 
        """Return a dictionary with references.
200
 
 
201
 
        :return: Dictionary with reference names as keys and tuples
202
 
            with Git SHA, Bazaar revid as values.
203
 
        """
204
 
        bzr_refs = {}
205
 
        refs = self.target._git.get_refs()
206
 
        for k, v in refs.iteritems():
207
 
            try:
208
 
                (kind, type_data) = self.source_store.lookup_git_sha(v)
209
 
            except KeyError:
210
 
                revid = None
211
 
            else:
212
 
                if kind == "commit":
213
 
                    revid = type_data[0]
214
 
                else:
215
 
                    revid = None
216
 
            bzr_refs[k] = (v, revid)
217
 
        return bzr_refs
218
 
 
219
 
    def fetch_refs(self, update_refs):
220
 
        self.source.lock_read()
221
 
        try:
222
 
            old_refs = self._get_target_bzr_refs()
223
 
            new_refs = update_refs(old_refs)
224
 
            self.fetch(mapped_refs=new_refs.values())
225
 
        finally:
226
 
            self.source.unlock()
227
 
        return old_refs, new_refs
228
 
 
229
 
    def dfetch_refs(self, update_refs):
230
 
        self.source.lock_read()
231
 
        try:
232
 
            old_refs = self._get_target_bzr_refs()
233
 
            new_refs = update_refs(old_refs)
234
 
            revidmap, gitidmap = self.dfetch(new_refs.values())
235
 
            for name, (gitid, revid) in new_refs.iteritems():
236
 
                if gitid is None:
237
 
                    try:
238
 
                        gitid = gitidmap[revid]
239
 
                    except KeyError:
240
 
                        gitid = self.source_store._lookup_revision_sha1(revid)
241
 
                self.target._git.refs[name] = gitid
242
 
                new_refs[name] = (gitid, self.source_store.lookup_git_sha(gitid)[1][0])
243
 
        finally:
244
 
            self.source.unlock()
245
 
        return revidmap, old_refs, new_refs
246
 
 
247
 
    def _get_missing_objects_iterator(self, pb):
248
 
        return MissingObjectsIterator(self.source_store, self.source, pb)
 
169
 
 
170
    def dfetch_refs(self, refs):
 
171
        new_refs = {}
 
172
        revidmap, gitidmap = self.dfetch(refs.values())
 
173
        for name, revid in refs.iteritems():
 
174
            if revid in gitidmap:
 
175
                gitid = gitidmap[revid]
 
176
            else:
 
177
                gitid = self.source_store._lookup_revision_sha1(revid)
 
178
            self.target._git.refs[name] = gitid
 
179
            new_refs[name] = gitid
 
180
        return revidmap, new_refs
249
181
 
250
182
    def dfetch(self, stop_revisions):
251
183
        """Import the gist of the ancestry of a particular revision."""
253
185
        revidmap = {}
254
186
        self.source.lock_read()
255
187
        try:
256
 
            todo = list(self.missing_revisions(stop_revisions))
 
188
            target_store = self.target._git.object_store
 
189
            def check_revid(revid):
 
190
                if revid == NULL_REVISION:
 
191
                    return True
 
192
                return (self.source_store._lookup_revision_sha1(revid) in target_store)
 
193
            todo = list(self.missing_revisions(stop_revisions, check_revid))
257
194
            pb = ui.ui_factory.nested_progress_bar()
258
195
            try:
259
 
                object_generator = self._get_missing_objects_iterator(pb)
 
196
                object_generator = MissingObjectsIterator(self.source_store, self.source, pb)
260
197
                for old_bzr_revid, git_commit in object_generator.import_revisions(
261
 
                    todo, roundtrip=False):
 
198
                    todo):
262
199
                    new_bzr_revid = self.mapping.revision_id_foreign_to_bzr(git_commit)
263
200
                    revidmap[old_bzr_revid] = new_bzr_revid
264
201
                    gitidmap[old_bzr_revid] = git_commit
265
 
                self.target_store.add_objects(object_generator)
 
202
                target_store.add_objects(object_generator) 
266
203
            finally:
267
204
                pb.finished()
268
205
        finally:
269
206
            self.source.unlock()
270
207
        return revidmap, gitidmap
271
208
 
272
 
    def fetch(self, revision_id=None, pb=None, find_ghosts=False,
273
 
            fetch_spec=None, mapped_refs=None):
274
 
        if mapped_refs is not None:
275
 
            stop_revisions = mapped_refs
276
 
        elif revision_id is not None:
277
 
            stop_revisions = [(None, revision_id)]
278
 
        elif fetch_spec is not None:
279
 
            stop_revisions = [(None, revid) for revid in fetch_spec.heads]
280
 
        else:
281
 
            stop_revisions = [(None, revid) for revid in self.source.all_revision_ids()]
282
 
        self.source.lock_read()
283
 
        try:
284
 
            todo = list(self.missing_revisions(stop_revisions))
285
 
            pb = ui.ui_factory.nested_progress_bar()
286
 
            try:
287
 
                object_generator = self._get_missing_objects_iterator(pb)
288
 
                for (revid, git_sha) in object_generator.import_revisions(
289
 
                    todo, roundtrip=True):
290
 
                    try:
291
 
                        self.mapping.revision_id_bzr_to_foreign(revid)
292
 
                    except errors.InvalidRevisionId:
293
 
                        self.target_refs[self.mapping.revid_as_refname(revid)] = git_sha
294
 
                self.target_store.add_objects(object_generator)
295
 
            finally:
296
 
                pb.finished()
297
 
        finally:
298
 
            self.source.unlock()
299
 
 
300
209
    @staticmethod
301
210
    def is_compatible(source, target):
302
211
        """Be compatible with GitRepository."""
303
 
        return (not isinstance(source, GitRepository) and
 
212
        return (not isinstance(source, GitRepository) and 
304
213
                isinstance(target, LocalGitRepository))
305
214
 
306
215
 
307
216
class InterToRemoteGitRepository(InterToGitRepository):
308
217
 
309
 
    def dfetch_refs(self, update_refs):
 
218
    def dfetch_refs(self, new_refs):
310
219
        """Import the gist of the ancestry of a particular revision."""
311
220
        revidmap = {}
312
 
        def determine_wants(old_refs):
 
221
        def determine_wants(refs):
313
222
            ret = {}
314
 
            self.old_refs = old_refs
315
 
            self.new_refs = update_refs(self.old_refs)
316
 
            for name, (gitid, revid) in self.new_refs.iteritems():
317
 
                if gitid is None:
318
 
                    ret[name] = self.source_store._lookup_revision_sha1(revid)
319
 
                else:
320
 
                    ret[name] = gitid
 
223
            for name, revid in new_refs.iteritems():
 
224
                ret[name] = self.source_store._lookup_revision_sha1(revid)
321
225
            return ret
322
226
        self.source.lock_read()
323
227
        try:
324
228
            new_refs = self.target.send_pack(determine_wants,
325
 
                    self.source_store.generate_lossy_pack_contents)
 
229
                    self.source_store.generate_pack_contents)
326
230
        finally:
327
231
            self.source.unlock()
328
 
        return revidmap, self.old_refs, self.new_refs
329
 
 
330
 
    def fetch_refs(self, update_refs):
331
 
        raise NoPushSupport()
 
232
        return revidmap, new_refs
332
233
 
333
234
    @staticmethod
334
235
    def is_compatible(source, target):
335
236
        """Be compatible with GitRepository."""
336
 
        return (not isinstance(source, GitRepository) and
 
237
        return (not isinstance(source, GitRepository) and 
337
238
                isinstance(target, RemoteGitRepository))