/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to git_repository.py

Remove some experimental cruft.

Show diffs side-by-side

added added

removed removed

Lines of Context:
git_repository.py
16
16
 
17
17
"""An adapter between a Git Repository and a Bazaar Branch"""
18
18
 
19
 
import os
20
 
import time
21
 
 
22
 
import bzrlib
23
19
from bzrlib import (
24
20
    deprecated_graph,
25
21
    errors,
29
25
    revision,
30
26
    revisiontree,
31
27
    urlutils,
32
 
    versionedfile,
33
 
    )
34
 
from bzrlib.foreign import (
35
 
        ForeignRevision,
36
 
        )
37
 
from bzrlib.transport import get_transport
38
 
 
39
 
from bzrlib.plugins.git.foreign import (
40
 
    ForeignRepository,
41
 
    versionedfiles,
42
 
    )
43
 
from bzrlib.plugins.git.mapping import default_mapping
44
 
 
45
 
from bzrlib.plugins.git import git
46
 
 
47
 
 
48
 
class GitTags(object):
49
 
 
50
 
    def __init__(self, tags):
51
 
        self._tags = tags
52
 
 
53
 
    def __iter__(self):
54
 
        return iter(self._tags)
55
 
 
56
 
 
57
 
class GitRepository(ForeignRepository):
 
28
    )
 
29
 
 
30
from bzrlib.plugins.git import (
 
31
    ids,
 
32
    model,
 
33
    )
 
34
 
 
35
 
 
36
class GitRepository(repository.Repository):
58
37
    """An adapter to git repositories for bzr."""
59
38
 
 
39
    # To make bzrlib happy
60
40
    _serializer = None
61
41
 
62
42
    def __init__(self, gitdir, lockfiles):
63
 
        self.base = gitdir.root_transport.base
64
43
        self.bzrdir = gitdir
65
44
        self.control_files = lockfiles
66
 
        self._git = gitdir._git
67
 
        self.texts = None
68
 
        self.signatures = versionedfiles.VirtualSignatureTexts(self)
69
 
        self.revisions = versionedfiles.VirtualRevisionTexts(self)
70
 
        self._format = GitFormat()
71
 
        self._fallback_repositories = []
72
 
        self.tags = GitTags(self._git.get_tags())
 
45
        gitdirectory = gitdir.transport.local_abspath('.')
 
46
        self._git = model.GitModel(gitdirectory)
 
47
        self._revision_cache = {}
 
48
        self._blob_cache = {}
 
49
        self._entry_revision_cache = {}
73
50
 
74
 
    def _all_revision_ids(self):
75
 
        if self._git.heads == []:
76
 
            return set()
77
 
        ret = set()
78
 
        skip = 0
79
 
        max_count = 1000
80
 
        cms = None
81
 
        while cms != []:
82
 
            cms = self._git.commits("--all", max_count=max_count, skip=skip)
83
 
            skip += max_count
84
 
            ret.update([self.get_mapping().revision_id_foreign_to_bzr(cm.id) for cm in cms])
85
 
        return ret
 
51
    def _ancestor_revisions(self, revision_ids):
 
52
        if revision_ids is not None:
 
53
            git_revisions = [gitrevid_from_bzr(r) for r in revision_ids]
 
54
        else:
 
55
            git_revisions = None
 
56
        for lines in self._git.ancestor_lines(git_revisions):
 
57
            yield self._parse_rev(lines)
 
58
        # print "fetched ancestors:", git_revisions
86
59
 
87
60
    def is_shared(self):
88
61
        return True
90
63
    def supports_rich_root(self):
91
64
        return False
92
65
 
93
 
    #def get_revision_delta(self, revision_id):
94
 
    #    parent_revid = self.get_revision(revision_id).parent_ids[0]
95
 
    #    diff = self._git.diff(ids.convert_revision_id_bzr_to_git(parent_revid),
96
 
    #                   ids.convert_revision_id_bzr_to_git(revision_id))
 
66
    def get_revision_graph(self, revision_id=None):
 
67
        result = {}
 
68
        if revision_id is not None:
 
69
            param = [ids.convert_revision_id_bzr_to_git(revision_id)]
 
70
        else:
 
71
            param = None
 
72
        git_graph = self._git.get_revision_graph(param)
 
73
        # print "fetched revision graph:", param
 
74
        for node, parents in git_graph.iteritems():
 
75
            bzr_node = ids.convert_revision_id_git_to_bzr(node)
 
76
            bzr_parents = [ids.convert_revision_id_git_to_bzr(n)
 
77
                           for n in parents]
 
78
            result[bzr_node] = bzr_parents
 
79
        return result
 
80
 
 
81
    def get_revision_graph_with_ghosts(self, revision_ids=None):
 
82
        graph = deprecated_graph.Graph()
 
83
        if revision_ids is not None:
 
84
            revision_ids = [ids.convert_revision_id_bzr_to_git(r)
 
85
                            for r in revision_ids]
 
86
        git_graph = self._git.get_revision_graph(revision_ids)
 
87
        # print "fetched revision graph (ghosts):", revision_ids
 
88
        for node, parents in git_graph.iteritems():
 
89
            bzr_node = ids.convert_revision_id_git_to_bzr(node)
 
90
            bzr_parents = [ids.convert_revision_id_git_to_bzr(n)
 
91
                           for n in parents]
 
92
 
 
93
            graph.add_node(bzr_node, bzr_parents)
 
94
        return graph
97
95
 
98
96
    def get_ancestry(self, revision_id):
99
 
        revision_id = revision.ensure_null(revision_id)
100
 
        ret = []
101
 
        if revision_id != revision.NULL_REVISION:
102
 
            skip = 0
103
 
            max_count = 1000
104
 
            cms = None
105
 
            while cms != []:
106
 
                cms = self._git.commits(self.lookup_git_revid(revision_id, self.get_mapping()), max_count=max_count, skip=skip)
107
 
                skip += max_count
108
 
                ret += [self.get_mapping().revision_id_foreign_to_bzr(cm.id) for cm in cms]
109
 
        return [None] + ret
 
97
        param = [ids.convert_revision_id_bzr_to_git(revision_id)]
 
98
        git_ancestry = self._git.get_ancestry(param)
 
99
        # print "fetched ancestry:", param
 
100
        return [None] + [
 
101
            ids.convert_revision_id_git_to_bzr(git_id)
 
102
            for git_id in git_ancestry]
110
103
 
111
104
    def get_signature_text(self, revision_id):
112
105
        raise errors.NoSuchRevision(self, revision_id)
113
106
 
114
 
    def lookup_revision_id(self, revid):
115
 
        """Lookup a revision id.
116
 
        
117
 
        :param revid: Bazaar revision id.
118
 
        :return: Tuple with git revisionid and mapping.
119
 
        """
120
 
        # Yes, this doesn't really work, but good enough as a stub
121
 
        return osutils.sha(rev_id).hexdigest(), self.get_mapping()
122
 
 
123
 
    def has_signature_for_revision_id(self, revision_id):
124
 
        return False
125
 
 
126
 
    def get_mapping(self):
127
 
        return default_mapping
128
 
 
129
 
    def get_parent_map(self, revision_ids):
130
 
        ret = {}
131
 
        for revid in revision_ids:
132
 
            if revid == revision.NULL_REVISION:
133
 
                ret[revid] = ()
134
 
            else:
135
 
                git_commit_id = self.lookup_git_revid(revid, self.get_mapping())
136
 
                commit = self._git.commit(git_commit_id)
137
 
                ret[revid] = tuple([self.get_mapping().revision_id_foreign_to_bzr(p.id) for p in commit.parents])
138
 
        return ret
139
 
 
140
 
    def lookup_git_revid(self, bzr_revid, mapping):
141
 
        try:
142
 
            return mapping.revision_id_bzr_to_foreign(bzr_revid)
143
 
        except errors.InvalidRevisionId:
144
 
            raise errors.NoSuchRevision(bzr_revid, self)
 
107
    def get_inventory_xml(self, revision_id):
 
108
        """See Repository.get_inventory_xml()."""
 
109
        return bzrlib.xml5.serializer_v5.write_inventory_to_string(
 
110
            self.get_inventory(revision_id))
 
111
 
 
112
    def get_inventory_sha1(self, revision_id):
 
113
        """Get the sha1 for the XML representation of an inventory.
 
114
 
 
115
        :param revision_id: Revision id of the inventory for which to return 
 
116
         the SHA1.
 
117
        :return: XML string
 
118
        """
 
119
 
 
120
        return osutils.sha_string(self.get_inventory_xml(revision_id))
 
121
 
 
122
    def get_revision_xml(self, revision_id):
 
123
        """Return the XML representation of a revision.
 
124
 
 
125
        :param revision_id: Revision for which to return the XML.
 
126
        :return: XML string
 
127
        """
 
128
        return bzrlib.xml5.serializer_v5.write_revision_to_string(
 
129
            self.get_revision(revision_id))
145
130
 
146
131
    def get_revision(self, revision_id):
147
 
        git_commit_id = self.lookup_git_revid(revision_id, self.get_mapping())
148
 
        commit = self._git.commit(git_commit_id)
 
132
        if revision_id in self._revision_cache:
 
133
            return self._revision_cache[revision_id]
 
134
        git_commit_id = ids.convert_revision_id_bzr_to_git(revision_id)
 
135
        raw = self._git.rev_list([git_commit_id], max_count=1, header=True)
149
136
        # print "fetched revision:", git_commit_id
150
 
        revision = self._parse_rev(commit, self.get_mapping())
 
137
        revision = self._parse_rev(raw)
 
138
        self._revision_cache[revision_id] = revision
151
139
        return revision
152
140
 
153
141
    def has_revision(self, revision_id):
162
150
        return [self.get_revision(r) for r in revisions]
163
151
 
164
152
    @classmethod
165
 
    def _parse_rev(klass, commit, mapping):
166
 
        """Convert a git commit to a bzr revision.
167
 
 
 
153
    def _parse_rev(klass, raw):
 
154
        """Parse a single git revision.
 
155
 
 
156
        * The first line is the git commit id.
 
157
        * Following lines conform to the 'name value' structure, until the
 
158
          first blank line.
 
159
        * All lines after the first blank line and until the NULL line have 4
 
160
          leading spaces and constitute the commit message.
 
161
 
 
162
        :param raw: sequence of newline-terminated strings, its last item is a
 
163
            single NULL character.
168
164
        :return: a `bzrlib.revision.Revision` object.
169
165
        """
170
 
        if commit is None:
171
 
            raise AssertionError("Commit object can't be None")
172
 
        rev = ForeignRevision(commit.id, mapping, mapping.revision_id_foreign_to_bzr(commit.id))
173
 
        rev.parent_ids = tuple([mapping.revision_id_foreign_to_bzr(p.id) for p in commit.parents])
174
 
        rev.message = commit.message.decode("utf-8", "replace")
175
 
        rev.committer = str(commit.committer).decode("utf-8", "replace")
176
 
        rev.properties['author'] = str(commit.author).decode("utf-8", "replace")
177
 
        rev.timestamp = time.mktime(commit.committed_date)
178
 
        rev.timezone = 0
 
166
        parents = []
 
167
        message_lines = []
 
168
        in_message = False
 
169
        committer_was_set = False
 
170
        revision_id = ids.convert_revision_id_git_to_bzr(raw[0][:-1])
 
171
        rev = revision.Revision(revision_id)
 
172
        rev.inventory_sha1 = ""
 
173
        assert raw[-1] == '\x00', (
 
174
            "Last item of raw was not a single NULL character.")
 
175
        for line in raw[1:-1]:
 
176
            if in_message:
 
177
                assert line[:4] == '    ', (
 
178
                    "Unexpected line format in commit message: %r" % line)
 
179
                message_lines.append(line[4:])
 
180
                continue
 
181
            if line == '\n':
 
182
                in_message = True
 
183
                continue
 
184
            name, value = line[:-1].split(' ', 1)
 
185
            if name == 'parent':
 
186
                rev.parent_ids.append(
 
187
                    ids.convert_revision_id_git_to_bzr(value))
 
188
                continue
 
189
            if name == 'author':
 
190
                author, timestamp, timezone = value.rsplit(' ', 2)
 
191
                rev.properties['author'] = author
 
192
                rev.properties['git-author-timestamp'] = timestamp
 
193
                rev.properties['git-author-timezone'] = timezone
 
194
                if not committer_was_set:
 
195
                    rev.committer = author
 
196
                    rev.timestamp = float(timestamp)
 
197
                    rev.timezone = klass._parse_tz(timezone)
 
198
                continue
 
199
            if name == 'committer':
 
200
                committer_was_set = True
 
201
                committer, timestamp, timezone = value.rsplit(' ', 2)
 
202
                rev.committer = committer
 
203
                rev.timestamp = float(timestamp)
 
204
                rev.timezone = klass._parse_tz(timezone)
 
205
                continue
 
206
            if name == 'tree':
 
207
                rev.properties['git-tree-id'] = value
 
208
                continue
 
209
 
 
210
        rev.message = ''.join(message_lines)
179
211
        return rev
180
212
 
 
213
    @classmethod
 
214
    def _parse_tz(klass, tz):
 
215
        """Parse a timezone specification in the [+|-]HHMM format.
 
216
 
 
217
        :return: the timezone offset in seconds.
 
218
        """
 
219
        assert len(tz) == 5
 
220
        sign = {'+': +1, '-': -1}[tz[0]]
 
221
        hours = int(tz[1:3])
 
222
        minutes = int(tz[3:])
 
223
        return sign * 60 * (60 * hours + minutes)
 
224
 
181
225
    def revision_trees(self, revids):
182
226
        for revid in revids:
183
227
            yield self.revision_tree(revid)
184
228
 
185
229
    def revision_tree(self, revision_id):
186
 
        revision_id = revision.ensure_null(revision_id)
187
 
 
188
 
        if revision_id == revision.NULL_REVISION:
189
 
            inv = inventory.Inventory(root_id=None)
190
 
            inv.revision_id = revision_id
191
 
            return revisiontree.RevisionTree(self, inv, revision_id)
192
 
 
193
230
        return GitRevisionTree(self, revision_id)
194
231
 
 
232
    def _get_blob(self, git_id):
 
233
        try:
 
234
            return self._blob_cache[git_id]
 
235
        except KeyError:
 
236
            blob = self._git.cat_file('blob', git_id)
 
237
            # print "fetched blob:", git_id
 
238
            self._blob_cache[git_id] = blob
 
239
            return blob
 
240
 
195
241
    def get_inventory(self, revision_id):
196
 
        assert revision_id != None
197
 
        return self.revision_tree(revision_id).inventory
198
 
 
199
 
    def set_make_working_trees(self, trees):
200
 
        pass
 
242
        if revision_id is None:
 
243
            revision_id = revision.NULL_REVISION
 
244
        if revision_id == revision.NULL_REVISION:
 
245
            return inventory.Inventory(
 
246
                revision_id=revision_id, root_id=None)
 
247
 
 
248
        # First pass at building the inventory. We need this one to get the
 
249
        # git ids, so we do not have to cache the entire tree text. Ideally,
 
250
        # this should be all we need to do.
 
251
        git_commit = ids.convert_revision_id_bzr_to_git(revision_id)
 
252
        git_inventory = self._git.get_inventory(git_commit)
 
253
        # print "fetched inventory:", git_commit
 
254
        inv = self._parse_inventory(revision_id, git_inventory)
 
255
 
 
256
        # Second pass at building the inventory. There we retrieve additional
 
257
        # data that bzrlib requires: text sizes, sha1s, symlink targets and
 
258
        # revisions that introduced inventory entries
 
259
        inv.git_file_data = {}
 
260
        for file_id in sorted(inv.git_ids.iterkeys()):
 
261
            git_id = inv.git_ids[file_id]
 
262
            entry = inv[file_id]
 
263
            self._set_entry_text_info(inv, entry, git_id)
 
264
        for file_id in sorted(inv.git_ids.iterkeys()):
 
265
            git_id = inv.git_ids[file_id]
 
266
            entry = inv[file_id]
 
267
            path = inv.id2path(file_id)
 
268
            self._set_entry_revision(entry, revision_id, path, git_id)
 
269
        return inv
 
270
 
 
271
    @classmethod
 
272
    def _parse_inventory(klass, revid, git_inv):
 
273
        # For now, git inventory do not have root ids. It is not clear that we
 
274
        # can reliably support root ids. -- David Allouche 2007-12-28
 
275
        inv = inventory.Inventory(revision_id=revid)
 
276
        inv.git_ids = {}
 
277
        for perms, git_kind, git_id, path in git_inv:
 
278
            text_sha1 = None
 
279
            executable = False
 
280
            if git_kind == 'blob':
 
281
                if perms[1] == '0':
 
282
                    kind = 'file'
 
283
                    executable = bool(int(perms[-3:], 8) & 0111)
 
284
                elif perms[1] == '2':
 
285
                    kind = 'symlink'
 
286
                else:
 
287
                    raise AssertionError(
 
288
                        "Unknown blob kind, perms=%r." % (perms,))
 
289
            elif git_kind == 'tree':
 
290
                kind = 'directory'
 
291
            else:
 
292
                raise AssertionError(
 
293
                    "Unknown git entry kind: %r" % (git_kind,))
 
294
            # XXX: Maybe the file id should be prefixed by file kind, so when
 
295
            # the kind of path changes, the id changes too.
 
296
            # -- David Allouche 2007-12-28.
 
297
            file_id = escape_file_id(path.encode('utf-8'))
 
298
            entry = inv.add_path(path, kind, file_id=file_id)
 
299
            entry.executable = executable
 
300
            inv.git_ids[file_id] = git_id
 
301
        inv.root.revision = revid
 
302
        return inv
 
303
 
 
304
    def _set_entry_text_info(self, inv, entry, git_id):
 
305
        if entry.kind == 'directory':
 
306
            return
 
307
        lines = self._get_blob(git_id)
 
308
        entry.text_size = sum(len(line) for line in lines)
 
309
        entry.text_sha1 = osutils.sha_strings(lines)
 
310
        if entry.kind == 'symlink':
 
311
            entry.symlink_target = ''.join(lines)
 
312
        inv.git_file_data[entry.file_id] = lines
 
313
 
 
314
    def _get_file_revision(self, revision_id, path):
 
315
        lines = self._git.rev_list(
 
316
            [ids.convert_revision_id_bzr_to_git(revision_id)],
 
317
            max_count=1, topo_order=True, paths=[path])
 
318
        [line] = lines
 
319
        result = ids.convert_revision_id_git_to_bzr(line[:-1])
 
320
        # print "fetched file revision", line[:-1], path
 
321
        return result
 
322
 
 
323
    def _set_entry_revision(self, entry, revid, path, git_id):
 
324
        # If a revision is in the cache, we assume it contains entries for the
 
325
        # whole inventory. So if all parent revisions are in the cache, but no
 
326
        # parent entry is present, then the entry revision is the current
 
327
        # revision. That amortizes the number of _get_file_revision calls for
 
328
        # large pulls to a "small number".
 
329
        cached = self._entry_revision_cache.get(revid, {}).get(
 
330
            (path, git_id, entry.executable))
 
331
        if cached is not None:
 
332
            entry.revision = cached
 
333
            return
 
334
        revision = self.get_revision(revid)
 
335
        all_parents_in_cache = True
 
336
        for parent_id in revision.parent_ids:
 
337
            if parent_id not in self._entry_revision_cache:
 
338
                all_parents_in_cache = False
 
339
                continue
 
340
            entry_rev = self._entry_revision_cache[parent_id].get(
 
341
                (path, git_id, entry.executable))
 
342
            if entry_rev is not None:
 
343
                break
 
344
        else:
 
345
            if all_parents_in_cache:
 
346
                entry_rev = revid
 
347
            else:
 
348
                entry_rev = self._get_file_revision(revid, path)
 
349
        self._entry_revision_cache.setdefault(
 
350
            revid, {})[(path, git_id, entry.executable)] = entry_rev
 
351
        entry.revision = entry_rev
201
352
 
202
353
 
203
354
def escape_file_id(file_id):
204
355
    return file_id.replace('_', '__').replace(' ', '_s')
205
356
 
206
 
 
207
 
def unescape_file_id(file_id):
208
 
    return file_id.replace("_s", " ").replace("__", "_")
209
 
 
210
 
 
211
357
class GitRevisionTree(revisiontree.RevisionTree):
212
358
 
213
359
    def __init__(self, repository, revision_id):
 
360
        if revision_id is None:
 
361
            revision_id = revision.NULL_REVISION
 
362
        self._inventory = repository.get_inventory(revision_id)
214
363
        self._repository = repository
215
 
        self.revision_id = revision_id
216
 
        git_id = repository.lookup_git_revid(revision_id, repository.get_mapping())
217
 
        self.tree = repository._git.commit(git_id).tree
218
 
        self._inventory = inventory.Inventory(revision_id=revision_id)
219
 
        self._inventory.root.revision = revision_id
220
 
        self._build_inventory(self.tree, self._inventory.root, "")
221
 
 
222
 
    def get_revision_id(self):
223
 
        return self.revision_id
224
 
 
225
 
    def get_file_text(self, file_id):
 
364
        self._revision_id = revision_id
 
365
 
 
366
    def get_file_lines(self, file_id):
226
367
        entry = self._inventory[file_id]
227
 
        if entry.kind == 'directory': return ""
228
 
        return self._repository._git.blob(entry.text_id).data
229
 
 
230
 
    def _build_inventory(self, tree, ie, path):
231
 
        assert isinstance(path, str)
232
 
        for name, mode, hexsha in tree.entries():
233
 
            basename = name.decode("utf-8")
234
 
            if path == "":
235
 
                child_path = name
236
 
            else:
237
 
                child_path = urlutils.join(path, name)
238
 
            file_id = escape_file_id(child_path.encode('utf-8'))
239
 
            if mode[0] == '0':
240
 
                child_ie = inventory.InventoryDirectory(file_id, basename, ie.file_id)
241
 
            elif mode[0] == '1':
242
 
                if mode[1] == '0':
243
 
                    child_ie = inventory.InventoryFile(file_id, basename, ie.file_id)
244
 
                    child_ie.text_sha1 = osutils.sha_string(b.data)
245
 
                elif mode[1] == '2':
246
 
                    child_ie = inventory.InventoryLink(file_id, basename, ie.file_id)
247
 
                    child_ie.text_sha1 = osutils.sha_string("")
248
 
                else:
249
 
                    raise AssertionError(
250
 
                        "Unknown file kind, perms=%r." % (mode,))
251
 
                child_ie.text_id = b.id
252
 
                child_ie.text_size = b.size
253
 
            else:
254
 
                raise AssertionError(
255
 
                    "Unknown blob kind, perms=%r." % (mode,))
256
 
            child_ie.executable = bool(int(mode[3:], 8) & 0111)
257
 
            child_ie.revision = self.revision_id
258
 
            self._inventory.add(child_ie)
259
 
            if mode[0] == '0':
260
 
                self._build_inventory(b, child_ie, child_path)
261
 
 
262
 
 
263
 
class GitFormat(object):
264
 
 
265
 
    supports_tree_reference = False
266
 
 
267
 
    def get_format_description(self):
268
 
        return "Git Repository"
 
368
        if entry.kind == 'directory': return []
 
369
        return self._inventory.git_file_data[file_id]
 
370
        
 
371
        obj_id = self._inventory.git_ids[file_id]
 
372
        assert obj_id is not None, (
 
373
            "git_id must not be None: %r" % (self._inventory[file_id],))
 
374
        return self._repository._git.cat_file('blob', obj_id)