/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to fetch.py

Store object hex sha's in InventoryEntry.text_id during fetch. 

Show diffs side-by-side

added added

removed removed

Lines of Context:
fetch.py
1
 
# Copyright (C) 2008 Canonical Ltd
 
1
# Copyright (C) 2008 Jelmer Vernooij <jelmer@samba.org>
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
 
from bzrlib import osutils, ui, urlutils
18
 
from bzrlib.errors import InvalidRevisionId, NoSuchRevision
19
 
from bzrlib.inventory import Inventory
20
 
from bzrlib.repository import InterRepository
21
 
from bzrlib.trace import info
22
 
from bzrlib.tsort import topo_sort
23
 
 
 
17
from cStringIO import (
 
18
    StringIO,
 
19
    )
 
20
import dulwich as git
 
21
from dulwich.client import (
 
22
    SimpleFetchGraphWalker,
 
23
    )
 
24
from dulwich.objects import (
 
25
    Commit,
 
26
    Tag,
 
27
    )
 
28
from dulwich.object_store import (
 
29
    tree_lookup_path,
 
30
    )
 
31
import stat
 
32
 
 
33
from bzrlib import (
 
34
    debug,
 
35
    osutils,
 
36
    trace,
 
37
    ui,
 
38
    urlutils,
 
39
    )
 
40
from bzrlib.errors import (
 
41
    InvalidRevisionId,
 
42
    NoSuchId,
 
43
    NoSuchRevision,
 
44
    )
 
45
from bzrlib.inventory import (
 
46
    Inventory,
 
47
    InventoryDirectory,
 
48
    InventoryFile,
 
49
    InventoryLink,
 
50
    )
 
51
from bzrlib.lru_cache import (
 
52
    LRUCache,
 
53
    )
 
54
from bzrlib.repository import (
 
55
    InterRepository,
 
56
    )
 
57
from bzrlib.revision import (
 
58
    NULL_REVISION,
 
59
    )
 
60
from bzrlib.tsort import (
 
61
    topo_sort,
 
62
    )
 
63
 
 
64
from bzrlib.plugins.git.converter import (
 
65
    BazaarObjectStore,
 
66
    )
 
67
from bzrlib.plugins.git.mapping import (
 
68
    DEFAULT_FILE_MODE,
 
69
    inventory_to_tree_and_blobs,
 
70
    text_to_blob,
 
71
    )
24
72
from bzrlib.plugins.git.repository import (
25
 
        LocalGitRepository, 
26
 
        GitRepository, 
27
 
        GitFormat,
28
 
        )
29
 
from bzrlib.plugins.git.converter import GitObjectConverter
30
 
from bzrlib.plugins.git.remote import RemoteGitRepository
31
 
 
32
 
import dulwich as git
33
 
from dulwich.client import SimpleFetchGraphWalker
34
 
from dulwich.objects import Commit
35
 
 
36
 
from cStringIO import StringIO
 
73
    LocalGitRepository, 
 
74
    GitRepository, 
 
75
    GitRepositoryFormat,
 
76
    )
 
77
from bzrlib.plugins.git.remote import (
 
78
    RemoteGitRepository,
 
79
    )
37
80
 
38
81
 
39
82
class BzrFetchGraphWalker(object):
75
118
        return None
76
119
 
77
120
 
78
 
def import_git_blob(repo, mapping, path, blob, inv, parent_invs, gitmap, executable):
 
121
def import_git_blob(texts, mapping, path, hexsha, base_inv, parent_id, 
 
122
    revision_id, parent_invs, shagitmap, lookup_object, executable, symlink):
79
123
    """Import a git blob object into a bzr repository.
80
124
 
81
 
    :param repo: bzr repository
 
125
    :param texts: VersionedFiles to add to
82
126
    :param path: Path in the tree
83
127
    :param blob: A git blob
 
128
    :return: Inventory delta for this file
84
129
    """
85
130
    file_id = mapping.generate_file_id(path)
86
 
    text_revision = inv.revision_id
87
 
    repo.texts.add_lines((file_id, text_revision),
88
 
        [(file_id, p[file_id].revision) for p in parent_invs if file_id in p],
89
 
        osutils.split_lines(blob.data))
90
 
    ie = inv.add_path(path, "file", file_id)
91
 
    ie.revision = text_revision
92
 
    ie.text_size = len(blob.data)
93
 
    ie.text_sha1 = osutils.sha_string(blob.data)
 
131
    if symlink:
 
132
        cls = InventoryLink
 
133
    else:
 
134
        cls = InventoryFile
 
135
    # We just have to hope this is indeed utf-8:
 
136
    ie = cls(file_id, urlutils.basename(path).decode("utf-8"), parent_id)
94
137
    ie.executable = executable
95
 
    gitmap._idmap.add_entry(blob.sha().hexdigest(), "blob", (ie.file_id, ie.revision))
96
 
 
97
 
 
98
 
def import_git_tree(repo, mapping, path, tree, inv, parent_invs, 
99
 
                    gitmap, lookup_object):
 
138
    ie.text_id = hexsha
 
139
    # See if this has changed at all
 
140
    try:
 
141
        base_ie = base_inv[file_id]
 
142
    except NoSuchId:
 
143
        base_ie = None
 
144
        base_sha = None
 
145
    else:
 
146
        if base_ie.text_id == hexsha:
 
147
            return [], []
 
148
        try:
 
149
            base_sha = shagitmap.lookup_blob(file_id, base_ie.revision)
 
150
        except KeyError:
 
151
            base_sha = None
 
152
        else:
 
153
            if (base_sha == hexsha and base_ie.executable == ie.executable
 
154
                and base_ie.kind == ie.kind):
 
155
                # If nothing has changed since the base revision, we're done
 
156
                return [], []
 
157
    if base_sha == hexsha:
 
158
        ie.text_size = base_ie.text_size
 
159
        ie.text_sha1 = base_ie.text_sha1
 
160
        ie.symlink_target = base_ie.symlink_target
 
161
        ie.revision = base_ie.revision
 
162
    else:
 
163
        blob = lookup_object(hexsha)
 
164
        if ie.kind == "symlink":
 
165
            ie.symlink_target = blob.data
 
166
            ie.text_size = None
 
167
            ie.text_sha1 = None
 
168
        else:
 
169
            ie.text_size = len(blob.data)
 
170
            ie.text_sha1 = osutils.sha_string(blob.data)
 
171
    # Check what revision we should store
 
172
    parent_keys = []
 
173
    for pinv in parent_invs:
 
174
        if pinv.revision_id == base_inv.revision_id:
 
175
            pie = base_ie
 
176
            if pie is None:
 
177
                continue
 
178
        else:
 
179
            try:
 
180
                pie = pinv[file_id]
 
181
            except NoSuchId:
 
182
                continue
 
183
        if pie.text_sha1 == ie.text_sha1:
 
184
            # found a revision in one of the parents to use
 
185
            ie.revision = pie.revision
 
186
            break
 
187
        parent_keys.append((file_id, pie.revision))
 
188
    if ie.revision is None:
 
189
        # Need to store a new revision
 
190
        ie.revision = revision_id
 
191
        assert file_id is not None
 
192
        assert ie.revision is not None
 
193
        texts.add_lines((file_id, ie.revision), tuple(parent_keys),
 
194
            osutils.split_lines(blob.data))
 
195
    if file_id in base_inv:
 
196
        old_path = base_inv.id2path(file_id)
 
197
    else:
 
198
        old_path = None
 
199
    return ([(old_path, path, file_id, ie)],
 
200
            [(hexsha, "blob", (ie.file_id, ie.revision))])
 
201
 
 
202
 
 
203
def import_git_tree(texts, mapping, path, hexsha, base_inv, parent_id, 
 
204
    revision_id, parent_invs, shagitmap, lookup_object):
100
205
    """Import a git tree object into a bzr repository.
101
206
 
102
 
    :param repo: A Bzr repository object
 
207
    :param texts: VersionedFiles object to add to
103
208
    :param path: Path in the tree
104
209
    :param tree: A git tree object
105
 
    :param inv: Inventory object
 
210
    :param base_inv: Base inventory against which to return inventory delta
 
211
    :return: Inventory delta for this subtree
106
212
    """
 
213
    invdelta = []
107
214
    file_id = mapping.generate_file_id(path)
108
 
    text_revision = inv.revision_id
109
 
    repo.texts.add_lines((file_id, text_revision),
110
 
        [(file_id, p[file_id].revision) for p in parent_invs if file_id in p],
111
 
        [])
112
 
    ie = inv.add_path(path, "directory", file_id)
113
 
    ie.revision = text_revision
114
 
    gitmap._idmap.add_entry(tree.sha().hexdigest(), "tree", (file_id, text_revision))
115
 
    for mode, name, hexsha in tree.entries():
116
 
        entry_kind = (mode & 0700000) / 0100000
 
215
    # We just have to hope this is indeed utf-8:
 
216
    ie = InventoryDirectory(file_id, urlutils.basename(path.decode("utf-8")), 
 
217
        parent_id)
 
218
    ie.text_id = hexsha
 
219
    try:
 
220
        base_ie = base_inv[file_id]
 
221
    except NoSuchId:
 
222
        # Newly appeared here
 
223
        base_ie = None
 
224
        ie.revision = revision_id
 
225
        texts.add_lines((file_id, ie.revision), (), [])
 
226
        invdelta.append((None, path, file_id, ie))
 
227
    else:
 
228
        if base_ie.text_id == hexsha:
 
229
            return [], {}, []
 
230
        # See if this has changed at all
 
231
        try:
 
232
            base_sha = shagitmap.lookup_tree(file_id, base_inv.revision_id)
 
233
        except KeyError:
 
234
            pass
 
235
        else:
 
236
            if base_sha == hexsha:
 
237
                # If nothing has changed since the base revision, we're done
 
238
                return [], {}, []
 
239
    # Remember for next time
 
240
    existing_children = set()
 
241
    child_modes = {}
 
242
    shamap = []
 
243
    tree = lookup_object(hexsha)
 
244
    for mode, name, child_hexsha in tree.entries():
117
245
        basename = name.decode("utf-8")
118
 
        if path == "":
119
 
            child_path = name
120
 
        else:
121
 
            child_path = urlutils.join(path, name)
122
 
        if entry_kind == 0:
123
 
            tree = lookup_object(hexsha)
124
 
            import_git_tree(repo, mapping, child_path, tree, inv, parent_invs, gitmap, lookup_object)
125
 
        elif entry_kind == 1:
126
 
            blob = lookup_object(hexsha)
127
 
            fs_mode = mode & 0777
128
 
            import_git_blob(repo, mapping, child_path, blob, inv, parent_invs, gitmap, bool(fs_mode & 0111))
129
 
        else:
130
 
            raise AssertionError("Unknown blob kind, perms=%r." % (mode,))
 
246
        existing_children.add(basename)
 
247
        child_path = osutils.pathjoin(path, name)
 
248
        if stat.S_ISDIR(mode):
 
249
            subinvdelta, grandchildmodes, subshamap = import_git_tree(texts, 
 
250
                    mapping, child_path, child_hexsha, base_inv, file_id, 
 
251
                    revision_id, parent_invs, shagitmap, lookup_object)
 
252
            invdelta.extend(subinvdelta)
 
253
            child_modes.update(grandchildmodes)
 
254
            shamap.extend(subshamap)
 
255
        else:
 
256
            fs_mode = stat.S_IMODE(mode)
 
257
            symlink = stat.S_ISLNK(mode)
 
258
            subinvdelta, subshamap = import_git_blob(texts, mapping, 
 
259
                    child_path, child_hexsha, base_inv, file_id, revision_id, 
 
260
                    parent_invs, shagitmap, lookup_object, 
 
261
                    bool(fs_mode & 0111), symlink)
 
262
            invdelta.extend(subinvdelta)
 
263
            shamap.extend(subshamap)
 
264
        if mode not in (stat.S_IFDIR, DEFAULT_FILE_MODE,
 
265
                        stat.S_IFLNK, DEFAULT_FILE_MODE|0111):
 
266
            child_modes[child_path] = mode
 
267
    # Remove any children that have disappeared
 
268
    if base_ie is not None:
 
269
        deletable = [v for k,v in base_ie.children.iteritems() if k not in existing_children]
 
270
        while deletable:
 
271
            ie = deletable.pop()
 
272
            invdelta.append((base_inv.id2path(ie.file_id), None, ie.file_id, None))
 
273
            if ie.kind == "directory":
 
274
                deletable.extend(ie.children.values())
 
275
    shamap.append((hexsha, "tree", (file_id, revision_id)))
 
276
    return invdelta, child_modes, shamap
131
277
 
132
278
 
133
279
def import_git_objects(repo, mapping, object_iter, target_git_object_retriever, 
134
 
        pb=None):
 
280
        heads, pb=None):
135
281
    """Import a set of git objects into a bzr repository.
136
282
 
137
283
    :param repo: Bazaar repository
142
288
    graph = []
143
289
    root_trees = {}
144
290
    revisions = {}
 
291
    checked = set()
 
292
    heads = list(heads)
 
293
    parent_invs_cache = LRUCache(50)
145
294
    # Find and convert commit objects
146
 
    for o in object_iter.iterobjects():
 
295
    while heads:
 
296
        if pb is not None:
 
297
            pb.update("finding revisions to fetch", len(graph), None)
 
298
        head = heads.pop()
 
299
        assert isinstance(head, str)
 
300
        try:
 
301
            o = object_iter[head]
 
302
        except KeyError:
 
303
            continue
147
304
        if isinstance(o, Commit):
148
305
            rev = mapping.import_commit(o)
149
 
            root_trees[rev.revision_id] = object_iter[o.tree]
 
306
            if repo.has_revision(rev.revision_id):
 
307
                continue
 
308
            root_trees[rev.revision_id] = o.tree
150
309
            revisions[rev.revision_id] = rev
151
310
            graph.append((rev.revision_id, rev.parent_ids))
152
 
            target_git_object_retriever._idmap.add_entry(o.sha().hexdigest(), "commit", (rev.revision_id, o._tree))
 
311
            target_git_object_retriever._idmap.add_entry(o.id, "commit", 
 
312
                    (rev.revision_id, o.tree))
 
313
            heads.extend([p for p in o.parents if p not in checked])
 
314
        elif isinstance(o, Tag):
 
315
            heads.append(o.object[1])
 
316
        else:
 
317
            trace.warning("Unable to import head object %r" % o)
 
318
        checked.add(head)
153
319
    # Order the revisions
154
320
    # Create the inventory objects
155
321
    for i, revid in enumerate(topo_sort(graph)):
156
322
        if pb is not None:
157
323
            pb.update("fetching revisions", i, len(graph))
158
 
        root_tree = root_trees[revid]
159
324
        rev = revisions[revid]
160
325
        # We have to do this here, since we have to walk the tree and 
161
 
        # we need to make sure to import the blobs / trees with the riht 
 
326
        # we need to make sure to import the blobs / trees with the right 
162
327
        # path; this may involve adding them more than once.
163
 
        inv = Inventory()
164
 
        inv.revision_id = rev.revision_id
165
328
        def lookup_object(sha):
166
 
            if sha in object_iter:
 
329
            try:
167
330
                return object_iter[sha]
168
 
            return target_git_object_retriever[sha]
169
 
        parent_invs = [repo.get_inventory(r) for r in rev.parent_ids]
170
 
        import_git_tree(repo, mapping, "", root_tree, inv, parent_invs, 
171
 
            target_git_object_retriever, lookup_object)
172
 
        repo.add_revision(rev.revision_id, rev, inv)
 
331
            except KeyError:
 
332
                return target_git_object_retriever[sha]
 
333
        parent_invs = []
 
334
        for parent_id in rev.parent_ids:
 
335
            try:
 
336
                parent_invs.append(parent_invs_cache[parent_id])
 
337
            except KeyError:
 
338
                parent_inv = repo.get_inventory(parent_id)
 
339
                parent_invs.append(parent_inv)
 
340
                parent_invs_cache[parent_id] = parent_inv
 
341
        if parent_invs == []:
 
342
            base_inv = Inventory(root_id=None)
 
343
        else:
 
344
            base_inv = parent_invs[0]
 
345
        inv_delta, unusual_modes, shamap = import_git_tree(repo.texts, 
 
346
                mapping, "", root_trees[revid], base_inv, None, revid, 
 
347
                parent_invs, target_git_object_retriever._idmap, lookup_object)
 
348
        target_git_object_retriever._idmap.add_entries(shamap)
 
349
        if unusual_modes != {}:
 
350
            ret = "unusual modes: \n"
 
351
            for item in unusual_modes.iteritems():
 
352
                ret += "\t%s: %o\n" % item
 
353
            raise AssertionError(ret)
 
354
        try:
 
355
            basis_id = rev.parent_ids[0]
 
356
        except IndexError:
 
357
            basis_id = NULL_REVISION
 
358
        rev.inventory_sha1, inv = repo.add_inventory_by_delta(basis_id,
 
359
                  inv_delta, rev.revision_id, rev.parent_ids)
 
360
        parent_invs_cache[rev.revision_id] = inv
 
361
        repo.add_revision(rev.revision_id, rev)
 
362
        if "verify" in debug.debug_flags:
 
363
            objs = inventory_to_tree_and_blobs(inv, repo.texts, mapping)
 
364
            for sha1, newobj, path in objs:
 
365
                assert path is not None
 
366
                oldobj = tree_lookup_path(lookup_object, root_trees[revid], path)
 
367
                assert oldobj == newobj, "%r != %r in %s" % (oldobj, newobj, path)
 
368
 
 
369
    target_git_object_retriever._idmap.commit()
173
370
 
174
371
 
175
372
class InterGitNonGitRepository(InterRepository):
 
373
    """Base InterRepository that copies revisions from a Git into a non-Git 
 
374
    repository."""
176
375
 
177
 
    _matching_repo_format = GitFormat()
 
376
    _matching_repo_format = GitRepositoryFormat()
178
377
 
179
378
    @staticmethod
180
379
    def _get_repo_format_to_test():
184
383
        """See InterRepository.copy_content."""
185
384
        self.fetch(revision_id, pb, find_ghosts=False)
186
385
 
 
386
    def fetch(self, revision_id=None, pb=None, find_ghosts=False, mapping=None,
 
387
            fetch_spec=None):
 
388
        self.fetch_refs(revision_id=revision_id, pb=pb, find_ghosts=find_ghosts,
 
389
                mapping=mapping, fetch_spec=fetch_spec)
 
390
 
 
391
    def fetch_refs(self, revision_id=None, pb=None, find_ghosts=False, 
 
392
              mapping=None, fetch_spec=None):
 
393
        if mapping is None:
 
394
            mapping = self.source.get_mapping()
 
395
        if revision_id is not None:
 
396
            interesting_heads = [revision_id]
 
397
        elif fetch_spec is not None:
 
398
            interesting_heads = fetch_spec.heads
 
399
        else:
 
400
            interesting_heads = None
 
401
        self._refs = {}
 
402
        def determine_wants(refs):
 
403
            self._refs = refs
 
404
            if interesting_heads is None:
 
405
                ret = [sha for (ref, sha) in refs.iteritems() if not ref.endswith("^{}")]
 
406
            else:
 
407
                ret = [mapping.revision_id_bzr_to_foreign(revid)[0] for revid in interesting_heads if revid != NULL_REVISION]
 
408
            return [rev for rev in ret if not self.target.has_revision(mapping.revision_id_foreign_to_bzr(rev))]
 
409
        self.fetch_objects(determine_wants, mapping, pb)
 
410
        return self._refs
 
411
 
 
412
 
 
413
 
 
414
class InterRemoteGitNonGitRepository(InterGitNonGitRepository):
 
415
    """InterRepository that copies revisions from a remote Git into a non-Git 
 
416
    repository."""
 
417
 
187
418
    def fetch_objects(self, determine_wants, mapping, pb=None):
188
419
        def progress(text):
189
420
            pb.update("git: %s" % text.rstrip("\r\n"), 0, 0)
191
422
        create_pb = None
192
423
        if pb is None:
193
424
            create_pb = pb = ui.ui_factory.nested_progress_bar()
194
 
        target_git_object_retriever = GitObjectConverter(self.target, mapping)
 
425
        target_git_object_retriever = BazaarObjectStore(self.target, mapping)
 
426
        recorded_wants = []
 
427
 
 
428
        def record_determine_wants(heads):
 
429
            wants = determine_wants(heads)
 
430
            recorded_wants.extend(wants)
 
431
            return wants
195
432
        
196
433
        try:
197
434
            self.target.lock_write()
198
435
            try:
199
436
                self.target.start_write_group()
200
437
                try:
201
 
                    objects_iter = self.source.fetch_objects(determine_wants, 
 
438
                    objects_iter = self.source.fetch_objects(
 
439
                                record_determine_wants, 
202
440
                                graph_walker, 
203
 
                                target_git_object_retriever.__getitem__, 
 
441
                                target_git_object_retriever.get_raw, 
204
442
                                progress)
205
443
                    import_git_objects(self.target, mapping, objects_iter, 
206
 
                            target_git_object_retriever, pb)
207
 
                finally:
208
 
                    self.target.commit_write_group()
209
 
            finally:
210
 
                self.target.unlock()
211
 
        finally:
212
 
            if create_pb:
213
 
                create_pb.finished()
214
 
 
215
 
    def fetch(self, revision_id=None, pb=None, find_ghosts=False, 
216
 
              mapping=None):
217
 
        if mapping is None:
218
 
            mapping = self.source.get_mapping()
219
 
        def determine_wants(heads):
220
 
            if revision_id is None:
221
 
                ret = heads.values()
222
 
            else:
223
 
                ret = [mapping.revision_id_bzr_to_foreign(revision_id)[0]]
224
 
            return [rev for rev in ret if not self.target.has_revision(mapping.revision_id_foreign_to_bzr(rev))]
225
 
        return self.fetch_objects(determine_wants, mapping, pb)
226
 
 
227
 
    @staticmethod
228
 
    def is_compatible(source, target):
229
 
        """Be compatible with GitRepository."""
230
 
        # FIXME: Also check target uses VersionedFile
231
 
        return (isinstance(source, GitRepository) and 
 
444
                            target_git_object_retriever, recorded_wants, pb)
 
445
                finally:
 
446
                    self.target.commit_write_group()
 
447
            finally:
 
448
                self.target.unlock()
 
449
        finally:
 
450
            if create_pb:
 
451
                create_pb.finished()
 
452
 
 
453
    @staticmethod
 
454
    def is_compatible(source, target):
 
455
        """Be compatible with GitRepository."""
 
456
        # FIXME: Also check target uses VersionedFile
 
457
        return (isinstance(source, RemoteGitRepository) and 
 
458
                target.supports_rich_root() and
 
459
                not isinstance(target, GitRepository))
 
460
 
 
461
 
 
462
class InterLocalGitNonGitRepository(InterGitNonGitRepository):
 
463
    """InterRepository that copies revisions from a remote Git into a non-Git 
 
464
    repository."""
 
465
 
 
466
    def fetch_objects(self, determine_wants, mapping, pb=None):
 
467
        wants = determine_wants(self.source._git.get_refs())
 
468
        create_pb = None
 
469
        if pb is None:
 
470
            create_pb = pb = ui.ui_factory.nested_progress_bar()
 
471
        target_git_object_retriever = BazaarObjectStore(self.target, mapping)
 
472
        try:
 
473
            self.target.lock_write()
 
474
            try:
 
475
                self.target.start_write_group()
 
476
                try:
 
477
                    import_git_objects(self.target, mapping, 
 
478
                            self.source._git.object_store, 
 
479
                            target_git_object_retriever, wants, pb)
 
480
                finally:
 
481
                    self.target.commit_write_group()
 
482
            finally:
 
483
                self.target.unlock()
 
484
        finally:
 
485
            if create_pb:
 
486
                create_pb.finished()
 
487
 
 
488
    @staticmethod
 
489
    def is_compatible(source, target):
 
490
        """Be compatible with GitRepository."""
 
491
        # FIXME: Also check target uses VersionedFile
 
492
        return (isinstance(source, LocalGitRepository) and 
232
493
                target.supports_rich_root() and
233
494
                not isinstance(target, GitRepository))
234
495
 
235
496
 
236
497
class InterGitRepository(InterRepository):
 
498
    """InterRepository that copies between Git repositories."""
237
499
 
238
 
    _matching_repo_format = GitFormat()
 
500
    _matching_repo_format = GitRepositoryFormat()
239
501
 
240
502
    @staticmethod
241
503
    def _get_repo_format_to_test():
246
508
        self.fetch(revision_id, pb, find_ghosts=False)
247
509
 
248
510
    def fetch(self, revision_id=None, pb=None, find_ghosts=False, 
249
 
              mapping=None):
 
511
              mapping=None, fetch_spec=None):
250
512
        if mapping is None:
251
513
            mapping = self.source.get_mapping()
252
514
        def progress(text):
253
 
            info("git: %s", text)
 
515
            trace.info("git: %s", text)
254
516
        r = self.target._git
255
 
        if revision_id is None:
256
 
            determine_wants = lambda x: [y for y in x.values() if not y in r.object_store]
257
 
        else:
 
517
        if revision_id is not None:
258
518
            args = [mapping.revision_id_bzr_to_foreign(revision_id)[0]]
 
519
        elif fetch_spec is not None:
 
520
            args = [mapping.revision_id_bzr_to_foreign(revid)[0] for revid in fetch_spec.heads]
 
521
        if fetch_spec is None and revision_id is None:
 
522
            determine_wants = r.object_store.determine_wants_all
 
523
        else:
259
524
            determine_wants = lambda x: [y for y in args if not y in r.object_store]
260
525
 
261
526
        graphwalker = SimpleFetchGraphWalker(r.heads().values(), r.get_parents)
262
 
        f, commit = r.object_store.add_pack()
 
527
        f, commit = r.object_store.add_thin_pack()
263
528
        try:
264
 
            self.source._git.fetch_pack(path, determine_wants, graphwalker, f.write, progress)
265
 
            f.close()
 
529
            self.source.fetch_pack(determine_wants, graphwalker, f.write, progress)
266
530
            commit()
267
531
        except:
268
532
            f.close()