/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to remote.py

https://launchpad.net/bugs/449507
Fix fetching between git repositories.

Show diffs side-by-side

added added

removed removed

Lines of Context:
remote.py
1
 
# Copyright (C) 2007-2008 Canonical Ltd
 
1
# Copyright (C) 2007-2009 Jelmer Vernooij <jelmer@samba.org>
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
17
import bzrlib
18
 
from bzrlib import urlutils
19
 
from bzrlib.bzrdir import BzrDir, BzrDirFormat
20
 
from bzrlib.errors import NoSuchFile, NotLocalUrl
21
 
from bzrlib.lockable_files import TransportLock
22
 
from bzrlib.repository import Repository
23
 
from bzrlib.trace import info
24
 
from bzrlib.transport import Transport
25
 
 
26
 
from bzrlib.plugins.git import git
27
 
from bzrlib.plugins.git.branch import GitBranch
28
 
from bzrlib.plugins.git.dir import GitDir
29
 
from bzrlib.plugins.git.foreign import ForeignBranch
30
 
from bzrlib.plugins.git.repository import GitFormat, GitRepository
31
 
 
 
18
from bzrlib import (
 
19
    config,
 
20
    tag,
 
21
    trace,
 
22
    ui,
 
23
    urlutils,
 
24
    )
 
25
from bzrlib.errors import (
 
26
    BzrError,
 
27
    InvalidRevisionId,
 
28
    NoSuchFile,
 
29
    NoSuchRevision,
 
30
    NotLocalUrl,
 
31
    )
 
32
from bzrlib.trace import (
 
33
    info,
 
34
    )
 
35
from bzrlib.transport import (
 
36
    Transport,
 
37
    )
 
38
 
 
39
from bzrlib.plugins.git import (
 
40
    lazy_check_versions,
 
41
    )
 
42
lazy_check_versions()
 
43
 
 
44
from bzrlib.plugins.git.branch import (
 
45
    GitBranch,
 
46
    extract_tags,
 
47
    )
 
48
from bzrlib.plugins.git.errors import (
 
49
    GitSmartRemoteNotSupported,
 
50
    NoSuchRef,
 
51
    )
 
52
from bzrlib.plugins.git.dir import (
 
53
    GitDir,
 
54
    )
 
55
from bzrlib.plugins.git.mapping import (
 
56
    mapping_registry,
 
57
    )
 
58
from bzrlib.plugins.git.repository import (
 
59
    GitRepository,
 
60
    )
 
61
 
 
62
import dulwich as git
 
63
from dulwich.errors import (
 
64
    GitProtocolError,
 
65
    )
 
66
from dulwich.pack import (
 
67
    Pack,
 
68
    PackData,
 
69
    )
 
70
import os
 
71
import tempfile
32
72
import urllib
33
73
import urlparse
34
74
 
35
 
from dulwich.pack import PackData
 
75
from dulwich.pack import load_pack_index
 
76
 
 
77
 
 
78
# Don't run any tests on GitSmartTransport as it is not intended to be 
 
79
# a full implementation of Transport
 
80
def get_test_permutations():
 
81
    return []
36
82
 
37
83
 
38
84
class GitSmartTransport(Transport):
40
86
    def __init__(self, url, _client=None):
41
87
        Transport.__init__(self, url)
42
88
        (scheme, _, loc, _, _) = urlparse.urlsplit(url)
43
 
        assert scheme == "git"
44
89
        hostport, self._path = urllib.splithost(loc)
45
 
        (self._host, self._port) = urllib.splitnport(hostport, git.protocol.TCP_GIT_PORT)
46
 
        if _client is not None:
47
 
            self._client = _client
48
 
        else:
49
 
            self._client = git.client.TCPGitClient(self._host, self._port)
 
90
        (self._username, hostport) = urllib.splituser(hostport)
 
91
        (self._host, self._port) = urllib.splitnport(hostport, None)
 
92
        self._client = _client
 
93
 
 
94
    def external_url(self):
 
95
        return self.base
 
96
 
 
97
    def has(self, relpath):
 
98
        return False
 
99
 
 
100
    def _get_client(self, thin_packs):
 
101
        raise NotImplementedError(self._get_client)
 
102
 
 
103
    def _get_path(self):
 
104
        return self._path
50
105
 
51
106
    def fetch_pack(self, determine_wants, graph_walker, pack_data, progress=None):
52
107
        if progress is None:
53
108
            def progress(text):
54
109
                info("git: %s" % text)
55
 
        self._client.fetch_pack(self._path, determine_wants, graph_walker, 
56
 
                pack_data, progress)
 
110
        client = self._get_client(thin_packs=False)
 
111
        try:
 
112
            return client.fetch_pack(self._get_path(), determine_wants, 
 
113
                graph_walker, pack_data, progress)
 
114
        except GitProtocolError, e:
 
115
            raise BzrError(e)
57
116
 
58
 
    def fetch_objects(self, determine_wants, graph_walker, progress=None):
59
 
        fd, path = tempfile.mkstemp(dir=self.pack_dir(), suffix=".pack")
60
 
        self.fetch_pack(determine_wants, graph_walker, lambda x: os.write(fd, x), progress)
61
 
        os.close(fd)
 
117
    def send_pack(self, get_changed_refs, generate_pack_contents):
 
118
        client = self._get_client(thin_packs=False)
62
119
        try:
63
 
            p = PackData(path)
64
 
            for o in p.iterobjects():
65
 
                yield o
66
 
        finally:
67
 
            os.remove(path)
 
120
            return client.send_pack(self._get_path(), get_changed_refs, 
 
121
                generate_pack_contents)
 
122
        except GitProtocolError, e:
 
123
            raise BzrError(e)
68
124
 
69
125
    def get(self, path):
70
126
        raise NoSuchFile(path)
71
127
 
 
128
    def abspath(self, relpath):
 
129
        return urlutils.join(self.base, relpath)
 
130
 
72
131
    def clone(self, offset=None):
73
132
        """See Transport.clone()."""
74
133
        if offset is None:
76
135
        else:
77
136
            newurl = urlutils.join(self.base, offset)
78
137
 
79
 
        return GitSmartTransport(newurl, self._client)
 
138
        return self.__class__(newurl, self._client)
 
139
 
 
140
 
 
141
class TCPGitSmartTransport(GitSmartTransport):
 
142
 
 
143
    _scheme = 'git'
 
144
 
 
145
    def _get_client(self, thin_packs):
 
146
        if self._client is not None:
 
147
            ret = self._client
 
148
            self._client = None
 
149
            return ret
 
150
        return git.client.TCPGitClient(self._host, self._port, thin_packs=thin_packs,
 
151
            report_activity=self._report_activity)
 
152
 
 
153
 
 
154
class SSHGitSmartTransport(GitSmartTransport):
 
155
 
 
156
    _scheme = 'git+ssh'
 
157
 
 
158
    def _get_path(self):
 
159
        if self._path.startswith("/~/"):
 
160
            return self._path[3:]
 
161
        return self._path
 
162
 
 
163
    def _get_client(self, thin_packs):
 
164
        if self._client is not None:
 
165
            ret = self._client
 
166
            self._client = None
 
167
            return ret
 
168
        return git.client.SSHGitClient(self._host, self._port, self._username,
 
169
            thin_packs=thin_packs, report_activity=self._report_activity)
80
170
 
81
171
 
82
172
class RemoteGitDir(GitDir):
86
176
        self.root_transport = transport
87
177
        self.transport = transport
88
178
        self._lockfiles = lockfiles
 
179
        self._mode_check_done = None
89
180
 
90
181
    def open_repository(self):
91
182
        return RemoteGitRepository(self, self._lockfiles)
92
183
 
93
 
    def open_branch(self):
 
184
    def open_branch(self, ignore_fallbacks=False):
94
185
        repo = self.open_repository()
95
186
        # TODO: Support for multiple branches in one bzrdir in bzrlib!
96
187
        return RemoteGitBranch(self, repo, "HEAD", self._lockfiles)
99
190
        raise NotLocalUrl(self.transport.base)
100
191
 
101
192
 
 
193
class EmptyObjectStoreIterator(dict):
 
194
 
 
195
    def iterobjects(self):
 
196
        return []
 
197
 
 
198
 
 
199
class TemporaryPackIterator(Pack):
 
200
 
 
201
    def __init__(self, path, resolve_ext_ref):
 
202
        super(TemporaryPackIterator, self).__init__(path)
 
203
        self.resolve_ext_ref = resolve_ext_ref
 
204
 
 
205
    @property
 
206
    def data(self):
 
207
        if self._data is None:
 
208
            self._data = PackData(self._data_path)
 
209
        return self._data
 
210
 
 
211
    @property
 
212
    def index(self):
 
213
        if self._idx is None:
 
214
            if not os.path.exists(self._idx_path):
 
215
                pb = ui.ui_factory.nested_progress_bar()
 
216
                try:
 
217
                    def report_progress(cur, total):
 
218
                        pb.update("generating index", cur, total)
 
219
                    self.data.create_index(self._idx_path, self.resolve_ext_ref,
 
220
                        progress=report_progress)
 
221
                finally:
 
222
                    pb.finished()
 
223
            self._idx = load_pack_index(self._idx_path)
 
224
        return self._idx
 
225
 
 
226
    def __del__(self):
 
227
        if self._idx is not None:
 
228
            self._idx.close()
 
229
            os.remove(self._idx_path)
 
230
        if self._data is not None:
 
231
            self._data.close()
 
232
            os.remove(self._data_path)
 
233
 
 
234
 
102
235
class RemoteGitRepository(GitRepository):
103
236
 
104
237
    def __init__(self, gitdir, lockfiles):
105
238
        GitRepository.__init__(self, gitdir, lockfiles)
 
239
        self._refs = None
 
240
 
 
241
    @property
 
242
    def inventories(self):
 
243
        raise GitSmartRemoteNotSupported()
 
244
 
 
245
    @property
 
246
    def revisions(self):
 
247
        raise GitSmartRemoteNotSupported()
 
248
 
 
249
    @property
 
250
    def texts(self):
 
251
        raise GitSmartRemoteNotSupported()
 
252
 
 
253
    def get_refs(self):
 
254
        if self._refs is not None:
 
255
            return self._refs
 
256
        self._refs = self.bzrdir.root_transport.fetch_pack(lambda x: [], None, 
 
257
            lambda x: None, lambda x: trace.mutter("git: %s" % x))
 
258
        return self._refs
106
259
 
107
260
    def fetch_pack(self, determine_wants, graph_walker, pack_data, 
108
261
                   progress=None):
109
 
        self._transport.fetch_pack(determine_wants, graph_walker, pack_data, 
110
 
            progress)
 
262
        return self._transport.fetch_pack(determine_wants, graph_walker,
 
263
                                          pack_data, progress)
 
264
 
 
265
    def send_pack(self, get_changed_refs, generate_pack_contents):
 
266
        return self._transport.send_pack(get_changed_refs, generate_pack_contents)
 
267
 
 
268
    def fetch_objects(self, determine_wants, graph_walker, resolve_ext_ref, progress=None):
 
269
        fd, path = tempfile.mkstemp(suffix=".pack")
 
270
        self.fetch_pack(determine_wants, graph_walker, lambda x: os.write(fd, x), progress)
 
271
        os.close(fd)
 
272
        if os.path.getsize(path) == 0:
 
273
            return EmptyObjectStoreIterator()
 
274
        return TemporaryPackIterator(path[:-len(".pack")], resolve_ext_ref)
 
275
 
 
276
    def lookup_git_revid(self, bzr_revid):
 
277
        # This won't work for any round-tripped bzr revisions, but it's a start..
 
278
        try:
 
279
            return mapping_registry.revision_id_bzr_to_foreign(bzr_revid)
 
280
        except InvalidRevisionId:
 
281
            raise NoSuchRevision(self, bzr_revid)
 
282
 
 
283
 
 
284
class RemoteGitTagDict(tag.BasicTags):
 
285
 
 
286
    def __init__(self, branch):
 
287
        self.branch = branch
 
288
        self.repository = branch.repository
 
289
 
 
290
    def get_tag_dict(self):
 
291
        return extract_tags(self.repository.get_refs(), self.branch.mapping)
 
292
 
 
293
    def set_tag(self, name, revid):
 
294
        # FIXME: Not supported yet, should do a push of a new ref
 
295
        raise NotImplementedError(self.set_tag)
111
296
 
112
297
 
113
298
class RemoteGitBranch(GitBranch):
114
299
 
115
300
    def __init__(self, bzrdir, repository, name, lockfiles):
116
 
        def determine_wants(heads):
117
 
            self._ref = heads[name]
118
 
        bzrdir.root_transport.fetch_pack(determine_wants, None, lambda x: None, 
119
 
                             lambda x: mutter("git: %s" % x))
120
 
        super(RemoteGitBranch, self).__init__(bzrdir, repository, name, self._ref, lockfiles)
 
301
        self._ref = None
 
302
        super(RemoteGitBranch, self).__init__(bzrdir, repository, name, 
 
303
                lockfiles)
 
304
 
 
305
    def revision_history(self):
 
306
        raise GitSmartRemoteNotSupported()
121
307
 
122
308
    def last_revision(self):
123
 
        return self.mapping.revision_id_foreign_to_bzr(self._ref)
124
 
 
 
309
        return self.mapping.revision_id_foreign_to_bzr(self.head)
 
310
 
 
311
    def _get_config(self):
 
312
        class EmptyConfig(object):
 
313
 
 
314
            def _get_configobj(self):
 
315
                return config.ConfigObj()
 
316
 
 
317
        return EmptyConfig()
 
318
 
 
319
    @property
 
320
    def head(self):
 
321
        if self._ref is not None:
 
322
            return self._ref
 
323
        heads = self.repository.get_refs()
 
324
        if not self.name in heads:
 
325
            raise NoSuchRef(self.name)
 
326
        self._ref = heads[self.name]
 
327
        return self._ref
 
328
 
 
329
    def _synchronize_history(self, destination, revision_id):
 
330
        """See Branch._synchronize_history()."""
 
331
        destination.generate_revision_history(self.last_revision())
 
332
 
 
333
    def get_push_location(self):
 
334
        return None
 
335
 
 
336
    def set_push_location(self, url):
 
337
        pass