/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to remote.py

More tests for sha maps, fix cache misses in tdb.

Show diffs side-by-side

added added

removed removed

Lines of Context:
remote.py
1
 
# Copyright (C) 2007-2008 Canonical Ltd
 
1
# Copyright (C) 2007-2009 Jelmer Vernooij <jelmer@samba.org>
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
17
import bzrlib
18
 
from bzrlib import urlutils
19
 
from bzrlib.bzrdir import BzrDir, BzrDirFormat
20
 
from bzrlib.errors import NoSuchFile, NotLocalUrl
21
 
from bzrlib.lockable_files import TransportLock
22
 
from bzrlib.repository import Repository
23
 
from bzrlib.trace import info
24
 
from bzrlib.transport import Transport
25
 
 
26
 
from bzrlib.plugins.git import git
27
 
from bzrlib.plugins.git.branch import GitBranch
28
 
from bzrlib.plugins.git.dir import GitDir
29
 
from bzrlib.plugins.git.foreign import ForeignBranch
30
 
from bzrlib.plugins.git.repository import GitFormat, GitRepository
31
 
 
 
18
from bzrlib import (
 
19
    branch,
 
20
    tag,
 
21
    ui,
 
22
    urlutils,
 
23
    )
 
24
from bzrlib.errors import (
 
25
    BzrError,
 
26
    InvalidRevisionId,
 
27
    NoSuchFile,
 
28
    NoSuchRevision,
 
29
    NotLocalUrl,
 
30
    )
 
31
from bzrlib.trace import (
 
32
    info,
 
33
    )
 
34
from bzrlib.transport import (
 
35
    Transport,
 
36
    )
 
37
 
 
38
from bzrlib.plugins.git import (
 
39
    lazy_check_versions,
 
40
    )
 
41
lazy_check_versions()
 
42
 
 
43
from bzrlib.plugins.git.branch import (
 
44
    GitBranch,
 
45
    extract_tags,
 
46
    )
 
47
from bzrlib.plugins.git.errors import (
 
48
    GitSmartRemoteNotSupported,
 
49
    NoSuchRef,
 
50
    )
 
51
from bzrlib.plugins.git.dir import (
 
52
    GitDir,
 
53
    )
 
54
from bzrlib.plugins.git.mapping import (
 
55
    mapping_registry,
 
56
    )
 
57
from bzrlib.plugins.git.repository import (
 
58
    GitRepositoryFormat,
 
59
    GitRepository,
 
60
    )
 
61
 
 
62
import dulwich as git
 
63
from dulwich.errors import (
 
64
    GitProtocolError,
 
65
    )
 
66
from dulwich.pack import (
 
67
    Pack,
 
68
    PackData,
 
69
    )
 
70
import os
 
71
import tempfile
32
72
import urllib
33
73
import urlparse
34
74
 
35
 
from dulwich.pack import PackData
 
75
try:
 
76
    from dulwich.pack import load_pack_index
 
77
except ImportError:
 
78
    from dulwich.pack import PackIndex as load_pack_index
 
79
 
 
80
 
 
81
# Don't run any tests on GitSmartTransport as it is not intended to be 
 
82
# a full implementation of Transport
 
83
def get_test_permutations():
 
84
    return []
36
85
 
37
86
 
38
87
class GitSmartTransport(Transport):
40
89
    def __init__(self, url, _client=None):
41
90
        Transport.__init__(self, url)
42
91
        (scheme, _, loc, _, _) = urlparse.urlsplit(url)
43
 
        assert scheme == "git"
44
92
        hostport, self._path = urllib.splithost(loc)
45
 
        (self._host, self._port) = urllib.splitnport(hostport, git.protocol.TCP_GIT_PORT)
46
 
        if _client is not None:
47
 
            self._client = _client
48
 
        else:
49
 
            self._client = git.client.TCPGitClient(self._host, self._port)
 
93
        (self._username, hostport) = urllib.splituser(hostport)
 
94
        (self._host, self._port) = urllib.splitnport(hostport, None)
 
95
        self._client = _client
 
96
 
 
97
    def has(self, relpath):
 
98
        return False
 
99
 
 
100
    def _get_client(self):
 
101
        raise NotImplementedError(self._get_client)
 
102
 
 
103
    def _get_path(self):
 
104
        return self._path
50
105
 
51
106
    def fetch_pack(self, determine_wants, graph_walker, pack_data, progress=None):
52
107
        if progress is None:
53
108
            def progress(text):
54
109
                info("git: %s" % text)
55
 
        self._client.fetch_pack(self._path, determine_wants, graph_walker, 
56
 
                pack_data, progress)
 
110
        client = self._get_client()
 
111
        try:
 
112
            return client.fetch_pack(self._get_path(), determine_wants, 
 
113
                graph_walker, pack_data, progress)
 
114
        except GitProtocolError, e:
 
115
            raise BzrError(e)
57
116
 
58
 
    def fetch_objects(self, determine_wants, graph_walker, progress=None):
59
 
        fd, path = tempfile.mkstemp(dir=self.pack_dir(), suffix=".pack")
60
 
        self.fetch_pack(determine_wants, graph_walker, lambda x: os.write(fd, x), progress)
61
 
        os.close(fd)
 
117
    def send_pack(self, get_changed_refs, generate_pack_contents):
 
118
        client = self._get_client()
62
119
        try:
63
 
            p = PackData(path)
64
 
            for o in p.iterobjects():
65
 
                yield o
66
 
        finally:
67
 
            os.remove(path)
 
120
            return client.send_pack(self._get_path(), get_changed_refs, 
 
121
                generate_pack_contents)
 
122
        except GitProtocolError, e:
 
123
            raise BzrError(e)
68
124
 
69
125
    def get(self, path):
70
126
        raise NoSuchFile(path)
71
127
 
 
128
    def abspath(self, relpath):
 
129
        return urlutils.join(self.base, relpath)
 
130
 
72
131
    def clone(self, offset=None):
73
132
        """See Transport.clone()."""
74
133
        if offset is None:
76
135
        else:
77
136
            newurl = urlutils.join(self.base, offset)
78
137
 
79
 
        return GitSmartTransport(newurl, self._client)
 
138
        return self.__class__(newurl, self._client)
 
139
 
 
140
 
 
141
class TCPGitSmartTransport(GitSmartTransport):
 
142
 
 
143
    _scheme = 'git'
 
144
 
 
145
    def _get_client(self):
 
146
        if self._client is not None:
 
147
            ret = self._client
 
148
            self._client = None
 
149
            return ret
 
150
        return git.client.TCPGitClient(self._host, self._port, thin_packs=False,
 
151
            report_activity=self._report_activity)
 
152
 
 
153
 
 
154
class SSHGitSmartTransport(GitSmartTransport):
 
155
 
 
156
    _scheme = 'git+ssh'
 
157
 
 
158
    def _get_path(self):
 
159
        if self._path.startswith("/~/"):
 
160
            return self._path[3:]
 
161
        return self._path
 
162
 
 
163
    def _get_client(self):
 
164
        if self._client is not None:
 
165
            ret = self._client
 
166
            self._client = None
 
167
            return ret
 
168
        return git.client.SSHGitClient(self._host, self._port, self._username,
 
169
            thin_packs=False, report_activity=self._report_activity)
80
170
 
81
171
 
82
172
class RemoteGitDir(GitDir):
86
176
        self.root_transport = transport
87
177
        self.transport = transport
88
178
        self._lockfiles = lockfiles
 
179
        self._mode_check_done = None
89
180
 
90
181
    def open_repository(self):
91
182
        return RemoteGitRepository(self, self._lockfiles)
92
183
 
93
 
    def open_branch(self):
 
184
    def open_branch(self, ignore_fallbacks=False):
94
185
        repo = self.open_repository()
95
186
        # TODO: Support for multiple branches in one bzrdir in bzrlib!
96
187
        return RemoteGitBranch(self, repo, "HEAD", self._lockfiles)
99
190
        raise NotLocalUrl(self.transport.base)
100
191
 
101
192
 
 
193
class EmptyObjectStoreIterator(dict):
 
194
 
 
195
    def iterobjects(self):
 
196
        return []
 
197
 
 
198
 
 
199
class TemporaryPackIterator(Pack):
 
200
 
 
201
    def __init__(self, path, resolve_ext_ref):
 
202
        super(TemporaryPackIterator, self).__init__(path)
 
203
        self.resolve_ext_ref = resolve_ext_ref
 
204
 
 
205
    @property
 
206
    def index(self):
 
207
        if self._idx is None:
 
208
            if self._data is None:
 
209
                self._data = PackData(self._data_path)
 
210
            pb = ui.ui_factory.nested_progress_bar()
 
211
            try:
 
212
                def report_progress(cur, total):
 
213
                    pb.update("generating index", cur, total)
 
214
                self._data.create_index_v2(self._idx_path, self.resolve_ext_ref,
 
215
                    progress=report_progress)
 
216
            finally:
 
217
                pb.finished()
 
218
            self._idx = load_pack_index(self._idx_path)
 
219
        return self._idx
 
220
 
 
221
    def __del__(self):
 
222
        os.remove(self._data_path)
 
223
        os.remove(self._idx_path)
 
224
 
 
225
 
102
226
class RemoteGitRepository(GitRepository):
103
227
 
104
228
    def __init__(self, gitdir, lockfiles):
105
229
        GitRepository.__init__(self, gitdir, lockfiles)
 
230
        self._refs = None
 
231
 
 
232
    @property
 
233
    def inventories(self):
 
234
        raise GitSmartRemoteNotSupported()
 
235
 
 
236
    @property
 
237
    def revisions(self):
 
238
        raise GitSmartRemoteNotSupported()
 
239
 
 
240
    @property
 
241
    def texts(self):
 
242
        raise GitSmartRemoteNotSupported()
 
243
 
 
244
    def get_refs(self):
 
245
        if self._refs is not None:
 
246
            return self._refs
 
247
        self._refs = self.bzrdir.root_transport.fetch_pack(lambda x: [], None, 
 
248
            lambda x: None, lambda x: mutter("git: %s" % x))
 
249
        return self._refs
106
250
 
107
251
    def fetch_pack(self, determine_wants, graph_walker, pack_data, 
108
252
                   progress=None):
109
 
        self._transport.fetch_pack(determine_wants, graph_walker, pack_data, 
110
 
            progress)
 
253
        return self._transport.fetch_pack(determine_wants, graph_walker,
 
254
                                          pack_data, progress)
 
255
 
 
256
    def send_pack(self, get_changed_refs, generate_pack_contents):
 
257
        return self._transport.send_pack(get_changed_refs, generate_pack_contents)
 
258
 
 
259
    def fetch_objects(self, determine_wants, graph_walker, resolve_ext_ref, progress=None):
 
260
        fd, path = tempfile.mkstemp(suffix=".pack")
 
261
        self.fetch_pack(determine_wants, graph_walker, lambda x: os.write(fd, x), progress)
 
262
        os.close(fd)
 
263
        if os.path.getsize(path) == 0:
 
264
            return EmptyObjectStoreIterator()
 
265
        return TemporaryPackIterator(path[:-len(".pack")], resolve_ext_ref)
 
266
 
 
267
    def lookup_git_revid(self, bzr_revid):
 
268
        # This won't work for any round-tripped bzr revisions, but it's a start..
 
269
        try:
 
270
            return mapping_registry.revision_id_bzr_to_foreign(bzr_revid)
 
271
        except InvalidRevisionId:
 
272
            raise NoSuchRevision(self, bzr_revid)
 
273
 
 
274
 
 
275
class RemoteGitTagDict(tag.BasicTags):
 
276
 
 
277
    def __init__(self, branch):
 
278
        self.branch = branch
 
279
        self.repository = branch.repository
 
280
 
 
281
    def get_tag_dict(self):
 
282
        return extract_tags(self.repository.get_refs(), self.branch.mapping)
 
283
 
 
284
    def set_tag(self, name, revid):
 
285
        # FIXME: Not supported yet, should do a push of a new ref
 
286
        raise NotImplementedError(self.set_tag)
111
287
 
112
288
 
113
289
class RemoteGitBranch(GitBranch):
114
290
 
115
291
    def __init__(self, bzrdir, repository, name, lockfiles):
116
 
        def determine_wants(heads):
117
 
            self._ref = heads[name]
118
 
        bzrdir.root_transport.fetch_pack(determine_wants, None, lambda x: None, 
119
 
                             lambda x: mutter("git: %s" % x))
120
 
        super(RemoteGitBranch, self).__init__(bzrdir, repository, name, self._ref, lockfiles)
 
292
        self._ref = None
 
293
        super(RemoteGitBranch, self).__init__(bzrdir, repository, name, 
 
294
                lockfiles)
 
295
 
 
296
    def revision_history(self):
 
297
        raise GitSmartRemoteNotSupported()
121
298
 
122
299
    def last_revision(self):
123
 
        return self.mapping.revision_id_foreign_to_bzr(self._ref)
124
 
 
 
300
        return self.mapping.revision_id_foreign_to_bzr(self.head)
 
301
 
 
302
    @property
 
303
    def head(self):
 
304
        if self._ref is not None:
 
305
            return self._ref
 
306
        heads = self.repository.get_refs()
 
307
        if not self.name in heads:
 
308
            raise NoSuchRef(name)
 
309
        self._ref = heads[self.name]
 
310
        return self._ref
 
311
 
 
312
    def _synchronize_history(self, destination, revision_id):
 
313
        """See Branch._synchronize_history()."""
 
314
        destination.generate_revision_history(self.last_revision())
 
315