/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to remote.py

Add helper function, always set encoding to utf-8.

Show diffs side-by-side

added added

removed removed

Lines of Context:
remote.py
1
 
# Copyright (C) 2007-2008 Canonical Ltd
 
1
# Copyright (C) 2007-2009 Jelmer Vernooij <jelmer@samba.org>
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
14
14
# along with this program; if not, write to the Free Software
15
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
 
import bzrlib
18
 
from bzrlib import urlutils
19
 
from bzrlib.bzrdir import BzrDir, BzrDirFormat
20
 
from bzrlib.errors import NoSuchFile, NotLocalUrl
21
 
from bzrlib.lockable_files import TransportLock
22
 
from bzrlib.repository import Repository
23
 
from bzrlib.trace import info
24
 
from bzrlib.transport import Transport
 
17
from bzrlib import (
 
18
    config,
 
19
    debug,
 
20
    tag,
 
21
    trace,
 
22
    ui,
 
23
    urlutils,
 
24
    )
 
25
from bzrlib.errors import (
 
26
    BzrError,
 
27
    InvalidRevisionId,
 
28
    NoSuchFile,
 
29
    NoSuchRevision,
 
30
    NotLocalUrl,
 
31
    )
 
32
from bzrlib.transport import (
 
33
    Transport,
 
34
    )
25
35
 
26
 
from bzrlib.plugins.git import lazy_check_versions
 
36
from bzrlib.plugins.git import (
 
37
    lazy_check_versions,
 
38
    )
27
39
lazy_check_versions()
28
40
 
29
 
from bzrlib.plugins.git.branch import GitBranch
30
 
from bzrlib.plugins.git.errors import NoSuchRef
31
 
from bzrlib.plugins.git.dir import GitDir
32
 
from bzrlib.plugins.git.foreign import ForeignBranch
33
 
from bzrlib.plugins.git.repository import GitFormat, GitRepository
 
41
from bzrlib.plugins.git.branch import (
 
42
    GitBranch,
 
43
    extract_tags,
 
44
    )
 
45
from bzrlib.plugins.git.errors import (
 
46
    GitSmartRemoteNotSupported,
 
47
    NoSuchRef,
 
48
    )
 
49
from bzrlib.plugins.git.dir import (
 
50
    GitDir,
 
51
    )
 
52
from bzrlib.plugins.git.mapping import (
 
53
    mapping_registry,
 
54
    )
 
55
from bzrlib.plugins.git.repository import (
 
56
    GitRepository,
 
57
    )
34
58
 
 
59
import dulwich as git
 
60
from dulwich.errors import (
 
61
    GitProtocolError,
 
62
    )
 
63
from dulwich.pack import (
 
64
    Pack,
 
65
    PackData,
 
66
    )
35
67
import os
36
68
import tempfile
37
69
import urllib
38
70
import urlparse
39
71
 
40
 
import dulwich as git
41
 
from dulwich.pack import PackData, Pack, PackIndex
42
 
 
43
 
# Don't run any tests on GitSmartTransport as it is not intended to be 
 
72
from dulwich.pack import load_pack_index
 
73
 
 
74
 
 
75
# Don't run any tests on GitSmartTransport as it is not intended to be
44
76
# a full implementation of Transport
45
77
def get_test_permutations():
46
78
    return []
47
79
 
48
80
 
 
81
def split_git_url(url):
 
82
    """Split a Git URL.
 
83
 
 
84
    :param url: Git URL
 
85
    :return: Tuple with host, port, username, path.
 
86
    """
 
87
    (scheme, _, loc, _, _) = urlparse.urlsplit(url)
 
88
    hostport, escaped_path = urllib.splithost(loc)
 
89
    path = urllib.unquote(escaped_path)
 
90
    if path.startswith("/~"):
 
91
        path = path[1:]
 
92
    (username, hostport) = urllib.splituser(hostport)
 
93
    (host, port) = urllib.splitnport(hostport, None)
 
94
    return (host, port, username, path)
 
95
 
 
96
 
49
97
class GitSmartTransport(Transport):
50
98
 
51
99
    def __init__(self, url, _client=None):
52
100
        Transport.__init__(self, url)
53
 
        (scheme, _, loc, _, _) = urlparse.urlsplit(url)
54
 
        assert scheme == "git"
55
 
        hostport, self._path = urllib.splithost(loc)
56
 
        (self._host, self._port) = urllib.splitnport(hostport, git.protocol.TCP_GIT_PORT)
 
101
        (self._host, self._port, self._username, self._path) = \
 
102
            split_git_url(url)
 
103
        if 'transport' in debug.debug_flags:
 
104
            trace.mutter('host: %r, user: %r, port: %r, path: %r',
 
105
                         self._host, self._username, self._port, self._path)
57
106
        self._client = _client
58
107
 
59
 
    def _get_client(self):
60
 
        if self._client is not None:
61
 
            ret = self._client
62
 
            self._client = None
63
 
            return ret
64
 
        return git.client.TCPGitClient(self._host, self._port, 
65
 
            capabilities=["multi_ack", "side-band-64k", "ofs-delta", "side-band"])
 
108
    def external_url(self):
 
109
        return self.base
 
110
 
 
111
    def has(self, relpath):
 
112
        return False
 
113
 
 
114
    def _get_client(self, thin_packs):
 
115
        raise NotImplementedError(self._get_client)
 
116
 
 
117
    def _get_path(self):
 
118
        return self._path
66
119
 
67
120
    def fetch_pack(self, determine_wants, graph_walker, pack_data, progress=None):
68
121
        if progress is None:
69
122
            def progress(text):
70
 
                info("git: %s" % text)
71
 
        self._get_client().fetch_pack(self._path, determine_wants, 
72
 
            graph_walker, pack_data, progress)
 
123
                trace.info("git: %s" % text)
 
124
        client = self._get_client(thin_packs=False)
 
125
        try:
 
126
            return client.fetch_pack(self._get_path(), determine_wants,
 
127
                graph_walker, pack_data, progress)
 
128
        except GitProtocolError, e:
 
129
            raise BzrError(e)
 
130
 
 
131
    def send_pack(self, get_changed_refs, generate_pack_contents):
 
132
        client = self._get_client(thin_packs=False)
 
133
        try:
 
134
            return client.send_pack(self._get_path(), get_changed_refs,
 
135
                generate_pack_contents)
 
136
        except GitProtocolError, e:
 
137
            raise BzrError(e)
73
138
 
74
139
    def get(self, path):
75
140
        raise NoSuchFile(path)
84
149
        else:
85
150
            newurl = urlutils.join(self.base, offset)
86
151
 
87
 
        return GitSmartTransport(newurl, self._client)
 
152
        return self.__class__(newurl, self._client)
 
153
 
 
154
 
 
155
class TCPGitSmartTransport(GitSmartTransport):
 
156
 
 
157
    _scheme = 'git'
 
158
 
 
159
    def _get_client(self, thin_packs):
 
160
        if self._client is not None:
 
161
            ret = self._client
 
162
            self._client = None
 
163
            return ret
 
164
        return git.client.TCPGitClient(self._host, self._port, thin_packs=thin_packs,
 
165
            report_activity=self._report_activity)
 
166
 
 
167
 
 
168
class SSHGitSmartTransport(GitSmartTransport):
 
169
 
 
170
    _scheme = 'git+ssh'
 
171
 
 
172
    def _get_path(self):
 
173
        if self._path.startswith("/~/"):
 
174
            return self._path[3:]
 
175
        return self._path
 
176
 
 
177
    def _get_client(self, thin_packs):
 
178
        if self._client is not None:
 
179
            ret = self._client
 
180
            self._client = None
 
181
            return ret
 
182
        return git.client.SSHGitClient(self._host, self._port, self._username,
 
183
            thin_packs=thin_packs, report_activity=self._report_activity)
88
184
 
89
185
 
90
186
class RemoteGitDir(GitDir):
94
190
        self.root_transport = transport
95
191
        self.transport = transport
96
192
        self._lockfiles = lockfiles
 
193
        self._mode_check_done = None
97
194
 
98
195
    def open_repository(self):
99
196
        return RemoteGitRepository(self, self._lockfiles)
100
197
 
101
 
    def open_branch(self, _unsupported=False):
 
198
    def open_branch(self, ignore_fallbacks=False, name=None,
 
199
                    unsupported=False):
102
200
        repo = self.open_repository()
103
 
        # TODO: Support for multiple branches in one bzrdir in bzrlib!
104
 
        return RemoteGitBranch(self, repo, "HEAD", self._lockfiles)
 
201
        refname = self._branch_name_to_ref(name)
 
202
        return RemoteGitBranch(self, repo, refname, self._lockfiles)
105
203
 
106
 
    def open_workingtree(self):
 
204
    def open_workingtree(self, recommend_upgrade=False):
107
205
        raise NotLocalUrl(self.transport.base)
108
206
 
109
207
 
116
214
class TemporaryPackIterator(Pack):
117
215
 
118
216
    def __init__(self, path, resolve_ext_ref):
 
217
        super(TemporaryPackIterator, self).__init__(path)
119
218
        self.resolve_ext_ref = resolve_ext_ref
120
 
        super(TemporaryPackIterator, self).__init__(path)
121
 
 
122
 
    @property
123
 
    def idx(self):
 
219
 
 
220
    @property
 
221
    def data(self):
 
222
        if self._data is None:
 
223
            self._data = PackData(self._data_path)
 
224
        return self._data
 
225
 
 
226
    @property
 
227
    def index(self):
124
228
        if self._idx is None:
125
 
            self._data.create_index_v2(self._idx_path, self.resolve_ext_ref)
126
 
            self._idx = PackIndex(self._idx_path)
 
229
            if not os.path.exists(self._idx_path):
 
230
                pb = ui.ui_factory.nested_progress_bar()
 
231
                try:
 
232
                    def report_progress(cur, total):
 
233
                        pb.update("generating index", cur, total)
 
234
                    self.data.create_index(self._idx_path, self.resolve_ext_ref,
 
235
                        progress=report_progress)
 
236
                finally:
 
237
                    pb.finished()
 
238
            self._idx = load_pack_index(self._idx_path)
127
239
        return self._idx
128
240
 
129
241
    def __del__(self):
130
 
        os.remove(self._data_path)
131
 
        os.remove(self._idx_path)
 
242
        if self._idx is not None:
 
243
            self._idx.close()
 
244
            os.remove(self._idx_path)
 
245
        if self._data is not None:
 
246
            self._data.close()
 
247
            os.remove(self._data_path)
132
248
 
133
249
 
134
250
class RemoteGitRepository(GitRepository):
135
251
 
136
252
    def __init__(self, gitdir, lockfiles):
137
253
        GitRepository.__init__(self, gitdir, lockfiles)
138
 
 
139
 
    def fetch_pack(self, determine_wants, graph_walker, pack_data, 
 
254
        self._refs = None
 
255
 
 
256
    @property
 
257
    def inventories(self):
 
258
        raise GitSmartRemoteNotSupported()
 
259
 
 
260
    @property
 
261
    def revisions(self):
 
262
        raise GitSmartRemoteNotSupported()
 
263
 
 
264
    @property
 
265
    def texts(self):
 
266
        raise GitSmartRemoteNotSupported()
 
267
 
 
268
    def get_refs(self):
 
269
        if self._refs is not None:
 
270
            return self._refs
 
271
        self._refs = self.bzrdir.root_transport.fetch_pack(lambda x: [], None,
 
272
            lambda x: None, lambda x: trace.mutter("git: %s" % x))
 
273
        return self._refs
 
274
 
 
275
    def fetch_pack(self, determine_wants, graph_walker, pack_data,
140
276
                   progress=None):
141
 
        self._transport.fetch_pack(determine_wants, graph_walker, pack_data, 
142
 
            progress)
143
 
 
144
 
    def fetch_objects(self, determine_wants, graph_walker, resolve_ext_ref, progress=None):
 
277
        return self._transport.fetch_pack(determine_wants, graph_walker,
 
278
                                          pack_data, progress)
 
279
 
 
280
    def send_pack(self, get_changed_refs, generate_pack_contents):
 
281
        return self._transport.send_pack(get_changed_refs, generate_pack_contents)
 
282
 
 
283
    def fetch_objects(self, determine_wants, graph_walker, resolve_ext_ref,
 
284
                      progress=None):
145
285
        fd, path = tempfile.mkstemp(suffix=".pack")
146
 
        self.fetch_pack(determine_wants, graph_walker, lambda x: os.write(fd, x), progress)
 
286
        self.fetch_pack(determine_wants, graph_walker,
 
287
            lambda x: os.write(fd, x), progress)
147
288
        os.close(fd)
148
289
        if os.path.getsize(path) == 0:
149
290
            return EmptyObjectStoreIterator()
150
291
        return TemporaryPackIterator(path[:-len(".pack")], resolve_ext_ref)
151
292
 
 
293
    def lookup_bzr_revision_id(self, bzr_revid):
 
294
        # This won't work for any round-tripped bzr revisions, but it's a start..
 
295
        try:
 
296
            return mapping_registry.revision_id_bzr_to_foreign(bzr_revid)
 
297
        except InvalidRevisionId:
 
298
            raise NoSuchRevision(self, bzr_revid)
 
299
 
 
300
 
 
301
class RemoteGitTagDict(tag.BasicTags):
 
302
 
 
303
    def __init__(self, branch):
 
304
        self.branch = branch
 
305
        self.repository = branch.repository
 
306
 
 
307
    def get_tag_dict(self):
 
308
        tags = {}
 
309
        for k, v in extract_tags(self.repository.get_refs()).iteritems():
 
310
            tags[k] = self.branch.mapping.revision_id_foreign_to_bzr(v)
 
311
        return tags
 
312
 
 
313
    def set_tag(self, name, revid):
 
314
        # FIXME: Not supported yet, should do a push of a new ref
 
315
        raise NotImplementedError(self.set_tag)
 
316
 
152
317
 
153
318
class RemoteGitBranch(GitBranch):
154
319
 
155
320
    def __init__(self, bzrdir, repository, name, lockfiles):
156
 
        def determine_wants(heads):
157
 
            if not name in heads:
158
 
                raise NoSuchRef(name)
159
 
            self._ref = heads[name]
160
 
        bzrdir.root_transport.fetch_pack(determine_wants, None, lambda x: None, 
161
 
                             lambda x: mutter("git: %s" % x))
162
 
        super(RemoteGitBranch, self).__init__(bzrdir, repository, name, self._ref, lockfiles)
 
321
        self._ref = None
 
322
        super(RemoteGitBranch, self).__init__(bzrdir, repository, name,
 
323
                lockfiles)
 
324
 
 
325
    def revision_history(self):
 
326
        raise GitSmartRemoteNotSupported()
163
327
 
164
328
    def last_revision(self):
165
 
        return self.mapping.revision_id_foreign_to_bzr(self._ref)
 
329
        return self.mapping.revision_id_foreign_to_bzr(self.head)
 
330
 
 
331
    def _get_config(self):
 
332
        class EmptyConfig(object):
 
333
 
 
334
            def _get_configobj(self):
 
335
                return config.ConfigObj()
 
336
 
 
337
        return EmptyConfig()
 
338
 
 
339
    @property
 
340
    def head(self):
 
341
        if self._ref is not None:
 
342
            return self._ref
 
343
        heads = self.repository.get_refs()
 
344
        if not self.name in heads:
 
345
            raise NoSuchRef(self.name)
 
346
        self._ref = heads[self.name]
 
347
        return self._ref
166
348
 
167
349
    def _synchronize_history(self, destination, revision_id):
168
350
        """See Branch._synchronize_history()."""
169
351
        destination.generate_revision_history(self.last_revision())
170
 
 
 
352
 
 
353
    def get_push_location(self):
 
354
        return None
 
355
 
 
356
    def set_push_location(self, url):
 
357
        pass