/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/smart/medium.py

  • Committer: Ian Clatworthy
  • Date: 2009-07-13 06:58:49 UTC
  • mto: (4527.1.1 integration)
  • mto: This revision was merged to the branch mainline in revision 4529.
  • Revision ID: ian.clatworthy@canonical.com-20090713065849-n7g2rsjyl6dt1mgv
Apply review feedback

Show diffs side-by-side

added added

removed removed

Lines of Context:
 
1
# Copyright (C) 2006 Canonical Ltd
 
2
#
 
3
# This program is free software; you can redistribute it and/or modify
 
4
# it under the terms of the GNU General Public License as published by
 
5
# the Free Software Foundation; either version 2 of the License, or
 
6
# (at your option) any later version.
 
7
#
 
8
# This program is distributed in the hope that it will be useful,
 
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
 
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
11
# GNU General Public License for more details.
 
12
#
 
13
# You should have received a copy of the GNU General Public License
 
14
# along with this program; if not, write to the Free Software
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
16
 
 
17
"""The 'medium' layer for the smart servers and clients.
 
18
 
 
19
"Medium" here is the noun meaning "a means of transmission", not the adjective
 
20
for "the quality between big and small."
 
21
 
 
22
Media carry the bytes of the requests somehow (e.g. via TCP, wrapped in HTTP, or
 
23
over SSH), and pass them to and from the protocol logic.  See the overview in
 
24
bzrlib/transport/smart/__init__.py.
 
25
"""
 
26
 
 
27
import errno
 
28
import os
 
29
import socket
 
30
import sys
 
31
import urllib
 
32
 
 
33
from bzrlib.lazy_import import lazy_import
 
34
lazy_import(globals(), """
 
35
import atexit
 
36
import weakref
 
37
from bzrlib import (
 
38
    debug,
 
39
    errors,
 
40
    osutils,
 
41
    symbol_versioning,
 
42
    trace,
 
43
    ui,
 
44
    urlutils,
 
45
    )
 
46
from bzrlib.smart import client, protocol, request, vfs
 
47
from bzrlib.transport import ssh
 
48
""")
 
49
 
 
50
 
 
51
# We must not read any more than 64k at a time so we don't risk "no buffer
 
52
# space available" errors on some platforms.  Windows in particular is likely
 
53
# to give error 10053 or 10055 if we read more than 64k from a socket.
 
54
_MAX_READ_SIZE = 64 * 1024
 
55
 
 
56
 
 
57
def _get_protocol_factory_for_bytes(bytes):
 
58
    """Determine the right protocol factory for 'bytes'.
 
59
 
 
60
    This will return an appropriate protocol factory depending on the version
 
61
    of the protocol being used, as determined by inspecting the given bytes.
 
62
    The bytes should have at least one newline byte (i.e. be a whole line),
 
63
    otherwise it's possible that a request will be incorrectly identified as
 
64
    version 1.
 
65
 
 
66
    Typical use would be::
 
67
 
 
68
         factory, unused_bytes = _get_protocol_factory_for_bytes(bytes)
 
69
         server_protocol = factory(transport, write_func, root_client_path)
 
70
         server_protocol.accept_bytes(unused_bytes)
 
71
 
 
72
    :param bytes: a str of bytes of the start of the request.
 
73
    :returns: 2-tuple of (protocol_factory, unused_bytes).  protocol_factory is
 
74
        a callable that takes three args: transport, write_func,
 
75
        root_client_path.  unused_bytes are any bytes that were not part of a
 
76
        protocol version marker.
 
77
    """
 
78
    if bytes.startswith(protocol.MESSAGE_VERSION_THREE):
 
79
        protocol_factory = protocol.build_server_protocol_three
 
80
        bytes = bytes[len(protocol.MESSAGE_VERSION_THREE):]
 
81
    elif bytes.startswith(protocol.REQUEST_VERSION_TWO):
 
82
        protocol_factory = protocol.SmartServerRequestProtocolTwo
 
83
        bytes = bytes[len(protocol.REQUEST_VERSION_TWO):]
 
84
    else:
 
85
        protocol_factory = protocol.SmartServerRequestProtocolOne
 
86
    return protocol_factory, bytes
 
87
 
 
88
 
 
89
def _get_line(read_bytes_func):
 
90
    """Read bytes using read_bytes_func until a newline byte.
 
91
 
 
92
    This isn't particularly efficient, so should only be used when the
 
93
    expected size of the line is quite short.
 
94
 
 
95
    :returns: a tuple of two strs: (line, excess)
 
96
    """
 
97
    newline_pos = -1
 
98
    bytes = ''
 
99
    while newline_pos == -1:
 
100
        new_bytes = read_bytes_func(1)
 
101
        bytes += new_bytes
 
102
        if new_bytes == '':
 
103
            # Ran out of bytes before receiving a complete line.
 
104
            return bytes, ''
 
105
        newline_pos = bytes.find('\n')
 
106
    line = bytes[:newline_pos+1]
 
107
    excess = bytes[newline_pos+1:]
 
108
    return line, excess
 
109
 
 
110
 
 
111
class SmartMedium(object):
 
112
    """Base class for smart protocol media, both client- and server-side."""
 
113
 
 
114
    def __init__(self):
 
115
        self._push_back_buffer = None
 
116
 
 
117
    def _push_back(self, bytes):
 
118
        """Return unused bytes to the medium, because they belong to the next
 
119
        request(s).
 
120
 
 
121
        This sets the _push_back_buffer to the given bytes.
 
122
        """
 
123
        if self._push_back_buffer is not None:
 
124
            raise AssertionError(
 
125
                "_push_back called when self._push_back_buffer is %r"
 
126
                % (self._push_back_buffer,))
 
127
        if bytes == '':
 
128
            return
 
129
        self._push_back_buffer = bytes
 
130
 
 
131
    def _get_push_back_buffer(self):
 
132
        if self._push_back_buffer == '':
 
133
            raise AssertionError(
 
134
                '%s._push_back_buffer should never be the empty string, '
 
135
                'which can be confused with EOF' % (self,))
 
136
        bytes = self._push_back_buffer
 
137
        self._push_back_buffer = None
 
138
        return bytes
 
139
 
 
140
    def read_bytes(self, desired_count):
 
141
        """Read some bytes from this medium.
 
142
 
 
143
        :returns: some bytes, possibly more or less than the number requested
 
144
            in 'desired_count' depending on the medium.
 
145
        """
 
146
        if self._push_back_buffer is not None:
 
147
            return self._get_push_back_buffer()
 
148
        bytes_to_read = min(desired_count, _MAX_READ_SIZE)
 
149
        return self._read_bytes(bytes_to_read)
 
150
 
 
151
    def _read_bytes(self, count):
 
152
        raise NotImplementedError(self._read_bytes)
 
153
 
 
154
    def _get_line(self):
 
155
        """Read bytes from this request's response until a newline byte.
 
156
 
 
157
        This isn't particularly efficient, so should only be used when the
 
158
        expected size of the line is quite short.
 
159
 
 
160
        :returns: a string of bytes ending in a newline (byte 0x0A).
 
161
        """
 
162
        line, excess = _get_line(self.read_bytes)
 
163
        self._push_back(excess)
 
164
        return line
 
165
 
 
166
    def _report_activity(self, bytes, direction):
 
167
        """Notify that this medium has activity.
 
168
 
 
169
        Implementations should call this from all methods that actually do IO.
 
170
        Be careful that it's not called twice, if one method is implemented on
 
171
        top of another.
 
172
 
 
173
        :param bytes: Number of bytes read or written.
 
174
        :param direction: 'read' or 'write' or None.
 
175
        """
 
176
        ui.ui_factory.report_transport_activity(self, bytes, direction)
 
177
 
 
178
 
 
179
class SmartServerStreamMedium(SmartMedium):
 
180
    """Handles smart commands coming over a stream.
 
181
 
 
182
    The stream may be a pipe connected to sshd, or a tcp socket, or an
 
183
    in-process fifo for testing.
 
184
 
 
185
    One instance is created for each connected client; it can serve multiple
 
186
    requests in the lifetime of the connection.
 
187
 
 
188
    The server passes requests through to an underlying backing transport,
 
189
    which will typically be a LocalTransport looking at the server's filesystem.
 
190
 
 
191
    :ivar _push_back_buffer: a str of bytes that have been read from the stream
 
192
        but not used yet, or None if there are no buffered bytes.  Subclasses
 
193
        should make sure to exhaust this buffer before reading more bytes from
 
194
        the stream.  See also the _push_back method.
 
195
    """
 
196
 
 
197
    def __init__(self, backing_transport, root_client_path='/'):
 
198
        """Construct new server.
 
199
 
 
200
        :param backing_transport: Transport for the directory served.
 
201
        """
 
202
        # backing_transport could be passed to serve instead of __init__
 
203
        self.backing_transport = backing_transport
 
204
        self.root_client_path = root_client_path
 
205
        self.finished = False
 
206
        SmartMedium.__init__(self)
 
207
 
 
208
    def serve(self):
 
209
        """Serve requests until the client disconnects."""
 
210
        # Keep a reference to stderr because the sys module's globals get set to
 
211
        # None during interpreter shutdown.
 
212
        from sys import stderr
 
213
        try:
 
214
            while not self.finished:
 
215
                server_protocol = self._build_protocol()
 
216
                self._serve_one_request(server_protocol)
 
217
        except Exception, e:
 
218
            stderr.write("%s terminating on exception %s\n" % (self, e))
 
219
            raise
 
220
 
 
221
    def _build_protocol(self):
 
222
        """Identifies the version of the incoming request, and returns an
 
223
        a protocol object that can interpret it.
 
224
 
 
225
        If more bytes than the version prefix of the request are read, they will
 
226
        be fed into the protocol before it is returned.
 
227
 
 
228
        :returns: a SmartServerRequestProtocol.
 
229
        """
 
230
        bytes = self._get_line()
 
231
        protocol_factory, unused_bytes = _get_protocol_factory_for_bytes(bytes)
 
232
        protocol = protocol_factory(
 
233
            self.backing_transport, self._write_out, self.root_client_path)
 
234
        protocol.accept_bytes(unused_bytes)
 
235
        return protocol
 
236
 
 
237
    def _serve_one_request(self, protocol):
 
238
        """Read one request from input, process, send back a response.
 
239
 
 
240
        :param protocol: a SmartServerRequestProtocol.
 
241
        """
 
242
        try:
 
243
            self._serve_one_request_unguarded(protocol)
 
244
        except KeyboardInterrupt:
 
245
            raise
 
246
        except Exception, e:
 
247
            self.terminate_due_to_error()
 
248
 
 
249
    def terminate_due_to_error(self):
 
250
        """Called when an unhandled exception from the protocol occurs."""
 
251
        raise NotImplementedError(self.terminate_due_to_error)
 
252
 
 
253
    def _read_bytes(self, desired_count):
 
254
        """Get some bytes from the medium.
 
255
 
 
256
        :param desired_count: number of bytes we want to read.
 
257
        """
 
258
        raise NotImplementedError(self._read_bytes)
 
259
 
 
260
 
 
261
class SmartServerSocketStreamMedium(SmartServerStreamMedium):
 
262
 
 
263
    def __init__(self, sock, backing_transport, root_client_path='/'):
 
264
        """Constructor.
 
265
 
 
266
        :param sock: the socket the server will read from.  It will be put
 
267
            into blocking mode.
 
268
        """
 
269
        SmartServerStreamMedium.__init__(
 
270
            self, backing_transport, root_client_path=root_client_path)
 
271
        sock.setblocking(True)
 
272
        self.socket = sock
 
273
 
 
274
    def _serve_one_request_unguarded(self, protocol):
 
275
        while protocol.next_read_size():
 
276
            # We can safely try to read large chunks.  If there is less data
 
277
            # than _MAX_READ_SIZE ready, the socket wil just return a short
 
278
            # read immediately rather than block.
 
279
            bytes = self.read_bytes(_MAX_READ_SIZE)
 
280
            if bytes == '':
 
281
                self.finished = True
 
282
                return
 
283
            protocol.accept_bytes(bytes)
 
284
 
 
285
        self._push_back(protocol.unused_data)
 
286
 
 
287
    def _read_bytes(self, desired_count):
 
288
        return _read_bytes_from_socket(
 
289
            self.socket.recv, desired_count, self._report_activity)
 
290
 
 
291
    def terminate_due_to_error(self):
 
292
        # TODO: This should log to a server log file, but no such thing
 
293
        # exists yet.  Andrew Bennetts 2006-09-29.
 
294
        self.socket.close()
 
295
        self.finished = True
 
296
 
 
297
    def _write_out(self, bytes):
 
298
        osutils.send_all(self.socket, bytes, self._report_activity)
 
299
 
 
300
 
 
301
class SmartServerPipeStreamMedium(SmartServerStreamMedium):
 
302
 
 
303
    def __init__(self, in_file, out_file, backing_transport):
 
304
        """Construct new server.
 
305
 
 
306
        :param in_file: Python file from which requests can be read.
 
307
        :param out_file: Python file to write responses.
 
308
        :param backing_transport: Transport for the directory served.
 
309
        """
 
310
        SmartServerStreamMedium.__init__(self, backing_transport)
 
311
        if sys.platform == 'win32':
 
312
            # force binary mode for files
 
313
            import msvcrt
 
314
            for f in (in_file, out_file):
 
315
                fileno = getattr(f, 'fileno', None)
 
316
                if fileno:
 
317
                    msvcrt.setmode(fileno(), os.O_BINARY)
 
318
        self._in = in_file
 
319
        self._out = out_file
 
320
 
 
321
    def _serve_one_request_unguarded(self, protocol):
 
322
        while True:
 
323
            # We need to be careful not to read past the end of the current
 
324
            # request, or else the read from the pipe will block, so we use
 
325
            # protocol.next_read_size().
 
326
            bytes_to_read = protocol.next_read_size()
 
327
            if bytes_to_read == 0:
 
328
                # Finished serving this request.
 
329
                self._out.flush()
 
330
                return
 
331
            bytes = self.read_bytes(bytes_to_read)
 
332
            if bytes == '':
 
333
                # Connection has been closed.
 
334
                self.finished = True
 
335
                self._out.flush()
 
336
                return
 
337
            protocol.accept_bytes(bytes)
 
338
 
 
339
    def _read_bytes(self, desired_count):
 
340
        return self._in.read(desired_count)
 
341
 
 
342
    def terminate_due_to_error(self):
 
343
        # TODO: This should log to a server log file, but no such thing
 
344
        # exists yet.  Andrew Bennetts 2006-09-29.
 
345
        self._out.close()
 
346
        self.finished = True
 
347
 
 
348
    def _write_out(self, bytes):
 
349
        self._out.write(bytes)
 
350
 
 
351
 
 
352
class SmartClientMediumRequest(object):
 
353
    """A request on a SmartClientMedium.
 
354
 
 
355
    Each request allows bytes to be provided to it via accept_bytes, and then
 
356
    the response bytes to be read via read_bytes.
 
357
 
 
358
    For instance:
 
359
    request.accept_bytes('123')
 
360
    request.finished_writing()
 
361
    result = request.read_bytes(3)
 
362
    request.finished_reading()
 
363
 
 
364
    It is up to the individual SmartClientMedium whether multiple concurrent
 
365
    requests can exist. See SmartClientMedium.get_request to obtain instances
 
366
    of SmartClientMediumRequest, and the concrete Medium you are using for
 
367
    details on concurrency and pipelining.
 
368
    """
 
369
 
 
370
    def __init__(self, medium):
 
371
        """Construct a SmartClientMediumRequest for the medium medium."""
 
372
        self._medium = medium
 
373
        # we track state by constants - we may want to use the same
 
374
        # pattern as BodyReader if it gets more complex.
 
375
        # valid states are: "writing", "reading", "done"
 
376
        self._state = "writing"
 
377
 
 
378
    def accept_bytes(self, bytes):
 
379
        """Accept bytes for inclusion in this request.
 
380
 
 
381
        This method may not be called after finished_writing() has been
 
382
        called.  It depends upon the Medium whether or not the bytes will be
 
383
        immediately transmitted. Message based Mediums will tend to buffer the
 
384
        bytes until finished_writing() is called.
 
385
 
 
386
        :param bytes: A bytestring.
 
387
        """
 
388
        if self._state != "writing":
 
389
            raise errors.WritingCompleted(self)
 
390
        self._accept_bytes(bytes)
 
391
 
 
392
    def _accept_bytes(self, bytes):
 
393
        """Helper for accept_bytes.
 
394
 
 
395
        Accept_bytes checks the state of the request to determing if bytes
 
396
        should be accepted. After that it hands off to _accept_bytes to do the
 
397
        actual acceptance.
 
398
        """
 
399
        raise NotImplementedError(self._accept_bytes)
 
400
 
 
401
    def finished_reading(self):
 
402
        """Inform the request that all desired data has been read.
 
403
 
 
404
        This will remove the request from the pipeline for its medium (if the
 
405
        medium supports pipelining) and any further calls to methods on the
 
406
        request will raise ReadingCompleted.
 
407
        """
 
408
        if self._state == "writing":
 
409
            raise errors.WritingNotComplete(self)
 
410
        if self._state != "reading":
 
411
            raise errors.ReadingCompleted(self)
 
412
        self._state = "done"
 
413
        self._finished_reading()
 
414
 
 
415
    def _finished_reading(self):
 
416
        """Helper for finished_reading.
 
417
 
 
418
        finished_reading checks the state of the request to determine if
 
419
        finished_reading is allowed, and if it is hands off to _finished_reading
 
420
        to perform the action.
 
421
        """
 
422
        raise NotImplementedError(self._finished_reading)
 
423
 
 
424
    def finished_writing(self):
 
425
        """Finish the writing phase of this request.
 
426
 
 
427
        This will flush all pending data for this request along the medium.
 
428
        After calling finished_writing, you may not call accept_bytes anymore.
 
429
        """
 
430
        if self._state != "writing":
 
431
            raise errors.WritingCompleted(self)
 
432
        self._state = "reading"
 
433
        self._finished_writing()
 
434
 
 
435
    def _finished_writing(self):
 
436
        """Helper for finished_writing.
 
437
 
 
438
        finished_writing checks the state of the request to determine if
 
439
        finished_writing is allowed, and if it is hands off to _finished_writing
 
440
        to perform the action.
 
441
        """
 
442
        raise NotImplementedError(self._finished_writing)
 
443
 
 
444
    def read_bytes(self, count):
 
445
        """Read bytes from this requests response.
 
446
 
 
447
        This method will block and wait for count bytes to be read. It may not
 
448
        be invoked until finished_writing() has been called - this is to ensure
 
449
        a message-based approach to requests, for compatibility with message
 
450
        based mediums like HTTP.
 
451
        """
 
452
        if self._state == "writing":
 
453
            raise errors.WritingNotComplete(self)
 
454
        if self._state != "reading":
 
455
            raise errors.ReadingCompleted(self)
 
456
        return self._read_bytes(count)
 
457
 
 
458
    def _read_bytes(self, count):
 
459
        """Helper for SmartClientMediumRequest.read_bytes.
 
460
 
 
461
        read_bytes checks the state of the request to determing if bytes
 
462
        should be read. After that it hands off to _read_bytes to do the
 
463
        actual read.
 
464
 
 
465
        By default this forwards to self._medium.read_bytes because we are
 
466
        operating on the medium's stream.
 
467
        """
 
468
        return self._medium.read_bytes(count)
 
469
 
 
470
    def read_line(self):
 
471
        line = self._read_line()
 
472
        if not line.endswith('\n'):
 
473
            # end of file encountered reading from server
 
474
            raise errors.ConnectionReset(
 
475
                "Unexpected end of message. Please check connectivity "
 
476
                "and permissions, and report a bug if problems persist.")
 
477
        return line
 
478
 
 
479
    def _read_line(self):
 
480
        """Helper for SmartClientMediumRequest.read_line.
 
481
 
 
482
        By default this forwards to self._medium._get_line because we are
 
483
        operating on the medium's stream.
 
484
        """
 
485
        return self._medium._get_line()
 
486
 
 
487
 
 
488
class _DebugCounter(object):
 
489
    """An object that counts the HPSS calls made to each client medium.
 
490
 
 
491
    When a medium is garbage-collected, or failing that when atexit functions
 
492
    are run, the total number of calls made on that medium are reported via
 
493
    trace.note.
 
494
    """
 
495
 
 
496
    def __init__(self):
 
497
        self.counts = weakref.WeakKeyDictionary()
 
498
        client._SmartClient.hooks.install_named_hook(
 
499
            'call', self.increment_call_count, 'hpss call counter')
 
500
        atexit.register(self.flush_all)
 
501
 
 
502
    def track(self, medium):
 
503
        """Start tracking calls made to a medium.
 
504
 
 
505
        This only keeps a weakref to the medium, so shouldn't affect the
 
506
        medium's lifetime.
 
507
        """
 
508
        medium_repr = repr(medium)
 
509
        # Add this medium to the WeakKeyDictionary
 
510
        self.counts[medium] = dict(count=0, vfs_count=0,
 
511
                                   medium_repr=medium_repr)
 
512
        # Weakref callbacks are fired in reverse order of their association
 
513
        # with the referenced object.  So we add a weakref *after* adding to
 
514
        # the WeakKeyDict so that we can report the value from it before the
 
515
        # entry is removed by the WeakKeyDict's own callback.
 
516
        ref = weakref.ref(medium, self.done)
 
517
 
 
518
    def increment_call_count(self, params):
 
519
        # Increment the count in the WeakKeyDictionary
 
520
        value = self.counts[params.medium]
 
521
        value['count'] += 1
 
522
        request_method = request.request_handlers.get(params.method)
 
523
        if issubclass(request_method, vfs.VfsRequest):
 
524
            value['vfs_count'] += 1
 
525
 
 
526
    def done(self, ref):
 
527
        value = self.counts[ref]
 
528
        count, vfs_count, medium_repr = (
 
529
            value['count'], value['vfs_count'], value['medium_repr'])
 
530
        # In case this callback is invoked for the same ref twice (by the
 
531
        # weakref callback and by the atexit function), set the call count back
 
532
        # to 0 so this item won't be reported twice.
 
533
        value['count'] = 0
 
534
        value['vfs_count'] = 0
 
535
        if count != 0:
 
536
            trace.note('HPSS calls: %d (%d vfs) %s',
 
537
                       count, vfs_count, medium_repr)
 
538
 
 
539
    def flush_all(self):
 
540
        for ref in list(self.counts.keys()):
 
541
            self.done(ref)
 
542
 
 
543
_debug_counter = None
 
544
 
 
545
 
 
546
class SmartClientMedium(SmartMedium):
 
547
    """Smart client is a medium for sending smart protocol requests over."""
 
548
 
 
549
    def __init__(self, base):
 
550
        super(SmartClientMedium, self).__init__()
 
551
        self.base = base
 
552
        self._protocol_version_error = None
 
553
        self._protocol_version = None
 
554
        self._done_hello = False
 
555
        # Be optimistic: we assume the remote end can accept new remote
 
556
        # requests until we get an error saying otherwise.
 
557
        # _remote_version_is_before tracks the bzr version the remote side
 
558
        # can be based on what we've seen so far.
 
559
        self._remote_version_is_before = None
 
560
        # Install debug hook function if debug flag is set.
 
561
        if 'hpss' in debug.debug_flags:
 
562
            global _debug_counter
 
563
            if _debug_counter is None:
 
564
                _debug_counter = _DebugCounter()
 
565
            _debug_counter.track(self)
 
566
 
 
567
    def _is_remote_before(self, version_tuple):
 
568
        """Is it possible the remote side supports RPCs for a given version?
 
569
 
 
570
        Typical use::
 
571
 
 
572
            needed_version = (1, 2)
 
573
            if medium._is_remote_before(needed_version):
 
574
                fallback_to_pre_1_2_rpc()
 
575
            else:
 
576
                try:
 
577
                    do_1_2_rpc()
 
578
                except UnknownSmartMethod:
 
579
                    medium._remember_remote_is_before(needed_version)
 
580
                    fallback_to_pre_1_2_rpc()
 
581
 
 
582
        :seealso: _remember_remote_is_before
 
583
        """
 
584
        if self._remote_version_is_before is None:
 
585
            # So far, the remote side seems to support everything
 
586
            return False
 
587
        return version_tuple >= self._remote_version_is_before
 
588
 
 
589
    def _remember_remote_is_before(self, version_tuple):
 
590
        """Tell this medium that the remote side is older the given version.
 
591
 
 
592
        :seealso: _is_remote_before
 
593
        """
 
594
        if (self._remote_version_is_before is not None and
 
595
            version_tuple > self._remote_version_is_before):
 
596
            # We have been told that the remote side is older than some version
 
597
            # which is newer than a previously supplied older-than version.
 
598
            # This indicates that some smart verb call is not guarded
 
599
            # appropriately (it should simply not have been tried).
 
600
            raise AssertionError(
 
601
                "_remember_remote_is_before(%r) called, but "
 
602
                "_remember_remote_is_before(%r) was called previously."
 
603
                % (version_tuple, self._remote_version_is_before))
 
604
        self._remote_version_is_before = version_tuple
 
605
 
 
606
    def protocol_version(self):
 
607
        """Find out if 'hello' smart request works."""
 
608
        if self._protocol_version_error is not None:
 
609
            raise self._protocol_version_error
 
610
        if not self._done_hello:
 
611
            try:
 
612
                medium_request = self.get_request()
 
613
                # Send a 'hello' request in protocol version one, for maximum
 
614
                # backwards compatibility.
 
615
                client_protocol = protocol.SmartClientRequestProtocolOne(medium_request)
 
616
                client_protocol.query_version()
 
617
                self._done_hello = True
 
618
            except errors.SmartProtocolError, e:
 
619
                # Cache the error, just like we would cache a successful
 
620
                # result.
 
621
                self._protocol_version_error = e
 
622
                raise
 
623
        return '2'
 
624
 
 
625
    def should_probe(self):
 
626
        """Should RemoteBzrDirFormat.probe_transport send a smart request on
 
627
        this medium?
 
628
 
 
629
        Some transports are unambiguously smart-only; there's no need to check
 
630
        if the transport is able to carry smart requests, because that's all
 
631
        it is for.  In those cases, this method should return False.
 
632
 
 
633
        But some HTTP transports can sometimes fail to carry smart requests,
 
634
        but still be usuable for accessing remote bzrdirs via plain file
 
635
        accesses.  So for those transports, their media should return True here
 
636
        so that RemoteBzrDirFormat can determine if it is appropriate for that
 
637
        transport.
 
638
        """
 
639
        return False
 
640
 
 
641
    def disconnect(self):
 
642
        """If this medium maintains a persistent connection, close it.
 
643
 
 
644
        The default implementation does nothing.
 
645
        """
 
646
 
 
647
    def remote_path_from_transport(self, transport):
 
648
        """Convert transport into a path suitable for using in a request.
 
649
 
 
650
        Note that the resulting remote path doesn't encode the host name or
 
651
        anything but path, so it is only safe to use it in requests sent over
 
652
        the medium from the matching transport.
 
653
        """
 
654
        medium_base = urlutils.join(self.base, '/')
 
655
        rel_url = urlutils.relative_url(medium_base, transport.base)
 
656
        return urllib.unquote(rel_url)
 
657
 
 
658
 
 
659
class SmartClientStreamMedium(SmartClientMedium):
 
660
    """Stream based medium common class.
 
661
 
 
662
    SmartClientStreamMediums operate on a stream. All subclasses use a common
 
663
    SmartClientStreamMediumRequest for their requests, and should implement
 
664
    _accept_bytes and _read_bytes to allow the request objects to send and
 
665
    receive bytes.
 
666
    """
 
667
 
 
668
    def __init__(self, base):
 
669
        SmartClientMedium.__init__(self, base)
 
670
        self._current_request = None
 
671
 
 
672
    def accept_bytes(self, bytes):
 
673
        self._accept_bytes(bytes)
 
674
 
 
675
    def __del__(self):
 
676
        """The SmartClientStreamMedium knows how to close the stream when it is
 
677
        finished with it.
 
678
        """
 
679
        self.disconnect()
 
680
 
 
681
    def _flush(self):
 
682
        """Flush the output stream.
 
683
 
 
684
        This method is used by the SmartClientStreamMediumRequest to ensure that
 
685
        all data for a request is sent, to avoid long timeouts or deadlocks.
 
686
        """
 
687
        raise NotImplementedError(self._flush)
 
688
 
 
689
    def get_request(self):
 
690
        """See SmartClientMedium.get_request().
 
691
 
 
692
        SmartClientStreamMedium always returns a SmartClientStreamMediumRequest
 
693
        for get_request.
 
694
        """
 
695
        return SmartClientStreamMediumRequest(self)
 
696
 
 
697
 
 
698
class SmartSimplePipesClientMedium(SmartClientStreamMedium):
 
699
    """A client medium using simple pipes.
 
700
 
 
701
    This client does not manage the pipes: it assumes they will always be open.
 
702
    """
 
703
 
 
704
    def __init__(self, readable_pipe, writeable_pipe, base):
 
705
        SmartClientStreamMedium.__init__(self, base)
 
706
        self._readable_pipe = readable_pipe
 
707
        self._writeable_pipe = writeable_pipe
 
708
 
 
709
    def _accept_bytes(self, bytes):
 
710
        """See SmartClientStreamMedium.accept_bytes."""
 
711
        self._writeable_pipe.write(bytes)
 
712
        self._report_activity(len(bytes), 'write')
 
713
 
 
714
    def _flush(self):
 
715
        """See SmartClientStreamMedium._flush()."""
 
716
        self._writeable_pipe.flush()
 
717
 
 
718
    def _read_bytes(self, count):
 
719
        """See SmartClientStreamMedium._read_bytes."""
 
720
        bytes = self._readable_pipe.read(count)
 
721
        self._report_activity(len(bytes), 'read')
 
722
        return bytes
 
723
 
 
724
 
 
725
class SmartSSHClientMedium(SmartClientStreamMedium):
 
726
    """A client medium using SSH."""
 
727
 
 
728
    def __init__(self, host, port=None, username=None, password=None,
 
729
            base=None, vendor=None, bzr_remote_path=None):
 
730
        """Creates a client that will connect on the first use.
 
731
 
 
732
        :param vendor: An optional override for the ssh vendor to use. See
 
733
            bzrlib.transport.ssh for details on ssh vendors.
 
734
        """
 
735
        self._connected = False
 
736
        self._host = host
 
737
        self._password = password
 
738
        self._port = port
 
739
        self._username = username
 
740
        # SmartClientStreamMedium stores the repr of this object in its
 
741
        # _DebugCounter so we have to store all the values used in our repr
 
742
        # method before calling the super init.
 
743
        SmartClientStreamMedium.__init__(self, base)
 
744
        self._read_from = None
 
745
        self._ssh_connection = None
 
746
        self._vendor = vendor
 
747
        self._write_to = None
 
748
        self._bzr_remote_path = bzr_remote_path
 
749
        # for the benefit of progress making a short description of this
 
750
        # transport
 
751
        self._scheme = 'bzr+ssh'
 
752
 
 
753
    def __repr__(self):
 
754
        return "%s(connected=%r, username=%r, host=%r, port=%r)" % (
 
755
            self.__class__.__name__,
 
756
            self._connected,
 
757
            self._username,
 
758
            self._host,
 
759
            self._port)
 
760
 
 
761
    def _accept_bytes(self, bytes):
 
762
        """See SmartClientStreamMedium.accept_bytes."""
 
763
        self._ensure_connection()
 
764
        self._write_to.write(bytes)
 
765
        self._report_activity(len(bytes), 'write')
 
766
 
 
767
    def disconnect(self):
 
768
        """See SmartClientMedium.disconnect()."""
 
769
        if not self._connected:
 
770
            return
 
771
        self._read_from.close()
 
772
        self._write_to.close()
 
773
        self._ssh_connection.close()
 
774
        self._connected = False
 
775
 
 
776
    def _ensure_connection(self):
 
777
        """Connect this medium if not already connected."""
 
778
        if self._connected:
 
779
            return
 
780
        if self._vendor is None:
 
781
            vendor = ssh._get_ssh_vendor()
 
782
        else:
 
783
            vendor = self._vendor
 
784
        self._ssh_connection = vendor.connect_ssh(self._username,
 
785
                self._password, self._host, self._port,
 
786
                command=[self._bzr_remote_path, 'serve', '--inet',
 
787
                         '--directory=/', '--allow-writes'])
 
788
        self._read_from, self._write_to = \
 
789
            self._ssh_connection.get_filelike_channels()
 
790
        self._connected = True
 
791
 
 
792
    def _flush(self):
 
793
        """See SmartClientStreamMedium._flush()."""
 
794
        self._write_to.flush()
 
795
 
 
796
    def _read_bytes(self, count):
 
797
        """See SmartClientStreamMedium.read_bytes."""
 
798
        if not self._connected:
 
799
            raise errors.MediumNotConnected(self)
 
800
        bytes_to_read = min(count, _MAX_READ_SIZE)
 
801
        bytes = self._read_from.read(bytes_to_read)
 
802
        self._report_activity(len(bytes), 'read')
 
803
        return bytes
 
804
 
 
805
 
 
806
# Port 4155 is the default port for bzr://, registered with IANA.
 
807
BZR_DEFAULT_INTERFACE = None
 
808
BZR_DEFAULT_PORT = 4155
 
809
 
 
810
 
 
811
class SmartTCPClientMedium(SmartClientStreamMedium):
 
812
    """A client medium using TCP."""
 
813
 
 
814
    def __init__(self, host, port, base):
 
815
        """Creates a client that will connect on the first use."""
 
816
        SmartClientStreamMedium.__init__(self, base)
 
817
        self._connected = False
 
818
        self._host = host
 
819
        self._port = port
 
820
        self._socket = None
 
821
 
 
822
    def _accept_bytes(self, bytes):
 
823
        """See SmartClientMedium.accept_bytes."""
 
824
        self._ensure_connection()
 
825
        osutils.send_all(self._socket, bytes, self._report_activity)
 
826
 
 
827
    def disconnect(self):
 
828
        """See SmartClientMedium.disconnect()."""
 
829
        if not self._connected:
 
830
            return
 
831
        self._socket.close()
 
832
        self._socket = None
 
833
        self._connected = False
 
834
 
 
835
    def _ensure_connection(self):
 
836
        """Connect this medium if not already connected."""
 
837
        if self._connected:
 
838
            return
 
839
        if self._port is None:
 
840
            port = BZR_DEFAULT_PORT
 
841
        else:
 
842
            port = int(self._port)
 
843
        try:
 
844
            sockaddrs = socket.getaddrinfo(self._host, port, socket.AF_UNSPEC,
 
845
                socket.SOCK_STREAM, 0, 0)
 
846
        except socket.gaierror, (err_num, err_msg):
 
847
            raise errors.ConnectionError("failed to lookup %s:%d: %s" %
 
848
                    (self._host, port, err_msg))
 
849
        # Initialize err in case there are no addresses returned:
 
850
        err = socket.error("no address found for %s" % self._host)
 
851
        for (family, socktype, proto, canonname, sockaddr) in sockaddrs:
 
852
            try:
 
853
                self._socket = socket.socket(family, socktype, proto)
 
854
                self._socket.setsockopt(socket.IPPROTO_TCP,
 
855
                                        socket.TCP_NODELAY, 1)
 
856
                self._socket.connect(sockaddr)
 
857
            except socket.error, err:
 
858
                if self._socket is not None:
 
859
                    self._socket.close()
 
860
                self._socket = None
 
861
                continue
 
862
            break
 
863
        if self._socket is None:
 
864
            # socket errors either have a (string) or (errno, string) as their
 
865
            # args.
 
866
            if type(err.args) is str:
 
867
                err_msg = err.args
 
868
            else:
 
869
                err_msg = err.args[1]
 
870
            raise errors.ConnectionError("failed to connect to %s:%d: %s" %
 
871
                    (self._host, port, err_msg))
 
872
        self._connected = True
 
873
 
 
874
    def _flush(self):
 
875
        """See SmartClientStreamMedium._flush().
 
876
 
 
877
        For TCP we do no flushing. We may want to turn off TCP_NODELAY and
 
878
        add a means to do a flush, but that can be done in the future.
 
879
        """
 
880
 
 
881
    def _read_bytes(self, count):
 
882
        """See SmartClientMedium.read_bytes."""
 
883
        if not self._connected:
 
884
            raise errors.MediumNotConnected(self)
 
885
        return _read_bytes_from_socket(
 
886
            self._socket.recv, count, self._report_activity)
 
887
 
 
888
 
 
889
class SmartClientStreamMediumRequest(SmartClientMediumRequest):
 
890
    """A SmartClientMediumRequest that works with an SmartClientStreamMedium."""
 
891
 
 
892
    def __init__(self, medium):
 
893
        SmartClientMediumRequest.__init__(self, medium)
 
894
        # check that we are safe concurrency wise. If some streams start
 
895
        # allowing concurrent requests - i.e. via multiplexing - then this
 
896
        # assert should be moved to SmartClientStreamMedium.get_request,
 
897
        # and the setting/unsetting of _current_request likewise moved into
 
898
        # that class : but its unneeded overhead for now. RBC 20060922
 
899
        if self._medium._current_request is not None:
 
900
            raise errors.TooManyConcurrentRequests(self._medium)
 
901
        self._medium._current_request = self
 
902
 
 
903
    def _accept_bytes(self, bytes):
 
904
        """See SmartClientMediumRequest._accept_bytes.
 
905
 
 
906
        This forwards to self._medium._accept_bytes because we are operating
 
907
        on the mediums stream.
 
908
        """
 
909
        self._medium._accept_bytes(bytes)
 
910
 
 
911
    def _finished_reading(self):
 
912
        """See SmartClientMediumRequest._finished_reading.
 
913
 
 
914
        This clears the _current_request on self._medium to allow a new
 
915
        request to be created.
 
916
        """
 
917
        if self._medium._current_request is not self:
 
918
            raise AssertionError()
 
919
        self._medium._current_request = None
 
920
 
 
921
    def _finished_writing(self):
 
922
        """See SmartClientMediumRequest._finished_writing.
 
923
 
 
924
        This invokes self._medium._flush to ensure all bytes are transmitted.
 
925
        """
 
926
        self._medium._flush()
 
927
 
 
928
 
 
929
def _read_bytes_from_socket(sock, desired_count, report_activity):
 
930
    # We ignore the desired_count because on sockets it's more efficient to
 
931
    # read large chunks (of _MAX_READ_SIZE bytes) at a time.
 
932
    try:
 
933
        bytes = osutils.until_no_eintr(sock, _MAX_READ_SIZE)
 
934
    except socket.error, e:
 
935
        if len(e.args) and e.args[0] in (errno.ECONNRESET, 10054):
 
936
            # The connection was closed by the other side.  Callers expect an
 
937
            # empty string to signal end-of-stream.
 
938
            bytes = ''
 
939
        else:
 
940
            raise
 
941
    else:
 
942
        report_activity(len(bytes), 'read')
 
943
    return bytes
 
944