/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/smart/server.py

  • Committer: Robert Collins
  • Date: 2010-07-04 06:22:11 UTC
  • mto: This revision was merged to the branch mainline in revision 5332.
  • Revision ID: robertc@robertcollins.net-20100704062211-tk9hw6bnsn5x47fm
``bzrlib.lsprof.profile`` will no longer silently generate bad threaded
profiles when concurrent profile requests are made. Instead the profile
requests will be serialised. Reentrant requests will now deadlock.
(Robert Collins)

Show diffs side-by-side

added added

removed removed

Lines of Context:
 
1
# Copyright (C) 2006-2010 Canonical Ltd
 
2
#
 
3
# This program is free software; you can redistribute it and/or modify
 
4
# it under the terms of the GNU General Public License as published by
 
5
# the Free Software Foundation; either version 2 of the License, or
 
6
# (at your option) any later version.
 
7
#
 
8
# This program is distributed in the hope that it will be useful,
 
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
 
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
11
# GNU General Public License for more details.
 
12
#
 
13
# You should have received a copy of the GNU General Public License
 
14
# along with this program; if not, write to the Free Software
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
16
 
 
17
"""Server for smart-server protocol."""
 
18
 
 
19
import errno
 
20
import os.path
 
21
import socket
 
22
import sys
 
23
import threading
 
24
 
 
25
from bzrlib.hooks import HookPoint, Hooks
 
26
from bzrlib import (
 
27
    errors,
 
28
    trace,
 
29
    transport,
 
30
)
 
31
from bzrlib.lazy_import import lazy_import
 
32
lazy_import(globals(), """
 
33
from bzrlib.smart import medium
 
34
from bzrlib.transport import (
 
35
    chroot,
 
36
    get_transport,
 
37
    pathfilter,
 
38
    )
 
39
from bzrlib import (
 
40
    urlutils,
 
41
    )
 
42
""")
 
43
 
 
44
 
 
45
class SmartTCPServer(object):
 
46
    """Listens on a TCP socket and accepts connections from smart clients.
 
47
 
 
48
    Each connection will be served by a SmartServerSocketStreamMedium running in
 
49
    a thread.
 
50
 
 
51
    hooks: An instance of SmartServerHooks.
 
52
    """
 
53
 
 
54
    def __init__(self, backing_transport, host='127.0.0.1', port=0,
 
55
                 root_client_path='/'):
 
56
        """Construct a new server.
 
57
 
 
58
        To actually start it running, call either start_background_thread or
 
59
        serve.
 
60
 
 
61
        :param backing_transport: The transport to serve.
 
62
        :param host: Name of the interface to listen on.
 
63
        :param port: TCP port to listen on, or 0 to allocate a transient port.
 
64
        :param root_client_path: The client path that will correspond to root
 
65
            of backing_transport.
 
66
        """
 
67
        # let connections timeout so that we get a chance to terminate
 
68
        # Keep a reference to the exceptions we want to catch because the socket
 
69
        # module's globals get set to None during interpreter shutdown.
 
70
        from socket import timeout as socket_timeout
 
71
        from socket import error as socket_error
 
72
        self._socket_error = socket_error
 
73
        self._socket_timeout = socket_timeout
 
74
        addrs = socket.getaddrinfo(host, port, socket.AF_UNSPEC,
 
75
            socket.SOCK_STREAM, 0, socket.AI_PASSIVE)[0]
 
76
 
 
77
        (family, socktype, proto, canonname, sockaddr) = addrs
 
78
 
 
79
        self._server_socket = socket.socket(family, socktype, proto)
 
80
        # SO_REUSERADDR has a different meaning on Windows
 
81
        if sys.platform != 'win32':
 
82
            self._server_socket.setsockopt(socket.SOL_SOCKET,
 
83
                socket.SO_REUSEADDR, 1)
 
84
        try:
 
85
            self._server_socket.bind(sockaddr)
 
86
        except self._socket_error, message:
 
87
            raise errors.CannotBindAddress(host, port, message)
 
88
        self._sockname = self._server_socket.getsockname()
 
89
        self.port = self._sockname[1]
 
90
        self._server_socket.listen(1)
 
91
        self._server_socket.settimeout(1)
 
92
        self.backing_transport = backing_transport
 
93
        self._started = threading.Event()
 
94
        self._stopped = threading.Event()
 
95
        self.root_client_path = root_client_path
 
96
 
 
97
    def serve(self, thread_name_suffix=''):
 
98
        self._should_terminate = False
 
99
        # for hooks we are letting code know that a server has started (and
 
100
        # later stopped).
 
101
        # There are three interesting urls:
 
102
        # The URL the server can be contacted on. (e.g. bzr://host/)
 
103
        # The URL that a commit done on the same machine as the server will
 
104
        # have within the servers space. (e.g. file:///home/user/source)
 
105
        # The URL that will be given to other hooks in the same process -
 
106
        # the URL of the backing transport itself. (e.g. chroot+:///)
 
107
        # We need all three because:
 
108
        #  * other machines see the first
 
109
        #  * local commits on this machine should be able to be mapped to
 
110
        #    this server
 
111
        #  * commits the server does itself need to be mapped across to this
 
112
        #    server.
 
113
        # The latter two urls are different aliases to the servers url,
 
114
        # so we group those in a list - as there might be more aliases
 
115
        # in the future.
 
116
        backing_urls = [self.backing_transport.base]
 
117
        try:
 
118
            backing_urls.append(self.backing_transport.external_url())
 
119
        except errors.InProcessTransport:
 
120
            pass
 
121
        for hook in SmartTCPServer.hooks['server_started']:
 
122
            hook(backing_urls, self.get_url())
 
123
        for hook in SmartTCPServer.hooks['server_started_ex']:
 
124
            hook(backing_urls, self)
 
125
        self._started.set()
 
126
        try:
 
127
            try:
 
128
                while not self._should_terminate:
 
129
                    try:
 
130
                        conn, client_addr = self._server_socket.accept()
 
131
                    except self._socket_timeout:
 
132
                        # just check if we're asked to stop
 
133
                        pass
 
134
                    except self._socket_error, e:
 
135
                        # if the socket is closed by stop_background_thread
 
136
                        # we might get a EBADF here, any other socket errors
 
137
                        # should get logged.
 
138
                        if e.args[0] != errno.EBADF:
 
139
                            trace.warning("listening socket error: %s", e)
 
140
                    else:
 
141
                        if self._should_terminate:
 
142
                            break
 
143
                        self.serve_conn(conn, thread_name_suffix)
 
144
            except KeyboardInterrupt:
 
145
                # dont log when CTRL-C'd.
 
146
                raise
 
147
            except Exception, e:
 
148
                trace.report_exception(sys.exc_info(), sys.stderr)
 
149
                raise
 
150
        finally:
 
151
            self._stopped.set()
 
152
            try:
 
153
                # ensure the server socket is closed.
 
154
                self._server_socket.close()
 
155
            except self._socket_error:
 
156
                # ignore errors on close
 
157
                pass
 
158
            for hook in SmartTCPServer.hooks['server_stopped']:
 
159
                hook(backing_urls, self.get_url())
 
160
 
 
161
    def get_url(self):
 
162
        """Return the url of the server"""
 
163
        return "bzr://%s:%d/" % self._sockname
 
164
 
 
165
    def serve_conn(self, conn, thread_name_suffix):
 
166
        # For WIN32, where the timeout value from the listening socket
 
167
        # propagates to the newly accepted socket.
 
168
        conn.setblocking(True)
 
169
        conn.setsockopt(socket.IPPROTO_TCP, socket.TCP_NODELAY, 1)
 
170
        handler = medium.SmartServerSocketStreamMedium(
 
171
            conn, self.backing_transport, self.root_client_path)
 
172
        thread_name = 'smart-server-child' + thread_name_suffix
 
173
        connection_thread = threading.Thread(
 
174
            None, handler.serve, name=thread_name)
 
175
        connection_thread.setDaemon(True)
 
176
        connection_thread.start()
 
177
 
 
178
    def start_background_thread(self, thread_name_suffix=''):
 
179
        self._started.clear()
 
180
        self._server_thread = threading.Thread(None,
 
181
                self.serve, args=(thread_name_suffix,),
 
182
                name='server-' + self.get_url())
 
183
        self._server_thread.setDaemon(True)
 
184
        self._server_thread.start()
 
185
        self._started.wait()
 
186
 
 
187
    def stop_background_thread(self):
 
188
        self._stopped.clear()
 
189
        # tell the main loop to quit on the next iteration.
 
190
        self._should_terminate = True
 
191
        # close the socket - gives error to connections from here on in,
 
192
        # rather than a connection reset error to connections made during
 
193
        # the period between setting _should_terminate = True and
 
194
        # the current request completing/aborting. It may also break out the
 
195
        # main loop if it was currently in accept() (on some platforms).
 
196
        try:
 
197
            self._server_socket.close()
 
198
        except self._socket_error:
 
199
            # ignore errors on close
 
200
            pass
 
201
        if not self._stopped.isSet():
 
202
            # server has not stopped (though it may be stopping)
 
203
            # its likely in accept(), so give it a connection
 
204
            temp_socket = socket.socket()
 
205
            temp_socket.setsockopt(socket.IPPROTO_TCP, socket.TCP_NODELAY, 1)
 
206
            if not temp_socket.connect_ex(self._sockname):
 
207
                # and close it immediately: we dont choose to send any requests.
 
208
                temp_socket.close()
 
209
        self._stopped.wait()
 
210
        self._server_thread.join()
 
211
 
 
212
 
 
213
class SmartServerHooks(Hooks):
 
214
    """Hooks for the smart server."""
 
215
 
 
216
    def __init__(self):
 
217
        """Create the default hooks.
 
218
 
 
219
        These are all empty initially, because by default nothing should get
 
220
        notified.
 
221
        """
 
222
        Hooks.__init__(self)
 
223
        self.create_hook(HookPoint('server_started',
 
224
            "Called by the bzr server when it starts serving a directory. "
 
225
            "server_started is called with (backing urls, public url), "
 
226
            "where backing_url is a list of URLs giving the "
 
227
            "server-specific directory locations, and public_url is the "
 
228
            "public URL for the directory being served.", (0, 16), None))
 
229
        self.create_hook(HookPoint('server_started_ex',
 
230
            "Called by the bzr server when it starts serving a directory. "
 
231
            "server_started is called with (backing_urls, server_obj).",
 
232
            (1, 17), None))
 
233
        self.create_hook(HookPoint('server_stopped',
 
234
            "Called by the bzr server when it stops serving a directory. "
 
235
            "server_stopped is called with the same parameters as the "
 
236
            "server_started hook: (backing_urls, public_url).", (0, 16), None))
 
237
 
 
238
SmartTCPServer.hooks = SmartServerHooks()
 
239
 
 
240
 
 
241
def _local_path_for_transport(transport):
 
242
    """Return a local path for transport, if reasonably possible.
 
243
    
 
244
    This function works even if transport's url has a "readonly+" prefix,
 
245
    unlike local_path_from_url.
 
246
    
 
247
    This essentially recovers the --directory argument the user passed to "bzr
 
248
    serve" from the transport passed to serve_bzr.
 
249
    """
 
250
    try:
 
251
        base_url = transport.external_url()
 
252
    except (errors.InProcessTransport, NotImplementedError):
 
253
        return None
 
254
    else:
 
255
        # Strip readonly prefix
 
256
        if base_url.startswith('readonly+'):
 
257
            base_url = base_url[len('readonly+'):]
 
258
        try:
 
259
            return urlutils.local_path_from_url(base_url)
 
260
        except errors.InvalidURL:
 
261
            return None
 
262
 
 
263
 
 
264
class BzrServerFactory(object):
 
265
    """Helper class for serve_bzr."""
 
266
 
 
267
    def __init__(self, userdir_expander=None, get_base_path=None):
 
268
        self.cleanups = []
 
269
        self.base_path = None
 
270
        self.backing_transport = None
 
271
        if userdir_expander is None:
 
272
            userdir_expander = os.path.expanduser
 
273
        self.userdir_expander = userdir_expander
 
274
        if get_base_path is None:
 
275
            get_base_path = _local_path_for_transport
 
276
        self.get_base_path = get_base_path
 
277
 
 
278
    def _expand_userdirs(self, path):
 
279
        """Translate /~/ or /~user/ to e.g. /home/foo, using
 
280
        self.userdir_expander (os.path.expanduser by default).
 
281
 
 
282
        If the translated path would fall outside base_path, or the path does
 
283
        not start with ~, then no translation is applied.
 
284
 
 
285
        If the path is inside, it is adjusted to be relative to the base path.
 
286
 
 
287
        e.g. if base_path is /home, and the expanded path is /home/joe, then
 
288
        the translated path is joe.
 
289
        """
 
290
        result = path
 
291
        if path.startswith('~'):
 
292
            expanded = self.userdir_expander(path)
 
293
            if not expanded.endswith('/'):
 
294
                expanded += '/'
 
295
            if expanded.startswith(self.base_path):
 
296
                result = expanded[len(self.base_path):]
 
297
        return result
 
298
 
 
299
    def _make_expand_userdirs_filter(self, transport):
 
300
        return pathfilter.PathFilteringServer(transport, self._expand_userdirs)
 
301
 
 
302
    def _make_backing_transport(self, transport):
 
303
        """Chroot transport, and decorate with userdir expander."""
 
304
        self.base_path = self.get_base_path(transport)
 
305
        chroot_server = chroot.ChrootServer(transport)
 
306
        chroot_server.start_server()
 
307
        self.cleanups.append(chroot_server.stop_server)
 
308
        transport = get_transport(chroot_server.get_url())
 
309
        if self.base_path is not None:
 
310
            # Decorate the server's backing transport with a filter that can
 
311
            # expand homedirs.
 
312
            expand_userdirs = self._make_expand_userdirs_filter(transport)
 
313
            expand_userdirs.start_server()
 
314
            self.cleanups.append(expand_userdirs.stop_server)
 
315
            transport = get_transport(expand_userdirs.get_url())
 
316
        self.transport = transport
 
317
 
 
318
    def _make_smart_server(self, host, port, inet):
 
319
        if inet:
 
320
            smart_server = medium.SmartServerPipeStreamMedium(
 
321
                sys.stdin, sys.stdout, self.transport)
 
322
        else:
 
323
            if host is None:
 
324
                host = medium.BZR_DEFAULT_INTERFACE
 
325
            if port is None:
 
326
                port = medium.BZR_DEFAULT_PORT
 
327
            smart_server = SmartTCPServer(self.transport, host=host, port=port)
 
328
            trace.note('listening on port: %s' % smart_server.port)
 
329
        self.smart_server = smart_server
 
330
 
 
331
    def _change_globals(self):
 
332
        from bzrlib import lockdir, ui
 
333
        # For the duration of this server, no UI output is permitted. note
 
334
        # that this may cause problems with blackbox tests. This should be
 
335
        # changed with care though, as we dont want to use bandwidth sending
 
336
        # progress over stderr to smart server clients!
 
337
        old_factory = ui.ui_factory
 
338
        old_lockdir_timeout = lockdir._DEFAULT_TIMEOUT_SECONDS
 
339
        def restore_default_ui_factory_and_lockdir_timeout():
 
340
            ui.ui_factory = old_factory
 
341
            lockdir._DEFAULT_TIMEOUT_SECONDS = old_lockdir_timeout
 
342
        self.cleanups.append(restore_default_ui_factory_and_lockdir_timeout)
 
343
        ui.ui_factory = ui.SilentUIFactory()
 
344
        lockdir._DEFAULT_TIMEOUT_SECONDS = 0
 
345
 
 
346
    def set_up(self, transport, host, port, inet):
 
347
        self._make_backing_transport(transport)
 
348
        self._make_smart_server(host, port, inet)
 
349
        self._change_globals()
 
350
 
 
351
    def tear_down(self):
 
352
        for cleanup in reversed(self.cleanups):
 
353
            cleanup()
 
354
 
 
355
 
 
356
def serve_bzr(transport, host=None, port=None, inet=False):
 
357
    """This is the default implementation of 'bzr serve'.
 
358
    
 
359
    It creates a TCP or pipe smart server on 'transport, and runs it.  The
 
360
    transport will be decorated with a chroot and pathfilter (using
 
361
    os.path.expanduser).
 
362
    """
 
363
    bzr_server = BzrServerFactory()
 
364
    try:
 
365
        bzr_server.set_up(transport, host, port, inet)
 
366
        bzr_server.smart_server.serve()
 
367
    finally:
 
368
        bzr_server.tear_down()
 
369