/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to breezy/tests/blackbox/test_serve.py

  • Committer: Jelmer Vernooij
  • Date: 2018-07-26 19:15:27 UTC
  • mto: This revision was merged to the branch mainline in revision 7055.
  • Revision ID: jelmer@jelmer.uk-20180726191527-wniq205k6tzfo1xx
Install fastimport from git.

Show diffs side-by-side

added added

removed removed

Lines of Context:
breezy/tests/blackbox/test_serve.py
 
1
# Copyright (C) 2006-2011 Canonical Ltd
 
2
#
 
3
# This program is free software; you can redistribute it and/or modify
 
4
# it under the terms of the GNU General Public License as published by
 
5
# the Free Software Foundation; either version 2 of the License, or
 
6
# (at your option) any later version.
 
7
#
 
8
# This program is distributed in the hope that it will be useful,
 
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
 
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
11
# GNU General Public License for more details.
 
12
#
 
13
# You should have received a copy of the GNU General Public License
 
14
# along with this program; if not, write to the Free Software
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
16
 
 
17
 
 
18
"""Tests of the brz serve command."""
 
19
 
 
20
import os
 
21
import signal
 
22
import sys
 
23
try:
 
24
    from _thread import interrupt_main
 
25
except ImportError:  # Python < 3
 
26
    from thread import interrupt_main
 
27
 
 
28
import threading
 
29
 
 
30
from ... import (
 
31
    builtins,
 
32
    config,
 
33
    errors,
 
34
    osutils,
 
35
    revision as _mod_revision,
 
36
    trace,
 
37
    transport,
 
38
    urlutils,
 
39
    )
 
40
from ...branch import Branch
 
41
from ...controldir import ControlDir
 
42
from ...bzr.smart import client, medium
 
43
from ...bzr.smart.server import (
 
44
    BzrServerFactory,
 
45
    SmartTCPServer,
 
46
    )
 
47
from .. import (
 
48
    TestCaseWithMemoryTransport,
 
49
    TestCaseWithTransport,
 
50
    )
 
51
from ...transport import remote
 
52
 
 
53
 
 
54
class TestBzrServeBase(TestCaseWithTransport):
 
55
 
 
56
    def run_bzr_serve_then_func(self, serve_args, retcode=0, func=None,
 
57
                                *func_args, **func_kwargs):
 
58
        """Run 'brz serve', and run the given func in a thread once the server
 
59
        has started.
 
60
 
 
61
        When 'func' terminates, the server will be terminated too.
 
62
 
 
63
        Returns stdout and stderr.
 
64
        """
 
65
        def on_server_start_thread(tcp_server):
 
66
            """This runs concurrently with the server thread.
 
67
 
 
68
            The server is interrupted as soon as ``func`` finishes, even if an
 
69
            exception is encountered.
 
70
            """
 
71
            try:
 
72
                # Run func if set
 
73
                self.tcp_server = tcp_server
 
74
                if func is not None:
 
75
                    try:
 
76
                        func(*func_args, **func_kwargs)
 
77
                    except Exception as e:
 
78
                        # Log errors to make some test failures a little less
 
79
                        # mysterious.
 
80
                        trace.mutter('func broke: %r', e)
 
81
            finally:
 
82
                # Then stop the server
 
83
                trace.mutter('interrupting...')
 
84
                interrupt_main()
 
85
        # When the hook is fired, it just starts ``on_server_start_thread`` and
 
86
        # return
 
87
        def on_server_start(backing_urls, tcp_server):
 
88
            t = threading.Thread(
 
89
                target=on_server_start_thread, args=(tcp_server,))
 
90
            t.start()
 
91
        # install hook
 
92
        SmartTCPServer.hooks.install_named_hook(
 
93
            'server_started_ex', on_server_start,
 
94
            'run_bzr_serve_then_func hook')
 
95
        # It seems interrupt_main() will not raise KeyboardInterrupt
 
96
        # until after socket.accept returns. So we set the timeout low to make
 
97
        # the test faster.
 
98
        self.overrideAttr(SmartTCPServer, '_ACCEPT_TIMEOUT', 0.1)
 
99
        # start a TCP server
 
100
        try:
 
101
            out, err = self.run_bzr(['serve'] + list(serve_args),
 
102
                                    retcode=retcode)
 
103
        except KeyboardInterrupt as e:
 
104
            return (self._last_cmd_stdout.getvalue(),
 
105
                self._last_cmd_stderr.getvalue())
 
106
        return out, err
 
107
 
 
108
 
 
109
class TestBzrServe(TestBzrServeBase):
 
110
 
 
111
    def setUp(self):
 
112
        super(TestBzrServe, self).setUp()
 
113
        self.disable_missing_extensions_warning()
 
114
 
 
115
    def test_server_exception_with_hook(self):
 
116
        """Catch exception from the server in the server_exception hook.
 
117
 
 
118
        We use ``run_bzr_serve_then_func`` without a ``func`` so the server
 
119
        will receive a KeyboardInterrupt exception we want to catch.
 
120
        """
 
121
        def hook(exception):
 
122
            if exception[0] is KeyboardInterrupt:
 
123
                sys.stderr.write(b'catching KeyboardInterrupt\n')
 
124
                return True
 
125
            else:
 
126
                return False
 
127
        SmartTCPServer.hooks.install_named_hook(
 
128
            'server_exception', hook,
 
129
            'test_server_except_hook hook')
 
130
        args = ['--listen', 'localhost', '--port', '0', '--quiet']
 
131
        out, err = self.run_bzr_serve_then_func(args, retcode=0)
 
132
        self.assertEqual('catching KeyboardInterrupt\n', err)
 
133
 
 
134
    def test_server_exception_no_hook(self):
 
135
        """test exception without hook returns error"""
 
136
        args = []
 
137
        out, err = self.run_bzr_serve_then_func(args, retcode=3)
 
138
 
 
139
    def assertInetServerShutsdownCleanly(self, process):
 
140
        """Shutdown the server process looking for errors."""
 
141
        # Shutdown the server: the server should shut down when it cannot read
 
142
        # from stdin anymore.
 
143
        process.stdin.close()
 
144
        # Hide stdin from the subprocess module, so it won't fail to close it.
 
145
        process.stdin = None
 
146
        result = self.finish_bzr_subprocess(process)
 
147
        self.assertEqual(b'', result[0])
 
148
        self.assertEqual(b'', result[1])
 
149
 
 
150
    def assertServerFinishesCleanly(self, process):
 
151
        """Shutdown the brz serve instance process looking for errors."""
 
152
        # Shutdown the server
 
153
        result = self.finish_bzr_subprocess(process, retcode=3,
 
154
                                            send_signal=signal.SIGINT)
 
155
        self.assertEqual(b'', result[0])
 
156
        self.assertEqual(b'brz: interrupted\n', result[1])
 
157
 
 
158
    def make_read_requests(self, branch):
 
159
        """Do some read only requests."""
 
160
        with branch.lock_read():
 
161
            branch.repository.all_revision_ids()
 
162
            self.assertEqual(_mod_revision.NULL_REVISION,
 
163
                             _mod_revision.ensure_null(branch.last_revision()))
 
164
 
 
165
    def start_server_inet(self, extra_options=()):
 
166
        """Start a brz server subprocess using the --inet option.
 
167
 
 
168
        :param extra_options: extra options to give the server.
 
169
        :return: a tuple with the brz process handle for passing to
 
170
            finish_bzr_subprocess, a client for the server, and a transport.
 
171
        """
 
172
        # Serve from the current directory
 
173
        args = ['serve', '--inet']
 
174
        args.extend(extra_options)
 
175
        process = self.start_bzr_subprocess(args)
 
176
 
 
177
        # Connect to the server
 
178
        # We use this url because while this is no valid URL to connect to this
 
179
        # server instance, the transport needs a URL.
 
180
        url = 'bzr://localhost/'
 
181
        self.permit_url(url)
 
182
        client_medium = medium.SmartSimplePipesClientMedium(
 
183
            process.stdout, process.stdin, url)
 
184
        transport = remote.RemoteTransport(url, medium=client_medium)
 
185
        return process, transport
 
186
 
 
187
    def start_server_port(self, extra_options=()):
 
188
        """Start a brz server subprocess.
 
189
 
 
190
        :param extra_options: extra options to give the server.
 
191
        :return: a tuple with the brz process handle for passing to
 
192
            finish_bzr_subprocess, and the base url for the server.
 
193
        """
 
194
        # Serve from the current directory
 
195
        args = ['serve', '--listen', 'localhost', '--port', '0']
 
196
        args.extend(extra_options)
 
197
        process = self.start_bzr_subprocess(args, skip_if_plan_to_signal=True)
 
198
        port_line = process.stderr.readline()
 
199
        prefix = b'listening on port: '
 
200
        self.assertStartsWith(port_line, prefix)
 
201
        port = int(port_line[len(prefix):])
 
202
        url = 'bzr://localhost:%d/' % port
 
203
        self.permit_url(url)
 
204
        return process, url
 
205
 
 
206
    def test_bzr_serve_quiet(self):
 
207
        self.make_branch('.')
 
208
        args = ['--listen', 'localhost', '--port', '0', '--quiet']
 
209
        out, err = self.run_bzr_serve_then_func(args, retcode=3)
 
210
        self.assertEqual('', out)
 
211
        self.assertEqual('', err)
 
212
 
 
213
    def test_bzr_serve_inet_readonly(self):
 
214
        """brz server should provide a read only filesystem by default."""
 
215
        process, transport = self.start_server_inet()
 
216
        self.assertRaises(errors.TransportNotPossible, transport.mkdir, 'adir')
 
217
        self.assertInetServerShutsdownCleanly(process)
 
218
 
 
219
    def test_bzr_serve_inet_readwrite(self):
 
220
        # Make a branch
 
221
        self.make_branch('.')
 
222
 
 
223
        process, transport = self.start_server_inet(['--allow-writes'])
 
224
 
 
225
        # We get a working branch, and can create a directory
 
226
        branch = ControlDir.open_from_transport(transport).open_branch()
 
227
        self.make_read_requests(branch)
 
228
        transport.mkdir('adir')
 
229
        self.assertInetServerShutsdownCleanly(process)
 
230
 
 
231
    def test_bzr_serve_port_readonly(self):
 
232
        """brz server should provide a read only filesystem by default."""
 
233
        process, url = self.start_server_port()
 
234
        t = transport.get_transport_from_url(url)
 
235
        self.assertRaises(errors.TransportNotPossible, t.mkdir, 'adir')
 
236
        self.assertServerFinishesCleanly(process)
 
237
 
 
238
    def test_bzr_serve_port_readwrite(self):
 
239
        # Make a branch
 
240
        self.make_branch('.')
 
241
 
 
242
        process, url = self.start_server_port(['--allow-writes'])
 
243
 
 
244
        # Connect to the server
 
245
        branch = Branch.open(url)
 
246
        self.make_read_requests(branch)
 
247
        self.assertServerFinishesCleanly(process)
 
248
 
 
249
    def test_bzr_serve_supports_protocol(self):
 
250
        # Make a branch
 
251
        self.make_branch('.')
 
252
 
 
253
        process, url = self.start_server_port(['--allow-writes',
 
254
                                               '--protocol=bzr'])
 
255
 
 
256
        # Connect to the server
 
257
        branch = Branch.open(url)
 
258
        self.make_read_requests(branch)
 
259
        self.assertServerFinishesCleanly(process)
 
260
 
 
261
    def test_bzr_serve_dhpss(self):
 
262
        # This is a smoke test that the server doesn't crash when run with
 
263
        # -Dhpss, and does drop some hpss logging to the file.
 
264
        self.make_branch('.')
 
265
        log_fname = self.test_dir + '/server.log'
 
266
        self.overrideEnv('BRZ_LOG', log_fname)
 
267
        process, transport = self.start_server_inet(['-Dhpss'])
 
268
        branch = ControlDir.open_from_transport(transport).open_branch()
 
269
        self.make_read_requests(branch)
 
270
        self.assertInetServerShutsdownCleanly(process)
 
271
        f = open(log_fname, 'rb')
 
272
        content = f.read()
 
273
        f.close()
 
274
        self.assertContainsRe(content, br'hpss request: \[[0-9-]+\]')
 
275
 
 
276
    def test_bzr_serve_supports_configurable_timeout(self):
 
277
        gs = config.GlobalStack()
 
278
        gs.set('serve.client_timeout', 0.2)
 
279
        # Save the config as the subprocess will use it
 
280
        gs.store.save()
 
281
        process, url = self.start_server_port()
 
282
        self.build_tree_contents([('a_file', b'contents\n')])
 
283
        # We can connect and issue a request
 
284
        t = transport.get_transport_from_url(url)
 
285
        self.assertEqual(b'contents\n', t.get_bytes('a_file'))
 
286
        # However, if we just wait for more content from the server, it will
 
287
        # eventually disconnect us.
 
288
        m = t.get_smart_medium()
 
289
        m.read_bytes(1)
 
290
        # Now, we wait for timeout to trigger
 
291
        err = process.stderr.readline()
 
292
        self.assertEqual(
 
293
            b'Connection Timeout: disconnecting client after 0.2 seconds\n',
 
294
            err)
 
295
        self.assertServerFinishesCleanly(process)
 
296
 
 
297
    def test_bzr_serve_supports_client_timeout(self):
 
298
        process, url = self.start_server_port(['--client-timeout=0.1'])
 
299
        self.build_tree_contents([('a_file', b'contents\n')])
 
300
        # We can connect and issue a request
 
301
        t = transport.get_transport_from_url(url)
 
302
        self.assertEqual(b'contents\n', t.get_bytes('a_file'))
 
303
        # However, if we just wait for more content from the server, it will
 
304
        # eventually disconnect us.
 
305
        # TODO: Use something like signal.alarm() so that if the server doesn't
 
306
        #       properly handle the timeout, we end up failing the test instead
 
307
        #       of hanging forever.
 
308
        m = t.get_smart_medium()
 
309
        m.read_bytes(1)
 
310
        # Now, we wait for timeout to trigger
 
311
        err = process.stderr.readline()
 
312
        self.assertEqual(
 
313
            b'Connection Timeout: disconnecting client after 0.1 seconds\n',
 
314
            err)
 
315
        self.assertServerFinishesCleanly(process)
 
316
 
 
317
    def test_bzr_serve_graceful_shutdown(self):
 
318
        big_contents = b'a'*64*1024
 
319
        self.build_tree_contents([('bigfile', big_contents)])
 
320
        process, url = self.start_server_port(['--client-timeout=1.0'])
 
321
        t = transport.get_transport_from_url(url)
 
322
        m = t.get_smart_medium()
 
323
        c = client._SmartClient(m)
 
324
        # Start, but don't finish a response
 
325
        resp, response_handler = c.call_expecting_body('get', 'bigfile')
 
326
        self.assertEqual((b'ok',), resp)
 
327
        # Note: process.send_signal is a Python 2.6ism
 
328
        process.send_signal(signal.SIGHUP)
 
329
        # Wait for the server to notice the signal, and then read the actual
 
330
        # body of the response. That way we know that it is waiting for the
 
331
        # request to finish
 
332
        self.assertEqual(b'Requested to stop gracefully\n',
 
333
                         process.stderr.readline())
 
334
        self.assertEqual(b'Waiting for 1 client(s) to finish\n',
 
335
                         process.stderr.readline())
 
336
        body = response_handler.read_body_bytes()
 
337
        if body != big_contents:
 
338
            self.fail('Failed to properly read the contents of "bigfile"')
 
339
        # Now that our request is finished, the medium should notice it has
 
340
        # been disconnected.
 
341
        self.assertEqual(b'', m.read_bytes(1))
 
342
        # And the server should be stopping
 
343
        self.assertEqual(0, process.wait())
 
344
 
 
345
 
 
346
class TestCmdServeChrooting(TestBzrServeBase):
 
347
 
 
348
    def test_serve_tcp(self):
 
349
        """'brz serve' wraps the given --directory in a ChrootServer.
 
350
 
 
351
        So requests that search up through the parent directories (like
 
352
        find_repositoryV3) will give "not found" responses, rather than
 
353
        InvalidURLJoin or jail break errors.
 
354
        """
 
355
        t = self.get_transport()
 
356
        t.mkdir('server-root')
 
357
        self.run_bzr_serve_then_func(
 
358
            ['--listen', '127.0.0.1', '--port', '0',
 
359
             '--directory', t.local_abspath('server-root'),
 
360
             '--allow-writes'],
 
361
            func=self.when_server_started)
 
362
        # The when_server_started method issued a find_repositoryV3 that should
 
363
        # fail with 'norepository' because there are no repositories inside the
 
364
        # --directory.
 
365
        self.assertEqual((b'norepository',), self.client_resp)
 
366
 
 
367
    def when_server_started(self):
 
368
        # Connect to the TCP server and issue some requests and see what comes
 
369
        # back.
 
370
        client_medium = medium.SmartTCPClientMedium(
 
371
            '127.0.0.1', self.tcp_server.port,
 
372
            'bzr://localhost:%d/' % (self.tcp_server.port,))
 
373
        smart_client = client._SmartClient(client_medium)
 
374
        resp = smart_client.call('mkdir', 'foo', '')
 
375
        resp = smart_client.call('BzrDirFormat.initialize', 'foo/')
 
376
        try:
 
377
            resp = smart_client.call('BzrDir.find_repositoryV3', 'foo/')
 
378
        except errors.ErrorFromSmartServer as e:
 
379
            resp = e.error_tuple
 
380
        self.client_resp = resp
 
381
        client_medium.disconnect()
 
382
 
 
383
 
 
384
class TestUserdirExpansion(TestCaseWithMemoryTransport):
 
385
 
 
386
    @staticmethod
 
387
    def fake_expanduser(path):
 
388
        """A simple, environment-independent, function for the duration of this
 
389
        test.
 
390
 
 
391
        Paths starting with a path segment of '~user' will expand to start with
 
392
        '/home/user/'.  Every other path will be unchanged.
 
393
        """
 
394
        if path.split('/', 1)[0] == '~user':
 
395
            return '/home/user' + path[len('~user'):]
 
396
        return path
 
397
 
 
398
    def make_test_server(self, base_path='/'):
 
399
        """Make and start a BzrServerFactory, backed by a memory transport, and
 
400
        creat '/home/user' in that transport.
 
401
        """
 
402
        bzr_server = BzrServerFactory(
 
403
            self.fake_expanduser, lambda t: base_path)
 
404
        mem_transport = self.get_transport()
 
405
        mem_transport.mkdir('home')
 
406
        mem_transport.mkdir('home/user')
 
407
        bzr_server.set_up(mem_transport, None, None, inet=True, timeout=4.0)
 
408
        self.addCleanup(bzr_server.tear_down)
 
409
        return bzr_server
 
410
 
 
411
    def test_bzr_serve_expands_userdir(self):
 
412
        bzr_server = self.make_test_server()
 
413
        self.assertTrue(bzr_server.smart_server.backing_transport.has('~user'))
 
414
 
 
415
    def test_bzr_serve_does_not_expand_userdir_outside_base(self):
 
416
        bzr_server = self.make_test_server('/foo')
 
417
        self.assertFalse(bzr_server.smart_server.backing_transport.has('~user'))
 
418
 
 
419
    def test_get_base_path(self):
 
420
        """cmd_serve will turn the --directory option into a LocalTransport
 
421
        (optionally decorated with 'readonly+').  BzrServerFactory can
 
422
        determine the original --directory from that transport.
 
423
        """
 
424
        # URLs always include the trailing slash, and get_base_path returns it
 
425
        base_dir = osutils.abspath('/a/b/c') + '/'
 
426
        base_url = urlutils.local_path_to_url(base_dir) + '/'
 
427
        # Define a fake 'protocol' to capture the transport that cmd_serve
 
428
        # passes to serve_bzr.
 
429
        def capture_transport(transport, host, port, inet, timeout):
 
430
            self.bzr_serve_transport = transport
 
431
        cmd = builtins.cmd_serve()
 
432
        # Read-only
 
433
        cmd.run(directory=base_dir, protocol=capture_transport)
 
434
        server_maker = BzrServerFactory()
 
435
        self.assertEqual(
 
436
            'readonly+%s' % base_url, self.bzr_serve_transport.base)
 
437
        self.assertEqual(
 
438
            base_dir, server_maker.get_base_path(self.bzr_serve_transport))
 
439
        # Read-write
 
440
        cmd.run(directory=base_dir, protocol=capture_transport,
 
441
            allow_writes=True)
 
442
        server_maker = BzrServerFactory()
 
443
        self.assertEqual(base_url, self.bzr_serve_transport.base)
 
444
        self.assertEqual(base_dir,
 
445
            server_maker.get_base_path(self.bzr_serve_transport))
 
446
        # Read-only, from a URL
 
447
        cmd.run(directory=base_url, protocol=capture_transport)
 
448
        server_maker = BzrServerFactory()
 
449
        self.assertEqual(
 
450
            'readonly+%s' % base_url, self.bzr_serve_transport.base)
 
451
        self.assertEqual(
 
452
            base_dir, server_maker.get_base_path(self.bzr_serve_transport))