/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/trace.py

  • Committer: Martin Pool
  • Date: 2009-01-23 22:39:31 UTC
  • mto: This revision was merged to the branch mainline in revision 3959.
  • Revision ID: mbp@sourcefrog.net-20090123223931-kb1la553lxibnbpd
Rephrase api docs

Show diffs side-by-side

added added

removed removed

Lines of Context:
 
1
# Copyright (C) 2005, 2006, 2007, 2008 Canonical Ltd
 
2
#
 
3
# This program is free software; you can redistribute it and/or modify
 
4
# it under the terms of the GNU General Public License as published by
 
5
# the Free Software Foundation; either version 2 of the License, or
 
6
# (at your option) any later version.
 
7
#
 
8
# This program is distributed in the hope that it will be useful,
 
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
 
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
11
# GNU General Public License for more details.
 
12
#
 
13
# You should have received a copy of the GNU General Public License
 
14
# along with this program; if not, write to the Free Software
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
16
 
 
17
"""Messages and logging for bazaar-ng.
 
18
 
 
19
Messages are supplied by callers as a string-formatting template, plus values
 
20
to be inserted into it.  The actual %-formatting is deferred to the log
 
21
library so that it doesn't need to be done for messages that won't be emitted.
 
22
 
 
23
Messages are classified by severity levels: critical, error, warning, info,
 
24
and debug.
 
25
 
 
26
They can be sent to two places: to stderr, and to ~/.bzr.log.  For purposes
 
27
such as running the test suite, they can also be redirected away from both of
 
28
those two places to another location.
 
29
 
 
30
~/.bzr.log gets all messages, and full tracebacks for uncaught exceptions.
 
31
This trace file is always in UTF-8, regardless of the user's default encoding,
 
32
so that we can always rely on writing any message.
 
33
 
 
34
Output to stderr depends on the mode chosen by the user.  By default, messages
 
35
of info and above are sent out, which results in progress messages such as the
 
36
list of files processed by add and commit.  In quiet mode, only warnings and
 
37
above are shown.  In debug mode, stderr gets debug messages too.
 
38
 
 
39
Errors that terminate an operation are generally passed back as exceptions;
 
40
others may be just emitted as messages.
 
41
 
 
42
Exceptions are reported in a brief form to stderr so as not to look scary.
 
43
BzrErrors are required to be able to format themselves into a properly
 
44
explanatory message.  This is not true for builtin exceptions such as
 
45
KeyError, which typically just str to "0".  They're printed in a different
 
46
form.
 
47
"""
 
48
 
 
49
# FIXME: Unfortunately it turns out that python's logging module
 
50
# is quite expensive, even when the message is not printed by any handlers.
 
51
# We should perhaps change back to just simply doing it here.
 
52
#
 
53
# On the other hand, as of 1.2 we generally only call the mutter() statement
 
54
# if (according to debug_flags) we actually intend to write it.  So the
 
55
# increased cost of logging.py is not so bad, and we could standardize on
 
56
# that.
 
57
 
 
58
import codecs
 
59
import logging
 
60
import os
 
61
import sys
 
62
import re
 
63
import time
 
64
 
 
65
from bzrlib.lazy_import import lazy_import
 
66
lazy_import(globals(), """
 
67
from cStringIO import StringIO
 
68
import errno
 
69
import locale
 
70
import traceback
 
71
""")
 
72
 
 
73
import bzrlib
 
74
 
 
75
lazy_import(globals(), """
 
76
from bzrlib import (
 
77
    debug,
 
78
    errors,
 
79
    osutils,
 
80
    plugin,
 
81
    symbol_versioning,
 
82
    )
 
83
""")
 
84
 
 
85
 
 
86
# global verbosity for bzrlib; controls the log level for stderr; 0=normal; <0
 
87
# is quiet; >0 is verbose.
 
88
_verbosity_level = 0
 
89
 
 
90
# File-like object where mutter/debug output is currently sent.  Can be
 
91
# changed by _push_log_file etc.  This is directly manipulated by some
 
92
# external code; maybe there should be functions to do that more precisely
 
93
# than push/pop_log_file.
 
94
_trace_file = None
 
95
 
 
96
# Absolute path for ~/.bzr.log.  Not changed even if the log/trace output is
 
97
# redirected elsewhere.  Used to show the location in --version.
 
98
_bzr_log_filename = None
 
99
 
 
100
# The time the first message was written to the trace file, so that we can
 
101
# show relative times since startup.
 
102
_bzr_log_start_time = bzrlib._start_time
 
103
 
 
104
 
 
105
# held in a global for quick reference
 
106
_bzr_logger = logging.getLogger('bzr')
 
107
 
 
108
 
 
109
def note(*args, **kwargs):
 
110
    # FIXME note always emits utf-8, regardless of the terminal encoding
 
111
    #
 
112
    # FIXME: clearing the ui and then going through the abstract logging
 
113
    # framework is whack; we should probably have a logging Handler that
 
114
    # deals with terminal output if needed.
 
115
    import bzrlib.ui
 
116
    bzrlib.ui.ui_factory.clear_term()
 
117
    _bzr_logger.info(*args, **kwargs)
 
118
 
 
119
 
 
120
def warning(*args, **kwargs):
 
121
    import bzrlib.ui
 
122
    bzrlib.ui.ui_factory.clear_term()
 
123
    _bzr_logger.warning(*args, **kwargs)
 
124
 
 
125
 
 
126
# configure convenient aliases for output routines
 
127
#
 
128
# TODO: deprecate them, have one name for each.
 
129
info = note
 
130
log_error = _bzr_logger.error
 
131
error =     _bzr_logger.error
 
132
 
 
133
 
 
134
_last_mutter_flush_time = None
 
135
 
 
136
def mutter(fmt, *args):
 
137
    global _last_mutter_flush_time
 
138
    if _trace_file is None:
 
139
        return
 
140
    if (getattr(_trace_file, 'closed', None) is not None) and _trace_file.closed:
 
141
        return
 
142
 
 
143
    if isinstance(fmt, unicode):
 
144
        fmt = fmt.encode('utf8')
 
145
 
 
146
    if len(args) > 0:
 
147
        # It seems that if we do ascii % (unicode, ascii) we can
 
148
        # get a unicode cannot encode ascii error, so make sure that "fmt"
 
149
        # is a unicode string
 
150
        real_args = []
 
151
        for arg in args:
 
152
            if isinstance(arg, unicode):
 
153
                arg = arg.encode('utf8')
 
154
            real_args.append(arg)
 
155
        out = fmt % tuple(real_args)
 
156
    else:
 
157
        out = fmt
 
158
    now = time.time()
 
159
    timestamp = '%0.3f  ' % (now - _bzr_log_start_time,)
 
160
    out = timestamp + out + '\n'
 
161
    _trace_file.write(out)
 
162
    # We flush if we haven't flushed for a few seconds. We don't want to flush
 
163
    # on every mutter, but when a command takes a while, it can be nice to see
 
164
    # updates in the debug log.
 
165
    if (_last_mutter_flush_time is None
 
166
        or (now - _last_mutter_flush_time) > 2.0):
 
167
        flush = getattr(_trace_file, 'flush', None)
 
168
        if flush is not None:
 
169
            flush()
 
170
        _last_mutter_flush_time = now
 
171
 
 
172
 
 
173
def mutter_callsite(stacklevel, fmt, *args):
 
174
    """Perform a mutter of fmt and args, logging the call trace.
 
175
 
 
176
    :param stacklevel: The number of frames to show. None will show all
 
177
        frames.
 
178
    :param fmt: The format string to pass to mutter.
 
179
    :param args: A list of substitution variables.
 
180
    """
 
181
    outf = StringIO()
 
182
    if stacklevel is None:
 
183
        limit = None
 
184
    else:
 
185
        limit = stacklevel + 1
 
186
    traceback.print_stack(limit=limit, file=outf)
 
187
    formatted_lines = outf.getvalue().splitlines()
 
188
    formatted_stack = '\n'.join(formatted_lines[:-2])
 
189
    mutter(fmt + "\nCalled from:\n%s", *(args + (formatted_stack,)))
 
190
 
 
191
 
 
192
def _rollover_trace_maybe(trace_fname):
 
193
    import stat
 
194
    try:
 
195
        size = os.stat(trace_fname)[stat.ST_SIZE]
 
196
        if size <= 4 << 20:
 
197
            return
 
198
        old_fname = trace_fname + '.old'
 
199
        osutils.rename(trace_fname, old_fname)
 
200
    except OSError:
 
201
        return
 
202
 
 
203
 
 
204
def _get_bzr_log_filename():
 
205
    bzr_log = os.environ.get('BZR_LOG')
 
206
    if bzr_log:
 
207
        return bzr_log
 
208
    home = os.environ.get('BZR_HOME')
 
209
    if home is None:
 
210
        if sys.platform == 'win32':
 
211
            from bzrlib import win32utils
 
212
            home = win32utils.get_home_location()
 
213
        else:
 
214
            home = os.path.expanduser('~')
 
215
    return os.path.join(home, '.bzr.log')
 
216
 
 
217
 
 
218
def _open_bzr_log():
 
219
    """Open the .bzr.log trace file.  
 
220
 
 
221
    If the log is more than a particular length, the old file is renamed to
 
222
    .bzr.log.old and a new file is started.  Otherwise, we append to the
 
223
    existing file.
 
224
 
 
225
    This sets the global _bzr_log_filename.
 
226
    """
 
227
    global _bzr_log_filename
 
228
    _bzr_log_filename = _get_bzr_log_filename()
 
229
    _rollover_trace_maybe(_bzr_log_filename)
 
230
    try:
 
231
        bzr_log_file = open(_bzr_log_filename, 'at', 1) # line buffered
 
232
        # bzr_log_file.tell() on windows always return 0 until some writing done
 
233
        bzr_log_file.write('\n')
 
234
        if bzr_log_file.tell() <= 2:
 
235
            bzr_log_file.write("this is a debug log for diagnosing/reporting problems in bzr\n")
 
236
            bzr_log_file.write("you can delete or truncate this file, or include sections in\n")
 
237
            bzr_log_file.write("bug reports to https://bugs.launchpad.net/bzr/+filebug\n\n")
 
238
        return bzr_log_file
 
239
    except IOError, e:
 
240
        warning("failed to open trace file: %s" % (e))
 
241
    # TODO: What should happen if we fail to open the trace file?  Maybe the
 
242
    # objects should be pointed at /dev/null or the equivalent?  Currently
 
243
    # returns None which will cause failures later.
 
244
    return None
 
245
 
 
246
 
 
247
def enable_default_logging():
 
248
    """Configure default logging: messages to stderr and debug to .bzr.log
 
249
 
 
250
    This should only be called once per process.
 
251
 
 
252
    Non-command-line programs embedding bzrlib do not need to call this.  They
 
253
    can instead either pass a file to _push_log_file, or act directly on
 
254
    logging.getLogger("bzr").
 
255
 
 
256
    Output can be redirected away by calling _push_log_file.
 
257
    """
 
258
    # Do this before we open the log file, so we prevent
 
259
    # get_terminal_encoding() from mutter()ing multiple times
 
260
    term_encoding = osutils.get_terminal_encoding()
 
261
    start_time = osutils.format_local_date(_bzr_log_start_time,
 
262
                                           timezone='local')
 
263
    # create encoded wrapper around stderr
 
264
    bzr_log_file = _open_bzr_log()
 
265
    if bzr_log_file is not None:
 
266
        bzr_log_file.write(start_time.encode('utf-8') + '\n')
 
267
    push_log_file(bzr_log_file,
 
268
        r'[%(process)5d] %(asctime)s.%(msecs)03d %(levelname)s: %(message)s',
 
269
        r'%Y-%m-%d %H:%M:%S')
 
270
    # after hooking output into bzr_log, we also need to attach a stderr
 
271
    # handler, writing only at level info and with encoding
 
272
    writer_factory = codecs.getwriter(term_encoding)
 
273
    encoded_stderr = writer_factory(sys.stderr, errors='replace')
 
274
    stderr_handler = logging.StreamHandler(encoded_stderr)
 
275
    stderr_handler.setLevel(logging.INFO)
 
276
    logging.getLogger('bzr').addHandler(stderr_handler)
 
277
 
 
278
 
 
279
def push_log_file(to_file, log_format=None, date_format=None):
 
280
    """Intercept log and trace messages and send them to a file.
 
281
 
 
282
    :param to_file: A file-like object to which messages will be sent.
 
283
 
 
284
    :returns: A memento that should be passed to _pop_log_file to restore the 
 
285
    previously active logging.
 
286
    """
 
287
    global _trace_file
 
288
    # make a new handler
 
289
    new_handler = logging.StreamHandler(to_file)
 
290
    new_handler.setLevel(logging.DEBUG)
 
291
    if log_format is None:
 
292
        log_format = '%(levelname)8s  %(message)s'
 
293
    new_handler.setFormatter(logging.Formatter(log_format, date_format))
 
294
    # save and remove any existing log handlers
 
295
    bzr_logger = logging.getLogger('bzr')
 
296
    old_handlers = bzr_logger.handlers[:]
 
297
    del bzr_logger.handlers[:]
 
298
    # set that as the default logger
 
299
    bzr_logger.addHandler(new_handler)
 
300
    bzr_logger.setLevel(logging.DEBUG)
 
301
    # TODO: check if any changes are needed to the root logger
 
302
    #
 
303
    # TODO: also probably need to save and restore the level on bzr_logger.
 
304
    # but maybe we can avoid setting the logger level altogether, and just set
 
305
    # the level on the handler?
 
306
    #
 
307
    # save the old trace file
 
308
    old_trace_file = _trace_file
 
309
    # send traces to the new one
 
310
    _trace_file = to_file
 
311
    result = new_handler, _trace_file
 
312
    return ('log_memento', old_handlers, new_handler, old_trace_file, to_file)
 
313
 
 
314
 
 
315
def pop_log_file((magic, old_handlers, new_handler, old_trace_file, new_trace_file)):
 
316
    """Undo changes to logging/tracing done by _push_log_file.
 
317
 
 
318
    This flushes, but does not close the trace file.
 
319
    
 
320
    Takes the memento returned from _push_log_file."""
 
321
    global _trace_file
 
322
    _trace_file = old_trace_file
 
323
    bzr_logger = logging.getLogger('bzr')
 
324
    bzr_logger.removeHandler(new_handler)
 
325
    # must be closed, otherwise logging will try to close it atexit, and the
 
326
    # file will likely already be closed underneath.
 
327
    new_handler.close()
 
328
    bzr_logger.handlers = old_handlers
 
329
    new_trace_file.flush()
 
330
 
 
331
 
 
332
@symbol_versioning.deprecated_function(symbol_versioning.one_two)
 
333
def enable_test_log(to_file):
 
334
    """Redirect logging to a temporary file for a test
 
335
    
 
336
    :returns: an opaque reference that should be passed to disable_test_log
 
337
    after the test completes.
 
338
    """
 
339
    return push_log_file(to_file)
 
340
 
 
341
 
 
342
@symbol_versioning.deprecated_function(symbol_versioning.one_two)
 
343
def disable_test_log(memento):
 
344
    return pop_log_file(memento)
 
345
 
 
346
 
 
347
def log_exception_quietly():
 
348
    """Log the last exception to the trace file only.
 
349
 
 
350
    Used for exceptions that occur internally and that may be 
 
351
    interesting to developers but not to users.  For example, 
 
352
    errors loading plugins.
 
353
    """
 
354
    mutter(traceback.format_exc())
 
355
 
 
356
 
 
357
def set_verbosity_level(level):
 
358
    """Set the verbosity level.
 
359
 
 
360
    :param level: -ve for quiet, 0 for normal, +ve for verbose
 
361
    """
 
362
    global _verbosity_level
 
363
    _verbosity_level = level
 
364
    _update_logging_level(level < 0)
 
365
 
 
366
 
 
367
def get_verbosity_level():
 
368
    """Get the verbosity level.
 
369
 
 
370
    See set_verbosity_level() for values.
 
371
    """
 
372
    return _verbosity_level
 
373
 
 
374
 
 
375
def be_quiet(quiet=True):
 
376
    # Perhaps this could be deprecated now ...
 
377
    if quiet:
 
378
        set_verbosity_level(-1)
 
379
    else:
 
380
        set_verbosity_level(0)
 
381
 
 
382
 
 
383
def _update_logging_level(quiet=True):
 
384
    """Hide INFO messages if quiet."""
 
385
    if quiet:
 
386
        _bzr_logger.setLevel(logging.WARNING)
 
387
    else:
 
388
        _bzr_logger.setLevel(logging.INFO)
 
389
 
 
390
 
 
391
def is_quiet():
 
392
    """Is the verbosity level negative?"""
 
393
    return _verbosity_level < 0
 
394
 
 
395
 
 
396
def is_verbose():
 
397
    """Is the verbosity level positive?"""
 
398
    return _verbosity_level > 0
 
399
 
 
400
 
 
401
@symbol_versioning.deprecated_function(symbol_versioning.one_two)
 
402
def disable_default_logging():
 
403
    """Turn off default log handlers.
 
404
 
 
405
    Don't call this method, use _push_log_file and _pop_log_file instead.
 
406
    """
 
407
    pass
 
408
 
 
409
 
 
410
_short_fields = ('VmPeak', 'VmSize', 'VmRSS')
 
411
 
 
412
def debug_memory(message='', short=True):
 
413
    """Write out a memory dump."""
 
414
    try:
 
415
        status_file = file('/proc/%s/status' % os.getpid(), 'rb')
 
416
    except IOError:
 
417
        return
 
418
    try:
 
419
        status = status_file.read()
 
420
    finally:
 
421
        status_file.close()
 
422
    if message:
 
423
        note(message)
 
424
    for line in status.splitlines():
 
425
        if not short:
 
426
            note(line)
 
427
        else:
 
428
            for field in _short_fields:
 
429
                if line.startswith(field):
 
430
                    note(line)
 
431
                    break
 
432
 
 
433
 
 
434
def report_exception(exc_info, err_file):
 
435
    """Report an exception to err_file (typically stderr) and to .bzr.log.
 
436
 
 
437
    This will show either a full traceback or a short message as appropriate.
 
438
 
 
439
    :return: The appropriate exit code for this error.
 
440
    """
 
441
    exc_type, exc_object, exc_tb = exc_info
 
442
    # Log the full traceback to ~/.bzr.log
 
443
    log_exception_quietly()
 
444
    if (isinstance(exc_object, IOError)
 
445
        and getattr(exc_object, 'errno', None) == errno.EPIPE):
 
446
        err_file.write("bzr: broken pipe\n")
 
447
        return errors.EXIT_ERROR
 
448
    elif isinstance(exc_object, KeyboardInterrupt):
 
449
        err_file.write("bzr: interrupted\n")
 
450
        return errors.EXIT_ERROR
 
451
    elif isinstance(exc_object, ImportError) \
 
452
        and str(exc_object).startswith("No module named "):
 
453
        report_user_error(exc_info, err_file,
 
454
            'You may need to install this Python library separately.')
 
455
        return errors.EXIT_ERROR
 
456
    elif not getattr(exc_object, 'internal_error', True):
 
457
        report_user_error(exc_info, err_file)
 
458
        return errors.EXIT_ERROR
 
459
    elif isinstance(exc_object, (OSError, IOError)):
 
460
        # Might be nice to catch all of these and show them as something more
 
461
        # specific, but there are too many cases at the moment.
 
462
        report_user_error(exc_info, err_file)
 
463
        return errors.EXIT_ERROR
 
464
    else:
 
465
        report_bug(exc_info, err_file)
 
466
        return errors.EXIT_INTERNAL_ERROR
 
467
 
 
468
 
 
469
def print_exception(exc_info, err_file):
 
470
    exc_type, exc_object, exc_tb = exc_info
 
471
    err_file.write("bzr: ERROR: %s.%s: %s\n" % (
 
472
        exc_type.__module__, exc_type.__name__, exc_object))
 
473
    err_file.write('\n')
 
474
    traceback.print_exception(exc_type, exc_object, exc_tb, file=err_file)
 
475
 
 
476
 
 
477
# TODO: Should these be specially encoding the output?
 
478
def report_user_error(exc_info, err_file, advice=None):
 
479
    """Report to err_file an error that's not an internal error.
 
480
 
 
481
    These don't get a traceback unless -Derror was given.
 
482
 
 
483
    :param exc_info: 3-tuple from sys.exc_info()
 
484
    :param advice: Extra advice to the user to be printed following the
 
485
        exception.
 
486
    """
 
487
    if 'error' in debug.debug_flags:
 
488
        print_exception(exc_info, err_file)
 
489
        return
 
490
    err_file.write("bzr: ERROR: %s\n" % (exc_info[1],))
 
491
    if advice:
 
492
        err_file.write("%s\n" % (advice,))
 
493
 
 
494
 
 
495
def report_bug(exc_info, err_file):
 
496
    """Report an exception that probably indicates a bug in bzr"""
 
497
    print_exception(exc_info, err_file)
 
498
    err_file.write('\n')
 
499
    err_file.write('bzr %s on python %s (%s)\n' % \
 
500
                       (bzrlib.__version__,
 
501
                        bzrlib._format_version_tuple(sys.version_info),
 
502
                        sys.platform))
 
503
    err_file.write('arguments: %r\n' % sys.argv)
 
504
    err_file.write(
 
505
        'encoding: %r, fsenc: %r, lang: %r\n' % (
 
506
            osutils.get_user_encoding(), sys.getfilesystemencoding(),
 
507
            os.environ.get('LANG')))
 
508
    err_file.write("plugins:\n")
 
509
    for name, a_plugin in sorted(plugin.plugins().items()):
 
510
        err_file.write("  %-20s %s [%s]\n" %
 
511
            (name, a_plugin.path(), a_plugin.__version__))
 
512
    err_file.write(
 
513
"""\
 
514
*** Bazaar has encountered an internal error.
 
515
    Please report a bug at https://bugs.launchpad.net/bzr/+filebug
 
516
    including this traceback, and a description of what you
 
517
    were doing when the error occurred.
 
518
""")