/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/diff.py

  • Committer: John Arbash Meinel
  • Date: 2007-03-21 17:51:42 UTC
  • mto: This revision was merged to the branch mainline in revision 2373.
  • Revision ID: john@arbash-meinel.com-20070321175142-052tm470fx9s0obl
Lazily read working inventory in workingtree.py,
this exposes code paths that are not locking the tree before
processing, because they are directly accessing tree._inventory somehow
(one case is Tree.path2id())

Show diffs side-by-side

added added

removed removed

Lines of Context:
 
1
# Copyright (C) 2004, 2005, 2006 Canonical Ltd.
 
2
#
 
3
# This program is free software; you can redistribute it and/or modify
 
4
# it under the terms of the GNU General Public License as published by
 
5
# the Free Software Foundation; either version 2 of the License, or
 
6
# (at your option) any later version.
 
7
#
 
8
# This program is distributed in the hope that it will be useful,
 
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
 
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
11
# GNU General Public License for more details.
 
12
#
 
13
# You should have received a copy of the GNU General Public License
 
14
# along with this program; if not, write to the Free Software
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
16
 
 
17
import os
 
18
import re
 
19
import sys
 
20
 
 
21
from bzrlib.lazy_import import lazy_import
 
22
lazy_import(globals(), """
 
23
import errno
 
24
import subprocess
 
25
import tempfile
 
26
import time
 
27
 
 
28
from bzrlib import (
 
29
    errors,
 
30
    osutils,
 
31
    patiencediff,
 
32
    textfile,
 
33
    timestamp,
 
34
    )
 
35
""")
 
36
 
 
37
# compatability - plugins import compare_trees from diff!!!
 
38
# deprecated as of 0.10
 
39
from bzrlib.delta import compare_trees
 
40
from bzrlib.symbol_versioning import (
 
41
        deprecated_function,
 
42
        zero_eight,
 
43
        )
 
44
from bzrlib.trace import mutter, warning
 
45
 
 
46
 
 
47
# TODO: Rather than building a changeset object, we should probably
 
48
# invoke callbacks on an object.  That object can either accumulate a
 
49
# list, write them out directly, etc etc.
 
50
 
 
51
def internal_diff(old_filename, oldlines, new_filename, newlines, to_file,
 
52
                  allow_binary=False, sequence_matcher=None,
 
53
                  path_encoding='utf8'):
 
54
    # FIXME: difflib is wrong if there is no trailing newline.
 
55
    # The syntax used by patch seems to be "\ No newline at
 
56
    # end of file" following the last diff line from that
 
57
    # file.  This is not trivial to insert into the
 
58
    # unified_diff output and it might be better to just fix
 
59
    # or replace that function.
 
60
 
 
61
    # In the meantime we at least make sure the patch isn't
 
62
    # mangled.
 
63
 
 
64
 
 
65
    # Special workaround for Python2.3, where difflib fails if
 
66
    # both sequences are empty.
 
67
    if not oldlines and not newlines:
 
68
        return
 
69
    
 
70
    if allow_binary is False:
 
71
        textfile.check_text_lines(oldlines)
 
72
        textfile.check_text_lines(newlines)
 
73
 
 
74
    if sequence_matcher is None:
 
75
        sequence_matcher = patiencediff.PatienceSequenceMatcher
 
76
    ud = patiencediff.unified_diff(oldlines, newlines,
 
77
                      fromfile=old_filename.encode(path_encoding),
 
78
                      tofile=new_filename.encode(path_encoding),
 
79
                      sequencematcher=sequence_matcher)
 
80
 
 
81
    ud = list(ud)
 
82
    # work-around for difflib being too smart for its own good
 
83
    # if /dev/null is "1,0", patch won't recognize it as /dev/null
 
84
    if not oldlines:
 
85
        ud[2] = ud[2].replace('-1,0', '-0,0')
 
86
    elif not newlines:
 
87
        ud[2] = ud[2].replace('+1,0', '+0,0')
 
88
    # work around for difflib emitting random spaces after the label
 
89
    ud[0] = ud[0][:-2] + '\n'
 
90
    ud[1] = ud[1][:-2] + '\n'
 
91
 
 
92
    for line in ud:
 
93
        to_file.write(line)
 
94
        if not line.endswith('\n'):
 
95
            to_file.write("\n\\ No newline at end of file\n")
 
96
    print >>to_file
 
97
 
 
98
 
 
99
def _set_lang_C():
 
100
    """Set the env vars LANG=C and LC_ALL=C."""
 
101
    osutils.set_or_unset_env('LANG', 'C')
 
102
    osutils.set_or_unset_env('LC_ALL', 'C')
 
103
    osutils.set_or_unset_env('LC_CTYPE', None)
 
104
    osutils.set_or_unset_env('LANGUAGE', None)
 
105
 
 
106
 
 
107
def _spawn_external_diff(diffcmd, capture_errors=True):
 
108
    """Spawn the externall diff process, and return the child handle.
 
109
 
 
110
    :param diffcmd: The command list to spawn
 
111
    :param capture_errors: Capture stderr as well as setting LANG=C
 
112
        and LC_ALL=C. This lets us read and understand the output of diff,
 
113
        and respond to any errors.
 
114
    :return: A Popen object.
 
115
    """
 
116
    if capture_errors:
 
117
        if sys.platform == 'win32':
 
118
            # Win32 doesn't support preexec_fn, but that is
 
119
            # okay, because it doesn't support LANG and LC_ALL either.
 
120
            preexec_fn = None
 
121
        else:
 
122
            preexec_fn = _set_lang_C
 
123
        stderr = subprocess.PIPE
 
124
    else:
 
125
        preexec_fn = None
 
126
        stderr = None
 
127
 
 
128
    try:
 
129
        pipe = subprocess.Popen(diffcmd,
 
130
                                stdin=subprocess.PIPE,
 
131
                                stdout=subprocess.PIPE,
 
132
                                stderr=stderr,
 
133
                                preexec_fn=preexec_fn)
 
134
    except OSError, e:
 
135
        if e.errno == errno.ENOENT:
 
136
            raise errors.NoDiff(str(e))
 
137
        raise
 
138
 
 
139
    return pipe
 
140
 
 
141
 
 
142
def external_diff(old_filename, oldlines, new_filename, newlines, to_file,
 
143
                  diff_opts):
 
144
    """Display a diff by calling out to the external diff program."""
 
145
    # make sure our own output is properly ordered before the diff
 
146
    to_file.flush()
 
147
 
 
148
    oldtmp_fd, old_abspath = tempfile.mkstemp(prefix='bzr-diff-old-')
 
149
    newtmp_fd, new_abspath = tempfile.mkstemp(prefix='bzr-diff-new-')
 
150
    oldtmpf = os.fdopen(oldtmp_fd, 'wb')
 
151
    newtmpf = os.fdopen(newtmp_fd, 'wb')
 
152
 
 
153
    try:
 
154
        # TODO: perhaps a special case for comparing to or from the empty
 
155
        # sequence; can just use /dev/null on Unix
 
156
 
 
157
        # TODO: if either of the files being compared already exists as a
 
158
        # regular named file (e.g. in the working directory) then we can
 
159
        # compare directly to that, rather than copying it.
 
160
 
 
161
        oldtmpf.writelines(oldlines)
 
162
        newtmpf.writelines(newlines)
 
163
 
 
164
        oldtmpf.close()
 
165
        newtmpf.close()
 
166
 
 
167
        if not diff_opts:
 
168
            diff_opts = []
 
169
        diffcmd = ['diff',
 
170
                   '--label', old_filename,
 
171
                   old_abspath,
 
172
                   '--label', new_filename,
 
173
                   new_abspath,
 
174
                   '--binary',
 
175
                  ]
 
176
 
 
177
        # diff only allows one style to be specified; they don't override.
 
178
        # note that some of these take optargs, and the optargs can be
 
179
        # directly appended to the options.
 
180
        # this is only an approximate parser; it doesn't properly understand
 
181
        # the grammar.
 
182
        for s in ['-c', '-u', '-C', '-U',
 
183
                  '-e', '--ed',
 
184
                  '-q', '--brief',
 
185
                  '--normal',
 
186
                  '-n', '--rcs',
 
187
                  '-y', '--side-by-side',
 
188
                  '-D', '--ifdef']:
 
189
            for j in diff_opts:
 
190
                if j.startswith(s):
 
191
                    break
 
192
            else:
 
193
                continue
 
194
            break
 
195
        else:
 
196
            diffcmd.append('-u')
 
197
                  
 
198
        if diff_opts:
 
199
            diffcmd.extend(diff_opts)
 
200
 
 
201
        pipe = _spawn_external_diff(diffcmd, capture_errors=True)
 
202
        out,err = pipe.communicate()
 
203
        rc = pipe.returncode
 
204
        
 
205
        # internal_diff() adds a trailing newline, add one here for consistency
 
206
        out += '\n'
 
207
        if rc == 2:
 
208
            # 'diff' gives retcode == 2 for all sorts of errors
 
209
            # one of those is 'Binary files differ'.
 
210
            # Bad options could also be the problem.
 
211
            # 'Binary files' is not a real error, so we suppress that error.
 
212
            lang_c_out = out
 
213
 
 
214
            # Since we got here, we want to make sure to give an i18n error
 
215
            pipe = _spawn_external_diff(diffcmd, capture_errors=False)
 
216
            out, err = pipe.communicate()
 
217
 
 
218
            # Write out the new i18n diff response
 
219
            to_file.write(out+'\n')
 
220
            if pipe.returncode != 2:
 
221
                raise errors.BzrError(
 
222
                               'external diff failed with exit code 2'
 
223
                               ' when run with LANG=C and LC_ALL=C,'
 
224
                               ' but not when run natively: %r' % (diffcmd,))
 
225
 
 
226
            first_line = lang_c_out.split('\n', 1)[0]
 
227
            # Starting with diffutils 2.8.4 the word "binary" was dropped.
 
228
            m = re.match('^(binary )?files.*differ$', first_line, re.I)
 
229
            if m is None:
 
230
                raise errors.BzrError('external diff failed with exit code 2;'
 
231
                                      ' command: %r' % (diffcmd,))
 
232
            else:
 
233
                # Binary files differ, just return
 
234
                return
 
235
 
 
236
        # If we got to here, we haven't written out the output of diff
 
237
        # do so now
 
238
        to_file.write(out)
 
239
        if rc not in (0, 1):
 
240
            # returns 1 if files differ; that's OK
 
241
            if rc < 0:
 
242
                msg = 'signal %d' % (-rc)
 
243
            else:
 
244
                msg = 'exit code %d' % rc
 
245
                
 
246
            raise errors.BzrError('external diff failed with %s; command: %r' 
 
247
                                  % (rc, diffcmd))
 
248
 
 
249
 
 
250
    finally:
 
251
        oldtmpf.close()                 # and delete
 
252
        newtmpf.close()
 
253
        # Clean up. Warn in case the files couldn't be deleted
 
254
        # (in case windows still holds the file open, but not
 
255
        # if the files have already been deleted)
 
256
        try:
 
257
            os.remove(old_abspath)
 
258
        except OSError, e:
 
259
            if e.errno not in (errno.ENOENT,):
 
260
                warning('Failed to delete temporary file: %s %s',
 
261
                        old_abspath, e)
 
262
        try:
 
263
            os.remove(new_abspath)
 
264
        except OSError:
 
265
            if e.errno not in (errno.ENOENT,):
 
266
                warning('Failed to delete temporary file: %s %s',
 
267
                        new_abspath, e)
 
268
 
 
269
 
 
270
@deprecated_function(zero_eight)
 
271
def show_diff(b, from_spec, specific_files, external_diff_options=None,
 
272
              revision2=None, output=None, b2=None):
 
273
    """Shortcut for showing the diff to the working tree.
 
274
 
 
275
    Please use show_diff_trees instead.
 
276
 
 
277
    b
 
278
        Branch.
 
279
 
 
280
    revision
 
281
        None for 'basis tree', or otherwise the old revision to compare against.
 
282
    
 
283
    The more general form is show_diff_trees(), where the caller
 
284
    supplies any two trees.
 
285
    """
 
286
    if output is None:
 
287
        output = sys.stdout
 
288
 
 
289
    if from_spec is None:
 
290
        old_tree = b.bzrdir.open_workingtree()
 
291
        if b2 is None:
 
292
            old_tree = old_tree = old_tree.basis_tree()
 
293
    else:
 
294
        old_tree = b.repository.revision_tree(from_spec.in_history(b).rev_id)
 
295
 
 
296
    if revision2 is None:
 
297
        if b2 is None:
 
298
            new_tree = b.bzrdir.open_workingtree()
 
299
        else:
 
300
            new_tree = b2.bzrdir.open_workingtree()
 
301
    else:
 
302
        new_tree = b.repository.revision_tree(revision2.in_history(b).rev_id)
 
303
 
 
304
    return show_diff_trees(old_tree, new_tree, output, specific_files,
 
305
                           external_diff_options)
 
306
 
 
307
 
 
308
def diff_cmd_helper(tree, specific_files, external_diff_options, 
 
309
                    old_revision_spec=None, new_revision_spec=None,
 
310
                    revision_specs=None,
 
311
                    old_label='a/', new_label='b/'):
 
312
    """Helper for cmd_diff.
 
313
 
 
314
    :param tree:
 
315
        A WorkingTree
 
316
 
 
317
    :param specific_files:
 
318
        The specific files to compare, or None
 
319
 
 
320
    :param external_diff_options:
 
321
        If non-None, run an external diff, and pass it these options
 
322
 
 
323
    :param old_revision_spec:
 
324
        If None, use basis tree as old revision, otherwise use the tree for
 
325
        the specified revision. 
 
326
 
 
327
    :param new_revision_spec:
 
328
        If None, use working tree as new revision, otherwise use the tree for
 
329
        the specified revision.
 
330
    
 
331
    :param revision_specs: 
 
332
        Zero, one or two RevisionSpecs from the command line, saying what revisions 
 
333
        to compare.  This can be passed as an alternative to the old_revision_spec 
 
334
        and new_revision_spec parameters.
 
335
 
 
336
    The more general form is show_diff_trees(), where the caller
 
337
    supplies any two trees.
 
338
    """
 
339
 
 
340
    # TODO: perhaps remove the old parameters old_revision_spec and
 
341
    # new_revision_spec, since this is only really for use from cmd_diff and
 
342
    # it now always passes through a sequence of revision_specs -- mbp
 
343
    # 20061221
 
344
 
 
345
    def spec_tree(spec):
 
346
        if tree:
 
347
            revision = spec.in_store(tree.branch)
 
348
        else:
 
349
            revision = spec.in_store(None)
 
350
        revision_id = revision.rev_id
 
351
        branch = revision.branch
 
352
        return branch.repository.revision_tree(revision_id)
 
353
 
 
354
    if revision_specs is not None:
 
355
        assert (old_revision_spec is None
 
356
                and new_revision_spec is None)
 
357
        if len(revision_specs) > 0:
 
358
            old_revision_spec = revision_specs[0]
 
359
        if len(revision_specs) > 1:
 
360
            new_revision_spec = revision_specs[1]
 
361
 
 
362
    if old_revision_spec is None:
 
363
        old_tree = tree.basis_tree()
 
364
    else:
 
365
        old_tree = spec_tree(old_revision_spec)
 
366
 
 
367
    if (new_revision_spec is None
 
368
        or new_revision_spec.spec is None):
 
369
        new_tree = tree
 
370
    else:
 
371
        new_tree = spec_tree(new_revision_spec)
 
372
 
 
373
    if new_tree is not tree:
 
374
        extra_trees = (tree,)
 
375
    else:
 
376
        extra_trees = None
 
377
 
 
378
    return show_diff_trees(old_tree, new_tree, sys.stdout, specific_files,
 
379
                           external_diff_options,
 
380
                           old_label=old_label, new_label=new_label,
 
381
                           extra_trees=extra_trees)
 
382
 
 
383
 
 
384
def show_diff_trees(old_tree, new_tree, to_file, specific_files=None,
 
385
                    external_diff_options=None,
 
386
                    old_label='a/', new_label='b/',
 
387
                    extra_trees=None):
 
388
    """Show in text form the changes from one tree to another.
 
389
 
 
390
    to_files
 
391
        If set, include only changes to these files.
 
392
 
 
393
    external_diff_options
 
394
        If set, use an external GNU diff and pass these options.
 
395
 
 
396
    extra_trees
 
397
        If set, more Trees to use for looking up file ids
 
398
    """
 
399
    old_tree.lock_read()
 
400
    try:
 
401
        if extra_trees is not None:
 
402
            for tree in extra_trees:
 
403
                tree.lock_read()
 
404
        new_tree.lock_read()
 
405
        try:
 
406
            return _show_diff_trees(old_tree, new_tree, to_file,
 
407
                                    specific_files, external_diff_options,
 
408
                                    old_label=old_label, new_label=new_label,
 
409
                                    extra_trees=extra_trees)
 
410
        finally:
 
411
            new_tree.unlock()
 
412
            if extra_trees is not None:
 
413
                for tree in extra_trees:
 
414
                    tree.unlock()
 
415
    finally:
 
416
        old_tree.unlock()
 
417
 
 
418
 
 
419
def _show_diff_trees(old_tree, new_tree, to_file,
 
420
                     specific_files, external_diff_options, 
 
421
                     old_label='a/', new_label='b/', extra_trees=None):
 
422
 
 
423
    # GNU Patch uses the epoch date to detect files that are being added
 
424
    # or removed in a diff.
 
425
    EPOCH_DATE = '1970-01-01 00:00:00 +0000'
 
426
 
 
427
    # TODO: Generation of pseudo-diffs for added/deleted files could
 
428
    # be usefully made into a much faster special case.
 
429
 
 
430
    if external_diff_options:
 
431
        assert isinstance(external_diff_options, basestring)
 
432
        opts = external_diff_options.split()
 
433
        def diff_file(olab, olines, nlab, nlines, to_file):
 
434
            external_diff(olab, olines, nlab, nlines, to_file, opts)
 
435
    else:
 
436
        diff_file = internal_diff
 
437
    
 
438
    delta = new_tree.changes_from(old_tree,
 
439
        specific_files=specific_files,
 
440
        extra_trees=extra_trees, require_versioned=True)
 
441
 
 
442
    has_changes = 0
 
443
    for path, file_id, kind in delta.removed:
 
444
        has_changes = 1
 
445
        print >>to_file, '=== removed %s %r' % (kind, path.encode('utf8'))
 
446
        old_name = '%s%s\t%s' % (old_label, path,
 
447
                                 _patch_header_date(old_tree, file_id, path))
 
448
        new_name = '%s%s\t%s' % (new_label, path, EPOCH_DATE)
 
449
        old_tree.inventory[file_id].diff(diff_file, old_name, old_tree,
 
450
                                         new_name, None, None, to_file)
 
451
    for path, file_id, kind in delta.added:
 
452
        has_changes = 1
 
453
        print >>to_file, '=== added %s %r' % (kind, path.encode('utf8'))
 
454
        old_name = '%s%s\t%s' % (old_label, path, EPOCH_DATE)
 
455
        new_name = '%s%s\t%s' % (new_label, path,
 
456
                                 _patch_header_date(new_tree, file_id, path))
 
457
        new_tree.inventory[file_id].diff(diff_file, new_name, new_tree,
 
458
                                         old_name, None, None, to_file, 
 
459
                                         reverse=True)
 
460
    for (old_path, new_path, file_id, kind,
 
461
         text_modified, meta_modified) in delta.renamed:
 
462
        has_changes = 1
 
463
        prop_str = get_prop_change(meta_modified)
 
464
        print >>to_file, '=== renamed %s %r => %r%s' % (
 
465
                    kind, old_path.encode('utf8'),
 
466
                    new_path.encode('utf8'), prop_str)
 
467
        old_name = '%s%s\t%s' % (old_label, old_path,
 
468
                                 _patch_header_date(old_tree, file_id,
 
469
                                                    old_path))
 
470
        new_name = '%s%s\t%s' % (new_label, new_path,
 
471
                                 _patch_header_date(new_tree, file_id,
 
472
                                                    new_path))
 
473
        _maybe_diff_file_or_symlink(old_name, old_tree, file_id,
 
474
                                    new_name, new_tree,
 
475
                                    text_modified, kind, to_file, diff_file)
 
476
    for path, file_id, kind, text_modified, meta_modified in delta.modified:
 
477
        has_changes = 1
 
478
        prop_str = get_prop_change(meta_modified)
 
479
        print >>to_file, '=== modified %s %r%s' % (kind, path.encode('utf8'), prop_str)
 
480
        old_name = '%s%s\t%s' % (old_label, path,
 
481
                                 _patch_header_date(old_tree, file_id, path))
 
482
        new_name = '%s%s\t%s' % (new_label, path,
 
483
                                 _patch_header_date(new_tree, file_id, path))
 
484
        if text_modified:
 
485
            _maybe_diff_file_or_symlink(old_name, old_tree, file_id,
 
486
                                        new_name, new_tree,
 
487
                                        True, kind, to_file, diff_file)
 
488
 
 
489
    return has_changes
 
490
 
 
491
 
 
492
def _patch_header_date(tree, file_id, path):
 
493
    """Returns a timestamp suitable for use in a patch header."""
 
494
    return timestamp.format_patch_date(tree.get_file_mtime(file_id, path))
 
495
 
 
496
 
 
497
def _raise_if_nonexistent(paths, old_tree, new_tree):
 
498
    """Complain if paths are not in either inventory or tree.
 
499
 
 
500
    It's OK with the files exist in either tree's inventory, or 
 
501
    if they exist in the tree but are not versioned.
 
502
    
 
503
    This can be used by operations such as bzr status that can accept
 
504
    unknown or ignored files.
 
505
    """
 
506
    mutter("check paths: %r", paths)
 
507
    if not paths:
 
508
        return
 
509
    s = old_tree.filter_unversioned_files(paths)
 
510
    s = new_tree.filter_unversioned_files(s)
 
511
    s = [path for path in s if not new_tree.has_filename(path)]
 
512
    if s:
 
513
        raise errors.PathsDoNotExist(sorted(s))
 
514
 
 
515
 
 
516
def get_prop_change(meta_modified):
 
517
    if meta_modified:
 
518
        return " (properties changed)"
 
519
    else:
 
520
        return  ""
 
521
 
 
522
 
 
523
def _maybe_diff_file_or_symlink(old_path, old_tree, file_id,
 
524
                                new_path, new_tree, text_modified,
 
525
                                kind, to_file, diff_file):
 
526
    if text_modified:
 
527
        new_entry = new_tree.inventory[file_id]
 
528
        old_tree.inventory[file_id].diff(diff_file,
 
529
                                         old_path, old_tree,
 
530
                                         new_path, new_entry, 
 
531
                                         new_tree, to_file)