/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/diff.py

  • Committer: Aaron Bentley
  • Date: 2007-08-17 13:47:21 UTC
  • mto: (1551.19.24 Aaron's mergeable stuff)
  • mto: This revision was merged to the branch mainline in revision 2725.
  • Revision ID: abentley@panoramicfeedback.com-20070817134721-2urlrk8nqt19jvom
Add support for diff -p-style diffs to patch parser

Show diffs side-by-side

added added

removed removed

Lines of Context:
 
1
# Copyright (C) 2004, 2005, 2006 Canonical Ltd.
 
2
#
 
3
# This program is free software; you can redistribute it and/or modify
 
4
# it under the terms of the GNU General Public License as published by
 
5
# the Free Software Foundation; either version 2 of the License, or
 
6
# (at your option) any later version.
 
7
#
 
8
# This program is distributed in the hope that it will be useful,
 
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
 
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
11
# GNU General Public License for more details.
 
12
#
 
13
# You should have received a copy of the GNU General Public License
 
14
# along with this program; if not, write to the Free Software
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
16
 
 
17
import difflib
 
18
import os
 
19
import re
 
20
import sys
 
21
 
 
22
from bzrlib.lazy_import import lazy_import
 
23
lazy_import(globals(), """
 
24
import errno
 
25
import subprocess
 
26
import tempfile
 
27
import time
 
28
 
 
29
from bzrlib import (
 
30
    errors,
 
31
    osutils,
 
32
    patiencediff,
 
33
    textfile,
 
34
    timestamp,
 
35
    )
 
36
""")
 
37
 
 
38
# compatability - plugins import compare_trees from diff!!!
 
39
# deprecated as of 0.10
 
40
from bzrlib.delta import compare_trees
 
41
from bzrlib.symbol_versioning import (
 
42
        deprecated_function,
 
43
        zero_eight,
 
44
        )
 
45
from bzrlib.trace import mutter, warning
 
46
 
 
47
 
 
48
# TODO: Rather than building a changeset object, we should probably
 
49
# invoke callbacks on an object.  That object can either accumulate a
 
50
# list, write them out directly, etc etc.
 
51
 
 
52
 
 
53
class _PrematchedMatcher(difflib.SequenceMatcher):
 
54
    """Allow SequenceMatcher operations to use predetermined blocks"""
 
55
 
 
56
    def __init__(self, matching_blocks):
 
57
        difflib.SequenceMatcher(self, None, None)
 
58
        self.matching_blocks = matching_blocks
 
59
        self.opcodes = None
 
60
 
 
61
 
 
62
def internal_diff(old_filename, oldlines, new_filename, newlines, to_file,
 
63
                  allow_binary=False, sequence_matcher=None,
 
64
                  path_encoding='utf8'):
 
65
    # FIXME: difflib is wrong if there is no trailing newline.
 
66
    # The syntax used by patch seems to be "\ No newline at
 
67
    # end of file" following the last diff line from that
 
68
    # file.  This is not trivial to insert into the
 
69
    # unified_diff output and it might be better to just fix
 
70
    # or replace that function.
 
71
 
 
72
    # In the meantime we at least make sure the patch isn't
 
73
    # mangled.
 
74
 
 
75
 
 
76
    # Special workaround for Python2.3, where difflib fails if
 
77
    # both sequences are empty.
 
78
    if not oldlines and not newlines:
 
79
        return
 
80
    
 
81
    if allow_binary is False:
 
82
        textfile.check_text_lines(oldlines)
 
83
        textfile.check_text_lines(newlines)
 
84
 
 
85
    if sequence_matcher is None:
 
86
        sequence_matcher = patiencediff.PatienceSequenceMatcher
 
87
    ud = patiencediff.unified_diff(oldlines, newlines,
 
88
                      fromfile=old_filename.encode(path_encoding),
 
89
                      tofile=new_filename.encode(path_encoding),
 
90
                      sequencematcher=sequence_matcher)
 
91
 
 
92
    ud = list(ud)
 
93
    # work-around for difflib being too smart for its own good
 
94
    # if /dev/null is "1,0", patch won't recognize it as /dev/null
 
95
    if not oldlines:
 
96
        ud[2] = ud[2].replace('-1,0', '-0,0')
 
97
    elif not newlines:
 
98
        ud[2] = ud[2].replace('+1,0', '+0,0')
 
99
    # work around for difflib emitting random spaces after the label
 
100
    ud[0] = ud[0][:-2] + '\n'
 
101
    ud[1] = ud[1][:-2] + '\n'
 
102
 
 
103
    for line in ud:
 
104
        to_file.write(line)
 
105
        if not line.endswith('\n'):
 
106
            to_file.write("\n\\ No newline at end of file\n")
 
107
    print >>to_file
 
108
 
 
109
 
 
110
def _spawn_external_diff(diffcmd, capture_errors=True):
 
111
    """Spawn the externall diff process, and return the child handle.
 
112
 
 
113
    :param diffcmd: The command list to spawn
 
114
    :param capture_errors: Capture stderr as well as setting LANG=C
 
115
        and LC_ALL=C. This lets us read and understand the output of diff,
 
116
        and respond to any errors.
 
117
    :return: A Popen object.
 
118
    """
 
119
    if capture_errors:
 
120
        # construct minimal environment
 
121
        env = {}
 
122
        path = os.environ.get('PATH')
 
123
        if path is not None:
 
124
            env['PATH'] = path
 
125
        env['LANGUAGE'] = 'C'   # on win32 only LANGUAGE has effect
 
126
        env['LANG'] = 'C'
 
127
        env['LC_ALL'] = 'C'
 
128
        stderr = subprocess.PIPE
 
129
    else:
 
130
        env = None
 
131
        stderr = None
 
132
 
 
133
    try:
 
134
        pipe = subprocess.Popen(diffcmd,
 
135
                                stdin=subprocess.PIPE,
 
136
                                stdout=subprocess.PIPE,
 
137
                                stderr=stderr,
 
138
                                env=env)
 
139
    except OSError, e:
 
140
        if e.errno == errno.ENOENT:
 
141
            raise errors.NoDiff(str(e))
 
142
        raise
 
143
 
 
144
    return pipe
 
145
 
 
146
 
 
147
def external_diff(old_filename, oldlines, new_filename, newlines, to_file,
 
148
                  diff_opts):
 
149
    """Display a diff by calling out to the external diff program."""
 
150
    # make sure our own output is properly ordered before the diff
 
151
    to_file.flush()
 
152
 
 
153
    oldtmp_fd, old_abspath = tempfile.mkstemp(prefix='bzr-diff-old-')
 
154
    newtmp_fd, new_abspath = tempfile.mkstemp(prefix='bzr-diff-new-')
 
155
    oldtmpf = os.fdopen(oldtmp_fd, 'wb')
 
156
    newtmpf = os.fdopen(newtmp_fd, 'wb')
 
157
 
 
158
    try:
 
159
        # TODO: perhaps a special case for comparing to or from the empty
 
160
        # sequence; can just use /dev/null on Unix
 
161
 
 
162
        # TODO: if either of the files being compared already exists as a
 
163
        # regular named file (e.g. in the working directory) then we can
 
164
        # compare directly to that, rather than copying it.
 
165
 
 
166
        oldtmpf.writelines(oldlines)
 
167
        newtmpf.writelines(newlines)
 
168
 
 
169
        oldtmpf.close()
 
170
        newtmpf.close()
 
171
 
 
172
        if not diff_opts:
 
173
            diff_opts = []
 
174
        diffcmd = ['diff',
 
175
                   '--label', old_filename,
 
176
                   old_abspath,
 
177
                   '--label', new_filename,
 
178
                   new_abspath,
 
179
                   '--binary',
 
180
                  ]
 
181
 
 
182
        # diff only allows one style to be specified; they don't override.
 
183
        # note that some of these take optargs, and the optargs can be
 
184
        # directly appended to the options.
 
185
        # this is only an approximate parser; it doesn't properly understand
 
186
        # the grammar.
 
187
        for s in ['-c', '-u', '-C', '-U',
 
188
                  '-e', '--ed',
 
189
                  '-q', '--brief',
 
190
                  '--normal',
 
191
                  '-n', '--rcs',
 
192
                  '-y', '--side-by-side',
 
193
                  '-D', '--ifdef']:
 
194
            for j in diff_opts:
 
195
                if j.startswith(s):
 
196
                    break
 
197
            else:
 
198
                continue
 
199
            break
 
200
        else:
 
201
            diffcmd.append('-u')
 
202
                  
 
203
        if diff_opts:
 
204
            diffcmd.extend(diff_opts)
 
205
 
 
206
        pipe = _spawn_external_diff(diffcmd, capture_errors=True)
 
207
        out,err = pipe.communicate()
 
208
        rc = pipe.returncode
 
209
        
 
210
        # internal_diff() adds a trailing newline, add one here for consistency
 
211
        out += '\n'
 
212
        if rc == 2:
 
213
            # 'diff' gives retcode == 2 for all sorts of errors
 
214
            # one of those is 'Binary files differ'.
 
215
            # Bad options could also be the problem.
 
216
            # 'Binary files' is not a real error, so we suppress that error.
 
217
            lang_c_out = out
 
218
 
 
219
            # Since we got here, we want to make sure to give an i18n error
 
220
            pipe = _spawn_external_diff(diffcmd, capture_errors=False)
 
221
            out, err = pipe.communicate()
 
222
 
 
223
            # Write out the new i18n diff response
 
224
            to_file.write(out+'\n')
 
225
            if pipe.returncode != 2:
 
226
                raise errors.BzrError(
 
227
                               'external diff failed with exit code 2'
 
228
                               ' when run with LANG=C and LC_ALL=C,'
 
229
                               ' but not when run natively: %r' % (diffcmd,))
 
230
 
 
231
            first_line = lang_c_out.split('\n', 1)[0]
 
232
            # Starting with diffutils 2.8.4 the word "binary" was dropped.
 
233
            m = re.match('^(binary )?files.*differ$', first_line, re.I)
 
234
            if m is None:
 
235
                raise errors.BzrError('external diff failed with exit code 2;'
 
236
                                      ' command: %r' % (diffcmd,))
 
237
            else:
 
238
                # Binary files differ, just return
 
239
                return
 
240
 
 
241
        # If we got to here, we haven't written out the output of diff
 
242
        # do so now
 
243
        to_file.write(out)
 
244
        if rc not in (0, 1):
 
245
            # returns 1 if files differ; that's OK
 
246
            if rc < 0:
 
247
                msg = 'signal %d' % (-rc)
 
248
            else:
 
249
                msg = 'exit code %d' % rc
 
250
                
 
251
            raise errors.BzrError('external diff failed with %s; command: %r' 
 
252
                                  % (rc, diffcmd))
 
253
 
 
254
 
 
255
    finally:
 
256
        oldtmpf.close()                 # and delete
 
257
        newtmpf.close()
 
258
        # Clean up. Warn in case the files couldn't be deleted
 
259
        # (in case windows still holds the file open, but not
 
260
        # if the files have already been deleted)
 
261
        try:
 
262
            os.remove(old_abspath)
 
263
        except OSError, e:
 
264
            if e.errno not in (errno.ENOENT,):
 
265
                warning('Failed to delete temporary file: %s %s',
 
266
                        old_abspath, e)
 
267
        try:
 
268
            os.remove(new_abspath)
 
269
        except OSError:
 
270
            if e.errno not in (errno.ENOENT,):
 
271
                warning('Failed to delete temporary file: %s %s',
 
272
                        new_abspath, e)
 
273
 
 
274
 
 
275
@deprecated_function(zero_eight)
 
276
def show_diff(b, from_spec, specific_files, external_diff_options=None,
 
277
              revision2=None, output=None, b2=None):
 
278
    """Shortcut for showing the diff to the working tree.
 
279
 
 
280
    Please use show_diff_trees instead.
 
281
 
 
282
    b
 
283
        Branch.
 
284
 
 
285
    revision
 
286
        None for 'basis tree', or otherwise the old revision to compare against.
 
287
    
 
288
    The more general form is show_diff_trees(), where the caller
 
289
    supplies any two trees.
 
290
    """
 
291
    if output is None:
 
292
        output = sys.stdout
 
293
 
 
294
    if from_spec is None:
 
295
        old_tree = b.bzrdir.open_workingtree()
 
296
        if b2 is None:
 
297
            old_tree = old_tree = old_tree.basis_tree()
 
298
    else:
 
299
        old_tree = b.repository.revision_tree(from_spec.in_history(b).rev_id)
 
300
 
 
301
    if revision2 is None:
 
302
        if b2 is None:
 
303
            new_tree = b.bzrdir.open_workingtree()
 
304
        else:
 
305
            new_tree = b2.bzrdir.open_workingtree()
 
306
    else:
 
307
        new_tree = b.repository.revision_tree(revision2.in_history(b).rev_id)
 
308
 
 
309
    return show_diff_trees(old_tree, new_tree, output, specific_files,
 
310
                           external_diff_options)
 
311
 
 
312
 
 
313
def diff_cmd_helper(tree, specific_files, external_diff_options, 
 
314
                    old_revision_spec=None, new_revision_spec=None,
 
315
                    revision_specs=None,
 
316
                    old_label='a/', new_label='b/'):
 
317
    """Helper for cmd_diff.
 
318
 
 
319
    :param tree:
 
320
        A WorkingTree
 
321
 
 
322
    :param specific_files:
 
323
        The specific files to compare, or None
 
324
 
 
325
    :param external_diff_options:
 
326
        If non-None, run an external diff, and pass it these options
 
327
 
 
328
    :param old_revision_spec:
 
329
        If None, use basis tree as old revision, otherwise use the tree for
 
330
        the specified revision. 
 
331
 
 
332
    :param new_revision_spec:
 
333
        If None, use working tree as new revision, otherwise use the tree for
 
334
        the specified revision.
 
335
    
 
336
    :param revision_specs: 
 
337
        Zero, one or two RevisionSpecs from the command line, saying what revisions 
 
338
        to compare.  This can be passed as an alternative to the old_revision_spec 
 
339
        and new_revision_spec parameters.
 
340
 
 
341
    The more general form is show_diff_trees(), where the caller
 
342
    supplies any two trees.
 
343
    """
 
344
 
 
345
    # TODO: perhaps remove the old parameters old_revision_spec and
 
346
    # new_revision_spec, since this is only really for use from cmd_diff and
 
347
    # it now always passes through a sequence of revision_specs -- mbp
 
348
    # 20061221
 
349
 
 
350
    def spec_tree(spec):
 
351
        if tree:
 
352
            revision = spec.in_store(tree.branch)
 
353
        else:
 
354
            revision = spec.in_store(None)
 
355
        revision_id = revision.rev_id
 
356
        branch = revision.branch
 
357
        return branch.repository.revision_tree(revision_id)
 
358
 
 
359
    if revision_specs is not None:
 
360
        assert (old_revision_spec is None
 
361
                and new_revision_spec is None)
 
362
        if len(revision_specs) > 0:
 
363
            old_revision_spec = revision_specs[0]
 
364
        if len(revision_specs) > 1:
 
365
            new_revision_spec = revision_specs[1]
 
366
 
 
367
    if old_revision_spec is None:
 
368
        old_tree = tree.basis_tree()
 
369
    else:
 
370
        old_tree = spec_tree(old_revision_spec)
 
371
 
 
372
    if (new_revision_spec is None
 
373
        or new_revision_spec.spec is None):
 
374
        new_tree = tree
 
375
    else:
 
376
        new_tree = spec_tree(new_revision_spec)
 
377
 
 
378
    if new_tree is not tree:
 
379
        extra_trees = (tree,)
 
380
    else:
 
381
        extra_trees = None
 
382
 
 
383
    return show_diff_trees(old_tree, new_tree, sys.stdout, specific_files,
 
384
                           external_diff_options,
 
385
                           old_label=old_label, new_label=new_label,
 
386
                           extra_trees=extra_trees)
 
387
 
 
388
 
 
389
def show_diff_trees(old_tree, new_tree, to_file, specific_files=None,
 
390
                    external_diff_options=None,
 
391
                    old_label='a/', new_label='b/',
 
392
                    extra_trees=None):
 
393
    """Show in text form the changes from one tree to another.
 
394
 
 
395
    to_files
 
396
        If set, include only changes to these files.
 
397
 
 
398
    external_diff_options
 
399
        If set, use an external GNU diff and pass these options.
 
400
 
 
401
    extra_trees
 
402
        If set, more Trees to use for looking up file ids
 
403
    """
 
404
    old_tree.lock_read()
 
405
    try:
 
406
        if extra_trees is not None:
 
407
            for tree in extra_trees:
 
408
                tree.lock_read()
 
409
        new_tree.lock_read()
 
410
        try:
 
411
            return _show_diff_trees(old_tree, new_tree, to_file,
 
412
                                    specific_files, external_diff_options,
 
413
                                    old_label=old_label, new_label=new_label,
 
414
                                    extra_trees=extra_trees)
 
415
        finally:
 
416
            new_tree.unlock()
 
417
            if extra_trees is not None:
 
418
                for tree in extra_trees:
 
419
                    tree.unlock()
 
420
    finally:
 
421
        old_tree.unlock()
 
422
 
 
423
 
 
424
def _show_diff_trees(old_tree, new_tree, to_file,
 
425
                     specific_files, external_diff_options, 
 
426
                     old_label='a/', new_label='b/', extra_trees=None):
 
427
 
 
428
    # GNU Patch uses the epoch date to detect files that are being added
 
429
    # or removed in a diff.
 
430
    EPOCH_DATE = '1970-01-01 00:00:00 +0000'
 
431
 
 
432
    # TODO: Generation of pseudo-diffs for added/deleted files could
 
433
    # be usefully made into a much faster special case.
 
434
 
 
435
    if external_diff_options:
 
436
        assert isinstance(external_diff_options, basestring)
 
437
        opts = external_diff_options.split()
 
438
        def diff_file(olab, olines, nlab, nlines, to_file):
 
439
            external_diff(olab, olines, nlab, nlines, to_file, opts)
 
440
    else:
 
441
        diff_file = internal_diff
 
442
    
 
443
    delta = new_tree.changes_from(old_tree,
 
444
        specific_files=specific_files,
 
445
        extra_trees=extra_trees, require_versioned=True)
 
446
 
 
447
    has_changes = 0
 
448
    for path, file_id, kind in delta.removed:
 
449
        has_changes = 1
 
450
        print >>to_file, "=== removed %s '%s'" % (kind, path.encode('utf8'))
 
451
        old_name = '%s%s\t%s' % (old_label, path,
 
452
                                 _patch_header_date(old_tree, file_id, path))
 
453
        new_name = '%s%s\t%s' % (new_label, path, EPOCH_DATE)
 
454
        old_tree.inventory[file_id].diff(diff_file, old_name, old_tree,
 
455
                                         new_name, None, None, to_file)
 
456
    for path, file_id, kind in delta.added:
 
457
        has_changes = 1
 
458
        print >>to_file, "=== added %s '%s'" % (kind, path.encode('utf8'))
 
459
        old_name = '%s%s\t%s' % (old_label, path, EPOCH_DATE)
 
460
        new_name = '%s%s\t%s' % (new_label, path,
 
461
                                 _patch_header_date(new_tree, file_id, path))
 
462
        new_tree.inventory[file_id].diff(diff_file, new_name, new_tree,
 
463
                                         old_name, None, None, to_file, 
 
464
                                         reverse=True)
 
465
    for (old_path, new_path, file_id, kind,
 
466
         text_modified, meta_modified) in delta.renamed:
 
467
        has_changes = 1
 
468
        prop_str = get_prop_change(meta_modified)
 
469
        print >>to_file, "=== renamed %s '%s' => %r%s" % (
 
470
                    kind, old_path.encode('utf8'),
 
471
                    new_path.encode('utf8'), prop_str)
 
472
        old_name = '%s%s\t%s' % (old_label, old_path,
 
473
                                 _patch_header_date(old_tree, file_id,
 
474
                                                    old_path))
 
475
        new_name = '%s%s\t%s' % (new_label, new_path,
 
476
                                 _patch_header_date(new_tree, file_id,
 
477
                                                    new_path))
 
478
        _maybe_diff_file_or_symlink(old_name, old_tree, file_id,
 
479
                                    new_name, new_tree,
 
480
                                    text_modified, kind, to_file, diff_file)
 
481
    for path, file_id, kind, text_modified, meta_modified in delta.modified:
 
482
        has_changes = 1
 
483
        prop_str = get_prop_change(meta_modified)
 
484
        print >>to_file, "=== modified %s '%s'%s" % (kind, path.encode('utf8'),
 
485
                                                     prop_str)
 
486
        # The file may be in a different location in the old tree (because
 
487
        # the containing dir was renamed, but the file itself was not)
 
488
        old_path = old_tree.id2path(file_id)
 
489
        old_name = '%s%s\t%s' % (old_label, old_path,
 
490
                                 _patch_header_date(old_tree, file_id, old_path))
 
491
        new_name = '%s%s\t%s' % (new_label, path,
 
492
                                 _patch_header_date(new_tree, file_id, path))
 
493
        if text_modified:
 
494
            _maybe_diff_file_or_symlink(old_name, old_tree, file_id,
 
495
                                        new_name, new_tree,
 
496
                                        True, kind, to_file, diff_file)
 
497
 
 
498
    return has_changes
 
499
 
 
500
 
 
501
def _patch_header_date(tree, file_id, path):
 
502
    """Returns a timestamp suitable for use in a patch header."""
 
503
    mtime = tree.get_file_mtime(file_id, path)
 
504
    assert mtime is not None, \
 
505
        "got an mtime of None for file-id %s, path %s in tree %s" % (
 
506
                file_id, path, tree)
 
507
    return timestamp.format_patch_date(mtime)
 
508
 
 
509
 
 
510
def _raise_if_nonexistent(paths, old_tree, new_tree):
 
511
    """Complain if paths are not in either inventory or tree.
 
512
 
 
513
    It's OK with the files exist in either tree's inventory, or 
 
514
    if they exist in the tree but are not versioned.
 
515
    
 
516
    This can be used by operations such as bzr status that can accept
 
517
    unknown or ignored files.
 
518
    """
 
519
    mutter("check paths: %r", paths)
 
520
    if not paths:
 
521
        return
 
522
    s = old_tree.filter_unversioned_files(paths)
 
523
    s = new_tree.filter_unversioned_files(s)
 
524
    s = [path for path in s if not new_tree.has_filename(path)]
 
525
    if s:
 
526
        raise errors.PathsDoNotExist(sorted(s))
 
527
 
 
528
 
 
529
def get_prop_change(meta_modified):
 
530
    if meta_modified:
 
531
        return " (properties changed)"
 
532
    else:
 
533
        return  ""
 
534
 
 
535
 
 
536
def _maybe_diff_file_or_symlink(old_path, old_tree, file_id,
 
537
                                new_path, new_tree, text_modified,
 
538
                                kind, to_file, diff_file):
 
539
    if text_modified:
 
540
        new_entry = new_tree.inventory[file_id]
 
541
        old_tree.inventory[file_id].diff(diff_file,
 
542
                                         old_path, old_tree,
 
543
                                         new_path, new_entry, 
 
544
                                         new_tree, to_file)