/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/workingtree.py

  • Committer: Robert Collins
  • Date: 2010-05-04 06:22:51 UTC
  • mto: This revision was merged to the branch mainline in revision 5206.
  • Revision ID: robertc@robertcollins.net-20100504062251-1ocjhrl53mum9ehw
Minor local_abspath docstring improvement.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005, 2006 Canonical Ltd
2
 
 
 
1
# Copyright (C) 2005-2010 Canonical Ltd
 
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
5
5
# the Free Software Foundation; either version 2 of the License, or
6
6
# (at your option) any later version.
7
 
 
 
7
#
8
8
# This program is distributed in the hope that it will be useful,
9
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
11
# GNU General Public License for more details.
12
 
 
 
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
15
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
16
16
 
17
17
"""WorkingTree object and friends.
18
18
 
19
19
A WorkingTree represents the editable working copy of a branch.
20
 
Operations which represent the WorkingTree are also done here, 
21
 
such as renaming or adding files.  The WorkingTree has an inventory 
22
 
which is updated by these operations.  A commit produces a 
 
20
Operations which represent the WorkingTree are also done here,
 
21
such as renaming or adding files.  The WorkingTree has an inventory
 
22
which is updated by these operations.  A commit produces a
23
23
new revision based on the workingtree and its inventory.
24
24
 
25
25
At the moment every WorkingTree has its own branch.  Remote
29
29
WorkingTree.open(dir).
30
30
"""
31
31
 
32
 
MERGE_MODIFIED_HEADER_1 = "BZR merge-modified list format 1"
33
 
CONFLICT_HEADER_1 = "BZR conflict list format 1"
34
 
 
35
 
# TODO: Give the workingtree sole responsibility for the working inventory;
36
 
# remove the variable and references to it from the branch.  This may require
37
 
# updating the commit code so as to update the inventory within the working
38
 
# copy, and making sure there's only one WorkingTree for any directory on disk.
39
 
# At the moment they may alias the inventory and have old copies of it in
40
 
# memory.  (Now done? -- mbp 20060309)
41
 
 
42
 
from binascii import hexlify
 
32
 
 
33
from cStringIO import StringIO
 
34
import os
 
35
import sys
 
36
 
 
37
from bzrlib.lazy_import import lazy_import
 
38
lazy_import(globals(), """
 
39
from bisect import bisect_left
43
40
import collections
44
 
from copy import deepcopy
45
 
from cStringIO import StringIO
46
41
import errno
47
 
import fnmatch
48
 
import os
 
42
import itertools
 
43
import operator
 
44
import stat
49
45
import re
50
 
import stat
51
 
from time import time
52
 
import warnings
53
46
 
54
47
import bzrlib
55
 
from bzrlib import bzrdir, errors, ignores, osutils, urlutils
56
 
from bzrlib.atomicfile import AtomicFile
 
48
from bzrlib import (
 
49
    branch,
 
50
    bzrdir,
 
51
    conflicts as _mod_conflicts,
 
52
    errors,
 
53
    generate_ids,
 
54
    globbing,
 
55
    graph as _mod_graph,
 
56
    hashcache,
 
57
    ignores,
 
58
    inventory,
 
59
    merge,
 
60
    revision as _mod_revision,
 
61
    revisiontree,
 
62
    trace,
 
63
    transform,
 
64
    ui,
 
65
    views,
 
66
    xml5,
 
67
    xml7,
 
68
    )
57
69
import bzrlib.branch
58
 
from bzrlib.conflicts import Conflict, ConflictList, CONFLICT_SUFFIXES
 
70
from bzrlib.transport import get_transport
 
71
from bzrlib.workingtree_4 import (
 
72
    WorkingTreeFormat4,
 
73
    WorkingTreeFormat5,
 
74
    WorkingTreeFormat6,
 
75
    )
 
76
""")
 
77
 
 
78
from bzrlib import symbol_versioning
59
79
from bzrlib.decorators import needs_read_lock, needs_write_lock
60
 
from bzrlib.errors import (BzrCheckError,
61
 
                           BzrError,
62
 
                           ConflictFormatError,
63
 
                           WeaveRevisionNotPresent,
64
 
                           NotBranchError,
65
 
                           NoSuchFile,
66
 
                           NotVersionedError,
67
 
                           MergeModifiedFormatError,
68
 
                           UnsupportedOperation,
69
 
                           )
70
 
from bzrlib.inventory import InventoryEntry, Inventory
71
 
from bzrlib.lockable_files import LockableFiles, TransportLock
 
80
from bzrlib.lockable_files import LockableFiles
72
81
from bzrlib.lockdir import LockDir
73
 
from bzrlib.merge import merge_inner, transform_tree
 
82
import bzrlib.mutabletree
 
83
from bzrlib.mutabletree import needs_tree_write_lock
 
84
from bzrlib import osutils
74
85
from bzrlib.osutils import (
75
 
                            abspath,
76
 
                            compact_date,
77
 
                            file_kind,
78
 
                            isdir,
79
 
                            getcwd,
80
 
                            pathjoin,
81
 
                            pumpfile,
82
 
                            safe_unicode,
83
 
                            splitpath,
84
 
                            rand_chars,
85
 
                            normpath,
86
 
                            realpath,
87
 
                            relpath,
88
 
                            rename,
89
 
                            supports_executable,
90
 
                            )
91
 
from bzrlib.progress import DummyProgress, ProgressPhase
92
 
from bzrlib.revision import NULL_REVISION
93
 
from bzrlib.rio import RioReader, rio_file, Stanza
94
 
from bzrlib.symbol_versioning import (deprecated_passed,
95
 
        deprecated_method,
96
 
        deprecated_function,
97
 
        DEPRECATED_PARAMETER,
98
 
        zero_eight,
99
 
        )
 
86
    file_kind,
 
87
    isdir,
 
88
    normpath,
 
89
    pathjoin,
 
90
    realpath,
 
91
    safe_unicode,
 
92
    splitpath,
 
93
    supports_executable,
 
94
    )
 
95
from bzrlib.filters import filtered_input_file
100
96
from bzrlib.trace import mutter, note
101
 
from bzrlib.transform import build_tree
102
 
from bzrlib.transport import get_transport
103
97
from bzrlib.transport.local import LocalTransport
104
 
from bzrlib.textui import show_status
105
 
import bzrlib.tree
106
 
import bzrlib.ui
107
 
import bzrlib.xml5
108
 
 
109
 
 
110
 
# the regex removes any weird characters; we don't escape them 
111
 
# but rather just pull them out
112
 
_gen_file_id_re = re.compile(r'[^\w.]')
113
 
_gen_id_suffix = None
114
 
_gen_id_serial = 0
115
 
 
116
 
 
117
 
def _next_id_suffix():
118
 
    """Create a new file id suffix that is reasonably unique.
119
 
    
120
 
    On the first call we combine the current time with 64 bits of randomness
121
 
    to give a highly probably globally unique number. Then each call in the same
122
 
    process adds 1 to a serial number we append to that unique value.
123
 
    """
124
 
    # XXX TODO: change bzrlib.add.smart_add to call workingtree.add() rather 
125
 
    # than having to move the id randomness out of the inner loop like this.
126
 
    # XXX TODO: for the global randomness this uses we should add the thread-id
127
 
    # before the serial #.
128
 
    global _gen_id_suffix, _gen_id_serial
129
 
    if _gen_id_suffix is None:
130
 
        _gen_id_suffix = "-%s-%s-" % (compact_date(time()), rand_chars(16))
131
 
    _gen_id_serial += 1
132
 
    return _gen_id_suffix + str(_gen_id_serial)
133
 
 
134
 
 
135
 
def gen_file_id(name):
136
 
    """Return new file id for the basename 'name'.
137
 
 
138
 
    The uniqueness is supplied from _next_id_suffix.
139
 
    """
140
 
    # The real randomness is in the _next_id_suffix, the
141
 
    # rest of the identifier is just to be nice.
142
 
    # So we:
143
 
    # 1) Remove non-ascii word characters to keep the ids portable
144
 
    # 2) squash to lowercase, so the file id doesn't have to
145
 
    #    be escaped (case insensitive filesystems would bork for ids
146
 
    #    that only differred in case without escaping).
147
 
    # 3) truncate the filename to 20 chars. Long filenames also bork on some
148
 
    #    filesystems
149
 
    # 4) Removing starting '.' characters to prevent the file ids from
150
 
    #    being considered hidden.
151
 
    ascii_word_only = _gen_file_id_re.sub('', name.lower())
152
 
    short_no_dots = ascii_word_only.lstrip('.')[:20]
153
 
    return short_no_dots + _next_id_suffix()
154
 
 
155
 
 
156
 
def gen_root_id():
157
 
    """Return a new tree-root file id."""
158
 
    return gen_file_id('TREE_ROOT')
 
98
from bzrlib.revision import CURRENT_REVISION
 
99
from bzrlib.rio import RioReader, rio_file, Stanza
 
100
from bzrlib.symbol_versioning import (
 
101
    deprecated_passed,
 
102
    DEPRECATED_PARAMETER,
 
103
    )
 
104
 
 
105
 
 
106
MERGE_MODIFIED_HEADER_1 = "BZR merge-modified list format 1"
 
107
# TODO: Modifying the conflict objects or their type is currently nearly
 
108
# impossible as there is no clear relationship between the working tree format
 
109
# and the conflict list file format.
 
110
CONFLICT_HEADER_1 = "BZR conflict list format 1"
 
111
 
 
112
ERROR_PATH_NOT_FOUND = 3    # WindowsError errno code, equivalent to ENOENT
159
113
 
160
114
 
161
115
class TreeEntry(object):
162
116
    """An entry that implements the minimum interface used by commands.
163
117
 
164
 
    This needs further inspection, it may be better to have 
 
118
    This needs further inspection, it may be better to have
165
119
    InventoryEntries without ids - though that seems wrong. For now,
166
120
    this is a parallel hierarchy to InventoryEntry, and needs to become
167
121
    one of several things: decorates to that hierarchy, children of, or
170
124
    no InventoryEntry available - i.e. for unversioned objects.
171
125
    Perhaps they should be UnversionedEntry et al. ? - RBC 20051003
172
126
    """
173
 
 
 
127
 
174
128
    def __eq__(self, other):
175
129
        # yes, this us ugly, TODO: best practice __eq__ style.
176
130
        return (isinstance(other, TreeEntry)
177
131
                and other.__class__ == self.__class__)
178
 
 
 
132
 
179
133
    def kind_character(self):
180
134
        return "???"
181
135
 
213
167
        return ''
214
168
 
215
169
 
216
 
class WorkingTree(bzrlib.tree.Tree):
 
170
class WorkingTree(bzrlib.mutabletree.MutableTree,
 
171
    bzrdir.ControlComponent):
217
172
    """Working copy tree.
218
173
 
219
174
    The inventory is held in the `Branch` working-inventory, and the
223
178
    not listed in the Inventory and vice versa.
224
179
    """
225
180
 
 
181
    # override this to set the strategy for storing views
 
182
    def _make_views(self):
 
183
        return views.DisabledViews(self)
 
184
 
226
185
    def __init__(self, basedir='.',
227
186
                 branch=DEPRECATED_PARAMETER,
228
187
                 _inventory=None,
230
189
                 _internal=False,
231
190
                 _format=None,
232
191
                 _bzrdir=None):
233
 
        """Construct a WorkingTree for basedir.
 
192
        """Construct a WorkingTree instance. This is not a public API.
234
193
 
235
 
        If the branch is not supplied, it is opened automatically.
236
 
        If the branch is supplied, it must be the branch for this basedir.
237
 
        (branch.base is not cross checked, because for remote branches that
238
 
        would be meaningless).
 
194
        :param branch: A branch to override probing for the branch.
239
195
        """
240
196
        self._format = _format
241
197
        self.bzrdir = _bzrdir
242
198
        if not _internal:
243
 
            # not created via open etc.
244
 
            warnings.warn("WorkingTree() is deprecated as of bzr version 0.8. "
245
 
                 "Please use bzrdir.open_workingtree or WorkingTree.open().",
246
 
                 DeprecationWarning,
247
 
                 stacklevel=2)
248
 
            wt = WorkingTree.open(basedir)
249
 
            self._branch = wt.branch
250
 
            self.basedir = wt.basedir
251
 
            self._control_files = wt._control_files
252
 
            self._hashcache = wt._hashcache
253
 
            self._set_inventory(wt._inventory)
254
 
            self._format = wt._format
255
 
            self.bzrdir = wt.bzrdir
256
 
        from bzrlib.hashcache import HashCache
257
 
        from bzrlib.trace import note, mutter
258
 
        assert isinstance(basedir, basestring), \
259
 
            "base directory %r is not a string" % basedir
 
199
            raise errors.BzrError("Please use bzrdir.open_workingtree or "
 
200
                "WorkingTree.open() to obtain a WorkingTree.")
260
201
        basedir = safe_unicode(basedir)
261
202
        mutter("opening working tree %r", basedir)
262
203
        if deprecated_passed(branch):
263
 
            if not _internal:
264
 
                warnings.warn("WorkingTree(..., branch=XXX) is deprecated as of bzr 0.8."
265
 
                     " Please use bzrdir.open_workingtree() or"
266
 
                     " WorkingTree.open().",
267
 
                     DeprecationWarning,
268
 
                     stacklevel=2
269
 
                     )
270
204
            self._branch = branch
271
205
        else:
272
206
            self._branch = self.bzrdir.open_branch()
277
211
            self._control_files = self.branch.control_files
278
212
        else:
279
213
            # assume all other formats have their own control files.
280
 
            assert isinstance(_control_files, LockableFiles), \
281
 
                    "_control_files must be a LockableFiles, not %r" \
282
 
                    % _control_files
283
214
            self._control_files = _control_files
 
215
        self._transport = self._control_files._transport
284
216
        # update the whole cache up front and write to disk if anything changed;
285
217
        # in the future we might want to do this more selectively
286
218
        # two possible ways offer themselves : in self._unlock, write the cache
287
219
        # if needed, or, when the cache sees a change, append it to the hash
288
220
        # cache file, and have the parser take the most recent entry for a
289
221
        # given path only.
290
 
        cache_filename = self.bzrdir.get_workingtree_transport(None).local_abspath('stat-cache')
291
 
        hc = self._hashcache = HashCache(basedir, cache_filename, self._control_files._file_mode)
 
222
        wt_trans = self.bzrdir.get_workingtree_transport(None)
 
223
        cache_filename = wt_trans.local_abspath('stat-cache')
 
224
        self._hashcache = hashcache.HashCache(basedir, cache_filename,
 
225
            self.bzrdir._get_file_mode(),
 
226
            self._content_filter_stack_provider())
 
227
        hc = self._hashcache
292
228
        hc.read()
293
229
        # is this scan needed ? it makes things kinda slow.
294
230
        #hc.scan()
298
234
            hc.write()
299
235
 
300
236
        if _inventory is None:
301
 
            self._set_inventory(self.read_working_inventory())
302
 
        else:
303
 
            self._set_inventory(_inventory)
 
237
            # This will be acquired on lock_read() or lock_write()
 
238
            self._inventory_is_modified = False
 
239
            self._inventory = None
 
240
        else:
 
241
            # the caller of __init__ has provided an inventory,
 
242
            # we assume they know what they are doing - as its only
 
243
            # the Format factory and creation methods that are
 
244
            # permitted to do this.
 
245
            self._set_inventory(_inventory, dirty=False)
 
246
        self._detect_case_handling()
 
247
        self._rules_searcher = None
 
248
        self.views = self._make_views()
 
249
 
 
250
    @property
 
251
    def user_transport(self):
 
252
        return self.bzrdir.user_transport
 
253
 
 
254
    @property
 
255
    def control_transport(self):
 
256
        return self._transport
 
257
 
 
258
    def _detect_case_handling(self):
 
259
        wt_trans = self.bzrdir.get_workingtree_transport(None)
 
260
        try:
 
261
            wt_trans.stat("FoRMaT")
 
262
        except errors.NoSuchFile:
 
263
            self.case_sensitive = True
 
264
        else:
 
265
            self.case_sensitive = False
 
266
 
 
267
        self._setup_directory_is_tree_reference()
304
268
 
305
269
    branch = property(
306
270
        fget=lambda self: self._branch,
321
285
        self._control_files.break_lock()
322
286
        self.branch.break_lock()
323
287
 
324
 
    def _set_inventory(self, inv):
 
288
    def _get_check_refs(self):
 
289
        """Return the references needed to perform a check of this tree.
 
290
        
 
291
        The default implementation returns no refs, and is only suitable for
 
292
        trees that have no local caching and can commit on ghosts at any time.
 
293
 
 
294
        :seealso: bzrlib.check for details about check_refs.
 
295
        """
 
296
        return []
 
297
 
 
298
    def requires_rich_root(self):
 
299
        return self._format.requires_rich_root
 
300
 
 
301
    def supports_tree_reference(self):
 
302
        return False
 
303
 
 
304
    def supports_content_filtering(self):
 
305
        return self._format.supports_content_filtering()
 
306
 
 
307
    def supports_views(self):
 
308
        return self.views.supports_views()
 
309
 
 
310
    def _set_inventory(self, inv, dirty):
 
311
        """Set the internal cached inventory.
 
312
 
 
313
        :param inv: The inventory to set.
 
314
        :param dirty: A boolean indicating whether the inventory is the same
 
315
            logical inventory as whats on disk. If True the inventory is not
 
316
            the same and should be written to disk or data will be lost, if
 
317
            False then the inventory is the same as that on disk and any
 
318
            serialisation would be unneeded overhead.
 
319
        """
325
320
        self._inventory = inv
326
 
        self.path2id = self._inventory.path2id
327
 
 
328
 
    def is_control_filename(self, filename):
329
 
        """True if filename is the name of a control file in this tree.
330
 
        
331
 
        :param filename: A filename within the tree. This is a relative path
332
 
        from the root of this tree.
333
 
 
334
 
        This is true IF and ONLY IF the filename is part of the meta data
335
 
        that bzr controls in this tree. I.E. a random .bzr directory placed
336
 
        on disk will not be a control file for this tree.
337
 
        """
338
 
        return self.bzrdir.is_control_filename(filename)
 
321
        self._inventory_is_modified = dirty
339
322
 
340
323
    @staticmethod
341
324
    def open(path=None, _unsupported=False):
343
326
 
344
327
        """
345
328
        if path is None:
346
 
            path = os.path.getcwdu()
 
329
            path = osutils.getcwd()
347
330
        control = bzrdir.BzrDir.open(path, _unsupported)
348
331
        return control.open_workingtree(_unsupported)
349
 
        
 
332
 
350
333
    @staticmethod
351
334
    def open_containing(path=None):
352
335
        """Open an existing working tree which has its root about path.
353
 
        
 
336
 
354
337
        This probes for a working tree at path and searches upwards from there.
355
338
 
356
339
        Basically we keep looking up until we find the control directory or
374
357
        """
375
358
        return WorkingTree.open(path, _unsupported=True)
376
359
 
 
360
    @staticmethod
 
361
    def find_trees(location):
 
362
        def list_current(transport):
 
363
            return [d for d in transport.list_dir('') if d != '.bzr']
 
364
        def evaluate(bzrdir):
 
365
            try:
 
366
                tree = bzrdir.open_workingtree()
 
367
            except errors.NoWorkingTree:
 
368
                return True, None
 
369
            else:
 
370
                return True, tree
 
371
        transport = get_transport(location)
 
372
        iterator = bzrdir.BzrDir.find_bzrdirs(transport, evaluate=evaluate,
 
373
                                              list_current=list_current)
 
374
        return [t for t in iterator if t is not None]
 
375
 
 
376
    # should be deprecated - this is slow and in any case treating them as a
 
377
    # container is (we now know) bad style -- mbp 20070302
 
378
    ## @deprecated_method(zero_fifteen)
377
379
    def __iter__(self):
378
380
        """Iterate through file_ids for this tree.
379
381
 
385
387
            if osutils.lexists(self.abspath(path)):
386
388
                yield ie.file_id
387
389
 
 
390
    def all_file_ids(self):
 
391
        """See Tree.iter_all_file_ids"""
 
392
        return set(self.inventory)
 
393
 
388
394
    def __repr__(self):
389
395
        return "<%s of %s>" % (self.__class__.__name__,
390
396
                               getattr(self, 'basedir', None))
391
397
 
392
398
    def abspath(self, filename):
393
399
        return pathjoin(self.basedir, filename)
394
 
    
 
400
 
395
401
    def basis_tree(self):
396
 
        """Return RevisionTree for the current last revision."""
397
 
        revision_id = self.last_revision()
398
 
        if revision_id is not None:
399
 
            try:
400
 
                xml = self.read_basis_inventory()
401
 
                inv = bzrlib.xml5.serializer_v5.read_inventory_from_string(xml)
402
 
            except NoSuchFile:
403
 
                inv = None
404
 
            if inv is not None and inv.revision_id == revision_id:
405
 
                return bzrlib.tree.RevisionTree(self.branch.repository, inv,
406
 
                                                revision_id)
407
 
        # FIXME? RBC 20060403 should we cache the inventory here ?
408
 
        return self.branch.repository.revision_tree(revision_id)
409
 
 
410
 
    @staticmethod
411
 
    @deprecated_method(zero_eight)
412
 
    def create(branch, directory):
413
 
        """Create a workingtree for branch at directory.
414
 
 
415
 
        If existing_directory already exists it must have a .bzr directory.
416
 
        If it does not exist, it will be created.
417
 
 
418
 
        This returns a new WorkingTree object for the new checkout.
419
 
 
420
 
        TODO FIXME RBC 20060124 when we have checkout formats in place this
421
 
        should accept an optional revisionid to checkout [and reject this if
422
 
        checking out into the same dir as a pre-checkout-aware branch format.]
423
 
 
424
 
        XXX: When BzrDir is present, these should be created through that 
425
 
        interface instead.
426
 
        """
427
 
        warnings.warn('delete WorkingTree.create', stacklevel=3)
428
 
        transport = get_transport(directory)
429
 
        if branch.bzrdir.root_transport.base == transport.base:
430
 
            # same dir 
431
 
            return branch.bzrdir.create_workingtree()
432
 
        # different directory, 
433
 
        # create a branch reference
434
 
        # and now a working tree.
435
 
        raise NotImplementedError
436
 
 
437
 
    @staticmethod
438
 
    @deprecated_method(zero_eight)
439
 
    def create_standalone(directory):
440
 
        """Create a checkout and a branch and a repo at directory.
441
 
 
442
 
        Directory must exist and be empty.
443
 
 
444
 
        please use BzrDir.create_standalone_workingtree
445
 
        """
446
 
        return bzrdir.BzrDir.create_standalone_workingtree(directory)
 
402
        """Return RevisionTree for the current last revision.
 
403
 
 
404
        If the left most parent is a ghost then the returned tree will be an
 
405
        empty tree - one obtained by calling
 
406
        repository.revision_tree(NULL_REVISION).
 
407
        """
 
408
        try:
 
409
            revision_id = self.get_parent_ids()[0]
 
410
        except IndexError:
 
411
            # no parents, return an empty revision tree.
 
412
            # in the future this should return the tree for
 
413
            # 'empty:' - the implicit root empty tree.
 
414
            return self.branch.repository.revision_tree(
 
415
                       _mod_revision.NULL_REVISION)
 
416
        try:
 
417
            return self.revision_tree(revision_id)
 
418
        except errors.NoSuchRevision:
 
419
            pass
 
420
        # No cached copy available, retrieve from the repository.
 
421
        # FIXME? RBC 20060403 should we cache the inventory locally
 
422
        # at this point ?
 
423
        try:
 
424
            return self.branch.repository.revision_tree(revision_id)
 
425
        except (errors.RevisionNotPresent, errors.NoSuchRevision):
 
426
            # the basis tree *may* be a ghost or a low level error may have
 
427
            # occurred. If the revision is present, its a problem, if its not
 
428
            # its a ghost.
 
429
            if self.branch.repository.has_revision(revision_id):
 
430
                raise
 
431
            # the basis tree is a ghost so return an empty tree.
 
432
            return self.branch.repository.revision_tree(
 
433
                       _mod_revision.NULL_REVISION)
 
434
 
 
435
    def _cleanup(self):
 
436
        self._flush_ignore_list_cache()
447
437
 
448
438
    def relpath(self, path):
449
439
        """Return the local path portion from a given path.
450
 
        
451
 
        The path may be absolute or relative. If its a relative path it is 
 
440
 
 
441
        The path may be absolute or relative. If its a relative path it is
452
442
        interpreted relative to the python current working directory.
453
443
        """
454
 
        return relpath(self.basedir, path)
 
444
        return osutils.relpath(self.basedir, path)
455
445
 
456
446
    def has_filename(self, filename):
457
447
        return osutils.lexists(self.abspath(filename))
458
448
 
459
 
    def get_file(self, file_id):
460
 
        return self.get_file_byname(self.id2path(file_id))
461
 
 
462
 
    def get_file_byname(self, filename):
463
 
        return file(self.abspath(filename), 'rb')
 
449
    def get_file(self, file_id, path=None, filtered=True):
 
450
        return self.get_file_with_stat(file_id, path, filtered=filtered)[0]
 
451
 
 
452
    def get_file_with_stat(self, file_id, path=None, filtered=True,
 
453
        _fstat=os.fstat):
 
454
        """See Tree.get_file_with_stat."""
 
455
        if path is None:
 
456
            path = self.id2path(file_id)
 
457
        file_obj = self.get_file_byname(path, filtered=False)
 
458
        stat_value = _fstat(file_obj.fileno())
 
459
        if filtered and self.supports_content_filtering():
 
460
            filters = self._content_filter_stack(path)
 
461
            file_obj = filtered_input_file(file_obj, filters)
 
462
        return (file_obj, stat_value)
 
463
 
 
464
    def get_file_text(self, file_id, path=None, filtered=True):
 
465
        return self.get_file(file_id, path=path, filtered=filtered).read()
 
466
 
 
467
    def get_file_byname(self, filename, filtered=True):
 
468
        path = self.abspath(filename)
 
469
        f = file(path, 'rb')
 
470
        if filtered and self.supports_content_filtering():
 
471
            filters = self._content_filter_stack(filename)
 
472
            return filtered_input_file(f, filters)
 
473
        else:
 
474
            return f
 
475
 
 
476
    def get_file_lines(self, file_id, path=None, filtered=True):
 
477
        """See Tree.get_file_lines()"""
 
478
        file = self.get_file(file_id, path, filtered=filtered)
 
479
        try:
 
480
            return file.readlines()
 
481
        finally:
 
482
            file.close()
 
483
 
 
484
    @needs_read_lock
 
485
    def annotate_iter(self, file_id, default_revision=CURRENT_REVISION):
 
486
        """See Tree.annotate_iter
 
487
 
 
488
        This implementation will use the basis tree implementation if possible.
 
489
        Lines not in the basis are attributed to CURRENT_REVISION
 
490
 
 
491
        If there are pending merges, lines added by those merges will be
 
492
        incorrectly attributed to CURRENT_REVISION (but after committing, the
 
493
        attribution will be correct).
 
494
        """
 
495
        maybe_file_parent_keys = []
 
496
        for parent_id in self.get_parent_ids():
 
497
            try:
 
498
                parent_tree = self.revision_tree(parent_id)
 
499
            except errors.NoSuchRevisionInTree:
 
500
                parent_tree = self.branch.repository.revision_tree(parent_id)
 
501
            parent_tree.lock_read()
 
502
            try:
 
503
                if file_id not in parent_tree:
 
504
                    continue
 
505
                ie = parent_tree.inventory[file_id]
 
506
                if ie.kind != 'file':
 
507
                    # Note: this is slightly unnecessary, because symlinks and
 
508
                    # directories have a "text" which is the empty text, and we
 
509
                    # know that won't mess up annotations. But it seems cleaner
 
510
                    continue
 
511
                parent_text_key = (file_id, ie.revision)
 
512
                if parent_text_key not in maybe_file_parent_keys:
 
513
                    maybe_file_parent_keys.append(parent_text_key)
 
514
            finally:
 
515
                parent_tree.unlock()
 
516
        graph = _mod_graph.Graph(self.branch.repository.texts)
 
517
        heads = graph.heads(maybe_file_parent_keys)
 
518
        file_parent_keys = []
 
519
        for key in maybe_file_parent_keys:
 
520
            if key in heads:
 
521
                file_parent_keys.append(key)
 
522
 
 
523
        # Now we have the parents of this content
 
524
        annotator = self.branch.repository.texts.get_annotator()
 
525
        text = self.get_file(file_id).read()
 
526
        this_key =(file_id, default_revision)
 
527
        annotator.add_special_text(this_key, file_parent_keys, text)
 
528
        annotations = [(key[-1], line)
 
529
                       for key, line in annotator.annotate_flat(this_key)]
 
530
        return annotations
 
531
 
 
532
    def _get_ancestors(self, default_revision):
 
533
        ancestors = set([default_revision])
 
534
        for parent_id in self.get_parent_ids():
 
535
            ancestors.update(self.branch.repository.get_ancestry(
 
536
                             parent_id, topo_sorted=False))
 
537
        return ancestors
464
538
 
465
539
    def get_parent_ids(self):
466
540
        """See Tree.get_parent_ids.
467
 
        
 
541
 
468
542
        This implementation reads the pending merges list and last_revision
469
543
        value and uses that to decide what the parents list should be.
470
544
        """
471
 
        last_rev = self.last_revision()
472
 
        if last_rev is None:
 
545
        last_rev = _mod_revision.ensure_null(self._last_revision())
 
546
        if _mod_revision.NULL_REVISION == last_rev:
473
547
            parents = []
474
548
        else:
475
549
            parents = [last_rev]
476
 
        other_parents = self.pending_merges()
477
 
        return parents + other_parents
 
550
        try:
 
551
            merges_bytes = self._transport.get_bytes('pending-merges')
 
552
        except errors.NoSuchFile:
 
553
            pass
 
554
        else:
 
555
            for l in osutils.split_lines(merges_bytes):
 
556
                revision_id = l.rstrip('\n')
 
557
                parents.append(revision_id)
 
558
        return parents
478
559
 
 
560
    @needs_read_lock
479
561
    def get_root_id(self):
480
562
        """Return the id of this trees root"""
481
 
        inv = self.read_working_inventory()
482
 
        return inv.root.file_id
483
 
        
 
563
        return self._inventory.root.file_id
 
564
 
484
565
    def _get_store_filename(self, file_id):
485
566
        ## XXX: badly named; this is not in the store at all
486
567
        return self.abspath(self.id2path(file_id))
487
568
 
488
569
    @needs_read_lock
489
 
    def clone(self, to_bzrdir, revision_id=None, basis=None):
 
570
    def clone(self, to_bzrdir, revision_id=None):
490
571
        """Duplicate this working tree into to_bzr, including all state.
491
 
        
 
572
 
492
573
        Specifically modified files are kept as modified, but
493
574
        ignored and unknown files are discarded.
494
575
 
495
576
        If you want to make a new line of development, see bzrdir.sprout()
496
577
 
497
578
        revision
498
 
            If not None, the cloned tree will have its last revision set to 
499
 
            revision, and and difference between the source trees last revision
 
579
            If not None, the cloned tree will have its last revision set to
 
580
            revision, and difference between the source trees last revision
500
581
            and this one merged in.
501
 
 
502
 
        basis
503
 
            If not None, a closer copy of a tree which may have some files in
504
 
            common, and which file content should be preferentially copied from.
505
582
        """
506
583
        # assumes the target bzr dir format is compatible.
507
 
        result = self._format.initialize(to_bzrdir)
 
584
        result = to_bzrdir.create_workingtree()
508
585
        self.copy_content_into(result, revision_id)
509
586
        return result
510
587
 
511
588
    @needs_read_lock
512
589
    def copy_content_into(self, tree, revision_id=None):
513
590
        """Copy the current content and user files of this tree into tree."""
 
591
        tree.set_root_id(self.get_root_id())
514
592
        if revision_id is None:
515
 
            transform_tree(tree, self)
 
593
            merge.transform_tree(tree, self)
516
594
        else:
517
 
            # TODO now merge from tree.last_revision to revision
518
 
            transform_tree(tree, self)
519
 
            tree.set_last_revision(revision_id)
520
 
 
521
 
    @needs_write_lock
522
 
    def commit(self, message=None, revprops=None, *args, **kwargs):
523
 
        # avoid circular imports
524
 
        from bzrlib.commit import Commit
525
 
        if revprops is None:
526
 
            revprops = {}
527
 
        if not 'branch-nick' in revprops:
528
 
            revprops['branch-nick'] = self.branch.nick
529
 
        # args for wt.commit start at message from the Commit.commit method,
530
 
        # but with branch a kwarg now, passing in args as is results in the
531
 
        #message being used for the branch
532
 
        args = (DEPRECATED_PARAMETER, message, ) + args
533
 
        committed_id = Commit().commit( working_tree=self, revprops=revprops,
534
 
            *args, **kwargs)
535
 
        self._set_inventory(self.read_working_inventory())
536
 
        return committed_id
 
595
            # TODO now merge from tree.last_revision to revision (to preserve
 
596
            # user local changes)
 
597
            merge.transform_tree(tree, self)
 
598
            tree.set_parent_ids([revision_id])
537
599
 
538
600
    def id2abspath(self, file_id):
539
601
        return self.abspath(self.id2path(file_id))
540
602
 
541
603
    def has_id(self, file_id):
542
604
        # files that have been deleted are excluded
543
 
        inv = self._inventory
 
605
        inv = self.inventory
544
606
        if not inv.has_id(file_id):
545
607
            return False
546
608
        path = inv.id2path(file_id)
554
616
    __contains__ = has_id
555
617
 
556
618
    def get_file_size(self, file_id):
557
 
        return os.path.getsize(self.id2abspath(file_id))
 
619
        """See Tree.get_file_size"""
 
620
        # XXX: this returns the on-disk size; it should probably return the
 
621
        # canonical size
 
622
        try:
 
623
            return os.path.getsize(self.id2abspath(file_id))
 
624
        except OSError, e:
 
625
            if e.errno != errno.ENOENT:
 
626
                raise
 
627
            else:
 
628
                return None
558
629
 
559
630
    @needs_read_lock
560
 
    def get_file_sha1(self, file_id, path=None):
 
631
    def get_file_sha1(self, file_id, path=None, stat_value=None):
561
632
        if not path:
562
633
            path = self._inventory.id2path(file_id)
563
 
        return self._hashcache.get_sha1(path)
 
634
        return self._hashcache.get_sha1(path, stat_value)
564
635
 
565
636
    def get_file_mtime(self, file_id, path=None):
566
637
        if not path:
567
 
            path = self._inventory.id2path(file_id)
 
638
            path = self.inventory.id2path(file_id)
568
639
        return os.lstat(self.abspath(path)).st_mtime
569
640
 
 
641
    def _is_executable_from_path_and_stat_from_basis(self, path, stat_result):
 
642
        file_id = self.path2id(path)
 
643
        if file_id is None:
 
644
            # For unversioned files on win32, we just assume they are not
 
645
            # executable
 
646
            return False
 
647
        return self._inventory[file_id].executable
 
648
 
 
649
    def _is_executable_from_path_and_stat_from_stat(self, path, stat_result):
 
650
        mode = stat_result.st_mode
 
651
        return bool(stat.S_ISREG(mode) and stat.S_IEXEC & mode)
 
652
 
570
653
    if not supports_executable():
571
654
        def is_executable(self, file_id, path=None):
572
655
            return self._inventory[file_id].executable
 
656
 
 
657
        _is_executable_from_path_and_stat = \
 
658
            _is_executable_from_path_and_stat_from_basis
573
659
    else:
574
660
        def is_executable(self, file_id, path=None):
575
661
            if not path:
576
 
                path = self._inventory.id2path(file_id)
 
662
                path = self.id2path(file_id)
577
663
            mode = os.lstat(self.abspath(path)).st_mode
578
664
            return bool(stat.S_ISREG(mode) and stat.S_IEXEC & mode)
579
665
 
580
 
    @needs_write_lock
581
 
    def add(self, files, ids=None):
582
 
        """Make files versioned.
583
 
 
584
 
        Note that the command line normally calls smart_add instead,
585
 
        which can automatically recurse.
586
 
 
587
 
        This adds the files to the inventory, so that they will be
588
 
        recorded by the next commit.
589
 
 
590
 
        files
591
 
            List of paths to add, relative to the base of the tree.
592
 
 
593
 
        ids
594
 
            If set, use these instead of automatically generated ids.
595
 
            Must be the same length as the list of files, but may
596
 
            contain None for ids that are to be autogenerated.
597
 
 
598
 
        TODO: Perhaps have an option to add the ids even if the files do
599
 
              not (yet) exist.
600
 
 
601
 
        TODO: Perhaps callback with the ids and paths as they're added.
602
 
        """
 
666
        _is_executable_from_path_and_stat = \
 
667
            _is_executable_from_path_and_stat_from_stat
 
668
 
 
669
    @needs_tree_write_lock
 
670
    def _add(self, files, ids, kinds):
 
671
        """See MutableTree._add."""
603
672
        # TODO: Re-adding a file that is removed in the working copy
604
673
        # should probably put it back with the previous ID.
605
 
        if isinstance(files, basestring):
606
 
            assert(ids is None or isinstance(ids, basestring))
607
 
            files = [files]
608
 
            if ids is not None:
609
 
                ids = [ids]
610
 
 
611
 
        if ids is None:
612
 
            ids = [None] * len(files)
613
 
        else:
614
 
            assert(len(ids) == len(files))
615
 
 
616
 
        inv = self.read_working_inventory()
617
 
        for f,file_id in zip(files, ids):
618
 
            if self.is_control_filename(f):
619
 
                raise errors.ForbiddenControlFileError(filename=f)
620
 
 
621
 
            fp = splitpath(f)
622
 
 
623
 
            if len(fp) == 0:
624
 
                raise BzrError("cannot add top-level %r" % f)
625
 
 
626
 
            fullpath = normpath(self.abspath(f))
627
 
            try:
628
 
                kind = file_kind(fullpath)
629
 
            except OSError, e:
630
 
                if e.errno == errno.ENOENT:
631
 
                    raise NoSuchFile(fullpath)
632
 
            if not InventoryEntry.versionable_kind(kind):
633
 
                raise errors.BadFileKindError(filename=f, kind=kind)
 
674
        # the read and write working inventory should not occur in this
 
675
        # function - they should be part of lock_write and unlock.
 
676
        inv = self.inventory
 
677
        for f, file_id, kind in zip(files, ids, kinds):
634
678
            if file_id is None:
635
679
                inv.add_path(f, kind=kind)
636
680
            else:
637
681
                inv.add_path(f, kind=kind, file_id=file_id)
 
682
            self._inventory_is_modified = True
638
683
 
639
 
        self._write_inventory(inv)
 
684
    @needs_tree_write_lock
 
685
    def _gather_kinds(self, files, kinds):
 
686
        """See MutableTree._gather_kinds."""
 
687
        for pos, f in enumerate(files):
 
688
            if kinds[pos] is None:
 
689
                fullpath = normpath(self.abspath(f))
 
690
                try:
 
691
                    kinds[pos] = file_kind(fullpath)
 
692
                except OSError, e:
 
693
                    if e.errno == errno.ENOENT:
 
694
                        raise errors.NoSuchFile(fullpath)
640
695
 
641
696
    @needs_write_lock
 
697
    def add_parent_tree_id(self, revision_id, allow_leftmost_as_ghost=False):
 
698
        """Add revision_id as a parent.
 
699
 
 
700
        This is equivalent to retrieving the current list of parent ids
 
701
        and setting the list to its value plus revision_id.
 
702
 
 
703
        :param revision_id: The revision id to add to the parent list. It may
 
704
        be a ghost revision as long as its not the first parent to be added,
 
705
        or the allow_leftmost_as_ghost parameter is set True.
 
706
        :param allow_leftmost_as_ghost: Allow the first parent to be a ghost.
 
707
        """
 
708
        parents = self.get_parent_ids() + [revision_id]
 
709
        self.set_parent_ids(parents, allow_leftmost_as_ghost=len(parents) > 1
 
710
            or allow_leftmost_as_ghost)
 
711
 
 
712
    @needs_tree_write_lock
 
713
    def add_parent_tree(self, parent_tuple, allow_leftmost_as_ghost=False):
 
714
        """Add revision_id, tree tuple as a parent.
 
715
 
 
716
        This is equivalent to retrieving the current list of parent trees
 
717
        and setting the list to its value plus parent_tuple. See also
 
718
        add_parent_tree_id - if you only have a parent id available it will be
 
719
        simpler to use that api. If you have the parent already available, using
 
720
        this api is preferred.
 
721
 
 
722
        :param parent_tuple: The (revision id, tree) to add to the parent list.
 
723
            If the revision_id is a ghost, pass None for the tree.
 
724
        :param allow_leftmost_as_ghost: Allow the first parent to be a ghost.
 
725
        """
 
726
        parent_ids = self.get_parent_ids() + [parent_tuple[0]]
 
727
        if len(parent_ids) > 1:
 
728
            # the leftmost may have already been a ghost, preserve that if it
 
729
            # was.
 
730
            allow_leftmost_as_ghost = True
 
731
        self.set_parent_ids(parent_ids,
 
732
            allow_leftmost_as_ghost=allow_leftmost_as_ghost)
 
733
 
 
734
    @needs_tree_write_lock
642
735
    def add_pending_merge(self, *revision_ids):
643
736
        # TODO: Perhaps should check at this point that the
644
737
        # history of the revision is actually present?
645
 
        p = self.pending_merges()
 
738
        parents = self.get_parent_ids()
646
739
        updated = False
647
740
        for rev_id in revision_ids:
648
 
            if rev_id in p:
 
741
            if rev_id in parents:
649
742
                continue
650
 
            p.append(rev_id)
 
743
            parents.append(rev_id)
651
744
            updated = True
652
745
        if updated:
653
 
            self.set_pending_merges(p)
654
 
 
655
 
    @needs_read_lock
656
 
    def pending_merges(self):
657
 
        """Return a list of pending merges.
658
 
 
659
 
        These are revisions that have been merged into the working
660
 
        directory but not yet committed.
661
 
        """
 
746
            self.set_parent_ids(parents, allow_leftmost_as_ghost=True)
 
747
 
 
748
    def path_content_summary(self, path, _lstat=os.lstat,
 
749
        _mapper=osutils.file_kind_from_stat_mode):
 
750
        """See Tree.path_content_summary."""
 
751
        abspath = self.abspath(path)
662
752
        try:
663
 
            merges_file = self._control_files.get_utf8('pending-merges')
664
 
        except NoSuchFile:
665
 
            return []
666
 
        p = []
667
 
        for l in merges_file.readlines():
668
 
            p.append(l.rstrip('\n'))
669
 
        return p
670
 
 
671
 
    @needs_write_lock
 
753
            stat_result = _lstat(abspath)
 
754
        except OSError, e:
 
755
            if getattr(e, 'errno', None) == errno.ENOENT:
 
756
                # no file.
 
757
                return ('missing', None, None, None)
 
758
            # propagate other errors
 
759
            raise
 
760
        kind = _mapper(stat_result.st_mode)
 
761
        if kind == 'file':
 
762
            return self._file_content_summary(path, stat_result)
 
763
        elif kind == 'directory':
 
764
            # perhaps it looks like a plain directory, but it's really a
 
765
            # reference.
 
766
            if self._directory_is_tree_reference(path):
 
767
                kind = 'tree-reference'
 
768
            return kind, None, None, None
 
769
        elif kind == 'symlink':
 
770
            target = osutils.readlink(abspath)
 
771
            return ('symlink', None, None, target)
 
772
        else:
 
773
            return (kind, None, None, None)
 
774
 
 
775
    def _file_content_summary(self, path, stat_result):
 
776
        size = stat_result.st_size
 
777
        executable = self._is_executable_from_path_and_stat(path, stat_result)
 
778
        # try for a stat cache lookup
 
779
        return ('file', size, executable, self._sha_from_stat(
 
780
            path, stat_result))
 
781
 
 
782
    def _check_parents_for_ghosts(self, revision_ids, allow_leftmost_as_ghost):
 
783
        """Common ghost checking functionality from set_parent_*.
 
784
 
 
785
        This checks that the left hand-parent exists if there are any
 
786
        revisions present.
 
787
        """
 
788
        if len(revision_ids) > 0:
 
789
            leftmost_id = revision_ids[0]
 
790
            if (not allow_leftmost_as_ghost and not
 
791
                self.branch.repository.has_revision(leftmost_id)):
 
792
                raise errors.GhostRevisionUnusableHere(leftmost_id)
 
793
 
 
794
    def _set_merges_from_parent_ids(self, parent_ids):
 
795
        merges = parent_ids[1:]
 
796
        self._transport.put_bytes('pending-merges', '\n'.join(merges),
 
797
            mode=self.bzrdir._get_file_mode())
 
798
 
 
799
    def _filter_parent_ids_by_ancestry(self, revision_ids):
 
800
        """Check that all merged revisions are proper 'heads'.
 
801
 
 
802
        This will always return the first revision_id, and any merged revisions
 
803
        which are
 
804
        """
 
805
        if len(revision_ids) == 0:
 
806
            return revision_ids
 
807
        graph = self.branch.repository.get_graph()
 
808
        heads = graph.heads(revision_ids)
 
809
        new_revision_ids = revision_ids[:1]
 
810
        for revision_id in revision_ids[1:]:
 
811
            if revision_id in heads and revision_id not in new_revision_ids:
 
812
                new_revision_ids.append(revision_id)
 
813
        if new_revision_ids != revision_ids:
 
814
            trace.mutter('requested to set revision_ids = %s,'
 
815
                         ' but filtered to %s', revision_ids, new_revision_ids)
 
816
        return new_revision_ids
 
817
 
 
818
    @needs_tree_write_lock
 
819
    def set_parent_ids(self, revision_ids, allow_leftmost_as_ghost=False):
 
820
        """Set the parent ids to revision_ids.
 
821
 
 
822
        See also set_parent_trees. This api will try to retrieve the tree data
 
823
        for each element of revision_ids from the trees repository. If you have
 
824
        tree data already available, it is more efficient to use
 
825
        set_parent_trees rather than set_parent_ids. set_parent_ids is however
 
826
        an easier API to use.
 
827
 
 
828
        :param revision_ids: The revision_ids to set as the parent ids of this
 
829
            working tree. Any of these may be ghosts.
 
830
        """
 
831
        self._check_parents_for_ghosts(revision_ids,
 
832
            allow_leftmost_as_ghost=allow_leftmost_as_ghost)
 
833
        for revision_id in revision_ids:
 
834
            _mod_revision.check_not_reserved_id(revision_id)
 
835
 
 
836
        revision_ids = self._filter_parent_ids_by_ancestry(revision_ids)
 
837
 
 
838
        if len(revision_ids) > 0:
 
839
            self.set_last_revision(revision_ids[0])
 
840
        else:
 
841
            self.set_last_revision(_mod_revision.NULL_REVISION)
 
842
 
 
843
        self._set_merges_from_parent_ids(revision_ids)
 
844
 
 
845
    @needs_tree_write_lock
 
846
    def set_parent_trees(self, parents_list, allow_leftmost_as_ghost=False):
 
847
        """See MutableTree.set_parent_trees."""
 
848
        parent_ids = [rev for (rev, tree) in parents_list]
 
849
        for revision_id in parent_ids:
 
850
            _mod_revision.check_not_reserved_id(revision_id)
 
851
 
 
852
        self._check_parents_for_ghosts(parent_ids,
 
853
            allow_leftmost_as_ghost=allow_leftmost_as_ghost)
 
854
 
 
855
        parent_ids = self._filter_parent_ids_by_ancestry(parent_ids)
 
856
 
 
857
        if len(parent_ids) == 0:
 
858
            leftmost_parent_id = _mod_revision.NULL_REVISION
 
859
            leftmost_parent_tree = None
 
860
        else:
 
861
            leftmost_parent_id, leftmost_parent_tree = parents_list[0]
 
862
 
 
863
        if self._change_last_revision(leftmost_parent_id):
 
864
            if leftmost_parent_tree is None:
 
865
                # If we don't have a tree, fall back to reading the
 
866
                # parent tree from the repository.
 
867
                self._cache_basis_inventory(leftmost_parent_id)
 
868
            else:
 
869
                inv = leftmost_parent_tree.inventory
 
870
                xml = self._create_basis_xml_from_inventory(
 
871
                                        leftmost_parent_id, inv)
 
872
                self._write_basis_inventory(xml)
 
873
        self._set_merges_from_parent_ids(parent_ids)
 
874
 
 
875
    @needs_tree_write_lock
672
876
    def set_pending_merges(self, rev_list):
673
 
        self._control_files.put_utf8('pending-merges', '\n'.join(rev_list))
 
877
        parents = self.get_parent_ids()
 
878
        leftmost = parents[:1]
 
879
        new_parents = leftmost + rev_list
 
880
        self.set_parent_ids(new_parents)
674
881
 
675
 
    @needs_write_lock
 
882
    @needs_tree_write_lock
676
883
    def set_merge_modified(self, modified_hashes):
677
884
        def iter_stanzas():
678
885
            for file_id, hash in modified_hashes.iteritems():
679
 
                yield Stanza(file_id=file_id, hash=hash)
 
886
                yield Stanza(file_id=file_id.decode('utf8'), hash=hash)
680
887
        self._put_rio('merge-hashes', iter_stanzas(), MERGE_MODIFIED_HEADER_1)
681
888
 
682
 
    @needs_write_lock
 
889
    def _sha_from_stat(self, path, stat_result):
 
890
        """Get a sha digest from the tree's stat cache.
 
891
 
 
892
        The default implementation assumes no stat cache is present.
 
893
 
 
894
        :param path: The path.
 
895
        :param stat_result: The stat result being looked up.
 
896
        """
 
897
        return None
 
898
 
683
899
    def _put_rio(self, filename, stanzas, header):
 
900
        self._must_be_locked()
684
901
        my_file = rio_file(stanzas, header)
685
 
        self._control_files.put(filename, my_file)
 
902
        self._transport.put_file(filename, my_file,
 
903
            mode=self.bzrdir._get_file_mode())
 
904
 
 
905
    @needs_write_lock # because merge pulls data into the branch.
 
906
    def merge_from_branch(self, branch, to_revision=None, from_revision=None,
 
907
                          merge_type=None, force=False):
 
908
        """Merge from a branch into this working tree.
 
909
 
 
910
        :param branch: The branch to merge from.
 
911
        :param to_revision: If non-None, the merge will merge to to_revision,
 
912
            but not beyond it. to_revision does not need to be in the history
 
913
            of the branch when it is supplied. If None, to_revision defaults to
 
914
            branch.last_revision().
 
915
        """
 
916
        from bzrlib.merge import Merger, Merge3Merger
 
917
        merger = Merger(self.branch, this_tree=self)
 
918
        # check that there are no local alterations
 
919
        if not force and self.has_changes():
 
920
            raise errors.UncommittedChanges(self)
 
921
        if to_revision is None:
 
922
            to_revision = _mod_revision.ensure_null(branch.last_revision())
 
923
        merger.other_rev_id = to_revision
 
924
        if _mod_revision.is_null(merger.other_rev_id):
 
925
            raise errors.NoCommits(branch)
 
926
        self.branch.fetch(branch, last_revision=merger.other_rev_id)
 
927
        merger.other_basis = merger.other_rev_id
 
928
        merger.other_tree = self.branch.repository.revision_tree(
 
929
            merger.other_rev_id)
 
930
        merger.other_branch = branch
 
931
        if from_revision is None:
 
932
            merger.find_base()
 
933
        else:
 
934
            merger.set_base_revision(from_revision, branch)
 
935
        if merger.base_rev_id == merger.other_rev_id:
 
936
            raise errors.PointlessMerge
 
937
        merger.backup_files = False
 
938
        if merge_type is None:
 
939
            merger.merge_type = Merge3Merger
 
940
        else:
 
941
            merger.merge_type = merge_type
 
942
        merger.set_interesting_files(None)
 
943
        merger.show_base = False
 
944
        merger.reprocess = False
 
945
        conflicts = merger.do_merge()
 
946
        merger.set_pending()
 
947
        return conflicts
686
948
 
687
949
    @needs_read_lock
688
950
    def merge_modified(self):
 
951
        """Return a dictionary of files modified by a merge.
 
952
 
 
953
        The list is initialized by WorkingTree.set_merge_modified, which is
 
954
        typically called after we make some automatic updates to the tree
 
955
        because of a merge.
 
956
 
 
957
        This returns a map of file_id->sha1, containing only files which are
 
958
        still in the working inventory and have that text hash.
 
959
        """
689
960
        try:
690
 
            hashfile = self._control_files.get('merge-hashes')
691
 
        except NoSuchFile:
 
961
            hashfile = self._transport.get('merge-hashes')
 
962
        except errors.NoSuchFile:
692
963
            return {}
693
 
        merge_hashes = {}
694
964
        try:
695
 
            if hashfile.next() != MERGE_MODIFIED_HEADER_1 + '\n':
696
 
                raise MergeModifiedFormatError()
697
 
        except StopIteration:
698
 
            raise MergeModifiedFormatError()
699
 
        for s in RioReader(hashfile):
700
 
            file_id = s.get("file_id")
701
 
            if file_id not in self.inventory:
702
 
                continue
703
 
            hash = s.get("hash")
704
 
            if hash == self.get_file_sha1(file_id):
705
 
                merge_hashes[file_id] = hash
706
 
        return merge_hashes
 
965
            merge_hashes = {}
 
966
            try:
 
967
                if hashfile.next() != MERGE_MODIFIED_HEADER_1 + '\n':
 
968
                    raise errors.MergeModifiedFormatError()
 
969
            except StopIteration:
 
970
                raise errors.MergeModifiedFormatError()
 
971
            for s in RioReader(hashfile):
 
972
                # RioReader reads in Unicode, so convert file_ids back to utf8
 
973
                file_id = osutils.safe_file_id(s.get("file_id"), warn=False)
 
974
                if file_id not in self.inventory:
 
975
                    continue
 
976
                text_hash = s.get("hash")
 
977
                if text_hash == self.get_file_sha1(file_id):
 
978
                    merge_hashes[file_id] = text_hash
 
979
            return merge_hashes
 
980
        finally:
 
981
            hashfile.close()
 
982
 
 
983
    @needs_write_lock
 
984
    def mkdir(self, path, file_id=None):
 
985
        """See MutableTree.mkdir()."""
 
986
        if file_id is None:
 
987
            file_id = generate_ids.gen_file_id(os.path.basename(path))
 
988
        os.mkdir(self.abspath(path))
 
989
        self.add(path, file_id, 'directory')
 
990
        return file_id
707
991
 
708
992
    def get_symlink_target(self, file_id):
709
 
        return os.readlink(self.id2abspath(file_id))
710
 
 
711
 
    def file_class(self, filename):
712
 
        if self.path2id(filename):
713
 
            return 'V'
714
 
        elif self.is_ignored(filename):
715
 
            return 'I'
716
 
        else:
717
 
            return '?'
718
 
 
719
 
    def list_files(self):
720
 
        """Recursively list all files as (path, class, kind, id, entry).
 
993
        abspath = self.id2abspath(file_id)
 
994
        target = osutils.readlink(abspath)
 
995
        return target
 
996
 
 
997
    @needs_write_lock
 
998
    def subsume(self, other_tree):
 
999
        def add_children(inventory, entry):
 
1000
            for child_entry in entry.children.values():
 
1001
                inventory._byid[child_entry.file_id] = child_entry
 
1002
                if child_entry.kind == 'directory':
 
1003
                    add_children(inventory, child_entry)
 
1004
        if other_tree.get_root_id() == self.get_root_id():
 
1005
            raise errors.BadSubsumeSource(self, other_tree,
 
1006
                                          'Trees have the same root')
 
1007
        try:
 
1008
            other_tree_path = self.relpath(other_tree.basedir)
 
1009
        except errors.PathNotChild:
 
1010
            raise errors.BadSubsumeSource(self, other_tree,
 
1011
                'Tree is not contained by the other')
 
1012
        new_root_parent = self.path2id(osutils.dirname(other_tree_path))
 
1013
        if new_root_parent is None:
 
1014
            raise errors.BadSubsumeSource(self, other_tree,
 
1015
                'Parent directory is not versioned.')
 
1016
        # We need to ensure that the result of a fetch will have a
 
1017
        # versionedfile for the other_tree root, and only fetching into
 
1018
        # RepositoryKnit2 guarantees that.
 
1019
        if not self.branch.repository.supports_rich_root():
 
1020
            raise errors.SubsumeTargetNeedsUpgrade(other_tree)
 
1021
        other_tree.lock_tree_write()
 
1022
        try:
 
1023
            new_parents = other_tree.get_parent_ids()
 
1024
            other_root = other_tree.inventory.root
 
1025
            other_root.parent_id = new_root_parent
 
1026
            other_root.name = osutils.basename(other_tree_path)
 
1027
            self.inventory.add(other_root)
 
1028
            add_children(self.inventory, other_root)
 
1029
            self._write_inventory(self.inventory)
 
1030
            # normally we don't want to fetch whole repositories, but i think
 
1031
            # here we really do want to consolidate the whole thing.
 
1032
            for parent_id in other_tree.get_parent_ids():
 
1033
                self.branch.fetch(other_tree.branch, parent_id)
 
1034
                self.add_parent_tree_id(parent_id)
 
1035
        finally:
 
1036
            other_tree.unlock()
 
1037
        other_tree.bzrdir.retire_bzrdir()
 
1038
 
 
1039
    def _setup_directory_is_tree_reference(self):
 
1040
        if self._branch.repository._format.supports_tree_reference:
 
1041
            self._directory_is_tree_reference = \
 
1042
                self._directory_may_be_tree_reference
 
1043
        else:
 
1044
            self._directory_is_tree_reference = \
 
1045
                self._directory_is_never_tree_reference
 
1046
 
 
1047
    def _directory_is_never_tree_reference(self, relpath):
 
1048
        return False
 
1049
 
 
1050
    def _directory_may_be_tree_reference(self, relpath):
 
1051
        # as a special case, if a directory contains control files then
 
1052
        # it's a tree reference, except that the root of the tree is not
 
1053
        return relpath and osutils.isdir(self.abspath(relpath) + u"/.bzr")
 
1054
        # TODO: We could ask all the control formats whether they
 
1055
        # recognize this directory, but at the moment there's no cheap api
 
1056
        # to do that.  Since we probably can only nest bzr checkouts and
 
1057
        # they always use this name it's ok for now.  -- mbp 20060306
 
1058
        #
 
1059
        # FIXME: There is an unhandled case here of a subdirectory
 
1060
        # containing .bzr but not a branch; that will probably blow up
 
1061
        # when you try to commit it.  It might happen if there is a
 
1062
        # checkout in a subdirectory.  This can be avoided by not adding
 
1063
        # it.  mbp 20070306
 
1064
 
 
1065
    @needs_tree_write_lock
 
1066
    def extract(self, file_id, format=None):
 
1067
        """Extract a subtree from this tree.
 
1068
 
 
1069
        A new branch will be created, relative to the path for this tree.
 
1070
        """
 
1071
        self.flush()
 
1072
        def mkdirs(path):
 
1073
            segments = osutils.splitpath(path)
 
1074
            transport = self.branch.bzrdir.root_transport
 
1075
            for name in segments:
 
1076
                transport = transport.clone(name)
 
1077
                transport.ensure_base()
 
1078
            return transport
 
1079
 
 
1080
        sub_path = self.id2path(file_id)
 
1081
        branch_transport = mkdirs(sub_path)
 
1082
        if format is None:
 
1083
            format = self.bzrdir.cloning_metadir()
 
1084
        branch_transport.ensure_base()
 
1085
        branch_bzrdir = format.initialize_on_transport(branch_transport)
 
1086
        try:
 
1087
            repo = branch_bzrdir.find_repository()
 
1088
        except errors.NoRepositoryPresent:
 
1089
            repo = branch_bzrdir.create_repository()
 
1090
        if not repo.supports_rich_root():
 
1091
            raise errors.RootNotRich()
 
1092
        new_branch = branch_bzrdir.create_branch()
 
1093
        new_branch.pull(self.branch)
 
1094
        for parent_id in self.get_parent_ids():
 
1095
            new_branch.fetch(self.branch, parent_id)
 
1096
        tree_transport = self.bzrdir.root_transport.clone(sub_path)
 
1097
        if tree_transport.base != branch_transport.base:
 
1098
            tree_bzrdir = format.initialize_on_transport(tree_transport)
 
1099
            branch.BranchReferenceFormat().initialize(tree_bzrdir,
 
1100
                target_branch=new_branch)
 
1101
        else:
 
1102
            tree_bzrdir = branch_bzrdir
 
1103
        wt = tree_bzrdir.create_workingtree(_mod_revision.NULL_REVISION)
 
1104
        wt.set_parent_ids(self.get_parent_ids())
 
1105
        my_inv = self.inventory
 
1106
        child_inv = inventory.Inventory(root_id=None)
 
1107
        new_root = my_inv[file_id]
 
1108
        my_inv.remove_recursive_id(file_id)
 
1109
        new_root.parent_id = None
 
1110
        child_inv.add(new_root)
 
1111
        self._write_inventory(my_inv)
 
1112
        wt._write_inventory(child_inv)
 
1113
        return wt
 
1114
 
 
1115
    def _serialize(self, inventory, out_file):
 
1116
        xml5.serializer_v5.write_inventory(self._inventory, out_file,
 
1117
            working=True)
 
1118
 
 
1119
    def _deserialize(selt, in_file):
 
1120
        return xml5.serializer_v5.read_inventory(in_file)
 
1121
 
 
1122
    def flush(self):
 
1123
        """Write the in memory inventory to disk."""
 
1124
        # TODO: Maybe this should only write on dirty ?
 
1125
        if self._control_files._lock_mode != 'w':
 
1126
            raise errors.NotWriteLocked(self)
 
1127
        sio = StringIO()
 
1128
        self._serialize(self._inventory, sio)
 
1129
        sio.seek(0)
 
1130
        self._transport.put_file('inventory', sio,
 
1131
            mode=self.bzrdir._get_file_mode())
 
1132
        self._inventory_is_modified = False
 
1133
 
 
1134
    def _kind(self, relpath):
 
1135
        return osutils.file_kind(self.abspath(relpath))
 
1136
 
 
1137
    def list_files(self, include_root=False, from_dir=None, recursive=True):
 
1138
        """List all files as (path, class, kind, id, entry).
721
1139
 
722
1140
        Lists, but does not descend into unversioned directories.
723
 
 
724
1141
        This does not include files that have been deleted in this
725
 
        tree.
 
1142
        tree. Skips the control directory.
726
1143
 
727
 
        Skips the control directory.
 
1144
        :param include_root: if True, return an entry for the root
 
1145
        :param from_dir: start from this directory or None for the root
 
1146
        :param recursive: whether to recurse into subdirectories or not
728
1147
        """
729
 
        inv = self._inventory
 
1148
        # list_files is an iterator, so @needs_read_lock doesn't work properly
 
1149
        # with it. So callers should be careful to always read_lock the tree.
 
1150
        if not self.is_locked():
 
1151
            raise errors.ObjectNotLocked(self)
 
1152
 
 
1153
        inv = self.inventory
 
1154
        if from_dir is None and include_root is True:
 
1155
            yield ('', 'V', 'directory', inv.root.file_id, inv.root)
730
1156
        # Convert these into local objects to save lookup times
731
1157
        pathjoin = osutils.pathjoin
732
 
        file_kind = osutils.file_kind
 
1158
        file_kind = self._kind
733
1159
 
734
1160
        # transport.base ends in a slash, we want the piece
735
1161
        # between the last two slashes
738
1164
        fk_entries = {'directory':TreeDirectory, 'file':TreeFile, 'symlink':TreeLink}
739
1165
 
740
1166
        # directory file_id, relative path, absolute path, reverse sorted children
741
 
        children = os.listdir(self.basedir)
 
1167
        if from_dir is not None:
 
1168
            from_dir_id = inv.path2id(from_dir)
 
1169
            if from_dir_id is None:
 
1170
                # Directory not versioned
 
1171
                return
 
1172
            from_dir_abspath = pathjoin(self.basedir, from_dir)
 
1173
        else:
 
1174
            from_dir_id = inv.root.file_id
 
1175
            from_dir_abspath = self.basedir
 
1176
        children = os.listdir(from_dir_abspath)
742
1177
        children.sort()
743
 
        # jam 20060527 The kernel sized tree seems equivalent whether we 
 
1178
        # jam 20060527 The kernel sized tree seems equivalent whether we
744
1179
        # use a deque and popleft to keep them sorted, or if we use a plain
745
1180
        # list and just reverse() them.
746
1181
        children = collections.deque(children)
747
 
        stack = [(inv.root.file_id, u'', self.basedir, children)]
 
1182
        stack = [(from_dir_id, u'', from_dir_abspath, children)]
748
1183
        while stack:
749
1184
            from_dir_id, from_dir_relpath, from_dir_abspath, children = stack[-1]
750
1185
 
766
1201
 
767
1202
                # absolute path
768
1203
                fap = from_dir_abspath + '/' + f
769
 
                
 
1204
 
770
1205
                f_ie = inv.get_child(from_dir_id, f)
771
1206
                if f_ie:
772
1207
                    c = 'V'
795
1230
 
796
1231
                fk = file_kind(fap)
797
1232
 
798
 
                if f_ie:
799
 
                    if f_ie.kind != fk:
800
 
                        raise BzrCheckError("file %r entered as kind %r id %r, "
801
 
                                            "now of kind %r"
802
 
                                            % (fap, f_ie.kind, f_ie.file_id, fk))
803
 
 
804
1233
                # make a last minute entry
805
1234
                if f_ie:
806
1235
                    yield fp[1:], c, fk, f_ie.file_id, f_ie
810
1239
                    except KeyError:
811
1240
                        yield fp[1:], c, fk, None, TreeEntry()
812
1241
                    continue
813
 
                
 
1242
 
814
1243
                if fk != 'directory':
815
1244
                    continue
816
1245
 
817
 
                # But do this child first
818
 
                new_children = os.listdir(fap)
819
 
                new_children.sort()
820
 
                new_children = collections.deque(new_children)
821
 
                stack.append((f_ie.file_id, fp, fap, new_children))
822
 
                # Break out of inner loop, so that we start outer loop with child
823
 
                break
 
1246
                # But do this child first if recursing down
 
1247
                if recursive:
 
1248
                    new_children = os.listdir(fap)
 
1249
                    new_children.sort()
 
1250
                    new_children = collections.deque(new_children)
 
1251
                    stack.append((f_ie.file_id, fp, fap, new_children))
 
1252
                    # Break out of inner loop,
 
1253
                    # so that we start outer loop with child
 
1254
                    break
824
1255
            else:
825
1256
                # if we finished all children, pop it off the stack
826
1257
                stack.pop()
827
1258
 
828
 
 
829
 
    @needs_write_lock
830
 
    def move(self, from_paths, to_name):
 
1259
    @needs_tree_write_lock
 
1260
    def move(self, from_paths, to_dir=None, after=False, **kwargs):
831
1261
        """Rename files.
832
1262
 
833
 
        to_name must exist in the inventory.
834
 
 
835
 
        If to_name exists and is a directory, the files are moved into
836
 
        it, keeping their old names.  
837
 
 
838
 
        Note that to_name is only the last component of the new name;
 
1263
        to_dir must exist in the inventory.
 
1264
 
 
1265
        If to_dir exists and is a directory, the files are moved into
 
1266
        it, keeping their old names.
 
1267
 
 
1268
        Note that to_dir is only the last component of the new name;
839
1269
        this doesn't change the directory.
840
1270
 
 
1271
        For each entry in from_paths the move mode will be determined
 
1272
        independently.
 
1273
 
 
1274
        The first mode moves the file in the filesystem and updates the
 
1275
        inventory. The second mode only updates the inventory without
 
1276
        touching the file on the filesystem. This is the new mode introduced
 
1277
        in version 0.15.
 
1278
 
 
1279
        move uses the second mode if 'after == True' and the target is not
 
1280
        versioned but present in the working tree.
 
1281
 
 
1282
        move uses the second mode if 'after == False' and the source is
 
1283
        versioned but no longer in the working tree, and the target is not
 
1284
        versioned but present in the working tree.
 
1285
 
 
1286
        move uses the first mode if 'after == False' and the source is
 
1287
        versioned and present in the working tree, and the target is not
 
1288
        versioned and not present in the working tree.
 
1289
 
 
1290
        Everything else results in an error.
 
1291
 
841
1292
        This returns a list of (from_path, to_path) pairs for each
842
1293
        entry that is moved.
843
1294
        """
844
 
        result = []
845
 
        ## TODO: Option to move IDs only
846
 
        assert not isinstance(from_paths, basestring)
 
1295
        rename_entries = []
 
1296
        rename_tuples = []
 
1297
 
 
1298
        # check for deprecated use of signature
 
1299
        if to_dir is None:
 
1300
            to_dir = kwargs.get('to_name', None)
 
1301
            if to_dir is None:
 
1302
                raise TypeError('You must supply a target directory')
 
1303
            else:
 
1304
                symbol_versioning.warn('The parameter to_name was deprecated'
 
1305
                                       ' in version 0.13. Use to_dir instead',
 
1306
                                       DeprecationWarning)
 
1307
 
 
1308
        # check destination directory
 
1309
        if isinstance(from_paths, basestring):
 
1310
            raise ValueError()
847
1311
        inv = self.inventory
848
 
        to_abs = self.abspath(to_name)
 
1312
        to_abs = self.abspath(to_dir)
849
1313
        if not isdir(to_abs):
850
 
            raise BzrError("destination %r is not a directory" % to_abs)
851
 
        if not self.has_filename(to_name):
852
 
            raise BzrError("destination %r not in working directory" % to_abs)
853
 
        to_dir_id = inv.path2id(to_name)
854
 
        if to_dir_id == None and to_name != '':
855
 
            raise BzrError("destination %r is not a versioned directory" % to_name)
 
1314
            raise errors.BzrMoveFailedError('',to_dir,
 
1315
                errors.NotADirectory(to_abs))
 
1316
        if not self.has_filename(to_dir):
 
1317
            raise errors.BzrMoveFailedError('',to_dir,
 
1318
                errors.NotInWorkingDirectory(to_dir))
 
1319
        to_dir_id = inv.path2id(to_dir)
 
1320
        if to_dir_id is None:
 
1321
            raise errors.BzrMoveFailedError('',to_dir,
 
1322
                errors.NotVersionedError(path=str(to_dir)))
 
1323
 
856
1324
        to_dir_ie = inv[to_dir_id]
857
 
        if to_dir_ie.kind not in ('directory', 'root_directory'):
858
 
            raise BzrError("destination %r is not a directory" % to_abs)
859
 
 
860
 
        to_idpath = inv.get_idpath(to_dir_id)
861
 
 
862
 
        for f in from_paths:
863
 
            if not self.has_filename(f):
864
 
                raise BzrError("%r does not exist in working tree" % f)
865
 
            f_id = inv.path2id(f)
866
 
            if f_id == None:
867
 
                raise BzrError("%r is not versioned" % f)
868
 
            name_tail = splitpath(f)[-1]
869
 
            dest_path = pathjoin(to_name, name_tail)
870
 
            if self.has_filename(dest_path):
871
 
                raise BzrError("destination %r already exists" % dest_path)
872
 
            if f_id in to_idpath:
873
 
                raise BzrError("can't move %r to a subdirectory of itself" % f)
874
 
 
875
 
        # OK, so there's a race here, it's possible that someone will
876
 
        # create a file in this interval and then the rename might be
877
 
        # left half-done.  But we should have caught most problems.
878
 
        orig_inv = deepcopy(self.inventory)
 
1325
        if to_dir_ie.kind != 'directory':
 
1326
            raise errors.BzrMoveFailedError('',to_dir,
 
1327
                errors.NotADirectory(to_abs))
 
1328
 
 
1329
        # create rename entries and tuples
 
1330
        for from_rel in from_paths:
 
1331
            from_tail = splitpath(from_rel)[-1]
 
1332
            from_id = inv.path2id(from_rel)
 
1333
            if from_id is None:
 
1334
                raise errors.BzrMoveFailedError(from_rel,to_dir,
 
1335
                    errors.NotVersionedError(path=str(from_rel)))
 
1336
 
 
1337
            from_entry = inv[from_id]
 
1338
            from_parent_id = from_entry.parent_id
 
1339
            to_rel = pathjoin(to_dir, from_tail)
 
1340
            rename_entry = WorkingTree._RenameEntry(from_rel=from_rel,
 
1341
                                         from_id=from_id,
 
1342
                                         from_tail=from_tail,
 
1343
                                         from_parent_id=from_parent_id,
 
1344
                                         to_rel=to_rel, to_tail=from_tail,
 
1345
                                         to_parent_id=to_dir_id)
 
1346
            rename_entries.append(rename_entry)
 
1347
            rename_tuples.append((from_rel, to_rel))
 
1348
 
 
1349
        # determine which move mode to use. checks also for movability
 
1350
        rename_entries = self._determine_mv_mode(rename_entries, after)
 
1351
 
 
1352
        original_modified = self._inventory_is_modified
879
1353
        try:
880
 
            for f in from_paths:
881
 
                name_tail = splitpath(f)[-1]
882
 
                dest_path = pathjoin(to_name, name_tail)
883
 
                result.append((f, dest_path))
884
 
                inv.rename(inv.path2id(f), to_dir_id, name_tail)
885
 
                try:
886
 
                    rename(self.abspath(f), self.abspath(dest_path))
887
 
                except OSError, e:
888
 
                    raise BzrError("failed to rename %r to %r: %s" %
889
 
                                   (f, dest_path, e[1]),
890
 
                            ["rename rolled back"])
 
1354
            if len(from_paths):
 
1355
                self._inventory_is_modified = True
 
1356
            self._move(rename_entries)
891
1357
        except:
892
1358
            # restore the inventory on error
893
 
            self._set_inventory(orig_inv)
 
1359
            self._inventory_is_modified = original_modified
894
1360
            raise
895
1361
        self._write_inventory(inv)
896
 
        return result
897
 
 
898
 
    @needs_write_lock
899
 
    def rename_one(self, from_rel, to_rel):
 
1362
        return rename_tuples
 
1363
 
 
1364
    def _determine_mv_mode(self, rename_entries, after=False):
 
1365
        """Determines for each from-to pair if both inventory and working tree
 
1366
        or only the inventory has to be changed.
 
1367
 
 
1368
        Also does basic plausability tests.
 
1369
        """
 
1370
        inv = self.inventory
 
1371
 
 
1372
        for rename_entry in rename_entries:
 
1373
            # store to local variables for easier reference
 
1374
            from_rel = rename_entry.from_rel
 
1375
            from_id = rename_entry.from_id
 
1376
            to_rel = rename_entry.to_rel
 
1377
            to_id = inv.path2id(to_rel)
 
1378
            only_change_inv = False
 
1379
 
 
1380
            # check the inventory for source and destination
 
1381
            if from_id is None:
 
1382
                raise errors.BzrMoveFailedError(from_rel,to_rel,
 
1383
                    errors.NotVersionedError(path=str(from_rel)))
 
1384
            if to_id is not None:
 
1385
                raise errors.BzrMoveFailedError(from_rel,to_rel,
 
1386
                    errors.AlreadyVersionedError(path=str(to_rel)))
 
1387
 
 
1388
            # try to determine the mode for rename (only change inv or change
 
1389
            # inv and file system)
 
1390
            if after:
 
1391
                if not self.has_filename(to_rel):
 
1392
                    raise errors.BzrMoveFailedError(from_id,to_rel,
 
1393
                        errors.NoSuchFile(path=str(to_rel),
 
1394
                        extra="New file has not been created yet"))
 
1395
                only_change_inv = True
 
1396
            elif not self.has_filename(from_rel) and self.has_filename(to_rel):
 
1397
                only_change_inv = True
 
1398
            elif self.has_filename(from_rel) and not self.has_filename(to_rel):
 
1399
                only_change_inv = False
 
1400
            elif (not self.case_sensitive
 
1401
                  and from_rel.lower() == to_rel.lower()
 
1402
                  and self.has_filename(from_rel)):
 
1403
                only_change_inv = False
 
1404
            else:
 
1405
                # something is wrong, so lets determine what exactly
 
1406
                if not self.has_filename(from_rel) and \
 
1407
                   not self.has_filename(to_rel):
 
1408
                    raise errors.BzrRenameFailedError(from_rel,to_rel,
 
1409
                        errors.PathsDoNotExist(paths=(str(from_rel),
 
1410
                        str(to_rel))))
 
1411
                else:
 
1412
                    raise errors.RenameFailedFilesExist(from_rel, to_rel)
 
1413
            rename_entry.only_change_inv = only_change_inv
 
1414
        return rename_entries
 
1415
 
 
1416
    def _move(self, rename_entries):
 
1417
        """Moves a list of files.
 
1418
 
 
1419
        Depending on the value of the flag 'only_change_inv', the
 
1420
        file will be moved on the file system or not.
 
1421
        """
 
1422
        inv = self.inventory
 
1423
        moved = []
 
1424
 
 
1425
        for entry in rename_entries:
 
1426
            try:
 
1427
                self._move_entry(entry)
 
1428
            except:
 
1429
                self._rollback_move(moved)
 
1430
                raise
 
1431
            moved.append(entry)
 
1432
 
 
1433
    def _rollback_move(self, moved):
 
1434
        """Try to rollback a previous move in case of an filesystem error."""
 
1435
        inv = self.inventory
 
1436
        for entry in moved:
 
1437
            try:
 
1438
                self._move_entry(WorkingTree._RenameEntry(
 
1439
                    entry.to_rel, entry.from_id,
 
1440
                    entry.to_tail, entry.to_parent_id, entry.from_rel,
 
1441
                    entry.from_tail, entry.from_parent_id,
 
1442
                    entry.only_change_inv))
 
1443
            except errors.BzrMoveFailedError, e:
 
1444
                raise errors.BzrMoveFailedError( '', '', "Rollback failed."
 
1445
                        " The working tree is in an inconsistent state."
 
1446
                        " Please consider doing a 'bzr revert'."
 
1447
                        " Error message is: %s" % e)
 
1448
 
 
1449
    def _move_entry(self, entry):
 
1450
        inv = self.inventory
 
1451
        from_rel_abs = self.abspath(entry.from_rel)
 
1452
        to_rel_abs = self.abspath(entry.to_rel)
 
1453
        if from_rel_abs == to_rel_abs:
 
1454
            raise errors.BzrMoveFailedError(entry.from_rel, entry.to_rel,
 
1455
                "Source and target are identical.")
 
1456
 
 
1457
        if not entry.only_change_inv:
 
1458
            try:
 
1459
                osutils.rename(from_rel_abs, to_rel_abs)
 
1460
            except OSError, e:
 
1461
                raise errors.BzrMoveFailedError(entry.from_rel,
 
1462
                    entry.to_rel, e[1])
 
1463
        inv.rename(entry.from_id, entry.to_parent_id, entry.to_tail)
 
1464
 
 
1465
    @needs_tree_write_lock
 
1466
    def rename_one(self, from_rel, to_rel, after=False):
900
1467
        """Rename one file.
901
1468
 
902
1469
        This can change the directory or the filename or both.
 
1470
 
 
1471
        rename_one has several 'modes' to work. First, it can rename a physical
 
1472
        file and change the file_id. That is the normal mode. Second, it can
 
1473
        only change the file_id without touching any physical file. This is
 
1474
        the new mode introduced in version 0.15.
 
1475
 
 
1476
        rename_one uses the second mode if 'after == True' and 'to_rel' is not
 
1477
        versioned but present in the working tree.
 
1478
 
 
1479
        rename_one uses the second mode if 'after == False' and 'from_rel' is
 
1480
        versioned but no longer in the working tree, and 'to_rel' is not
 
1481
        versioned but present in the working tree.
 
1482
 
 
1483
        rename_one uses the first mode if 'after == False' and 'from_rel' is
 
1484
        versioned and present in the working tree, and 'to_rel' is not
 
1485
        versioned and not present in the working tree.
 
1486
 
 
1487
        Everything else results in an error.
903
1488
        """
904
1489
        inv = self.inventory
905
 
        if not self.has_filename(from_rel):
906
 
            raise BzrError("can't rename: old working file %r does not exist" % from_rel)
907
 
        if self.has_filename(to_rel):
908
 
            raise BzrError("can't rename: new working file %r already exists" % to_rel)
909
 
 
910
 
        file_id = inv.path2id(from_rel)
911
 
        if file_id == None:
912
 
            raise BzrError("can't rename: old name %r is not versioned" % from_rel)
913
 
 
914
 
        entry = inv[file_id]
915
 
        from_parent = entry.parent_id
916
 
        from_name = entry.name
917
 
        
918
 
        if inv.path2id(to_rel):
919
 
            raise BzrError("can't rename: new name %r is already versioned" % to_rel)
920
 
 
 
1490
        rename_entries = []
 
1491
 
 
1492
        # create rename entries and tuples
 
1493
        from_tail = splitpath(from_rel)[-1]
 
1494
        from_id = inv.path2id(from_rel)
 
1495
        if from_id is None:
 
1496
            # if file is missing in the inventory maybe it's in the basis_tree
 
1497
            basis_tree = self.branch.basis_tree()
 
1498
            from_id = basis_tree.path2id(from_rel)
 
1499
            if from_id is None:
 
1500
                raise errors.BzrRenameFailedError(from_rel,to_rel,
 
1501
                    errors.NotVersionedError(path=str(from_rel)))
 
1502
            # put entry back in the inventory so we can rename it
 
1503
            from_entry = basis_tree.inventory[from_id].copy()
 
1504
            inv.add(from_entry)
 
1505
        else:
 
1506
            from_entry = inv[from_id]
 
1507
        from_parent_id = from_entry.parent_id
921
1508
        to_dir, to_tail = os.path.split(to_rel)
922
1509
        to_dir_id = inv.path2id(to_dir)
923
 
        if to_dir_id == None and to_dir != '':
924
 
            raise BzrError("can't determine destination directory id for %r" % to_dir)
925
 
 
926
 
        mutter("rename_one:")
927
 
        mutter("  file_id    {%s}" % file_id)
928
 
        mutter("  from_rel   %r" % from_rel)
929
 
        mutter("  to_rel     %r" % to_rel)
930
 
        mutter("  to_dir     %r" % to_dir)
931
 
        mutter("  to_dir_id  {%s}" % to_dir_id)
932
 
 
933
 
        inv.rename(file_id, to_dir_id, to_tail)
934
 
 
935
 
        from_abs = self.abspath(from_rel)
936
 
        to_abs = self.abspath(to_rel)
937
 
        try:
938
 
            rename(from_abs, to_abs)
939
 
        except OSError, e:
940
 
            inv.rename(file_id, from_parent, from_name)
941
 
            raise BzrError("failed to rename %r to %r: %s"
942
 
                    % (from_abs, to_abs, e[1]),
943
 
                    ["rename rolled back"])
 
1510
        rename_entry = WorkingTree._RenameEntry(from_rel=from_rel,
 
1511
                                     from_id=from_id,
 
1512
                                     from_tail=from_tail,
 
1513
                                     from_parent_id=from_parent_id,
 
1514
                                     to_rel=to_rel, to_tail=to_tail,
 
1515
                                     to_parent_id=to_dir_id)
 
1516
        rename_entries.append(rename_entry)
 
1517
 
 
1518
        # determine which move mode to use. checks also for movability
 
1519
        rename_entries = self._determine_mv_mode(rename_entries, after)
 
1520
 
 
1521
        # check if the target changed directory and if the target directory is
 
1522
        # versioned
 
1523
        if to_dir_id is None:
 
1524
            raise errors.BzrMoveFailedError(from_rel,to_rel,
 
1525
                errors.NotVersionedError(path=str(to_dir)))
 
1526
 
 
1527
        # all checks done. now we can continue with our actual work
 
1528
        mutter('rename_one:\n'
 
1529
               '  from_id   {%s}\n'
 
1530
               '  from_rel: %r\n'
 
1531
               '  to_rel:   %r\n'
 
1532
               '  to_dir    %r\n'
 
1533
               '  to_dir_id {%s}\n',
 
1534
               from_id, from_rel, to_rel, to_dir, to_dir_id)
 
1535
 
 
1536
        self._move(rename_entries)
944
1537
        self._write_inventory(inv)
945
1538
 
 
1539
    class _RenameEntry(object):
 
1540
        def __init__(self, from_rel, from_id, from_tail, from_parent_id,
 
1541
                     to_rel, to_tail, to_parent_id, only_change_inv=False):
 
1542
            self.from_rel = from_rel
 
1543
            self.from_id = from_id
 
1544
            self.from_tail = from_tail
 
1545
            self.from_parent_id = from_parent_id
 
1546
            self.to_rel = to_rel
 
1547
            self.to_tail = to_tail
 
1548
            self.to_parent_id = to_parent_id
 
1549
            self.only_change_inv = only_change_inv
 
1550
 
946
1551
    @needs_read_lock
947
1552
    def unknowns(self):
948
1553
        """Return all unknown files.
950
1555
        These are files in the working directory that are not versioned or
951
1556
        control files or ignored.
952
1557
        """
953
 
        for subp in self.extras():
954
 
            if not self.is_ignored(subp):
955
 
                yield subp
956
 
 
957
 
    @deprecated_method(zero_eight)
958
 
    def iter_conflicts(self):
959
 
        """List all files in the tree that have text or content conflicts.
960
 
        DEPRECATED.  Use conflicts instead."""
961
 
        return self._iter_conflicts()
 
1558
        # force the extras method to be fully executed before returning, to
 
1559
        # prevent race conditions with the lock
 
1560
        return iter(
 
1561
            [subp for subp in self.extras() if not self.is_ignored(subp)])
 
1562
 
 
1563
    @needs_tree_write_lock
 
1564
    def unversion(self, file_ids):
 
1565
        """Remove the file ids in file_ids from the current versioned set.
 
1566
 
 
1567
        When a file_id is unversioned, all of its children are automatically
 
1568
        unversioned.
 
1569
 
 
1570
        :param file_ids: The file ids to stop versioning.
 
1571
        :raises: NoSuchId if any fileid is not currently versioned.
 
1572
        """
 
1573
        for file_id in file_ids:
 
1574
            if file_id not in self._inventory:
 
1575
                raise errors.NoSuchId(self, file_id)
 
1576
        for file_id in file_ids:
 
1577
            if self._inventory.has_id(file_id):
 
1578
                self._inventory.remove_recursive_id(file_id)
 
1579
        if len(file_ids):
 
1580
            # in the future this should just set a dirty bit to wait for the
 
1581
            # final unlock. However, until all methods of workingtree start
 
1582
            # with the current in -memory inventory rather than triggering
 
1583
            # a read, it is more complex - we need to teach read_inventory
 
1584
            # to know when to read, and when to not read first... and possibly
 
1585
            # to save first when the in memory one may be corrupted.
 
1586
            # so for now, we just only write it if it is indeed dirty.
 
1587
            # - RBC 20060907
 
1588
            self._write_inventory(self._inventory)
962
1589
 
963
1590
    def _iter_conflicts(self):
964
1591
        conflicted = set()
972
1599
                yield stem
973
1600
 
974
1601
    @needs_write_lock
975
 
    def pull(self, source, overwrite=False, stop_revision=None):
976
 
        top_pb = bzrlib.ui.ui_factory.nested_progress_bar()
 
1602
    def pull(self, source, overwrite=False, stop_revision=None,
 
1603
             change_reporter=None, possible_transports=None, local=False):
977
1604
        source.lock_read()
978
1605
        try:
979
 
            pp = ProgressPhase("Pull phase", 2, top_pb)
980
 
            pp.next_phase()
981
 
            old_revision_history = self.branch.revision_history()
 
1606
            old_revision_info = self.branch.last_revision_info()
982
1607
            basis_tree = self.basis_tree()
983
 
            count = self.branch.pull(source, overwrite, stop_revision)
984
 
            new_revision_history = self.branch.revision_history()
985
 
            if new_revision_history != old_revision_history:
986
 
                pp.next_phase()
987
 
                if len(old_revision_history):
988
 
                    other_revision = old_revision_history[-1]
989
 
                else:
990
 
                    other_revision = None
 
1608
            count = self.branch.pull(source, overwrite, stop_revision,
 
1609
                                     possible_transports=possible_transports,
 
1610
                                     local=local)
 
1611
            new_revision_info = self.branch.last_revision_info()
 
1612
            if new_revision_info != old_revision_info:
991
1613
                repository = self.branch.repository
992
 
                pb = bzrlib.ui.ui_factory.nested_progress_bar()
 
1614
                basis_tree.lock_read()
993
1615
                try:
994
 
                    merge_inner(self.branch,
995
 
                                self.branch.basis_tree(),
996
 
                                basis_tree, 
997
 
                                this_tree=self, 
998
 
                                pb=pb)
 
1616
                    new_basis_tree = self.branch.basis_tree()
 
1617
                    merge.merge_inner(
 
1618
                                self.branch,
 
1619
                                new_basis_tree,
 
1620
                                basis_tree,
 
1621
                                this_tree=self,
 
1622
                                pb=None,
 
1623
                                change_reporter=change_reporter)
 
1624
                    basis_root_id = basis_tree.get_root_id()
 
1625
                    new_root_id = new_basis_tree.get_root_id()
 
1626
                    if basis_root_id != new_root_id:
 
1627
                        self.set_root_id(new_root_id)
999
1628
                finally:
1000
 
                    pb.finished()
1001
 
                self.set_last_revision(self.branch.last_revision())
 
1629
                    basis_tree.unlock()
 
1630
                # TODO - dedup parents list with things merged by pull ?
 
1631
                # reuse the revisiontree we merged against to set the new
 
1632
                # tree data.
 
1633
                parent_trees = [(self.branch.last_revision(), new_basis_tree)]
 
1634
                # we have to pull the merge trees out again, because
 
1635
                # merge_inner has set the ids. - this corner is not yet
 
1636
                # layered well enough to prevent double handling.
 
1637
                # XXX TODO: Fix the double handling: telling the tree about
 
1638
                # the already known parent data is wasteful.
 
1639
                merges = self.get_parent_ids()[1:]
 
1640
                parent_trees.extend([
 
1641
                    (parent, repository.revision_tree(parent)) for
 
1642
                     parent in merges])
 
1643
                self.set_parent_trees(parent_trees)
1002
1644
            return count
1003
1645
        finally:
1004
1646
            source.unlock()
1005
 
            top_pb.finished()
 
1647
 
 
1648
    @needs_write_lock
 
1649
    def put_file_bytes_non_atomic(self, file_id, bytes):
 
1650
        """See MutableTree.put_file_bytes_non_atomic."""
 
1651
        stream = file(self.id2abspath(file_id), 'wb')
 
1652
        try:
 
1653
            stream.write(bytes)
 
1654
        finally:
 
1655
            stream.close()
 
1656
        # TODO: update the hashcache here ?
1006
1657
 
1007
1658
    def extras(self):
1008
 
        """Yield all unknown files in this WorkingTree.
 
1659
        """Yield all unversioned files in this WorkingTree.
1009
1660
 
1010
 
        If there are any unknown directories then only the directory is
1011
 
        returned, not all its children.  But if there are unknown files
 
1661
        If there are any unversioned directories then only the directory is
 
1662
        returned, not all its children.  But if there are unversioned files
1012
1663
        under a versioned subdirectory, they are returned.
1013
1664
 
1014
1665
        Currently returned depth-first, sorted by name within directories.
 
1666
        This is the same order used by 'osutils.walkdirs'.
1015
1667
        """
1016
1668
        ## TODO: Work from given directory downwards
1017
1669
        for path, dir_entry in self.inventory.directories():
1018
 
            mutter("search for unknowns in %r", path)
 
1670
            # mutter("search for unknowns in %r", path)
1019
1671
            dirabs = self.abspath(path)
1020
1672
            if not isdir(dirabs):
1021
1673
                # e.g. directory deleted
1023
1675
 
1024
1676
            fl = []
1025
1677
            for subf in os.listdir(dirabs):
1026
 
                if subf == '.bzr':
 
1678
                if self.bzrdir.is_control_filename(subf):
1027
1679
                    continue
1028
1680
                if subf not in dir_entry.children:
1029
 
                    subf_norm, can_access = osutils.normalized_filename(subf)
 
1681
                    try:
 
1682
                        (subf_norm,
 
1683
                         can_access) = osutils.normalized_filename(subf)
 
1684
                    except UnicodeDecodeError:
 
1685
                        path_os_enc = path.encode(osutils._fs_enc)
 
1686
                        relpath = path_os_enc + '/' + subf
 
1687
                        raise errors.BadFilenameEncoding(relpath,
 
1688
                                                         osutils._fs_enc)
1030
1689
                    if subf_norm != subf and can_access:
1031
1690
                        if subf_norm not in dir_entry.children:
1032
1691
                            fl.append(subf_norm)
1033
1692
                    else:
1034
1693
                        fl.append(subf)
1035
 
            
 
1694
 
1036
1695
            fl.sort()
1037
1696
            for subf in fl:
1038
1697
                subp = pathjoin(path, subf)
1039
1698
                yield subp
1040
1699
 
1041
 
    def _translate_ignore_rule(self, rule):
1042
 
        """Translate a single ignore rule to a regex.
1043
 
 
1044
 
        There are two types of ignore rules.  Those that do not contain a / are
1045
 
        matched against the tail of the filename (that is, they do not care
1046
 
        what directory the file is in.)  Rules which do contain a slash must
1047
 
        match the entire path.  As a special case, './' at the start of the
1048
 
        string counts as a slash in the string but is removed before matching
1049
 
        (e.g. ./foo.c, ./src/foo.c)
1050
 
 
1051
 
        :return: The translated regex.
1052
 
        """
1053
 
        if rule[:2] in ('./', '.\\'):
1054
 
            # rootdir rule
1055
 
            result = fnmatch.translate(rule[2:])
1056
 
        elif '/' in rule or '\\' in rule:
1057
 
            # path prefix 
1058
 
            result = fnmatch.translate(rule)
1059
 
        else:
1060
 
            # default rule style.
1061
 
            result = "(?:.*/)?(?!.*/)" + fnmatch.translate(rule)
1062
 
        assert result[-1] == '$', "fnmatch.translate did not add the expected $"
1063
 
        return "(" + result + ")"
1064
 
 
1065
 
    def _combine_ignore_rules(self, rules):
1066
 
        """Combine a list of ignore rules into a single regex object.
1067
 
 
1068
 
        Each individual rule is combined with | to form a big regex, which then
1069
 
        has $ added to it to form something like ()|()|()$. The group index for
1070
 
        each subregex's outermost group is placed in a dictionary mapping back 
1071
 
        to the rule. This allows quick identification of the matching rule that
1072
 
        triggered a match.
1073
 
        :return: a list of the compiled regex and the matching-group index 
1074
 
        dictionaries. We return a list because python complains if you try to 
1075
 
        combine more than 100 regexes.
1076
 
        """
1077
 
        result = []
1078
 
        groups = {}
1079
 
        next_group = 0
1080
 
        translated_rules = []
1081
 
        for rule in rules:
1082
 
            translated_rule = self._translate_ignore_rule(rule)
1083
 
            compiled_rule = re.compile(translated_rule)
1084
 
            groups[next_group] = rule
1085
 
            next_group += compiled_rule.groups
1086
 
            translated_rules.append(translated_rule)
1087
 
            if next_group == 99:
1088
 
                result.append((re.compile("|".join(translated_rules)), groups))
1089
 
                groups = {}
1090
 
                next_group = 0
1091
 
                translated_rules = []
1092
 
        if len(translated_rules):
1093
 
            result.append((re.compile("|".join(translated_rules)), groups))
1094
 
        return result
1095
 
 
1096
1700
    def ignored_files(self):
1097
1701
        """Yield list of PATH, IGNORE_PATTERN"""
1098
1702
        for subp in self.extras():
1099
1703
            pat = self.is_ignored(subp)
1100
 
            if pat != None:
 
1704
            if pat is not None:
1101
1705
                yield subp, pat
1102
1706
 
1103
1707
    def get_ignore_list(self):
1109
1713
        if ignoreset is not None:
1110
1714
            return ignoreset
1111
1715
 
1112
 
        ignore_globs = set(bzrlib.DEFAULT_IGNORE)
 
1716
        ignore_globs = set()
1113
1717
        ignore_globs.update(ignores.get_runtime_ignores())
1114
 
 
1115
1718
        ignore_globs.update(ignores.get_user_ignores())
1116
 
 
1117
1719
        if self.has_filename(bzrlib.IGNORE_FILENAME):
1118
1720
            f = self.get_file_byname(bzrlib.IGNORE_FILENAME)
1119
1721
            try:
1120
1722
                ignore_globs.update(ignores.parse_ignore_file(f))
1121
1723
            finally:
1122
1724
                f.close()
1123
 
 
1124
1725
        self._ignoreset = ignore_globs
1125
 
        self._ignore_regex = self._combine_ignore_rules(ignore_globs)
1126
1726
        return ignore_globs
1127
1727
 
1128
 
    def _get_ignore_rules_as_regex(self):
1129
 
        """Return a regex of the ignore rules and a mapping dict.
1130
 
 
1131
 
        :return: (ignore rules compiled regex, dictionary mapping rule group 
1132
 
        indices to original rule.)
1133
 
        """
1134
 
        if getattr(self, '_ignoreset', None) is None:
1135
 
            self.get_ignore_list()
1136
 
        return self._ignore_regex
 
1728
    def _flush_ignore_list_cache(self):
 
1729
        """Resets the cached ignore list to force a cache rebuild."""
 
1730
        self._ignoreset = None
 
1731
        self._ignoreglobster = None
1137
1732
 
1138
1733
    def is_ignored(self, filename):
1139
1734
        r"""Check whether the filename matches an ignore pattern.
1140
1735
 
1141
1736
        Patterns containing '/' or '\' need to match the whole path;
1142
 
        others match against only the last component.
 
1737
        others match against only the last component.  Patterns starting
 
1738
        with '!' are ignore exceptions.  Exceptions take precedence
 
1739
        over regular patterns and cause the filename to not be ignored.
1143
1740
 
1144
1741
        If the file is ignored, returns the pattern which caused it to
1145
1742
        be ignored, otherwise None.  So this can simply be used as a
1146
1743
        boolean if desired."""
1147
 
 
1148
 
        # TODO: Use '**' to match directories, and other extended
1149
 
        # globbing stuff from cvs/rsync.
1150
 
 
1151
 
        # XXX: fnmatch is actually not quite what we want: it's only
1152
 
        # approximately the same as real Unix fnmatch, and doesn't
1153
 
        # treat dotfiles correctly and allows * to match /.
1154
 
        # Eventually it should be replaced with something more
1155
 
        # accurate.
1156
 
    
1157
 
        rules = self._get_ignore_rules_as_regex()
1158
 
        for regex, mapping in rules:
1159
 
            match = regex.match(filename)
1160
 
            if match is not None:
1161
 
                # one or more of the groups in mapping will have a non-None group 
1162
 
                # match.
1163
 
                groups = match.groups()
1164
 
                rules = [mapping[group] for group in 
1165
 
                    mapping if groups[group] is not None]
1166
 
                return rules[0]
1167
 
        return None
 
1744
        if getattr(self, '_ignoreglobster', None) is None:
 
1745
            self._ignoreglobster = globbing.ExceptionGlobster(self.get_ignore_list())
 
1746
        return self._ignoreglobster.match(filename)
1168
1747
 
1169
1748
    def kind(self, file_id):
1170
1749
        return file_kind(self.id2abspath(file_id))
1171
1750
 
1172
 
    @needs_read_lock
 
1751
    def stored_kind(self, file_id):
 
1752
        """See Tree.stored_kind"""
 
1753
        return self.inventory[file_id].kind
 
1754
 
 
1755
    def _comparison_data(self, entry, path):
 
1756
        abspath = self.abspath(path)
 
1757
        try:
 
1758
            stat_value = os.lstat(abspath)
 
1759
        except OSError, e:
 
1760
            if getattr(e, 'errno', None) == errno.ENOENT:
 
1761
                stat_value = None
 
1762
                kind = None
 
1763
                executable = False
 
1764
            else:
 
1765
                raise
 
1766
        else:
 
1767
            mode = stat_value.st_mode
 
1768
            kind = osutils.file_kind_from_stat_mode(mode)
 
1769
            if not supports_executable():
 
1770
                executable = entry is not None and entry.executable
 
1771
            else:
 
1772
                executable = bool(stat.S_ISREG(mode) and stat.S_IEXEC & mode)
 
1773
        return kind, executable, stat_value
 
1774
 
 
1775
    def _file_size(self, entry, stat_value):
 
1776
        return stat_value.st_size
 
1777
 
1173
1778
    def last_revision(self):
1174
 
        """Return the last revision id of this working tree.
1175
 
 
1176
 
        In early branch formats this was == the branch last_revision,
1177
 
        but that cannot be relied upon - for working tree operations,
1178
 
        always use tree.last_revision().
 
1779
        """Return the last revision of the branch for this tree.
 
1780
 
 
1781
        This format tree does not support a separate marker for last-revision
 
1782
        compared to the branch.
 
1783
 
 
1784
        See MutableTree.last_revision
1179
1785
        """
1180
 
        return self.branch.last_revision()
 
1786
        return self._last_revision()
 
1787
 
 
1788
    @needs_read_lock
 
1789
    def _last_revision(self):
 
1790
        """helper for get_parent_ids."""
 
1791
        return _mod_revision.ensure_null(self.branch.last_revision())
1181
1792
 
1182
1793
    def is_locked(self):
1183
1794
        return self._control_files.is_locked()
1184
1795
 
 
1796
    def _must_be_locked(self):
 
1797
        if not self.is_locked():
 
1798
            raise errors.ObjectNotLocked(self)
 
1799
 
1185
1800
    def lock_read(self):
1186
1801
        """See Branch.lock_read, and WorkingTree.unlock."""
 
1802
        if not self.is_locked():
 
1803
            self._reset_data()
1187
1804
        self.branch.lock_read()
1188
1805
        try:
1189
1806
            return self._control_files.lock_read()
1191
1808
            self.branch.unlock()
1192
1809
            raise
1193
1810
 
 
1811
    def lock_tree_write(self):
 
1812
        """See MutableTree.lock_tree_write, and WorkingTree.unlock."""
 
1813
        if not self.is_locked():
 
1814
            self._reset_data()
 
1815
        self.branch.lock_read()
 
1816
        try:
 
1817
            return self._control_files.lock_write()
 
1818
        except:
 
1819
            self.branch.unlock()
 
1820
            raise
 
1821
 
1194
1822
    def lock_write(self):
1195
 
        """See Branch.lock_write, and WorkingTree.unlock."""
 
1823
        """See MutableTree.lock_write, and WorkingTree.unlock."""
 
1824
        if not self.is_locked():
 
1825
            self._reset_data()
1196
1826
        self.branch.lock_write()
1197
1827
        try:
1198
1828
            return self._control_files.lock_write()
1204
1834
        return self._control_files.get_physical_lock_status()
1205
1835
 
1206
1836
    def _basis_inventory_name(self):
1207
 
        return 'basis-inventory'
1208
 
 
1209
 
    @needs_write_lock
 
1837
        return 'basis-inventory-cache'
 
1838
 
 
1839
    def _reset_data(self):
 
1840
        """Reset transient data that cannot be revalidated."""
 
1841
        self._inventory_is_modified = False
 
1842
        f = self._transport.get('inventory')
 
1843
        try:
 
1844
            result = self._deserialize(f)
 
1845
        finally:
 
1846
            f.close()
 
1847
        self._set_inventory(result, dirty=False)
 
1848
 
 
1849
    @needs_tree_write_lock
1210
1850
    def set_last_revision(self, new_revision):
1211
1851
        """Change the last revision in the working tree."""
1212
1852
        if self._change_last_revision(new_revision):
1214
1854
 
1215
1855
    def _change_last_revision(self, new_revision):
1216
1856
        """Template method part of set_last_revision to perform the change.
1217
 
        
 
1857
 
1218
1858
        This is used to allow WorkingTree3 instances to not affect branch
1219
1859
        when their last revision is set.
1220
1860
        """
1221
 
        if new_revision is None:
 
1861
        if _mod_revision.is_null(new_revision):
1222
1862
            self.branch.set_revision_history([])
1223
1863
            return False
1224
 
        # current format is locked in with the branch
1225
 
        revision_history = self.branch.revision_history()
1226
1864
        try:
1227
 
            position = revision_history.index(new_revision)
1228
 
        except ValueError:
1229
 
            raise errors.NoSuchRevision(self.branch, new_revision)
1230
 
        self.branch.set_revision_history(revision_history[:position + 1])
 
1865
            self.branch.generate_revision_history(new_revision)
 
1866
        except errors.NoSuchRevision:
 
1867
            # not present in the repo - dont try to set it deeper than the tip
 
1868
            self.branch.set_revision_history([new_revision])
1231
1869
        return True
1232
1870
 
 
1871
    def _write_basis_inventory(self, xml):
 
1872
        """Write the basis inventory XML to the basis-inventory file"""
 
1873
        path = self._basis_inventory_name()
 
1874
        sio = StringIO(xml)
 
1875
        self._transport.put_file(path, sio,
 
1876
            mode=self.bzrdir._get_file_mode())
 
1877
 
 
1878
    def _create_basis_xml_from_inventory(self, revision_id, inventory):
 
1879
        """Create the text that will be saved in basis-inventory"""
 
1880
        inventory.revision_id = revision_id
 
1881
        return xml7.serializer_v7.write_inventory_to_string(inventory)
 
1882
 
1233
1883
    def _cache_basis_inventory(self, new_revision):
1234
1884
        """Cache new_revision as the basis inventory."""
1235
1885
        # TODO: this should allow the ready-to-use inventory to be passed in,
1236
1886
        # as commit already has that ready-to-use [while the format is the
1237
1887
        # same, that is].
1238
1888
        try:
1239
 
            # this double handles the inventory - unpack and repack - 
 
1889
            # this double handles the inventory - unpack and repack -
1240
1890
            # but is easier to understand. We can/should put a conditional
1241
1891
            # in here based on whether the inventory is in the latest format
1242
1892
            # - perhaps we should repack all inventories on a repository
1243
1893
            # upgrade ?
1244
1894
            # the fast path is to copy the raw xml from the repository. If the
1245
 
            # xml contains 'revision_id="', then we assume the right 
 
1895
            # xml contains 'revision_id="', then we assume the right
1246
1896
            # revision_id is set. We must check for this full string, because a
1247
1897
            # root node id can legitimately look like 'revision_id' but cannot
1248
1898
            # contain a '"'.
1249
 
            xml = self.branch.repository.get_inventory_xml(new_revision)
1250
 
            if not 'revision_id="' in xml.split('\n', 1)[0]:
1251
 
                inv = self.branch.repository.deserialise_inventory(
1252
 
                    new_revision, xml)
1253
 
                inv.revision_id = new_revision
1254
 
                xml = bzrlib.xml5.serializer_v5.write_inventory_to_string(inv)
1255
 
            assert isinstance(xml, str), 'serialised xml must be bytestring.'
1256
 
            path = self._basis_inventory_name()
1257
 
            sio = StringIO(xml)
1258
 
            self._control_files.put(path, sio)
1259
 
        except WeaveRevisionNotPresent:
 
1899
            xml = self.branch.repository._get_inventory_xml(new_revision)
 
1900
            firstline = xml.split('\n', 1)[0]
 
1901
            if (not 'revision_id="' in firstline or
 
1902
                'format="7"' not in firstline):
 
1903
                inv = self.branch.repository._serializer.read_inventory_from_string(
 
1904
                    xml, new_revision)
 
1905
                xml = self._create_basis_xml_from_inventory(new_revision, inv)
 
1906
            self._write_basis_inventory(xml)
 
1907
        except (errors.NoSuchRevision, errors.RevisionNotPresent):
1260
1908
            pass
1261
1909
 
1262
1910
    def read_basis_inventory(self):
1263
1911
        """Read the cached basis inventory."""
1264
1912
        path = self._basis_inventory_name()
1265
 
        return self._control_files.get(path).read()
1266
 
        
 
1913
        return self._transport.get_bytes(path)
 
1914
 
1267
1915
    @needs_read_lock
1268
1916
    def read_working_inventory(self):
1269
 
        """Read the working inventory."""
 
1917
        """Read the working inventory.
 
1918
 
 
1919
        :raises errors.InventoryModified: read_working_inventory will fail
 
1920
            when the current in memory inventory has been modified.
 
1921
        """
 
1922
        # conceptually this should be an implementation detail of the tree.
 
1923
        # XXX: Deprecate this.
1270
1924
        # ElementTree does its own conversion from UTF-8, so open in
1271
1925
        # binary.
1272
 
        result = bzrlib.xml5.serializer_v5.read_inventory(
1273
 
            self._control_files.get('inventory'))
1274
 
        self._set_inventory(result)
 
1926
        if self._inventory_is_modified:
 
1927
            raise errors.InventoryModified(self)
 
1928
        f = self._transport.get('inventory')
 
1929
        try:
 
1930
            result = self._deserialize(f)
 
1931
        finally:
 
1932
            f.close()
 
1933
        self._set_inventory(result, dirty=False)
1275
1934
        return result
1276
1935
 
1277
 
    @needs_write_lock
1278
 
    def remove(self, files, verbose=False, to_file=None):
1279
 
        """Remove nominated files from the working inventory..
1280
 
 
1281
 
        This does not remove their text.  This does not run on XXX on what? RBC
1282
 
 
1283
 
        TODO: Refuse to remove modified files unless --force is given?
1284
 
 
1285
 
        TODO: Do something useful with directories.
1286
 
 
1287
 
        TODO: Should this remove the text or not?  Tough call; not
1288
 
        removing may be useful and the user can just use use rm, and
1289
 
        is the opposite of add.  Removing it is consistent with most
1290
 
        other tools.  Maybe an option.
 
1936
    @needs_tree_write_lock
 
1937
    def remove(self, files, verbose=False, to_file=None, keep_files=True,
 
1938
        force=False):
 
1939
        """Remove nominated files from the working inventory.
 
1940
 
 
1941
        :files: File paths relative to the basedir.
 
1942
        :keep_files: If true, the files will also be kept.
 
1943
        :force: Delete files and directories, even if they are changed and
 
1944
            even if the directories are not empty.
1291
1945
        """
1292
 
        ## TODO: Normalize names
1293
 
        ## TODO: Remove nested loops; better scalability
1294
1946
        if isinstance(files, basestring):
1295
1947
            files = [files]
1296
1948
 
1297
 
        inv = self.inventory
1298
 
 
1299
 
        # do this before any modifications
 
1949
        inv_delta = []
 
1950
 
 
1951
        new_files=set()
 
1952
        unknown_nested_files=set()
 
1953
        if to_file is None:
 
1954
            to_file = sys.stdout
 
1955
 
 
1956
        def recurse_directory_to_add_files(directory):
 
1957
            # Recurse directory and add all files
 
1958
            # so we can check if they have changed.
 
1959
            for parent_info, file_infos in\
 
1960
                self.walkdirs(directory):
 
1961
                for relpath, basename, kind, lstat, fileid, kind in file_infos:
 
1962
                    # Is it versioned or ignored?
 
1963
                    if self.path2id(relpath) or self.is_ignored(relpath):
 
1964
                        # Add nested content for deletion.
 
1965
                        new_files.add(relpath)
 
1966
                    else:
 
1967
                        # Files which are not versioned and not ignored
 
1968
                        # should be treated as unknown.
 
1969
                        unknown_nested_files.add((relpath, None, kind))
 
1970
 
 
1971
        for filename in files:
 
1972
            # Get file name into canonical form.
 
1973
            abspath = self.abspath(filename)
 
1974
            filename = self.relpath(abspath)
 
1975
            if len(filename) > 0:
 
1976
                new_files.add(filename)
 
1977
                recurse_directory_to_add_files(filename)
 
1978
 
 
1979
        files = list(new_files)
 
1980
 
 
1981
        if len(files) == 0:
 
1982
            return # nothing to do
 
1983
 
 
1984
        # Sort needed to first handle directory content before the directory
 
1985
        files.sort(reverse=True)
 
1986
 
 
1987
        # Bail out if we are going to delete files we shouldn't
 
1988
        if not keep_files and not force:
 
1989
            has_changed_files = len(unknown_nested_files) > 0
 
1990
            if not has_changed_files:
 
1991
                for (file_id, path, content_change, versioned, parent_id, name,
 
1992
                     kind, executable) in self.iter_changes(self.basis_tree(),
 
1993
                         include_unchanged=True, require_versioned=False,
 
1994
                         want_unversioned=True, specific_files=files):
 
1995
                    if versioned == (False, False):
 
1996
                        # The record is unknown ...
 
1997
                        if not self.is_ignored(path[1]):
 
1998
                            # ... but not ignored
 
1999
                            has_changed_files = True
 
2000
                            break
 
2001
                    elif content_change and (kind[1] is not None):
 
2002
                        # Versioned and changed, but not deleted
 
2003
                        has_changed_files = True
 
2004
                        break
 
2005
 
 
2006
            if has_changed_files:
 
2007
                # Make delta show ALL applicable changes in error message.
 
2008
                tree_delta = self.changes_from(self.basis_tree(),
 
2009
                    require_versioned=False, want_unversioned=True,
 
2010
                    specific_files=files)
 
2011
                for unknown_file in unknown_nested_files:
 
2012
                    if unknown_file not in tree_delta.unversioned:
 
2013
                        tree_delta.unversioned.extend((unknown_file,))
 
2014
                raise errors.BzrRemoveChangedFilesError(tree_delta)
 
2015
 
 
2016
        # Build inv_delta and delete files where applicable,
 
2017
        # do this before any modifications to inventory.
1300
2018
        for f in files:
1301
 
            fid = inv.path2id(f)
 
2019
            fid = self.path2id(f)
 
2020
            message = None
1302
2021
            if not fid:
1303
 
                # TODO: Perhaps make this just a warning, and continue?
1304
 
                # This tends to happen when 
1305
 
                raise NotVersionedError(path=f)
1306
 
            if verbose:
1307
 
                # having remove it, it must be either ignored or unknown
1308
 
                if self.is_ignored(f):
1309
 
                    new_status = 'I'
1310
 
                else:
1311
 
                    new_status = '?'
1312
 
                show_status(new_status, inv[fid].kind, f, to_file=to_file)
1313
 
            del inv[fid]
1314
 
 
1315
 
        self._write_inventory(inv)
1316
 
 
1317
 
    @needs_write_lock
1318
 
    def revert(self, filenames, old_tree=None, backups=True, 
1319
 
               pb=DummyProgress()):
1320
 
        from transform import revert
1321
 
        from conflicts import resolve
 
2022
                message = "%s is not versioned." % (f,)
 
2023
            else:
 
2024
                if verbose:
 
2025
                    # having removed it, it must be either ignored or unknown
 
2026
                    if self.is_ignored(f):
 
2027
                        new_status = 'I'
 
2028
                    else:
 
2029
                        new_status = '?'
 
2030
                    # XXX: Really should be a more abstract reporter interface
 
2031
                    kind_ch = osutils.kind_marker(self.kind(fid))
 
2032
                    to_file.write(new_status + '       ' + f + kind_ch + '\n')
 
2033
                # Unversion file
 
2034
                inv_delta.append((f, None, fid, None))
 
2035
                message = "removed %s" % (f,)
 
2036
 
 
2037
            if not keep_files:
 
2038
                abs_path = self.abspath(f)
 
2039
                if osutils.lexists(abs_path):
 
2040
                    if (osutils.isdir(abs_path) and
 
2041
                        len(os.listdir(abs_path)) > 0):
 
2042
                        if force:
 
2043
                            osutils.rmtree(abs_path)
 
2044
                        else:
 
2045
                            message = "%s is not an empty directory "\
 
2046
                                "and won't be deleted." % (f,)
 
2047
                    else:
 
2048
                        osutils.delete_any(abs_path)
 
2049
                        message = "deleted %s" % (f,)
 
2050
                elif message is not None:
 
2051
                    # Only care if we haven't done anything yet.
 
2052
                    message = "%s does not exist." % (f,)
 
2053
 
 
2054
            # Print only one message (if any) per file.
 
2055
            if message is not None:
 
2056
                note(message)
 
2057
        self.apply_inventory_delta(inv_delta)
 
2058
 
 
2059
    @needs_tree_write_lock
 
2060
    def revert(self, filenames=None, old_tree=None, backups=True,
 
2061
               pb=None, report_changes=False):
 
2062
        from bzrlib.conflicts import resolve
 
2063
        if filenames == []:
 
2064
            filenames = None
 
2065
            symbol_versioning.warn('Using [] to revert all files is deprecated'
 
2066
                ' as of bzr 0.91.  Please use None (the default) instead.',
 
2067
                DeprecationWarning, stacklevel=2)
1322
2068
        if old_tree is None:
1323
 
            old_tree = self.basis_tree()
1324
 
        conflicts = revert(self, old_tree, filenames, backups, pb)
1325
 
        if not len(filenames):
1326
 
            self.set_pending_merges([])
1327
 
            resolve(self)
 
2069
            basis_tree = self.basis_tree()
 
2070
            basis_tree.lock_read()
 
2071
            old_tree = basis_tree
1328
2072
        else:
1329
 
            resolve(self, filenames, ignore_misses=True)
 
2073
            basis_tree = None
 
2074
        try:
 
2075
            conflicts = transform.revert(self, old_tree, filenames, backups, pb,
 
2076
                                         report_changes)
 
2077
            if filenames is None and len(self.get_parent_ids()) > 1:
 
2078
                parent_trees = []
 
2079
                last_revision = self.last_revision()
 
2080
                if last_revision != _mod_revision.NULL_REVISION:
 
2081
                    if basis_tree is None:
 
2082
                        basis_tree = self.basis_tree()
 
2083
                        basis_tree.lock_read()
 
2084
                    parent_trees.append((last_revision, basis_tree))
 
2085
                self.set_parent_trees(parent_trees)
 
2086
                resolve(self)
 
2087
            else:
 
2088
                resolve(self, filenames, ignore_misses=True, recursive=True)
 
2089
        finally:
 
2090
            if basis_tree is not None:
 
2091
                basis_tree.unlock()
1330
2092
        return conflicts
1331
2093
 
 
2094
    def revision_tree(self, revision_id):
 
2095
        """See Tree.revision_tree.
 
2096
 
 
2097
        WorkingTree can supply revision_trees for the basis revision only
 
2098
        because there is only one cached inventory in the bzr directory.
 
2099
        """
 
2100
        if revision_id == self.last_revision():
 
2101
            try:
 
2102
                xml = self.read_basis_inventory()
 
2103
            except errors.NoSuchFile:
 
2104
                pass
 
2105
            else:
 
2106
                try:
 
2107
                    inv = xml7.serializer_v7.read_inventory_from_string(xml)
 
2108
                    # dont use the repository revision_tree api because we want
 
2109
                    # to supply the inventory.
 
2110
                    if inv.revision_id == revision_id:
 
2111
                        return revisiontree.RevisionTree(self.branch.repository,
 
2112
                            inv, revision_id)
 
2113
                except errors.BadInventoryFormat:
 
2114
                    pass
 
2115
        # raise if there was no inventory, or if we read the wrong inventory.
 
2116
        raise errors.NoSuchRevisionInTree(self, revision_id)
 
2117
 
1332
2118
    # XXX: This method should be deprecated in favour of taking in a proper
1333
2119
    # new Inventory object.
1334
 
    @needs_write_lock
 
2120
    @needs_tree_write_lock
1335
2121
    def set_inventory(self, new_inventory_list):
1336
2122
        from bzrlib.inventory import (Inventory,
1337
2123
                                      InventoryDirectory,
1338
 
                                      InventoryEntry,
1339
2124
                                      InventoryFile,
1340
2125
                                      InventoryLink)
1341
2126
        inv = Inventory(self.get_root_id())
1343
2128
            name = os.path.basename(path)
1344
2129
            if name == "":
1345
2130
                continue
1346
 
            # fixme, there should be a factory function inv,add_?? 
 
2131
            # fixme, there should be a factory function inv,add_??
1347
2132
            if kind == 'directory':
1348
2133
                inv.add(InventoryDirectory(file_id, name, parent))
1349
2134
            elif kind == 'file':
1351
2136
            elif kind == 'symlink':
1352
2137
                inv.add(InventoryLink(file_id, name, parent))
1353
2138
            else:
1354
 
                raise BzrError("unknown kind %r" % kind)
 
2139
                raise errors.BzrError("unknown kind %r" % kind)
1355
2140
        self._write_inventory(inv)
1356
2141
 
1357
 
    @needs_write_lock
 
2142
    @needs_tree_write_lock
1358
2143
    def set_root_id(self, file_id):
1359
2144
        """Set the root id for this tree."""
1360
 
        inv = self.read_working_inventory()
 
2145
        # for compatability
 
2146
        if file_id is None:
 
2147
            raise ValueError(
 
2148
                'WorkingTree.set_root_id with fileid=None')
 
2149
        file_id = osutils.safe_file_id(file_id)
 
2150
        self._set_root_id(file_id)
 
2151
 
 
2152
    def _set_root_id(self, file_id):
 
2153
        """Set the root id for this tree, in a format specific manner.
 
2154
 
 
2155
        :param file_id: The file id to assign to the root. It must not be
 
2156
            present in the current inventory or an error will occur. It must
 
2157
            not be None, but rather a valid file id.
 
2158
        """
 
2159
        inv = self._inventory
1361
2160
        orig_root_id = inv.root.file_id
 
2161
        # TODO: it might be nice to exit early if there was nothing
 
2162
        # to do, saving us from trigger a sync on unlock.
 
2163
        self._inventory_is_modified = True
 
2164
        # we preserve the root inventory entry object, but
 
2165
        # unlinkit from the byid index
1362
2166
        del inv._byid[inv.root.file_id]
1363
2167
        inv.root.file_id = file_id
 
2168
        # and link it into the index with the new changed id.
1364
2169
        inv._byid[inv.root.file_id] = inv.root
 
2170
        # and finally update all children to reference the new id.
 
2171
        # XXX: this should be safe to just look at the root.children
 
2172
        # list, not the WHOLE INVENTORY.
1365
2173
        for fid in inv:
1366
2174
            entry = inv[fid]
1367
2175
            if entry.parent_id == orig_root_id:
1368
2176
                entry.parent_id = inv.root.file_id
1369
 
        self._write_inventory(inv)
1370
2177
 
1371
2178
    def unlock(self):
1372
2179
        """See Branch.unlock.
1373
 
        
 
2180
 
1374
2181
        WorkingTree locking just uses the Branch locking facilities.
1375
2182
        This is current because all working trees have an embedded branch
1376
2183
        within them. IF in the future, we were to make branch data shareable
1377
 
        between multiple working trees, i.e. via shared storage, then we 
 
2184
        between multiple working trees, i.e. via shared storage, then we
1378
2185
        would probably want to lock both the local tree, and the branch.
1379
2186
        """
1380
2187
        raise NotImplementedError(self.unlock)
1381
2188
 
1382
 
    @needs_write_lock
1383
 
    def update(self):
 
2189
    _marker = object()
 
2190
 
 
2191
    def update(self, change_reporter=None, possible_transports=None,
 
2192
               revision=None, old_tip=_marker):
1384
2193
        """Update a working tree along its branch.
1385
2194
 
1386
 
        This will update the branch if its bound too, which means we have multiple trees involved:
1387
 
        The new basis tree of the master.
1388
 
        The old basis tree of the branch.
1389
 
        The old basis tree of the working tree.
1390
 
        The current working tree state.
1391
 
        pathologically all three may be different, and non ancestors of each other.
1392
 
        Conceptually we want to:
1393
 
        Preserve the wt.basis->wt.state changes
1394
 
        Transform the wt.basis to the new master basis.
1395
 
        Apply a merge of the old branch basis to get any 'local' changes from it into the tree.
1396
 
        Restore the wt.basis->wt.state changes.
 
2195
        This will update the branch if its bound too, which means we have
 
2196
        multiple trees involved:
 
2197
 
 
2198
        - The new basis tree of the master.
 
2199
        - The old basis tree of the branch.
 
2200
        - The old basis tree of the working tree.
 
2201
        - The current working tree state.
 
2202
 
 
2203
        Pathologically, all three may be different, and non-ancestors of each
 
2204
        other.  Conceptually we want to:
 
2205
 
 
2206
        - Preserve the wt.basis->wt.state changes
 
2207
        - Transform the wt.basis to the new master basis.
 
2208
        - Apply a merge of the old branch basis to get any 'local' changes from
 
2209
          it into the tree.
 
2210
        - Restore the wt.basis->wt.state changes.
1397
2211
 
1398
2212
        There isn't a single operation at the moment to do that, so we:
1399
 
        Merge current state -> basis tree of the master w.r.t. the old tree basis.
1400
 
        Do a 'normal' merge of the old branch basis if it is relevant.
 
2213
        - Merge current state -> basis tree of the master w.r.t. the old tree
 
2214
          basis.
 
2215
        - Do a 'normal' merge of the old branch basis if it is relevant.
 
2216
 
 
2217
        :param revision: The target revision to update to. Must be in the
 
2218
            revision history.
 
2219
        :param old_tip: If branch.update() has already been run, the value it
 
2220
            returned (old tip of the branch or None). _marker is used
 
2221
            otherwise.
1401
2222
        """
1402
 
        old_tip = self.branch.update()
1403
 
        if old_tip is not None:
1404
 
            self.add_pending_merge(old_tip)
1405
 
        self.branch.lock_read()
 
2223
        if self.branch.get_bound_location() is not None:
 
2224
            self.lock_write()
 
2225
            update_branch = (old_tip is self._marker)
 
2226
        else:
 
2227
            self.lock_tree_write()
 
2228
            update_branch = False
1406
2229
        try:
1407
 
            result = 0
1408
 
            if self.last_revision() != self.branch.last_revision():
1409
 
                # merge tree state up to new branch tip.
1410
 
                basis = self.basis_tree()
1411
 
                to_tree = self.branch.basis_tree()
1412
 
                result += merge_inner(self.branch,
1413
 
                                      to_tree,
1414
 
                                      basis,
1415
 
                                      this_tree=self)
1416
 
                self.set_last_revision(self.branch.last_revision())
1417
 
            if old_tip and old_tip != self.last_revision():
1418
 
                # our last revision was not the prior branch last revision
1419
 
                # and we have converted that last revision to a pending merge.
1420
 
                # base is somewhere between the branch tip now
1421
 
                # and the now pending merge
1422
 
                from bzrlib.revision import common_ancestor
1423
 
                try:
1424
 
                    base_rev_id = common_ancestor(self.branch.last_revision(),
1425
 
                                                  old_tip,
1426
 
                                                  self.branch.repository)
1427
 
                except errors.NoCommonAncestor:
1428
 
                    base_rev_id = None
1429
 
                base_tree = self.branch.repository.revision_tree(base_rev_id)
1430
 
                other_tree = self.branch.repository.revision_tree(old_tip)
1431
 
                result += merge_inner(self.branch,
1432
 
                                      other_tree,
1433
 
                                      base_tree,
1434
 
                                      this_tree=self)
1435
 
            return result
 
2230
            if update_branch:
 
2231
                old_tip = self.branch.update(possible_transports)
 
2232
            else:
 
2233
                if old_tip is self._marker:
 
2234
                    old_tip = None
 
2235
            return self._update_tree(old_tip, change_reporter, revision)
1436
2236
        finally:
1437
 
            self.branch.unlock()
1438
 
 
1439
 
    @needs_write_lock
 
2237
            self.unlock()
 
2238
 
 
2239
    @needs_tree_write_lock
 
2240
    def _update_tree(self, old_tip=None, change_reporter=None, revision=None):
 
2241
        """Update a tree to the master branch.
 
2242
 
 
2243
        :param old_tip: if supplied, the previous tip revision the branch,
 
2244
            before it was changed to the master branch's tip.
 
2245
        """
 
2246
        # here if old_tip is not None, it is the old tip of the branch before
 
2247
        # it was updated from the master branch. This should become a pending
 
2248
        # merge in the working tree to preserve the user existing work.  we
 
2249
        # cant set that until we update the working trees last revision to be
 
2250
        # one from the new branch, because it will just get absorbed by the
 
2251
        # parent de-duplication logic.
 
2252
        #
 
2253
        # We MUST save it even if an error occurs, because otherwise the users
 
2254
        # local work is unreferenced and will appear to have been lost.
 
2255
        #
 
2256
        nb_conflicts = 0
 
2257
        try:
 
2258
            last_rev = self.get_parent_ids()[0]
 
2259
        except IndexError:
 
2260
            last_rev = _mod_revision.NULL_REVISION
 
2261
        if revision is None:
 
2262
            revision = self.branch.last_revision()
 
2263
 
 
2264
        old_tip = old_tip or _mod_revision.NULL_REVISION
 
2265
 
 
2266
        if not _mod_revision.is_null(old_tip) and old_tip != last_rev:
 
2267
            # the branch we are bound to was updated
 
2268
            # merge those changes in first
 
2269
            base_tree  = self.basis_tree()
 
2270
            other_tree = self.branch.repository.revision_tree(old_tip)
 
2271
            nb_conflicts = merge.merge_inner(self.branch, other_tree,
 
2272
                                             base_tree, this_tree=self,
 
2273
                                             change_reporter=change_reporter)
 
2274
            if nb_conflicts:
 
2275
                self.add_parent_tree((old_tip, other_tree))
 
2276
                trace.note('Rerun update after fixing the conflicts.')
 
2277
                return nb_conflicts
 
2278
 
 
2279
        if last_rev != _mod_revision.ensure_null(revision):
 
2280
            # the working tree is up to date with the branch
 
2281
            # we can merge the specified revision from master
 
2282
            to_tree = self.branch.repository.revision_tree(revision)
 
2283
            to_root_id = to_tree.get_root_id()
 
2284
 
 
2285
            basis = self.basis_tree()
 
2286
            basis.lock_read()
 
2287
            try:
 
2288
                if (basis.inventory.root is None
 
2289
                    or basis.inventory.root.file_id != to_root_id):
 
2290
                    self.set_root_id(to_root_id)
 
2291
                    self.flush()
 
2292
            finally:
 
2293
                basis.unlock()
 
2294
 
 
2295
            # determine the branch point
 
2296
            graph = self.branch.repository.get_graph()
 
2297
            base_rev_id = graph.find_unique_lca(self.branch.last_revision(),
 
2298
                                                last_rev)
 
2299
            base_tree = self.branch.repository.revision_tree(base_rev_id)
 
2300
 
 
2301
            nb_conflicts = merge.merge_inner(self.branch, to_tree, base_tree,
 
2302
                                             this_tree=self,
 
2303
                                             change_reporter=change_reporter)
 
2304
            self.set_last_revision(revision)
 
2305
            # TODO - dedup parents list with things merged by pull ?
 
2306
            # reuse the tree we've updated to to set the basis:
 
2307
            parent_trees = [(revision, to_tree)]
 
2308
            merges = self.get_parent_ids()[1:]
 
2309
            # Ideally we ask the tree for the trees here, that way the working
 
2310
            # tree can decide whether to give us the entire tree or give us a
 
2311
            # lazy initialised tree. dirstate for instance will have the trees
 
2312
            # in ram already, whereas a last-revision + basis-inventory tree
 
2313
            # will not, but also does not need them when setting parents.
 
2314
            for parent in merges:
 
2315
                parent_trees.append(
 
2316
                    (parent, self.branch.repository.revision_tree(parent)))
 
2317
            if not _mod_revision.is_null(old_tip):
 
2318
                parent_trees.append(
 
2319
                    (old_tip, self.branch.repository.revision_tree(old_tip)))
 
2320
            self.set_parent_trees(parent_trees)
 
2321
            last_rev = parent_trees[0][0]
 
2322
        return nb_conflicts
 
2323
 
 
2324
    def _write_hashcache_if_dirty(self):
 
2325
        """Write out the hashcache if it is dirty."""
 
2326
        if self._hashcache.needs_write:
 
2327
            try:
 
2328
                self._hashcache.write()
 
2329
            except OSError, e:
 
2330
                if e.errno not in (errno.EPERM, errno.EACCES):
 
2331
                    raise
 
2332
                # TODO: jam 20061219 Should this be a warning? A single line
 
2333
                #       warning might be sufficient to let the user know what
 
2334
                #       is going on.
 
2335
                mutter('Could not write hashcache for %s\nError: %s',
 
2336
                       self._hashcache.cache_file_name(), e)
 
2337
 
 
2338
    @needs_tree_write_lock
1440
2339
    def _write_inventory(self, inv):
1441
2340
        """Write inventory as the current inventory."""
1442
 
        sio = StringIO()
1443
 
        bzrlib.xml5.serializer_v5.write_inventory(inv, sio)
1444
 
        sio.seek(0)
1445
 
        self._control_files.put('inventory', sio)
1446
 
        self._set_inventory(inv)
1447
 
        mutter('wrote working inventory')
 
2341
        self._set_inventory(inv, dirty=True)
 
2342
        self.flush()
1448
2343
 
1449
2344
    def set_conflicts(self, arg):
1450
 
        raise UnsupportedOperation(self.set_conflicts, self)
 
2345
        raise errors.UnsupportedOperation(self.set_conflicts, self)
1451
2346
 
1452
2347
    def add_conflicts(self, arg):
1453
 
        raise UnsupportedOperation(self.add_conflicts, self)
 
2348
        raise errors.UnsupportedOperation(self.add_conflicts, self)
1454
2349
 
1455
2350
    @needs_read_lock
1456
2351
    def conflicts(self):
1457
 
        conflicts = ConflictList()
 
2352
        conflicts = _mod_conflicts.ConflictList()
1458
2353
        for conflicted in self._iter_conflicts():
1459
2354
            text = True
1460
2355
            try:
1473
2368
                    if text == False:
1474
2369
                        break
1475
2370
            ctype = {True: 'text conflict', False: 'contents conflict'}[text]
1476
 
            conflicts.append(Conflict.factory(ctype, path=conflicted,
 
2371
            conflicts.append(_mod_conflicts.Conflict.factory(ctype,
 
2372
                             path=conflicted,
1477
2373
                             file_id=self.path2id(conflicted)))
1478
2374
        return conflicts
1479
2375
 
 
2376
    def walkdirs(self, prefix=""):
 
2377
        """Walk the directories of this tree.
 
2378
 
 
2379
        returns a generator which yields items in the form:
 
2380
                ((curren_directory_path, fileid),
 
2381
                 [(file1_path, file1_name, file1_kind, (lstat), file1_id,
 
2382
                   file1_kind), ... ])
 
2383
 
 
2384
        This API returns a generator, which is only valid during the current
 
2385
        tree transaction - within a single lock_read or lock_write duration.
 
2386
 
 
2387
        If the tree is not locked, it may cause an error to be raised,
 
2388
        depending on the tree implementation.
 
2389
        """
 
2390
        disk_top = self.abspath(prefix)
 
2391
        if disk_top.endswith('/'):
 
2392
            disk_top = disk_top[:-1]
 
2393
        top_strip_len = len(disk_top) + 1
 
2394
        inventory_iterator = self._walkdirs(prefix)
 
2395
        disk_iterator = osutils.walkdirs(disk_top, prefix)
 
2396
        try:
 
2397
            current_disk = disk_iterator.next()
 
2398
            disk_finished = False
 
2399
        except OSError, e:
 
2400
            if not (e.errno == errno.ENOENT or
 
2401
                (sys.platform == 'win32' and e.errno == ERROR_PATH_NOT_FOUND)):
 
2402
                raise
 
2403
            current_disk = None
 
2404
            disk_finished = True
 
2405
        try:
 
2406
            current_inv = inventory_iterator.next()
 
2407
            inv_finished = False
 
2408
        except StopIteration:
 
2409
            current_inv = None
 
2410
            inv_finished = True
 
2411
        while not inv_finished or not disk_finished:
 
2412
            if current_disk:
 
2413
                ((cur_disk_dir_relpath, cur_disk_dir_path_from_top),
 
2414
                    cur_disk_dir_content) = current_disk
 
2415
            else:
 
2416
                ((cur_disk_dir_relpath, cur_disk_dir_path_from_top),
 
2417
                    cur_disk_dir_content) = ((None, None), None)
 
2418
            if not disk_finished:
 
2419
                # strip out .bzr dirs
 
2420
                if (cur_disk_dir_path_from_top[top_strip_len:] == '' and
 
2421
                    len(cur_disk_dir_content) > 0):
 
2422
                    # osutils.walkdirs can be made nicer -
 
2423
                    # yield the path-from-prefix rather than the pathjoined
 
2424
                    # value.
 
2425
                    bzrdir_loc = bisect_left(cur_disk_dir_content,
 
2426
                        ('.bzr', '.bzr'))
 
2427
                    if (bzrdir_loc < len(cur_disk_dir_content)
 
2428
                        and self.bzrdir.is_control_filename(
 
2429
                            cur_disk_dir_content[bzrdir_loc][0])):
 
2430
                        # we dont yield the contents of, or, .bzr itself.
 
2431
                        del cur_disk_dir_content[bzrdir_loc]
 
2432
            if inv_finished:
 
2433
                # everything is unknown
 
2434
                direction = 1
 
2435
            elif disk_finished:
 
2436
                # everything is missing
 
2437
                direction = -1
 
2438
            else:
 
2439
                direction = cmp(current_inv[0][0], cur_disk_dir_relpath)
 
2440
            if direction > 0:
 
2441
                # disk is before inventory - unknown
 
2442
                dirblock = [(relpath, basename, kind, stat, None, None) for
 
2443
                    relpath, basename, kind, stat, top_path in
 
2444
                    cur_disk_dir_content]
 
2445
                yield (cur_disk_dir_relpath, None), dirblock
 
2446
                try:
 
2447
                    current_disk = disk_iterator.next()
 
2448
                except StopIteration:
 
2449
                    disk_finished = True
 
2450
            elif direction < 0:
 
2451
                # inventory is before disk - missing.
 
2452
                dirblock = [(relpath, basename, 'unknown', None, fileid, kind)
 
2453
                    for relpath, basename, dkind, stat, fileid, kind in
 
2454
                    current_inv[1]]
 
2455
                yield (current_inv[0][0], current_inv[0][1]), dirblock
 
2456
                try:
 
2457
                    current_inv = inventory_iterator.next()
 
2458
                except StopIteration:
 
2459
                    inv_finished = True
 
2460
            else:
 
2461
                # versioned present directory
 
2462
                # merge the inventory and disk data together
 
2463
                dirblock = []
 
2464
                for relpath, subiterator in itertools.groupby(sorted(
 
2465
                    current_inv[1] + cur_disk_dir_content,
 
2466
                    key=operator.itemgetter(0)), operator.itemgetter(1)):
 
2467
                    path_elements = list(subiterator)
 
2468
                    if len(path_elements) == 2:
 
2469
                        inv_row, disk_row = path_elements
 
2470
                        # versioned, present file
 
2471
                        dirblock.append((inv_row[0],
 
2472
                            inv_row[1], disk_row[2],
 
2473
                            disk_row[3], inv_row[4],
 
2474
                            inv_row[5]))
 
2475
                    elif len(path_elements[0]) == 5:
 
2476
                        # unknown disk file
 
2477
                        dirblock.append((path_elements[0][0],
 
2478
                            path_elements[0][1], path_elements[0][2],
 
2479
                            path_elements[0][3], None, None))
 
2480
                    elif len(path_elements[0]) == 6:
 
2481
                        # versioned, absent file.
 
2482
                        dirblock.append((path_elements[0][0],
 
2483
                            path_elements[0][1], 'unknown', None,
 
2484
                            path_elements[0][4], path_elements[0][5]))
 
2485
                    else:
 
2486
                        raise NotImplementedError('unreachable code')
 
2487
                yield current_inv[0], dirblock
 
2488
                try:
 
2489
                    current_inv = inventory_iterator.next()
 
2490
                except StopIteration:
 
2491
                    inv_finished = True
 
2492
                try:
 
2493
                    current_disk = disk_iterator.next()
 
2494
                except StopIteration:
 
2495
                    disk_finished = True
 
2496
 
 
2497
    def _walkdirs(self, prefix=""):
 
2498
        """Walk the directories of this tree.
 
2499
 
 
2500
           :prefix: is used as the directrory to start with.
 
2501
           returns a generator which yields items in the form:
 
2502
                ((curren_directory_path, fileid),
 
2503
                 [(file1_path, file1_name, file1_kind, None, file1_id,
 
2504
                   file1_kind), ... ])
 
2505
        """
 
2506
        _directory = 'directory'
 
2507
        # get the root in the inventory
 
2508
        inv = self.inventory
 
2509
        top_id = inv.path2id(prefix)
 
2510
        if top_id is None:
 
2511
            pending = []
 
2512
        else:
 
2513
            pending = [(prefix, '', _directory, None, top_id, None)]
 
2514
        while pending:
 
2515
            dirblock = []
 
2516
            currentdir = pending.pop()
 
2517
            # 0 - relpath, 1- basename, 2- kind, 3- stat, 4-id, 5-kind
 
2518
            top_id = currentdir[4]
 
2519
            if currentdir[0]:
 
2520
                relroot = currentdir[0] + '/'
 
2521
            else:
 
2522
                relroot = ""
 
2523
            # FIXME: stash the node in pending
 
2524
            entry = inv[top_id]
 
2525
            if entry.kind == 'directory':
 
2526
                for name, child in entry.sorted_children():
 
2527
                    dirblock.append((relroot + name, name, child.kind, None,
 
2528
                        child.file_id, child.kind
 
2529
                        ))
 
2530
            yield (currentdir[0], entry.file_id), dirblock
 
2531
            # push the user specified dirs from dirblock
 
2532
            for dir in reversed(dirblock):
 
2533
                if dir[2] == _directory:
 
2534
                    pending.append(dir)
 
2535
 
 
2536
    @needs_tree_write_lock
 
2537
    def auto_resolve(self):
 
2538
        """Automatically resolve text conflicts according to contents.
 
2539
 
 
2540
        Only text conflicts are auto_resolvable. Files with no conflict markers
 
2541
        are considered 'resolved', because bzr always puts conflict markers
 
2542
        into files that have text conflicts.  The corresponding .THIS .BASE and
 
2543
        .OTHER files are deleted, as per 'resolve'.
 
2544
        :return: a tuple of ConflictLists: (un_resolved, resolved).
 
2545
        """
 
2546
        un_resolved = _mod_conflicts.ConflictList()
 
2547
        resolved = _mod_conflicts.ConflictList()
 
2548
        conflict_re = re.compile('^(<{7}|={7}|>{7})')
 
2549
        for conflict in self.conflicts():
 
2550
            if (conflict.typestring != 'text conflict' or
 
2551
                self.kind(conflict.file_id) != 'file'):
 
2552
                un_resolved.append(conflict)
 
2553
                continue
 
2554
            my_file = open(self.id2abspath(conflict.file_id), 'rb')
 
2555
            try:
 
2556
                for line in my_file:
 
2557
                    if conflict_re.search(line):
 
2558
                        un_resolved.append(conflict)
 
2559
                        break
 
2560
                else:
 
2561
                    resolved.append(conflict)
 
2562
            finally:
 
2563
                my_file.close()
 
2564
        resolved.remove_files(self)
 
2565
        self.set_conflicts(un_resolved)
 
2566
        return un_resolved, resolved
 
2567
 
 
2568
    @needs_read_lock
 
2569
    def _check(self, references):
 
2570
        """Check the tree for consistency.
 
2571
 
 
2572
        :param references: A dict with keys matching the items returned by
 
2573
            self._get_check_refs(), and values from looking those keys up in
 
2574
            the repository.
 
2575
        """
 
2576
        tree_basis = self.basis_tree()
 
2577
        tree_basis.lock_read()
 
2578
        try:
 
2579
            repo_basis = references[('trees', self.last_revision())]
 
2580
            if len(list(repo_basis.iter_changes(tree_basis))) > 0:
 
2581
                raise errors.BzrCheckError(
 
2582
                    "Mismatched basis inventory content.")
 
2583
            self._validate()
 
2584
        finally:
 
2585
            tree_basis.unlock()
 
2586
 
 
2587
    def _validate(self):
 
2588
        """Validate internal structures.
 
2589
 
 
2590
        This is meant mostly for the test suite. To give it a chance to detect
 
2591
        corruption after actions have occurred. The default implementation is a
 
2592
        just a no-op.
 
2593
 
 
2594
        :return: None. An exception should be raised if there is an error.
 
2595
        """
 
2596
        return
 
2597
 
 
2598
    def _get_rules_searcher(self, default_searcher):
 
2599
        """See Tree._get_rules_searcher."""
 
2600
        if self._rules_searcher is None:
 
2601
            self._rules_searcher = super(WorkingTree,
 
2602
                self)._get_rules_searcher(default_searcher)
 
2603
        return self._rules_searcher
 
2604
 
 
2605
    def get_shelf_manager(self):
 
2606
        """Return the ShelfManager for this WorkingTree."""
 
2607
        from bzrlib.shelf import ShelfManager
 
2608
        return ShelfManager(self, self._transport)
 
2609
 
1480
2610
 
1481
2611
class WorkingTree2(WorkingTree):
1482
2612
    """This is the Format 2 working tree.
1483
2613
 
1484
 
    This was the first weave based working tree. 
 
2614
    This was the first weave based working tree.
1485
2615
     - uses os locks for locking.
1486
2616
     - uses the branch last-revision.
1487
2617
    """
1488
2618
 
 
2619
    def __init__(self, *args, **kwargs):
 
2620
        super(WorkingTree2, self).__init__(*args, **kwargs)
 
2621
        # WorkingTree2 has more of a constraint that self._inventory must
 
2622
        # exist. Because this is an older format, we don't mind the overhead
 
2623
        # caused by the extra computation here.
 
2624
 
 
2625
        # Newer WorkingTree's should only have self._inventory set when they
 
2626
        # have a read lock.
 
2627
        if self._inventory is None:
 
2628
            self.read_working_inventory()
 
2629
 
 
2630
    def _get_check_refs(self):
 
2631
        """Return the references needed to perform a check of this tree."""
 
2632
        return [('trees', self.last_revision())]
 
2633
 
 
2634
    def lock_tree_write(self):
 
2635
        """See WorkingTree.lock_tree_write().
 
2636
 
 
2637
        In Format2 WorkingTrees we have a single lock for the branch and tree
 
2638
        so lock_tree_write() degrades to lock_write().
 
2639
        """
 
2640
        self.branch.lock_write()
 
2641
        try:
 
2642
            return self._control_files.lock_write()
 
2643
        except:
 
2644
            self.branch.unlock()
 
2645
            raise
 
2646
 
1489
2647
    def unlock(self):
 
2648
        # do non-implementation specific cleanup
 
2649
        self._cleanup()
 
2650
 
1490
2651
        # we share control files:
1491
 
        if self._hashcache.needs_write and self._control_files._lock_count==3:
1492
 
            self._hashcache.write()
 
2652
        if self._control_files._lock_count == 3:
 
2653
            # _inventory_is_modified is always False during a read lock.
 
2654
            if self._inventory_is_modified:
 
2655
                self.flush()
 
2656
            self._write_hashcache_if_dirty()
 
2657
 
1493
2658
        # reverse order of locking.
1494
2659
        try:
1495
2660
            return self._control_files.unlock()
1508
2673
    """
1509
2674
 
1510
2675
    @needs_read_lock
1511
 
    def last_revision(self):
1512
 
        """See WorkingTree.last_revision."""
 
2676
    def _last_revision(self):
 
2677
        """See Mutable.last_revision."""
1513
2678
        try:
1514
 
            return self._control_files.get_utf8('last-revision').read()
1515
 
        except NoSuchFile:
1516
 
            return None
 
2679
            return self._transport.get_bytes('last-revision')
 
2680
        except errors.NoSuchFile:
 
2681
            return _mod_revision.NULL_REVISION
1517
2682
 
1518
2683
    def _change_last_revision(self, revision_id):
1519
2684
        """See WorkingTree._change_last_revision."""
1520
 
        if revision_id is None or revision_id == NULL_REVISION:
 
2685
        if revision_id is None or revision_id == _mod_revision.NULL_REVISION:
1521
2686
            try:
1522
 
                self._control_files._transport.delete('last-revision')
 
2687
                self._transport.delete('last-revision')
1523
2688
            except errors.NoSuchFile:
1524
2689
                pass
1525
2690
            return False
1526
2691
        else:
1527
 
            try:
1528
 
                self.branch.revision_history().index(revision_id)
1529
 
            except ValueError:
1530
 
                raise errors.NoSuchRevision(self.branch, revision_id)
1531
 
            self._control_files.put_utf8('last-revision', revision_id)
 
2692
            self._transport.put_bytes('last-revision', revision_id,
 
2693
                mode=self.bzrdir._get_file_mode())
1532
2694
            return True
1533
2695
 
1534
 
    @needs_write_lock
 
2696
    def _get_check_refs(self):
 
2697
        """Return the references needed to perform a check of this tree."""
 
2698
        return [('trees', self.last_revision())]
 
2699
 
 
2700
    @needs_tree_write_lock
1535
2701
    def set_conflicts(self, conflicts):
1536
 
        self._put_rio('conflicts', conflicts.to_stanzas(), 
 
2702
        self._put_rio('conflicts', conflicts.to_stanzas(),
1537
2703
                      CONFLICT_HEADER_1)
1538
2704
 
1539
 
    @needs_write_lock
 
2705
    @needs_tree_write_lock
1540
2706
    def add_conflicts(self, new_conflicts):
1541
2707
        conflict_set = set(self.conflicts())
1542
2708
        conflict_set.update(set(list(new_conflicts)))
1543
 
        self.set_conflicts(ConflictList(sorted(conflict_set,
1544
 
                                               key=Conflict.sort_key)))
 
2709
        self.set_conflicts(_mod_conflicts.ConflictList(sorted(conflict_set,
 
2710
                                       key=_mod_conflicts.Conflict.sort_key)))
1545
2711
 
1546
2712
    @needs_read_lock
1547
2713
    def conflicts(self):
1548
2714
        try:
1549
 
            confile = self._control_files.get('conflicts')
1550
 
        except NoSuchFile:
1551
 
            return ConflictList()
 
2715
            confile = self._transport.get('conflicts')
 
2716
        except errors.NoSuchFile:
 
2717
            return _mod_conflicts.ConflictList()
1552
2718
        try:
1553
 
            if confile.next() != CONFLICT_HEADER_1 + '\n':
1554
 
                raise ConflictFormatError()
1555
 
        except StopIteration:
1556
 
            raise ConflictFormatError()
1557
 
        return ConflictList.from_stanzas(RioReader(confile))
 
2719
            try:
 
2720
                if confile.next() != CONFLICT_HEADER_1 + '\n':
 
2721
                    raise errors.ConflictFormatError()
 
2722
            except StopIteration:
 
2723
                raise errors.ConflictFormatError()
 
2724
            return _mod_conflicts.ConflictList.from_stanzas(RioReader(confile))
 
2725
        finally:
 
2726
            confile.close()
1558
2727
 
1559
2728
    def unlock(self):
1560
 
        if self._hashcache.needs_write and self._control_files._lock_count==1:
1561
 
            self._hashcache.write()
 
2729
        # do non-implementation specific cleanup
 
2730
        self._cleanup()
 
2731
        if self._control_files._lock_count == 1:
 
2732
            # _inventory_is_modified is always False during a read lock.
 
2733
            if self._inventory_is_modified:
 
2734
                self.flush()
 
2735
            self._write_hashcache_if_dirty()
1562
2736
        # reverse order of locking.
1563
2737
        try:
1564
2738
            return self._control_files.unlock()
1567
2741
 
1568
2742
 
1569
2743
def get_conflicted_stem(path):
1570
 
    for suffix in CONFLICT_SUFFIXES:
 
2744
    for suffix in _mod_conflicts.CONFLICT_SUFFIXES:
1571
2745
        if path.endswith(suffix):
1572
2746
            return path[:-len(suffix)]
1573
2747
 
1574
 
@deprecated_function(zero_eight)
1575
 
def is_control_file(filename):
1576
 
    """See WorkingTree.is_control_filename(filename)."""
1577
 
    ## FIXME: better check
1578
 
    filename = normpath(filename)
1579
 
    while filename != '':
1580
 
        head, tail = os.path.split(filename)
1581
 
        ## mutter('check %r for control file' % ((head, tail),))
1582
 
        if tail == '.bzr':
1583
 
            return True
1584
 
        if filename == head:
1585
 
            break
1586
 
        filename = head
1587
 
    return False
1588
 
 
1589
2748
 
1590
2749
class WorkingTreeFormat(object):
1591
2750
    """An encapsulation of the initialization and open routines for a format.
1595
2754
     * a format string,
1596
2755
     * an open routine.
1597
2756
 
1598
 
    Formats are placed in an dict by their format string for reference 
 
2757
    Formats are placed in an dict by their format string for reference
1599
2758
    during workingtree opening. Its not required that these be instances, they
1600
 
    can be classes themselves with class methods - it simply depends on 
 
2759
    can be classes themselves with class methods - it simply depends on
1601
2760
    whether state is needed for a given format or not.
1602
2761
 
1603
2762
    Once a format is deprecated, just deprecate the initialize and open
1604
 
    methods on the format class. Do not deprecate the object, as the 
 
2763
    methods on the format class. Do not deprecate the object, as the
1605
2764
    object will be created every time regardless.
1606
2765
    """
1607
2766
 
1611
2770
    _formats = {}
1612
2771
    """The known formats."""
1613
2772
 
 
2773
    requires_rich_root = False
 
2774
 
 
2775
    upgrade_recommended = False
 
2776
 
1614
2777
    @classmethod
1615
2778
    def find_format(klass, a_bzrdir):
1616
2779
        """Return the format for the working tree object in a_bzrdir."""
1617
2780
        try:
1618
2781
            transport = a_bzrdir.get_workingtree_transport(None)
1619
 
            format_string = transport.get("format").read()
 
2782
            format_string = transport.get_bytes("format")
1620
2783
            return klass._formats[format_string]
1621
 
        except NoSuchFile:
 
2784
        except errors.NoSuchFile:
1622
2785
            raise errors.NoWorkingTree(base=transport.base)
1623
2786
        except KeyError:
1624
 
            raise errors.UnknownFormatError(format=format_string)
 
2787
            raise errors.UnknownFormatError(format=format_string,
 
2788
                                            kind="working tree")
 
2789
 
 
2790
    def __eq__(self, other):
 
2791
        return self.__class__ is other.__class__
 
2792
 
 
2793
    def __ne__(self, other):
 
2794
        return not (self == other)
1625
2795
 
1626
2796
    @classmethod
1627
2797
    def get_default_format(klass):
1640
2810
        """Is this format supported?
1641
2811
 
1642
2812
        Supported formats can be initialized and opened.
1643
 
        Unsupported formats may not support initialization or committing or 
 
2813
        Unsupported formats may not support initialization or committing or
1644
2814
        some other features depending on the reason for not being supported.
1645
2815
        """
1646
2816
        return True
1647
2817
 
 
2818
    def supports_content_filtering(self):
 
2819
        """True if this format supports content filtering."""
 
2820
        return False
 
2821
 
 
2822
    def supports_views(self):
 
2823
        """True if this format supports stored views."""
 
2824
        return False
 
2825
 
1648
2826
    @classmethod
1649
2827
    def register_format(klass, format):
1650
2828
        klass._formats[format.get_format_string()] = format
1655
2833
 
1656
2834
    @classmethod
1657
2835
    def unregister_format(klass, format):
1658
 
        assert klass._formats[format.get_format_string()] is format
1659
2836
        del klass._formats[format.get_format_string()]
1660
2837
 
1661
2838
 
1662
 
 
1663
2839
class WorkingTreeFormat2(WorkingTreeFormat):
1664
 
    """The second working tree format. 
 
2840
    """The second working tree format.
1665
2841
 
1666
2842
    This format modified the hash cache from the format 1 hash cache.
1667
2843
    """
1668
2844
 
 
2845
    upgrade_recommended = True
 
2846
 
1669
2847
    def get_format_description(self):
1670
2848
        """See WorkingTreeFormat.get_format_description()."""
1671
2849
        return "Working tree format 2"
1672
2850
 
1673
 
    def stub_initialize_remote(self, control_files):
1674
 
        """As a special workaround create critical control files for a remote working tree
1675
 
        
 
2851
    def _stub_initialize_on_transport(self, transport, file_mode):
 
2852
        """Workaround: create control files for a remote working tree.
 
2853
 
1676
2854
        This ensures that it can later be updated and dealt with locally,
1677
 
        since BzrDirFormat6 and BzrDirFormat5 cannot represent dirs with 
 
2855
        since BzrDirFormat6 and BzrDirFormat5 cannot represent dirs with
1678
2856
        no working tree.  (See bug #43064).
1679
2857
        """
1680
2858
        sio = StringIO()
1681
 
        inv = Inventory()
1682
 
        bzrlib.xml5.serializer_v5.write_inventory(inv, sio)
 
2859
        inv = inventory.Inventory()
 
2860
        xml5.serializer_v5.write_inventory(inv, sio, working=True)
1683
2861
        sio.seek(0)
1684
 
        control_files.put('inventory', sio)
1685
 
 
1686
 
        control_files.put_utf8('pending-merges', '')
1687
 
        
1688
 
 
1689
 
    def initialize(self, a_bzrdir, revision_id=None):
 
2862
        transport.put_file('inventory', sio, file_mode)
 
2863
        transport.put_bytes('pending-merges', '', file_mode)
 
2864
 
 
2865
    def initialize(self, a_bzrdir, revision_id=None, from_branch=None,
 
2866
                   accelerator_tree=None, hardlink=False):
1690
2867
        """See WorkingTreeFormat.initialize()."""
1691
2868
        if not isinstance(a_bzrdir.transport, LocalTransport):
1692
2869
            raise errors.NotLocalUrl(a_bzrdir.transport.base)
1693
 
        branch = a_bzrdir.open_branch()
1694
 
        if revision_id is not None:
1695
 
            branch.lock_write()
1696
 
            try:
1697
 
                revision_history = branch.revision_history()
1698
 
                try:
1699
 
                    position = revision_history.index(revision_id)
1700
 
                except ValueError:
1701
 
                    raise errors.NoSuchRevision(branch, revision_id)
1702
 
                branch.set_revision_history(revision_history[:position + 1])
1703
 
            finally:
1704
 
                branch.unlock()
1705
 
        revision = branch.last_revision()
1706
 
        inv = Inventory() 
 
2870
        if from_branch is not None:
 
2871
            branch = from_branch
 
2872
        else:
 
2873
            branch = a_bzrdir.open_branch()
 
2874
        if revision_id is None:
 
2875
            revision_id = _mod_revision.ensure_null(branch.last_revision())
 
2876
        branch.lock_write()
 
2877
        try:
 
2878
            branch.generate_revision_history(revision_id)
 
2879
        finally:
 
2880
            branch.unlock()
 
2881
        inv = inventory.Inventory()
1707
2882
        wt = WorkingTree2(a_bzrdir.root_transport.local_abspath('.'),
1708
2883
                         branch,
1709
2884
                         inv,
1710
2885
                         _internal=True,
1711
2886
                         _format=self,
1712
2887
                         _bzrdir=a_bzrdir)
1713
 
        wt._write_inventory(inv)
1714
 
        wt.set_root_id(inv.root.file_id)
1715
 
        wt.set_last_revision(revision)
1716
 
        wt.set_pending_merges([])
1717
 
        build_tree(wt.basis_tree(), wt)
 
2888
        basis_tree = branch.repository.revision_tree(revision_id)
 
2889
        if basis_tree.inventory.root is not None:
 
2890
            wt.set_root_id(basis_tree.get_root_id())
 
2891
        # set the parent list and cache the basis tree.
 
2892
        if _mod_revision.is_null(revision_id):
 
2893
            parent_trees = []
 
2894
        else:
 
2895
            parent_trees = [(revision_id, basis_tree)]
 
2896
        wt.set_parent_trees(parent_trees)
 
2897
        transform.build_tree(basis_tree, wt)
1718
2898
        return wt
1719
2899
 
1720
2900
    def __init__(self):
1732
2912
            raise NotImplementedError
1733
2913
        if not isinstance(a_bzrdir.transport, LocalTransport):
1734
2914
            raise errors.NotLocalUrl(a_bzrdir.transport.base)
1735
 
        return WorkingTree2(a_bzrdir.root_transport.local_abspath('.'),
 
2915
        wt = WorkingTree2(a_bzrdir.root_transport.local_abspath('.'),
1736
2916
                           _internal=True,
1737
2917
                           _format=self,
1738
2918
                           _bzrdir=a_bzrdir)
1739
 
 
 
2919
        return wt
1740
2920
 
1741
2921
class WorkingTreeFormat3(WorkingTreeFormat):
1742
2922
    """The second working tree format updated to record a format marker.
1750
2930
        - uses a LockDir to guard access for writes.
1751
2931
    """
1752
2932
 
 
2933
    upgrade_recommended = True
 
2934
 
1753
2935
    def get_format_string(self):
1754
2936
        """See WorkingTreeFormat.get_format_string()."""
1755
2937
        return "Bazaar-NG Working Tree format 3"
1761
2943
    _lock_file_name = 'lock'
1762
2944
    _lock_class = LockDir
1763
2945
 
 
2946
    _tree_class = WorkingTree3
 
2947
 
 
2948
    def __get_matchingbzrdir(self):
 
2949
        return bzrdir.BzrDirMetaFormat1()
 
2950
 
 
2951
    _matchingbzrdir = property(__get_matchingbzrdir)
 
2952
 
1764
2953
    def _open_control_files(self, a_bzrdir):
1765
2954
        transport = a_bzrdir.get_workingtree_transport(None)
1766
 
        return LockableFiles(transport, self._lock_file_name, 
 
2955
        return LockableFiles(transport, self._lock_file_name,
1767
2956
                             self._lock_class)
1768
2957
 
1769
 
    def initialize(self, a_bzrdir, revision_id=None):
 
2958
    def initialize(self, a_bzrdir, revision_id=None, from_branch=None,
 
2959
                   accelerator_tree=None, hardlink=False):
1770
2960
        """See WorkingTreeFormat.initialize().
1771
 
        
1772
 
        revision_id allows creating a working tree at a different
1773
 
        revision than the branch is at.
 
2961
 
 
2962
        :param revision_id: if supplied, create a working tree at a different
 
2963
            revision than the branch is at.
 
2964
        :param accelerator_tree: A tree which can be used for retrieving file
 
2965
            contents more quickly than the revision tree, i.e. a workingtree.
 
2966
            The revision tree will be used for cases where accelerator_tree's
 
2967
            content is different.
 
2968
        :param hardlink: If true, hard-link files from accelerator_tree,
 
2969
            where possible.
1774
2970
        """
1775
2971
        if not isinstance(a_bzrdir.transport, LocalTransport):
1776
2972
            raise errors.NotLocalUrl(a_bzrdir.transport.base)
1778
2974
        control_files = self._open_control_files(a_bzrdir)
1779
2975
        control_files.create_lock()
1780
2976
        control_files.lock_write()
1781
 
        control_files.put_utf8('format', self.get_format_string())
1782
 
        branch = a_bzrdir.open_branch()
 
2977
        transport.put_bytes('format', self.get_format_string(),
 
2978
            mode=a_bzrdir._get_file_mode())
 
2979
        if from_branch is not None:
 
2980
            branch = from_branch
 
2981
        else:
 
2982
            branch = a_bzrdir.open_branch()
1783
2983
        if revision_id is None:
1784
 
            revision_id = branch.last_revision()
1785
 
        inv = Inventory() 
1786
 
        wt = WorkingTree3(a_bzrdir.root_transport.local_abspath('.'),
 
2984
            revision_id = _mod_revision.ensure_null(branch.last_revision())
 
2985
        # WorkingTree3 can handle an inventory which has a unique root id.
 
2986
        # as of bzr 0.12. However, bzr 0.11 and earlier fail to handle
 
2987
        # those trees. And because there isn't a format bump inbetween, we
 
2988
        # are maintaining compatibility with older clients.
 
2989
        # inv = Inventory(root_id=gen_root_id())
 
2990
        inv = self._initial_inventory()
 
2991
        wt = self._tree_class(a_bzrdir.root_transport.local_abspath('.'),
1787
2992
                         branch,
1788
2993
                         inv,
1789
2994
                         _internal=True,
1790
2995
                         _format=self,
1791
2996
                         _bzrdir=a_bzrdir,
1792
2997
                         _control_files=control_files)
1793
 
        wt.lock_write()
 
2998
        wt.lock_tree_write()
1794
2999
        try:
1795
 
            wt._write_inventory(inv)
1796
 
            wt.set_root_id(inv.root.file_id)
1797
 
            wt.set_last_revision(revision_id)
1798
 
            wt.set_pending_merges([])
1799
 
            build_tree(wt.basis_tree(), wt)
 
3000
            basis_tree = branch.repository.revision_tree(revision_id)
 
3001
            # only set an explicit root id if there is one to set.
 
3002
            if basis_tree.inventory.root is not None:
 
3003
                wt.set_root_id(basis_tree.get_root_id())
 
3004
            if revision_id == _mod_revision.NULL_REVISION:
 
3005
                wt.set_parent_trees([])
 
3006
            else:
 
3007
                wt.set_parent_trees([(revision_id, basis_tree)])
 
3008
            transform.build_tree(basis_tree, wt)
1800
3009
        finally:
 
3010
            # Unlock in this order so that the unlock-triggers-flush in
 
3011
            # WorkingTree is given a chance to fire.
 
3012
            control_files.unlock()
1801
3013
            wt.unlock()
1802
 
            control_files.unlock()
1803
3014
        return wt
1804
3015
 
 
3016
    def _initial_inventory(self):
 
3017
        return inventory.Inventory()
 
3018
 
1805
3019
    def __init__(self):
1806
3020
        super(WorkingTreeFormat3, self).__init__()
1807
 
        self._matchingbzrdir = bzrdir.BzrDirMetaFormat1()
1808
3021
 
1809
3022
    def open(self, a_bzrdir, _found=False):
1810
3023
        """Return the WorkingTree object for a_bzrdir
1817
3030
            raise NotImplementedError
1818
3031
        if not isinstance(a_bzrdir.transport, LocalTransport):
1819
3032
            raise errors.NotLocalUrl(a_bzrdir.transport.base)
1820
 
        return self._open(a_bzrdir, self._open_control_files(a_bzrdir))
 
3033
        wt = self._open(a_bzrdir, self._open_control_files(a_bzrdir))
 
3034
        return wt
1821
3035
 
1822
3036
    def _open(self, a_bzrdir, control_files):
1823
3037
        """Open the tree itself.
1824
 
        
 
3038
 
1825
3039
        :param a_bzrdir: the dir for the tree.
1826
3040
        :param control_files: the control files for the tree.
1827
3041
        """
1828
 
        return WorkingTree3(a_bzrdir.root_transport.local_abspath('.'),
1829
 
                           _internal=True,
1830
 
                           _format=self,
1831
 
                           _bzrdir=a_bzrdir,
1832
 
                           _control_files=control_files)
 
3042
        return self._tree_class(a_bzrdir.root_transport.local_abspath('.'),
 
3043
                                _internal=True,
 
3044
                                _format=self,
 
3045
                                _bzrdir=a_bzrdir,
 
3046
                                _control_files=control_files)
1833
3047
 
1834
3048
    def __str__(self):
1835
3049
        return self.get_format_string()
1836
3050
 
1837
3051
 
 
3052
__default_format = WorkingTreeFormat6()
 
3053
WorkingTreeFormat.register_format(__default_format)
 
3054
WorkingTreeFormat.register_format(WorkingTreeFormat5())
 
3055
WorkingTreeFormat.register_format(WorkingTreeFormat4())
 
3056
WorkingTreeFormat.register_format(WorkingTreeFormat3())
 
3057
WorkingTreeFormat.set_default_format(__default_format)
1838
3058
# formats which have no format string are not discoverable
1839
3059
# and not independently creatable, so are not registered.
1840
 
__default_format = WorkingTreeFormat3()
1841
 
WorkingTreeFormat.register_format(__default_format)
1842
 
WorkingTreeFormat.set_default_format(__default_format)
1843
3060
_legacy_formats = [WorkingTreeFormat2(),
1844
3061
                   ]
1845
 
 
1846
 
 
1847
 
class WorkingTreeTestProviderAdapter(object):
1848
 
    """A tool to generate a suite testing multiple workingtree formats at once.
1849
 
 
1850
 
    This is done by copying the test once for each transport and injecting
1851
 
    the transport_server, transport_readonly_server, and workingtree_format
1852
 
    classes into each copy. Each copy is also given a new id() to make it
1853
 
    easy to identify.
1854
 
    """
1855
 
 
1856
 
    def __init__(self, transport_server, transport_readonly_server, formats):
1857
 
        self._transport_server = transport_server
1858
 
        self._transport_readonly_server = transport_readonly_server
1859
 
        self._formats = formats
1860
 
    
1861
 
    def _clone_test(self, test, bzrdir_format, workingtree_format, variation):
1862
 
        """Clone test for adaption."""
1863
 
        new_test = deepcopy(test)
1864
 
        new_test.transport_server = self._transport_server
1865
 
        new_test.transport_readonly_server = self._transport_readonly_server
1866
 
        new_test.bzrdir_format = bzrdir_format
1867
 
        new_test.workingtree_format = workingtree_format
1868
 
        def make_new_test_id():
1869
 
            new_id = "%s(%s)" % (test.id(), variation)
1870
 
            return lambda: new_id
1871
 
        new_test.id = make_new_test_id()
1872
 
        return new_test
1873
 
    
1874
 
    def adapt(self, test):
1875
 
        from bzrlib.tests import TestSuite
1876
 
        result = TestSuite()
1877
 
        for workingtree_format, bzrdir_format in self._formats:
1878
 
            new_test = self._clone_test(
1879
 
                test,
1880
 
                bzrdir_format,
1881
 
                workingtree_format, workingtree_format.__class__.__name__)
1882
 
            result.addTest(new_test)
1883
 
        return result