/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/transport/local.py

  • Committer: Robey Pointer
  • Date: 2006-09-08 18:46:29 UTC
  • mto: This revision was merged to the branch mainline in revision 1996.
  • Revision ID: robey@lag.net-20060908184629-e3fc4c61ca21508c
pychecker is on crack; go back to using 'is None'.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2005-2011 Canonical Ltd
 
1
# Copyright (C) 2005, 2006 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
12
12
#
13
13
# You should have received a copy of the GNU General Public License
14
14
# along with this program; if not, write to the Free Software
15
 
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
16
16
 
17
17
"""Transport for the local filesystem.
18
18
 
20
20
"""
21
21
 
22
22
import os
23
 
from stat import ST_MODE, S_ISDIR, S_IMODE
 
23
import shutil
24
24
import sys
25
 
 
26
 
from bzrlib.lazy_import import lazy_import
27
 
lazy_import(globals(), """
28
 
import errno
29
 
import shutil
 
25
from stat import ST_MODE, S_ISDIR, ST_SIZE, S_IMODE
 
26
import tempfile
30
27
 
31
28
from bzrlib import (
32
 
    atomicfile,
33
29
    osutils,
34
30
    urlutils,
35
 
    symbol_versioning,
36
31
    )
37
 
from bzrlib.transport import LateReadError
38
 
""")
39
 
 
40
 
from bzrlib import transport
41
 
 
42
 
 
43
 
_append_flags = os.O_CREAT | os.O_APPEND | os.O_WRONLY | osutils.O_BINARY | osutils.O_NOINHERIT
44
 
_put_non_atomic_flags = os.O_CREAT | os.O_TRUNC | os.O_WRONLY | osutils.O_BINARY | osutils.O_NOINHERIT
45
 
 
46
 
 
47
 
class LocalTransport(transport.Transport):
 
32
from bzrlib.osutils import (abspath, realpath, normpath, pathjoin, rename,
 
33
                            check_legal_path, rmtree)
 
34
from bzrlib.symbol_versioning import warn
 
35
from bzrlib.trace import mutter
 
36
from bzrlib.transport import Transport, Server
 
37
 
 
38
 
 
39
_append_flags = os.O_CREAT | os.O_APPEND | os.O_WRONLY | osutils.O_BINARY
 
40
 
 
41
 
 
42
class LocalTransport(Transport):
48
43
    """This is the transport agent for local filesystem access."""
49
44
 
50
45
    def __init__(self, base):
51
46
        """Set the base path where files will be stored."""
52
47
        if not base.startswith('file://'):
53
 
            symbol_versioning.warn(
54
 
                "Instantiating LocalTransport with a filesystem path"
 
48
            warn("Instantiating LocalTransport with a filesystem path"
55
49
                " is deprecated as of bzr 0.8."
56
50
                " Please use bzrlib.transport.get_transport()"
57
51
                " or pass in a file:// url.",
61
55
            base = urlutils.local_path_to_url(base)
62
56
        if base[-1] != '/':
63
57
            base = base + '/'
64
 
 
65
 
        # Special case : windows has no "root", but does have
66
 
        # multiple lettered drives inside it. #240910
67
 
        if sys.platform == 'win32' and base == 'file:///':
68
 
            base = ''
69
 
            self._local_base = ''
70
 
            super(LocalTransport, self).__init__(base)
71
 
            return
72
 
 
73
58
        super(LocalTransport, self).__init__(base)
74
59
        self._local_base = urlutils.local_path_from_url(base)
75
60
 
 
61
    def should_cache(self):
 
62
        return False
 
63
 
76
64
    def clone(self, offset=None):
77
65
        """Return a new LocalTransport with root at self.base + offset
78
 
        Because the local filesystem does not require a connection,
 
66
        Because the local filesystem does not require a connection, 
79
67
        we can just return a new object.
80
68
        """
81
69
        if offset is None:
82
70
            return LocalTransport(self.base)
83
71
        else:
84
 
            abspath = self.abspath(offset)
85
 
            if abspath == 'file://':
86
 
                # fix upwalk for UNC path
87
 
                # when clone from //HOST/path updir recursively
88
 
                # we should stop at least at //HOST part
89
 
                abspath = self.base
90
 
            return LocalTransport(abspath)
 
72
            return LocalTransport(self.abspath(offset))
91
73
 
92
74
    def _abspath(self, relative_reference):
93
75
        """Return a path for use in os calls.
97
79
         - relative_reference is url escaped.
98
80
        """
99
81
        if relative_reference in ('.', ''):
100
 
            # _local_base normally has a trailing slash; strip it so that stat
101
 
            # on a transport pointing to a symlink reads the link not the
102
 
            # referent but be careful of / and c:\
103
 
            return osutils.split(self._local_base)[0]
 
82
            return self._local_base
104
83
        return self._local_base + urlutils.unescape(relative_reference)
105
84
 
106
85
    def abspath(self, relpath):
107
86
        """Return the full url to the given relative URL."""
108
87
        # TODO: url escape the result. RBC 20060523.
 
88
        assert isinstance(relpath, basestring), (type(relpath), relpath)
109
89
        # jam 20060426 Using normpath on the real path, because that ensures
110
90
        #       proper handling of stuff like
111
 
        path = osutils.normpath(osutils.pathjoin(
112
 
                    self._local_base, urlutils.unescape(relpath)))
113
 
        # on windows, our _local_base may or may not have a drive specified
114
 
        # (ie, it may be "/" or "c:/foo").
115
 
        # If 'relpath' is '/' we *always* get back an abspath without
116
 
        # the drive letter - but if our transport already has a drive letter,
117
 
        # we want our abspaths to have a drive letter too - so handle that
118
 
        # here.
119
 
        if (sys.platform == "win32" and self._local_base[1:2] == ":"
120
 
            and path == '/'):
121
 
            path = self._local_base[:3]
122
 
 
 
91
        path = normpath(pathjoin(self._local_base, urlutils.unescape(relpath)))
123
92
        return urlutils.local_path_to_url(path)
124
93
 
125
94
    def local_abspath(self, relpath):
128
97
        This function only exists for the LocalTransport, since it is
129
98
        the only one that has direct local access.
130
99
        This is mostly for stuff like WorkingTree which needs to know
131
 
        the local working directory.  The returned path will always contain
132
 
        forward slashes as the path separator, regardless of the platform.
133
 
 
 
100
        the local working directory.
 
101
        
134
102
        This function is quite expensive: it calls realpath which resolves
135
103
        symlinks.
136
104
        """
145
113
            abspath = u'.'
146
114
 
147
115
        return urlutils.file_relpath(
148
 
            urlutils.strip_trailing_slash(self.base),
 
116
            urlutils.strip_trailing_slash(self.base), 
149
117
            urlutils.strip_trailing_slash(abspath))
150
118
 
151
119
    def has(self, relpath):
156
124
 
157
125
        :param relpath: The relative path to the file
158
126
        """
159
 
        canonical_url = self.abspath(relpath)
160
 
        if canonical_url in transport._file_streams:
161
 
            transport._file_streams[canonical_url].flush()
162
 
        try:
163
 
            path = self._abspath(relpath)
164
 
            return osutils.open_file(path, 'rb')
165
 
        except (IOError, OSError),e:
166
 
            if e.errno == errno.EISDIR:
167
 
                return LateReadError(relpath)
168
 
            self._translate_error(e, path)
169
 
 
170
 
    def put_file(self, relpath, f, mode=None):
171
 
        """Copy the file-like object into the location.
172
 
 
173
 
        :param relpath: Location to put the contents, relative to base.
174
 
        :param f:       File-like object.
175
 
        :param mode: The mode for the newly created file,
176
 
                     None means just use the default
177
 
        """
178
 
 
179
 
        path = relpath
180
 
        try:
181
 
            path = self._abspath(relpath)
182
 
            osutils.check_legal_path(path)
183
 
            fp = atomicfile.AtomicFile(path, 'wb', new_mode=mode)
184
 
        except (IOError, OSError),e:
185
 
            self._translate_error(e, path)
186
 
        try:
187
 
            length = self._pump(f, fp)
188
 
            fp.commit()
189
 
        finally:
190
 
            fp.close()
191
 
        return length
192
 
 
193
 
    def put_bytes(self, relpath, bytes, mode=None):
194
 
        """Copy the string into the location.
195
 
 
196
 
        :param relpath: Location to put the contents, relative to base.
197
 
        :param bytes:   String
198
 
        """
199
 
 
200
 
        path = relpath
201
 
        try:
202
 
            path = self._abspath(relpath)
203
 
            osutils.check_legal_path(path)
204
 
            fp = atomicfile.AtomicFile(path, 'wb', new_mode=mode)
205
 
        except (IOError, OSError),e:
206
 
            self._translate_error(e, path)
207
 
        try:
208
 
            if bytes:
209
 
                fp.write(bytes)
210
 
            fp.commit()
211
 
        finally:
212
 
            fp.close()
213
 
 
214
 
    def _put_non_atomic_helper(self, relpath, writer,
215
 
                               mode=None,
216
 
                               create_parent_dir=False,
217
 
                               dir_mode=None):
218
 
        """Common functionality information for the put_*_non_atomic.
219
 
 
220
 
        This tracks all the create_parent_dir stuff.
221
 
 
222
 
        :param relpath: the path we are putting to.
223
 
        :param writer: A function that takes an os level file descriptor
224
 
            and writes whatever data it needs to write there.
225
 
        :param mode: The final file mode.
226
 
        :param create_parent_dir: Should we be creating the parent directory
227
 
            if it doesn't exist?
228
 
        """
229
 
        abspath = self._abspath(relpath)
230
 
        if mode is None:
231
 
            # os.open() will automatically use the umask
232
 
            local_mode = 0666
233
 
        else:
234
 
            local_mode = mode
235
 
        try:
236
 
            fd = os.open(abspath, _put_non_atomic_flags, local_mode)
237
 
        except (IOError, OSError),e:
238
 
            # We couldn't create the file, maybe we need to create
239
 
            # the parent directory, and try again
240
 
            if (not create_parent_dir
241
 
                or e.errno not in (errno.ENOENT,errno.ENOTDIR)):
242
 
                self._translate_error(e, relpath)
243
 
            parent_dir = os.path.dirname(abspath)
244
 
            if not parent_dir:
245
 
                self._translate_error(e, relpath)
246
 
            self._mkdir(parent_dir, mode=dir_mode)
247
 
            # We created the parent directory, lets try to open the
248
 
            # file again
249
 
            try:
250
 
                fd = os.open(abspath, _put_non_atomic_flags, local_mode)
251
 
            except (IOError, OSError), e:
252
 
                self._translate_error(e, relpath)
253
 
        try:
254
 
            st = os.fstat(fd)
255
 
            if mode is not None and mode != S_IMODE(st.st_mode):
256
 
                # Because of umask, we may still need to chmod the file.
257
 
                # But in the general case, we won't have to
258
 
                os.chmod(abspath, mode)
259
 
            writer(fd)
260
 
        finally:
261
 
            os.close(fd)
262
 
 
263
 
    def put_file_non_atomic(self, relpath, f, mode=None,
264
 
                            create_parent_dir=False,
265
 
                            dir_mode=None):
266
 
        """Copy the file-like object into the target location.
267
 
 
268
 
        This function is not strictly safe to use. It is only meant to
269
 
        be used when you already know that the target does not exist.
270
 
        It is not safe, because it will open and truncate the remote
271
 
        file. So there may be a time when the file has invalid contents.
272
 
 
273
 
        :param relpath: The remote location to put the contents.
274
 
        :param f:       File-like object.
275
 
        :param mode:    Possible access permissions for new file.
276
 
                        None means do not set remote permissions.
277
 
        :param create_parent_dir: If we cannot create the target file because
278
 
                        the parent directory does not exist, go ahead and
279
 
                        create it, and then try again.
280
 
        """
281
 
        def writer(fd):
282
 
            self._pump_to_fd(f, fd)
283
 
        self._put_non_atomic_helper(relpath, writer, mode=mode,
284
 
                                    create_parent_dir=create_parent_dir,
285
 
                                    dir_mode=dir_mode)
286
 
 
287
 
    def put_bytes_non_atomic(self, relpath, bytes, mode=None,
288
 
                             create_parent_dir=False, dir_mode=None):
289
 
        def writer(fd):
290
 
            if bytes:
291
 
                os.write(fd, bytes)
292
 
        self._put_non_atomic_helper(relpath, writer, mode=mode,
293
 
                                    create_parent_dir=create_parent_dir,
294
 
                                    dir_mode=dir_mode)
 
127
        try:
 
128
            path = self._abspath(relpath)
 
129
            return open(path, 'rb')
 
130
        except (IOError, OSError),e:
 
131
            self._translate_error(e, path)
 
132
 
 
133
    def put(self, relpath, f, mode=None):
 
134
        """Copy the file-like or string object into the location.
 
135
 
 
136
        :param relpath: Location to put the contents, relative to base.
 
137
        :param f:       File-like or string object.
 
138
        """
 
139
        from bzrlib.atomicfile import AtomicFile
 
140
 
 
141
        path = relpath
 
142
        try:
 
143
            path = self._abspath(relpath)
 
144
            check_legal_path(path)
 
145
            fp = AtomicFile(path, 'wb', new_mode=mode)
 
146
        except (IOError, OSError),e:
 
147
            self._translate_error(e, path)
 
148
        try:
 
149
            self._pump(f, fp)
 
150
            fp.commit()
 
151
        finally:
 
152
            fp.close()
295
153
 
296
154
    def iter_files_recursive(self):
297
155
        """Iter the relative paths of files in the transports sub-tree."""
305
163
            else:
306
164
                yield relpath
307
165
 
308
 
    def _mkdir(self, abspath, mode=None):
309
 
        """Create a real directory, filtering through mode"""
310
 
        if mode is None:
311
 
            # os.mkdir() will filter through umask
312
 
            local_mode = 0777
313
 
        else:
314
 
            local_mode = mode
 
166
    def mkdir(self, relpath, mode=None):
 
167
        """Create a directory at the given path."""
 
168
        path = relpath
315
169
        try:
316
 
            os.mkdir(abspath, local_mode)
 
170
            if mode is None:
 
171
                # os.mkdir() will filter through umask
 
172
                local_mode = 0777
 
173
            else:
 
174
                local_mode = mode
 
175
            path = self._abspath(relpath)
 
176
            os.mkdir(path, local_mode)
317
177
            if mode is not None:
318
178
                # It is probably faster to just do the chmod, rather than
319
179
                # doing a stat, and then trying to compare
320
 
                os.chmod(abspath, mode)
 
180
                os.chmod(path, mode)
321
181
        except (IOError, OSError),e:
322
 
            self._translate_error(e, abspath)
323
 
 
324
 
    def mkdir(self, relpath, mode=None):
325
 
        """Create a directory at the given path."""
326
 
        self._mkdir(self._abspath(relpath), mode=mode)
327
 
 
328
 
    def open_write_stream(self, relpath, mode=None):
329
 
        """See Transport.open_write_stream."""
330
 
        # initialise the file
331
 
        self.put_bytes_non_atomic(relpath, "", mode=mode)
 
182
            self._translate_error(e, path)
 
183
 
 
184
    def append(self, relpath, f, mode=None):
 
185
        """Append the text in the file-like object into the final location."""
332
186
        abspath = self._abspath(relpath)
333
 
        handle = osutils.open_file(abspath, 'wb')
334
 
        if mode is not None:
335
 
            self._check_mode_and_size(abspath, handle.fileno(), mode)
336
 
        transport._file_streams[self.abspath(relpath)] = handle
337
 
        return transport.FileFileStream(self, relpath, handle)
338
 
 
339
 
    def _get_append_file(self, relpath, mode=None):
340
 
        """Call os.open() for the given relpath"""
341
 
        file_abspath = self._abspath(relpath)
342
187
        if mode is None:
343
188
            # os.open() will automatically use the umask
344
189
            local_mode = 0666
345
190
        else:
346
191
            local_mode = mode
347
192
        try:
348
 
            return file_abspath, os.open(file_abspath, _append_flags, local_mode)
 
193
            fd = os.open(abspath, _append_flags, local_mode)
349
194
        except (IOError, OSError),e:
350
195
            self._translate_error(e, relpath)
351
 
 
352
 
    def _check_mode_and_size(self, file_abspath, fd, mode=None):
353
 
        """Check the mode of the file, and return the current size"""
354
 
        st = os.fstat(fd)
355
 
        if mode is not None and mode != S_IMODE(st.st_mode):
356
 
            # Because of umask, we may still need to chmod the file.
357
 
            # But in the general case, we won't have to
358
 
            os.chmod(file_abspath, mode)
359
 
        return st.st_size
360
 
 
361
 
    def append_file(self, relpath, f, mode=None):
362
 
        """Append the text in the file-like object into the final location."""
363
 
        file_abspath, fd = self._get_append_file(relpath, mode=mode)
364
196
        try:
365
 
            result = self._check_mode_and_size(file_abspath, fd, mode=mode)
 
197
            st = os.fstat(fd)
 
198
            result = st.st_size
 
199
            if mode is not None and mode != S_IMODE(st.st_mode):
 
200
                # Because of umask, we may still need to chmod the file.
 
201
                # But in the general case, we won't have to
 
202
                os.chmod(abspath, mode)
366
203
            self._pump_to_fd(f, fd)
367
204
        finally:
368
205
            os.close(fd)
369
206
        return result
370
207
 
371
 
    def append_bytes(self, relpath, bytes, mode=None):
372
 
        """Append the text in the string into the final location."""
373
 
        file_abspath, fd = self._get_append_file(relpath, mode=mode)
374
 
        try:
375
 
            result = self._check_mode_and_size(file_abspath, fd, mode=mode)
376
 
            if bytes:
377
 
                os.write(fd, bytes)
378
 
        finally:
379
 
            os.close(fd)
380
 
        return result
381
 
 
382
208
    def _pump_to_fd(self, fromfile, to_fd):
383
209
        """Copy contents of one file to another."""
384
210
        BUFSIZE = 32768
400
226
 
401
227
    def rename(self, rel_from, rel_to):
402
228
        path_from = self._abspath(rel_from)
403
 
        path_to = self._abspath(rel_to)
404
229
        try:
405
 
            # *don't* call bzrlib.osutils.rename, because we want to
406
 
            # detect conflicting names on rename, and osutils.rename tries to
407
 
            # mask cross-platform differences there
408
 
            os.rename(path_from, path_to)
 
230
            # *don't* call bzrlib.osutils.rename, because we want to 
 
231
            # detect errors on rename
 
232
            os.rename(path_from, self._abspath(rel_to))
409
233
        except (IOError, OSError),e:
410
234
            # TODO: What about path_to?
411
235
            self._translate_error(e, path_from)
417
241
 
418
242
        try:
419
243
            # this version will delete the destination if necessary
420
 
            osutils.rename(path_from, path_to)
 
244
            rename(path_from, path_to)
421
245
        except (IOError, OSError),e:
422
246
            # TODO: What about path_to?
423
247
            self._translate_error(e, path_from)
431
255
        except (IOError, OSError),e:
432
256
            self._translate_error(e, path)
433
257
 
434
 
    def external_url(self):
435
 
        """See bzrlib.transport.Transport.external_url."""
436
 
        # File URL's are externally usable.
437
 
        return self.base
438
 
 
439
258
    def copy_to(self, relpaths, other, mode=None, pb=None):
440
259
        """Copy a set of entries from self into another Transport.
441
260
 
484
303
        path = relpath
485
304
        try:
486
305
            path = self._abspath(relpath)
487
 
            return os.lstat(path)
 
306
            return os.stat(path)
488
307
        except (IOError, OSError),e:
489
308
            self._translate_error(e, path)
490
309
 
518
337
        except (IOError, OSError),e:
519
338
            self._translate_error(e, path)
520
339
 
521
 
    if osutils.host_os_dereferences_symlinks():
522
 
        def readlink(self, relpath):
523
 
            """See Transport.readlink."""
524
 
            return osutils.readlink(self._abspath(relpath))
525
 
 
526
 
    if osutils.hardlinks_good():
527
 
        def hardlink(self, source, link_name):
528
 
            """See Transport.link."""
529
 
            try:
530
 
                os.link(self._abspath(source), self._abspath(link_name))
531
 
            except (IOError, OSError), e:
532
 
                self._translate_error(e, source)
533
 
 
534
 
    if osutils.has_symlinks():
535
 
        def symlink(self, source, link_name):
536
 
            """See Transport.symlink."""
537
 
            abs_link_dirpath = urlutils.dirname(self.abspath(link_name))
538
 
            source_rel = urlutils.file_relpath(
539
 
                urlutils.strip_trailing_slash(abs_link_dirpath),
540
 
                urlutils.strip_trailing_slash(self.abspath(source))
541
 
            )
542
 
 
543
 
            try:
544
 
                os.symlink(source_rel, self._abspath(link_name))
545
 
            except (IOError, OSError), e:
546
 
                self._translate_error(e, source_rel)
547
 
 
548
340
    def _can_roundtrip_unix_modebits(self):
549
341
        if sys.platform == 'win32':
550
342
            # anyone else?
553
345
            return True
554
346
 
555
347
 
556
 
class EmulatedWin32LocalTransport(LocalTransport):
557
 
    """Special transport for testing Win32 [UNC] paths on non-windows"""
558
 
 
559
 
    def __init__(self, base):
560
 
        if base[-1] != '/':
561
 
            base = base + '/'
562
 
        super(LocalTransport, self).__init__(base)
563
 
        self._local_base = urlutils._win32_local_path_from_url(base)
564
 
 
565
 
    def abspath(self, relpath):
566
 
        path = osutils.normpath(osutils.pathjoin(
567
 
                    self._local_base, urlutils.unescape(relpath)))
568
 
        return urlutils._win32_local_path_to_url(path)
569
 
 
570
 
    def clone(self, offset=None):
571
 
        """Return a new LocalTransport with root at self.base + offset
572
 
        Because the local filesystem does not require a connection,
573
 
        we can just return a new object.
574
 
        """
575
 
        if offset is None:
576
 
            return EmulatedWin32LocalTransport(self.base)
577
 
        else:
578
 
            abspath = self.abspath(offset)
579
 
            if abspath == 'file://':
580
 
                # fix upwalk for UNC path
581
 
                # when clone from //HOST/path updir recursively
582
 
                # we should stop at least at //HOST part
583
 
                abspath = self.base
584
 
            return EmulatedWin32LocalTransport(abspath)
 
348
class LocalRelpathServer(Server):
 
349
    """A pretend server for local transports, using relpaths."""
 
350
 
 
351
    def get_url(self):
 
352
        """See Transport.Server.get_url."""
 
353
        return "."
 
354
 
 
355
 
 
356
class LocalAbspathServer(Server):
 
357
    """A pretend server for local transports, using absolute paths."""
 
358
 
 
359
    def get_url(self):
 
360
        """See Transport.Server.get_url."""
 
361
        return os.path.abspath("")
 
362
 
 
363
 
 
364
class LocalURLServer(Server):
 
365
    """A pretend server for local transports, using file:// urls."""
 
366
 
 
367
    def get_url(self):
 
368
        """See Transport.Server.get_url."""
 
369
        return urlutils.local_path_to_url('')
585
370
 
586
371
 
587
372
def get_test_permutations():
588
373
    """Return the permutations to be used in testing."""
589
 
    from bzrlib.tests import test_server
590
 
    return [(LocalTransport, test_server.LocalURLServer),]
 
374
    return [(LocalTransport, LocalRelpathServer),
 
375
            (LocalTransport, LocalAbspathServer),
 
376
            (LocalTransport, LocalURLServer),
 
377
            ]