/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/store/text.py

  • Committer: Robert Collins
  • Date: 2005-10-09 23:42:12 UTC
  • Revision ID: robertc@robertcollins.net-20051009234212-7973344d900afb0b
merge in niemeyers prefixed-store patch

Show diffs side-by-side

added added

removed removed

Lines of Context:
 
1
# Copyright (C) 2005 by Canonical Development Ltd
 
2
 
 
3
# This program is free software; you can redistribute it and/or modify
 
4
# it under the terms of the GNU General Public License as published by
 
5
# the Free Software Foundation; either version 2 of the License, or
 
6
# (at your option) any later version.
 
7
 
 
8
# This program is distributed in the hope that it will be useful,
 
9
# but WITHOUT ANY WARRANTY; without even the implied warranty of
 
10
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
11
# GNU General Public License for more details.
 
12
 
 
13
# You should have received a copy of the GNU General Public License
 
14
# along with this program; if not, write to the Free Software
 
15
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
16
 
 
17
"""
 
18
A store that keeps the full text of every version.
 
19
 
 
20
This store keeps uncompressed versions of the full text. It does not
 
21
do any sort of delta compression.
 
22
"""
 
23
 
 
24
import os, tempfile
 
25
 
 
26
import bzrlib.store
 
27
from bzrlib.store import hash_prefix
 
28
from bzrlib.trace import mutter
 
29
from bzrlib.errors import BzrError, FileExists
 
30
 
 
31
from cStringIO import StringIO
 
32
from stat import ST_SIZE, ST_MODE, S_ISDIR
 
33
 
 
34
 
 
35
class TextStore(bzrlib.store.TransportStore):
 
36
    """Store that holds files indexed by unique names.
 
37
 
 
38
    Files can be added, but not modified once they are in.  Typically
 
39
    the hash is used as the name, or something else known to be unique,
 
40
    such as a UUID.
 
41
 
 
42
    Files are stored uncompressed, with no delta compression.
 
43
    """
 
44
 
 
45
    def __init__(self, transport, prefixed=False):
 
46
        super(TextStore, self).__init__(transport)
 
47
        self._prefixed = prefixed
 
48
 
 
49
    def _check_fileid(self, fileid):
 
50
        if not isinstance(fileid, basestring):
 
51
            raise TypeError('Fileids should be a string type: %s %r' % (type(fileid), fileid))
 
52
        if '\\' in fileid or '/' in fileid:
 
53
            raise ValueError("invalid store id %r" % fileid)
 
54
 
 
55
    def _relpath(self, fileid):
 
56
        self._check_fileid(fileid)
 
57
        if self._prefixed:
 
58
            return hash_prefix(fileid) + fileid
 
59
        else:
 
60
            return fileid
 
61
 
 
62
    def add(self, f, fileid):
 
63
        """Add contents of a file into the store.
 
64
 
 
65
        f -- A file-like object, or string
 
66
        """
 
67
        mutter("add store entry %r" % (fileid))
 
68
            
 
69
        fn = self._relpath(fileid)
 
70
        if self._transport.has(fn):
 
71
            raise BzrError("store %r already contains id %r" % (self._transport.base, fileid))
 
72
 
 
73
        if self._prefixed:
 
74
            try:
 
75
                self._transport.mkdir(hash_prefix(fileid))
 
76
            except FileExists:
 
77
                pass
 
78
 
 
79
        self._transport.put(fn, f)
 
80
 
 
81
    def __contains__(self, fileid):
 
82
        """"""
 
83
        fn = self._relpath(fileid)
 
84
        return self._transport.has(fn)
 
85
 
 
86
    def has(self, fileids, pb=None):
 
87
        """Return True/False for each entry in fileids.
 
88
 
 
89
        :param fileids: A List or generator yielding file ids.
 
90
        :return: A generator or list returning True/False for each entry.
 
91
        """
 
92
        relpaths = (self._relpath(fid) for fid in fileids)
 
93
        return self._transport.has_multi(relpaths, pb=pb)
 
94
 
 
95
    def get(self, fileids, permit_failure=False, pb=None):
 
96
        """Return a set of files, one for each requested entry.
 
97
        
 
98
        TODO: Write some tests to make sure that permit_failure is
 
99
              handled correctly.
 
100
 
 
101
        TODO: What should the exception be for a missing file?
 
102
              KeyError, or NoSuchFile?
 
103
        """
 
104
 
 
105
        # This next code gets a bit hairy because it can allow
 
106
        # to not request a file which doesn't seem to exist.
 
107
        # Also, the same fileid may be requested twice, so we
 
108
        # can't just build up a map.
 
109
        rel_paths = [self._relpath(fid) for fid in fileids]
 
110
        is_requested = []
 
111
 
 
112
        if permit_failure:
 
113
            existing_paths = []
 
114
            for path, has in zip(rel_paths,
 
115
                    self._transport.has_multi(rel_paths)):
 
116
                if has:
 
117
                    existing_paths.append(path)
 
118
                    is_requested.append(True)
 
119
                else:
 
120
                    is_requested.append(False)
 
121
            #mutter('Retrieving %s out of %s' % (existing_paths, rel_paths))
 
122
        else:
 
123
            #mutter('Retrieving all %s' % (rel_paths, ))
 
124
            existing_paths = rel_paths
 
125
            is_requested = [True for x in rel_paths]
 
126
 
 
127
        count = 0
 
128
        for f in self._transport.get_multi(existing_paths, pb=pb):
 
129
            assert count < len(is_requested)
 
130
            while not is_requested[count]:
 
131
                yield None
 
132
                count += 1
 
133
            yield f
 
134
            count += 1
 
135
 
 
136
        while count < len(is_requested):
 
137
            yield None
 
138
            count += 1
 
139
 
 
140
    def _iter_relpaths(self):
 
141
        transport = self._transport
 
142
        queue = list(transport.list_dir('.'))
 
143
        while queue:
 
144
            relpath = queue.pop(0)
 
145
            st = transport.stat(relpath)
 
146
            if S_ISDIR(st[ST_MODE]):
 
147
                for i, basename in enumerate(transport.list_dir(relpath)):
 
148
                    queue.insert(i, relpath+'/'+basename)
 
149
            else:
 
150
                yield relpath, st
 
151
 
 
152
    def __iter__(self):
 
153
        for relpath, st in self._iter_relpaths():
 
154
            yield os.path.basename(relpath)
 
155
 
 
156
    def __len__(self):
 
157
        return len(list(self._iter_relpath()))
 
158
 
 
159
    def __getitem__(self, fileid):
 
160
        """Returns a file reading from a particular entry."""
 
161
        fn = self._relpath(fileid)
 
162
        # This will throw if the file doesn't exist.
 
163
        try:
 
164
            f = self._transport.get(fn)
 
165
        except:
 
166
            raise KeyError('This store (%s) does not contain %s' % (self, fileid))
 
167
 
 
168
        return f
 
169
            
 
170
 
 
171
    def total_size(self):
 
172
        """Return (count, bytes)
 
173
 
 
174
        This is the (compressed) size stored on disk, not the size of
 
175
        the content."""
 
176
        total = 0
 
177
        count = 0
 
178
        for relpath, st in self._iter_relpaths():
 
179
            count += 1
 
180
            total += st[ST_SIZE]
 
181
                
 
182
        return count, total
 
183
 
 
184
 
 
185
class ScratchTextStore(TextStore):
 
186
    """Self-destructing test subclass of TextStore.
 
187
 
 
188
    The Store only exists for the lifetime of the Python object.
 
189
    Obviously you should not put anything precious in it.
 
190
    """
 
191
    def __init__(self):
 
192
        from transport import transport
 
193
        super(ScratchTextStore, self).__init__(transport(tempfile.mkdtemp()))
 
194
 
 
195
    def __del__(self):
 
196
        self._transport.delete_multi(self._transport.list_dir('.'))
 
197
        os.rmdir(self._transport.base)
 
198
        mutter("%r destroyed" % self)
 
199