17
17
"""Tests for indices."""
 
19
 
from bzrlib import errors
 
20
 
from bzrlib.index import *
 
21
 
from bzrlib.tests import TestCaseWithMemoryTransport
 
22
 
from bzrlib.transport import get_transport
 
25
 
class TestGraphIndexBuilder(TestCaseWithMemoryTransport):
 
 
24
from ..sixish import int2byte
 
 
30
class ErrorTests(tests.TestCase):
 
 
32
    def test_bad_index_format_signature(self):
 
 
33
        error = _mod_index.BadIndexFormatSignature("foo", "bar")
 
 
34
        self.assertEqual("foo is not an index of type bar.",
 
 
37
    def test_bad_index_data(self):
 
 
38
        error = _mod_index.BadIndexData("foo")
 
 
39
        self.assertEqual("Error in data for index foo.",
 
 
42
    def test_bad_index_duplicate_key(self):
 
 
43
        error = _mod_index.BadIndexDuplicateKey("foo", "bar")
 
 
44
        self.assertEqual("The key 'foo' is already in index 'bar'.",
 
 
47
    def test_bad_index_key(self):
 
 
48
        error = _mod_index.BadIndexKey("foo")
 
 
49
        self.assertEqual("The key 'foo' is not a valid key.",
 
 
52
    def test_bad_index_options(self):
 
 
53
        error = _mod_index.BadIndexOptions("foo")
 
 
54
        self.assertEqual("Could not parse options for index foo.",
 
 
57
    def test_bad_index_value(self):
 
 
58
        error = _mod_index.BadIndexValue("foo")
 
 
59
        self.assertEqual("The value 'foo' is not a valid value.",
 
 
63
class TestGraphIndexBuilder(tests.TestCaseWithMemoryTransport):
 
27
65
    def test_build_index_empty(self):
 
28
 
        builder = GraphIndexBuilder()
 
 
66
        builder = _mod_index.GraphIndexBuilder()
 
29
67
        stream = builder.finish()
 
30
68
        contents = stream.read()
 
32
 
            "Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=0\n\n",
 
 
70
            b"Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=0\n\n",
 
35
73
    def test_build_index_empty_two_element_keys(self):
 
36
 
        builder = GraphIndexBuilder(key_elements=2)
 
 
74
        builder = _mod_index.GraphIndexBuilder(key_elements=2)
 
37
75
        stream = builder.finish()
 
38
76
        contents = stream.read()
 
40
 
            "Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=2\nlen=0\n\n",
 
 
78
            b"Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=2\nlen=0\n\n",
 
43
81
    def test_build_index_one_reference_list_empty(self):
 
44
 
        builder = GraphIndexBuilder(reference_lists=1)
 
 
82
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
 
45
83
        stream = builder.finish()
 
46
84
        contents = stream.read()
 
48
 
            "Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=0\n\n",
 
 
86
            b"Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=0\n\n",
 
51
89
    def test_build_index_two_reference_list_empty(self):
 
52
 
        builder = GraphIndexBuilder(reference_lists=2)
 
 
90
        builder = _mod_index.GraphIndexBuilder(reference_lists=2)
 
53
91
        stream = builder.finish()
 
54
92
        contents = stream.read()
 
56
 
            "Bazaar Graph Index 1\nnode_ref_lists=2\nkey_elements=1\nlen=0\n\n",
 
 
94
            b"Bazaar Graph Index 1\nnode_ref_lists=2\nkey_elements=1\nlen=0\n\n",
 
59
97
    def test_build_index_one_node_no_refs(self):
 
60
 
        builder = GraphIndexBuilder()
 
61
 
        builder.add_node(('akey', ), 'data')
 
 
98
        builder = _mod_index.GraphIndexBuilder()
 
 
99
        builder.add_node((b'akey', ), b'data')
 
62
100
        stream = builder.finish()
 
63
101
        contents = stream.read()
 
65
 
            "Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=1\n"
 
66
 
            "akey\x00\x00\x00data\n\n", contents)
 
 
103
            b"Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=1\n"
 
 
104
            b"akey\x00\x00\x00data\n\n", contents)
 
68
106
    def test_build_index_one_node_no_refs_accepts_empty_reflist(self):
 
69
 
        builder = GraphIndexBuilder()
 
70
 
        builder.add_node(('akey', ), 'data', ())
 
 
107
        builder = _mod_index.GraphIndexBuilder()
 
 
108
        builder.add_node((b'akey', ), b'data', ())
 
71
109
        stream = builder.finish()
 
72
110
        contents = stream.read()
 
74
 
            "Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=1\n"
 
75
 
            "akey\x00\x00\x00data\n\n", contents)
 
 
112
            b"Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=1\n"
 
 
113
            b"akey\x00\x00\x00data\n\n", contents)
 
77
115
    def test_build_index_one_node_2_element_keys(self):
 
78
116
        # multipart keys are separated by \x00 - because they are fixed length,
 
79
117
        # not variable this does not cause any issues, and seems clearer to the
 
81
 
        builder = GraphIndexBuilder(key_elements=2)
 
82
 
        builder.add_node(('akey', 'secondpart'), 'data')
 
 
119
        builder = _mod_index.GraphIndexBuilder(key_elements=2)
 
 
120
        builder.add_node((b'akey', b'secondpart'), b'data')
 
83
121
        stream = builder.finish()
 
84
122
        contents = stream.read()
 
86
 
            "Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=2\nlen=1\n"
 
87
 
            "akey\x00secondpart\x00\x00\x00data\n\n", contents)
 
 
124
            b"Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=2\nlen=1\n"
 
 
125
            b"akey\x00secondpart\x00\x00\x00data\n\n", contents)
 
89
127
    def test_add_node_empty_value(self):
 
90
 
        builder = GraphIndexBuilder()
 
91
 
        builder.add_node(('akey', ), '')
 
 
128
        builder = _mod_index.GraphIndexBuilder()
 
 
129
        builder.add_node((b'akey', ), b'')
 
92
130
        stream = builder.finish()
 
93
131
        contents = stream.read()
 
95
 
            "Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=1\n"
 
96
 
            "akey\x00\x00\x00\n\n", contents)
 
 
133
            b"Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=1\n"
 
 
134
            b"akey\x00\x00\x00\n\n", contents)
 
98
136
    def test_build_index_nodes_sorted(self):
 
99
137
        # the highest sorted node comes first.
 
100
 
        builder = GraphIndexBuilder()
 
 
138
        builder = _mod_index.GraphIndexBuilder()
 
101
139
        # use three to have a good chance of glitching dictionary hash
 
102
140
        # lookups etc. Insert in randomish order that is not correct
 
103
141
        # and not the reverse of the correct order.
 
104
 
        builder.add_node(('2002', ), 'data')
 
105
 
        builder.add_node(('2000', ), 'data')
 
106
 
        builder.add_node(('2001', ), 'data')
 
 
142
        builder.add_node((b'2002', ), b'data')
 
 
143
        builder.add_node((b'2000', ), b'data')
 
 
144
        builder.add_node((b'2001', ), b'data')
 
107
145
        stream = builder.finish()
 
108
146
        contents = stream.read()
 
109
147
        self.assertEqual(
 
110
 
            "Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=3\n"
 
111
 
            "2000\x00\x00\x00data\n"
 
112
 
            "2001\x00\x00\x00data\n"
 
113
 
            "2002\x00\x00\x00data\n"
 
 
148
            b"Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=3\n"
 
 
149
            b"2000\x00\x00\x00data\n"
 
 
150
            b"2001\x00\x00\x00data\n"
 
 
151
            b"2002\x00\x00\x00data\n"
 
116
154
    def test_build_index_2_element_key_nodes_sorted(self):
 
117
155
        # multiple element keys are sorted first-key, second-key.
 
118
 
        builder = GraphIndexBuilder(key_elements=2)
 
 
156
        builder = _mod_index.GraphIndexBuilder(key_elements=2)
 
119
157
        # use three values of each key element, to have a good chance of
 
120
158
        # glitching dictionary hash lookups etc. Insert in randomish order that
 
121
159
        # is not correct and not the reverse of the correct order.
 
122
 
        builder.add_node(('2002', '2002'), 'data')
 
123
 
        builder.add_node(('2002', '2000'), 'data')
 
124
 
        builder.add_node(('2002', '2001'), 'data')
 
125
 
        builder.add_node(('2000', '2002'), 'data')
 
126
 
        builder.add_node(('2000', '2000'), 'data')
 
127
 
        builder.add_node(('2000', '2001'), 'data')
 
128
 
        builder.add_node(('2001', '2002'), 'data')
 
129
 
        builder.add_node(('2001', '2000'), 'data')
 
130
 
        builder.add_node(('2001', '2001'), 'data')
 
 
160
        builder.add_node((b'2002', b'2002'), b'data')
 
 
161
        builder.add_node((b'2002', b'2000'), b'data')
 
 
162
        builder.add_node((b'2002', b'2001'), b'data')
 
 
163
        builder.add_node((b'2000', b'2002'), b'data')
 
 
164
        builder.add_node((b'2000', b'2000'), b'data')
 
 
165
        builder.add_node((b'2000', b'2001'), b'data')
 
 
166
        builder.add_node((b'2001', b'2002'), b'data')
 
 
167
        builder.add_node((b'2001', b'2000'), b'data')
 
 
168
        builder.add_node((b'2001', b'2001'), b'data')
 
131
169
        stream = builder.finish()
 
132
170
        contents = stream.read()
 
133
171
        self.assertEqual(
 
134
 
            "Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=2\nlen=9\n"
 
135
 
            "2000\x002000\x00\x00\x00data\n"
 
136
 
            "2000\x002001\x00\x00\x00data\n"
 
137
 
            "2000\x002002\x00\x00\x00data\n"
 
138
 
            "2001\x002000\x00\x00\x00data\n"
 
139
 
            "2001\x002001\x00\x00\x00data\n"
 
140
 
            "2001\x002002\x00\x00\x00data\n"
 
141
 
            "2002\x002000\x00\x00\x00data\n"
 
142
 
            "2002\x002001\x00\x00\x00data\n"
 
143
 
            "2002\x002002\x00\x00\x00data\n"
 
 
172
            b"Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=2\nlen=9\n"
 
 
173
            b"2000\x002000\x00\x00\x00data\n"
 
 
174
            b"2000\x002001\x00\x00\x00data\n"
 
 
175
            b"2000\x002002\x00\x00\x00data\n"
 
 
176
            b"2001\x002000\x00\x00\x00data\n"
 
 
177
            b"2001\x002001\x00\x00\x00data\n"
 
 
178
            b"2001\x002002\x00\x00\x00data\n"
 
 
179
            b"2002\x002000\x00\x00\x00data\n"
 
 
180
            b"2002\x002001\x00\x00\x00data\n"
 
 
181
            b"2002\x002002\x00\x00\x00data\n"
 
146
184
    def test_build_index_reference_lists_are_included_one(self):
 
147
 
        builder = GraphIndexBuilder(reference_lists=1)
 
148
 
        builder.add_node(('key', ), 'data', ([], ))
 
 
185
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
 
 
186
        builder.add_node((b'key', ), b'data', ([], ))
 
149
187
        stream = builder.finish()
 
150
188
        contents = stream.read()
 
151
189
        self.assertEqual(
 
152
 
            "Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=1\n"
 
153
 
            "key\x00\x00\x00data\n"
 
 
190
            b"Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=1\n"
 
 
191
            b"key\x00\x00\x00data\n"
 
156
194
    def test_build_index_reference_lists_with_2_element_keys(self):
 
157
 
        builder = GraphIndexBuilder(reference_lists=1, key_elements=2)
 
158
 
        builder.add_node(('key', 'key2'), 'data', ([], ))
 
 
195
        builder = _mod_index.GraphIndexBuilder(
 
 
196
            reference_lists=1, key_elements=2)
 
 
197
        builder.add_node((b'key', b'key2'), b'data', ([], ))
 
159
198
        stream = builder.finish()
 
160
199
        contents = stream.read()
 
161
200
        self.assertEqual(
 
162
 
            "Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=2\nlen=1\n"
 
163
 
            "key\x00key2\x00\x00\x00data\n"
 
 
201
            b"Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=2\nlen=1\n"
 
 
202
            b"key\x00key2\x00\x00\x00data\n"
 
166
205
    def test_build_index_reference_lists_are_included_two(self):
 
167
 
        builder = GraphIndexBuilder(reference_lists=2)
 
168
 
        builder.add_node(('key', ), 'data', ([], []))
 
 
206
        builder = _mod_index.GraphIndexBuilder(reference_lists=2)
 
 
207
        builder.add_node((b'key', ), b'data', ([], []))
 
169
208
        stream = builder.finish()
 
170
209
        contents = stream.read()
 
171
210
        self.assertEqual(
 
172
 
            "Bazaar Graph Index 1\nnode_ref_lists=2\nkey_elements=1\nlen=1\n"
 
173
 
            "key\x00\x00\t\x00data\n"
 
 
211
            b"Bazaar Graph Index 1\nnode_ref_lists=2\nkey_elements=1\nlen=1\n"
 
 
212
            b"key\x00\x00\t\x00data\n"
 
176
215
    def test_clear_cache(self):
 
177
 
        builder = GraphIndexBuilder(reference_lists=2)
 
 
216
        builder = _mod_index.GraphIndexBuilder(reference_lists=2)
 
178
217
        # This is a no-op, but the api should exist
 
179
218
        builder.clear_cache()
 
181
220
    def test_node_references_are_byte_offsets(self):
 
182
 
        builder = GraphIndexBuilder(reference_lists=1)
 
183
 
        builder.add_node(('reference', ), 'data', ([], ))
 
184
 
        builder.add_node(('key', ), 'data', ([('reference', )], ))
 
 
221
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
 
 
222
        builder.add_node((b'reference', ), b'data', ([], ))
 
 
223
        builder.add_node((b'key', ), b'data', ([(b'reference', )], ))
 
185
224
        stream = builder.finish()
 
186
225
        contents = stream.read()
 
187
226
        self.assertEqual(
 
188
 
            "Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=2\n"
 
189
 
            "key\x00\x0072\x00data\n"
 
190
 
            "reference\x00\x00\x00data\n"
 
 
227
            b"Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=2\n"
 
 
228
            b"key\x00\x0072\x00data\n"
 
 
229
            b"reference\x00\x00\x00data\n"
 
193
232
    def test_node_references_are_cr_delimited(self):
 
194
 
        builder = GraphIndexBuilder(reference_lists=1)
 
195
 
        builder.add_node(('reference', ), 'data', ([], ))
 
196
 
        builder.add_node(('reference2', ), 'data', ([], ))
 
197
 
        builder.add_node(('key', ), 'data', ([('reference', ), ('reference2', )], ))
 
 
233
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
 
 
234
        builder.add_node((b'reference', ), b'data', ([], ))
 
 
235
        builder.add_node((b'reference2', ), b'data', ([], ))
 
 
236
        builder.add_node((b'key', ), b'data',
 
 
237
                         ([(b'reference', ), (b'reference2', )], ))
 
198
238
        stream = builder.finish()
 
199
239
        contents = stream.read()
 
200
240
        self.assertEqual(
 
201
 
            "Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=3\n"
 
202
 
            "key\x00\x00077\r094\x00data\n"
 
203
 
            "reference\x00\x00\x00data\n"
 
204
 
            "reference2\x00\x00\x00data\n"
 
 
241
            b"Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=3\n"
 
 
242
            b"key\x00\x00077\r094\x00data\n"
 
 
243
            b"reference\x00\x00\x00data\n"
 
 
244
            b"reference2\x00\x00\x00data\n"
 
207
247
    def test_multiple_reference_lists_are_tab_delimited(self):
 
208
 
        builder = GraphIndexBuilder(reference_lists=2)
 
209
 
        builder.add_node(('keference', ), 'data', ([], []))
 
210
 
        builder.add_node(('rey', ), 'data', ([('keference', )], [('keference', )]))
 
 
248
        builder = _mod_index.GraphIndexBuilder(reference_lists=2)
 
 
249
        builder.add_node((b'keference', ), b'data', ([], []))
 
 
250
        builder.add_node((b'rey', ), b'data',
 
 
251
                         ([(b'keference', )], [(b'keference', )]))
 
211
252
        stream = builder.finish()
 
212
253
        contents = stream.read()
 
213
254
        self.assertEqual(
 
214
 
            "Bazaar Graph Index 1\nnode_ref_lists=2\nkey_elements=1\nlen=2\n"
 
215
 
            "keference\x00\x00\t\x00data\n"
 
216
 
            "rey\x00\x0059\t59\x00data\n"
 
 
255
            b"Bazaar Graph Index 1\nnode_ref_lists=2\nkey_elements=1\nlen=2\n"
 
 
256
            b"keference\x00\x00\t\x00data\n"
 
 
257
            b"rey\x00\x0059\t59\x00data\n"
 
219
260
    def test_add_node_referencing_missing_key_makes_absent(self):
 
220
 
        builder = GraphIndexBuilder(reference_lists=1)
 
221
 
        builder.add_node(('rey', ), 'data', ([('beference', ), ('aeference2', )], ))
 
 
261
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
 
 
262
        builder.add_node((b'rey', ), b'data',
 
 
263
                         ([(b'beference', ), (b'aeference2', )], ))
 
222
264
        stream = builder.finish()
 
223
265
        contents = stream.read()
 
224
266
        self.assertEqual(
 
225
 
            "Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=1\n"
 
226
 
            "aeference2\x00a\x00\x00\n"
 
227
 
            "beference\x00a\x00\x00\n"
 
228
 
            "rey\x00\x00074\r059\x00data\n"
 
 
267
            b"Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=1\n"
 
 
268
            b"aeference2\x00a\x00\x00\n"
 
 
269
            b"beference\x00a\x00\x00\n"
 
 
270
            b"rey\x00\x00074\r059\x00data\n"
 
231
273
    def test_node_references_three_digits(self):
 
232
274
        # test the node digit expands as needed.
 
233
 
        builder = GraphIndexBuilder(reference_lists=1)
 
234
 
        references = [(str(val), ) for val in reversed(range(9))]
 
235
 
        builder.add_node(('2-key', ), '', (references, ))
 
 
275
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
 
 
276
        references = [((b"%d" % val), ) for val in range(8, -1, -1)]
 
 
277
        builder.add_node((b'2-key', ), b'', (references, ))
 
236
278
        stream = builder.finish()
 
237
279
        contents = stream.read()
 
238
280
        self.assertEqualDiff(
 
239
 
            "Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=1\n"
 
243
 
            "2-key\x00\x00151\r145\r139\r133\r127\r121\r071\r065\r059\x00\n"
 
 
281
            b"Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=1\n"
 
 
285
            b"2-key\x00\x00151\r145\r139\r133\r127\r121\r071\r065\r059\x00\n"
 
252
294
    def test_absent_has_no_reference_overhead(self):
 
253
295
        # the offsets after an absent record should be correct when there are
 
254
296
        # >1 reference lists.
 
255
 
        builder = GraphIndexBuilder(reference_lists=2)
 
256
 
        builder.add_node(('parent', ), '', ([('aail', ), ('zther', )], []))
 
 
297
        builder = _mod_index.GraphIndexBuilder(reference_lists=2)
 
 
298
        builder.add_node((b'parent', ), b'', ([(b'aail', ), (b'zther', )], []))
 
257
299
        stream = builder.finish()
 
258
300
        contents = stream.read()
 
259
301
        self.assertEqual(
 
260
 
            "Bazaar Graph Index 1\nnode_ref_lists=2\nkey_elements=1\nlen=1\n"
 
261
 
            "aail\x00a\x00\x00\n"
 
262
 
            "parent\x00\x0059\r84\t\x00\n"
 
263
 
            "zther\x00a\x00\x00\n"
 
 
302
            b"Bazaar Graph Index 1\nnode_ref_lists=2\nkey_elements=1\nlen=1\n"
 
 
303
            b"aail\x00a\x00\x00\n"
 
 
304
            b"parent\x00\x0059\r84\t\x00\n"
 
 
305
            b"zther\x00a\x00\x00\n"
 
266
308
    def test_add_node_bad_key(self):
 
267
 
        builder = GraphIndexBuilder()
 
268
 
        for bad_char in '\t\n\x0b\x0c\r\x00 ':
 
269
 
            self.assertRaises(errors.BadIndexKey, builder.add_node,
 
270
 
                ('a%skey' % bad_char, ), 'data')
 
271
 
        self.assertRaises(errors.BadIndexKey, builder.add_node,
 
273
 
        self.assertRaises(errors.BadIndexKey, builder.add_node,
 
274
 
                'not-a-tuple', 'data')
 
 
309
        builder = _mod_index.GraphIndexBuilder()
 
 
310
        for bad_char in bytearray(b'\t\n\x0b\x0c\r\x00 '):
 
 
311
            self.assertRaises(_mod_index.BadIndexKey, builder.add_node,
 
 
312
                              (b'a%skey' % int2byte(bad_char), ), b'data')
 
 
313
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node,
 
 
315
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node,
 
 
316
                          b'not-a-tuple', b'data')
 
275
317
        # not enough length
 
276
 
        self.assertRaises(errors.BadIndexKey, builder.add_node,
 
 
318
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node,
 
279
 
        self.assertRaises(errors.BadIndexKey, builder.add_node,
 
280
 
                ('primary', 'secondary'), 'data')
 
 
321
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node,
 
 
322
                          (b'primary', b'secondary'), b'data')
 
281
323
        # secondary key elements get checked too:
 
282
 
        builder = GraphIndexBuilder(key_elements=2)
 
283
 
        for bad_char in '\t\n\x0b\x0c\r\x00 ':
 
284
 
            self.assertRaises(errors.BadIndexKey, builder.add_node,
 
285
 
                ('prefix', 'a%skey' % bad_char), 'data')
 
 
324
        builder = _mod_index.GraphIndexBuilder(key_elements=2)
 
 
325
        for bad_char in bytearray(b'\t\n\x0b\x0c\r\x00 '):
 
 
326
            self.assertRaises(_mod_index.BadIndexKey, builder.add_node,
 
 
327
                              (b'prefix', b'a%skey' % int2byte(bad_char)), b'data')
 
287
329
    def test_add_node_bad_data(self):
 
288
 
        builder = GraphIndexBuilder()
 
289
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
 
291
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
 
 
330
        builder = _mod_index.GraphIndexBuilder()
 
 
331
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
 
333
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
294
336
    def test_add_node_bad_mismatched_ref_lists_length(self):
 
295
 
        builder = GraphIndexBuilder()
 
296
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
 
298
 
        builder = GraphIndexBuilder(reference_lists=1)
 
299
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
 
301
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
 
303
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
 
305
 
        builder = GraphIndexBuilder(reference_lists=2)
 
306
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
 
308
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
 
310
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
 
311
 
            'data aa', ([], [], []))
 
 
337
        builder = _mod_index.GraphIndexBuilder()
 
 
338
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
 
340
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
 
 
341
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
 
343
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
 
345
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
 
346
                          b'data aa', ([], []))
 
 
347
        builder = _mod_index.GraphIndexBuilder(reference_lists=2)
 
 
348
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
 
350
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
 
352
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
 
353
                          b'data aa', ([], [], []))
 
313
355
    def test_add_node_bad_key_in_reference_lists(self):
 
314
356
        # first list, first key - trivial
 
315
 
        builder = GraphIndexBuilder(reference_lists=1)
 
316
 
        self.assertRaises(errors.BadIndexKey, builder.add_node, ('akey', ),
 
317
 
            'data aa', ([('a key', )], ))
 
 
357
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
 
 
358
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node, (b'akey', ),
 
 
359
                          b'data aa', ([(b'a key', )], ))
 
318
360
        # references keys must be tuples too
 
319
 
        self.assertRaises(errors.BadIndexKey, builder.add_node, ('akey', ),
 
320
 
            'data aa', (['not-a-tuple'], ))
 
 
361
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node, (b'akey', ),
 
 
362
                          b'data aa', (['not-a-tuple'], ))
 
321
363
        # not enough length
 
322
 
        self.assertRaises(errors.BadIndexKey, builder.add_node, ('akey', ),
 
 
364
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node, (b'akey', ),
 
 
365
                          b'data aa', ([()], ))
 
325
 
        self.assertRaises(errors.BadIndexKey, builder.add_node, ('akey', ),
 
326
 
            'data aa', ([('primary', 'secondary')], ))
 
 
367
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node, (b'akey', ),
 
 
368
                          b'data aa', ([(b'primary', b'secondary')], ))
 
327
369
        # need to check more than the first key in the list
 
328
 
        self.assertRaises(errors.BadIndexKey, builder.add_node, ('akey', ),
 
329
 
            'data aa', ([('agoodkey', ), ('that is a bad key', )], ))
 
 
370
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node, (b'akey', ),
 
 
371
                          b'data aa', ([(b'agoodkey', ), (b'that is a bad key', )], ))
 
330
372
        # and if there is more than one list it should be getting checked
 
332
 
        builder = GraphIndexBuilder(reference_lists=2)
 
333
 
        self.assertRaises(errors.BadIndexKey, builder.add_node, ('akey', ),
 
334
 
            'data aa', ([], ['a bad key']))
 
 
374
        builder = _mod_index.GraphIndexBuilder(reference_lists=2)
 
 
375
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node, (b'akey', ),
 
 
376
                          b'data aa', ([], ['a bad key']))
 
336
378
    def test_add_duplicate_key(self):
 
337
 
        builder = GraphIndexBuilder()
 
338
 
        builder.add_node(('key', ), 'data')
 
339
 
        self.assertRaises(errors.BadIndexDuplicateKey, builder.add_node, ('key', ),
 
 
379
        builder = _mod_index.GraphIndexBuilder()
 
 
380
        builder.add_node((b'key', ), b'data')
 
 
381
        self.assertRaises(_mod_index.BadIndexDuplicateKey,
 
 
382
                          builder.add_node, (b'key', ), b'data')
 
342
384
    def test_add_duplicate_key_2_elements(self):
 
343
 
        builder = GraphIndexBuilder(key_elements=2)
 
344
 
        builder.add_node(('key', 'key'), 'data')
 
345
 
        self.assertRaises(errors.BadIndexDuplicateKey, builder.add_node,
 
346
 
            ('key', 'key'), 'data')
 
 
385
        builder = _mod_index.GraphIndexBuilder(key_elements=2)
 
 
386
        builder.add_node((b'key', b'key'), b'data')
 
 
387
        self.assertRaises(_mod_index.BadIndexDuplicateKey, builder.add_node,
 
 
388
                          (b'key', b'key'), b'data')
 
348
390
    def test_add_key_after_referencing_key(self):
 
349
 
        builder = GraphIndexBuilder(reference_lists=1)
 
350
 
        builder.add_node(('key', ), 'data', ([('reference', )], ))
 
351
 
        builder.add_node(('reference', ), 'data', ([],))
 
 
391
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
 
 
392
        builder.add_node((b'key', ), b'data', ([(b'reference', )], ))
 
 
393
        builder.add_node((b'reference', ), b'data', ([],))
 
353
395
    def test_add_key_after_referencing_key_2_elements(self):
 
354
 
        builder = GraphIndexBuilder(reference_lists=1, key_elements=2)
 
355
 
        builder.add_node(('k', 'ey'), 'data', ([('reference', 'tokey')], ))
 
356
 
        builder.add_node(('reference', 'tokey'), 'data', ([],))
 
 
396
        builder = _mod_index.GraphIndexBuilder(
 
 
397
            reference_lists=1, key_elements=2)
 
 
398
        builder.add_node((b'k', b'ey'), b'data',
 
 
399
                         ([(b'reference', b'tokey')], ))
 
 
400
        builder.add_node((b'reference', b'tokey'), b'data', ([],))
 
358
402
    def test_set_optimize(self):
 
359
 
        builder = GraphIndexBuilder(reference_lists=1, key_elements=2)
 
 
403
        builder = _mod_index.GraphIndexBuilder(
 
 
404
            reference_lists=1, key_elements=2)
 
360
405
        builder.set_optimize(for_size=True)
 
361
406
        self.assertTrue(builder._optimize_for_size)
 
362
407
        builder.set_optimize(for_size=False)
 
363
408
        self.assertFalse(builder._optimize_for_size)
 
366
 
class TestGraphIndex(TestCaseWithMemoryTransport):
 
 
411
class TestGraphIndex(tests.TestCaseWithMemoryTransport):
 
368
413
    def make_key(self, number):
 
369
 
        return (str(number) + 'X'*100,)
 
 
414
        return ((b'%d' % number) + b'X' * 100,)
 
371
416
    def make_value(self, number):
 
372
 
            return str(number) + 'Y'*100
 
 
417
        return (b'%d' % number) + b'Y' * 100
 
374
419
    def make_nodes(self, count=64):
 
375
420
        # generate a big enough index that we only read some of it on a typical
 
376
421
        # bisection lookup.
 
378
423
        for counter in range(count):
 
379
 
            nodes.append((self.make_key(counter), self.make_value(counter), ()))
 
 
425
                (self.make_key(counter), self.make_value(counter), ()))
 
382
428
    def make_index(self, ref_lists=0, key_elements=1, nodes=[]):
 
383
 
        builder = GraphIndexBuilder(ref_lists, key_elements=key_elements)
 
 
429
        builder = _mod_index.GraphIndexBuilder(
 
 
430
            ref_lists, key_elements=key_elements)
 
384
431
        for key, value, references in nodes:
 
385
432
            builder.add_node(key, value, references)
 
386
433
        stream = builder.finish()
 
387
 
        trans = get_transport('trace+' + self.get_url())
 
 
434
        trans = transport.get_transport_from_url('trace+' + self.get_url())
 
388
435
        size = trans.put_file('index', stream)
 
389
 
        return GraphIndex(trans, 'index', size)
 
 
436
        return _mod_index.GraphIndex(trans, 'index', size)
 
391
438
    def make_index_with_offset(self, ref_lists=0, key_elements=1, nodes=[],
 
393
 
        builder = GraphIndexBuilder(ref_lists, key_elements=key_elements)
 
 
440
        builder = _mod_index.GraphIndexBuilder(
 
 
441
            ref_lists, key_elements=key_elements)
 
394
442
        for key, value, references in nodes:
 
395
443
            builder.add_node(key, value, references)
 
396
444
        content = builder.finish().read()
 
397
445
        size = len(content)
 
398
446
        trans = self.get_transport()
 
399
 
        trans.put_bytes('index', (' '*offset) + content)
 
400
 
        return GraphIndex(trans, 'index', size, offset=offset)
 
 
447
        trans.put_bytes('index', (b' ' * offset) + content)
 
 
448
        return _mod_index.GraphIndex(trans, 'index', size, offset=offset)
 
402
450
    def test_clear_cache(self):
 
403
451
        index = self.make_index()
 
 
782
830
    def test_iter_entries_references_resolved(self):
 
783
831
        index = self.make_index(1, nodes=[
 
784
 
            (('name', ), 'data', ([('ref', ), ('ref', )], )),
 
785
 
            (('ref', ), 'refdata', ([], ))])
 
786
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),('ref',)),)),
 
787
 
            (index, ('ref', ), 'refdata', ((), ))]),
 
788
 
            set(index.iter_entries([('name',), ('ref',)])))
 
 
832
            ((b'name', ), b'data', ([(b'ref', ), (b'ref', )], )),
 
 
833
            ((b'ref', ), b'refdata', ([], ))])
 
 
834
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',), (b'ref',)),)),
 
 
835
                          (index, (b'ref', ), b'refdata', ((), ))},
 
 
836
                         set(index.iter_entries([(b'name',), (b'ref',)])))
 
790
838
    def test_iter_entries_references_2_refs_resolved(self):
 
791
839
        index = self.make_index(2, nodes=[
 
792
 
            (('name', ), 'data', ([('ref', )], [('ref', )])),
 
793
 
            (('ref', ), 'refdata', ([], []))])
 
794
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),), (('ref',),))),
 
795
 
            (index, ('ref', ), 'refdata', ((), ()))]),
 
796
 
            set(index.iter_entries([('name',), ('ref',)])))
 
 
840
            ((b'name', ), b'data', ([(b'ref', )], [(b'ref', )])),
 
 
841
            ((b'ref', ), b'refdata', ([], []))])
 
 
842
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),), ((b'ref',),))),
 
 
843
                          (index, (b'ref', ), b'refdata', ((), ()))},
 
 
844
                         set(index.iter_entries([(b'name',), (b'ref',)])))
 
798
846
    def test_iteration_absent_skipped(self):
 
799
847
        index = self.make_index(1, nodes=[
 
800
 
            (('name', ), 'data', ([('ref', )], ))])
 
801
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),),))]),
 
802
 
            set(index.iter_all_entries()))
 
803
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),),))]),
 
804
 
            set(index.iter_entries([('name', )])))
 
805
 
        self.assertEqual([], list(index.iter_entries([('ref', )])))
 
 
848
            ((b'name', ), b'data', ([(b'ref', )], ))])
 
 
849
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),),))},
 
 
850
                         set(index.iter_all_entries()))
 
 
851
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),),))},
 
 
852
                         set(index.iter_entries([(b'name', )])))
 
 
853
        self.assertEqual([], list(index.iter_entries([(b'ref', )])))
 
807
855
    def test_iteration_absent_skipped_2_element_keys(self):
 
808
856
        index = self.make_index(1, key_elements=2, nodes=[
 
809
 
            (('name', 'fin'), 'data', ([('ref', 'erence')], ))])
 
810
 
        self.assertEqual(set([(index, ('name', 'fin'), 'data', ((('ref', 'erence'),),))]),
 
811
 
            set(index.iter_all_entries()))
 
812
 
        self.assertEqual(set([(index, ('name', 'fin'), 'data', ((('ref', 'erence'),),))]),
 
813
 
            set(index.iter_entries([('name', 'fin')])))
 
814
 
        self.assertEqual([], list(index.iter_entries([('ref', 'erence')])))
 
 
857
            ((b'name', b'fin'), b'data', ([(b'ref', b'erence')], ))])
 
 
858
        self.assertEqual([(index, (b'name', b'fin'), b'data', (((b'ref', b'erence'),),))],
 
 
859
                         list(index.iter_all_entries()))
 
 
860
        self.assertEqual([(index, (b'name', b'fin'), b'data', (((b'ref', b'erence'),),))],
 
 
861
                         list(index.iter_entries([(b'name', b'fin')])))
 
 
862
        self.assertEqual([], list(index.iter_entries([(b'ref', b'erence')])))
 
816
864
    def test_iter_all_keys(self):
 
817
865
        index = self.make_index(1, nodes=[
 
818
 
            (('name', ), 'data', ([('ref', )], )),
 
819
 
            (('ref', ), 'refdata', ([], ))])
 
820
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),),)),
 
821
 
            (index, ('ref', ), 'refdata', ((), ))]),
 
822
 
            set(index.iter_entries([('name', ), ('ref', )])))
 
 
866
            ((b'name', ), b'data', ([(b'ref', )], )),
 
 
867
            ((b'ref', ), b'refdata', ([], ))])
 
 
868
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),),)),
 
 
869
                          (index, (b'ref', ), b'refdata', ((), ))},
 
 
870
                         set(index.iter_entries([(b'name', ), (b'ref', )])))
 
824
872
    def test_iter_nothing_empty(self):
 
825
873
        index = self.make_index()
 
 
828
876
    def test_iter_missing_entry_empty(self):
 
829
877
        index = self.make_index()
 
830
 
        self.assertEqual([], list(index.iter_entries([('a', )])))
 
 
878
        self.assertEqual([], list(index.iter_entries([(b'a', )])))
 
832
880
    def test_iter_missing_entry_empty_no_size(self):
 
833
 
        index = self.make_index()
 
834
 
        index = GraphIndex(index._transport, 'index', None)
 
835
 
        self.assertEqual([], list(index.iter_entries([('a', )])))
 
 
881
        idx = self.make_index()
 
 
882
        idx = _mod_index.GraphIndex(idx._transport, 'index', None)
 
 
883
        self.assertEqual([], list(idx.iter_entries([(b'a', )])))
 
837
885
    def test_iter_key_prefix_1_element_key_None(self):
 
838
886
        index = self.make_index()
 
839
 
        self.assertRaises(errors.BadIndexKey, list,
 
840
 
            index.iter_entries_prefix([(None, )]))
 
 
887
        self.assertRaises(_mod_index.BadIndexKey, list,
 
 
888
                          index.iter_entries_prefix([(None, )]))
 
842
890
    def test_iter_key_prefix_wrong_length(self):
 
843
891
        index = self.make_index()
 
844
 
        self.assertRaises(errors.BadIndexKey, list,
 
845
 
            index.iter_entries_prefix([('foo', None)]))
 
 
892
        self.assertRaises(_mod_index.BadIndexKey, list,
 
 
893
                          index.iter_entries_prefix([(b'foo', None)]))
 
846
894
        index = self.make_index(key_elements=2)
 
847
 
        self.assertRaises(errors.BadIndexKey, list,
 
848
 
            index.iter_entries_prefix([('foo', )]))
 
849
 
        self.assertRaises(errors.BadIndexKey, list,
 
850
 
            index.iter_entries_prefix([('foo', None, None)]))
 
 
895
        self.assertRaises(_mod_index.BadIndexKey, list,
 
 
896
                          index.iter_entries_prefix([(b'foo', )]))
 
 
897
        self.assertRaises(_mod_index.BadIndexKey, list,
 
 
898
                          index.iter_entries_prefix([(b'foo', None, None)]))
 
852
900
    def test_iter_key_prefix_1_key_element_no_refs(self):
 
853
 
        index = self.make_index( nodes=[
 
854
 
            (('name', ), 'data', ()),
 
855
 
            (('ref', ), 'refdata', ())])
 
856
 
        self.assertEqual(set([(index, ('name', ), 'data'),
 
857
 
            (index, ('ref', ), 'refdata')]),
 
858
 
            set(index.iter_entries_prefix([('name', ), ('ref', )])))
 
 
901
        index = self.make_index(nodes=[
 
 
902
            ((b'name', ), b'data', ()),
 
 
903
            ((b'ref', ), b'refdata', ())])
 
 
904
        self.assertEqual({(index, (b'name', ), b'data'),
 
 
905
                          (index, (b'ref', ), b'refdata')},
 
 
906
                         set(index.iter_entries_prefix([(b'name', ), (b'ref', )])))
 
860
908
    def test_iter_key_prefix_1_key_element_refs(self):
 
861
909
        index = self.make_index(1, nodes=[
 
862
 
            (('name', ), 'data', ([('ref', )], )),
 
863
 
            (('ref', ), 'refdata', ([], ))])
 
864
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),),)),
 
865
 
            (index, ('ref', ), 'refdata', ((), ))]),
 
866
 
            set(index.iter_entries_prefix([('name', ), ('ref', )])))
 
 
910
            ((b'name', ), b'data', ([(b'ref', )], )),
 
 
911
            ((b'ref', ), b'refdata', ([], ))])
 
 
912
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),),)),
 
 
913
                          (index, (b'ref', ), b'refdata', ((), ))},
 
 
914
                         set(index.iter_entries_prefix([(b'name', ), (b'ref', )])))
 
868
916
    def test_iter_key_prefix_2_key_element_no_refs(self):
 
869
917
        index = self.make_index(key_elements=2, nodes=[
 
870
 
            (('name', 'fin1'), 'data', ()),
 
871
 
            (('name', 'fin2'), 'beta', ()),
 
872
 
            (('ref', 'erence'), 'refdata', ())])
 
873
 
        self.assertEqual(set([(index, ('name', 'fin1'), 'data'),
 
874
 
            (index, ('ref', 'erence'), 'refdata')]),
 
875
 
            set(index.iter_entries_prefix([('name', 'fin1'), ('ref', 'erence')])))
 
876
 
        self.assertEqual(set([(index, ('name', 'fin1'), 'data'),
 
877
 
            (index, ('name', 'fin2'), 'beta')]),
 
878
 
            set(index.iter_entries_prefix([('name', None)])))
 
 
918
            ((b'name', b'fin1'), b'data', ()),
 
 
919
            ((b'name', b'fin2'), b'beta', ()),
 
 
920
            ((b'ref', b'erence'), b'refdata', ())])
 
 
921
        self.assertEqual({(index, (b'name', b'fin1'), b'data'),
 
 
922
                          (index, (b'ref', b'erence'), b'refdata')},
 
 
923
                         set(index.iter_entries_prefix([(b'name', b'fin1'), (b'ref', b'erence')])))
 
 
924
        self.assertEqual({(index, (b'name', b'fin1'), b'data'),
 
 
925
                          (index, (b'name', b'fin2'), b'beta')},
 
 
926
                         set(index.iter_entries_prefix([(b'name', None)])))
 
880
928
    def test_iter_key_prefix_2_key_element_refs(self):
 
881
929
        index = self.make_index(1, key_elements=2, nodes=[
 
882
 
            (('name', 'fin1'), 'data', ([('ref', 'erence')], )),
 
883
 
            (('name', 'fin2'), 'beta', ([], )),
 
884
 
            (('ref', 'erence'), 'refdata', ([], ))])
 
885
 
        self.assertEqual(set([(index, ('name', 'fin1'), 'data', ((('ref', 'erence'),),)),
 
886
 
            (index, ('ref', 'erence'), 'refdata', ((), ))]),
 
887
 
            set(index.iter_entries_prefix([('name', 'fin1'), ('ref', 'erence')])))
 
888
 
        self.assertEqual(set([(index, ('name', 'fin1'), 'data', ((('ref', 'erence'),),)),
 
889
 
            (index, ('name', 'fin2'), 'beta', ((), ))]),
 
890
 
            set(index.iter_entries_prefix([('name', None)])))
 
 
930
            ((b'name', b'fin1'), b'data', ([(b'ref', b'erence')], )),
 
 
931
            ((b'name', b'fin2'), b'beta', ([], )),
 
 
932
            ((b'ref', b'erence'), b'refdata', ([], ))])
 
 
933
        self.assertEqual({(index, (b'name', b'fin1'), b'data', (((b'ref', b'erence'),),)),
 
 
934
                          (index, (b'ref', b'erence'), b'refdata', ((), ))},
 
 
935
                         set(index.iter_entries_prefix([(b'name', b'fin1'), (b'ref', b'erence')])))
 
 
936
        self.assertEqual({(index, (b'name', b'fin1'), b'data', (((b'ref', b'erence'),),)),
 
 
937
                          (index, (b'name', b'fin2'), b'beta', ((), ))},
 
 
938
                         set(index.iter_entries_prefix([(b'name', None)])))
 
892
940
    def test_key_count_empty(self):
 
893
941
        index = self.make_index()
 
894
942
        self.assertEqual(0, index.key_count())
 
896
944
    def test_key_count_one(self):
 
897
 
        index = self.make_index(nodes=[(('name', ), '', ())])
 
 
945
        index = self.make_index(nodes=[((b'name', ), b'', ())])
 
898
946
        self.assertEqual(1, index.key_count())
 
900
948
    def test_key_count_two(self):
 
901
949
        index = self.make_index(nodes=[
 
902
 
            (('name', ), '', ()), (('foo', ), '', ())])
 
 
950
            ((b'name', ), b'', ()), ((b'foo', ), b'', ())])
 
903
951
        self.assertEqual(2, index.key_count())
 
905
953
    def test_read_and_parse_tracks_real_read_value(self):
 
 
1128
1180
                log.append(self._index)
 
1129
1181
                return self._index.clear_cache()
 
1131
 
        index = CombinedGraphIndex([])
 
1132
 
        index1 = self.make_index('name', 0, nodes=[(('key', ), '', ())])
 
1133
 
        index.insert_index(0, ClearCacheProxy(index1))
 
1134
 
        index2 = self.make_index('name', 0, nodes=[(('key', ), '', ())])
 
1135
 
        index.insert_index(1, ClearCacheProxy(index2))
 
 
1183
        idx = _mod_index.CombinedGraphIndex([])
 
 
1184
        idx1 = self.make_index('name', 0, nodes=[((b'key', ), b'', ())])
 
 
1185
        idx.insert_index(0, ClearCacheProxy(idx1))
 
 
1186
        idx2 = self.make_index('name', 0, nodes=[((b'key', ), b'', ())])
 
 
1187
        idx.insert_index(1, ClearCacheProxy(idx2))
 
1136
1188
        # CombinedGraphIndex should call 'clear_cache()' on all children
 
1138
 
        self.assertEqual(sorted([index1, index2]), sorted(log))
 
 
1190
        self.assertEqual(sorted([idx1, idx2]), sorted(log))
 
1140
1192
    def test_iter_all_entries_empty(self):
 
1141
 
        index = CombinedGraphIndex([])
 
1142
 
        self.assertEqual([], list(index.iter_all_entries()))
 
 
1193
        idx = _mod_index.CombinedGraphIndex([])
 
 
1194
        self.assertEqual([], list(idx.iter_all_entries()))
 
1144
1196
    def test_iter_all_entries_children_empty(self):
 
1145
 
        index1 = self.make_index('name')
 
1146
 
        index = CombinedGraphIndex([index1])
 
1147
 
        self.assertEqual([], list(index.iter_all_entries()))
 
 
1197
        idx1 = self.make_index('name')
 
 
1198
        idx = _mod_index.CombinedGraphIndex([idx1])
 
 
1199
        self.assertEqual([], list(idx.iter_all_entries()))
 
1149
1201
    def test_iter_all_entries_simple(self):
 
1150
 
        index1 = self.make_index('name', nodes=[(('name', ), 'data', ())])
 
1151
 
        index = CombinedGraphIndex([index1])
 
1152
 
        self.assertEqual([(index1, ('name', ), 'data')],
 
1153
 
            list(index.iter_all_entries()))
 
 
1202
        idx1 = self.make_index('name', nodes=[((b'name', ), b'data', ())])
 
 
1203
        idx = _mod_index.CombinedGraphIndex([idx1])
 
 
1204
        self.assertEqual([(idx1, (b'name', ), b'data')],
 
 
1205
                         list(idx.iter_all_entries()))
 
1155
1207
    def test_iter_all_entries_two_indices(self):
 
1156
 
        index1 = self.make_index('name1', nodes=[(('name', ), 'data', ())])
 
1157
 
        index2 = self.make_index('name2', nodes=[(('2', ), '', ())])
 
1158
 
        index = CombinedGraphIndex([index1, index2])
 
1159
 
        self.assertEqual([(index1, ('name', ), 'data'),
 
1160
 
            (index2, ('2', ), '')],
 
1161
 
            list(index.iter_all_entries()))
 
 
1208
        idx1 = self.make_index('name1', nodes=[((b'name', ), b'data', ())])
 
 
1209
        idx2 = self.make_index('name2', nodes=[((b'2', ), b'', ())])
 
 
1210
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
 
1211
        self.assertEqual([(idx1, (b'name', ), b'data'),
 
 
1212
                          (idx2, (b'2', ), b'')],
 
 
1213
                         list(idx.iter_all_entries()))
 
1163
1215
    def test_iter_entries_two_indices_dup_key(self):
 
1164
 
        index1 = self.make_index('name1', nodes=[(('name', ), 'data', ())])
 
1165
 
        index2 = self.make_index('name2', nodes=[(('name', ), 'data', ())])
 
1166
 
        index = CombinedGraphIndex([index1, index2])
 
1167
 
        self.assertEqual([(index1, ('name', ), 'data')],
 
1168
 
            list(index.iter_entries([('name', )])))
 
 
1216
        idx1 = self.make_index('name1', nodes=[((b'name', ), b'data', ())])
 
 
1217
        idx2 = self.make_index('name2', nodes=[((b'name', ), b'data', ())])
 
 
1218
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
 
1219
        self.assertEqual([(idx1, (b'name', ), b'data')],
 
 
1220
                         list(idx.iter_entries([(b'name', )])))
 
1170
1222
    def test_iter_all_entries_two_indices_dup_key(self):
 
1171
 
        index1 = self.make_index('name1', nodes=[(('name', ), 'data', ())])
 
1172
 
        index2 = self.make_index('name2', nodes=[(('name', ), 'data', ())])
 
1173
 
        index = CombinedGraphIndex([index1, index2])
 
1174
 
        self.assertEqual([(index1, ('name', ), 'data')],
 
1175
 
            list(index.iter_all_entries()))
 
 
1223
        idx1 = self.make_index('name1', nodes=[((b'name', ), b'data', ())])
 
 
1224
        idx2 = self.make_index('name2', nodes=[((b'name', ), b'data', ())])
 
 
1225
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
 
1226
        self.assertEqual([(idx1, (b'name', ), b'data')],
 
 
1227
                         list(idx.iter_all_entries()))
 
1177
1229
    def test_iter_key_prefix_2_key_element_refs(self):
 
1178
 
        index1 = self.make_index('1', 1, key_elements=2, nodes=[
 
1179
 
            (('name', 'fin1'), 'data', ([('ref', 'erence')], ))])
 
1180
 
        index2 = self.make_index('2', 1, key_elements=2, nodes=[
 
1181
 
            (('name', 'fin2'), 'beta', ([], )),
 
1182
 
            (('ref', 'erence'), 'refdata', ([], ))])
 
1183
 
        index = CombinedGraphIndex([index1, index2])
 
1184
 
        self.assertEqual(set([(index1, ('name', 'fin1'), 'data', ((('ref', 'erence'),),)),
 
1185
 
            (index2, ('ref', 'erence'), 'refdata', ((), ))]),
 
1186
 
            set(index.iter_entries_prefix([('name', 'fin1'), ('ref', 'erence')])))
 
1187
 
        self.assertEqual(set([(index1, ('name', 'fin1'), 'data', ((('ref', 'erence'),),)),
 
1188
 
            (index2, ('name', 'fin2'), 'beta', ((), ))]),
 
1189
 
            set(index.iter_entries_prefix([('name', None)])))
 
 
1230
        idx1 = self.make_index('1', 1, key_elements=2, nodes=[
 
 
1231
            ((b'name', b'fin1'), b'data', ([(b'ref', b'erence')], ))])
 
 
1232
        idx2 = self.make_index('2', 1, key_elements=2, nodes=[
 
 
1233
            ((b'name', b'fin2'), b'beta', ([], )),
 
 
1234
            ((b'ref', b'erence'), b'refdata', ([], ))])
 
 
1235
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
 
1236
        self.assertEqual({(idx1, (b'name', b'fin1'), b'data',
 
 
1237
                           (((b'ref', b'erence'),),)),
 
 
1238
                          (idx2, (b'ref', b'erence'), b'refdata', ((), ))},
 
 
1239
                         set(idx.iter_entries_prefix([(b'name', b'fin1'),
 
 
1240
                                                      (b'ref', b'erence')])))
 
 
1241
        self.assertEqual({(idx1, (b'name', b'fin1'), b'data',
 
 
1242
                           (((b'ref', b'erence'),),)),
 
 
1243
                          (idx2, (b'name', b'fin2'), b'beta', ((), ))},
 
 
1244
                         set(idx.iter_entries_prefix([(b'name', None)])))
 
1191
1246
    def test_iter_nothing_empty(self):
 
1192
 
        index = CombinedGraphIndex([])
 
1193
 
        self.assertEqual([], list(index.iter_entries([])))
 
 
1247
        idx = _mod_index.CombinedGraphIndex([])
 
 
1248
        self.assertEqual([], list(idx.iter_entries([])))
 
1195
1250
    def test_iter_nothing_children_empty(self):
 
1196
 
        index1 = self.make_index('name')
 
1197
 
        index = CombinedGraphIndex([index1])
 
1198
 
        self.assertEqual([], list(index.iter_entries([])))
 
 
1251
        idx1 = self.make_index('name')
 
 
1252
        idx = _mod_index.CombinedGraphIndex([idx1])
 
 
1253
        self.assertEqual([], list(idx.iter_entries([])))
 
1200
1255
    def test_iter_all_keys(self):
 
1201
 
        index1 = self.make_index('1', 1, nodes=[
 
1202
 
            (('name', ), 'data', ([('ref', )], ))])
 
1203
 
        index2 = self.make_index('2', 1, nodes=[
 
1204
 
            (('ref', ), 'refdata', ((), ))])
 
1205
 
        index = CombinedGraphIndex([index1, index2])
 
1206
 
        self.assertEqual(set([(index1, ('name', ), 'data', ((('ref', ), ), )),
 
1207
 
            (index2, ('ref', ), 'refdata', ((), ))]),
 
1208
 
            set(index.iter_entries([('name', ), ('ref', )])))
 
 
1256
        idx1 = self.make_index('1', 1, nodes=[((b'name', ), b'data',
 
 
1258
        idx2 = self.make_index(
 
 
1259
            '2', 1, nodes=[((b'ref', ), b'refdata', ((), ))])
 
 
1260
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
 
1261
        self.assertEqual({(idx1, (b'name', ), b'data', (((b'ref', ), ), )),
 
 
1262
                          (idx2, (b'ref', ), b'refdata', ((), ))},
 
 
1263
                         set(idx.iter_entries([(b'name', ), (b'ref', )])))
 
1210
1265
    def test_iter_all_keys_dup_entry(self):
 
1211
 
        index1 = self.make_index('1', 1, nodes=[
 
1212
 
            (('name', ), 'data', ([('ref', )], )),
 
1213
 
            (('ref', ), 'refdata', ([], ))])
 
1214
 
        index2 = self.make_index('2', 1, nodes=[
 
1215
 
            (('ref', ), 'refdata', ([], ))])
 
1216
 
        index = CombinedGraphIndex([index1, index2])
 
1217
 
        self.assertEqual(set([(index1, ('name', ), 'data', ((('ref',),),)),
 
1218
 
            (index1, ('ref', ), 'refdata', ((), ))]),
 
1219
 
            set(index.iter_entries([('name', ), ('ref', )])))
 
 
1266
        idx1 = self.make_index('1', 1, nodes=[((b'name', ), b'data',
 
 
1268
                                              ((b'ref', ), b'refdata', ([], ))])
 
 
1269
        idx2 = self.make_index(
 
 
1270
            '2', 1, nodes=[((b'ref', ), b'refdata', ([], ))])
 
 
1271
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
 
1272
        self.assertEqual({(idx1, (b'name', ), b'data', (((b'ref',),),)),
 
 
1273
                          (idx1, (b'ref', ), b'refdata', ((), ))},
 
 
1274
                         set(idx.iter_entries([(b'name', ), (b'ref', )])))
 
1221
1276
    def test_iter_missing_entry_empty(self):
 
1222
 
        index = CombinedGraphIndex([])
 
1223
 
        self.assertEqual([], list(index.iter_entries([('a', )])))
 
 
1277
        idx = _mod_index.CombinedGraphIndex([])
 
 
1278
        self.assertEqual([], list(idx.iter_entries([('a', )])))
 
1225
1280
    def test_iter_missing_entry_one_index(self):
 
1226
 
        index1 = self.make_index('1')
 
1227
 
        index = CombinedGraphIndex([index1])
 
1228
 
        self.assertEqual([], list(index.iter_entries([('a', )])))
 
 
1281
        idx1 = self.make_index('1')
 
 
1282
        idx = _mod_index.CombinedGraphIndex([idx1])
 
 
1283
        self.assertEqual([], list(idx.iter_entries([(b'a', )])))
 
1230
1285
    def test_iter_missing_entry_two_index(self):
 
1231
 
        index1 = self.make_index('1')
 
1232
 
        index2 = self.make_index('2')
 
1233
 
        index = CombinedGraphIndex([index1, index2])
 
1234
 
        self.assertEqual([], list(index.iter_entries([('a', )])))
 
 
1286
        idx1 = self.make_index('1')
 
 
1287
        idx2 = self.make_index('2')
 
 
1288
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
 
1289
        self.assertEqual([], list(idx.iter_entries([('a', )])))
 
1236
1291
    def test_iter_entry_present_one_index_only(self):
 
1237
 
        index1 = self.make_index('1', nodes=[(('key', ), '', ())])
 
1238
 
        index2 = self.make_index('2', nodes=[])
 
1239
 
        index = CombinedGraphIndex([index1, index2])
 
1240
 
        self.assertEqual([(index1, ('key', ), '')],
 
1241
 
            list(index.iter_entries([('key', )])))
 
 
1292
        idx1 = self.make_index('1', nodes=[((b'key', ), b'', ())])
 
 
1293
        idx2 = self.make_index('2', nodes=[])
 
 
1294
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
 
1295
        self.assertEqual([(idx1, (b'key', ), b'')],
 
 
1296
                         list(idx.iter_entries([(b'key', )])))
 
1242
1297
        # and in the other direction
 
1243
 
        index = CombinedGraphIndex([index2, index1])
 
1244
 
        self.assertEqual([(index1, ('key', ), '')],
 
1245
 
            list(index.iter_entries([('key', )])))
 
 
1298
        idx = _mod_index.CombinedGraphIndex([idx2, idx1])
 
 
1299
        self.assertEqual([(idx1, (b'key', ), b'')],
 
 
1300
                         list(idx.iter_entries([(b'key', )])))
 
1247
1302
    def test_key_count_empty(self):
 
1248
 
        index1 = self.make_index('1', nodes=[])
 
1249
 
        index2 = self.make_index('2', nodes=[])
 
1250
 
        index = CombinedGraphIndex([index1, index2])
 
1251
 
        self.assertEqual(0, index.key_count())
 
 
1303
        idx1 = self.make_index('1', nodes=[])
 
 
1304
        idx2 = self.make_index('2', nodes=[])
 
 
1305
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
 
1306
        self.assertEqual(0, idx.key_count())
 
1253
1308
    def test_key_count_sums_index_keys(self):
 
1254
 
        index1 = self.make_index('1', nodes=[
 
1257
 
        index2 = self.make_index('2', nodes=[(('1',), '', ())])
 
1258
 
        index = CombinedGraphIndex([index1, index2])
 
1259
 
        self.assertEqual(3, index.key_count())
 
 
1309
        idx1 = self.make_index('1', nodes=[
 
 
1311
            ((b'2',), b'', ())])
 
 
1312
        idx2 = self.make_index('2', nodes=[((b'1',), b'', ())])
 
 
1313
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
 
1314
        self.assertEqual(3, idx.key_count())
 
1261
1316
    def test_validate_bad_child_index_errors(self):
 
1262
1317
        trans = self.get_transport()
 
1263
 
        trans.put_bytes('name', "not an index\n")
 
1264
 
        index1 = GraphIndex(trans, 'name', 13)
 
1265
 
        index = CombinedGraphIndex([index1])
 
1266
 
        self.assertRaises(errors.BadIndexFormatSignature, index.validate)
 
 
1318
        trans.put_bytes('name', b"not an index\n")
 
 
1319
        idx1 = _mod_index.GraphIndex(trans, 'name', 13)
 
 
1320
        idx = _mod_index.CombinedGraphIndex([idx1])
 
 
1321
        self.assertRaises(_mod_index.BadIndexFormatSignature, idx.validate)
 
1268
1323
    def test_validate_empty(self):
 
1269
 
        index = CombinedGraphIndex([])
 
 
1324
        idx = _mod_index.CombinedGraphIndex([])
 
1272
1327
    def test_key_count_reloads(self):
 
1273
 
        index, reload_counter = self.make_combined_index_with_missing()
 
1274
 
        self.assertEqual(2, index.key_count())
 
 
1328
        idx, reload_counter = self.make_combined_index_with_missing()
 
 
1329
        self.assertEqual(2, idx.key_count())
 
1275
1330
        self.assertEqual([1, 1, 0], reload_counter)
 
1277
1332
    def test_key_count_no_reload(self):
 
1278
 
        index, reload_counter = self.make_combined_index_with_missing()
 
1279
 
        index._reload_func = None
 
 
1333
        idx, reload_counter = self.make_combined_index_with_missing()
 
 
1334
        idx._reload_func = None
 
1280
1335
        # Without a _reload_func we just raise the exception
 
1281
 
        self.assertRaises(errors.NoSuchFile, index.key_count)
 
 
1336
        self.assertRaises(errors.NoSuchFile, idx.key_count)
 
1283
1338
    def test_key_count_reloads_and_fails(self):
 
1284
1339
        # We have deleted all underlying indexes, so we will try to reload, but
 
1285
1340
        # still fail. This is mostly to test we don't get stuck in an infinite
 
1286
1341
        # loop trying to reload
 
1287
 
        index, reload_counter = self.make_combined_index_with_missing(
 
1289
 
        self.assertRaises(errors.NoSuchFile, index.key_count)
 
 
1342
        idx, reload_counter = self.make_combined_index_with_missing(
 
 
1344
        self.assertRaises(errors.NoSuchFile, idx.key_count)
 
1290
1345
        self.assertEqual([2, 1, 1], reload_counter)
 
1292
1347
    def test_iter_entries_reloads(self):
 
1293
1348
        index, reload_counter = self.make_combined_index_with_missing()
 
1294
 
        result = list(index.iter_entries([('1',), ('2',), ('3',)]))
 
 
1349
        result = list(index.iter_entries([(b'1',), (b'2',), (b'3',)]))
 
1295
1350
        index3 = index._indices[0]
 
1296
 
        self.assertEqual([(index3, ('1',), ''), (index3, ('2',), '')],
 
 
1351
        self.assertEqual({(index3, (b'1',), b''), (index3, (b'2',), b'')},
 
1298
1353
        self.assertEqual([1, 1, 0], reload_counter)
 
1300
1355
    def test_iter_entries_reloads_midway(self):
 
 
1468
1522
        self.assertEqual(set(), missing_keys)
 
1470
1524
    def test_find_ancestors_missing_keys(self):
 
1475
1529
        index1 = self.make_index('12', ref_lists=1, nodes=[
 
1476
 
            (key1, 'value', ([],)),
 
1477
 
            (key2, 'value', ([key1],)),
 
 
1530
            (key1, b'value', ([],)),
 
 
1531
            (key2, b'value', ([key1],)),
 
1479
1533
        index2 = self.make_index('34', ref_lists=1, nodes=[
 
1480
 
            (key3, 'value', ([key2],)),
 
 
1534
            (key3, b'value', ([key2],)),
 
1482
 
        c_index = CombinedGraphIndex([index1, index2])
 
 
1536
        c_index = _mod_index.CombinedGraphIndex([index1, index2])
 
1483
1537
        # Searching for a key which is actually not present at all should
 
1484
1538
        # eventually converge
 
1485
1539
        parent_map, missing_keys = c_index.find_ancestry([key4], 0)
 
1486
1540
        self.assertEqual({}, parent_map)
 
1487
 
        self.assertEqual(set([key4]), missing_keys)
 
 
1541
        self.assertEqual({key4}, missing_keys)
 
1489
1543
    def test_find_ancestors_no_indexes(self):
 
1490
 
        c_index = CombinedGraphIndex([])
 
 
1544
        c_index = _mod_index.CombinedGraphIndex([])
 
1492
1546
        parent_map, missing_keys = c_index.find_ancestry([key1], 0)
 
1493
1547
        self.assertEqual({}, parent_map)
 
1494
 
        self.assertEqual(set([key1]), missing_keys)
 
 
1548
        self.assertEqual({key1}, missing_keys)
 
1496
1550
    def test_find_ancestors_ghost_parent(self):
 
1501
1555
        index1 = self.make_index('12', ref_lists=1, nodes=[
 
1502
 
            (key1, 'value', ([],)),
 
1503
 
            (key2, 'value', ([key1],)),
 
 
1556
            (key1, b'value', ([],)),
 
 
1557
            (key2, b'value', ([key1],)),
 
1505
1559
        index2 = self.make_index('34', ref_lists=1, nodes=[
 
1506
 
            (key4, 'value', ([key2, key3],)),
 
 
1560
            (key4, b'value', ([key2, key3],)),
 
1508
 
        c_index = CombinedGraphIndex([index1, index2])
 
 
1562
        c_index = _mod_index.CombinedGraphIndex([index1, index2])
 
1509
1563
        # Searching for a key which is actually not present at all should
 
1510
1564
        # eventually converge
 
1511
1565
        parent_map, missing_keys = c_index.find_ancestry([key4], 0)
 
1512
1566
        self.assertEqual({key4: (key2, key3), key2: (key1,), key1: ()},
 
1514
 
        self.assertEqual(set([key3]), missing_keys)
 
 
1568
        self.assertEqual({key3}, missing_keys)
 
1516
1570
    def test__find_ancestors_empty_index(self):
 
1517
 
        index = self.make_index('test', ref_lists=1, key_elements=1, nodes=[])
 
 
1571
        idx = self.make_index('test', ref_lists=1, key_elements=1, nodes=[])
 
1518
1572
        parent_map = {}
 
1519
1573
        missing_keys = set()
 
1520
 
        search_keys = index._find_ancestors([('one',), ('two',)], 0, parent_map,
 
 
1574
        search_keys = idx._find_ancestors([(b'one',), (b'two',)], 0, parent_map,
 
1522
1576
        self.assertEqual(set(), search_keys)
 
1523
1577
        self.assertEqual({}, parent_map)
 
1524
 
        self.assertEqual(set([('one',), ('two',)]), missing_keys)
 
1527
 
class TestInMemoryGraphIndex(TestCaseWithMemoryTransport):
 
 
1578
        self.assertEqual({(b'one',), (b'two',)}, missing_keys)
 
 
1581
class TestInMemoryGraphIndex(tests.TestCaseWithMemoryTransport):
 
1529
1583
    def make_index(self, ref_lists=0, key_elements=1, nodes=[]):
 
1530
 
        result = InMemoryGraphIndex(ref_lists, key_elements=key_elements)
 
 
1584
        result = _mod_index.InMemoryGraphIndex(
 
 
1585
            ref_lists, key_elements=key_elements)
 
1531
1586
        result.add_nodes(nodes)
 
1534
1589
    def test_add_nodes_no_refs(self):
 
1535
1590
        index = self.make_index(0)
 
1536
 
        index.add_nodes([(('name', ), 'data')])
 
1537
 
        index.add_nodes([(('name2', ), ''), (('name3', ), '')])
 
1538
 
        self.assertEqual(set([
 
1539
 
            (index, ('name', ), 'data'),
 
1540
 
            (index, ('name2', ), ''),
 
1541
 
            (index, ('name3', ), ''),
 
1542
 
            ]), set(index.iter_all_entries()))
 
 
1591
        index.add_nodes([((b'name', ), b'data')])
 
 
1592
        index.add_nodes([((b'name2', ), b''), ((b'name3', ), b'')])
 
 
1594
            (index, (b'name', ), b'data'),
 
 
1595
            (index, (b'name2', ), b''),
 
 
1596
            (index, (b'name3', ), b''),
 
 
1597
            }, set(index.iter_all_entries()))
 
1544
1599
    def test_add_nodes(self):
 
1545
1600
        index = self.make_index(1)
 
1546
 
        index.add_nodes([(('name', ), 'data', ([],))])
 
1547
 
        index.add_nodes([(('name2', ), '', ([],)), (('name3', ), '', ([('r', )],))])
 
1548
 
        self.assertEqual(set([
 
1549
 
            (index, ('name', ), 'data', ((),)),
 
1550
 
            (index, ('name2', ), '', ((),)),
 
1551
 
            (index, ('name3', ), '', ((('r', ), ), )),
 
1552
 
            ]), set(index.iter_all_entries()))
 
 
1601
        index.add_nodes([((b'name', ), b'data', ([],))])
 
 
1602
        index.add_nodes([((b'name2', ), b'', ([],)),
 
 
1603
                         ((b'name3', ), b'', ([(b'r', )],))])
 
 
1605
            (index, (b'name', ), b'data', ((),)),
 
 
1606
            (index, (b'name2', ), b'', ((),)),
 
 
1607
            (index, (b'name3', ), b'', (((b'r', ), ), )),
 
 
1608
            }, set(index.iter_all_entries()))
 
1554
1610
    def test_iter_all_entries_empty(self):
 
1555
1611
        index = self.make_index()
 
1556
1612
        self.assertEqual([], list(index.iter_all_entries()))
 
1558
1614
    def test_iter_all_entries_simple(self):
 
1559
 
        index = self.make_index(nodes=[(('name', ), 'data')])
 
1560
 
        self.assertEqual([(index, ('name', ), 'data')],
 
1561
 
            list(index.iter_all_entries()))
 
 
1615
        index = self.make_index(nodes=[((b'name', ), b'data')])
 
 
1616
        self.assertEqual([(index, (b'name', ), b'data')],
 
 
1617
                         list(index.iter_all_entries()))
 
1563
1619
    def test_iter_all_entries_references(self):
 
1564
1620
        index = self.make_index(1, nodes=[
 
1565
 
            (('name', ), 'data', ([('ref', )], )),
 
1566
 
            (('ref', ), 'refdata', ([], ))])
 
1567
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref', ),),)),
 
1568
 
            (index, ('ref', ), 'refdata', ((), ))]),
 
1569
 
            set(index.iter_all_entries()))
 
 
1621
            ((b'name', ), b'data', ([(b'ref', )], )),
 
 
1622
            ((b'ref', ), b'refdata', ([], ))])
 
 
1623
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref', ),),)),
 
 
1624
                          (index, (b'ref', ), b'refdata', ((), ))},
 
 
1625
                         set(index.iter_all_entries()))
 
1571
1627
    def test_iteration_absent_skipped(self):
 
1572
1628
        index = self.make_index(1, nodes=[
 
1573
 
            (('name', ), 'data', ([('ref', )], ))])
 
1574
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),),))]),
 
1575
 
            set(index.iter_all_entries()))
 
1576
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),),))]),
 
1577
 
            set(index.iter_entries([('name', )])))
 
1578
 
        self.assertEqual([], list(index.iter_entries([('ref', )])))
 
 
1629
            ((b'name', ), b'data', ([(b'ref', )], ))])
 
 
1630
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),),))},
 
 
1631
                         set(index.iter_all_entries()))
 
 
1632
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),),))},
 
 
1633
                         set(index.iter_entries([(b'name', )])))
 
 
1634
        self.assertEqual([], list(index.iter_entries([(b'ref', )])))
 
1580
1636
    def test_iter_all_keys(self):
 
1581
1637
        index = self.make_index(1, nodes=[
 
1582
 
            (('name', ), 'data', ([('ref', )], )),
 
1583
 
            (('ref', ), 'refdata', ([], ))])
 
1584
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),),)),
 
1585
 
            (index, ('ref', ), 'refdata', ((), ))]),
 
1586
 
            set(index.iter_entries([('name', ), ('ref', )])))
 
 
1638
            ((b'name', ), b'data', ([(b'ref', )], )),
 
 
1639
            ((b'ref', ), b'refdata', ([], ))])
 
 
1640
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),),)),
 
 
1641
                          (index, (b'ref', ), b'refdata', ((), ))},
 
 
1642
                         set(index.iter_entries([(b'name', ), (b'ref', )])))
 
1588
1644
    def test_iter_key_prefix_1_key_element_no_refs(self):
 
1589
 
        index = self.make_index( nodes=[
 
1590
 
            (('name', ), 'data'),
 
1591
 
            (('ref', ), 'refdata')])
 
1592
 
        self.assertEqual(set([(index, ('name', ), 'data'),
 
1593
 
            (index, ('ref', ), 'refdata')]),
 
1594
 
            set(index.iter_entries_prefix([('name', ), ('ref', )])))
 
 
1645
        index = self.make_index(nodes=[
 
 
1646
            ((b'name', ), b'data'),
 
 
1647
            ((b'ref', ), b'refdata')])
 
 
1648
        self.assertEqual({(index, (b'name', ), b'data'),
 
 
1649
                          (index, (b'ref', ), b'refdata')},
 
 
1650
                         set(index.iter_entries_prefix([(b'name', ), (b'ref', )])))
 
1596
1652
    def test_iter_key_prefix_1_key_element_refs(self):
 
1597
1653
        index = self.make_index(1, nodes=[
 
1598
 
            (('name', ), 'data', ([('ref', )], )),
 
1599
 
            (('ref', ), 'refdata', ([], ))])
 
1600
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),),)),
 
1601
 
            (index, ('ref', ), 'refdata', ((), ))]),
 
1602
 
            set(index.iter_entries_prefix([('name', ), ('ref', )])))
 
 
1654
            ((b'name', ), b'data', ([(b'ref', )], )),
 
 
1655
            ((b'ref', ), b'refdata', ([], ))])
 
 
1656
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),),)),
 
 
1657
                          (index, (b'ref', ), b'refdata', ((), ))},
 
 
1658
                         set(index.iter_entries_prefix([(b'name', ), (b'ref', )])))
 
1604
1660
    def test_iter_key_prefix_2_key_element_no_refs(self):
 
1605
1661
        index = self.make_index(key_elements=2, nodes=[
 
1606
 
            (('name', 'fin1'), 'data'),
 
1607
 
            (('name', 'fin2'), 'beta'),
 
1608
 
            (('ref', 'erence'), 'refdata')])
 
1609
 
        self.assertEqual(set([(index, ('name', 'fin1'), 'data'),
 
1610
 
            (index, ('ref', 'erence'), 'refdata')]),
 
1611
 
            set(index.iter_entries_prefix([('name', 'fin1'), ('ref', 'erence')])))
 
1612
 
        self.assertEqual(set([(index, ('name', 'fin1'), 'data'),
 
1613
 
            (index, ('name', 'fin2'), 'beta')]),
 
1614
 
            set(index.iter_entries_prefix([('name', None)])))
 
 
1662
            ((b'name', b'fin1'), b'data'),
 
 
1663
            ((b'name', b'fin2'), b'beta'),
 
 
1664
            ((b'ref', b'erence'), b'refdata')])
 
 
1665
        self.assertEqual({(index, (b'name', b'fin1'), b'data'),
 
 
1666
                          (index, (b'ref', b'erence'), b'refdata')},
 
 
1667
                         set(index.iter_entries_prefix([(b'name', b'fin1'), (b'ref', b'erence')])))
 
 
1668
        self.assertEqual({(index, (b'name', b'fin1'), b'data'),
 
 
1669
                          (index, (b'name', b'fin2'), b'beta')},
 
 
1670
                         set(index.iter_entries_prefix([(b'name', None)])))
 
1616
1672
    def test_iter_key_prefix_2_key_element_refs(self):
 
1617
1673
        index = self.make_index(1, key_elements=2, nodes=[
 
1618
 
            (('name', 'fin1'), 'data', ([('ref', 'erence')], )),
 
1619
 
            (('name', 'fin2'), 'beta', ([], )),
 
1620
 
            (('ref', 'erence'), 'refdata', ([], ))])
 
1621
 
        self.assertEqual(set([(index, ('name', 'fin1'), 'data', ((('ref', 'erence'),),)),
 
1622
 
            (index, ('ref', 'erence'), 'refdata', ((), ))]),
 
1623
 
            set(index.iter_entries_prefix([('name', 'fin1'), ('ref', 'erence')])))
 
1624
 
        self.assertEqual(set([(index, ('name', 'fin1'), 'data', ((('ref', 'erence'),),)),
 
1625
 
            (index, ('name', 'fin2'), 'beta', ((), ))]),
 
1626
 
            set(index.iter_entries_prefix([('name', None)])))
 
 
1674
            ((b'name', b'fin1'), b'data', ([(b'ref', b'erence')], )),
 
 
1675
            ((b'name', b'fin2'), b'beta', ([], )),
 
 
1676
            ((b'ref', b'erence'), b'refdata', ([], ))])
 
 
1677
        self.assertEqual({(index, (b'name', b'fin1'), b'data', (((b'ref', b'erence'),),)),
 
 
1678
                          (index, (b'ref', b'erence'), b'refdata', ((), ))},
 
 
1679
                         set(index.iter_entries_prefix([(b'name', b'fin1'), (b'ref', b'erence')])))
 
 
1680
        self.assertEqual({(index, (b'name', b'fin1'), b'data', (((b'ref', b'erence'),),)),
 
 
1681
                          (index, (b'name', b'fin2'), b'beta', ((), ))},
 
 
1682
                         set(index.iter_entries_prefix([(b'name', None)])))
 
1628
1684
    def test_iter_nothing_empty(self):
 
1629
1685
        index = self.make_index()
 
 
1650
1706
        index.validate()
 
1652
1708
    def test_validate_no_refs_content(self):
 
1653
 
        index = self.make_index(nodes=[(('key', ), 'value')])
 
 
1709
        index = self.make_index(nodes=[((b'key', ), b'value')])
 
1654
1710
        index.validate()
 
1657
 
class TestGraphIndexPrefixAdapter(TestCaseWithMemoryTransport):
 
 
1713
class TestGraphIndexPrefixAdapter(tests.TestCaseWithMemoryTransport):
 
1659
 
    def make_index(self, ref_lists=1, key_elements=2, nodes=[], add_callback=False):
 
1660
 
        result = InMemoryGraphIndex(ref_lists, key_elements=key_elements)
 
 
1715
    def make_index(self, ref_lists=1, key_elements=2, nodes=[],
 
 
1716
                   add_callback=False):
 
 
1717
        result = _mod_index.InMemoryGraphIndex(
 
 
1718
            ref_lists, key_elements=key_elements)
 
1661
1719
        result.add_nodes(nodes)
 
1662
1720
        if add_callback:
 
1663
1721
            add_nodes_callback = result.add_nodes
 
1665
1723
            add_nodes_callback = None
 
1666
 
        adapter = GraphIndexPrefixAdapter(result, ('prefix', ), key_elements - 1,
 
 
1724
        adapter = _mod_index.GraphIndexPrefixAdapter(
 
 
1725
            result, (b'prefix', ), key_elements - 1,
 
1667
1726
            add_nodes_callback=add_nodes_callback)
 
1668
1727
        return result, adapter
 
1670
1729
    def test_add_node(self):
 
1671
1730
        index, adapter = self.make_index(add_callback=True)
 
1672
 
        adapter.add_node(('key',), 'value', ((('ref',),),))
 
1673
 
        self.assertEqual(set([(index, ('prefix', 'key'), 'value', ((('prefix', 'ref'),),))]),
 
1674
 
            set(index.iter_all_entries()))
 
 
1731
        adapter.add_node((b'key',), b'value', (((b'ref',),),))
 
 
1732
        self.assertEqual({(index, (b'prefix', b'key'), b'value',
 
 
1733
                           (((b'prefix', b'ref'),),))},
 
 
1734
                         set(index.iter_all_entries()))
 
1676
1736
    def test_add_nodes(self):
 
1677
1737
        index, adapter = self.make_index(add_callback=True)
 
1678
1738
        adapter.add_nodes((
 
1679
 
            (('key',), 'value', ((('ref',),),)),
 
1680
 
            (('key2',), 'value2', ((),)),
 
 
1739
            ((b'key',), b'value', (((b'ref',),),)),
 
 
1740
            ((b'key2',), b'value2', ((),)),
 
1682
 
        self.assertEqual(set([
 
1683
 
            (index, ('prefix', 'key2'), 'value2', ((),)),
 
1684
 
            (index, ('prefix', 'key'), 'value', ((('prefix', 'ref'),),))
 
 
1743
            (index, (b'prefix', b'key2'), b'value2', ((),)),
 
 
1744
            (index, (b'prefix', b'key'), b'value', (((b'prefix', b'ref'),),))
 
1686
1746
            set(index.iter_all_entries()))
 
1688
1748
    def test_construct(self):
 
1689
 
        index = InMemoryGraphIndex()
 
1690
 
        adapter = GraphIndexPrefixAdapter(index, ('prefix', ), 1)
 
 
1749
        idx = _mod_index.InMemoryGraphIndex()
 
 
1750
        adapter = _mod_index.GraphIndexPrefixAdapter(idx, (b'prefix', ), 1)
 
1692
1752
    def test_construct_with_callback(self):
 
1693
 
        index = InMemoryGraphIndex()
 
1694
 
        adapter = GraphIndexPrefixAdapter(index, ('prefix', ), 1, index.add_nodes)
 
 
1753
        idx = _mod_index.InMemoryGraphIndex()
 
 
1754
        adapter = _mod_index.GraphIndexPrefixAdapter(idx, (b'prefix', ), 1,
 
1696
1757
    def test_iter_all_entries_cross_prefix_map_errors(self):
 
1697
1758
        index, adapter = self.make_index(nodes=[
 
1698
 
            (('prefix', 'key1'), 'data1', ((('prefixaltered', 'key2'),),))])
 
1699
 
        self.assertRaises(errors.BadIndexData, list, adapter.iter_all_entries())
 
 
1759
            ((b'prefix', b'key1'), b'data1', (((b'prefixaltered', b'key2'),),))])
 
 
1760
        self.assertRaises(_mod_index.BadIndexData, list,
 
 
1761
                          adapter.iter_all_entries())
 
1701
1763
    def test_iter_all_entries(self):
 
1702
1764
        index, adapter = self.make_index(nodes=[
 
1703
 
            (('notprefix', 'key1'), 'data', ((), )),
 
1704
 
            (('prefix', 'key1'), 'data1', ((), )),
 
1705
 
            (('prefix', 'key2'), 'data2', ((('prefix', 'key1'),),))])
 
1706
 
        self.assertEqual(set([(index, ('key1', ), 'data1', ((),)),
 
1707
 
            (index, ('key2', ), 'data2', ((('key1',),),))]),
 
1708
 
            set(adapter.iter_all_entries()))
 
 
1765
            ((b'notprefix', b'key1'), b'data', ((), )),
 
 
1766
            ((b'prefix', b'key1'), b'data1', ((), )),
 
 
1767
            ((b'prefix', b'key2'), b'data2', (((b'prefix', b'key1'),),))])
 
 
1768
        self.assertEqual({(index, (b'key1', ), b'data1', ((),)),
 
 
1769
                          (index, (b'key2', ), b'data2', (((b'key1',),),))},
 
 
1770
                         set(adapter.iter_all_entries()))
 
1710
1772
    def test_iter_entries(self):
 
1711
1773
        index, adapter = self.make_index(nodes=[
 
1712
 
            (('notprefix', 'key1'), 'data', ((), )),
 
1713
 
            (('prefix', 'key1'), 'data1', ((), )),
 
1714
 
            (('prefix', 'key2'), 'data2', ((('prefix', 'key1'),),))])
 
 
1774
            ((b'notprefix', b'key1'), b'data', ((), )),
 
 
1775
            ((b'prefix', b'key1'), b'data1', ((), )),
 
 
1776
            ((b'prefix', b'key2'), b'data2', (((b'prefix', b'key1'),),))])
 
1715
1777
        # ask for many - get all
 
1716
 
        self.assertEqual(set([(index, ('key1', ), 'data1', ((),)),
 
1717
 
            (index, ('key2', ), 'data2', ((('key1', ),),))]),
 
1718
 
            set(adapter.iter_entries([('key1', ), ('key2', )])))
 
 
1778
        self.assertEqual({(index, (b'key1', ), b'data1', ((),)),
 
 
1779
                          (index, (b'key2', ), b'data2', (((b'key1', ),),))},
 
 
1780
                         set(adapter.iter_entries([(b'key1', ), (b'key2', )])))
 
1719
1781
        # ask for one, get one
 
1720
 
        self.assertEqual(set([(index, ('key1', ), 'data1', ((),))]),
 
1721
 
            set(adapter.iter_entries([('key1', )])))
 
 
1782
        self.assertEqual({(index, (b'key1', ), b'data1', ((),))},
 
 
1783
                         set(adapter.iter_entries([(b'key1', )])))
 
1722
1784
        # ask for missing, get none
 
1723
1785
        self.assertEqual(set(),
 
1724
 
            set(adapter.iter_entries([('key3', )])))
 
 
1786
                         set(adapter.iter_entries([(b'key3', )])))
 
1726
1788
    def test_iter_entries_prefix(self):
 
1727
1789
        index, adapter = self.make_index(key_elements=3, nodes=[
 
1728
 
            (('notprefix', 'foo', 'key1'), 'data', ((), )),
 
1729
 
            (('prefix', 'prefix2', 'key1'), 'data1', ((), )),
 
1730
 
            (('prefix', 'prefix2', 'key2'), 'data2', ((('prefix', 'prefix2', 'key1'),),))])
 
 
1790
            ((b'notprefix', b'foo', b'key1'), b'data', ((), )),
 
 
1791
            ((b'prefix', b'prefix2', b'key1'), b'data1', ((), )),
 
 
1792
            ((b'prefix', b'prefix2', b'key2'), b'data2', (((b'prefix', b'prefix2', b'key1'),),))])
 
1731
1793
        # ask for a prefix, get the results for just that prefix, adjusted.
 
1732
 
        self.assertEqual(set([(index, ('prefix2', 'key1', ), 'data1', ((),)),
 
1733
 
            (index, ('prefix2', 'key2', ), 'data2', ((('prefix2', 'key1', ),),))]),
 
1734
 
            set(adapter.iter_entries_prefix([('prefix2', None)])))
 
 
1794
        self.assertEqual({(index, (b'prefix2', b'key1', ), b'data1', ((),)),
 
 
1795
                          (index, (b'prefix2', b'key2', ), b'data2', (((b'prefix2', b'key1', ),),))},
 
 
1796
                         set(adapter.iter_entries_prefix([(b'prefix2', None)])))
 
1736
1798
    def test_key_count_no_matching_keys(self):
 
1737
1799
        index, adapter = self.make_index(nodes=[
 
1738
 
            (('notprefix', 'key1'), 'data', ((), ))])
 
 
1800
            ((b'notprefix', b'key1'), b'data', ((), ))])
 
1739
1801
        self.assertEqual(0, adapter.key_count())
 
1741
1803
    def test_key_count_some_keys(self):
 
1742
1804
        index, adapter = self.make_index(nodes=[
 
1743
 
            (('notprefix', 'key1'), 'data', ((), )),
 
1744
 
            (('prefix', 'key1'), 'data1', ((), )),
 
1745
 
            (('prefix', 'key2'), 'data2', ((('prefix', 'key1'),),))])
 
 
1805
            ((b'notprefix', b'key1'), b'data', ((), )),
 
 
1806
            ((b'prefix', b'key1'), b'data1', ((), )),
 
 
1807
            ((b'prefix', b'key2'), b'data2', (((b'prefix', b'key1'),),))])
 
1746
1808
        self.assertEqual(2, adapter.key_count())
 
1748
1810
    def test_validate(self):
 
1749
1811
        index, adapter = self.make_index()
 
1751
1814
        def validate():
 
1752
1815
            calls.append('called')
 
1753
1816
        index.validate = validate