/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to breezy/bzr/tests/test_index.py

  • Committer: Breezy landing bot
  • Author(s): Jelmer Vernooij
  • Date: 2020-08-23 01:15:41 UTC
  • mfrom: (7520.1.4 merge-3.1)
  • Revision ID: breezy.the.bot@gmail.com-20200823011541-nv0oh7nzaganx2qy
Merge lp:brz/3.1.

Merged from https://code.launchpad.net/~jelmer/brz/merge-3.1/+merge/389690

Show diffs side-by-side

added added

removed removed

Lines of Context:
16
16
 
17
17
"""Tests for indices."""
18
18
 
19
 
from bzrlib import errors
20
 
from bzrlib.index import *
21
 
from bzrlib.tests import TestCaseWithMemoryTransport
22
 
from bzrlib.transport import get_transport
23
 
 
24
 
 
25
 
class TestGraphIndexBuilder(TestCaseWithMemoryTransport):
 
19
from ... import (
 
20
    errors,
 
21
    tests,
 
22
    transport,
 
23
    )
 
24
from .. import (
 
25
    index as _mod_index,
 
26
    )
 
27
 
 
28
 
 
29
class ErrorTests(tests.TestCase):
 
30
 
 
31
    def test_bad_index_format_signature(self):
 
32
        error = _mod_index.BadIndexFormatSignature("foo", "bar")
 
33
        self.assertEqual("foo is not an index of type bar.",
 
34
                         str(error))
 
35
 
 
36
    def test_bad_index_data(self):
 
37
        error = _mod_index.BadIndexData("foo")
 
38
        self.assertEqual("Error in data for index foo.",
 
39
                         str(error))
 
40
 
 
41
    def test_bad_index_duplicate_key(self):
 
42
        error = _mod_index.BadIndexDuplicateKey("foo", "bar")
 
43
        self.assertEqual("The key 'foo' is already in index 'bar'.",
 
44
                         str(error))
 
45
 
 
46
    def test_bad_index_key(self):
 
47
        error = _mod_index.BadIndexKey("foo")
 
48
        self.assertEqual("The key 'foo' is not a valid key.",
 
49
                         str(error))
 
50
 
 
51
    def test_bad_index_options(self):
 
52
        error = _mod_index.BadIndexOptions("foo")
 
53
        self.assertEqual("Could not parse options for index foo.",
 
54
                         str(error))
 
55
 
 
56
    def test_bad_index_value(self):
 
57
        error = _mod_index.BadIndexValue("foo")
 
58
        self.assertEqual("The value 'foo' is not a valid value.",
 
59
                         str(error))
 
60
 
 
61
 
 
62
class TestGraphIndexBuilder(tests.TestCaseWithMemoryTransport):
26
63
 
27
64
    def test_build_index_empty(self):
28
 
        builder = GraphIndexBuilder()
 
65
        builder = _mod_index.GraphIndexBuilder()
29
66
        stream = builder.finish()
30
67
        contents = stream.read()
31
68
        self.assertEqual(
32
 
            "Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=0\n\n",
 
69
            b"Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=0\n\n",
33
70
            contents)
34
71
 
35
72
    def test_build_index_empty_two_element_keys(self):
36
 
        builder = GraphIndexBuilder(key_elements=2)
 
73
        builder = _mod_index.GraphIndexBuilder(key_elements=2)
37
74
        stream = builder.finish()
38
75
        contents = stream.read()
39
76
        self.assertEqual(
40
 
            "Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=2\nlen=0\n\n",
 
77
            b"Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=2\nlen=0\n\n",
41
78
            contents)
42
79
 
43
80
    def test_build_index_one_reference_list_empty(self):
44
 
        builder = GraphIndexBuilder(reference_lists=1)
 
81
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
45
82
        stream = builder.finish()
46
83
        contents = stream.read()
47
84
        self.assertEqual(
48
 
            "Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=0\n\n",
 
85
            b"Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=0\n\n",
49
86
            contents)
50
87
 
51
88
    def test_build_index_two_reference_list_empty(self):
52
 
        builder = GraphIndexBuilder(reference_lists=2)
 
89
        builder = _mod_index.GraphIndexBuilder(reference_lists=2)
53
90
        stream = builder.finish()
54
91
        contents = stream.read()
55
92
        self.assertEqual(
56
 
            "Bazaar Graph Index 1\nnode_ref_lists=2\nkey_elements=1\nlen=0\n\n",
 
93
            b"Bazaar Graph Index 1\nnode_ref_lists=2\nkey_elements=1\nlen=0\n\n",
57
94
            contents)
58
95
 
59
96
    def test_build_index_one_node_no_refs(self):
60
 
        builder = GraphIndexBuilder()
61
 
        builder.add_node(('akey', ), 'data')
 
97
        builder = _mod_index.GraphIndexBuilder()
 
98
        builder.add_node((b'akey', ), b'data')
62
99
        stream = builder.finish()
63
100
        contents = stream.read()
64
101
        self.assertEqual(
65
 
            "Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=1\n"
66
 
            "akey\x00\x00\x00data\n\n", contents)
 
102
            b"Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=1\n"
 
103
            b"akey\x00\x00\x00data\n\n", contents)
67
104
 
68
105
    def test_build_index_one_node_no_refs_accepts_empty_reflist(self):
69
 
        builder = GraphIndexBuilder()
70
 
        builder.add_node(('akey', ), 'data', ())
 
106
        builder = _mod_index.GraphIndexBuilder()
 
107
        builder.add_node((b'akey', ), b'data', ())
71
108
        stream = builder.finish()
72
109
        contents = stream.read()
73
110
        self.assertEqual(
74
 
            "Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=1\n"
75
 
            "akey\x00\x00\x00data\n\n", contents)
 
111
            b"Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=1\n"
 
112
            b"akey\x00\x00\x00data\n\n", contents)
76
113
 
77
114
    def test_build_index_one_node_2_element_keys(self):
78
115
        # multipart keys are separated by \x00 - because they are fixed length,
79
116
        # not variable this does not cause any issues, and seems clearer to the
80
117
        # author.
81
 
        builder = GraphIndexBuilder(key_elements=2)
82
 
        builder.add_node(('akey', 'secondpart'), 'data')
 
118
        builder = _mod_index.GraphIndexBuilder(key_elements=2)
 
119
        builder.add_node((b'akey', b'secondpart'), b'data')
83
120
        stream = builder.finish()
84
121
        contents = stream.read()
85
122
        self.assertEqual(
86
 
            "Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=2\nlen=1\n"
87
 
            "akey\x00secondpart\x00\x00\x00data\n\n", contents)
 
123
            b"Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=2\nlen=1\n"
 
124
            b"akey\x00secondpart\x00\x00\x00data\n\n", contents)
88
125
 
89
126
    def test_add_node_empty_value(self):
90
 
        builder = GraphIndexBuilder()
91
 
        builder.add_node(('akey', ), '')
 
127
        builder = _mod_index.GraphIndexBuilder()
 
128
        builder.add_node((b'akey', ), b'')
92
129
        stream = builder.finish()
93
130
        contents = stream.read()
94
131
        self.assertEqual(
95
 
            "Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=1\n"
96
 
            "akey\x00\x00\x00\n\n", contents)
 
132
            b"Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=1\n"
 
133
            b"akey\x00\x00\x00\n\n", contents)
97
134
 
98
135
    def test_build_index_nodes_sorted(self):
99
136
        # the highest sorted node comes first.
100
 
        builder = GraphIndexBuilder()
 
137
        builder = _mod_index.GraphIndexBuilder()
101
138
        # use three to have a good chance of glitching dictionary hash
102
139
        # lookups etc. Insert in randomish order that is not correct
103
140
        # and not the reverse of the correct order.
104
 
        builder.add_node(('2002', ), 'data')
105
 
        builder.add_node(('2000', ), 'data')
106
 
        builder.add_node(('2001', ), 'data')
 
141
        builder.add_node((b'2002', ), b'data')
 
142
        builder.add_node((b'2000', ), b'data')
 
143
        builder.add_node((b'2001', ), b'data')
107
144
        stream = builder.finish()
108
145
        contents = stream.read()
109
146
        self.assertEqual(
110
 
            "Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=3\n"
111
 
            "2000\x00\x00\x00data\n"
112
 
            "2001\x00\x00\x00data\n"
113
 
            "2002\x00\x00\x00data\n"
114
 
            "\n", contents)
 
147
            b"Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=1\nlen=3\n"
 
148
            b"2000\x00\x00\x00data\n"
 
149
            b"2001\x00\x00\x00data\n"
 
150
            b"2002\x00\x00\x00data\n"
 
151
            b"\n", contents)
115
152
 
116
153
    def test_build_index_2_element_key_nodes_sorted(self):
117
154
        # multiple element keys are sorted first-key, second-key.
118
 
        builder = GraphIndexBuilder(key_elements=2)
 
155
        builder = _mod_index.GraphIndexBuilder(key_elements=2)
119
156
        # use three values of each key element, to have a good chance of
120
157
        # glitching dictionary hash lookups etc. Insert in randomish order that
121
158
        # is not correct and not the reverse of the correct order.
122
 
        builder.add_node(('2002', '2002'), 'data')
123
 
        builder.add_node(('2002', '2000'), 'data')
124
 
        builder.add_node(('2002', '2001'), 'data')
125
 
        builder.add_node(('2000', '2002'), 'data')
126
 
        builder.add_node(('2000', '2000'), 'data')
127
 
        builder.add_node(('2000', '2001'), 'data')
128
 
        builder.add_node(('2001', '2002'), 'data')
129
 
        builder.add_node(('2001', '2000'), 'data')
130
 
        builder.add_node(('2001', '2001'), 'data')
 
159
        builder.add_node((b'2002', b'2002'), b'data')
 
160
        builder.add_node((b'2002', b'2000'), b'data')
 
161
        builder.add_node((b'2002', b'2001'), b'data')
 
162
        builder.add_node((b'2000', b'2002'), b'data')
 
163
        builder.add_node((b'2000', b'2000'), b'data')
 
164
        builder.add_node((b'2000', b'2001'), b'data')
 
165
        builder.add_node((b'2001', b'2002'), b'data')
 
166
        builder.add_node((b'2001', b'2000'), b'data')
 
167
        builder.add_node((b'2001', b'2001'), b'data')
131
168
        stream = builder.finish()
132
169
        contents = stream.read()
133
170
        self.assertEqual(
134
 
            "Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=2\nlen=9\n"
135
 
            "2000\x002000\x00\x00\x00data\n"
136
 
            "2000\x002001\x00\x00\x00data\n"
137
 
            "2000\x002002\x00\x00\x00data\n"
138
 
            "2001\x002000\x00\x00\x00data\n"
139
 
            "2001\x002001\x00\x00\x00data\n"
140
 
            "2001\x002002\x00\x00\x00data\n"
141
 
            "2002\x002000\x00\x00\x00data\n"
142
 
            "2002\x002001\x00\x00\x00data\n"
143
 
            "2002\x002002\x00\x00\x00data\n"
144
 
            "\n", contents)
 
171
            b"Bazaar Graph Index 1\nnode_ref_lists=0\nkey_elements=2\nlen=9\n"
 
172
            b"2000\x002000\x00\x00\x00data\n"
 
173
            b"2000\x002001\x00\x00\x00data\n"
 
174
            b"2000\x002002\x00\x00\x00data\n"
 
175
            b"2001\x002000\x00\x00\x00data\n"
 
176
            b"2001\x002001\x00\x00\x00data\n"
 
177
            b"2001\x002002\x00\x00\x00data\n"
 
178
            b"2002\x002000\x00\x00\x00data\n"
 
179
            b"2002\x002001\x00\x00\x00data\n"
 
180
            b"2002\x002002\x00\x00\x00data\n"
 
181
            b"\n", contents)
145
182
 
146
183
    def test_build_index_reference_lists_are_included_one(self):
147
 
        builder = GraphIndexBuilder(reference_lists=1)
148
 
        builder.add_node(('key', ), 'data', ([], ))
 
184
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
 
185
        builder.add_node((b'key', ), b'data', ([], ))
149
186
        stream = builder.finish()
150
187
        contents = stream.read()
151
188
        self.assertEqual(
152
 
            "Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=1\n"
153
 
            "key\x00\x00\x00data\n"
154
 
            "\n", contents)
 
189
            b"Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=1\n"
 
190
            b"key\x00\x00\x00data\n"
 
191
            b"\n", contents)
155
192
 
156
193
    def test_build_index_reference_lists_with_2_element_keys(self):
157
 
        builder = GraphIndexBuilder(reference_lists=1, key_elements=2)
158
 
        builder.add_node(('key', 'key2'), 'data', ([], ))
 
194
        builder = _mod_index.GraphIndexBuilder(
 
195
            reference_lists=1, key_elements=2)
 
196
        builder.add_node((b'key', b'key2'), b'data', ([], ))
159
197
        stream = builder.finish()
160
198
        contents = stream.read()
161
199
        self.assertEqual(
162
 
            "Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=2\nlen=1\n"
163
 
            "key\x00key2\x00\x00\x00data\n"
164
 
            "\n", contents)
 
200
            b"Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=2\nlen=1\n"
 
201
            b"key\x00key2\x00\x00\x00data\n"
 
202
            b"\n", contents)
165
203
 
166
204
    def test_build_index_reference_lists_are_included_two(self):
167
 
        builder = GraphIndexBuilder(reference_lists=2)
168
 
        builder.add_node(('key', ), 'data', ([], []))
 
205
        builder = _mod_index.GraphIndexBuilder(reference_lists=2)
 
206
        builder.add_node((b'key', ), b'data', ([], []))
169
207
        stream = builder.finish()
170
208
        contents = stream.read()
171
209
        self.assertEqual(
172
 
            "Bazaar Graph Index 1\nnode_ref_lists=2\nkey_elements=1\nlen=1\n"
173
 
            "key\x00\x00\t\x00data\n"
174
 
            "\n", contents)
 
210
            b"Bazaar Graph Index 1\nnode_ref_lists=2\nkey_elements=1\nlen=1\n"
 
211
            b"key\x00\x00\t\x00data\n"
 
212
            b"\n", contents)
175
213
 
176
214
    def test_clear_cache(self):
177
 
        builder = GraphIndexBuilder(reference_lists=2)
 
215
        builder = _mod_index.GraphIndexBuilder(reference_lists=2)
178
216
        # This is a no-op, but the api should exist
179
217
        builder.clear_cache()
180
218
 
181
219
    def test_node_references_are_byte_offsets(self):
182
 
        builder = GraphIndexBuilder(reference_lists=1)
183
 
        builder.add_node(('reference', ), 'data', ([], ))
184
 
        builder.add_node(('key', ), 'data', ([('reference', )], ))
 
220
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
 
221
        builder.add_node((b'reference', ), b'data', ([], ))
 
222
        builder.add_node((b'key', ), b'data', ([(b'reference', )], ))
185
223
        stream = builder.finish()
186
224
        contents = stream.read()
187
225
        self.assertEqual(
188
 
            "Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=2\n"
189
 
            "key\x00\x0072\x00data\n"
190
 
            "reference\x00\x00\x00data\n"
191
 
            "\n", contents)
 
226
            b"Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=2\n"
 
227
            b"key\x00\x0072\x00data\n"
 
228
            b"reference\x00\x00\x00data\n"
 
229
            b"\n", contents)
192
230
 
193
231
    def test_node_references_are_cr_delimited(self):
194
 
        builder = GraphIndexBuilder(reference_lists=1)
195
 
        builder.add_node(('reference', ), 'data', ([], ))
196
 
        builder.add_node(('reference2', ), 'data', ([], ))
197
 
        builder.add_node(('key', ), 'data', ([('reference', ), ('reference2', )], ))
 
232
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
 
233
        builder.add_node((b'reference', ), b'data', ([], ))
 
234
        builder.add_node((b'reference2', ), b'data', ([], ))
 
235
        builder.add_node((b'key', ), b'data',
 
236
                         ([(b'reference', ), (b'reference2', )], ))
198
237
        stream = builder.finish()
199
238
        contents = stream.read()
200
239
        self.assertEqual(
201
 
            "Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=3\n"
202
 
            "key\x00\x00077\r094\x00data\n"
203
 
            "reference\x00\x00\x00data\n"
204
 
            "reference2\x00\x00\x00data\n"
205
 
            "\n", contents)
 
240
            b"Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=3\n"
 
241
            b"key\x00\x00077\r094\x00data\n"
 
242
            b"reference\x00\x00\x00data\n"
 
243
            b"reference2\x00\x00\x00data\n"
 
244
            b"\n", contents)
206
245
 
207
246
    def test_multiple_reference_lists_are_tab_delimited(self):
208
 
        builder = GraphIndexBuilder(reference_lists=2)
209
 
        builder.add_node(('keference', ), 'data', ([], []))
210
 
        builder.add_node(('rey', ), 'data', ([('keference', )], [('keference', )]))
 
247
        builder = _mod_index.GraphIndexBuilder(reference_lists=2)
 
248
        builder.add_node((b'keference', ), b'data', ([], []))
 
249
        builder.add_node((b'rey', ), b'data',
 
250
                         ([(b'keference', )], [(b'keference', )]))
211
251
        stream = builder.finish()
212
252
        contents = stream.read()
213
253
        self.assertEqual(
214
 
            "Bazaar Graph Index 1\nnode_ref_lists=2\nkey_elements=1\nlen=2\n"
215
 
            "keference\x00\x00\t\x00data\n"
216
 
            "rey\x00\x0059\t59\x00data\n"
217
 
            "\n", contents)
 
254
            b"Bazaar Graph Index 1\nnode_ref_lists=2\nkey_elements=1\nlen=2\n"
 
255
            b"keference\x00\x00\t\x00data\n"
 
256
            b"rey\x00\x0059\t59\x00data\n"
 
257
            b"\n", contents)
218
258
 
219
259
    def test_add_node_referencing_missing_key_makes_absent(self):
220
 
        builder = GraphIndexBuilder(reference_lists=1)
221
 
        builder.add_node(('rey', ), 'data', ([('beference', ), ('aeference2', )], ))
 
260
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
 
261
        builder.add_node((b'rey', ), b'data',
 
262
                         ([(b'beference', ), (b'aeference2', )], ))
222
263
        stream = builder.finish()
223
264
        contents = stream.read()
224
265
        self.assertEqual(
225
 
            "Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=1\n"
226
 
            "aeference2\x00a\x00\x00\n"
227
 
            "beference\x00a\x00\x00\n"
228
 
            "rey\x00\x00074\r059\x00data\n"
229
 
            "\n", contents)
 
266
            b"Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=1\n"
 
267
            b"aeference2\x00a\x00\x00\n"
 
268
            b"beference\x00a\x00\x00\n"
 
269
            b"rey\x00\x00074\r059\x00data\n"
 
270
            b"\n", contents)
230
271
 
231
272
    def test_node_references_three_digits(self):
232
273
        # test the node digit expands as needed.
233
 
        builder = GraphIndexBuilder(reference_lists=1)
234
 
        references = [(str(val), ) for val in reversed(range(9))]
235
 
        builder.add_node(('2-key', ), '', (references, ))
 
274
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
 
275
        references = [((b"%d" % val), ) for val in range(8, -1, -1)]
 
276
        builder.add_node((b'2-key', ), b'', (references, ))
236
277
        stream = builder.finish()
237
278
        contents = stream.read()
238
279
        self.assertEqualDiff(
239
 
            "Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=1\n"
240
 
            "0\x00a\x00\x00\n"
241
 
            "1\x00a\x00\x00\n"
242
 
            "2\x00a\x00\x00\n"
243
 
            "2-key\x00\x00151\r145\r139\r133\r127\r121\r071\r065\r059\x00\n"
244
 
            "3\x00a\x00\x00\n"
245
 
            "4\x00a\x00\x00\n"
246
 
            "5\x00a\x00\x00\n"
247
 
            "6\x00a\x00\x00\n"
248
 
            "7\x00a\x00\x00\n"
249
 
            "8\x00a\x00\x00\n"
250
 
            "\n", contents)
 
280
            b"Bazaar Graph Index 1\nnode_ref_lists=1\nkey_elements=1\nlen=1\n"
 
281
            b"0\x00a\x00\x00\n"
 
282
            b"1\x00a\x00\x00\n"
 
283
            b"2\x00a\x00\x00\n"
 
284
            b"2-key\x00\x00151\r145\r139\r133\r127\r121\r071\r065\r059\x00\n"
 
285
            b"3\x00a\x00\x00\n"
 
286
            b"4\x00a\x00\x00\n"
 
287
            b"5\x00a\x00\x00\n"
 
288
            b"6\x00a\x00\x00\n"
 
289
            b"7\x00a\x00\x00\n"
 
290
            b"8\x00a\x00\x00\n"
 
291
            b"\n", contents)
251
292
 
252
293
    def test_absent_has_no_reference_overhead(self):
253
294
        # the offsets after an absent record should be correct when there are
254
295
        # >1 reference lists.
255
 
        builder = GraphIndexBuilder(reference_lists=2)
256
 
        builder.add_node(('parent', ), '', ([('aail', ), ('zther', )], []))
 
296
        builder = _mod_index.GraphIndexBuilder(reference_lists=2)
 
297
        builder.add_node((b'parent', ), b'', ([(b'aail', ), (b'zther', )], []))
257
298
        stream = builder.finish()
258
299
        contents = stream.read()
259
300
        self.assertEqual(
260
 
            "Bazaar Graph Index 1\nnode_ref_lists=2\nkey_elements=1\nlen=1\n"
261
 
            "aail\x00a\x00\x00\n"
262
 
            "parent\x00\x0059\r84\t\x00\n"
263
 
            "zther\x00a\x00\x00\n"
264
 
            "\n", contents)
 
301
            b"Bazaar Graph Index 1\nnode_ref_lists=2\nkey_elements=1\nlen=1\n"
 
302
            b"aail\x00a\x00\x00\n"
 
303
            b"parent\x00\x0059\r84\t\x00\n"
 
304
            b"zther\x00a\x00\x00\n"
 
305
            b"\n", contents)
265
306
 
266
307
    def test_add_node_bad_key(self):
267
 
        builder = GraphIndexBuilder()
268
 
        for bad_char in '\t\n\x0b\x0c\r\x00 ':
269
 
            self.assertRaises(errors.BadIndexKey, builder.add_node,
270
 
                ('a%skey' % bad_char, ), 'data')
271
 
        self.assertRaises(errors.BadIndexKey, builder.add_node,
272
 
                ('', ), 'data')
273
 
        self.assertRaises(errors.BadIndexKey, builder.add_node,
274
 
                'not-a-tuple', 'data')
 
308
        builder = _mod_index.GraphIndexBuilder()
 
309
        for bad_char in bytearray(b'\t\n\x0b\x0c\r\x00 '):
 
310
            self.assertRaises(_mod_index.BadIndexKey, builder.add_node,
 
311
                              (b'a%skey' % bytes([bad_char]), ), b'data')
 
312
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node,
 
313
                          (), b'data')
 
314
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node,
 
315
                          b'not-a-tuple', b'data')
275
316
        # not enough length
276
 
        self.assertRaises(errors.BadIndexKey, builder.add_node,
277
 
                (), 'data')
 
317
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node,
 
318
                          (), b'data')
278
319
        # too long
279
 
        self.assertRaises(errors.BadIndexKey, builder.add_node,
280
 
                ('primary', 'secondary'), 'data')
 
320
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node,
 
321
                          (b'primary', b'secondary'), b'data')
281
322
        # secondary key elements get checked too:
282
 
        builder = GraphIndexBuilder(key_elements=2)
283
 
        for bad_char in '\t\n\x0b\x0c\r\x00 ':
284
 
            self.assertRaises(errors.BadIndexKey, builder.add_node,
285
 
                ('prefix', 'a%skey' % bad_char), 'data')
 
323
        builder = _mod_index.GraphIndexBuilder(key_elements=2)
 
324
        for bad_char in bytearray(b'\t\n\x0b\x0c\r\x00 '):
 
325
            self.assertRaises(_mod_index.BadIndexKey, builder.add_node,
 
326
                              (b'prefix', b'a%skey' % bytes([bad_char])), b'data')
286
327
 
287
328
    def test_add_node_bad_data(self):
288
 
        builder = GraphIndexBuilder()
289
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
290
 
            'data\naa')
291
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
292
 
            'data\x00aa')
 
329
        builder = _mod_index.GraphIndexBuilder()
 
330
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
331
                          b'data\naa')
 
332
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
333
                          b'data\x00aa')
293
334
 
294
335
    def test_add_node_bad_mismatched_ref_lists_length(self):
295
 
        builder = GraphIndexBuilder()
296
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
297
 
            'data aa', ([], ))
298
 
        builder = GraphIndexBuilder(reference_lists=1)
299
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
300
 
            'data aa')
301
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
302
 
            'data aa', (), )
303
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
304
 
            'data aa', ([], []))
305
 
        builder = GraphIndexBuilder(reference_lists=2)
306
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
307
 
            'data aa')
308
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
309
 
            'data aa', ([], ))
310
 
        self.assertRaises(errors.BadIndexValue, builder.add_node, ('akey', ),
311
 
            'data aa', ([], [], []))
 
336
        builder = _mod_index.GraphIndexBuilder()
 
337
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
338
                          b'data aa', ([], ))
 
339
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
 
340
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
341
                          b'data aa')
 
342
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
343
                          b'data aa', (), )
 
344
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
345
                          b'data aa', ([], []))
 
346
        builder = _mod_index.GraphIndexBuilder(reference_lists=2)
 
347
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
348
                          b'data aa')
 
349
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
350
                          b'data aa', ([], ))
 
351
        self.assertRaises(_mod_index.BadIndexValue, builder.add_node, (b'akey', ),
 
352
                          b'data aa', ([], [], []))
312
353
 
313
354
    def test_add_node_bad_key_in_reference_lists(self):
314
355
        # first list, first key - trivial
315
 
        builder = GraphIndexBuilder(reference_lists=1)
316
 
        self.assertRaises(errors.BadIndexKey, builder.add_node, ('akey', ),
317
 
            'data aa', ([('a key', )], ))
 
356
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
 
357
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node, (b'akey', ),
 
358
                          b'data aa', ([(b'a key', )], ))
318
359
        # references keys must be tuples too
319
 
        self.assertRaises(errors.BadIndexKey, builder.add_node, ('akey', ),
320
 
            'data aa', (['not-a-tuple'], ))
 
360
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node, (b'akey', ),
 
361
                          b'data aa', (['not-a-tuple'], ))
321
362
        # not enough length
322
 
        self.assertRaises(errors.BadIndexKey, builder.add_node, ('akey', ),
323
 
            'data aa', ([()], ))
 
363
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node, (b'akey', ),
 
364
                          b'data aa', ([()], ))
324
365
        # too long
325
 
        self.assertRaises(errors.BadIndexKey, builder.add_node, ('akey', ),
326
 
            'data aa', ([('primary', 'secondary')], ))
 
366
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node, (b'akey', ),
 
367
                          b'data aa', ([(b'primary', b'secondary')], ))
327
368
        # need to check more than the first key in the list
328
 
        self.assertRaises(errors.BadIndexKey, builder.add_node, ('akey', ),
329
 
            'data aa', ([('agoodkey', ), ('that is a bad key', )], ))
 
369
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node, (b'akey', ),
 
370
                          b'data aa', ([(b'agoodkey', ), (b'that is a bad key', )], ))
330
371
        # and if there is more than one list it should be getting checked
331
372
        # too
332
 
        builder = GraphIndexBuilder(reference_lists=2)
333
 
        self.assertRaises(errors.BadIndexKey, builder.add_node, ('akey', ),
334
 
            'data aa', ([], ['a bad key']))
 
373
        builder = _mod_index.GraphIndexBuilder(reference_lists=2)
 
374
        self.assertRaises(_mod_index.BadIndexKey, builder.add_node, (b'akey', ),
 
375
                          b'data aa', ([], ['a bad key']))
335
376
 
336
377
    def test_add_duplicate_key(self):
337
 
        builder = GraphIndexBuilder()
338
 
        builder.add_node(('key', ), 'data')
339
 
        self.assertRaises(errors.BadIndexDuplicateKey, builder.add_node, ('key', ),
340
 
            'data')
 
378
        builder = _mod_index.GraphIndexBuilder()
 
379
        builder.add_node((b'key', ), b'data')
 
380
        self.assertRaises(_mod_index.BadIndexDuplicateKey,
 
381
                          builder.add_node, (b'key', ), b'data')
341
382
 
342
383
    def test_add_duplicate_key_2_elements(self):
343
 
        builder = GraphIndexBuilder(key_elements=2)
344
 
        builder.add_node(('key', 'key'), 'data')
345
 
        self.assertRaises(errors.BadIndexDuplicateKey, builder.add_node,
346
 
            ('key', 'key'), 'data')
 
384
        builder = _mod_index.GraphIndexBuilder(key_elements=2)
 
385
        builder.add_node((b'key', b'key'), b'data')
 
386
        self.assertRaises(_mod_index.BadIndexDuplicateKey, builder.add_node,
 
387
                          (b'key', b'key'), b'data')
347
388
 
348
389
    def test_add_key_after_referencing_key(self):
349
 
        builder = GraphIndexBuilder(reference_lists=1)
350
 
        builder.add_node(('key', ), 'data', ([('reference', )], ))
351
 
        builder.add_node(('reference', ), 'data', ([],))
 
390
        builder = _mod_index.GraphIndexBuilder(reference_lists=1)
 
391
        builder.add_node((b'key', ), b'data', ([(b'reference', )], ))
 
392
        builder.add_node((b'reference', ), b'data', ([],))
352
393
 
353
394
    def test_add_key_after_referencing_key_2_elements(self):
354
 
        builder = GraphIndexBuilder(reference_lists=1, key_elements=2)
355
 
        builder.add_node(('k', 'ey'), 'data', ([('reference', 'tokey')], ))
356
 
        builder.add_node(('reference', 'tokey'), 'data', ([],))
 
395
        builder = _mod_index.GraphIndexBuilder(
 
396
            reference_lists=1, key_elements=2)
 
397
        builder.add_node((b'k', b'ey'), b'data',
 
398
                         ([(b'reference', b'tokey')], ))
 
399
        builder.add_node((b'reference', b'tokey'), b'data', ([],))
357
400
 
358
401
    def test_set_optimize(self):
359
 
        builder = GraphIndexBuilder(reference_lists=1, key_elements=2)
 
402
        builder = _mod_index.GraphIndexBuilder(
 
403
            reference_lists=1, key_elements=2)
360
404
        builder.set_optimize(for_size=True)
361
405
        self.assertTrue(builder._optimize_for_size)
362
406
        builder.set_optimize(for_size=False)
363
407
        self.assertFalse(builder._optimize_for_size)
364
408
 
365
409
 
366
 
class TestGraphIndex(TestCaseWithMemoryTransport):
 
410
class TestGraphIndex(tests.TestCaseWithMemoryTransport):
367
411
 
368
412
    def make_key(self, number):
369
 
        return (str(number) + 'X'*100,)
 
413
        return ((b'%d' % number) + b'X' * 100,)
370
414
 
371
415
    def make_value(self, number):
372
 
            return str(number) + 'Y'*100
 
416
        return (b'%d' % number) + b'Y' * 100
373
417
 
374
418
    def make_nodes(self, count=64):
375
419
        # generate a big enough index that we only read some of it on a typical
376
420
        # bisection lookup.
377
421
        nodes = []
378
422
        for counter in range(count):
379
 
            nodes.append((self.make_key(counter), self.make_value(counter), ()))
 
423
            nodes.append(
 
424
                (self.make_key(counter), self.make_value(counter), ()))
380
425
        return nodes
381
426
 
382
427
    def make_index(self, ref_lists=0, key_elements=1, nodes=[]):
383
 
        builder = GraphIndexBuilder(ref_lists, key_elements=key_elements)
 
428
        builder = _mod_index.GraphIndexBuilder(
 
429
            ref_lists, key_elements=key_elements)
384
430
        for key, value, references in nodes:
385
431
            builder.add_node(key, value, references)
386
432
        stream = builder.finish()
387
 
        trans = get_transport('trace+' + self.get_url())
 
433
        trans = transport.get_transport_from_url('trace+' + self.get_url())
388
434
        size = trans.put_file('index', stream)
389
 
        return GraphIndex(trans, 'index', size)
 
435
        return _mod_index.GraphIndex(trans, 'index', size)
390
436
 
391
437
    def make_index_with_offset(self, ref_lists=0, key_elements=1, nodes=[],
392
438
                               offset=0):
393
 
        builder = GraphIndexBuilder(ref_lists, key_elements=key_elements)
 
439
        builder = _mod_index.GraphIndexBuilder(
 
440
            ref_lists, key_elements=key_elements)
394
441
        for key, value, references in nodes:
395
442
            builder.add_node(key, value, references)
396
443
        content = builder.finish().read()
397
444
        size = len(content)
398
445
        trans = self.get_transport()
399
 
        trans.put_bytes('index', (' '*offset) + content)
400
 
        return GraphIndex(trans, 'index', size, offset=offset)
 
446
        trans.put_bytes('index', (b' ' * offset) + content)
 
447
        return _mod_index.GraphIndex(trans, 'index', size, offset=offset)
401
448
 
402
449
    def test_clear_cache(self):
403
450
        index = self.make_index()
407
454
 
408
455
    def test_open_bad_index_no_error(self):
409
456
        trans = self.get_transport()
410
 
        trans.put_bytes('name', "not an index\n")
411
 
        index = GraphIndex(trans, 'name', 13)
 
457
        trans.put_bytes('name', b"not an index\n")
 
458
        idx = _mod_index.GraphIndex(trans, 'name', 13)
412
459
 
413
460
    def test_with_offset(self):
414
461
        nodes = self.make_nodes(200)
415
 
        index = self.make_index_with_offset(offset=1234567, nodes=nodes)
416
 
        self.assertEqual(200, index.key_count())
 
462
        idx = self.make_index_with_offset(offset=1234567, nodes=nodes)
 
463
        self.assertEqual(200, idx.key_count())
417
464
 
418
465
    def test_buffer_all_with_offset(self):
419
466
        nodes = self.make_nodes(200)
420
 
        index = self.make_index_with_offset(offset=1234567, nodes=nodes)
421
 
        index._buffer_all()
422
 
        self.assertEqual(200, index.key_count())
 
467
        idx = self.make_index_with_offset(offset=1234567, nodes=nodes)
 
468
        idx._buffer_all()
 
469
        self.assertEqual(200, idx.key_count())
423
470
 
424
471
    def test_side_effect_buffering_with_offset(self):
425
472
        nodes = self.make_nodes(20)
426
473
        index = self.make_index_with_offset(offset=1234567, nodes=nodes)
427
 
        index._transport.recommended_page_size = lambda:64*1024
 
474
        index._transport.recommended_page_size = lambda: 64 * 1024
428
475
        subset_nodes = [nodes[0][0], nodes[10][0], nodes[19][0]]
429
476
        entries = [n[1] for n in index.iter_entries(subset_nodes)]
430
477
        self.assertEqual(sorted(subset_nodes), sorted(entries))
456
503
        # do a _lookup_keys_via_location call for the middle of the file, which
457
504
        # is what bisection uses.
458
505
        result = index._lookup_keys_via_location(
459
 
            [(index._size // 2, ('missing', ))])
 
506
            [(index._size // 2, (b'missing', ))])
460
507
        # this should have asked for a readv request, with adjust_for_latency,
461
508
        # and two regions: the header, and half-way into the file.
462
509
        self.assertEqual([
465
512
            index._transport._activity)
466
513
        # and the result should be that the key cannot be present, because this
467
514
        # is a trivial index.
468
 
        self.assertEqual([((index._size // 2, ('missing', )), False)],
469
 
            result)
 
515
        self.assertEqual([((index._size // 2, (b'missing', )), False)],
 
516
                         result)
470
517
        # And this should have caused the file to be fully buffered
471
518
        self.assertIsNot(None, index._nodes)
472
519
        self.assertEqual([], index._parsed_byte_map)
486
533
        # is what bisection uses.
487
534
        start_lookup = index._size // 2
488
535
        result = index._lookup_keys_via_location(
489
 
            [(start_lookup, ('40missing', ))])
 
536
            [(start_lookup, (b'40missing', ))])
490
537
        # this should have asked for a readv request, with adjust_for_latency,
491
538
        # and two regions: the header, and half-way into the file.
492
539
        self.assertEqual([
496
543
            index._transport._activity)
497
544
        # and the result should be that the key cannot be present, because this
498
545
        # is a trivial index.
499
 
        self.assertEqual([((start_lookup, ('40missing', )), False)],
500
 
            result)
 
546
        self.assertEqual([((start_lookup, (b'40missing', )), False)],
 
547
                         result)
501
548
        # And this should not have caused the file to be fully buffered
502
549
        self.assertIs(None, index._nodes)
503
550
        # And the regions of the file that have been parsed should be in the
504
551
        # parsed_byte_map and the parsed_key_map
505
552
        self.assertEqual([(0, 4008), (5046, 8996)], index._parsed_byte_map)
506
 
        self.assertEqual([(None, self.make_key(26)),
 
553
        self.assertEqual([((), self.make_key(26)),
507
554
                          (self.make_key(31), self.make_key(48))],
508
555
                         index._parsed_key_map)
509
556
 
510
557
    def test_parsing_non_adjacent_data_trims(self):
511
558
        index = self.make_index(nodes=self.make_nodes(64))
512
559
        result = index._lookup_keys_via_location(
513
 
            [(index._size // 2, ('40', ))])
 
560
            [(index._size // 2, (b'40', ))])
514
561
        # and the result should be that the key cannot be present, because key is
515
562
        # in the middle of the observed data from a 4K read - the smallest transport
516
563
        # will do today with this api.
517
 
        self.assertEqual([((index._size // 2, ('40', )), False)],
518
 
            result)
 
564
        self.assertEqual([((index._size // 2, (b'40', )), False)],
 
565
                         result)
519
566
        # and we should have a parse map that includes the header and the
520
567
        # region that was parsed after trimming.
521
568
        self.assertEqual([(0, 4008), (5046, 8996)], index._parsed_byte_map)
522
 
        self.assertEqual([(None, self.make_key(26)),
 
569
        self.assertEqual([((), self.make_key(26)),
523
570
                          (self.make_key(31), self.make_key(48))],
524
 
            index._parsed_key_map)
 
571
                         index._parsed_key_map)
525
572
 
526
573
    def test_parsing_data_handles_parsed_contained_regions(self):
527
574
        # the following patten creates a parsed region that is wholly within a
539
586
        # locations of both keys.
540
587
        index = self.make_index(nodes=self.make_nodes(128))
541
588
        result = index._lookup_keys_via_location(
542
 
            [(index._size // 2, ('40', ))])
 
589
            [(index._size // 2, (b'40', ))])
543
590
        # and we should have a parse map that includes the header and the
544
591
        # region that was parsed after trimming.
545
592
        self.assertEqual([(0, 4045), (11759, 15707)], index._parsed_byte_map)
546
 
        self.assertEqual([(None, self.make_key(116)),
 
593
        self.assertEqual([((), self.make_key(116)),
547
594
                          (self.make_key(35), self.make_key(51))],
548
 
            index._parsed_key_map)
 
595
                         index._parsed_key_map)
549
596
        # now ask for two keys, right before and after the parsed region
550
597
        result = index._lookup_keys_via_location(
551
598
            [(11450, self.make_key(34)), (15707, self.make_key(52))])
563
610
        # bisection lookup.
564
611
        index = self.make_index(nodes=self.make_nodes(64))
565
612
        # lookup the keys in the middle of the file
566
 
        result =index._lookup_keys_via_location(
567
 
            [(index._size // 2, ('40', ))])
 
613
        result = index._lookup_keys_via_location(
 
614
            [(index._size // 2, (b'40', ))])
568
615
        # check the parse map, this determines the test validity
569
616
        self.assertEqual([(0, 4008), (5046, 8996)], index._parsed_byte_map)
570
 
        self.assertEqual([(None, self.make_key(26)),
 
617
        self.assertEqual([((), self.make_key(26)),
571
618
                          (self.make_key(31), self.make_key(48))],
572
 
            index._parsed_key_map)
 
619
                         index._parsed_key_map)
573
620
        # reset the transport log
574
621
        del index._transport._activity[:]
575
622
        # now looking up a key in the portion of the file already parsed should
577
624
        # be in the index) - even when the byte location we ask for is outside
578
625
        # the parsed region
579
626
        result = index._lookup_keys_via_location(
580
 
            [(4000, ('40', ))])
581
 
        self.assertEqual([((4000, ('40', )), False)],
582
 
            result)
 
627
            [(4000, (b'40', ))])
 
628
        self.assertEqual([((4000, (b'40', )), False)],
 
629
                         result)
583
630
        self.assertEqual([], index._transport._activity)
584
631
 
585
632
    def test_lookup_present_key_answers_without_io_when_map_permits(self):
587
634
        # bisection lookup.
588
635
        index = self.make_index(nodes=self.make_nodes(64))
589
636
        # lookup the keys in the middle of the file
590
 
        result =index._lookup_keys_via_location(
591
 
            [(index._size // 2, ('40', ))])
 
637
        result = index._lookup_keys_via_location(
 
638
            [(index._size // 2, (b'40', ))])
592
639
        # check the parse map, this determines the test validity
593
640
        self.assertEqual([(0, 4008), (5046, 8996)], index._parsed_byte_map)
594
 
        self.assertEqual([(None, self.make_key(26)),
 
641
        self.assertEqual([((), self.make_key(26)),
595
642
                          (self.make_key(31), self.make_key(48))],
596
 
            index._parsed_key_map)
 
643
                         index._parsed_key_map)
597
644
        # reset the transport log
598
645
        del index._transport._activity[:]
599
646
        # now looking up a key in the portion of the file already parsed should
614
661
        index = self.make_index(nodes=self.make_nodes(64))
615
662
        # ask for the key in the middle, but a key that is located in the
616
663
        # unparsed region before the middle.
617
 
        result =index._lookup_keys_via_location(
618
 
            [(index._size // 2, ('30', ))])
 
664
        result = index._lookup_keys_via_location(
 
665
            [(index._size // 2, (b'30', ))])
619
666
        # check the parse map, this determines the test validity
620
667
        self.assertEqual([(0, 4008), (5046, 8996)], index._parsed_byte_map)
621
 
        self.assertEqual([(None, self.make_key(26)),
 
668
        self.assertEqual([((), self.make_key(26)),
622
669
                          (self.make_key(31), self.make_key(48))],
623
 
            index._parsed_key_map)
624
 
        self.assertEqual([((index._size // 2, ('30', )), -1)],
625
 
            result)
 
670
                         index._parsed_key_map)
 
671
        self.assertEqual([((index._size // 2, (b'30', )), -1)],
 
672
                         result)
626
673
 
627
674
    def test_lookup_key_above_probed_area(self):
628
675
        # generate a big enough index that we only read some of it on a typical
630
677
        index = self.make_index(nodes=self.make_nodes(64))
631
678
        # ask for the key in the middle, but a key that is located in the
632
679
        # unparsed region after the middle.
633
 
        result =index._lookup_keys_via_location(
634
 
            [(index._size // 2, ('50', ))])
 
680
        result = index._lookup_keys_via_location(
 
681
            [(index._size // 2, (b'50', ))])
635
682
        # check the parse map, this determines the test validity
636
683
        self.assertEqual([(0, 4008), (5046, 8996)], index._parsed_byte_map)
637
 
        self.assertEqual([(None, self.make_key(26)),
 
684
        self.assertEqual([((), self.make_key(26)),
638
685
                          (self.make_key(31), self.make_key(48))],
639
 
            index._parsed_key_map)
640
 
        self.assertEqual([((index._size // 2, ('50', )), +1)],
641
 
            result)
 
686
                         index._parsed_key_map)
 
687
        self.assertEqual([((index._size // 2, (b'50', )), +1)],
 
688
                         result)
642
689
 
643
690
    def test_lookup_key_resolves_references(self):
644
691
        # generate a big enough index that we only read some of it on a typical
646
693
        nodes = []
647
694
        for counter in range(99):
648
695
            nodes.append((self.make_key(counter), self.make_value(counter),
649
 
                ((self.make_key(counter + 20),),)  ))
 
696
                          ((self.make_key(counter + 20),),)))
650
697
        index = self.make_index(ref_lists=1, nodes=nodes)
651
698
        # lookup a key in the middle that does not exist, so that when we can
652
699
        # check that the referred-to-keys are not accessed automatically.
653
700
        index_size = index._size
654
701
        index_center = index_size // 2
655
702
        result = index._lookup_keys_via_location(
656
 
            [(index_center, ('40', ))])
 
703
            [(index_center, (b'40', ))])
657
704
        # check the parse map - only the start and middle should have been
658
705
        # parsed.
659
706
        self.assertEqual([(0, 4027), (10198, 14028)], index._parsed_byte_map)
660
 
        self.assertEqual([(None, self.make_key(17)),
 
707
        self.assertEqual([((), self.make_key(17)),
661
708
                          (self.make_key(44), self.make_key(5))],
662
 
            index._parsed_key_map)
 
709
                         index._parsed_key_map)
663
710
        # and check the transport activity likewise.
664
711
        self.assertEqual(
665
712
            [('readv', 'index', [(index_center, 800), (0, 200)], True,
666
 
                                  index_size)],
 
713
              index_size)],
667
714
            index._transport._activity)
668
715
        # reset the transport log for testing the reference lookup
669
716
        del index._transport._activity[:]
676
723
               ((self.make_key(65),),)))],
677
724
            result)
678
725
        self.assertEqual([('readv', 'index', [(15093, 800)], True, index_size)],
679
 
            index._transport._activity)
 
726
                         index._transport._activity)
680
727
 
681
728
    def test_lookup_key_can_buffer_all(self):
682
729
        nodes = []
683
730
        for counter in range(64):
684
731
            nodes.append((self.make_key(counter), self.make_value(counter),
685
 
                ((self.make_key(counter + 20),),)  ))
 
732
                          ((self.make_key(counter + 20),),)))
686
733
        index = self.make_index(ref_lists=1, nodes=nodes)
687
734
        # lookup a key in the middle that does not exist, so that when we can
688
735
        # check that the referred-to-keys are not accessed automatically.
689
736
        index_size = index._size
690
737
        index_center = index_size // 2
691
 
        result = index._lookup_keys_via_location([(index_center, ('40', ))])
 
738
        result = index._lookup_keys_via_location([(index_center, (b'40', ))])
692
739
        # check the parse map - only the start and middle should have been
693
740
        # parsed.
694
741
        self.assertEqual([(0, 3890), (6444, 10274)], index._parsed_byte_map)
695
 
        self.assertEqual([(None, self.make_key(25)),
 
742
        self.assertEqual([((), self.make_key(25)),
696
743
                          (self.make_key(37), self.make_key(52))],
697
 
            index._parsed_key_map)
 
744
                         index._parsed_key_map)
698
745
        # and check the transport activity likewise.
699
746
        self.assertEqual(
700
747
            [('readv', 'index', [(index_center, 800), (0, 200)], True,
701
 
                                  index_size)],
 
748
              index_size)],
702
749
            index._transport._activity)
703
750
        # reset the transport log for testing the reference lookup
704
751
        del index._transport._activity[:]
719
766
        self.assertEqual([], list(index.iter_all_entries()))
720
767
 
721
768
    def test_iter_all_entries_simple(self):
722
 
        index = self.make_index(nodes=[(('name', ), 'data', ())])
723
 
        self.assertEqual([(index, ('name', ), 'data')],
724
 
            list(index.iter_all_entries()))
 
769
        index = self.make_index(nodes=[((b'name', ), b'data', ())])
 
770
        self.assertEqual([(index, (b'name', ), b'data')],
 
771
                         list(index.iter_all_entries()))
725
772
 
726
773
    def test_iter_all_entries_simple_2_elements(self):
727
774
        index = self.make_index(key_elements=2,
728
 
            nodes=[(('name', 'surname'), 'data', ())])
729
 
        self.assertEqual([(index, ('name', 'surname'), 'data')],
730
 
            list(index.iter_all_entries()))
 
775
                                nodes=[((b'name', b'surname'), b'data', ())])
 
776
        self.assertEqual([(index, (b'name', b'surname'), b'data')],
 
777
                         list(index.iter_all_entries()))
731
778
 
732
779
    def test_iter_all_entries_references_resolved(self):
733
780
        index = self.make_index(1, nodes=[
734
 
            (('name', ), 'data', ([('ref', )], )),
735
 
            (('ref', ), 'refdata', ([], ))])
736
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),),)),
737
 
            (index, ('ref', ), 'refdata', ((), ))]),
738
 
            set(index.iter_all_entries()))
 
781
            ((b'name', ), b'data', ([(b'ref', )], )),
 
782
            ((b'ref', ), b'refdata', ([], ))])
 
783
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),),)),
 
784
                          (index, (b'ref', ), b'refdata', ((), ))},
 
785
                         set(index.iter_all_entries()))
739
786
 
740
787
    def test_iter_entries_buffers_once(self):
741
788
        index = self.make_index(nodes=self.make_nodes(2))
742
789
        # reset the transport log
743
790
        del index._transport._activity[:]
744
 
        self.assertEqual(set([(index, self.make_key(1), self.make_value(1))]),
 
791
        self.assertEqual({(index, self.make_key(1), self.make_value(1))},
745
792
                         set(index.iter_entries([self.make_key(1)])))
746
793
        # We should have requested reading the header bytes
747
794
        # But not needed any more than that because it would have triggered a
781
828
 
782
829
    def test_iter_entries_references_resolved(self):
783
830
        index = self.make_index(1, nodes=[
784
 
            (('name', ), 'data', ([('ref', ), ('ref', )], )),
785
 
            (('ref', ), 'refdata', ([], ))])
786
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),('ref',)),)),
787
 
            (index, ('ref', ), 'refdata', ((), ))]),
788
 
            set(index.iter_entries([('name',), ('ref',)])))
 
831
            ((b'name', ), b'data', ([(b'ref', ), (b'ref', )], )),
 
832
            ((b'ref', ), b'refdata', ([], ))])
 
833
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',), (b'ref',)),)),
 
834
                          (index, (b'ref', ), b'refdata', ((), ))},
 
835
                         set(index.iter_entries([(b'name',), (b'ref',)])))
789
836
 
790
837
    def test_iter_entries_references_2_refs_resolved(self):
791
838
        index = self.make_index(2, nodes=[
792
 
            (('name', ), 'data', ([('ref', )], [('ref', )])),
793
 
            (('ref', ), 'refdata', ([], []))])
794
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),), (('ref',),))),
795
 
            (index, ('ref', ), 'refdata', ((), ()))]),
796
 
            set(index.iter_entries([('name',), ('ref',)])))
 
839
            ((b'name', ), b'data', ([(b'ref', )], [(b'ref', )])),
 
840
            ((b'ref', ), b'refdata', ([], []))])
 
841
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),), ((b'ref',),))),
 
842
                          (index, (b'ref', ), b'refdata', ((), ()))},
 
843
                         set(index.iter_entries([(b'name',), (b'ref',)])))
797
844
 
798
845
    def test_iteration_absent_skipped(self):
799
846
        index = self.make_index(1, nodes=[
800
 
            (('name', ), 'data', ([('ref', )], ))])
801
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),),))]),
802
 
            set(index.iter_all_entries()))
803
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),),))]),
804
 
            set(index.iter_entries([('name', )])))
805
 
        self.assertEqual([], list(index.iter_entries([('ref', )])))
 
847
            ((b'name', ), b'data', ([(b'ref', )], ))])
 
848
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),),))},
 
849
                         set(index.iter_all_entries()))
 
850
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),),))},
 
851
                         set(index.iter_entries([(b'name', )])))
 
852
        self.assertEqual([], list(index.iter_entries([(b'ref', )])))
806
853
 
807
854
    def test_iteration_absent_skipped_2_element_keys(self):
808
855
        index = self.make_index(1, key_elements=2, nodes=[
809
 
            (('name', 'fin'), 'data', ([('ref', 'erence')], ))])
810
 
        self.assertEqual(set([(index, ('name', 'fin'), 'data', ((('ref', 'erence'),),))]),
811
 
            set(index.iter_all_entries()))
812
 
        self.assertEqual(set([(index, ('name', 'fin'), 'data', ((('ref', 'erence'),),))]),
813
 
            set(index.iter_entries([('name', 'fin')])))
814
 
        self.assertEqual([], list(index.iter_entries([('ref', 'erence')])))
 
856
            ((b'name', b'fin'), b'data', ([(b'ref', b'erence')], ))])
 
857
        self.assertEqual([(index, (b'name', b'fin'), b'data', (((b'ref', b'erence'),),))],
 
858
                         list(index.iter_all_entries()))
 
859
        self.assertEqual([(index, (b'name', b'fin'), b'data', (((b'ref', b'erence'),),))],
 
860
                         list(index.iter_entries([(b'name', b'fin')])))
 
861
        self.assertEqual([], list(index.iter_entries([(b'ref', b'erence')])))
815
862
 
816
863
    def test_iter_all_keys(self):
817
864
        index = self.make_index(1, nodes=[
818
 
            (('name', ), 'data', ([('ref', )], )),
819
 
            (('ref', ), 'refdata', ([], ))])
820
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),),)),
821
 
            (index, ('ref', ), 'refdata', ((), ))]),
822
 
            set(index.iter_entries([('name', ), ('ref', )])))
 
865
            ((b'name', ), b'data', ([(b'ref', )], )),
 
866
            ((b'ref', ), b'refdata', ([], ))])
 
867
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),),)),
 
868
                          (index, (b'ref', ), b'refdata', ((), ))},
 
869
                         set(index.iter_entries([(b'name', ), (b'ref', )])))
823
870
 
824
871
    def test_iter_nothing_empty(self):
825
872
        index = self.make_index()
827
874
 
828
875
    def test_iter_missing_entry_empty(self):
829
876
        index = self.make_index()
830
 
        self.assertEqual([], list(index.iter_entries([('a', )])))
 
877
        self.assertEqual([], list(index.iter_entries([(b'a', )])))
831
878
 
832
879
    def test_iter_missing_entry_empty_no_size(self):
833
 
        index = self.make_index()
834
 
        index = GraphIndex(index._transport, 'index', None)
835
 
        self.assertEqual([], list(index.iter_entries([('a', )])))
 
880
        idx = self.make_index()
 
881
        idx = _mod_index.GraphIndex(idx._transport, 'index', None)
 
882
        self.assertEqual([], list(idx.iter_entries([(b'a', )])))
836
883
 
837
884
    def test_iter_key_prefix_1_element_key_None(self):
838
885
        index = self.make_index()
839
 
        self.assertRaises(errors.BadIndexKey, list,
840
 
            index.iter_entries_prefix([(None, )]))
 
886
        self.assertRaises(_mod_index.BadIndexKey, list,
 
887
                          index.iter_entries_prefix([(None, )]))
841
888
 
842
889
    def test_iter_key_prefix_wrong_length(self):
843
890
        index = self.make_index()
844
 
        self.assertRaises(errors.BadIndexKey, list,
845
 
            index.iter_entries_prefix([('foo', None)]))
 
891
        self.assertRaises(_mod_index.BadIndexKey, list,
 
892
                          index.iter_entries_prefix([(b'foo', None)]))
846
893
        index = self.make_index(key_elements=2)
847
 
        self.assertRaises(errors.BadIndexKey, list,
848
 
            index.iter_entries_prefix([('foo', )]))
849
 
        self.assertRaises(errors.BadIndexKey, list,
850
 
            index.iter_entries_prefix([('foo', None, None)]))
 
894
        self.assertRaises(_mod_index.BadIndexKey, list,
 
895
                          index.iter_entries_prefix([(b'foo', )]))
 
896
        self.assertRaises(_mod_index.BadIndexKey, list,
 
897
                          index.iter_entries_prefix([(b'foo', None, None)]))
851
898
 
852
899
    def test_iter_key_prefix_1_key_element_no_refs(self):
853
 
        index = self.make_index( nodes=[
854
 
            (('name', ), 'data', ()),
855
 
            (('ref', ), 'refdata', ())])
856
 
        self.assertEqual(set([(index, ('name', ), 'data'),
857
 
            (index, ('ref', ), 'refdata')]),
858
 
            set(index.iter_entries_prefix([('name', ), ('ref', )])))
 
900
        index = self.make_index(nodes=[
 
901
            ((b'name', ), b'data', ()),
 
902
            ((b'ref', ), b'refdata', ())])
 
903
        self.assertEqual({(index, (b'name', ), b'data'),
 
904
                          (index, (b'ref', ), b'refdata')},
 
905
                         set(index.iter_entries_prefix([(b'name', ), (b'ref', )])))
859
906
 
860
907
    def test_iter_key_prefix_1_key_element_refs(self):
861
908
        index = self.make_index(1, nodes=[
862
 
            (('name', ), 'data', ([('ref', )], )),
863
 
            (('ref', ), 'refdata', ([], ))])
864
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),),)),
865
 
            (index, ('ref', ), 'refdata', ((), ))]),
866
 
            set(index.iter_entries_prefix([('name', ), ('ref', )])))
 
909
            ((b'name', ), b'data', ([(b'ref', )], )),
 
910
            ((b'ref', ), b'refdata', ([], ))])
 
911
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),),)),
 
912
                          (index, (b'ref', ), b'refdata', ((), ))},
 
913
                         set(index.iter_entries_prefix([(b'name', ), (b'ref', )])))
867
914
 
868
915
    def test_iter_key_prefix_2_key_element_no_refs(self):
869
916
        index = self.make_index(key_elements=2, nodes=[
870
 
            (('name', 'fin1'), 'data', ()),
871
 
            (('name', 'fin2'), 'beta', ()),
872
 
            (('ref', 'erence'), 'refdata', ())])
873
 
        self.assertEqual(set([(index, ('name', 'fin1'), 'data'),
874
 
            (index, ('ref', 'erence'), 'refdata')]),
875
 
            set(index.iter_entries_prefix([('name', 'fin1'), ('ref', 'erence')])))
876
 
        self.assertEqual(set([(index, ('name', 'fin1'), 'data'),
877
 
            (index, ('name', 'fin2'), 'beta')]),
878
 
            set(index.iter_entries_prefix([('name', None)])))
 
917
            ((b'name', b'fin1'), b'data', ()),
 
918
            ((b'name', b'fin2'), b'beta', ()),
 
919
            ((b'ref', b'erence'), b'refdata', ())])
 
920
        self.assertEqual({(index, (b'name', b'fin1'), b'data'),
 
921
                          (index, (b'ref', b'erence'), b'refdata')},
 
922
                         set(index.iter_entries_prefix([(b'name', b'fin1'), (b'ref', b'erence')])))
 
923
        self.assertEqual({(index, (b'name', b'fin1'), b'data'),
 
924
                          (index, (b'name', b'fin2'), b'beta')},
 
925
                         set(index.iter_entries_prefix([(b'name', None)])))
879
926
 
880
927
    def test_iter_key_prefix_2_key_element_refs(self):
881
928
        index = self.make_index(1, key_elements=2, nodes=[
882
 
            (('name', 'fin1'), 'data', ([('ref', 'erence')], )),
883
 
            (('name', 'fin2'), 'beta', ([], )),
884
 
            (('ref', 'erence'), 'refdata', ([], ))])
885
 
        self.assertEqual(set([(index, ('name', 'fin1'), 'data', ((('ref', 'erence'),),)),
886
 
            (index, ('ref', 'erence'), 'refdata', ((), ))]),
887
 
            set(index.iter_entries_prefix([('name', 'fin1'), ('ref', 'erence')])))
888
 
        self.assertEqual(set([(index, ('name', 'fin1'), 'data', ((('ref', 'erence'),),)),
889
 
            (index, ('name', 'fin2'), 'beta', ((), ))]),
890
 
            set(index.iter_entries_prefix([('name', None)])))
 
929
            ((b'name', b'fin1'), b'data', ([(b'ref', b'erence')], )),
 
930
            ((b'name', b'fin2'), b'beta', ([], )),
 
931
            ((b'ref', b'erence'), b'refdata', ([], ))])
 
932
        self.assertEqual({(index, (b'name', b'fin1'), b'data', (((b'ref', b'erence'),),)),
 
933
                          (index, (b'ref', b'erence'), b'refdata', ((), ))},
 
934
                         set(index.iter_entries_prefix([(b'name', b'fin1'), (b'ref', b'erence')])))
 
935
        self.assertEqual({(index, (b'name', b'fin1'), b'data', (((b'ref', b'erence'),),)),
 
936
                          (index, (b'name', b'fin2'), b'beta', ((), ))},
 
937
                         set(index.iter_entries_prefix([(b'name', None)])))
891
938
 
892
939
    def test_key_count_empty(self):
893
940
        index = self.make_index()
894
941
        self.assertEqual(0, index.key_count())
895
942
 
896
943
    def test_key_count_one(self):
897
 
        index = self.make_index(nodes=[(('name', ), '', ())])
 
944
        index = self.make_index(nodes=[((b'name', ), b'', ())])
898
945
        self.assertEqual(1, index.key_count())
899
946
 
900
947
    def test_key_count_two(self):
901
948
        index = self.make_index(nodes=[
902
 
            (('name', ), '', ()), (('foo', ), '', ())])
 
949
            ((b'name', ), b'', ()), ((b'foo', ), b'', ())])
903
950
        self.assertEqual(2, index.key_count())
904
951
 
905
952
    def test_read_and_parse_tracks_real_read_value(self):
917
964
 
918
965
    def test_read_and_parse_triggers_buffer_all(self):
919
966
        index = self.make_index(key_elements=2, nodes=[
920
 
            (('name', 'fin1'), 'data', ()),
921
 
            (('name', 'fin2'), 'beta', ()),
922
 
            (('ref', 'erence'), 'refdata', ())])
 
967
            ((b'name', b'fin1'), b'data', ()),
 
968
            ((b'name', b'fin2'), b'beta', ()),
 
969
            ((b'ref', b'erence'), b'refdata', ())])
923
970
        self.assertTrue(index._size > 0)
924
971
        self.assertIs(None, index._nodes)
925
972
        index._read_and_parse([(0, index._size)])
927
974
 
928
975
    def test_validate_bad_index_errors(self):
929
976
        trans = self.get_transport()
930
 
        trans.put_bytes('name', "not an index\n")
931
 
        index = GraphIndex(trans, 'name', 13)
932
 
        self.assertRaises(errors.BadIndexFormatSignature, index.validate)
 
977
        trans.put_bytes('name', b"not an index\n")
 
978
        idx = _mod_index.GraphIndex(trans, 'name', 13)
 
979
        self.assertRaises(_mod_index.BadIndexFormatSignature, idx.validate)
933
980
 
934
981
    def test_validate_bad_node_refs(self):
935
 
        index = self.make_index(2)
 
982
        idx = self.make_index(2)
936
983
        trans = self.get_transport()
937
984
        content = trans.get_bytes('index')
938
985
        # change the options line to end with a rather than a parseable number
939
 
        new_content = content[:-2] + 'a\n\n'
 
986
        new_content = content[:-2] + b'a\n\n'
940
987
        trans.put_bytes('index', new_content)
941
 
        self.assertRaises(errors.BadIndexOptions, index.validate)
 
988
        self.assertRaises(_mod_index.BadIndexOptions, idx.validate)
942
989
 
943
990
    def test_validate_missing_end_line_empty(self):
944
991
        index = self.make_index(2)
946
993
        content = trans.get_bytes('index')
947
994
        # truncate the last byte
948
995
        trans.put_bytes('index', content[:-1])
949
 
        self.assertRaises(errors.BadIndexData, index.validate)
 
996
        self.assertRaises(_mod_index.BadIndexData, index.validate)
950
997
 
951
998
    def test_validate_missing_end_line_nonempty(self):
952
 
        index = self.make_index(2, nodes=[(('key', ), '', ([], []))])
 
999
        index = self.make_index(2, nodes=[((b'key', ), b'', ([], []))])
953
1000
        trans = self.get_transport()
954
1001
        content = trans.get_bytes('index')
955
1002
        # truncate the last byte
956
1003
        trans.put_bytes('index', content[:-1])
957
 
        self.assertRaises(errors.BadIndexData, index.validate)
 
1004
        self.assertRaises(_mod_index.BadIndexData, index.validate)
958
1005
 
959
1006
    def test_validate_empty(self):
960
1007
        index = self.make_index()
961
1008
        index.validate()
962
1009
 
963
1010
    def test_validate_no_refs_content(self):
964
 
        index = self.make_index(nodes=[(('key', ), 'value', ())])
 
1011
        index = self.make_index(nodes=[((b'key', ), b'value', ())])
965
1012
        index.validate()
966
1013
 
967
1014
    # XXX: external_references tests are duplicated in test_btree_index.  We
972
1019
 
973
1020
    def test_external_references_no_results(self):
974
1021
        index = self.make_index(ref_lists=1, nodes=[
975
 
            (('key',), 'value', ([],))])
 
1022
            ((b'key',), b'value', ([],))])
976
1023
        self.assertEqual(set(), index.external_references(0))
977
1024
 
978
1025
    def test_external_references_missing_ref(self):
979
 
        missing_key = ('missing',)
 
1026
        missing_key = (b'missing',)
980
1027
        index = self.make_index(ref_lists=1, nodes=[
981
 
            (('key',), 'value', ([missing_key],))])
982
 
        self.assertEqual(set([missing_key]), index.external_references(0))
 
1028
            ((b'key',), b'value', ([missing_key],))])
 
1029
        self.assertEqual({missing_key}, index.external_references(0))
983
1030
 
984
1031
    def test_external_references_multiple_ref_lists(self):
985
 
        missing_key = ('missing',)
 
1032
        missing_key = (b'missing',)
986
1033
        index = self.make_index(ref_lists=2, nodes=[
987
 
            (('key',), 'value', ([], [missing_key]))])
 
1034
            ((b'key',), b'value', ([], [missing_key]))])
988
1035
        self.assertEqual(set([]), index.external_references(0))
989
 
        self.assertEqual(set([missing_key]), index.external_references(1))
 
1036
        self.assertEqual({missing_key}, index.external_references(1))
990
1037
 
991
1038
    def test_external_references_two_records(self):
992
1039
        index = self.make_index(ref_lists=1, nodes=[
993
 
            (('key-1',), 'value', ([('key-2',)],)),
994
 
            (('key-2',), 'value', ([],)),
 
1040
            ((b'key-1',), b'value', ([(b'key-2',)],)),
 
1041
            ((b'key-2',), b'value', ([],)),
995
1042
            ])
996
1043
        self.assertEqual(set([]), index.external_references(0))
997
1044
 
998
1045
    def test__find_ancestors(self):
999
 
        key1 = ('key-1',)
1000
 
        key2 = ('key-2',)
 
1046
        key1 = (b'key-1',)
 
1047
        key2 = (b'key-2',)
1001
1048
        index = self.make_index(ref_lists=1, key_elements=1, nodes=[
1002
 
            (key1, 'value', ([key2],)),
1003
 
            (key2, 'value', ([],)),
 
1049
            (key1, b'value', ([key2],)),
 
1050
            (key2, b'value', ([],)),
1004
1051
            ])
1005
1052
        parent_map = {}
1006
1053
        missing_keys = set()
1007
 
        search_keys = index._find_ancestors([key1], 0, parent_map, missing_keys)
 
1054
        search_keys = index._find_ancestors(
 
1055
            [key1], 0, parent_map, missing_keys)
1008
1056
        self.assertEqual({key1: (key2,)}, parent_map)
1009
1057
        self.assertEqual(set(), missing_keys)
1010
 
        self.assertEqual(set([key2]), search_keys)
 
1058
        self.assertEqual({key2}, search_keys)
1011
1059
        search_keys = index._find_ancestors(search_keys, 0, parent_map,
1012
1060
                                            missing_keys)
1013
1061
        self.assertEqual({key1: (key2,), key2: ()}, parent_map)
1015
1063
        self.assertEqual(set(), search_keys)
1016
1064
 
1017
1065
    def test__find_ancestors_w_missing(self):
1018
 
        key1 = ('key-1',)
1019
 
        key2 = ('key-2',)
1020
 
        key3 = ('key-3',)
 
1066
        key1 = (b'key-1',)
 
1067
        key2 = (b'key-2',)
 
1068
        key3 = (b'key-3',)
1021
1069
        index = self.make_index(ref_lists=1, key_elements=1, nodes=[
1022
 
            (key1, 'value', ([key2],)),
1023
 
            (key2, 'value', ([],)),
 
1070
            (key1, b'value', ([key2],)),
 
1071
            (key2, b'value', ([],)),
1024
1072
            ])
1025
1073
        parent_map = {}
1026
1074
        missing_keys = set()
1027
1075
        search_keys = index._find_ancestors([key2, key3], 0, parent_map,
1028
1076
                                            missing_keys)
1029
1077
        self.assertEqual({key2: ()}, parent_map)
1030
 
        self.assertEqual(set([key3]), missing_keys)
 
1078
        self.assertEqual({key3}, missing_keys)
1031
1079
        self.assertEqual(set(), search_keys)
1032
1080
 
1033
1081
    def test__find_ancestors_dont_search_known(self):
1034
 
        key1 = ('key-1',)
1035
 
        key2 = ('key-2',)
1036
 
        key3 = ('key-3',)
 
1082
        key1 = (b'key-1',)
 
1083
        key2 = (b'key-2',)
 
1084
        key3 = (b'key-3',)
1037
1085
        index = self.make_index(ref_lists=1, key_elements=1, nodes=[
1038
 
            (key1, 'value', ([key2],)),
1039
 
            (key2, 'value', ([key3],)),
1040
 
            (key3, 'value', ([],)),
 
1086
            (key1, b'value', ([key2],)),
 
1087
            (key2, b'value', ([key3],)),
 
1088
            (key3, b'value', ([],)),
1041
1089
            ])
1042
1090
        # We already know about key2, so we won't try to search for key3
1043
1091
        parent_map = {key2: (key3,)}
1049
1097
        self.assertEqual(set(), search_keys)
1050
1098
 
1051
1099
    def test_supports_unlimited_cache(self):
1052
 
        builder = GraphIndexBuilder(0, key_elements=1)
 
1100
        builder = _mod_index.GraphIndexBuilder(0, key_elements=1)
1053
1101
        stream = builder.finish()
1054
 
        trans = get_transport(self.get_url())
 
1102
        trans = self.get_transport()
1055
1103
        size = trans.put_file('index', stream)
1056
1104
        # It doesn't matter what unlimited_cache does here, just that it can be
1057
1105
        # passed
1058
 
        index = GraphIndex(trans, 'index', size, unlimited_cache=True)
1059
 
 
1060
 
 
1061
 
class TestCombinedGraphIndex(TestCaseWithMemoryTransport):
 
1106
        idx = _mod_index.GraphIndex(trans, 'index', size, unlimited_cache=True)
 
1107
 
 
1108
 
 
1109
class TestCombinedGraphIndex(tests.TestCaseWithMemoryTransport):
1062
1110
 
1063
1111
    def make_index(self, name, ref_lists=0, key_elements=1, nodes=[]):
1064
 
        builder = GraphIndexBuilder(ref_lists, key_elements=key_elements)
 
1112
        builder = _mod_index.GraphIndexBuilder(
 
1113
            ref_lists, key_elements=key_elements)
1065
1114
        for key, value, references in nodes:
1066
1115
            builder.add_node(key, value, references)
1067
1116
        stream = builder.finish()
1068
1117
        trans = self.get_transport()
1069
1118
        size = trans.put_file(name, stream)
1070
 
        return GraphIndex(trans, name, size)
 
1119
        return _mod_index.GraphIndex(trans, name, size)
1071
1120
 
1072
1121
    def make_combined_index_with_missing(self, missing=['1', '2']):
1073
1122
        """Create a CombinedGraphIndex which will have missing indexes.
1079
1128
        :param missing: The underlying indexes to delete
1080
1129
        :return: (CombinedGraphIndex, reload_counter)
1081
1130
        """
1082
 
        index1 = self.make_index('1', nodes=[(('1',), '', ())])
1083
 
        index2 = self.make_index('2', nodes=[(('2',), '', ())])
1084
 
        index3 = self.make_index('3', nodes=[
1085
 
            (('1',), '', ()),
1086
 
            (('2',), '', ())])
 
1131
        idx1 = self.make_index('1', nodes=[((b'1',), b'', ())])
 
1132
        idx2 = self.make_index('2', nodes=[((b'2',), b'', ())])
 
1133
        idx3 = self.make_index('3', nodes=[
 
1134
            ((b'1',), b'', ()),
 
1135
            ((b'2',), b'', ())])
1087
1136
 
1088
1137
        # total_reloads, num_changed, num_unchanged
1089
1138
        reload_counter = [0, 0, 0]
 
1139
 
1090
1140
        def reload():
1091
1141
            reload_counter[0] += 1
1092
 
            new_indices = [index3]
1093
 
            if index._indices == new_indices:
 
1142
            new_indices = [idx3]
 
1143
            if idx._indices == new_indices:
1094
1144
                reload_counter[2] += 1
1095
1145
                return False
1096
1146
            reload_counter[1] += 1
1097
 
            index._indices[:] = new_indices
 
1147
            idx._indices[:] = new_indices
1098
1148
            return True
1099
 
        index = CombinedGraphIndex([index1, index2], reload_func=reload)
 
1149
        idx = _mod_index.CombinedGraphIndex([idx1, idx2], reload_func=reload)
1100
1150
        trans = self.get_transport()
1101
1151
        for fname in missing:
1102
1152
            trans.delete(fname)
1103
 
        return index, reload_counter
 
1153
        return idx, reload_counter
1104
1154
 
1105
1155
    def test_open_missing_index_no_error(self):
1106
1156
        trans = self.get_transport()
1107
 
        index1 = GraphIndex(trans, 'missing', 100)
1108
 
        index = CombinedGraphIndex([index1])
 
1157
        idx1 = _mod_index.GraphIndex(trans, 'missing', 100)
 
1158
        idx = _mod_index.CombinedGraphIndex([idx1])
1109
1159
 
1110
1160
    def test_add_index(self):
1111
 
        index = CombinedGraphIndex([])
1112
 
        index1 = self.make_index('name', 0, nodes=[(('key', ), '', ())])
1113
 
        index.insert_index(0, index1)
1114
 
        self.assertEqual([(index1, ('key', ), '')], list(index.iter_all_entries()))
 
1161
        idx = _mod_index.CombinedGraphIndex([])
 
1162
        idx1 = self.make_index('name', 0, nodes=[((b'key', ), b'', ())])
 
1163
        idx.insert_index(0, idx1)
 
1164
        self.assertEqual([(idx1, (b'key', ), b'')],
 
1165
                         list(idx.iter_all_entries()))
1115
1166
 
1116
1167
    def test_clear_cache(self):
1117
1168
        log = []
1128
1179
                log.append(self._index)
1129
1180
                return self._index.clear_cache()
1130
1181
 
1131
 
        index = CombinedGraphIndex([])
1132
 
        index1 = self.make_index('name', 0, nodes=[(('key', ), '', ())])
1133
 
        index.insert_index(0, ClearCacheProxy(index1))
1134
 
        index2 = self.make_index('name', 0, nodes=[(('key', ), '', ())])
1135
 
        index.insert_index(1, ClearCacheProxy(index2))
 
1182
        idx = _mod_index.CombinedGraphIndex([])
 
1183
        idx1 = self.make_index('name', 0, nodes=[((b'key', ), b'', ())])
 
1184
        idx.insert_index(0, ClearCacheProxy(idx1))
 
1185
        idx2 = self.make_index('name', 0, nodes=[((b'key', ), b'', ())])
 
1186
        idx.insert_index(1, ClearCacheProxy(idx2))
1136
1187
        # CombinedGraphIndex should call 'clear_cache()' on all children
1137
 
        index.clear_cache()
1138
 
        self.assertEqual(sorted([index1, index2]), sorted(log))
 
1188
        idx.clear_cache()
 
1189
        self.assertEqual(sorted([idx1, idx2]), sorted(log))
1139
1190
 
1140
1191
    def test_iter_all_entries_empty(self):
1141
 
        index = CombinedGraphIndex([])
1142
 
        self.assertEqual([], list(index.iter_all_entries()))
 
1192
        idx = _mod_index.CombinedGraphIndex([])
 
1193
        self.assertEqual([], list(idx.iter_all_entries()))
1143
1194
 
1144
1195
    def test_iter_all_entries_children_empty(self):
1145
 
        index1 = self.make_index('name')
1146
 
        index = CombinedGraphIndex([index1])
1147
 
        self.assertEqual([], list(index.iter_all_entries()))
 
1196
        idx1 = self.make_index('name')
 
1197
        idx = _mod_index.CombinedGraphIndex([idx1])
 
1198
        self.assertEqual([], list(idx.iter_all_entries()))
1148
1199
 
1149
1200
    def test_iter_all_entries_simple(self):
1150
 
        index1 = self.make_index('name', nodes=[(('name', ), 'data', ())])
1151
 
        index = CombinedGraphIndex([index1])
1152
 
        self.assertEqual([(index1, ('name', ), 'data')],
1153
 
            list(index.iter_all_entries()))
 
1201
        idx1 = self.make_index('name', nodes=[((b'name', ), b'data', ())])
 
1202
        idx = _mod_index.CombinedGraphIndex([idx1])
 
1203
        self.assertEqual([(idx1, (b'name', ), b'data')],
 
1204
                         list(idx.iter_all_entries()))
1154
1205
 
1155
1206
    def test_iter_all_entries_two_indices(self):
1156
 
        index1 = self.make_index('name1', nodes=[(('name', ), 'data', ())])
1157
 
        index2 = self.make_index('name2', nodes=[(('2', ), '', ())])
1158
 
        index = CombinedGraphIndex([index1, index2])
1159
 
        self.assertEqual([(index1, ('name', ), 'data'),
1160
 
            (index2, ('2', ), '')],
1161
 
            list(index.iter_all_entries()))
 
1207
        idx1 = self.make_index('name1', nodes=[((b'name', ), b'data', ())])
 
1208
        idx2 = self.make_index('name2', nodes=[((b'2', ), b'', ())])
 
1209
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
1210
        self.assertEqual([(idx1, (b'name', ), b'data'),
 
1211
                          (idx2, (b'2', ), b'')],
 
1212
                         list(idx.iter_all_entries()))
1162
1213
 
1163
1214
    def test_iter_entries_two_indices_dup_key(self):
1164
 
        index1 = self.make_index('name1', nodes=[(('name', ), 'data', ())])
1165
 
        index2 = self.make_index('name2', nodes=[(('name', ), 'data', ())])
1166
 
        index = CombinedGraphIndex([index1, index2])
1167
 
        self.assertEqual([(index1, ('name', ), 'data')],
1168
 
            list(index.iter_entries([('name', )])))
 
1215
        idx1 = self.make_index('name1', nodes=[((b'name', ), b'data', ())])
 
1216
        idx2 = self.make_index('name2', nodes=[((b'name', ), b'data', ())])
 
1217
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
1218
        self.assertEqual([(idx1, (b'name', ), b'data')],
 
1219
                         list(idx.iter_entries([(b'name', )])))
1169
1220
 
1170
1221
    def test_iter_all_entries_two_indices_dup_key(self):
1171
 
        index1 = self.make_index('name1', nodes=[(('name', ), 'data', ())])
1172
 
        index2 = self.make_index('name2', nodes=[(('name', ), 'data', ())])
1173
 
        index = CombinedGraphIndex([index1, index2])
1174
 
        self.assertEqual([(index1, ('name', ), 'data')],
1175
 
            list(index.iter_all_entries()))
 
1222
        idx1 = self.make_index('name1', nodes=[((b'name', ), b'data', ())])
 
1223
        idx2 = self.make_index('name2', nodes=[((b'name', ), b'data', ())])
 
1224
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
1225
        self.assertEqual([(idx1, (b'name', ), b'data')],
 
1226
                         list(idx.iter_all_entries()))
1176
1227
 
1177
1228
    def test_iter_key_prefix_2_key_element_refs(self):
1178
 
        index1 = self.make_index('1', 1, key_elements=2, nodes=[
1179
 
            (('name', 'fin1'), 'data', ([('ref', 'erence')], ))])
1180
 
        index2 = self.make_index('2', 1, key_elements=2, nodes=[
1181
 
            (('name', 'fin2'), 'beta', ([], )),
1182
 
            (('ref', 'erence'), 'refdata', ([], ))])
1183
 
        index = CombinedGraphIndex([index1, index2])
1184
 
        self.assertEqual(set([(index1, ('name', 'fin1'), 'data', ((('ref', 'erence'),),)),
1185
 
            (index2, ('ref', 'erence'), 'refdata', ((), ))]),
1186
 
            set(index.iter_entries_prefix([('name', 'fin1'), ('ref', 'erence')])))
1187
 
        self.assertEqual(set([(index1, ('name', 'fin1'), 'data', ((('ref', 'erence'),),)),
1188
 
            (index2, ('name', 'fin2'), 'beta', ((), ))]),
1189
 
            set(index.iter_entries_prefix([('name', None)])))
 
1229
        idx1 = self.make_index('1', 1, key_elements=2, nodes=[
 
1230
            ((b'name', b'fin1'), b'data', ([(b'ref', b'erence')], ))])
 
1231
        idx2 = self.make_index('2', 1, key_elements=2, nodes=[
 
1232
            ((b'name', b'fin2'), b'beta', ([], )),
 
1233
            ((b'ref', b'erence'), b'refdata', ([], ))])
 
1234
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
1235
        self.assertEqual({(idx1, (b'name', b'fin1'), b'data',
 
1236
                           (((b'ref', b'erence'),),)),
 
1237
                          (idx2, (b'ref', b'erence'), b'refdata', ((), ))},
 
1238
                         set(idx.iter_entries_prefix([(b'name', b'fin1'),
 
1239
                                                      (b'ref', b'erence')])))
 
1240
        self.assertEqual({(idx1, (b'name', b'fin1'), b'data',
 
1241
                           (((b'ref', b'erence'),),)),
 
1242
                          (idx2, (b'name', b'fin2'), b'beta', ((), ))},
 
1243
                         set(idx.iter_entries_prefix([(b'name', None)])))
1190
1244
 
1191
1245
    def test_iter_nothing_empty(self):
1192
 
        index = CombinedGraphIndex([])
1193
 
        self.assertEqual([], list(index.iter_entries([])))
 
1246
        idx = _mod_index.CombinedGraphIndex([])
 
1247
        self.assertEqual([], list(idx.iter_entries([])))
1194
1248
 
1195
1249
    def test_iter_nothing_children_empty(self):
1196
 
        index1 = self.make_index('name')
1197
 
        index = CombinedGraphIndex([index1])
1198
 
        self.assertEqual([], list(index.iter_entries([])))
 
1250
        idx1 = self.make_index('name')
 
1251
        idx = _mod_index.CombinedGraphIndex([idx1])
 
1252
        self.assertEqual([], list(idx.iter_entries([])))
1199
1253
 
1200
1254
    def test_iter_all_keys(self):
1201
 
        index1 = self.make_index('1', 1, nodes=[
1202
 
            (('name', ), 'data', ([('ref', )], ))])
1203
 
        index2 = self.make_index('2', 1, nodes=[
1204
 
            (('ref', ), 'refdata', ((), ))])
1205
 
        index = CombinedGraphIndex([index1, index2])
1206
 
        self.assertEqual(set([(index1, ('name', ), 'data', ((('ref', ), ), )),
1207
 
            (index2, ('ref', ), 'refdata', ((), ))]),
1208
 
            set(index.iter_entries([('name', ), ('ref', )])))
 
1255
        idx1 = self.make_index('1', 1, nodes=[((b'name', ), b'data',
 
1256
                                               ([(b'ref', )], ))])
 
1257
        idx2 = self.make_index(
 
1258
            '2', 1, nodes=[((b'ref', ), b'refdata', ((), ))])
 
1259
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
1260
        self.assertEqual({(idx1, (b'name', ), b'data', (((b'ref', ), ), )),
 
1261
                          (idx2, (b'ref', ), b'refdata', ((), ))},
 
1262
                         set(idx.iter_entries([(b'name', ), (b'ref', )])))
1209
1263
 
1210
1264
    def test_iter_all_keys_dup_entry(self):
1211
 
        index1 = self.make_index('1', 1, nodes=[
1212
 
            (('name', ), 'data', ([('ref', )], )),
1213
 
            (('ref', ), 'refdata', ([], ))])
1214
 
        index2 = self.make_index('2', 1, nodes=[
1215
 
            (('ref', ), 'refdata', ([], ))])
1216
 
        index = CombinedGraphIndex([index1, index2])
1217
 
        self.assertEqual(set([(index1, ('name', ), 'data', ((('ref',),),)),
1218
 
            (index1, ('ref', ), 'refdata', ((), ))]),
1219
 
            set(index.iter_entries([('name', ), ('ref', )])))
 
1265
        idx1 = self.make_index('1', 1, nodes=[((b'name', ), b'data',
 
1266
                                               ([(b'ref', )], )),
 
1267
                                              ((b'ref', ), b'refdata', ([], ))])
 
1268
        idx2 = self.make_index(
 
1269
            '2', 1, nodes=[((b'ref', ), b'refdata', ([], ))])
 
1270
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
1271
        self.assertEqual({(idx1, (b'name', ), b'data', (((b'ref',),),)),
 
1272
                          (idx1, (b'ref', ), b'refdata', ((), ))},
 
1273
                         set(idx.iter_entries([(b'name', ), (b'ref', )])))
1220
1274
 
1221
1275
    def test_iter_missing_entry_empty(self):
1222
 
        index = CombinedGraphIndex([])
1223
 
        self.assertEqual([], list(index.iter_entries([('a', )])))
 
1276
        idx = _mod_index.CombinedGraphIndex([])
 
1277
        self.assertEqual([], list(idx.iter_entries([('a', )])))
1224
1278
 
1225
1279
    def test_iter_missing_entry_one_index(self):
1226
 
        index1 = self.make_index('1')
1227
 
        index = CombinedGraphIndex([index1])
1228
 
        self.assertEqual([], list(index.iter_entries([('a', )])))
 
1280
        idx1 = self.make_index('1')
 
1281
        idx = _mod_index.CombinedGraphIndex([idx1])
 
1282
        self.assertEqual([], list(idx.iter_entries([(b'a', )])))
1229
1283
 
1230
1284
    def test_iter_missing_entry_two_index(self):
1231
 
        index1 = self.make_index('1')
1232
 
        index2 = self.make_index('2')
1233
 
        index = CombinedGraphIndex([index1, index2])
1234
 
        self.assertEqual([], list(index.iter_entries([('a', )])))
 
1285
        idx1 = self.make_index('1')
 
1286
        idx2 = self.make_index('2')
 
1287
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
1288
        self.assertEqual([], list(idx.iter_entries([('a', )])))
1235
1289
 
1236
1290
    def test_iter_entry_present_one_index_only(self):
1237
 
        index1 = self.make_index('1', nodes=[(('key', ), '', ())])
1238
 
        index2 = self.make_index('2', nodes=[])
1239
 
        index = CombinedGraphIndex([index1, index2])
1240
 
        self.assertEqual([(index1, ('key', ), '')],
1241
 
            list(index.iter_entries([('key', )])))
 
1291
        idx1 = self.make_index('1', nodes=[((b'key', ), b'', ())])
 
1292
        idx2 = self.make_index('2', nodes=[])
 
1293
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
1294
        self.assertEqual([(idx1, (b'key', ), b'')],
 
1295
                         list(idx.iter_entries([(b'key', )])))
1242
1296
        # and in the other direction
1243
 
        index = CombinedGraphIndex([index2, index1])
1244
 
        self.assertEqual([(index1, ('key', ), '')],
1245
 
            list(index.iter_entries([('key', )])))
 
1297
        idx = _mod_index.CombinedGraphIndex([idx2, idx1])
 
1298
        self.assertEqual([(idx1, (b'key', ), b'')],
 
1299
                         list(idx.iter_entries([(b'key', )])))
1246
1300
 
1247
1301
    def test_key_count_empty(self):
1248
 
        index1 = self.make_index('1', nodes=[])
1249
 
        index2 = self.make_index('2', nodes=[])
1250
 
        index = CombinedGraphIndex([index1, index2])
1251
 
        self.assertEqual(0, index.key_count())
 
1302
        idx1 = self.make_index('1', nodes=[])
 
1303
        idx2 = self.make_index('2', nodes=[])
 
1304
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
1305
        self.assertEqual(0, idx.key_count())
1252
1306
 
1253
1307
    def test_key_count_sums_index_keys(self):
1254
 
        index1 = self.make_index('1', nodes=[
1255
 
            (('1',), '', ()),
1256
 
            (('2',), '', ())])
1257
 
        index2 = self.make_index('2', nodes=[(('1',), '', ())])
1258
 
        index = CombinedGraphIndex([index1, index2])
1259
 
        self.assertEqual(3, index.key_count())
 
1308
        idx1 = self.make_index('1', nodes=[
 
1309
            ((b'1',), b'', ()),
 
1310
            ((b'2',), b'', ())])
 
1311
        idx2 = self.make_index('2', nodes=[((b'1',), b'', ())])
 
1312
        idx = _mod_index.CombinedGraphIndex([idx1, idx2])
 
1313
        self.assertEqual(3, idx.key_count())
1260
1314
 
1261
1315
    def test_validate_bad_child_index_errors(self):
1262
1316
        trans = self.get_transport()
1263
 
        trans.put_bytes('name', "not an index\n")
1264
 
        index1 = GraphIndex(trans, 'name', 13)
1265
 
        index = CombinedGraphIndex([index1])
1266
 
        self.assertRaises(errors.BadIndexFormatSignature, index.validate)
 
1317
        trans.put_bytes('name', b"not an index\n")
 
1318
        idx1 = _mod_index.GraphIndex(trans, 'name', 13)
 
1319
        idx = _mod_index.CombinedGraphIndex([idx1])
 
1320
        self.assertRaises(_mod_index.BadIndexFormatSignature, idx.validate)
1267
1321
 
1268
1322
    def test_validate_empty(self):
1269
 
        index = CombinedGraphIndex([])
1270
 
        index.validate()
 
1323
        idx = _mod_index.CombinedGraphIndex([])
 
1324
        idx.validate()
1271
1325
 
1272
1326
    def test_key_count_reloads(self):
1273
 
        index, reload_counter = self.make_combined_index_with_missing()
1274
 
        self.assertEqual(2, index.key_count())
 
1327
        idx, reload_counter = self.make_combined_index_with_missing()
 
1328
        self.assertEqual(2, idx.key_count())
1275
1329
        self.assertEqual([1, 1, 0], reload_counter)
1276
1330
 
1277
1331
    def test_key_count_no_reload(self):
1278
 
        index, reload_counter = self.make_combined_index_with_missing()
1279
 
        index._reload_func = None
 
1332
        idx, reload_counter = self.make_combined_index_with_missing()
 
1333
        idx._reload_func = None
1280
1334
        # Without a _reload_func we just raise the exception
1281
 
        self.assertRaises(errors.NoSuchFile, index.key_count)
 
1335
        self.assertRaises(errors.NoSuchFile, idx.key_count)
1282
1336
 
1283
1337
    def test_key_count_reloads_and_fails(self):
1284
1338
        # We have deleted all underlying indexes, so we will try to reload, but
1285
1339
        # still fail. This is mostly to test we don't get stuck in an infinite
1286
1340
        # loop trying to reload
1287
 
        index, reload_counter = self.make_combined_index_with_missing(
1288
 
                                    ['1', '2', '3'])
1289
 
        self.assertRaises(errors.NoSuchFile, index.key_count)
 
1341
        idx, reload_counter = self.make_combined_index_with_missing(
 
1342
            ['1', '2', '3'])
 
1343
        self.assertRaises(errors.NoSuchFile, idx.key_count)
1290
1344
        self.assertEqual([2, 1, 1], reload_counter)
1291
1345
 
1292
1346
    def test_iter_entries_reloads(self):
1293
1347
        index, reload_counter = self.make_combined_index_with_missing()
1294
 
        result = list(index.iter_entries([('1',), ('2',), ('3',)]))
 
1348
        result = list(index.iter_entries([(b'1',), (b'2',), (b'3',)]))
1295
1349
        index3 = index._indices[0]
1296
 
        self.assertEqual([(index3, ('1',), ''), (index3, ('2',), '')],
1297
 
                         result)
 
1350
        self.assertEqual({(index3, (b'1',), b''), (index3, (b'2',), b'')},
 
1351
                         set(result))
1298
1352
        self.assertEqual([1, 1, 0], reload_counter)
1299
1353
 
1300
1354
    def test_iter_entries_reloads_midway(self):
1302
1356
        # through
1303
1357
        index, reload_counter = self.make_combined_index_with_missing(['2'])
1304
1358
        index1, index2 = index._indices
1305
 
        result = list(index.iter_entries([('1',), ('2',), ('3',)]))
 
1359
        result = list(index.iter_entries([(b'1',), (b'2',), (b'3',)]))
1306
1360
        index3 = index._indices[0]
1307
 
        # We had already yielded '1', so we just go on to the next, we should
1308
 
        # not yield '1' twice.
1309
 
        self.assertEqual([(index1, ('1',), ''), (index3, ('2',), '')],
 
1361
        # We had already yielded b'1', so we just go on to the next, we should
 
1362
        # not yield b'1' twice.
 
1363
        self.assertEqual([(index1, (b'1',), b''), (index3, (b'2',), b'')],
1310
1364
                         result)
1311
1365
        self.assertEqual([1, 1, 0], reload_counter)
1312
1366
 
1318
1372
 
1319
1373
    def test_iter_entries_reloads_and_fails(self):
1320
1374
        index, reload_counter = self.make_combined_index_with_missing(
1321
 
                                    ['1', '2', '3'])
 
1375
            ['1', '2', '3'])
1322
1376
        self.assertListRaises(errors.NoSuchFile, index.iter_entries, [('3',)])
1323
1377
        self.assertEqual([2, 1, 1], reload_counter)
1324
1378
 
1326
1380
        index, reload_counter = self.make_combined_index_with_missing()
1327
1381
        result = list(index.iter_all_entries())
1328
1382
        index3 = index._indices[0]
1329
 
        self.assertEqual([(index3, ('1',), ''), (index3, ('2',), '')],
1330
 
                         result)
 
1383
        self.assertEqual({(index3, (b'1',), b''), (index3, (b'2',), b'')},
 
1384
                         set(result))
1331
1385
        self.assertEqual([1, 1, 0], reload_counter)
1332
1386
 
1333
1387
    def test_iter_all_entries_reloads_midway(self):
1337
1391
        index3 = index._indices[0]
1338
1392
        # We had already yielded '1', so we just go on to the next, we should
1339
1393
        # not yield '1' twice.
1340
 
        self.assertEqual([(index1, ('1',), ''), (index3, ('2',), '')],
 
1394
        self.assertEqual([(index1, (b'1',), b''), (index3, (b'2',), b'')],
1341
1395
                         result)
1342
1396
        self.assertEqual([1, 1, 0], reload_counter)
1343
1397
 
1348
1402
 
1349
1403
    def test_iter_all_entries_reloads_and_fails(self):
1350
1404
        index, reload_counter = self.make_combined_index_with_missing(
1351
 
                                    ['1', '2', '3'])
 
1405
            ['1', '2', '3'])
1352
1406
        self.assertListRaises(errors.NoSuchFile, index.iter_all_entries)
1353
1407
 
1354
1408
    def test_iter_entries_prefix_reloads(self):
1355
1409
        index, reload_counter = self.make_combined_index_with_missing()
1356
 
        result = list(index.iter_entries_prefix([('1',)]))
 
1410
        result = list(index.iter_entries_prefix([(b'1',)]))
1357
1411
        index3 = index._indices[0]
1358
 
        self.assertEqual([(index3, ('1',), '')], result)
 
1412
        self.assertEqual([(index3, (b'1',), b'')], result)
1359
1413
        self.assertEqual([1, 1, 0], reload_counter)
1360
1414
 
1361
1415
    def test_iter_entries_prefix_reloads_midway(self):
1362
1416
        index, reload_counter = self.make_combined_index_with_missing(['2'])
1363
1417
        index1, index2 = index._indices
1364
 
        result = list(index.iter_entries_prefix([('1',)]))
 
1418
        result = list(index.iter_entries_prefix([(b'1',)]))
1365
1419
        index3 = index._indices[0]
1366
 
        # We had already yielded '1', so we just go on to the next, we should
1367
 
        # not yield '1' twice.
1368
 
        self.assertEqual([(index1, ('1',), '')], result)
 
1420
        # We had already yielded b'1', so we just go on to the next, we should
 
1421
        # not yield b'1' twice.
 
1422
        self.assertEqual([(index1, (b'1',), b'')], result)
1369
1423
        self.assertEqual([1, 1, 0], reload_counter)
1370
1424
 
1371
1425
    def test_iter_entries_prefix_no_reload(self):
1372
1426
        index, reload_counter = self.make_combined_index_with_missing()
1373
1427
        index._reload_func = None
1374
1428
        self.assertListRaises(errors.NoSuchFile, index.iter_entries_prefix,
1375
 
                                                 [('1',)])
 
1429
                              [(b'1',)])
1376
1430
 
1377
1431
    def test_iter_entries_prefix_reloads_and_fails(self):
1378
1432
        index, reload_counter = self.make_combined_index_with_missing(
1379
 
                                    ['1', '2', '3'])
 
1433
            ['1', '2', '3'])
1380
1434
        self.assertListRaises(errors.NoSuchFile, index.iter_entries_prefix,
1381
 
                                                 [('1',)])
1382
 
 
 
1435
                              [(b'1',)])
1383
1436
 
1384
1437
    def make_index_with_simple_nodes(self, name, num_nodes=1):
1385
1438
        """Make an index named after 'name', with keys named after 'name' too.
1387
1440
        Nodes will have a value of '' and no references.
1388
1441
        """
1389
1442
        nodes = [
1390
 
            (('index-%s-key-%s' % (name, n),), '', ())
1391
 
            for n in range(1, num_nodes+1)]
 
1443
            ((('index-%s-key-%s' % (name, n)).encode('ascii'),), b'', ())
 
1444
            for n in range(1, num_nodes + 1)]
1392
1445
        return self.make_index('index-%s' % name, 0, nodes=nodes)
1393
1446
 
1394
1447
    def test_reorder_after_iter_entries(self):
1395
 
        # Four indices: [key1] in index1, [key2,key3] in index2, [] in index3,
1396
 
        # [key4] in index4.
1397
 
        index = CombinedGraphIndex([])
1398
 
        index.insert_index(0, self.make_index_with_simple_nodes('1'), '1')
1399
 
        index.insert_index(1, self.make_index_with_simple_nodes('2'), '2')
1400
 
        index.insert_index(2, self.make_index_with_simple_nodes('3'), '3')
1401
 
        index.insert_index(3, self.make_index_with_simple_nodes('4'), '4')
1402
 
        index1, index2, index3, index4 = index._indices
1403
 
        # Query a key from index4 and index2.
1404
 
        self.assertLength(2, list(index.iter_entries(
1405
 
            [('index-4-key-1',), ('index-2-key-1',)])))
1406
 
        # Now index2 and index4 should be moved to the front (and index1 should
1407
 
        # still be before index3).
1408
 
        self.assertEqual([index2, index4, index1, index3], index._indices)
1409
 
        self.assertEqual(['2', '4', '1', '3'], index._index_names)
 
1448
        # Four indices: [key1] in idx1, [key2,key3] in idx2, [] in idx3,
 
1449
        # [key4] in idx4.
 
1450
        idx = _mod_index.CombinedGraphIndex([])
 
1451
        idx.insert_index(0, self.make_index_with_simple_nodes('1'), b'1')
 
1452
        idx.insert_index(1, self.make_index_with_simple_nodes('2'), b'2')
 
1453
        idx.insert_index(2, self.make_index_with_simple_nodes('3'), b'3')
 
1454
        idx.insert_index(3, self.make_index_with_simple_nodes('4'), b'4')
 
1455
        idx1, idx2, idx3, idx4 = idx._indices
 
1456
        # Query a key from idx4 and idx2.
 
1457
        self.assertLength(2, list(idx.iter_entries(
 
1458
            [(b'index-4-key-1',), (b'index-2-key-1',)])))
 
1459
        # Now idx2 and idx4 should be moved to the front (and idx1 should
 
1460
        # still be before idx3).
 
1461
        self.assertEqual([idx2, idx4, idx1, idx3], idx._indices)
 
1462
        self.assertEqual([b'2', b'4', b'1', b'3'], idx._index_names)
1410
1463
 
1411
1464
    def test_reorder_propagates_to_siblings(self):
1412
1465
        # Two CombinedGraphIndex objects, with the same number of indicies with
1413
1466
        # matching names.
1414
 
        cgi1 = CombinedGraphIndex([])
1415
 
        cgi2 = CombinedGraphIndex([])
 
1467
        cgi1 = _mod_index.CombinedGraphIndex([])
 
1468
        cgi2 = _mod_index.CombinedGraphIndex([])
1416
1469
        cgi1.insert_index(0, self.make_index_with_simple_nodes('1-1'), 'one')
1417
1470
        cgi1.insert_index(1, self.make_index_with_simple_nodes('1-2'), 'two')
1418
1471
        cgi2.insert_index(0, self.make_index_with_simple_nodes('2-1'), 'one')
1420
1473
        index2_1, index2_2 = cgi2._indices
1421
1474
        cgi1.set_sibling_indices([cgi2])
1422
1475
        # Trigger a reordering in cgi1.  cgi2 will be reordered as well.
1423
 
        list(cgi1.iter_entries([('index-1-2-key-1',)]))
 
1476
        list(cgi1.iter_entries([(b'index-1-2-key-1',)]))
1424
1477
        self.assertEqual([index2_2, index2_1], cgi2._indices)
1425
1478
        self.assertEqual(['two', 'one'], cgi2._index_names)
1426
1479
 
1427
1480
    def test_validate_reloads(self):
1428
 
        index, reload_counter = self.make_combined_index_with_missing()
1429
 
        index.validate()
 
1481
        idx, reload_counter = self.make_combined_index_with_missing()
 
1482
        idx.validate()
1430
1483
        self.assertEqual([1, 1, 0], reload_counter)
1431
1484
 
1432
1485
    def test_validate_reloads_midway(self):
1433
 
        index, reload_counter = self.make_combined_index_with_missing(['2'])
1434
 
        index.validate()
 
1486
        idx, reload_counter = self.make_combined_index_with_missing(['2'])
 
1487
        idx.validate()
1435
1488
 
1436
1489
    def test_validate_no_reload(self):
1437
 
        index, reload_counter = self.make_combined_index_with_missing()
1438
 
        index._reload_func = None
1439
 
        self.assertRaises(errors.NoSuchFile, index.validate)
 
1490
        idx, reload_counter = self.make_combined_index_with_missing()
 
1491
        idx._reload_func = None
 
1492
        self.assertRaises(errors.NoSuchFile, idx.validate)
1440
1493
 
1441
1494
    def test_validate_reloads_and_fails(self):
1442
 
        index, reload_counter = self.make_combined_index_with_missing(
1443
 
                                    ['1', '2', '3'])
1444
 
        self.assertRaises(errors.NoSuchFile, index.validate)
 
1495
        idx, reload_counter = self.make_combined_index_with_missing(
 
1496
            ['1', '2', '3'])
 
1497
        self.assertRaises(errors.NoSuchFile, idx.validate)
1445
1498
 
1446
1499
    def test_find_ancestors_across_indexes(self):
1447
 
        key1 = ('key-1',)
1448
 
        key2 = ('key-2',)
1449
 
        key3 = ('key-3',)
1450
 
        key4 = ('key-4',)
 
1500
        key1 = (b'key-1',)
 
1501
        key2 = (b'key-2',)
 
1502
        key3 = (b'key-3',)
 
1503
        key4 = (b'key-4',)
1451
1504
        index1 = self.make_index('12', ref_lists=1, nodes=[
1452
 
            (key1, 'value', ([],)),
1453
 
            (key2, 'value', ([key1],)),
 
1505
            (key1, b'value', ([],)),
 
1506
            (key2, b'value', ([key1],)),
1454
1507
            ])
1455
1508
        index2 = self.make_index('34', ref_lists=1, nodes=[
1456
 
            (key3, 'value', ([key2],)),
1457
 
            (key4, 'value', ([key3],)),
 
1509
            (key3, b'value', ([key2],)),
 
1510
            (key4, b'value', ([key3],)),
1458
1511
            ])
1459
 
        c_index = CombinedGraphIndex([index1, index2])
 
1512
        c_index = _mod_index.CombinedGraphIndex([index1, index2])
1460
1513
        parent_map, missing_keys = c_index.find_ancestry([key1], 0)
1461
1514
        self.assertEqual({key1: ()}, parent_map)
1462
1515
        self.assertEqual(set(), missing_keys)
1468
1521
        self.assertEqual(set(), missing_keys)
1469
1522
 
1470
1523
    def test_find_ancestors_missing_keys(self):
1471
 
        key1 = ('key-1',)
1472
 
        key2 = ('key-2',)
1473
 
        key3 = ('key-3',)
1474
 
        key4 = ('key-4',)
 
1524
        key1 = (b'key-1',)
 
1525
        key2 = (b'key-2',)
 
1526
        key3 = (b'key-3',)
 
1527
        key4 = (b'key-4',)
1475
1528
        index1 = self.make_index('12', ref_lists=1, nodes=[
1476
 
            (key1, 'value', ([],)),
1477
 
            (key2, 'value', ([key1],)),
 
1529
            (key1, b'value', ([],)),
 
1530
            (key2, b'value', ([key1],)),
1478
1531
            ])
1479
1532
        index2 = self.make_index('34', ref_lists=1, nodes=[
1480
 
            (key3, 'value', ([key2],)),
 
1533
            (key3, b'value', ([key2],)),
1481
1534
            ])
1482
 
        c_index = CombinedGraphIndex([index1, index2])
 
1535
        c_index = _mod_index.CombinedGraphIndex([index1, index2])
1483
1536
        # Searching for a key which is actually not present at all should
1484
1537
        # eventually converge
1485
1538
        parent_map, missing_keys = c_index.find_ancestry([key4], 0)
1486
1539
        self.assertEqual({}, parent_map)
1487
 
        self.assertEqual(set([key4]), missing_keys)
 
1540
        self.assertEqual({key4}, missing_keys)
1488
1541
 
1489
1542
    def test_find_ancestors_no_indexes(self):
1490
 
        c_index = CombinedGraphIndex([])
1491
 
        key1 = ('key-1',)
 
1543
        c_index = _mod_index.CombinedGraphIndex([])
 
1544
        key1 = (b'key-1',)
1492
1545
        parent_map, missing_keys = c_index.find_ancestry([key1], 0)
1493
1546
        self.assertEqual({}, parent_map)
1494
 
        self.assertEqual(set([key1]), missing_keys)
 
1547
        self.assertEqual({key1}, missing_keys)
1495
1548
 
1496
1549
    def test_find_ancestors_ghost_parent(self):
1497
 
        key1 = ('key-1',)
1498
 
        key2 = ('key-2',)
1499
 
        key3 = ('key-3',)
1500
 
        key4 = ('key-4',)
 
1550
        key1 = (b'key-1',)
 
1551
        key2 = (b'key-2',)
 
1552
        key3 = (b'key-3',)
 
1553
        key4 = (b'key-4',)
1501
1554
        index1 = self.make_index('12', ref_lists=1, nodes=[
1502
 
            (key1, 'value', ([],)),
1503
 
            (key2, 'value', ([key1],)),
 
1555
            (key1, b'value', ([],)),
 
1556
            (key2, b'value', ([key1],)),
1504
1557
            ])
1505
1558
        index2 = self.make_index('34', ref_lists=1, nodes=[
1506
 
            (key4, 'value', ([key2, key3],)),
 
1559
            (key4, b'value', ([key2, key3],)),
1507
1560
            ])
1508
 
        c_index = CombinedGraphIndex([index1, index2])
 
1561
        c_index = _mod_index.CombinedGraphIndex([index1, index2])
1509
1562
        # Searching for a key which is actually not present at all should
1510
1563
        # eventually converge
1511
1564
        parent_map, missing_keys = c_index.find_ancestry([key4], 0)
1512
1565
        self.assertEqual({key4: (key2, key3), key2: (key1,), key1: ()},
1513
1566
                         parent_map)
1514
 
        self.assertEqual(set([key3]), missing_keys)
 
1567
        self.assertEqual({key3}, missing_keys)
1515
1568
 
1516
1569
    def test__find_ancestors_empty_index(self):
1517
 
        index = self.make_index('test', ref_lists=1, key_elements=1, nodes=[])
 
1570
        idx = self.make_index('test', ref_lists=1, key_elements=1, nodes=[])
1518
1571
        parent_map = {}
1519
1572
        missing_keys = set()
1520
 
        search_keys = index._find_ancestors([('one',), ('two',)], 0, parent_map,
1521
 
                                            missing_keys)
 
1573
        search_keys = idx._find_ancestors([(b'one',), (b'two',)], 0, parent_map,
 
1574
                                          missing_keys)
1522
1575
        self.assertEqual(set(), search_keys)
1523
1576
        self.assertEqual({}, parent_map)
1524
 
        self.assertEqual(set([('one',), ('two',)]), missing_keys)
1525
 
 
1526
 
 
1527
 
class TestInMemoryGraphIndex(TestCaseWithMemoryTransport):
 
1577
        self.assertEqual({(b'one',), (b'two',)}, missing_keys)
 
1578
 
 
1579
 
 
1580
class TestInMemoryGraphIndex(tests.TestCaseWithMemoryTransport):
1528
1581
 
1529
1582
    def make_index(self, ref_lists=0, key_elements=1, nodes=[]):
1530
 
        result = InMemoryGraphIndex(ref_lists, key_elements=key_elements)
 
1583
        result = _mod_index.InMemoryGraphIndex(
 
1584
            ref_lists, key_elements=key_elements)
1531
1585
        result.add_nodes(nodes)
1532
1586
        return result
1533
1587
 
1534
1588
    def test_add_nodes_no_refs(self):
1535
1589
        index = self.make_index(0)
1536
 
        index.add_nodes([(('name', ), 'data')])
1537
 
        index.add_nodes([(('name2', ), ''), (('name3', ), '')])
1538
 
        self.assertEqual(set([
1539
 
            (index, ('name', ), 'data'),
1540
 
            (index, ('name2', ), ''),
1541
 
            (index, ('name3', ), ''),
1542
 
            ]), set(index.iter_all_entries()))
 
1590
        index.add_nodes([((b'name', ), b'data')])
 
1591
        index.add_nodes([((b'name2', ), b''), ((b'name3', ), b'')])
 
1592
        self.assertEqual({
 
1593
            (index, (b'name', ), b'data'),
 
1594
            (index, (b'name2', ), b''),
 
1595
            (index, (b'name3', ), b''),
 
1596
            }, set(index.iter_all_entries()))
1543
1597
 
1544
1598
    def test_add_nodes(self):
1545
1599
        index = self.make_index(1)
1546
 
        index.add_nodes([(('name', ), 'data', ([],))])
1547
 
        index.add_nodes([(('name2', ), '', ([],)), (('name3', ), '', ([('r', )],))])
1548
 
        self.assertEqual(set([
1549
 
            (index, ('name', ), 'data', ((),)),
1550
 
            (index, ('name2', ), '', ((),)),
1551
 
            (index, ('name3', ), '', ((('r', ), ), )),
1552
 
            ]), set(index.iter_all_entries()))
 
1600
        index.add_nodes([((b'name', ), b'data', ([],))])
 
1601
        index.add_nodes([((b'name2', ), b'', ([],)),
 
1602
                         ((b'name3', ), b'', ([(b'r', )],))])
 
1603
        self.assertEqual({
 
1604
            (index, (b'name', ), b'data', ((),)),
 
1605
            (index, (b'name2', ), b'', ((),)),
 
1606
            (index, (b'name3', ), b'', (((b'r', ), ), )),
 
1607
            }, set(index.iter_all_entries()))
1553
1608
 
1554
1609
    def test_iter_all_entries_empty(self):
1555
1610
        index = self.make_index()
1556
1611
        self.assertEqual([], list(index.iter_all_entries()))
1557
1612
 
1558
1613
    def test_iter_all_entries_simple(self):
1559
 
        index = self.make_index(nodes=[(('name', ), 'data')])
1560
 
        self.assertEqual([(index, ('name', ), 'data')],
1561
 
            list(index.iter_all_entries()))
 
1614
        index = self.make_index(nodes=[((b'name', ), b'data')])
 
1615
        self.assertEqual([(index, (b'name', ), b'data')],
 
1616
                         list(index.iter_all_entries()))
1562
1617
 
1563
1618
    def test_iter_all_entries_references(self):
1564
1619
        index = self.make_index(1, nodes=[
1565
 
            (('name', ), 'data', ([('ref', )], )),
1566
 
            (('ref', ), 'refdata', ([], ))])
1567
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref', ),),)),
1568
 
            (index, ('ref', ), 'refdata', ((), ))]),
1569
 
            set(index.iter_all_entries()))
 
1620
            ((b'name', ), b'data', ([(b'ref', )], )),
 
1621
            ((b'ref', ), b'refdata', ([], ))])
 
1622
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref', ),),)),
 
1623
                          (index, (b'ref', ), b'refdata', ((), ))},
 
1624
                         set(index.iter_all_entries()))
1570
1625
 
1571
1626
    def test_iteration_absent_skipped(self):
1572
1627
        index = self.make_index(1, nodes=[
1573
 
            (('name', ), 'data', ([('ref', )], ))])
1574
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),),))]),
1575
 
            set(index.iter_all_entries()))
1576
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),),))]),
1577
 
            set(index.iter_entries([('name', )])))
1578
 
        self.assertEqual([], list(index.iter_entries([('ref', )])))
 
1628
            ((b'name', ), b'data', ([(b'ref', )], ))])
 
1629
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),),))},
 
1630
                         set(index.iter_all_entries()))
 
1631
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),),))},
 
1632
                         set(index.iter_entries([(b'name', )])))
 
1633
        self.assertEqual([], list(index.iter_entries([(b'ref', )])))
1579
1634
 
1580
1635
    def test_iter_all_keys(self):
1581
1636
        index = self.make_index(1, nodes=[
1582
 
            (('name', ), 'data', ([('ref', )], )),
1583
 
            (('ref', ), 'refdata', ([], ))])
1584
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),),)),
1585
 
            (index, ('ref', ), 'refdata', ((), ))]),
1586
 
            set(index.iter_entries([('name', ), ('ref', )])))
 
1637
            ((b'name', ), b'data', ([(b'ref', )], )),
 
1638
            ((b'ref', ), b'refdata', ([], ))])
 
1639
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),),)),
 
1640
                          (index, (b'ref', ), b'refdata', ((), ))},
 
1641
                         set(index.iter_entries([(b'name', ), (b'ref', )])))
1587
1642
 
1588
1643
    def test_iter_key_prefix_1_key_element_no_refs(self):
1589
 
        index = self.make_index( nodes=[
1590
 
            (('name', ), 'data'),
1591
 
            (('ref', ), 'refdata')])
1592
 
        self.assertEqual(set([(index, ('name', ), 'data'),
1593
 
            (index, ('ref', ), 'refdata')]),
1594
 
            set(index.iter_entries_prefix([('name', ), ('ref', )])))
 
1644
        index = self.make_index(nodes=[
 
1645
            ((b'name', ), b'data'),
 
1646
            ((b'ref', ), b'refdata')])
 
1647
        self.assertEqual({(index, (b'name', ), b'data'),
 
1648
                          (index, (b'ref', ), b'refdata')},
 
1649
                         set(index.iter_entries_prefix([(b'name', ), (b'ref', )])))
1595
1650
 
1596
1651
    def test_iter_key_prefix_1_key_element_refs(self):
1597
1652
        index = self.make_index(1, nodes=[
1598
 
            (('name', ), 'data', ([('ref', )], )),
1599
 
            (('ref', ), 'refdata', ([], ))])
1600
 
        self.assertEqual(set([(index, ('name', ), 'data', ((('ref',),),)),
1601
 
            (index, ('ref', ), 'refdata', ((), ))]),
1602
 
            set(index.iter_entries_prefix([('name', ), ('ref', )])))
 
1653
            ((b'name', ), b'data', ([(b'ref', )], )),
 
1654
            ((b'ref', ), b'refdata', ([], ))])
 
1655
        self.assertEqual({(index, (b'name', ), b'data', (((b'ref',),),)),
 
1656
                          (index, (b'ref', ), b'refdata', ((), ))},
 
1657
                         set(index.iter_entries_prefix([(b'name', ), (b'ref', )])))
1603
1658
 
1604
1659
    def test_iter_key_prefix_2_key_element_no_refs(self):
1605
1660
        index = self.make_index(key_elements=2, nodes=[
1606
 
            (('name', 'fin1'), 'data'),
1607
 
            (('name', 'fin2'), 'beta'),
1608
 
            (('ref', 'erence'), 'refdata')])
1609
 
        self.assertEqual(set([(index, ('name', 'fin1'), 'data'),
1610
 
            (index, ('ref', 'erence'), 'refdata')]),
1611
 
            set(index.iter_entries_prefix([('name', 'fin1'), ('ref', 'erence')])))
1612
 
        self.assertEqual(set([(index, ('name', 'fin1'), 'data'),
1613
 
            (index, ('name', 'fin2'), 'beta')]),
1614
 
            set(index.iter_entries_prefix([('name', None)])))
 
1661
            ((b'name', b'fin1'), b'data'),
 
1662
            ((b'name', b'fin2'), b'beta'),
 
1663
            ((b'ref', b'erence'), b'refdata')])
 
1664
        self.assertEqual({(index, (b'name', b'fin1'), b'data'),
 
1665
                          (index, (b'ref', b'erence'), b'refdata')},
 
1666
                         set(index.iter_entries_prefix([(b'name', b'fin1'), (b'ref', b'erence')])))
 
1667
        self.assertEqual({(index, (b'name', b'fin1'), b'data'),
 
1668
                          (index, (b'name', b'fin2'), b'beta')},
 
1669
                         set(index.iter_entries_prefix([(b'name', None)])))
1615
1670
 
1616
1671
    def test_iter_key_prefix_2_key_element_refs(self):
1617
1672
        index = self.make_index(1, key_elements=2, nodes=[
1618
 
            (('name', 'fin1'), 'data', ([('ref', 'erence')], )),
1619
 
            (('name', 'fin2'), 'beta', ([], )),
1620
 
            (('ref', 'erence'), 'refdata', ([], ))])
1621
 
        self.assertEqual(set([(index, ('name', 'fin1'), 'data', ((('ref', 'erence'),),)),
1622
 
            (index, ('ref', 'erence'), 'refdata', ((), ))]),
1623
 
            set(index.iter_entries_prefix([('name', 'fin1'), ('ref', 'erence')])))
1624
 
        self.assertEqual(set([(index, ('name', 'fin1'), 'data', ((('ref', 'erence'),),)),
1625
 
            (index, ('name', 'fin2'), 'beta', ((), ))]),
1626
 
            set(index.iter_entries_prefix([('name', None)])))
 
1673
            ((b'name', b'fin1'), b'data', ([(b'ref', b'erence')], )),
 
1674
            ((b'name', b'fin2'), b'beta', ([], )),
 
1675
            ((b'ref', b'erence'), b'refdata', ([], ))])
 
1676
        self.assertEqual({(index, (b'name', b'fin1'), b'data', (((b'ref', b'erence'),),)),
 
1677
                          (index, (b'ref', b'erence'), b'refdata', ((), ))},
 
1678
                         set(index.iter_entries_prefix([(b'name', b'fin1'), (b'ref', b'erence')])))
 
1679
        self.assertEqual({(index, (b'name', b'fin1'), b'data', (((b'ref', b'erence'),),)),
 
1680
                          (index, (b'name', b'fin2'), b'beta', ((), ))},
 
1681
                         set(index.iter_entries_prefix([(b'name', None)])))
1627
1682
 
1628
1683
    def test_iter_nothing_empty(self):
1629
1684
        index = self.make_index()
1631
1686
 
1632
1687
    def test_iter_missing_entry_empty(self):
1633
1688
        index = self.make_index()
1634
 
        self.assertEqual([], list(index.iter_entries(['a'])))
 
1689
        self.assertEqual([], list(index.iter_entries([b'a'])))
1635
1690
 
1636
1691
    def test_key_count_empty(self):
1637
1692
        index = self.make_index()
1638
1693
        self.assertEqual(0, index.key_count())
1639
1694
 
1640
1695
    def test_key_count_one(self):
1641
 
        index = self.make_index(nodes=[(('name', ), '')])
 
1696
        index = self.make_index(nodes=[((b'name', ), b'')])
1642
1697
        self.assertEqual(1, index.key_count())
1643
1698
 
1644
1699
    def test_key_count_two(self):
1645
 
        index = self.make_index(nodes=[(('name', ), ''), (('foo', ), '')])
 
1700
        index = self.make_index(nodes=[((b'name', ), b''), ((b'foo', ), b'')])
1646
1701
        self.assertEqual(2, index.key_count())
1647
1702
 
1648
1703
    def test_validate_empty(self):
1650
1705
        index.validate()
1651
1706
 
1652
1707
    def test_validate_no_refs_content(self):
1653
 
        index = self.make_index(nodes=[(('key', ), 'value')])
 
1708
        index = self.make_index(nodes=[((b'key', ), b'value')])
1654
1709
        index.validate()
1655
1710
 
1656
1711
 
1657
 
class TestGraphIndexPrefixAdapter(TestCaseWithMemoryTransport):
 
1712
class TestGraphIndexPrefixAdapter(tests.TestCaseWithMemoryTransport):
1658
1713
 
1659
 
    def make_index(self, ref_lists=1, key_elements=2, nodes=[], add_callback=False):
1660
 
        result = InMemoryGraphIndex(ref_lists, key_elements=key_elements)
 
1714
    def make_index(self, ref_lists=1, key_elements=2, nodes=[],
 
1715
                   add_callback=False):
 
1716
        result = _mod_index.InMemoryGraphIndex(
 
1717
            ref_lists, key_elements=key_elements)
1661
1718
        result.add_nodes(nodes)
1662
1719
        if add_callback:
1663
1720
            add_nodes_callback = result.add_nodes
1664
1721
        else:
1665
1722
            add_nodes_callback = None
1666
 
        adapter = GraphIndexPrefixAdapter(result, ('prefix', ), key_elements - 1,
 
1723
        adapter = _mod_index.GraphIndexPrefixAdapter(
 
1724
            result, (b'prefix', ), key_elements - 1,
1667
1725
            add_nodes_callback=add_nodes_callback)
1668
1726
        return result, adapter
1669
1727
 
1670
1728
    def test_add_node(self):
1671
1729
        index, adapter = self.make_index(add_callback=True)
1672
 
        adapter.add_node(('key',), 'value', ((('ref',),),))
1673
 
        self.assertEqual(set([(index, ('prefix', 'key'), 'value', ((('prefix', 'ref'),),))]),
1674
 
            set(index.iter_all_entries()))
 
1730
        adapter.add_node((b'key',), b'value', (((b'ref',),),))
 
1731
        self.assertEqual({(index, (b'prefix', b'key'), b'value',
 
1732
                           (((b'prefix', b'ref'),),))},
 
1733
                         set(index.iter_all_entries()))
1675
1734
 
1676
1735
    def test_add_nodes(self):
1677
1736
        index, adapter = self.make_index(add_callback=True)
1678
1737
        adapter.add_nodes((
1679
 
            (('key',), 'value', ((('ref',),),)),
1680
 
            (('key2',), 'value2', ((),)),
 
1738
            ((b'key',), b'value', (((b'ref',),),)),
 
1739
            ((b'key2',), b'value2', ((),)),
1681
1740
            ))
1682
 
        self.assertEqual(set([
1683
 
            (index, ('prefix', 'key2'), 'value2', ((),)),
1684
 
            (index, ('prefix', 'key'), 'value', ((('prefix', 'ref'),),))
1685
 
            ]),
 
1741
        self.assertEqual({
 
1742
            (index, (b'prefix', b'key2'), b'value2', ((),)),
 
1743
            (index, (b'prefix', b'key'), b'value', (((b'prefix', b'ref'),),))
 
1744
            },
1686
1745
            set(index.iter_all_entries()))
1687
1746
 
1688
1747
    def test_construct(self):
1689
 
        index = InMemoryGraphIndex()
1690
 
        adapter = GraphIndexPrefixAdapter(index, ('prefix', ), 1)
 
1748
        idx = _mod_index.InMemoryGraphIndex()
 
1749
        adapter = _mod_index.GraphIndexPrefixAdapter(idx, (b'prefix', ), 1)
1691
1750
 
1692
1751
    def test_construct_with_callback(self):
1693
 
        index = InMemoryGraphIndex()
1694
 
        adapter = GraphIndexPrefixAdapter(index, ('prefix', ), 1, index.add_nodes)
 
1752
        idx = _mod_index.InMemoryGraphIndex()
 
1753
        adapter = _mod_index.GraphIndexPrefixAdapter(idx, (b'prefix', ), 1,
 
1754
                                                     idx.add_nodes)
1695
1755
 
1696
1756
    def test_iter_all_entries_cross_prefix_map_errors(self):
1697
1757
        index, adapter = self.make_index(nodes=[
1698
 
            (('prefix', 'key1'), 'data1', ((('prefixaltered', 'key2'),),))])
1699
 
        self.assertRaises(errors.BadIndexData, list, adapter.iter_all_entries())
 
1758
            ((b'prefix', b'key1'), b'data1', (((b'prefixaltered', b'key2'),),))])
 
1759
        self.assertRaises(_mod_index.BadIndexData, list,
 
1760
                          adapter.iter_all_entries())
1700
1761
 
1701
1762
    def test_iter_all_entries(self):
1702
1763
        index, adapter = self.make_index(nodes=[
1703
 
            (('notprefix', 'key1'), 'data', ((), )),
1704
 
            (('prefix', 'key1'), 'data1', ((), )),
1705
 
            (('prefix', 'key2'), 'data2', ((('prefix', 'key1'),),))])
1706
 
        self.assertEqual(set([(index, ('key1', ), 'data1', ((),)),
1707
 
            (index, ('key2', ), 'data2', ((('key1',),),))]),
1708
 
            set(adapter.iter_all_entries()))
 
1764
            ((b'notprefix', b'key1'), b'data', ((), )),
 
1765
            ((b'prefix', b'key1'), b'data1', ((), )),
 
1766
            ((b'prefix', b'key2'), b'data2', (((b'prefix', b'key1'),),))])
 
1767
        self.assertEqual({(index, (b'key1', ), b'data1', ((),)),
 
1768
                          (index, (b'key2', ), b'data2', (((b'key1',),),))},
 
1769
                         set(adapter.iter_all_entries()))
1709
1770
 
1710
1771
    def test_iter_entries(self):
1711
1772
        index, adapter = self.make_index(nodes=[
1712
 
            (('notprefix', 'key1'), 'data', ((), )),
1713
 
            (('prefix', 'key1'), 'data1', ((), )),
1714
 
            (('prefix', 'key2'), 'data2', ((('prefix', 'key1'),),))])
 
1773
            ((b'notprefix', b'key1'), b'data', ((), )),
 
1774
            ((b'prefix', b'key1'), b'data1', ((), )),
 
1775
            ((b'prefix', b'key2'), b'data2', (((b'prefix', b'key1'),),))])
1715
1776
        # ask for many - get all
1716
 
        self.assertEqual(set([(index, ('key1', ), 'data1', ((),)),
1717
 
            (index, ('key2', ), 'data2', ((('key1', ),),))]),
1718
 
            set(adapter.iter_entries([('key1', ), ('key2', )])))
 
1777
        self.assertEqual({(index, (b'key1', ), b'data1', ((),)),
 
1778
                          (index, (b'key2', ), b'data2', (((b'key1', ),),))},
 
1779
                         set(adapter.iter_entries([(b'key1', ), (b'key2', )])))
1719
1780
        # ask for one, get one
1720
 
        self.assertEqual(set([(index, ('key1', ), 'data1', ((),))]),
1721
 
            set(adapter.iter_entries([('key1', )])))
 
1781
        self.assertEqual({(index, (b'key1', ), b'data1', ((),))},
 
1782
                         set(adapter.iter_entries([(b'key1', )])))
1722
1783
        # ask for missing, get none
1723
1784
        self.assertEqual(set(),
1724
 
            set(adapter.iter_entries([('key3', )])))
 
1785
                         set(adapter.iter_entries([(b'key3', )])))
1725
1786
 
1726
1787
    def test_iter_entries_prefix(self):
1727
1788
        index, adapter = self.make_index(key_elements=3, nodes=[
1728
 
            (('notprefix', 'foo', 'key1'), 'data', ((), )),
1729
 
            (('prefix', 'prefix2', 'key1'), 'data1', ((), )),
1730
 
            (('prefix', 'prefix2', 'key2'), 'data2', ((('prefix', 'prefix2', 'key1'),),))])
 
1789
            ((b'notprefix', b'foo', b'key1'), b'data', ((), )),
 
1790
            ((b'prefix', b'prefix2', b'key1'), b'data1', ((), )),
 
1791
            ((b'prefix', b'prefix2', b'key2'), b'data2', (((b'prefix', b'prefix2', b'key1'),),))])
1731
1792
        # ask for a prefix, get the results for just that prefix, adjusted.
1732
 
        self.assertEqual(set([(index, ('prefix2', 'key1', ), 'data1', ((),)),
1733
 
            (index, ('prefix2', 'key2', ), 'data2', ((('prefix2', 'key1', ),),))]),
1734
 
            set(adapter.iter_entries_prefix([('prefix2', None)])))
 
1793
        self.assertEqual({(index, (b'prefix2', b'key1', ), b'data1', ((),)),
 
1794
                          (index, (b'prefix2', b'key2', ), b'data2', (((b'prefix2', b'key1', ),),))},
 
1795
                         set(adapter.iter_entries_prefix([(b'prefix2', None)])))
1735
1796
 
1736
1797
    def test_key_count_no_matching_keys(self):
1737
1798
        index, adapter = self.make_index(nodes=[
1738
 
            (('notprefix', 'key1'), 'data', ((), ))])
 
1799
            ((b'notprefix', b'key1'), b'data', ((), ))])
1739
1800
        self.assertEqual(0, adapter.key_count())
1740
1801
 
1741
1802
    def test_key_count_some_keys(self):
1742
1803
        index, adapter = self.make_index(nodes=[
1743
 
            (('notprefix', 'key1'), 'data', ((), )),
1744
 
            (('prefix', 'key1'), 'data1', ((), )),
1745
 
            (('prefix', 'key2'), 'data2', ((('prefix', 'key1'),),))])
 
1804
            ((b'notprefix', b'key1'), b'data', ((), )),
 
1805
            ((b'prefix', b'key1'), b'data1', ((), )),
 
1806
            ((b'prefix', b'key2'), b'data2', (((b'prefix', b'key1'),),))])
1746
1807
        self.assertEqual(2, adapter.key_count())
1747
1808
 
1748
1809
    def test_validate(self):
1749
1810
        index, adapter = self.make_index()
1750
1811
        calls = []
 
1812
 
1751
1813
        def validate():
1752
1814
            calls.append('called')
1753
1815
        index.validate = validate