/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/tests/test_chk_map.py

  • Committer: Vincent Ladeuil
  • Date: 2009-07-10 07:43:15 UTC
  • mto: (4529.1.1 integration)
  • mto: This revision was merged to the branch mainline in revision 4530.
  • Revision ID: v.ladeuil+lp@free.fr-20090710074315-tfbke0r54hk2af6o
Fix TZ-dependent tests.

* bzrlib/tests/test_annotate.py:
(TestAnnotate.create_merged_trees,
TestAnnotate.create_deeply_merged_trees): Isolate from timezone.

* bzrlib/branchbuilder.py:
(BranchBuilder.build_snapshot): timezone is useful to build
TZ-independent tests .

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
# Copyright (C) 2008, 2009, 2010 Canonical Ltd
 
1
# Copyright (C) 2008, 2009 Canonical Ltd
2
2
#
3
3
# This program is free software; you can redistribute it and/or modify
4
4
# it under the terms of the GNU General Public License as published by
20
20
 
21
21
from bzrlib import (
22
22
    chk_map,
23
 
    errors,
24
 
    groupcompress,
25
23
    osutils,
26
24
    tests,
27
25
    )
31
29
    LeafNode,
32
30
    Node,
33
31
    )
34
 
from bzrlib.static_tuple import StaticTuple
35
32
 
36
33
 
37
34
class TestNode(tests.TestCase):
62
59
        self.assertCommonPrefix('', '', '')
63
60
 
64
61
 
65
 
class TestCaseWithStore(tests.TestCaseWithMemoryTransport):
 
62
class TestCaseWithStore(tests.TestCaseWithTransport):
66
63
 
67
64
    def get_chk_bytes(self):
68
 
        # This creates a standalone CHK store.
69
 
        factory = groupcompress.make_pack_factory(False, False, 1)
70
 
        self.chk_bytes = factory(self.get_transport())
71
 
        return self.chk_bytes
 
65
        # The easiest way to get a CHK store is a development6 repository and
 
66
        # then work with the chk_bytes attribute directly.
 
67
        repo = self.make_repository(".", format="development6-rich-root")
 
68
        repo.lock_write()
 
69
        self.addCleanup(repo.unlock)
 
70
        repo.start_write_group()
 
71
        self.addCleanup(repo.abort_write_group)
 
72
        return repo.chk_bytes
72
73
 
73
74
    def _get_map(self, a_dict, maximum_size=0, chk_bytes=None, key_width=1,
74
75
                 search_key_func=None):
96
97
        return dict(node.iteritems(*args))
97
98
 
98
99
 
99
 
class TestCaseWithExampleMaps(TestCaseWithStore):
100
 
 
101
 
    def get_chk_bytes(self):
102
 
        if getattr(self, '_chk_bytes', None) is None:
103
 
            self._chk_bytes = super(TestCaseWithExampleMaps,
104
 
                                    self).get_chk_bytes()
105
 
        return self._chk_bytes
106
 
 
107
 
    def get_map(self, a_dict, maximum_size=100, search_key_func=None):
108
 
        c_map = self._get_map(a_dict, maximum_size=maximum_size,
109
 
                              chk_bytes=self.get_chk_bytes(),
110
 
                              search_key_func=search_key_func)
111
 
        return c_map
112
 
 
113
 
    def make_root_only_map(self, search_key_func=None):
114
 
        return self.get_map({
115
 
            ('aaa',): 'initial aaa content',
116
 
            ('abb',): 'initial abb content',
117
 
        }, search_key_func=search_key_func)
118
 
 
119
 
    def make_root_only_aaa_ddd_map(self, search_key_func=None):
120
 
        return self.get_map({
121
 
            ('aaa',): 'initial aaa content',
122
 
            ('ddd',): 'initial ddd content',
123
 
        }, search_key_func=search_key_func)
124
 
 
125
 
    def make_one_deep_map(self, search_key_func=None):
126
 
        # Same as root_only_map, except it forces an InternalNode at the root
127
 
        return self.get_map({
128
 
            ('aaa',): 'initial aaa content',
129
 
            ('abb',): 'initial abb content',
130
 
            ('ccc',): 'initial ccc content',
131
 
            ('ddd',): 'initial ddd content',
132
 
        }, search_key_func=search_key_func)
133
 
 
134
 
    def make_two_deep_map(self, search_key_func=None):
135
 
        # Carefully chosen so that it creates a 2-deep map for both
136
 
        # _search_key_plain and for _search_key_16
137
 
        # Also so that things line up with make_one_deep_two_prefix_map
138
 
        return self.get_map({
139
 
            ('aaa',): 'initial aaa content',
140
 
            ('abb',): 'initial abb content',
141
 
            ('acc',): 'initial acc content',
142
 
            ('ace',): 'initial ace content',
143
 
            ('add',): 'initial add content',
144
 
            ('adh',): 'initial adh content',
145
 
            ('adl',): 'initial adl content',
146
 
            ('ccc',): 'initial ccc content',
147
 
            ('ddd',): 'initial ddd content',
148
 
        }, search_key_func=search_key_func)
149
 
 
150
 
    def make_one_deep_two_prefix_map(self, search_key_func=None):
151
 
        """Create a map with one internal node, but references are extra long.
152
 
 
153
 
        Otherwise has similar content to make_two_deep_map.
154
 
        """
155
 
        return self.get_map({
156
 
            ('aaa',): 'initial aaa content',
157
 
            ('add',): 'initial add content',
158
 
            ('adh',): 'initial adh content',
159
 
            ('adl',): 'initial adl content',
160
 
        }, search_key_func=search_key_func)
161
 
 
162
 
    def make_one_deep_one_prefix_map(self, search_key_func=None):
163
 
        """Create a map with one internal node, but references are extra long.
164
 
 
165
 
        Similar to make_one_deep_two_prefix_map, except the split is at the
166
 
        first char, rather than the second.
167
 
        """
168
 
        return self.get_map({
169
 
            ('add',): 'initial add content',
170
 
            ('adh',): 'initial adh content',
171
 
            ('adl',): 'initial adl content',
172
 
            ('bbb',): 'initial bbb content',
173
 
        }, search_key_func=search_key_func)
174
 
 
175
 
 
176
 
class TestTestCaseWithExampleMaps(TestCaseWithExampleMaps):
177
 
    """Actual tests for the provided examples."""
178
 
 
179
 
    def test_root_only_map_plain(self):
180
 
        c_map = self.make_root_only_map()
181
 
        self.assertEqualDiff(
182
 
            "'' LeafNode\n"
183
 
            "      ('aaa',) 'initial aaa content'\n"
184
 
            "      ('abb',) 'initial abb content'\n",
185
 
            c_map._dump_tree())
186
 
 
187
 
    def test_root_only_map_16(self):
188
 
        c_map = self.make_root_only_map(search_key_func=chk_map._search_key_16)
189
 
        self.assertEqualDiff(
190
 
            "'' LeafNode\n"
191
 
            "      ('aaa',) 'initial aaa content'\n"
192
 
            "      ('abb',) 'initial abb content'\n",
193
 
            c_map._dump_tree())
194
 
 
195
 
    def test_one_deep_map_plain(self):
196
 
        c_map = self.make_one_deep_map()
197
 
        self.assertEqualDiff(
198
 
            "'' InternalNode\n"
199
 
            "  'a' LeafNode\n"
200
 
            "      ('aaa',) 'initial aaa content'\n"
201
 
            "      ('abb',) 'initial abb content'\n"
202
 
            "  'c' LeafNode\n"
203
 
            "      ('ccc',) 'initial ccc content'\n"
204
 
            "  'd' LeafNode\n"
205
 
            "      ('ddd',) 'initial ddd content'\n",
206
 
            c_map._dump_tree())
207
 
 
208
 
    def test_one_deep_map_16(self):
209
 
        c_map = self.make_one_deep_map(search_key_func=chk_map._search_key_16)
210
 
        self.assertEqualDiff(
211
 
            "'' InternalNode\n"
212
 
            "  '2' LeafNode\n"
213
 
            "      ('ccc',) 'initial ccc content'\n"
214
 
            "  '4' LeafNode\n"
215
 
            "      ('abb',) 'initial abb content'\n"
216
 
            "  'F' LeafNode\n"
217
 
            "      ('aaa',) 'initial aaa content'\n"
218
 
            "      ('ddd',) 'initial ddd content'\n",
219
 
            c_map._dump_tree())
220
 
 
221
 
    def test_root_only_aaa_ddd_plain(self):
222
 
        c_map = self.make_root_only_aaa_ddd_map()
223
 
        self.assertEqualDiff(
224
 
            "'' LeafNode\n"
225
 
            "      ('aaa',) 'initial aaa content'\n"
226
 
            "      ('ddd',) 'initial ddd content'\n",
227
 
            c_map._dump_tree())
228
 
 
229
 
    def test_one_deep_map_16(self):
230
 
        c_map = self.make_root_only_aaa_ddd_map(
231
 
                search_key_func=chk_map._search_key_16)
232
 
        # We use 'aaa' and 'ddd' because they happen to map to 'F' when using
233
 
        # _search_key_16
234
 
        self.assertEqualDiff(
235
 
            "'' LeafNode\n"
236
 
            "      ('aaa',) 'initial aaa content'\n"
237
 
            "      ('ddd',) 'initial ddd content'\n",
238
 
            c_map._dump_tree())
239
 
 
240
 
    def test_two_deep_map_plain(self):
241
 
        c_map = self.make_two_deep_map()
242
 
        self.assertEqualDiff(
243
 
            "'' InternalNode\n"
244
 
            "  'a' InternalNode\n"
245
 
            "    'aa' LeafNode\n"
246
 
            "      ('aaa',) 'initial aaa content'\n"
247
 
            "    'ab' LeafNode\n"
248
 
            "      ('abb',) 'initial abb content'\n"
249
 
            "    'ac' LeafNode\n"
250
 
            "      ('acc',) 'initial acc content'\n"
251
 
            "      ('ace',) 'initial ace content'\n"
252
 
            "    'ad' LeafNode\n"
253
 
            "      ('add',) 'initial add content'\n"
254
 
            "      ('adh',) 'initial adh content'\n"
255
 
            "      ('adl',) 'initial adl content'\n"
256
 
            "  'c' LeafNode\n"
257
 
            "      ('ccc',) 'initial ccc content'\n"
258
 
            "  'd' LeafNode\n"
259
 
            "      ('ddd',) 'initial ddd content'\n",
260
 
            c_map._dump_tree())
261
 
 
262
 
    def test_two_deep_map_16(self):
263
 
        c_map = self.make_two_deep_map(search_key_func=chk_map._search_key_16)
264
 
        self.assertEqualDiff(
265
 
            "'' InternalNode\n"
266
 
            "  '2' LeafNode\n"
267
 
            "      ('acc',) 'initial acc content'\n"
268
 
            "      ('ccc',) 'initial ccc content'\n"
269
 
            "  '4' LeafNode\n"
270
 
            "      ('abb',) 'initial abb content'\n"
271
 
            "  'C' LeafNode\n"
272
 
            "      ('ace',) 'initial ace content'\n"
273
 
            "  'F' InternalNode\n"
274
 
            "    'F0' LeafNode\n"
275
 
            "      ('aaa',) 'initial aaa content'\n"
276
 
            "    'F3' LeafNode\n"
277
 
            "      ('adl',) 'initial adl content'\n"
278
 
            "    'F4' LeafNode\n"
279
 
            "      ('adh',) 'initial adh content'\n"
280
 
            "    'FB' LeafNode\n"
281
 
            "      ('ddd',) 'initial ddd content'\n"
282
 
            "    'FD' LeafNode\n"
283
 
            "      ('add',) 'initial add content'\n",
284
 
            c_map._dump_tree())
285
 
 
286
 
    def test_one_deep_two_prefix_map_plain(self):
287
 
        c_map = self.make_one_deep_two_prefix_map()
288
 
        self.assertEqualDiff(
289
 
            "'' InternalNode\n"
290
 
            "  'aa' LeafNode\n"
291
 
            "      ('aaa',) 'initial aaa content'\n"
292
 
            "  'ad' LeafNode\n"
293
 
            "      ('add',) 'initial add content'\n"
294
 
            "      ('adh',) 'initial adh content'\n"
295
 
            "      ('adl',) 'initial adl content'\n",
296
 
            c_map._dump_tree())
297
 
 
298
 
    def test_one_deep_two_prefix_map_16(self):
299
 
        c_map = self.make_one_deep_two_prefix_map(
300
 
            search_key_func=chk_map._search_key_16)
301
 
        self.assertEqualDiff(
302
 
            "'' InternalNode\n"
303
 
            "  'F0' LeafNode\n"
304
 
            "      ('aaa',) 'initial aaa content'\n"
305
 
            "  'F3' LeafNode\n"
306
 
            "      ('adl',) 'initial adl content'\n"
307
 
            "  'F4' LeafNode\n"
308
 
            "      ('adh',) 'initial adh content'\n"
309
 
            "  'FD' LeafNode\n"
310
 
            "      ('add',) 'initial add content'\n",
311
 
            c_map._dump_tree())
312
 
 
313
 
    def test_one_deep_one_prefix_map_plain(self):
314
 
        c_map = self.make_one_deep_one_prefix_map()
315
 
        self.assertEqualDiff(
316
 
            "'' InternalNode\n"
317
 
            "  'a' LeafNode\n"
318
 
            "      ('add',) 'initial add content'\n"
319
 
            "      ('adh',) 'initial adh content'\n"
320
 
            "      ('adl',) 'initial adl content'\n"
321
 
            "  'b' LeafNode\n"
322
 
            "      ('bbb',) 'initial bbb content'\n",
323
 
            c_map._dump_tree())
324
 
 
325
 
    def test_one_deep_one_prefix_map_16(self):
326
 
        c_map = self.make_one_deep_one_prefix_map(
327
 
            search_key_func=chk_map._search_key_16)
328
 
        self.assertEqualDiff(
329
 
            "'' InternalNode\n"
330
 
            "  '4' LeafNode\n"
331
 
            "      ('bbb',) 'initial bbb content'\n"
332
 
            "  'F' LeafNode\n"
333
 
            "      ('add',) 'initial add content'\n"
334
 
            "      ('adh',) 'initial adh content'\n"
335
 
            "      ('adl',) 'initial adl content'\n",
336
 
            c_map._dump_tree())
337
 
 
338
 
 
339
100
class TestMap(TestCaseWithStore):
340
101
 
341
102
    def assertHasABMap(self, chk_bytes):
467
228
        # updated key.
468
229
        self.assertEqual(new_root, chkmap._root_node._key)
469
230
 
470
 
    def test_apply_new_keys_must_be_new(self):
471
 
        # applying a delta (None, "a", "b") to a map with 'a' in it generates
472
 
        # an error.
473
 
        chk_bytes = self.get_chk_bytes()
474
 
        root_key = CHKMap.from_dict(chk_bytes, {("a",):"b"})
475
 
        chkmap = CHKMap(chk_bytes, root_key)
476
 
        self.assertRaises(errors.InconsistentDelta, chkmap.apply_delta,
477
 
            [(None, ("a",), "b")])
478
 
        # As an error occured, the update should have left us without changing
479
 
        # anything (the root should be unchanged).
480
 
        self.assertEqual(root_key, chkmap._root_node._key)
481
 
 
482
231
    def test_apply_delta_is_deterministic(self):
483
232
        chk_bytes = self.get_chk_bytes()
484
233
        chkmap1 = CHKMap(chk_bytes, None)
832
581
        # 'ab' and 'ac' nodes
833
582
        chkmap.map(('aad',), 'v')
834
583
        self.assertIsInstance(chkmap._root_node._items['aa'], InternalNode)
835
 
        self.assertIsInstance(chkmap._root_node._items['ab'], StaticTuple)
836
 
        self.assertIsInstance(chkmap._root_node._items['ac'], StaticTuple)
 
584
        self.assertIsInstance(chkmap._root_node._items['ab'], tuple)
 
585
        self.assertIsInstance(chkmap._root_node._items['ac'], tuple)
837
586
        # Unmapping 'acd' can notice that 'aa' is an InternalNode and not have
838
587
        # to map in 'ab'
839
588
        chkmap.unmap(('acd',))
840
589
        self.assertIsInstance(chkmap._root_node._items['aa'], InternalNode)
841
 
        self.assertIsInstance(chkmap._root_node._items['ab'], StaticTuple)
 
590
        self.assertIsInstance(chkmap._root_node._items['ab'], tuple)
842
591
 
843
592
    def test_unmap_without_fitting_doesnt_page_in(self):
844
593
        store = self.get_chk_bytes()
861
610
        chkmap.map(('aaf',), 'v')
862
611
        # At this point, the previous nodes should not be paged in, but the
863
612
        # newly added nodes would be
864
 
        self.assertIsInstance(chkmap._root_node._items['aaa'], StaticTuple)
865
 
        self.assertIsInstance(chkmap._root_node._items['aab'], StaticTuple)
 
613
        self.assertIsInstance(chkmap._root_node._items['aaa'], tuple)
 
614
        self.assertIsInstance(chkmap._root_node._items['aab'], tuple)
866
615
        self.assertIsInstance(chkmap._root_node._items['aac'], LeafNode)
867
616
        self.assertIsInstance(chkmap._root_node._items['aad'], LeafNode)
868
617
        self.assertIsInstance(chkmap._root_node._items['aae'], LeafNode)
870
619
        # Now unmapping one of the new nodes will use only the already-paged-in
871
620
        # nodes to determine that we don't need to do more.
872
621
        chkmap.unmap(('aaf',))
873
 
        self.assertIsInstance(chkmap._root_node._items['aaa'], StaticTuple)
874
 
        self.assertIsInstance(chkmap._root_node._items['aab'], StaticTuple)
 
622
        self.assertIsInstance(chkmap._root_node._items['aaa'], tuple)
 
623
        self.assertIsInstance(chkmap._root_node._items['aab'], tuple)
875
624
        self.assertIsInstance(chkmap._root_node._items['aac'], LeafNode)
876
625
        self.assertIsInstance(chkmap._root_node._items['aad'], LeafNode)
877
626
        self.assertIsInstance(chkmap._root_node._items['aae'], LeafNode)
898
647
        chkmap.map(('aad',), 'v')
899
648
        # At this point, the previous nodes should not be paged in, but the
900
649
        # newly added node would be
901
 
        self.assertIsInstance(chkmap._root_node._items['aaa'], StaticTuple)
902
 
        self.assertIsInstance(chkmap._root_node._items['aab'], StaticTuple)
903
 
        self.assertIsInstance(chkmap._root_node._items['aac'], StaticTuple)
 
650
        self.assertIsInstance(chkmap._root_node._items['aaa'], tuple)
 
651
        self.assertIsInstance(chkmap._root_node._items['aab'], tuple)
 
652
        self.assertIsInstance(chkmap._root_node._items['aac'], tuple)
904
653
        self.assertIsInstance(chkmap._root_node._items['aad'], LeafNode)
905
654
        # Unmapping the new node will check the existing nodes to see if they
906
655
        # would fit.
907
656
        # Clear the page cache so we ensure we have to read all the children
908
 
        chk_map.clear_cache()
 
657
        chk_map._page_cache.clear()
909
658
        chkmap.unmap(('aad',))
910
659
        self.assertIsInstance(chkmap._root_node._items['aaa'], LeafNode)
911
660
        self.assertIsInstance(chkmap._root_node._items['aab'], LeafNode)
938
687
        chkmap.map(('aad',), 'v')
939
688
        # At this point, the previous nodes should not be paged in, but the
940
689
        # newly added node would be
941
 
        self.assertIsInstance(chkmap._root_node._items['aaa'], StaticTuple)
942
 
        self.assertIsInstance(chkmap._root_node._items['aab'], StaticTuple)
943
 
        self.assertIsInstance(chkmap._root_node._items['aac'], StaticTuple)
 
690
        self.assertIsInstance(chkmap._root_node._items['aaa'], tuple)
 
691
        self.assertIsInstance(chkmap._root_node._items['aab'], tuple)
 
692
        self.assertIsInstance(chkmap._root_node._items['aac'], tuple)
944
693
        self.assertIsInstance(chkmap._root_node._items['aad'], LeafNode)
945
694
        # Now clear the page cache, and only include 2 of the children in the
946
695
        # cache
947
696
        aab_key = chkmap._root_node._items['aab']
948
 
        aab_bytes = chk_map._get_cache()[aab_key]
 
697
        aab_bytes = chk_map._page_cache[aab_key]
949
698
        aac_key = chkmap._root_node._items['aac']
950
 
        aac_bytes = chk_map._get_cache()[aac_key]
951
 
        chk_map.clear_cache()
952
 
        chk_map._get_cache()[aab_key] = aab_bytes
953
 
        chk_map._get_cache()[aac_key] = aac_bytes
 
699
        aac_bytes = chk_map._page_cache[aac_key]
 
700
        chk_map._page_cache.clear()
 
701
        chk_map._page_cache[aab_key] = aab_bytes
 
702
        chk_map._page_cache[aac_key] = aac_bytes
954
703
 
955
704
        # Unmapping the new node will check the nodes from the page cache
956
705
        # first, and not have to read in 'aaa'
957
706
        chkmap.unmap(('aad',))
958
 
        self.assertIsInstance(chkmap._root_node._items['aaa'], StaticTuple)
 
707
        self.assertIsInstance(chkmap._root_node._items['aaa'], tuple)
959
708
        self.assertIsInstance(chkmap._root_node._items['aab'], LeafNode)
960
709
        self.assertIsInstance(chkmap._root_node._items['aac'], LeafNode)
961
710
 
975
724
        chkmap.map(('aaf',), 'val')
976
725
        # At this point, the previous nodes should not be paged in, but the
977
726
        # newly added node would be
978
 
        self.assertIsInstance(chkmap._root_node._items['aaa'], StaticTuple)
979
 
        self.assertIsInstance(chkmap._root_node._items['aab'], StaticTuple)
980
 
        self.assertIsInstance(chkmap._root_node._items['aac'], StaticTuple)
 
727
        self.assertIsInstance(chkmap._root_node._items['aaa'], tuple)
 
728
        self.assertIsInstance(chkmap._root_node._items['aab'], tuple)
 
729
        self.assertIsInstance(chkmap._root_node._items['aac'], tuple)
981
730
        self.assertIsInstance(chkmap._root_node._items['aad'], LeafNode)
982
731
        self.assertIsInstance(chkmap._root_node._items['aae'], LeafNode)
983
732
        self.assertIsInstance(chkmap._root_node._items['aaf'], LeafNode)
985
734
        # Unmapping a new node will see the other nodes that are already in
986
735
        # memory, and not need to page in anything else
987
736
        chkmap.unmap(('aad',))
988
 
        self.assertIsInstance(chkmap._root_node._items['aaa'], StaticTuple)
989
 
        self.assertIsInstance(chkmap._root_node._items['aab'], StaticTuple)
990
 
        self.assertIsInstance(chkmap._root_node._items['aac'], StaticTuple)
 
737
        self.assertIsInstance(chkmap._root_node._items['aaa'], tuple)
 
738
        self.assertIsInstance(chkmap._root_node._items['aab'], tuple)
 
739
        self.assertIsInstance(chkmap._root_node._items['aac'], tuple)
991
740
        self.assertIsInstance(chkmap._root_node._items['aae'], LeafNode)
992
741
        self.assertIsInstance(chkmap._root_node._items['aaf'], LeafNode)
993
742
 
1032
781
            {('a',): 'content here', ('b',): 'more content'},
1033
782
            chk_bytes=basis._store, maximum_size=10)
1034
783
        list(target.iter_changes(basis))
1035
 
        self.assertIsInstance(target._root_node, StaticTuple)
1036
 
        self.assertIsInstance(basis._root_node, StaticTuple)
 
784
        self.assertIsInstance(target._root_node, tuple)
 
785
        self.assertIsInstance(basis._root_node, tuple)
1037
786
 
1038
787
    def test_iter_changes_ab_ab_changed_values_shown(self):
1039
788
        basis = self._get_map({('a',): 'content here', ('b',): 'more content'},
1145
894
 
1146
895
    def test_iteritems_keys_prefixed_by_2_width_nodes_hashed(self):
1147
896
        search_key_func = chk_map.search_key_registry.get('hash-16-way')
1148
 
        self.assertEqual('E8B7BE43\x00E8B7BE43',
1149
 
                         search_key_func(StaticTuple('a', 'a')))
1150
 
        self.assertEqual('E8B7BE43\x0071BEEFF9',
1151
 
                         search_key_func(StaticTuple('a', 'b')))
1152
 
        self.assertEqual('71BEEFF9\x0000000000',
1153
 
                         search_key_func(StaticTuple('b', '')))
 
897
        self.assertEqual('E8B7BE43\x00E8B7BE43', search_key_func(('a', 'a')))
 
898
        self.assertEqual('E8B7BE43\x0071BEEFF9', search_key_func(('a', 'b')))
 
899
        self.assertEqual('71BEEFF9\x0000000000', search_key_func(('b', '')))
1154
900
        chkmap = self._get_map(
1155
901
            {("a","a"):"content here", ("a", "b",):"more content",
1156
902
             ("b", ""): 'boring content'},
1453
1199
                             , chkmap._dump_tree())
1454
1200
 
1455
1201
 
 
1202
class TestSearchKeyFuncs(tests.TestCase):
 
1203
 
 
1204
    def assertSearchKey16(self, expected, key):
 
1205
        self.assertEqual(expected, chk_map._search_key_16(key))
 
1206
 
 
1207
    def assertSearchKey255(self, expected, key):
 
1208
        actual = chk_map._search_key_255(key)
 
1209
        self.assertEqual(expected, actual, 'actual: %r' % (actual,))
 
1210
 
 
1211
    def test_simple_16(self):
 
1212
        self.assertSearchKey16('8C736521', ('foo',))
 
1213
        self.assertSearchKey16('8C736521\x008C736521', ('foo', 'foo'))
 
1214
        self.assertSearchKey16('8C736521\x0076FF8CAA', ('foo', 'bar'))
 
1215
        self.assertSearchKey16('ED82CD11', ('abcd',))
 
1216
 
 
1217
    def test_simple_255(self):
 
1218
        self.assertSearchKey255('\x8cse!', ('foo',))
 
1219
        self.assertSearchKey255('\x8cse!\x00\x8cse!', ('foo', 'foo'))
 
1220
        self.assertSearchKey255('\x8cse!\x00v\xff\x8c\xaa', ('foo', 'bar'))
 
1221
        # The standard mapping for these would include '\n', so it should be
 
1222
        # mapped to '_'
 
1223
        self.assertSearchKey255('\xfdm\x93_\x00P_\x1bL', ('<', 'V'))
 
1224
 
 
1225
    def test_255_does_not_include_newline(self):
 
1226
        # When mapping via _search_key_255, we should never have the '\n'
 
1227
        # character, but all other 255 values should be present
 
1228
        chars_used = set()
 
1229
        for char_in in range(256):
 
1230
            search_key = chk_map._search_key_255((chr(char_in),))
 
1231
            chars_used.update(search_key)
 
1232
        all_chars = set([chr(x) for x in range(256)])
 
1233
        unused_chars = all_chars.symmetric_difference(chars_used)
 
1234
        self.assertEqual(set('\n'), unused_chars)
 
1235
 
 
1236
 
1456
1237
class TestLeafNode(TestCaseWithStore):
1457
1238
 
1458
1239
    def test_current_size_empty(self):
1877
1658
        search_key_func = chk_map.search_key_registry.get('hash-255-way')
1878
1659
        node = InternalNode(search_key_func=search_key_func)
1879
1660
        leaf1 = LeafNode(search_key_func=search_key_func)
1880
 
        leaf1.map(None, StaticTuple('foo bar',), 'quux')
 
1661
        leaf1.map(None, ('foo bar',), 'quux')
1881
1662
        leaf2 = LeafNode(search_key_func=search_key_func)
1882
 
        leaf2.map(None, StaticTuple('strange',), 'beast')
1883
 
        self.assertEqual('\xbeF\x014', search_key_func(StaticTuple('foo bar',)))
1884
 
        self.assertEqual('\x85\xfa\xf7K', search_key_func(StaticTuple('strange',)))
 
1663
        leaf2.map(None, ('strange',), 'beast')
 
1664
        self.assertEqual('\xbeF\x014', search_key_func(('foo bar',)))
 
1665
        self.assertEqual('\x85\xfa\xf7K', search_key_func(('strange',)))
1885
1666
        node.add_node("\xbe", leaf1)
1886
1667
        # This sets up a path that should not be followed - it will error if
1887
1668
        # the code tries to.
1888
1669
        node._items['\xbe'] = None
1889
1670
        node.add_node("\x85", leaf2)
1890
1671
        self.assertEqual([(('strange',), 'beast')],
1891
 
            sorted(node.iteritems(None, [StaticTuple('strange',),
1892
 
                                         StaticTuple('weird',)])))
 
1672
            sorted(node.iteritems(None, [('strange',), ('weird',)])))
1893
1673
 
1894
1674
    def test_iteritems_partial_empty(self):
1895
1675
        node = InternalNode()
1902
1682
        # Ensure test validity: nothing paged in below the root.
1903
1683
        self.assertEqual(2,
1904
1684
            len([value for value in node._items.values()
1905
 
                if type(value) is StaticTuple]))
 
1685
                if type(value) == tuple]))
1906
1686
        # now, mapping to k3 should add a k3 leaf
1907
1687
        prefix, nodes = node.map(None, ('k3',), 'quux')
1908
1688
        self.assertEqual("k", prefix)
1941
1721
        # Ensure test validity: nothing paged in below the root.
1942
1722
        self.assertEqual(2,
1943
1723
            len([value for value in node._items.values()
1944
 
                if type(value) is StaticTuple]))
 
1724
                if type(value) == tuple]))
1945
1725
        # now, mapping to k23 causes k22 ('k2' in node) to split into k22 and
1946
1726
        # k23, which for simplicity in the current implementation generates
1947
1727
        # a new internal node between node, and k22/k23.
1986
1766
        node = InternalNode(search_key_func=search_key_func)
1987
1767
        node._key_width = 2
1988
1768
        node._node_width = 4
1989
 
        self.assertEqual('E8B7BE43\x0071BEEFF9', search_key_func(
1990
 
            StaticTuple('a', 'b')))
1991
 
        self.assertEqual('E8B7', node._search_prefix_filter(
1992
 
            StaticTuple('a', 'b')))
1993
 
        self.assertEqual('E8B7', node._search_prefix_filter(
1994
 
            StaticTuple('a',)))
 
1769
        self.assertEqual('E8B7BE43\x0071BEEFF9', search_key_func(('a', 'b')))
 
1770
        self.assertEqual('E8B7', node._search_prefix_filter(('a', 'b')))
 
1771
        self.assertEqual('E8B7', node._search_prefix_filter(('a',)))
1995
1772
 
1996
1773
    def test_unmap_k23_from_k1_k22_k23_gives_k1_k22_tree_new(self):
1997
1774
        chkmap = self._get_map(
2109
1886
# 1-4K get0
2110
1887
 
2111
1888
 
2112
 
class TestCHKMapDifference(TestCaseWithExampleMaps):
2113
 
 
2114
 
    def get_difference(self, new_roots, old_roots,
2115
 
                       search_key_func=None):
2116
 
        if search_key_func is None:
2117
 
            search_key_func = chk_map._search_key_plain
2118
 
        return chk_map.CHKMapDifference(self.get_chk_bytes(),
2119
 
            new_roots, old_roots, search_key_func)
2120
 
 
2121
 
    def test__init__(self):
2122
 
        c_map = self.make_root_only_map()
2123
 
        key1 = c_map.key()
2124
 
        c_map.map(('aaa',), 'new aaa content')
2125
 
        key2 = c_map._save()
2126
 
        diff = self.get_difference([key2], [key1])
2127
 
        self.assertEqual(set([key1]), diff._all_old_chks)
2128
 
        self.assertEqual([], diff._old_queue)
2129
 
        self.assertEqual([], diff._new_queue)
2130
 
 
2131
 
    def help__read_all_roots(self, search_key_func):
2132
 
        c_map = self.make_root_only_map(search_key_func=search_key_func)
2133
 
        key1 = c_map.key()
2134
 
        c_map.map(('aaa',), 'new aaa content')
2135
 
        key2 = c_map._save()
2136
 
        diff = self.get_difference([key2], [key1], search_key_func)
2137
 
        root_results = [record.key for record in diff._read_all_roots()]
2138
 
        self.assertEqual([key2], root_results)
2139
 
        # We should have queued up only items that aren't in the old
2140
 
        # set
2141
 
        self.assertEqual([(('aaa',), 'new aaa content')],
2142
 
                         diff._new_item_queue)
2143
 
        self.assertEqual([], diff._new_queue)
2144
 
        # And there are no old references, so that queue should be
2145
 
        # empty
2146
 
        self.assertEqual([], diff._old_queue)
2147
 
 
2148
 
    def test__read_all_roots_plain(self):
2149
 
        self.help__read_all_roots(search_key_func=chk_map._search_key_plain)
2150
 
 
2151
 
    def test__read_all_roots_16(self):
2152
 
        self.help__read_all_roots(search_key_func=chk_map._search_key_16)
2153
 
 
2154
 
    def test__read_all_roots_skips_known_old(self):
2155
 
        c_map = self.make_one_deep_map(chk_map._search_key_plain)
2156
 
        key1 = c_map.key()
2157
 
        c_map2 = self.make_root_only_map(chk_map._search_key_plain)
2158
 
        key2 = c_map2.key()
2159
 
        diff = self.get_difference([key2], [key1], chk_map._search_key_plain)
2160
 
        root_results = [record.key for record in diff._read_all_roots()]
2161
 
        # We should have no results. key2 is completely contained within key1,
2162
 
        # and we should have seen that in the first pass
2163
 
        self.assertEqual([], root_results)
2164
 
 
2165
 
    def test__read_all_roots_prepares_queues(self):
2166
 
        c_map = self.make_one_deep_map(chk_map._search_key_plain)
2167
 
        key1 = c_map.key()
2168
 
        c_map._dump_tree() # load everything
2169
 
        key1_a = c_map._root_node._items['a'].key()
2170
 
        c_map.map(('abb',), 'new abb content')
2171
 
        key2 = c_map._save()
2172
 
        key2_a = c_map._root_node._items['a'].key()
2173
 
        diff = self.get_difference([key2], [key1], chk_map._search_key_plain)
2174
 
        root_results = [record.key for record in diff._read_all_roots()]
2175
 
        self.assertEqual([key2], root_results)
2176
 
        # At this point, we should have queued up only the 'a' Leaf on both
2177
 
        # sides, both 'c' and 'd' are known to not have changed on both sides
2178
 
        self.assertEqual([key2_a], diff._new_queue)
2179
 
        self.assertEqual([], diff._new_item_queue)
2180
 
        self.assertEqual([key1_a], diff._old_queue)
2181
 
 
2182
 
    def test__read_all_roots_multi_new_prepares_queues(self):
2183
 
        c_map = self.make_one_deep_map(chk_map._search_key_plain)
2184
 
        key1 = c_map.key()
2185
 
        c_map._dump_tree() # load everything
2186
 
        key1_a = c_map._root_node._items['a'].key()
2187
 
        key1_c = c_map._root_node._items['c'].key()
2188
 
        c_map.map(('abb',), 'new abb content')
2189
 
        key2 = c_map._save()
2190
 
        key2_a = c_map._root_node._items['a'].key()
2191
 
        key2_c = c_map._root_node._items['c'].key()
2192
 
        c_map = chk_map.CHKMap(self.get_chk_bytes(), key1,
2193
 
                               chk_map._search_key_plain)
2194
 
        c_map.map(('ccc',), 'new ccc content')
2195
 
        key3 = c_map._save()
2196
 
        key3_a = c_map._root_node._items['a'].key()
2197
 
        key3_c = c_map._root_node._items['c'].key()
2198
 
        diff = self.get_difference([key2, key3], [key1],
2199
 
                                   chk_map._search_key_plain)
2200
 
        root_results = [record.key for record in diff._read_all_roots()]
2201
 
        self.assertEqual(sorted([key2, key3]), sorted(root_results))
2202
 
        # We should have queued up key2_a, and key3_c, but not key2_c or key3_c
2203
 
        self.assertEqual([key2_a, key3_c], diff._new_queue)
2204
 
        self.assertEqual([], diff._new_item_queue)
2205
 
        # And we should have queued up both a and c for the old set
2206
 
        self.assertEqual([key1_a, key1_c], diff._old_queue)
2207
 
 
2208
 
    def test__read_all_roots_different_depths(self):
2209
 
        c_map = self.make_two_deep_map(chk_map._search_key_plain)
2210
 
        c_map._dump_tree() # load everything
2211
 
        key1 = c_map.key()
2212
 
        key1_a = c_map._root_node._items['a'].key()
2213
 
        key1_c = c_map._root_node._items['c'].key()
2214
 
        key1_d = c_map._root_node._items['d'].key()
2215
 
 
2216
 
        c_map2 = self.make_one_deep_two_prefix_map(chk_map._search_key_plain)
2217
 
        c_map2._dump_tree()
2218
 
        key2 = c_map2.key()
2219
 
        key2_aa = c_map2._root_node._items['aa'].key()
2220
 
        key2_ad = c_map2._root_node._items['ad'].key()
2221
 
 
2222
 
        diff = self.get_difference([key2], [key1], chk_map._search_key_plain)
2223
 
        root_results = [record.key for record in diff._read_all_roots()]
2224
 
        self.assertEqual([key2], root_results)
2225
 
        # Only the 'a' subset should be queued up, since 'c' and 'd' cannot be
2226
 
        # present
2227
 
        self.assertEqual([key1_a], diff._old_queue)
2228
 
        self.assertEqual([key2_aa, key2_ad], diff._new_queue)
2229
 
        self.assertEqual([], diff._new_item_queue)
2230
 
 
2231
 
        diff = self.get_difference([key1], [key2], chk_map._search_key_plain)
2232
 
        root_results = [record.key for record in diff._read_all_roots()]
2233
 
        self.assertEqual([key1], root_results)
2234
 
 
2235
 
        self.assertEqual([key2_aa, key2_ad], diff._old_queue)
2236
 
        self.assertEqual([key1_a, key1_c, key1_d], diff._new_queue)
2237
 
        self.assertEqual([], diff._new_item_queue)
2238
 
 
2239
 
    def test__read_all_roots_different_depths_16(self):
2240
 
        c_map = self.make_two_deep_map(chk_map._search_key_16)
2241
 
        c_map._dump_tree() # load everything
2242
 
        key1 = c_map.key()
2243
 
        key1_2 = c_map._root_node._items['2'].key()
2244
 
        key1_4 = c_map._root_node._items['4'].key()
2245
 
        key1_C = c_map._root_node._items['C'].key()
2246
 
        key1_F = c_map._root_node._items['F'].key()
2247
 
 
2248
 
        c_map2 = self.make_one_deep_two_prefix_map(chk_map._search_key_16)
2249
 
        c_map2._dump_tree()
2250
 
        key2 = c_map2.key()
2251
 
        key2_F0 = c_map2._root_node._items['F0'].key()
2252
 
        key2_F3 = c_map2._root_node._items['F3'].key()
2253
 
        key2_F4 = c_map2._root_node._items['F4'].key()
2254
 
        key2_FD = c_map2._root_node._items['FD'].key()
2255
 
 
2256
 
        diff = self.get_difference([key2], [key1], chk_map._search_key_16)
2257
 
        root_results = [record.key for record in diff._read_all_roots()]
2258
 
        self.assertEqual([key2], root_results)
2259
 
        # Only the subset of keys that may be present should be queued up.
2260
 
        self.assertEqual([key1_F], diff._old_queue)
2261
 
        self.assertEqual(sorted([key2_F0, key2_F3, key2_F4, key2_FD]),
2262
 
                         sorted(diff._new_queue))
2263
 
        self.assertEqual([], diff._new_item_queue)
2264
 
 
2265
 
        diff = self.get_difference([key1], [key2], chk_map._search_key_16)
2266
 
        root_results = [record.key for record in diff._read_all_roots()]
2267
 
        self.assertEqual([key1], root_results)
2268
 
 
2269
 
        self.assertEqual(sorted([key2_F0, key2_F3, key2_F4, key2_FD]),
2270
 
                         sorted(diff._old_queue))
2271
 
        self.assertEqual(sorted([key1_2, key1_4, key1_C, key1_F]),
2272
 
                         sorted(diff._new_queue))
2273
 
        self.assertEqual([], diff._new_item_queue)
2274
 
 
2275
 
    def test__read_all_roots_mixed_depth(self):
2276
 
        c_map = self.make_one_deep_two_prefix_map(chk_map._search_key_plain)
2277
 
        c_map._dump_tree() # load everything
2278
 
        key1 = c_map.key()
2279
 
        key1_aa = c_map._root_node._items['aa'].key()
2280
 
        key1_ad = c_map._root_node._items['ad'].key()
2281
 
 
2282
 
        c_map2 = self.make_one_deep_one_prefix_map(chk_map._search_key_plain)
2283
 
        c_map2._dump_tree()
2284
 
        key2 = c_map2.key()
2285
 
        key2_a = c_map2._root_node._items['a'].key()
2286
 
        key2_b = c_map2._root_node._items['b'].key()
2287
 
 
2288
 
        diff = self.get_difference([key2], [key1], chk_map._search_key_plain)
2289
 
        root_results = [record.key for record in diff._read_all_roots()]
2290
 
        self.assertEqual([key2], root_results)
2291
 
        # 'ad' matches exactly 'a' on the other side, so it should be removed,
2292
 
        # and neither side should have it queued for walking
2293
 
        self.assertEqual([], diff._old_queue)
2294
 
        self.assertEqual([key2_b], diff._new_queue)
2295
 
        self.assertEqual([], diff._new_item_queue)
2296
 
 
2297
 
        diff = self.get_difference([key1], [key2], chk_map._search_key_plain)
2298
 
        root_results = [record.key for record in diff._read_all_roots()]
2299
 
        self.assertEqual([key1], root_results)
2300
 
        # Note: This is technically not the 'true minimal' set that we could
2301
 
        #       use The reason is that 'a' was matched exactly to 'ad' (by sha
2302
 
        #       sum).  However, the code gets complicated in the case of more
2303
 
        #       than one interesting key, so for now, we live with this
2304
 
        #       Consider revising, though benchmarking showing it to be a
2305
 
        #       real-world issue should be done
2306
 
        self.assertEqual([key2_a], diff._old_queue)
2307
 
        # self.assertEqual([], diff._old_queue)
2308
 
        self.assertEqual([key1_aa], diff._new_queue)
2309
 
        self.assertEqual([], diff._new_item_queue)
2310
 
 
2311
 
    def test__read_all_roots_yields_extra_deep_records(self):
2312
 
        # This is slightly controversial, as we will yield a chk page that we
2313
 
        # might later on find out could be filtered out. (If a root node is
2314
 
        # referenced deeper in the old set.)
2315
 
        # However, even with stacking, we always have all chk pages that we
2316
 
        # will need. So as long as we filter out the referenced keys, we'll
2317
 
        # never run into problems.
2318
 
        # This allows us to yield a root node record immediately, without any
2319
 
        # buffering.
2320
 
        c_map = self.make_two_deep_map(chk_map._search_key_plain)
2321
 
        c_map._dump_tree() # load all keys
2322
 
        key1 = c_map.key()
2323
 
        key1_a = c_map._root_node._items['a'].key()
2324
 
        c_map2 = self.get_map({
2325
 
            ('acc',): 'initial acc content',
2326
 
            ('ace',): 'initial ace content',
2327
 
        }, maximum_size=100)
2328
 
        self.assertEqualDiff(
2329
 
            "'' LeafNode\n"
2330
 
            "      ('acc',) 'initial acc content'\n"
2331
 
            "      ('ace',) 'initial ace content'\n",
2332
 
            c_map2._dump_tree())
2333
 
        key2 = c_map2.key()
2334
 
        diff = self.get_difference([key2], [key1], chk_map._search_key_plain)
2335
 
        root_results = [record.key for record in diff._read_all_roots()]
2336
 
        self.assertEqual([key2], root_results)
2337
 
        # However, even though we have yielded the root node to be fetched,
2338
 
        # we should have enqued all of the chk pages to be walked, so that we
2339
 
        # can find the keys if they are present
2340
 
        self.assertEqual([key1_a], diff._old_queue)
2341
 
        self.assertEqual([(('acc',), 'initial acc content'),
2342
 
                          (('ace',), 'initial ace content'),
2343
 
                         ], diff._new_item_queue)
2344
 
 
2345
 
    def test__read_all_roots_multiple_targets(self):
2346
 
        c_map = self.make_root_only_map()
2347
 
        key1 = c_map.key()
2348
 
        c_map = self.make_one_deep_map()
2349
 
        key2 = c_map.key()
2350
 
        c_map._dump_tree()
2351
 
        key2_c = c_map._root_node._items['c'].key()
2352
 
        key2_d = c_map._root_node._items['d'].key()
2353
 
        c_map.map(('ccc',), 'new ccc value')
2354
 
        key3 = c_map._save()
2355
 
        key3_c = c_map._root_node._items['c'].key()
2356
 
        diff = self.get_difference([key2, key3], [key1],
2357
 
                                   chk_map._search_key_plain)
2358
 
        root_results = [record.key for record in diff._read_all_roots()]
2359
 
        self.assertEqual(sorted([key2, key3]), sorted(root_results))
2360
 
        self.assertEqual([], diff._old_queue)
2361
 
        # the key 'd' is interesting from key2 and key3, but should only be
2362
 
        # entered into the queue 1 time
2363
 
        self.assertEqual(sorted([key2_c, key3_c, key2_d]),
2364
 
                         sorted(diff._new_queue))
2365
 
        self.assertEqual([], diff._new_item_queue)
2366
 
 
2367
 
    def test__read_all_roots_no_old(self):
2368
 
        # This is the 'initial branch' case. With nothing in the old
2369
 
        # set, we can just queue up all root nodes into interesting queue, and
2370
 
        # then have them fast-path flushed via _flush_new_queue
2371
 
        c_map = self.make_two_deep_map()
2372
 
        key1 = c_map.key()
2373
 
        diff = self.get_difference([key1], [], chk_map._search_key_plain)
2374
 
        root_results = [record.key for record in diff._read_all_roots()]
2375
 
        self.assertEqual([], root_results)
2376
 
        self.assertEqual([], diff._old_queue)
2377
 
        self.assertEqual([key1], diff._new_queue)
2378
 
        self.assertEqual([], diff._new_item_queue)
2379
 
 
2380
 
        c_map2 = self.make_one_deep_map()
2381
 
        key2 = c_map2.key()
2382
 
        diff = self.get_difference([key1, key2], [], chk_map._search_key_plain)
2383
 
        root_results = [record.key for record in diff._read_all_roots()]
2384
 
        self.assertEqual([], root_results)
2385
 
        self.assertEqual([], diff._old_queue)
2386
 
        self.assertEqual(sorted([key1, key2]), sorted(diff._new_queue))
2387
 
        self.assertEqual([], diff._new_item_queue)
2388
 
 
2389
 
    def test__read_all_roots_no_old_16(self):
2390
 
        c_map = self.make_two_deep_map(chk_map._search_key_16)
2391
 
        key1 = c_map.key()
2392
 
        diff = self.get_difference([key1], [], chk_map._search_key_16)
2393
 
        root_results = [record.key for record in diff._read_all_roots()]
2394
 
        self.assertEqual([], root_results)
2395
 
        self.assertEqual([], diff._old_queue)
2396
 
        self.assertEqual([key1], diff._new_queue)
2397
 
        self.assertEqual([], diff._new_item_queue)
2398
 
 
2399
 
        c_map2 = self.make_one_deep_map(chk_map._search_key_16)
2400
 
        key2 = c_map2.key()
2401
 
        diff = self.get_difference([key1, key2], [],
2402
 
                                   chk_map._search_key_16)
2403
 
        root_results = [record.key for record in diff._read_all_roots()]
2404
 
        self.assertEqual([], root_results)
2405
 
        self.assertEqual([], diff._old_queue)
2406
 
        self.assertEqual(sorted([key1, key2]),
2407
 
                         sorted(diff._new_queue))
2408
 
        self.assertEqual([], diff._new_item_queue)
2409
 
 
2410
 
    def test__read_all_roots_multiple_old(self):
2411
 
        c_map = self.make_two_deep_map()
2412
 
        key1 = c_map.key()
2413
 
        c_map._dump_tree() # load everything
2414
 
        key1_a = c_map._root_node._items['a'].key()
2415
 
        c_map.map(('ccc',), 'new ccc value')
2416
 
        key2 = c_map._save()
2417
 
        key2_a = c_map._root_node._items['a'].key()
2418
 
        c_map.map(('add',), 'new add value')
2419
 
        key3 = c_map._save()
2420
 
        key3_a = c_map._root_node._items['a'].key()
2421
 
        diff = self.get_difference([key3], [key1, key2],
2422
 
                                   chk_map._search_key_plain)
2423
 
        root_results = [record.key for record in diff._read_all_roots()]
2424
 
        self.assertEqual([key3], root_results)
2425
 
        # the 'a' keys should not be queued up 2 times, since they are
2426
 
        # identical
2427
 
        self.assertEqual([key1_a], diff._old_queue)
2428
 
        self.assertEqual([key3_a], diff._new_queue)
2429
 
        self.assertEqual([], diff._new_item_queue)
2430
 
 
2431
 
    def test__process_next_old_batched_no_dupes(self):
2432
 
        c_map = self.make_two_deep_map()
2433
 
        key1 = c_map.key()
2434
 
        c_map._dump_tree() # load everything
2435
 
        key1_a = c_map._root_node._items['a'].key()
2436
 
        key1_aa = c_map._root_node._items['a']._items['aa'].key()
2437
 
        key1_ab = c_map._root_node._items['a']._items['ab'].key()
2438
 
        key1_ac = c_map._root_node._items['a']._items['ac'].key()
2439
 
        key1_ad = c_map._root_node._items['a']._items['ad'].key()
2440
 
        c_map.map(('aaa',), 'new aaa value')
2441
 
        key2 = c_map._save()
2442
 
        key2_a = c_map._root_node._items['a'].key()
2443
 
        key2_aa = c_map._root_node._items['a']._items['aa'].key()
2444
 
        c_map.map(('acc',), 'new acc content')
2445
 
        key3 = c_map._save()
2446
 
        key3_a = c_map._root_node._items['a'].key()
2447
 
        key3_ac = c_map._root_node._items['a']._items['ac'].key()
2448
 
        diff = self.get_difference([key3], [key1, key2],
2449
 
                                   chk_map._search_key_plain)
2450
 
        root_results = [record.key for record in diff._read_all_roots()]
2451
 
        self.assertEqual([key3], root_results)
2452
 
        self.assertEqual(sorted([key1_a, key2_a]),
2453
 
                         sorted(diff._old_queue))
2454
 
        self.assertEqual([key3_a], diff._new_queue)
2455
 
        self.assertEqual([], diff._new_item_queue)
2456
 
        diff._process_next_old()
2457
 
        # All of the old records should be brought in and queued up,
2458
 
        # but we should not have any duplicates
2459
 
        self.assertEqual(sorted([key1_aa, key1_ab, key1_ac, key1_ad, key2_aa]),
2460
 
                         sorted(diff._old_queue))
2461
 
 
2462
 
 
2463
 
class TestIterInterestingNodes(TestCaseWithExampleMaps):
 
1889
class TestIterInterestingNodes(TestCaseWithStore):
 
1890
 
 
1891
    def get_chk_bytes(self):
 
1892
        if getattr(self, '_chk_bytes', None) is None:
 
1893
            self._chk_bytes = super(TestIterInterestingNodes,
 
1894
                                    self).get_chk_bytes()
 
1895
        return self._chk_bytes
2464
1896
 
2465
1897
    def get_map_key(self, a_dict, maximum_size=10):
2466
 
        c_map = self.get_map(a_dict, maximum_size=maximum_size)
 
1898
        c_map = self._get_map(a_dict, maximum_size=maximum_size,
 
1899
                              chk_bytes=self.get_chk_bytes())
2467
1900
        return c_map.key()
2468
1901
 
2469
 
    def assertIterInteresting(self, records, items, interesting_keys,
2470
 
                              old_keys):
 
1902
    def assertIterInteresting(self, expected, interesting_keys,
 
1903
                              uninteresting_keys):
2471
1904
        """Check the result of iter_interesting_nodes.
2472
1905
 
2473
 
        Note that we no longer care how many steps are taken, etc, just that
2474
 
        the right contents are returned.
2475
 
 
2476
 
        :param records: A list of record keys that should be yielded
2477
 
        :param items: A list of items (key,value) that should be yielded.
 
1906
        :param expected: A list of (record_keys, interesting_chk_pages,
 
1907
                                    interesting key value pairs)
2478
1908
        """
2479
1909
        store = self.get_chk_bytes()
2480
 
        store._search_key_func = chk_map._search_key_plain
2481
1910
        iter_nodes = chk_map.iter_interesting_nodes(store, interesting_keys,
2482
 
                                                    old_keys)
2483
 
        record_keys = []
2484
 
        all_items = []
2485
 
        for record, new_items in iter_nodes:
2486
 
            if record is not None:
2487
 
                record_keys.append(record.key)
2488
 
            if new_items:
2489
 
                all_items.extend(new_items)
2490
 
        self.assertEqual(sorted(records), sorted(record_keys))
2491
 
        self.assertEqual(sorted(items), sorted(all_items))
 
1911
                                                    uninteresting_keys)
 
1912
        nodes = list(iter_nodes)
 
1913
        for count, (exp, act) in enumerate(izip(expected, nodes)):
 
1914
            exp_record, exp_items = exp
 
1915
            record, items = act
 
1916
            exp_tuple = (exp_record, sorted(exp_items))
 
1917
            if record is None:
 
1918
                act_tuple = (None, sorted(items))
 
1919
            else:
 
1920
                act_tuple = (record.key, sorted(items))
 
1921
            self.assertEqual(exp_tuple, act_tuple,
 
1922
                             'entry %d did not match expected' % count)
 
1923
        self.assertEqual(len(expected), len(nodes))
2492
1924
 
2493
1925
    def test_empty_to_one_keys(self):
2494
1926
        target = self.get_map_key({('a',): 'content'})
2495
 
        self.assertIterInteresting([target],
2496
 
                                   [(('a',), 'content')],
2497
 
                                   [target], [])
 
1927
        self.assertIterInteresting(
 
1928
            [(target, [(('a',), 'content')]),
 
1929
            ], [target], [])
2498
1930
 
2499
1931
    def test_none_to_one_key(self):
2500
1932
        basis = self.get_map_key({})
2501
1933
        target = self.get_map_key({('a',): 'content'})
2502
 
        self.assertIterInteresting([target],
2503
 
                                   [(('a',), 'content')],
2504
 
                                   [target], [basis])
 
1934
        self.assertIterInteresting(
 
1935
            [(None, [(('a',), 'content')]),
 
1936
             (target, []),
 
1937
            ], [target], [basis])
2505
1938
 
2506
1939
    def test_one_to_none_key(self):
2507
1940
        basis = self.get_map_key({('a',): 'content'})
2508
1941
        target = self.get_map_key({})
2509
 
        self.assertIterInteresting([target],
2510
 
                                   [],
2511
 
                                   [target], [basis])
 
1942
        self.assertIterInteresting(
 
1943
            [(target, [])],
 
1944
            [target], [basis])
2512
1945
 
2513
1946
    def test_common_pages(self):
2514
1947
        basis = self.get_map_key({('a',): 'content',
2531
1964
            target_map._dump_tree())
2532
1965
        b_key = target_map._root_node._items['b'].key()
2533
1966
        # This should return the root node, and the node for the 'b' key
2534
 
        self.assertIterInteresting([target, b_key],
2535
 
                                   [(('b',), 'other content')],
2536
 
                                   [target], [basis])
 
1967
        self.assertIterInteresting(
 
1968
            [(target, []),
 
1969
             (b_key, [(('b',), 'other content')])],
 
1970
            [target], [basis])
2537
1971
 
2538
1972
    def test_common_sub_page(self):
2539
1973
        basis = self.get_map_key({('aaa',): 'common',
2557
1991
        # The key for the internal aa node
2558
1992
        a_key = target_map._root_node._items['a'].key()
2559
1993
        # The key for the leaf aab node
2560
 
        # aaa_key = target_map._root_node._items['a']._items['aaa'].key()
2561
1994
        aab_key = target_map._root_node._items['a']._items['aab'].key()
2562
 
        self.assertIterInteresting([target, a_key, aab_key],
2563
 
                                   [(('aab',), 'new')],
2564
 
                                   [target], [basis])
 
1995
        self.assertIterInteresting(
 
1996
            [(target, []),
 
1997
             (a_key, []),
 
1998
             (aab_key, [(('aab',), 'new')])],
 
1999
            [target], [basis])
2565
2000
 
2566
2001
    def test_common_leaf(self):
2567
2002
        basis = self.get_map_key({})
2605
2040
        a_key = target3_map._root_node._items['a'].key()
2606
2041
        aac_key = target3_map._root_node._items['a']._items['aac'].key()
2607
2042
        self.assertIterInteresting(
2608
 
            [target1, target2, target3, a_key, aac_key, b_key],
2609
 
            [(('aaa',), 'common'), (('bbb',), 'new'), (('aac',), 'other')],
2610
 
            [target1, target2, target3], [basis])
2611
 
 
2612
 
        self.assertIterInteresting(
2613
 
            [target2, target3, a_key, aac_key, b_key],
2614
 
            [(('bbb',), 'new'), (('aac',), 'other')],
2615
 
            [target2, target3], [target1])
2616
 
 
2617
 
        # Technically, target1 could be filtered out, but since it is a root
2618
 
        # node, we yield it immediately, rather than waiting to find out much
2619
 
        # later on.
2620
 
        self.assertIterInteresting(
2621
 
            [target1],
2622
 
            [],
2623
 
            [target1], [target3])
 
2043
            [(None, [(('aaa',), 'common')]),
 
2044
             (target1, []),
 
2045
             (target2, []),
 
2046
             (target3, []),
 
2047
             (b_key, [(('bbb',), 'new')]),
 
2048
             (a_key, []),
 
2049
             (aac_key, [(('aac',), 'other')]),
 
2050
            ], [target1, target2, target3], [basis])
 
2051
 
 
2052
        self.assertIterInteresting(
 
2053
            [(target2, []),
 
2054
             (target3, []),
 
2055
             (b_key, [(('bbb',), 'new')]),
 
2056
             (a_key, []),
 
2057
             (aac_key, [(('aac',), 'other')]),
 
2058
            ], [target2, target3], [target1])
 
2059
 
 
2060
        # This may be a case that we relax. A root node is a deep child of the
 
2061
        # excluded set. The cost is buffering root nodes until we have
 
2062
        # determined all possible exclusions. (Because a prefix of '', cannot
 
2063
        # be excluded.)
 
2064
        self.assertIterInteresting(
 
2065
            [], [target1], [target3])
2624
2066
 
2625
2067
    def test_multiple_maps(self):
2626
2068
        basis1 = self.get_map_key({('aaa',): 'common',
2669
2111
        # The key for the leaf bba node
2670
2112
        bba_key = target2_map._root_node._items['b']._items['bba'].key()
2671
2113
        self.assertIterInteresting(
2672
 
            [target1, target2, a_key, aac_key, b_key, bba_key],
2673
 
            [(('aac',), 'target1'), (('bba',), 'target2')],
2674
 
            [target1, target2], [basis1, basis2])
 
2114
            [(target1, []),
 
2115
             (target2, []),
 
2116
             (a_key, []),
 
2117
             (b_key, []),
 
2118
             (aac_key, [(('aac',), 'target1')]),
 
2119
             (bba_key, [(('bba',), 'target2')]),
 
2120
            ], [target1, target2], [basis1, basis2])
2675
2121
 
2676
2122
    def test_multiple_maps_overlapping_common_new(self):
2677
2123
        # Test that when a node found through the interesting_keys iteration
2678
 
        # for *some roots* and also via the old keys iteration, that
2679
 
        # it is still scanned for old refs and items, because its
 
2124
        # for *some roots* and also via the uninteresting keys iteration, that
 
2125
        # it is still scanned for uninteresting refs and items, because its
2680
2126
        # not truely new. This requires 2 levels of InternalNodes to expose,
2681
2127
        # because of the way the bootstrap in _find_children_info works.
2682
2128
        # This suggests that the code is probably amenable to/benefit from
2742
2188
            right_map._dump_tree())
2743
2189
        # Keys from the right side target - none, the root is enough.
2744
2190
        # Test behaviour
 
2191
        self.expectFailure("we don't properly filter different depths",
 
2192
            self.assertIterInteresting,
 
2193
            [(left, []),
 
2194
             (right, []),
 
2195
             (l_d_key, [(('ddd',), 'change')]),
 
2196
            ], [left, right], [basis])
2745
2197
        self.assertIterInteresting(
2746
 
            [right, left, l_d_key],
2747
 
            [(('ddd',), 'change')],
2748
 
            [left, right], [basis])
 
2198
            [(left, []),
 
2199
             (right, []),
 
2200
             (l_d_key, [(('ddd',), 'change')]),
 
2201
            ], [left, right], [basis])
2749
2202
 
2750
2203
    def test_multiple_maps_similar(self):
2751
2204
        # We want to have a depth=2 tree, with multiple entries in each leaf
2806
2259
        r_a_key = right_map._root_node._items['a'].key()
2807
2260
        r_c_key = right_map._root_node._items['c'].key()
2808
2261
        self.assertIterInteresting(
2809
 
            [right, left, l_a_key, r_c_key],
2810
 
            [(('abb',), 'changed left'), (('cbb',), 'changed right')],
2811
 
            [left, right], [basis])
 
2262
            [(left, []),
 
2263
             (right, []),
 
2264
             (l_a_key, [(('abb',), 'changed left')]),
 
2265
             (r_c_key, [(('cbb',), 'changed right')]),
 
2266
            ], [left, right], [basis])