/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/identitymap.py

  • Committer: John Arbash Meinel
  • Date: 2009-10-17 04:43:14 UTC
  • mto: This revision was merged to the branch mainline in revision 4756.
  • Revision ID: john@arbash-meinel.com-20091017044314-nlvrrqnz0f2wzcp4
change the GroupcompressBlock code a bit.
If the first decompress request is big enough, just decompress everything.
And when we do that, let go of the decompressobj.

After digging through the zlib code, it looks like 1 zlib stream object
contains a 5kB internal state, and another 4*64kB buffers. (about 260kB
of total state.)
That turns out to be quite a lot if you think about it.


In the case of branching a copy of 'bzr.dev' locally, this turned out
to be 383MB w/ bzr.dev and 345MB w/ only this patch. (So ~11% of peak).

Also, this was 'unreferenced' memory, because it is hidden in the
zlib internal state in working buffers. So it wasn't memory that Meliae
could find. \o/.

Show diffs side-by-side

added added

removed removed

Lines of Context:
bzrlib/identitymap.py
 
1
# Copyright (C) 2005 Canonical Ltd
 
2
#   Authors: Robert Collins <robert.collins@canonical.com>
 
3
#
 
4
# This program is free software; you can redistribute it and/or modify
 
5
# it under the terms of the GNU General Public License as published by
 
6
# the Free Software Foundation; either version 2 of the License, or
 
7
# (at your option) any later version.
 
8
#
 
9
# This program is distributed in the hope that it will be useful,
 
10
# but WITHOUT ANY WARRANTY; without even the implied warranty of
 
11
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
12
# GNU General Public License for more details.
 
13
#
 
14
# You should have received a copy of the GNU General Public License
 
15
# along with this program; if not, write to the Free Software
 
16
# Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
17
 
 
18
"""This module provides an IdentityMap."""
 
19
 
 
20
 
 
21
from bzrlib import (
 
22
    errors,
 
23
    osutils,
 
24
    )
 
25
 
 
26
 
 
27
class IdentityMap(object):
 
28
    """An in memory map from object id to instance.
 
29
 
 
30
    An IdentityMap maps from keys to single instances of objects in memory.
 
31
    We have explicit calls on the map for the root of each inheritance tree
 
32
    that is store in the map. Look for find_CLASS and add_CLASS methods.
 
33
    """
 
34
 
 
35
    def add_weave(self, id, weave):
 
36
        """Add weave to the map with a given id."""
 
37
        if self._weave_key(id) in self._map:
 
38
            raise errors.BzrError('weave %s already in the identity map' % id)
 
39
        self._map[self._weave_key(id)] = weave
 
40
        self._reverse_map[weave] = self._weave_key(id)
 
41
 
 
42
    def find_weave(self, id):
 
43
        """Return the weave for 'id', or None if it is not present."""
 
44
        return self._map.get(self._weave_key(id), None)
 
45
 
 
46
    def __init__(self):
 
47
        super(IdentityMap, self).__init__()
 
48
        self._map = {}
 
49
        self._reverse_map = {}
 
50
 
 
51
    def remove_object(self, an_object):
 
52
        """Remove object from map."""
 
53
        if isinstance(an_object, list):
 
54
            raise KeyError('%r not in identity map' % an_object)
 
55
        else:
 
56
            self._map.pop(self._reverse_map[an_object])
 
57
            self._reverse_map.pop(an_object)
 
58
 
 
59
    def _weave_key(self, id):
 
60
        """Return the key for a weaves id."""
 
61
        return "weave-" + id
 
62
 
 
63
 
 
64
class NullIdentityMap(object):
 
65
    """A pretend in memory map from object id to instance.
 
66
 
 
67
    A NullIdentityMap is an Identity map that does not store anything in it.
 
68
    """
 
69
 
 
70
    def add_weave(self, id, weave):
 
71
        """See IdentityMap.add_weave."""
 
72
 
 
73
    def find_weave(self, id):
 
74
        """See IdentityMap.find_weave."""
 
75
        return None