/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to bzrlib/cache_utf8.py

Merge from bzr.dev

Show diffs side-by-side

added added

removed removed

Lines of Context:
bzrlib/cache_utf8.py
24
24
 
25
25
_utf8_encode = codecs.getencoder("utf-8")
26
26
_utf8_decode = codecs.getdecoder("utf-8")
 
27
# wrap _utf8_decode to support None->None for optional strings.
 
28
def _utf8_decode_with_None(bytestring, _utf8_decode=_utf8_decode):
 
29
    if bytestring is None:
 
30
        return (None, 0)
 
31
    else:
 
32
        return _utf8_decode(bytestring)
27
33
 
28
34
# Map revisions from and to utf8 encoding
29
35
# Whenever we do an encode/decode operation, we save the result, so that
61
67
    try:
62
68
        return _utf8_to_uni[utf8_str]
63
69
    except KeyError:
64
 
        _utf8_to_uni[utf8_str] = unicode_str = _utf8_decode(utf8_str)[0]
 
70
        unicode_str = _utf8_decode(utf8_str)[0]
 
71
        _utf8_to_uni[utf8_str] = unicode_str
65
72
        _uni_to_utf8[unicode_str] = utf8_str
66
73
        return unicode_str
67
74
 
78
85
    return decode(encode(unicode_str))
79
86
 
80
87
 
 
88
def get_cached_utf8(utf8_str):
 
89
    """Return a cached version of the utf-8 string.
 
90
 
 
91
    Get a cached version of this string (similar to intern()).
 
92
    At present, this will be decoded to ensure it is a utf-8 string. In the
 
93
    future this might change to simply caching the string.
 
94
    """
 
95
    return encode(decode(utf8_str))
 
96
 
 
97
 
 
98
def get_cached_ascii(ascii_str,
 
99
                     _uni_to_utf8=_unicode_to_utf8_map,
 
100
                     _utf8_to_uni=_utf8_to_unicode_map):
 
101
    """This is a string which is identical in utf-8 and unicode."""
 
102
    # We don't need to do any encoding, but we want _utf8_to_uni to return a
 
103
    # real Unicode string. Unicode and plain strings of this type will have the
 
104
    # same hash, so we can just use it as the key in _uni_to_utf8, but we need
 
105
    # the return value to be different in _utf8_to_uni
 
106
    ascii_str = _uni_to_utf8.setdefault(ascii_str, ascii_str)
 
107
    _utf8_to_uni.setdefault(ascii_str, unicode(ascii_str))
 
108
    return ascii_str
 
109
 
 
110
 
81
111
def clear_encoding_cache():
82
112
    """Clear the encoding and decoding caches"""
83
113
    _unicode_to_utf8_map.clear()