/brz/remove-bazaar

To get this branch, use:
bzr branch http://gegoxaren.bato24.eu/bzr/brz/remove-bazaar

« back to all changes in this revision

Viewing changes to breezy/_bencode_pyx.pyx

  • Committer: Jelmer Vernooij
  • Date: 2020-02-18 01:57:45 UTC
  • mto: This revision was merged to the branch mainline in revision 7493.
  • Revision ID: jelmer@jelmer.uk-20200218015745-q2ss9tsk74h4nh61
drop use of future.

Show diffs side-by-side

added added

removed removed

Lines of Context:
breezy/_bencode_pyx.pyx
16
16
 
17
17
"""Pyrex implementation for bencode coder/decoder"""
18
18
 
19
 
 
20
 
cdef extern from "stddef.h":
21
 
    ctypedef unsigned int size_t
 
19
from cpython.bool cimport (
 
20
    PyBool_Check,
 
21
    )
 
22
from cpython.bytes cimport (
 
23
    PyBytes_CheckExact,
 
24
    PyBytes_FromStringAndSize,
 
25
    PyBytes_AS_STRING,
 
26
    PyBytes_GET_SIZE,
 
27
    )
 
28
from cpython.dict cimport (
 
29
    PyDict_CheckExact,
 
30
    )
 
31
from cpython.int cimport (
 
32
    PyInt_CheckExact,
 
33
    PyInt_FromString,
 
34
    )
 
35
from cpython.list cimport (
 
36
    PyList_CheckExact,
 
37
    PyList_Append,
 
38
    )
 
39
from cpython.long cimport (
 
40
    PyLong_CheckExact,
 
41
    )
 
42
from cpython.mem cimport (
 
43
    PyMem_Free,
 
44
    PyMem_Malloc,
 
45
    PyMem_Realloc,
 
46
    )
 
47
from cpython.tuple cimport (
 
48
    PyTuple_CheckExact,
 
49
    )
 
50
 
 
51
from libc.stdlib cimport (
 
52
    strtol,
 
53
    )
 
54
from libc.string cimport (
 
55
    memcpy,
 
56
    )
 
57
 
 
58
cdef extern from "python-compat.h":
 
59
    int snprintf(char* buffer, size_t nsize, char* fmt, ...)
 
60
    # Use wrapper with inverted error return so Cython can propogate
 
61
    int BrzPy_EnterRecursiveCall(char *) except 0
22
62
 
23
63
cdef extern from "Python.h":
24
 
    ctypedef int  Py_ssize_t
25
 
    int PyInt_CheckExact(object o)
26
 
    int PyLong_CheckExact(object o)
27
 
    int PyString_CheckExact(object o)
28
 
    int PyTuple_CheckExact(object o)
29
 
    int PyList_CheckExact(object o)
30
 
    int PyDict_CheckExact(object o)
31
 
    int PyBool_Check(object o)
32
 
    object PyString_FromStringAndSize(char *v, Py_ssize_t len)
33
 
    char *PyString_AS_STRING(object o) except NULL
34
 
    Py_ssize_t PyString_GET_SIZE(object o) except -1
35
 
    object PyInt_FromString(char *str, char **pend, int base)
36
 
    int Py_GetRecursionLimit()
37
 
    int Py_EnterRecursiveCall(char *)
38
64
    void Py_LeaveRecursiveCall()
39
65
 
40
 
    int PyList_Append(object, object) except -1
41
 
 
42
 
cdef extern from "stdlib.h":
43
 
    void free(void *memblock)
44
 
    void *malloc(size_t size)
45
 
    void *realloc(void *memblock, size_t size)
46
 
    long strtol(char *, char **, int)
47
 
 
48
 
cdef extern from "string.h":
49
 
    void *memcpy(void *dest, void *src, size_t count)
50
 
 
51
 
cdef extern from "python-compat.h":
52
 
    int snprintf(char* buffer, size_t nsize, char* fmt, ...)
53
 
 
54
66
cdef class Decoder
55
67
cdef class Encoder
56
68
 
58
70
    void D_UPDATE_TAIL(Decoder, int n)
59
71
    void E_UPDATE_TAIL(Encoder, int n)
60
72
 
61
 
# To maintain compatibility with older versions of pyrex, we have to use the
62
 
# relative import here, rather than 'bzrlib._static_tuple_c'
63
 
from _static_tuple_c cimport StaticTuple, StaticTuple_CheckExact, \
 
73
from ._static_tuple_c cimport StaticTuple, StaticTuple_CheckExact, \
64
74
    import_static_tuple_c
65
75
 
66
76
import_static_tuple_c()
78
88
        """Initialize decoder engine.
79
89
        @param  s:  Python string.
80
90
        """
81
 
        if not PyString_CheckExact(s):
82
 
            raise TypeError("String required")
 
91
        if not PyBytes_CheckExact(s):
 
92
            raise TypeError("bytes required")
83
93
 
84
94
        self.text = s
85
 
        self.tail = PyString_AS_STRING(s)
86
 
        self.size = PyString_GET_SIZE(s)
 
95
        self.tail = PyBytes_AS_STRING(s)
 
96
        self.size = PyBytes_GET_SIZE(s)
87
97
        self._yield_tuples = int(yield_tuples)
88
98
 
89
99
    def decode(self):
101
111
        if 0 == self.size:
102
112
            raise ValueError('stream underflow')
103
113
 
104
 
        if Py_EnterRecursiveCall("_decode_object"):
105
 
            raise RuntimeError("too deeply nested")
 
114
        BrzPy_EnterRecursiveCall(" while bencode decoding")
106
115
        try:
107
116
            ch = self.tail[0]
108
117
            if c'0' <= ch <= c'9':
116
125
            elif ch == c'd':
117
126
                D_UPDATE_TAIL(self, 1)
118
127
                return self._decode_dict()
119
 
            else:
120
 
                raise ValueError('unknown object type identifier %r' % ch)
121
128
        finally:
122
129
            Py_LeaveRecursiveCall()
 
130
        raise ValueError('unknown object type identifier %r' % ch)
123
131
 
124
132
    cdef int _read_digits(self, char stop_char) except -1:
125
133
        cdef int i
166
174
            raise ValueError('leading zeros are not allowed')
167
175
        D_UPDATE_TAIL(self, next_tail - self.tail + 1)
168
176
        if n == 0:
169
 
            return ''
 
177
            return b''
170
178
        if n > self.size:
171
179
            raise ValueError('stream underflow')
172
180
        if n < 0:
173
181
            raise ValueError('string size below zero: %d' % n)
174
182
 
175
 
        result = PyString_FromStringAndSize(self.tail, n)
 
183
        result = PyBytes_FromStringAndSize(self.tail, n)
176
184
        D_UPDATE_TAIL(self, n)
177
185
        return result
178
186
 
210
218
                if self.tail[0] < c'0' or self.tail[0] > c'9':
211
219
                    raise ValueError('key was not a simple string.')
212
220
                key = self._decode_string()
213
 
                if lastkey >= key:
 
221
                if lastkey is not None and lastkey >= key:
214
222
                    raise ValueError('dict keys disordered')
215
223
                else:
216
224
                    lastkey = key
260
268
        self.size = 0
261
269
        self.tail = NULL
262
270
 
263
 
        p = <char*>malloc(maxsize)
 
271
        p = <char*>PyMem_Malloc(maxsize)
264
272
        if p == NULL:
265
273
            raise MemoryError('Not enough memory to allocate buffer '
266
274
                              'for encoder')
269
277
        self.tail = p
270
278
 
271
279
    def __dealloc__(self):
272
 
        free(self.buffer)
 
280
        PyMem_Free(self.buffer)
273
281
        self.buffer = NULL
274
282
        self.maxsize = 0
275
283
 
276
 
    def __str__(self):
 
284
    def to_bytes(self):
277
285
        if self.buffer != NULL and self.size != 0:
278
 
            return PyString_FromStringAndSize(self.buffer, self.size)
279
 
        else:
280
 
            return ''
 
286
            return PyBytes_FromStringAndSize(self.buffer, self.size)
 
287
        return b''
281
288
 
282
289
    cdef int _ensure_buffer(self, int required) except 0:
283
290
        """Ensure that tail of CharTail buffer has enough size.
293
300
        new_size = self.maxsize
294
301
        while new_size < self.size + required:
295
302
            new_size = new_size * 2
296
 
        new_buffer = <char*>realloc(self.buffer, <size_t>new_size)
 
303
        new_buffer = <char*>PyMem_Realloc(self.buffer, <size_t>new_size)
297
304
        if new_buffer == NULL:
298
305
            raise MemoryError('Cannot realloc buffer for encoder')
299
306
 
308
315
        """
309
316
        cdef int n
310
317
        self._ensure_buffer(INT_BUF_SIZE)
311
 
        n = snprintf(self.tail, INT_BUF_SIZE, "i%de", x)
 
318
        n = snprintf(self.tail, INT_BUF_SIZE, b"i%de", x)
312
319
        if n < 0:
313
320
            raise MemoryError('int %d too big to encode' % x)
314
321
        E_UPDATE_TAIL(self, n)
315
322
        return 1
316
323
 
317
324
    cdef int _encode_long(self, x) except 0:
318
 
        return self._append_string(''.join(('i', str(x), 'e')))
 
325
        return self._append_string(b'i%de' % x)
319
326
 
320
327
    cdef int _append_string(self, s) except 0:
321
328
        cdef Py_ssize_t n
322
 
        n = PyString_GET_SIZE(s)
 
329
        n = PyBytes_GET_SIZE(s)
323
330
        self._ensure_buffer(n)
324
 
        memcpy(self.tail, PyString_AS_STRING(s), n)
 
331
        memcpy(self.tail, PyBytes_AS_STRING(s), n)
325
332
        E_UPDATE_TAIL(self, n)
326
333
        return 1
327
334
 
328
335
    cdef int _encode_string(self, x) except 0:
329
336
        cdef int n
330
337
        cdef Py_ssize_t x_len
331
 
        x_len = PyString_GET_SIZE(x)
 
338
        x_len = PyBytes_GET_SIZE(x)
332
339
        self._ensure_buffer(x_len + INT_BUF_SIZE)
333
 
        n = snprintf(self.tail, INT_BUF_SIZE, '%d:', x_len)
 
340
        n = snprintf(self.tail, INT_BUF_SIZE, b'%ld:', x_len)
334
341
        if n < 0:
335
342
            raise MemoryError('string %s too big to encode' % x)
336
 
        memcpy(<void *>(self.tail+n), PyString_AS_STRING(x), x_len)
 
343
        memcpy(<void *>(self.tail+n), PyBytes_AS_STRING(x), x_len)
337
344
        E_UPDATE_TAIL(self, n + x_len)
338
345
        return 1
339
346
 
355
362
        self.tail[0] = c'd'
356
363
        E_UPDATE_TAIL(self, 1)
357
364
 
358
 
        keys = x.keys()
359
 
        keys.sort()
360
 
        for k in keys:
361
 
            if not PyString_CheckExact(k):
 
365
        for k in sorted(x):
 
366
            if not PyBytes_CheckExact(k):
362
367
                raise TypeError('key in dict should be string')
363
368
            self._encode_string(k)
364
369
            self.process(x[k])
368
373
        E_UPDATE_TAIL(self, 1)
369
374
        return 1
370
375
 
371
 
    def process(self, object x):
372
 
        if Py_EnterRecursiveCall("encode"):
373
 
            raise RuntimeError("too deeply nested")
 
376
    cpdef object process(self, object x):
 
377
        BrzPy_EnterRecursiveCall(" while bencode encoding")
374
378
        try:
375
 
            if PyString_CheckExact(x):
 
379
            if PyBytes_CheckExact(x):
376
380
                self._encode_string(x)
377
 
            elif PyInt_CheckExact(x):
 
381
            elif PyInt_CheckExact(x) and x.bit_length() < 32:
378
382
                self._encode_int(x)
379
383
            elif PyLong_CheckExact(x):
380
384
                self._encode_long(x)
381
385
            elif (PyList_CheckExact(x) or PyTuple_CheckExact(x)
382
 
                  or StaticTuple_CheckExact(x)):
 
386
                  or isinstance(x, StaticTuple)):
383
387
                self._encode_list(x)
384
388
            elif PyDict_CheckExact(x):
385
389
                self._encode_dict(x)
397
401
    """Encode Python object x to string"""
398
402
    encoder = Encoder()
399
403
    encoder.process(x)
400
 
    return str(encoder)
 
404
    return encoder.to_bytes()