pb_decode.c

   1 /* pb_decode.c -- decode a protobuf using minimal resources
   2  *
   3  * 2011 Petteri Aimonen <jpa@kapsi.fi>
   4  */
   5
   6 /* Use the GCC warn_unused_result attribute to check that all return values
   7  * are propagated correctly. On other compilers and gcc before 3.4.0 just
   8  * ignore the annotation.
   9  */
  10 #if !defined(__GNUC__) || ( __GNUC__ < 3) || (__GNUC__ == 3 && __GNUC_MINOR__ < 4)
  11     #define checkreturn
  12 #else
  13     #define checkreturn __attribute__((warn_unused_result))
  14 #endif
  15
  16 #include "pb.h"
  17 #include "pb_decode.h"
  18 #include "pb_common.h"
  19
  20 /**************************************
  21  * Declarations internal to this file *
  22  **************************************/
  23
  24 typedef bool (*pb_decoder_t)(pb_istream_t *stream, const pb_field_t *field, void *dest) checkreturn;
  25
  26 static bool checkreturn buf_read(pb_istream_t *stream, uint8_t *buf, size_t count);
  27 static bool checkreturn pb_decode_varint32(pb_istream_t *stream, uint32_t *dest);
  28 static bool checkreturn read_raw_value(pb_istream_t *stream, pb_wire_type_t wire_type, uint8_t *buf, size_t *size);
  29 static bool checkreturn decode_static_field(pb_istream_t *stream, pb_wire_type_t wire_type, pb_field_iter_t *iter);
  30 static bool checkreturn decode_callback_field(pb_istream_t *stream, pb_wire_type_t wire_type, pb_field_iter_t *iter);
  31 static bool checkreturn decode_field(pb_istream_t *stream, pb_wire_type_t wire_type, pb_field_iter_t *iter);
  32 static void iter_from_extension(pb_field_iter_t *iter, pb_extension_t *extension);
  33 static bool checkreturn default_extension_decoder(pb_istream_t *stream, pb_extension_t *extension, uint32_t tag, pb_wire_type_t wire_type);
  34 static bool checkreturn decode_extension(pb_istream_t *stream, uint32_t tag, pb_wire_type_t wire_type, pb_field_iter_t *iter);
  35 static bool checkreturn find_extension_field(pb_field_iter_t *iter);
  36 static void pb_field_set_to_default(pb_field_iter_t *iter);
  37 static void pb_message_set_to_defaults(const pb_field_t fields[], void *dest_struct);
  38 static bool checkreturn pb_dec_varint(pb_istream_t *stream, const pb_field_t *field, void *dest);
  39 static bool checkreturn pb_dec_uvarint(pb_istream_t *stream, const pb_field_t *field, void *dest);
  40 static bool checkreturn pb_dec_svarint(pb_istream_t *stream, const pb_field_t *field, void *dest);
  41 static bool checkreturn pb_dec_fixed32(pb_istream_t *stream, const pb_field_t *field, void *dest);
  42 static bool checkreturn pb_dec_fixed64(pb_istream_t *stream, const pb_field_t *field, void *dest);
  43 static bool checkreturn pb_dec_bytes(pb_istream_t *stream, const pb_field_t *field, void *dest);
  44 static bool checkreturn pb_dec_string(pb_istream_t *stream, const pb_field_t *field, void *dest);
  45 static bool checkreturn pb_dec_submessage(pb_istream_t *stream, const pb_field_t *field, void *dest);
  46 static bool checkreturn pb_skip_varint(pb_istream_t *stream);
  47 static bool checkreturn pb_skip_string(pb_istream_t *stream);
  48
  49 #ifdef PB_ENABLE_MALLOC
  50 static bool checkreturn allocate_field(pb_istream_t *stream, void *pData, size_t data_size, size_t array_size);
  51 static bool checkreturn pb_release_union_field(pb_istream_t *stream, pb_field_iter_t *iter);
  52 static void pb_release_single_field(const pb_field_iter_t *iter);
  53 #endif
  54
  55 /* --- Function pointers to field decoders ---
  56  * Order in the array must match pb_action_t LTYPE numbering.
  57  */
  58 static const pb_decoder_t PB_DECODERS[PB_LTYPES_COUNT] = {
  59     &pb_dec_varint,
  60     &pb_dec_uvarint,
  61     &pb_dec_svarint,
  62     &pb_dec_fixed32,
  63     &pb_dec_fixed64,
  64
  65     &pb_dec_bytes,
  66     &pb_dec_string,
  67     &pb_dec_submessage,
  68     NULL /* extensions */
  69 };
  70
  71 /*******************************
  72  * pb_istream_t implementation *
  73  *******************************/
  74
  75 static bool checkreturn buf_read(pb_istream_t *stream, uint8_t *buf, size_t count)
  76 {
  77     const uint8_t *source = (const uint8_t*)stream->state;
  78     stream->state = (uint8_t*)stream->state + count;
  79
  80     if (buf != NULL)
  81     {
  82         while (count--)
  83             *buf++ = *source++;
  84     }
  85
  86     return true;
  87 }
  88
  89 bool checkreturn pb_read(pb_istream_t *stream, uint8_t *buf, size_t count)
  90 {
  91 #ifndef PB_BUFFER_ONLY
  92         if (buf == NULL && stream->callback != buf_read)
  93         {
  94                 /* Skip input bytes */
  95                 uint8_t tmp[16];
  96                 while (count > 16)
  97                 {
  98                         if (!pb_read(stream, tmp, 16))
  99                                 return false;
 100
 101                         count -= 16;
 102                 }
 103
 104                 return pb_read(stream, tmp, count);
 105         }
 106 #endif
 107
 108     if (stream->bytes_left < count)
 109         PB_RETURN_ERROR(stream, "end-of-stream");
 110
 111 #ifndef PB_BUFFER_ONLY
 112     if (!stream->callback(stream, buf, count))
 113         PB_RETURN_ERROR(stream, "io error");
 114 #else
 115     if (!buf_read(stream, buf, count))
 116         return false;
 117 #endif
 118
 119     stream->bytes_left -= count;
 120     return true;
 121 }
 122
 123 /* Read a single byte from input stream. buf may not be NULL.
 124  * This is an optimization for the varint decoding. */
 125 static bool checkreturn pb_readbyte(pb_istream_t *stream, uint8_t *buf)
 126 {
 127     if (stream->bytes_left == 0)
 128         PB_RETURN_ERROR(stream, "end-of-stream");
 129
 130 #ifndef PB_BUFFER_ONLY
 131     if (!stream->callback(stream, buf, 1))
 132         PB_RETURN_ERROR(stream, "io error");
 133 #else
 134     *buf = *(const uint8_t*)stream->state;
 135     stream->state = (uint8_t*)stream->state + 1;
 136 #endif
 137
 138     stream->bytes_left--;
 139
 140     return true;
 141 }
 142
 143 pb_istream_t pb_istream_from_buffer(const uint8_t *buf, size_t bufsize)
 144 {
 145     pb_istream_t stream;
 146     /* Cast away the const from buf without a compiler error.  We are
 147      * careful to use it only in a const manner in the callbacks.
 148      */
 149     union {
 150         void *state;
 151         const void *c_state;
 152     } state;
 153 #ifdef PB_BUFFER_ONLY
 154     stream.callback = NULL;
 155 #else
 156     stream.callback = &buf_read;
 157 #endif
 158     state.c_state = buf;
 159     stream.state = state.state;
 160     stream.bytes_left = bufsize;
 161 #ifndef PB_NO_ERRMSG
 162     stream.errmsg = NULL;
 163 #endif
 164     return stream;
 165 }
 166
 167 /********************
 168  * Helper functions *
 169  ********************/
 170
 171 static bool checkreturn pb_decode_varint32(pb_istream_t *stream, uint32_t *dest)
 172 {
 173     uint8_t byte;
 174     uint32_t result;
 175
 176     if (!pb_readbyte(stream, &byte))
 177         return false;
 178
 179     if ((byte & 0x80) == 0)
 180     {
 181         /* Quick case, 1 byte value */
 182         result = byte;
 183     }
 184     else
 185     {
 186         /* Multibyte case */
 187         uint8_t bitpos = 7;
 188         result = byte & 0x7F;
 189
 190         do
 191         {
 192             if (bitpos >= 32)
 193                 PB_RETURN_ERROR(stream, "varint overflow");
 194
 195             if (!pb_readbyte(stream, &byte))
 196                 return false;
 197
 198             result |= (uint32_t)(byte & 0x7F) << bitpos;
 199             bitpos = (uint8_t)(bitpos + 7);
 200         } while (byte & 0x80);
 201    }
 202
 203    *dest = result;
 204    return true;
 205 }
 206
 207 bool checkreturn pb_decode_varint(pb_istream_t *stream, uint64_t *dest)
 208 {
 209     uint8_t byte;
 210     uint8_t bitpos = 0;
 211     uint64_t result = 0;
 212
 213     do
 214     {
 215         if (bitpos >= 64)
 216             PB_RETURN_ERROR(stream, "varint overflow");
 217
 218         if (!pb_readbyte(stream, &byte))
 219             return false;
 220
 221         result |= (uint64_t)(byte & 0x7F) << bitpos;
 222         bitpos = (uint8_t)(bitpos + 7);
 223     } while (byte & 0x80);
 224
 225     *dest = result;
 226     return true;
 227 }
 228
 229 bool checkreturn pb_skip_varint(pb_istream_t *stream)
 230 {
 231     uint8_t byte;
 232     do
 233     {
 234         if (!pb_read(stream, &byte, 1))
 235             return false;
 236     } while (byte & 0x80);
 237     return true;
 238 }
 239
 240 bool checkreturn pb_skip_string(pb_istream_t *stream)
 241 {
 242     uint32_t length;
 243     if (!pb_decode_varint32(stream, &length))
 244         return false;
 245
 246     return pb_read(stream, NULL, length);
 247 }
 248
 249 bool checkreturn pb_decode_tag(pb_istream_t *stream, pb_wire_type_t *wire_type, uint32_t *tag, bool *eof)
 250 {
 251     uint32_t temp;
 252     *eof = false;
 253     *wire_type = (pb_wire_type_t) 0;
 254     *tag = 0;
 255
 256     if (!pb_decode_varint32(stream, &temp))
 257     {
 258         if (stream->bytes_left == 0)
 259             *eof = true;
 260
 261         return false;
 262     }
 263
 264     if (temp == 0)
 265     {
 266         *eof = true; /* Special feature: allow 0-terminated messages. */
 267         return false;
 268     }
 269
 270     *tag = temp >> 3;
 271     *wire_type = (pb_wire_type_t)(temp & 7);
 272     return true;
 273 }
 274
 275 bool checkreturn pb_skip_field(pb_istream_t *stream, pb_wire_type_t wire_type)
 276 {
 277     switch (wire_type)
 278     {
 279         case PB_WT_VARINT: return pb_skip_varint(stream);
 280         case PB_WT_64BIT: return pb_read(stream, NULL, 8);
 281         case PB_WT_STRING: return pb_skip_string(stream);
 282         case PB_WT_32BIT: return pb_read(stream, NULL, 4);
 283         default: PB_RETURN_ERROR(stream, "invalid wire_type");
 284     }
 285 }
 286
 287 /* Read a raw value to buffer, for the purpose of passing it to callback as
 288  * a substream. Size is maximum size on call, and actual size on return.
 289  */
 290 static bool checkreturn read_raw_value(pb_istream_t *stream, pb_wire_type_t wire_type, uint8_t *buf, size_t *size)
 291 {
 292     size_t max_size = *size;
 293     switch (wire_type)
 294     {
 295         case PB_WT_VARINT:
 296             *size = 0;
 297             do
 298             {
 299                 (*size)++;
 300                 if (*size > max_size) return false;
 301                 if (!pb_read(stream, buf, 1)) return false;
 302             } while (*buf++ & 0x80);
 303             return true;
 304
 305         case PB_WT_64BIT:
 306             *size = 8;
 307             return pb_read(stream, buf, 8);
 308
 309         case PB_WT_32BIT:
 310             *size = 4;
 311             return pb_read(stream, buf, 4);
 312
 313         default: PB_RETURN_ERROR(stream, "invalid wire_type");
 314     }
 315 }
 316
 317 /* Decode string length from stream and return a substream with limited length.
 318  * Remember to close the substream using pb_close_string_substream().
 319  */
 320 bool checkreturn pb_make_string_substream(pb_istream_t *stream, pb_istream_t *substream)
 321 {
 322     uint32_t size;
 323     if (!pb_decode_varint32(stream, &size))
 324         return false;
 325
 326     *substream = *stream;
 327     if (substream->bytes_left < size)
 328         PB_RETURN_ERROR(stream, "parent stream too short");
 329
 330     substream->bytes_left = size;
 331     stream->bytes_left -= size;
 332     return true;
 333 }
 334
 335 void pb_close_string_substream(pb_istream_t *stream, pb_istream_t *substream)
 336 {
 337     stream->state = substream->state;
 338
 339 #ifndef PB_NO_ERRMSG
 340     stream->errmsg = substream->errmsg;
 341 #endif
 342 }
 343
 344 /*************************
 345  * Decode a single field *
 346  *************************/
 347
 348 static bool checkreturn decode_static_field(pb_istream_t *stream, pb_wire_type_t wire_type, pb_field_iter_t *iter)
 349 {
 350     pb_type_t type;
 351     pb_decoder_t func;
 352
 353     type = iter->pos->type;
 354     func = PB_DECODERS[PB_LTYPE(type)];
 355
 356     switch (PB_HTYPE(type))
 357     {
 358         case PB_HTYPE_REQUIRED:
 359             return func(stream, iter->pos, iter->pData);
 360
 361         case PB_HTYPE_OPTIONAL:
 362             *(bool*)iter->pSize = true;
 363             return func(stream, iter->pos, iter->pData);
 364
 365         case PB_HTYPE_REPEATED:
 366             if (wire_type == PB_WT_STRING
 367                 && PB_LTYPE(type) <= PB_LTYPE_LAST_PACKABLE)
 368             {
 369                 /* Packed array */
 370                 bool status = true;
 371                 pb_size_t *size = (pb_size_t*)iter->pSize;
 372                 pb_istream_t substream;
 373                 if (!pb_make_string_substream(stream, &substream))
 374                     return false;
 375
 376                 while (substream.bytes_left > 0 && *size < iter->pos->array_size)
 377                 {
 378                     void *pItem = (uint8_t*)iter->pData + iter->pos->data_size * (*size);
 379                     if (!func(&substream, iter->pos, pItem))
 380                     {
 381                         status = false;
 382                         break;
 383                     }
 384                     (*size)++;
 385                 }
 386                 pb_close_string_substream(stream, &substream);
 387
 388                 if (substream.bytes_left != 0)
 389                     PB_RETURN_ERROR(stream, "array overflow");
 390
 391                 return status;
 392             }
 393             else
 394             {
 395                 /* Repeated field */
 396                 pb_size_t *size = (pb_size_t*)iter->pSize;
 397                 void *pItem = (uint8_t*)iter->pData + iter->pos->data_size * (*size);
 398                 if (*size >= iter->pos->array_size)
 399                     PB_RETURN_ERROR(stream, "array overflow");
 400
 401                 (*size)++;
 402                 return func(stream, iter->pos, pItem);
 403             }
 404
 405         case PB_HTYPE_ONEOF:
 406             *(pb_size_t*)iter->pSize = iter->pos->tag;
 407             if (PB_LTYPE(type) == PB_LTYPE_SUBMESSAGE)
 408             {
 409                 /* We memset to zero so that any callbacks are set to NULL.
 410                  * Then set any default values. */
 411                 memset(iter->pData, 0, iter->pos->data_size);
 412                 pb_message_set_to_defaults((const pb_field_t*)iter->pos->ptr, iter->pData);
 413             }
 414             return func(stream, iter->pos, iter->pData);
 415
 416         default:
 417             PB_RETURN_ERROR(stream, "invalid field type");
 418     }
 419 }
 420
 421 #ifdef PB_ENABLE_MALLOC
 422 /* Allocate storage for the field and store the pointer at iter->pData.
 423  * array_size is the number of entries to reserve in an array.
 424  * Zero size is not allowed, use pb_free() for releasing.
 425  */
 426 static bool checkreturn allocate_field(pb_istream_t *stream, void *pData, size_t data_size, size_t array_size)
 427 {
 428     void *ptr = *(void**)pData;
 429
 430     if (data_size == 0 || array_size == 0)
 431         PB_RETURN_ERROR(stream, "invalid size");
 432
 433     /* Check for multiplication overflows.
 434      * This code avoids the costly division if the sizes are small enough.
 435      * Multiplication is safe as long as only half of bits are set
 436      * in either multiplicand.
 437      */
 438     {
 439         const size_t check_limit = (size_t)1 << (sizeof(size_t) * 4);
 440         if (data_size >= check_limit || array_size >= check_limit)
 441         {
 442             const size_t size_max = (size_t)-1;
 443             if (size_max / array_size < data_size)
 444             {
 445                 PB_RETURN_ERROR(stream, "size too large");
 446             }
 447         }
 448     }
 449
 450     /* Allocate new or expand previous allocation */
 451     /* Note: on failure the old pointer will remain in the structure,
 452      * the message must be freed by caller also on error return. */
 453     ptr = pb_realloc(ptr, array_size * data_size);
 454     if (ptr == NULL)
 455         PB_RETURN_ERROR(stream, "realloc failed");
 456
 457     *(void**)pData = ptr;
 458     return true;
 459 }
 460
 461 /* Clear a newly allocated item in case it contains a pointer, or is a submessage. */
 462 static void initialize_pointer_field(void *pItem, pb_field_iter_t *iter)
 463 {
 464     if (PB_LTYPE(iter->pos->type) == PB_LTYPE_STRING ||
 465         PB_LTYPE(iter->pos->type) == PB_LTYPE_BYTES)
 466     {
 467         *(void**)pItem = NULL;
 468     }
 469     else if (PB_LTYPE(iter->pos->type) == PB_LTYPE_SUBMESSAGE)
 470     {
 471         pb_message_set_to_defaults((const pb_field_t *) iter->pos->ptr, pItem);
 472     }
 473 }
 474 #endif
 475
 476 static bool checkreturn decode_pointer_field(pb_istream_t *stream, pb_wire_type_t wire_type, pb_field_iter_t *iter)
 477 {
 478 #ifndef PB_ENABLE_MALLOC
 479     PB_UNUSED(wire_type);
 480     PB_UNUSED(iter);
 481     PB_RETURN_ERROR(stream, "no malloc support");
 482 #else
 483     pb_type_t type;
 484     pb_decoder_t func;
 485
 486     type = iter->pos->type;
 487     func = PB_DECODERS[PB_LTYPE(type)];
 488
 489     switch (PB_HTYPE(type))
 490     {
 491         case PB_HTYPE_REQUIRED:
 492         case PB_HTYPE_OPTIONAL:
 493         case PB_HTYPE_ONEOF:
 494             if (PB_LTYPE(type) == PB_LTYPE_SUBMESSAGE &&
 495                 *(void**)iter->pData != NULL)
 496             {
 497                 /* Duplicate field, have to release the old allocation first. */
 498                 pb_release_single_field(iter);
 499             }
 500
 501             if (PB_HTYPE(type) == PB_HTYPE_ONEOF)
 502             {
 503                 *(pb_size_t*)iter->pSize = iter->pos->tag;
 504             }
 505
 506             if (PB_LTYPE(type) == PB_LTYPE_STRING ||
 507                 PB_LTYPE(type) == PB_LTYPE_BYTES)
 508             {
 509                 return func(stream, iter->pos, iter->pData);
 510             }
 511             else
 512             {
 513                 if (!allocate_field(stream, iter->pData, iter->pos->data_size, 1))
 514                     return false;
 515
 516                 initialize_pointer_field(*(void**)iter->pData, iter);
 517                 return func(stream, iter->pos, *(void**)iter->pData);
 518             }
 519
 520         case PB_HTYPE_REPEATED:
 521             if (wire_type == PB_WT_STRING
 522                 && PB_LTYPE(type) <= PB_LTYPE_LAST_PACKABLE)
 523             {
 524                 /* Packed array, multiple items come in at once. */
 525                 bool status = true;
 526                 pb_size_t *size = (pb_size_t*)iter->pSize;
 527                 size_t allocated_size = *size;
 528                 void *pItem;
 529                 pb_istream_t substream;
 530
 531                 if (!pb_make_string_substream(stream, &substream))
 532                     return false;
 533
 534                 while (substream.bytes_left)
 535                 {
 536                     if ((size_t)*size + 1 > allocated_size)
 537                     {
 538                         /* Allocate more storage. This tries to guess the
 539                          * number of remaining entries. Round the division
 540                          * upwards. */
 541                         allocated_size += (substream.bytes_left - 1) / iter->pos->data_size + 1;
 542
 543                         if (!allocate_field(&substream, iter->pData, iter->pos->data_size, allocated_size))
 544                         {
 545                             status = false;
 546                             break;
 547                         }
 548                     }
 549
 550                     /* Decode the array entry */
 551                     pItem = *(uint8_t**)iter->pData + iter->pos->data_size * (*size);
 552                     initialize_pointer_field(pItem, iter);
 553                     if (!func(&substream, iter->pos, pItem))
 554                     {
 555                         status = false;
 556                         break;
 557                     }
 558
 559                     if (*size == PB_SIZE_MAX)
 560                     {
 561 #ifndef PB_NO_ERRMSG
 562                         stream->errmsg = "too many array entries";
 563 #endif
 564                         status = false;
 565                         break;
 566                     }
 567
 568                     (*size)++;
 569                 }
 570                 pb_close_string_substream(stream, &substream);
 571
 572                 return status;
 573             }
 574             else
 575             {
 576                 /* Normal repeated field, i.e. only one item at a time. */
 577                 pb_size_t *size = (pb_size_t*)iter->pSize;
 578                 void *pItem;
 579
 580                 if (*size == PB_SIZE_MAX)
 581                     PB_RETURN_ERROR(stream, "too many array entries");
 582
 583                 (*size)++;
 584                 if (!allocate_field(stream, iter->pData, iter->pos->data_size, *size))
 585                     return false;
 586
 587                 pItem = *(uint8_t**)iter->pData + iter->pos->data_size * (*size - 1);
 588                 initialize_pointer_field(pItem, iter);
 589                 return func(stream, iter->pos, pItem);
 590             }
 591
 592         default:
 593             PB_RETURN_ERROR(stream, "invalid field type");
 594     }
 595 #endif
 596 }
 597
 598 static bool checkreturn decode_callback_field(pb_istream_t *stream, pb_wire_type_t wire_type, pb_field_iter_t *iter)
 599 {
 600     pb_callback_t *pCallback = (pb_callback_t*)iter->pData;
 601
 602 #ifdef PB_OLD_CALLBACK_STYLE
 603     void *arg = pCallback->arg;
 604 #else
 605     void **arg = &(pCallback->arg);
 606 #endif
 607
 608     if (pCallback->funcs.decode == NULL)
 609         return pb_skip_field(stream, wire_type);
 610
 611     if (wire_type == PB_WT_STRING)
 612     {
 613         pb_istream_t substream;
 614
 615         if (!pb_make_string_substream(stream, &substream))
 616             return false;
 617
 618         do
 619         {
 620             if (!pCallback->funcs.decode(&substream, iter->pos, arg))
 621                 PB_RETURN_ERROR(stream, "callback failed");
 622         } while (substream.bytes_left);
 623
 624         pb_close_string_substream(stream, &substream);
 625         return true;
 626     }
 627     else
 628     {
 629         /* Copy the single scalar value to stack.
 630          * This is required so that we can limit the stream length,
 631          * which in turn allows to use same callback for packed and
 632          * not-packed fields. */
 633         pb_istream_t substream;
 634         uint8_t buffer[10];
 635         size_t size = sizeof(buffer);
 636
 637         if (!read_raw_value(stream, wire_type, buffer, &size))
 638             return false;
 639         substream = pb_istream_from_buffer(buffer, size);
 640
 641         return pCallback->funcs.decode(&substream, iter->pos, arg);
 642     }
 643 }
 644
 645 static bool checkreturn decode_field(pb_istream_t *stream, pb_wire_type_t wire_type, pb_field_iter_t *iter)
 646 {
 647 #ifdef PB_ENABLE_MALLOC
 648     /* When decoding an oneof field, check if there is old data that must be
 649      * released first. */
 650     if (PB_HTYPE(iter->pos->type) == PB_HTYPE_ONEOF)
 651     {
 652         if (!pb_release_union_field(stream, iter))
 653             return false;
 654     }
 655 #endif
 656
 657     switch (PB_ATYPE(iter->pos->type))
 658     {
 659         case PB_ATYPE_STATIC:
 660             return decode_static_field(stream, wire_type, iter);
 661
 662         case PB_ATYPE_POINTER:
 663             return decode_pointer_field(stream, wire_type, iter);
 664
 665         case PB_ATYPE_CALLBACK:
 666             return decode_callback_field(stream, wire_type, iter);
 667
 668         default:
 669             PB_RETURN_ERROR(stream, "invalid field type");
 670     }
 671 }
 672
 673 static void iter_from_extension(pb_field_iter_t *iter, pb_extension_t *extension)
 674 {
 675     /* Fake a field iterator for the extension field.
 676      * It is not actually safe to advance this iterator, but decode_field
 677      * will not even try to. */
 678     const pb_field_t *field = (const pb_field_t*)extension->type->arg;
 679     (void)pb_field_iter_begin(iter, field, extension->dest);
 680     iter->pData = extension->dest;
 681     iter->pSize = &extension->found;
 682
 683     if (PB_ATYPE(field->type) == PB_ATYPE_POINTER)
 684     {
 685         /* For pointer extensions, the pointer is stored directly
 686          * in the extension structure. This avoids having an extra
 687          * indirection. */
 688         iter->pData = &extension->dest;
 689     }
 690 }
 691
 692 /* Default handler for extension fields. Expects a pb_field_t structure
 693  * in extension->type->arg. */
 694 static bool checkreturn default_extension_decoder(pb_istream_t *stream,
 695     pb_extension_t *extension, uint32_t tag, pb_wire_type_t wire_type)
 696 {
 697     const pb_field_t *field = (const pb_field_t*)extension->type->arg;
 698     pb_field_iter_t iter;
 699
 700     if (field->tag != tag)
 701         return true;
 702
 703     iter_from_extension(&iter, extension);
 704     extension->found = true;
 705     return decode_field(stream, wire_type, &iter);
 706 }
 707
 708 /* Try to decode an unknown field as an extension field. Tries each extension
 709  * decoder in turn, until one of them handles the field or loop ends. */
 710 static bool checkreturn decode_extension(pb_istream_t *stream,
 711     uint32_t tag, pb_wire_type_t wire_type, pb_field_iter_t *iter)
 712 {
 713     pb_extension_t *extension = *(pb_extension_t* const *)iter->pData;
 714     size_t pos = stream->bytes_left;
 715
 716     while (extension != NULL && pos == stream->bytes_left)
 717     {
 718         bool status;
 719         if (extension->type->decode)
 720             status = extension->type->decode(stream, extension, tag, wire_type);
 721         else
 722             status = default_extension_decoder(stream, extension, tag, wire_type);
 723
 724         if (!status)
 725             return false;
 726
 727         extension = extension->next;
 728     }
 729
 730     return true;
 731 }
 732
 733 /* Step through the iterator until an extension field is found or until all
 734  * entries have been checked. There can be only one extension field per
 735  * message. Returns false if no extension field is found. */
 736 static bool checkreturn find_extension_field(pb_field_iter_t *iter)
 737 {
 738     const pb_field_t *start = iter->pos;
 739
 740     do {
 741         if (PB_LTYPE(iter->pos->type) == PB_LTYPE_EXTENSION)
 742             return true;
 743         (void)pb_field_iter_next(iter);
 744     } while (iter->pos != start);
 745
 746     return false;
 747 }
 748
 749 /* Initialize message fields to default values, recursively */
 750 static void pb_field_set_to_default(pb_field_iter_t *iter)
 751 {
 752     pb_type_t type;
 753     type = iter->pos->type;
 754
 755     if (PB_LTYPE(type) == PB_LTYPE_EXTENSION)
 756     {
 757         pb_extension_t *ext = *(pb_extension_t* const *)iter->pData;
 758         while (ext != NULL)
 759         {
 760             pb_field_iter_t ext_iter;
 761             ext->found = false;
 762             iter_from_extension(&ext_iter, ext);
 763             pb_field_set_to_default(&ext_iter);
 764             ext = ext->next;
 765         }
 766     }
 767     else if (PB_ATYPE(type) == PB_ATYPE_STATIC)
 768     {
 769         bool init_data = true;
 770         if (PB_HTYPE(type) == PB_HTYPE_OPTIONAL)
 771         {
 772             /* Set has_field to false. Still initialize the optional field
 773              * itself also. */
 774             *(bool*)iter->pSize = false;
 775         }
 776         else if (PB_HTYPE(type) == PB_HTYPE_REPEATED ||
 777                  PB_HTYPE(type) == PB_HTYPE_ONEOF)
 778         {
 779             /* REPEATED: Set array count to 0, no need to initialize contents.
 780                ONEOF: Set which_field to 0. */
 781             *(pb_size_t*)iter->pSize = 0;
 782             init_data = false;
 783         }
 784
 785         if (init_data)
 786         {
 787             if (PB_LTYPE(iter->pos->type) == PB_LTYPE_SUBMESSAGE)
 788             {
 789                 /* Initialize submessage to defaults */
 790                 pb_message_set_to_defaults((const pb_field_t *) iter->pos->ptr, iter->pData);
 791             }
 792             else if (iter->pos->ptr != NULL)
 793             {
 794                 /* Initialize to default value */
 795                 memcpy(iter->pData, iter->pos->ptr, iter->pos->data_size);
 796             }
 797             else
 798             {
 799                 /* Initialize to zeros */
 800                 memset(iter->pData, 0, iter->pos->data_size);
 801             }
 802         }
 803     }
 804     else if (PB_ATYPE(type) == PB_ATYPE_POINTER)
 805     {
 806         /* Initialize the pointer to NULL. */
 807         *(void**)iter->pData = NULL;
 808
 809         /* Initialize array count to 0. */
 810         if (PB_HTYPE(type) == PB_HTYPE_REPEATED ||
 811             PB_HTYPE(type) == PB_HTYPE_ONEOF)
 812         {
 813             *(pb_size_t*)iter->pSize = 0;
 814         }
 815     }
 816     else if (PB_ATYPE(type) == PB_ATYPE_CALLBACK)
 817     {
 818         /* Don't overwrite callback */
 819     }
 820 }
 821
 822 static void pb_message_set_to_defaults(const pb_field_t fields[], void *dest_struct)
 823 {
 824     pb_field_iter_t iter;
 825
 826     if (!pb_field_iter_begin(&iter, fields, dest_struct))
 827         return; /* Empty message type */
 828
 829     do
 830     {
 831         pb_field_set_to_default(&iter);
 832     } while (pb_field_iter_next(&iter));
 833 }
 834
 835 /*********************
 836  * Decode all fields *
 837  *********************/
 838
 839 bool checkreturn pb_decode_noinit(pb_istream_t *stream, const pb_field_t fields[], void *dest_struct)
 840 {
 841     uint8_t fields_seen[(PB_MAX_REQUIRED_FIELDS + 7) / 8] = {0, 0, 0, 0, 0, 0, 0, 0};
 842     uint32_t extension_range_start = 0;
 843     pb_field_iter_t iter;
 844
 845     /* Return value ignored, as empty message types will be correctly handled by
 846      * pb_field_iter_find() anyway. */
 847     (void)pb_field_iter_begin(&iter, fields, dest_struct);
 848
 849     while (stream->bytes_left)
 850     {
 851         uint32_t tag;
 852         pb_wire_type_t wire_type;
 853         bool eof;
 854
 855         if (!pb_decode_tag(stream, &wire_type, &tag, &eof))
 856         {
 857             if (eof)
 858                 break;
 859             else
 860                 return false;
 861         }
 862
 863         if (!pb_field_iter_find(&iter, tag))
 864         {
 865             /* No match found, check if it matches an extension. */
 866             if (tag >= extension_range_start)
 867             {
 868                 if (!find_extension_field(&iter))
 869                     extension_range_start = (uint32_t)-1;
 870                 else
 871                     extension_range_start = iter.pos->tag;
 872
 873                 if (tag >= extension_range_start)
 874                 {
 875                     size_t pos = stream->bytes_left;
 876
 877                     if (!decode_extension(stream, tag, wire_type, &iter))
 878                         return false;
 879
 880                     if (pos != stream->bytes_left)
 881                     {
 882                         /* The field was handled */
 883                         continue;
 884                     }
 885                 }
 886             }
 887
 888             /* No match found, skip data */
 889             if (!pb_skip_field(stream, wire_type))
 890                 return false;
 891             continue;
 892         }
 893
 894         if (PB_HTYPE(iter.pos->type) == PB_HTYPE_REQUIRED
 895             && iter.required_field_index < PB_MAX_REQUIRED_FIELDS)
 896         {
 897             uint8_t tmp = (uint8_t)(1 << (iter.required_field_index & 7));
 898             fields_seen[iter.required_field_index >> 3] |= tmp;
 899         }
 900
 901         if (!decode_field(stream, wire_type, &iter))
 902             return false;
 903     }
 904
 905     /* Check that all required fields were present. */
 906     {
 907         /* First figure out the number of required fields by
 908          * seeking to the end of the field array. Usually we
 909          * are already close to end after decoding.
 910          */
 911         unsigned req_field_count;
 912         pb_type_t last_type;
 913         unsigned i;
 914         do {
 915             req_field_count = iter.required_field_index;
 916             last_type = iter.pos->type;
 917         } while (pb_field_iter_next(&iter));
 918
 919         /* Fixup if last field was also required. */
 920         if (PB_HTYPE(last_type) == PB_HTYPE_REQUIRED && iter.pos->tag != 0)
 921             req_field_count++;
 922
 923         /* Check the whole bytes */
 924         for (i = 0; i < (req_field_count >> 3); i++)
 925         {
 926             if (fields_seen[i] != 0xFF)
 927                 PB_RETURN_ERROR(stream, "missing required field");
 928         }
 929
 930         /* Check the remaining bits */
 931         if (fields_seen[req_field_count >> 3] != (0xFF >> (8 - (req_field_count & 7))))
 932             PB_RETURN_ERROR(stream, "missing required field");
 933     }
 934
 935     return true;
 936 }
 937
 938 bool checkreturn pb_decode(pb_istream_t *stream, const pb_field_t fields[], void *dest_struct)
 939 {
 940     bool status;
 941     pb_message_set_to_defaults(fields, dest_struct);
 942     status = pb_decode_noinit(stream, fields, dest_struct);
 943
 944 #ifdef PB_ENABLE_MALLOC
 945     if (!status)
 946         pb_release(fields, dest_struct);
 947 #endif
 948
 949     return status;
 950 }
 951
 952 bool pb_decode_delimited(pb_istream_t *stream, const pb_field_t fields[], void *dest_struct)
 953 {
 954     pb_istream_t substream;
 955     bool status;
 956
 957     if (!pb_make_string_substream(stream, &substream))
 958         return false;
 959
 960     status = pb_decode(&substream, fields, dest_struct);
 961     pb_close_string_substream(stream, &substream);
 962     return status;
 963 }
 964
 965 #ifdef PB_ENABLE_MALLOC
 966 /* Given an oneof field, if there has already been a field inside this oneof,
 967  * release it before overwriting with a different one. */
 968 static bool pb_release_union_field(pb_istream_t *stream, pb_field_iter_t *iter)
 969 {
 970     pb_size_t old_tag = *(pb_size_t*)iter->pSize; /* Previous which_ value */
 971     pb_size_t new_tag = iter->pos->tag; /* New which_ value */
 972
 973     if (old_tag == 0)
 974         return true; /* Ok, no old data in union */
 975
 976     if (old_tag == new_tag)
 977         return true; /* Ok, old data is of same type => merge */
 978
 979     /* Release old data. The find can fail if the message struct contains
 980      * invalid data. */
 981     if (!pb_field_iter_find(iter, old_tag))
 982         PB_RETURN_ERROR(stream, "invalid union tag");
 983
 984     pb_release_single_field(iter);
 985
 986     /* Restore iterator to where it should be.
 987      * This shouldn't fail unless the pb_field_t structure is corrupted. */
 988     if (!pb_field_iter_find(iter, new_tag))
 989         PB_RETURN_ERROR(stream, "iterator error");
 990
 991     return true;
 992 }
 993
 994 static void pb_release_single_field(const pb_field_iter_t *iter)
 995 {
 996     pb_type_t type;
 997     type = iter->pos->type;
 998
 999     if (PB_HTYPE(type) == PB_HTYPE_ONEOF)
1000     {
1001         if (*(pb_size_t*)iter->pSize != iter->pos->tag)
1002             return; /* This is not the current field in the union */
1003     }
1004
1005     /* Release anything contained inside an extension or submsg.
1006      * This has to be done even if the submsg itself is statically
1007      * allocated. */
1008     if (PB_LTYPE(type) == PB_LTYPE_EXTENSION)
1009     {
1010         /* Release fields from all extensions in the linked list */
1011         pb_extension_t *ext = *(pb_extension_t**)iter->pData;
1012         while (ext != NULL)
1013         {
1014             pb_field_iter_t ext_iter;
1015             iter_from_extension(&ext_iter, ext);
1016             pb_release_single_field(&ext_iter);
1017             ext = ext->next;
1018         }
1019     }
1020     else if (PB_LTYPE(type) == PB_LTYPE_SUBMESSAGE)
1021     {
1022         /* Release fields in submessage or submsg array */
1023         void *pItem = iter->pData;
1024         pb_size_t count = 1;
1025
1026         if (PB_ATYPE(type) == PB_ATYPE_POINTER)
1027         {
1028             pItem = *(void**)iter->pData;
1029         }
1030
1031         if (PB_HTYPE(type) == PB_HTYPE_REPEATED)
1032         {
1033             count = *(pb_size_t*)iter->pSize;
1034         }
1035
1036         if (pItem)
1037         {
1038             while (count--)
1039             {
1040                 pb_release((const pb_field_t*)iter->pos->ptr, pItem);
1041                 pItem = (uint8_t*)pItem + iter->pos->data_size;
1042             }
1043         }
1044     }
1045
1046     if (PB_ATYPE(type) == PB_ATYPE_POINTER)
1047     {
1048         if (PB_HTYPE(type) == PB_HTYPE_REPEATED &&
1049             (PB_LTYPE(type) == PB_LTYPE_STRING ||
1050              PB_LTYPE(type) == PB_LTYPE_BYTES))
1051         {
1052             /* Release entries in repeated string or bytes array */
1053             void **pItem = *(void***)iter->pData;
1054             pb_size_t count = *(pb_size_t*)iter->pSize;
1055             while (count--)
1056             {
1057                 pb_free(*pItem);
1058                 *pItem++ = NULL;
1059             }
1060         }
1061
1062         if (PB_HTYPE(type) == PB_HTYPE_REPEATED)
1063         {
1064             /* We are going to release the array, so set the size to 0 */
1065             *(pb_size_t*)iter->pSize = 0;
1066         }
1067
1068         /* Release main item */
1069         pb_free(*(void**)iter->pData);
1070         *(void**)iter->pData = NULL;
1071     }
1072 }
1073
1074 void pb_release(const pb_field_t fields[], void *dest_struct)
1075 {
1076     pb_field_iter_t iter;
1077
1078     if (!dest_struct)
1079         return; /* Ignore NULL pointers, similar to free() */
1080
1081     if (!pb_field_iter_begin(&iter, fields, dest_struct))
1082         return; /* Empty message type */
1083
1084     do
1085     {
1086         pb_release_single_field(&iter);
1087     } while (pb_field_iter_next(&iter));
1088 }
1089 #endif
1090
1091 /* Field decoders */
1092
1093 bool pb_decode_svarint(pb_istream_t *stream, int64_t *dest)
1094 {
1095     uint64_t value;
1096     if (!pb_decode_varint(stream, &value))
1097         return false;
1098
1099     if (value & 1)
1100         *dest = (int64_t)(~(value >> 1));
1101     else
1102         *dest = (int64_t)(value >> 1);
1103
1104     return true;
1105 }
1106
1107 bool pb_decode_fixed32(pb_istream_t *stream, void *dest)
1108 {
1109     #ifdef __BIG_ENDIAN__
1110     uint8_t *bytes = (uint8_t*)dest;
1111     uint8_t lebytes[4];
1112
1113     if (!pb_read(stream, lebytes, 4))
1114         return false;
1115
1116     bytes[0] = lebytes[3];
1117     bytes[1] = lebytes[2];
1118     bytes[2] = lebytes[1];
1119     bytes[3] = lebytes[0];
1120     return true;
1121     #else
1122     return pb_read(stream, (uint8_t*)dest, 4);
1123     #endif
1124 }
1125
1126 bool pb_decode_fixed64(pb_istream_t *stream, void *dest)
1127 {
1128     #ifdef __BIG_ENDIAN__
1129     uint8_t *bytes = (uint8_t*)dest;
1130     uint8_t lebytes[8];
1131
1132     if (!pb_read(stream, lebytes, 8))
1133         return false;
1134
1135     bytes[0] = lebytes[7];
1136     bytes[1] = lebytes[6];
1137     bytes[2] = lebytes[5];
1138     bytes[3] = lebytes[4];
1139     bytes[4] = lebytes[3];
1140     bytes[5] = lebytes[2];
1141     bytes[6] = lebytes[1];
1142     bytes[7] = lebytes[0];
1143     return true;
1144     #else
1145     return pb_read(stream, (uint8_t*)dest, 8);
1146     #endif
1147 }
1148
1149 static bool checkreturn pb_dec_varint(pb_istream_t *stream, const pb_field_t *field, void *dest)
1150 {
1151     uint64_t value;
1152     int64_t svalue;
1153     int64_t clamped;
1154     if (!pb_decode_varint(stream, &value))
1155         return false;
1156
1157     /* See issue 97: Google's C++ protobuf allows negative varint values to
1158      * be cast as int32_t, instead of the int64_t that should be used when
1159      * encoding. Previous nanopb versions had a bug in encoding. In order to
1160      * not break decoding of such messages, we cast <=32 bit fields to
1161      * int32_t first to get the sign correct.
1162      */
1163     if (field->data_size == 8)
1164         svalue = (int64_t)value;
1165     else
1166         svalue = (int32_t)value;
1167
1168     switch (field->data_size)
1169     {
1170         case 1: clamped = *(int8_t*)dest = (int8_t)svalue; break;
1171         case 2: clamped = *(int16_t*)dest = (int16_t)svalue; break;
1172         case 4: clamped = *(int32_t*)dest = (int32_t)svalue; break;
1173         case 8: clamped = *(int64_t*)dest = svalue; break;
1174         default: PB_RETURN_ERROR(stream, "invalid data_size");
1175     }
1176
1177     if (clamped != svalue)
1178         PB_RETURN_ERROR(stream, "integer too large");
1179
1180     return true;
1181 }
1182
1183 static bool checkreturn pb_dec_uvarint(pb_istream_t *stream, const pb_field_t *field, void *dest)
1184 {
1185     uint64_t value, clamped;
1186     if (!pb_decode_varint(stream, &value))
1187         return false;
1188
1189     switch (field->data_size)
1190     {
1191         case 1: clamped = *(uint8_t*)dest = (uint8_t)value; break;
1192         case 2: clamped = *(uint16_t*)dest = (uint16_t)value; break;
1193         case 4: clamped = *(uint32_t*)dest = (uint32_t)value; break;
1194         case 8: clamped = *(uint64_t*)dest = value; break;
1195         default: PB_RETURN_ERROR(stream, "invalid data_size");
1196     }
1197
1198     if (clamped != value)
1199         PB_RETURN_ERROR(stream, "integer too large");
1200
1201     return true;
1202 }
1203
1204 static bool checkreturn pb_dec_svarint(pb_istream_t *stream, const pb_field_t *field, void *dest)
1205 {
1206     int64_t value, clamped;
1207     if (!pb_decode_svarint(stream, &value))
1208         return false;
1209
1210     switch (field->data_size)
1211     {
1212         case 1: clamped = *(int8_t*)dest = (int8_t)value; break;
1213         case 2: clamped = *(int16_t*)dest = (int16_t)value; break;
1214         case 4: clamped = *(int32_t*)dest = (int32_t)value; break;
1215         case 8: clamped = *(int64_t*)dest = value; break;
1216         default: PB_RETURN_ERROR(stream, "invalid data_size");
1217     }
1218
1219     if (clamped != value)
1220         PB_RETURN_ERROR(stream, "integer too large");
1221
1222     return true;
1223 }
1224
1225 static bool checkreturn pb_dec_fixed32(pb_istream_t *stream, const pb_field_t *field, void *dest)
1226 {
1227     PB_UNUSED(field);
1228     return pb_decode_fixed32(stream, dest);
1229 }
1230
1231 static bool checkreturn pb_dec_fixed64(pb_istream_t *stream, const pb_field_t *field, void *dest)
1232 {
1233     PB_UNUSED(field);
1234     return pb_decode_fixed64(stream, dest);
1235 }
1236
1237 static bool checkreturn pb_dec_bytes(pb_istream_t *stream, const pb_field_t *field, void *dest)
1238 {
1239     uint32_t size;
1240     size_t alloc_size;
1241     pb_bytes_array_t *bdest;
1242
1243     if (!pb_decode_varint32(stream, &size))
1244         return false;
1245
1246     if (size > PB_SIZE_MAX)
1247         PB_RETURN_ERROR(stream, "bytes overflow");
1248
1249     alloc_size = PB_BYTES_ARRAY_T_ALLOCSIZE(size);
1250     if (size > alloc_size)
1251         PB_RETURN_ERROR(stream, "size too large");
1252
1253     if (PB_ATYPE(field->type) == PB_ATYPE_POINTER)
1254     {
1255 #ifndef PB_ENABLE_MALLOC
1256         PB_RETURN_ERROR(stream, "no malloc support");
1257 #else
1258         if (!allocate_field(stream, dest, alloc_size, 1))
1259             return false;
1260         bdest = *(pb_bytes_array_t**)dest;
1261 #endif
1262     }
1263     else
1264     {
1265         if (alloc_size > field->data_size)
1266             PB_RETURN_ERROR(stream, "bytes overflow");
1267         bdest = (pb_bytes_array_t*)dest;
1268     }
1269
1270     bdest->size = (pb_size_t)size;
1271     return pb_read(stream, bdest->bytes, size);
1272 }
1273
1274 static bool checkreturn pb_dec_string(pb_istream_t *stream, const pb_field_t *field, void *dest)
1275 {
1276     uint32_t size;
1277     size_t alloc_size;
1278     bool status;
1279     if (!pb_decode_varint32(stream, &size))
1280         return false;
1281
1282     /* Space for null terminator */
1283     alloc_size = size + 1;
1284
1285     if (alloc_size < size)
1286         PB_RETURN_ERROR(stream, "size too large");
1287
1288     if (PB_ATYPE(field->type) == PB_ATYPE_POINTER)
1289     {
1290 #ifndef PB_ENABLE_MALLOC
1291         PB_RETURN_ERROR(stream, "no malloc support");
1292 #else
1293         if (!allocate_field(stream, dest, alloc_size, 1))
1294             return false;
1295         dest = *(void**)dest;
1296 #endif
1297     }
1298     else
1299     {
1300         if (alloc_size > field->data_size)
1301             PB_RETURN_ERROR(stream, "string overflow");
1302     }
1303
1304     status = pb_read(stream, (uint8_t*)dest, size);
1305     *((uint8_t*)dest + size) = 0;
1306     return status;
1307 }
1308
1309 static bool checkreturn pb_dec_submessage(pb_istream_t *stream, const pb_field_t *field, void *dest)
1310 {
1311     bool status;
1312     pb_istream_t substream;
1313     const pb_field_t* submsg_fields = (const pb_field_t*)field->ptr;
1314
1315     if (!pb_make_string_substream(stream, &substream))
1316         return false;
1317
1318     if (field->ptr == NULL)
1319         PB_RETURN_ERROR(stream, "invalid field descriptor");
1320
1321     /* New array entries need to be initialized, while required and optional
1322      * submessages have already been initialized in the top-level pb_decode. */
1323     if (PB_HTYPE(field->type) == PB_HTYPE_REPEATED)
1324         status = pb_decode(&substream, submsg_fields, dest);
1325     else
1326         status = pb_decode_noinit(&substream, submsg_fields, dest);
1327
1328     pb_close_string_substream(stream, &substream);
1329     return status;
1330 }