s4:heimdal: import lorikeet-heimdal-200906080040 (commit 904d0124b46eed7a8ad6e5b73e89...
[amitay/samba.git] / source4 / heimdal / lib / asn1 / gen_decode.c
index 193dab40e1a4e5ced8b1ec5ef35b69a3cd79e155..cf7f0b05dc06f47fe781563d99a0a85dc584e5ce 100644 (file)
@@ -1,40 +1,40 @@
 /*
- * Copyright (c) 1997 - 2005 Kungliga Tekniska Högskolan
- * (Royal Institute of Technology, Stockholm, Sweden). 
- * All rights reserved. 
+ * Copyright (c) 1997 - 2006 Kungliga Tekniska Högskolan
+ * (Royal Institute of Technology, Stockholm, Sweden).
+ * All rights reserved.
  *
- * Redistribution and use in source and binary forms, with or without 
- * modification, are permitted provided that the following conditions 
- * are met: 
+ * Redistribution and use in source and binary forms, with or without
+ * modification, are permitted provided that the following conditions
+ * are met:
  *
- * 1. Redistributions of source code must retain the above copyright 
- *    notice, this list of conditions and the following disclaimer. 
+ * 1. Redistributions of source code must retain the above copyright
+ *    notice, this list of conditions and the following disclaimer.
  *
- * 2. Redistributions in binary form must reproduce the above copyright 
- *    notice, this list of conditions and the following disclaimer in the 
- *    documentation and/or other materials provided with the distribution. 
+ * 2. Redistributions in binary form must reproduce the above copyright
+ *    notice, this list of conditions and the following disclaimer in the
+ *    documentation and/or other materials provided with the distribution.
  *
- * 3. Neither the name of the Institute nor the names of its contributors 
- *    may be used to endorse or promote products derived from this software 
- *    without specific prior written permission. 
+ * 3. Neither the name of the Institute nor the names of its contributors
+ *    may be used to endorse or promote products derived from this software
+ *    without specific prior written permission.
  *
- * THIS SOFTWARE IS PROVIDED BY THE INSTITUTE AND CONTRIBUTORS ``AS IS'' AND 
- * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE 
- * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE 
- * ARE DISCLAIMED.  IN NO EVENT SHALL THE INSTITUTE OR CONTRIBUTORS BE LIABLE 
- * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL 
- * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS 
- * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) 
- * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT 
- * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY 
- * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF 
- * SUCH DAMAGE. 
+ * THIS SOFTWARE IS PROVIDED BY THE INSTITUTE AND CONTRIBUTORS ``AS IS'' AND
+ * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
+ * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
+ * ARE DISCLAIMED.  IN NO EVENT SHALL THE INSTITUTE OR CONTRIBUTORS BE LIABLE
+ * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
+ * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
+ * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
+ * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
+ * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
+ * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
+ * SUCH DAMAGE.
  */
 
 #include "gen_locl.h"
 #include "lex.h"
 
-RCSID("$Id: gen_decode.c,v 1.30 2006/09/24 09:13:12 lha Exp $");
+RCSID("$Id$");
 
 static void
 decode_primitive (const char *typename, const char *name, const char *forwstr)
@@ -74,6 +74,7 @@ is_primitive_type(int type)
     case TIA5String:
     case TBMPString:
     case TUniversalString:
+    case TVisibleString:
     case TNull:
        return 1;
     default:
@@ -96,19 +97,19 @@ find_tag (const Type *t,
        *ty  = PRIM;
        *tag = UT_Boolean;
        break;
-    case TChoice: 
+    case TChoice:
        errx(1, "Cannot have recursive CHOICE");
     case TEnumerated:
        *cl  = ASN1_C_UNIV;
        *ty  = PRIM;
        *tag = UT_Enumerated;
        break;
-    case TGeneralString: 
+    case TGeneralString:
        *cl  = ASN1_C_UNIV;
        *ty  = PRIM;
        *tag = UT_GeneralString;
        break;
-    case TGeneralizedTime: 
+    case TGeneralizedTime:
        *cl  = ASN1_C_UNIV;
        *ty  = PRIM;
        *tag = UT_GeneralizedTime;
@@ -118,7 +119,7 @@ find_tag (const Type *t,
        *ty  = PRIM;
        *tag = UT_IA5String;
        break;
-    case TInteger: 
+    case TInteger:
        *cl  = ASN1_C_UNIV;
        *ty  = PRIM;
        *tag = UT_Integer;
@@ -128,12 +129,12 @@ find_tag (const Type *t,
        *ty  = PRIM;
        *tag = UT_Null;
        break;
-    case TOID: 
+    case TOID:
        *cl  = ASN1_C_UNIV;
        *ty  = PRIM;
        *tag = UT_OID;
        break;
-    case TOctetString: 
+    case TOctetString:
        *cl  = ASN1_C_UNIV;
        *ty  = PRIM;
        *tag = UT_OctetString;
@@ -143,24 +144,24 @@ find_tag (const Type *t,
        *ty  = PRIM;
        *tag = UT_PrintableString;
        break;
-    case TSequence: 
+    case TSequence:
     case TSequenceOf:
        *cl  = ASN1_C_UNIV;
        *ty  = CONS;
        *tag = UT_Sequence;
        break;
-    case TSet: 
+    case TSet:
     case TSetOf:
        *cl  = ASN1_C_UNIV;
        *ty  = CONS;
        *tag = UT_Set;
        break;
-    case TTag: 
+    case TTag:
        *cl  = t->tag.tagclass;
        *ty  = is_primitive_type(t->subtype->type) ? PRIM : CONS;
        *tag = t->tag.tagvalue;
        break;
-    case TType: 
+    case TType:
        if ((t->symbol->stype == Stype && t->symbol->type == NULL)
            || t->symbol->stype == SUndefined) {
            error_message("%s is imported or still undefined, "
@@ -171,7 +172,7 @@ find_tag (const Type *t,
        }
        find_tag(t->symbol->type, cl, ty, tag);
        return;
-    case TUTCTime: 
+    case TUTCTime:
        *cl  = ASN1_C_UNIV;
        *ty  = PRIM;
        *tag = UT_UTCTime;
@@ -191,19 +192,50 @@ find_tag (const Type *t,
        *ty  = PRIM;
        *tag = UT_UniversalString;
        break;
+    case TVisibleString:
+       *cl  = ASN1_C_UNIV;
+       *ty  = PRIM;
+       *tag = UT_VisibleString;
+       break;
     default:
        abort();
     }
 }
 
+static void
+range_check(const char *name,
+           const char *length,
+           const char *forwstr,
+           struct range *r)
+{
+    if (r->min == r->max + 2 || r->min < r->max)
+       fprintf (codefile,
+                "if ((%s)->%s > %d) {\n"
+                "e = ASN1_MAX_CONSTRAINT; %s;\n"
+                "}\n",
+                name, length, r->max, forwstr);
+    if (r->min - 1 == r->max || r->min < r->max)
+       fprintf (codefile,
+                "if ((%s)->%s < %d) {\n"
+                "e = ASN1_MIN_CONSTRAINT; %s;\n"
+                "}\n",
+                name, length, r->min, forwstr);
+    if (r->max == r->min)
+       fprintf (codefile,
+                "if ((%s)->%s != %d) {\n"
+                "e = ASN1_EXACT_CONSTRAINT; %s;\n"
+                "}\n",
+                name, length, r->min, forwstr);
+}
+
 static int
-decode_type (const char *name, const Type *t, int optional, 
-            const char *forwstr, const char *tmpstr)
+decode_type (const char *name, const Type *t, int optional,
+            const char *forwstr, const char *tmpstr, const char *dertype)
 {
     switch (t->type) {
     case TType: {
        if (optional)
-           fprintf(codefile, 
+           fprintf(codefile,
                    "%s = calloc(1, sizeof(*%s));\n"
                    "if (%s == NULL) %s;\n",
                    name, name, name, forwstr);
@@ -230,12 +262,14 @@ decode_type (const char *name, const Type *t, int optional,
     }
     case TInteger:
        if(t->members) {
-           char *s;
-           asprintf(&s, "(int*)%s", name);
-           if (s == NULL)
-               errx (1, "out of memory");
-           decode_primitive ("integer", s, forwstr);
-           free(s);
+           fprintf(codefile,
+                   "{\n"
+                   "int enumint;\n");
+           decode_primitive ("integer", "&enumint", forwstr);
+           fprintf(codefile,
+                   "*%s = enumint;\n"
+                   "}\n",
+                   name);
        } else if (t->range == NULL) {
            decode_primitive ("heim_integer", name, forwstr);
        } else if (t->range->min == INT_MIN && t->range->max == INT_MAX) {
@@ -245,7 +279,7 @@ decode_type (const char *name, const Type *t, int optional,
        } else if (t->range->min == 0 && t->range->max == INT_MAX) {
            decode_primitive ("unsigned", name, forwstr);
        } else
-           errx(1, "%s: unsupported range %d -> %d", 
+           errx(1, "%s: unsupported range %d -> %d",
                 name, t->range->min, t->range->max);
        break;
     case TBoolean:
@@ -255,7 +289,19 @@ decode_type (const char *name, const Type *t, int optional,
        decode_primitive ("enumerated", name, forwstr);
        break;
     case TOctetString:
+       if (dertype) {
+           fprintf(codefile,
+                   "if (%s == CONS) {\n",
+                   dertype);
+           decode_primitive("octet_string_ber", name, forwstr);
+           fprintf(codefile,
+                   "} else {\n");
+       }
        decode_primitive ("octet_string", name, forwstr);
+       if (dertype)
+           fprintf(codefile, "}\n");
+       if (t->range)
+           range_check(name, "length", forwstr, t->range);
        break;
     case TBitString: {
        Member *m;
@@ -304,10 +350,10 @@ decode_type (const char *name, const Type *t, int optional,
                      name, m->gen_name);
            if (s == NULL)
                errx(1, "malloc");
-           decode_type (s, m->type, m->optional, forwstr, m->gen_name);
+           decode_type (s, m->type, m->optional, forwstr, m->gen_name, NULL);
            free (s);
        }
-       
+
        break;
     }
     case TSet: {
@@ -320,7 +366,7 @@ decode_type (const char *name, const Type *t, int optional,
        fprintf(codefile, "{\n");
        fprintf(codefile, "unsigned int members = 0;\n");
        fprintf(codefile, "while(len > 0) {\n");
-       fprintf(codefile, 
+       fprintf(codefile,
                "Der_class class;\n"
                "Der_type type;\n"
                "int tag;\n"
@@ -342,18 +388,18 @@ decode_type (const char *name, const Type *t, int optional,
            if (s == NULL)
                errx(1, "malloc");
            if(m->optional)
-               fprintf(codefile, 
+               fprintf(codefile,
                        "%s = calloc(1, sizeof(*%s));\n"
                        "if (%s == NULL) { e = ENOMEM; %s; }\n",
                        s, s, s, forwstr);
-           decode_type (s, m->type, 0, forwstr, m->gen_name);
+           decode_type (s, m->type, 0, forwstr, m->gen_name, NULL);
            free (s);
 
            fprintf(codefile, "members |= (1 << %d);\n", memno);
            memno++;
            fprintf(codefile, "break;\n");
        }
-       fprintf(codefile, 
+       fprintf(codefile,
                "default:\n"
                "return ASN1_MISPLACED_FIELD;\n"
                "break;\n");
@@ -388,20 +434,32 @@ decode_type (const char *name, const Type *t, int optional,
                 "{\n"
                 "size_t %s_origlen = len;\n"
                 "size_t %s_oldret = ret;\n"
+                "size_t %s_olen = 0;\n"
                 "void *%s_tmp;\n"
                 "ret = 0;\n"
                 "(%s)->len = 0;\n"
-                "(%s)->val = NULL;\n"
+                "(%s)->val = NULL;\n",
+                tmpstr,
+                tmpstr,
+                tmpstr,
+                tmpstr,
+                name,
+                name);
+
+       fprintf (codefile,
                 "while(ret < %s_origlen) {\n"
-                "%s_tmp = realloc((%s)->val, "
-                "    sizeof(*((%s)->val)) * ((%s)->len + 1));\n"
-                "if (%s_tmp == NULL) { %s; }\n"
+                "size_t %s_nlen = %s_olen + sizeof(*((%s)->val));\n"
+                "if (%s_olen > %s_nlen) { e = ASN1_OVERFLOW; %s; }\n"
+                "%s_olen = %s_nlen;\n"
+                "%s_tmp = realloc((%s)->val, %s_olen);\n"
+                "if (%s_tmp == NULL) { e = ENOMEM; %s; }\n"
                 "(%s)->val = %s_tmp;\n",
-                tmpstr, tmpstr, tmpstr,
-                name, name,
+                tmpstr,
+                tmpstr, tmpstr, name,
+                tmpstr, tmpstr, forwstr,
                 tmpstr, tmpstr,
-                name, name, name,
-                tmpstr, forwstr, 
+                tmpstr, name, tmpstr,
+                tmpstr, forwstr,
                 name, tmpstr);
 
        asprintf (&n, "&(%s)->val[(%s)->len]", name, name);
@@ -410,8 +468,8 @@ decode_type (const char *name, const Type *t, int optional,
        asprintf (&sname, "%s_s_of", tmpstr);
        if (sname == NULL)
            errx(1, "malloc");
-       decode_type (n, t->subtype, 0, forwstr, sname);
-       fprintf (codefile, 
+       decode_type (n, t->subtype, 0, forwstr, sname, NULL);
+       fprintf (codefile,
                 "(%s)->len++;\n"
                 "len = %s_origlen - ret;\n"
                 "}\n"
@@ -419,6 +477,8 @@ decode_type (const char *name, const Type *t, int optional,
                 "}\n",
                 name,
                 tmpstr, tmpstr);
+       if (t->range)
+           range_check(name, "len", forwstr, t->range);
        free (n);
        free (sname);
        break;
@@ -430,23 +490,39 @@ decode_type (const char *name, const Type *t, int optional,
        decode_primitive ("general_string", name, forwstr);
        break;
     case TTag:{
-       char *tname;
+       char *tname, *typestring;
+       char *ide = NULL;
+
+       asprintf(&typestring, "%s_type", tmpstr);
 
-       fprintf(codefile, 
+       fprintf(codefile,
                "{\n"
-               "size_t %s_datalen, %s_oldlen;\n",
-               tmpstr, tmpstr);
-       if(dce_fix)
-           fprintf(codefile, 
-                   "int dce_fix;\n");
-       fprintf(codefile, "e = der_match_tag_and_length(p, len, %s, %s, %s, "
+               "size_t %s_datalen, %s_oldlen;\n"
+               "Der_type %s;\n",
+               tmpstr, tmpstr, typestring);
+       if(support_ber)
+           fprintf(codefile,
+                   "int is_indefinite;\n");
+
+       fprintf(codefile, "e = der_match_tag_and_length(p, len, %s, &%s, %s, "
                "&%s_datalen, &l);\n",
                classname(t->tag.tagclass),
-               is_primitive_type(t->subtype->type) ? "PRIM" : "CONS",
+               typestring,
                valuename(t->tag.tagclass, t->tag.tagvalue),
                tmpstr);
+
+       /* XXX hardcode for now */
+       if (support_ber && t->subtype->type == TOctetString) {
+           ide = typestring;
+       } else {
+           fprintf(codefile,
+                   "if (e == 0 && %s != %s) { e = ASN1_BAD_ID; }\n",
+                   typestring,
+                   is_primitive_type(t->subtype->type) ? "PRIM" : "CONS");
+       }
+
        if(optional) {
-           fprintf(codefile, 
+           fprintf(codefile,
                    "if(e) {\n"
                    "%s = NULL;\n"
                    "} else {\n"
@@ -460,36 +536,45 @@ decode_type (const char *name, const Type *t, int optional,
                 "p += l; len -= l; ret += l;\n"
                 "%s_oldlen = len;\n",
                 tmpstr);
-       if(dce_fix)
+       if(support_ber)
            fprintf (codefile,
-                    "if((dce_fix = _heim_fix_dce(%s_datalen, &len)) < 0)\n"
-                    "{ e = ASN1_BAD_FORMAT; %s; }\n",
-                    tmpstr, forwstr);
+                    "if((is_indefinite = _heim_fix_dce(%s_datalen, &len)) < 0)\n"
+                    "{ e = ASN1_BAD_FORMAT; %s; }\n"
+                    "if (is_indefinite) { if (len < 2) { e = ASN1_OVERRUN; %s; } len -= 2; }",
+                    tmpstr, forwstr, forwstr);
        else
-           fprintf(codefile, 
+           fprintf(codefile,
                    "if (%s_datalen > len) { e = ASN1_OVERRUN; %s; }\n"
                    "len = %s_datalen;\n", tmpstr, forwstr, tmpstr);
        asprintf (&tname, "%s_Tag", tmpstr);
        if (tname == NULL)
            errx(1, "malloc");
-       decode_type (name, t->subtype, 0, forwstr, tname);
-       if(dce_fix)
+       decode_type (name, t->subtype, 0, forwstr, tname, ide);
+       if(support_ber)
            fprintf(codefile,
-                   "if(dce_fix){\n"
-                   "e = der_match_tag_and_length (p, len, "
-                   "(Der_class)0,(Der_type)0, UT_EndOfContent, "
+                   "if(is_indefinite){\n"
+                   "len += 2;\n"
+                   "e = der_match_tag_and_length(p, len, "
+                   "(Der_class)0, &%s, UT_EndOfContent, "
                    "&%s_datalen, &l);\n"
-                   "if(e) %s;\np += l; len -= l; ret += l;\n"
-                   "} else \n", tmpstr, forwstr);
-       fprintf(codefile, 
+                   "if(e) %s;\n"
+                   "p += l; len -= l; ret += l;\n"
+                   "if (%s != (Der_type)0) { e = ASN1_BAD_ID; %s; }\n"
+                   "} else \n",
+                   typestring,
+                   tmpstr,
+                   forwstr,
+                   typestring, forwstr);
+       fprintf(codefile,
                "len = %s_oldlen - %s_datalen;\n",
                tmpstr, tmpstr);
        if(optional)
-           fprintf(codefile, 
+           fprintf(codefile,
                    "}\n");
-       fprintf(codefile, 
+       fprintf(codefile,
                "}\n");
        free(tname);
+       free(typestring);
        break;
     }
     case TChoice: {
@@ -505,7 +590,7 @@ decode_type (const char *name, const Type *t, int optional,
            Der_class cl;
            Der_type  ty;
            unsigned  tag;
-           
+
            if (m->ellipsis) {
                have_ellipsis = m;
                continue;
@@ -523,7 +608,7 @@ decode_type (const char *name, const Type *t, int optional,
                      name, m->gen_name);
            if (s == NULL)
                errx(1, "malloc");
-           decode_type (s, m->type, m->optional, forwstr, m->gen_name);
+           decode_type (s, m->type, m->optional, forwstr, m->gen_name, NULL);
            fprintf(codefile,
                    "(%s)->element = %s;\n",
                    name, m->label);
@@ -548,7 +633,7 @@ decode_type (const char *name, const Type *t, int optional,
                    "}\n",
                    name, have_ellipsis->gen_name,
                    name, have_ellipsis->gen_name,
-                   forwstr, 
+                   forwstr,
                    name, have_ellipsis->gen_name,
                    name, have_ellipsis->gen_name,
                    name, have_ellipsis->label);
@@ -580,6 +665,9 @@ decode_type (const char *name, const Type *t, int optional,
     case TUniversalString:
        decode_primitive ("universal_string", name, forwstr);
        break;
+    case TVisibleString:
+       decode_primitive ("visible_string", name, forwstr);
+       break;
     case TNull:
        fprintf (codefile, "/* NULL */\n");
        break;
@@ -620,6 +708,7 @@ generate_type_decode (const Symbol *s)
     case TIA5String:
     case TBMPString:
     case TUniversalString:
+    case TVisibleString:
     case TUTCTime:
     case TNull:
     case TEnumerated:
@@ -641,7 +730,7 @@ generate_type_decode (const Symbol *s)
        fprintf (codefile, "\n");
        fprintf (codefile, "memset(data, 0, sizeof(*data));\n"); /* hack to avoid `unused variable' */
 
-       decode_type ("data", s->type, 0, "goto fail", "Top");
+       decode_type ("data", s->type, 0, "goto fail", "Top", NULL);
        if (preserve)
            fprintf (codefile,
                     "data->_save.data = calloc(1, ret);\n"
@@ -650,7 +739,7 @@ generate_type_decode (const Symbol *s)
                     "}\n"
                     "data->_save.length = ret;\n"
                     "memcpy(data->_save.data, begin, ret);\n");
-       fprintf (codefile, 
+       fprintf (codefile,
                 "if(size) *size = ret;\n"
                 "return 0;\n");
        fprintf (codefile,