r23456: Update Samba4 to current lorikeet-heimdal.
[tprouty/samba.git] / source4 / heimdal / lib / gssapi / krb5 / prf.c
1 /*
2  * Copyright (c) 2007 Kungliga Tekniska Högskolan
3  * (Royal Institute of Technology, Stockholm, Sweden). 
4  * All rights reserved. 
5  *
6  * Redistribution and use in source and binary forms, with or without 
7  * modification, are permitted provided that the following conditions 
8  * are met: 
9  *
10  * 1. Redistributions of source code must retain the above copyright 
11  *    notice, this list of conditions and the following disclaimer. 
12  *
13  * 2. Redistributions in binary form must reproduce the above copyright 
14  *    notice, this list of conditions and the following disclaimer in the 
15  *    documentation and/or other materials provided with the distribution. 
16  *
17  * 3. Neither the name of the Institute nor the names of its contributors 
18  *    may be used to endorse or promote products derived from this software 
19  *    without specific prior written permission. 
20  *
21  * THIS SOFTWARE IS PROVIDED BY THE INSTITUTE AND CONTRIBUTORS ``AS IS'' AND 
22  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE 
23  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE 
24  * ARE DISCLAIMED.  IN NO EVENT SHALL THE INSTITUTE OR CONTRIBUTORS BE LIABLE 
25  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL 
26  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS 
27  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) 
28  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT 
29  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY 
30  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF 
31  * SUCH DAMAGE. 
32  */
33
34 #include "krb5/gsskrb5_locl.h"
35
36 RCSID("$Id: prf.c 20679 2007-05-14 03:12:05Z lha $");
37
38 OM_uint32
39 _gsskrb5_pseudo_random(OM_uint32 *minor_status,
40                        gss_ctx_id_t context_handle,
41                        int prf_key,
42                        const gss_buffer_t prf_in,
43                        ssize_t desired_output_len,
44                        gss_buffer_t prf_out)
45 {
46     gsskrb5_ctx ctx = (gsskrb5_ctx)context_handle;
47     krb5_context context;
48     krb5_error_code ret;
49     krb5_crypto crypto;
50     krb5_data input, output;
51     uint32_t num;
52     unsigned char *p;
53     krb5_keyblock *key = NULL;
54
55     if (ctx == NULL) {
56         *minor_status = 0;
57         return GSS_S_NO_CONTEXT;
58     }
59
60     if (desired_output_len <= 0) {
61         *minor_status = 0;
62         return GSS_S_FAILURE;
63     }
64
65     GSSAPI_KRB5_INIT (&context);
66
67     switch(prf_key) {
68     case GSS_C_PRF_KEY_FULL:
69         _gsskrb5i_get_acceptor_subkey(ctx, context, &key);
70     case GSS_C_PRF_KEY_PARTIAL:
71         _gsskrb5i_get_initiator_subkey(ctx, context, &key);
72         break;
73     default:
74         _gsskrb5_set_status("unknown kerberos prf_key");
75         *minor_status = 0;
76         return GSS_S_FAILURE;
77     }
78
79     if (key == NULL) {
80         _gsskrb5_set_status("no prf_key found");
81         *minor_status = 0;
82         return GSS_S_FAILURE;
83     }
84
85     ret = krb5_crypto_init(context, key, 0, &crypto);
86     krb5_free_keyblock (context, key);
87     if (ret) {
88         *minor_status = ret;
89         return GSS_S_FAILURE;
90     }
91
92     prf_out->value = malloc(desired_output_len);
93     if (prf_out->value == NULL) {
94         _gsskrb5_set_status("Out of memory");
95         *minor_status = GSS_KRB5_S_KG_INPUT_TOO_LONG;
96         krb5_crypto_destroy(context, crypto);
97         return GSS_S_FAILURE;
98     }
99     prf_out->length = desired_output_len;
100
101     HEIMDAL_MUTEX_lock(&ctx->ctx_id_mutex);
102
103     input.length = prf_in->length + 4;
104     input.data = malloc(prf_in->length + 4);
105     if (input.data == NULL) {
106         OM_uint32 junk;
107         _gsskrb5_set_status("Out of memory");
108         *minor_status = GSS_KRB5_S_KG_INPUT_TOO_LONG;
109         gss_release_buffer(&junk, prf_out);
110         krb5_crypto_destroy(context, crypto);
111         HEIMDAL_MUTEX_unlock(&ctx->ctx_id_mutex);
112         return GSS_S_FAILURE;
113     }
114     memcpy(((unsigned char *)input.data) + 4, prf_in->value, prf_in->length);
115
116     num = 0;
117     p = prf_out->value;
118     while(desired_output_len > 0) {
119         _gsskrb5_encode_om_uint32(num, input.data);
120         ret = krb5_crypto_prf(context, crypto, &input, &output);
121         if (ret) {
122             OM_uint32 junk;
123             *minor_status = ret;
124             free(input.data);
125             gss_release_buffer(&junk, prf_out);
126             krb5_crypto_destroy(context, crypto);
127             HEIMDAL_MUTEX_unlock(&ctx->ctx_id_mutex);
128             return GSS_S_FAILURE;
129         }
130         memcpy(p, output.data, min(desired_output_len, output.length));
131         p += output.length;
132         desired_output_len -= output.length;
133         krb5_data_free(&output);
134         num++;
135     }
136
137     krb5_crypto_destroy(context, crypto);
138
139     HEIMDAL_MUTEX_unlock(&ctx->ctx_id_mutex);
140
141     return GSS_S_COMPLETE;
142 }