heimdal Extra files required for merge up to current heimdal
[sfrench/samba-autobuild/.git] / source4 / heimdal / lib / krb5 / salt-des3.c
1 /*
2  * Copyright (c) 1997 - 2008 Kungliga Tekniska Högskolan
3  * (Royal Institute of Technology, Stockholm, Sweden).
4  * All rights reserved.
5  *
6  * Redistribution and use in source and binary forms, with or without
7  * modification, are permitted provided that the following conditions
8  * are met:
9  *
10  * 1. Redistributions of source code must retain the above copyright
11  *    notice, this list of conditions and the following disclaimer.
12  *
13  * 2. Redistributions in binary form must reproduce the above copyright
14  *    notice, this list of conditions and the following disclaimer in the
15  *    documentation and/or other materials provided with the distribution.
16  *
17  * 3. Neither the name of the Institute nor the names of its contributors
18  *    may be used to endorse or promote products derived from this software
19  *    without specific prior written permission.
20  *
21  * THIS SOFTWARE IS PROVIDED BY THE INSTITUTE AND CONTRIBUTORS ``AS IS'' AND
22  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24  * ARE DISCLAIMED.  IN NO EVENT SHALL THE INSTITUTE OR CONTRIBUTORS BE LIABLE
25  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
26  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
27  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
28  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
29  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
30  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
31  * SUCH DAMAGE.
32  */
33
34 #include "krb5_locl.h"
35
36 #ifdef DES3_OLD_ENCTYPE
37 static krb5_error_code
38 DES3_string_to_key(krb5_context context,
39                    krb5_enctype enctype,
40                    krb5_data password,
41                    krb5_salt salt,
42                    krb5_data opaque,
43                    krb5_keyblock *key)
44 {
45     char *str;
46     size_t len;
47     unsigned char tmp[24];
48     DES_cblock keys[3];
49     krb5_error_code ret;
50
51     len = password.length + salt.saltvalue.length;
52     str = malloc(len);
53     if(len != 0 && str == NULL) {
54         krb5_set_error_message(context, ENOMEM, N_("malloc: out of memory", ""));
55         return ENOMEM;
56     }
57     memcpy(str, password.data, password.length);
58     memcpy(str + password.length, salt.saltvalue.data, salt.saltvalue.length);
59     {
60         DES_cblock ivec;
61         DES_key_schedule s[3];
62         int i;
63
64         ret = _krb5_n_fold(str, len, tmp, 24);
65         if (ret) {
66             memset(str, 0, len);
67             free(str);
68             krb5_set_error_message(context, ret, N_("malloc: out of memory", ""));
69             return ret;
70         }
71
72         for(i = 0; i < 3; i++){
73             memcpy(keys + i, tmp + i * 8, sizeof(keys[i]));
74             DES_set_odd_parity(keys + i);
75             if(DES_is_weak_key(keys + i))
76                 _krb5_xor(keys + i, (const unsigned char*)"\0\0\0\0\0\0\0\xf0");
77             DES_set_key_unchecked(keys + i, &s[i]);
78         }
79         memset(&ivec, 0, sizeof(ivec));
80         DES_ede3_cbc_encrypt(tmp,
81                              tmp, sizeof(tmp),
82                              &s[0], &s[1], &s[2], &ivec, DES_ENCRYPT);
83         memset(s, 0, sizeof(s));
84         memset(&ivec, 0, sizeof(ivec));
85         for(i = 0; i < 3; i++){
86             memcpy(keys + i, tmp + i * 8, sizeof(keys[i]));
87             DES_set_odd_parity(keys + i);
88             if(DES_is_weak_key(keys + i))
89                 _krb5_xor(keys + i, (const unsigned char*)"\0\0\0\0\0\0\0\xf0");
90         }
91         memset(tmp, 0, sizeof(tmp));
92     }
93     key->keytype = enctype;
94     krb5_data_copy(&key->keyvalue, keys, sizeof(keys));
95     memset(keys, 0, sizeof(keys));
96     memset(str, 0, len);
97     free(str);
98     return 0;
99 }
100 #endif
101
102 static krb5_error_code
103 DES3_string_to_key_derived(krb5_context context,
104                            krb5_enctype enctype,
105                            krb5_data password,
106                            krb5_salt salt,
107                            krb5_data opaque,
108                            krb5_keyblock *key)
109 {
110     krb5_error_code ret;
111     size_t len = password.length + salt.saltvalue.length;
112     char *s;
113
114     s = malloc(len);
115     if(len != 0 && s == NULL) {
116         krb5_set_error_message(context, ENOMEM, N_("malloc: out of memory", ""));
117         return ENOMEM;
118     }
119     memcpy(s, password.data, password.length);
120     memcpy(s + password.length, salt.saltvalue.data, salt.saltvalue.length);
121     ret = krb5_string_to_key_derived(context,
122                                      s,
123                                      len,
124                                      enctype,
125                                      key);
126     memset(s, 0, len);
127     free(s);
128     return ret;
129 }
130
131
132 #ifdef DES3_OLD_ENCTYPE
133 struct salt_type _krb5_des3_salt[] = {
134     {
135         KRB5_PW_SALT,
136         "pw-salt",
137         DES3_string_to_key
138     },
139     { 0 }
140 };
141 #endif
142
143 struct salt_type _krb5_des3_salt_derived[] = {
144     {
145         KRB5_PW_SALT,
146         "pw-salt",
147         DES3_string_to_key_derived
148     },
149     { 0 }
150 };