Fixed for FreeBsd.
[samba.git] / source3 / libsmb / smbencrypt.c
1 #ifdef SMB_PASSWD
2 /* 
3    Unix SMB/Netbios implementation.
4    Version 1.9.
5    SMB parameters and setup
6    Copyright (C) Andrew Tridgell 1992-1995
7    Modified by Jeremy Allison 1995.
8    
9    This program is free software; you can redistribute it and/or modify
10    it under the terms of the GNU General Public License as published by
11    the Free Software Foundation; either version 2 of the License, or
12    (at your option) any later version.
13    
14    This program is distributed in the hope that it will be useful,
15    but WITHOUT ANY WARRANTY; without even the implied warranty of
16    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17    GNU General Public License for more details.
18    
19    You should have received a copy of the GNU General Public License
20    along with this program; if not, write to the Free Software
21    Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
22 */
23
24 #include "includes.h"
25 #include "des.h"
26 #include "md4.h"
27
28 extern int DEBUGLEVEL;
29
30 #include "byteorder.h"
31
32 void str_to_key(uchar *str,uchar *key)
33 {
34   void des_set_odd_parity(des_cblock *);
35   int i;
36
37   key[0] = str[0]>>1;
38   key[1] = ((str[0]&0x01)<<6) | (str[1]>>2);
39   key[2] = ((str[1]&0x03)<<5) | (str[2]>>3);
40   key[3] = ((str[2]&0x07)<<4) | (str[3]>>4);
41   key[4] = ((str[3]&0x0F)<<3) | (str[4]>>5);
42   key[5] = ((str[4]&0x1F)<<2) | (str[5]>>6);
43   key[6] = ((str[5]&0x3F)<<1) | (str[6]>>7);
44   key[7] = str[6]&0x7F;
45   for (i=0;i<8;i++) {
46     key[i] = (key[i]<<1);
47   }
48   des_set_odd_parity((des_cblock *)key);
49 }
50
51 void D1(uchar *k, uchar *d, uchar *out)
52 {
53   des_key_schedule ks;
54   des_cblock deskey;
55
56   str_to_key(k,(uchar *)deskey);
57 #ifdef __FreeBSD__
58   des_set_key(&deskey,ks);
59 #else /* __FreeBSD__ */
60   des_set_key((des_cblock *)deskey,ks);
61 #endif /* __FreeBsd */
62   des_ecb_encrypt((des_cblock *)d,(des_cblock *)out, ks, DES_DECRYPT);
63 }
64
65 void E1(uchar *k, uchar *d, uchar *out)
66 {
67   des_key_schedule ks;
68   des_cblock deskey;
69
70   str_to_key(k,(uchar *)deskey);
71 #ifdef __FreeBSD__
72   des_set_key(&deskey,ks);
73 #else /* __FreeBsd__ */
74   des_set_key((des_cblock *)deskey,ks);
75 #endif /* __FreeBsd__ */
76   des_ecb_encrypt((des_cblock *)d,(des_cblock *)out, ks, DES_ENCRYPT);
77 }
78  
79 void E_P16(uchar *p14,uchar *p16)
80 {
81   uchar sp7[7];
82   /* the following constant makes us compatible with other
83   implementations. Note that publishing this constant does not reduce the
84   security of the encryption mechanism */
85   uchar sp8[] = {0xAA,0xD3,0xB4,0x35,0xB5,0x14,0x4,0xEE};
86   uchar x[8];
87
88   memset(sp7,'\0',7);
89
90   D1(sp7, sp8, x);
91   E1(p14, x, p16);
92   E1(p14+7, x, p16+8);
93 }
94
95 void E_P24(uchar *p21, uchar *c8, uchar *p24)
96 {
97   E1(p21, c8, p24);
98   E1(p21+7, c8, p24+8);
99   E1(p21+14, c8, p24+16);
100 }
101
102
103 /*
104    This implements the X/Open SMB password encryption
105    It takes a password, a 8 byte "crypt key" and puts 24 bytes of 
106    encrypted password into p24 */
107 void SMBencrypt(uchar *passwd, uchar *c8, uchar *p24)
108 {
109   uchar p14[15], p21[21];
110
111   memset(p21,'\0',21);
112   memset(p14,'\0',14);
113   StrnCpy((char *)p14,(char *)passwd,14);
114
115   strupper((char *)p14);
116   E_P16(p14, p21); 
117   E_P24(p21, c8, p24);
118 }
119
120 /* Routines for Windows NT MD4 Hash functions. */
121 static int _my_wcslen(int16 *str)
122 {
123         int len = 0;
124         while(*str++ != 0)
125                 len++;
126         return len;
127 }
128
129 /*
130  * Convert a string into an NT UNICODE string.
131  * Note that regardless of processor type 
132  * this must be in intel (little-endian)
133  * format.
134  */
135  
136 static int _my_mbstowcs(int16 *dst, uchar *src, int len)
137 {
138         int i;
139         int16 val;
140  
141         for(i = 0; i < len; i++) {
142                 val = *src;
143                 SSVAL(dst,0,val);
144                 dst++;
145                 src++;
146                 if(val == 0)
147                         break;
148         }
149         return i;
150 }
151
152 /* 
153  * Creates the MD4 Hash of the users password in NT UNICODE.
154  */
155  
156 void E_md4hash(uchar *passwd, uchar *p16)
157 {
158         int i, len;
159         int16 wpwd[129];
160         MDstruct MD;
161  
162         /* Password cannot be longer than 128 characters */
163         len = strlen((char *)passwd);
164         if(len > 128)
165                 len = 128;
166         /* Password must be converted to NT unicode */
167         _my_mbstowcs( wpwd, passwd, len);
168         wpwd[len] = 0; /* Ensure string is null terminated */
169         /* Calculate length in bytes */
170         len = _my_wcslen(wpwd) * sizeof(int16);
171  
172         MDbegin(&MD);
173         for(i = 0; i + 64 <= len; i += 64)
174                 MDupdate(&MD,wpwd + (i/2), 512);
175         MDupdate(&MD,wpwd + (i/2),(len-i)*8);
176         SIVAL(p16,0,MD.buffer[0]);
177         SIVAL(p16,4,MD.buffer[1]);
178         SIVAL(p16,8,MD.buffer[2]);
179         SIVAL(p16,12,MD.buffer[3]);
180 }
181
182 /* Does the NT MD4 hash then des encryption. */
183  
184 void SMBNTencrypt(uchar *passwd, uchar *c8, uchar *p24)
185 {
186         uchar p21[21];
187  
188         memset(p21,'\0',21);
189  
190         E_md4hash(passwd, p21);    
191         E_P24(p21, c8, p24);
192 }
193
194 #else
195  void smbencrypt_dummy(void){}
196 #endif