2738103692bbbd5b33ae64431983e21014c73e74
[samba.git] / source3 / libsmb / smbencrypt.c
1 /* 
2    Unix SMB/Netbios implementation.
3    Version 1.9.
4    SMB parameters and setup
5    Copyright (C) Andrew Tridgell 1992-1997
6    Modified by Jeremy Allison 1995.
7    
8    This program is free software; you can redistribute it and/or modify
9    it under the terms of the GNU General Public License as published by
10    the Free Software Foundation; either version 2 of the License, or
11    (at your option) any later version.
12    
13    This program is distributed in the hope that it will be useful,
14    but WITHOUT ANY WARRANTY; without even the implied warranty of
15    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
16    GNU General Public License for more details.
17    
18    You should have received a copy of the GNU General Public License
19    along with this program; if not, write to the Free Software
20    Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
21 */
22
23 #include "includes.h"
24
25 extern int DEBUGLEVEL;
26
27 #include "byteorder.h"
28
29 void E1(uchar *k, uchar *d, uchar *out)
30 {
31         smbdes(out, d, k);
32 }
33  
34 void E_P16(uchar *p14,uchar *p16)
35 {
36         /* the following constant makes us compatible with other
37            implementations. Note that publishing this constant does not reduce the
38            security of the encryption mechanism */
39         uchar sp8[] = {0x4b, 0x47, 0x53, 0x21, 0x40, 0x23, 0x24, 0x25};
40         E1(p14, sp8, p16);
41         E1(p14+7, sp8, p16+8);
42 }
43
44 void E_P24(uchar *p21, uchar *c8, uchar *p24)
45 {
46         E1(p21, c8, p24);
47         E1(p21+7, c8, p24+8);
48         E1(p21+14, c8, p24+16);
49 }
50
51
52 /*
53    This implements the X/Open SMB password encryption
54    It takes a password, a 8 byte "crypt key" and puts 24 bytes of 
55    encrypted password into p24 */
56 void SMBencrypt(uchar *passwd, uchar *c8, uchar *p24)
57 {
58   uchar p14[15], p21[21];
59
60   memset(p21,'\0',21);
61   memset(p14,'\0',14);
62   StrnCpy((char *)p14,(char *)passwd,14);
63
64   strupper((char *)p14);
65   E_P16(p14, p21); 
66   E_P24(p21, c8, p24);
67 }
68
69 /* Routines for Windows NT MD4 Hash functions. */
70 static int _my_wcslen(int16 *str)
71 {
72         int len = 0;
73         while(*str++ != 0)
74                 len++;
75         return len;
76 }
77
78 /*
79  * Convert a string into an NT UNICODE string.
80  * Note that regardless of processor type 
81  * this must be in intel (little-endian)
82  * format.
83  */
84  
85 static int _my_mbstowcs(int16 *dst, uchar *src, int len)
86 {
87         int i;
88         int16 val;
89  
90         for(i = 0; i < len; i++) {
91                 val = *src;
92                 SSVAL(dst,0,val);
93                 dst++;
94                 src++;
95                 if(val == 0)
96                         break;
97         }
98         return i;
99 }
100
101 /* 
102  * Creates the MD4 Hash of the users password in NT UNICODE.
103  */
104  
105 void E_md4hash(uchar *passwd, uchar *p16)
106 {
107         int len;
108         int16 wpwd[129];
109         
110         /* Password cannot be longer than 128 characters */
111         len = strlen((char *)passwd);
112         if(len > 128)
113                 len = 128;
114         /* Password must be converted to NT unicode */
115         _my_mbstowcs(wpwd, passwd, len);
116         wpwd[len] = 0; /* Ensure string is null terminated */
117         /* Calculate length in bytes */
118         len = _my_wcslen(wpwd) * sizeof(int16);
119
120         mdfour(p16, (unsigned char *)wpwd, len);
121 }
122
123 /* Does the NT MD4 hash then des encryption. */
124  
125 void SMBNTencrypt(uchar *passwd, uchar *c8, uchar *p24)
126 {
127         uchar p21[21];
128  
129         memset(p21,'\0',21);
130  
131         E_md4hash(passwd, p21);    
132         E_P24(p21, c8, p24);
133 }
134