Modified revamp of the libsmbclient interface.
[samba.git] / source / libsmb / smbencrypt.c
index 270a659e57fba818c8e0889c5af43c3856f8d3c5..c547a4a0034c22589594bad6dbf32ba37edfde65 100644 (file)
@@ -9,7 +9,7 @@
    
    This program is free software; you can redistribute it and/or modify
    it under the terms of the GNU General Public License as published by
-   the Free Software Foundation; either version 2 of the License, or
+   the Free Software Foundation; either version 3 of the License, or
    (at your option) any later version.
    
    This program is distributed in the hope that it will be useful,
    GNU General Public License for more details.
    
    You should have received a copy of the GNU General Public License
-   along with this program; if not, write to the Free Software
-   Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
+   along with this program.  If not, see <http://www.gnu.org/licenses/>.
 */
 
 #include "includes.h"
 #include "byteorder.h"
 
-/*
-   This implements the X/Open SMB password encryption
-   It takes a password ('unix' string), a 8 byte "crypt key" 
-   and puts 24 bytes of encrypted password into p24 */
-void SMBencrypt(const char *passwd, const uchar *c8, uchar p24[24])
+void SMBencrypt_hash(const uchar lm_hash[16], const uchar *c8, uchar p24[24])
 {
        uchar p21[21];
 
        memset(p21,'\0',21);
-       E_deshash(passwd, p21); 
+       memcpy(p21, lm_hash, 16);
 
        SMBOWFencrypt(p21, c8, p24);
 
 #ifdef DEBUG_PASSWORD
-       DEBUG(100,("SMBencrypt: lm#, challenge, response\n"));
-       dump_data(100, (char *)p21, 16);
-       dump_data(100, (const char *)c8, 8);
-       dump_data(100, (char *)p24, 24);
+       DEBUG(100,("SMBencrypt_hash: lm#, challenge, response\n"));
+       dump_data(100, p21, 16);
+       dump_data(100, c8, 8);
+       dump_data(100, p24, 24);
 #endif
 }
 
+/*
+   This implements the X/Open SMB password encryption
+   It takes a password ('unix' string), a 8 byte "crypt key" 
+   and puts 24 bytes of encrypted password into p24 
+
+   Returns False if password must have been truncated to create LM hash
+*/
+
+bool SMBencrypt(const char *passwd, const uchar *c8, uchar p24[24])
+{
+       bool ret;
+       uchar lm_hash[16];
+
+       ret = E_deshash(passwd, lm_hash); 
+       SMBencrypt_hash(lm_hash, c8, p24);
+       return ret;
+}
+
 /**
  * Creates the MD4 Hash of the users password in NT UNICODE.
  * @param passwd password in 'unix' charset.
@@ -66,6 +79,26 @@ void E_md4hash(const char *passwd, uchar p16[16])
        ZERO_STRUCT(wpwd);      
 }
 
+/**
+ * Creates the MD5 Hash of a combination of 16 byte salt and 16 byte NT hash.
+ * @param 16 byte salt.
+ * @param 16 byte NT hash.
+ * @param 16 byte return hashed with md5, caller allocated 16 byte buffer
+ */
+
+void E_md5hash(const uchar salt[16], const uchar nthash[16], uchar hash_out[16])
+{
+       struct MD5Context tctx;
+       uchar array[32];
+       
+       memset(hash_out, '\0', 16);
+       memcpy(array, salt, 16);
+       memcpy(&array[16], nthash, 16);
+       MD5Init(&tctx);
+       MD5Update(&tctx, array, 32);
+       MD5Final(hash_out, &tctx);
+}
+
 /**
  * Creates the DES forward-only Hash of the users password in DOS ASCII charset
  * @param passwd password in 'unix' charset.
@@ -74,9 +107,9 @@ void E_md4hash(const char *passwd, uchar p16[16])
  * @note p16 is filled in regardless
  */
  
-BOOL E_deshash(const char *passwd, uchar p16[16])
+bool E_deshash(const char *passwd, uchar p16[16])
 {
-       BOOL ret = True;
+       bool ret = True;
        fstring dospwd; 
        ZERO_STRUCT(dospwd);
        
@@ -112,23 +145,23 @@ void nt_lm_owf_gen(const char *pwd, uchar nt_p16[16], uchar p16[16])
 
 #ifdef DEBUG_PASSWORD
        DEBUG(100,("nt_lm_owf_gen: pwd, nt#\n"));
-       dump_data(120, pwd, strlen(pwd));
-       dump_data(100, (char *)nt_p16, 16);
+       dump_data(120, (uint8 *)pwd, strlen(pwd));
+       dump_data(100, nt_p16, 16);
 #endif
 
        E_deshash(pwd, (uchar *)p16);
 
 #ifdef DEBUG_PASSWORD
        DEBUG(100,("nt_lm_owf_gen: pwd, lm#\n"));
-       dump_data(120, pwd, strlen(pwd));
-       dump_data(100, (char *)p16, 16);
+       dump_data(120, (uint8 *)pwd, strlen(pwd));
+       dump_data(100, p16, 16);
 #endif
 }
 
 /* Does both the NTLMv2 owfs of a user's password */
-BOOL ntv2_owf_gen(const uchar owf[16],
+bool ntv2_owf_gen(const uchar owf[16],
                  const char *user_in, const char *domain_in,
-                 BOOL upper_case_domain, /* Transform the domain into UPPER case */
+                 bool upper_case_domain, /* Transform the domain into UPPER case */
                  uchar kr_buf[16])
 {
        smb_ucs2_t *user;
@@ -170,10 +203,10 @@ BOOL ntv2_owf_gen(const uchar owf[16],
 
 #ifdef DEBUG_PASSWORD
        DEBUG(100, ("ntv2_owf_gen: user, domain, owfkey, kr\n"));
-       dump_data(100, (const char *)user, user_byte_len);
-       dump_data(100, (const char *)domain, domain_byte_len);
-       dump_data(100, owf, 16);
-       dump_data(100, kr_buf, 16);
+       dump_data(100, (uint8 *)user, user_byte_len);
+       dump_data(100, (uint8 *)domain, domain_byte_len);
+       dump_data(100, (uint8 *)owf, 16);
+       dump_data(100, (uint8 *)kr_buf, 16);
 #endif
 
        SAFE_FREE(user);
@@ -204,32 +237,40 @@ void NTLMSSPOWFencrypt(const uchar passwd[8], const uchar *ntlmchalresp, uchar p
        E_P24(p21, ntlmchalresp, p24);
 #ifdef DEBUG_PASSWORD
        DEBUG(100,("NTLMSSPOWFencrypt: p21, c8, p24\n"));
-       dump_data(100, (char *)p21, 21);
-       dump_data(100, (const char *)ntlmchalresp, 8);
-       dump_data(100, (char *)p24, 24);
+       dump_data(100, p21, 21);
+       dump_data(100, ntlmchalresp, 8);
+       dump_data(100, p24, 24);
 #endif
 }
 
 
-/* Does the NT MD4 hash then des encryption. */
+/* Does the des encryption. */
  
-void SMBNTencrypt(const char *passwd, uchar *c8, uchar *p24)
+void SMBNTencrypt_hash(const uchar nt_hash[16], uchar *c8, uchar *p24)
 {
        uchar p21[21];
  
        memset(p21,'\0',21);
-       E_md4hash(passwd, p21);    
+       memcpy(p21, nt_hash, 16);
        SMBOWFencrypt(p21, c8, p24);
 
 #ifdef DEBUG_PASSWORD
        DEBUG(100,("SMBNTencrypt: nt#, challenge, response\n"));
-       dump_data(100, (char *)p21, 16);
-       dump_data(100, (char *)c8, 8);
-       dump_data(100, (char *)p24, 24);
+       dump_data(100, p21, 16);
+       dump_data(100, c8, 8);
+       dump_data(100, p24, 24);
 #endif
 }
 
+/* Does the NT MD4 hash then des encryption. Plaintext version of the above. */
+
+void SMBNTencrypt(const char *passwd, uchar *c8, uchar *p24)
+{
+       uchar nt_hash[16];
+       E_md4hash(passwd, nt_hash);    
+       SMBNTencrypt_hash(nt_hash, c8, p24);
+}
+
 /* Does the md5 encryption from the Key Response for NTLMv2. */
 void SMBOWFencrypt_ntv2(const uchar kr[16],
                        const DATA_BLOB *srv_chal,
@@ -282,32 +323,6 @@ void SMBsesskeygen_ntv1(const uchar kr[16],
 #endif
 }
 
-void SMBsesskeygen_lmv1(const uchar lm_hash[16],
-                       const uchar lm_resp[24], /* only uses 8 */ 
-                       uint8 sess_key[16])
-{
-       /* Calculate the LM session key (effective length 40 bits,
-          but changes with each session) */
-
-       uchar p24[24];
-       uchar partial_lm_hash[16];
-       
-       memcpy(partial_lm_hash, lm_hash, 8);
-       memset(partial_lm_hash + 8, 0xbd, 8);    
-
-       SMBOWFencrypt(lm_hash, lm_resp, p24);
-       
-       memcpy(sess_key, p24, 16);
-       sess_key[5] = 0xe5;
-       sess_key[6] = 0x38;
-       sess_key[7] = 0xb0;
-
-#ifdef DEBUG_PASSWORD
-       DEBUG(100, ("SMBsesskeygen_lmv1:\n"));
-       dump_data(100, sess_key, 16);
-#endif
-}
-
 void SMBsesskeygen_lm_sess_key(const uchar lm_hash[16],
                        const uchar lm_resp[24], /* only uses 8 */ 
                        uint8 sess_key[16])
@@ -331,7 +346,7 @@ void SMBsesskeygen_lm_sess_key(const uchar lm_hash[16],
 DATA_BLOB NTLMv2_generate_names_blob(const char *hostname, 
                                     const char *domain)
 {
-       DATA_BLOB names_blob = data_blob(NULL, 0);
+       DATA_BLOB names_blob = data_blob_null;
        
        msrpc_gen(&names_blob, "aaa", 
                  NTLMSSP_NAME_TYPE_DOMAIN, domain,
@@ -343,10 +358,10 @@ DATA_BLOB NTLMv2_generate_names_blob(const char *hostname,
 static DATA_BLOB NTLMv2_generate_client_data(const DATA_BLOB *names_blob) 
 {
        uchar client_chal[8];
-       DATA_BLOB response = data_blob(NULL, 0);
+       DATA_BLOB response = data_blob_null;
        char long_date[8];
 
-       generate_random_buffer(client_chal, sizeof(client_chal), False);
+       generate_random_buffer(client_chal, sizeof(client_chal));
 
        put_long_date(long_date, time(NULL));
 
@@ -400,7 +415,7 @@ static DATA_BLOB LMv2_generate_response(const uchar ntlm_v2_hash[16],
        
        /* LMv2 */
        /* client-supplied random data */
-       generate_random_buffer(lmv2_client_data.data, lmv2_client_data.length, False);  
+       generate_random_buffer(lmv2_client_data.data, lmv2_client_data.length); 
 
        /* Given that data, and the challenge from the server, generate a response */
        SMBOWFencrypt_ntv2(ntlm_v2_hash, server_chal, &lmv2_client_data, lmv2_response);
@@ -416,33 +431,31 @@ static DATA_BLOB LMv2_generate_response(const uchar ntlm_v2_hash[16],
        return final_response;
 }
 
-BOOL SMBNTLMv2encrypt(const char *user, const char *domain, const char *password
+bool SMBNTLMv2encrypt_hash(const char *user, const char *domain, const uchar nt_hash[16]
                      const DATA_BLOB *server_chal, 
                      const DATA_BLOB *names_blob,
                      DATA_BLOB *lm_response, DATA_BLOB *nt_response, 
-                     DATA_BLOB *nt_session_key) 
+                     DATA_BLOB *user_session_key) 
 {
-       uchar nt_hash[16];
        uchar ntlm_v2_hash[16];
-       E_md4hash(password, nt_hash);
 
        /* We don't use the NT# directly.  Instead we use it mashed up with
           the username and domain.
           This prevents username swapping during the auth exchange
        */
-       if (!ntv2_owf_gen(nt_hash, user, domain, True, ntlm_v2_hash)) {
+       if (!ntv2_owf_gen(nt_hash, user, domain, False, ntlm_v2_hash)) {
                return False;
        }
        
        if (nt_response) {
                *nt_response = NTLMv2_generate_response(ntlm_v2_hash, server_chal,
                                                        names_blob); 
-               if (nt_session_key) {
-                       *nt_session_key = data_blob(NULL, 16);
+               if (user_session_key) {
+                       *user_session_key = data_blob(NULL, 16);
                        
                        /* The NTLMv2 calculations also provide a session key, for signing etc later */
                        /* use only the first 16 bytes of nt_response for session key */
-                       SMBsesskeygen_ntv2(ntlm_v2_hash, nt_response->data, nt_session_key->data);
+                       SMBsesskeygen_ntv2(ntlm_v2_hash, nt_response->data, user_session_key->data);
                }
        }
        
@@ -455,22 +468,43 @@ BOOL SMBNTLMv2encrypt(const char *user, const char *domain, const char *password
        return True;
 }
 
+/* Plaintext version of the above. */
+
+bool SMBNTLMv2encrypt(const char *user, const char *domain, const char *password, 
+                     const DATA_BLOB *server_chal, 
+                     const DATA_BLOB *names_blob,
+                     DATA_BLOB *lm_response, DATA_BLOB *nt_response, 
+                     DATA_BLOB *user_session_key) 
+{
+       uchar nt_hash[16];
+       E_md4hash(password, nt_hash);
+
+       return SMBNTLMv2encrypt_hash(user, domain, nt_hash,
+                               server_chal,
+                               names_blob,
+                               lm_response, nt_response,
+                               user_session_key);
+}
+
 /***********************************************************
  encode a password buffer with a unicode password.  The buffer
  is filled with random data to make it harder to attack.
 ************************************************************/
-BOOL encode_pw_buffer(char buffer[516], const char *password, int string_flags)
+bool encode_pw_buffer(uint8 buffer[516], const char *password, int string_flags)
 {
        uchar new_pw[512];
        size_t new_pw_len;
 
+       /* the incoming buffer can be any alignment. */
+       string_flags |= STR_NOALIGN;
+
        new_pw_len = push_string(NULL, new_pw,
                                 password, 
                                 sizeof(new_pw), string_flags);
        
        memcpy(&buffer[512 - new_pw_len], new_pw, new_pw_len);
 
-       generate_random_buffer((unsigned char *)buffer, 512 - new_pw_len, True);
+       generate_random_buffer(buffer, 512 - new_pw_len);
 
        /* 
         * The length of the new password is in the last 4 bytes of
@@ -487,12 +521,21 @@ BOOL encode_pw_buffer(char buffer[516], const char *password, int string_flags)
  *new_pw_len is the length in bytes of the possibly mulitbyte
  returned password including termination.
 ************************************************************/
-BOOL decode_pw_buffer(char in_buffer[516], char *new_pwrd,
-                     int new_pwrd_size, uint32 *new_pw_len,
-                     int string_flags)
+
+bool decode_pw_buffer(TALLOC_CTX *ctx,
+                       uint8 in_buffer[516],
+                       char **pp_new_pwrd,
+                       uint32 *new_pw_len,
+                       int string_flags)
 {
        int byte_len=0;
 
+       *pp_new_pwrd = NULL;
+       *new_pw_len = 0;
+
+       /* the incoming buffer can be any alignment. */
+       string_flags |= STR_NOALIGN;
+
        /*
          Warning !!! : This function is called from some rpc call.
          The password IN the buffer may be a UNICODE string.
@@ -512,19 +555,224 @@ BOOL decode_pw_buffer(char in_buffer[516], char *new_pwrd,
        if ( (byte_len < 0) || (byte_len > 512)) {
                DEBUG(0, ("decode_pw_buffer: incorrect password length (%d).\n", byte_len));
                DEBUG(0, ("decode_pw_buffer: check that 'encrypt passwords = yes'\n"));
-               return False;
+               return false;
        }
 
-       /* decode into the return buffer.  Buffer length supplied */
-       *new_pw_len = pull_string(NULL, new_pwrd, &in_buffer[512 - byte_len], new_pwrd_size, 
-                                 byte_len, string_flags);
+       /* decode into the return buffer. */
+       *new_pw_len = pull_string_talloc(ctx,
+                               NULL,
+                               0,
+                               pp_new_pwrd,
+                               &in_buffer[512 - byte_len],
+                               byte_len,
+                               string_flags);
+
+       if (!*pp_new_pwrd || *new_pw_len == 0) {
+               DEBUG(0, ("decode_pw_buffer: pull_string_talloc failed\n"));
+               return false;
+       }
 
 #ifdef DEBUG_PASSWORD
        DEBUG(100,("decode_pw_buffer: new_pwrd: "));
-       dump_data(100, (char *)new_pwrd, *new_pw_len);
+       dump_data(100, (uint8 *)*pp_new_pwrd, *new_pw_len);
        DEBUG(100,("multibyte len:%d\n", *new_pw_len));
        DEBUG(100,("original char len:%d\n", byte_len/2));
 #endif
+
+       return true;
+}
+
+/***********************************************************
+ Decode an arc4 encrypted password change buffer.
+************************************************************/
+
+void encode_or_decode_arc4_passwd_buffer(unsigned char pw_buf[532], const DATA_BLOB *psession_key)
+{
+       struct MD5Context tctx;
+       unsigned char key_out[16];
+
+       /* Confounder is last 16 bytes. */
+
+       MD5Init(&tctx);
+       MD5Update(&tctx, &pw_buf[516], 16);
+       MD5Update(&tctx, psession_key->data, psession_key->length);
+       MD5Final(key_out, &tctx);
+       /* arc4 with key_out. */
+       SamOEMhash(pw_buf, key_out, 516);
+}
+
+/***********************************************************
+ Encrypt/Decrypt used for LSA secrets and trusted domain
+ passwords.
+************************************************************/
+
+void sess_crypt_blob(DATA_BLOB *out, const DATA_BLOB *in, const DATA_BLOB *session_key, int forward)
+{
+       int i, k;
+
+       for (i=0,k=0;
+            i<in->length;
+            i += 8, k += 7) {
+               uint8 bin[8], bout[8], key[7];
+
+               memset(bin, 0, 8);
+               memcpy(bin,  &in->data[i], MIN(8, in->length-i));
+
+               if (k + 7 > session_key->length) {
+                       k = (session_key->length - k);
+               }
+               memcpy(key, &session_key->data[k], 7);
+
+               des_crypt56(bout, bin, key, forward?1:0);
+
+               memcpy(&out->data[i], bout, MIN(8, in->length-i));
+        }
+}
+
+/* Decrypts password-blob with session-key
+ * @param pass         password for session-key
+ * @param data_in      DATA_BLOB encrypted password
+ *
+ * Returns cleartext password in CH_UNIX 
+ * Caller must free the returned string
+ */
+
+char *decrypt_trustdom_secret(const char *pass, DATA_BLOB *data_in)
+{
+       DATA_BLOB data_out, sess_key;
+       uchar nt_hash[16];
+       uint32_t length;
+       uint32_t version;
+       fstring cleartextpwd;
+
+       if (!data_in || !pass)
+               return NULL;
+
+       /* generate md4 password-hash derived from the NT UNICODE password */
+       E_md4hash(pass, nt_hash);
+
+       /* hashed twice with md4 */
+       mdfour(nt_hash, nt_hash, 16);
+
+       /* 16-Byte session-key */
+       sess_key = data_blob(nt_hash, 16);
+       if (sess_key.data == NULL)
+               return NULL;
+       
+       data_out = data_blob(NULL, data_in->length);
+       if (data_out.data == NULL)
+               return NULL;
+       
+       /* decrypt with des3 */
+       sess_crypt_blob(&data_out, data_in, &sess_key, 0);
+
+       /* 4 Byte length, 4 Byte version */
+       length  = IVAL(data_out.data, 0);
+       version = IVAL(data_out.data, 4);
+
+       if (length > data_in->length - 8) {
+               DEBUG(0,("decrypt_trustdom_secret: invalid length (%d)\n", length));
+               return NULL;
+       }
+       
+       if (version != 1) {
+               DEBUG(0,("decrypt_trustdom_secret: unknown version number (%d)\n", version));
+               return NULL;
+       }
+       
+       rpcstr_pull(cleartextpwd, data_out.data + 8, sizeof(fstring), length, 0 );
+
+#ifdef DEBUG_PASSWORD
+       DEBUG(100,("decrypt_trustdom_secret: length is: %d, version is: %d, password is: %s\n", 
+                               length, version, cleartextpwd));
+#endif
+
+       data_blob_free(&data_out);
+       data_blob_free(&sess_key);
        
-       return True;
+       return SMB_STRDUP(cleartextpwd);
+
+}
+
+/* encode a wkssvc_PasswordBuffer:
+ *
+ * similar to samr_CryptPasswordEx. Different: 8byte confounder (instead of
+ * 16byte), confounder in front of the 516 byte buffer (instead of after that
+ * buffer), calling MD5Update() first with session_key and then with confounder
+ * (vice versa in samr) - Guenther */
+
+void encode_wkssvc_join_password_buffer(TALLOC_CTX *mem_ctx,
+                                       const char *pwd,
+                                       DATA_BLOB *session_key,
+                                       struct wkssvc_PasswordBuffer **pwd_buf)
+{
+       uint8_t buffer[516];
+       struct MD5Context ctx;
+       struct wkssvc_PasswordBuffer *my_pwd_buf = NULL;
+       DATA_BLOB confounded_session_key;
+       int confounder_len = 8;
+       uint8_t confounder[8];
+
+       my_pwd_buf = talloc_zero(mem_ctx, struct wkssvc_PasswordBuffer);
+       if (!my_pwd_buf) {
+               return;
+       }
+
+       confounded_session_key = data_blob_talloc(mem_ctx, NULL, 16);
+
+       encode_pw_buffer(buffer, pwd, STR_UNICODE);
+
+       generate_random_buffer((uint8_t *)confounder, confounder_len);
+
+       MD5Init(&ctx);
+       MD5Update(&ctx, session_key->data, session_key->length);
+       MD5Update(&ctx, confounder, confounder_len);
+       MD5Final(confounded_session_key.data, &ctx);
+
+       SamOEMhashBlob(buffer, 516, &confounded_session_key);
+
+       memcpy(&my_pwd_buf->data[0], confounder, confounder_len);
+       memcpy(&my_pwd_buf->data[8], buffer, 516);
+
+       data_blob_free(&confounded_session_key);
+
+       *pwd_buf = my_pwd_buf;
+}
+
+WERROR decode_wkssvc_join_password_buffer(TALLOC_CTX *mem_ctx,
+                                         struct wkssvc_PasswordBuffer *pwd_buf,
+                                         DATA_BLOB *session_key,
+                                         char **pwd)
+{
+       uint8_t buffer[516];
+       struct MD5Context ctx;
+       uint32_t pwd_len;
+
+       DATA_BLOB confounded_session_key = data_blob_talloc(mem_ctx, NULL, 16);
+
+       int confounder_len = 8;
+       uint8_t confounder[8];
+
+       if (session_key->length != 16) {
+               DEBUG(10,("invalid session key\n"));
+               return WERR_BAD_PASSWORD;
+       }
+
+       memcpy(&confounder, &pwd_buf->data[0], confounder_len);
+       memcpy(&buffer, &pwd_buf->data[8], 516);
+
+       MD5Init(&ctx);
+       MD5Update(&ctx, session_key->data, session_key->length);
+       MD5Update(&ctx, confounder, confounder_len);
+       MD5Final(confounded_session_key.data, &ctx);
+
+       SamOEMhashBlob(buffer, 516, &confounded_session_key);
+
+       if (!decode_pw_buffer(mem_ctx, buffer, pwd, &pwd_len, STR_UNICODE)) {
+               return WERR_BAD_PASSWORD;
+       }
+
+       data_blob_free(&confounded_session_key);
+
+       return WERR_OK;
 }