epan/dissectors/packet-ssl-utils.c

   1 /* packet-ssl-utils.c
   2  *
   3  * $Id$
   4  *
   5  * ssl manipulation functions
   6  * By Paolo Abeni <paolo.abeni@email.com>
   7  *
   8  * This program is free software; you can redistribute it and/or
   9  * modify it under the terms of the GNU General Public License
  10  * as published by the Free Software Foundation; either version 2
  11  * of the License, or (at your option) any later version.
  12  *
  13  * This program is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  16  * GNU General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU General Public License
  19  * along with this program; if not, write to the Free Software
  20  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA  02111-1307, USA.
  21  */
  22
  23 #ifdef HAVE_CONFIG_H
  24 # include "config.h"
  25 #endif
  26
  27 #include <stdio.h>
  28 #include <stdlib.h>
  29 #include <string.h>
  30 #include "packet-ssl-utils.h"
  31
  32 void
  33 ssl_data_set(StringInfo* str, unsigned char* data, unsigned int len)
  34 {
  35     memcpy(str->data, data, len);
  36     str->data_len = len;
  37 }
  38
  39 #ifdef HAVE_LIBGNUTLS
  40
  41 /* hmac abstraction layer */
  42 #define SSL_HMAC gcry_md_hd_t
  43
  44 static inline void
  45 ssl_hmac_init(SSL_HMAC* md, const void * key, int len, int algo)
  46 {
  47     if (*(md))
  48         gcry_md_close(*(md));
  49     gcry_md_open(md,algo, GCRY_MD_FLAG_HMAC);
  50     gcry_md_setkey (*(md), key, len);
  51 }
  52
  53 static inline void
  54 ssl_hmac_update(SSL_HMAC* md, const void* data, int len)
  55 {
  56     gcry_md_write(*(md), data, len);
  57 }
  58 static inline void
  59 ssl_hmac_final(SSL_HMAC* md, unsigned char* data, unsigned int* datalen)
  60 {
  61     int algo = gcry_md_get_algo (*(md));
  62     unsigned int len = gcry_md_get_algo_dlen(algo);
  63     memcpy(data, gcry_md_read(*(md), algo), len);
  64     *datalen =len;
  65 }
  66 static inline void
  67 ssl_hmac_cleanup(SSL_HMAC* md)
  68 {
  69     gcry_md_close(*(md));
  70 }
  71
  72 /* memory digest abstraction layer*/
  73 #define SSL_MD gcry_md_hd_t
  74
  75 static inline void
  76 ssl_md_init(SSL_MD* md, int algo)
  77 {
  78     if (*(md))
  79         gcry_md_close(*(md));
  80     gcry_md_open(md,algo, 0);
  81 }
  82 static inline void
  83 ssl_md_update(SSL_MD* md, unsigned char* data, int len)
  84 {
  85     gcry_md_write(*(md), data, len);
  86 }
  87 static inline void
  88 ssl_md_final(SSL_MD* md, unsigned char* data, unsigned int* datalen)
  89 {
  90     int algo = gcry_md_get_algo (*(md));
  91     int len = gcry_md_get_algo_dlen (algo);
  92     memcpy(data, gcry_md_read(*(md),  algo), len);
  93     *datalen = len;
  94 }
  95 static inline void
  96 ssl_md_cleanup(SSL_MD* md) { gcry_md_close(*(md)); }
  97
  98 /* md5 /sha abstraction layer */
  99 #define SSL_SHA_CTX gcry_md_hd_t
 100 #define SSL_MD5_CTX gcry_md_hd_t
 101
 102 static void
 103 ssl_sha_init(SSL_SHA_CTX* md)
 104 {
 105     if (*(md))
 106         gcry_md_close(*(md));
 107     gcry_md_open(md,GCRY_MD_SHA1, 0);
 108 }
 109 static inline void
 110 ssl_sha_update(SSL_SHA_CTX* md, unsigned char* data, int len)
 111 {
 112     gcry_md_write(*(md), data, len);
 113 }
 114 static inline void
 115 ssl_sha_final(unsigned char* buf, SSL_SHA_CTX* md)
 116 {
 117     memcpy(buf, gcry_md_read(*(md),  GCRY_MD_SHA1),
 118         gcry_md_get_algo_dlen(GCRY_MD_SHA1));
 119 }
 120
 121 static inline int
 122 ssl_md5_init(SSL_MD5_CTX* md)
 123 {
 124     if (*(md))
 125         gcry_md_close(*(md));
 126     return gcry_md_open(md,GCRY_MD_MD5, 0);
 127 }
 128 static inline void
 129 ssl_md5_update(SSL_MD5_CTX* md, unsigned char* data, int len)
 130 {
 131     gcry_md_write(*(md), data, len);
 132 }
 133 static inline void
 134 ssl_md5_final(unsigned char* buf, SSL_MD5_CTX* md)
 135 {
 136     memcpy(buf, gcry_md_read(*(md),  GCRY_MD_MD5),
 137         gcry_md_get_algo_dlen(GCRY_MD_MD5));
 138 }
 139
 140
 141 /* stream cipher abstraction layer*/
 142 static int
 143 ssl_cipher_init(gcry_cipher_hd_t *cipher, int algo, unsigned char* sk,
 144         unsigned char* iv, int mode)
 145 {
 146     int gcry_modes[]={
 147         GCRY_CIPHER_MODE_STREAM,
 148         GCRY_CIPHER_MODE_CBC
 149     };
 150     int err = gcry_cipher_open(cipher, algo, gcry_modes[mode], 0);
 151     if (err !=0)
 152         return  -1;
 153     err = gcry_cipher_setkey(*(cipher), sk, gcry_cipher_get_algo_keylen (algo));
 154     if (err != 0)
 155         return -1;
 156     err = gcry_cipher_setiv(*(cipher), iv, gcry_cipher_get_algo_blklen (algo));
 157     if (err != 0)
 158         return -1;
 159     return 0;
 160 }
 161 static inline int
 162 ssl_cipher_decrypt(gcry_cipher_hd_t *cipher, unsigned char * out, int outl,
 163                    const unsigned char * in,int inl)
 164 {
 165     return gcry_cipher_decrypt ( *(cipher), out, outl, in, inl);
 166 }
 167 static inline int
 168 ssl_get_digest_by_name(const char*name)
 169 {
 170     return gcry_md_map_name(name);
 171 }
 172 static inline int
 173 ssl_get_cipher_by_name(const char* name)
 174 {
 175     return gcry_cipher_map_name(name);
 176 }
 177
 178 /* private key abstraction layer */
 179 static inline int
 180 ssl_get_key_len(SSL_PRIVATE_KEY* pk) {return gcry_pk_get_nbits (pk); }
 181
 182 gcry_err_code_t
 183 _gcry_rsa_decrypt (int algo, gcry_mpi_t *result, gcry_mpi_t *data,
 184                    gcry_mpi_t *skey, int flags);
 185
 186 #define PUBKEY_FLAG_NO_BLINDING (1 << 0)
 187
 188 /* decrypt data with private key. Store decrypted data directly into input
 189  * buffer */
 190 int
 191 ssl_private_decrypt(unsigned int len, unsigned char* encr_data, SSL_PRIVATE_KEY* pk)
 192 {
 193     int rc;
 194     size_t decr_len = 0;
 195     gcry_sexp_t  s_data, s_plain;
 196     gcry_mpi_t encr_mpi;
 197     size_t i, encr_len = len;
 198     unsigned char* decr_data_ptr;
 199     gcry_mpi_t text=NULL;
 200
 201     /* build up a mpi rappresentation for encrypted data */
 202     rc = gcry_mpi_scan(&encr_mpi, GCRYMPI_FMT_USG,encr_data, encr_len, &encr_len);
 203     if (rc != 0 ) {
 204         ssl_debug_printf("pcry_private_decrypt: can't convert encr_data to mpi (size %d):%s\n",
 205             len, gcry_strerror(rc));
 206         return 0;
 207     }
 208
 209 #ifndef SSL_FAST
 210     /* put the data into a simple list */
 211     rc = gcry_sexp_build(&s_data, NULL, "(enc-val(rsa(a%m)))", encr_mpi);
 212     if (rc != 0) {
 213         ssl_debug_printf("pcry_private_decrypt: can't build encr_sexp:%s \n",
 214              gcry_strerror(rc));
 215         return 0;
 216     }
 217
 218     /* pass it to libgcrypt */
 219     rc = gcry_pk_decrypt(&s_plain, s_data, pk);
 220     gcry_sexp_release(s_data);
 221     if (rc != 0)
 222     {
 223         ssl_debug_printf("pcry_private_decrypt: can't decrypt key:%s\n",
 224             gcry_strerror(rc));
 225         goto out;
 226     }
 227
 228     /* convert plain text sexp to mpi format */
 229     text = gcry_sexp_nth_mpi(s_plain, 0, 0);
 230
 231     /* compute size requested for plaintext buffer */
 232     decr_len = len;
 233     if (gcry_mpi_print(GCRYMPI_FMT_USG, NULL, decr_len, &decr_len, text) != 0) {
 234         ssl_debug_printf("pcry_private_decrypt: can't compute decr size:%s\n",
 235             gcry_strerror(rc));
 236         decr_len = 0;
 237         goto out;
 238     }
 239
 240     /* sanity check on out buffer */
 241     if (decr_len > len) {
 242         ssl_debug_printf("pcry_private_decrypt: decrypted data is too long ?!? (%d max %d)\n",
 243             decr_len, len);
 244         return 0;
 245     }
 246
 247     /* write plain text to encrypted data buffer */
 248     decr_data_ptr = encr_data;
 249     if (gcry_mpi_print( GCRYMPI_FMT_USG, decr_data_ptr, decr_len, &decr_len,
 250             text) != 0) {
 251         ssl_debug_printf("pcry_private_decrypt: can't print decr data to mpi (size %d):%s\n",
 252             decr_len, gcry_strerror(rc));
 253         g_free(decr_data_ptr);
 254         decr_len = 0;
 255         goto out;
 256     }
 257
 258     /* strip the padding*/
 259     rc = 0;
 260     for (i = 1; i < decr_len; i++) {
 261         if (decr_data_ptr[i] == 0) {
 262             rc = i+1;
 263             break;
 264         }
 265     }
 266
 267     ssl_debug_printf("pcry_private_decrypt: stripping %d bytes, decr_len %d\n",
 268         rc, decr_len);
 269     ssl_print_data("decypted_unstrip_pre_master", decr_data_ptr, decr_len);
 270     g_memmove(decr_data_ptr, &decr_data_ptr[rc], decr_len - rc);
 271     decr_len -= rc;
 272
 273 out:
 274     gcry_sexp_release(s_plain);
 275 #else /* SSL_FAST */
 276     rc = _gcry_rsa_decrypt(0, &text,  &encr_mpi, pk,0);
 277     gcry_mpi_print( GCRYMPI_FMT_USG, 0, 0, &decr_len, text);
 278
 279     /* sanity check on out buffer */
 280     if (decr_len > len) {
 281         ssl_debug_printf("pcry_private_decrypt: decrypted data is too long ?!? (%d max %d)\n",
 282             decr_len, len);
 283         return 0;
 284     }
 285
 286     /* write plain text to newly allocated buffer */
 287     decr_data_ptr = encr_data;
 288     if (gcry_mpi_print( GCRYMPI_FMT_USG, decr_data_ptr, decr_len, &decr_len,
 289             text) != 0) {
 290         ssl_debug_printf("pcry_private_decrypt: can't print decr data to mpi (size %d):%s\n",
 291             decr_len, gcry_strerror(rc));
 292         return 0;
 293     }
 294
 295     /* strip the padding*/
 296     rc = 0;
 297     for (i = 1; i < decr_len; i++) {
 298         if (decr_data_ptr[i] == 0) {
 299             rc = i+1;
 300             break;
 301         }
 302     }
 303
 304     ssl_debug_printf("pcry_private_decrypt: stripping %d bytes, decr_len %d\n",
 305         rc, decr_len);
 306     ssl_print_data("decypted_unstrip_pre_master", decr_data_ptr, decr_len);
 307     g_memmove(decr_data_ptr, &decr_data_ptr[rc], decr_len - rc);
 308     decr_len -= rc;
 309 #endif /* SSL_FAST */
 310     gcry_mpi_release(text);
 311     return decr_len;
 312 }
 313
 314 /* stringinfo interface */
 315 static int
 316 ssl_data_alloc(StringInfo* str, unsigned int len)
 317 {
 318     str->data = g_malloc(len);
 319     if (!str->data)
 320         return -1;
 321     str->data_len = len;
 322     return 0;
 323 }
 324
 325 #define PRF(ssl,secret,usage,rnd1,rnd2,out) ((ssl->version_netorder==SSLV3_VERSION)? \
 326         ssl3_prf(secret,usage,rnd1,rnd2,out): \
 327         tls_prf(secret,usage,rnd1,rnd2,out))
 328
 329 static const char *digests[]={
 330      "MD5",
 331      "SHA1"
 332 };
 333
 334 static const char *ciphers[]={
 335      "DES",
 336      "DES3",
 337      "ARCFOUR", /* gnutls does not support rc4, but this should be 100% compatible*/
 338      "RC2",
 339      "IDEA",
 340      "AES",
 341      "AES256"
 342 };
 343
 344 /* look in openssl/ssl/ssl_lib.c for a complete list of available cipersuite*/
 345 static SslCipherSuite cipher_suites[]={
 346      {1,KEX_RSA,SIG_RSA,ENC_NULL,0,0,0,DIG_MD5,16,0, SSL_CIPHER_MODE_STREAM},
 347      {2,KEX_RSA,SIG_RSA,ENC_NULL,0,0,0,DIG_SHA,20,0, SSL_CIPHER_MODE_STREAM},
 348      {3,KEX_RSA,SIG_RSA,ENC_RC4,1,128,40,DIG_MD5,16,1, SSL_CIPHER_MODE_STREAM},
 349      {4,KEX_RSA,SIG_RSA,ENC_RC4,1,128,128,DIG_MD5,16,0, SSL_CIPHER_MODE_STREAM},
 350      {5,KEX_RSA,SIG_RSA,ENC_RC4,1,128,128,DIG_SHA,20,0, SSL_CIPHER_MODE_STREAM},
 351      {6,KEX_RSA,SIG_RSA,ENC_RC2,8,128,40,DIG_SHA,20,1, SSL_CIPHER_MODE_STREAM},
 352      {7,KEX_RSA,SIG_RSA,ENC_IDEA,8,128,128,DIG_SHA,20,0, SSL_CIPHER_MODE_STREAM},
 353      {8,KEX_RSA,SIG_RSA,ENC_DES,8,64,40,DIG_SHA,20,1, SSL_CIPHER_MODE_STREAM},
 354      {9,KEX_RSA,SIG_RSA,ENC_DES,8,64,64,DIG_SHA,20,0, SSL_CIPHER_MODE_STREAM},
 355      {10,KEX_RSA,SIG_RSA,ENC_3DES,8,192,192,DIG_SHA,20,0, SSL_CIPHER_MODE_STREAM},
 356      {11,KEX_DH,SIG_DSS,ENC_DES,8,64,40,DIG_SHA,20,1, SSL_CIPHER_MODE_STREAM},
 357      {12,KEX_DH,SIG_DSS,ENC_DES,8,64,64,DIG_SHA,20,0, SSL_CIPHER_MODE_STREAM},
 358      {13,KEX_DH,SIG_DSS,ENC_3DES,8,192,192,DIG_SHA,20,0, SSL_CIPHER_MODE_STREAM},
 359      {14,KEX_DH,SIG_RSA,ENC_DES,8,64,40,DIG_SHA,20,1, SSL_CIPHER_MODE_STREAM},
 360      {15,KEX_DH,SIG_RSA,ENC_DES,8,64,64,DIG_SHA,20,0, SSL_CIPHER_MODE_STREAM},
 361      {16,KEX_DH,SIG_RSA,ENC_3DES,8,192,192,DIG_SHA,20,0, SSL_CIPHER_MODE_STREAM},
 362      {17,KEX_DH,SIG_DSS,ENC_DES,8,64,40,DIG_SHA,20,1, SSL_CIPHER_MODE_STREAM},
 363      {18,KEX_DH,SIG_DSS,ENC_DES,8,64,64,DIG_SHA,20,0, SSL_CIPHER_MODE_STREAM},
 364      {19,KEX_DH,SIG_DSS,ENC_3DES,8,192,192,DIG_SHA,20,0, SSL_CIPHER_MODE_STREAM},
 365      {20,KEX_DH,SIG_RSA,ENC_DES,8,64,40,DIG_SHA,20,1, SSL_CIPHER_MODE_STREAM},
 366      {21,KEX_DH,SIG_RSA,ENC_DES,8,64,64,DIG_SHA,20,0, SSL_CIPHER_MODE_STREAM},
 367      {22,KEX_DH,SIG_RSA,ENC_3DES,8,192,192,DIG_SHA,20,0, SSL_CIPHER_MODE_STREAM},
 368      {23,KEX_DH,SIG_NONE,ENC_RC4,1,128,40,DIG_MD5,16,1, SSL_CIPHER_MODE_STREAM},
 369      {24,KEX_DH,SIG_NONE,ENC_RC4,1,128,128,DIG_MD5,16,0, SSL_CIPHER_MODE_STREAM},
 370      {25,KEX_DH,SIG_NONE,ENC_DES,8,64,40,DIG_MD5,16,1, SSL_CIPHER_MODE_STREAM},
 371      {26,KEX_DH,SIG_NONE,ENC_DES,8,64,64,DIG_MD5,16,0, SSL_CIPHER_MODE_STREAM},
 372      {27,KEX_DH,SIG_NONE,ENC_3DES,8,192,192,DIG_MD5,16,0, SSL_CIPHER_MODE_STREAM},
 373      {47,KEX_RSA,SIG_RSA,ENC_AES,16,128,128,DIG_SHA,20,0, SSL_CIPHER_MODE_CBC},
 374      {53,KEX_RSA,SIG_RSA,ENC_AES256,16,256,256,DIG_SHA,20,0, SSL_CIPHER_MODE_CBC},
 375      {96,KEX_RSA,SIG_RSA,ENC_RC4,1,128,56,DIG_MD5,16,1, SSL_CIPHER_MODE_STREAM},
 376      {97,KEX_RSA,SIG_RSA,ENC_RC2,1,128,56,DIG_MD5,16,1, SSL_CIPHER_MODE_STREAM},
 377      {98,KEX_RSA,SIG_RSA,ENC_DES,8,64,64,DIG_SHA,20,1, SSL_CIPHER_MODE_STREAM},
 378      {99,KEX_DH,SIG_DSS,ENC_DES,8,64,64,DIG_SHA,16,1, SSL_CIPHER_MODE_STREAM},
 379      {100,KEX_RSA,SIG_RSA,ENC_RC4,1,128,56,DIG_SHA,20,1, SSL_CIPHER_MODE_STREAM},
 380      {101,KEX_DH,SIG_DSS,ENC_RC4,1,128,56,DIG_SHA,20,1, SSL_CIPHER_MODE_STREAM},
 381      {102,KEX_DH,SIG_DSS,ENC_RC4,1,128,128,DIG_SHA,20,0, SSL_CIPHER_MODE_STREAM},
 382      {-1, 0,0,0,0,0,0,0,0,0, 0}
 383 };
 384
 385 #define MAX_BLOCK_SIZE 16
 386 #define MAX_KEY_SIZE 32
 387
 388 int
 389 ssl_find_cipher(int num,SslCipherSuite* cs)
 390 {
 391     SslCipherSuite *c;
 392
 393     for(c=cipher_suites;c->number!=-1;c++){
 394         if(c->number==num){
 395             *cs=*c;
 396             return 0;
 397         }
 398     }
 399
 400     return -1;
 401 }
 402
 403 static int
 404 tls_hash(StringInfo* secret,
 405         StringInfo* seed, int md, StringInfo* out)
 406 {
 407     guint8 *ptr=out->data;
 408     unsigned int left=out->data_len;
 409     int tocpy;
 410     guint8 *A;
 411     guint8 _A[20],tmp[20];
 412     unsigned int A_l,tmp_l;
 413     SSL_HMAC hm;
 414
 415     memset(&hm, 0, sizeof(hm));
 416     ssl_print_string("tls_hash: hash secret", secret);
 417     ssl_print_string("tls_hash: hash seed", seed);
 418     A=seed->data;
 419     A_l=seed->data_len;
 420
 421     while(left){
 422         ssl_hmac_init(&hm,secret->data,secret->data_len,md);
 423         ssl_hmac_update(&hm,A,A_l);
 424         ssl_hmac_final(&hm,_A,&A_l);
 425         A=_A;
 426
 427         ssl_hmac_init(&hm,secret->data,secret->data_len,md);
 428         ssl_hmac_update(&hm,A,A_l);
 429         ssl_hmac_update(&hm,seed->data,seed->data_len);
 430         ssl_hmac_final(&hm,tmp,&tmp_l);
 431
 432         tocpy=MIN(left,tmp_l);
 433         memcpy(ptr,tmp,tocpy);
 434         ptr+=tocpy;
 435         left-=tocpy;
 436     }
 437
 438     ssl_hmac_cleanup(&hm);
 439     ssl_print_string("hash out", out);
 440     return (0);
 441 }
 442
 443 static int
 444 tls_prf(StringInfo* secret, const char *usage,
 445         StringInfo* rnd1, StringInfo* rnd2, StringInfo* out)
 446 {
 447     StringInfo seed, sha_out, md5_out;
 448     guint8 *ptr;
 449     StringInfo s1, s2;
 450     unsigned int i,s_l, r=-1;
 451     int usage_len = strlen(usage);
 452
 453     /* initalize buffer for sha, md5 random seed*/
 454     if (ssl_data_alloc(&sha_out, MAX(out->data_len,20)) < 0)
 455         return -1;
 456     if (ssl_data_alloc(&md5_out, MAX(out->data_len,16)) < 0)
 457         goto free_sha;
 458     if (ssl_data_alloc(&seed, usage_len+rnd1->data_len+rnd2->data_len) < 0)
 459         goto free_md5;
 460
 461     ptr=seed.data;
 462     memcpy(ptr,usage,usage_len); ptr+=usage_len;
 463     memcpy(ptr,rnd1->data,rnd1->data_len); ptr+=rnd1->data_len;
 464     memcpy(ptr,rnd2->data,rnd2->data_len); ptr+=rnd2->data_len;
 465
 466     /* initalize buffer for client/server seeds*/
 467     s_l=secret->data_len/2 + secret->data_len%2;
 468     if (ssl_data_alloc(&s1, s_l) < 0)
 469         goto free_seed;
 470     if (ssl_data_alloc(&s2, s_l) < 0)
 471         goto free_s1;
 472
 473     memcpy(s1.data,secret->data,s_l);
 474     memcpy(s2.data,secret->data + (secret->data_len - s_l),s_l);
 475
 476     ssl_debug_printf("tls_prf: tls_hash(md5 secret_len %d seed_len %d )\n", s1.data_len, seed.data_len);
 477     if(tls_hash(&s1,&seed,ssl_get_digest_by_name("MD5"),&md5_out) != 0)
 478         goto free_all;
 479     ssl_debug_printf("tls_prf: tls_hash(sha)\n");
 480     if(tls_hash(&s2,&seed,ssl_get_digest_by_name("SHA1"),&sha_out) != 0)
 481         goto free_all;
 482
 483     for(i=0;i<out->data_len;i++)
 484       out->data[i]=md5_out.data[i] ^ sha_out.data[i];
 485     r =0;
 486
 487     ssl_print_string("PRF out",out);
 488 free_all:
 489     free(s2.data);
 490 free_s1:
 491     free(s1.data);
 492 free_seed:
 493     free(seed.data);
 494 free_md5:
 495     free(md5_out.data);
 496 free_sha:
 497     free(sha_out.data);
 498     return r;
 499 }
 500
 501 static int
 502 ssl3_generate_export_iv(StringInfo* r1,
 503         StringInfo* r2, StringInfo* out)
 504 {
 505     SSL_MD5_CTX md5;
 506     guint8 tmp[16];
 507
 508     memset(&md5, 0, sizeof(md5));
 509     ssl_md5_init(&md5);
 510     ssl_md5_update(&md5,r1->data,r1->data_len);
 511     ssl_md5_update(&md5,r2->data,r2->data_len);
 512     ssl_md5_final(tmp,&md5);
 513
 514     memcpy(out->data,tmp,out->data_len);
 515     ssl_print_string("export iv", out);
 516
 517     return(0);
 518 }
 519
 520 static int
 521 ssl3_prf(StringInfo* secret, const char* usage,
 522         StringInfo* r1,
 523         StringInfo* r2,StringInfo* out)
 524 {
 525     SSL_MD5_CTX md5;
 526     SSL_SHA_CTX sha;
 527     StringInfo *rnd1,*rnd2;
 528     unsigned int off;
 529     int i=0,j;
 530     guint8 buf[20];
 531
 532     rnd1=r1; rnd2=r2;
 533
 534     memset(&md5,0,sizeof(md5));
 535     ssl_md5_init(&md5);
 536     memset(&sha,0,sizeof(sha));
 537     ssl_sha_init(&sha);
 538
 539     for(off=0;off<out->data_len;off+=16){
 540         unsigned char outbuf[16];
 541         int tocpy;
 542         i++;
 543
 544         ssl_debug_printf("ssl3_prf: sha1_update(%d)\n",i);
 545         /* A, BB, CCC,  ... */
 546         for(j=0;j<i;j++){
 547             buf[j]=64+i;
 548         }
 549
 550         ssl_sha_update(&sha,buf,i);
 551         if (secret)
 552             ssl_sha_update(&sha,secret->data,secret->data_len);
 553
 554         if(!strcmp(usage,"client write key") || !strcmp(usage,"server write key")){
 555             ssl_sha_update(&sha,rnd2->data,rnd2->data_len);
 556             ssl_sha_update(&sha,rnd1->data,rnd1->data_len);
 557         }
 558         else{
 559             ssl_sha_update(&sha,rnd1->data,rnd1->data_len);
 560             ssl_sha_update(&sha,rnd2->data,rnd2->data_len);
 561         }
 562
 563         ssl_sha_final(buf,&sha);
 564
 565         ssl_sha_init(&sha);
 566
 567         ssl_debug_printf("ssl3_prf: md5_update(%d)\n",i);
 568         ssl_md5_update(&md5,secret->data,secret->data_len);
 569         ssl_md5_update(&md5,buf,20);
 570         ssl_md5_final(outbuf,&md5);
 571         tocpy=MIN(out->data_len-off,16);
 572         memcpy(out->data+off,outbuf,tocpy);
 573
 574         ssl_md5_init(&md5);
 575     }
 576
 577     return(0);
 578 }
 579
 580 static int
 581 ssl_create_decoder(SslDecoder *dec, SslCipherSuite *cipher_suite,
 582         guint8 *mk, guint8 *sk, guint8 *iv)
 583 {
 584     int ciph=0;
 585
 586     /* Find the SSLeay cipher */
 587     if(cipher_suite->enc!=ENC_NULL) {
 588         ssl_debug_printf("ssl_create_decoder CIPHER: %s\n", ciphers[cipher_suite->enc-0x30]);
 589         ciph=ssl_get_cipher_by_name(ciphers[cipher_suite->enc-0x30]);
 590     }
 591     if (ciph == 0) {
 592         ssl_debug_printf("ssl_create_decoder can't find cipher %s\n",
 593             ciphers[cipher_suite->enc-0x30]);
 594         return -1;
 595     }
 596
 597     /* init mac buffer: mac storage is embedded into decoder struct to save a
 598      memory allocation and waste samo more memory*/
 599     dec->cipher_suite=cipher_suite;
 600     dec->mac_key.data = dec->_mac_key;
 601     ssl_data_set(&dec->mac_key, mk, cipher_suite->dig_len);
 602
 603     if (ssl_cipher_init(&dec->evp,ciph,sk,iv,cipher_suite->mode) < 0) {
 604         ssl_debug_printf("ssl_create_decoder: can't create cipher id:%d mode:%d\n",
 605             ciph, cipher_suite->mode);
 606         return -1;
 607     }
 608
 609     ssl_debug_printf("decoder initialized (digest len %d)\n", cipher_suite->dig_len);
 610     return 0;
 611 }
 612
 613 int
 614 ssl_generate_keyring_material(SslDecryptSession*ssl_session)
 615 {
 616     StringInfo key_block;
 617     guint8 _iv_c[MAX_BLOCK_SIZE],_iv_s[MAX_BLOCK_SIZE];
 618     guint8 _key_c[MAX_KEY_SIZE],_key_s[MAX_KEY_SIZE];
 619     int needed;
 620     guint8 *ptr,*c_wk,*s_wk,*c_mk,*s_mk,*c_iv = _iv_c,*s_iv = _iv_s;
 621
 622     /* if master_key is not yet generate, create it now*/
 623     if (!(ssl_session->state & SSL_MASTER_SECRET)) {
 624         ssl_debug_printf("ssl_generate_keyring_material:PRF(pre_master_secret)\n");
 625         if (PRF(ssl_session,&ssl_session->pre_master_secret,"master secret",
 626                 &ssl_session->client_random,
 627                 &ssl_session->server_random, &ssl_session->master_secret)) {
 628             ssl_debug_printf("ssl_generate_keyring_material can't generate master_secret\n");
 629             return -1;
 630         }
 631         ssl_print_string("master secret",&ssl_session->master_secret);
 632     }
 633
 634     /* Compute the key block. First figure out how much data we need*/
 635     needed=ssl_session->cipher_suite.dig_len*2;
 636     needed+=ssl_session->cipher_suite.bits / 4;
 637     if(ssl_session->cipher_suite.block>1)
 638         needed+=ssl_session->cipher_suite.block*2;
 639
 640     key_block.data_len = needed;
 641     key_block.data = g_malloc(needed);
 642     if (!key_block.data) {
 643         ssl_debug_printf("ssl_generate_keyring_material can't allacate key_block\n");
 644         return -1;
 645     }
 646     ssl_debug_printf("ssl_generate_keyring_material sess key generation\n");
 647     if (PRF(ssl_session,&ssl_session->master_secret,"key expansion",
 648             &ssl_session->server_random,&ssl_session->client_random,
 649             &key_block)) {
 650         ssl_debug_printf("ssl_generate_keyring_material can't generate key_block\n");
 651         goto fail;
 652     }
 653     ssl_print_string("key expansion", &key_block);
 654
 655     ptr=key_block.data;
 656     c_mk=ptr; ptr+=ssl_session->cipher_suite.dig_len;
 657     s_mk=ptr; ptr+=ssl_session->cipher_suite.dig_len;
 658
 659     c_wk=ptr; ptr+=ssl_session->cipher_suite.eff_bits/8;
 660     s_wk=ptr; ptr+=ssl_session->cipher_suite.eff_bits/8;
 661
 662     if(ssl_session->cipher_suite.block>1){
 663         c_iv=ptr; ptr+=ssl_session->cipher_suite.block;
 664         s_iv=ptr; ptr+=ssl_session->cipher_suite.block;
 665     }
 666
 667     if(ssl_session->cipher_suite.export){
 668         StringInfo iv_c,iv_s;
 669         StringInfo key_c,key_s;
 670         StringInfo k;
 671
 672         if(ssl_session->cipher_suite.block>1){
 673
 674             /* We only have room for MAX_BLOCK_SIZE bytes IVs, but that's
 675              all we should need. This is a sanity check */
 676             if(ssl_session->cipher_suite.block>MAX_BLOCK_SIZE) {
 677                 ssl_debug_printf("ssl_generate_keyring_material cipher suite block must be at most %d nut is %d\n",
 678                     MAX_BLOCK_SIZE, ssl_session->cipher_suite.block);
 679                 goto fail;
 680             }
 681
 682             iv_c.data = _iv_c;
 683             iv_c.data_len = ssl_session->cipher_suite.block;
 684             iv_s.data = _iv_s;
 685             iv_s.data_len = ssl_session->cipher_suite.block;
 686
 687             if(ssl_session->version_netorder==SSLV3_VERSION){
 688                 ssl_debug_printf("ssl_generate_keyring_material ssl3_generate_export_iv\n");
 689                 if (ssl3_generate_export_iv(&ssl_session->client_random,
 690                         &ssl_session->server_random,&iv_c)) {
 691                     ssl_debug_printf("ssl_generate_keyring_material can't generate sslv3 client iv\n");
 692                     goto fail;
 693                 }
 694                 ssl_debug_printf("ssl_generate_keyring_material ssl3_generate_export_iv(2)\n");
 695                 if (ssl3_generate_export_iv(&ssl_session->server_random,
 696                         &ssl_session->client_random,&iv_s)) {
 697                     ssl_debug_printf("ssl_generate_keyring_material can't generate sslv3 server iv\n");
 698                     goto fail;
 699                 }
 700             }
 701             else{
 702                 guint8 _iv_block[MAX_BLOCK_SIZE * 2];
 703                 StringInfo iv_block;
 704                 StringInfo key_null;
 705                 guint8 _key_null;
 706
 707                 key_null.data = &_key_null;
 708                 key_null.data_len = 0;
 709
 710                 iv_block.data = _iv_block;
 711                 iv_block.data_len = ssl_session->cipher_suite.block*2;
 712
 713                 ssl_debug_printf("ssl_generate_keyring_material prf(iv_block)\n");
 714                 if(PRF(ssl_session,&key_null, "IV block",
 715                         &ssl_session->client_random,
 716                         &ssl_session->server_random,&iv_block)) {
 717                     ssl_debug_printf("ssl_generate_keyring_material can't generate tls31 iv block\n");
 718                     goto fail;
 719                 }
 720
 721                 memcpy(_iv_c,iv_block.data,ssl_session->cipher_suite.block);
 722                 memcpy(_iv_s,iv_block.data+ssl_session->cipher_suite.block,
 723                     ssl_session->cipher_suite.block);
 724             }
 725
 726             c_iv=_iv_c;
 727             s_iv=_iv_s;
 728         }
 729
 730         if (ssl_session->version_netorder==SSLV3_VERSION){
 731
 732             SSL_MD5_CTX md5;
 733             ssl_debug_printf("ssl_generate_keyring_material MD5(client_random)\n");
 734
 735             memset(&md5, 0, sizeof(md5));
 736             ssl_md5_init(&md5);
 737             ssl_md5_update(&md5,c_wk,ssl_session->cipher_suite.eff_bits/8);
 738             ssl_md5_update(&md5,ssl_session->client_random.data,
 739                 ssl_session->client_random.data_len);
 740             ssl_md5_update(&md5,ssl_session->server_random.data,
 741                 ssl_session->server_random.data_len);
 742             ssl_md5_final(_key_c,&md5);
 743             c_wk=_key_c;
 744
 745             ssl_md5_init(&md5);
 746             ssl_debug_printf("ssl_generate_keyring_material MD5(server_random)\n");
 747             ssl_md5_update(&md5,s_wk,ssl_session->cipher_suite.eff_bits/8);
 748             ssl_md5_update(&md5,ssl_session->server_random.data,
 749                 ssl_session->server_random.data_len);
 750             ssl_md5_update(&md5,ssl_session->client_random.data,
 751                 ssl_session->client_random.data_len);
 752             ssl_md5_final(_key_s,&md5);
 753             s_wk=_key_s;
 754         }
 755         else{
 756             key_c.data = _key_c;
 757             key_c.data_len = sizeof(_key_c);
 758             key_s.data = _key_s;
 759             key_s.data_len = sizeof(_key_s);
 760
 761             k.data = c_wk;
 762             k.data_len = ssl_session->cipher_suite.eff_bits/8;
 763             ssl_debug_printf("ssl_generate_keyring_material PRF(key_c)\n");
 764             if (PRF(ssl_session,&k,"client write key",
 765                     &ssl_session->client_random,
 766                     &ssl_session->server_random, &key_c)) {
 767                 ssl_debug_printf("ssl_generate_keyring_material can't generate tll31 server key \n");
 768                 goto fail;
 769             }
 770             c_wk=_key_c;
 771
 772             k.data = s_wk;
 773             k.data_len = ssl_session->cipher_suite.eff_bits/8;
 774             ssl_debug_printf("ssl_generate_keyring_material PRF(key_s)\n");
 775             if(PRF(ssl_session,&k,"server write key",
 776                     &ssl_session->client_random,
 777                     &ssl_session->server_random, &key_s)) {
 778                 ssl_debug_printf("ssl_generate_keyring_material can't generate tll31 client key \n");
 779                 goto fail;
 780             }
 781             s_wk=_key_s;
 782         }
 783     }
 784
 785     /* show key material info */
 786     ssl_print_data("Client MAC key",c_mk,ssl_session->cipher_suite.dig_len);
 787     ssl_print_data("Server MAC key",s_mk,ssl_session->cipher_suite.dig_len);
 788     ssl_print_data("Client Write key",c_wk,ssl_session->cipher_suite.bits/8);
 789     ssl_print_data("Server Write key",s_wk,ssl_session->cipher_suite.bits/8);
 790
 791     if(ssl_session->cipher_suite.block>1) {
 792         ssl_print_data("Client Write IV",c_iv,ssl_session->cipher_suite.block);
 793         ssl_print_data("Server Write IV",s_iv,ssl_session->cipher_suite.block);
 794     }
 795     else {
 796         ssl_print_data("Client Write IV",c_iv,8);
 797         ssl_print_data("Server Write IV",s_iv,8);
 798     }
 799
 800     /* create both client and server ciphers*/
 801     ssl_debug_printf("ssl_generate_keyring_material ssl_create_decoder(client)\n");
 802     if (ssl_create_decoder(&ssl_session->client,
 803             &ssl_session->cipher_suite,c_mk,c_wk,c_iv)) {
 804         ssl_debug_printf("ssl_generate_keyring_material can't init client decoder\n");
 805         goto fail;
 806     }
 807     ssl_debug_printf("ssl_generate_keyring_material ssl_create_decoder(server)\n");
 808     if (ssl_create_decoder(&ssl_session->server,
 809             &ssl_session->cipher_suite,s_mk,s_wk,s_iv)) {
 810         ssl_debug_printf("ssl_generate_keyring_material can't init client decoder\n");
 811         goto fail;
 812     }
 813
 814     g_free(key_block.data);
 815     return 0;
 816
 817 fail:
 818     free(key_block.data);
 819     return -1;
 820 }
 821
 822 int
 823 ssl_decrypt_pre_master_secret(SslDecryptSession*ssl_session,
 824     StringInfo* entrypted_pre_master, SSL_PRIVATE_KEY *pk)
 825 {
 826     int i;
 827
 828     if(ssl_session->cipher_suite.kex!=KEX_RSA) {
 829         ssl_debug_printf("ssl_decrypt_pre_master_secret key %d diferent from KEX_RSA(%d)\n",
 830             ssl_session->cipher_suite.kex, KEX_RSA);
 831         return(-1);
 832     }
 833
 834 #if 0
 835     /* can't find any place where ephemeral_rsa is set ...*/
 836     if(d->ephemeral_rsa) {
 837         ssl_debug_printf("ssl_decrypt_pre_master_secret ephimeral RSA\n");
 838         return(-1);
 839     }
 840 #endif
 841
 842     /* with tls key loading will fail if not rsa type, so no need to check*/
 843     ssl_print_string("pre master encrypted",entrypted_pre_master);
 844     ssl_debug_printf("ssl_decrypt_pre_master_secret:RSA_private_decrypt\n");
 845     i=ssl_private_decrypt(entrypted_pre_master->data_len,
 846         entrypted_pre_master->data, pk);
 847
 848     if (i!=48) {
 849         ssl_debug_printf("ssl_decrypt_pre_master_secret wrong "
 850             "pre_master_secret lenght (%d, expected %d)\n", i, 48);
 851         return -1;
 852     }
 853
 854     /* the decrypted data has been written into the pre_master key buffer */
 855     ssl_session->pre_master_secret.data = entrypted_pre_master->data;
 856     ssl_session->pre_master_secret.data_len=48;
 857     ssl_print_string("pre master secret",&ssl_session->pre_master_secret);
 858
 859     /* Remove the master secret if it was there.
 860        This force keying material regeneration in
 861        case we're renegotiating */
 862     ssl_session->state &= ~SSL_MASTER_SECRET;
 863     return 0;
 864 }
 865
 866 #define MSB(a) ((a>>8)&0xff)
 867 #define LSB(a) (a&0xff)
 868
 869 /* convert network byte order 32 byte number to right-aligned host byte order *
 870  * 8 bytes buffer */
 871 static int fmt_seq(guint32 num, guint8* buf)
 872 {
 873     guint32 netnum;
 874
 875     memset(buf,0,8);
 876     netnum=g_htonl(num);
 877     memcpy(buf+4,&netnum,4);
 878
 879     return(0);
 880 }
 881
 882 static int
 883 tls_check_mac(SslDecoder*decoder, int ct,int ver, guint8* data,
 884         guint32 datalen, guint8* mac)
 885 {
 886     SSL_HMAC hm;
 887     int md;
 888     guint32 l;
 889     guint8 buf[20];
 890
 891     memset(&hm, 0, sizeof(hm));
 892     md=ssl_get_digest_by_name(digests[decoder->cipher_suite->dig-0x40]);
 893     ssl_debug_printf("tls_check_mac mac type:%s md %d\n",
 894         digests[decoder->cipher_suite->dig-0x40], md);
 895
 896     ssl_hmac_init(&hm,decoder->mac_key.data,decoder->mac_key.data_len,md);
 897
 898     fmt_seq(decoder->seq,buf);
 899     decoder->seq++;
 900     ssl_hmac_update(&hm,buf,8);
 901
 902     buf[0]=ct;
 903     ssl_hmac_update(&hm,buf,1);
 904
 905     buf[0]=MSB(ver);
 906     buf[1]=LSB(ver);
 907     ssl_hmac_update(&hm,buf,2);
 908
 909     buf[0]=MSB(datalen);
 910     buf[1]=LSB(datalen);
 911     ssl_hmac_update(&hm,buf,2);
 912
 913     ssl_hmac_update(&hm,data,datalen);
 914
 915     ssl_hmac_final(&hm,buf,&l);
 916     ssl_print_data("Mac", buf, l);
 917     if(memcmp(mac,buf,l))
 918         return -1;
 919
 920     ssl_hmac_cleanup(&hm);
 921     return(0);
 922 }
 923
 924 int
 925 ssl3_check_mac(SslDecoder*decoder,int ct,guint8* data,
 926         guint32 datalen, guint8* mac)
 927 {
 928     SSL_MD mc;
 929     int md;
 930     guint32 l;
 931     guint8 buf[64],dgst[20];
 932     int pad_ct;
 933
 934     pad_ct=(decoder->cipher_suite->dig==DIG_SHA)?40:48;
 935
 936     /* get cipher used for digest comptuation */
 937     md=ssl_get_digest_by_name(digests[decoder->cipher_suite->dig-0x40]);
 938     ssl_debug_printf("ssl3_check_mac digest%s md %d\n",
 939         digests[decoder->cipher_suite->dig-0x40], md);
 940     memset(&mc, 0, sizeof(mc));
 941     ssl_md_init(&mc,md);
 942     ssl_debug_printf("ssl3_check_mac memory digest %p\n",mc);
 943
 944     /* do hash computation on data && padding */
 945     ssl_md_update(&mc,decoder->mac_key.data,decoder->mac_key.data_len);
 946
 947     memset(buf,0x36,pad_ct);
 948     ssl_md_update(&mc,buf,pad_ct);
 949
 950     fmt_seq(decoder->seq,buf);
 951     decoder->seq++;
 952     ssl_md_update(&mc,buf,8);
 953
 954     buf[0]=ct;
 955     ssl_md_update(&mc,buf,1);
 956
 957     buf[0]=MSB(datalen);
 958     buf[1]=LSB(datalen);
 959     ssl_md_update(&mc,buf,2);
 960     ssl_md_update(&mc,data,datalen);
 961
 962     ssl_md_final(&mc,dgst,&l);
 963
 964     ssl_md_init(&mc,md);
 965
 966     ssl_md_update(&mc,decoder->mac_key.data,decoder->mac_key.data_len);
 967
 968     memset(buf,0x5c,pad_ct);
 969     ssl_md_update(&mc,buf,pad_ct);
 970     ssl_md_update(&mc,dgst,l);
 971
 972     ssl_md_final(&mc,dgst,&l);
 973
 974     if(memcmp(mac,dgst,l))
 975         return -1;
 976
 977     return(0);
 978 }
 979
 980 int
 981 ssl_decrypt_record(SslDecryptSession*ssl,SslDecoder* decoder, int ct,
 982         const unsigned char* in, int inl,unsigned char*out,int* outl)
 983 {
 984     int pad, worklen;
 985     guint8 *mac;
 986
 987     ssl_debug_printf("ssl_decrypt_record ciphertext len %d\n", inl);
 988     ssl_print_data("Ciphertext",in, inl);
 989
 990     /* First decrypt*/
 991     if ((pad = ssl_cipher_decrypt(&decoder->evp,out,*outl,in,inl))!= 0)
 992         ssl_debug_printf("ssl_decrypt_record: %s %s\n", gcry_strsource (pad),
 993                     gcry_strerror (pad));
 994
 995     ssl_print_data("Plaintext",out,inl);
 996     worklen=inl;
 997
 998     /* Now strip off the padding*/
 999     if(decoder->cipher_suite->block!=1){
1000         pad=out[inl-1];
1001         worklen-=(pad+1);
1002         ssl_debug_printf("ssl_decrypt_record found padding %d final len %d\n",
1003             pad, *outl);
1004     }
1005
1006     /* And the MAC */
1007     worklen-=decoder->cipher_suite->dig_len;
1008     if (worklen < 0)
1009     {
1010         ssl_debug_printf("ssl_decrypt_record wrong record len/padding outlen %d\n work %d\n",*outl, worklen);
1011         return -1;
1012     }
1013     mac=out+worklen;
1014     /*ssl_print_data("Record data",out,*outl);*/
1015
1016     /* Now check the MAC */
1017     ssl_debug_printf("checking mac (len %d, version %X, ct %d)\n", worklen,ssl->version_netorder, ct);
1018     if(ssl->version_netorder==0x300){
1019         if(ssl3_check_mac(decoder,ct,out,worklen,mac) < 0) {
1020             ssl_debug_printf("ssl_decrypt_record: mac falied\n");
1021             return -1;
1022         }
1023     }
1024     else{
1025         if(tls_check_mac(decoder,ct,ssl->version_netorder,out,worklen,mac)< 0) {
1026             ssl_debug_printf("ssl_decrypt_record: mac falied\n");
1027             return -1;
1028         }
1029     }
1030     ssl_debug_printf("ssl_decrypt_record: mac ok\n");
1031     *outl = worklen;
1032     return(0);
1033 }
1034
1035 /* old relase of gnutls does not define the appropriate macros, so get
1036  * them from the string*/
1037 static void
1038 ssl_get_version(int* major, int* minor, int* patch)
1039 {
1040     const char* str = gnutls_check_version(NULL);
1041
1042     ssl_debug_printf("ssl_get_version: %s\n", str);
1043     sscanf(str, "%d.%d.%d", major, minor, patch);
1044 }
1045
1046
1047 SSL_PRIVATE_KEY*
1048 ssl_load_key(FILE* fp)
1049 {
1050     /* gnutls make our work much harded, since we have to work internally with
1051      * s-exp formatted data, but PEM loader export only in "gnutls_datum"
1052      * format, and a datum -> s-exp convertion function does not exist.
1053      */
1054     struct gnutls_x509_privkey_int* priv_key;
1055     gnutls_datum key;
1056     gnutls_datum m, e, d, p,q, u;
1057     int size, major, minor, patch;
1058     unsigned int bytes;
1059     unsigned int tmp_size;
1060 #ifdef SSL_FAST
1061     gcry_mpi_t* rsa_params = g_malloc(sizeof(gcry_mpi_t)*6);
1062 #else
1063     gcry_mpi_t rsa_params[6];
1064 #endif
1065     gcry_sexp_t rsa_priv_key;
1066
1067     /* init private key data*/
1068     gnutls_x509_privkey_init(&priv_key);
1069
1070     /* compute file size and load all file contents into a datum buffer*/
1071     if (fseek(fp, 0, SEEK_END) < 0) {
1072         ssl_debug_printf("ssl_load_key: can't fseek file\n");
1073         return NULL;
1074     }
1075     if ((size = ftell(fp)) < 0) {
1076         ssl_debug_printf("ssl_load_key: can't ftell file\n");
1077         return NULL;
1078     }
1079     if (fseek(fp, 0, SEEK_SET) < 0) {
1080         ssl_debug_printf("ssl_load_key: can't refseek file\n");
1081         return NULL;
1082     }
1083     key.data = g_malloc(size);
1084     key.size = size;
1085     bytes = fread(key.data, 1, key.size, fp);
1086     if (bytes < key.size) {
1087         ssl_debug_printf("ssl_load_key: can't read from file %d bytes, got %d\n",
1088             key.size, bytes);
1089         return NULL;
1090     }
1091
1092     /* import PEM data*/
1093     if (gnutls_x509_privkey_import(priv_key, &key, GNUTLS_X509_FMT_PEM)!=0) {
1094         ssl_debug_printf("ssl_load_key: can't import pem data\n");
1095         return NULL;
1096     }
1097     free(key.data);
1098
1099     /* RSA get parameter */
1100     if (gnutls_x509_privkey_export_rsa_raw(priv_key, &m, &e, &d, &p, &q, &u) != 0) {
1101         ssl_debug_printf("ssl_load_key: can't export rsa param (is a rsa private key file ?!?)\n");
1102         return NULL;
1103     }
1104
1105     /* convert each rsa parameter to mpi format*/
1106     if (gcry_mpi_scan( &rsa_params[0], GCRYMPI_FMT_USG, m.data,  m.size, &tmp_size) !=0) {
1107         ssl_debug_printf("ssl_load_key: can't convert m rsa param to int (size %d)\n", m.size);
1108         return NULL;
1109     }
1110
1111     if (gcry_mpi_scan( &rsa_params[1], GCRYMPI_FMT_USG, e.data,  e.size, &tmp_size) != 0) {
1112         ssl_debug_printf("ssl_load_key: can't convert e rsa param to int (size %d)\n", e.size);
1113         return NULL;
1114     }
1115
1116     /*
1117      * note: openssl and gnutls use 'p' and 'q' with opposite meaning:
1118      * our 'p' must be equal to 'q' as provided from openssl and viceversa
1119      */
1120     if (gcry_mpi_scan( &rsa_params[2], GCRYMPI_FMT_USG, d.data,  d.size, &tmp_size) !=0) {
1121         ssl_debug_printf("ssl_load_key: can't convert d rsa param to int (size %d)\n", d.size);
1122         return NULL;
1123     }
1124
1125     if (gcry_mpi_scan( &rsa_params[3], GCRYMPI_FMT_USG, q.data,  q.size, &tmp_size) !=0) {
1126         ssl_debug_printf("ssl_load_key: can't convert q rsa param to int (size %d)\n", q.size);
1127         return NULL;
1128     }
1129
1130     if (gcry_mpi_scan( &rsa_params[4], GCRYMPI_FMT_USG, p.data,  p.size, &tmp_size) !=0) {
1131         ssl_debug_printf("ssl_load_key: can't convert p rsa param to int (size %d)\n", p.size);
1132         return NULL;
1133     }
1134
1135     if (gcry_mpi_scan( &rsa_params[5], GCRYMPI_FMT_USG, u.data,  u.size, &tmp_size) !=0) {
1136         ssl_debug_printf("ssl_load_key: can't convert u rsa param to int (size %d)\n", m.size);
1137         return NULL;
1138     }
1139
1140     ssl_get_version(&major, &minor, &patch);
1141
1142     /* certain versions of gnutls require swap of rsa params 'p' and 'q' */
1143     if ((major <= 1) && (minor <= 0) && (patch <=13))
1144     {
1145         gcry_mpi_t tmp;
1146         ssl_debug_printf("ssl_load_key: swapping p and q parametes\n");
1147         tmp = rsa_params[4];
1148         rsa_params[4] = rsa_params[3];
1149         rsa_params[3] = tmp;
1150     }
1151
1152     if  (gcry_sexp_build( &rsa_priv_key, NULL,
1153             "(private-key(rsa((n%m)(e%m)(d%m)(p%m)(q%m)(u%m))))", rsa_params[0],
1154             rsa_params[1], rsa_params[2], rsa_params[3], rsa_params[4],
1155             rsa_params[5]) != 0) {
1156         ssl_debug_printf("ssl_load_key: can't built rsa private key s-exp\n");
1157         return NULL;
1158     }
1159
1160 #if SSL_FAST
1161     return rsa_params;
1162 #else
1163     {
1164         int i;
1165         for (i=0; i< 6; i++)
1166             gcry_mpi_release(rsa_params[i]);
1167     }
1168     return rsa_priv_key;
1169 #endif
1170 }
1171
1172 void ssl_free_key(SSL_PRIVATE_KEY* key)
1173 {
1174 #if SSL_FAST
1175     int i;
1176     for (i=0; i< 6; i++)
1177         gcry_mpi_release(key[i]);
1178 #else
1179     gcry_sexp_release(key);
1180 #endif
1181 }
1182
1183 #ifdef SSL_DECRYPT_DEBUG
1184 static FILE* myout=NULL;
1185 #endif
1186 void
1187 ssl_lib_init(void)
1188 {
1189     gnutls_global_init();
1190
1191 #ifdef SSL_DECRYPT_DEBUG
1192 #ifdef _WIN32
1193     /* we don't have standard I/O file available, open a log */
1194     myout = fopen("ssl-decrypt.txt","w");
1195     if (!myout)
1196 #endif /* _WIN32 */
1197         myout = stderr;
1198 #endif /* SSL_DECRYPT_DEBUG */
1199 }
1200
1201 #else /* HAVE_LIBGNUTLS */
1202 /* no libgnutl: dummy operation to keep interface consistent*/
1203 void
1204 ssl_lib_init(void)
1205 {
1206 }
1207
1208 SSL_PRIVATE_KEY*
1209 ssl_load_key(FILE* fp)
1210 {
1211     ssl_debug_printf("ssl_load_key: impossible without glutls. fp %p\n",fp);
1212     return NULL;
1213 }
1214
1215 void
1216 ssl_free_key(SSL_PRIVATE_KEY* key _U_)
1217 {
1218 }
1219
1220 int
1221 ssl_find_cipher(int num,SslCipherSuite* cs)
1222 {
1223     ssl_debug_printf("ssl_find_cipher: dummy without glutls. num %d cs %p\n",
1224         num,cs);
1225     return 0;
1226 }
1227 int
1228 ssl_generate_keyring_material(SslDecryptSession*ssl)
1229 {
1230     ssl_debug_printf("ssl_generate_keyring_material: impossible without glutls. ssl %p\n",
1231         ssl);
1232     return 0;
1233 }
1234 int
1235 ssl_decrypt_pre_master_secret(SslDecryptSession* ssl_session,
1236     StringInfo* entrypted_pre_master, SSL_PRIVATE_KEY *pk)
1237 {
1238     ssl_debug_printf("ssl_decrypt_pre_master_secret: impossible without glutls."
1239         " ssl %p entrypted_pre_master %p pk %p\n", ssl_session,
1240         entrypted_pre_master, pk);
1241     return 0;
1242 }
1243
1244 int
1245 ssl_decrypt_record(SslDecryptSession*ssl,SslDecoder* decoder, int ct,
1246         const unsigned char* in, int inl,unsigned char*out,int* outl)
1247 {
1248     ssl_debug_printf("ssl_decrypt_record: impossible without gnutls. ssl %p"
1249         "decoder %p ct %d, in %p inl %d out %p outl %p\n", ssl, decoder, ct,
1250         in, inl, out, outl);
1251     return 0;
1252 }
1253
1254 #endif /* HAVE_LIBGNUTLS */
1255
1256 /* get ssl data for this session. if no ssl data is found allocate a new one*/
1257 void
1258 ssl_session_init(SslDecryptSession* ssl_session)
1259 {
1260     ssl_debug_printf("ssl_session_init: initializing ptr %p size %lu\n",
1261         ssl_session, (unsigned long)sizeof(SslDecryptSession));
1262
1263     ssl_session->master_secret.data = ssl_session->_master_secret;
1264     ssl_session->session_id.data = ssl_session->_session_id;
1265     ssl_session->client_random.data = ssl_session->_client_random;
1266     ssl_session->server_random.data = ssl_session->_server_random;
1267     ssl_session->master_secret.data_len = 48;
1268 }
1269
1270 #ifdef SSL_DECRYPT_DEBUG
1271 void
1272 ssl_debug_printf(const char* fmt, ...)
1273 {
1274   va_list ap;
1275   int ret=0;
1276   va_start(ap, fmt);
1277   ret += vfprintf(myout, fmt, ap);
1278   va_end(ap);
1279   fflush(myout);
1280 }
1281
1282 void
1283 ssl_print_text_data(const char* name, const unsigned char* data, int len)
1284 {
1285     int i;
1286     fprintf(myout,"%s: ",name);
1287     for (i=0; i< len; i++) {
1288       fprintf(myout,"%c",data[i]);
1289     }
1290     fprintf(myout,"\n");
1291     fflush(myout);
1292 }
1293
1294 void
1295 ssl_print_data(const char* name, const unsigned char* data, int len)
1296 {
1297     int i;
1298     fprintf(myout,"%s[%d]:\n",name, len);
1299     for (i=0; i< len; i++) {
1300         if ((i>0) && (i%16 == 0))
1301             fprintf(myout,"\n");
1302         fprintf(myout,"%.2x ",data[i]&255);
1303     }
1304     fprintf(myout,"\n");
1305     fflush(myout);
1306 }
1307
1308 void
1309 ssl_print_string(const char* name, const StringInfo* data)
1310 {
1311     ssl_print_data(name, data->data, data->data_len);
1312 }
1313 #endif /* SSL_DECRYPT_DEBUG */