Merge the TNG netlogon schannel from HEAD.
[amitay/samba.git] / source3 / rpc_server / srv_pipe_hnd.c
index a47553dcd19d756360693c09590e16e13c0bc6e2..125f6037710b88dd8f59c50eb2f61e74deb69cfe 100644 (file)
@@ -1,6 +1,5 @@
 /* 
- *  Unix SMB/Netbios implementation.
- *  Version 1.9.
+ *  Unix SMB/CIFS implementation.
  *  RPC Pipe client / server routines
  *  Copyright (C) Andrew Tridgell              1992-1998,
  *  Copyright (C) Luke Kenneth Casson Leighton 1996-1998,
 
 #include "includes.h"
 
+#undef DBGC_CLASS
+#define DBGC_CLASS DBGC_RPC_SRV
+
 #define        PIPE            "\\PIPE\\"
 #define        PIPELEN         strlen(PIPE)
 
-static pipes_struct *chain_p;
+static smb_np_struct *chain_p;
 static int pipes_open;
 
-#ifndef MAX_OPEN_PIPES
-#define MAX_OPEN_PIPES 1024
+/*
+ * Sometimes I can't decide if I hate Windows printer driver
+ * writers more than I hate the Windows spooler service driver
+ * writers. This gets around a combination of bugs in the spooler
+ * and the HP 8500 PCL driver that causes a spooler spin. JRA.
+ *
+ * bumped up from 20 -> 64 after viewing traffic from WordPerfect
+ * 2002 running on NT 4.- SP6
+ * bumped up from 64 -> 256 after viewing traffic from con2prt
+ * for lots of printers on a WinNT 4.x SP6 box.
+ */
+#ifndef MAX_OPEN_SPOOLSS_PIPES
+#define MAX_OPEN_SPOOLSS_PIPES 256
 #endif
+static int current_spoolss_pipes_open;
 
-static pipes_struct *Pipes;
+static smb_np_struct *Pipes;
+static pipes_struct *InternalPipes;
 static struct bitmap *bmap;
 
+/* TODO
+ * the following prototypes are declared here to avoid
+ * code being moved about too much for a patch to be
+ * disrupted / less obvious.
+ *
+ * these functions, and associated functions that they
+ * call, should be moved behind a .so module-loading
+ * system _anyway_.  so that's the next step...
+ */
+
+static ssize_t read_from_internal_pipe(void *np_conn, char *data, size_t n,
+               BOOL *is_data_outstanding);
+static ssize_t write_to_internal_pipe(void *np_conn, char *data, size_t n);
+static BOOL close_internal_rpc_pipe_hnd(void *np_conn);
+static void *make_internal_rpc_pipe_p(char *pipe_name, 
+                             connection_struct *conn, uint16 vuid);
+
 /****************************************************************************
  Pipe iterator functions.
 ****************************************************************************/
 
-pipes_struct *get_first_pipe(void)
+smb_np_struct *get_first_pipe(void)
 {
        return Pipes;
 }
 
-pipes_struct *get_next_pipe(pipes_struct *p)
+smb_np_struct *get_next_pipe(smb_np_struct *p)
+{
+       return p->next;
+}
+
+/****************************************************************************
+ Internal Pipe iterator functions.
+****************************************************************************/
+
+pipes_struct *get_first_internal_pipe(void)
+{
+       return InternalPipes;
+}
+
+pipes_struct *get_next_internal_pipe(pipes_struct *p)
 {
        return p->next;
 }
@@ -68,6 +115,7 @@ void set_pipe_handle_offset(int max_open_files)
 /****************************************************************************
  Reset pipe chain handle number.
 ****************************************************************************/
+
 void reset_chain_p(void)
 {
        chain_p = NULL;
@@ -81,7 +129,7 @@ void init_rpc_pipe_hnd(void)
 {
        bmap = bitmap_allocate(MAX_OPEN_PIPES);
        if (!bmap)
-               exit_server("out of memory in init_rpc_pipe_hnd\n");
+               exit_server("out of memory in init_rpc_pipe_hnd");
 }
 
 /****************************************************************************
@@ -118,17 +166,26 @@ static BOOL pipe_init_outgoing_data(pipes_struct *p)
  Find first available pipe slot.
 ****************************************************************************/
 
-pipes_struct *open_rpc_pipe_p(char *pipe_name, 
+smb_np_struct *open_rpc_pipe_p(char *pipe_name, 
                              connection_struct *conn, uint16 vuid)
 {
        int i;
-       pipes_struct *p;
+       smb_np_struct *p, *p_it;
        static int next_pipe;
+       BOOL is_spoolss_pipe = False;
 
        DEBUG(4,("Open pipe requested %s (pipes_open=%d)\n",
                 pipe_name, pipes_open));
 
-       
+       if (strstr(pipe_name, "spoolss"))
+               is_spoolss_pipe = True;
+       if (is_spoolss_pipe && current_spoolss_pipes_open >= MAX_OPEN_SPOOLSS_PIPES) {
+               DEBUG(10,("open_rpc_pipe_p: spooler bug workaround. Denying open on pipe %s\n",
+                       pipe_name ));
+               return NULL;
+       }
+
        /* not repeating pipe numbers makes it easier to track things in 
           log files and prevents client bugs where pipe numbers are reused
           over connection restarts */
@@ -147,14 +204,96 @@ pipes_struct *open_rpc_pipe_p(char *pipe_name,
        for (p = Pipes; p; p = p->next)
                DEBUG(5,("open_rpc_pipe_p: name %s pnum=%x\n", p->name, p->pnum));  
 
+       p = (smb_np_struct *)malloc(sizeof(*p));
+
+       if (!p) {
+               DEBUG(0,("ERROR! no memory for pipes_struct!\n"));
+               return NULL;
+       }
+
+       ZERO_STRUCTP(p);
+
+       /* add a dso mechanism instead of this, here */
+
+       p->namedpipe_create = make_internal_rpc_pipe_p;
+       p->namedpipe_read = read_from_internal_pipe;
+       p->namedpipe_write = write_to_internal_pipe;
+       p->namedpipe_close = close_internal_rpc_pipe_hnd;
+
+       p->np_state = p->namedpipe_create(pipe_name, conn, vuid);
+
+       if (p->np_state == NULL) {
+               DEBUG(0,("open_rpc_pipe_p: make_internal_rpc_pipe_p failed.\n"));
+               SAFE_FREE(p);
+               return NULL;
+       }
+
+       DLIST_ADD(Pipes, p);
+
+       /*
+        * Initialize the incoming RPC data buffer with one PDU worth of memory.
+        * We cheat here and say we're marshalling, as we intend to add incoming
+        * data directly into the prs_struct and we want it to auto grow. We will
+        * change the type to UNMARSALLING before processing the stream.
+        */
+
+       bitmap_set(bmap, i);
+       i += pipe_handle_offset;
+
+       pipes_open++;
+
+       p->pnum = i;
+
+       p->open = True;
+       p->device_state = 0;
+       p->priority = 0;
+       p->conn = conn;
+       p->vuid  = vuid;
+
+       p->max_trans_reply = 0;
+       
+       fstrcpy(p->name, pipe_name);
+       
+       DEBUG(4,("Opened pipe %s with handle %x (pipes_open=%d)\n",
+                pipe_name, i, pipes_open));
+       
+       chain_p = p;
+       
+       /* Iterate over p_it as a temp variable, to display all open pipes */ 
+       for (p_it = Pipes; p_it; p_it = p_it->next)
+               DEBUG(5,("open pipes: name %s pnum=%x\n", p_it->name, p_it->pnum));  
+
+       return chain_p;
+}
+
+/****************************************************************************
+ Make an internal namedpipes structure
+****************************************************************************/
+
+static void *make_internal_rpc_pipe_p(char *pipe_name, 
+                             connection_struct *conn, uint16 vuid)
+{
+       pipes_struct *p;
+       user_struct *vuser = get_valid_user_struct(vuid);
+
+       DEBUG(4,("Create pipe requested %s\n", pipe_name));
+
+       if (!vuser && vuid != UID_FIELD_INVALID) {
+               DEBUG(0,("ERROR! vuid %d did not map to a valid vuser struct!\n", vuid));
+               return NULL;
+       }
+
        p = (pipes_struct *)malloc(sizeof(*p));
 
        if (!p)
+       {
+               DEBUG(0,("ERROR! no memory for pipes_struct!\n"));
                return NULL;
+       }
 
        ZERO_STRUCTP(p);
 
-       if ((p->mem_ctx = talloc_init()) == NULL) {
+       if ((p->mem_ctx = talloc_init("pipe %s %p", pipe_name, p)) == NULL) {
                DEBUG(0,("open_rpc_pipe_p: talloc_init failed.\n"));
                SAFE_FREE(p);
                return NULL;
@@ -167,9 +306,6 @@ pipes_struct *open_rpc_pipe_p(char *pipe_name,
                return NULL;
        }
 
-
-       DLIST_ADD(Pipes, p);
-
        /*
         * Initialize the incoming RPC data buffer with one PDU worth of memory.
         * We cheat here and say we're marshalling, as we intend to add incoming
@@ -182,21 +318,15 @@ pipes_struct *open_rpc_pipe_p(char *pipe_name,
                return NULL;
        }
 
-       bitmap_set(bmap, i);
-       i += pipe_handle_offset;
+       DLIST_ADD(InternalPipes, p);
 
-       pipes_open++;
+       p->conn = conn;
 
-       p->pnum = i;
+       /* Ensure the connection isn't idled whilst this pipe is open. */
+       p->conn->num_files_open++;
 
-       p->open = True;
-       p->device_state = 0;
-       p->priority = 0;
-       p->conn = conn;
        p->vuid  = vuid;
 
-       p->max_trans_reply = 0;
-       
        p->ntlmssp_chal_flags = 0;
        p->ntlmssp_auth_validated = False;
        p->ntlmssp_auth_requested = False;
@@ -205,6 +335,17 @@ pipes_struct *open_rpc_pipe_p(char *pipe_name,
        p->fault_state = False;
        p->endian = RPC_LITTLE_ENDIAN;
 
+       ZERO_STRUCT(p->pipe_user);
+
+       p->pipe_user.uid = (uid_t)-1;
+       p->pipe_user.gid = (gid_t)-1;
+       
+       /* Store the session key and NT_TOKEN */
+       if (vuser) {
+               memcpy(p->session_key, vuser->session_key, sizeof(p->session_key));
+               p->pipe_user.nt_user_token = dup_nt_token(vuser->nt_user_token);
+       }
+
        /*
         * Initialize the incoming RPC struct.
         */
@@ -225,23 +366,12 @@ pipes_struct *open_rpc_pipe_p(char *pipe_name,
         */     
        prs_init(&p->out_data.rdata, 0, p->mem_ctx, MARSHALL);
        
-       ZERO_STRUCT(p->pipe_user);
-
-       p->pipe_user.uid = (uid_t)-1;
-       p->pipe_user.gid = (gid_t)-1;
-       
        fstrcpy(p->name, pipe_name);
        
-       DEBUG(4,("Opened pipe %s with handle %x (pipes_open=%d)\n",
-                pipe_name, i, pipes_open));
-       
-       chain_p = p;
-       
-       /* OVERWRITE p as a temp variable, to display all open pipes */ 
-       for (p = Pipes; p; p = p->next)
-               DEBUG(5,("open pipes: name %s pnum=%x\n", p->name, p->pnum));  
+       DEBUG(4,("Created internal pipe %s (pipes_open=%d)\n",
+                pipe_name, pipes_open));
 
-       return chain_p;
+       return (void*)p;
 }
 
 /****************************************************************************
@@ -254,8 +384,8 @@ static void set_incoming_fault(pipes_struct *p)
        p->in_data.pdu_needed_len = 0;
        p->in_data.pdu_received_len = 0;
        p->fault_state = True;
-       DEBUG(10,("set_incoming_fault: Setting fault state on pipe %s : pnum = 0x%x\n",
-               p->name, p->pnum ));
+       DEBUG(10,("set_incoming_fault: Setting fault state on pipe %s : vuid = 0x%x\n",
+               p->name, p->vuid ));
 }
 
 /****************************************************************************
@@ -414,7 +544,7 @@ void free_pipe_context(pipes_struct *p)
                DEBUG(3,("free_pipe_context: destroying talloc pool of size %u\n", talloc_pool_size(p->mem_ctx) ));
                talloc_destroy_pool(p->mem_ctx);
        } else {
-               p->mem_ctx = talloc_init();
+               p->mem_ctx = talloc_init("pipe %s %p", p->name, p);
                if (p->mem_ctx == NULL)
                        p->fault_state = True;
        }
@@ -464,17 +594,27 @@ static BOOL process_request_pdu(pipes_struct *p, prs_struct *rpc_in_p)
                 * Authentication _was_ requested and it already failed.
                 */
 
-               DEBUG(0,("process_request_pdu: RPC request received on pipe %s where \
-authentication failed. Denying the request.\n", p->name));
+               DEBUG(0,("process_request_pdu: RPC request received on pipe %s "
+                        "where authentication failed. Denying the request.\n",
+                        p->name));
                set_incoming_fault(p);
-        return False;
-    }
+               return False;
+       }
+
+       if (p->netsec_auth_validated && !api_pipe_netsec_process(p, rpc_in_p)) {
+               DEBUG(0,("process_request_pdu: failed to do schannel processing.\n"));
+               set_incoming_fault(p);
+               return False;
+       }
 
        /*
-        * Check the data length doesn't go over the 10Mb limit.
+        * Check the data length doesn't go over the 15Mb limit.
+        * increased after observing a bug in the Windows NT 4.0 SP6a
+        * spoolsv.exe when the response to a GETPRINTERDRIVER2 RPC
+        * will not fit in the initial buffer of size 0x1068   --jerry 22/01/2002
         */
        
-       if(prs_data_size(&p->in_data.data) + data_len > 10*1024*1024) {
+       if(prs_offset(&p->in_data.data) + data_len > 15*1024*1024) {
                DEBUG(0,("process_request_pdu: rpc data buffer too large (%u) + (%u)\n",
                                (unsigned int)prs_data_size(&p->in_data.data), (unsigned int)data_len ));
                set_incoming_fault(p);
@@ -485,16 +625,11 @@ authentication failed. Denying the request.\n", p->name));
         * Append the data portion into the buffer and return.
         */
 
-       {
-               char *data_from = prs_data_p(rpc_in_p) + prs_offset(rpc_in_p);
-
-               if(!prs_append_data(&p->in_data.data, data_from, data_len)) {
-                       DEBUG(0,("process_request_pdu: Unable to append data size %u to parse buffer of size %u.\n",
-                                       (unsigned int)data_len, (unsigned int)prs_data_size(&p->in_data.data) ));
-                       set_incoming_fault(p);
-                       return False;
-               }
-
+       if(!prs_append_some_prs_data(&p->in_data.data, rpc_in_p, prs_offset(rpc_in_p), data_len)) {
+               DEBUG(0,("process_request_pdu: Unable to append data size %u to parse buffer of size %u.\n",
+                               (unsigned int)data_len, (unsigned int)prs_data_size(&p->in_data.data) ));
+               set_incoming_fault(p);
+               return False;
        }
 
        if(p->hdr.flags & RPC_FLG_LAST) {
@@ -712,10 +847,8 @@ incoming data size = %u\n", (unsigned int)p->in_data.pdu_received_len, (unsigned
  Accepts incoming data on an rpc pipe.
 ****************************************************************************/
 
-ssize_t write_to_pipe(pipes_struct *p, char *data, size_t n)
+ssize_t write_to_pipe(smb_np_struct *p, char *data, size_t n)
 {
-       size_t data_left = n;
-
        DEBUG(6,("write_to_pipe: %x", p->pnum));
 
        DEBUG(6,(" name: %s open: %s len: %d\n",
@@ -723,6 +856,18 @@ ssize_t write_to_pipe(pipes_struct *p, char *data, size_t n)
 
        dump_data(50, data, n);
 
+       return p->namedpipe_write(p->np_state, data, n);
+}
+
+/****************************************************************************
+ Accepts incoming data on an internal rpc pipe.
+****************************************************************************/
+
+static ssize_t write_to_internal_pipe(void *np_conn, char *data, size_t n)
+{
+       pipes_struct *p = (pipes_struct*)np_conn;
+       size_t data_left = n;
+
        while(data_left) {
                ssize_t data_used;
 
@@ -753,11 +898,9 @@ ssize_t write_to_pipe(pipes_struct *p, char *data, size_t n)
  have been prepared into arrays of headers + data stream sections.
 ****************************************************************************/
 
-ssize_t read_from_pipe(pipes_struct *p, char *data, size_t n)
+ssize_t read_from_pipe(smb_np_struct *p, char *data, size_t n,
+               BOOL *is_data_outstanding)
 {
-       uint32 pdu_remaining = 0;
-       ssize_t data_returned = 0;
-
        if (!p || !p->open) {
                DEBUG(0,("read_from_pipe: pipe not open\n"));
                return -1;              
@@ -765,6 +908,32 @@ ssize_t read_from_pipe(pipes_struct *p, char *data, size_t n)
 
        DEBUG(6,("read_from_pipe: %x", p->pnum));
 
+       return p->namedpipe_read(p->np_state, data, n, is_data_outstanding);
+}
+
+/****************************************************************************
+ Replies to a request to read data from a pipe.
+
+ Headers are interspersed with the data at PDU intervals. By the time
+ this function is called, the start of the data could possibly have been
+ read by an SMBtrans (file_offset != 0).
+
+ Calling create_rpc_reply() here is a hack. The data should already
+ have been prepared into arrays of headers + data stream sections.
+****************************************************************************/
+
+static ssize_t read_from_internal_pipe(void *np_conn, char *data, size_t n,
+               BOOL *is_data_outstanding)
+{
+       pipes_struct *p = (pipes_struct*)np_conn;
+       uint32 pdu_remaining = 0;
+       ssize_t data_returned = 0;
+
+       if (!p) {
+               DEBUG(0,("read_from_pipe: pipe not open\n"));
+               return -1;              
+       }
+
        DEBUG(6,(" name: %s len: %u\n", p->name, (unsigned int)n));
 
        /*
@@ -839,6 +1008,7 @@ returning %d bytes.\n", p->name, (unsigned int)p->out_data.current_pdu_len,
 
   out:
 
+       (*is_data_outstanding) = p->out_data.current_pdu_len > n;
        return data_returned;
 }
 
@@ -846,7 +1016,7 @@ returning %d bytes.\n", p->name, (unsigned int)p->out_data.current_pdu_len,
  Wait device state on a pipe. Exactly what this is for is unknown...
 ****************************************************************************/
 
-BOOL wait_rpc_pipe_hnd_state(pipes_struct *p, uint16 priority)
+BOOL wait_rpc_pipe_hnd_state(smb_np_struct *p, uint16 priority)
 {
        if (p == NULL)
                return False;
@@ -870,7 +1040,7 @@ BOOL wait_rpc_pipe_hnd_state(pipes_struct *p, uint16 priority)
  Set device state on a pipe. Exactly what this is for is unknown...
 ****************************************************************************/
 
-BOOL set_rpc_pipe_hnd_state(pipes_struct *p, uint16 device_state)
+BOOL set_rpc_pipe_hnd_state(smb_np_struct *p, uint16 device_state)
 {
        if (p == NULL)
                return False;
@@ -894,21 +1064,14 @@ BOOL set_rpc_pipe_hnd_state(pipes_struct *p, uint16 device_state)
  Close an rpc pipe.
 ****************************************************************************/
 
-BOOL close_rpc_pipe_hnd(pipes_struct *p, connection_struct *conn)
+BOOL close_rpc_pipe_hnd(smb_np_struct *p)
 {
        if (!p) {
                DEBUG(0,("Invalid pipe in close_rpc_pipe_hnd\n"));
                return False;
        }
 
-       prs_mem_free(&p->out_data.rdata);
-       prs_mem_free(&p->in_data.data);
-
-       if (p->mem_ctx)
-               talloc_destroy(p->mem_ctx);
-
-       /* Free the handles database. */
-       close_policy_by_pipe(p);
+       p->namedpipe_close(p->np_state);
 
        bitmap_clear(bmap, p->pnum - pipe_handle_offset);
 
@@ -919,9 +1082,41 @@ BOOL close_rpc_pipe_hnd(pipes_struct *p, connection_struct *conn)
 
        DLIST_REMOVE(Pipes, p);
 
+       ZERO_STRUCTP(p);
+
+       SAFE_FREE(p);
+
+       return True;
+}
+
+/****************************************************************************
+ Close an rpc pipe.
+****************************************************************************/
+
+static BOOL close_internal_rpc_pipe_hnd(void *np_conn)
+{
+       pipes_struct *p = (pipes_struct *)np_conn;
+       if (!p) {
+               DEBUG(0,("Invalid pipe in close_internal_rpc_pipe_hnd\n"));
+               return False;
+       }
+
+       prs_mem_free(&p->out_data.rdata);
+       prs_mem_free(&p->in_data.data);
+
+       if (p->mem_ctx)
+               talloc_destroy(p->mem_ctx);
+
+       /* Free the handles database. */
+       close_policy_by_pipe(p);
+
        delete_nt_token(&p->pipe_user.nt_user_token);
        SAFE_FREE(p->pipe_user.groups);
 
+       DLIST_REMOVE(InternalPipes, p);
+
+       p->conn->num_files_open--;
+
        ZERO_STRUCTP(p);
 
        SAFE_FREE(p);
@@ -933,7 +1128,7 @@ BOOL close_rpc_pipe_hnd(pipes_struct *p, connection_struct *conn)
  Find an rpc pipe given a pipe handle in a buffer and an offset.
 ****************************************************************************/
 
-pipes_struct *get_rpc_pipe_p(char *buf, int where)
+smb_np_struct *get_rpc_pipe_p(char *buf, int where)
 {
        int pnum = SVAL(buf,where);
 
@@ -947,9 +1142,9 @@ pipes_struct *get_rpc_pipe_p(char *buf, int where)
  Find an rpc pipe given a pipe handle.
 ****************************************************************************/
 
-pipes_struct *get_rpc_pipe(int pnum)
+smb_np_struct *get_rpc_pipe(int pnum)
 {
-       pipes_struct *p;
+       smb_np_struct *p;
 
        DEBUG(4,("search for pipe pnum=%x\n", pnum));