[BZ #5979]
[jlayton/glibc.git] / sunrpc / xdr_array.c
1 /* @(#)xdr_array.c      2.1 88/07/29 4.0 RPCSRC */
2 /*
3  * Sun RPC is a product of Sun Microsystems, Inc. and is provided for
4  * unrestricted use provided that this legend is included on all tape
5  * media and as a part of the software program in whole or part.  Users
6  * may copy or modify Sun RPC without charge, but are not authorized
7  * to license or distribute it to anyone else except as part of a product or
8  * program developed by the user.
9  *
10  * SUN RPC IS PROVIDED AS IS WITH NO WARRANTIES OF ANY KIND INCLUDING THE
11  * WARRANTIES OF DESIGN, MERCHANTIBILITY AND FITNESS FOR A PARTICULAR
12  * PURPOSE, OR ARISING FROM A COURSE OF DEALING, USAGE OR TRADE PRACTICE.
13  *
14  * Sun RPC is provided with no support and without any obligation on the
15  * part of Sun Microsystems, Inc. to assist in its use, correction,
16  * modification or enhancement.
17  *
18  * SUN MICROSYSTEMS, INC. SHALL HAVE NO LIABILITY WITH RESPECT TO THE
19  * INFRINGEMENT OF COPYRIGHTS, TRADE SECRETS OR ANY PATENTS BY SUN RPC
20  * OR ANY PART THEREOF.
21  *
22  * In no event will Sun Microsystems, Inc. be liable for any lost revenue
23  * or profits or other special, indirect and consequential damages, even if
24  * Sun has been advised of the possibility of such damages.
25  *
26  * Sun Microsystems, Inc.
27  * 2550 Garcia Avenue
28  * Mountain View, California  94043
29  */
30 #if !defined(lint) && defined(SCCSIDS)
31 static char sccsid[] = "@(#)xdr_array.c 1.10 87/08/11 Copyr 1984 Sun Micro";
32 #endif
33
34 /*
35  * xdr_array.c, Generic XDR routines implementation.
36  *
37  * Copyright (C) 1984, Sun Microsystems, Inc.
38  *
39  * These are the "non-trivial" xdr primitives used to serialize and de-serialize
40  * arrays.  See xdr.h for more info on the interface to xdr.
41  */
42
43 #include <stdio.h>
44 #include <string.h>
45 #include <rpc/types.h>
46 #include <rpc/xdr.h>
47 #include <libintl.h>
48 #include <limits.h>
49
50 #ifdef USE_IN_LIBIO
51 # include <wchar.h>
52 #endif
53
54 #define LASTUNSIGNED    ((u_int)0-1)
55
56
57 /*
58  * XDR an array of arbitrary elements
59  * *addrp is a pointer to the array, *sizep is the number of elements.
60  * If addrp is NULL (*sizep * elsize) bytes are allocated.
61  * elsize is the size (in bytes) of each element, and elproc is the
62  * xdr procedure to call to handle each element of the array.
63  */
64 bool_t
65 xdr_array (xdrs, addrp, sizep, maxsize, elsize, elproc)
66      XDR *xdrs;
67      caddr_t *addrp;            /* array pointer */
68      u_int *sizep;              /* number of elements */
69      u_int maxsize;             /* max numberof elements */
70      u_int elsize;              /* size in bytes of each element */
71      xdrproc_t elproc;          /* xdr routine to handle each element */
72 {
73   u_int i;
74   caddr_t target = *addrp;
75   u_int c;              /* the actual element count */
76   bool_t stat = TRUE;
77
78   /* like strings, arrays are really counted arrays */
79   if (!INTUSE(xdr_u_int) (xdrs, sizep))
80     {
81       return FALSE;
82     }
83   c = *sizep;
84   /*
85    * XXX: Let the overflow possibly happen with XDR_FREE because mem_free()
86    * doesn't actually use its second argument anyway.
87    */
88   if ((c > maxsize || c > UINT_MAX / elsize) && (xdrs->x_op != XDR_FREE))
89     {
90       return FALSE;
91     }
92
93   /*
94    * if we are deserializing, we may need to allocate an array.
95    * We also save time by checking for a null array if we are freeing.
96    */
97   if (target == NULL)
98     switch (xdrs->x_op)
99       {
100       case XDR_DECODE:
101         if (c == 0)
102           return TRUE;
103         *addrp = target = calloc (c, elsize);
104         if (target == NULL)
105           {
106             (void) __fxprintf (NULL, "%s: %s", __func__, _("out of memory\n"));
107             return FALSE;
108           }
109         break;
110
111       case XDR_FREE:
112         return TRUE;
113       default:
114         break;
115       }
116
117   /*
118    * now we xdr each element of array
119    */
120   for (i = 0; (i < c) && stat; i++)
121     {
122       stat = (*elproc) (xdrs, target, LASTUNSIGNED);
123       target += elsize;
124     }
125
126   /*
127    * the array may need freeing
128    */
129   if (xdrs->x_op == XDR_FREE)
130     {
131       mem_free (*addrp, c * elsize);
132       *addrp = NULL;
133     }
134   return stat;
135 }
136 INTDEF(xdr_array)
137
138 /*
139  * xdr_vector():
140  *
141  * XDR a fixed length array. Unlike variable-length arrays,
142  * the storage of fixed length arrays is static and unfreeable.
143  * > basep: base of the array
144  * > size: size of the array
145  * > elemsize: size of each element
146  * > xdr_elem: routine to XDR each element
147  */
148 bool_t
149 xdr_vector (xdrs, basep, nelem, elemsize, xdr_elem)
150      XDR *xdrs;
151      char *basep;
152      u_int nelem;
153      u_int elemsize;
154      xdrproc_t xdr_elem;
155 {
156   u_int i;
157   char *elptr;
158
159   elptr = basep;
160   for (i = 0; i < nelem; i++)
161     {
162       if (!(*xdr_elem) (xdrs, elptr, LASTUNSIGNED))
163         {
164           return FALSE;
165         }
166       elptr += elemsize;
167     }
168   return TRUE;
169 }