Move next_token_talloc() to top-level.
[amitay/samba.git] / source3 / lib / util_str.c
index e4aa5dbd51b7d2c3249ec1ddeb42bc7ad2943dab..b9ccb83e556134a2a54a717b7f3811d943c7870d 100644 (file)
-/* 
+/*
    Unix SMB/CIFS implementation.
    Samba utility functions
-   
+
    Copyright (C) Andrew Tridgell 1992-2001
    Copyright (C) Simo Sorce      2001-2002
    Copyright (C) Martin Pool     2003
-   
+   Copyright (C) James Peach    2006
+   Copyright (C) Jeremy Allison  1992-2007
+
    This program is free software; you can redistribute it and/or modify
    it under the terms of the GNU General Public License as published by
-   the Free Software Foundation; either version 2 of the License, or
+   the Free Software Foundation; either version 3 of the License, or
    (at your option) any later version.
-   
+
    This program is distributed in the hope that it will be useful,
    but WITHOUT ANY WARRANTY; without even the implied warranty of
    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
    GNU General Public License for more details.
-   
+
    You should have received a copy of the GNU General Public License
-   along with this program; if not, write to the Free Software
-   Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
+   along with this program.  If not, see <http://www.gnu.org/licenses/>.
 */
 
 #include "includes.h"
 
-/**
- * @file
- * @brief String utilities.
- **/
-
-/**
- * Get the next token from a string, return False if none found.
- * Handles double-quotes.
- * 
- * Based on a routine by GJC@VILLAGE.COM. 
- * Extensively modified by Andrew.Tridgell@anu.edu.au
- **/
-BOOL next_token(const char **ptr,char *buff, const char *sep, size_t bufsize)
-{
-       char *s;
-       char *pbuf;
-       BOOL quoted;
-       size_t len=1;
-
-       if (!ptr)
-               return(False);
-
-       s = (char *)*ptr;
-
-       /* default to simple separators */
-       if (!sep)
-               sep = " \t\n\r";
-
-       /* find the first non sep char */
-       while (*s && strchr_m(sep,*s))
-               s++;
-       
-       /* nothing left? */
-       if (! *s)
-               return(False);
-       
-       /* copy over the token */
-       pbuf = buff;
-       for (quoted = False; len < bufsize && *s && (quoted || !strchr_m(sep,*s)); s++) {
-               if ( *s == '\"' ) {
-                       quoted = !quoted;
-               } else {
-                       len++;
-                       *pbuf++ = *s;
-               }
-       }
-       
-       *ptr = (*s) ? s+1 : s;  
-       *pbuf = 0;
-       
-       return(True);
-}
-
-/**
-This is like next_token but is not re-entrant and "remembers" the first 
-parameter so you can pass NULL. This is useful for user interface code
-but beware the fact that it is not re-entrant!
-**/
-
-static const char *last_ptr=NULL;
-
-BOOL next_token_nr(const char **ptr,char *buff, const char *sep, size_t bufsize)
-{
-       BOOL ret;
-       if (!ptr)
-               ptr = &last_ptr;
-
-       ret = next_token(ptr, buff, sep, bufsize);
-       last_ptr = *ptr;
-       return ret;     
-}
-
-static uint16 tmpbuf[sizeof(pstring)];
-
-void set_first_token(char *ptr)
-{
-       last_ptr = ptr;
-}
-
-/**
- Convert list of tokens to array; dependent on above routine.
- Uses last_ptr from above - bit of a hack.
-**/
-
-char **toktocliplist(int *ctok, const char *sep)
-{
-       char *s=(char *)last_ptr;
-       int ictok=0;
-       char **ret, **iret;
-
-       if (!sep)
-               sep = " \t\n\r";
-
-       while(*s && strchr_m(sep,*s))
-               s++;
-
-       /* nothing left? */
-       if (!*s)
-               return(NULL);
-
-       do {
-               ictok++;
-               while(*s && (!strchr_m(sep,*s)))
-                       s++;
-               while(*s && strchr_m(sep,*s))
-                       *s++=0;
-       } while(*s);
-       
-       *ctok=ictok;
-       s=(char *)last_ptr;
-       
-       if (!(ret=iret=SMB_MALLOC_ARRAY(char *,ictok+1)))
-               return NULL;
-       
-       while(ictok--) {    
-               *iret++=s;
-               if (ictok > 0) {
-                       while(*s++)
-                               ;
-                       while(!*s)
-                               s++;
-               }
-       }
-
-       ret[*ctok] = NULL;
-       return ret;
-}
+const char toupper_ascii_fast_table[128] = {
+       0x0, 0x1, 0x2, 0x3, 0x4, 0x5, 0x6, 0x7, 0x8, 0x9, 0xa, 0xb, 0xc, 0xd, 0xe, 0xf,
+       0x10, 0x11, 0x12, 0x13, 0x14, 0x15, 0x16, 0x17, 0x18, 0x19, 0x1a, 0x1b, 0x1c, 0x1d, 0x1e, 0x1f,
+       0x20, 0x21, 0x22, 0x23, 0x24, 0x25, 0x26, 0x27, 0x28, 0x29, 0x2a, 0x2b, 0x2c, 0x2d, 0x2e, 0x2f,
+       0x30, 0x31, 0x32, 0x33, 0x34, 0x35, 0x36, 0x37, 0x38, 0x39, 0x3a, 0x3b, 0x3c, 0x3d, 0x3e, 0x3f,
+       0x40, 0x41, 0x42, 0x43, 0x44, 0x45, 0x46, 0x47, 0x48, 0x49, 0x4a, 0x4b, 0x4c, 0x4d, 0x4e, 0x4f,
+       0x50, 0x51, 0x52, 0x53, 0x54, 0x55, 0x56, 0x57, 0x58, 0x59, 0x5a, 0x5b, 0x5c, 0x5d, 0x5e, 0x5f,
+       0x60, 0x41, 0x42, 0x43, 0x44, 0x45, 0x46, 0x47, 0x48, 0x49, 0x4a, 0x4b, 0x4c, 0x4d, 0x4e, 0x4f,
+       0x50, 0x51, 0x52, 0x53, 0x54, 0x55, 0x56, 0x57, 0x58, 0x59, 0x5a, 0x7b, 0x7c, 0x7d, 0x7e, 0x7f
+};
 
 /**
  * Case insensitive string compararison.
@@ -178,7 +62,7 @@ char **toktocliplist(int *ctok, const char *sep)
  * different, we'd need to restart the whole thing.
  *
  * Even better is to implement strcasecmp for each encoding and use a
- * function pointer. 
+ * function pointer.
  **/
 int StrCaseCmp(const char *s, const char *t)
 {
@@ -198,11 +82,12 @@ int StrCaseCmp(const char *s, const char *t)
                else if (!*pt)
                        return +1; /* t is a prefix */
                else if ((*ps & 0x80) || (*pt & 0x80))
-                       /* not ascii anymore, do it the hard way from here on in */
+                       /* not ascii anymore, do it the hard way
+                        * from here on in */
                        break;
 
-               us = toupper_ascii(*ps);
-               ut = toupper_ascii(*pt);
+               us = toupper_ascii_fast(*ps);
+               ut = toupper_ascii_fast(*pt);
                if (us == ut)
                        continue;
                else if (us < ut)
@@ -211,21 +96,21 @@ int StrCaseCmp(const char *s, const char *t)
                        return +1;
        }
 
-       size = push_ucs2_allocate(&buffer_s, ps);
-       if (size == (size_t)-1) {
-               return strcmp(ps, pt); 
+       if (!push_ucs2_allocate(&buffer_s, ps, &size)) {
+               return strcmp(ps, pt);
                /* Not quite the right answer, but finding the right one
-                  under this failure case is expensive, and it's pretty close */
+                  under this failure case is expensive, and it's pretty
+                  close */
        }
-       
-       size = push_ucs2_allocate(&buffer_t, pt);
-       if (size == (size_t)-1) {
+
+       if (!push_ucs2_allocate(&buffer_t, pt, &size)) {
                SAFE_FREE(buffer_s);
-               return strcmp(ps, pt); 
+               return strcmp(ps, pt);
                /* Not quite the right answer, but finding the right one
-                  under this failure case is expensive, and it's pretty close */
+                  under this failure case is expensive, and it's pretty
+                  close */
        }
-       
+
        ret = strcasecmp_w(buffer_s, buffer_t);
        SAFE_FREE(buffer_s);
        SAFE_FREE(buffer_t);
@@ -236,12 +121,61 @@ int StrCaseCmp(const char *s, const char *t)
 /**
  Case insensitive string compararison, length limited.
 **/
-int StrnCaseCmp(const char *s, const char *t, size_t n)
+int StrnCaseCmp(const char *s, const char *t, size_t len)
 {
-       pstring buf1, buf2;
-       unix_strupper(s, strlen(s)+1, buf1, sizeof(buf1));
-       unix_strupper(t, strlen(t)+1, buf2, sizeof(buf2));
-       return strncmp(buf1,buf2,n);
+       size_t n = 0;
+       const char *ps, *pt;
+       size_t size;
+       smb_ucs2_t *buffer_s, *buffer_t;
+       int ret;
+
+       for (ps = s, pt = t; n < len ; ps++, pt++, n++) {
+               char us, ut;
+
+               if (!*ps && !*pt)
+                       return 0; /* both ended */
+               else if (!*ps)
+                       return -1; /* s is a prefix */
+               else if (!*pt)
+                       return +1; /* t is a prefix */
+               else if ((*ps & 0x80) || (*pt & 0x80))
+                       /* not ascii anymore, do it the
+                        * hard way from here on in */
+                       break;
+
+               us = toupper_ascii_fast(*ps);
+               ut = toupper_ascii_fast(*pt);
+               if (us == ut)
+                       continue;
+               else if (us < ut)
+                       return -1;
+               else if (us > ut)
+                       return +1;
+       }
+
+       if (n == len) {
+               return 0;
+       }
+
+       if (!push_ucs2_allocate(&buffer_s, ps, &size)) {
+               return strncmp(ps, pt, len-n);
+               /* Not quite the right answer, but finding the right one
+                  under this failure case is expensive,
+                  and it's pretty close */
+       }
+
+       if (!push_ucs2_allocate(&buffer_t, pt, &size)) {
+               SAFE_FREE(buffer_s);
+               return strncmp(ps, pt, len-n);
+               /* Not quite the right answer, but finding the right one
+                  under this failure case is expensive,
+                  and it's pretty close */
+       }
+
+       ret = strncasecmp_w(buffer_s, buffer_t, len-n);
+       SAFE_FREE(buffer_s);
+       SAFE_FREE(buffer_t);
+       return ret;
 }
 
 /**
@@ -249,13 +183,13 @@ int StrnCaseCmp(const char *s, const char *t, size_t n)
  *
  * @note The comparison is case-insensitive.
  **/
-BOOL strequal(const char *s1, const char *s2)
+bool strequal(const char *s1, const char *s2)
 {
        if (s1 == s2)
-               return(True);
+               return(true);
        if (!s1 || !s2)
-               return(False);
-  
+               return(false);
+
        return(StrCaseCmp(s1,s2)==0);
 }
 
@@ -264,13 +198,13 @@ BOOL strequal(const char *s1, const char *s2)
  *
  * @note The comparison is case-insensitive.
  **/
-BOOL strnequal(const char *s1,const char *s2,size_t n)
+bool strnequal(const char *s1,const char *s2,size_t n)
 {
        if (s1 == s2)
-               return(True);
+               return(true);
        if (!s1 || !s2 || !n)
-               return(False);
-  
+               return(false);
+
        return(StrnCaseCmp(s1,s2,n)==0);
 }
 
@@ -278,13 +212,13 @@ BOOL strnequal(const char *s1,const char *s2,size_t n)
  Compare 2 strings (case sensitive).
 **/
 
-BOOL strcsequal(const char *s1,const char *s2)
+bool strcsequal(const char *s1,const char *s2)
 {
        if (s1 == s2)
-               return(True);
+               return(true);
        if (!s1 || !s2)
-               return(False);
-  
+               return(false);
+
        return(strcmp(s1,s2)==0);
 }
 
@@ -309,8 +243,8 @@ int strwicmp(const char *psz1, const char *psz2)
                        psz1++;
                while (isspace((int)*psz2))
                        psz2++;
-               if (toupper_ascii(*psz1) != toupper_ascii(*psz2) || *psz1 == '\0'
-                   || *psz2 == '\0')
+               if (toupper_ascii(*psz1) != toupper_ascii(*psz2) ||
+                               *psz1 == '\0' || *psz2 == '\0')
                        break;
                psz1++;
                psz2++;
@@ -318,21 +252,6 @@ int strwicmp(const char *psz1, const char *psz2)
        return (*psz1 - *psz2);
 }
 
-
-/**
- Convert a string to upper case, but don't modify it.
-**/
-
-char *strupper_static(const char *s)
-{
-       static pstring str;
-
-       pstrcpy(str, s);
-       strupper_m(str);
-
-       return str;
-}
-
 /**
  Convert a string to "normal" form.
 **/
@@ -349,11 +268,11 @@ void strnorm(char *s, int case_default)
  Check if a string is in "normal" case.
 **/
 
-BOOL strisnormal(const char *s, int case_default)
+bool strisnormal(const char *s, int case_default)
 {
        if (case_default == CASE_UPPER)
                return(!strhaslower(s));
-       
+
        return(!strhasupper(s));
 }
 
@@ -362,8 +281,7 @@ BOOL strisnormal(const char *s, int case_default)
  String replace.
  NOTE: oldc and newc must be 7 bit characters
 **/
-
-void string_replace( pstring s, char oldc, char newc )
+void string_replace( char *s, char oldc, char newc )
 {
        char *p;
 
@@ -375,8 +293,9 @@ void string_replace( pstring s, char oldc, char newc )
        for (p = s; *p; p++) {
                if (*p & 0x80) /* mb string - slow path. */
                        break;
-               if (*p == oldc)
+               if (*p == oldc) {
                        *p = newc;
+               }
        }
 
        if (!*p)
@@ -387,22 +306,56 @@ void string_replace( pstring s, char oldc, char newc )
        /* With compose characters we must restart from the beginning. JRA. */
        p = s;
 #endif
-       push_ucs2(NULL, tmpbuf, p, sizeof(tmpbuf), STR_TERMINATE);
-       string_replace_w(tmpbuf, UCS2_CHAR(oldc), UCS2_CHAR(newc));
-       pull_ucs2(NULL, p, tmpbuf, -1, sizeof(tmpbuf), STR_TERMINATE);
+
+       while (*p) {
+               size_t c_size;
+               next_codepoint(p, &c_size);
+
+               if (c_size == 1) {
+                       if (*p == oldc) {
+                               *p = newc;
+                       }
+               }
+               p += c_size;
+       }
 }
 
 /**
Skip past some strings in a buffer.
-**/
*  Skip past some strings in a buffer - old version - no checks.
+ *  **/
 
-char *skip_string(char *buf,size_t n)
+char *push_skip_string(char *buf)
 {
-       while (n--)
-               buf += strlen(buf) + 1;
+       buf += strlen(buf) + 1;
        return(buf);
 }
 
+/**
+ Skip past a string in a buffer. Buffer may not be
+ null terminated. end_ptr points to the first byte after
+ then end of the buffer.
+**/
+
+char *skip_string(const char *base, size_t len, char *buf)
+{
+       const char *end_ptr = base + len;
+
+       if (end_ptr < base || !base || !buf || buf >= end_ptr) {
+               return NULL;
+       }
+
+       /* Skip the string */
+       while (*buf) {
+               buf++;
+               if (buf >= end_ptr) {
+                       return NULL;
+               }
+       }
+       /* Skip the '\0' */
+       buf++;
+       return buf;
+}
+
 /**
  Count the number of characters in a string. Normally this will
  be the same as the number of bytes in a string for single byte strings,
@@ -411,9 +364,14 @@ char *skip_string(char *buf,size_t n)
 
 size_t str_charnum(const char *s)
 {
-       uint16 tmpbuf2[sizeof(pstring)];
-       push_ucs2(NULL, tmpbuf2,s, sizeof(tmpbuf2), STR_TERMINATE);
-       return strlen_w(tmpbuf2);
+       size_t ret, converted_size;
+       smb_ucs2_t *tmpbuf2 = NULL;
+       if (!push_ucs2_allocate(&tmpbuf2, s, &converted_size)) {
+               return 0;
+       }
+       ret = strlen_w(tmpbuf2);
+       SAFE_FREE(tmpbuf2);
+       return ret;
 }
 
 /**
@@ -424,20 +382,25 @@ size_t str_charnum(const char *s)
 
 size_t str_ascii_charnum(const char *s)
 {
-       pstring tmpbuf2;
-       push_ascii(tmpbuf2, s, sizeof(tmpbuf2), STR_TERMINATE);
-       return strlen(tmpbuf2);
+       size_t ret, converted_size;
+       char *tmpbuf2 = NULL;
+       if (!push_ascii_allocate(&tmpbuf2, s, &converted_size)) {
+               return 0;
+       }
+       ret = strlen(tmpbuf2);
+       SAFE_FREE(tmpbuf2);
+       return ret;
 }
 
-BOOL trim_char(char *s,char cfront,char cback)
+bool trim_char(char *s,char cfront,char cback)
 {
-       BOOL ret = False;
+       bool ret = false;
        char *ep;
        char *fp = s;
 
        /* Ignore null or empty strings. */
        if (!s || (s[0] == '\0'))
-               return False;
+               return false;
 
        if (cfront) {
                while (*fp && *fp == cfront)
@@ -445,17 +408,17 @@ BOOL trim_char(char *s,char cfront,char cback)
                if (!*fp) {
                        /* We ate the string. */
                        s[0] = '\0';
-                       return True;
+                       return true;
                }
                if (fp != s)
-                       ret = True;
+                       ret = true;
        }
 
        ep = fp + strlen(fp) - 1;
        if (cback) {
                /* Attempt ascii only. Bail for mb strings. */
                while ((ep >= fp) && (*ep == cback)) {
-                       ret = True;
+                       ret = true;
                        if ((ep > fp) && (((unsigned char)ep[-1]) & 0x80)) {
                                /* Could be mb... bail back to tim_string. */
                                char fs[2], bs[2];
@@ -473,7 +436,7 @@ BOOL trim_char(char *s,char cfront,char cback)
                if (ep < fp) {
                        /* We ate the string. */
                        s[0] = '\0';
-                       return True;
+                       return true;
                }
        }
 
@@ -483,93 +446,53 @@ BOOL trim_char(char *s,char cfront,char cback)
 }
 
 /**
- Trim the specified elements off the front and back of a string.
+ Does a string have any uppercase chars in it?
 **/
 
-BOOL trim_string(char *s,const char *front,const char *back)
+bool strhasupper(const char *s)
 {
-       BOOL ret = False;
-       size_t front_len;
-       size_t back_len;
-       size_t len;
-
-       /* Ignore null or empty strings. */
-       if (!s || (s[0] == '\0'))
-               return False;
+       smb_ucs2_t *tmp, *p;
+       bool ret;
+       size_t converted_size;
 
-       front_len       = front? strlen(front) : 0;
-       back_len        = back? strlen(back) : 0;
-
-       len = strlen(s);
-
-       if (front_len) {
-               while (len && strncmp(s, front, front_len)==0) {
-                       /* Must use memmove here as src & dest can
-                        * easily overlap. Found by valgrind. JRA. */
-                       memmove(s, s+front_len, (len-front_len)+1);
-                       len -= front_len;
-                       ret=True;
-               }
+       if (!push_ucs2_allocate(&tmp, s, &converted_size)) {
+               return false;
        }
-       
-       if (back_len) {
-               while ((len >= back_len) && strncmp(s+len-back_len,back,back_len)==0) {
-                       s[len-back_len]='\0';
-                       len -= back_len;
-                       ret=True;
+
+       for(p = tmp; *p != 0; p++) {
+               if(isupper_w(*p)) {
+                       break;
                }
        }
-       return ret;
-}
-
-/**
- Does a string have any uppercase chars in it?
-**/
 
-BOOL strhasupper(const char *s)
-{
-       smb_ucs2_t *ptr;
-       push_ucs2(NULL, tmpbuf,s, sizeof(tmpbuf), STR_TERMINATE);
-       for(ptr=tmpbuf;*ptr;ptr++)
-               if(isupper_w(*ptr))
-                       return True;
-       return(False);
+       ret = (*p != 0);
+       SAFE_FREE(tmp);
+       return ret;
 }
 
 /**
  Does a string have any lowercase chars in it?
 **/
 
-BOOL strhaslower(const char *s)
-{
-       smb_ucs2_t *ptr;
-       push_ucs2(NULL, tmpbuf,s, sizeof(tmpbuf), STR_TERMINATE);
-       for(ptr=tmpbuf;*ptr;ptr++)
-               if(islower_w(*ptr))
-                       return True;
-       return(False);
-}
-
-/**
- Find the number of 'c' chars in a string
-**/
-
-size_t count_chars(const char *s,char c)
+bool strhaslower(const char *s)
 {
-       smb_ucs2_t *ptr;
-       int count;
-       smb_ucs2_t *alloc_tmpbuf = NULL;
+       smb_ucs2_t *tmp, *p;
+       bool ret;
+       size_t converted_size;
 
-       if (push_ucs2_allocate(&alloc_tmpbuf, s) == (size_t)-1) {
-               return 0;
+       if (!push_ucs2_allocate(&tmp, s, &converted_size)) {
+               return false;
        }
 
-       for(count=0,ptr=alloc_tmpbuf;*ptr;ptr++)
-               if(*ptr==UCS2_CHAR(c))
-                       count++;
+       for(p = tmp; *p != 0; p++) {
+               if(islower_w(*p)) {
+                       break;
+               }
+       }
 
-       SAFE_FREE(alloc_tmpbuf);
-       return(count);
+       ret = (*p != 0);
+       SAFE_FREE(tmp);
+       return ret;
 }
 
 /**
@@ -577,12 +500,17 @@ size_t count_chars(const char *s,char c)
  include the terminating zero.
 **/
 
-char *safe_strcpy_fn(const char *fn, int line, char *dest,const char *src, size_t maxlength)
+char *safe_strcpy_fn(const char *fn,
+               int line,
+               char *dest,
+               const char *src,
+               size_t maxlength)
 {
        size_t len;
 
        if (!dest) {
-               DEBUG(0,("ERROR: NULL dest in safe_strcpy, called from [%s][%d]\n", fn, line));
+               DEBUG(0,("ERROR: NULL dest in safe_strcpy, "
+                       "called from [%s][%d]\n", fn, line));
                return NULL;
        }
 
@@ -593,38 +521,44 @@ char *safe_strcpy_fn(const char *fn, int line, char *dest,const char *src, size_
        if (!src) {
                *dest = 0;
                return dest;
-       }  
+       }
 
        len = strnlen(src, maxlength+1);
 
        if (len > maxlength) {
-               DEBUG(0,("ERROR: string overflow by %lu (%lu - %lu) in safe_strcpy [%.50s]\n",
-                        (unsigned long)(len-maxlength), (unsigned long)len, 
+               DEBUG(0,("ERROR: string overflow by "
+                       "%lu (%lu - %lu) in safe_strcpy [%.50s]\n",
+                        (unsigned long)(len-maxlength), (unsigned long)len,
                         (unsigned long)maxlength, src));
                len = maxlength;
        }
-      
+
        memmove(dest, src, len);
        dest[len] = 0;
        return dest;
-}  
+}
 
 /**
  Safe string cat into a string. maxlength does not
  include the terminating zero.
 **/
-char *safe_strcat_fn(const char *fn, int line, char *dest, const char *src, size_t maxlength)
+char *safe_strcat_fn(const char *fn,
+               int line,
+               char *dest,
+               const char *src,
+               size_t maxlength)
 {
        size_t src_len, dest_len;
 
        if (!dest) {
-               DEBUG(0,("ERROR: NULL dest in safe_strcat, called from [%s][%d]\n", fn, line));
+               DEBUG(0,("ERROR: NULL dest in safe_strcat, "
+                       "called from [%s][%d]\n", fn, line));
                return NULL;
        }
 
        if (!src)
                return dest;
-       
+
        src_len = strnlen(src, maxlength + 1);
        dest_len = strnlen(dest, maxlength + 1);
 
@@ -633,7 +567,8 @@ char *safe_strcat_fn(const char *fn, int line, char *dest, const char *src, size
 #endif
 
        if (src_len + dest_len > maxlength) {
-               DEBUG(0,("ERROR: string overflow by %d in safe_strcat [%.50s]\n",
+               DEBUG(0,("ERROR: string overflow by %d "
+                       "in safe_strcat [%.50s]\n",
                         (int)(src_len + dest_len - maxlength), src));
                if (maxlength > dest_len) {
                        memcpy(&dest[dest_len], src, maxlength - dest_len);
@@ -653,7 +588,13 @@ char *safe_strcat_fn(const char *fn, int line, char *dest, const char *src, size
  and replaces with '_'. Deliberately does *NOT* check for multibyte
  characters. Don't change it !
 **/
-char *alpha_strcpy_fn(const char *fn, int line, char *dest, const char *src, const char *other_safe_chars, size_t maxlength)
+
+char *alpha_strcpy_fn(const char *fn,
+               int line,
+               char *dest,
+               const char *src,
+               const char *other_safe_chars,
+               size_t maxlength)
 {
        size_t len, i;
 
@@ -662,14 +603,15 @@ char *alpha_strcpy_fn(const char *fn, int line, char *dest, const char *src, con
 #endif
 
        if (!dest) {
-               DEBUG(0,("ERROR: NULL dest in alpha_strcpy, called from [%s][%d]\n", fn, line));
+               DEBUG(0,("ERROR: NULL dest in alpha_strcpy, "
+                       "called from [%s][%d]\n", fn, line));
                return NULL;
        }
 
        if (!src) {
                *dest = 0;
                return dest;
-       }  
+       }
 
        len = strlen(src);
        if (len >= maxlength)
@@ -680,7 +622,8 @@ char *alpha_strcpy_fn(const char *fn, int line, char *dest, const char *src, con
 
        for(i = 0; i < len; i++) {
                int val = (src[i] & 0xff);
-               if (isupper_ascii(val) || islower_ascii(val) || isdigit(val) || strchr_m(other_safe_chars, val))
+               if (isupper_ascii(val) || islower_ascii(val) ||
+                               isdigit(val) || strchr_m(other_safe_chars, val))
                        dest[i] = src[i];
                else
                        dest[i] = '_';
@@ -704,7 +647,8 @@ char *StrnCpy_fn(const char *fn, int line,char *dest,const char *src,size_t n)
 #endif
 
        if (!dest) {
-               DEBUG(0,("ERROR: NULL dest in StrnCpy, called from [%s][%d]\n", fn, line));
+               DEBUG(0,("ERROR: NULL dest in StrnCpy, "
+                       "called from [%s][%d]\n", fn, line));
                return(NULL);
        }
 
@@ -712,7 +656,7 @@ char *StrnCpy_fn(const char *fn, int line,char *dest,const char *src,size_t n)
                *dest = 0;
                return(dest);
        }
-       
+
        while (n-- && (*d = *src)) {
                d++;
                src++;
@@ -750,140 +694,64 @@ static char *strncpyn(char *dest, const char *src, size_t n, char c)
 }
 #endif
 
-/**
- Routine to get hex characters and turn them into a 16 byte array.
- the array can be variable length, and any non-hex-numeric
- characters are skipped.  "0xnn" or "0Xnn" is specially catered
- for.
-
- valid examples: "0A5D15"; "0x15, 0x49, 0xa2"; "59\ta9\te3\n"
-
-**/
-
-size_t strhex_to_str(char *p, size_t len, const char *strhex)
-{
-       size_t i;
-       size_t num_chars = 0;
-       unsigned char   lonybble, hinybble;
-       const char     *hexchars = "0123456789ABCDEF";
-       char           *p1 = NULL, *p2 = NULL;
-
-       for (i = 0; i < len && strhex[i] != 0; i++) {
-               if (strnequal(hexchars, "0x", 2)) {
-                       i++; /* skip two chars */
-                       continue;
-               }
-
-               if (!(p1 = strchr_m(hexchars, toupper_ascii(strhex[i]))))
-                       break;
-
-               i++; /* next hex digit */
-
-               if (!(p2 = strchr_m(hexchars, toupper_ascii(strhex[i]))))
-                       break;
-
-               /* get the two nybbles */
-               hinybble = PTR_DIFF(p1, hexchars);
-               lonybble = PTR_DIFF(p2, hexchars);
-
-               p[num_chars] = (hinybble << 4) | lonybble;
-               num_chars++;
-
-               p1 = NULL;
-               p2 = NULL;
-       }
-       return num_chars;
-}
-
-DATA_BLOB strhex_to_data_blob(TALLOC_CTX *mem_ctx, const char *strhex) 
-{
-       DATA_BLOB ret_blob;
-
-       if (mem_ctx != NULL)
-               ret_blob = data_blob_talloc(mem_ctx, NULL, strlen(strhex)/2+1);
-       else
-               ret_blob = data_blob(NULL, strlen(strhex)/2+1);
-
-       ret_blob.length = strhex_to_str((char*)ret_blob.data,   
-                                       strlen(strhex), 
-                                       strhex);
-
-       return ret_blob;
-}
-
-/**
- * Routine to print a buffer as HEX digits, into an allocated string.
- */
-
-char *hex_encode(TALLOC_CTX *mem_ctx, const unsigned char *buff_in, size_t len)
-{
-       int i;
-       char *hex_buffer;
-
-       hex_buffer = TALLOC_ARRAY(mem_ctx, char, (len*2)+1);
-
-       for (i = 0; i < len; i++)
-               slprintf(&hex_buffer[i*2], 3, "%02X", buff_in[i]);
-
-       return hex_buffer;
-}
-
 /**
  Check if a string is part of a list.
 **/
 
-BOOL in_list(const char *s, const char *list, BOOL casesensitive)
+bool in_list(const char *s, const char *list, bool casesensitive)
 {
-       pstring tok;
-       const char *p=list;
+       char *tok = NULL;
+       bool ret = false;
+       TALLOC_CTX *frame;
 
-       if (!list)
-               return(False);
+       if (!list) {
+               return false;
+       }
 
-       while (next_token(&p,tok,LIST_SEP,sizeof(tok))) {
+       frame = talloc_stackframe();
+       while (next_token_talloc(frame, &list, &tok,LIST_SEP)) {
                if (casesensitive) {
-                       if (strcmp(tok,s) == 0)
-                               return(True);
+                       if (strcmp(tok,s) == 0) {
+                               ret = true;
+                               break;
+                       }
                } else {
-                       if (StrCaseCmp(tok,s) == 0)
-                               return(True);
+                       if (StrCaseCmp(tok,s) == 0) {
+                               ret = true;
+                               break;
+                       }
                }
        }
-       return(False);
+       TALLOC_FREE(frame);
+       return ret;
 }
 
 /* this is used to prevent lots of mallocs of size 1 */
-static char *null_string = NULL;
+static const char null_string[] = "";
 
 /**
  Set a string value, allocing the space for the string
 **/
 
-static BOOL string_init(char **dest,const char *src)
+static bool string_init(char **dest,const char *src)
 {
        size_t l;
-       if (!src)     
+
+       if (!src)
                src = "";
 
        l = strlen(src);
 
        if (l == 0) {
-               if (!null_string) {
-                       if((null_string = (char *)SMB_MALLOC(1)) == NULL) {
-                               DEBUG(0,("string_init: malloc fail for null_string.\n"));
-                               return False;
-                       }
-                       *null_string = 0;
-               }
-               *dest = null_string;
+               *dest = CONST_DISCARD(char*, null_string);
        } else {
                (*dest) = SMB_STRDUP(src);
                if ((*dest) == NULL) {
                        DEBUG(0,("Out of memory in string_init\n"));
-                       return False;
+                       return false;
                }
        }
-       return(True);
+       return(true);
 }
 
 /**
@@ -904,17 +772,17 @@ void string_free(char **s)
  for the string
 **/
 
-BOOL string_set(char **dest,const char *src)
+bool string_set(char **dest,const char *src)
 {
        string_free(dest);
        return(string_init(dest,src));
 }
 
 /**
- Substitute a string for a pattern in another string. Make sure there is 
+ Substitute a string for a pattern in another string. Make sure there is
  enough room!
 
- This routine looks for pattern in s and replaces it with 
+ This routine looks for pattern in s and replaces it with
  insert. It may do multiple replacements or just one.
 
  Any of " ; ' $ or ` in the insert string are replaced with _
@@ -922,8 +790,9 @@ BOOL string_set(char **dest,const char *src)
  use of len==0 which was for no length checks to be done.
 **/
 
-void string_sub2(char *s,const char *pattern, const char *insert, size_t len, 
-                BOOL remove_unsafe_characters, BOOL replace_once)
+void string_sub2(char *s,const char *pattern, const char *insert, size_t len,
+                bool remove_unsafe_characters, bool replace_once,
+                bool allow_trailing_dollar)
 {
        char *p;
        ssize_t ls,lp,li, i;
@@ -940,7 +809,8 @@ void string_sub2(char *s,const char *pattern, const char *insert, size_t len,
 
        while (lp <= ls && (p = strstr_m(s,pattern))) {
                if (ls + (li-lp) >= len) {
-                       DEBUG(0,("ERROR: string overflow by %d in string_sub(%.50s, %d)\n", 
+                       DEBUG(0,("ERROR: string overflow by "
+                               "%d in string_sub(%.50s, %d)\n",
                                 (int)(ls + (li-lp) - len),
                                 pattern, (int)len));
                        break;
@@ -955,13 +825,20 @@ void string_sub2(char *s,const char *pattern, const char *insert, size_t len,
                        case '\'':
                        case ';':
                        case '$':
+                               /* allow a trailing $
+                                * (as in machine accounts) */
+                               if (allow_trailing_dollar && (i == li - 1 )) {
+                                       p[i] = insert[i];
+                                       break;
+                               }
                        case '%':
                        case '\r':
                        case '\n':
                                if ( remove_unsafe_characters ) {
                                        p[i] = '_';
-                                       /* yes this break should be here since we want to 
-                                          fall throw if not replacing unsafe chars */
+                                       /* yes this break should be here
+                                        * since we want to fall throw if
+                                        * not replacing unsafe chars */
                                        break;
                                }
                        default:
@@ -976,14 +853,15 @@ void string_sub2(char *s,const char *pattern, const char *insert, size_t len,
        }
 }
 
-void string_sub_once(char *s, const char *pattern, const char *insert, size_t len)
+void string_sub_once(char *s, const char *pattern,
+               const char *insert, size_t len)
 {
-       string_sub2( s, pattern, insert, len, True, True );
+       string_sub2( s, pattern, insert, len, true, true, false );
 }
 
 void string_sub(char *s,const char *pattern, const char *insert, size_t len)
 {
-       string_sub2( s, pattern, insert, len, True, False );
+       string_sub2( s, pattern, insert, len, true, false, false );
 }
 
 void fstring_sub(char *s,const char *pattern,const char *insert)
@@ -991,20 +869,18 @@ void fstring_sub(char *s,const char *pattern,const char *insert)
        string_sub(s, pattern, insert, sizeof(fstring));
 }
 
-void pstring_sub(char *s,const char *pattern,const char *insert)
-{
-       string_sub(s, pattern, insert, sizeof(pstring));
-}
-
 /**
- Similar to string_sub, but it will accept only allocated strings
+ Similar to string_sub2, but it will accept only allocated strings
  and may realloc them so pay attention at what you pass on no
- pointers inside strings, no pstrings or const may be passed
+ pointers inside strings, no const may be passed
  as string.
 **/
 
-char *realloc_string_sub(char *string, const char *pattern,
-                        const char *insert)
+char *realloc_string_sub2(char *string,
+                       const char *pattern,
+                       const char *insert,
+                       bool remove_unsafe_characters,
+                       bool allow_trailing_dollar)
 {
        char *p, *in;
        char *s;
@@ -1031,27 +907,35 @@ char *realloc_string_sub(char *string, const char *pattern,
                        case '\'':
                        case ';':
                        case '$':
+                               /* allow a trailing $
+                                * (as in machine accounts) */
+                               if (allow_trailing_dollar && (i == li - 1 )) {
+                                       break;
+                               }
                        case '%':
                        case '\r':
                        case '\n':
-                               in[i] = '_';
+                               if ( remove_unsafe_characters ) {
+                                       in[i] = '_';
+                                       break;
+                               }
                        default:
                                /* ok */
                                break;
                }
        }
-       
+
        while ((p = strstr_m(s,pattern))) {
                if (ld > 0) {
                        int offset = PTR_DIFF(s,string);
-                       char *t = SMB_REALLOC(string, ls + ld + 1);
-                       if (!t) {
-                               DEBUG(0, ("realloc_string_sub: out of memory!\n"));
+                       string = (char *)SMB_REALLOC(string, ls + ld + 1);
+                       if (!string) {
+                               DEBUG(0, ("realloc_string_sub: "
+                                       "out of memory!\n"));
                                SAFE_FREE(in);
                                return NULL;
                        }
-                       string = t;
-                       p = t + offset + (p - s);
+                       p = string + offset + (p - s);
                }
                if (li != lp) {
                        memmove(p+li,p+lp,strlen(p+lp)+1);
@@ -1064,22 +948,38 @@ char *realloc_string_sub(char *string, const char *pattern,
        return string;
 }
 
-/* Same as string_sub, but returns a talloc'ed string */
+char *realloc_string_sub(char *string,
+                       const char *pattern,
+                       const char *insert)
+{
+       return realloc_string_sub2(string, pattern, insert, true, false);
+}
+
+/*
+ * Internal guts of talloc_string_sub and talloc_all_string_sub.
+ * talloc version of string_sub2.
+ */
 
-char *talloc_string_sub(TALLOC_CTX *mem_ctx, const char *src,
-                       const char *pattern, const char *insert)
+char *talloc_string_sub2(TALLOC_CTX *mem_ctx, const char *src,
+                       const char *pattern,
+                       const char *insert,
+                       bool remove_unsafe_characters,
+                       bool replace_once,
+                       bool allow_trailing_dollar)
 {
        char *p, *in;
        char *s;
        char *string;
        ssize_t ls,lp,li,ld, i;
 
-       if (!insert || !pattern || !*pattern || !src || !*src)
+       if (!insert || !pattern || !*pattern || !src) {
                return NULL;
+       }
 
        string = talloc_strdup(mem_ctx, src);
        if (string == NULL) {
-               DEBUG(0, ("talloc_strdup failed\n"));
+               DEBUG(0, ("talloc_string_sub2: "
+                       "talloc_strdup failed\n"));
                return NULL;
        }
 
@@ -1087,13 +987,14 @@ char *talloc_string_sub(TALLOC_CTX *mem_ctx, const char *src,
 
        in = SMB_STRDUP(insert);
        if (!in) {
-               DEBUG(0, ("talloc_string_sub: out of memory!\n"));
+               DEBUG(0, ("talloc_string_sub2: ENOMEM\n"));
                return NULL;
        }
        ls = (ssize_t)strlen(s);
        lp = (ssize_t)strlen(pattern);
        li = (ssize_t)strlen(insert);
        ld = li - lp;
+
        for (i=0;i<li;i++) {
                switch (in[i]) {
                        case '`':
@@ -1101,28 +1002,36 @@ char *talloc_string_sub(TALLOC_CTX *mem_ctx, const char *src,
                        case '\'':
                        case ';':
                        case '$':
+                               /* allow a trailing $
+                                * (as in machine accounts) */
+                               if (allow_trailing_dollar && (i == li - 1 )) {
+                                       break;
+                               }
                        case '%':
                        case '\r':
                        case '\n':
-                               in[i] = '_';
+                               if (remove_unsafe_characters) {
+                                       in[i] = '_';
+                                       break;
+                               }
                        default:
                                /* ok */
                                break;
                }
        }
-       
+
        while ((p = strstr_m(s,pattern))) {
                if (ld > 0) {
                        int offset = PTR_DIFF(s,string);
-                       char *t = TALLOC_REALLOC(mem_ctx, string, ls + ld + 1);
-                       if (!t) {
+                       string = (char *)TALLOC_REALLOC(mem_ctx, string,
+                                                       ls + ld + 1);
+                       if (!string) {
                                DEBUG(0, ("talloc_string_sub: out of "
                                          "memory!\n"));
                                SAFE_FREE(in);
                                return NULL;
                        }
-                       string = t;
-                       p = t + offset + (p - s);
+                       p = string + offset + (p - s);
                }
                if (li != lp) {
                        memmove(p+li,p+lp,strlen(p+lp)+1);
@@ -1130,13 +1039,28 @@ char *talloc_string_sub(TALLOC_CTX *mem_ctx, const char *src,
                memcpy(p, in, li);
                s = p + li;
                ls += ld;
+
+               if (replace_once) {
+                       break;
+               }
        }
        SAFE_FREE(in);
        return string;
 }
 
+/* Same as string_sub, but returns a talloc'ed string */
+
+char *talloc_string_sub(TALLOC_CTX *mem_ctx,
+                       const char *src,
+                       const char *pattern,
+                       const char *insert)
+{
+       return talloc_string_sub2(mem_ctx, src, pattern, insert,
+                       true, false, false);
+}
+
 /**
- Similar to string_sub() but allows for any character to be substituted. 
+ Similar to string_sub() but allows for any character to be substituted.
  Use with caution!
  if len==0 then the string cannot be extended. This is different from the old
  use of len==0 which was for no length checks to be done.
@@ -1156,13 +1080,14 @@ void all_string_sub(char *s,const char *pattern,const char *insert, size_t len)
 
        if (!*pattern)
                return;
-       
+
        if (len == 0)
                len = ls + 1; /* len is number of *bytes* */
-       
+
        while (lp <= ls && (p = strstr_m(s,pattern))) {
                if (ls + (li-lp) >= len) {
-                       DEBUG(0,("ERROR: string overflow by %d in all_string_sub(%.50s, %d)\n", 
+                       DEBUG(0,("ERROR: string overflow by "
+                               "%d in all_string_sub(%.50s, %d)\n",
                                 (int)(ls + (li-lp) - len),
                                 pattern, (int)len));
                        break;
@@ -1176,108 +1101,30 @@ void all_string_sub(char *s,const char *pattern,const char *insert, size_t len)
        }
 }
 
+char *talloc_all_string_sub(TALLOC_CTX *ctx,
+                               const char *src,
+                               const char *pattern,
+                               const char *insert)
+{
+       return talloc_string_sub2(ctx, src, pattern, insert,
+                       false, false, false);
+}
+
 /**
- Similar to all_string_sub but for unicode strings.
- Return a new allocated unicode string.
- similar to string_sub() but allows for any character to be substituted.
- Use with caution!
+ Write an octal as a string.
 **/
 
-static smb_ucs2_t *all_string_sub_w(const smb_ucs2_t *s, const smb_ucs2_t *pattern,
-                               const smb_ucs2_t *insert)
+char *octal_string(int i)
 {
-       smb_ucs2_t *r, *rp;
-       const smb_ucs2_t *sp;
-       size_t  lr, lp, li, lt;
-
-       if (!insert || !pattern || !*pattern || !s)
-               return NULL;
-
-       lt = (size_t)strlen_w(s);
-       lp = (size_t)strlen_w(pattern);
-       li = (size_t)strlen_w(insert);
-
-       if (li > lp) {
-               const smb_ucs2_t *st = s;
-               int ld = li - lp;
-               while ((sp = strstr_w(st, pattern))) {
-                       st = sp + lp;
-                       lt += ld;
-               }
-       }
-
-       r = rp = SMB_MALLOC_ARRAY(smb_ucs2_t, lt + 1);
-       if (!r) {
-               DEBUG(0, ("all_string_sub_w: out of memory!\n"));
-               return NULL;
-       }
-
-       while ((sp = strstr_w(s, pattern))) {
-               memcpy(rp, s, (sp - s));
-               rp += ((sp - s) / sizeof(smb_ucs2_t));
-               memcpy(rp, insert, (li * sizeof(smb_ucs2_t)));
-               s = sp + lp;
-               rp += li;
+       char *result;
+       if (i == -1) {
+               result = talloc_strdup(talloc_tos(), "-1");
        }
-       lr = ((rp - r) / sizeof(smb_ucs2_t));
-       if (lr < lt) {
-               memcpy(rp, s, ((lt - lr) * sizeof(smb_ucs2_t)));
-               rp += (lt - lr);
+       else {
+               result = talloc_asprintf(talloc_tos(), "0%o", i);
        }
-       *rp = 0;
-
-       return r;
-}
-
-smb_ucs2_t *all_string_sub_wa(smb_ucs2_t *s, const char *pattern,
-                                            const char *insert)
-{
-       wpstring p, i;
-
-       if (!insert || !pattern || !s)
-               return NULL;
-       push_ucs2(NULL, p, pattern, sizeof(wpstring) - 1, STR_TERMINATE);
-       push_ucs2(NULL, i, insert, sizeof(wpstring) - 1, STR_TERMINATE);
-       return all_string_sub_w(s, p, i);
-}
-
-#if 0
-/**
- Splits out the front and back at a separator.
-**/
-
-static void split_at_last_component(char *path, char *front, char sep, char *back)
-{
-       char *p = strrchr_m(path, sep);
-
-       if (p != NULL)
-               *p = 0;
-
-       if (front != NULL)
-               pstrcpy(front, path);
-
-       if (p != NULL) {
-               if (back != NULL)
-                       pstrcpy(back, p+1);
-               *p = '\\';
-       } else {
-               if (back != NULL)
-                       back[0] = 0;
-       }
-}
-#endif
-
-/**
- Write an octal as a string.
-**/
-
-const char *octal_string(int i)
-{
-       static char ret[64];
-       if (i == -1)
-               return "-1";
-       slprintf(ret, sizeof(ret)-1, "0%o", i);
-       return ret;
+       SMB_ASSERT(result != NULL);
+       return result;
 }
 
 
@@ -1293,16 +1140,18 @@ char *string_truncate(char *s, unsigned int length)
 }
 
 /**
- Strchr and strrchr_m are very hard to do on general multi-byte strings. 
+ Strchr and strrchr_m are very hard to do on general multi-byte strings.
  We convert via ucs2 for now.
 **/
 
 char *strchr_m(const char *src, char c)
 {
-       wpstring ws;
-       pstring s2;
+       smb_ucs2_t *ws = NULL;
+       char *s2 = NULL;
        smb_ucs2_t *p;
        const char *s;
+       char *ret;
+       size_t converted_size;
 
        /* characters below 0x3F are guaranteed to not appear in
           non-initial position in multi-byte charsets */
@@ -1328,13 +1177,25 @@ char *strchr_m(const char *src, char c)
        s = src;
 #endif
 
-       push_ucs2(NULL, ws, s, sizeof(ws), STR_TERMINATE);
+       if (!push_ucs2_allocate(&ws, s, &converted_size)) {
+               /* Wrong answer, but what can we do... */
+               return strchr(src, c);
+       }
        p = strchr_w(ws, UCS2_CHAR(c));
-       if (!p)
+       if (!p) {
+               SAFE_FREE(ws);
                return NULL;
+       }
        *p = 0;
-       pull_ucs2_pstring(s2, ws);
-       return (char *)(s+strlen(s2));
+       if (!pull_ucs2_allocate(&s2, ws, &converted_size)) {
+               SAFE_FREE(ws);
+               /* Wrong answer, but what can we do... */
+               return strchr(src, c);
+       }
+       ret = (char *)(s+strlen(s2));
+       SAFE_FREE(ws);
+       SAFE_FREE(s2);
+       return ret;
 }
 
 char *strrchr_m(const char *s, char c)
@@ -1357,7 +1218,7 @@ char *strrchr_m(const char *s, char c)
        {
                size_t len = strlen(s);
                const char *cp = s;
-               BOOL got_mb = False;
+               bool got_mb = false;
 
                if (len == 0)
                        return NULL;
@@ -1365,9 +1226,10 @@ char *strrchr_m(const char *s, char c)
                do {
                        if (c == *cp) {
                                /* Could be a match. Part of a multibyte ? */
-                               if ((cp > s) && (((unsigned char)cp[-1]) & 0x80)) {
+                               if ((cp > s) &&
+                                       (((unsigned char)cp[-1]) & 0x80)) {
                                        /* Yep - go slow :-( */
-                                       got_mb = True;
+                                       got_mb = true;
                                        break;
                                }
                                /* No - we have a match ! */
@@ -1380,17 +1242,31 @@ char *strrchr_m(const char *s, char c)
 
        /* String contained a non-ascii char. Slow path. */
        {
-               wpstring ws;
-               pstring s2;
+               smb_ucs2_t *ws = NULL;
+               char *s2 = NULL;
                smb_ucs2_t *p;
+               char *ret;
+               size_t converted_size;
 
-               push_ucs2(NULL, ws, s, sizeof(ws), STR_TERMINATE);
+               if (!push_ucs2_allocate(&ws, s, &converted_size)) {
+                       /* Wrong answer, but what can we do. */
+                       return strrchr(s, c);
+               }
                p = strrchr_w(ws, UCS2_CHAR(c));
-               if (!p)
+               if (!p) {
+                       SAFE_FREE(ws);
                        return NULL;
+               }
                *p = 0;
-               pull_ucs2_pstring(s2, ws);
-               return (char *)(s+strlen(s2));
+               if (!pull_ucs2_allocate(&s2, ws, &converted_size)) {
+                       SAFE_FREE(ws);
+                       /* Wrong answer, but what can we do. */
+                       return strrchr(s, c);
+               }
+               ret = (char *)(s+strlen(s2));
+               SAFE_FREE(ws);
+               SAFE_FREE(s2);
+               return ret;
        }
 }
 
@@ -1401,17 +1277,31 @@ char *strrchr_m(const char *s, char c)
 
 char *strnrchr_m(const char *s, char c, unsigned int n)
 {
-       wpstring ws;
-       pstring s2;
+       smb_ucs2_t *ws = NULL;
+       char *s2 = NULL;
        smb_ucs2_t *p;
+       char *ret;
+       size_t converted_size;
 
-       push_ucs2(NULL, ws, s, sizeof(ws), STR_TERMINATE);
+       if (!push_ucs2_allocate(&ws, s, &converted_size)) {
+               /* Too hard to try and get right. */
+               return NULL;
+       }
        p = strnrchr_w(ws, UCS2_CHAR(c), n);
-       if (!p)
+       if (!p) {
+               SAFE_FREE(ws);
                return NULL;
+       }
        *p = 0;
-       pull_ucs2_pstring(s2, ws);
-       return (char *)(s+strlen(s2));
+       if (!pull_ucs2_allocate(&s2, ws, &converted_size)) {
+               SAFE_FREE(ws);
+               /* Too hard to try and get right. */
+               return NULL;
+       }
+       ret = (char *)(s+strlen(s2));
+       SAFE_FREE(ws);
+       SAFE_FREE(s2);
+       return ret;
 }
 
 /***********************************************************************
@@ -1426,7 +1316,7 @@ char *strstr_m(const char *src, const char *findstr)
        char *s2;
        char *retp;
 
-       size_t findstr_len = 0;
+       size_t converted_size, findstr_len = 0;
 
        /* for correctness */
        if (!findstr[0]) {
@@ -1443,7 +1333,7 @@ char *strstr_m(const char *src, const char *findstr)
 
        for (s = src; *s && !(((unsigned char)s[0]) & 0x80); s++) {
                if (*s == *findstr) {
-                       if (!findstr_len) 
+                       if (!findstr_len)
                                findstr_len = strlen(findstr);
 
                        if (strncmp(s, findstr, findstr_len) == 0) {
@@ -1462,12 +1352,12 @@ char *strstr_m(const char *src, const char *findstr)
        s = src;
 #endif
 
-       if (push_ucs2_allocate(&src_w, src) == (size_t)-1) {
+       if (!push_ucs2_allocate(&src_w, src, &converted_size)) {
                DEBUG(0,("strstr_m: src malloc fail\n"));
                return NULL;
        }
-       
-       if (push_ucs2_allocate(&find_w, findstr) == (size_t)-1) {
+
+       if (!push_ucs2_allocate(&find_w, findstr, &converted_size)) {
                SAFE_FREE(src_w);
                DEBUG(0,("strstr_m: find malloc fail\n"));
                return NULL;
@@ -1480,9 +1370,9 @@ char *strstr_m(const char *src, const char *findstr)
                SAFE_FREE(find_w);
                return NULL;
        }
-       
+
        *p = 0;
-       if (pull_ucs2_allocate(&s2, src_w) == (size_t)-1) {
+       if (!pull_ucs2_allocate(&s2, src_w, &converted_size)) {
                SAFE_FREE(src_w);
                SAFE_FREE(find_w);
                DEBUG(0,("strstr_m: dest malloc fail\n"));
@@ -1522,7 +1412,7 @@ void strlower_m(char *s)
        len = strlen(s) + 1;
        errno_save = errno;
        errno = 0;
-       unix_strlower(s,len,s,len);     
+       unix_strlower(s,len,s,len);
        /* Catch mb conversion errors that may not terminate. */
        if (errno)
                s[len-1] = '\0';
@@ -1544,7 +1434,7 @@ void strupper_m(char *s)
           (ie. they match for the first 128 chars) */
 
        while (*s && !(((unsigned char)s[0]) & 0x80)) {
-               *s = toupper_ascii((unsigned char)*s);
+               *s = toupper_ascii_fast((unsigned char)*s);
                s++;
        }
 
@@ -1556,25 +1446,95 @@ void strupper_m(char *s)
        len = strlen(s) + 1;
        errno_save = errno;
        errno = 0;
-       unix_strupper(s,len,s,len);     
+       unix_strupper(s,len,s,len);
        /* Catch mb conversion errors that may not terminate. */
        if (errno)
                s[len-1] = '\0';
        errno = errno_save;
 }
 
+/**
+ Count the number of UCS2 characters in a string. Normally this will
+ be the same as the number of bytes in a string for single byte strings,
+ but will be different for multibyte.
+**/
+
+size_t strlen_m(const char *s)
+{
+       size_t count = 0;
+
+       if (!s) {
+               return 0;
+       }
+
+       while (*s && !(((uint8_t)*s) & 0x80)) {
+               s++;
+               count++;
+       }
+
+       if (!*s) {
+               return count;
+       }
+
+       while (*s) {
+               size_t c_size;
+               codepoint_t c = next_codepoint(s, &c_size);
+               if (c < 0x10000) {
+                       /* Unicode char fits into 16 bits. */
+                       count += 1;
+               } else {
+                       /* Double-width unicode char - 32 bits. */
+                       count += 2;
+               }
+               s += c_size;
+       }
+
+       return count;
+}
+
+/**
+ Count the number of UCS2 characters in a string including the null
+ terminator.
+**/
+
+size_t strlen_m_term(const char *s)
+{
+       if (!s) {
+               return 0;
+       }
+       return strlen_m(s) + 1;
+}
+
+/*
+ * Weird helper routine for the winreg pipe: If nothing is around, return 0,
+ * if a string is there, include the terminator.
+ */
+
+size_t strlen_m_term_null(const char *s)
+{
+       size_t len;
+       if (!s) {
+               return 0;
+       }
+       len = strlen_m(s);
+       if (len == 0) {
+               return 0;
+       }
+
+       return len+1;
+}
 /**
  Return a RFC2254 binary string representation of a buffer.
  Used in LDAP filters.
  Caller must free.
 **/
 
-char *binary_string(char *buf, int len)
+char *binary_string_rfc2254(char *buf, int len)
 {
        char *s;
        int i, j;
        const char *hex = "0123456789ABCDEF";
-       s = SMB_MALLOC(len * 3 + 1);
+       s = (char *)SMB_MALLOC(len * 3 + 1);
        if (!s)
                return NULL;
        for (j=i=0;i<len;i++) {
@@ -1587,22 +1547,23 @@ char *binary_string(char *buf, int len)
        return s;
 }
 
-/**
- Just a typesafety wrapper for snprintf into a pstring.
-**/
-
- int pstr_sprintf(pstring s, const char *fmt, ...)
+char *binary_string(char *buf, int len)
 {
-       va_list ap;
-       int ret;
-
-       va_start(ap, fmt);
-       ret = vsnprintf(s, PSTRING_LEN, fmt, ap);
-       va_end(ap);
-       return ret;
+       char *s;
+       int i, j;
+       const char *hex = "0123456789ABCDEF";
+       s = (char *)SMB_MALLOC(len * 2 + 1);
+       if (!s)
+               return NULL;
+       for (j=i=0;i<len;i++) {
+               s[j]   = hex[((unsigned char)buf[i]) >> 4];
+               s[j+1] = hex[((unsigned char)buf[i]) & 0xF];
+               j += 2;
+       }
+       s[j] = 0;
+       return s;
 }
 
-
 /**
  Just a typesafety wrapper for snprintf into a fstring.
 **/
@@ -1618,296 +1579,62 @@ int fstr_sprintf(fstring s, const char *fmt, ...)
        return ret;
 }
 
-
-#if !defined(HAVE_STRNDUP) || defined(BROKEN_STRNDUP)
-/**
- Some platforms don't have strndup.
-**/
-#if defined(PARANOID_MALLOC_CHECKER)
-#undef strndup
-#endif
-
- char *strndup(const char *s, size_t n)
-{
-       char *ret;
-       
-       n = strnlen(s, n);
-       ret = SMB_MALLOC(n+1);
-       if (!ret)
-               return NULL;
-       memcpy(ret, s, n);
-       ret[n] = 0;
-
-       return ret;
-}
-
-#if defined(PARANOID_MALLOC_CHECKER)
-#define strndup(s,n) __ERROR_DONT_USE_STRNDUP_DIRECTLY
-#endif
-
-#endif
-
-#if !defined(HAVE_STRNLEN) || defined(BROKEN_STRNLEN)
-/**
- Some platforms don't have strnlen
-**/
-
- size_t strnlen(const char *s, size_t n)
-{
-       size_t i;
-       for (i=0; i<n && s[i] != '\0'; i++)
-               /* noop */ ;
-       return i;
-}
-#endif
-
 /**
  List of Strings manipulation functions
 **/
 
 #define S_LIST_ABS 16 /* List Allocation Block Size */
 
-static char **str_list_make_internal(TALLOC_CTX *mem_ctx, const char *string, const char *sep)
-{
-       char **list, **rlist;
-       const char *str;
-       char *s;
-       int num, lsize;
-       pstring tok;
-       
-       if (!string || !*string)
-               return NULL;
-       if (mem_ctx) {
-               s = talloc_strdup(mem_ctx, string);
-       } else {
-               s = SMB_STRDUP(string);
-       }
-       if (!s) {
-               DEBUG(0,("str_list_make: Unable to allocate memory"));
-               return NULL;
-       }
-       if (!sep) sep = LIST_SEP;
-       
-       num = lsize = 0;
-       list = NULL;
-       
-       str = s;
-       while (next_token(&str, tok, sep, sizeof(tok))) {               
-               if (num == lsize) {
-                       lsize += S_LIST_ABS;
-                       if (mem_ctx) {
-                               rlist = TALLOC_REALLOC_ARRAY(mem_ctx, list, char *, lsize +1);
-                       } else {
-                               rlist = SMB_REALLOC_ARRAY(list, char *, lsize +1);
-                       }
-                       if (!rlist) {
-                               DEBUG(0,("str_list_make: Unable to allocate memory"));
-                               str_list_free(&list);
-                               if (mem_ctx) {
-                                       TALLOC_FREE(s);
-                               } else {
-                                       SAFE_FREE(s);
-                               }
-                               return NULL;
-                       } else
-                               list = rlist;
-                       memset (&list[num], 0, ((sizeof(char**)) * (S_LIST_ABS +1)));
-               }
-
-               if (mem_ctx) {
-                       list[num] = talloc_strdup(mem_ctx, tok);
-               } else {
-                       list[num] = SMB_STRDUP(tok);
-               }
-               
-               if (!list[num]) {
-                       DEBUG(0,("str_list_make: Unable to allocate memory"));
-                       str_list_free(&list);
-                       if (mem_ctx) {
-                               TALLOC_FREE(s);
-                       } else {
-                               SAFE_FREE(s);
-                       }
-                       return NULL;
-               }
-       
-               num++;  
-       }
-
-       if (mem_ctx) {
-               TALLOC_FREE(s);
-       } else {
-               SAFE_FREE(s);
-       }
-
-       return list;
-}
-
-char **str_list_make_talloc(TALLOC_CTX *mem_ctx, const char *string, const char *sep)
-{
-       return str_list_make_internal(mem_ctx, string, sep);
-}
-
-char **str_list_make(const char *string, const char *sep)
-{
-       return str_list_make_internal(NULL, string, sep);
-}
-
-BOOL str_list_copy(char ***dest, const char **src)
-{
-       char **list, **rlist;
-       int num, lsize;
-       
-       *dest = NULL;
-       if (!src)
-               return False;
-       
-       num = lsize = 0;
-       list = NULL;
-               
-       while (src[num]) {
-               if (num == lsize) {
-                       lsize += S_LIST_ABS;
-                       rlist = SMB_REALLOC_ARRAY(list, char *, lsize +1);
-                       if (!rlist) {
-                               DEBUG(0,("str_list_copy: Unable to re-allocate memory"));
-                               str_list_free(&list);
-                               return False;
-                       } else
-                               list = rlist;
-                       memset (&list[num], 0, ((sizeof(char **)) * (S_LIST_ABS +1)));
-               }
-               
-               list[num] = SMB_STRDUP(src[num]);
-               if (!list[num]) {
-                       DEBUG(0,("str_list_copy: Unable to allocate memory"));
-                       str_list_free(&list);
-                       return False;
-               }
-
-               num++;
-       }
-       
-       *dest = list;
-       return True;    
-}
-
-/**
- * Return true if all the elements of the list match exactly.
- **/
-BOOL str_list_compare(char **list1, char **list2)
-{
-       int num;
-       
-       if (!list1 || !list2)
-               return (list1 == list2); 
-       
-       for (num = 0; list1[num]; num++) {
-               if (!list2[num])
-                       return False;
-               if (!strcsequal(list1[num], list2[num]))
-                       return False;
-       }
-       if (list2[num])
-               return False; /* if list2 has more elements than list1 fail */
-       
-       return True;
-}
-
-static void str_list_free_internal(TALLOC_CTX *mem_ctx, char ***list)
-{
-       char **tlist;
-       
-       if (!list || !*list)
-               return;
-       tlist = *list;
-       for(; *tlist; tlist++) {
-               if (mem_ctx) {
-                       TALLOC_FREE(*tlist);
-               } else {
-                       SAFE_FREE(*tlist);
-               }
-       }
-       if (mem_ctx) {
-               TALLOC_FREE(*tlist);
-       } else {
-               SAFE_FREE(*list);
-       }
-}
-
-void str_list_free_talloc(TALLOC_CTX *mem_ctx, char ***list)
-{
-       str_list_free_internal(mem_ctx, list);
-}
-
-void str_list_free(char ***list)
-{
-       str_list_free_internal(NULL, list);
-}
-
 /******************************************************************************
- *****************************************************************************/
-
-int str_list_count( const char **list )
-{
-       int i = 0;
-
-       if ( ! list )
-               return 0;
-
-       /* count the number of list members */
-       
-       for ( i=0; *list; i++, list++ );
-       
-       return i;
-}
-
-/******************************************************************************
- version of standard_sub_basic() for string lists; uses alloc_sub_basic() 
+ version of standard_sub_basic() for string lists; uses talloc_sub_basic()
  for the work
  *****************************************************************************/
-BOOL str_list_sub_basic( char **list, const char *smb_name )
+
+bool str_list_sub_basic( char **list, const char *smb_name,
+                        const char *domain_name )
 {
+       TALLOC_CTX *ctx = list;
        char *s, *tmpstr;
-       
+
        while ( *list ) {
                s = *list;
-               tmpstr = alloc_sub_basic(smb_name, s);
+               tmpstr = talloc_sub_basic(ctx, smb_name, domain_name, s);
                if ( !tmpstr ) {
-                       DEBUG(0,("str_list_sub_basic: alloc_sub_basic() return NULL!\n"));
-                       return False;
+                       DEBUG(0,("str_list_sub_basic: "
+                               "alloc_sub_basic() return NULL!\n"));
+                       return false;
                }
 
-               SAFE_FREE(*list);
+               TALLOC_FREE(*list);
                *list = tmpstr;
-                       
+
                list++;
        }
 
-       return True;
+       return true;
 }
 
 /******************************************************************************
  substritute a specific pattern in a string list
  *****************************************************************************/
-BOOL str_list_substitute(char **list, const char *pattern, const char *insert)
+
+bool str_list_substitute(char **list, const char *pattern, const char *insert)
 {
+       TALLOC_CTX *ctx = list;
        char *p, *s, *t;
        ssize_t ls, lp, li, ld, i, d;
 
        if (!list)
-               return False;
+               return false;
        if (!pattern)
-               return False;
+               return false;
        if (!insert)
-               return False;
+               return false;
 
        lp = (ssize_t)strlen(pattern);
        li = (ssize_t)strlen(insert);
        ld = li -lp;
-                       
+
        while (*list) {
                s = *list;
                ls = (ssize_t)strlen(s);
@@ -1916,19 +1643,20 @@ BOOL str_list_substitute(char **list, const char *pattern, const char *insert)
                        t = *list;
                        d = p -t;
                        if (ld) {
-                               t = (char *) SMB_MALLOC(ls +ld +1);
+                               t = TALLOC_ARRAY(ctx, char, ls +ld +1);
                                if (!t) {
-                                       DEBUG(0,("str_list_substitute: Unable to allocate memory"));
-                                       return False;
+                                       DEBUG(0,("str_list_substitute: "
+                                               "Unable to allocate memory"));
+                                       return false;
                                }
                                memcpy(t, *list, d);
                                memcpy(t +d +li, p +lp, ls -d -lp +1);
-                               SAFE_FREE(*list);
+                               TALLOC_FREE(*list);
                                *list = t;
                                ls += ld;
                                s = t +d +li;
                        }
-                       
+
                        for (i = 0; i < li; i++) {
                                switch (insert[i]) {
                                        case '`':
@@ -1944,14 +1672,13 @@ BOOL str_list_substitute(char **list, const char *pattern, const char *insert)
                                        default:
                                                t[d +i] = insert[i];
                                }
-                       }       
+                       }
                }
-               
-               
+
                list++;
        }
-       
-       return True;
+
+       return true;
 }
 
 
@@ -1971,26 +1698,53 @@ BOOL str_list_substitute(char **list, const char *pattern, const char *insert)
  *         reallocated to new length
  **/
 
-char* ipstr_list_add(char** ipstr_list, const struct ip_service *service)
+static char *ipstr_list_add(char **ipstr_list, const struct ip_service *service)
 {
-       char* new_ipstr = NULL;
-       
+       char *new_ipstr = NULL;
+       char addr_buf[INET6_ADDRSTRLEN];
+       int ret;
+
        /* arguments checking */
-       if (!ipstr_list || !service) return NULL;
+       if (!ipstr_list || !service) {
+               return NULL;
+       }
+
+       print_sockaddr(addr_buf,
+                       sizeof(addr_buf),
+                       &service->ss);
 
        /* attempt to convert ip to a string and append colon separator to it */
        if (*ipstr_list) {
-               asprintf(&new_ipstr, "%s%s%s:%d", *ipstr_list, IPSTR_LIST_SEP,
-                       inet_ntoa(service->ip), service->port);
+               if (service->ss.ss_family == AF_INET) {
+                       /* IPv4 */
+                       ret = asprintf(&new_ipstr, "%s%s%s:%d", *ipstr_list,
+                                      IPSTR_LIST_SEP, addr_buf,
+                                      service->port);
+               } else {
+                       /* IPv6 */
+                       ret = asprintf(&new_ipstr, "%s%s[%s]:%d", *ipstr_list,
+                                      IPSTR_LIST_SEP, addr_buf,
+                                      service->port);
+               }
                SAFE_FREE(*ipstr_list);
        } else {
-               asprintf(&new_ipstr, "%s:%d", inet_ntoa(service->ip), service->port);
+               if (service->ss.ss_family == AF_INET) {
+                       /* IPv4 */
+                       ret = asprintf(&new_ipstr, "%s:%d", addr_buf,
+                                      service->port);
+               } else {
+                       /* IPv6 */
+                       ret = asprintf(&new_ipstr, "[%s]:%d", addr_buf,
+                                      service->port);
+               }
+       }
+       if (ret == -1) {
+               return NULL;
        }
        *ipstr_list = new_ipstr;
        return *ipstr_list;
 }
 
-
 /**
  * Allocate and initialise an ipstr list using ip adresses
  * passed as arguments.
@@ -2000,75 +1754,88 @@ char* ipstr_list_add(char** ipstr_list, const struct ip_service *service)
  * @param ip_count number of addresses stored in ip_list
  * @return pointer to allocated ip string
  **/
-char* ipstr_list_make(char** ipstr_list, const struct ip_service* ip_list, int ip_count)
+
+char *ipstr_list_make(char **ipstr_list,
+                       const struct ip_service *ip_list,
+                       int ip_count)
 {
        int i;
-       
+
        /* arguments checking */
-       if (!ip_list && !ipstr_list) return 0;
+       if (!ip_list || !ipstr_list) {
+               return 0;
+       }
 
        *ipstr_list = NULL;
-       
+
        /* process ip addresses given as arguments */
-       for (i = 0; i < ip_count; i++)
+       for (i = 0; i < ip_count; i++) {
                *ipstr_list = ipstr_list_add(ipstr_list, &ip_list[i]);
-       
+       }
+
        return (*ipstr_list);
 }
 
 
 /**
  * Parse given ip string list into array of ip addresses
- * (as ip_service structures)  
- *    e.g. 192.168.1.100:389,192.168.1.78, ...
+ * (as ip_service structures)
+ *    e.g. [IPv6]:port,192.168.1.100:389,192.168.1.78, ...
  *
- * @param ipstr ip string list to be parsed 
+ * @param ipstr ip string list to be parsed
  * @param ip_list pointer to array of ip addresses which is
  *        allocated by this function and must be freed by caller
- * @return number of succesfully parsed addresses
+ * @return number of successfully parsed addresses
  **/
-int ipstr_list_parse(const charipstr_list, struct ip_service **ip_list)
+
+int ipstr_list_parse(const char *ipstr_list, struct ip_service **ip_list)
 {
-       fstring token_str;
+       TALLOC_CTX *frame;
+       char *token_str = NULL;
        size_t count;
        int i;
 
-       if (!ipstr_list || !ip_list) 
+       if (!ipstr_list || !ip_list)
                return 0;
-       
+
        count = count_chars(ipstr_list, IPSTR_LIST_CHAR) + 1;
        if ( (*ip_list = SMB_MALLOC_ARRAY(struct ip_service, count)) == NULL ) {
-               DEBUG(0,("ipstr_list_parse: malloc failed for %lu entries\n", (unsigned long)count));
+               DEBUG(0,("ipstr_list_parse: malloc failed for %lu entries\n",
+                                       (unsigned long)count));
                return 0;
        }
-       
-       for ( i=0; 
-               next_token(&ipstr_list, token_str, IPSTR_LIST_SEP, FSTRING_LEN) && i<count; 
-               i++ ) 
-       {
-               struct in_addr addr;
-               unsigned port = 0;      
-               char *p = strchr(token_str, ':');
-               
+
+       frame = talloc_stackframe();
+       for ( i=0; next_token_talloc(frame, &ipstr_list, &token_str,
+                               IPSTR_LIST_SEP) && i<count; i++ ) {
+               char *s = token_str;
+               char *p = strrchr(token_str, ':');
+
                if (p) {
                        *p = 0;
-                       port = atoi(p+1);
+                       (*ip_list)[i].port = atoi(p+1);
                }
 
                /* convert single token to ip address */
-               if ( (addr.s_addr = inet_addr(token_str)) == INADDR_NONE )
-                       break;
-                               
-               (*ip_list)[i].ip = addr;
-               (*ip_list)[i].port = port;
+               if (token_str[0] == '[') {
+                       /* IPv6 address. */
+                       s++;
+                       p = strchr(token_str, ']');
+                       if (!p) {
+                               continue;
+                       }
+                       *p = '\0';
+               }
+               if (!interpret_string_addr(&(*ip_list)[i].ss,
+                                       s,
+                                       AI_NUMERICHOST)) {
+                       continue;
+               }
        }
-       
+       TALLOC_FREE(frame);
        return count;
 }
 
-
 /**
  * Safely free ip string list
  *
@@ -2080,43 +1847,7 @@ void ipstr_list_free(char* ipstr_list)
        SAFE_FREE(ipstr_list);
 }
 
-
-/**
- Unescape a URL encoded string, in place.
-**/
-
-void rfc1738_unescape(char *buf)
-{
-       char *p=buf;
-
-       while (p && *p && (p=strchr_m(p,'%'))) {
-               int c1 = p[1];
-               int c2 = p[2];
-
-               if (c1 >= '0' && c1 <= '9')
-                       c1 = c1 - '0';
-               else if (c1 >= 'A' && c1 <= 'F')
-                       c1 = 10 + c1 - 'A';
-               else if (c1 >= 'a' && c1 <= 'f')
-                       c1 = 10 + c1 - 'a';
-               else {p++; continue;}
-
-               if (c2 >= '0' && c2 <= '9')
-                       c2 = c2 - '0';
-               else if (c2 >= 'A' && c2 <= 'F')
-                       c2 = 10 + c2 - 'A';
-               else if (c2 >= 'a' && c2 <= 'f')
-                       c2 = 10 + c2 - 'a';
-               else {p++; continue;}
-                       
-               *p = (c1<<4) | c2;
-
-               memmove(p+1, p+3, strlen(p+3)+1);
-               p++;
-       }
-}
-
-static const char *b64 = "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789+/";
+static const char b64[] = "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789+/";
 
 /**
  * Decode a base64 string into a DATA_BLOB - simple and slow algorithm
@@ -2176,11 +1907,13 @@ void base64_decode_inplace(char *s)
 }
 
 /**
- * Encode a base64 string into a malloc()ed string caller to free.
+ * Encode a base64 string into a talloc()ed string caller to free.
  *
- *From SQUID: adopted from http://ftp.sunet.se/pub2/gnu/vm/base64-encode.c with adjustments
+ * From SQUID: adopted from http://ftp.sunet.se/pub2/gnu/vm/base64-encode.c
+ * with adjustments
  **/
-char * base64_encode_data_blob(DATA_BLOB data)
+
+char *base64_encode_data_blob(TALLOC_CTX *mem_ctx, DATA_BLOB data)
 {
        int bits = 0;
        int char_count = 0;
@@ -2192,8 +1925,11 @@ char * base64_encode_data_blob(DATA_BLOB data)
 
        out_cnt = 0;
        len = data.length;
-       output_len = data.length * 2;
-       result = SMB_MALLOC(output_len); /* get us plenty of space */
+       output_len = data.length * 2 + 4; /* Account for closing bytes. 4 is
+                                          * random but should be enough for
+                                          * the = and \0 */
+       result = TALLOC_ARRAY(mem_ctx, char, output_len); /* get us plenty of space */
+       SMB_ASSERT(result != NULL);
 
        while (len-- && out_cnt < (data.length * 2) - 5) {
                int c = (unsigned char) *(data.data++);
@@ -2203,45 +1939,49 @@ char * base64_encode_data_blob(DATA_BLOB data)
                        result[out_cnt++] = b64[bits >> 18];
                        result[out_cnt++] = b64[(bits >> 12) & 0x3f];
                        result[out_cnt++] = b64[(bits >> 6) & 0x3f];
-           result[out_cnt++] = b64[bits & 0x3f];
-           bits = 0;
-           char_count = 0;
-       } else {
-           bits <<= 8;
-       }
-    }
-    if (char_count != 0) {
-       bits <<= 16 - (8 * char_count);
-       result[out_cnt++] = b64[bits >> 18];
-       result[out_cnt++] = b64[(bits >> 12) & 0x3f];
-       if (char_count == 1) {
-           result[out_cnt++] = '=';
-           result[out_cnt++] = '=';
-       } else {
-           result[out_cnt++] = b64[(bits >> 6) & 0x3f];
-           result[out_cnt++] = '=';
+                       result[out_cnt++] = b64[bits & 0x3f];
+                       bits = 0;
+                       char_count = 0;
+               } else {
+                       bits <<= 8;
+               }
+       }
+       if (char_count != 0) {
+               bits <<= 16 - (8 * char_count);
+               result[out_cnt++] = b64[bits >> 18];
+               result[out_cnt++] = b64[(bits >> 12) & 0x3f];
+               if (char_count == 1) {
+                       result[out_cnt++] = '=';
+                       result[out_cnt++] = '=';
+               } else {
+                       result[out_cnt++] = b64[(bits >> 6) & 0x3f];
+                       result[out_cnt++] = '=';
+               }
        }
-    }
-    result[out_cnt] = '\0';    /* terminate */
-    return result;
+       result[out_cnt] = '\0'; /* terminate */
+       return result;
 }
 
 /* read a SMB_BIG_UINT from a string */
-SMB_BIG_UINT STR_TO_SMB_BIG_UINT(const char *nptr, const char **entptr)
+uint64_t STR_TO_SMB_BIG_UINT(const char *nptr, const char **entptr)
 {
 
-       SMB_BIG_UINT val = -1;
+       uint64_t val = -1;
        const char *p = nptr;
-       
-       while (p && *p && isspace(*p))
+
+       if (!p) {
+               if (entptr) {
+                       *entptr = p;
+               }
+               return val;
+       }
+
+       while (*p && isspace(*p))
                p++;
-#ifdef LARGE_SMB_OFF_T
-       sscanf(p,"%llu",&val);  
-#else /* LARGE_SMB_OFF_T */
-       sscanf(p,"%lu",&val);
-#endif /* LARGE_SMB_OFF_T */
+
+       sscanf(p,"%"PRIu64,&val);
        if (entptr) {
-               while (p && *p && isdigit(*p))
+               while (*p && isdigit(*p))
                        p++;
                *entptr = p;
        }
@@ -2249,38 +1989,109 @@ SMB_BIG_UINT STR_TO_SMB_BIG_UINT(const char *nptr, const char **entptr)
        return val;
 }
 
+/* Convert a size specification to a count of bytes. We accept the following
+ * suffixes:
+ *         bytes if there is no suffix
+ *     kK  kibibytes
+ *     mM  mebibytes
+ *     gG  gibibytes
+ *     tT  tibibytes
+ *     pP  whatever the ISO name for petabytes is
+ *
+ *  Returns 0 if the string can't be converted.
+ */
+SMB_OFF_T conv_str_size(const char * str)
+{
+        SMB_OFF_T lval;
+       char * end;
+
+        if (str == NULL || *str == '\0') {
+                return 0;
+        }
+
+#ifdef HAVE_STRTOULL
+       if (sizeof(SMB_OFF_T) == 8) {
+           lval = strtoull(str, &end, 10 /* base */);
+       } else {
+           lval = strtoul(str, &end, 10 /* base */);
+       }
+#else
+       lval = strtoul(str, &end, 10 /* base */);
+#endif
+
+        if (end == NULL || end == str) {
+                return 0;
+        }
+
+        if (*end) {
+               SMB_OFF_T lval_orig = lval;
+
+                if (strwicmp(end, "K") == 0) {
+                        lval *= (SMB_OFF_T)1024;
+                } else if (strwicmp(end, "M") == 0) {
+                        lval *= ((SMB_OFF_T)1024 * (SMB_OFF_T)1024);
+                } else if (strwicmp(end, "G") == 0) {
+                        lval *= ((SMB_OFF_T)1024 * (SMB_OFF_T)1024 *
+                               (SMB_OFF_T)1024);
+                } else if (strwicmp(end, "T") == 0) {
+                        lval *= ((SMB_OFF_T)1024 * (SMB_OFF_T)1024 *
+                               (SMB_OFF_T)1024 * (SMB_OFF_T)1024);
+                } else if (strwicmp(end, "P") == 0) {
+                        lval *= ((SMB_OFF_T)1024 * (SMB_OFF_T)1024 *
+                               (SMB_OFF_T)1024 * (SMB_OFF_T)1024 *
+                               (SMB_OFF_T)1024);
+                } else {
+                        return 0;
+                }
+
+               /* Primitive attempt to detect wrapping on platforms with
+                * 4-byte SMB_OFF_T. It's better to let the caller handle
+                * a failure than some random number.
+                */
+               if (lval_orig <= lval) {
+                       return 0;
+               }
+        }
+
+       return lval;
+}
+
 void string_append(char **left, const char *right)
 {
        int new_len = strlen(right) + 1;
 
        if (*left == NULL) {
-               *left = SMB_MALLOC(new_len);
+               *left = (char *)SMB_MALLOC(new_len);
                *left[0] = '\0';
        } else {
                new_len += strlen(*left);
-               *left = SMB_REALLOC(*left, new_len);
+               *left = (char *)SMB_REALLOC(*left, new_len);
        }
 
-       if (*left == NULL)
+       if (*left == NULL) {
                return;
+       }
 
        safe_strcat(*left, right, new_len-1);
 }
 
-BOOL add_string_to_array(TALLOC_CTX *mem_ctx,
+bool add_string_to_array(TALLOC_CTX *mem_ctx,
                         const char *str, const char ***strings,
                         int *num)
 {
        char *dup_str = talloc_strdup(mem_ctx, str);
 
-       *strings = TALLOC_REALLOC_ARRAY(mem_ctx, *strings, const char *, (*num)+1);
+       *strings = TALLOC_REALLOC_ARRAY(mem_ctx, *strings,
+                       const char *, (*num)+1);
 
-       if ((*strings == NULL) || (dup_str == NULL))
-               return False;
+       if ((*strings == NULL) || (dup_str == NULL)) {
+               *num = 0;
+               return false;
+       }
 
        (*strings)[*num] = dup_str;
        *num += 1;
-       return True;
+       return true;
 }
 
 /* Append an sprintf'ed string. Double buffer size on demand. Usable without
@@ -2293,7 +2104,7 @@ void sprintf_append(TALLOC_CTX *mem_ctx, char **string, ssize_t *len,
        va_list ap;
        char *newstr;
        int ret;
-       BOOL increased;
+       bool increased;
 
        /* len<0 is an internal marker that something failed */
        if (*len < 0)
@@ -2303,11 +2114,7 @@ void sprintf_append(TALLOC_CTX *mem_ctx, char **string, ssize_t *len,
                if (*bufsize == 0)
                        *bufsize = 128;
 
-               if (mem_ctx != NULL)
-                       *string = TALLOC_ARRAY(mem_ctx, char, *bufsize);
-               else
-                       *string = SMB_MALLOC_ARRAY(char, *bufsize);
-
+               *string = TALLOC_ARRAY(mem_ctx, char, *bufsize);
                if (*string == NULL)
                        goto error;
        }
@@ -2319,24 +2126,21 @@ void sprintf_append(TALLOC_CTX *mem_ctx, char **string, ssize_t *len,
        if (ret < 0)
                goto error;
 
-       increased = False;
+       increased = false;
 
        while ((*len)+ret >= *bufsize) {
-               increased = True;
+               increased = true;
                *bufsize *= 2;
                if (*bufsize >= (1024*1024*256))
                        goto error;
        }
 
        if (increased) {
-               if (mem_ctx != NULL)
-                       *string = TALLOC_REALLOC_ARRAY(mem_ctx, *string, char,
-                                                      *bufsize);
-               else
-                       *string = SMB_REALLOC_ARRAY(*string, char, *bufsize);
-
-               if (*string == NULL)
+               *string = TALLOC_REALLOC_ARRAY(mem_ctx, *string, char,
+                                              *bufsize);
+               if (*string == NULL) {
                        goto error;
+               }
        }
 
        StrnCpy((*string)+(*len), newstr, ret);
@@ -2349,6 +2153,61 @@ void sprintf_append(TALLOC_CTX *mem_ctx, char **string, ssize_t *len,
        *string = NULL;
 }
 
+/*
+ * asprintf into a string and strupper_m it after that.
+ */
+
+int asprintf_strupper_m(char **strp, const char *fmt, ...)
+{
+       va_list ap;
+       char *result;
+       int ret;
+
+       va_start(ap, fmt);
+       ret = vasprintf(&result, fmt, ap);
+       va_end(ap);
+
+       if (ret == -1)
+               return -1;
+
+       strupper_m(result);
+       *strp = result;
+       return ret;
+}
+
+char *talloc_asprintf_strupper_m(TALLOC_CTX *t, const char *fmt, ...)
+{
+       va_list ap;
+       char *ret;
+
+       va_start(ap, fmt);
+       ret = talloc_vasprintf(t, fmt, ap);
+       va_end(ap);
+
+       if (ret == NULL) {
+               return NULL;
+       }
+       strupper_m(ret);
+       return ret;
+}
+
+char *talloc_asprintf_strlower_m(TALLOC_CTX *t, const char *fmt, ...)
+{
+       va_list ap;
+       char *ret;
+
+       va_start(ap, fmt);
+       ret = talloc_vasprintf(t, fmt, ap);
+       va_end(ap);
+
+       if (ret == NULL) {
+               return NULL;
+       }
+       strlower_m(ret);
+       return ret;
+}
+
+
 /*
    Returns the substring from src between the first occurrence of
    the char "front" and the first occurence of the char "back".
@@ -2381,17 +2240,199 @@ char *sstring_sub(const char *src, char front, char back)
  characters.
 ********************************************************************/
 
-BOOL validate_net_name( const char *name, const char *invalid_chars, int max_len )
+bool validate_net_name( const char *name,
+               const char *invalid_chars,
+               int max_len)
 {
        int i;
 
        for ( i=0; i<max_len && name[i]; i++ ) {
                /* fail if strchr_m() finds one of the invalid characters */
                if ( name[i] && strchr_m( invalid_chars, name[i] ) ) {
-                       return False;
+                       return false;
                }
        }
 
-       return True;
+       return true;
+}
+
+
+/*******************************************************************
+ Add a shell escape character '\' to any character not in a known list
+ of characters. UNIX charset format.
+*******************************************************************/
+
+#define INCLUDE_LIST "0123456789ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz_/ \t.,"
+#define INSIDE_DQUOTE_LIST "$`\n\"\\"
+
+char *escape_shell_string(const char *src)
+{
+       size_t srclen = strlen(src);
+       char *ret = SMB_MALLOC_ARRAY(char, (srclen * 2) + 1);
+       char *dest = ret;
+       bool in_s_quote = false;
+       bool in_d_quote = false;
+       bool next_escaped = false;
+
+       if (!ret) {
+               return NULL;
+       }
+
+       while (*src) {
+               size_t c_size;
+               codepoint_t c = next_codepoint(src, &c_size);
+
+               if (c == INVALID_CODEPOINT) {
+                       SAFE_FREE(ret);
+                       return NULL;
+               }
+
+               if (c_size > 1) {
+                       memcpy(dest, src, c_size);
+                       src += c_size;
+                       dest += c_size;
+                       next_escaped = false;
+                       continue;
+               }
+
+               /*
+                * Deal with backslash escaped state.
+                * This only lasts for one character.
+                */
+
+               if (next_escaped) {
+                       *dest++ = *src++;
+                       next_escaped = false;
+                       continue;
+               }
+
+               /*
+                * Deal with single quote state. The
+                * only thing we care about is exiting
+                * this state.
+                */
+
+               if (in_s_quote) {
+                       if (*src == '\'') {
+                               in_s_quote = false;
+                       }
+                       *dest++ = *src++;
+                       continue;
+               }
+
+               /*
+                * Deal with double quote state. The most
+                * complex state. We must cope with \, meaning
+                * possibly escape next char (depending what it
+                * is), ", meaning exit this state, and possibly
+                * add an \ escape to any unprotected character
+                * (listed in INSIDE_DQUOTE_LIST).
+                */
+
+               if (in_d_quote) {
+                       if (*src == '\\') {
+                               /*
+                                * Next character might be escaped.
+                                * We have to peek. Inside double
+                                * quotes only INSIDE_DQUOTE_LIST
+                                * characters are escaped by a \.
+                                */
+
+                               char nextchar;
+
+                               c = next_codepoint(&src[1], &c_size);
+                               if (c == INVALID_CODEPOINT) {
+                                       SAFE_FREE(ret);
+                                       return NULL;
+                               }
+                               if (c_size > 1) {
+                                       /*
+                                        * Don't escape the next char.
+                                        * Just copy the \.
+                                        */
+                                       *dest++ = *src++;
+                                       continue;
+                               }
+
+                               nextchar = src[1];
+
+                               if (nextchar && strchr(INSIDE_DQUOTE_LIST,
+                                                       (int)nextchar)) {
+                                       next_escaped = true;
+                               }
+                               *dest++ = *src++;
+                               continue;
+                       }
+
+                       if (*src == '\"') {
+                               /* Exit double quote state. */
+                               in_d_quote = false;
+                               *dest++ = *src++;
+                               continue;
+                       }
+
+                       /*
+                        * We know the character isn't \ or ",
+                        * so escape it if it's any of the other
+                        * possible unprotected characters.
+                        */
+
+                       if (strchr(INSIDE_DQUOTE_LIST, (int)*src)) {
+                               *dest++ = '\\';
+                       }
+                       *dest++ = *src++;
+                       continue;
+               }
+
+               /*
+                * From here to the end of the loop we're
+                * not in the single or double quote state.
+                */
+
+               if (*src == '\\') {
+                       /* Next character must be escaped. */
+                       next_escaped = true;
+                       *dest++ = *src++;
+                       continue;
+               }
+
+               if (*src == '\'') {
+                       /* Go into single quote state. */
+                       in_s_quote = true;
+                       *dest++ = *src++;
+                       continue;
+               }
+
+               if (*src == '\"') {
+                       /* Go into double quote state. */
+                       in_d_quote = true;
+                       *dest++ = *src++;
+                       continue;
+               }
+
+               /* Check if we need to escape the character. */
+
+               if (!strchr(INCLUDE_LIST, (int)*src)) {
+                       *dest++ = '\\';
+               }
+               *dest++ = *src++;
+       }
+       *dest++ = '\0';
+       return ret;
 }
 
+/***************************************************
+ Wrapper for str_list_make() to restore the s3 behavior.
+ In samba 3.2 passing NULL or an empty string returned NULL.
+
+ In master, it now returns a list of length 1 with the first string set
+ to NULL (an empty list)
+***************************************************/
+
+char **str_list_make_v3(TALLOC_CTX *mem_ctx, const char *string, const char *sep)
+{
+       if (!string || !*string) {
+               return NULL;
+       }
+       return str_list_make(mem_ctx, string, sep);
+}