this implements a completely new strategy for fetching group
authorAndrew Tridgell <tridge@samba.org>
Thu, 11 Jul 2002 05:28:08 +0000 (05:28 +0000)
committerAndrew Tridgell <tridge@samba.org>
Thu, 11 Jul 2002 05:28:08 +0000 (05:28 +0000)
membership from an ADS server. We now use a 'member' query on the
group and do a separate call to convert the resulting distinguished
name to a name, rid etc. This is *much* faster for very large numbers
of groups (on a quantum test system with 10000 groups it drops the
time from an hour to about 35 seconds).

strangely enough, this actually *increases* the amount of ldap
traffic, its just that the MS LDAP server answers these queries much
faster.
(This used to be commit 5538048e4f6dd224b2990f3c6a3e99fd07065f77)

source3/libads/ldap.c
source3/nsswitch/winbindd_ads.c

index c9ad3e08db9c3ae94b85dd81a3f0c09bd5ec1e63..0f41269e3aec823184fd5d2e6459940d91c2be52 100644 (file)
@@ -1293,6 +1293,41 @@ char *ads_pull_string(ADS_STRUCT *ads,
        return ret;
 }
 
+/**
+ * pull an array of strings from a ADS result
+ * @param ads connection to ads server
+ * @param mem_ctx TALLOC_CTX to use for allocating result string
+ * @param msg Results of search
+ * @param field Attribute to retrieve
+ * @return Result strings in talloc context
+ **/
+char **ads_pull_strings(ADS_STRUCT *ads, 
+                      TALLOC_CTX *mem_ctx, void *msg, const char *field)
+{
+       char **values;
+       char **ret = NULL;
+       int i, n;
+
+       values = ldap_get_values(ads->ld, msg, field);
+       if (!values) return NULL;
+
+       for (i=0;values[i];i++) /* noop */ ;
+       n = i;
+
+       ret = talloc(mem_ctx, sizeof(char *) * (n+1));
+
+       for (i=0;i<n;i++) {
+               if (pull_utf8_talloc(mem_ctx, (void **)&ret[i], values[i]) == -1) {
+                       return NULL;
+               }
+       }
+       ret[i] = NULL;
+
+       ldap_value_free(values);
+       return ret;
+}
+
+
 /**
  * pull a single uint32 from a ADS result
  * @param ads connection to ads server
index 360b37b61e9b6867ce37c9b3dccd73e64f09a51b..b61348adfe76ab801e087f672917849f67d7d782 100644 (file)
@@ -492,6 +492,50 @@ done:
 }
 
 
+/* convert a DN to a name, rid and name type 
+   this might become a major speed bottleneck if groups have
+   lots of users, in which case we could cache the results
+*/
+static BOOL dn_lookup(ADS_STRUCT *ads, TALLOC_CTX *mem_ctx,
+                     const char *dn,
+                     char **name, uint32 *name_type, uint32 *rid)
+{
+       char *exp;
+       void *res = NULL;
+       const char *attrs[] = {"userPrincipalName", "sAMAccountName",
+                              "objectSid", "sAMAccountType", NULL};
+       ADS_STATUS rc;
+       uint32 atype;
+       DOM_SID sid;
+
+       asprintf(&exp, "(distinguishedName=%s)", dn);
+       rc = ads_search_retry(ads, &res, exp, attrs);
+       free(exp);
+       if (!ADS_ERR_OK(rc)) {
+               goto failed;
+       }
+
+       (*name) = pull_username(ads, mem_ctx, res);
+
+       if (!ads_pull_uint32(ads, res, "sAMAccountType", &atype)) {
+               goto failed;
+       }
+       (*name_type) = ads_atype_map(atype);
+
+       if (!ads_pull_sid(ads, res, "objectSid", &sid) || 
+           !sid_peek_rid(&sid, rid)) {
+               goto failed;
+       }
+
+       if (res) ads_msgfree(ads, res);
+       return True;
+
+failed:
+       if (res) ads_msgfree(ads, res);
+       return False;
+}
+
+
 /* convert a sid to a distnguished name */
 static NTSTATUS sid_to_distinguished_name(struct winbindd_domain *domain,
                                          TALLOC_CTX *mem_ctx,
@@ -678,7 +722,9 @@ done:
        return status;
 }
 
-
+/*
+  find the members of a group, given a group rid and domain
+ */
 static NTSTATUS lookup_groupmem(struct winbindd_domain *domain,
                                TALLOC_CTX *mem_ctx,
                                uint32 group_rid, uint32 *num_names, 
@@ -686,14 +732,16 @@ static NTSTATUS lookup_groupmem(struct winbindd_domain *domain,
                                uint32 **name_types)
 {
        DOM_SID group_sid;
-       const char *attrs[] = {"userPrincipalName", "sAMAccountName",
-                              "objectSid", "sAMAccountType", NULL};
        ADS_STATUS rc;
        int count;
-       void *res=NULL, *msg=NULL;
+       void *res=NULL;
        ADS_STRUCT *ads = NULL;
-       char *exp, *dn = NULL;
+       char *exp;
        NTSTATUS status = NT_STATUS_UNSUCCESSFUL;
+       char *sidstr;
+       const char *attrs[] = {"member", NULL};
+       char **members;
+       int i, num_members;
 
        *num_names = 0;
 
@@ -701,17 +749,14 @@ static NTSTATUS lookup_groupmem(struct winbindd_domain *domain,
        if (!ads) goto done;
 
        sid_from_rid(domain, group_rid, &group_sid);
-       status = sid_to_distinguished_name(domain, mem_ctx, &group_sid, &dn);
-       if (!NT_STATUS_IS_OK(status)) {
-               DEBUG(3,("Failed to find distinguishedName for %s\n", sid_string_static(&group_sid)));
-               return status;
-       }
+       sidstr = sid_binstring(&group_sid);
 
-       /* search for all users who have that group sid as primary group or as member */
-       asprintf(&exp, "(&(objectCategory=user)(|(primaryGroupID=%d)(memberOf=%s)))",
-                group_rid, dn);
+       /* search for all members of the group */
+       asprintf(&exp, "(objectSid=%s)",sidstr);
        rc = ads_search_retry(ads, &res, exp, attrs);
        free(exp);
+       free(sidstr);
+
        if (!ADS_ERR_OK(rc)) {
                DEBUG(1,("query_user_list ads_search: %s\n", ads_errstr(rc)));
                goto done;
@@ -723,29 +768,33 @@ static NTSTATUS lookup_groupmem(struct winbindd_domain *domain,
                goto done;
        }
 
-       (*rid_mem) = talloc_zero(mem_ctx, sizeof(uint32) * count);
-       (*name_types) = talloc_zero(mem_ctx, sizeof(uint32) * count);
-       (*names) = talloc_zero(mem_ctx, sizeof(char *) * count);
+       members = ads_pull_strings(ads, mem_ctx, res, "member");
+       if (!members) {
+               /* no members? ok ... */
+               status = NT_STATUS_OK;
+               goto done;
+       }
 
-       for (msg = ads_first_entry(ads, res); msg; msg = ads_next_entry(ads, msg)) {
-               uint32 atype, rid;
-               DOM_SID sid;
+       /* now we need to turn a list of members into rids, names and name types 
+          the problem is that the members are in the form of distinguised names
+       */
+       for (i=0;members[i];i++) /* noop */ ;
+       num_members = i;
 
-               (*names)[*num_names] = pull_username(ads, mem_ctx, msg);
-               if (!ads_pull_uint32(ads, msg, "sAMAccountType", &atype)) {
-                       continue;
-               }
-               (*name_types)[*num_names] = ads_atype_map(atype);
-               if (!ads_pull_sid(ads, msg, "objectSid", &sid)) {
-                       DEBUG(1,("No sid for %s !?\n", (*names)[*num_names]));
-                       continue;
-               }
-               if (!sid_peek_check_rid(&domain->sid, &sid, &rid)) {
-                       DEBUG(1,("No rid for %s !?\n", (*names)[*num_names]));
-                       continue;
+       (*rid_mem) = talloc_zero(mem_ctx, sizeof(uint32) * num_members);
+       (*name_types) = talloc_zero(mem_ctx, sizeof(uint32) * num_members);
+       (*names) = talloc_zero(mem_ctx, sizeof(char *) * num_members);
+
+       for (i=0;i<num_members;i++) {
+               uint32 name_type, rid;
+               char *name;
+
+               if (dn_lookup(ads, mem_ctx, members[i], &name, &name_type, &rid)) {
+                   (*names)[*num_names] = name;
+                   (*name_types)[*num_names] = name_type;
+                   (*rid_mem)[*num_names] = rid;
+                   (*num_names)++;
                }
-               (*rid_mem)[*num_names] = rid;
-               (*num_names)++;
        }       
 
        status = NT_STATUS_OK;
@@ -756,6 +805,7 @@ done:
        return status;
 }
 
+
 /* find the sequence number for a domain */
 static NTSTATUS sequence_number(struct winbindd_domain *domain, uint32 *seq)
 {