r17614: Our first "client side' ldb module.
[abartlet/samba.git/.git] / source4 / lib / ldb / modules / paged_searches.c
1 /* 
2    ldb database library
3
4    Copyright (C) Simo Sorce  2005-2006
5
6      ** NOTE! The following LGPL license applies to the ldb
7      ** library. This does NOT imply that all of Samba is released
8      ** under the LGPL
9    
10    This library is free software; you can redistribute it and/or
11    modify it under the terms of the GNU Lesser General Public
12    License as published by the Free Software Foundation; either
13    version 2 of the License, or (at your option) any later version.
14
15    This library is distributed in the hope that it will be useful,
16    but WITHOUT ANY WARRANTY; without even the implied warranty of
17    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
18    Lesser General Public License for more details.
19
20    You should have received a copy of the GNU Lesser General Public
21    License along with this library; if not, write to the Free Software
22    Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
23 */
24
25 /*
26  *  Name: paged_searches
27  *
28  *  Component: ldb paged searches module
29  *
30  *  Description: this module detects if the remote ldap server supports
31  *               paged results and use them to transparently access all objects
32  *
33  *  Author: Simo Sorce
34  */
35
36 #include "includes.h"
37 #include "ldb/include/includes.h"
38
39 #define PS_DEFAULT_PAGE_SIZE 500
40 /* 500 objects per query seem to be a decent compromise
41  * the default AD limit per request is 1000 entries */
42
43 struct private_data {
44
45         bool paged_supported;
46 };
47
48 struct ps_context {
49         struct ldb_module *module;
50         void *up_context;
51         int (*up_callback)(struct ldb_context *, void *, struct ldb_reply *);
52
53         struct ldb_request *orig_req;
54
55         struct ldb_request *new_req;
56
57         bool pending;
58
59         char **saved_referrals;
60         int num_referrals;
61 };
62
63 static struct ldb_handle *init_handle(void *mem_ctx, struct ldb_module *module,
64                                             void *context,
65                                             int (*callback)(struct ldb_context *, void *, struct ldb_reply *))
66 {
67         struct ps_context *ac;
68         struct ldb_handle *h;
69
70         h = talloc_zero(mem_ctx, struct ldb_handle);
71         if (h == NULL) {
72                 ldb_set_errstring(module->ldb, "Out of Memory");
73                 return NULL;
74         }
75
76         h->module = module;
77
78         ac = talloc_zero(h, struct ps_context);
79         if (ac == NULL) {
80                 ldb_set_errstring(module->ldb, "Out of Memory");
81                 talloc_free(h);
82                 return NULL;
83         }
84
85         h->private_data = (void *)ac;
86
87         h->state = LDB_ASYNC_INIT;
88         h->status = LDB_SUCCESS;
89
90         ac->module = module;
91         ac->up_context = context;
92         ac->up_callback = callback;
93
94         ac->pending = False;
95         ac->saved_referrals = NULL;
96         ac->num_referrals = 0;
97
98         return h;
99 }
100
101 static bool check_ps_continuation(struct ldb_reply *ares, struct ps_context *ac)
102 {
103         struct ldb_paged_control *rep_control, *req_control;
104
105         /* look up our paged control */
106         if (strcmp(LDB_CONTROL_PAGED_RESULTS_OID, ares->controls[0]->oid) != 0) {
107                 /* something wrong here */
108                 return False;
109         }
110
111         rep_control = talloc_get_type(ares->controls[0]->data, struct ldb_paged_control);
112         if (rep_control->cookie_len == 0) {
113                 /* we are done */
114                 ac->pending = False;
115                 return True;
116         }
117
118         /* more processing required */
119         /* let's fill in the request control with the new cookie */
120         /* if there's a reply control we must find a request
121          * control matching it */
122
123         if (strcmp(LDB_CONTROL_PAGED_RESULTS_OID, ac->new_req->controls[0]->oid) != 0) {
124                 /* something wrong here */
125                 return False;
126         }
127
128         req_control = talloc_get_type(ac->new_req->controls[0]->data, struct ldb_paged_control);
129
130         if (req_control->cookie) {
131                 talloc_free(req_control->cookie);
132         }
133
134         req_control->cookie = talloc_memdup(req_control,
135                                             rep_control->cookie,
136                                             rep_control->cookie_len);
137         req_control->cookie_len = rep_control->cookie_len;
138
139         ac->pending = True;
140         return True;
141 }
142
143 static int store_referral(char *referral, struct ps_context *ac)
144 {
145         ac->saved_referrals = talloc_realloc(ac, ac->saved_referrals, char *, ac->num_referrals + 2);
146         if (!ac->saved_referrals) {
147                 return LDB_ERR_OPERATIONS_ERROR;
148         }
149
150         ac->saved_referrals[ac->num_referrals] = talloc_strdup(ac->saved_referrals, referral);
151         if (!ac->saved_referrals[ac->num_referrals]) {
152                 return LDB_ERR_OPERATIONS_ERROR;
153         }
154
155         ac->num_referrals++;
156         ac->saved_referrals[ac->num_referrals] = NULL;
157
158         return LDB_SUCCESS;
159 }
160
161 static int send_referrals(struct ldb_context *ldb, struct ps_context *ac)
162 {
163         struct ldb_reply *ares;
164         int i;
165
166         for (i = 0; i < ac->num_referrals; i++) {
167                 ares = talloc_zero(ac, struct ldb_reply);
168                 if (!ares) {
169                         return LDB_ERR_OPERATIONS_ERROR;
170                 }
171
172                 ares->type = LDB_REPLY_REFERRAL;
173                 ares->referral = ac->saved_referrals[i];
174
175                 ac->up_callback(ldb, ac->up_context, ares);
176         }
177
178         return LDB_SUCCESS;
179 }
180
181 static int ps_callback(struct ldb_context *ldb, void *context, struct ldb_reply *ares)
182 {
183         struct ps_context *ac = NULL;
184         int ret;
185
186         if (!context || !ares) {
187                 ldb_set_errstring(ldb, "NULL Context or Result in callback");
188                 goto error;
189         }
190
191         ac = talloc_get_type(context, struct ps_context);
192
193         switch (ares->type) {
194         case LDB_REPLY_ENTRY:
195                 ac->up_callback(ldb, ac->up_context, ares);
196                 break;
197
198         case LDB_REPLY_REFERRAL:
199                 ret = store_referral(ares->referral, ac);
200                 if (ret != LDB_SUCCESS) {
201                         goto error;
202                 }
203                 break;
204
205         case LDB_REPLY_DONE:
206                 if (!check_ps_continuation(ares, ac)) {
207                         goto error;
208                 }
209                 if (!ac->pending) {
210                         /* send referrals */
211                         ret = send_referrals(ldb, ac);
212                         if (ret != LDB_SUCCESS) {
213                                 goto error;
214                         }
215
216                         /* send REPLY_DONE */
217                         ac->up_callback(ldb, ac->up_context, ares);
218                 }
219                 break;
220         default:
221                 goto error;
222         }
223
224         return LDB_SUCCESS;
225
226 error:
227         talloc_free(ares);
228         return LDB_ERR_OPERATIONS_ERROR;
229 }
230
231 static int ps_search(struct ldb_module *module, struct ldb_request *req)
232 {
233         struct private_data *private_data;
234         struct ldb_paged_control *control;
235         struct ps_context *ac;
236         struct ldb_handle *h;
237
238         private_data = talloc_get_type(module->private_data, struct private_data);
239
240         /* check if paging is supported and if there is a any control */
241         if (!private_data->paged_supported || req->controls) {
242                 /* do not touch this request
243                  * oaged controls not supported or
244                  * explicit controls have been set */
245                 return ldb_next_request(module, req);
246         }
247
248         if (!req->callback || !req->context) {
249                 ldb_set_errstring(module->ldb,
250                                   "Async interface called with NULL callback function or NULL context");
251                 return LDB_ERR_OPERATIONS_ERROR;
252         }
253         
254         h = init_handle(req, module, req->context, req->callback);
255         if (!h) {
256                 return LDB_ERR_OPERATIONS_ERROR;
257         }
258         ac = talloc_get_type(h->private_data, struct ps_context);
259
260         ac->new_req = talloc(ac, struct ldb_request);
261         if (!ac->new_req) return LDB_ERR_OPERATIONS_ERROR;
262
263         ac->new_req->controls = talloc_array(ac->new_req, struct ldb_control *, 2);
264         if (!ac->new_req->controls) return LDB_ERR_OPERATIONS_ERROR;
265
266         ac->new_req->controls[0] = talloc(ac->new_req->controls, struct ldb_control);
267         if (!ac->new_req->controls[0]) return LDB_ERR_OPERATIONS_ERROR;
268
269         control = talloc(ac->new_req->controls[0], struct ldb_paged_control);
270         if (!control) return LDB_ERR_OPERATIONS_ERROR;
271
272         control->size = PS_DEFAULT_PAGE_SIZE;
273         control->cookie = NULL;
274         control->cookie_len = 0;
275
276         ac->new_req->controls[0]->oid = LDB_CONTROL_PAGED_RESULTS_OID;
277         ac->new_req->controls[0]->critical = 1;
278         ac->new_req->controls[0]->data = control;
279
280         ac->new_req->controls[1] = NULL;
281
282         ac->new_req->operation = req->operation;
283         ac->new_req->op.search.base = req->op.search.base;
284         ac->new_req->op.search.scope = req->op.search.scope;
285         ac->new_req->op.search.tree = req->op.search.tree;
286         ac->new_req->op.search.attrs = req->op.search.attrs;
287         ac->new_req->context = ac;
288         ac->new_req->callback = ps_callback;
289         ldb_set_timeout_from_prev_req(module->ldb, req, ac->new_req);
290
291         req->handle = h;
292
293         return ldb_next_request(module, ac->new_req);
294 }
295
296 static int ps_continuation(struct ldb_handle *handle)
297 {
298         struct ps_context *ac;
299
300         if (!handle || !handle->private_data) {
301                 return LDB_ERR_OPERATIONS_ERROR;
302         }
303
304         ac = talloc_get_type(handle->private_data, struct ps_context);
305
306         /* reset the requests handle */
307         ac->new_req->handle = NULL;
308
309         return ldb_next_request(handle->module, ac->new_req);
310 }
311
312 static int ps_wait_none(struct ldb_handle *handle)
313 {
314         struct ps_context *ac;
315         int ret;
316     
317         if (!handle || !handle->private_data) {
318                 return LDB_ERR_OPERATIONS_ERROR;
319         }
320
321         if (handle->state == LDB_ASYNC_DONE) {
322                 return handle->status;
323         }
324
325         handle->state = LDB_ASYNC_PENDING;
326         handle->status = LDB_SUCCESS;
327
328         ac = talloc_get_type(handle->private_data, struct ps_context);
329
330         ret = ldb_wait(ac->new_req->handle, LDB_WAIT_NONE);
331
332         if (ret != LDB_SUCCESS) {
333                 handle->status = ret;
334                 goto done;
335         }
336
337         if (ac->new_req->handle->status != LDB_SUCCESS) {
338                 handle->status = ac->new_req->handle->status;
339                 goto done;
340         }
341
342         if (ac->new_req->handle->state != LDB_ASYNC_DONE) {
343                 return LDB_SUCCESS;
344         } 
345
346         /* see if we need to send another request for the next batch */
347         if (ac->pending) {
348                 ret = ps_continuation(handle);
349                 if (ret != LDB_SUCCESS) {
350                         handle->status = ret;
351                         goto done;
352                 }
353
354                 /* continue the search with the next request */
355                 return LDB_SUCCESS;
356         }
357
358         ret = LDB_SUCCESS;
359
360 done:
361         handle->state = LDB_ASYNC_DONE;
362         return ret;
363 }
364
365 static int ps_wait_all(struct ldb_handle *handle)
366 {
367         int ret;
368
369         while (handle->state != LDB_ASYNC_DONE) {
370                 ret = ps_wait_none(handle);
371                 if (ret != LDB_SUCCESS) {
372                         return ret;
373                 }
374         }
375
376         return handle->status;
377 }
378
379 static int ps_wait(struct ldb_handle *handle, enum ldb_wait_type type)
380 {
381         if (type == LDB_WAIT_ALL) {
382                 return ps_wait_all(handle);
383         } else {
384                 return ps_wait_none(handle);
385         }
386 }
387
388 static int ps_init(struct ldb_module *module)
389 {
390         static const char *attrs[] = { "supportedControl", NULL };
391         struct private_data *data;
392         struct ldb_result *res = NULL;
393         int ret;
394
395         data = talloc(module, struct private_data);
396         if (data == NULL) {
397                 return LDB_ERR_OTHER;
398         }
399         module->private_data = data;
400         data->paged_supported = False;
401         
402         /* find the supported controls */
403         ret = ldb_search(module->ldb,
404                          ldb_dn_new(module),
405                          LDB_SCOPE_BASE,
406                          "(objectClass=*)",
407                          attrs,
408                          &res);
409
410         if (ret != LDB_SUCCESS || res->count != 1) {
411                 if (res) talloc_free(res);
412                 return ldb_next_init(module);
413         }
414
415         if (ldb_msg_check_string_attribute(res->msgs[0],
416                                            "supportedControl",
417                                            LDB_CONTROL_PAGED_RESULTS_OID)) {
418
419                 data->paged_supported = True;
420         }
421
422         talloc_free(res);
423
424         return ldb_next_init(module);
425 }
426
427 static const struct ldb_module_ops ps_ops = {
428         .name           = "paged_searches",
429         .search         = ps_search,
430         .wait           = ps_wait,
431         .init_context   = ps_init
432 };
433
434 int ldb_paged_searches_init(void)
435 {
436         return ldb_register_module(&ps_ops);
437 }
438