ctdb/daemon: Make delete IP wait until the IP is released
[obnox/samba/samba-obnox.git] / ctdb / include / ctdb_private.h
1 /* 
2    ctdb database library
3
4    Copyright (C) Andrew Tridgell  2006
5
6    This program is free software; you can redistribute it and/or modify
7    it under the terms of the GNU General Public License as published by
8    the Free Software Foundation; either version 3 of the License, or
9    (at your option) any later version.
10    
11    This program is distributed in the hope that it will be useful,
12    but WITHOUT ANY WARRANTY; without even the implied warranty of
13    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14    GNU General Public License for more details.
15    
16    You should have received a copy of the GNU General Public License
17    along with this program; if not, see <http://www.gnu.org/licenses/>.
18 */
19
20 #ifndef _CTDB_PRIVATE_H
21 #define _CTDB_PRIVATE_H
22
23 #include "ctdb_client.h"
24 #include <sys/socket.h>
25
26 /*
27  * Structures to support SRVID requests and replies
28  */
29 struct srvid_request {
30         uint32_t pnn;
31         uint64_t srvid;
32 };
33
34 struct srvid_request_data {
35         uint32_t pnn;
36         uint64_t srvid;
37         uint32_t data;
38 };
39
40 /*
41  * pid of the ctdbd daemon
42  */
43 extern pid_t ctdbd_pid;
44
45 /*
46   a tcp connection description
47   also used by tcp_add and tcp_remove controls
48  */
49 struct ctdb_tcp_connection {
50         ctdb_sock_addr src_addr;
51         ctdb_sock_addr dst_addr;
52 };
53
54 /* the wire representation for a tcp tickle array */
55 struct ctdb_tcp_wire_array {
56         uint32_t num;
57         struct ctdb_tcp_connection connections[1];
58 };      
59
60 /* the list of tcp tickles used by get/set tcp tickle list */
61 struct ctdb_control_tcp_tickle_list {
62         ctdb_sock_addr addr;
63         struct ctdb_tcp_wire_array tickles;
64 };
65
66 /*
67   array of tcp connections
68  */
69 struct ctdb_tcp_array {
70         uint32_t num;
71         struct ctdb_tcp_connection *connections;
72 };      
73
74
75 /* all tunable variables go in here */
76 struct ctdb_tunable {
77         uint32_t max_redirect_count;
78         uint32_t seqnum_interval; /* unit is ms */
79         uint32_t control_timeout;
80         uint32_t traverse_timeout;
81         uint32_t keepalive_interval;
82         uint32_t keepalive_limit;
83         uint32_t recover_timeout;
84         uint32_t recover_interval;
85         uint32_t election_timeout;
86         uint32_t takeover_timeout;
87         uint32_t monitor_interval;
88         uint32_t tickle_update_interval;
89         uint32_t script_timeout;
90         uint32_t script_timeout_count; /* allow dodgy scripts to hang this many times in a row before we mark the node unhealthy */
91         uint32_t script_unhealthy_on_timeout; /* obsolete */
92         uint32_t recovery_grace_period;
93         uint32_t recovery_ban_period;
94         uint32_t database_hash_size;
95         uint32_t database_max_dead;
96         uint32_t rerecovery_timeout;
97         uint32_t enable_bans;
98         uint32_t deterministic_public_ips;
99         uint32_t reclock_ping_period;
100         uint32_t no_ip_failback;
101         uint32_t disable_ip_failover;
102         uint32_t verbose_memory_names;
103         uint32_t recd_ping_timeout;
104         uint32_t recd_ping_failcount;
105         uint32_t log_latency_ms;
106         uint32_t reclock_latency_ms;
107         uint32_t recovery_drop_all_ips;
108         uint32_t verify_recovery_lock;
109         uint32_t vacuum_interval;
110         uint32_t vacuum_max_run_time;
111         uint32_t repack_limit;
112         uint32_t vacuum_limit;
113         uint32_t max_queue_depth_drop_msg;
114         uint32_t use_status_events_for_monitoring;
115         uint32_t allow_unhealthy_db_read;
116         uint32_t stat_history_interval;
117         uint32_t deferred_attach_timeout;
118         uint32_t vacuum_fast_path_count;
119         uint32_t lcp2_public_ip_assignment;
120         uint32_t allow_client_db_attach;
121         uint32_t recover_pdb_by_seqnum;
122         uint32_t deferred_rebalance_on_node_add;
123         uint32_t fetch_collapse;
124         uint32_t hopcount_make_sticky;
125         uint32_t sticky_duration;
126         uint32_t sticky_pindown;
127         uint32_t no_ip_takeover;
128         uint32_t db_record_count_warn;
129         uint32_t db_record_size_warn;
130         uint32_t db_size_warn;
131         uint32_t pulldb_preallocation_size;
132         uint32_t no_ip_host_on_all_disabled;
133         uint32_t samba3_hack;
134 };
135
136 /*
137   an installed ctdb remote call
138 */
139 struct ctdb_registered_call {
140         struct ctdb_registered_call *next, *prev;
141         uint32_t id;
142         ctdb_fn_t fn;
143 };
144
145 /*
146   this address structure might need to be generalised later for some
147   transports
148 */
149 struct ctdb_address {
150         const char *address;
151         int port;
152 };
153
154 /*
155   check that a pnn is valid
156  */
157 #define ctdb_validate_pnn(ctdb, pnn) (((uint32_t)(pnn)) < (ctdb)->num_nodes)
158
159
160 /* called from the queue code when a packet comes in. Called with data==NULL
161    on error */
162 typedef void (*ctdb_queue_cb_fn_t)(uint8_t *data, size_t length,
163                                    void *private_data);
164
165 /* used for callbacks in ctdb_control requests */
166 typedef void (*ctdb_control_callback_fn_t)(struct ctdb_context *,
167                                            int32_t status, TDB_DATA data, 
168                                            const char *errormsg,
169                                            void *private_data);
170 /*
171   structure describing a connected client in the daemon
172  */
173 struct ctdb_client {
174         struct ctdb_context *ctdb;
175         int fd;
176         struct ctdb_queue *queue;
177         uint32_t client_id;
178         pid_t pid;
179         struct ctdb_tcp_list *tcp_list;
180         uint32_t db_id;
181         uint32_t num_persistent_updates;
182         struct ctdb_client_notify_list *notify;
183 };
184
185 struct ctdb_iface;
186
187 /* state associated with a public ip address */
188 struct ctdb_vnn {
189         struct ctdb_vnn *prev, *next;
190
191         struct ctdb_iface *iface;
192         const char **ifaces;
193         ctdb_sock_addr public_address;
194         uint8_t public_netmask_bits;
195
196         /* the node number that is serving this public address, if any. 
197            If no node serves this ip it is set to -1 */
198         int32_t pnn;
199
200         /* List of clients to tickle for this public address */
201         struct ctdb_tcp_array *tcp_array;
202
203         /* whether we need to update the other nodes with changes to our list
204            of connected clients */
205         bool tcp_update_needed;
206
207         /* a context to hang sending gratious arp events off */
208         TALLOC_CTX *takeover_ctx;
209
210         struct ctdb_kill_tcp *killtcp;
211
212         /* Set to true any time an update to this VNN is in flight.
213            This helps to avoid races. */
214         bool update_in_flight;
215
216         /* If CTDB_CONTROL_DEL_PUBLIC_IP is received for this IP
217          * address then this flag is set.  It will be deleted in the
218          * release IP callback. */
219         bool delete_pending;
220 };
221
222 /*
223   state associated with one node
224 */
225 struct ctdb_node {
226         struct ctdb_context *ctdb;
227         struct ctdb_address address;
228         const char *name; /* for debug messages */
229         void *private_data; /* private to transport */
230         uint32_t pnn;
231         uint32_t flags;
232
233         /* used by the dead node monitoring */
234         uint32_t dead_count;
235         uint32_t rx_cnt;
236         uint32_t tx_cnt;
237
238         /* used to track node capabilities, is only valid/tracked inside the
239            recovery daemon.
240         */
241         uint32_t capabilities;
242
243         /* a list of controls pending to this node, so we can time them out quickly
244            if the node becomes disconnected */
245         struct daemon_control_state *pending_controls;
246
247         /* used by the recovery daemon when distributing ip addresses 
248            across the nodes.  it needs to know which public ip's can be handled
249            by each node.
250         */
251         struct ctdb_all_public_ips *known_public_ips;
252         struct ctdb_all_public_ips *available_public_ips;
253         /* used by the recovery dameon to track when a node should be banned */
254         struct ctdb_banning_state *ban_state; 
255 };
256
257 /*
258   transport specific methods
259 */
260 struct ctdb_methods {
261         int (*initialise)(struct ctdb_context *); /* initialise transport structures */ 
262         int (*start)(struct ctdb_context *); /* start the transport */
263         int (*add_node)(struct ctdb_node *); /* setup a new node */     
264         int (*connect_node)(struct ctdb_node *); /* connect to node */
265         int (*queue_pkt)(struct ctdb_node *, uint8_t *data, uint32_t length);
266         void *(*allocate_pkt)(TALLOC_CTX *mem_ctx, size_t );
267         void (*shutdown)(struct ctdb_context *); /* shutdown transport */
268         void (*restart)(struct ctdb_node *); /* stop and restart the connection */
269 };
270
271 /*
272   transport calls up to the ctdb layer
273 */
274 struct ctdb_upcalls {
275         /* recv_pkt is called when a packet comes in */
276         void (*recv_pkt)(struct ctdb_context *, uint8_t *data, uint32_t length);
277
278         /* node_dead is called when an attempt to send to a node fails */
279         void (*node_dead)(struct ctdb_node *);
280
281         /* node_connected is called when a connection to a node is established */
282         void (*node_connected)(struct ctdb_node *);
283 };
284
285 /* list of message handlers - needs to be changed to a more efficient data
286    structure so we can find a message handler given a srvid quickly */
287 struct ctdb_message_list_header {
288         struct ctdb_message_list_header *next, *prev;
289         struct ctdb_context *ctdb;
290         uint64_t srvid;
291         struct ctdb_message_list *m;
292 };
293 struct ctdb_message_list {
294         struct ctdb_message_list *next, *prev;
295         struct ctdb_message_list_header *h;
296         ctdb_msg_fn_t message_handler;
297         void *message_private;
298 };
299
300 /* additional data required for the daemon mode */
301 struct ctdb_daemon_data {
302         int sd;
303         char *name;
304         struct ctdb_queue *queue;
305 };
306
307
308 #define CTDB_UPDATE_STAT(ctdb, counter, value) \
309         {                                                                               \
310                 if (value > ctdb->statistics.counter) {                                 \
311                         ctdb->statistics.counter = c->hopcount;                         \
312                 }                                                                       \
313                 if (value > ctdb->statistics_current.counter) {                         \
314                         ctdb->statistics_current.counter = c->hopcount;                 \
315                 }                                                                       \
316         }
317
318 #define CTDB_INCREMENT_STAT(ctdb, counter) \
319         {                                                                               \
320                 ctdb->statistics.counter++;                                             \
321                 ctdb->statistics_current.counter++;                                     \
322         }
323
324 #define CTDB_DECREMENT_STAT(ctdb, counter) \
325         {                                                                               \
326                 if (ctdb->statistics.counter > 0)                                       \
327                         ctdb->statistics.counter--;                                     \
328                 if (ctdb->statistics_current.counter > 0)                               \
329                         ctdb->statistics_current.counter--;                             \
330         }
331
332 #define CTDB_INCREMENT_DB_STAT(ctdb_db, counter) \
333         {                                                                               \
334                 ctdb_db->statistics.counter++;                                          \
335         }
336
337 #define CTDB_DECREMENT_DB_STAT(ctdb_db, counter) \
338         {                                                                               \
339                 if (ctdb_db->statistics.counter > 0)                                    \
340                         ctdb_db->statistics.counter--;                                  \
341         }
342
343 #define CTDB_UPDATE_RECLOCK_LATENCY(ctdb, name, counter, value) \
344         {                                                                               \
345                 if (value > ctdb->statistics.counter.max)                               \
346                         ctdb->statistics.counter.max = value;                           \
347                 if (value > ctdb->statistics_current.counter.max)                       \
348                         ctdb->statistics_current.counter.max = value;                   \
349                                                                                         \
350                 if (ctdb->statistics.counter.num == 0 ||                                \
351                     value < ctdb->statistics.counter.min)                               \
352                         ctdb->statistics.counter.min = value;                           \
353                 if (ctdb->statistics_current.counter.num == 0 ||                        \
354                     value < ctdb->statistics_current.counter.min)                       \
355                         ctdb->statistics_current.counter.min = value;                   \
356                                                                                         \
357                 ctdb->statistics.counter.total += value;                                \
358                 ctdb->statistics_current.counter.total += value;                        \
359                                                                                         \
360                 ctdb->statistics.counter.num++;                                         \
361                 ctdb->statistics_current.counter.num++;                                 \
362                                                                                         \
363                 if (ctdb->tunable.reclock_latency_ms != 0) {                            \
364                         if (value*1000 > ctdb->tunable.reclock_latency_ms) {            \
365                                 DEBUG(DEBUG_ERR,                                        \
366                                       ("High RECLOCK latency %fs for operation %s\n",   \
367                                        value, name));                                   \
368                         }                                                               \
369                 }                                                                       \
370         }
371
372 #define CTDB_UPDATE_DB_LATENCY(ctdb_db, operation, counter, value)                      \
373         {                                                                               \
374                 if (value > ctdb_db->statistics.counter.max)                            \
375                         ctdb_db->statistics.counter.max = value;                        \
376                 if (ctdb_db->statistics.counter.num == 0 ||                             \
377                     value < ctdb_db->statistics.counter.min)                            \
378                         ctdb_db->statistics.counter.min = value;                        \
379                                                                                         \
380                 ctdb_db->statistics.counter.total += value;                             \
381                 ctdb_db->statistics.counter.num++;                                      \
382                                                                                         \
383                 if (ctdb_db->ctdb->tunable.log_latency_ms != 0) {                       \
384                         if (value*1000 > ctdb_db->ctdb->tunable.log_latency_ms) {       \
385                                 DEBUG(DEBUG_ERR,                                        \
386                                       ("High latency %.6fs for operation %s on database %s\n",\
387                                        value, operation, ctdb_db->db_name));            \
388                         }                                                               \
389                 }                                                                       \
390         }
391
392 #define CTDB_UPDATE_LATENCY(ctdb, db, operation, counter, t) \
393         {                                                                               \
394                 double l = timeval_elapsed(&t);                                         \
395                                                                                         \
396                 if (l > ctdb->statistics.counter.max)                                   \
397                         ctdb->statistics.counter.max = l;                               \
398                 if (l > ctdb->statistics_current.counter.max)                           \
399                         ctdb->statistics_current.counter.max = l;                       \
400                                                                                         \
401                 if (ctdb->statistics.counter.num == 0 ||                                \
402                     l < ctdb->statistics.counter.min)                                   \
403                         ctdb->statistics.counter.min = l;                               \
404                 if (ctdb->statistics_current.counter.num == 0 ||                        \
405                     l < ctdb->statistics_current.counter.min)                           \
406                         ctdb->statistics_current.counter.min = l;                       \
407                                                                                         \
408                 ctdb->statistics.counter.total += l;                                    \
409                 ctdb->statistics_current.counter.total += l;                            \
410                                                                                         \
411                 ctdb->statistics.counter.num++;                                         \
412                 ctdb->statistics_current.counter.num++;                                 \
413                                                                                         \
414                 if (ctdb->tunable.log_latency_ms != 0) {                                \
415                         if (l*1000 > ctdb->tunable.log_latency_ms) {                    \
416                                 DEBUG(DEBUG_WARNING,                                    \
417                                       ("High latency %.6fs for operation %s on database %s\n",\
418                                        l, operation, db->db_name));                     \
419                         }                                                               \
420                 }                                                                       \
421         }
422
423
424
425 /* a structure that contains the elements required for the write record
426    control
427 */
428 struct ctdb_write_record {
429         uint32_t dbid;
430         uint32_t keylen;
431         uint32_t datalen;
432         unsigned char blob[1];
433 };
434
435 enum ctdb_freeze_mode {CTDB_FREEZE_NONE, CTDB_FREEZE_PENDING, CTDB_FREEZE_FROZEN};
436
437 enum ctdb_runstate {
438         CTDB_RUNSTATE_UNKNOWN,
439         CTDB_RUNSTATE_INIT,
440         CTDB_RUNSTATE_SETUP,
441         CTDB_RUNSTATE_FIRST_RECOVERY,
442         CTDB_RUNSTATE_STARTUP,
443         CTDB_RUNSTATE_RUNNING,
444         CTDB_RUNSTATE_SHUTDOWN,
445 };
446
447 const char *runstate_to_string(enum ctdb_runstate runstate);
448 enum ctdb_runstate runstate_from_string(const char *label);
449 void ctdb_set_runstate(struct ctdb_context *ctdb, enum ctdb_runstate runstate);
450
451 void ctdb_shutdown_sequence(struct ctdb_context *ctdb, int exit_code);
452
453 #define CTDB_MONITORING_ACTIVE          0
454 #define CTDB_MONITORING_DISABLED        1
455
456 #define NUM_DB_PRIORITIES 3
457 /* main state of the ctdb daemon */
458 struct ctdb_context {
459         struct tevent_context *ev;
460         struct timeval ctdbd_start_time;
461         struct timeval last_recovery_started;
462         struct timeval last_recovery_finished;
463         uint32_t recovery_mode;
464         TALLOC_CTX *tickle_update_context;
465         TALLOC_CTX *keepalive_ctx;
466         TALLOC_CTX *check_public_ifaces_ctx;
467         struct ctdb_tunable tunable;
468         enum ctdb_freeze_mode freeze_mode[NUM_DB_PRIORITIES+1];
469         struct ctdb_freeze_handle *freeze_handles[NUM_DB_PRIORITIES+1];
470         bool freeze_transaction_started;
471         uint32_t freeze_transaction_id;
472         struct ctdb_address address;
473         const char *name;
474         const char *db_directory;
475         const char *db_directory_persistent;
476         const char *db_directory_state;
477         struct tdb_wrap *db_persistent_health;
478         uint32_t db_persistent_startup_generation;
479         uint64_t db_persistent_check_errors;
480         uint64_t max_persistent_check_errors;
481         const char *transport;
482         char *recovery_lock_file;
483         int recovery_lock_fd;
484         uint32_t pnn; /* our own pnn */
485         uint32_t num_nodes;
486         uint32_t num_connected;
487         unsigned flags;
488         uint32_t capabilities;
489         struct idr_context *idr;
490         int lastid;
491         struct ctdb_node **nodes; /* array of nodes in the cluster - indexed by vnn */
492         struct ctdb_vnn *vnn; /* list of public ip addresses and interfaces */
493         struct ctdb_vnn *single_ip_vnn; /* a structure for the single ip */
494         struct ctdb_iface *ifaces; /* list of local interfaces */
495         char *err_msg;
496         const struct ctdb_methods *methods; /* transport methods */
497         const struct ctdb_upcalls *upcalls; /* transport upcalls */
498         void *private_data; /* private to transport */
499         struct ctdb_db_context *db_list;
500         struct ctdb_message_list_header *message_list_header;
501         struct tdb_context *message_list_indexdb;
502         struct ctdb_daemon_data daemon;
503         struct ctdb_statistics statistics;
504         struct ctdb_statistics statistics_current;
505 #define MAX_STAT_HISTORY 100
506         struct ctdb_statistics statistics_history[MAX_STAT_HISTORY];
507         struct ctdb_vnn_map *vnn_map;
508         uint32_t num_clients;
509         uint32_t recovery_master;
510         struct ctdb_call_state *pending_calls;
511         struct ctdb_client_ip *client_ip_list;
512         bool do_checkpublicip;
513         struct trbt_tree *server_ids; 
514         bool do_setsched;
515         void *saved_scheduler_param;
516         const char *event_script_dir;
517         const char *notification_script;
518         const char *default_public_interface;
519         pid_t ctdbd_pid;
520         pid_t recoverd_pid;
521         pid_t syslogd_pid;
522         enum ctdb_runstate runstate;
523         struct ctdb_monitor_state *monitor;
524         struct ctdb_log_state *log;
525         int start_as_disabled;
526         int start_as_stopped;
527         bool valgrinding;
528         uint32_t event_script_timeouts; /* counting how many consecutive times an eventscript has timedout */
529         uint32_t *recd_ping_count;
530         TALLOC_CTX *recd_ctx; /* a context used to track recoverd monitoring events */
531         TALLOC_CTX *release_ips_ctx; /* a context used to automatically drop all IPs if we fail to recover the node */
532
533         TALLOC_CTX *event_script_ctx;
534         int active_events;
535
536         struct ctdb_event_script_state *current_monitor;
537         struct ctdb_scripts_wire *last_status[CTDB_EVENT_MAX];
538
539         TALLOC_CTX *banning_ctx;
540
541         struct ctdb_vacuum_child_context *vacuumers;
542
543         /* mapping from pid to ctdb_client * */
544         struct ctdb_client_pid_list *client_pids;
545
546         /* used in the recovery daemon to remember the ip allocation */
547         struct trbt_tree *ip_tree;
548
549         /* Used to defer db attach requests while in recovery mode */
550         struct ctdb_deferred_attach_context *deferred_attach;
551
552         /* if we are a child process, do we have a domain socket to send controls on */
553         bool can_send_controls;
554
555         /* list of event script callback functions that are active */
556         struct event_script_callback *script_callbacks;
557
558         struct ctdb_reloadips_handle *reload_ips;
559
560         const char *nodes_file;
561         const char *public_addresses_file;
562         struct trbt_tree *child_processes; 
563
564         /* Used for locking record/db/alldb */
565         int lock_num_pending;
566         struct lock_context *lock_current;
567         struct lock_context *lock_pending;
568 };
569
570 struct ctdb_db_context {
571         struct ctdb_db_context *next, *prev;
572         struct ctdb_context *ctdb;
573         uint32_t db_id;
574         uint32_t priority;
575         bool persistent;
576         bool readonly; /* Do we support read-only delegations ? */
577         bool sticky; /* Do we support sticky records ? */
578         const char *db_name;
579         const char *db_path;
580         struct tdb_wrap *ltdb;
581         struct tdb_context *rottdb; /* ReadOnly tracking TDB */
582         struct ctdb_registered_call *calls; /* list of registered calls */
583         uint32_t seqnum;
584         struct timed_event *seqnum_update;
585         struct ctdb_traverse_local_handle *traverse;
586         struct ctdb_vacuum_handle *vacuum_handle;
587         char *unhealthy_reason;
588         int pending_requests;
589         struct revokechild_handle *revokechild_active;
590         struct ctdb_persistent_state *persistent_state;
591         struct trbt_tree *delete_queue;
592         struct trbt_tree *sticky_records; 
593         int (*ctdb_ltdb_store_fn)(struct ctdb_db_context *ctdb_db,
594                                   TDB_DATA key,
595                                   struct ctdb_ltdb_header *header,
596                                   TDB_DATA data);
597
598         /* used to track which records we are currently fetching
599            so we can avoid sending duplicate fetch requests
600         */
601         struct trbt_tree *deferred_fetch;
602
603         struct ctdb_db_statistics statistics;
604
605         int lock_num_current;
606 };
607
608
609 #define CTDB_NO_MEMORY(ctdb, p) do { if (!(p)) { \
610           DEBUG(0,("Out of memory for %s at %s\n", #p, __location__)); \
611           ctdb_set_error(ctdb, "Out of memory at %s:%d", __FILE__, __LINE__); \
612           return -1; }} while (0)
613
614 #define CTDB_NO_MEMORY_VOID(ctdb, p) do { if (!(p)) { \
615           DEBUG(0,("Out of memory for %s at %s\n", #p, __location__)); \
616           ctdb_set_error(ctdb, "Out of memory at %s:%d", __FILE__, __LINE__); \
617           return; }} while (0)
618
619 #define CTDB_NO_MEMORY_NULL(ctdb, p) do { if (!(p)) { \
620           DEBUG(0,("Out of memory for %s at %s\n", #p, __location__)); \
621           ctdb_set_error(ctdb, "Out of memory at %s:%d", __FILE__, __LINE__); \
622           return NULL; }} while (0)
623
624 #define CTDB_NO_MEMORY_FATAL(ctdb, p) do { if (!(p)) { \
625           DEBUG(0,("Out of memory for %s at %s\n", #p, __location__)); \
626           ctdb_fatal(ctdb, "Out of memory in " __location__ ); \
627           }} while (0)
628
629 /*
630   structure passed in set_call control
631  */
632 struct ctdb_control_set_call {
633         uint32_t db_id;
634         ctdb_fn_t fn;
635         uint32_t id;
636 };
637
638 /*
639   struct for kill_tcp control
640  */
641 struct ctdb_control_killtcp {
642         ctdb_sock_addr src_addr;
643         ctdb_sock_addr dst_addr;
644 };
645
646 /*
647   struct holding a ctdb_sock_addr and an interface name,
648   used to add/remove public addresses
649  */
650 struct ctdb_control_ip_iface {
651         ctdb_sock_addr addr;
652         uint32_t mask;
653         uint32_t len;
654         char iface[1];
655 };
656
657 /*
658   struct holding a ctdb_sock_addr and an interface name,
659   used for send_gratious_arp
660  */
661 struct ctdb_control_gratious_arp {
662         ctdb_sock_addr addr;
663         uint32_t mask;
664         uint32_t len;
665         char iface[1];
666 };
667
668 /*
669   persistent store control - update this record on all other nodes
670  */
671 struct ctdb_control_persistent_store {
672         uint32_t db_id;
673         uint32_t len;
674         uint8_t  data[1];
675 };
676
677 /*
678   structure used for CTDB_SRVID_NODE_FLAGS_CHANGED
679  */
680 struct ctdb_node_flag_change {
681         uint32_t pnn;
682         uint32_t new_flags;
683         uint32_t old_flags;
684 };
685
686 /*
687   struct for admin setting a ban
688  */
689 struct ctdb_ban_info {
690         uint32_t pnn;
691         uint32_t ban_time;
692 };
693
694 enum call_state {CTDB_CALL_WAIT, CTDB_CALL_DONE, CTDB_CALL_ERROR};
695
696 #define CTDB_LMASTER_ANY        0xffffffff
697
698 /*
699   state of a in-progress ctdb call
700 */
701 struct ctdb_call_state {
702         struct ctdb_call_state *next, *prev;
703         enum call_state state;
704         uint32_t reqid;
705         struct ctdb_req_call *c;
706         struct ctdb_db_context *ctdb_db;
707         const char *errmsg;
708         struct ctdb_call *call;
709         uint32_t generation;
710         struct {
711                 void (*fn)(struct ctdb_call_state *);
712                 void *private_data;
713         } async;
714 };
715
716
717 /* used for fetch_lock */
718 struct ctdb_fetch_handle {
719         struct ctdb_db_context *ctdb_db;
720         TDB_DATA key;
721         TDB_DATA *data;
722         struct ctdb_ltdb_header header;
723 };
724
725 /* internal prototypes */
726 void ctdb_set_error(struct ctdb_context *ctdb, const char *fmt, ...) PRINTF_ATTRIBUTE(2,3);
727 void ctdb_fatal(struct ctdb_context *ctdb, const char *msg);
728 void ctdb_die(struct ctdb_context *ctdb, const char *msg);
729 void ctdb_external_trace(void);
730 bool ctdb_same_address(struct ctdb_address *a1, struct ctdb_address *a2);
731 int ctdb_parse_address(struct ctdb_context *ctdb,
732                        TALLOC_CTX *mem_ctx, const char *str,
733                        struct ctdb_address *address);
734 bool ctdb_same_ip(const ctdb_sock_addr *ip1, const ctdb_sock_addr *ip2);
735 bool ctdb_same_sockaddr(const ctdb_sock_addr *ip1, const ctdb_sock_addr *ip2);
736 uint32_t ctdb_hash(const TDB_DATA *key);
737 uint32_t ctdb_hash_string(const char *str);
738 void ctdb_request_call(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
739 void ctdb_request_dmaster(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
740 void ctdb_request_message(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
741 void ctdb_reply_dmaster(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
742 void ctdb_reply_call(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
743 void ctdb_reply_error(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
744
745 uint32_t ctdb_lmaster(struct ctdb_context *ctdb, const TDB_DATA *key);
746 int ctdb_ltdb_fetch(struct ctdb_db_context *ctdb_db, 
747                     TDB_DATA key, struct ctdb_ltdb_header *header, 
748                     TALLOC_CTX *mem_ctx, TDB_DATA *data);
749 int ctdb_ltdb_store(struct ctdb_db_context *ctdb_db, TDB_DATA key, 
750                     struct ctdb_ltdb_header *header, TDB_DATA data);
751 int ctdb_ltdb_delete(struct ctdb_db_context *ctdb_db, TDB_DATA key);
752 int ctdb_ltdb_fetch_with_header(struct ctdb_db_context *ctdb_db, 
753                     TDB_DATA key, struct ctdb_ltdb_header *header, 
754                     TALLOC_CTX *mem_ctx, TDB_DATA *data);
755 int32_t ctdb_control_start_persistent_update(struct ctdb_context *ctdb, 
756                         struct ctdb_req_control *c,
757                         TDB_DATA recdata);
758 int32_t ctdb_control_cancel_persistent_update(struct ctdb_context *ctdb, 
759                         struct ctdb_req_control *c,
760                         TDB_DATA recdata);
761 void ctdb_queue_packet(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
762 void ctdb_queue_packet_opcode(struct ctdb_context *ctdb, struct ctdb_req_header *hdr, unsigned opcode);
763 int ctdb_ltdb_lock_requeue(struct ctdb_db_context *ctdb_db, 
764                            TDB_DATA key, struct ctdb_req_header *hdr,
765                            void (*recv_pkt)(void *, struct ctdb_req_header *),
766                            void *recv_context, bool ignore_generation);
767 int ctdb_ltdb_lock_fetch_requeue(struct ctdb_db_context *ctdb_db, 
768                                  TDB_DATA key, struct ctdb_ltdb_header *header, 
769                                  struct ctdb_req_header *hdr, TDB_DATA *data,
770                                  void (*recv_pkt)(void *, struct ctdb_req_header *),
771                                  void *recv_context, bool ignore_generation);
772 void ctdb_input_pkt(struct ctdb_context *ctdb, struct ctdb_req_header *);
773
774 struct ctdb_call_state *ctdb_call_local_send(struct ctdb_db_context *ctdb_db, 
775                                              struct ctdb_call *call,
776                                              struct ctdb_ltdb_header *header,
777                                              TDB_DATA *data);
778
779
780 int ctdb_start_daemon(struct ctdb_context *ctdb, bool do_fork,
781                       bool use_syslog);
782 struct ctdb_call_state *ctdbd_call_send(struct ctdb_db_context *ctdb_db, struct ctdb_call *call);
783 int ctdbd_call_recv(struct ctdb_call_state *state, struct ctdb_call *call);
784
785 /*
786   queue a packet for sending
787 */
788 int ctdb_queue_send(struct ctdb_queue *queue, uint8_t *data, uint32_t length);
789
790 /*
791   setup the fd used by the queue
792  */
793 int ctdb_queue_set_fd(struct ctdb_queue *queue, int fd);
794
795 /*
796   setup a packet queue on a socket
797  */
798 struct ctdb_queue *ctdb_queue_setup(struct ctdb_context *ctdb,
799                                     TALLOC_CTX *mem_ctx, int fd, int alignment,
800                                     
801                                     ctdb_queue_cb_fn_t callback,
802                                     void *private_data, const char *fmt, ...)
803         PRINTF_ATTRIBUTE(7,8);
804
805 /*
806   allocate a packet for use in client<->daemon communication
807  */
808 struct ctdb_req_header *_ctdbd_allocate_pkt(struct ctdb_context *ctdb,
809                                             TALLOC_CTX *mem_ctx, 
810                                             enum ctdb_operation operation, 
811                                             size_t length, size_t slength,
812                                             const char *type);
813 #define ctdbd_allocate_pkt(ctdb, mem_ctx, operation, length, type) \
814         (type *)_ctdbd_allocate_pkt(ctdb, mem_ctx, operation, length, sizeof(type), #type)
815
816 struct ctdb_req_header *_ctdb_transport_allocate(struct ctdb_context *ctdb,
817                                                  TALLOC_CTX *mem_ctx, 
818                                                  enum ctdb_operation operation, 
819                                                  size_t length, size_t slength,
820                                                  const char *type);
821 #define ctdb_transport_allocate(ctdb, mem_ctx, operation, length, type) \
822         (type *)_ctdb_transport_allocate(ctdb, mem_ctx, operation, length, sizeof(type), #type)
823
824 int ctdb_queue_length(struct ctdb_queue *queue);
825
826 /*
827   lock a record in the ltdb, given a key
828  */
829 int ctdb_ltdb_lock(struct ctdb_db_context *ctdb_db, TDB_DATA key);
830
831 /*
832   unlock a record in the ltdb, given a key
833  */
834 int ctdb_ltdb_unlock(struct ctdb_db_context *ctdb_db, TDB_DATA key);
835
836
837 /*
838   make a ctdb call to the local daemon - async send. Called from client context.
839
840   This constructs a ctdb_call request and queues it for processing. 
841   This call never blocks.
842 */
843 struct ctdb_call_state *ctdb_client_call_send(struct ctdb_db_context *ctdb_db, 
844                                               struct ctdb_call *call);
845
846 /*
847   make a recv call to the local ctdb daemon - called from client context
848
849   This is called when the program wants to wait for a ctdb_call to complete and get the 
850   results. This call will block unless the call has already completed.
851 */
852 int ctdb_client_call_recv(struct ctdb_call_state *state, struct ctdb_call *call);
853
854 int ctdb_client_send_message(struct ctdb_context *ctdb, uint32_t vnn,
855                              uint64_t srvid, TDB_DATA data);
856
857 /*
858   send a ctdb message
859 */
860 int ctdb_daemon_send_message(struct ctdb_context *ctdb, uint32_t pnn,
861                              uint64_t srvid, TDB_DATA data);
862
863
864 struct ctdb_call_state *ctdb_daemon_call_send(struct ctdb_db_context *ctdb_db, 
865                                               struct ctdb_call *call);
866
867 int ctdb_daemon_call_recv(struct ctdb_call_state *state, struct ctdb_call *call);
868
869 struct ctdb_call_state *ctdb_daemon_call_send_remote(struct ctdb_db_context *ctdb_db, 
870                                                      struct ctdb_call *call, 
871                                                      struct ctdb_ltdb_header *header);
872
873 int ctdb_call_local(struct ctdb_db_context *ctdb_db, struct ctdb_call *call,
874                     struct ctdb_ltdb_header *header, TALLOC_CTX *mem_ctx,
875                     TDB_DATA *data, bool updatetdb);
876
877 #define ctdb_reqid_find(ctdb, reqid, type)      (type *)_ctdb_reqid_find(ctdb, reqid, #type, __location__)
878
879 void ctdb_recv_raw_pkt(void *p, uint8_t *data, uint32_t length);
880
881 int ctdb_socket_connect(struct ctdb_context *ctdb);
882 void ctdb_client_read_cb(uint8_t *data, size_t cnt, void *args);
883
884 #define CTDB_BAD_REQID ((uint32_t)-1)
885 uint32_t ctdb_reqid_new(struct ctdb_context *ctdb, void *state);
886 void *_ctdb_reqid_find(struct ctdb_context *ctdb, uint32_t reqid, const char *type, const char *location);
887 void ctdb_reqid_remove(struct ctdb_context *ctdb, uint32_t reqid);
888
889 void ctdb_request_control(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
890 void ctdb_reply_control(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
891
892 int ctdb_daemon_send_control(struct ctdb_context *ctdb, uint32_t destnode,
893                              uint64_t srvid, uint32_t opcode, uint32_t client_id, uint32_t flags,
894                              TDB_DATA data,
895                              ctdb_control_callback_fn_t callback,
896                              void *private_data);
897
898 int32_t ctdb_control_db_attach(struct ctdb_context *ctdb, TDB_DATA indata, 
899                                TDB_DATA *outdata, uint64_t tdb_flags,
900                                bool persistent, uint32_t client_id,
901                                struct ctdb_req_control *c,
902                                bool *async_reply);
903
904 int ctdb_daemon_set_call(struct ctdb_context *ctdb, uint32_t db_id,
905                          ctdb_fn_t fn, int id);
906
907 int ctdb_control(struct ctdb_context *ctdb, uint32_t destnode, uint64_t srvid, 
908                  uint32_t opcode, uint32_t flags, TDB_DATA data, 
909                  TALLOC_CTX *mem_ctx, TDB_DATA *outdata, int32_t *status,
910                  struct timeval *timeout, char **errormsg);
911 int ctdb_control_recv(struct ctdb_context *ctdb, 
912                 struct ctdb_client_control_state *state, 
913                 TALLOC_CTX *mem_ctx,
914                 TDB_DATA *outdata, int32_t *status, char **errormsg);
915
916 struct ctdb_client_control_state *
917 ctdb_control_send(struct ctdb_context *ctdb, 
918                 uint32_t destnode, uint64_t srvid, 
919                 uint32_t opcode, uint32_t flags, TDB_DATA data, 
920                 TALLOC_CTX *mem_ctx,
921                 struct timeval *timeout,
922                 char **errormsg);
923
924
925
926
927 #define CHECK_CONTROL_DATA_SIZE(size) do { \
928  if (indata.dsize != size) { \
929          DEBUG(0,(__location__ " Invalid data size in opcode %u. Got %u expected %u\n", \
930                   opcode, (unsigned)indata.dsize, (unsigned)size));     \
931          return -1; \
932  } \
933  } while (0)
934
935 #define CHECK_CONTROL_MIN_DATA_SIZE(size) do { \
936  if (indata.dsize < size) { \
937          DEBUG(0,(__location__ " Invalid data size in opcode %u. Got %u expected >= %u\n", \
938                   opcode, (unsigned)indata.dsize, (unsigned)size));     \
939          return -1; \
940  } \
941  } while (0)
942
943 int ctdb_control_getvnnmap(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
944 int ctdb_control_setvnnmap(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
945 int ctdb_control_getdbmap(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
946 int ctdb_control_getnodemapv4(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
947 int ctdb_control_getnodemap(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
948 int ctdb_control_writerecord(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
949
950
951 /* structure used for pulldb control */
952 struct ctdb_control_pulldb {
953         uint32_t db_id;
954         uint32_t lmaster;
955 };
956
957 /* structure used for sending lists of records */
958 struct ctdb_marshall_buffer {
959         uint32_t db_id;
960         uint32_t count;
961         uint8_t data[1];
962 };
963
964 /*
965   structure for setting a tunable
966  */
967 struct ctdb_control_set_tunable {
968         uint32_t value;
969         uint32_t length;
970         uint8_t  name[1];
971 };
972
973 /*
974   structure for getting a tunable
975  */
976 struct ctdb_control_get_tunable {
977         uint32_t length;
978         uint8_t  name[1];
979 };
980
981 /*
982   structure for listing tunables
983  */
984 struct ctdb_control_list_tunable {
985         uint32_t length;
986         /* returns a : separated list of tunable names */
987         uint8_t  data[1];
988 };
989
990
991 struct ctdb_node_and_flagsv4 {
992         uint32_t pnn;
993         uint32_t flags;
994         struct sockaddr_in sin;
995 };
996
997 struct ctdb_node_mapv4 {
998         uint32_t num;
999         struct ctdb_node_and_flagsv4 nodes[1];
1000 };
1001
1002 struct ctdb_control_wipe_database {
1003         uint32_t db_id;
1004         uint32_t transaction_id;
1005 };
1006
1007 /*
1008   state of a in-progress ctdb call in client
1009 */
1010 struct ctdb_client_call_state {
1011         enum call_state state;
1012         uint32_t reqid;
1013         struct ctdb_db_context *ctdb_db;
1014         struct ctdb_call *call;
1015         struct {
1016                 void (*fn)(struct ctdb_client_call_state *);
1017                 void *private_data;
1018         } async;
1019 };
1020
1021
1022 int32_t ctdb_control_traverse_start_ext(struct ctdb_context *ctdb,
1023                                         TDB_DATA indata,
1024                                         TDB_DATA *outdata,
1025                                         uint32_t srcnode,
1026                                         uint32_t client_id);
1027 int32_t ctdb_control_traverse_start(struct ctdb_context *ctdb, TDB_DATA indata, 
1028                                     TDB_DATA *outdata, uint32_t srcnode, uint32_t client_id);
1029 int32_t ctdb_control_traverse_all(struct ctdb_context *ctdb, TDB_DATA data, TDB_DATA *outdata);
1030 int32_t ctdb_control_traverse_all_ext(struct ctdb_context *ctdb, TDB_DATA data, TDB_DATA *outdata);
1031 int32_t ctdb_control_traverse_data(struct ctdb_context *ctdb, TDB_DATA data, TDB_DATA *outdata);
1032 int32_t ctdb_control_traverse_kill(struct ctdb_context *ctdb, TDB_DATA indata, 
1033                                     TDB_DATA *outdata, uint32_t srcnode);
1034
1035 int ctdb_dispatch_message(struct ctdb_context *ctdb, uint64_t srvid, TDB_DATA data);
1036 bool ctdb_check_message_handler(struct ctdb_context *ctdb, uint64_t srvid);
1037
1038 int daemon_register_message_handler(struct ctdb_context *ctdb, uint32_t client_id, uint64_t srvid);
1039 int ctdb_deregister_message_handler(struct ctdb_context *ctdb, uint64_t srvid, void *private_data);
1040 int daemon_deregister_message_handler(struct ctdb_context *ctdb, uint32_t client_id, uint64_t srvid);
1041 int daemon_check_srvids(struct ctdb_context *ctdb, TDB_DATA indata,
1042                         TDB_DATA *outdata);
1043
1044 int32_t ctdb_ltdb_enable_seqnum(struct ctdb_context *ctdb, uint32_t db_id);
1045 int32_t ctdb_ltdb_update_seqnum(struct ctdb_context *ctdb, uint32_t db_id, uint32_t srcnode);
1046
1047 struct ctdb_rec_data *ctdb_marshall_record(TALLOC_CTX *mem_ctx, uint32_t reqid, 
1048                                            TDB_DATA key, struct ctdb_ltdb_header *, TDB_DATA data);
1049
1050 struct ctdb_rec_data *ctdb_marshall_loop_next(struct ctdb_marshall_buffer *m, struct ctdb_rec_data *r,
1051                                               uint32_t *reqid,
1052                                               struct ctdb_ltdb_header *header,
1053                                               TDB_DATA *key, TDB_DATA *data);
1054
1055 int32_t ctdb_control_pull_db(struct ctdb_context *ctdb, TDB_DATA indata, TDB_DATA *outdata);
1056 int32_t ctdb_control_push_db(struct ctdb_context *ctdb, TDB_DATA indata);
1057
1058 int32_t ctdb_control_set_recmode(struct ctdb_context *ctdb, 
1059                                  struct ctdb_req_control *c,
1060                                  TDB_DATA indata, bool *async_reply,
1061                                  const char **errormsg);
1062 void ctdb_request_control_reply(struct ctdb_context *ctdb, struct ctdb_req_control *c,
1063                                 TDB_DATA *outdata, int32_t status, const char *errormsg);
1064
1065 int32_t ctdb_control_freeze(struct ctdb_context *ctdb, struct ctdb_req_control *c, bool *async_reply);
1066 int32_t ctdb_control_thaw(struct ctdb_context *ctdb, uint32_t priority);
1067
1068 int ctdb_start_recoverd(struct ctdb_context *ctdb);
1069 void ctdb_stop_recoverd(struct ctdb_context *ctdb);
1070
1071 uint32_t ctdb_get_num_active_nodes(struct ctdb_context *ctdb);
1072
1073 void ctdb_disable_monitoring(struct ctdb_context *ctdb);
1074 void ctdb_enable_monitoring(struct ctdb_context *ctdb);
1075 void ctdb_stop_monitoring(struct ctdb_context *ctdb);
1076 void ctdb_wait_for_first_recovery(struct ctdb_context *ctdb);
1077 void ctdb_start_tcp_tickle_update(struct ctdb_context *ctdb);
1078 void ctdb_send_keepalive(struct ctdb_context *ctdb, uint32_t destnode);
1079 void ctdb_start_keepalive(struct ctdb_context *ctdb);
1080 void ctdb_stop_keepalive(struct ctdb_context *ctdb);
1081 int32_t ctdb_run_eventscripts(struct ctdb_context *ctdb, struct ctdb_req_control *c, TDB_DATA data, bool *async_reply);
1082
1083
1084 void ctdb_daemon_cancel_controls(struct ctdb_context *ctdb, struct ctdb_node *node);
1085 void ctdb_call_resend_all(struct ctdb_context *ctdb);
1086 void ctdb_node_dead(struct ctdb_node *node);
1087 void ctdb_node_connected(struct ctdb_node *node);
1088 bool ctdb_blocking_freeze(struct ctdb_context *ctdb);
1089 void ctdb_set_scheduler(struct ctdb_context *ctdb);
1090 void ctdb_restore_scheduler(struct ctdb_context *ctdb);
1091
1092 struct tevent_signal *ctdb_init_sigchld(struct ctdb_context *ctdb);
1093 void ctdb_track_child(struct ctdb_context *ctdb, pid_t pid);
1094 pid_t ctdb_fork(struct ctdb_context *ctdb);
1095 pid_t ctdb_fork_no_free_ringbuffer(struct ctdb_context *ctdb);
1096 void ctdb_set_child_info(TALLOC_CTX *mem_ctx, const char *child_name_fmt, ...);
1097 bool ctdb_is_child_process(void);
1098 int ctdb_kill(struct ctdb_context *ctdb, pid_t pid, int signum);
1099
1100 int32_t ctdb_control_takeover_ip(struct ctdb_context *ctdb, 
1101                                  struct ctdb_req_control *c,
1102                                  TDB_DATA indata, 
1103                                  bool *async_reply);
1104 int32_t ctdb_control_takeover_ipv4(struct ctdb_context *ctdb, 
1105                                  struct ctdb_req_control *c,
1106                                  TDB_DATA indata, 
1107                                  bool *async_reply);
1108 int32_t ctdb_control_release_ip(struct ctdb_context *ctdb, 
1109                                  struct ctdb_req_control *c,
1110                                  TDB_DATA indata, 
1111                                  bool *async_reply);
1112 int32_t ctdb_control_release_ipv4(struct ctdb_context *ctdb, 
1113                                  struct ctdb_req_control *c,
1114                                  TDB_DATA indata, 
1115                                  bool *async_reply);
1116 int32_t ctdb_control_ipreallocated(struct ctdb_context *ctdb, 
1117                                  struct ctdb_req_control *c,
1118                                  bool *async_reply);
1119 int32_t ctdb_control_start_recovery(struct ctdb_context *ctdb, 
1120                                  struct ctdb_req_control *c,
1121                                  bool *async_reply);
1122 int32_t ctdb_control_end_recovery(struct ctdb_context *ctdb, 
1123                                  struct ctdb_req_control *c,
1124                                  bool *async_reply);
1125
1126 struct ctdb_public_ipv4 {
1127         uint32_t pnn;
1128         struct sockaddr_in sin;
1129 };
1130
1131 int ctdb_ctrl_takeover_ip(struct ctdb_context *ctdb, struct timeval timeout, 
1132                           uint32_t destnode, struct ctdb_public_ip *ip);
1133 int ctdb_ctrl_release_ip(struct ctdb_context *ctdb, struct timeval timeout, 
1134                          uint32_t destnode, struct ctdb_public_ip *ip);
1135
1136 struct ctdb_all_public_ipsv4 {
1137         uint32_t num;
1138         struct ctdb_public_ipv4 ips[1];
1139 };
1140
1141 int32_t ctdb_control_get_public_ipsv4(struct ctdb_context *ctdb, struct ctdb_req_control *c, TDB_DATA *outdata);
1142 int32_t ctdb_control_get_public_ips(struct ctdb_context *ctdb, struct ctdb_req_control *c, TDB_DATA *outdata);
1143 int ctdb_ctrl_get_public_ips(struct ctdb_context *ctdb, 
1144                              struct timeval timeout,
1145                              uint32_t destnode,
1146                              TALLOC_CTX *mem_ctx,
1147                              struct ctdb_all_public_ips **ips);
1148 #define CTDB_PUBLIC_IP_FLAGS_ONLY_AVAILABLE 0x00010000
1149 int ctdb_ctrl_get_public_ips_flags(struct ctdb_context *ctdb,
1150                                    struct timeval timeout, uint32_t destnode,
1151                                    TALLOC_CTX *mem_ctx,
1152                                    uint32_t flags,
1153                                    struct ctdb_all_public_ips **ips);
1154 int ctdb_ctrl_get_public_ipsv4(struct ctdb_context *ctdb, 
1155                         struct timeval timeout, uint32_t destnode, 
1156                         TALLOC_CTX *mem_ctx, struct ctdb_all_public_ips **ips);
1157
1158 struct ctdb_control_iface_info {
1159         char name[CTDB_IFACE_SIZE+2];
1160         uint16_t link_state;
1161         uint32_t references;
1162 };
1163
1164 struct ctdb_control_public_ip_info {
1165         struct ctdb_public_ip ip;
1166         uint32_t active_idx;
1167         uint32_t num;
1168         struct ctdb_control_iface_info ifaces[1];
1169 };
1170
1171 struct ctdb_control_get_ifaces {
1172         uint32_t num;
1173         struct ctdb_control_iface_info ifaces[1];
1174 };
1175
1176 int32_t ctdb_control_get_public_ip_info(struct ctdb_context *ctdb,
1177                                         struct ctdb_req_control *c,
1178                                         TDB_DATA indata,
1179                                         TDB_DATA *outdata);
1180 int32_t ctdb_control_get_ifaces(struct ctdb_context *ctdb,
1181                                 struct ctdb_req_control *c,
1182                                 TDB_DATA *outdata);
1183 int32_t ctdb_control_set_iface_link(struct ctdb_context *ctdb,
1184                                     struct ctdb_req_control *c,
1185                                     TDB_DATA indata);
1186 int ctdb_ctrl_get_public_ip_info(struct ctdb_context *ctdb,
1187                                  struct timeval timeout, uint32_t destnode,
1188                                  TALLOC_CTX *mem_ctx,
1189                                  const ctdb_sock_addr *addr,
1190                                  struct ctdb_control_public_ip_info **info);
1191 int ctdb_ctrl_get_ifaces(struct ctdb_context *ctdb,
1192                          struct timeval timeout, uint32_t destnode,
1193                          TALLOC_CTX *mem_ctx,
1194                          struct ctdb_control_get_ifaces **ifaces);
1195 int ctdb_ctrl_set_iface_link(struct ctdb_context *ctdb,
1196                              struct timeval timeout, uint32_t destnode,
1197                              TALLOC_CTX *mem_ctx,
1198                              const struct ctdb_control_iface_info *info);
1199
1200 /* from takeover/system.c */
1201 uint32_t uint16_checksum(uint16_t *data, size_t n);
1202 int ctdb_sys_send_arp(const ctdb_sock_addr *addr, const char *iface);
1203 bool ctdb_sys_have_ip(ctdb_sock_addr *addr);
1204 char *ctdb_sys_find_ifname(ctdb_sock_addr *addr);
1205 bool ctdb_sys_check_iface_exists(const char *iface);
1206 int ctdb_get_peer_pid(const int fd, pid_t *peer_pid);
1207 int ctdb_sys_send_tcp(const ctdb_sock_addr *dest, 
1208                       const ctdb_sock_addr *src,
1209                       uint32_t seq, uint32_t ack, int rst);
1210
1211 /* Details of a byte range lock */
1212 struct ctdb_lock_info {
1213         ino_t inode;
1214         off_t start, end;
1215         bool waiting;
1216         bool read_only;
1217 };
1218
1219 char *ctdb_get_process_name(pid_t pid);
1220 int ctdb_set_process_name(const char *name);
1221 bool ctdb_get_lock_info(pid_t req_pid, struct ctdb_lock_info *lock_info);
1222 bool ctdb_get_blocker_pid(struct ctdb_lock_info *reqlock, pid_t *blocker_pid);
1223
1224 typedef void (*client_async_callback)(struct ctdb_context *ctdb, uint32_t node_pnn, int32_t res, TDB_DATA outdata, void *callback_data);
1225
1226 int ctdb_set_public_addresses(struct ctdb_context *ctdb, bool check_addresses);
1227 int ctdb_set_single_public_ip(struct ctdb_context *ctdb,
1228                               const char *iface,
1229                               const char *ip);
1230 int ctdb_set_event_script(struct ctdb_context *ctdb, const char *script);
1231 int ctdb_set_notification_script(struct ctdb_context *ctdb, const char *script);
1232 int ctdb_takeover_run(struct ctdb_context *ctdb, struct ctdb_node_map *nodemap,
1233                       uint32_t *force_rebalance_nodes,
1234                       client_async_callback fail_callback, void *callback_data);
1235
1236 int32_t ctdb_control_tcp_client(struct ctdb_context *ctdb, uint32_t client_id, 
1237                                 TDB_DATA indata);
1238 int32_t ctdb_control_tcp_add(struct ctdb_context *ctdb, TDB_DATA indata, bool tcp_update_needed);
1239 int32_t ctdb_control_tcp_remove(struct ctdb_context *ctdb, TDB_DATA indata);
1240 int32_t ctdb_control_startup(struct ctdb_context *ctdb, uint32_t vnn);
1241 int32_t ctdb_control_kill_tcp(struct ctdb_context *ctdb, TDB_DATA indata);
1242 int32_t ctdb_control_send_gratious_arp(struct ctdb_context *ctdb, TDB_DATA indata);
1243 int32_t ctdb_control_get_tcp_tickle_list(struct ctdb_context *ctdb, TDB_DATA indata, TDB_DATA *outdata);
1244 int32_t ctdb_control_set_tcp_tickle_list(struct ctdb_context *ctdb, TDB_DATA indata);
1245
1246 void ctdb_takeover_client_destructor_hook(struct ctdb_client *client);
1247 int ctdb_event_script(struct ctdb_context *ctdb, enum ctdb_eventscript_call call);
1248 int ctdb_event_script_args(struct ctdb_context *ctdb, enum ctdb_eventscript_call call,
1249                            const char *fmt, ...) PRINTF_ATTRIBUTE(3,4);
1250 int ctdb_event_script_callback(struct ctdb_context *ctdb, 
1251                                TALLOC_CTX *mem_ctx,
1252                                void (*callback)(struct ctdb_context *, int, void *),
1253                                void *private_data,
1254                                enum ctdb_eventscript_call call,
1255                                const char *fmt, ...) PRINTF_ATTRIBUTE(6,7);
1256 void ctdb_release_all_ips(struct ctdb_context *ctdb);
1257
1258 void set_nonblocking(int fd);
1259 void set_close_on_exec(int fd);
1260
1261 bool ctdb_recovery_lock(struct ctdb_context *ctdb, bool keep);
1262
1263 int ctdb_set_recovery_lock_file(struct ctdb_context *ctdb, const char *file);
1264
1265 int32_t ctdb_control_get_tunable(struct ctdb_context *ctdb, TDB_DATA indata, 
1266                                  TDB_DATA *outdata);
1267 int32_t ctdb_control_set_tunable(struct ctdb_context *ctdb, TDB_DATA indata);
1268 int32_t ctdb_control_list_tunables(struct ctdb_context *ctdb, TDB_DATA *outdata);
1269 int32_t ctdb_control_try_delete_records(struct ctdb_context *ctdb, TDB_DATA indata, TDB_DATA *outdata);
1270 int32_t ctdb_control_receive_records(struct ctdb_context *ctdb, TDB_DATA indata, TDB_DATA *outdata);
1271 int32_t ctdb_control_add_public_address(struct ctdb_context *ctdb, TDB_DATA indata);
1272 int32_t ctdb_control_del_public_address(struct ctdb_context *ctdb,
1273                                         struct ctdb_req_control *c,
1274                                         TDB_DATA recdata, bool *async_reply);
1275
1276 void ctdb_tunables_set_defaults(struct ctdb_context *ctdb);
1277
1278 int32_t ctdb_control_modflags(struct ctdb_context *ctdb, TDB_DATA indata);
1279
1280 int ctdb_ctrl_get_all_tunables(struct ctdb_context *ctdb, 
1281                                struct timeval timeout, 
1282                                uint32_t destnode,
1283                                struct ctdb_tunable *tunables);
1284
1285 void ctdb_start_freeze(struct ctdb_context *ctdb, uint32_t priority);
1286
1287 bool parse_ip_mask(const char *s, const char *iface, ctdb_sock_addr *addr, unsigned *mask);
1288 bool parse_ip_port(const char *s, ctdb_sock_addr *addr);
1289 bool parse_ip(const char *s, const char *iface, unsigned port, ctdb_sock_addr *addr);
1290 bool parse_ipv4(const char *s, unsigned port, struct sockaddr_in *sin);
1291  
1292
1293 int ctdb_sys_open_capture_socket(const char *iface, void **private_data);
1294 int ctdb_sys_close_capture_socket(void *private_data);
1295 int ctdb_sys_read_tcp_packet(int s, void *private_data, ctdb_sock_addr *src, ctdb_sock_addr *dst, uint32_t *ack_seq, uint32_t *seq);
1296
1297 int ctdb_ctrl_killtcp(struct ctdb_context *ctdb, 
1298                       struct timeval timeout, 
1299                       uint32_t destnode,
1300                       struct ctdb_control_killtcp *killtcp);
1301
1302 int ctdb_ctrl_add_public_ip(struct ctdb_context *ctdb, 
1303                       struct timeval timeout, 
1304                       uint32_t destnode,
1305                       struct ctdb_control_ip_iface *pub);
1306
1307 int ctdb_ctrl_del_public_ip(struct ctdb_context *ctdb, 
1308                       struct timeval timeout, 
1309                       uint32_t destnode,
1310                       struct ctdb_control_ip_iface *pub);
1311
1312 int ctdb_ctrl_gratious_arp(struct ctdb_context *ctdb, 
1313                       struct timeval timeout, 
1314                       uint32_t destnode,
1315                       ctdb_sock_addr *addr,
1316                       const char *ifname);
1317
1318 int ctdb_ctrl_get_tcp_tickles(struct ctdb_context *ctdb, 
1319                       struct timeval timeout, 
1320                       uint32_t destnode,
1321                       TALLOC_CTX *mem_ctx,
1322                       ctdb_sock_addr *addr,
1323                       struct ctdb_control_tcp_tickle_list **list);
1324
1325
1326 int32_t ctdb_control_register_server_id(struct ctdb_context *ctdb, 
1327                       uint32_t client_id,
1328                       TDB_DATA indata);
1329 int32_t ctdb_control_check_server_id(struct ctdb_context *ctdb, 
1330                       TDB_DATA indata);
1331 int32_t ctdb_control_unregister_server_id(struct ctdb_context *ctdb, 
1332                       TDB_DATA indata);
1333 int32_t ctdb_control_get_server_id_list(struct ctdb_context *ctdb, 
1334                       TDB_DATA *outdata);
1335 int32_t ctdb_control_uptime(struct ctdb_context *ctdb, 
1336                       TDB_DATA *outdata);
1337
1338 int ctdb_attach_databases(struct ctdb_context *ctdb);
1339
1340 int32_t ctdb_control_persistent_store(struct ctdb_context *ctdb, 
1341                                       struct ctdb_req_control *c, 
1342                                       TDB_DATA recdata, bool *async_reply);
1343 int32_t ctdb_control_update_record(struct ctdb_context *ctdb, 
1344                                    struct ctdb_req_control *c, TDB_DATA recdata, 
1345                                    bool *async_reply);
1346 int32_t ctdb_control_trans2_commit(struct ctdb_context *ctdb, 
1347                                    struct ctdb_req_control *c, 
1348                                    TDB_DATA recdata, bool *async_reply);
1349
1350 int32_t ctdb_control_trans3_commit(struct ctdb_context *ctdb,
1351                                    struct ctdb_req_control *c,
1352                                    TDB_DATA recdata, bool *async_reply);
1353
1354 void ctdb_persistent_finish_trans3_commits(struct ctdb_context *ctdb);
1355
1356 int32_t ctdb_control_transaction_start(struct ctdb_context *ctdb, uint32_t id);
1357 int32_t ctdb_control_transaction_commit(struct ctdb_context *ctdb, uint32_t id);
1358 int32_t ctdb_control_transaction_cancel(struct ctdb_context *ctdb);
1359 int32_t ctdb_control_wipe_database(struct ctdb_context *ctdb, TDB_DATA indata);
1360 int32_t ctdb_control_db_set_healthy(struct ctdb_context *ctdb, TDB_DATA indata);
1361 int32_t ctdb_control_db_get_health(struct ctdb_context *ctdb,
1362                                    TDB_DATA indata,
1363                                    TDB_DATA *outdata);
1364
1365
1366 int ctdb_vacuum(struct ctdb_context *ctdb, int argc, const char **argv);
1367 int ctdb_repack(struct ctdb_context *ctdb, int argc, const char **argv);
1368
1369 void ctdb_block_signal(int signum);
1370 void ctdb_unblock_signal(int signum);
1371 int32_t ctdb_monitoring_mode(struct ctdb_context *ctdb);
1372 bool ctdb_stopped_monitoring(struct ctdb_context *ctdb);
1373 int ctdb_set_child_logging(struct ctdb_context *ctdb);
1374 void ctdb_lockdown_memory(struct ctdb_context *ctdb);
1375
1376 struct client_async_data {
1377         enum ctdb_controls opcode;
1378         bool dont_log_errors;
1379         uint32_t count;
1380         uint32_t fail_count;
1381         client_async_callback callback;
1382         client_async_callback fail_callback;
1383         void *callback_data;
1384 };
1385 void ctdb_client_async_add(struct client_async_data *data, struct ctdb_client_control_state *state);
1386 int ctdb_client_async_wait(struct ctdb_context *ctdb, struct client_async_data *data);
1387 int ctdb_client_async_control(struct ctdb_context *ctdb,
1388                                 enum ctdb_controls opcode,
1389                                 uint32_t *nodes,
1390                                 uint64_t srvid,
1391                                 struct timeval timeout,
1392                                 bool dont_log_errors,
1393                                 TDB_DATA data,
1394                                 client_async_callback client_callback,
1395                                 client_async_callback fail_callback,
1396                                 void *callback_data);
1397
1398 void ctdb_load_nodes_file(struct ctdb_context *ctdb);
1399
1400 int ctdb_control_reload_nodes_file(struct ctdb_context *ctdb, uint32_t opcode);
1401
1402 int32_t ctdb_dump_memory(struct ctdb_context *ctdb, TDB_DATA *outdata);
1403 int32_t ctdb_control_get_capabilities(struct ctdb_context *ctdb, TDB_DATA *outdata);
1404
1405 int32_t ctdb_control_trans2_finished(struct ctdb_context *ctdb, 
1406                                      struct ctdb_req_control *c);
1407 int32_t ctdb_control_trans2_error(struct ctdb_context *ctdb, 
1408                                   struct ctdb_req_control *c);
1409 int32_t ctdb_control_trans2_active(struct ctdb_context *ctdb,
1410                                    struct ctdb_req_control *c,
1411                                    uint32_t db_id);
1412
1413 char *ctdb_addr_to_str(ctdb_sock_addr *addr);
1414 unsigned ctdb_addr_to_port(ctdb_sock_addr *addr);
1415 void ctdb_canonicalize_ip(const ctdb_sock_addr *ip, ctdb_sock_addr *cip);
1416
1417 int32_t ctdb_control_recd_ping(struct ctdb_context *ctdb);
1418 int32_t ctdb_control_set_recmaster(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata);
1419
1420 extern int script_log_level;
1421 extern bool fast_start;
1422 extern const char *ctdbd_pidfile;
1423
1424 int32_t ctdb_control_get_event_script_status(struct ctdb_context *ctdb,
1425                                              uint32_t call_type,
1426                                              TDB_DATA *outdata);
1427
1428 int ctdb_log_event_script_output(struct ctdb_context *ctdb, char *str, uint16_t len);
1429 int ctdb_ctrl_report_recd_lock_latency(struct ctdb_context *ctdb, struct timeval timeout, double latency);
1430
1431 int32_t ctdb_control_stop_node(struct ctdb_context *ctdb);
1432 int32_t ctdb_control_continue_node(struct ctdb_context *ctdb);
1433
1434 void ctdb_stop_vacuuming(struct ctdb_context *ctdb);
1435 int ctdb_vacuum_init(struct ctdb_db_context *ctdb_db);
1436
1437 int32_t ctdb_control_enable_script(struct ctdb_context *ctdb, TDB_DATA indata);
1438 int32_t ctdb_control_disable_script(struct ctdb_context *ctdb, TDB_DATA indata);
1439
1440 void ctdb_local_node_got_banned(struct ctdb_context *ctdb);
1441 int32_t ctdb_control_set_ban_state(struct ctdb_context *ctdb, TDB_DATA indata);
1442 int32_t ctdb_control_get_ban_state(struct ctdb_context *ctdb, TDB_DATA *outdata);
1443 int32_t ctdb_control_set_db_priority(struct ctdb_context *ctdb, TDB_DATA indata);
1444 void ctdb_ban_self(struct ctdb_context *ctdb);
1445
1446 int32_t ctdb_control_register_notify(struct ctdb_context *ctdb, uint32_t client_id, TDB_DATA indata);
1447
1448 int32_t ctdb_control_deregister_notify(struct ctdb_context *ctdb, uint32_t client_id, TDB_DATA indata);
1449
1450 int start_syslog_daemon(struct ctdb_context *ctdb);
1451
1452 /* Where to send the log messages back to */
1453 struct ctdb_get_log_addr {
1454         uint32_t pnn;
1455         uint64_t srvid;
1456         int32_t level;
1457 };
1458
1459 extern int log_ringbuf_size;
1460
1461 void ctdb_collect_log(struct ctdb_context *ctdb, struct ctdb_get_log_addr *log_addr);
1462 void ctdb_clear_log(struct ctdb_context *ctdb);
1463 int32_t ctdb_control_get_log(struct ctdb_context *ctdb, TDB_DATA addr);
1464 int32_t ctdb_control_clear_log(struct ctdb_context *ctdb);
1465 void ctdb_log_ringbuffer_free(void);
1466
1467 struct ctdb_log_state *ctdb_vfork_with_logging(TALLOC_CTX *mem_ctx,
1468                                                struct ctdb_context *ctdb,
1469                                                const char *log_prefix,
1470                                                const char *helper,
1471                                                int helper_argc,
1472                                                const char **helper_argv,
1473                                                void (*logfn)(const char *, uint16_t, void *),
1474                                                void *logfn_private, pid_t *pid);
1475
1476
1477 int32_t ctdb_control_process_exists(struct ctdb_context *ctdb, pid_t pid);
1478 struct ctdb_client *ctdb_find_client_by_pid(struct ctdb_context *ctdb, pid_t pid);
1479
1480 int32_t ctdb_control_get_db_seqnum(struct ctdb_context *ctdb,
1481                                    TDB_DATA indata,
1482                                    TDB_DATA *outdata);
1483
1484 int ctdb_load_persistent_health(struct ctdb_context *ctdb,
1485                                 struct ctdb_db_context *ctdb_db);
1486 int ctdb_update_persistent_health(struct ctdb_context *ctdb,
1487                                   struct ctdb_db_context *ctdb_db,
1488                                   const char *reason,/* NULL means healthy */
1489                                   int num_healthy_nodes);
1490 int ctdb_recheck_persistent_health(struct ctdb_context *ctdb);
1491
1492 void ctdb_run_notification_script(struct ctdb_context *ctdb, const char *event);
1493
1494 void ctdb_fault_setup(void);
1495
1496 int verify_remote_ip_allocation(struct ctdb_context *ctdb, 
1497                                 struct ctdb_all_public_ips *ips,
1498                                 uint32_t pnn);
1499 int update_ip_assignment_tree(struct ctdb_context *ctdb,
1500                                 struct ctdb_public_ip *ip);
1501
1502 int ctdb_init_tevent_logging(struct ctdb_context *ctdb);
1503
1504 int ctdb_statistics_init(struct ctdb_context *ctdb);
1505
1506 int32_t ctdb_control_get_stat_history(struct ctdb_context *ctdb,
1507                                       struct ctdb_req_control *c,
1508                                       TDB_DATA *outdata);
1509
1510 int ctdb_deferred_drop_all_ips(struct ctdb_context *ctdb);
1511
1512 int ctdb_process_deferred_attach(struct ctdb_context *ctdb);
1513
1514 /**
1515  * structure to pass to a schedule_for_deletion_control
1516  */
1517 struct ctdb_control_schedule_for_deletion {
1518         uint32_t db_id;
1519         struct ctdb_ltdb_header hdr;
1520         uint32_t keylen;
1521         uint8_t key[1]; /* key[] */
1522 };
1523
1524 int32_t ctdb_control_schedule_for_deletion(struct ctdb_context *ctdb,
1525                                            TDB_DATA indata);
1526
1527
1528 int32_t ctdb_local_schedule_for_deletion(struct ctdb_db_context *ctdb_db,
1529                                          const struct ctdb_ltdb_header *hdr,
1530                                          TDB_DATA key);
1531
1532 void ctdb_local_remove_from_delete_queue(struct ctdb_db_context *ctdb_db,
1533                                          const struct ctdb_ltdb_header *hdr,
1534                                          const TDB_DATA key);
1535
1536 struct ctdb_ltdb_header *ctdb_header_from_record_handle(struct ctdb_record_handle *h);
1537
1538 int ctdb_trackingdb_add_pnn(struct ctdb_context *ctdb, TDB_DATA *data, uint32_t pnn);
1539
1540 typedef void (*ctdb_trackingdb_cb)(struct ctdb_context *ctdb, uint32_t pnn, void *private_data);
1541
1542 void ctdb_trackingdb_traverse(struct ctdb_context *ctdb, TDB_DATA data, ctdb_trackingdb_cb cb, void *private_data);
1543
1544 int ctdb_start_revoke_ro_record(struct ctdb_context *ctdb, struct ctdb_db_context *ctdb_db, TDB_DATA key, struct ctdb_ltdb_header *header, TDB_DATA data);
1545
1546 typedef void (*deferred_requeue_fn)(void *call_context, struct ctdb_req_header *hdr);
1547
1548 int ctdb_add_revoke_deferred_call(struct ctdb_context *ctdb, struct ctdb_db_context *ctdb_db, TDB_DATA key, struct ctdb_req_header *hdr, deferred_requeue_fn fn, void *call_context);
1549
1550 int ctdb_set_db_readonly(struct ctdb_context *ctdb, struct ctdb_db_context *ctdb_db);
1551
1552 int ctdb_null_func(struct ctdb_call_info *call);
1553
1554 int ctdb_fetch_func(struct ctdb_call_info *call);
1555
1556 int ctdb_fetch_with_header_func(struct ctdb_call_info *call);
1557
1558 int32_t ctdb_control_get_db_statistics(struct ctdb_context *ctdb,
1559                                 uint32_t db_id,
1560                                 TDB_DATA *outdata);
1561
1562 int ctdb_set_db_sticky(struct ctdb_context *ctdb, struct ctdb_db_context *ctdb_db);
1563
1564 /*
1565   description for a message to reload all ips via recovery master/daemon
1566  */
1567 struct reloadips_all_reply {
1568         uint32_t pnn;
1569         uint64_t srvid;
1570 };
1571
1572 int32_t ctdb_control_reload_public_ips(struct ctdb_context *ctdb, struct ctdb_req_control *c, bool *async_reply);
1573
1574 int ctdb_start_monitoring_interfaces(struct ctdb_context *ctdb);
1575
1576 /* from server/ctdb_lock.c */
1577 struct lock_request;
1578
1579 int ctdb_lockall_mark_prio(struct ctdb_context *ctdb, uint32_t priority);
1580 int ctdb_lockall_unmark_prio(struct ctdb_context *ctdb, uint32_t priority);
1581
1582 void ctdb_lock_free_request_context(struct lock_request *lock_req);
1583
1584 struct lock_request *ctdb_lock_record(struct ctdb_db_context *ctdb_db,
1585                                       TDB_DATA key,
1586                                       bool auto_mark,
1587                                       void (*callback)(void *, bool),
1588                                       void *private_data);
1589
1590 struct lock_request *ctdb_lock_db(struct ctdb_db_context *ctdb_db,
1591                                   bool auto_mark,
1592                                   void (*callback)(void *, bool),
1593                                   void *private_data);
1594
1595 struct lock_request *ctdb_lock_alldb_prio(struct ctdb_context *ctdb,
1596                                           uint32_t priority,
1597                                           bool auto_mark,
1598                                           void (*callback)(void *, bool),
1599                                           void *private_data);
1600
1601 struct lock_request *ctdb_lock_alldb(struct ctdb_context *ctdb,
1602                                      bool auto_mark,
1603                                      void (*callback)(void *, bool),
1604                                      void *private_data);
1605
1606 int mkdir_p(const char *dir, int mode);
1607 void ctdb_mkdir_p_or_die(struct ctdb_context *ctdb, const char *dir, int mode);
1608
1609 #endif