source4/cluster/ctdb/ctdb_cluster.c

   1 /*
   2    Unix SMB/CIFS implementation.
   3
   4    ctdb clustering hooks
   5
   6    Copyright (C) Andrew Tridgell 2006
   7
   8    This program is free software; you can redistribute it and/or modify
   9    it under the terms of the GNU General Public License as published by
  10    the Free Software Foundation; either version 3 of the License, or
  11    (at your option) any later version.
  12
  13    This program is distributed in the hope that it will be useful,
  14    but WITHOUT ANY WARRANTY; without even the implied warranty of
  15    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  16    GNU General Public License for more details.
  17
  18    You should have received a copy of the GNU General Public License
  19    along with this program.  If not, see <http://www.gnu.org/licenses/>.
  20 */
  21
  22 #include "includes.h"
  23 #include "lib/events/events.h"
  24 #include "cluster/cluster.h"
  25 #include "system/filesys.h"
  26 #include "cluster/cluster_private.h"
  27 #include "lib/tdb/include/tdb.h"
  28 #include "include/ctdb.h"
  29 #include "db_wrap.h"
  30 #include "lib/util/dlinklist.h"
  31 #include "param/param.h"
  32 #include "librpc/gen_ndr/misc.h"
  33
  34 /* a linked list of messaging handlers, allowing incoming messages
  35    to be directed to the right messaging context */
  36 struct cluster_messaging_list {
  37         struct cluster_messaging_list *next, *prev;
  38         struct cluster_state *state;
  39         struct messaging_context *msg;
  40         struct server_id server;
  41         cluster_message_fn_t handler;
  42 };
  43
  44 struct cluster_state {
  45         struct ctdb_context *ctdb;
  46         struct cluster_messaging_list *list;
  47         uint32_t vnn;
  48 };
  49
  50
  51
  52 /*
  53   return a server_id for a ctdb node
  54 */
  55 static struct server_id ctdb_id(struct cluster_ops *ops, uint32_t id)
  56 {
  57         struct cluster_state *state = (struct cluster_state *)ops->private;
  58         struct ctdb_context *ctdb = state->ctdb;
  59         struct server_id server_id;
  60         server_id.node = ctdb_get_vnn(ctdb);
  61         server_id.id = id;
  62         return server_id;
  63 }
  64
  65
  66 /*
  67   return a server_id as a string
  68 */
  69 static const char *ctdb_id_string(struct cluster_ops *ops,
  70                                   TALLOC_CTX *mem_ctx, struct server_id id)
  71 {
  72         return talloc_asprintf(mem_ctx, "%u.%u", id.node, id.id);
  73 }
  74
  75 /*
  76   this is an interim method for subsystems that have not yet been
  77   converted to use the ctdb api. It opens a shared database in the
  78   cluster temporary area, using TDB_CLEAR_IF_FIRST which relies on
  79   correct operation of fcntl locks on the shared fileystem.
  80 */
  81 static struct tdb_wrap *ctdb_tdb_tmp_open(struct cluster_ops *ops,
  82                                           TALLOC_CTX *mem_ctx, const char *dbname,
  83                                           int flags)
  84 {
  85         const char *dir = lp_parm_string(global_loadparm, NULL, "ctdb", "shared data");
  86         char *path;
  87         struct tdb_wrap *w;
  88         if (dir == NULL) {
  89                 DEBUG(0,("ERROR: You must set 'ctdb:shared data' to a cluster shared path\n"));
  90                 return NULL;
  91         }
  92         path = talloc_asprintf(mem_ctx, "%s/%s", dir, dbname);
  93         w = tdb_wrap_open(mem_ctx, path, 0,
  94                           flags | TDB_CLEAR_IF_FIRST,
  95                           O_RDWR|O_CREAT, 0600);
  96         talloc_free(path);
  97         return w;
  98 }
  99
 100 /*
 101   get at the ctdb handle
 102 */
 103 static void *ctdb_backend_handle(struct cluster_ops *ops)
 104 {
 105         struct cluster_state *state = (struct cluster_state *)ops->private;
 106         return (void *)state->ctdb;
 107 }
 108
 109 struct ctdb_handler_state {
 110         struct cluster_state *state;
 111         cluster_message_fn_t handler;
 112         struct messaging_context *msg;
 113 };
 114
 115 /*
 116   dispatch incoming ctdb messages
 117 */
 118 static void ctdb_message_handler(struct ctdb_context *ctdb, uint64_t srvid,
 119                                  TDB_DATA data, void *private)
 120 {
 121         struct ctdb_handler_state *s = talloc_get_type(private,
 122                                                        struct ctdb_handler_state);
 123         DATA_BLOB blob;
 124         blob.data = data.dptr;
 125         blob.length = data.dsize;
 126         s->handler(s->msg, blob);
 127 }
 128
 129 static int ctdb_handler_destructor(struct ctdb_handler_state *s)
 130 {
 131         /* XXX - tell ctdb to de-register the message handler */
 132         return 0;
 133 }
 134
 135 /*
 136   setup a handler for ctdb messages
 137 */
 138 static NTSTATUS ctdb_message_init(struct cluster_ops *ops,
 139                                   struct messaging_context *msg,
 140                                   struct server_id server,
 141                                   cluster_message_fn_t handler)
 142 {
 143         struct cluster_state *state = (struct cluster_state *)ops->private;
 144         struct ctdb_handler_state *h;
 145         int ret;
 146
 147         h = talloc(msg, struct ctdb_handler_state);
 148         NT_STATUS_HAVE_NO_MEMORY(h);
 149
 150         h->state = state;
 151         h->handler = handler;
 152         h->msg = msg;
 153
 154         talloc_set_destructor(h, ctdb_handler_destructor);
 155
 156         /* setup a message handler */
 157         ret = ctdb_set_message_handler(state->ctdb, server.id,
 158                                        ctdb_message_handler, h);
 159         if (ret == -1) {
 160                 DEBUG(0,("ctdb_set_message_handler failed - %s\n",
 161                          ctdb_errstr(state->ctdb)));
 162                 exit(1);
 163         }
 164
 165         return NT_STATUS_OK;
 166 }
 167
 168 /*
 169   send a ctdb message to another node
 170 */
 171 static NTSTATUS ctdb_message_send(struct cluster_ops *ops,
 172                                   struct server_id server, DATA_BLOB *data)
 173 {
 174         struct cluster_state *state = (struct cluster_state *)ops->private;
 175         struct ctdb_context *ctdb = state->ctdb;
 176         TDB_DATA tdata;
 177         int ret;
 178
 179         tdata.dptr = data->data;
 180         tdata.dsize = data->length;
 181
 182         ret = ctdb_send_message(ctdb, server.node, server.id, tdata);
 183         if (ret != 0) {
 184                 return NT_STATUS_INTERNAL_DB_CORRUPTION;
 185         }
 186         return NT_STATUS_OK;
 187 }
 188
 189 static struct cluster_ops cluster_ctdb_ops = {
 190         .cluster_id           = ctdb_id,
 191         .cluster_id_string    = ctdb_id_string,
 192         .cluster_tdb_tmp_open = ctdb_tdb_tmp_open,
 193         .backend_handle       = ctdb_backend_handle,
 194         .message_init         = ctdb_message_init,
 195         .message_send         = ctdb_message_send,
 196         .private           = NULL
 197 };
 198
 199 /* initialise ctdb */
 200 void cluster_ctdb_init(struct event_context *ev, const char *model)
 201 {
 202         struct cluster_state *state;
 203         int ret;
 204
 205         if (!lp_parm_bool(global_loadparm, NULL, "ctdb", "enable", false)) {
 206                 return;
 207         }
 208
 209         state = talloc(ev, struct cluster_state);
 210         if (state == NULL) goto failed;
 211
 212         state->ctdb = ctdb_init(ev);
 213         if (state->ctdb == NULL) goto failed;
 214
 215         ret = ctdb_socket_connect(state->ctdb);
 216         if (ret == -1) {
 217                 DEBUG(0,(__location__ " Failed to connect to ctdb socket\n"));
 218                 goto failed;
 219         }
 220
 221         /* get our vnn */
 222         state->vnn = ctdb_ctrl_getvnn(state->ctdb, timeval_zero(), CTDB_CURRENT_NODE);
 223         if (state->vnn == (uint32_t)-1) {
 224                 DEBUG(0,(__location__ " Failed to get ctdb vnn\n"));
 225                 goto failed;
 226         }
 227
 228         state->list = NULL;
 229
 230         cluster_ctdb_ops.private = state;
 231
 232         cluster_set_ops(&cluster_ctdb_ops);
 233
 234 #if 0
 235         /* nasty hack for now ... */
 236         {
 237                 void brl_ctdb_init_ops(void);
 238                 brl_ctdb_init_ops();
 239         }
 240 #endif
 241
 242         return;
 243
 244 failed:
 245         DEBUG(0,("cluster_ctdb_init failed\n"));
 246         talloc_free(state);
 247 }