net/sctp/protocol.c

   1 /* SCTP kernel implementation
   2  * (C) Copyright IBM Corp. 2001, 2004
   3  * Copyright (c) 1999-2000 Cisco, Inc.
   4  * Copyright (c) 1999-2001 Motorola, Inc.
   5  * Copyright (c) 2001 Intel Corp.
   6  * Copyright (c) 2001 Nokia, Inc.
   7  * Copyright (c) 2001 La Monte H.P. Yarroll
   8  *
   9  * This file is part of the SCTP kernel implementation
  10  *
  11  * Initialization/cleanup for SCTP protocol support.
  12  *
  13  * This SCTP implementation is free software;
  14  * you can redistribute it and/or modify it under the terms of
  15  * the GNU General Public License as published by
  16  * the Free Software Foundation; either version 2, or (at your option)
  17  * any later version.
  18  *
  19  * This SCTP implementation is distributed in the hope that it
  20  * will be useful, but WITHOUT ANY WARRANTY; without even the implied
  21  *                 ************************
  22  * warranty of MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.
  23  * See the GNU General Public License for more details.
  24  *
  25  * You should have received a copy of the GNU General Public License
  26  * along with GNU CC; see the file COPYING.  If not, write to
  27  * the Free Software Foundation, 59 Temple Place - Suite 330,
  28  * Boston, MA 02111-1307, USA.
  29  *
  30  * Please send any bug reports or fixes you make to the
  31  * email address(es):
  32  *    lksctp developers <lksctp-developers@lists.sourceforge.net>
  33  *
  34  * Or submit a bug report through the following website:
  35  *    http://www.sf.net/projects/lksctp
  36  *
  37  * Written or modified by:
  38  *    La Monte H.P. Yarroll <piggy@acm.org>
  39  *    Karl Knutson <karl@athena.chicago.il.us>
  40  *    Jon Grimm <jgrimm@us.ibm.com>
  41  *    Sridhar Samudrala <sri@us.ibm.com>
  42  *    Daisy Chang <daisyc@us.ibm.com>
  43  *    Ardelle Fan <ardelle.fan@intel.com>
  44  *
  45  * Any bugs reported given to us we will try to fix... any fixes shared will
  46  * be incorporated into the next SCTP release.
  47  */
  48
  49 #include <linux/module.h>
  50 #include <linux/init.h>
  51 #include <linux/netdevice.h>
  52 #include <linux/inetdevice.h>
  53 #include <linux/seq_file.h>
  54 #include <linux/bootmem.h>
  55 #include <net/net_namespace.h>
  56 #include <net/protocol.h>
  57 #include <net/ip.h>
  58 #include <net/ipv6.h>
  59 #include <net/route.h>
  60 #include <net/sctp/sctp.h>
  61 #include <net/addrconf.h>
  62 #include <net/inet_common.h>
  63 #include <net/inet_ecn.h>
  64
  65 /* Global data structures. */
  66 struct sctp_globals sctp_globals __read_mostly;
  67 struct proc_dir_entry   *proc_net_sctp;
  68 DEFINE_SNMP_STAT(struct sctp_mib, sctp_statistics) __read_mostly;
  69
  70 struct idr sctp_assocs_id;
  71 DEFINE_SPINLOCK(sctp_assocs_id_lock);
  72
  73 /* This is the global socket data structure used for responding to
  74  * the Out-of-the-blue (OOTB) packets.  A control sock will be created
  75  * for this socket at the initialization time.
  76  */
  77 static struct sock *sctp_ctl_sock;
  78
  79 static struct sctp_pf *sctp_pf_inet6_specific;
  80 static struct sctp_pf *sctp_pf_inet_specific;
  81 static struct sctp_af *sctp_af_v4_specific;
  82 static struct sctp_af *sctp_af_v6_specific;
  83
  84 struct kmem_cache *sctp_chunk_cachep __read_mostly;
  85 struct kmem_cache *sctp_bucket_cachep __read_mostly;
  86
  87 int sysctl_sctp_mem[3];
  88 int sysctl_sctp_rmem[3];
  89 int sysctl_sctp_wmem[3];
  90
  91 /* Return the address of the control sock. */
  92 struct sock *sctp_get_ctl_sock(void)
  93 {
  94         return sctp_ctl_sock;
  95 }
  96
  97 /* Set up the proc fs entry for the SCTP protocol. */
  98 static __init int sctp_proc_init(void)
  99 {
 100         if (!proc_net_sctp) {
 101                 struct proc_dir_entry *ent;
 102                 ent = proc_mkdir("sctp", init_net.proc_net);
 103                 if (ent) {
 104                         ent->owner = THIS_MODULE;
 105                         proc_net_sctp = ent;
 106                 } else
 107                         goto out_nomem;
 108         }
 109
 110         if (sctp_snmp_proc_init())
 111                 goto out_snmp_proc_init;
 112         if (sctp_eps_proc_init())
 113                 goto out_eps_proc_init;
 114         if (sctp_assocs_proc_init())
 115                 goto out_assocs_proc_init;
 116
 117         return 0;
 118
 119 out_assocs_proc_init:
 120         sctp_eps_proc_exit();
 121 out_eps_proc_init:
 122         sctp_snmp_proc_exit();
 123 out_snmp_proc_init:
 124         if (proc_net_sctp) {
 125                 proc_net_sctp = NULL;
 126                 remove_proc_entry("sctp", init_net.proc_net);
 127         }
 128 out_nomem:
 129         return -ENOMEM;
 130 }
 131
 132 /* Clean up the proc fs entry for the SCTP protocol.
 133  * Note: Do not make this __exit as it is used in the init error
 134  * path.
 135  */
 136 static void sctp_proc_exit(void)
 137 {
 138         sctp_snmp_proc_exit();
 139         sctp_eps_proc_exit();
 140         sctp_assocs_proc_exit();
 141
 142         if (proc_net_sctp) {
 143                 proc_net_sctp = NULL;
 144                 remove_proc_entry("sctp", init_net.proc_net);
 145         }
 146 }
 147
 148 /* Private helper to extract ipv4 address and stash them in
 149  * the protocol structure.
 150  */
 151 static void sctp_v4_copy_addrlist(struct list_head *addrlist,
 152                                   struct net_device *dev)
 153 {
 154         struct in_device *in_dev;
 155         struct in_ifaddr *ifa;
 156         struct sctp_sockaddr_entry *addr;
 157
 158         rcu_read_lock();
 159         if ((in_dev = __in_dev_get_rcu(dev)) == NULL) {
 160                 rcu_read_unlock();
 161                 return;
 162         }
 163
 164         for (ifa = in_dev->ifa_list; ifa; ifa = ifa->ifa_next) {
 165                 /* Add the address to the local list.  */
 166                 addr = t_new(struct sctp_sockaddr_entry, GFP_ATOMIC);
 167                 if (addr) {
 168                         addr->a.v4.sin_family = AF_INET;
 169                         addr->a.v4.sin_port = 0;
 170                         addr->a.v4.sin_addr.s_addr = ifa->ifa_local;
 171                         addr->valid = 1;
 172                         INIT_LIST_HEAD(&addr->list);
 173                         INIT_RCU_HEAD(&addr->rcu);
 174                         list_add_tail(&addr->list, addrlist);
 175                 }
 176         }
 177
 178         rcu_read_unlock();
 179 }
 180
 181 /* Extract our IP addresses from the system and stash them in the
 182  * protocol structure.
 183  */
 184 static void sctp_get_local_addr_list(void)
 185 {
 186         struct net_device *dev;
 187         struct list_head *pos;
 188         struct sctp_af *af;
 189
 190         read_lock(&dev_base_lock);
 191         for_each_netdev(&init_net, dev) {
 192                 __list_for_each(pos, &sctp_address_families) {
 193                         af = list_entry(pos, struct sctp_af, list);
 194                         af->copy_addrlist(&sctp_local_addr_list, dev);
 195                 }
 196         }
 197         read_unlock(&dev_base_lock);
 198 }
 199
 200 /* Free the existing local addresses.  */
 201 static void sctp_free_local_addr_list(void)
 202 {
 203         struct sctp_sockaddr_entry *addr;
 204         struct list_head *pos, *temp;
 205
 206         list_for_each_safe(pos, temp, &sctp_local_addr_list) {
 207                 addr = list_entry(pos, struct sctp_sockaddr_entry, list);
 208                 list_del(pos);
 209                 kfree(addr);
 210         }
 211 }
 212
 213 void sctp_local_addr_free(struct rcu_head *head)
 214 {
 215         struct sctp_sockaddr_entry *e = container_of(head,
 216                                 struct sctp_sockaddr_entry, rcu);
 217         kfree(e);
 218 }
 219
 220 /* Copy the local addresses which are valid for 'scope' into 'bp'.  */
 221 int sctp_copy_local_addr_list(struct sctp_bind_addr *bp, sctp_scope_t scope,
 222                               gfp_t gfp, int copy_flags)
 223 {
 224         struct sctp_sockaddr_entry *addr;
 225         int error = 0;
 226
 227         rcu_read_lock();
 228         list_for_each_entry_rcu(addr, &sctp_local_addr_list, list) {
 229                 if (!addr->valid)
 230                         continue;
 231                 if (sctp_in_scope(&addr->a, scope)) {
 232                         /* Now that the address is in scope, check to see if
 233                          * the address type is really supported by the local
 234                          * sock as well as the remote peer.
 235                          */
 236                         if ((((AF_INET == addr->a.sa.sa_family) &&
 237                               (copy_flags & SCTP_ADDR4_PEERSUPP))) ||
 238                             (((AF_INET6 == addr->a.sa.sa_family) &&
 239                               (copy_flags & SCTP_ADDR6_ALLOWED) &&
 240                               (copy_flags & SCTP_ADDR6_PEERSUPP)))) {
 241                                 error = sctp_add_bind_addr(bp, &addr->a,
 242                                                     SCTP_ADDR_SRC, GFP_ATOMIC);
 243                                 if (error)
 244                                         goto end_copy;
 245                         }
 246                 }
 247         }
 248
 249 end_copy:
 250         rcu_read_unlock();
 251         return error;
 252 }
 253
 254 /* Initialize a sctp_addr from in incoming skb.  */
 255 static void sctp_v4_from_skb(union sctp_addr *addr, struct sk_buff *skb,
 256                              int is_saddr)
 257 {
 258         void *from;
 259         __be16 *port;
 260         struct sctphdr *sh;
 261
 262         port = &addr->v4.sin_port;
 263         addr->v4.sin_family = AF_INET;
 264
 265         sh = sctp_hdr(skb);
 266         if (is_saddr) {
 267                 *port  = sh->source;
 268                 from = &ip_hdr(skb)->saddr;
 269         } else {
 270                 *port = sh->dest;
 271                 from = &ip_hdr(skb)->daddr;
 272         }
 273         memcpy(&addr->v4.sin_addr.s_addr, from, sizeof(struct in_addr));
 274 }
 275
 276 /* Initialize an sctp_addr from a socket. */
 277 static void sctp_v4_from_sk(union sctp_addr *addr, struct sock *sk)
 278 {
 279         addr->v4.sin_family = AF_INET;
 280         addr->v4.sin_port = 0;
 281         addr->v4.sin_addr.s_addr = inet_sk(sk)->rcv_saddr;
 282 }
 283
 284 /* Initialize sk->sk_rcv_saddr from sctp_addr. */
 285 static void sctp_v4_to_sk_saddr(union sctp_addr *addr, struct sock *sk)
 286 {
 287         inet_sk(sk)->rcv_saddr = addr->v4.sin_addr.s_addr;
 288 }
 289
 290 /* Initialize sk->sk_daddr from sctp_addr. */
 291 static void sctp_v4_to_sk_daddr(union sctp_addr *addr, struct sock *sk)
 292 {
 293         inet_sk(sk)->daddr = addr->v4.sin_addr.s_addr;
 294 }
 295
 296 /* Initialize a sctp_addr from an address parameter. */
 297 static void sctp_v4_from_addr_param(union sctp_addr *addr,
 298                                     union sctp_addr_param *param,
 299                                     __be16 port, int iif)
 300 {
 301         addr->v4.sin_family = AF_INET;
 302         addr->v4.sin_port = port;
 303         addr->v4.sin_addr.s_addr = param->v4.addr.s_addr;
 304 }
 305
 306 /* Initialize an address parameter from a sctp_addr and return the length
 307  * of the address parameter.
 308  */
 309 static int sctp_v4_to_addr_param(const union sctp_addr *addr,
 310                                  union sctp_addr_param *param)
 311 {
 312         int length = sizeof(sctp_ipv4addr_param_t);
 313
 314         param->v4.param_hdr.type = SCTP_PARAM_IPV4_ADDRESS;
 315         param->v4.param_hdr.length = htons(length);
 316         param->v4.addr.s_addr = addr->v4.sin_addr.s_addr;
 317
 318         return length;
 319 }
 320
 321 /* Initialize a sctp_addr from a dst_entry. */
 322 static void sctp_v4_dst_saddr(union sctp_addr *saddr, struct dst_entry *dst,
 323                               __be16 port)
 324 {
 325         struct rtable *rt = (struct rtable *)dst;
 326         saddr->v4.sin_family = AF_INET;
 327         saddr->v4.sin_port = port;
 328         saddr->v4.sin_addr.s_addr = rt->rt_src;
 329 }
 330
 331 /* Compare two addresses exactly. */
 332 static int sctp_v4_cmp_addr(const union sctp_addr *addr1,
 333                             const union sctp_addr *addr2)
 334 {
 335         if (addr1->sa.sa_family != addr2->sa.sa_family)
 336                 return 0;
 337         if (addr1->v4.sin_port != addr2->v4.sin_port)
 338                 return 0;
 339         if (addr1->v4.sin_addr.s_addr != addr2->v4.sin_addr.s_addr)
 340                 return 0;
 341
 342         return 1;
 343 }
 344
 345 /* Initialize addr struct to INADDR_ANY. */
 346 static void sctp_v4_inaddr_any(union sctp_addr *addr, __be16 port)
 347 {
 348         addr->v4.sin_family = AF_INET;
 349         addr->v4.sin_addr.s_addr = htonl(INADDR_ANY);
 350         addr->v4.sin_port = port;
 351 }
 352
 353 /* Is this a wildcard address? */
 354 static int sctp_v4_is_any(const union sctp_addr *addr)
 355 {
 356         return htonl(INADDR_ANY) == addr->v4.sin_addr.s_addr;
 357 }
 358
 359 /* This function checks if the address is a valid address to be used for
 360  * SCTP binding.
 361  *
 362  * Output:
 363  * Return 0 - If the address is a non-unicast or an illegal address.
 364  * Return 1 - If the address is a unicast.
 365  */
 366 static int sctp_v4_addr_valid(union sctp_addr *addr,
 367                               struct sctp_sock *sp,
 368                               const struct sk_buff *skb)
 369 {
 370         /* Is this a non-unicast address or a unusable SCTP address? */
 371         if (IS_IPV4_UNUSABLE_ADDRESS(addr->v4.sin_addr.s_addr))
 372                 return 0;
 373
 374         /* Is this a broadcast address? */
 375         if (skb && skb->rtable->rt_flags & RTCF_BROADCAST)
 376                 return 0;
 377
 378         return 1;
 379 }
 380
 381 /* Should this be available for binding?   */
 382 static int sctp_v4_available(union sctp_addr *addr, struct sctp_sock *sp)
 383 {
 384         int ret = inet_addr_type(&init_net, addr->v4.sin_addr.s_addr);
 385
 386
 387         if (addr->v4.sin_addr.s_addr != htonl(INADDR_ANY) &&
 388            ret != RTN_LOCAL &&
 389            !sp->inet.freebind &&
 390            !sysctl_ip_nonlocal_bind)
 391                 return 0;
 392
 393         return 1;
 394 }
 395
 396 /* Checking the loopback, private and other address scopes as defined in
 397  * RFC 1918.   The IPv4 scoping is based on the draft for SCTP IPv4
 398  * scoping <draft-stewart-tsvwg-sctp-ipv4-00.txt>.
 399  *
 400  * Level 0 - unusable SCTP addresses
 401  * Level 1 - loopback address
 402  * Level 2 - link-local addresses
 403  * Level 3 - private addresses.
 404  * Level 4 - global addresses
 405  * For INIT and INIT-ACK address list, let L be the level of
 406  * of requested destination address, sender and receiver
 407  * SHOULD include all of its addresses with level greater
 408  * than or equal to L.
 409  */
 410 static sctp_scope_t sctp_v4_scope(union sctp_addr *addr)
 411 {
 412         sctp_scope_t retval;
 413
 414         /* Should IPv4 scoping be a sysctl configurable option
 415          * so users can turn it off (default on) for certain
 416          * unconventional networking environments?
 417          */
 418
 419         /* Check for unusable SCTP addresses. */
 420         if (IS_IPV4_UNUSABLE_ADDRESS(addr->v4.sin_addr.s_addr)) {
 421                 retval =  SCTP_SCOPE_UNUSABLE;
 422         } else if (ipv4_is_loopback(addr->v4.sin_addr.s_addr)) {
 423                 retval = SCTP_SCOPE_LOOPBACK;
 424         } else if (ipv4_is_linklocal_169(addr->v4.sin_addr.s_addr)) {
 425                 retval = SCTP_SCOPE_LINK;
 426         } else if (ipv4_is_private_10(addr->v4.sin_addr.s_addr) ||
 427                    ipv4_is_private_172(addr->v4.sin_addr.s_addr) ||
 428                    ipv4_is_private_192(addr->v4.sin_addr.s_addr)) {
 429                 retval = SCTP_SCOPE_PRIVATE;
 430         } else {
 431                 retval = SCTP_SCOPE_GLOBAL;
 432         }
 433
 434         return retval;
 435 }
 436
 437 /* Returns a valid dst cache entry for the given source and destination ip
 438  * addresses. If an association is passed, trys to get a dst entry with a
 439  * source address that matches an address in the bind address list.
 440  */
 441 static struct dst_entry *sctp_v4_get_dst(struct sctp_association *asoc,
 442                                          union sctp_addr *daddr,
 443                                          union sctp_addr *saddr)
 444 {
 445         struct rtable *rt;
 446         struct flowi fl;
 447         struct sctp_bind_addr *bp;
 448         struct sctp_sockaddr_entry *laddr;
 449         struct dst_entry *dst = NULL;
 450         union sctp_addr dst_saddr;
 451
 452         memset(&fl, 0x0, sizeof(struct flowi));
 453         fl.fl4_dst  = daddr->v4.sin_addr.s_addr;
 454         fl.proto = IPPROTO_SCTP;
 455         if (asoc) {
 456                 fl.fl4_tos = RT_CONN_FLAGS(asoc->base.sk);
 457                 fl.oif = asoc->base.sk->sk_bound_dev_if;
 458         }
 459         if (saddr)
 460                 fl.fl4_src = saddr->v4.sin_addr.s_addr;
 461
 462         SCTP_DEBUG_PRINTK("%s: DST:%u.%u.%u.%u, SRC:%u.%u.%u.%u - ",
 463                           __func__, NIPQUAD(fl.fl4_dst),
 464                           NIPQUAD(fl.fl4_src));
 465
 466         if (!ip_route_output_key(&init_net, &rt, &fl)) {
 467                 dst = &rt->u.dst;
 468         }
 469
 470         /* If there is no association or if a source address is passed, no
 471          * more validation is required.
 472          */
 473         if (!asoc || saddr)
 474                 goto out;
 475
 476         bp = &asoc->base.bind_addr;
 477
 478         if (dst) {
 479                 /* Walk through the bind address list and look for a bind
 480                  * address that matches the source address of the returned dst.
 481                  */
 482                 sctp_v4_dst_saddr(&dst_saddr, dst, htons(bp->port));
 483                 rcu_read_lock();
 484                 list_for_each_entry_rcu(laddr, &bp->address_list, list) {
 485                         if (!laddr->valid || (laddr->state != SCTP_ADDR_SRC))
 486                                 continue;
 487                         if (sctp_v4_cmp_addr(&dst_saddr, &laddr->a))
 488                                 goto out_unlock;
 489                 }
 490                 rcu_read_unlock();
 491
 492                 /* None of the bound addresses match the source address of the
 493                  * dst. So release it.
 494                  */
 495                 dst_release(dst);
 496                 dst = NULL;
 497         }
 498
 499         /* Walk through the bind address list and try to get a dst that
 500          * matches a bind address as the source address.
 501          */
 502         rcu_read_lock();
 503         list_for_each_entry_rcu(laddr, &bp->address_list, list) {
 504                 if (!laddr->valid)
 505                         continue;
 506                 if ((laddr->state == SCTP_ADDR_SRC) &&
 507                     (AF_INET == laddr->a.sa.sa_family)) {
 508                         fl.fl4_src = laddr->a.v4.sin_addr.s_addr;
 509                         if (!ip_route_output_key(&init_net, &rt, &fl)) {
 510                                 dst = &rt->u.dst;
 511                                 goto out_unlock;
 512                         }
 513                 }
 514         }
 515
 516 out_unlock:
 517         rcu_read_unlock();
 518 out:
 519         if (dst)
 520                 SCTP_DEBUG_PRINTK("rt_dst:%u.%u.%u.%u, rt_src:%u.%u.%u.%u\n",
 521                                   NIPQUAD(rt->rt_dst), NIPQUAD(rt->rt_src));
 522         else
 523                 SCTP_DEBUG_PRINTK("NO ROUTE\n");
 524
 525         return dst;
 526 }
 527
 528 /* For v4, the source address is cached in the route entry(dst). So no need
 529  * to cache it separately and hence this is an empty routine.
 530  */
 531 static void sctp_v4_get_saddr(struct sctp_sock *sk,
 532                               struct sctp_association *asoc,
 533                               struct dst_entry *dst,
 534                               union sctp_addr *daddr,
 535                               union sctp_addr *saddr)
 536 {
 537         struct rtable *rt = (struct rtable *)dst;
 538
 539         if (!asoc)
 540                 return;
 541
 542         if (rt) {
 543                 saddr->v4.sin_family = AF_INET;
 544                 saddr->v4.sin_port = htons(asoc->base.bind_addr.port);
 545                 saddr->v4.sin_addr.s_addr = rt->rt_src;
 546         }
 547 }
 548
 549 /* What interface did this skb arrive on? */
 550 static int sctp_v4_skb_iif(const struct sk_buff *skb)
 551 {
 552         return skb->rtable->rt_iif;
 553 }
 554
 555 /* Was this packet marked by Explicit Congestion Notification? */
 556 static int sctp_v4_is_ce(const struct sk_buff *skb)
 557 {
 558         return INET_ECN_is_ce(ip_hdr(skb)->tos);
 559 }
 560
 561 /* Create and initialize a new sk for the socket returned by accept(). */
 562 static struct sock *sctp_v4_create_accept_sk(struct sock *sk,
 563                                              struct sctp_association *asoc)
 564 {
 565         struct inet_sock *inet = inet_sk(sk);
 566         struct inet_sock *newinet;
 567         struct sock *newsk = sk_alloc(sock_net(sk), PF_INET, GFP_KERNEL,
 568                         sk->sk_prot);
 569
 570         if (!newsk)
 571                 goto out;
 572
 573         sock_init_data(NULL, newsk);
 574
 575         newsk->sk_type = SOCK_STREAM;
 576
 577         newsk->sk_no_check = sk->sk_no_check;
 578         newsk->sk_reuse = sk->sk_reuse;
 579         newsk->sk_shutdown = sk->sk_shutdown;
 580
 581         newsk->sk_destruct = inet_sock_destruct;
 582         newsk->sk_family = PF_INET;
 583         newsk->sk_protocol = IPPROTO_SCTP;
 584         newsk->sk_backlog_rcv = sk->sk_prot->backlog_rcv;
 585         sock_reset_flag(newsk, SOCK_ZAPPED);
 586
 587         newinet = inet_sk(newsk);
 588
 589         /* Initialize sk's sport, dport, rcv_saddr and daddr for
 590          * getsockname() and getpeername()
 591          */
 592         newinet->sport = inet->sport;
 593         newinet->saddr = inet->saddr;
 594         newinet->rcv_saddr = inet->rcv_saddr;
 595         newinet->dport = htons(asoc->peer.port);
 596         newinet->daddr = asoc->peer.primary_addr.v4.sin_addr.s_addr;
 597         newinet->pmtudisc = inet->pmtudisc;
 598         newinet->id = asoc->next_tsn ^ jiffies;
 599
 600         newinet->uc_ttl = -1;
 601         newinet->mc_loop = 1;
 602         newinet->mc_ttl = 1;
 603         newinet->mc_index = 0;
 604         newinet->mc_list = NULL;
 605
 606         sk_refcnt_debug_inc(newsk);
 607
 608         if (newsk->sk_prot->init(newsk)) {
 609                 sk_common_release(newsk);
 610                 newsk = NULL;
 611         }
 612
 613 out:
 614         return newsk;
 615 }
 616
 617 /* Map address, empty for v4 family */
 618 static void sctp_v4_addr_v4map(struct sctp_sock *sp, union sctp_addr *addr)
 619 {
 620         /* Empty */
 621 }
 622
 623 /* Dump the v4 addr to the seq file. */
 624 static void sctp_v4_seq_dump_addr(struct seq_file *seq, union sctp_addr *addr)
 625 {
 626         seq_printf(seq, "%d.%d.%d.%d ", NIPQUAD(addr->v4.sin_addr));
 627 }
 628
 629 static void sctp_v4_ecn_capable(struct sock *sk)
 630 {
 631         INET_ECN_xmit(sk);
 632 }
 633
 634 /* Event handler for inet address addition/deletion events.
 635  * The sctp_local_addr_list needs to be protocted by a spin lock since
 636  * multiple notifiers (say IPv4 and IPv6) may be running at the same
 637  * time and thus corrupt the list.
 638  * The reader side is protected with RCU.
 639  */
 640 static int sctp_inetaddr_event(struct notifier_block *this, unsigned long ev,
 641                                void *ptr)
 642 {
 643         struct in_ifaddr *ifa = (struct in_ifaddr *)ptr;
 644         struct sctp_sockaddr_entry *addr = NULL;
 645         struct sctp_sockaddr_entry *temp;
 646         int found = 0;
 647
 648         if (dev_net(ifa->ifa_dev->dev) != &init_net)
 649                 return NOTIFY_DONE;
 650
 651         switch (ev) {
 652         case NETDEV_UP:
 653                 addr = kmalloc(sizeof(struct sctp_sockaddr_entry), GFP_ATOMIC);
 654                 if (addr) {
 655                         addr->a.v4.sin_family = AF_INET;
 656                         addr->a.v4.sin_port = 0;
 657                         addr->a.v4.sin_addr.s_addr = ifa->ifa_local;
 658                         addr->valid = 1;
 659                         spin_lock_bh(&sctp_local_addr_lock);
 660                         list_add_tail_rcu(&addr->list, &sctp_local_addr_list);
 661                         spin_unlock_bh(&sctp_local_addr_lock);
 662                 }
 663                 break;
 664         case NETDEV_DOWN:
 665                 spin_lock_bh(&sctp_local_addr_lock);
 666                 list_for_each_entry_safe(addr, temp,
 667                                         &sctp_local_addr_list, list) {
 668                         if (addr->a.sa.sa_family == AF_INET &&
 669                                         addr->a.v4.sin_addr.s_addr ==
 670                                         ifa->ifa_local) {
 671                                 found = 1;
 672                                 addr->valid = 0;
 673                                 list_del_rcu(&addr->list);
 674                                 break;
 675                         }
 676                 }
 677                 spin_unlock_bh(&sctp_local_addr_lock);
 678                 if (found)
 679                         call_rcu(&addr->rcu, sctp_local_addr_free);
 680                 break;
 681         }
 682
 683         return NOTIFY_DONE;
 684 }
 685
 686 /*
 687  * Initialize the control inode/socket with a control endpoint data
 688  * structure.  This endpoint is reserved exclusively for the OOTB processing.
 689  */
 690 static int sctp_ctl_sock_init(void)
 691 {
 692         int err;
 693         sa_family_t family;
 694
 695         if (sctp_get_pf_specific(PF_INET6))
 696                 family = PF_INET6;
 697         else
 698                 family = PF_INET;
 699
 700         err = inet_ctl_sock_create(&sctp_ctl_sock, family,
 701                                    SOCK_SEQPACKET, IPPROTO_SCTP, &init_net);
 702         if (err < 0) {
 703                 printk(KERN_ERR
 704                        "SCTP: Failed to create the SCTP control socket.\n");
 705                 return err;
 706         }
 707         return 0;
 708 }
 709
 710 /* Register address family specific functions. */
 711 int sctp_register_af(struct sctp_af *af)
 712 {
 713         switch (af->sa_family) {
 714         case AF_INET:
 715                 if (sctp_af_v4_specific)
 716                         return 0;
 717                 sctp_af_v4_specific = af;
 718                 break;
 719         case AF_INET6:
 720                 if (sctp_af_v6_specific)
 721                         return 0;
 722                 sctp_af_v6_specific = af;
 723                 break;
 724         default:
 725                 return 0;
 726         }
 727
 728         INIT_LIST_HEAD(&af->list);
 729         list_add_tail(&af->list, &sctp_address_families);
 730         return 1;
 731 }
 732
 733 /* Get the table of functions for manipulating a particular address
 734  * family.
 735  */
 736 struct sctp_af *sctp_get_af_specific(sa_family_t family)
 737 {
 738         switch (family) {
 739         case AF_INET:
 740                 return sctp_af_v4_specific;
 741         case AF_INET6:
 742                 return sctp_af_v6_specific;
 743         default:
 744                 return NULL;
 745         }
 746 }
 747
 748 /* Common code to initialize a AF_INET msg_name. */
 749 static void sctp_inet_msgname(char *msgname, int *addr_len)
 750 {
 751         struct sockaddr_in *sin;
 752
 753         sin = (struct sockaddr_in *)msgname;
 754         *addr_len = sizeof(struct sockaddr_in);
 755         sin->sin_family = AF_INET;
 756         memset(sin->sin_zero, 0, sizeof(sin->sin_zero));
 757 }
 758
 759 /* Copy the primary address of the peer primary address as the msg_name. */
 760 static void sctp_inet_event_msgname(struct sctp_ulpevent *event, char *msgname,
 761                                     int *addr_len)
 762 {
 763         struct sockaddr_in *sin, *sinfrom;
 764
 765         if (msgname) {
 766                 struct sctp_association *asoc;
 767
 768                 asoc = event->asoc;
 769                 sctp_inet_msgname(msgname, addr_len);
 770                 sin = (struct sockaddr_in *)msgname;
 771                 sinfrom = &asoc->peer.primary_addr.v4;
 772                 sin->sin_port = htons(asoc->peer.port);
 773                 sin->sin_addr.s_addr = sinfrom->sin_addr.s_addr;
 774         }
 775 }
 776
 777 /* Initialize and copy out a msgname from an inbound skb. */
 778 static void sctp_inet_skb_msgname(struct sk_buff *skb, char *msgname, int *len)
 779 {
 780         if (msgname) {
 781                 struct sctphdr *sh = sctp_hdr(skb);
 782                 struct sockaddr_in *sin = (struct sockaddr_in *)msgname;
 783
 784                 sctp_inet_msgname(msgname, len);
 785                 sin->sin_port = sh->source;
 786                 sin->sin_addr.s_addr = ip_hdr(skb)->saddr;
 787         }
 788 }
 789
 790 /* Do we support this AF? */
 791 static int sctp_inet_af_supported(sa_family_t family, struct sctp_sock *sp)
 792 {
 793         /* PF_INET only supports AF_INET addresses. */
 794         return (AF_INET == family);
 795 }
 796
 797 /* Address matching with wildcards allowed. */
 798 static int sctp_inet_cmp_addr(const union sctp_addr *addr1,
 799                               const union sctp_addr *addr2,
 800                               struct sctp_sock *opt)
 801 {
 802         /* PF_INET only supports AF_INET addresses. */
 803         if (addr1->sa.sa_family != addr2->sa.sa_family)
 804                 return 0;
 805         if (htonl(INADDR_ANY) == addr1->v4.sin_addr.s_addr ||
 806             htonl(INADDR_ANY) == addr2->v4.sin_addr.s_addr)
 807                 return 1;
 808         if (addr1->v4.sin_addr.s_addr == addr2->v4.sin_addr.s_addr)
 809                 return 1;
 810
 811         return 0;
 812 }
 813
 814 /* Verify that provided sockaddr looks bindable.  Common verification has
 815  * already been taken care of.
 816  */
 817 static int sctp_inet_bind_verify(struct sctp_sock *opt, union sctp_addr *addr)
 818 {
 819         return sctp_v4_available(addr, opt);
 820 }
 821
 822 /* Verify that sockaddr looks sendable.  Common verification has already
 823  * been taken care of.
 824  */
 825 static int sctp_inet_send_verify(struct sctp_sock *opt, union sctp_addr *addr)
 826 {
 827         return 1;
 828 }
 829
 830 /* Fill in Supported Address Type information for INIT and INIT-ACK
 831  * chunks.  Returns number of addresses supported.
 832  */
 833 static int sctp_inet_supported_addrs(const struct sctp_sock *opt,
 834                                      __be16 *types)
 835 {
 836         types[0] = SCTP_PARAM_IPV4_ADDRESS;
 837         return 1;
 838 }
 839
 840 /* Wrapper routine that calls the ip transmit routine. */
 841 static inline int sctp_v4_xmit(struct sk_buff *skb,
 842                                struct sctp_transport *transport, int ipfragok)
 843 {
 844         SCTP_DEBUG_PRINTK("%s: skb:%p, len:%d, "
 845                           "src:%u.%u.%u.%u, dst:%u.%u.%u.%u\n",
 846                           __func__, skb, skb->len,
 847                           NIPQUAD(skb->rtable->rt_src),
 848                           NIPQUAD(skb->rtable->rt_dst));
 849
 850         SCTP_INC_STATS(SCTP_MIB_OUTSCTPPACKS);
 851         return ip_queue_xmit(skb, ipfragok);
 852 }
 853
 854 static struct sctp_af sctp_af_inet;
 855
 856 static struct sctp_pf sctp_pf_inet = {
 857         .event_msgname = sctp_inet_event_msgname,
 858         .skb_msgname   = sctp_inet_skb_msgname,
 859         .af_supported  = sctp_inet_af_supported,
 860         .cmp_addr      = sctp_inet_cmp_addr,
 861         .bind_verify   = sctp_inet_bind_verify,
 862         .send_verify   = sctp_inet_send_verify,
 863         .supported_addrs = sctp_inet_supported_addrs,
 864         .create_accept_sk = sctp_v4_create_accept_sk,
 865         .addr_v4map     = sctp_v4_addr_v4map,
 866         .af            = &sctp_af_inet
 867 };
 868
 869 /* Notifier for inetaddr addition/deletion events.  */
 870 static struct notifier_block sctp_inetaddr_notifier = {
 871         .notifier_call = sctp_inetaddr_event,
 872 };
 873
 874 /* Socket operations.  */
 875 static const struct proto_ops inet_seqpacket_ops = {
 876         .family            = PF_INET,
 877         .owner             = THIS_MODULE,
 878         .release           = inet_release,      /* Needs to be wrapped... */
 879         .bind              = inet_bind,
 880         .connect           = inet_dgram_connect,
 881         .socketpair        = sock_no_socketpair,
 882         .accept            = inet_accept,
 883         .getname           = inet_getname,      /* Semantics are different.  */
 884         .poll              = sctp_poll,
 885         .ioctl             = inet_ioctl,
 886         .listen            = sctp_inet_listen,
 887         .shutdown          = inet_shutdown,     /* Looks harmless.  */
 888         .setsockopt        = sock_common_setsockopt, /* IP_SOL IP_OPTION is a problem */
 889         .getsockopt        = sock_common_getsockopt,
 890         .sendmsg           = inet_sendmsg,
 891         .recvmsg           = sock_common_recvmsg,
 892         .mmap              = sock_no_mmap,
 893         .sendpage          = sock_no_sendpage,
 894 #ifdef CONFIG_COMPAT
 895         .compat_setsockopt = compat_sock_common_setsockopt,
 896         .compat_getsockopt = compat_sock_common_getsockopt,
 897 #endif
 898 };
 899
 900 /* Registration with AF_INET family.  */
 901 static struct inet_protosw sctp_seqpacket_protosw = {
 902         .type       = SOCK_SEQPACKET,
 903         .protocol   = IPPROTO_SCTP,
 904         .prot       = &sctp_prot,
 905         .ops        = &inet_seqpacket_ops,
 906         .capability = -1,
 907         .no_check   = 0,
 908         .flags      = SCTP_PROTOSW_FLAG
 909 };
 910 static struct inet_protosw sctp_stream_protosw = {
 911         .type       = SOCK_STREAM,
 912         .protocol   = IPPROTO_SCTP,
 913         .prot       = &sctp_prot,
 914         .ops        = &inet_seqpacket_ops,
 915         .capability = -1,
 916         .no_check   = 0,
 917         .flags      = SCTP_PROTOSW_FLAG
 918 };
 919
 920 /* Register with IP layer.  */
 921 static struct net_protocol sctp_protocol = {
 922         .handler     = sctp_rcv,
 923         .err_handler = sctp_v4_err,
 924         .no_policy   = 1,
 925 };
 926
 927 /* IPv4 address related functions.  */
 928 static struct sctp_af sctp_af_inet = {
 929         .sa_family         = AF_INET,
 930         .sctp_xmit         = sctp_v4_xmit,
 931         .setsockopt        = ip_setsockopt,
 932         .getsockopt        = ip_getsockopt,
 933         .get_dst           = sctp_v4_get_dst,
 934         .get_saddr         = sctp_v4_get_saddr,
 935         .copy_addrlist     = sctp_v4_copy_addrlist,
 936         .from_skb          = sctp_v4_from_skb,
 937         .from_sk           = sctp_v4_from_sk,
 938         .to_sk_saddr       = sctp_v4_to_sk_saddr,
 939         .to_sk_daddr       = sctp_v4_to_sk_daddr,
 940         .from_addr_param   = sctp_v4_from_addr_param,
 941         .to_addr_param     = sctp_v4_to_addr_param,
 942         .dst_saddr         = sctp_v4_dst_saddr,
 943         .cmp_addr          = sctp_v4_cmp_addr,
 944         .addr_valid        = sctp_v4_addr_valid,
 945         .inaddr_any        = sctp_v4_inaddr_any,
 946         .is_any            = sctp_v4_is_any,
 947         .available         = sctp_v4_available,
 948         .scope             = sctp_v4_scope,
 949         .skb_iif           = sctp_v4_skb_iif,
 950         .is_ce             = sctp_v4_is_ce,
 951         .seq_dump_addr     = sctp_v4_seq_dump_addr,
 952         .ecn_capable       = sctp_v4_ecn_capable,
 953         .net_header_len    = sizeof(struct iphdr),
 954         .sockaddr_len      = sizeof(struct sockaddr_in),
 955 #ifdef CONFIG_COMPAT
 956         .compat_setsockopt = compat_ip_setsockopt,
 957         .compat_getsockopt = compat_ip_getsockopt,
 958 #endif
 959 };
 960
 961 struct sctp_pf *sctp_get_pf_specific(sa_family_t family) {
 962
 963         switch (family) {
 964         case PF_INET:
 965                 return sctp_pf_inet_specific;
 966         case PF_INET6:
 967                 return sctp_pf_inet6_specific;
 968         default:
 969                 return NULL;
 970         }
 971 }
 972
 973 /* Register the PF specific function table.  */
 974 int sctp_register_pf(struct sctp_pf *pf, sa_family_t family)
 975 {
 976         switch (family) {
 977         case PF_INET:
 978                 if (sctp_pf_inet_specific)
 979                         return 0;
 980                 sctp_pf_inet_specific = pf;
 981                 break;
 982         case PF_INET6:
 983                 if (sctp_pf_inet6_specific)
 984                         return 0;
 985                 sctp_pf_inet6_specific = pf;
 986                 break;
 987         default:
 988                 return 0;
 989         }
 990         return 1;
 991 }
 992
 993 static inline int init_sctp_mibs(void)
 994 {
 995         return snmp_mib_init((void**)sctp_statistics, sizeof(struct sctp_mib));
 996 }
 997
 998 static inline void cleanup_sctp_mibs(void)
 999 {
1000         snmp_mib_free((void**)sctp_statistics);
1001 }
1002
1003 static void sctp_v4_pf_init(void)
1004 {
1005         /* Initialize the SCTP specific PF functions. */
1006         sctp_register_pf(&sctp_pf_inet, PF_INET);
1007         sctp_register_af(&sctp_af_inet);
1008 }
1009
1010 static void sctp_v4_pf_exit(void)
1011 {
1012         list_del(&sctp_af_inet.list);
1013 }
1014
1015 static int sctp_v4_protosw_init(void)
1016 {
1017         int rc;
1018
1019         rc = proto_register(&sctp_prot, 1);
1020         if (rc)
1021                 return rc;
1022
1023         /* Register SCTP(UDP and TCP style) with socket layer.  */
1024         inet_register_protosw(&sctp_seqpacket_protosw);
1025         inet_register_protosw(&sctp_stream_protosw);
1026
1027         return 0;
1028 }
1029
1030 static void sctp_v4_protosw_exit(void)
1031 {
1032         inet_unregister_protosw(&sctp_stream_protosw);
1033         inet_unregister_protosw(&sctp_seqpacket_protosw);
1034         proto_unregister(&sctp_prot);
1035 }
1036
1037 static int sctp_v4_add_protocol(void)
1038 {
1039         /* Register notifier for inet address additions/deletions. */
1040         register_inetaddr_notifier(&sctp_inetaddr_notifier);
1041
1042         /* Register SCTP with inet layer.  */
1043         if (inet_add_protocol(&sctp_protocol, IPPROTO_SCTP) < 0)
1044                 return -EAGAIN;
1045
1046         return 0;
1047 }
1048
1049 static void sctp_v4_del_protocol(void)
1050 {
1051         inet_del_protocol(&sctp_protocol, IPPROTO_SCTP);
1052         unregister_inetaddr_notifier(&sctp_inetaddr_notifier);
1053 }
1054
1055 /* Initialize the universe into something sensible.  */
1056 SCTP_STATIC __init int sctp_init(void)
1057 {
1058         int i;
1059         int status = -EINVAL;
1060         unsigned long goal;
1061         unsigned long limit;
1062         int max_share;
1063         int order;
1064
1065         /* SCTP_DEBUG sanity check. */
1066         if (!sctp_sanity_check())
1067                 goto out;
1068
1069         /* Allocate bind_bucket and chunk caches. */
1070         status = -ENOBUFS;
1071         sctp_bucket_cachep = kmem_cache_create("sctp_bind_bucket",
1072                                                sizeof(struct sctp_bind_bucket),
1073                                                0, SLAB_HWCACHE_ALIGN,
1074                                                NULL);
1075         if (!sctp_bucket_cachep)
1076                 goto out;
1077
1078         sctp_chunk_cachep = kmem_cache_create("sctp_chunk",
1079                                                sizeof(struct sctp_chunk),
1080                                                0, SLAB_HWCACHE_ALIGN,
1081                                                NULL);
1082         if (!sctp_chunk_cachep)
1083                 goto err_chunk_cachep;
1084
1085         /* Allocate and initialise sctp mibs.  */
1086         status = init_sctp_mibs();
1087         if (status)
1088                 goto err_init_mibs;
1089
1090         /* Initialize proc fs directory.  */
1091         status = sctp_proc_init();
1092         if (status)
1093                 goto err_init_proc;
1094
1095         /* Initialize object count debugging.  */
1096         sctp_dbg_objcnt_init();
1097
1098         /*
1099          * 14. Suggested SCTP Protocol Parameter Values
1100          */
1101         /* The following protocol parameters are RECOMMENDED:  */
1102         /* RTO.Initial              - 3  seconds */
1103         sctp_rto_initial                = SCTP_RTO_INITIAL;
1104         /* RTO.Min                  - 1  second */
1105         sctp_rto_min                    = SCTP_RTO_MIN;
1106         /* RTO.Max                 -  60 seconds */
1107         sctp_rto_max                    = SCTP_RTO_MAX;
1108         /* RTO.Alpha                - 1/8 */
1109         sctp_rto_alpha                  = SCTP_RTO_ALPHA;
1110         /* RTO.Beta                 - 1/4 */
1111         sctp_rto_beta                   = SCTP_RTO_BETA;
1112
1113         /* Valid.Cookie.Life        - 60  seconds */
1114         sctp_valid_cookie_life          = SCTP_DEFAULT_COOKIE_LIFE;
1115
1116         /* Whether Cookie Preservative is enabled(1) or not(0) */
1117         sctp_cookie_preserve_enable     = 1;
1118
1119         /* Max.Burst                - 4 */
1120         sctp_max_burst                  = SCTP_DEFAULT_MAX_BURST;
1121
1122         /* Association.Max.Retrans  - 10 attempts
1123          * Path.Max.Retrans         - 5  attempts (per destination address)
1124          * Max.Init.Retransmits     - 8  attempts
1125          */
1126         sctp_max_retrans_association    = 10;
1127         sctp_max_retrans_path           = 5;
1128         sctp_max_retrans_init           = 8;
1129
1130         /* Sendbuffer growth        - do per-socket accounting */
1131         sctp_sndbuf_policy              = 0;
1132
1133         /* Rcvbuffer growth         - do per-socket accounting */
1134         sctp_rcvbuf_policy              = 0;
1135
1136         /* HB.interval              - 30 seconds */
1137         sctp_hb_interval                = SCTP_DEFAULT_TIMEOUT_HEARTBEAT;
1138
1139         /* delayed SACK timeout */
1140         sctp_sack_timeout               = SCTP_DEFAULT_TIMEOUT_SACK;
1141
1142         /* Implementation specific variables. */
1143
1144         /* Initialize default stream count setup information. */
1145         sctp_max_instreams              = SCTP_DEFAULT_INSTREAMS;
1146         sctp_max_outstreams             = SCTP_DEFAULT_OUTSTREAMS;
1147
1148         /* Initialize handle used for association ids. */
1149         idr_init(&sctp_assocs_id);
1150
1151         /* Set the pressure threshold to be a fraction of global memory that
1152          * is up to 1/2 at 256 MB, decreasing toward zero with the amount of
1153          * memory, with a floor of 128 pages.
1154          * Note this initalizes the data in sctpv6_prot too
1155          * Unabashedly stolen from tcp_init
1156          */
1157         limit = min(num_physpages, 1UL<<(28-PAGE_SHIFT)) >> (20-PAGE_SHIFT);
1158         limit = (limit * (num_physpages >> (20-PAGE_SHIFT))) >> (PAGE_SHIFT-11);
1159         limit = max(limit, 128UL);
1160         sysctl_sctp_mem[0] = limit / 4 * 3;
1161         sysctl_sctp_mem[1] = limit;
1162         sysctl_sctp_mem[2] = sysctl_sctp_mem[0] * 2;
1163
1164         /* Set per-socket limits to no more than 1/128 the pressure threshold*/
1165         limit = (sysctl_sctp_mem[1]) << (PAGE_SHIFT - 7);
1166         max_share = min(4UL*1024*1024, limit);
1167
1168         sysctl_sctp_rmem[0] = PAGE_SIZE; /* give each asoc 1 page min */
1169         sysctl_sctp_rmem[1] = (1500 *(sizeof(struct sk_buff) + 1));
1170         sysctl_sctp_rmem[2] = max(sysctl_sctp_rmem[1], max_share);
1171
1172         sysctl_sctp_wmem[0] = SK_MEM_QUANTUM;
1173         sysctl_sctp_wmem[1] = 16*1024;
1174         sysctl_sctp_wmem[2] = max(64*1024, max_share);
1175
1176         /* Size and allocate the association hash table.
1177          * The methodology is similar to that of the tcp hash tables.
1178          */
1179         if (num_physpages >= (128 * 1024))
1180                 goal = num_physpages >> (22 - PAGE_SHIFT);
1181         else
1182                 goal = num_physpages >> (24 - PAGE_SHIFT);
1183
1184         for (order = 0; (1UL << order) < goal; order++)
1185                 ;
1186
1187         do {
1188                 sctp_assoc_hashsize = (1UL << order) * PAGE_SIZE /
1189                                         sizeof(struct sctp_hashbucket);
1190                 if ((sctp_assoc_hashsize > (64 * 1024)) && order > 0)
1191                         continue;
1192                 sctp_assoc_hashtable = (struct sctp_hashbucket *)
1193                                         __get_free_pages(GFP_ATOMIC, order);
1194         } while (!sctp_assoc_hashtable && --order > 0);
1195         if (!sctp_assoc_hashtable) {
1196                 printk(KERN_ERR "SCTP: Failed association hash alloc.\n");
1197                 status = -ENOMEM;
1198                 goto err_ahash_alloc;
1199         }
1200         for (i = 0; i < sctp_assoc_hashsize; i++) {
1201                 rwlock_init(&sctp_assoc_hashtable[i].lock);
1202                 INIT_HLIST_HEAD(&sctp_assoc_hashtable[i].chain);
1203         }
1204
1205         /* Allocate and initialize the endpoint hash table.  */
1206         sctp_ep_hashsize = 64;
1207         sctp_ep_hashtable = (struct sctp_hashbucket *)
1208                 kmalloc(64 * sizeof(struct sctp_hashbucket), GFP_KERNEL);
1209         if (!sctp_ep_hashtable) {
1210                 printk(KERN_ERR "SCTP: Failed endpoint_hash alloc.\n");
1211                 status = -ENOMEM;
1212                 goto err_ehash_alloc;
1213         }
1214         for (i = 0; i < sctp_ep_hashsize; i++) {
1215                 rwlock_init(&sctp_ep_hashtable[i].lock);
1216                 INIT_HLIST_HEAD(&sctp_ep_hashtable[i].chain);
1217         }
1218
1219         /* Allocate and initialize the SCTP port hash table.  */
1220         do {
1221                 sctp_port_hashsize = (1UL << order) * PAGE_SIZE /
1222                                         sizeof(struct sctp_bind_hashbucket);
1223                 if ((sctp_port_hashsize > (64 * 1024)) && order > 0)
1224                         continue;
1225                 sctp_port_hashtable = (struct sctp_bind_hashbucket *)
1226                                         __get_free_pages(GFP_ATOMIC, order);
1227         } while (!sctp_port_hashtable && --order > 0);
1228         if (!sctp_port_hashtable) {
1229                 printk(KERN_ERR "SCTP: Failed bind hash alloc.");
1230                 status = -ENOMEM;
1231                 goto err_bhash_alloc;
1232         }
1233         for (i = 0; i < sctp_port_hashsize; i++) {
1234                 spin_lock_init(&sctp_port_hashtable[i].lock);
1235                 INIT_HLIST_HEAD(&sctp_port_hashtable[i].chain);
1236         }
1237
1238         printk(KERN_INFO "SCTP: Hash tables configured "
1239                          "(established %d bind %d)\n",
1240                 sctp_assoc_hashsize, sctp_port_hashsize);
1241
1242         /* Disable ADDIP by default. */
1243         sctp_addip_enable = 0;
1244         sctp_addip_noauth = 0;
1245
1246         /* Enable PR-SCTP by default. */
1247         sctp_prsctp_enable = 1;
1248
1249         /* Disable AUTH by default. */
1250         sctp_auth_enable = 0;
1251
1252         sctp_sysctl_register();
1253
1254         INIT_LIST_HEAD(&sctp_address_families);
1255         sctp_v4_pf_init();
1256         sctp_v6_pf_init();
1257
1258         /* Initialize the local address list. */
1259         INIT_LIST_HEAD(&sctp_local_addr_list);
1260         spin_lock_init(&sctp_local_addr_lock);
1261         sctp_get_local_addr_list();
1262
1263         status = sctp_v4_protosw_init();
1264
1265         if (status)
1266                 goto err_protosw_init;
1267
1268         status = sctp_v6_protosw_init();
1269         if (status)
1270                 goto err_v6_protosw_init;
1271
1272         /* Initialize the control inode/socket for handling OOTB packets.  */
1273         if ((status = sctp_ctl_sock_init())) {
1274                 printk (KERN_ERR
1275                         "SCTP: Failed to initialize the SCTP control sock.\n");
1276                 goto err_ctl_sock_init;
1277         }
1278
1279         status = sctp_v4_add_protocol();
1280         if (status)
1281                 goto err_add_protocol;
1282
1283         /* Register SCTP with inet6 layer.  */
1284         status = sctp_v6_add_protocol();
1285         if (status)
1286                 goto err_v6_add_protocol;
1287
1288         status = 0;
1289 out:
1290         return status;
1291 err_v6_add_protocol:
1292         sctp_v6_del_protocol();
1293 err_add_protocol:
1294         sctp_v4_del_protocol();
1295         inet_ctl_sock_destroy(sctp_ctl_sock);
1296 err_ctl_sock_init:
1297         sctp_v6_protosw_exit();
1298 err_v6_protosw_init:
1299         sctp_v4_protosw_exit();
1300 err_protosw_init:
1301         sctp_free_local_addr_list();
1302         sctp_v4_pf_exit();
1303         sctp_v6_pf_exit();
1304         sctp_sysctl_unregister();
1305         list_del(&sctp_af_inet.list);
1306         free_pages((unsigned long)sctp_port_hashtable,
1307                    get_order(sctp_port_hashsize *
1308                              sizeof(struct sctp_bind_hashbucket)));
1309 err_bhash_alloc:
1310         kfree(sctp_ep_hashtable);
1311 err_ehash_alloc:
1312         free_pages((unsigned long)sctp_assoc_hashtable,
1313                    get_order(sctp_assoc_hashsize *
1314                              sizeof(struct sctp_hashbucket)));
1315 err_ahash_alloc:
1316         sctp_dbg_objcnt_exit();
1317         sctp_proc_exit();
1318 err_init_proc:
1319         cleanup_sctp_mibs();
1320 err_init_mibs:
1321         kmem_cache_destroy(sctp_chunk_cachep);
1322 err_chunk_cachep:
1323         kmem_cache_destroy(sctp_bucket_cachep);
1324         goto out;
1325 }
1326
1327 /* Exit handler for the SCTP protocol.  */
1328 SCTP_STATIC __exit void sctp_exit(void)
1329 {
1330         /* BUG.  This should probably do something useful like clean
1331          * up all the remaining associations and all that memory.
1332          */
1333
1334         /* Unregister with inet6/inet layers. */
1335         sctp_v6_del_protocol();
1336         sctp_v4_del_protocol();
1337
1338         /* Free the control endpoint.  */
1339         inet_ctl_sock_destroy(sctp_ctl_sock);
1340
1341         /* Free protosw registrations */
1342         sctp_v6_protosw_exit();
1343         sctp_v4_protosw_exit();
1344
1345         /* Free the local address list.  */
1346         sctp_free_local_addr_list();
1347
1348         /* Unregister with socket layer. */
1349         sctp_v6_pf_exit();
1350         sctp_v4_pf_exit();
1351
1352         sctp_sysctl_unregister();
1353         list_del(&sctp_af_inet.list);
1354
1355         free_pages((unsigned long)sctp_assoc_hashtable,
1356                    get_order(sctp_assoc_hashsize *
1357                              sizeof(struct sctp_hashbucket)));
1358         kfree(sctp_ep_hashtable);
1359         free_pages((unsigned long)sctp_port_hashtable,
1360                    get_order(sctp_port_hashsize *
1361                              sizeof(struct sctp_bind_hashbucket)));
1362
1363         sctp_dbg_objcnt_exit();
1364         sctp_proc_exit();
1365         cleanup_sctp_mibs();
1366
1367         kmem_cache_destroy(sctp_chunk_cachep);
1368         kmem_cache_destroy(sctp_bucket_cachep);
1369 }
1370
1371 module_init(sctp_init);
1372 module_exit(sctp_exit);
1373
1374 /*
1375  * __stringify doesn't likes enums, so use IPPROTO_SCTP value (132) directly.
1376  */
1377 MODULE_ALIAS("net-pf-" __stringify(PF_INET) "-proto-132");
1378 MODULE_ALIAS("net-pf-" __stringify(PF_INET6) "-proto-132");
1379 MODULE_AUTHOR("Linux Kernel SCTP developers <lksctp-developers@lists.sourceforge.net>");
1380 MODULE_DESCRIPTION("Support for the SCTP protocol (RFC2960)");
1381 MODULE_LICENSE("GPL");