net/dccp/ccids/ccid3.c

   1 /*
   2  *  net/dccp/ccids/ccid3.c
   3  *
   4  *  Copyright (c) 2005 The University of Waikato, Hamilton, New Zealand.
   5  *  Copyright (c) 2005-6 Ian McDonald <ian.mcdonald@jandi.co.nz>
   6  *
   7  *  An implementation of the DCCP protocol
   8  *
   9  *  This code has been developed by the University of Waikato WAND
  10  *  research group. For further information please see http://www.wand.net.nz/
  11  *
  12  *  This code also uses code from Lulea University, rereleased as GPL by its
  13  *  authors:
  14  *  Copyright (c) 2003 Nils-Erik Mattsson, Joacim Haggmark, Magnus Erixzon
  15  *
  16  *  Changes to meet Linux coding standards, to make it meet latest ccid3 draft
  17  *  and to make it work as a loadable module in the DCCP stack written by
  18  *  Arnaldo Carvalho de Melo <acme@conectiva.com.br>.
  19  *
  20  *  Copyright (c) 2005 Arnaldo Carvalho de Melo <acme@conectiva.com.br>
  21  *
  22  *  This program is free software; you can redistribute it and/or modify
  23  *  it under the terms of the GNU General Public License as published by
  24  *  the Free Software Foundation; either version 2 of the License, or
  25  *  (at your option) any later version.
  26  *
  27  *  This program is distributed in the hope that it will be useful,
  28  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
  29  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  30  *  GNU General Public License for more details.
  31  *
  32  *  You should have received a copy of the GNU General Public License
  33  *  along with this program; if not, write to the Free Software
  34  *  Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
  35  */
  36
  37 #include "../ccid.h"
  38 #include "../dccp.h"
  39 #include "lib/packet_history.h"
  40 #include "lib/loss_interval.h"
  41 #include "lib/tfrc.h"
  42 #include "ccid3.h"
  43
  44 /*
  45  * Reason for maths here is to avoid 32 bit overflow when a is big.
  46  * With this we get close to the limit.
  47  */
  48 static u32 usecs_div(const u32 a, const u32 b)
  49 {
  50         const u32 div = a < (UINT_MAX / (USEC_PER_SEC /    10)) ?    10 :
  51                         a < (UINT_MAX / (USEC_PER_SEC /    50)) ?    50 :
  52                         a < (UINT_MAX / (USEC_PER_SEC /   100)) ?   100 :
  53                         a < (UINT_MAX / (USEC_PER_SEC /   500)) ?   500 :
  54                         a < (UINT_MAX / (USEC_PER_SEC /  1000)) ?  1000 :
  55                         a < (UINT_MAX / (USEC_PER_SEC /  5000)) ?  5000 :
  56                         a < (UINT_MAX / (USEC_PER_SEC / 10000)) ? 10000 :
  57                         a < (UINT_MAX / (USEC_PER_SEC / 50000)) ? 50000 :
  58                                                                  100000;
  59         const u32 tmp = a * (USEC_PER_SEC / div);
  60         return (b >= 2 * div) ? tmp / (b / div) : tmp;
  61 }
  62
  63
  64
  65 #ifdef CONFIG_IP_DCCP_CCID3_DEBUG
  66 static int ccid3_debug;
  67 #define ccid3_pr_debug(format, a...)    DCCP_PR_DEBUG(ccid3_debug, format, ##a)
  68 #else
  69 #define ccid3_pr_debug(format, a...)
  70 #endif
  71
  72 static struct dccp_tx_hist *ccid3_tx_hist;
  73 static struct dccp_rx_hist *ccid3_rx_hist;
  74 static struct dccp_li_hist *ccid3_li_hist;
  75
  76 #ifdef CONFIG_IP_DCCP_CCID3_DEBUG
  77 static const char *ccid3_tx_state_name(enum ccid3_hc_tx_states state)
  78 {
  79         static char *ccid3_state_names[] = {
  80         [TFRC_SSTATE_NO_SENT]  = "NO_SENT",
  81         [TFRC_SSTATE_NO_FBACK] = "NO_FBACK",
  82         [TFRC_SSTATE_FBACK]    = "FBACK",
  83         [TFRC_SSTATE_TERM]     = "TERM",
  84         };
  85
  86         return ccid3_state_names[state];
  87 }
  88 #endif
  89
  90 static void ccid3_hc_tx_set_state(struct sock *sk,
  91                                   enum ccid3_hc_tx_states state)
  92 {
  93         struct ccid3_hc_tx_sock *hctx = ccid3_hc_tx_sk(sk);
  94         enum ccid3_hc_tx_states oldstate = hctx->ccid3hctx_state;
  95
  96         ccid3_pr_debug("%s(%p) %-8.8s -> %s\n",
  97                        dccp_role(sk), sk, ccid3_tx_state_name(oldstate),
  98                        ccid3_tx_state_name(state));
  99         WARN_ON(state == oldstate);
 100         hctx->ccid3hctx_state = state;
 101 }
 102
 103 /*
 104  * Recalculate scheduled nominal send time t_nom, inter-packet interval
 105  * t_ipi, and delta value. Should be called after each change to X.
 106  */
 107 static inline void ccid3_update_send_time(struct ccid3_hc_tx_sock *hctx)
 108 {
 109         timeval_sub_usecs(&hctx->ccid3hctx_t_nom, hctx->ccid3hctx_t_ipi);
 110
 111         /* Calculate new t_ipi = s / X_inst (X_inst is in 64 * bytes/second) */
 112         hctx->ccid3hctx_t_ipi = scaled_div(hctx->ccid3hctx_s,
 113                                            hctx->ccid3hctx_x >> 6);
 114
 115         /* Update nominal send time with regard to the new t_ipi */
 116         timeval_add_usecs(&hctx->ccid3hctx_t_nom, hctx->ccid3hctx_t_ipi);
 117
 118         /* Calculate new delta by delta = min(t_ipi / 2, t_gran / 2) */
 119         hctx->ccid3hctx_delta = min_t(u32, hctx->ccid3hctx_t_ipi / 2,
 120                                            TFRC_OPSYS_HALF_TIME_GRAN);
 121 }
 122 /*
 123  * Update X by
 124  *    If (p > 0)
 125  *       X_calc = calcX(s, R, p);
 126  *       X = max(min(X_calc, 2 * X_recv), s / t_mbi);
 127  *    Else
 128  *       If (now - tld >= R)
 129  *          X = max(min(2 * X, 2 * X_recv), s / R);
 130  *          tld = now;
 131  *
 132  * Note: X and X_recv are both stored in units of 64 * bytes/second, to support
 133  *       fine-grained resolution of sending rates. This requires scaling by 2^6
 134  *       throughout the code. Only X_calc is unscaled (in bytes/second).
 135  *
 136  * If X has changed, we also update the scheduled send time t_now,
 137  * the inter-packet interval t_ipi, and the delta value.
 138  */
 139 static void ccid3_hc_tx_update_x(struct sock *sk, struct timeval *now)
 140
 141 {
 142         struct ccid3_hc_tx_sock *hctx = ccid3_hc_tx_sk(sk);
 143         const  __u64 old_x = hctx->ccid3hctx_x;
 144
 145         if (hctx->ccid3hctx_p > 0) {
 146
 147                 hctx->ccid3hctx_x = min_t(u64, hctx->ccid3hctx_x_calc << 6,
 148                                                hctx->ccid3hctx_x_recv * 2  );
 149                 hctx->ccid3hctx_x = max_t(u64, hctx->ccid3hctx_x,
 150                                           (hctx->ccid3hctx_s << 6)/TFRC_T_MBI);
 151
 152         } else if (timeval_delta(now, &hctx->ccid3hctx_t_ld) >=
 153                                                           hctx->ccid3hctx_rtt) {
 154
 155                 hctx->ccid3hctx_x = max(2 * min(hctx->ccid3hctx_x,
 156                                                 hctx->ccid3hctx_x_recv),
 157                                         scaled_div(hctx->ccid3hctx_s << 6,
 158                                                    hctx->ccid3hctx_rtt    ));
 159                 hctx->ccid3hctx_t_ld = *now;
 160         }
 161
 162         if (hctx->ccid3hctx_x != old_x)
 163                 ccid3_update_send_time(hctx);
 164 }
 165
 166 /*
 167  *      Track the mean packet size `s' (cf. RFC 4342, 5.3 and  RFC 3448, 4.1)
 168  *      @len: DCCP packet payload size in bytes
 169  */
 170 static inline void ccid3_hc_tx_update_s(struct ccid3_hc_tx_sock *hctx, int len)
 171 {
 172         if (unlikely(len == 0))
 173                 ccid3_pr_debug("Packet payload length is 0 - not updating\n");
 174         else
 175                 hctx->ccid3hctx_s = hctx->ccid3hctx_s == 0 ? len :
 176                                     (9 * hctx->ccid3hctx_s + len) / 10;
 177         /*
 178          * Note: We could do a potential optimisation here - when `s' changes,
 179          *       recalculate sending rate and consequently t_ipi, t_delta, and
 180          *       t_now. This is however non-standard, and the benefits are not
 181          *       clear, so it is currently left out.
 182          */
 183 }
 184
 185 static void ccid3_hc_tx_no_feedback_timer(unsigned long data)
 186 {
 187         struct sock *sk = (struct sock *)data;
 188         struct ccid3_hc_tx_sock *hctx = ccid3_hc_tx_sk(sk);
 189         unsigned long t_nfb = USEC_PER_SEC / 5;
 190
 191         bh_lock_sock(sk);
 192         if (sock_owned_by_user(sk)) {
 193                 /* Try again later. */
 194                 /* XXX: set some sensible MIB */
 195                 goto restart_timer;
 196         }
 197
 198         ccid3_pr_debug("%s, sk=%p, state=%s\n", dccp_role(sk), sk,
 199                        ccid3_tx_state_name(hctx->ccid3hctx_state));
 200
 201         switch (hctx->ccid3hctx_state) {
 202         case TFRC_SSTATE_NO_FBACK:
 203                 /* RFC 3448, 4.4: Halve send rate directly */
 204                 hctx->ccid3hctx_x = max_t(u32, hctx->ccid3hctx_x / 2,
 205                                           (hctx->ccid3hctx_s << 6)/TFRC_T_MBI);
 206
 207                 ccid3_pr_debug("%s, sk=%p, state=%s, updated tx rate to %u "
 208                                "bytes/s\n",
 209                                dccp_role(sk), sk,
 210                                ccid3_tx_state_name(hctx->ccid3hctx_state),
 211                                (unsigned)(hctx->ccid3hctx_x >> 6));
 212                 /* The value of R is still undefined and so we can not recompute
 213                  * the timout value. Keep initial value as per [RFC 4342, 5]. */
 214                 t_nfb = TFRC_INITIAL_TIMEOUT;
 215                 ccid3_update_send_time(hctx);
 216                 break;
 217         case TFRC_SSTATE_FBACK:
 218                 /*
 219                  * Check if IDLE since last timeout and recv rate is less than
 220                  * 4 packets (in units of 64*bytes/sec) per RTT
 221                  */
 222                 if (!hctx->ccid3hctx_idle ||
 223                     (hctx->ccid3hctx_x_recv >= 4 *
 224                      scaled_div(hctx->ccid3hctx_s << 6, hctx->ccid3hctx_rtt))) {
 225                         struct timeval now;
 226
 227                         ccid3_pr_debug("%s, sk=%p, state=%s, not idle\n",
 228                                        dccp_role(sk), sk,
 229                                        ccid3_tx_state_name(hctx->ccid3hctx_state));
 230
 231                         /*
 232                          *  Modify the cached value of X_recv [RFC 3448, 4.4]
 233                          *
 234                          *  If (p == 0 || X_calc > 2 * X_recv)
 235                          *    X_recv = max(X_recv / 2, s / (2 * t_mbi));
 236                          *  Else
 237                          *    X_recv = X_calc / 4;
 238                          *
 239                          *  Note that X_recv is scaled by 2^6 while X_calc is not
 240                          */
 241                         BUG_ON(hctx->ccid3hctx_p && !hctx->ccid3hctx_x_calc);
 242
 243                         if (hctx->ccid3hctx_p  == 0 ||
 244                             hctx->ccid3hctx_x_calc > (hctx->ccid3hctx_x_recv >> 5))  {
 245
 246                                 hctx->ccid3hctx_x_recv =
 247                                         max_t(u64, hctx->ccid3hctx_x_recv / 2,
 248                                                   (hctx->ccid3hctx_s << 6) /
 249                                                                 (2*TFRC_T_MBI));
 250
 251                                 if (hctx->ccid3hctx_p == 0)
 252                                         dccp_timestamp(sk, &now);
 253                         } else
 254                                 hctx->ccid3hctx_x_recv = hctx->ccid3hctx_x_calc << 4;
 255
 256                         /* Now recalculate X [RFC 3448, 4.3, step (4)] */
 257                         ccid3_hc_tx_update_x(sk, &now);
 258                 }
 259                 /*
 260                  * Schedule no feedback timer to expire in
 261                  * max(t_RTO, 2 * s/X)  =  max(t_RTO, 2 * t_ipi)
 262                  * See comments in packet_recv() regarding the value of t_RTO.
 263                  */
 264                 t_nfb = max(hctx->ccid3hctx_t_rto, 2 * hctx->ccid3hctx_t_ipi);
 265                 break;
 266         case TFRC_SSTATE_NO_SENT:
 267                 DCCP_BUG("Illegal %s state NO_SENT, sk=%p", dccp_role(sk), sk);
 268                 /* fall through */
 269         case TFRC_SSTATE_TERM:
 270                 goto out;
 271         }
 272
 273         hctx->ccid3hctx_idle = 1;
 274
 275 restart_timer:
 276         sk_reset_timer(sk, &hctx->ccid3hctx_no_feedback_timer,
 277                            jiffies + usecs_to_jiffies(t_nfb));
 278 out:
 279         bh_unlock_sock(sk);
 280         sock_put(sk);
 281 }
 282
 283 /*
 284  * returns
 285  *   > 0: delay (in msecs) that should pass before actually sending
 286  *   = 0: can send immediately
 287  *   < 0: error condition; do not send packet
 288  */
 289 static int ccid3_hc_tx_send_packet(struct sock *sk, struct sk_buff *skb)
 290 {
 291         struct dccp_sock *dp = dccp_sk(sk);
 292         struct ccid3_hc_tx_sock *hctx = ccid3_hc_tx_sk(sk);
 293         struct dccp_tx_hist_entry *new_packet;
 294         struct timeval now;
 295         long delay;
 296
 297         BUG_ON(hctx == NULL);
 298
 299         /*
 300          * This function is called only for Data and DataAck packets. Sending
 301          * zero-sized Data(Ack)s is theoretically possible, but for congestion
 302          * control this case is pathological - ignore it.
 303          */
 304         if (unlikely(skb->len == 0))
 305                 return -EBADMSG;
 306
 307         /* See if last packet allocated was not sent */
 308         new_packet = dccp_tx_hist_head(&hctx->ccid3hctx_hist);
 309         if (new_packet == NULL || new_packet->dccphtx_sent) {
 310                 new_packet = dccp_tx_hist_entry_new(ccid3_tx_hist,
 311                                                     GFP_ATOMIC);
 312
 313                 if (unlikely(new_packet == NULL)) {
 314                         DCCP_WARN("%s, sk=%p, not enough mem to add to history,"
 315                                   "send refused\n", dccp_role(sk), sk);
 316                         return -ENOBUFS;
 317                 }
 318
 319                 dccp_tx_hist_add_entry(&hctx->ccid3hctx_hist, new_packet);
 320         }
 321
 322         dccp_timestamp(sk, &now);
 323
 324         switch (hctx->ccid3hctx_state) {
 325         case TFRC_SSTATE_NO_SENT:
 326                 sk_reset_timer(sk, &hctx->ccid3hctx_no_feedback_timer,
 327                                jiffies + usecs_to_jiffies(TFRC_INITIAL_TIMEOUT));
 328                 hctx->ccid3hctx_last_win_count   = 0;
 329                 hctx->ccid3hctx_t_last_win_count = now;
 330                 ccid3_hc_tx_set_state(sk, TFRC_SSTATE_NO_FBACK);
 331
 332                 /* Set initial sending rate X/s to 1pps (X is scaled by 2^6) */
 333                 ccid3_hc_tx_update_s(hctx, skb->len);
 334                 hctx->ccid3hctx_x = hctx->ccid3hctx_s << 6;
 335
 336                 /* First timeout, according to [RFC 3448, 4.2], is 1 second */
 337                 hctx->ccid3hctx_t_ipi = USEC_PER_SEC;
 338                 /* Initial delta: minimum of 0.5 sec and t_gran/2 */
 339                 hctx->ccid3hctx_delta = TFRC_OPSYS_HALF_TIME_GRAN;
 340
 341                 /* Set t_0 for initial packet */
 342                 hctx->ccid3hctx_t_nom = now;
 343                 break;
 344         case TFRC_SSTATE_NO_FBACK:
 345         case TFRC_SSTATE_FBACK:
 346                 delay = timeval_delta(&hctx->ccid3hctx_t_nom, &now);
 347                 /*
 348                  *      Scheduling of packet transmissions [RFC 3448, 4.6]
 349                  *
 350                  * if (t_now > t_nom - delta)
 351                  *       // send the packet now
 352                  * else
 353                  *       // send the packet in (t_nom - t_now) milliseconds.
 354                  */
 355                 if (delay - (long)hctx->ccid3hctx_delta >= 0)
 356                         return delay / 1000L;
 357                 break;
 358         case TFRC_SSTATE_TERM:
 359                 DCCP_BUG("Illegal %s state TERM, sk=%p", dccp_role(sk), sk);
 360                 return -EINVAL;
 361         }
 362
 363         /* prepare to send now (add options etc.) */
 364         dp->dccps_hc_tx_insert_options = 1;
 365         new_packet->dccphtx_ccval = DCCP_SKB_CB(skb)->dccpd_ccval =
 366                                     hctx->ccid3hctx_last_win_count;
 367         timeval_add_usecs(&hctx->ccid3hctx_t_nom, hctx->ccid3hctx_t_ipi);
 368
 369         return 0;
 370 }
 371
 372 static void ccid3_hc_tx_packet_sent(struct sock *sk, int more, unsigned int len)
 373 {
 374         const struct dccp_sock *dp = dccp_sk(sk);
 375         struct ccid3_hc_tx_sock *hctx = ccid3_hc_tx_sk(sk);
 376         struct timeval now;
 377         unsigned long quarter_rtt;
 378         struct dccp_tx_hist_entry *packet;
 379
 380         BUG_ON(hctx == NULL);
 381
 382         dccp_timestamp(sk, &now);
 383
 384         ccid3_hc_tx_update_s(hctx, len);
 385
 386         packet = dccp_tx_hist_head(&hctx->ccid3hctx_hist);
 387         if (unlikely(packet == NULL)) {
 388                 DCCP_WARN("packet doesn't exist in history!\n");
 389                 return;
 390         }
 391         if (unlikely(packet->dccphtx_sent)) {
 392                 DCCP_WARN("no unsent packet in history!\n");
 393                 return;
 394         }
 395         packet->dccphtx_tstamp = now;
 396         packet->dccphtx_seqno  = dp->dccps_gss;
 397         /*
 398          * Check if win_count have changed
 399          * Algorithm in "8.1. Window Counter Value" in RFC 4342.
 400          */
 401         quarter_rtt = timeval_delta(&now, &hctx->ccid3hctx_t_last_win_count);
 402         if (likely(hctx->ccid3hctx_rtt > 8))
 403                 quarter_rtt /= hctx->ccid3hctx_rtt / 4;
 404
 405         if (quarter_rtt > 0) {
 406                 hctx->ccid3hctx_t_last_win_count = now;
 407                 hctx->ccid3hctx_last_win_count   = (hctx->ccid3hctx_last_win_count +
 408                                                     min_t(unsigned long, quarter_rtt, 5)) % 16;
 409                 ccid3_pr_debug("%s, sk=%p, window changed from "
 410                                "%u to %u!\n",
 411                                dccp_role(sk), sk,
 412                                packet->dccphtx_ccval,
 413                                hctx->ccid3hctx_last_win_count);
 414         }
 415
 416         hctx->ccid3hctx_idle = 0;
 417         packet->dccphtx_rtt  = hctx->ccid3hctx_rtt;
 418         packet->dccphtx_sent = 1;
 419 }
 420
 421 static void ccid3_hc_tx_packet_recv(struct sock *sk, struct sk_buff *skb)
 422 {
 423         const struct dccp_sock *dp = dccp_sk(sk);
 424         struct ccid3_hc_tx_sock *hctx = ccid3_hc_tx_sk(sk);
 425         struct ccid3_options_received *opt_recv;
 426         struct dccp_tx_hist_entry *packet;
 427         struct timeval now;
 428         unsigned long t_nfb;
 429         u32 pinv;
 430         long r_sample, t_elapsed;
 431
 432         BUG_ON(hctx == NULL);
 433
 434         /* we are only interested in ACKs */
 435         if (!(DCCP_SKB_CB(skb)->dccpd_type == DCCP_PKT_ACK ||
 436               DCCP_SKB_CB(skb)->dccpd_type == DCCP_PKT_DATAACK))
 437                 return;
 438
 439         opt_recv = &hctx->ccid3hctx_options_received;
 440
 441         switch (hctx->ccid3hctx_state) {
 442         case TFRC_SSTATE_NO_FBACK:
 443         case TFRC_SSTATE_FBACK:
 444                 /* get packet from history to look up t_recvdata */
 445                 packet = dccp_tx_hist_find_entry(&hctx->ccid3hctx_hist,
 446                                                  DCCP_SKB_CB(skb)->dccpd_ack_seq);
 447                 if (unlikely(packet == NULL)) {
 448                         DCCP_WARN("%s(%p), seqno %llu(%s) doesn't exist "
 449                                   "in history!\n",  dccp_role(sk), sk,
 450                             (unsigned long long)DCCP_SKB_CB(skb)->dccpd_ack_seq,
 451                                   dccp_packet_name(DCCP_SKB_CB(skb)->dccpd_type));
 452                         return;
 453                 }
 454
 455                 /* Update receive rate in units of 64 * bytes/second */
 456                 hctx->ccid3hctx_x_recv = opt_recv->ccid3or_receive_rate << 6;
 457
 458                 /* Update loss event rate */
 459                 pinv = opt_recv->ccid3or_loss_event_rate;
 460                 if (pinv == ~0U || pinv == 0)          /* see RFC 4342, 8.5   */
 461                         hctx->ccid3hctx_p = 0;
 462                 else                                   /* can not exceed 100% */
 463                         hctx->ccid3hctx_p = 1000000 / pinv;
 464
 465                 dccp_timestamp(sk, &now);
 466
 467                 /*
 468                  * Calculate new round trip sample as per [RFC 3448, 4.3] by
 469                  *      R_sample  =  (now - t_recvdata) - t_elapsed
 470                  */
 471                 r_sample  = timeval_delta(&now, &packet->dccphtx_tstamp);
 472                 t_elapsed = dp->dccps_options_received.dccpor_elapsed_time * 10;
 473
 474                 if (unlikely(r_sample <= 0)) {
 475                         DCCP_WARN("WARNING: R_sample (%ld) <= 0!\n", r_sample);
 476                         r_sample = 0;
 477                 } else if (unlikely(r_sample <= t_elapsed))
 478                         DCCP_WARN("WARNING: r_sample=%ldus <= t_elapsed=%ldus\n",
 479                                   r_sample, t_elapsed);
 480                 else
 481                         r_sample -= t_elapsed;
 482
 483                 /* Update RTT estimate by
 484                  * If (No feedback recv)
 485                  *    R = R_sample;
 486                  * Else
 487                  *    R = q * R + (1 - q) * R_sample;
 488                  *
 489                  * q is a constant, RFC 3448 recomments 0.9
 490                  */
 491                 if (hctx->ccid3hctx_state == TFRC_SSTATE_NO_FBACK) {
 492                         /*
 493                          * Larger Initial Windows [RFC 4342, sec. 5]
 494                          * We deviate in that we use `s' instead of `MSS'.
 495                          */
 496                         u16 w_init = min(    4 * hctx->ccid3hctx_s,
 497                                          max(2 * hctx->ccid3hctx_s, 4380));
 498                         hctx->ccid3hctx_rtt  = r_sample;
 499                         hctx->ccid3hctx_x    = scaled_div(w_init<< 6, r_sample);
 500                         hctx->ccid3hctx_t_ld = now;
 501
 502                         ccid3_update_send_time(hctx);
 503
 504                         ccid3_pr_debug("%s(%p), s=%u, w_init=%u, "
 505                                        "R_sample=%ldus, X=%u\n", dccp_role(sk),
 506                                        sk, hctx->ccid3hctx_s, w_init, r_sample,
 507                                        (unsigned)(hctx->ccid3hctx_x >> 6));
 508
 509                         ccid3_hc_tx_set_state(sk, TFRC_SSTATE_FBACK);
 510                 } else {
 511                         hctx->ccid3hctx_rtt = (9 * hctx->ccid3hctx_rtt +
 512                                                    (u32)r_sample        ) / 10;
 513
 514                         /* Update sending rate (step 4 of [RFC 3448, 4.3]) */
 515                         if (hctx->ccid3hctx_p > 0)
 516                                 hctx->ccid3hctx_x_calc =
 517                                         tfrc_calc_x(hctx->ccid3hctx_s,
 518                                                     hctx->ccid3hctx_rtt,
 519                                                     hctx->ccid3hctx_p);
 520                         ccid3_hc_tx_update_x(sk, &now);
 521
 522                         ccid3_pr_debug("%s(%p), RTT=%uus (sample=%ldus), s=%u, "
 523                                        "p=%u, X_calc=%u, X=%u\n", dccp_role(sk),
 524                                        sk, hctx->ccid3hctx_rtt, r_sample,
 525                                        hctx->ccid3hctx_s, hctx->ccid3hctx_p,
 526                                        hctx->ccid3hctx_x_calc,
 527                                        (unsigned)(hctx->ccid3hctx_x >> 6));
 528                 }
 529
 530                 /* unschedule no feedback timer */
 531                 sk_stop_timer(sk, &hctx->ccid3hctx_no_feedback_timer);
 532
 533                 /* remove all packets older than the one acked from history */
 534                 dccp_tx_hist_purge_older(ccid3_tx_hist,
 535                                          &hctx->ccid3hctx_hist, packet);
 536                 /*
 537                  * As we have calculated new ipi, delta, t_nom it is possible that
 538                  * we now can send a packet, so wake up dccp_wait_for_ccid
 539                  */
 540                 sk->sk_write_space(sk);
 541
 542                 /*
 543                  * Update timeout interval for the nofeedback timer.
 544                  * We use a configuration option to increase the lower bound.
 545                  * This can help avoid triggering the nofeedback timer too often
 546                  * ('spinning') on LANs with small RTTs.
 547                  */
 548                 hctx->ccid3hctx_t_rto = max_t(u32, 4 * hctx->ccid3hctx_rtt,
 549                                                    CONFIG_IP_DCCP_CCID3_RTO *
 550                                                    (USEC_PER_SEC/1000)       );
 551                 /*
 552                  * Schedule no feedback timer to expire in
 553                  * max(t_RTO, 2 * s/X)  =  max(t_RTO, 2 * t_ipi)
 554                  */
 555                 t_nfb = max(hctx->ccid3hctx_t_rto, 2 * hctx->ccid3hctx_t_ipi);
 556
 557                 ccid3_pr_debug("%s, sk=%p, Scheduled no feedback timer to "
 558                                "expire in %lu jiffies (%luus)\n",
 559                                dccp_role(sk), sk,
 560                                usecs_to_jiffies(t_nfb), t_nfb);
 561
 562                 sk_reset_timer(sk, &hctx->ccid3hctx_no_feedback_timer,
 563                                    jiffies + usecs_to_jiffies(t_nfb));
 564
 565                 /* set idle flag */
 566                 hctx->ccid3hctx_idle = 1;
 567                 break;
 568         case TFRC_SSTATE_NO_SENT:
 569                 if (dccp_sk(sk)->dccps_role == DCCP_ROLE_CLIENT)
 570                         DCCP_WARN("Illegal ACK received - no packet sent\n");
 571                 /* fall through */
 572         case TFRC_SSTATE_TERM:          /* ignore feedback when closing */
 573                 break;
 574         }
 575 }
 576
 577 static int ccid3_hc_tx_insert_options(struct sock *sk, struct sk_buff *skb)
 578 {
 579         const struct ccid3_hc_tx_sock *hctx = ccid3_hc_tx_sk(sk);
 580
 581         BUG_ON(hctx == NULL);
 582
 583         if (sk->sk_state == DCCP_OPEN || sk->sk_state == DCCP_PARTOPEN)
 584                 DCCP_SKB_CB(skb)->dccpd_ccval = hctx->ccid3hctx_last_win_count;
 585         return 0;
 586 }
 587
 588 static int ccid3_hc_tx_parse_options(struct sock *sk, unsigned char option,
 589                                      unsigned char len, u16 idx,
 590                                      unsigned char *value)
 591 {
 592         int rc = 0;
 593         const struct dccp_sock *dp = dccp_sk(sk);
 594         struct ccid3_hc_tx_sock *hctx = ccid3_hc_tx_sk(sk);
 595         struct ccid3_options_received *opt_recv;
 596
 597         BUG_ON(hctx == NULL);
 598
 599         opt_recv = &hctx->ccid3hctx_options_received;
 600
 601         if (opt_recv->ccid3or_seqno != dp->dccps_gsr) {
 602                 opt_recv->ccid3or_seqno              = dp->dccps_gsr;
 603                 opt_recv->ccid3or_loss_event_rate    = ~0;
 604                 opt_recv->ccid3or_loss_intervals_idx = 0;
 605                 opt_recv->ccid3or_loss_intervals_len = 0;
 606                 opt_recv->ccid3or_receive_rate       = 0;
 607         }
 608
 609         switch (option) {
 610         case TFRC_OPT_LOSS_EVENT_RATE:
 611                 if (unlikely(len != 4)) {
 612                         DCCP_WARN("%s, sk=%p, invalid len %d "
 613                                   "for TFRC_OPT_LOSS_EVENT_RATE\n",
 614                                   dccp_role(sk), sk, len);
 615                         rc = -EINVAL;
 616                 } else {
 617                         opt_recv->ccid3or_loss_event_rate = ntohl(*(__be32 *)value);
 618                         ccid3_pr_debug("%s, sk=%p, LOSS_EVENT_RATE=%u\n",
 619                                        dccp_role(sk), sk,
 620                                        opt_recv->ccid3or_loss_event_rate);
 621                 }
 622                 break;
 623         case TFRC_OPT_LOSS_INTERVALS:
 624                 opt_recv->ccid3or_loss_intervals_idx = idx;
 625                 opt_recv->ccid3or_loss_intervals_len = len;
 626                 ccid3_pr_debug("%s, sk=%p, LOSS_INTERVALS=(%u, %u)\n",
 627                                dccp_role(sk), sk,
 628                                opt_recv->ccid3or_loss_intervals_idx,
 629                                opt_recv->ccid3or_loss_intervals_len);
 630                 break;
 631         case TFRC_OPT_RECEIVE_RATE:
 632                 if (unlikely(len != 4)) {
 633                         DCCP_WARN("%s, sk=%p, invalid len %d "
 634                                   "for TFRC_OPT_RECEIVE_RATE\n",
 635                                   dccp_role(sk), sk, len);
 636                         rc = -EINVAL;
 637                 } else {
 638                         opt_recv->ccid3or_receive_rate = ntohl(*(__be32 *)value);
 639                         ccid3_pr_debug("%s, sk=%p, RECEIVE_RATE=%u\n",
 640                                        dccp_role(sk), sk,
 641                                        opt_recv->ccid3or_receive_rate);
 642                 }
 643                 break;
 644         }
 645
 646         return rc;
 647 }
 648
 649 static int ccid3_hc_tx_init(struct ccid *ccid, struct sock *sk)
 650 {
 651         struct ccid3_hc_tx_sock *hctx = ccid_priv(ccid);
 652
 653         hctx->ccid3hctx_s     = 0;
 654         hctx->ccid3hctx_state = TFRC_SSTATE_NO_SENT;
 655         INIT_LIST_HEAD(&hctx->ccid3hctx_hist);
 656
 657         hctx->ccid3hctx_no_feedback_timer.function = ccid3_hc_tx_no_feedback_timer;
 658         hctx->ccid3hctx_no_feedback_timer.data     = (unsigned long)sk;
 659         init_timer(&hctx->ccid3hctx_no_feedback_timer);
 660
 661         return 0;
 662 }
 663
 664 static void ccid3_hc_tx_exit(struct sock *sk)
 665 {
 666         struct ccid3_hc_tx_sock *hctx = ccid3_hc_tx_sk(sk);
 667
 668         BUG_ON(hctx == NULL);
 669
 670         ccid3_hc_tx_set_state(sk, TFRC_SSTATE_TERM);
 671         sk_stop_timer(sk, &hctx->ccid3hctx_no_feedback_timer);
 672
 673         /* Empty packet history */
 674         dccp_tx_hist_purge(ccid3_tx_hist, &hctx->ccid3hctx_hist);
 675 }
 676
 677 /*
 678  * RX Half Connection methods
 679  */
 680
 681 #ifdef CONFIG_IP_DCCP_CCID3_DEBUG
 682 static const char *ccid3_rx_state_name(enum ccid3_hc_rx_states state)
 683 {
 684         static char *ccid3_rx_state_names[] = {
 685         [TFRC_RSTATE_NO_DATA] = "NO_DATA",
 686         [TFRC_RSTATE_DATA]    = "DATA",
 687         [TFRC_RSTATE_TERM]    = "TERM",
 688         };
 689
 690         return ccid3_rx_state_names[state];
 691 }
 692 #endif
 693
 694 static void ccid3_hc_rx_set_state(struct sock *sk,
 695                                   enum ccid3_hc_rx_states state)
 696 {
 697         struct ccid3_hc_rx_sock *hcrx = ccid3_hc_rx_sk(sk);
 698         enum ccid3_hc_rx_states oldstate = hcrx->ccid3hcrx_state;
 699
 700         ccid3_pr_debug("%s(%p) %-8.8s -> %s\n",
 701                        dccp_role(sk), sk, ccid3_rx_state_name(oldstate),
 702                        ccid3_rx_state_name(state));
 703         WARN_ON(state == oldstate);
 704         hcrx->ccid3hcrx_state = state;
 705 }
 706
 707 static inline void ccid3_hc_rx_update_s(struct ccid3_hc_rx_sock *hcrx, int len)
 708 {
 709         if (unlikely(len == 0)) /* don't update on empty packets (e.g. ACKs) */
 710                 ccid3_pr_debug("Packet payload length is 0 - not updating\n");
 711         else
 712                 hcrx->ccid3hcrx_s = hcrx->ccid3hcrx_s == 0 ? len :
 713                                     (9 * hcrx->ccid3hcrx_s + len) / 10;
 714 }
 715
 716 static void ccid3_hc_rx_send_feedback(struct sock *sk)
 717 {
 718         struct ccid3_hc_rx_sock *hcrx = ccid3_hc_rx_sk(sk);
 719         struct dccp_sock *dp = dccp_sk(sk);
 720         struct dccp_rx_hist_entry *packet;
 721         struct timeval now;
 722
 723         ccid3_pr_debug("%s, sk=%p\n", dccp_role(sk), sk);
 724
 725         dccp_timestamp(sk, &now);
 726
 727         switch (hcrx->ccid3hcrx_state) {
 728         case TFRC_RSTATE_NO_DATA:
 729                 hcrx->ccid3hcrx_x_recv = 0;
 730                 break;
 731         case TFRC_RSTATE_DATA: {
 732                 const u32 delta = timeval_delta(&now,
 733                                         &hcrx->ccid3hcrx_tstamp_last_feedback);
 734                 hcrx->ccid3hcrx_x_recv = usecs_div(hcrx->ccid3hcrx_bytes_recv,
 735                                                    delta);
 736         }
 737                 break;
 738         case TFRC_RSTATE_TERM:
 739                 DCCP_BUG("Illegal %s state TERM, sk=%p", dccp_role(sk), sk);
 740                 return;
 741         }
 742
 743         packet = dccp_rx_hist_find_data_packet(&hcrx->ccid3hcrx_hist);
 744         if (unlikely(packet == NULL)) {
 745                 DCCP_WARN("%s, sk=%p, no data packet in history!\n",
 746                           dccp_role(sk), sk);
 747                 return;
 748         }
 749
 750         hcrx->ccid3hcrx_tstamp_last_feedback = now;
 751         hcrx->ccid3hcrx_ccval_last_counter   = packet->dccphrx_ccval;
 752         hcrx->ccid3hcrx_bytes_recv           = 0;
 753
 754         /* Convert to multiples of 10us */
 755         hcrx->ccid3hcrx_elapsed_time =
 756                         timeval_delta(&now, &packet->dccphrx_tstamp) / 10;
 757
 758         if (hcrx->ccid3hcrx_p == 0)
 759                 hcrx->ccid3hcrx_pinv = ~0U;     /* see RFC 4342, 8.5 */
 760         else if (hcrx->ccid3hcrx_p > 1000000) {
 761                 DCCP_WARN("p (%u) > 100%%\n", hcrx->ccid3hcrx_p);
 762                 hcrx->ccid3hcrx_pinv = 1;       /* use 100% in this case */
 763         } else
 764                 hcrx->ccid3hcrx_pinv = 1000000 / hcrx->ccid3hcrx_p;
 765
 766         dp->dccps_hc_rx_insert_options = 1;
 767         dccp_send_ack(sk);
 768 }
 769
 770 static int ccid3_hc_rx_insert_options(struct sock *sk, struct sk_buff *skb)
 771 {
 772         const struct ccid3_hc_rx_sock *hcrx = ccid3_hc_rx_sk(sk);
 773         __be32 x_recv, pinv;
 774
 775         BUG_ON(hcrx == NULL);
 776
 777         if (!(sk->sk_state == DCCP_OPEN || sk->sk_state == DCCP_PARTOPEN))
 778                 return 0;
 779
 780         DCCP_SKB_CB(skb)->dccpd_ccval = hcrx->ccid3hcrx_ccval_last_counter;
 781
 782         if (dccp_packet_without_ack(skb))
 783                 return 0;
 784
 785         x_recv = htonl(hcrx->ccid3hcrx_x_recv);
 786         pinv   = htonl(hcrx->ccid3hcrx_pinv);
 787
 788         if ((hcrx->ccid3hcrx_elapsed_time != 0 &&
 789              dccp_insert_option_elapsed_time(sk, skb,
 790                                              hcrx->ccid3hcrx_elapsed_time)) ||
 791             dccp_insert_option_timestamp(sk, skb) ||
 792             dccp_insert_option(sk, skb, TFRC_OPT_LOSS_EVENT_RATE,
 793                                &pinv, sizeof(pinv)) ||
 794             dccp_insert_option(sk, skb, TFRC_OPT_RECEIVE_RATE,
 795                                &x_recv, sizeof(x_recv)))
 796                 return -1;
 797
 798         return 0;
 799 }
 800
 801 /* calculate first loss interval
 802  *
 803  * returns estimated loss interval in usecs */
 804
 805 static u32 ccid3_hc_rx_calc_first_li(struct sock *sk)
 806 {
 807         struct ccid3_hc_rx_sock *hcrx = ccid3_hc_rx_sk(sk);
 808         struct dccp_rx_hist_entry *entry, *next, *tail = NULL;
 809         u32 rtt, delta, x_recv, fval, p, tmp2;
 810         struct timeval tstamp = { 0, };
 811         int interval = 0;
 812         int win_count = 0;
 813         int step = 0;
 814         u64 tmp1;
 815
 816         list_for_each_entry_safe(entry, next, &hcrx->ccid3hcrx_hist,
 817                                  dccphrx_node) {
 818                 if (dccp_rx_hist_entry_data_packet(entry)) {
 819                         tail = entry;
 820
 821                         switch (step) {
 822                         case 0:
 823                                 tstamp    = entry->dccphrx_tstamp;
 824                                 win_count = entry->dccphrx_ccval;
 825                                 step = 1;
 826                                 break;
 827                         case 1:
 828                                 interval = win_count - entry->dccphrx_ccval;
 829                                 if (interval < 0)
 830                                         interval += TFRC_WIN_COUNT_LIMIT;
 831                                 if (interval > 4)
 832                                         goto found;
 833                                 break;
 834                         }
 835                 }
 836         }
 837
 838         if (unlikely(step == 0)) {
 839                 DCCP_WARN("%s, sk=%p, packet history has no data packets!\n",
 840                           dccp_role(sk), sk);
 841                 return ~0;
 842         }
 843
 844         if (unlikely(interval == 0)) {
 845                 DCCP_WARN("%s, sk=%p, Could not find a win_count interval > 0."
 846                           "Defaulting to 1\n", dccp_role(sk), sk);
 847                 interval = 1;
 848         }
 849 found:
 850         if (!tail) {
 851                 DCCP_CRIT("tail is null\n");
 852                 return ~0;
 853         }
 854         rtt = timeval_delta(&tstamp, &tail->dccphrx_tstamp) * 4 / interval;
 855         ccid3_pr_debug("%s, sk=%p, approximated RTT to %uus\n",
 856                        dccp_role(sk), sk, rtt);
 857
 858         if (rtt == 0) {
 859                 DCCP_WARN("RTT==0, setting to 1\n");
 860                 rtt = 1;
 861         }
 862
 863         dccp_timestamp(sk, &tstamp);
 864         delta = timeval_delta(&tstamp, &hcrx->ccid3hcrx_tstamp_last_feedback);
 865         x_recv = usecs_div(hcrx->ccid3hcrx_bytes_recv, delta);
 866
 867         if (x_recv == 0)
 868                 x_recv = hcrx->ccid3hcrx_x_recv;
 869
 870         tmp1 = (u64)x_recv * (u64)rtt;
 871         do_div(tmp1,10000000);
 872         tmp2 = (u32)tmp1;
 873
 874         if (!tmp2) {
 875                 DCCP_CRIT("tmp2 = 0, x_recv = %u, rtt =%u\n", x_recv, rtt);
 876                 return ~0;
 877         }
 878
 879         fval = (hcrx->ccid3hcrx_s * 100000) / tmp2;
 880         /* do not alter order above or you will get overflow on 32 bit */
 881         p = tfrc_calc_x_reverse_lookup(fval);
 882         ccid3_pr_debug("%s, sk=%p, receive rate=%u bytes/s, implied "
 883                        "loss rate=%u\n", dccp_role(sk), sk, x_recv, p);
 884
 885         if (p == 0)
 886                 return ~0;
 887         else
 888                 return 1000000 / p;
 889 }
 890
 891 static void ccid3_hc_rx_update_li(struct sock *sk, u64 seq_loss, u8 win_loss)
 892 {
 893         struct ccid3_hc_rx_sock *hcrx = ccid3_hc_rx_sk(sk);
 894         struct dccp_li_hist_entry *head;
 895         u64 seq_temp;
 896
 897         if (list_empty(&hcrx->ccid3hcrx_li_hist)) {
 898                 if (!dccp_li_hist_interval_new(ccid3_li_hist,
 899                    &hcrx->ccid3hcrx_li_hist, seq_loss, win_loss))
 900                         return;
 901
 902                 head = list_entry(hcrx->ccid3hcrx_li_hist.next,
 903                    struct dccp_li_hist_entry, dccplih_node);
 904                 head->dccplih_interval = ccid3_hc_rx_calc_first_li(sk);
 905         } else {
 906                 struct dccp_li_hist_entry *entry;
 907                 struct list_head *tail;
 908
 909                 head = list_entry(hcrx->ccid3hcrx_li_hist.next,
 910                    struct dccp_li_hist_entry, dccplih_node);
 911                 /* FIXME win count check removed as was wrong */
 912                 /* should make this check with receive history */
 913                 /* and compare there as per section 10.2 of RFC4342 */
 914
 915                 /* new loss event detected */
 916                 /* calculate last interval length */
 917                 seq_temp = dccp_delta_seqno(head->dccplih_seqno, seq_loss);
 918                 entry = dccp_li_hist_entry_new(ccid3_li_hist, GFP_ATOMIC);
 919
 920                 if (entry == NULL) {
 921                         DCCP_BUG("out of memory - can not allocate entry");
 922                         return;
 923                 }
 924
 925                 list_add(&entry->dccplih_node, &hcrx->ccid3hcrx_li_hist);
 926
 927                 tail = hcrx->ccid3hcrx_li_hist.prev;
 928                 list_del(tail);
 929                 kmem_cache_free(ccid3_li_hist->dccplih_slab, tail);
 930
 931                 /* Create the newest interval */
 932                 entry->dccplih_seqno = seq_loss;
 933                 entry->dccplih_interval = seq_temp;
 934                 entry->dccplih_win_count = win_loss;
 935         }
 936 }
 937
 938 static int ccid3_hc_rx_detect_loss(struct sock *sk,
 939                                     struct dccp_rx_hist_entry *packet)
 940 {
 941         struct ccid3_hc_rx_sock *hcrx = ccid3_hc_rx_sk(sk);
 942         struct dccp_rx_hist_entry *rx_hist = dccp_rx_hist_head(&hcrx->ccid3hcrx_hist);
 943         u64 seqno = packet->dccphrx_seqno;
 944         u64 tmp_seqno;
 945         int loss = 0;
 946         u8 ccval;
 947
 948
 949         tmp_seqno = hcrx->ccid3hcrx_seqno_nonloss;
 950
 951         if (!rx_hist ||
 952            follows48(packet->dccphrx_seqno, hcrx->ccid3hcrx_seqno_nonloss)) {
 953                 hcrx->ccid3hcrx_seqno_nonloss = seqno;
 954                 hcrx->ccid3hcrx_ccval_nonloss = packet->dccphrx_ccval;
 955                 goto detect_out;
 956         }
 957
 958
 959         while (dccp_delta_seqno(hcrx->ccid3hcrx_seqno_nonloss, seqno)
 960            > TFRC_RECV_NUM_LATE_LOSS) {
 961                 loss = 1;
 962                 ccid3_hc_rx_update_li(sk, hcrx->ccid3hcrx_seqno_nonloss,
 963                    hcrx->ccid3hcrx_ccval_nonloss);
 964                 tmp_seqno = hcrx->ccid3hcrx_seqno_nonloss;
 965                 dccp_inc_seqno(&tmp_seqno);
 966                 hcrx->ccid3hcrx_seqno_nonloss = tmp_seqno;
 967                 dccp_inc_seqno(&tmp_seqno);
 968                 while (dccp_rx_hist_find_entry(&hcrx->ccid3hcrx_hist,
 969                    tmp_seqno, &ccval)) {
 970                         hcrx->ccid3hcrx_seqno_nonloss = tmp_seqno;
 971                         hcrx->ccid3hcrx_ccval_nonloss = ccval;
 972                         dccp_inc_seqno(&tmp_seqno);
 973                 }
 974         }
 975
 976         /* FIXME - this code could be simplified with above while */
 977         /* but works at moment */
 978         if (follows48(packet->dccphrx_seqno, hcrx->ccid3hcrx_seqno_nonloss)) {
 979                 hcrx->ccid3hcrx_seqno_nonloss = seqno;
 980                 hcrx->ccid3hcrx_ccval_nonloss = packet->dccphrx_ccval;
 981         }
 982
 983 detect_out:
 984         dccp_rx_hist_add_packet(ccid3_rx_hist, &hcrx->ccid3hcrx_hist,
 985                    &hcrx->ccid3hcrx_li_hist, packet,
 986                    hcrx->ccid3hcrx_seqno_nonloss);
 987         return loss;
 988 }
 989
 990 static void ccid3_hc_rx_packet_recv(struct sock *sk, struct sk_buff *skb)
 991 {
 992         struct ccid3_hc_rx_sock *hcrx = ccid3_hc_rx_sk(sk);
 993         const struct dccp_options_received *opt_recv;
 994         struct dccp_rx_hist_entry *packet;
 995         struct timeval now;
 996         u32 p_prev, rtt_prev, r_sample, t_elapsed;
 997         int loss, payload_size;
 998
 999         BUG_ON(hcrx == NULL);
1000
1001         opt_recv = &dccp_sk(sk)->dccps_options_received;
1002
1003         switch (DCCP_SKB_CB(skb)->dccpd_type) {
1004         case DCCP_PKT_ACK:
1005                 if (hcrx->ccid3hcrx_state == TFRC_RSTATE_NO_DATA)
1006                         return;
1007         case DCCP_PKT_DATAACK:
1008                 if (opt_recv->dccpor_timestamp_echo == 0)
1009                         break;
1010                 rtt_prev = hcrx->ccid3hcrx_rtt;
1011                 dccp_timestamp(sk, &now);
1012                 timeval_sub_usecs(&now, opt_recv->dccpor_timestamp_echo * 10);
1013                 r_sample = timeval_usecs(&now);
1014                 t_elapsed = opt_recv->dccpor_elapsed_time * 10;
1015
1016                 if (unlikely(r_sample <= t_elapsed))
1017                         DCCP_WARN("r_sample=%uus, t_elapsed=%uus\n",
1018                                   r_sample, t_elapsed);
1019                 else
1020                         r_sample -= t_elapsed;
1021
1022                 if (hcrx->ccid3hcrx_state == TFRC_RSTATE_NO_DATA)
1023                         hcrx->ccid3hcrx_rtt = r_sample;
1024                 else
1025                         hcrx->ccid3hcrx_rtt = (hcrx->ccid3hcrx_rtt * 9) / 10 +
1026                                               r_sample / 10;
1027
1028                 if (rtt_prev != hcrx->ccid3hcrx_rtt)
1029                         ccid3_pr_debug("%s, New RTT=%uus, elapsed time=%u\n",
1030                                        dccp_role(sk), hcrx->ccid3hcrx_rtt,
1031                                        opt_recv->dccpor_elapsed_time);
1032                 break;
1033         case DCCP_PKT_DATA:
1034                 break;
1035         default: /* We're not interested in other packet types, move along */
1036                 return;
1037         }
1038
1039         packet = dccp_rx_hist_entry_new(ccid3_rx_hist, sk, opt_recv->dccpor_ndp,
1040                                         skb, GFP_ATOMIC);
1041         if (unlikely(packet == NULL)) {
1042                 DCCP_WARN("%s, sk=%p, Not enough mem to add rx packet "
1043                           "to history, consider it lost!\n", dccp_role(sk), sk);
1044                 return;
1045         }
1046
1047         loss = ccid3_hc_rx_detect_loss(sk, packet);
1048
1049         if (DCCP_SKB_CB(skb)->dccpd_type == DCCP_PKT_ACK)
1050                 return;
1051
1052         payload_size = skb->len - dccp_hdr(skb)->dccph_doff * 4;
1053         ccid3_hc_rx_update_s(hcrx, payload_size);
1054
1055         switch (hcrx->ccid3hcrx_state) {
1056         case TFRC_RSTATE_NO_DATA:
1057                 ccid3_pr_debug("%s, sk=%p(%s), skb=%p, sending initial "
1058                                "feedback\n",
1059                                dccp_role(sk), sk,
1060                                dccp_state_name(sk->sk_state), skb);
1061                 ccid3_hc_rx_send_feedback(sk);
1062                 ccid3_hc_rx_set_state(sk, TFRC_RSTATE_DATA);
1063                 return;
1064         case TFRC_RSTATE_DATA:
1065                 hcrx->ccid3hcrx_bytes_recv += payload_size;
1066                 if (loss)
1067                         break;
1068
1069                 dccp_timestamp(sk, &now);
1070                 if (timeval_delta(&now, &hcrx->ccid3hcrx_tstamp_last_ack) >=
1071                     hcrx->ccid3hcrx_rtt) {
1072                         hcrx->ccid3hcrx_tstamp_last_ack = now;
1073                         ccid3_hc_rx_send_feedback(sk);
1074                 }
1075                 return;
1076         case TFRC_RSTATE_TERM:
1077                 DCCP_BUG("Illegal %s state TERM, sk=%p", dccp_role(sk), sk);
1078                 return;
1079         }
1080
1081         /* Dealing with packet loss */
1082         ccid3_pr_debug("%s, sk=%p(%s), data loss! Reacting...\n",
1083                        dccp_role(sk), sk, dccp_state_name(sk->sk_state));
1084
1085         p_prev = hcrx->ccid3hcrx_p;
1086
1087         /* Calculate loss event rate */
1088         if (!list_empty(&hcrx->ccid3hcrx_li_hist)) {
1089                 u32 i_mean = dccp_li_hist_calc_i_mean(&hcrx->ccid3hcrx_li_hist);
1090
1091                 /* Scaling up by 1000000 as fixed decimal */
1092                 if (i_mean != 0)
1093                         hcrx->ccid3hcrx_p = 1000000 / i_mean;
1094         } else
1095                 DCCP_BUG("empty loss history");
1096
1097         if (hcrx->ccid3hcrx_p > p_prev) {
1098                 ccid3_hc_rx_send_feedback(sk);
1099                 return;
1100         }
1101 }
1102
1103 static int ccid3_hc_rx_init(struct ccid *ccid, struct sock *sk)
1104 {
1105         struct ccid3_hc_rx_sock *hcrx = ccid_priv(ccid);
1106
1107         ccid3_pr_debug("%s, sk=%p\n", dccp_role(sk), sk);
1108
1109         hcrx->ccid3hcrx_state = TFRC_RSTATE_NO_DATA;
1110         INIT_LIST_HEAD(&hcrx->ccid3hcrx_hist);
1111         INIT_LIST_HEAD(&hcrx->ccid3hcrx_li_hist);
1112         dccp_timestamp(sk, &hcrx->ccid3hcrx_tstamp_last_ack);
1113         hcrx->ccid3hcrx_tstamp_last_feedback = hcrx->ccid3hcrx_tstamp_last_ack;
1114         hcrx->ccid3hcrx_s   = 0;
1115         hcrx->ccid3hcrx_rtt = 5000; /* XXX 5ms for now... */
1116         return 0;
1117 }
1118
1119 static void ccid3_hc_rx_exit(struct sock *sk)
1120 {
1121         struct ccid3_hc_rx_sock *hcrx = ccid3_hc_rx_sk(sk);
1122
1123         BUG_ON(hcrx == NULL);
1124
1125         ccid3_hc_rx_set_state(sk, TFRC_RSTATE_TERM);
1126
1127         /* Empty packet history */
1128         dccp_rx_hist_purge(ccid3_rx_hist, &hcrx->ccid3hcrx_hist);
1129
1130         /* Empty loss interval history */
1131         dccp_li_hist_purge(ccid3_li_hist, &hcrx->ccid3hcrx_li_hist);
1132 }
1133
1134 static void ccid3_hc_rx_get_info(struct sock *sk, struct tcp_info *info)
1135 {
1136         const struct ccid3_hc_rx_sock *hcrx = ccid3_hc_rx_sk(sk);
1137
1138         /* Listen socks doesn't have a private CCID block */
1139         if (sk->sk_state == DCCP_LISTEN)
1140                 return;
1141
1142         BUG_ON(hcrx == NULL);
1143
1144         info->tcpi_ca_state     = hcrx->ccid3hcrx_state;
1145         info->tcpi_options      |= TCPI_OPT_TIMESTAMPS;
1146         info->tcpi_rcv_rtt      = hcrx->ccid3hcrx_rtt;
1147 }
1148
1149 static void ccid3_hc_tx_get_info(struct sock *sk, struct tcp_info *info)
1150 {
1151         const struct ccid3_hc_tx_sock *hctx = ccid3_hc_tx_sk(sk);
1152
1153         /* Listen socks doesn't have a private CCID block */
1154         if (sk->sk_state == DCCP_LISTEN)
1155                 return;
1156
1157         BUG_ON(hctx == NULL);
1158
1159         info->tcpi_rto = hctx->ccid3hctx_t_rto;
1160         info->tcpi_rtt = hctx->ccid3hctx_rtt;
1161 }
1162
1163 static int ccid3_hc_rx_getsockopt(struct sock *sk, const int optname, int len,
1164                                   u32 __user *optval, int __user *optlen)
1165 {
1166         const struct ccid3_hc_rx_sock *hcrx = ccid3_hc_rx_sk(sk);
1167         const void *val;
1168
1169         /* Listen socks doesn't have a private CCID block */
1170         if (sk->sk_state == DCCP_LISTEN)
1171                 return -EINVAL;
1172
1173         switch (optname) {
1174         case DCCP_SOCKOPT_CCID_RX_INFO:
1175                 if (len < sizeof(hcrx->ccid3hcrx_tfrc))
1176                         return -EINVAL;
1177                 len = sizeof(hcrx->ccid3hcrx_tfrc);
1178                 val = &hcrx->ccid3hcrx_tfrc;
1179                 break;
1180         default:
1181                 return -ENOPROTOOPT;
1182         }
1183
1184         if (put_user(len, optlen) || copy_to_user(optval, val, len))
1185                 return -EFAULT;
1186
1187         return 0;
1188 }
1189
1190 static int ccid3_hc_tx_getsockopt(struct sock *sk, const int optname, int len,
1191                                   u32 __user *optval, int __user *optlen)
1192 {
1193         const struct ccid3_hc_tx_sock *hctx = ccid3_hc_tx_sk(sk);
1194         const void *val;
1195
1196         /* Listen socks doesn't have a private CCID block */
1197         if (sk->sk_state == DCCP_LISTEN)
1198                 return -EINVAL;
1199
1200         switch (optname) {
1201         case DCCP_SOCKOPT_CCID_TX_INFO:
1202                 if (len < sizeof(hctx->ccid3hctx_tfrc))
1203                         return -EINVAL;
1204                 len = sizeof(hctx->ccid3hctx_tfrc);
1205                 val = &hctx->ccid3hctx_tfrc;
1206                 break;
1207         default:
1208                 return -ENOPROTOOPT;
1209         }
1210
1211         if (put_user(len, optlen) || copy_to_user(optval, val, len))
1212                 return -EFAULT;
1213
1214         return 0;
1215 }
1216
1217 static struct ccid_operations ccid3 = {
1218         .ccid_id                   = DCCPC_CCID3,
1219         .ccid_name                 = "ccid3",
1220         .ccid_owner                = THIS_MODULE,
1221         .ccid_hc_tx_obj_size       = sizeof(struct ccid3_hc_tx_sock),
1222         .ccid_hc_tx_init           = ccid3_hc_tx_init,
1223         .ccid_hc_tx_exit           = ccid3_hc_tx_exit,
1224         .ccid_hc_tx_send_packet    = ccid3_hc_tx_send_packet,
1225         .ccid_hc_tx_packet_sent    = ccid3_hc_tx_packet_sent,
1226         .ccid_hc_tx_packet_recv    = ccid3_hc_tx_packet_recv,
1227         .ccid_hc_tx_insert_options = ccid3_hc_tx_insert_options,
1228         .ccid_hc_tx_parse_options  = ccid3_hc_tx_parse_options,
1229         .ccid_hc_rx_obj_size       = sizeof(struct ccid3_hc_rx_sock),
1230         .ccid_hc_rx_init           = ccid3_hc_rx_init,
1231         .ccid_hc_rx_exit           = ccid3_hc_rx_exit,
1232         .ccid_hc_rx_insert_options = ccid3_hc_rx_insert_options,
1233         .ccid_hc_rx_packet_recv    = ccid3_hc_rx_packet_recv,
1234         .ccid_hc_rx_get_info       = ccid3_hc_rx_get_info,
1235         .ccid_hc_tx_get_info       = ccid3_hc_tx_get_info,
1236         .ccid_hc_rx_getsockopt     = ccid3_hc_rx_getsockopt,
1237         .ccid_hc_tx_getsockopt     = ccid3_hc_tx_getsockopt,
1238 };
1239
1240 #ifdef CONFIG_IP_DCCP_CCID3_DEBUG
1241 module_param(ccid3_debug, int, 0444);
1242 MODULE_PARM_DESC(ccid3_debug, "Enable debug messages");
1243 #endif
1244
1245 static __init int ccid3_module_init(void)
1246 {
1247         int rc = -ENOBUFS;
1248
1249         ccid3_rx_hist = dccp_rx_hist_new("ccid3");
1250         if (ccid3_rx_hist == NULL)
1251                 goto out;
1252
1253         ccid3_tx_hist = dccp_tx_hist_new("ccid3");
1254         if (ccid3_tx_hist == NULL)
1255                 goto out_free_rx;
1256
1257         ccid3_li_hist = dccp_li_hist_new("ccid3");
1258         if (ccid3_li_hist == NULL)
1259                 goto out_free_tx;
1260
1261         rc = ccid_register(&ccid3);
1262         if (rc != 0)
1263                 goto out_free_loss_interval_history;
1264 out:
1265         return rc;
1266
1267 out_free_loss_interval_history:
1268         dccp_li_hist_delete(ccid3_li_hist);
1269         ccid3_li_hist = NULL;
1270 out_free_tx:
1271         dccp_tx_hist_delete(ccid3_tx_hist);
1272         ccid3_tx_hist = NULL;
1273 out_free_rx:
1274         dccp_rx_hist_delete(ccid3_rx_hist);
1275         ccid3_rx_hist = NULL;
1276         goto out;
1277 }
1278 module_init(ccid3_module_init);
1279
1280 static __exit void ccid3_module_exit(void)
1281 {
1282         ccid_unregister(&ccid3);
1283
1284         if (ccid3_tx_hist != NULL) {
1285                 dccp_tx_hist_delete(ccid3_tx_hist);
1286                 ccid3_tx_hist = NULL;
1287         }
1288         if (ccid3_rx_hist != NULL) {
1289                 dccp_rx_hist_delete(ccid3_rx_hist);
1290                 ccid3_rx_hist = NULL;
1291         }
1292         if (ccid3_li_hist != NULL) {
1293                 dccp_li_hist_delete(ccid3_li_hist);
1294                 ccid3_li_hist = NULL;
1295         }
1296 }
1297 module_exit(ccid3_module_exit);
1298
1299 MODULE_AUTHOR("Ian McDonald <ian.mcdonald@jandi.co.nz>, "
1300               "Arnaldo Carvalho de Melo <acme@ghostprotocols.net>");
1301 MODULE_DESCRIPTION("DCCP TFRC CCID3 CCID");
1302 MODULE_LICENSE("GPL");
1303 MODULE_ALIAS("net-dccp-ccid-3");