drivers/media/platform/vim2m.c

   1 // SPDX-License-Identifier: GPL-2.0+
   2 /*
   3  * A virtual v4l2-mem2mem example device.
   4  *
   5  * This is a virtual device driver for testing mem-to-mem videobuf framework.
   6  * It simulates a device that uses memory buffers for both source and
   7  * destination, processes the data and issues an "irq" (simulated by a delayed
   8  * workqueue).
   9  * The device is capable of multi-instance, multi-buffer-per-transaction
  10  * operation (via the mem2mem framework).
  11  *
  12  * Copyright (c) 2009-2010 Samsung Electronics Co., Ltd.
  13  * Pawel Osciak, <pawel@osciak.com>
  14  * Marek Szyprowski, <m.szyprowski@samsung.com>
  15  *
  16  * This program is free software; you can redistribute it and/or modify
  17  * it under the terms of the GNU General Public License as published by the
  18  * Free Software Foundation; either version 2 of the
  19  * License, or (at your option) any later version
  20  */
  21 #include <linux/module.h>
  22 #include <linux/delay.h>
  23 #include <linux/fs.h>
  24 #include <linux/sched.h>
  25 #include <linux/slab.h>
  26
  27 #include <linux/platform_device.h>
  28 #include <media/v4l2-mem2mem.h>
  29 #include <media/v4l2-device.h>
  30 #include <media/v4l2-ioctl.h>
  31 #include <media/v4l2-ctrls.h>
  32 #include <media/v4l2-event.h>
  33 #include <media/videobuf2-vmalloc.h>
  34
  35 MODULE_DESCRIPTION("Virtual device for mem2mem framework testing");
  36 MODULE_AUTHOR("Pawel Osciak, <pawel@osciak.com>");
  37 MODULE_LICENSE("GPL");
  38 MODULE_VERSION("0.2");
  39 MODULE_ALIAS("mem2mem_testdev");
  40
  41 static unsigned int debug;
  42 module_param(debug, uint, 0644);
  43 MODULE_PARM_DESC(debug, "debug level");
  44
  45 /* Default transaction time in msec */
  46 static unsigned int default_transtime = 40; /* Max 25 fps */
  47 module_param(default_transtime, uint, 0644);
  48 MODULE_PARM_DESC(default_transtime, "default transaction time in ms");
  49
  50 #define MIN_W 32
  51 #define MIN_H 32
  52 #define MAX_W 640
  53 #define MAX_H 480
  54
  55 /* Pixel alignment for non-bayer formats */
  56 #define WIDTH_ALIGN 2
  57 #define HEIGHT_ALIGN 1
  58
  59 /* Pixel alignment for bayer formats */
  60 #define BAYER_WIDTH_ALIGN  2
  61 #define BAYER_HEIGHT_ALIGN 2
  62
  63 /* Flags that indicate a format can be used for capture/output */
  64 #define MEM2MEM_CAPTURE BIT(0)
  65 #define MEM2MEM_OUTPUT  BIT(1)
  66
  67 #define MEM2MEM_NAME            "vim2m"
  68
  69 /* Per queue */
  70 #define MEM2MEM_DEF_NUM_BUFS    VIDEO_MAX_FRAME
  71 /* In bytes, per queue */
  72 #define MEM2MEM_VID_MEM_LIMIT   (16 * 1024 * 1024)
  73
  74 /* Flags that indicate processing mode */
  75 #define MEM2MEM_HFLIP   BIT(0)
  76 #define MEM2MEM_VFLIP   BIT(1)
  77
  78 #define dprintk(dev, lvl, fmt, arg...) \
  79         v4l2_dbg(lvl, debug, &(dev)->v4l2_dev, "%s: " fmt, __func__, ## arg)
  80
  81 static void vim2m_dev_release(struct device *dev)
  82 {}
  83
  84 static struct platform_device vim2m_pdev = {
  85         .name           = MEM2MEM_NAME,
  86         .dev.release    = vim2m_dev_release,
  87 };
  88
  89 struct vim2m_fmt {
  90         u32     fourcc;
  91         int     depth;
  92         /* Types the format can be used for */
  93         u32     types;
  94 };
  95
  96 static struct vim2m_fmt formats[] = {
  97         {
  98                 .fourcc = V4L2_PIX_FMT_RGB565,  /* rrrrrggg gggbbbbb */
  99                 .depth  = 16,
 100                 .types  = MEM2MEM_CAPTURE | MEM2MEM_OUTPUT,
 101         }, {
 102                 .fourcc = V4L2_PIX_FMT_RGB565X, /* gggbbbbb rrrrrggg */
 103                 .depth  = 16,
 104                 .types  = MEM2MEM_CAPTURE | MEM2MEM_OUTPUT,
 105         }, {
 106                 .fourcc = V4L2_PIX_FMT_RGB24,
 107                 .depth  = 24,
 108                 .types  = MEM2MEM_CAPTURE | MEM2MEM_OUTPUT,
 109         }, {
 110                 .fourcc = V4L2_PIX_FMT_BGR24,
 111                 .depth  = 24,
 112                 .types  = MEM2MEM_CAPTURE | MEM2MEM_OUTPUT,
 113         }, {
 114                 .fourcc = V4L2_PIX_FMT_YUYV,
 115                 .depth  = 16,
 116                 .types  = MEM2MEM_CAPTURE,
 117         }, {
 118                 .fourcc = V4L2_PIX_FMT_SBGGR8,
 119                 .depth  = 8,
 120                 .types  = MEM2MEM_CAPTURE,
 121         }, {
 122                 .fourcc = V4L2_PIX_FMT_SGBRG8,
 123                 .depth  = 8,
 124                 .types  = MEM2MEM_CAPTURE,
 125         }, {
 126                 .fourcc = V4L2_PIX_FMT_SGRBG8,
 127                 .depth  = 8,
 128                 .types  = MEM2MEM_CAPTURE,
 129         }, {
 130                 .fourcc = V4L2_PIX_FMT_SRGGB8,
 131                 .depth  = 8,
 132                 .types  = MEM2MEM_CAPTURE,
 133         },
 134 };
 135
 136 #define NUM_FORMATS ARRAY_SIZE(formats)
 137
 138 /* Per-queue, driver-specific private data */
 139 struct vim2m_q_data {
 140         unsigned int            width;
 141         unsigned int            height;
 142         unsigned int            sizeimage;
 143         unsigned int            sequence;
 144         struct vim2m_fmt        *fmt;
 145 };
 146
 147 enum {
 148         V4L2_M2M_SRC = 0,
 149         V4L2_M2M_DST = 1,
 150 };
 151
 152 #define V4L2_CID_TRANS_TIME_MSEC        (V4L2_CID_USER_BASE + 0x1000)
 153 #define V4L2_CID_TRANS_NUM_BUFS         (V4L2_CID_USER_BASE + 0x1001)
 154
 155 static struct vim2m_fmt *find_format(u32 fourcc)
 156 {
 157         struct vim2m_fmt *fmt;
 158         unsigned int k;
 159
 160         for (k = 0; k < NUM_FORMATS; k++) {
 161                 fmt = &formats[k];
 162                 if (fmt->fourcc == fourcc)
 163                         break;
 164         }
 165
 166         if (k == NUM_FORMATS)
 167                 return NULL;
 168
 169         return &formats[k];
 170 }
 171
 172 static void get_alignment(u32 fourcc,
 173                           unsigned int *walign, unsigned int *halign)
 174 {
 175         switch (fourcc) {
 176         case V4L2_PIX_FMT_SBGGR8:
 177         case V4L2_PIX_FMT_SGBRG8:
 178         case V4L2_PIX_FMT_SGRBG8:
 179         case V4L2_PIX_FMT_SRGGB8:
 180                 *walign = BAYER_WIDTH_ALIGN;
 181                 *halign = BAYER_HEIGHT_ALIGN;
 182                 return;
 183         default:
 184                 *walign = WIDTH_ALIGN;
 185                 *halign = HEIGHT_ALIGN;
 186                 return;
 187         }
 188 }
 189
 190 struct vim2m_dev {
 191         struct v4l2_device      v4l2_dev;
 192         struct video_device     vfd;
 193 #ifdef CONFIG_MEDIA_CONTROLLER
 194         struct media_device     mdev;
 195 #endif
 196
 197         atomic_t                num_inst;
 198         struct mutex            dev_mutex;
 199
 200         struct v4l2_m2m_dev     *m2m_dev;
 201 };
 202
 203 struct vim2m_ctx {
 204         struct v4l2_fh          fh;
 205         struct vim2m_dev        *dev;
 206
 207         struct v4l2_ctrl_handler hdl;
 208
 209         /* Processed buffers in this transaction */
 210         u8                      num_processed;
 211
 212         /* Transaction length (i.e. how many buffers per transaction) */
 213         u32                     translen;
 214         /* Transaction time (i.e. simulated processing time) in milliseconds */
 215         u32                     transtime;
 216
 217         struct mutex            vb_mutex;
 218         struct delayed_work     work_run;
 219         spinlock_t              irqlock;
 220
 221         /* Abort requested by m2m */
 222         int                     aborting;
 223
 224         /* Processing mode */
 225         int                     mode;
 226
 227         enum v4l2_colorspace    colorspace;
 228         enum v4l2_ycbcr_encoding ycbcr_enc;
 229         enum v4l2_xfer_func     xfer_func;
 230         enum v4l2_quantization  quant;
 231
 232         /* Source and destination queue data */
 233         struct vim2m_q_data   q_data[2];
 234 };
 235
 236 static inline struct vim2m_ctx *file2ctx(struct file *file)
 237 {
 238         return container_of(file->private_data, struct vim2m_ctx, fh);
 239 }
 240
 241 static struct vim2m_q_data *get_q_data(struct vim2m_ctx *ctx,
 242                                        enum v4l2_buf_type type)
 243 {
 244         switch (type) {
 245         case V4L2_BUF_TYPE_VIDEO_OUTPUT:
 246                 return &ctx->q_data[V4L2_M2M_SRC];
 247         case V4L2_BUF_TYPE_VIDEO_CAPTURE:
 248                 return &ctx->q_data[V4L2_M2M_DST];
 249         default:
 250                 return NULL;
 251         }
 252 }
 253
 254 static const char *type_name(enum v4l2_buf_type type)
 255 {
 256         switch (type) {
 257         case V4L2_BUF_TYPE_VIDEO_OUTPUT:
 258                 return "Output";
 259         case V4L2_BUF_TYPE_VIDEO_CAPTURE:
 260                 return "Capture";
 261         default:
 262                 return "Invalid";
 263         }
 264 }
 265
 266 #define CLIP(__color) \
 267         (u8)(((__color) > 0xff) ? 0xff : (((__color) < 0) ? 0 : (__color)))
 268
 269 static void copy_line(struct vim2m_q_data *q_data_out,
 270                       u8 *src, u8 *dst, bool reverse)
 271 {
 272         int x, depth = q_data_out->fmt->depth >> 3;
 273
 274         if (!reverse) {
 275                 memcpy(dst, src, q_data_out->width * depth);
 276         } else {
 277                 for (x = 0; x < q_data_out->width >> 1; x++) {
 278                         memcpy(dst, src, depth);
 279                         memcpy(dst + depth, src - depth, depth);
 280                         src -= depth << 1;
 281                         dst += depth << 1;
 282                 }
 283                 return;
 284         }
 285 }
 286
 287 static void copy_two_pixels(struct vim2m_q_data *q_data_in,
 288                             struct vim2m_q_data *q_data_out,
 289                             u8 *src[2], u8 **dst, int ypos, bool reverse)
 290 {
 291         struct vim2m_fmt *out = q_data_out->fmt;
 292         struct vim2m_fmt *in = q_data_in->fmt;
 293         u8 _r[2], _g[2], _b[2], *r, *g, *b;
 294         int i;
 295
 296         /* Step 1: read two consecutive pixels from src pointer */
 297
 298         r = _r;
 299         g = _g;
 300         b = _b;
 301
 302         switch (in->fourcc) {
 303         case V4L2_PIX_FMT_RGB565: /* rrrrrggg gggbbbbb */
 304                 for (i = 0; i < 2; i++) {
 305                         u16 pix = le16_to_cpu(*(__le16 *)(src[i]));
 306
 307                         *r++ = (u8)(((pix & 0xf800) >> 11) << 3) | 0x07;
 308                         *g++ = (u8)((((pix & 0x07e0) >> 5)) << 2) | 0x03;
 309                         *b++ = (u8)((pix & 0x1f) << 3) | 0x07;
 310                 }
 311                 break;
 312         case V4L2_PIX_FMT_RGB565X: /* gggbbbbb rrrrrggg */
 313                 for (i = 0; i < 2; i++) {
 314                         u16 pix = be16_to_cpu(*(__be16 *)(src[i]));
 315
 316                         *r++ = (u8)(((pix & 0xf800) >> 11) << 3) | 0x07;
 317                         *g++ = (u8)((((pix & 0x07e0) >> 5)) << 2) | 0x03;
 318                         *b++ = (u8)((pix & 0x1f) << 3) | 0x07;
 319                 }
 320                 break;
 321         default:
 322         case V4L2_PIX_FMT_RGB24:
 323                 for (i = 0; i < 2; i++) {
 324                         *r++ = src[i][0];
 325                         *g++ = src[i][1];
 326                         *b++ = src[i][2];
 327                 }
 328                 break;
 329         case V4L2_PIX_FMT_BGR24:
 330                 for (i = 0; i < 2; i++) {
 331                         *b++ = src[i][0];
 332                         *g++ = src[i][1];
 333                         *r++ = src[i][2];
 334                 }
 335                 break;
 336         }
 337
 338         /* Step 2: store two consecutive points, reversing them if needed */
 339
 340         r = _r;
 341         g = _g;
 342         b = _b;
 343
 344         switch (out->fourcc) {
 345         case V4L2_PIX_FMT_RGB565: /* rrrrrggg gggbbbbb */
 346                 for (i = 0; i < 2; i++) {
 347                         u16 pix;
 348                         __le16 *dst_pix = (__le16 *)*dst;
 349
 350                         pix = ((*r << 8) & 0xf800) | ((*g << 3) & 0x07e0) |
 351                               (*b >> 3);
 352
 353                         *dst_pix = cpu_to_le16(pix);
 354
 355                         *dst += 2;
 356                 }
 357                 return;
 358         case V4L2_PIX_FMT_RGB565X: /* gggbbbbb rrrrrggg */
 359                 for (i = 0; i < 2; i++) {
 360                         u16 pix;
 361                         __be16 *dst_pix = (__be16 *)*dst;
 362
 363                         pix = ((*r << 8) & 0xf800) | ((*g << 3) & 0x07e0) |
 364                               (*b >> 3);
 365
 366                         *dst_pix = cpu_to_be16(pix);
 367
 368                         *dst += 2;
 369                 }
 370                 return;
 371         case V4L2_PIX_FMT_RGB24:
 372                 for (i = 0; i < 2; i++) {
 373                         *(*dst)++ = *r++;
 374                         *(*dst)++ = *g++;
 375                         *(*dst)++ = *b++;
 376                 }
 377                 return;
 378         case V4L2_PIX_FMT_BGR24:
 379                 for (i = 0; i < 2; i++) {
 380                         *(*dst)++ = *b++;
 381                         *(*dst)++ = *g++;
 382                         *(*dst)++ = *r++;
 383                 }
 384                 return;
 385         case V4L2_PIX_FMT_YUYV:
 386         default:
 387         {
 388                 u8 y, y1, u, v;
 389
 390                 y = ((8453  * (*r) + 16594 * (*g) +  3223 * (*b)
 391                      + 524288) >> 15);
 392                 u = ((-4878 * (*r) - 9578  * (*g) + 14456 * (*b)
 393                      + 4210688) >> 15);
 394                 v = ((14456 * (*r++) - 12105 * (*g++) - 2351 * (*b++)
 395                      + 4210688) >> 15);
 396                 y1 = ((8453 * (*r) + 16594 * (*g) +  3223 * (*b)
 397                      + 524288) >> 15);
 398
 399                 *(*dst)++ = y;
 400                 *(*dst)++ = u;
 401
 402                 *(*dst)++ = y1;
 403                 *(*dst)++ = v;
 404                 return;
 405         }
 406         case V4L2_PIX_FMT_SBGGR8:
 407                 if (!(ypos & 1)) {
 408                         *(*dst)++ = *b;
 409                         *(*dst)++ = *++g;
 410                 } else {
 411                         *(*dst)++ = *g;
 412                         *(*dst)++ = *++r;
 413                 }
 414                 return;
 415         case V4L2_PIX_FMT_SGBRG8:
 416                 if (!(ypos & 1)) {
 417                         *(*dst)++ = *g;
 418                         *(*dst)++ = *++b;
 419                 } else {
 420                         *(*dst)++ = *r;
 421                         *(*dst)++ = *++g;
 422                 }
 423                 return;
 424         case V4L2_PIX_FMT_SGRBG8:
 425                 if (!(ypos & 1)) {
 426                         *(*dst)++ = *g;
 427                         *(*dst)++ = *++r;
 428                 } else {
 429                         *(*dst)++ = *b;
 430                         *(*dst)++ = *++g;
 431                 }
 432                 return;
 433         case V4L2_PIX_FMT_SRGGB8:
 434                 if (!(ypos & 1)) {
 435                         *(*dst)++ = *r;
 436                         *(*dst)++ = *++g;
 437                 } else {
 438                         *(*dst)++ = *g;
 439                         *(*dst)++ = *++b;
 440                 }
 441                 return;
 442         }
 443 }
 444
 445 static int device_process(struct vim2m_ctx *ctx,
 446                           struct vb2_v4l2_buffer *in_vb,
 447                           struct vb2_v4l2_buffer *out_vb)
 448 {
 449         struct vim2m_dev *dev = ctx->dev;
 450         struct vim2m_q_data *q_data_in, *q_data_out;
 451         u8 *p_in, *p_line, *p_in_x[2], *p, *p_out;
 452         unsigned int width, height, bytesperline, bytes_per_pixel;
 453         unsigned int x, y, y_in, y_out, x_int, x_fract, x_err, x_offset;
 454         int start, end, step;
 455
 456         q_data_in = get_q_data(ctx, V4L2_BUF_TYPE_VIDEO_OUTPUT);
 457         if (!q_data_in)
 458                 return 0;
 459         bytesperline = (q_data_in->width * q_data_in->fmt->depth) >> 3;
 460         bytes_per_pixel = q_data_in->fmt->depth >> 3;
 461
 462         q_data_out = get_q_data(ctx, V4L2_BUF_TYPE_VIDEO_CAPTURE);
 463         if (!q_data_out)
 464                 return 0;
 465
 466         /* As we're doing scaling, use the output dimensions here */
 467         height = q_data_out->height;
 468         width = q_data_out->width;
 469
 470         p_in = vb2_plane_vaddr(&in_vb->vb2_buf, 0);
 471         p_out = vb2_plane_vaddr(&out_vb->vb2_buf, 0);
 472         if (!p_in || !p_out) {
 473                 v4l2_err(&dev->v4l2_dev,
 474                          "Acquiring kernel pointers to buffers failed\n");
 475                 return -EFAULT;
 476         }
 477
 478         out_vb->sequence = q_data_out->sequence++;
 479         in_vb->sequence = q_data_in->sequence++;
 480         v4l2_m2m_buf_copy_metadata(in_vb, out_vb, true);
 481
 482         if (ctx->mode & MEM2MEM_VFLIP) {
 483                 start = height - 1;
 484                 end = -1;
 485                 step = -1;
 486         } else {
 487                 start = 0;
 488                 end = height;
 489                 step = 1;
 490         }
 491         y_out = 0;
 492
 493         /*
 494          * When format and resolution are identical,
 495          * we can use a faster copy logic
 496          */
 497         if (q_data_in->fmt->fourcc == q_data_out->fmt->fourcc &&
 498             q_data_in->width == q_data_out->width &&
 499             q_data_in->height == q_data_out->height) {
 500                 for (y = start; y != end; y += step, y_out++) {
 501                         p = p_in + (y * bytesperline);
 502                         if (ctx->mode & MEM2MEM_HFLIP)
 503                                 p += bytesperline - (q_data_in->fmt->depth >> 3);
 504
 505                         copy_line(q_data_out, p, p_out,
 506                                   ctx->mode & MEM2MEM_HFLIP);
 507
 508                         p_out += bytesperline;
 509                 }
 510                 return 0;
 511         }
 512
 513         /* Slower algorithm with format conversion, hflip, vflip and scaler */
 514
 515         /* To speed scaler up, use Bresenham for X dimension */
 516         x_int = q_data_in->width / q_data_out->width;
 517         x_fract = q_data_in->width % q_data_out->width;
 518
 519         for (y = start; y != end; y += step, y_out++) {
 520                 y_in = (y * q_data_in->height) / q_data_out->height;
 521                 x_offset = 0;
 522                 x_err = 0;
 523
 524                 p_line = p_in + (y_in * bytesperline);
 525                 if (ctx->mode & MEM2MEM_HFLIP)
 526                         p_line += bytesperline - (q_data_in->fmt->depth >> 3);
 527                 p_in_x[0] = p_line;
 528
 529                 for (x = 0; x < width >> 1; x++) {
 530                         x_offset += x_int;
 531                         x_err += x_fract;
 532                         if (x_err > width) {
 533                                 x_offset++;
 534                                 x_err -= width;
 535                         }
 536
 537                         if (ctx->mode & MEM2MEM_HFLIP)
 538                                 p_in_x[1] = p_line - x_offset * bytes_per_pixel;
 539                         else
 540                                 p_in_x[1] = p_line + x_offset * bytes_per_pixel;
 541
 542                         copy_two_pixels(q_data_in, q_data_out,
 543                                         p_in_x, &p_out, y_out,
 544                                         ctx->mode & MEM2MEM_HFLIP);
 545
 546                         /* Calculate the next p_in_x0 */
 547                         x_offset += x_int;
 548                         x_err += x_fract;
 549                         if (x_err > width) {
 550                                 x_offset++;
 551                                 x_err -= width;
 552                         }
 553
 554                         if (ctx->mode & MEM2MEM_HFLIP)
 555                                 p_in_x[0] = p_line - x_offset * bytes_per_pixel;
 556                         else
 557                                 p_in_x[0] = p_line + x_offset * bytes_per_pixel;
 558                 }
 559         }
 560
 561         return 0;
 562 }
 563
 564 /*
 565  * mem2mem callbacks
 566  */
 567
 568 /*
 569  * job_ready() - check whether an instance is ready to be scheduled to run
 570  */
 571 static int job_ready(void *priv)
 572 {
 573         struct vim2m_ctx *ctx = priv;
 574
 575         if (v4l2_m2m_num_src_bufs_ready(ctx->fh.m2m_ctx) < ctx->translen
 576             || v4l2_m2m_num_dst_bufs_ready(ctx->fh.m2m_ctx) < ctx->translen) {
 577                 dprintk(ctx->dev, 1, "Not enough buffers available\n");
 578                 return 0;
 579         }
 580
 581         return 1;
 582 }
 583
 584 static void job_abort(void *priv)
 585 {
 586         struct vim2m_ctx *ctx = priv;
 587
 588         /* Will cancel the transaction in the next interrupt handler */
 589         ctx->aborting = 1;
 590 }
 591
 592 /* device_run() - prepares and starts the device
 593  *
 594  * This simulates all the immediate preparations required before starting
 595  * a device. This will be called by the framework when it decides to schedule
 596  * a particular instance.
 597  */
 598 static void device_run(void *priv)
 599 {
 600         struct vim2m_ctx *ctx = priv;
 601         struct vb2_v4l2_buffer *src_buf, *dst_buf;
 602
 603         src_buf = v4l2_m2m_next_src_buf(ctx->fh.m2m_ctx);
 604         dst_buf = v4l2_m2m_next_dst_buf(ctx->fh.m2m_ctx);
 605
 606         /* Apply request controls if any */
 607         v4l2_ctrl_request_setup(src_buf->vb2_buf.req_obj.req,
 608                                 &ctx->hdl);
 609
 610         device_process(ctx, src_buf, dst_buf);
 611
 612         /* Complete request controls if any */
 613         v4l2_ctrl_request_complete(src_buf->vb2_buf.req_obj.req,
 614                                    &ctx->hdl);
 615
 616         /* Run delayed work, which simulates a hardware irq  */
 617         schedule_delayed_work(&ctx->work_run, msecs_to_jiffies(ctx->transtime));
 618 }
 619
 620 static void device_work(struct work_struct *w)
 621 {
 622         struct vim2m_ctx *curr_ctx;
 623         struct vim2m_dev *vim2m_dev;
 624         struct vb2_v4l2_buffer *src_vb, *dst_vb;
 625         unsigned long flags;
 626
 627         curr_ctx = container_of(w, struct vim2m_ctx, work_run.work);
 628
 629         if (!curr_ctx) {
 630                 pr_err("Instance released before the end of transaction\n");
 631                 return;
 632         }
 633
 634         vim2m_dev = curr_ctx->dev;
 635
 636         src_vb = v4l2_m2m_src_buf_remove(curr_ctx->fh.m2m_ctx);
 637         dst_vb = v4l2_m2m_dst_buf_remove(curr_ctx->fh.m2m_ctx);
 638
 639         curr_ctx->num_processed++;
 640
 641         spin_lock_irqsave(&curr_ctx->irqlock, flags);
 642         v4l2_m2m_buf_done(src_vb, VB2_BUF_STATE_DONE);
 643         v4l2_m2m_buf_done(dst_vb, VB2_BUF_STATE_DONE);
 644         spin_unlock_irqrestore(&curr_ctx->irqlock, flags);
 645
 646         if (curr_ctx->num_processed == curr_ctx->translen
 647             || curr_ctx->aborting) {
 648                 dprintk(curr_ctx->dev, 2, "Finishing capture buffer fill\n");
 649                 curr_ctx->num_processed = 0;
 650                 v4l2_m2m_job_finish(vim2m_dev->m2m_dev, curr_ctx->fh.m2m_ctx);
 651         } else {
 652                 device_run(curr_ctx);
 653         }
 654 }
 655
 656 /*
 657  * video ioctls
 658  */
 659 static int vidioc_querycap(struct file *file, void *priv,
 660                            struct v4l2_capability *cap)
 661 {
 662         strscpy(cap->driver, MEM2MEM_NAME, sizeof(cap->driver));
 663         strscpy(cap->card, MEM2MEM_NAME, sizeof(cap->card));
 664         snprintf(cap->bus_info, sizeof(cap->bus_info),
 665                  "platform:%s", MEM2MEM_NAME);
 666         return 0;
 667 }
 668
 669 static int enum_fmt(struct v4l2_fmtdesc *f, u32 type)
 670 {
 671         int i, num;
 672         struct vim2m_fmt *fmt;
 673
 674         num = 0;
 675
 676         for (i = 0; i < NUM_FORMATS; ++i) {
 677                 if (formats[i].types & type) {
 678                         /* index-th format of type type found ? */
 679                         if (num == f->index)
 680                                 break;
 681                         /*
 682                          * Correct type but haven't reached our index yet,
 683                          * just increment per-type index
 684                          */
 685                         ++num;
 686                 }
 687         }
 688
 689         if (i < NUM_FORMATS) {
 690                 /* Format found */
 691                 fmt = &formats[i];
 692                 f->pixelformat = fmt->fourcc;
 693                 return 0;
 694         }
 695
 696         /* Format not found */
 697         return -EINVAL;
 698 }
 699
 700 static int vidioc_enum_fmt_vid_cap(struct file *file, void *priv,
 701                                    struct v4l2_fmtdesc *f)
 702 {
 703         return enum_fmt(f, MEM2MEM_CAPTURE);
 704 }
 705
 706 static int vidioc_enum_fmt_vid_out(struct file *file, void *priv,
 707                                    struct v4l2_fmtdesc *f)
 708 {
 709         return enum_fmt(f, MEM2MEM_OUTPUT);
 710 }
 711
 712 static int vidioc_enum_framesizes(struct file *file, void *priv,
 713                                   struct v4l2_frmsizeenum *fsize)
 714 {
 715         if (fsize->index != 0)
 716                 return -EINVAL;
 717
 718         if (!find_format(fsize->pixel_format))
 719                 return -EINVAL;
 720
 721         fsize->type = V4L2_FRMSIZE_TYPE_STEPWISE;
 722         fsize->stepwise.min_width = MIN_W;
 723         fsize->stepwise.min_height = MIN_H;
 724         fsize->stepwise.max_width = MAX_W;
 725         fsize->stepwise.max_height = MAX_H;
 726
 727         get_alignment(fsize->pixel_format,
 728                       &fsize->stepwise.step_width,
 729                       &fsize->stepwise.step_height);
 730         return 0;
 731 }
 732
 733 static int vidioc_g_fmt(struct vim2m_ctx *ctx, struct v4l2_format *f)
 734 {
 735         struct vb2_queue *vq;
 736         struct vim2m_q_data *q_data;
 737
 738         vq = v4l2_m2m_get_vq(ctx->fh.m2m_ctx, f->type);
 739         if (!vq)
 740                 return -EINVAL;
 741
 742         q_data = get_q_data(ctx, f->type);
 743         if (!q_data)
 744                 return -EINVAL;
 745
 746         f->fmt.pix.width        = q_data->width;
 747         f->fmt.pix.height       = q_data->height;
 748         f->fmt.pix.field        = V4L2_FIELD_NONE;
 749         f->fmt.pix.pixelformat  = q_data->fmt->fourcc;
 750         f->fmt.pix.bytesperline = (q_data->width * q_data->fmt->depth) >> 3;
 751         f->fmt.pix.sizeimage    = q_data->sizeimage;
 752         f->fmt.pix.colorspace   = ctx->colorspace;
 753         f->fmt.pix.xfer_func    = ctx->xfer_func;
 754         f->fmt.pix.ycbcr_enc    = ctx->ycbcr_enc;
 755         f->fmt.pix.quantization = ctx->quant;
 756
 757         return 0;
 758 }
 759
 760 static int vidioc_g_fmt_vid_out(struct file *file, void *priv,
 761                                 struct v4l2_format *f)
 762 {
 763         return vidioc_g_fmt(file2ctx(file), f);
 764 }
 765
 766 static int vidioc_g_fmt_vid_cap(struct file *file, void *priv,
 767                                 struct v4l2_format *f)
 768 {
 769         return vidioc_g_fmt(file2ctx(file), f);
 770 }
 771
 772 static int vidioc_try_fmt(struct v4l2_format *f, struct vim2m_fmt *fmt)
 773 {
 774         int walign, halign;
 775         /*
 776          * V4L2 specification specifies the driver corrects the
 777          * format struct if any of the dimensions is unsupported
 778          */
 779         if (f->fmt.pix.height < MIN_H)
 780                 f->fmt.pix.height = MIN_H;
 781         else if (f->fmt.pix.height > MAX_H)
 782                 f->fmt.pix.height = MAX_H;
 783
 784         if (f->fmt.pix.width < MIN_W)
 785                 f->fmt.pix.width = MIN_W;
 786         else if (f->fmt.pix.width > MAX_W)
 787                 f->fmt.pix.width = MAX_W;
 788
 789         get_alignment(f->fmt.pix.pixelformat, &walign, &halign);
 790         f->fmt.pix.width &= ~(walign - 1);
 791         f->fmt.pix.height &= ~(halign - 1);
 792         f->fmt.pix.bytesperline = (f->fmt.pix.width * fmt->depth) >> 3;
 793         f->fmt.pix.sizeimage = f->fmt.pix.height * f->fmt.pix.bytesperline;
 794         f->fmt.pix.field = V4L2_FIELD_NONE;
 795
 796         return 0;
 797 }
 798
 799 static int vidioc_try_fmt_vid_cap(struct file *file, void *priv,
 800                                   struct v4l2_format *f)
 801 {
 802         struct vim2m_fmt *fmt;
 803         struct vim2m_ctx *ctx = file2ctx(file);
 804
 805         fmt = find_format(f->fmt.pix.pixelformat);
 806         if (!fmt) {
 807                 f->fmt.pix.pixelformat = formats[0].fourcc;
 808                 fmt = find_format(f->fmt.pix.pixelformat);
 809         }
 810         if (!(fmt->types & MEM2MEM_CAPTURE)) {
 811                 v4l2_err(&ctx->dev->v4l2_dev,
 812                          "Fourcc format (0x%08x) invalid.\n",
 813                          f->fmt.pix.pixelformat);
 814                 return -EINVAL;
 815         }
 816         f->fmt.pix.colorspace = ctx->colorspace;
 817         f->fmt.pix.xfer_func = ctx->xfer_func;
 818         f->fmt.pix.ycbcr_enc = ctx->ycbcr_enc;
 819         f->fmt.pix.quantization = ctx->quant;
 820
 821         return vidioc_try_fmt(f, fmt);
 822 }
 823
 824 static int vidioc_try_fmt_vid_out(struct file *file, void *priv,
 825                                   struct v4l2_format *f)
 826 {
 827         struct vim2m_fmt *fmt;
 828         struct vim2m_ctx *ctx = file2ctx(file);
 829
 830         fmt = find_format(f->fmt.pix.pixelformat);
 831         if (!fmt) {
 832                 f->fmt.pix.pixelformat = formats[0].fourcc;
 833                 fmt = find_format(f->fmt.pix.pixelformat);
 834         }
 835         if (!(fmt->types & MEM2MEM_OUTPUT)) {
 836                 v4l2_err(&ctx->dev->v4l2_dev,
 837                          "Fourcc format (0x%08x) invalid.\n",
 838                          f->fmt.pix.pixelformat);
 839                 return -EINVAL;
 840         }
 841         if (!f->fmt.pix.colorspace)
 842                 f->fmt.pix.colorspace = V4L2_COLORSPACE_REC709;
 843
 844         return vidioc_try_fmt(f, fmt);
 845 }
 846
 847 static int vidioc_s_fmt(struct vim2m_ctx *ctx, struct v4l2_format *f)
 848 {
 849         struct vim2m_q_data *q_data;
 850         struct vb2_queue *vq;
 851
 852         vq = v4l2_m2m_get_vq(ctx->fh.m2m_ctx, f->type);
 853         if (!vq)
 854                 return -EINVAL;
 855
 856         q_data = get_q_data(ctx, f->type);
 857         if (!q_data)
 858                 return -EINVAL;
 859
 860         if (vb2_is_busy(vq)) {
 861                 v4l2_err(&ctx->dev->v4l2_dev, "%s queue busy\n", __func__);
 862                 return -EBUSY;
 863         }
 864
 865         q_data->fmt             = find_format(f->fmt.pix.pixelformat);
 866         q_data->width           = f->fmt.pix.width;
 867         q_data->height          = f->fmt.pix.height;
 868         q_data->sizeimage       = q_data->width * q_data->height
 869                                 * q_data->fmt->depth >> 3;
 870
 871         dprintk(ctx->dev, 1,
 872                 "Format for type %s: %dx%d (%d bpp), fmt: %c%c%c%c\n",
 873                 type_name(f->type), q_data->width, q_data->height,
 874                 q_data->fmt->depth,
 875                 (q_data->fmt->fourcc & 0xff),
 876                 (q_data->fmt->fourcc >>  8) & 0xff,
 877                 (q_data->fmt->fourcc >> 16) & 0xff,
 878                 (q_data->fmt->fourcc >> 24) & 0xff);
 879
 880         return 0;
 881 }
 882
 883 static int vidioc_s_fmt_vid_cap(struct file *file, void *priv,
 884                                 struct v4l2_format *f)
 885 {
 886         int ret;
 887
 888         ret = vidioc_try_fmt_vid_cap(file, priv, f);
 889         if (ret)
 890                 return ret;
 891
 892         return vidioc_s_fmt(file2ctx(file), f);
 893 }
 894
 895 static int vidioc_s_fmt_vid_out(struct file *file, void *priv,
 896                                 struct v4l2_format *f)
 897 {
 898         struct vim2m_ctx *ctx = file2ctx(file);
 899         int ret;
 900
 901         ret = vidioc_try_fmt_vid_out(file, priv, f);
 902         if (ret)
 903                 return ret;
 904
 905         ret = vidioc_s_fmt(file2ctx(file), f);
 906         if (!ret) {
 907                 ctx->colorspace = f->fmt.pix.colorspace;
 908                 ctx->xfer_func = f->fmt.pix.xfer_func;
 909                 ctx->ycbcr_enc = f->fmt.pix.ycbcr_enc;
 910                 ctx->quant = f->fmt.pix.quantization;
 911         }
 912         return ret;
 913 }
 914
 915 static int vim2m_s_ctrl(struct v4l2_ctrl *ctrl)
 916 {
 917         struct vim2m_ctx *ctx =
 918                 container_of(ctrl->handler, struct vim2m_ctx, hdl);
 919
 920         switch (ctrl->id) {
 921         case V4L2_CID_HFLIP:
 922                 if (ctrl->val)
 923                         ctx->mode |= MEM2MEM_HFLIP;
 924                 else
 925                         ctx->mode &= ~MEM2MEM_HFLIP;
 926                 break;
 927
 928         case V4L2_CID_VFLIP:
 929                 if (ctrl->val)
 930                         ctx->mode |= MEM2MEM_VFLIP;
 931                 else
 932                         ctx->mode &= ~MEM2MEM_VFLIP;
 933                 break;
 934
 935         case V4L2_CID_TRANS_TIME_MSEC:
 936                 ctx->transtime = ctrl->val;
 937                 if (ctx->transtime < 1)
 938                         ctx->transtime = 1;
 939                 break;
 940
 941         case V4L2_CID_TRANS_NUM_BUFS:
 942                 ctx->translen = ctrl->val;
 943                 break;
 944
 945         default:
 946                 v4l2_err(&ctx->dev->v4l2_dev, "Invalid control\n");
 947                 return -EINVAL;
 948         }
 949
 950         return 0;
 951 }
 952
 953 static const struct v4l2_ctrl_ops vim2m_ctrl_ops = {
 954         .s_ctrl = vim2m_s_ctrl,
 955 };
 956
 957 static const struct v4l2_ioctl_ops vim2m_ioctl_ops = {
 958         .vidioc_querycap        = vidioc_querycap,
 959
 960         .vidioc_enum_fmt_vid_cap = vidioc_enum_fmt_vid_cap,
 961         .vidioc_enum_framesizes = vidioc_enum_framesizes,
 962         .vidioc_g_fmt_vid_cap   = vidioc_g_fmt_vid_cap,
 963         .vidioc_try_fmt_vid_cap = vidioc_try_fmt_vid_cap,
 964         .vidioc_s_fmt_vid_cap   = vidioc_s_fmt_vid_cap,
 965
 966         .vidioc_enum_fmt_vid_out = vidioc_enum_fmt_vid_out,
 967         .vidioc_g_fmt_vid_out   = vidioc_g_fmt_vid_out,
 968         .vidioc_try_fmt_vid_out = vidioc_try_fmt_vid_out,
 969         .vidioc_s_fmt_vid_out   = vidioc_s_fmt_vid_out,
 970
 971         .vidioc_reqbufs         = v4l2_m2m_ioctl_reqbufs,
 972         .vidioc_querybuf        = v4l2_m2m_ioctl_querybuf,
 973         .vidioc_qbuf            = v4l2_m2m_ioctl_qbuf,
 974         .vidioc_dqbuf           = v4l2_m2m_ioctl_dqbuf,
 975         .vidioc_prepare_buf     = v4l2_m2m_ioctl_prepare_buf,
 976         .vidioc_create_bufs     = v4l2_m2m_ioctl_create_bufs,
 977         .vidioc_expbuf          = v4l2_m2m_ioctl_expbuf,
 978
 979         .vidioc_streamon        = v4l2_m2m_ioctl_streamon,
 980         .vidioc_streamoff       = v4l2_m2m_ioctl_streamoff,
 981
 982         .vidioc_subscribe_event = v4l2_ctrl_subscribe_event,
 983         .vidioc_unsubscribe_event = v4l2_event_unsubscribe,
 984 };
 985
 986 /*
 987  * Queue operations
 988  */
 989
 990 static int vim2m_queue_setup(struct vb2_queue *vq,
 991                              unsigned int *nbuffers,
 992                              unsigned int *nplanes,
 993                              unsigned int sizes[],
 994                              struct device *alloc_devs[])
 995 {
 996         struct vim2m_ctx *ctx = vb2_get_drv_priv(vq);
 997         struct vim2m_q_data *q_data;
 998         unsigned int size, count = *nbuffers;
 999
1000         q_data = get_q_data(ctx, vq->type);
1001         if (!q_data)
1002                 return -EINVAL;
1003
1004         size = q_data->width * q_data->height * q_data->fmt->depth >> 3;
1005
1006         while (size * count > MEM2MEM_VID_MEM_LIMIT)
1007                 (count)--;
1008         *nbuffers = count;
1009
1010         if (*nplanes)
1011                 return sizes[0] < size ? -EINVAL : 0;
1012
1013         *nplanes = 1;
1014         sizes[0] = size;
1015
1016         dprintk(ctx->dev, 1, "%s: get %d buffer(s) of size %d each.\n",
1017                 type_name(vq->type), count, size);
1018
1019         return 0;
1020 }
1021
1022 static int vim2m_buf_out_validate(struct vb2_buffer *vb)
1023 {
1024         struct vb2_v4l2_buffer *vbuf = to_vb2_v4l2_buffer(vb);
1025         struct vim2m_ctx *ctx = vb2_get_drv_priv(vb->vb2_queue);
1026
1027         if (vbuf->field == V4L2_FIELD_ANY)
1028                 vbuf->field = V4L2_FIELD_NONE;
1029         if (vbuf->field != V4L2_FIELD_NONE) {
1030                 dprintk(ctx->dev, 1, "%s field isn't supported\n", __func__);
1031                 return -EINVAL;
1032         }
1033
1034         return 0;
1035 }
1036
1037 static int vim2m_buf_prepare(struct vb2_buffer *vb)
1038 {
1039         struct vim2m_ctx *ctx = vb2_get_drv_priv(vb->vb2_queue);
1040         struct vim2m_q_data *q_data;
1041
1042         dprintk(ctx->dev, 2, "type: %s\n", type_name(vb->vb2_queue->type));
1043
1044         q_data = get_q_data(ctx, vb->vb2_queue->type);
1045         if (!q_data)
1046                 return -EINVAL;
1047         if (vb2_plane_size(vb, 0) < q_data->sizeimage) {
1048                 dprintk(ctx->dev, 1,
1049                         "%s data will not fit into plane (%lu < %lu)\n",
1050                         __func__, vb2_plane_size(vb, 0),
1051                         (long)q_data->sizeimage);
1052                 return -EINVAL;
1053         }
1054
1055         vb2_set_plane_payload(vb, 0, q_data->sizeimage);
1056
1057         return 0;
1058 }
1059
1060 static void vim2m_buf_queue(struct vb2_buffer *vb)
1061 {
1062         struct vb2_v4l2_buffer *vbuf = to_vb2_v4l2_buffer(vb);
1063         struct vim2m_ctx *ctx = vb2_get_drv_priv(vb->vb2_queue);
1064
1065         v4l2_m2m_buf_queue(ctx->fh.m2m_ctx, vbuf);
1066 }
1067
1068 static int vim2m_start_streaming(struct vb2_queue *q, unsigned int count)
1069 {
1070         struct vim2m_ctx *ctx = vb2_get_drv_priv(q);
1071         struct vim2m_q_data *q_data = get_q_data(ctx, q->type);
1072
1073         if (!q_data)
1074                 return -EINVAL;
1075
1076         q_data->sequence = 0;
1077         return 0;
1078 }
1079
1080 static void vim2m_stop_streaming(struct vb2_queue *q)
1081 {
1082         struct vim2m_ctx *ctx = vb2_get_drv_priv(q);
1083         struct vb2_v4l2_buffer *vbuf;
1084         unsigned long flags;
1085
1086         cancel_delayed_work_sync(&ctx->work_run);
1087
1088         for (;;) {
1089                 if (V4L2_TYPE_IS_OUTPUT(q->type))
1090                         vbuf = v4l2_m2m_src_buf_remove(ctx->fh.m2m_ctx);
1091                 else
1092                         vbuf = v4l2_m2m_dst_buf_remove(ctx->fh.m2m_ctx);
1093                 if (!vbuf)
1094                         return;
1095                 v4l2_ctrl_request_complete(vbuf->vb2_buf.req_obj.req,
1096                                            &ctx->hdl);
1097                 spin_lock_irqsave(&ctx->irqlock, flags);
1098                 v4l2_m2m_buf_done(vbuf, VB2_BUF_STATE_ERROR);
1099                 spin_unlock_irqrestore(&ctx->irqlock, flags);
1100         }
1101 }
1102
1103 static void vim2m_buf_request_complete(struct vb2_buffer *vb)
1104 {
1105         struct vim2m_ctx *ctx = vb2_get_drv_priv(vb->vb2_queue);
1106
1107         v4l2_ctrl_request_complete(vb->req_obj.req, &ctx->hdl);
1108 }
1109
1110 static const struct vb2_ops vim2m_qops = {
1111         .queue_setup     = vim2m_queue_setup,
1112         .buf_out_validate        = vim2m_buf_out_validate,
1113         .buf_prepare     = vim2m_buf_prepare,
1114         .buf_queue       = vim2m_buf_queue,
1115         .start_streaming = vim2m_start_streaming,
1116         .stop_streaming  = vim2m_stop_streaming,
1117         .wait_prepare    = vb2_ops_wait_prepare,
1118         .wait_finish     = vb2_ops_wait_finish,
1119         .buf_request_complete = vim2m_buf_request_complete,
1120 };
1121
1122 static int queue_init(void *priv, struct vb2_queue *src_vq,
1123                       struct vb2_queue *dst_vq)
1124 {
1125         struct vim2m_ctx *ctx = priv;
1126         int ret;
1127
1128         src_vq->type = V4L2_BUF_TYPE_VIDEO_OUTPUT;
1129         src_vq->io_modes = VB2_MMAP | VB2_USERPTR | VB2_DMABUF;
1130         src_vq->drv_priv = ctx;
1131         src_vq->buf_struct_size = sizeof(struct v4l2_m2m_buffer);
1132         src_vq->ops = &vim2m_qops;
1133         src_vq->mem_ops = &vb2_vmalloc_memops;
1134         src_vq->timestamp_flags = V4L2_BUF_FLAG_TIMESTAMP_COPY;
1135         src_vq->lock = &ctx->vb_mutex;
1136         src_vq->supports_requests = true;
1137
1138         ret = vb2_queue_init(src_vq);
1139         if (ret)
1140                 return ret;
1141
1142         dst_vq->type = V4L2_BUF_TYPE_VIDEO_CAPTURE;
1143         dst_vq->io_modes = VB2_MMAP | VB2_USERPTR | VB2_DMABUF;
1144         dst_vq->drv_priv = ctx;
1145         dst_vq->buf_struct_size = sizeof(struct v4l2_m2m_buffer);
1146         dst_vq->ops = &vim2m_qops;
1147         dst_vq->mem_ops = &vb2_vmalloc_memops;
1148         dst_vq->timestamp_flags = V4L2_BUF_FLAG_TIMESTAMP_COPY;
1149         dst_vq->lock = &ctx->vb_mutex;
1150
1151         return vb2_queue_init(dst_vq);
1152 }
1153
1154 static struct v4l2_ctrl_config vim2m_ctrl_trans_time_msec = {
1155         .ops = &vim2m_ctrl_ops,
1156         .id = V4L2_CID_TRANS_TIME_MSEC,
1157         .name = "Transaction Time (msec)",
1158         .type = V4L2_CTRL_TYPE_INTEGER,
1159         .min = 1,
1160         .max = 10001,
1161         .step = 1,
1162 };
1163
1164 static const struct v4l2_ctrl_config vim2m_ctrl_trans_num_bufs = {
1165         .ops = &vim2m_ctrl_ops,
1166         .id = V4L2_CID_TRANS_NUM_BUFS,
1167         .name = "Buffers Per Transaction",
1168         .type = V4L2_CTRL_TYPE_INTEGER,
1169         .def = 1,
1170         .min = 1,
1171         .max = MEM2MEM_DEF_NUM_BUFS,
1172         .step = 1,
1173 };
1174
1175 /*
1176  * File operations
1177  */
1178 static int vim2m_open(struct file *file)
1179 {
1180         struct vim2m_dev *dev = video_drvdata(file);
1181         struct vim2m_ctx *ctx = NULL;
1182         struct v4l2_ctrl_handler *hdl;
1183         int rc = 0;
1184
1185         if (mutex_lock_interruptible(&dev->dev_mutex))
1186                 return -ERESTARTSYS;
1187         ctx = kzalloc(sizeof(*ctx), GFP_KERNEL);
1188         if (!ctx) {
1189                 rc = -ENOMEM;
1190                 goto open_unlock;
1191         }
1192
1193         v4l2_fh_init(&ctx->fh, video_devdata(file));
1194         file->private_data = &ctx->fh;
1195         ctx->dev = dev;
1196         hdl = &ctx->hdl;
1197         v4l2_ctrl_handler_init(hdl, 4);
1198         v4l2_ctrl_new_std(hdl, &vim2m_ctrl_ops, V4L2_CID_HFLIP, 0, 1, 1, 0);
1199         v4l2_ctrl_new_std(hdl, &vim2m_ctrl_ops, V4L2_CID_VFLIP, 0, 1, 1, 0);
1200
1201         vim2m_ctrl_trans_time_msec.def = default_transtime;
1202         v4l2_ctrl_new_custom(hdl, &vim2m_ctrl_trans_time_msec, NULL);
1203         v4l2_ctrl_new_custom(hdl, &vim2m_ctrl_trans_num_bufs, NULL);
1204         if (hdl->error) {
1205                 rc = hdl->error;
1206                 v4l2_ctrl_handler_free(hdl);
1207                 kfree(ctx);
1208                 goto open_unlock;
1209         }
1210         ctx->fh.ctrl_handler = hdl;
1211         v4l2_ctrl_handler_setup(hdl);
1212
1213         ctx->q_data[V4L2_M2M_SRC].fmt = &formats[0];
1214         ctx->q_data[V4L2_M2M_SRC].width = 640;
1215         ctx->q_data[V4L2_M2M_SRC].height = 480;
1216         ctx->q_data[V4L2_M2M_SRC].sizeimage =
1217                 ctx->q_data[V4L2_M2M_SRC].width *
1218                 ctx->q_data[V4L2_M2M_SRC].height *
1219                 (ctx->q_data[V4L2_M2M_SRC].fmt->depth >> 3);
1220         ctx->q_data[V4L2_M2M_DST] = ctx->q_data[V4L2_M2M_SRC];
1221         ctx->colorspace = V4L2_COLORSPACE_REC709;
1222
1223         ctx->fh.m2m_ctx = v4l2_m2m_ctx_init(dev->m2m_dev, ctx, &queue_init);
1224
1225         mutex_init(&ctx->vb_mutex);
1226         spin_lock_init(&ctx->irqlock);
1227         INIT_DELAYED_WORK(&ctx->work_run, device_work);
1228
1229         if (IS_ERR(ctx->fh.m2m_ctx)) {
1230                 rc = PTR_ERR(ctx->fh.m2m_ctx);
1231
1232                 v4l2_ctrl_handler_free(hdl);
1233                 v4l2_fh_exit(&ctx->fh);
1234                 kfree(ctx);
1235                 goto open_unlock;
1236         }
1237
1238         v4l2_fh_add(&ctx->fh);
1239         atomic_inc(&dev->num_inst);
1240
1241         dprintk(dev, 1, "Created instance: %p, m2m_ctx: %p\n",
1242                 ctx, ctx->fh.m2m_ctx);
1243
1244 open_unlock:
1245         mutex_unlock(&dev->dev_mutex);
1246         return rc;
1247 }
1248
1249 static int vim2m_release(struct file *file)
1250 {
1251         struct vim2m_dev *dev = video_drvdata(file);
1252         struct vim2m_ctx *ctx = file2ctx(file);
1253
1254         dprintk(dev, 1, "Releasing instance %p\n", ctx);
1255
1256         v4l2_fh_del(&ctx->fh);
1257         v4l2_fh_exit(&ctx->fh);
1258         v4l2_ctrl_handler_free(&ctx->hdl);
1259         mutex_lock(&dev->dev_mutex);
1260         v4l2_m2m_ctx_release(ctx->fh.m2m_ctx);
1261         mutex_unlock(&dev->dev_mutex);
1262         kfree(ctx);
1263
1264         atomic_dec(&dev->num_inst);
1265
1266         return 0;
1267 }
1268
1269 static void vim2m_device_release(struct video_device *vdev)
1270 {
1271         struct vim2m_dev *dev = container_of(vdev, struct vim2m_dev, vfd);
1272
1273         v4l2_device_unregister(&dev->v4l2_dev);
1274         v4l2_m2m_release(dev->m2m_dev);
1275         kfree(dev);
1276 }
1277
1278 static const struct v4l2_file_operations vim2m_fops = {
1279         .owner          = THIS_MODULE,
1280         .open           = vim2m_open,
1281         .release        = vim2m_release,
1282         .poll           = v4l2_m2m_fop_poll,
1283         .unlocked_ioctl = video_ioctl2,
1284         .mmap           = v4l2_m2m_fop_mmap,
1285 };
1286
1287 static const struct video_device vim2m_videodev = {
1288         .name           = MEM2MEM_NAME,
1289         .vfl_dir        = VFL_DIR_M2M,
1290         .fops           = &vim2m_fops,
1291         .ioctl_ops      = &vim2m_ioctl_ops,
1292         .minor          = -1,
1293         .release        = vim2m_device_release,
1294         .device_caps    = V4L2_CAP_VIDEO_M2M | V4L2_CAP_STREAMING,
1295 };
1296
1297 static const struct v4l2_m2m_ops m2m_ops = {
1298         .device_run     = device_run,
1299         .job_ready      = job_ready,
1300         .job_abort      = job_abort,
1301 };
1302
1303 static const struct media_device_ops m2m_media_ops = {
1304         .req_validate = vb2_request_validate,
1305         .req_queue = v4l2_m2m_request_queue,
1306 };
1307
1308 static int vim2m_probe(struct platform_device *pdev)
1309 {
1310         struct vim2m_dev *dev;
1311         struct video_device *vfd;
1312         int ret;
1313
1314         dev = kzalloc(sizeof(*dev), GFP_KERNEL);
1315         if (!dev)
1316                 return -ENOMEM;
1317
1318         ret = v4l2_device_register(&pdev->dev, &dev->v4l2_dev);
1319         if (ret)
1320                 goto error_free;
1321
1322         atomic_set(&dev->num_inst, 0);
1323         mutex_init(&dev->dev_mutex);
1324
1325         dev->vfd = vim2m_videodev;
1326         vfd = &dev->vfd;
1327         vfd->lock = &dev->dev_mutex;
1328         vfd->v4l2_dev = &dev->v4l2_dev;
1329
1330         ret = video_register_device(vfd, VFL_TYPE_GRABBER, 0);
1331         if (ret) {
1332                 v4l2_err(&dev->v4l2_dev, "Failed to register video device\n");
1333                 goto error_v4l2;
1334         }
1335
1336         video_set_drvdata(vfd, dev);
1337         v4l2_info(&dev->v4l2_dev,
1338                   "Device registered as /dev/video%d\n", vfd->num);
1339
1340         platform_set_drvdata(pdev, dev);
1341
1342         dev->m2m_dev = v4l2_m2m_init(&m2m_ops);
1343         if (IS_ERR(dev->m2m_dev)) {
1344                 v4l2_err(&dev->v4l2_dev, "Failed to init mem2mem device\n");
1345                 ret = PTR_ERR(dev->m2m_dev);
1346                 goto error_dev;
1347         }
1348
1349 #ifdef CONFIG_MEDIA_CONTROLLER
1350         dev->mdev.dev = &pdev->dev;
1351         strscpy(dev->mdev.model, "vim2m", sizeof(dev->mdev.model));
1352         strscpy(dev->mdev.bus_info, "platform:vim2m",
1353                 sizeof(dev->mdev.bus_info));
1354         media_device_init(&dev->mdev);
1355         dev->mdev.ops = &m2m_media_ops;
1356         dev->v4l2_dev.mdev = &dev->mdev;
1357
1358         ret = v4l2_m2m_register_media_controller(dev->m2m_dev, vfd,
1359                                                  MEDIA_ENT_F_PROC_VIDEO_SCALER);
1360         if (ret) {
1361                 v4l2_err(&dev->v4l2_dev, "Failed to init mem2mem media controller\n");
1362                 goto error_dev;
1363         }
1364
1365         ret = media_device_register(&dev->mdev);
1366         if (ret) {
1367                 v4l2_err(&dev->v4l2_dev, "Failed to register mem2mem media device\n");
1368                 goto error_m2m_mc;
1369         }
1370 #endif
1371         return 0;
1372
1373 #ifdef CONFIG_MEDIA_CONTROLLER
1374 error_m2m_mc:
1375         v4l2_m2m_unregister_media_controller(dev->m2m_dev);
1376 #endif
1377 error_dev:
1378         video_unregister_device(&dev->vfd);
1379         /* vim2m_device_release called by video_unregister_device to release various objects */
1380         return ret;
1381 error_v4l2:
1382         v4l2_device_unregister(&dev->v4l2_dev);
1383 error_free:
1384         kfree(dev);
1385
1386         return ret;
1387 }
1388
1389 static int vim2m_remove(struct platform_device *pdev)
1390 {
1391         struct vim2m_dev *dev = platform_get_drvdata(pdev);
1392
1393         v4l2_info(&dev->v4l2_dev, "Removing " MEM2MEM_NAME);
1394
1395 #ifdef CONFIG_MEDIA_CONTROLLER
1396         media_device_unregister(&dev->mdev);
1397         v4l2_m2m_unregister_media_controller(dev->m2m_dev);
1398         media_device_cleanup(&dev->mdev);
1399 #endif
1400         video_unregister_device(&dev->vfd);
1401
1402         return 0;
1403 }
1404
1405 static struct platform_driver vim2m_pdrv = {
1406         .probe          = vim2m_probe,
1407         .remove         = vim2m_remove,
1408         .driver         = {
1409                 .name   = MEM2MEM_NAME,
1410         },
1411 };
1412
1413 static void __exit vim2m_exit(void)
1414 {
1415         platform_driver_unregister(&vim2m_pdrv);
1416         platform_device_unregister(&vim2m_pdev);
1417 }
1418
1419 static int __init vim2m_init(void)
1420 {
1421         int ret;
1422
1423         ret = platform_device_register(&vim2m_pdev);
1424         if (ret)
1425                 return ret;
1426
1427         ret = platform_driver_register(&vim2m_pdrv);
1428         if (ret)
1429                 platform_device_unregister(&vim2m_pdev);
1430
1431         return ret;
1432 }
1433
1434 module_init(vim2m_init);
1435 module_exit(vim2m_exit);