drivers/gpu/drm/nouveau/nouveau_fbcon.c

   1 /*
   2  * Copyright © 2007 David Airlie
   3  *
   4  * Permission is hereby granted, free of charge, to any person obtaining a
   5  * copy of this software and associated documentation files (the "Software"),
   6  * to deal in the Software without restriction, including without limitation
   7  * the rights to use, copy, modify, merge, publish, distribute, sublicense,
   8  * and/or sell copies of the Software, and to permit persons to whom the
   9  * Software is furnished to do so, subject to the following conditions:
  10  *
  11  * The above copyright notice and this permission notice (including the next
  12  * paragraph) shall be included in all copies or substantial portions of the
  13  * Software.
  14  *
  15  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
  16  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
  17  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.  IN NO EVENT SHALL
  18  * THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
  19  * LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING
  20  * FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER
  21  * DEALINGS IN THE SOFTWARE.
  22  *
  23  * Authors:
  24  *     David Airlie
  25  */
  26
  27 #include <linux/module.h>
  28 #include <linux/kernel.h>
  29 #include <linux/errno.h>
  30 #include <linux/string.h>
  31 #include <linux/mm.h>
  32 #include <linux/tty.h>
  33 #include <linux/sysrq.h>
  34 #include <linux/delay.h>
  35 #include <linux/init.h>
  36 #include <linux/screen_info.h>
  37 #include <linux/vga_switcheroo.h>
  38 #include <linux/console.h>
  39
  40 #include <drm/drmP.h>
  41 #include <drm/drm_crtc.h>
  42 #include <drm/drm_crtc_helper.h>
  43 #include <drm/drm_fb_helper.h>
  44 #include <drm/drm_atomic.h>
  45
  46 #include "nouveau_drv.h"
  47 #include "nouveau_gem.h"
  48 #include "nouveau_bo.h"
  49 #include "nouveau_fbcon.h"
  50 #include "nouveau_chan.h"
  51
  52 #include "nouveau_crtc.h"
  53
  54 MODULE_PARM_DESC(nofbaccel, "Disable fbcon acceleration");
  55 int nouveau_nofbaccel = 0;
  56 module_param_named(nofbaccel, nouveau_nofbaccel, int, 0400);
  57
  58 static void
  59 nouveau_fbcon_fillrect(struct fb_info *info, const struct fb_fillrect *rect)
  60 {
  61         struct nouveau_fbdev *fbcon = info->par;
  62         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
  63         struct nvif_device *device = &drm->client.device;
  64         int ret;
  65
  66         if (info->state != FBINFO_STATE_RUNNING)
  67                 return;
  68
  69         ret = -ENODEV;
  70         if (!in_interrupt() && !(info->flags & FBINFO_HWACCEL_DISABLED) &&
  71             mutex_trylock(&drm->client.mutex)) {
  72                 if (device->info.family < NV_DEVICE_INFO_V0_TESLA)
  73                         ret = nv04_fbcon_fillrect(info, rect);
  74                 else
  75                 if (device->info.family < NV_DEVICE_INFO_V0_FERMI)
  76                         ret = nv50_fbcon_fillrect(info, rect);
  77                 else
  78                         ret = nvc0_fbcon_fillrect(info, rect);
  79                 mutex_unlock(&drm->client.mutex);
  80         }
  81
  82         if (ret == 0)
  83                 return;
  84
  85         if (ret != -ENODEV)
  86                 nouveau_fbcon_gpu_lockup(info);
  87         drm_fb_helper_cfb_fillrect(info, rect);
  88 }
  89
  90 static void
  91 nouveau_fbcon_copyarea(struct fb_info *info, const struct fb_copyarea *image)
  92 {
  93         struct nouveau_fbdev *fbcon = info->par;
  94         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
  95         struct nvif_device *device = &drm->client.device;
  96         int ret;
  97
  98         if (info->state != FBINFO_STATE_RUNNING)
  99                 return;
 100
 101         ret = -ENODEV;
 102         if (!in_interrupt() && !(info->flags & FBINFO_HWACCEL_DISABLED) &&
 103             mutex_trylock(&drm->client.mutex)) {
 104                 if (device->info.family < NV_DEVICE_INFO_V0_TESLA)
 105                         ret = nv04_fbcon_copyarea(info, image);
 106                 else
 107                 if (device->info.family < NV_DEVICE_INFO_V0_FERMI)
 108                         ret = nv50_fbcon_copyarea(info, image);
 109                 else
 110                         ret = nvc0_fbcon_copyarea(info, image);
 111                 mutex_unlock(&drm->client.mutex);
 112         }
 113
 114         if (ret == 0)
 115                 return;
 116
 117         if (ret != -ENODEV)
 118                 nouveau_fbcon_gpu_lockup(info);
 119         drm_fb_helper_cfb_copyarea(info, image);
 120 }
 121
 122 static void
 123 nouveau_fbcon_imageblit(struct fb_info *info, const struct fb_image *image)
 124 {
 125         struct nouveau_fbdev *fbcon = info->par;
 126         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
 127         struct nvif_device *device = &drm->client.device;
 128         int ret;
 129
 130         if (info->state != FBINFO_STATE_RUNNING)
 131                 return;
 132
 133         ret = -ENODEV;
 134         if (!in_interrupt() && !(info->flags & FBINFO_HWACCEL_DISABLED) &&
 135             mutex_trylock(&drm->client.mutex)) {
 136                 if (device->info.family < NV_DEVICE_INFO_V0_TESLA)
 137                         ret = nv04_fbcon_imageblit(info, image);
 138                 else
 139                 if (device->info.family < NV_DEVICE_INFO_V0_FERMI)
 140                         ret = nv50_fbcon_imageblit(info, image);
 141                 else
 142                         ret = nvc0_fbcon_imageblit(info, image);
 143                 mutex_unlock(&drm->client.mutex);
 144         }
 145
 146         if (ret == 0)
 147                 return;
 148
 149         if (ret != -ENODEV)
 150                 nouveau_fbcon_gpu_lockup(info);
 151         drm_fb_helper_cfb_imageblit(info, image);
 152 }
 153
 154 static int
 155 nouveau_fbcon_sync(struct fb_info *info)
 156 {
 157         struct nouveau_fbdev *fbcon = info->par;
 158         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
 159         struct nouveau_channel *chan = drm->channel;
 160         int ret;
 161
 162         if (!chan || !chan->accel_done || in_interrupt() ||
 163             info->state != FBINFO_STATE_RUNNING ||
 164             info->flags & FBINFO_HWACCEL_DISABLED)
 165                 return 0;
 166
 167         if (!mutex_trylock(&drm->client.mutex))
 168                 return 0;
 169
 170         ret = nouveau_channel_idle(chan);
 171         mutex_unlock(&drm->client.mutex);
 172         if (ret) {
 173                 nouveau_fbcon_gpu_lockup(info);
 174                 return 0;
 175         }
 176
 177         chan->accel_done = false;
 178         return 0;
 179 }
 180
 181 static int
 182 nouveau_fbcon_open(struct fb_info *info, int user)
 183 {
 184         struct nouveau_fbdev *fbcon = info->par;
 185         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
 186         int ret = pm_runtime_get_sync(drm->dev->dev);
 187         if (ret < 0 && ret != -EACCES)
 188                 return ret;
 189         return 0;
 190 }
 191
 192 static int
 193 nouveau_fbcon_release(struct fb_info *info, int user)
 194 {
 195         struct nouveau_fbdev *fbcon = info->par;
 196         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
 197         pm_runtime_put(drm->dev->dev);
 198         return 0;
 199 }
 200
 201 static struct fb_ops nouveau_fbcon_ops = {
 202         .owner = THIS_MODULE,
 203         DRM_FB_HELPER_DEFAULT_OPS,
 204         .fb_open = nouveau_fbcon_open,
 205         .fb_release = nouveau_fbcon_release,
 206         .fb_fillrect = nouveau_fbcon_fillrect,
 207         .fb_copyarea = nouveau_fbcon_copyarea,
 208         .fb_imageblit = nouveau_fbcon_imageblit,
 209         .fb_sync = nouveau_fbcon_sync,
 210 };
 211
 212 static struct fb_ops nouveau_fbcon_sw_ops = {
 213         .owner = THIS_MODULE,
 214         DRM_FB_HELPER_DEFAULT_OPS,
 215         .fb_open = nouveau_fbcon_open,
 216         .fb_release = nouveau_fbcon_release,
 217         .fb_fillrect = drm_fb_helper_cfb_fillrect,
 218         .fb_copyarea = drm_fb_helper_cfb_copyarea,
 219         .fb_imageblit = drm_fb_helper_cfb_imageblit,
 220 };
 221
 222 void
 223 nouveau_fbcon_accel_save_disable(struct drm_device *dev)
 224 {
 225         struct nouveau_drm *drm = nouveau_drm(dev);
 226         if (drm->fbcon) {
 227                 drm->fbcon->saved_flags = drm->fbcon->helper.fbdev->flags;
 228                 drm->fbcon->helper.fbdev->flags |= FBINFO_HWACCEL_DISABLED;
 229         }
 230 }
 231
 232 void
 233 nouveau_fbcon_accel_restore(struct drm_device *dev)
 234 {
 235         struct nouveau_drm *drm = nouveau_drm(dev);
 236         if (drm->fbcon) {
 237                 drm->fbcon->helper.fbdev->flags = drm->fbcon->saved_flags;
 238         }
 239 }
 240
 241 static void
 242 nouveau_fbcon_accel_fini(struct drm_device *dev)
 243 {
 244         struct nouveau_drm *drm = nouveau_drm(dev);
 245         struct nouveau_fbdev *fbcon = drm->fbcon;
 246         if (fbcon && drm->channel) {
 247                 console_lock();
 248                 fbcon->helper.fbdev->flags |= FBINFO_HWACCEL_DISABLED;
 249                 console_unlock();
 250                 nouveau_channel_idle(drm->channel);
 251                 nvif_object_fini(&fbcon->twod);
 252                 nvif_object_fini(&fbcon->blit);
 253                 nvif_object_fini(&fbcon->gdi);
 254                 nvif_object_fini(&fbcon->patt);
 255                 nvif_object_fini(&fbcon->rop);
 256                 nvif_object_fini(&fbcon->clip);
 257                 nvif_object_fini(&fbcon->surf2d);
 258         }
 259 }
 260
 261 static void
 262 nouveau_fbcon_accel_init(struct drm_device *dev)
 263 {
 264         struct nouveau_drm *drm = nouveau_drm(dev);
 265         struct nouveau_fbdev *fbcon = drm->fbcon;
 266         struct fb_info *info = fbcon->helper.fbdev;
 267         int ret;
 268
 269         if (drm->client.device.info.family < NV_DEVICE_INFO_V0_TESLA)
 270                 ret = nv04_fbcon_accel_init(info);
 271         else
 272         if (drm->client.device.info.family < NV_DEVICE_INFO_V0_FERMI)
 273                 ret = nv50_fbcon_accel_init(info);
 274         else
 275                 ret = nvc0_fbcon_accel_init(info);
 276
 277         if (ret == 0)
 278                 info->fbops = &nouveau_fbcon_ops;
 279 }
 280
 281 static void
 282 nouveau_fbcon_zfill(struct drm_device *dev, struct nouveau_fbdev *fbcon)
 283 {
 284         struct fb_info *info = fbcon->helper.fbdev;
 285         struct fb_fillrect rect;
 286
 287         /* Clear the entire fbcon.  The drm will program every connector
 288          * with it's preferred mode.  If the sizes differ, one display will
 289          * quite likely have garbage around the console.
 290          */
 291         rect.dx = rect.dy = 0;
 292         rect.width = info->var.xres_virtual;
 293         rect.height = info->var.yres_virtual;
 294         rect.color = 0;
 295         rect.rop = ROP_COPY;
 296         info->fbops->fb_fillrect(info, &rect);
 297 }
 298
 299 static int
 300 nouveau_fbcon_create(struct drm_fb_helper *helper,
 301                      struct drm_fb_helper_surface_size *sizes)
 302 {
 303         struct nouveau_fbdev *fbcon =
 304                 container_of(helper, struct nouveau_fbdev, helper);
 305         struct drm_device *dev = fbcon->helper.dev;
 306         struct nouveau_drm *drm = nouveau_drm(dev);
 307         struct nvif_device *device = &drm->client.device;
 308         struct fb_info *info;
 309         struct nouveau_framebuffer *fb;
 310         struct nouveau_channel *chan;
 311         struct nouveau_bo *nvbo;
 312         struct drm_mode_fb_cmd2 mode_cmd;
 313         int ret;
 314
 315         mode_cmd.width = sizes->surface_width;
 316         mode_cmd.height = sizes->surface_height;
 317
 318         mode_cmd.pitches[0] = mode_cmd.width * (sizes->surface_bpp >> 3);
 319         mode_cmd.pitches[0] = roundup(mode_cmd.pitches[0], 256);
 320
 321         mode_cmd.pixel_format = drm_mode_legacy_fb_format(sizes->surface_bpp,
 322                                                           sizes->surface_depth);
 323
 324         ret = nouveau_gem_new(&drm->client, mode_cmd.pitches[0] *
 325                               mode_cmd.height, 0, NOUVEAU_GEM_DOMAIN_VRAM,
 326                               0, 0x0000, &nvbo);
 327         if (ret) {
 328                 NV_ERROR(drm, "failed to allocate framebuffer\n");
 329                 goto out;
 330         }
 331
 332         ret = nouveau_framebuffer_new(dev, &mode_cmd, nvbo, &fb);
 333         if (ret)
 334                 goto out_unref;
 335
 336         ret = nouveau_bo_pin(nvbo, TTM_PL_FLAG_VRAM, false);
 337         if (ret) {
 338                 NV_ERROR(drm, "failed to pin fb: %d\n", ret);
 339                 goto out_unref;
 340         }
 341
 342         ret = nouveau_bo_map(nvbo);
 343         if (ret) {
 344                 NV_ERROR(drm, "failed to map fb: %d\n", ret);
 345                 goto out_unpin;
 346         }
 347
 348         chan = nouveau_nofbaccel ? NULL : drm->channel;
 349         if (chan && device->info.family >= NV_DEVICE_INFO_V0_TESLA) {
 350                 ret = nouveau_bo_vma_add(nvbo, drm->client.vm, &fb->vma);
 351                 if (ret) {
 352                         NV_ERROR(drm, "failed to map fb into chan: %d\n", ret);
 353                         chan = NULL;
 354                 }
 355         }
 356
 357         info = drm_fb_helper_alloc_fbi(helper);
 358         if (IS_ERR(info)) {
 359                 ret = PTR_ERR(info);
 360                 goto out_unlock;
 361         }
 362         info->skip_vt_switch = 1;
 363
 364         info->par = fbcon;
 365
 366         /* setup helper */
 367         fbcon->helper.fb = &fb->base;
 368
 369         strcpy(info->fix.id, "nouveaufb");
 370         if (!chan)
 371                 info->flags = FBINFO_DEFAULT | FBINFO_HWACCEL_DISABLED;
 372         else
 373                 info->flags = FBINFO_DEFAULT | FBINFO_HWACCEL_COPYAREA |
 374                               FBINFO_HWACCEL_FILLRECT |
 375                               FBINFO_HWACCEL_IMAGEBLIT;
 376         info->flags |= FBINFO_CAN_FORCE_OUTPUT;
 377         info->fbops = &nouveau_fbcon_sw_ops;
 378         info->fix.smem_start = fb->nvbo->bo.mem.bus.base +
 379                                fb->nvbo->bo.mem.bus.offset;
 380         info->fix.smem_len = fb->nvbo->bo.mem.num_pages << PAGE_SHIFT;
 381
 382         info->screen_base = nvbo_kmap_obj_iovirtual(fb->nvbo);
 383         info->screen_size = fb->nvbo->bo.mem.num_pages << PAGE_SHIFT;
 384
 385         drm_fb_helper_fill_fix(info, fb->base.pitches[0],
 386                                fb->base.format->depth);
 387         drm_fb_helper_fill_var(info, &fbcon->helper, sizes->fb_width, sizes->fb_height);
 388
 389         /* Use default scratch pixmap (info->pixmap.flags = FB_PIXMAP_SYSTEM) */
 390
 391         if (chan)
 392                 nouveau_fbcon_accel_init(dev);
 393         nouveau_fbcon_zfill(dev, fbcon);
 394
 395         /* To allow resizeing without swapping buffers */
 396         NV_INFO(drm, "allocated %dx%d fb: 0x%llx, bo %p\n",
 397                 fb->base.width, fb->base.height, fb->nvbo->bo.offset, nvbo);
 398
 399         vga_switcheroo_client_fb_set(dev->pdev, info);
 400         return 0;
 401
 402 out_unlock:
 403         if (chan)
 404                 nouveau_bo_vma_del(fb->nvbo, &fb->vma);
 405         nouveau_bo_unmap(fb->nvbo);
 406 out_unpin:
 407         nouveau_bo_unpin(fb->nvbo);
 408 out_unref:
 409         nouveau_bo_ref(NULL, &fb->nvbo);
 410 out:
 411         return ret;
 412 }
 413
 414 void
 415 nouveau_fbcon_output_poll_changed(struct drm_device *dev)
 416 {
 417         struct nouveau_drm *drm = nouveau_drm(dev);
 418         if (drm->fbcon)
 419                 drm_fb_helper_hotplug_event(&drm->fbcon->helper);
 420 }
 421
 422 static int
 423 nouveau_fbcon_destroy(struct drm_device *dev, struct nouveau_fbdev *fbcon)
 424 {
 425         struct nouveau_framebuffer *nouveau_fb = nouveau_framebuffer(fbcon->helper.fb);
 426
 427         drm_fb_helper_unregister_fbi(&fbcon->helper);
 428         drm_fb_helper_fini(&fbcon->helper);
 429
 430         if (nouveau_fb->nvbo) {
 431                 nouveau_bo_vma_del(nouveau_fb->nvbo, &nouveau_fb->vma);
 432                 nouveau_bo_unmap(nouveau_fb->nvbo);
 433                 nouveau_bo_unpin(nouveau_fb->nvbo);
 434                 drm_framebuffer_unreference(&nouveau_fb->base);
 435         }
 436
 437         return 0;
 438 }
 439
 440 void nouveau_fbcon_gpu_lockup(struct fb_info *info)
 441 {
 442         struct nouveau_fbdev *fbcon = info->par;
 443         struct nouveau_drm *drm = nouveau_drm(fbcon->helper.dev);
 444
 445         NV_ERROR(drm, "GPU lockup - switching to software fbcon\n");
 446         info->flags |= FBINFO_HWACCEL_DISABLED;
 447 }
 448
 449 static const struct drm_fb_helper_funcs nouveau_fbcon_helper_funcs = {
 450         .fb_probe = nouveau_fbcon_create,
 451 };
 452
 453 static void
 454 nouveau_fbcon_set_suspend_work(struct work_struct *work)
 455 {
 456         struct nouveau_drm *drm = container_of(work, typeof(*drm), fbcon_work);
 457         int state = READ_ONCE(drm->fbcon_new_state);
 458
 459         if (state == FBINFO_STATE_RUNNING)
 460                 pm_runtime_get_sync(drm->dev->dev);
 461
 462         console_lock();
 463         if (state == FBINFO_STATE_RUNNING)
 464                 nouveau_fbcon_accel_restore(drm->dev);
 465         drm_fb_helper_set_suspend(&drm->fbcon->helper, state);
 466         if (state != FBINFO_STATE_RUNNING)
 467                 nouveau_fbcon_accel_save_disable(drm->dev);
 468         console_unlock();
 469
 470         if (state == FBINFO_STATE_RUNNING) {
 471                 pm_runtime_mark_last_busy(drm->dev->dev);
 472                 pm_runtime_put_sync(drm->dev->dev);
 473         }
 474 }
 475
 476 void
 477 nouveau_fbcon_set_suspend(struct drm_device *dev, int state)
 478 {
 479         struct nouveau_drm *drm = nouveau_drm(dev);
 480
 481         if (!drm->fbcon)
 482                 return;
 483
 484         drm->fbcon_new_state = state;
 485         /* Since runtime resume can happen as a result of a sysfs operation,
 486          * it's possible we already have the console locked. So handle fbcon
 487          * init/deinit from a seperate work thread
 488          */
 489         schedule_work(&drm->fbcon_work);
 490 }
 491
 492 int
 493 nouveau_fbcon_init(struct drm_device *dev)
 494 {
 495         struct nouveau_drm *drm = nouveau_drm(dev);
 496         struct nouveau_fbdev *fbcon;
 497         int preferred_bpp;
 498         int ret;
 499
 500         if (!dev->mode_config.num_crtc ||
 501             (dev->pdev->class >> 8) != PCI_CLASS_DISPLAY_VGA)
 502                 return 0;
 503
 504         fbcon = kzalloc(sizeof(struct nouveau_fbdev), GFP_KERNEL);
 505         if (!fbcon)
 506                 return -ENOMEM;
 507
 508         drm->fbcon = fbcon;
 509         INIT_WORK(&drm->fbcon_work, nouveau_fbcon_set_suspend_work);
 510
 511         drm_fb_helper_prepare(dev, &fbcon->helper, &nouveau_fbcon_helper_funcs);
 512
 513         ret = drm_fb_helper_init(dev, &fbcon->helper, 4);
 514         if (ret)
 515                 goto free;
 516
 517         ret = drm_fb_helper_single_add_all_connectors(&fbcon->helper);
 518         if (ret)
 519                 goto fini;
 520
 521         if (drm->client.device.info.ram_size <= 32 * 1024 * 1024)
 522                 preferred_bpp = 8;
 523         else
 524         if (drm->client.device.info.ram_size <= 64 * 1024 * 1024)
 525                 preferred_bpp = 16;
 526         else
 527                 preferred_bpp = 32;
 528
 529         /* disable all the possible outputs/crtcs before entering KMS mode */
 530         if (!drm_drv_uses_atomic_modeset(dev))
 531                 drm_helper_disable_unused_functions(dev);
 532
 533         ret = drm_fb_helper_initial_config(&fbcon->helper, preferred_bpp);
 534         if (ret)
 535                 goto fini;
 536
 537         if (fbcon->helper.fbdev)
 538                 fbcon->helper.fbdev->pixmap.buf_align = 4;
 539         return 0;
 540
 541 fini:
 542         drm_fb_helper_fini(&fbcon->helper);
 543 free:
 544         kfree(fbcon);
 545         return ret;
 546 }
 547
 548 void
 549 nouveau_fbcon_fini(struct drm_device *dev)
 550 {
 551         struct nouveau_drm *drm = nouveau_drm(dev);
 552
 553         if (!drm->fbcon)
 554                 return;
 555
 556         nouveau_fbcon_accel_fini(dev);
 557         nouveau_fbcon_destroy(dev, drm->fbcon);
 558         kfree(drm->fbcon);
 559         drm->fbcon = NULL;
 560 }