drm/radeon: r100/r200 ums: block ability for userspace app to trash 0 page and beyond
authorDave Airlie <airlied@redhat.com>
Wed, 24 Feb 2010 07:17:13 +0000 (17:17 +1000)
committerDave Airlie <airlied@redhat.com>
Mon, 1 Mar 2010 06:08:22 +0000 (16:08 +1000)
radeon's have a special ability to passthrough writes in their internal
memory space directly to PCI, this ability means that if some of the internal
surfaces like the depth buffer point at 0x0, any writes to these will
go directly to RAM at 0x0 via PCI busmastering.

Now mesa used to always emit clears after emitting state, since the
radeon mesa driver was refactored a year or more ago, it was found it
could generate a clear request without ever sending any setup state to the
card. So the clear would attempt to clear the depth buffer at 0x0, which
would overwrite main memory at this point. fs corruption ensues.

Also once one app did this correctly, it would never get set back to 0
making this messy to reproduce.

The kernel should block this from happening as mesa runs without privs,
though it does require the user be connected to the current running X session.

This patch implements a check to make sure the depth offset has been set
before a depth clear occurs and if it finds one it prints a warning and
ignores the depth clear request. There is also a mesa fix to avoid sending
the badness going into mesa.

This only affects r100/r200 GPUs in user modesetting mode.

Signed-off-by: Dave Airlie <airlied@redhat.com>

index 06123ba31d31ff564ea4224a2f0de56e87cdbf53..dc6eba6b96dd1f5476cd3f6bda470e0cda6b245b 100644 (file)
@@ -1644,6 +1644,7 @@ static int radeon_do_resume_cp(struct drm_device *dev, struct drm_file *file_pri
        radeon_cp_init_ring_buffer(dev, dev_priv, file_priv);
+       dev_priv->have_z_offset = 0;
        radeon_irq_set_state(dev, RADEON_SW_INT_ENABLE, 1);
index f6d20cee5705670eed083ffd24c5e2466c06e1b3..ee484b61bc5cf39833494a357c81853d70ce9b2a 100644 (file)
@@ -267,6 +267,8 @@ typedef struct drm_radeon_private {
        u32 scratch_ages[5];
+       int have_z_offset;
        /* starting from here on, data is preserved accross an open */
        uint32_t flags;         /* see radeon_chip_flags */
        resource_size_t fb_aper_offset;
index 44b6d66b0ab31a6d67a4c3bd5a5ed44a50767529..8e69dc485dcb9bb106db6fe990e1803b7ebd020c 100644 (file)
@@ -105,6 +105,7 @@ static __inline__ int radeon_check_and_fixup_packets(drm_radeon_private_t *
                        DRM_ERROR("Invalid depth buffer offset\n");
                        return -EINVAL;
+               dev_priv->have_z_offset = 1;
        case RADEON_EMIT_PP_CNTL:
@@ -898,6 +899,11 @@ static void radeon_cp_dispatch_clear(struct drm_device * dev,
                if (tmp & RADEON_BACK)
                        flags |= RADEON_FRONT;
+       if (flags & (RADEON_DEPTH|RADEON_STENCIL)) {
+               if (!dev_priv->have_z_offset)
+                       printk_once(KERN_ERR "radeon: illegal depth clear request. Buggy mesa detected - please update.\n");
+               flags &= ~(RADEON_DEPTH | RADEON_STENCIL);
+       }
        if (flags & (RADEON_FRONT | RADEON_BACK)) {