thebeanogamer / rpms / qemu-kvm

Forked from rpms/qemu-kvm 5 months ago
Clone

Blame SOURCES/kvm-display-cirrus-check-vga-bits-per-pixel-bpp-value.patch

9ae3a8
From 4394f52159cec32cded60ec8f86cd4b92a85bfe5 Mon Sep 17 00:00:00 2001
9ae3a8
From: Gerd Hoffmann <kraxel@redhat.com>
9ae3a8
Date: Tue, 7 Feb 2017 10:07:47 +0100
9ae3a8
Subject: [PATCH 04/11] display: cirrus: check vga bits per pixel(bpp) value
9ae3a8
9ae3a8
RH-Author: Gerd Hoffmann <kraxel@redhat.com>
9ae3a8
Message-id: <1486462072-32174-3-git-send-email-kraxel@redhat.com>
9ae3a8
Patchwork-id: 73568
9ae3a8
O-Subject: [RHEL-7.4 qemu-kvm PATCH 2/7] display: cirrus: check vga bits per pixel(bpp) value
9ae3a8
Bugzilla: 1418233
9ae3a8
RH-Acked-by: Dr. David Alan Gilbert <dgilbert@redhat.com>
9ae3a8
RH-Acked-by: Paolo Bonzini <pbonzini@redhat.com>
9ae3a8
RH-Acked-by: Miroslav Rezanina <mrezanin@redhat.com>
9ae3a8
9ae3a8
From: Prasad J Pandit <pjp@fedoraproject.org>
9ae3a8
9ae3a8
In Cirrus CLGD 54xx VGA Emulator, if cirrus graphics mode is VGA,
9ae3a8
'cirrus_get_bpp' returns zero(0), which could lead to a divide
9ae3a8
by zero error in while copying pixel data. The same could occur
9ae3a8
via blit pitch values. Add check to avoid it.
9ae3a8
9ae3a8
Reported-by: Huawei PSIRT <psirt@huawei.com>
9ae3a8
Signed-off-by: Prasad J Pandit <pjp@fedoraproject.org>
9ae3a8
Message-id: 1476776717-24807-1-git-send-email-ppandit@redhat.com
9ae3a8
Signed-off-by: Gerd Hoffmann <kraxel@redhat.com>
9ae3a8
(cherry picked from commit 4299b90e9ba9ce5ca9024572804ba751aa1a7e70)
9ae3a8
Signed-off-by: Miroslav Rezanina <mrezanin@redhat.com>
9ae3a8
---
9ae3a8
 hw/display/cirrus_vga.c | 14 ++++++++++----
9ae3a8
 1 file changed, 10 insertions(+), 4 deletions(-)
9ae3a8
9ae3a8
diff --git a/hw/display/cirrus_vga.c b/hw/display/cirrus_vga.c
9ae3a8
index c42dfcf..dacfac6 100644
9ae3a8
--- a/hw/display/cirrus_vga.c
9ae3a8
+++ b/hw/display/cirrus_vga.c
9ae3a8
@@ -267,6 +267,9 @@ static void cirrus_update_memory_access(CirrusVGAState *s);
9ae3a8
 static bool blit_region_is_unsafe(struct CirrusVGAState *s,
9ae3a8
                                   int32_t pitch, int32_t addr)
9ae3a8
 {
9ae3a8
+    if (!pitch) {
9ae3a8
+        return true;
9ae3a8
+    }
9ae3a8
     if (pitch < 0) {
9ae3a8
         int64_t min = addr
9ae3a8
             + ((int64_t)s->cirrus_blt_height-1) * pitch;
9ae3a8
@@ -710,7 +713,7 @@ static int cirrus_bitblt_videotovideo_patterncopy(CirrusVGAState * s)
9ae3a8
                                             s->cirrus_addr_mask));
9ae3a8
 }
9ae3a8
 
9ae3a8
-static void cirrus_do_copy(CirrusVGAState *s, int dst, int src, int w, int h)
9ae3a8
+static int cirrus_do_copy(CirrusVGAState *s, int dst, int src, int w, int h)
9ae3a8
 {
9ae3a8
     int sx = 0, sy = 0;
9ae3a8
     int dx = 0, dy = 0;
9ae3a8
@@ -724,6 +727,9 @@ static void cirrus_do_copy(CirrusVGAState *s, int dst, int src, int w, int h)
9ae3a8
         int width, height;
9ae3a8
 
9ae3a8
         depth = s->vga.get_bpp(&s->vga) / 8;
9ae3a8
+        if (!depth) {
9ae3a8
+            return 0;
9ae3a8
+        }
9ae3a8
         s->vga.get_resolution(&s->vga, &width, &height);
9ae3a8
 
9ae3a8
         /* extra x, y */
9ae3a8
@@ -778,6 +784,8 @@ static void cirrus_do_copy(CirrusVGAState *s, int dst, int src, int w, int h)
9ae3a8
     cirrus_invalidate_region(s, s->cirrus_blt_dstaddr,
9ae3a8
 				s->cirrus_blt_dstpitch, s->cirrus_blt_width,
9ae3a8
 				s->cirrus_blt_height);
9ae3a8
+
9ae3a8
+    return 1;
9ae3a8
 }
9ae3a8
 
9ae3a8
 static int cirrus_bitblt_videotovideo_copy(CirrusVGAState * s)
9ae3a8
@@ -785,11 +793,9 @@ static int cirrus_bitblt_videotovideo_copy(CirrusVGAState * s)
9ae3a8
     if (blit_is_unsafe(s))
9ae3a8
         return 0;
9ae3a8
 
9ae3a8
-    cirrus_do_copy(s, s->cirrus_blt_dstaddr - s->vga.start_addr,
9ae3a8
+    return cirrus_do_copy(s, s->cirrus_blt_dstaddr - s->vga.start_addr,
9ae3a8
             s->cirrus_blt_srcaddr - s->vga.start_addr,
9ae3a8
             s->cirrus_blt_width, s->cirrus_blt_height);
9ae3a8
-
9ae3a8
-    return 1;
9ae3a8
 }
9ae3a8
 
9ae3a8
 /***************************************
9ae3a8
-- 
9ae3a8
1.8.3.1
9ae3a8