Ok, this synchronizes all of my changes for the last many months. Has code
[dana/xcompmgr.git] / xcompmgr.c
1 /*
2  * $Id$
3  *
4  * Copyright © 2003 Keith Packard
5  *
6  * Permission to use, copy, modify, distribute, and sell this software and its
7  * documentation for any purpose is hereby granted without fee, provided that
8  * the above copyright notice appear in all copies and that both that
9  * copyright notice and this permission notice appear in supporting
10  * documentation, and that the name of Keith Packard not be used in
11  * advertising or publicity pertaining to distribution of the software without
12  * specific, written prior permission.  Keith Packard makes no
13  * representations about the suitability of this software for any purpose.  It
14  * is provided "as is" without express or implied warranty.
15  *
16  * KEITH PACKARD DISCLAIMS ALL WARRANTIES WITH REGARD TO THIS SOFTWARE,
17  * INCLUDING ALL IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS, IN NO
18  * EVENT SHALL KEITH PACKARD BE LIABLE FOR ANY SPECIAL, INDIRECT OR
19  * CONSEQUENTIAL DAMAGES OR ANY DAMAGES WHATSOEVER RESULTING FROM LOSS OF USE,
20  * DATA OR PROFITS, WHETHER IN AN ACTION OF CONTRACT, NEGLIGENCE OR OTHER
21  * TORTIOUS ACTION, ARISING OUT OF OR IN CONNECTION WITH THE USE OR
22  * PERFORMANCE OF THIS SOFTWARE.
23  */
24
25
26 /* Modified by Matthew Hawn. I don't know what to say here so follow what it 
27    says above. Not that I can really do anything about it
28 */
29
30
31 #include <stdlib.h>
32 #include <stdio.h>
33 #include <string.h>
34 #include <math.h>
35 #include <sys/poll.h>
36 #include <sys/time.h>
37 #include <time.h>
38 #include <X11/Xlib.h>
39 #include <X11/Xutil.h>
40 #include <X11/Xatom.h>
41 #include <X11/extensions/Xcomposite.h>
42 #include <X11/extensions/Xdamage.h>
43 #include <X11/extensions/Xrender.h>
44
45 typedef struct _ignore {
46     struct _ignore      *next;
47     unsigned long       sequence;
48 } ignore;
49
50 typedef struct _win {
51     struct _win         *next;
52     Window              id;
53     Pixmap              pixmap;
54     XWindowAttributes   a;
55     int                 mode;
56     int                 damaged;
57     Damage              damage;
58     Picture             picture;
59     Picture             alphaPict;
60     Picture             shadowPict;
61     XserverRegion       borderSize;
62     XserverRegion       extents;
63     Picture             shadow;
64     int                 shadow_dx;
65     int                 shadow_dy;
66     int                 shadow_width;
67     int                 shadow_height;
68     unsigned int        opacity;
69
70     unsigned long       damage_sequence;    /* sequence when damage was created */
71
72     /* for drawing translucent windows */
73     XserverRegion       borderClip;
74     struct _win         *prev_trans;
75 } win;
76
77 typedef struct _conv {
78     int     size;
79     double  *data;
80 } conv;
81
82 win             *list;
83 Display         *dpy;
84 int             scr;
85 Window          root;
86 Picture         rootPicture;
87 Picture         rootBuffer;
88 Picture         blackPicture;
89 Picture         transBlackPicture;
90 Picture         rootTile;
91 XserverRegion   allDamage;
92 Bool            clipChanged;
93 Bool            hasNamePixmap;
94 int             root_height, root_width;
95 ignore          *ignore_head, **ignore_tail = &ignore_head;
96 int             xfixes_event, xfixes_error;
97 int             damage_event, damage_error;
98 int             composite_event, composite_error;
99 int             render_event, render_error;
100
101 /* find these once and be done with it */
102 Atom            opacityAtom;
103
104 /* opacity property name; sometime soon I'll write up an EWMH spec for it */
105 #define OPACITY_PROP    "_NET_WM_WINDOW_OPACITY"
106
107 #define TRANSLUCENT     0xe0000000
108 #define OPAQUE          0xffffffff
109
110 conv            *gaussianMap;
111
112 #define WINDOW_SOLID    0
113 #define WINDOW_TRANS    1
114 #define WINDOW_ARGB     2
115
116 #define TRANS_OPACITY   0.75
117
118 #define DEBUG_REPAINT 0
119 #define DEBUG_EVENTS 0
120 #define MONITOR_REPAINT 0
121
122 #define SHADOWS         1
123 #define SHARP_SHADOW    0
124
125 #if SHADOWS
126 #define SHADOW_RADIUS   12
127 #define SHADOW_OPACITY  0.75
128 #define SHADOW_OFFSET_X (-SHADOW_RADIUS * 5 / 4)
129 #define SHADOW_OFFSET_Y (-SHADOW_RADIUS * 5 / 4)
130
131 static double
132 gaussian (double r, double x, double y)
133 {
134     return ((1 / (sqrt (2 * M_PI * r))) *
135             exp ((- (x * x + y * y)) / (2 * r * r)));
136 }
137
138
139 static conv *
140 make_gaussian_map (Display *dpy, double r)
141 {
142     conv            *c;
143     int             size = ((int) ceil ((r * 3)) + 1) & ~1;
144     int             center = size / 2;
145     int             x, y;
146     double          t;
147     double          g;
148     
149     c = malloc (sizeof (conv) + size * size * sizeof (double));
150     c->size = size;
151     c->data = (double *) (c + 1);
152     t = 0.0;
153     for (y = 0; y < size; y++)
154         for (x = 0; x < size; x++)
155         {
156             g = gaussian (r, (double) (x - center), (double) (y - center));
157             t += g;
158             c->data[y * size + x] = g;
159         }
160 /*    printf ("gaussian total %f\n", t); */
161     for (y = 0; y < size; y++)
162         for (x = 0; x < size; x++)
163         {
164             c->data[y*size + x] /= t;
165         }
166     return c;
167 }
168
169 /*
170  * A picture will help
171  *
172  *      -center   0                width  width+center
173  *  -center +-----+-------------------+-----+
174  *          |     |                   |     |
175  *          |     |                   |     |
176  *        0 +-----+-------------------+-----+
177  *          |     |                   |     |
178  *          |     |                   |     |
179  *          |     |                   |     |
180  *   height +-----+-------------------+-----+
181  *          |     |                   |     |
182  * height+  |     |                   |     |
183  *  center  +-----+-------------------+-----+
184  */
185  
186 static unsigned char
187 sum_gaussian (conv *map, double opacity, int x, int y, int width, int height)
188 {
189     int     fx, fy;
190     double  *g_data;
191     double  *g_line = map->data;
192     int     g_size = map->size;
193     int     center = g_size / 2;
194     int     fx_start, fx_end;
195     int     fy_start, fy_end;
196     double  v;
197     
198     /*
199      * Compute set of filter values which are "in range",
200      * that's the set with:
201      *  0 <= x + (fx-center) && x + (fx-center) < width &&
202      *  0 <= y + (fy-center) && y + (fy-center) < height
203      *
204      *  0 <= x + (fx - center)  x + fx - center < width
205      *  center - x <= fx        fx < width + center - x
206      */
207
208     fx_start = center - x;
209     if (fx_start < 0)
210         fx_start = 0;
211     fx_end = width + center - x;
212     if (fx_end > g_size)
213         fx_end = g_size;
214
215     fy_start = center - y;
216     if (fy_start < 0)
217         fy_start = 0;
218     fy_end = height + center - y;
219     if (fy_end > g_size)
220         fy_end = g_size;
221
222     g_line = g_line + fy_start * g_size + fx_start;
223     
224     v = 0;
225     for (fy = fy_start; fy < fy_end; fy++)
226     {
227         g_data = g_line;
228         g_line += g_size;
229         
230         for (fx = fx_start; fx < fx_end; fx++)
231             v += *g_data++;
232     }
233     if (v > 1)
234         v = 1;
235     
236     return ((unsigned char) (v * opacity * 255.0));
237 }
238
239 static XImage *
240 make_shadow (Display *dpy, double opacity, int width, int height)
241 {
242     XImage          *ximage;
243     unsigned char   *data;
244     int             gsize = gaussianMap->size;
245     int             ylimit, xlimit;
246     int             swidth = width + gsize;
247     int             sheight = height + gsize;
248     int             center = gsize / 2;
249     int             x, y;
250     unsigned char   d;
251     int             x_diff;
252     
253     data = malloc (swidth * sheight * sizeof (unsigned char));
254     if (!data)
255         return 0;
256     ximage = XCreateImage (dpy,
257                            DefaultVisual(dpy, DefaultScreen(dpy)),
258                            8,
259                            ZPixmap,
260                            0,
261                            (char *) data,
262                            swidth, sheight, 8, swidth * sizeof (unsigned char));
263     if (!ximage)
264     {
265         free (data);
266         return 0;
267     }
268     /*
269      * Build the gaussian in sections
270      */
271
272     /*
273      * center (fill the complete data array)
274      */
275
276     d = sum_gaussian (gaussianMap, opacity, center, center, width, height);
277     memset(data, d, sheight * swidth);
278     
279     /*
280      * corners
281      */
282     ylimit = gsize;
283     if (ylimit > sheight / 2)
284         ylimit = (sheight + 1) / 2;
285     xlimit = gsize;
286     if (xlimit > swidth / 2)
287         xlimit = (swidth + 1) / 2;
288
289     for (y = 0; y < ylimit; y++)
290         for (x = 0; x < xlimit; x++)
291         {
292             d = sum_gaussian (gaussianMap, opacity, x - center, y - center, width, height);
293             data[y * swidth + x] = d;
294             data[(sheight - y - 1) * swidth + x] = d;
295             data[(sheight - y - 1) * swidth + (swidth - x - 1)] = d;
296             data[y * swidth + (swidth - x - 1)] = d;
297         }
298
299     /*
300      * top/bottom
301      */
302     x_diff = swidth - (gsize * 2);
303     if (x_diff > 0 && ylimit > 0)
304     {
305         for (y = 0; y < ylimit; y++)
306         {
307             d = sum_gaussian (gaussianMap, opacity, center, y - center, width, height);
308             memset (&data[y * swidth + gsize], d, x_diff);
309             memset (&data[(sheight - y - 1) * swidth + gsize], d, x_diff);
310         }
311     }
312
313     /*
314      * sides
315      */
316     
317     for (x = 0; x < xlimit; x++)
318     {
319         d = sum_gaussian (gaussianMap, opacity, x - center, center, width, height);
320         for (y = gsize; y < sheight - gsize; y++)
321         {
322             data[y * swidth + x] = d;
323             data[y * swidth + (swidth - x - 1)] = d;
324         }
325     }
326
327     return ximage;
328 }
329
330 static Picture
331 shadow_picture (Display *dpy, double opacity, int width, int height, int *wp, int *hp)
332 {
333     XImage  *shadowImage;
334     Pixmap  shadowPixmap;
335     Picture shadowPicture;
336     GC      gc;
337     
338     shadowImage = make_shadow (dpy, opacity, width, height);
339     if (!shadowImage)
340         return None;
341     shadowPixmap = XCreatePixmap (dpy, root, 
342                                   shadowImage->width,
343                                   shadowImage->height,
344                                   8);
345     shadowPicture = XRenderCreatePicture (dpy, shadowPixmap,
346                                           XRenderFindStandardFormat (dpy, PictStandardA8),
347                                           0, 0);
348     gc = XCreateGC (dpy, shadowPixmap, 0, 0);
349     
350     XPutImage (dpy, shadowPixmap, gc, shadowImage, 0, 0, 0, 0, 
351                shadowImage->width,
352                shadowImage->height);
353     *wp = shadowImage->width;
354     *hp = shadowImage->height;
355     XFreeGC (dpy, gc);
356     XDestroyImage (shadowImage);
357     XFreePixmap (dpy, shadowPixmap);
358     return shadowPicture;
359 }
360
361 #endif /* SHADOWS */
362
363 Picture
364 solid_picture (Display *dpy, Bool argb, double a, double r, double g, double b)
365 {
366     Pixmap                      pixmap;
367     Picture                     picture;
368     XRenderPictureAttributes    pa;
369     XRenderColor                c;
370
371     pixmap = XCreatePixmap (dpy, root, 1, 1, argb ? 32 : 8);
372     pa.repeat = True;
373     picture = XRenderCreatePicture (dpy, pixmap,
374                                     XRenderFindStandardFormat (dpy, argb ? PictStandardARGB32 : PictStandardA8),
375                                     CPRepeat,
376                                     &pa);
377     c.alpha = a * 0xffff;
378     c.red = r * 0xffff;
379     c.green = g * 0xffff;
380     c.blue = b * 0xffff;
381     XRenderFillRectangle (dpy, PictOpSrc, picture, &c, 0, 0, 1, 1);
382     XFreePixmap (dpy, pixmap);
383     return picture;
384 }
385
386 void
387 discard_ignore (Display *dpy, unsigned long sequence)
388 {
389     while (ignore_head)
390     {
391         if ((long) (sequence - ignore_head->sequence) > 0)
392         {
393             ignore  *next = ignore_head->next;
394             free (ignore_head);
395             ignore_head = next;
396             if (!ignore_head)
397                 ignore_tail = &ignore_head;
398         }
399         else
400             break;
401     }
402 }
403
404 void
405 set_ignore (Display *dpy, unsigned long sequence)
406 {
407     ignore  *i = malloc (sizeof (ignore));
408     if (!i)
409         return;
410     i->sequence = sequence;
411     i->next = 0;
412     *ignore_tail = i;
413     ignore_tail = &i->next;
414 }
415
416 int
417 should_ignore (Display *dpy, unsigned long sequence)
418 {
419     discard_ignore (dpy, sequence);
420     return ignore_head && ignore_head->sequence == sequence;
421 }
422
423 static win *
424 find_win (Display *dpy, Window id)
425 {
426     win *w;
427
428     for (w = list; w; w = w->next)
429         if (w->id == id)
430             return w;
431     return 0;
432 }
433
434 static char *backgroundProps[] = {
435     "_XROOTPMAP_ID",
436     "_XSETROOT_ID",
437     0,
438 };
439     
440 static Picture
441 root_tile (Display *dpy)
442 {
443     Picture         picture;
444     Atom            actual_type;
445     Pixmap          pixmap;
446     int             actual_format;
447     unsigned long   nitems;
448     unsigned long   bytes_after;
449     unsigned char   *prop;
450     Bool            fill;
451     XRenderPictureAttributes    pa;
452     int             p;
453
454     pixmap = None;
455     for (p = 0; backgroundProps[p]; p++)
456     {
457         if (XGetWindowProperty (dpy, root, XInternAtom (dpy, backgroundProps[p], False),
458                                 0, 4, False, AnyPropertyType,
459                                 &actual_type, &actual_format, &nitems, &bytes_after, &prop) == Success &&
460             actual_type == XInternAtom (dpy, "PIXMAP", False) && actual_format == 32 && nitems == 1)
461         {
462             memcpy (&pixmap, prop, 4);
463             XFree (prop);
464             fill = False;
465             break;
466         }
467     }
468     if (!pixmap)
469     {
470         pixmap = XCreatePixmap (dpy, root, 1, 1, DefaultDepth (dpy, scr));
471         fill = True;
472     }
473     pa.repeat = True;
474     picture = XRenderCreatePicture (dpy, pixmap,
475                                     XRenderFindVisualFormat (dpy,
476                                                              DefaultVisual (dpy, scr)),
477                                     CPRepeat, &pa);
478     if (fill)
479     {
480         XRenderColor    c;
481         
482         c.red = c.green = c.blue = 0x8080;
483         c.alpha = 0xffff;
484         XRenderFillRectangle (dpy, PictOpSrc, picture, &c, 
485                               0, 0, 1, 1);
486     }
487     return picture;
488 }
489
490 static void
491 paint_root (Display *dpy)
492 {
493     if (!rootTile)
494         rootTile = root_tile (dpy);
495     
496     XRenderComposite (dpy, PictOpSrc,
497                       rootTile, None, rootBuffer,
498                       0, 0, 0, 0, 0, 0, root_width, root_height);
499 }
500
501 static XserverRegion
502 win_extents (Display *dpy, win *w)
503 {
504     XRectangle      r;
505     
506     r.x = w->a.x;
507     r.y = w->a.y;
508     r.width = w->a.width + w->a.border_width * 2;
509     r.height = w->a.height + w->a.border_width * 2;
510 #if SHADOWS
511 #if !SHARP_SHADOW
512     if (w->mode != WINDOW_ARGB)
513 #endif
514     {
515         XRectangle  sr;
516         
517 #if SHARP_SHADOW
518         w->shadow_dx = 2;
519         w->shadow_dy = 7;
520         w->shadow_width = w->a.width;
521         w->shadow_height = w->a.height;
522 #else
523         w->shadow_dx = SHADOW_OFFSET_X;
524         w->shadow_dy = SHADOW_OFFSET_Y;
525         if (!w->shadow)
526         {
527             double      opacity = SHADOW_OPACITY;
528             if (w->mode == WINDOW_TRANS)
529                 opacity = opacity * TRANS_OPACITY;
530             w->shadow = shadow_picture (dpy, opacity,
531                                         w->a.width + w->a.border_width * 2,
532                                         w->a.height + w->a.border_width * 2,
533                                         &w->shadow_width, &w->shadow_height);
534         }
535 #endif
536         sr.x = w->a.x + w->shadow_dx;
537         sr.y = w->a.y + w->shadow_dy;
538         sr.width = w->shadow_width;
539         sr.height = w->shadow_height;
540         if (sr.x < r.x)
541         {
542             r.width = (r.x + r.width) - sr.x;
543             r.x = sr.x;
544         }
545         if (sr.y < r.y)
546         {
547             r.height = (r.y + r.height) - sr.y;
548             r.y = sr.y;
549         }
550         if (sr.x + sr.width > r.x + r.width)
551             r.width = sr.x + sr.width - r.x;
552         if (sr.y + sr.height > r.y + r.height)
553             r.height = sr.y + sr.height - r.y;
554     }
555 #endif
556     return XFixesCreateRegion (dpy, &r, 1);
557 }
558
559 static XserverRegion
560 border_size (Display *dpy, win *w)
561 {
562     XserverRegion   border;
563     /*
564      * if window doesn't exist anymore,  this will generate an error
565      * as well as not generate a region.  Perhaps a better XFixes
566      * architecture would be to have a request that copies instead
567      * of creates, that way you'd just end up with an empty region
568      * instead of an invalid XID.
569      */
570     set_ignore (dpy, NextRequest (dpy));
571     border = XFixesCreateRegionFromWindow (dpy, w->id, WindowRegionBounding);
572     /* translate this */
573     set_ignore (dpy, NextRequest (dpy));
574     XFixesTranslateRegion (dpy, border,
575                            w->a.x + w->a.border_width,
576                            w->a.y + w->a.border_width);
577     return border;
578 }
579
580 static void
581 paint_all (Display *dpy, XserverRegion region)
582 {
583     win *w;
584     win *t = 0;
585     
586     if (!region)
587     {
588         XRectangle  r;
589         r.x = 0;
590         r.y = 0;
591         r.width = root_width;
592         r.height = root_height;
593         region = XFixesCreateRegion (dpy, &r, 1);
594     }
595 #if MONITOR_REPAINT
596     rootBuffer = rootPicture;
597 #else
598     if (!rootBuffer)
599     {
600         Pixmap  rootPixmap = XCreatePixmap (dpy, root, root_width, root_height,
601                                             DefaultDepth (dpy, scr));
602         rootBuffer = XRenderCreatePicture (dpy, rootPixmap,
603                                            XRenderFindVisualFormat (dpy,
604                                                                     DefaultVisual (dpy, scr)),
605                                            0, 0);
606         XFreePixmap (dpy, rootPixmap);
607     }
608 #endif
609     XFixesSetPictureClipRegion (dpy, rootPicture, 0, 0, region);
610 #if MONITOR_REPAINT
611     XRenderComposite (dpy, PictOpSrc, blackPicture, None, rootPicture,
612                       0, 0, 0, 0, 0, 0, root_width, root_height);
613 #endif
614 #if DEBUG_REPAINT
615     printf ("paint:");
616 #endif
617     for (w = list; w; w = w->next)
618     {
619         if (w->a.map_state != IsViewable)
620             continue;
621         /* never painted, ignore it */
622         if (!w->damaged)
623             continue;
624         if (!w->picture)
625             continue;
626 #if DEBUG_REPAINT
627         printf (" 0x%x", w->id);
628 #endif
629         if (clipChanged)
630         {
631             if (w->borderSize)
632             {
633                 set_ignore (dpy, NextRequest (dpy));
634                 XFixesDestroyRegion (dpy, w->borderSize);
635                 w->borderSize = None;
636             }
637             if (w->extents)
638             {
639                 XFixesDestroyRegion (dpy, w->extents);
640                 w->extents = None;
641             }
642             if (w->borderClip)
643             {
644                 XFixesDestroyRegion (dpy, w->borderClip);
645                 w->borderClip = None;
646             }
647         }
648         if (!w->borderSize)
649             w->borderSize = border_size (dpy, w);
650         if (!w->extents)
651             w->extents = win_extents (dpy, w);
652         if (w->mode == WINDOW_SOLID)
653         {
654             XFixesSetPictureClipRegion (dpy, rootBuffer, 0, 0, region);
655             set_ignore (dpy, NextRequest (dpy));
656             XFixesSubtractRegion (dpy, region, region, w->borderSize);
657             set_ignore (dpy, NextRequest (dpy));
658             XRenderComposite (dpy, PictOpSrc, w->picture, None, rootBuffer,
659                               0, 0, 0, 0, 
660                               w->a.x + w->a.border_width,
661                               w->a.y + w->a.border_width,
662                               w->a.width,
663                               w->a.height);
664         }
665         if (!w->borderClip)
666         {
667             w->borderClip = XFixesCreateRegion (dpy, 0, 0);
668             XFixesCopyRegion (dpy, w->borderClip, region);
669         }
670         w->prev_trans = t;
671         t = w;
672     }
673 #if DEBUG_REPAINT
674     printf ("\n");
675     fflush (stdout);
676 #endif
677     XFixesSetPictureClipRegion (dpy, rootBuffer, 0, 0, region);
678     paint_root (dpy);
679     for (w = t; w; w = w->prev_trans)
680     {
681         XFixesSetPictureClipRegion (dpy, rootBuffer, 0, 0, w->borderClip);
682 #if SHADOWS
683 #if SHARP_SHADOW
684         set_ignore (dpy, NextRequest (dpy));
685         if (w->opacity != OPAQUE && !w->shadowPict)
686             w->shadowPict = solid_picture (dpy, True,
687                                            (double) w->opacity / OPAQUE * 0.3,
688                                            0, 0, 0);
689         XRenderComposite (dpy, PictOpOver, 
690                           w->shadowPict ? w->shadowPict : transBlackPicture,
691                           w->picture, rootBuffer,
692                           0, 0, 0, 0,
693                           w->a.x + w->shadow_dx,
694                           w->a.y + w->shadow_dy,
695                           w->shadow_width, w->shadow_height);
696 #else
697         if (w->shadow)
698         {
699             XRenderComposite (dpy, PictOpOver, blackPicture, w->shadow, rootBuffer,
700                               0, 0, 0, 0,
701                               w->a.x + w->shadow_dx,
702                               w->a.y + w->shadow_dy,
703                               w->shadow_width, w->shadow_height);
704         }
705 #endif
706 #endif /* SHADOWS */
707         if (w->opacity != OPAQUE)
708             w->alphaPict = solid_picture (dpy, False, 
709                                           (double) w->opacity / OPAQUE, 0, 0, 0);
710         if (w->mode == WINDOW_TRANS)
711         {
712             set_ignore (dpy, NextRequest (dpy));
713             XRenderComposite (dpy, PictOpOver, w->picture, w->alphaPict, rootBuffer,
714                               0, 0, 0, 0, 
715                               w->a.x + w->a.border_width,
716                               w->a.y + w->a.border_width,
717                               w->a.width,
718                               w->a.height);
719         }
720         else if (w->mode == WINDOW_ARGB)
721         {
722             set_ignore (dpy, NextRequest (dpy));
723             XRenderComposite (dpy, PictOpOver, w->picture, w->alphaPict, rootBuffer,
724                               0, 0, 0, 0, 
725                               w->a.x + w->a.border_width,
726                               w->a.y + w->a.border_width,
727                               w->a.width,
728                               w->a.height);
729         }
730         XFixesDestroyRegion (dpy, w->borderClip);
731         w->borderClip = None;
732     }
733     XFixesDestroyRegion (dpy, region);
734     if (rootBuffer != rootPicture)
735     {
736         XFixesSetPictureClipRegion (dpy, rootBuffer, 0, 0, None);
737         XRenderComposite (dpy, PictOpSrc, rootBuffer, None, rootPicture,
738                           0, 0, 0, 0, 0, 0, root_width, root_height);
739     }
740 }
741
742 static void
743 add_damage (Display *dpy, XserverRegion damage)
744 {
745     if (allDamage)
746     {
747         XFixesUnionRegion (dpy, allDamage, allDamage, damage);
748         XFixesDestroyRegion (dpy, damage);
749     }
750     else
751         allDamage = damage;
752 }
753
754 static void
755 repair_win (Display *dpy, Window id)
756 {
757     win             *w = find_win (dpy, id);
758     XserverRegion   parts;
759
760     if (!w)
761         return;
762     if (!w->damaged)
763     {
764         parts = win_extents (dpy, w);
765         set_ignore (dpy, NextRequest (dpy));
766         XDamageSubtract (dpy, w->damage, None, None);
767     }
768     else
769     {
770         XserverRegion   o;
771         parts = XFixesCreateRegion (dpy, 0, 0);
772         set_ignore (dpy, NextRequest (dpy));
773         XDamageSubtract (dpy, w->damage, None, parts);
774         XFixesTranslateRegion (dpy, parts,
775                                w->a.x + w->a.border_width,
776                                w->a.y + w->a.border_width);
777 #if SHADOWS
778 #if SHARP_SHADOW
779         o = XFixesCreateRegion (dpy, 0, 0);
780         XFixesCopyRegion (dpy, o, parts);
781         XFixesTranslateRegion (dpy, o, w->shadow_dx, w->shadow_dy);
782         XFixesUnionRegion (dpy, parts, parts, o);
783         XFixesDestroyRegion (dpy, o);
784 #endif
785 #endif
786     }
787     add_damage (dpy, parts);
788     w->damaged = 1;
789 }
790
791 static void
792 map_win (Display *dpy, Window id, unsigned long sequence)
793 {
794     win         *w = find_win (dpy, id);
795     Drawable    back;
796
797     if (!w)
798         return;
799     w->a.map_state = IsViewable;
800
801     if (hasNamePixmap)
802     {
803         w->pixmap = XCompositeNameWindowPixmap (dpy, id);
804         back = w->pixmap;
805     }
806     else
807     {
808         w->pixmap = 0;
809         back = id;
810     }
811
812     if (w->a.class != InputOnly)
813     {
814         XRenderPictureAttributes        pa;
815         XRenderPictFormat               *format;
816         format = XRenderFindVisualFormat (dpy, w->a.visual);
817         pa.subwindow_mode = IncludeInferiors;
818         w->picture = XRenderCreatePicture (dpy, back,
819                                            format,
820                                            CPSubwindowMode,
821                                            &pa);
822     }
823     
824     /* make sure we know if property was changed */
825     XSelectInput(dpy, id, PropertyChangeMask);
826
827     w->damaged = 0;
828     clipChanged = True;
829 }
830
831 static void
832 unmap_win (Display *dpy, Window id)
833 {
834     win *w = find_win (dpy, id);
835
836     if (!w)
837         return;
838     w->a.map_state = IsUnmapped;
839     w->damaged = 0;
840     if (w->extents != None)
841     {
842         add_damage (dpy, w->extents);    /* destroys region */
843         w->extents = None;
844     }
845     if (hasNamePixmap)
846     {
847         XFreePixmap (dpy, w->pixmap);
848         w->pixmap = 0;
849     }
850     if (w->picture)
851         XRenderFreePicture (dpy, w->picture);
852
853     /* don't care about properties anymore */
854     set_ignore (dpy, NextRequest (dpy));
855     XSelectInput(dpy, id, 0);
856
857     if (w->borderSize)
858     {
859         set_ignore (dpy, NextRequest (dpy));
860         XFixesDestroyRegion (dpy, w->borderSize);
861         w->borderSize = None;
862     }
863     if (w->shadow)
864     {
865         XRenderFreePicture (dpy, w->shadow);
866         w->shadow = None;
867     }
868     if (w->borderClip)
869     {
870         XFixesDestroyRegion (dpy, w->borderClip);
871         w->borderClip = None;
872     }
873
874     clipChanged = True;
875 }
876
877
878
879 /* Get the opacity prop from window
880    not found: default
881    otherwise the value
882  */
883 static unsigned int
884 get_opacity_prop(Display *dpy, win *w, unsigned int def)
885 {
886     Atom actual;
887     int format;
888     unsigned long n, left;
889
890     char *data;
891     XGetWindowProperty(dpy, w->id, opacityAtom, 0L, 1L, False, 
892                        XA_CARDINAL, &actual, &format, 
893                        &n, &left, (unsigned char **) &data);
894     if (data != None)
895     {
896         unsigned int i;
897         memcpy (&i, data, sizeof (unsigned int));
898         XFree( (void *) data);
899         return i;
900     }
901     return def;
902 }
903
904 /* determine mode for window all in one place.
905    Future might check for menu flag and other cool things
906 */
907
908
909 static int 
910 determine_mode(Display *dpy, win *w)
911 {
912     int mode;
913     XRenderPictFormat *format;
914     unsigned int default_opacity;
915
916     /* if trans prop == -1 fall back on  previous tests*/
917
918     if (w->a.override_redirect)
919         default_opacity = TRANSLUCENT;
920     else
921         default_opacity = OPAQUE;
922     
923     w->opacity = get_opacity_prop(dpy, w, default_opacity);
924     if (w->alphaPict)
925     {
926         XRenderFreePicture (dpy, w->alphaPict);
927         w->alphaPict = None;
928     }
929     if (w->shadowPict)
930     {
931         XRenderFreePicture (dpy, w->shadowPict);
932         w->shadowPict = None;
933     }
934
935     if (w->a.class == InputOnly)
936     {
937         format = 0;
938     }
939     else
940     {
941         format = XRenderFindVisualFormat (dpy, w->a.visual);
942     }
943
944     if (format && format->type == PictTypeDirect && format->direct.alphaMask)
945     {
946         mode = WINDOW_ARGB;
947     }
948     else if (w->opacity != OPAQUE)
949     {
950         mode = WINDOW_TRANS;
951     }
952     else
953     {
954         mode = WINDOW_SOLID;
955     }
956     return mode;
957 }
958
959 static void
960 add_win (Display *dpy, Window id, Window prev)
961 {
962     win                         *new = malloc (sizeof (win));
963     win                         **p;
964     
965     if (!new)
966         return;
967     if (prev)
968     {
969         for (p = &list; *p; p = &(*p)->next)
970             if ((*p)->id == prev)
971                 break;
972     }
973     else
974         p = &list;
975     new->id = id;
976     set_ignore (dpy, NextRequest (dpy));
977     if (!XGetWindowAttributes (dpy, id, &new->a))
978     {
979         free (new);
980         return;
981     }
982     new->damaged = 0;
983     new->picture = None;
984     if (new->a.class == InputOnly)
985     {
986         new->damage_sequence = 0;
987         new->damage = None;
988     }
989     else
990     {
991         new->damage_sequence = NextRequest (dpy);
992         new->damage = XDamageCreate (dpy, id, XDamageReportNonEmpty);
993     }
994     new->alphaPict = None;
995     new->shadowPict = None;
996     new->borderSize = None;
997     new->extents = None;
998     new->shadow = None;
999     new->shadow_dx = 0;
1000     new->shadow_dy = 0;
1001     new->shadow_width = 0;
1002     new->shadow_height = 0;
1003     new->opacity = OPAQUE;
1004
1005     /* moved mode setting to one place */
1006     new->mode = determine_mode(dpy, new);
1007     new->borderClip = None;
1008     new->prev_trans = 0;
1009
1010     new->next = *p;
1011     *p = new;
1012     if (new->a.map_state == IsViewable)
1013         map_win (dpy, id, new->damage_sequence - 1);
1014 }
1015
1016 void
1017 restack_win (Display *dpy, win *w, Window new_above)
1018 {
1019     Window  old_above;
1020     
1021     if (w->next)
1022         old_above = w->next->id;
1023     else
1024         old_above = None;
1025     if (old_above != new_above)
1026     {
1027         win **prev;
1028
1029         /* unhook */
1030         for (prev = &list; *prev; prev = &(*prev)->next)
1031             if ((*prev) == w)
1032                 break;
1033         *prev = w->next;
1034         
1035         /* rehook */
1036         for (prev = &list; *prev; prev = &(*prev)->next)
1037         {
1038             if ((*prev)->id == new_above)
1039                 break;
1040         }
1041         w->next = *prev;
1042         *prev = w;
1043     }
1044 }
1045
1046 static void
1047 configure_win (Display *dpy, XConfigureEvent *ce)
1048 {
1049     win             *w = find_win (dpy, ce->window);
1050     Window          above;
1051     XserverRegion   damage = None;
1052     
1053     if (!w)
1054     {
1055         if (ce->window == root)
1056         {
1057             if (rootBuffer)
1058             {
1059                 XRenderFreePicture (dpy, rootBuffer);
1060                 rootBuffer = None;
1061             }
1062             root_width = ce->width;
1063             root_height = ce->height;
1064         }
1065         return;
1066     }
1067     if (w->a.map_state == IsViewable)
1068     {
1069         damage = XFixesCreateRegion (dpy, 0, 0);
1070         if (w->extents != None) 
1071             XFixesCopyRegion (dpy, damage, w->extents);
1072     }
1073     w->a.x = ce->x;
1074     w->a.y = ce->y;
1075     if (w->a.width != ce->width || w->a.height != ce->height)
1076         if (w->shadow)
1077         {
1078             XRenderFreePicture (dpy, w->shadow);
1079             w->shadow = None;
1080         }
1081     w->a.width = ce->width;
1082     w->a.height = ce->height;
1083     w->a.border_width = ce->border_width;
1084     w->a.override_redirect = ce->override_redirect;
1085     restack_win (dpy, w, ce->above);
1086     if (damage)
1087     {
1088         XserverRegion   extents = win_extents (dpy, w);
1089         XFixesUnionRegion (dpy, damage, damage, extents);
1090         XFixesDestroyRegion (dpy, extents);
1091         add_damage (dpy, damage);
1092     }
1093     clipChanged = True;
1094 }
1095
1096 static void
1097 circulate_win (Display *dpy, XCirculateEvent *ce)
1098 {
1099     win     *w = find_win (dpy, ce->window);
1100     Window  new_above;
1101
1102     if (ce->place == PlaceOnTop)
1103         new_above = list->id;
1104     else
1105         new_above = None;
1106     restack_win (dpy, w, new_above);
1107     clipChanged = True;
1108 }
1109
1110 static void
1111 destroy_win (Display *dpy, Window id, Bool gone)
1112 {
1113     win **prev, *w;
1114
1115     for (prev = &list; (w = *prev); prev = &w->next)
1116         if (w->id == id)
1117         {
1118             if (!gone)
1119                 unmap_win (dpy, id);
1120             *prev = w->next;
1121             if (w->picture)
1122             {
1123                 set_ignore (dpy, NextRequest (dpy));
1124                 XRenderFreePicture (dpy, w->picture);
1125             }
1126             if (w->alphaPict)
1127                 XRenderFreePicture (dpy, w->alphaPict);
1128             if (w->shadowPict)
1129                 XRenderFreePicture (dpy, w->shadowPict);
1130             if (w->damage != None)
1131             {
1132                 set_ignore (dpy, NextRequest (dpy));
1133                 XDamageDestroy (dpy, w->damage);
1134             }
1135             free (w);
1136             break;
1137         }
1138 }
1139
1140 /*
1141 static void
1142 dump_win (win *w)
1143 {
1144     printf ("\t%08lx: %d x %d + %d + %d (%d)\n", w->id,
1145             w->a.width, w->a.height, w->a.x, w->a.y, w->a.border_width);
1146 }
1147
1148
1149 static void
1150 dump_wins (void)
1151 {
1152     win *w;
1153
1154     printf ("windows:\n");
1155     for (w = list; w; w = w->next)
1156         dump_win (w);
1157 }
1158 */
1159
1160 static void
1161 damage_win (Display *dpy, XDamageNotifyEvent *de)
1162 {
1163     repair_win (dpy, de->drawable);
1164 }
1165
1166 static int
1167 error (Display *dpy, XErrorEvent *ev)
1168 {
1169     int     o;
1170     char    *name = 0;
1171     
1172     if (should_ignore (dpy, ev->serial))
1173         return 0;
1174     
1175     
1176     o = ev->error_code - xfixes_error;
1177     switch (o) {
1178     case BadRegion: name = "BadRegion"; break;
1179     default: break;
1180     }
1181     o = ev->error_code - damage_error;
1182     switch (o) {
1183     case BadDamage: name = "BadDamage"; break;
1184     default: break;
1185     }
1186     o = ev->error_code - render_error;
1187     switch (o) {
1188     case BadPictFormat: name ="BadPictFormat"; break;
1189     case BadPicture: name ="BadPicture"; break;
1190     case BadPictOp: name ="BadPictOp"; break;
1191     case BadGlyphSet: name ="BadGlyphSet"; break;
1192     case BadGlyph: name ="BadGlyph"; break;
1193     default: break;
1194     }
1195         
1196     printf ("error %d request %d minor %d serial %d\n",
1197             ev->error_code, ev->request_code, ev->minor_code, ev->serial);
1198
1199     return 0;
1200 }
1201
1202 static void
1203 expose_root (Display *dpy, Window root, XRectangle *rects, int nrects)
1204 {
1205     XserverRegion  region = XFixesCreateRegion (dpy, rects, nrects);
1206     
1207     add_damage (dpy, region);
1208 }
1209
1210
1211 static int
1212 ev_serial (XEvent *ev)
1213 {
1214     if (ev->type & 0x7f != KeymapNotify)
1215         return ev->xany.serial;
1216     return NextRequest (ev->xany.display);
1217 }
1218
1219
1220 static char *
1221 ev_name (XEvent *ev)
1222 {
1223     static char buf[128];
1224     switch (ev->type & 0x7f) {
1225     case Expose:
1226         return "Expose";
1227     case MapNotify:
1228         return "Map";
1229     case UnmapNotify:
1230         return "Unmap";
1231     case ReparentNotify:
1232         return "Reparent";
1233     case CirculateNotify:
1234         return "Circulate";
1235     default:
1236         if (ev->type == damage_event + XDamageNotify)
1237             return "Damage";
1238         sprintf (buf, "Event %d", ev->type);
1239         return buf;
1240     }
1241 }
1242
1243 static Window
1244 ev_window (XEvent *ev)
1245 {
1246     switch (ev->type) {
1247     case Expose:
1248         return ev->xexpose.window;
1249     case MapNotify:
1250         return ev->xmap.window;
1251     case UnmapNotify:
1252         return ev->xunmap.window;
1253     case ReparentNotify:
1254         return ev->xreparent.window;
1255     case CirculateNotify:
1256         return ev->xcirculate.window;
1257     default:
1258         if (ev->type == damage_event + XDamageNotify)
1259             return ((XDamageNotifyEvent *) ev)->drawable;
1260         return 0;
1261     }
1262 }
1263
1264 int
1265 main (int argc, char **argv)
1266 {
1267     XEvent          ev;
1268     Window          root_return, parent_return;
1269     Window          *children;
1270     Pixmap          transPixmap;
1271     Pixmap          blackPixmap;
1272     unsigned int    nchildren;
1273     int             i;
1274     XRenderPictureAttributes    pa;
1275     XRenderColor                c;
1276     XRectangle      *expose_rects = 0;
1277     int             size_expose = 0;
1278     int             n_expose = 0;
1279     struct pollfd   ufd;
1280     int             n;
1281     int             last_update;
1282     int             now;
1283     int             p;
1284     int             composite_major, composite_minor;
1285
1286     dpy = XOpenDisplay (0);
1287     if (!dpy)
1288     {
1289         fprintf (stderr, "Can't open display\n");
1290         exit (1);
1291     }
1292     XSetErrorHandler (error);
1293 #if 0
1294     XSynchronize (dpy, 1);
1295 #endif
1296     scr = DefaultScreen (dpy);
1297     root = RootWindow (dpy, scr);
1298
1299     if (!XRenderQueryExtension (dpy, &render_event, &render_error))
1300     {
1301         fprintf (stderr, "No render extension\n");
1302         exit (1);
1303     }
1304     if (!XCompositeQueryExtension (dpy, &composite_event, &composite_error))
1305     {
1306         fprintf (stderr, "No composite extension\n");
1307         exit (1);
1308     }
1309     XCompositeQueryVersion (dpy, &composite_major, &composite_minor);
1310 #if 0
1311     if (composite_major > 0 || composite_minor >= 2)
1312         hasNamePixmap = True;
1313 #endif
1314
1315     if (!XDamageQueryExtension (dpy, &damage_event, &damage_error))
1316     {
1317         fprintf (stderr, "No damage extension\n");
1318         exit (1);
1319     }
1320     if (!XFixesQueryExtension (dpy, &xfixes_event, &xfixes_error))
1321     {
1322         fprintf (stderr, "No XFixes extension\n");
1323         exit (1);
1324     }
1325     /* get atoms */
1326     opacityAtom = XInternAtom (dpy, OPACITY_PROP, False);
1327
1328     pa.subwindow_mode = IncludeInferiors;
1329
1330 #if SHADOWS && !SHARP_SHADOW
1331     gaussianMap = make_gaussian_map(dpy, SHADOW_RADIUS);
1332 #endif
1333
1334     root_width = DisplayWidth (dpy, scr);
1335     root_height = DisplayHeight (dpy, scr);
1336
1337     rootPicture = XRenderCreatePicture (dpy, root, 
1338                                         XRenderFindVisualFormat (dpy,
1339                                                                  DefaultVisual (dpy, scr)),
1340                                         CPSubwindowMode,
1341                                         &pa);
1342     blackPicture = solid_picture (dpy, True, 1, 0, 0, 0);
1343 #if SHADOWS && SHARP_SHADOW
1344     transBlackPicture = solid_picture (dpy, True, 0.3, 0, 0, 0);
1345 #endif
1346     allDamage = None;
1347     clipChanged = True;
1348     XGrabServer (dpy);
1349     XCompositeRedirectSubwindows (dpy, root, CompositeRedirectManual);
1350     XSelectInput (dpy, root, 
1351                   SubstructureNotifyMask|
1352                   ExposureMask|
1353                   StructureNotifyMask|
1354                   PropertyChangeMask);
1355     XQueryTree (dpy, root, &root_return, &parent_return, &children, &nchildren);
1356     for (i = 0; i < nchildren; i++)
1357         add_win (dpy, children[i], i ? children[i-1] : None);
1358     XFree (children);
1359     XUngrabServer (dpy);
1360     paint_all (dpy, None);
1361     for (;;)
1362     {
1363         /*      dump_wins (); */
1364         do {
1365             XNextEvent (dpy, &ev);
1366             if (ev.type & 0x7f != KeymapNotify)
1367                 discard_ignore (dpy, ev.xany.serial);
1368 #if DEBUG_EVENTS
1369             printf ("event %10.10s serial 0x%08x window 0x%08x\n",
1370                     ev_name(&ev), ev_serial (&ev), ev_window (&ev));
1371 #endif
1372             switch (ev.type) {
1373             case CreateNotify:
1374                 add_win (dpy, ev.xcreatewindow.window, 0);
1375                 break;
1376             case ConfigureNotify:
1377                 configure_win (dpy, &ev.xconfigure);
1378                 break;
1379             case DestroyNotify:
1380                 destroy_win (dpy, ev.xdestroywindow.window, True);
1381                 break;
1382             case MapNotify:
1383                 map_win (dpy, ev.xmap.window, ev.xmap.serial);
1384                 break;
1385             case UnmapNotify:
1386                 unmap_win (dpy, ev.xunmap.window);
1387                 break;
1388             case ReparentNotify:
1389                 if (ev.xreparent.parent == root)
1390                     add_win (dpy, ev.xreparent.window, 0);
1391                 else
1392                     destroy_win (dpy, ev.xreparent.window, False);
1393                 break;
1394             case CirculateNotify:
1395                 circulate_win (dpy, &ev.xcirculate);
1396                 break;
1397             case Expose:
1398                 if (ev.xexpose.window == root)
1399                 {
1400                     int more = ev.xexpose.count + 1;
1401                     if (n_expose == size_expose)
1402                     {
1403                         if (expose_rects)
1404                         {
1405                             expose_rects = realloc (expose_rects, 
1406                                                     (size_expose + more) * 
1407                                                     sizeof (XRectangle));
1408                             size_expose += more;
1409                         }
1410                         else
1411                         {
1412                             expose_rects = malloc (more * sizeof (XRectangle));
1413                             size_expose = more;
1414                         }
1415                     }
1416                     expose_rects[n_expose].x = ev.xexpose.x;
1417                     expose_rects[n_expose].y = ev.xexpose.y;
1418                     expose_rects[n_expose].width = ev.xexpose.width;
1419                     expose_rects[n_expose].height = ev.xexpose.height;
1420                     n_expose++;
1421                     if (ev.xexpose.count == 0)
1422                     {
1423                         expose_root (dpy, root, expose_rects, n_expose);
1424                         n_expose = 0;
1425                     }
1426                 }
1427                 break;
1428             case PropertyNotify:
1429                 for (p = 0; backgroundProps[p]; p++)
1430                 {
1431                     if (ev.xproperty.atom == XInternAtom (dpy, backgroundProps[p], False))
1432                     {
1433                         if (rootTile)
1434                         {
1435                             XClearArea (dpy, root, 0, 0, 0, 0, True);
1436                             XRenderFreePicture (dpy, rootTile);
1437                             rootTile = None;
1438                             break;
1439                         }
1440                     }
1441                 }
1442                 /* check if Trans property was changed */
1443                 if (ev.xproperty.atom == opacityAtom)
1444                 {
1445                     /* reset mode and redraw window */
1446                     win * w = find_win(dpy, ev.xproperty.window);
1447                     if (w)
1448                     {
1449                         w->mode = determine_mode(dpy, w);
1450                         if (w->extents)
1451                         {
1452                             XserverRegion damage;
1453                             damage = XFixesCreateRegion (dpy, 0, 0);
1454                             XFixesCopyRegion (dpy, damage, w->extents);
1455                             add_damage (dpy, damage);
1456                         }
1457                     }
1458                 }
1459                 break;
1460             default:
1461                 if (ev.type == damage_event + XDamageNotify)
1462                     damage_win (dpy, (XDamageNotifyEvent *) &ev);
1463                 break;
1464             }
1465         } while (QLength (dpy));
1466         if (allDamage)
1467         {
1468             static int  paint;
1469             paint_all (dpy, allDamage);
1470             paint++;
1471             XSync (dpy, False);
1472             allDamage = None;
1473             clipChanged = False;
1474         }
1475     }
1476 }