Fixed a bunch of warnings.
[dana/xcompmgr.git] / xcompmgr.c
1 /*
2  * $Id$
3  *
4  * Copyright © 2003 Keith Packard
5  *
6  * Permission to use, copy, modify, distribute, and sell this software and its
7  * documentation for any purpose is hereby granted without fee, provided that
8  * the above copyright notice appear in all copies and that both that
9  * copyright notice and this permission notice appear in supporting
10  * documentation, and that the name of Keith Packard not be used in
11  * advertising or publicity pertaining to distribution of the software without
12  * specific, written prior permission.  Keith Packard makes no
13  * representations about the suitability of this software for any purpose.  It
14  * is provided "as is" without express or implied warranty.
15  *
16  * KEITH PACKARD DISCLAIMS ALL WARRANTIES WITH REGARD TO THIS SOFTWARE,
17  * INCLUDING ALL IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS, IN NO
18  * EVENT SHALL KEITH PACKARD BE LIABLE FOR ANY SPECIAL, INDIRECT OR
19  * CONSEQUENTIAL DAMAGES OR ANY DAMAGES WHATSOEVER RESULTING FROM LOSS OF USE,
20  * DATA OR PROFITS, WHETHER IN AN ACTION OF CONTRACT, NEGLIGENCE OR OTHER
21  * TORTIOUS ACTION, ARISING OUT OF OR IN CONNECTION WITH THE USE OR
22  * PERFORMANCE OF THIS SOFTWARE.
23  */
24
25
26 /* Modified by Matthew Hawn. I don't know what to say here so follow what it 
27    says above. Not that I can really do anything about it
28 */
29
30
31 #include <stdlib.h>
32 #include <stdio.h>
33 #include <string.h>
34 #include <math.h>
35 #include <sys/poll.h>
36 #include <sys/time.h>
37 #include <time.h>
38 #include <unistd.h>
39 #include <X11/Xlib.h>
40 #include <X11/Xutil.h>
41 #include <X11/Xatom.h>
42 #include <X11/extensions/Xcomposite.h>
43 #include <X11/extensions/Xdamage.h>
44 #include <X11/extensions/Xrender.h>
45
46 #if COMPOSITE_MAJOR > 0 || COMPOSITE_MINOR >= 2
47 #define HAS_NAME_WINDOW_PIXMAP 1
48 #endif
49
50 #define CAN_DO_USABLE 0
51
52 typedef struct _ignore {
53     struct _ignore      *next;
54     unsigned long       sequence;
55 } ignore;
56
57 typedef struct _win {
58     struct _win         *next;
59     Window              id;
60 #if HAS_NAME_WINDOW_PIXMAP
61     Pixmap              pixmap;
62 #endif
63     XWindowAttributes   a;
64 #if CAN_DO_USABLE
65     Bool                usable;             /* mapped and all damaged at one point */
66     XRectangle          damage_bounds;      /* bounds of damage */
67 #endif
68     int                 mode;
69     int                 damaged;
70     Damage              damage;
71     Picture             picture;
72     Picture             alphaPict;
73     Picture             shadowPict;
74     XserverRegion       borderSize;
75     XserverRegion       extents;
76     Picture             shadow;
77     int                 shadow_dx;
78     int                 shadow_dy;
79     int                 shadow_width;
80     int                 shadow_height;
81     unsigned int        opacity;
82     Atom                windowType;
83     unsigned long       damage_sequence;    /* sequence when damage was created */
84
85     /* for drawing translucent windows */
86     XserverRegion       borderClip;
87     struct _win         *prev_trans;
88 } win;
89
90 typedef struct _conv {
91     int     size;
92     double  *data;
93 } conv;
94
95 typedef struct _fade {
96     struct _fade        *next;
97     win                 *w;
98     double              cur;
99     double              finish;
100     double              step;
101     void                (*callback) (Display *dpy, win *w, Bool gone);
102     Display             *dpy;
103     Bool                gone;
104 } fade;
105
106 win             *list;
107 fade            *fades;
108 Display         *dpy;
109 int             scr;
110 Window          root;
111 Picture         rootPicture;
112 Picture         rootBuffer;
113 Picture         blackPicture;
114 Picture         transBlackPicture;
115 Picture         rootTile;
116 XserverRegion   allDamage;
117 Bool            clipChanged;
118 #if HAS_NAME_WINDOW_PIXMAP
119 Bool            hasNamePixmap;
120 #endif
121 int             root_height, root_width;
122 ignore          *ignore_head, **ignore_tail = &ignore_head;
123 int             xfixes_event, xfixes_error;
124 int             damage_event, damage_error;
125 int             composite_event, composite_error;
126 int             render_event, render_error;
127 Bool            synchronize;
128 int             composite_opcode;
129
130 /* find these once and be done with it */
131 Atom            opacityAtom;
132 Atom            winTypeAtom;
133 Atom            winDesktopAtom;
134 Atom            winDockAtom;
135 Atom            winToolbarAtom;
136 Atom            winMenuAtom;
137 Atom            winUtilAtom;
138 Atom            winSplashAtom;
139 Atom            winDialogAtom;
140 Atom            winNormalAtom;
141
142 /* opacity property name; sometime soon I'll write up an EWMH spec for it */
143 #define OPACITY_PROP    "_NET_WM_WINDOW_OPACITY"
144
145 #define TRANSLUCENT     0xe0000000
146 #define OPAQUE          0xffffffff
147
148 conv            *gaussianMap;
149
150 #define WINDOW_SOLID    0
151 #define WINDOW_TRANS    1
152 #define WINDOW_ARGB     2
153
154 #define TRANS_OPACITY   0.75
155
156 #define DEBUG_REPAINT 0
157 #define DEBUG_EVENTS 0
158 #define MONITOR_REPAINT 0
159
160 #define SHADOWS         1
161 #define SHARP_SHADOW    0
162
163 typedef enum _compMode {
164     CompSimple,         /* looks like a regular X server */
165     CompServerShadows,  /* use window alpha for shadow; sharp, but precise */
166     CompClientShadows,  /* use window extents for shadow, blurred */
167 } CompMode;
168
169 static void
170 determine_mode(Display *dpy, win *w);
171     
172 static double
173 get_opacity_percent(Display *dpy, win *w, double def);
174
175 static XserverRegion
176 win_extents (Display *dpy, win *w);
177
178 CompMode    compMode = CompSimple;
179
180 int         shadowRadius = 12;
181 int         shadowOffsetX = -15;
182 int         shadowOffsetY = -15;
183 double      shadowOpacity = .75;
184
185 double  fade_in_step =  0.028;
186 double  fade_out_step = 0.03;
187 int     fade_delta =    10;
188 int     fade_time =     0;
189 Bool    fadeWindows = False;
190 Bool    excludeDockShadows = False;
191 Bool    fadeTrans = False;
192
193 Bool    autoRedirect = False;
194
195 /* For shadow precomputation */
196 int            Gsize = -1;
197 unsigned char *shadowCorner = NULL;
198 unsigned char *shadowTop = NULL;
199
200 int
201 get_time_in_milliseconds ()
202 {
203     struct timeval  tv;
204
205     gettimeofday (&tv, NULL);
206     return tv.tv_sec * 1000 + tv.tv_usec / 1000;
207 }
208
209 fade *
210 find_fade (win *w)
211 {
212     fade    *f;
213     
214     for (f = fades; f; f = f->next)
215     {
216         if (f->w == w)
217             return f;
218     }
219     return 0;
220 }
221
222 void
223 dequeue_fade (Display *dpy, fade *f)
224 {
225     fade    **prev;
226
227     for (prev = &fades; *prev; prev = &(*prev)->next)
228         if (*prev == f)
229         {
230             *prev = f->next;
231             if (f->callback)
232                 (*f->callback) (dpy, f->w, f->gone);
233             free (f);
234             break;
235         }
236 }
237
238 void
239 cleanup_fade (Display *dpy, win *w)
240 {
241     fade *f = find_fade (w);
242     if (f)
243         dequeue_fade (dpy, f);
244 }
245
246 void
247 enqueue_fade (Display *dpy, fade *f)
248 {
249     if (!fades)
250         fade_time = get_time_in_milliseconds () + fade_delta;
251     f->next = fades;
252     fades = f;
253 }
254
255 static void
256 set_fade (Display *dpy, win *w, double start, double finish, double step,
257           void (*callback) (Display *dpy, win *w, Bool gone),
258           Bool gone, Bool exec_callback, Bool override)
259 {
260     fade    *f;
261
262     f = find_fade (w);
263     if (!f)
264     {
265         f = malloc (sizeof (fade));
266         f->next = 0;
267         f->w = w;
268         f->cur = start;
269         enqueue_fade (dpy, f);
270     }
271     else if(!override)
272         return;
273     else
274     {
275         if (exec_callback)
276             if (f->callback)
277                 (*f->callback)(dpy, f->w, f->gone);
278     }
279
280     if (finish < 0)
281         finish = 0;
282     if (finish > 1)
283         finish = 1;
284     f->finish = finish;
285     if (f->cur < finish)
286         f->step = step;
287     else if (f->cur > finish)
288         f->step = -step;
289     f->callback = callback;
290     f->gone = gone;
291     w->opacity = f->cur * OPAQUE;
292 #if 0
293     printf ("set_fade start %g step %g\n", f->cur, f->step);
294 #endif
295     determine_mode (dpy, w);
296     if (w->shadow)
297     {
298         XRenderFreePicture (dpy, w->shadow);
299         w->shadow = None;
300         w->extents = win_extents (dpy, w);
301     }
302 }
303
304 int
305 fade_timeout (void)
306 {
307     int now;
308     int delta;
309     if (!fades)
310         return -1;
311     now = get_time_in_milliseconds();
312     delta = fade_time - now;
313     if (delta < 0)
314         delta = 0;
315 /*    printf ("timeout %d\n", delta); */
316     return delta;
317 }
318
319 void
320 run_fades (Display *dpy)
321 {
322     int     now = get_time_in_milliseconds();
323     fade    *f, *next;
324     int     steps;
325     Bool    need_dequeue;
326
327 #if 0
328     printf ("run fades\n");
329 #endif
330     if (fade_time - now > 0)
331         return;
332     steps = 1 + (now - fade_time) / fade_delta;
333     for (next = fades; f = next; )
334     {
335         win *w = f->w;
336         next = f->next;
337         f->cur += f->step * steps;
338         if (f->cur >= 1)
339             f->cur = 1;
340         else if (f->cur < 0)
341             f->cur = 0;
342 #if 0
343         printf ("opacity now %g\n", f->cur);
344 #endif
345         w->opacity = f->cur * OPAQUE;
346         need_dequeue = False;
347         if (f->step > 0)
348         {
349             if (f->cur >= f->finish)
350             {
351                 w->opacity = f->finish*OPAQUE;
352                 need_dequeue = True;
353             }
354         }
355         else
356         {
357             if (f->cur <= f->finish)
358             {
359                 w->opacity = f->finish*OPAQUE;
360                 need_dequeue = True;
361             }
362         }
363         determine_mode (dpy, w);
364         if (w->shadow)
365         {
366             XRenderFreePicture (dpy, w->shadow);
367             w->shadow = None;
368             w->extents = win_extents(dpy, w);
369         }
370         /* Must do this last as it might destroy f->w in callbacks */
371         if (need_dequeue)
372                 dequeue_fade (dpy, f);
373     }
374     fade_time = now + fade_delta;
375 }
376
377 static double
378 gaussian (double r, double x, double y)
379 {
380     return ((1 / (sqrt (2 * M_PI * r))) *
381             exp ((- (x * x + y * y)) / (2 * r * r)));
382 }
383
384
385 static conv *
386 make_gaussian_map (Display *dpy, double r)
387 {
388     conv            *c;
389     int             size = ((int) ceil ((r * 3)) + 1) & ~1;
390     int             center = size / 2;
391     int             x, y;
392     double          t;
393     double          g;
394     
395     c = malloc (sizeof (conv) + size * size * sizeof (double));
396     c->size = size;
397     c->data = (double *) (c + 1);
398     t = 0.0;
399     for (y = 0; y < size; y++)
400         for (x = 0; x < size; x++)
401         {
402             g = gaussian (r, (double) (x - center), (double) (y - center));
403             t += g;
404             c->data[y * size + x] = g;
405         }
406 /*    printf ("gaussian total %f\n", t); */
407     for (y = 0; y < size; y++)
408         for (x = 0; x < size; x++)
409         {
410             c->data[y*size + x] /= t;
411         }
412     return c;
413 }
414
415 /*
416  * A picture will help
417  *
418  *      -center   0                width  width+center
419  *  -center +-----+-------------------+-----+
420  *          |     |                   |     |
421  *          |     |                   |     |
422  *        0 +-----+-------------------+-----+
423  *          |     |                   |     |
424  *          |     |                   |     |
425  *          |     |                   |     |
426  *   height +-----+-------------------+-----+
427  *          |     |                   |     |
428  * height+  |     |                   |     |
429  *  center  +-----+-------------------+-----+
430  */
431  
432 static unsigned char
433 sum_gaussian (conv *map, double opacity, int x, int y, int width, int height)
434 {
435     int     fx, fy;
436     double  *g_data;
437     double  *g_line = map->data;
438     int     g_size = map->size;
439     int     center = g_size / 2;
440     int     fx_start, fx_end;
441     int     fy_start, fy_end;
442     double  v;
443     
444     /*
445      * Compute set of filter values which are "in range",
446      * that's the set with:
447      *  0 <= x + (fx-center) && x + (fx-center) < width &&
448      *  0 <= y + (fy-center) && y + (fy-center) < height
449      *
450      *  0 <= x + (fx - center)  x + fx - center < width
451      *  center - x <= fx        fx < width + center - x
452      */
453
454     fx_start = center - x;
455     if (fx_start < 0)
456         fx_start = 0;
457     fx_end = width + center - x;
458     if (fx_end > g_size)
459         fx_end = g_size;
460
461     fy_start = center - y;
462     if (fy_start < 0)
463         fy_start = 0;
464     fy_end = height + center - y;
465     if (fy_end > g_size)
466         fy_end = g_size;
467
468     g_line = g_line + fy_start * g_size + fx_start;
469     
470     v = 0;
471     for (fy = fy_start; fy < fy_end; fy++)
472     {
473         g_data = g_line;
474         g_line += g_size;
475         
476         for (fx = fx_start; fx < fx_end; fx++)
477             v += *g_data++;
478     }
479     if (v > 1)
480         v = 1;
481     
482     return ((unsigned char) (v * opacity * 255.0));
483 }
484
485 /* precompute shadow corners and sides to save time for large windows */
486 static void
487 presum_gaussian (conv *map)
488 {
489     int center = map->size/2;
490     int opacity, x, y;
491
492     Gsize = map->size;
493
494     if (shadowCorner)
495         free ((void *)shadowCorner);
496     if (shadowTop)
497         free ((void *)shadowTop);
498
499     shadowCorner = (unsigned char *)(malloc ((Gsize + 1) * (Gsize + 1) * 26));
500     shadowTop = (unsigned char *)(malloc ((Gsize + 1) * 26));
501     
502     for (x = 0; x <= Gsize; x++)
503     {
504         shadowTop[25 * (Gsize + 1) + x] = sum_gaussian (map, 1, x - center, center, Gsize * 2, Gsize * 2);
505         for(opacity = 0; opacity < 25; opacity++)
506             shadowTop[opacity * (Gsize + 1) + x] = shadowTop[25 * (Gsize + 1) + x] * opacity / 25;
507         for(y = 0; y <= x; y++)
508         {
509             shadowCorner[25 * (Gsize + 1) * (Gsize + 1) + y * (Gsize + 1) + x]
510                 = sum_gaussian (map, 1, x - center, y - center, Gsize * 2, Gsize * 2);
511             shadowCorner[25 * (Gsize + 1) * (Gsize + 1) + x * (Gsize + 1) + y]
512                 = shadowCorner[25 * (Gsize + 1) * (Gsize + 1) + y * (Gsize + 1) + x];
513             for(opacity = 0; opacity < 25; opacity++)
514                 shadowCorner[opacity * (Gsize + 1) * (Gsize + 1) + y * (Gsize + 1) + x]
515                     = shadowCorner[opacity * (Gsize + 1) * (Gsize + 1) + x * (Gsize + 1) + y]
516                     = shadowCorner[25 * (Gsize + 1) * (Gsize + 1) + y * (Gsize + 1) + x] * opacity / 25;
517         }
518     }
519 }
520
521 static XImage *
522 make_shadow (Display *dpy, double opacity, int width, int height)
523 {
524     XImage          *ximage;
525     unsigned char   *data;
526     int             gsize = gaussianMap->size;
527     int             ylimit, xlimit;
528     int             swidth = width + gsize;
529     int             sheight = height + gsize;
530     int             center = gsize / 2;
531     int             x, y;
532     unsigned char   d;
533     int             x_diff;
534     int             opacity_int = (int)(opacity * 25);
535     data = malloc (swidth * sheight * sizeof (unsigned char));
536     if (!data)
537         return 0;
538     ximage = XCreateImage (dpy,
539                            DefaultVisual(dpy, DefaultScreen(dpy)),
540                            8,
541                            ZPixmap,
542                            0,
543                            (char *) data,
544                            swidth, sheight, 8, swidth * sizeof (unsigned char));
545     if (!ximage)
546     {
547         free (data);
548         return 0;
549     }
550     /*
551      * Build the gaussian in sections
552      */
553
554     /*
555      * center (fill the complete data array)
556      */
557     if (Gsize > 0)
558         d = shadowTop[opacity_int * (Gsize + 1) + Gsize];
559     else
560         d = sum_gaussian (gaussianMap, opacity, center, center, width, height);
561     memset(data, d, sheight * swidth);
562     
563     /*
564      * corners
565      */
566     ylimit = gsize;
567     if (ylimit > sheight / 2)
568         ylimit = (sheight + 1) / 2;
569     xlimit = gsize;
570     if (xlimit > swidth / 2)
571         xlimit = (swidth + 1) / 2;
572
573     for (y = 0; y < ylimit; y++)
574         for (x = 0; x < xlimit; x++)
575         {
576             if (xlimit == Gsize && ylimit == Gsize)
577                 d = shadowCorner[opacity_int * (Gsize + 1) * (Gsize + 1) + y * (Gsize + 1) + x];
578             else
579                 d = sum_gaussian (gaussianMap, opacity, x - center, y - center, width, height);
580             data[y * swidth + x] = d;
581             data[(sheight - y - 1) * swidth + x] = d;
582             data[(sheight - y - 1) * swidth + (swidth - x - 1)] = d;
583             data[y * swidth + (swidth - x - 1)] = d;
584         }
585
586     /*
587      * top/bottom
588      */
589     x_diff = swidth - (gsize * 2);
590     if (x_diff > 0 && ylimit > 0)
591     {
592         for (y = 0; y < ylimit; y++)
593         {
594             if (ylimit == Gsize)
595                 d = shadowTop[opacity_int * (Gsize + 1) + y];
596             else
597                 d = sum_gaussian (gaussianMap, opacity, center, y - center, width, height);
598             memset (&data[y * swidth + gsize], d, x_diff);
599             memset (&data[(sheight - y - 1) * swidth + gsize], d, x_diff);
600         }
601     }
602
603     /*
604      * sides
605      */
606     
607     for (x = 0; x < xlimit; x++)
608     {
609         if (xlimit == Gsize)
610             d = shadowTop[opacity_int * (Gsize + 1) + x];
611         else
612             d = sum_gaussian (gaussianMap, opacity, x - center, center, width, height);
613         for (y = gsize; y < sheight - gsize; y++)
614         {
615             data[y * swidth + x] = d;
616             data[y * swidth + (swidth - x - 1)] = d;
617         }
618     }
619
620     return ximage;
621 }
622
623 static Picture
624 shadow_picture (Display *dpy, double opacity, Picture alpha_pict, int width, int height, int *wp, int *hp)
625 {
626     XImage  *shadowImage;
627     Pixmap  shadowPixmap;
628     Picture shadowPicture;
629     GC      gc;
630     
631     shadowImage = make_shadow (dpy, opacity, width, height);
632     if (!shadowImage)
633         return None;
634     shadowPixmap = XCreatePixmap (dpy, root, 
635                                   shadowImage->width,
636                                   shadowImage->height,
637                                   8);
638     if (!shadowPixmap)
639     {
640         XDestroyImage (shadowImage);
641         return None;
642     }
643
644     shadowPicture = XRenderCreatePicture (dpy, shadowPixmap,
645                                           XRenderFindStandardFormat (dpy, PictStandardA8),
646                                           0, 0);
647     if (!shadowPicture)
648     {
649         XDestroyImage (shadowImage);
650         XFreePixmap (dpy, shadowPixmap);
651         return None;
652     }
653
654     gc = XCreateGC (dpy, shadowPixmap, 0, 0);
655     if (!gc)
656     {
657         XDestroyImage (shadowImage);
658         XFreePixmap (dpy, shadowPixmap);
659         XRenderFreePicture (dpy, shadowPicture);
660         return None;
661     }
662     
663     XPutImage (dpy, shadowPixmap, gc, shadowImage, 0, 0, 0, 0, 
664                shadowImage->width,
665                shadowImage->height);
666     *wp = shadowImage->width;
667     *hp = shadowImage->height;
668     XFreeGC (dpy, gc);
669     XDestroyImage (shadowImage);
670     XFreePixmap (dpy, shadowPixmap);
671     return shadowPicture;
672 }
673
674 Picture
675 solid_picture (Display *dpy, Bool argb, double a, double r, double g, double b)
676 {
677     Pixmap                      pixmap;
678     Picture                     picture;
679     XRenderPictureAttributes    pa;
680     XRenderColor                c;
681
682     pixmap = XCreatePixmap (dpy, root, 1, 1, argb ? 32 : 8);
683     if (!pixmap)
684         return None;
685
686     pa.repeat = True;
687     picture = XRenderCreatePicture (dpy, pixmap,
688                                     XRenderFindStandardFormat (dpy, argb ? PictStandardARGB32 : PictStandardA8),
689                                     CPRepeat,
690                                     &pa);
691     if (!picture)
692     {
693         XFreePixmap (dpy, pixmap);
694         return None;
695     }
696
697     c.alpha = a * 0xffff;
698     c.red = r * 0xffff;
699     c.green = g * 0xffff;
700     c.blue = b * 0xffff;
701     XRenderFillRectangle (dpy, PictOpSrc, picture, &c, 0, 0, 1, 1);
702     XFreePixmap (dpy, pixmap);
703     return picture;
704 }
705
706 void
707 discard_ignore (Display *dpy, unsigned long sequence)
708 {
709     while (ignore_head)
710     {
711         if ((long) (sequence - ignore_head->sequence) > 0)
712         {
713             ignore  *next = ignore_head->next;
714             free (ignore_head);
715             ignore_head = next;
716             if (!ignore_head)
717                 ignore_tail = &ignore_head;
718         }
719         else
720             break;
721     }
722 }
723
724 void
725 set_ignore (Display *dpy, unsigned long sequence)
726 {
727     ignore  *i = malloc (sizeof (ignore));
728     if (!i)
729         return;
730     i->sequence = sequence;
731     i->next = 0;
732     *ignore_tail = i;
733     ignore_tail = &i->next;
734 }
735
736 int
737 should_ignore (Display *dpy, unsigned long sequence)
738 {
739     discard_ignore (dpy, sequence);
740     return ignore_head && ignore_head->sequence == sequence;
741 }
742
743 static win *
744 find_win (Display *dpy, Window id)
745 {
746     win *w;
747
748     for (w = list; w; w = w->next)
749         if (w->id == id)
750             return w;
751     return 0;
752 }
753
754 static char *backgroundProps[] = {
755     "_XROOTPMAP_ID",
756     "_XSETROOT_ID",
757     0,
758 };
759     
760 static Picture
761 root_tile (Display *dpy)
762 {
763     Picture         picture;
764     Atom            actual_type;
765     Pixmap          pixmap;
766     int             actual_format;
767     unsigned long   nitems;
768     unsigned long   bytes_after;
769     unsigned char   *prop;
770     Bool            fill;
771     XRenderPictureAttributes    pa;
772     int             p;
773
774     pixmap = None;
775     for (p = 0; backgroundProps[p]; p++)
776     {
777         if (XGetWindowProperty (dpy, root, XInternAtom (dpy, backgroundProps[p], False),
778                                 0, 4, False, AnyPropertyType,
779                                 &actual_type, &actual_format, &nitems, &bytes_after, &prop) == Success &&
780             actual_type == XInternAtom (dpy, "PIXMAP", False) && actual_format == 32 && nitems == 1)
781         {
782             memcpy (&pixmap, prop, 4);
783             XFree (prop);
784             fill = False;
785             break;
786         }
787     }
788     if (!pixmap)
789     {
790         pixmap = XCreatePixmap (dpy, root, 1, 1, DefaultDepth (dpy, scr));
791         fill = True;
792     }
793     pa.repeat = True;
794     picture = XRenderCreatePicture (dpy, pixmap,
795                                     XRenderFindVisualFormat (dpy,
796                                                              DefaultVisual (dpy, scr)),
797                                     CPRepeat, &pa);
798     if (fill)
799     {
800         XRenderColor    c;
801         
802         c.red = c.green = c.blue = 0x8080;
803         c.alpha = 0xffff;
804         XRenderFillRectangle (dpy, PictOpSrc, picture, &c, 
805                               0, 0, 1, 1);
806     }
807     return picture;
808 }
809
810 static void
811 paint_root (Display *dpy)
812 {
813     if (!rootTile)
814         rootTile = root_tile (dpy);
815     
816     XRenderComposite (dpy, PictOpSrc,
817                       rootTile, None, rootBuffer,
818                       0, 0, 0, 0, 0, 0, root_width, root_height);
819 }
820
821 static XserverRegion
822 win_extents (Display *dpy, win *w)
823 {
824     XRectangle      r;
825     
826     r.x = w->a.x;
827     r.y = w->a.y;
828     r.width = w->a.width + w->a.border_width * 2;
829     r.height = w->a.height + w->a.border_width * 2;
830     if (compMode != CompSimple && !(w->windowType == winDockAtom && excludeDockShadows))
831     {
832         if (compMode == CompServerShadows || w->mode != WINDOW_ARGB)
833         {
834             XRectangle  sr;
835
836             if (compMode == CompServerShadows)
837             {
838                 w->shadow_dx = 2;
839                 w->shadow_dy = 7;
840                 w->shadow_width = w->a.width;
841                 w->shadow_height = w->a.height;
842             }
843             else
844             {
845                 w->shadow_dx = shadowOffsetX;
846                 w->shadow_dy = shadowOffsetY;
847                 if (!w->shadow)
848                 {
849                     double      opacity = shadowOpacity;
850                     if (w->mode == WINDOW_TRANS)
851                         opacity = opacity * ((double)w->opacity)/((double)OPAQUE);
852                     w->shadow = shadow_picture (dpy, opacity, w->alphaPict,
853                                                 w->a.width + w->a.border_width * 2,
854                                                 w->a.height + w->a.border_width * 2,
855                                                 &w->shadow_width, &w->shadow_height);
856                 }
857             }
858             sr.x = w->a.x + w->shadow_dx;
859             sr.y = w->a.y + w->shadow_dy;
860             sr.width = w->shadow_width;
861             sr.height = w->shadow_height;
862             if (sr.x < r.x)
863             {
864                 r.width = (r.x + r.width) - sr.x;
865                 r.x = sr.x;
866             }
867             if (sr.y < r.y)
868             {
869                 r.height = (r.y + r.height) - sr.y;
870                 r.y = sr.y;
871             }
872             if (sr.x + sr.width > r.x + r.width)
873                 r.width = sr.x + sr.width - r.x;
874             if (sr.y + sr.height > r.y + r.height)
875                 r.height = sr.y + sr.height - r.y;
876         }
877     }
878     return XFixesCreateRegion (dpy, &r, 1);
879 }
880
881 static XserverRegion
882 border_size (Display *dpy, win *w)
883 {
884     XserverRegion   border;
885     /*
886      * if window doesn't exist anymore,  this will generate an error
887      * as well as not generate a region.  Perhaps a better XFixes
888      * architecture would be to have a request that copies instead
889      * of creates, that way you'd just end up with an empty region
890      * instead of an invalid XID.
891      */
892     set_ignore (dpy, NextRequest (dpy));
893     border = XFixesCreateRegionFromWindow (dpy, w->id, WindowRegionBounding);
894     /* translate this */
895     set_ignore (dpy, NextRequest (dpy));
896     XFixesTranslateRegion (dpy, border,
897                            w->a.x + w->a.border_width,
898                            w->a.y + w->a.border_width);
899     return border;
900 }
901
902 static void
903 paint_all (Display *dpy, XserverRegion region)
904 {
905     win *w;
906     win *t = 0;
907     
908     if (!region)
909     {
910         XRectangle  r;
911         r.x = 0;
912         r.y = 0;
913         r.width = root_width;
914         r.height = root_height;
915         region = XFixesCreateRegion (dpy, &r, 1);
916     }
917 #if MONITOR_REPAINT
918     rootBuffer = rootPicture;
919 #else
920     if (!rootBuffer)
921     {
922         Pixmap  rootPixmap = XCreatePixmap (dpy, root, root_width, root_height,
923                                             DefaultDepth (dpy, scr));
924         rootBuffer = XRenderCreatePicture (dpy, rootPixmap,
925                                            XRenderFindVisualFormat (dpy,
926                                                                     DefaultVisual (dpy, scr)),
927                                            0, 0);
928         XFreePixmap (dpy, rootPixmap);
929     }
930 #endif
931     XFixesSetPictureClipRegion (dpy, rootPicture, 0, 0, region);
932 #if MONITOR_REPAINT
933     XRenderComposite (dpy, PictOpSrc, blackPicture, None, rootPicture,
934                       0, 0, 0, 0, 0, 0, root_width, root_height);
935 #endif
936 #if DEBUG_REPAINT
937     printf ("paint:");
938 #endif
939     for (w = list; w; w = w->next)
940     {
941 #if CAN_DO_USABLE
942         if (!w->usable)
943             continue;
944 #endif
945         /* never painted, ignore it */
946         if (!w->damaged)
947             continue;
948         /* if invisible, ignore it */
949         if (w->a.x + w->a.width < 1 || w->a.y + w->a.height < 1
950             || w->a.x >= root_width || w->a.y >= root_height)
951             continue;
952         if (!w->picture)
953         {
954             XRenderPictureAttributes    pa;
955             XRenderPictFormat           *format;
956             Drawable                    draw = w->id;
957             
958 #if HAS_NAME_WINDOW_PIXMAP
959             if (hasNamePixmap && !w->pixmap)
960                 w->pixmap = XCompositeNameWindowPixmap (dpy, w->id);
961             if (w->pixmap)
962                 draw = w->pixmap;
963 #endif
964             format = XRenderFindVisualFormat (dpy, w->a.visual);
965             pa.subwindow_mode = IncludeInferiors;
966             w->picture = XRenderCreatePicture (dpy, draw,
967                                                format,
968                                                CPSubwindowMode,
969                                                &pa);
970         }
971 #if DEBUG_REPAINT
972         printf (" 0x%x", w->id);
973 #endif
974         if (clipChanged)
975         {
976             if (w->borderSize)
977             {
978                 set_ignore (dpy, NextRequest (dpy));
979                 XFixesDestroyRegion (dpy, w->borderSize);
980                 w->borderSize = None;
981             }
982             if (w->extents)
983             {
984                 XFixesDestroyRegion (dpy, w->extents);
985                 w->extents = None;
986             }
987             if (w->borderClip)
988             {
989                 XFixesDestroyRegion (dpy, w->borderClip);
990                 w->borderClip = None;
991             }
992         }
993         if (!w->borderSize)
994             w->borderSize = border_size (dpy, w);
995         if (!w->extents)
996             w->extents = win_extents (dpy, w);
997         if (w->mode == WINDOW_SOLID)
998         {
999             int x, y, wid, hei;
1000 #if HAS_NAME_WINDOW_PIXMAP
1001             x = w->a.x;
1002             y = w->a.y;
1003             wid = w->a.width + w->a.border_width * 2;
1004             hei = w->a.height + w->a.border_width * 2;
1005 #else
1006             x = w->a.x + w->a.border_width;
1007             y = w->a.y + w->a.border_width;
1008             wid = w->a.width;
1009             hei = w->a.height;
1010 #endif
1011             XFixesSetPictureClipRegion (dpy, rootBuffer, 0, 0, region);
1012             set_ignore (dpy, NextRequest (dpy));
1013             XFixesSubtractRegion (dpy, region, region, w->borderSize);
1014             set_ignore (dpy, NextRequest (dpy));
1015             XRenderComposite (dpy, PictOpSrc, w->picture, None, rootBuffer,
1016                               0, 0, 0, 0, 
1017                               x, y, wid, hei);
1018         }
1019         if (!w->borderClip)
1020         {
1021             w->borderClip = XFixesCreateRegion (dpy, 0, 0);
1022             XFixesCopyRegion (dpy, w->borderClip, region);
1023         }
1024         w->prev_trans = t;
1025         t = w;
1026     }
1027 #if DEBUG_REPAINT
1028     printf ("\n");
1029     fflush (stdout);
1030 #endif
1031     XFixesSetPictureClipRegion (dpy, rootBuffer, 0, 0, region);
1032     paint_root (dpy);
1033     for (w = t; w; w = w->prev_trans)
1034     {
1035         XFixesSetPictureClipRegion (dpy, rootBuffer, 0, 0, w->borderClip);
1036         switch (compMode) {
1037         case CompSimple:
1038             break;
1039         case CompServerShadows:
1040             /* dont' bother drawing shadows on desktop windows */
1041             if (w->windowType == winDesktopAtom)
1042                 break;
1043             set_ignore (dpy, NextRequest (dpy));
1044             if (w->opacity != OPAQUE && !w->shadowPict)
1045                 w->shadowPict = solid_picture (dpy, True,
1046                                                (double) w->opacity / OPAQUE * 0.3,
1047                                                0, 0, 0);
1048             XRenderComposite (dpy, PictOpOver, 
1049                               w->shadowPict ? w->shadowPict : transBlackPicture,
1050                               w->picture, rootBuffer,
1051                               0, 0, 0, 0,
1052                               w->a.x + w->shadow_dx,
1053                               w->a.y + w->shadow_dy,
1054                               w->shadow_width, w->shadow_height);
1055             break;
1056         case CompClientShadows:
1057             /* don't bother drawing shadows on desktop windows */
1058             if (w->shadow && w->windowType != winDesktopAtom)
1059             {
1060                 XRenderComposite (dpy, PictOpOver, blackPicture, w->shadow, rootBuffer,
1061                                   0, 0, 0, 0,
1062                                   w->a.x + w->shadow_dx,
1063                                   w->a.y + w->shadow_dy,
1064                                   w->shadow_width, w->shadow_height);
1065             }
1066             break;
1067         }
1068         if (w->opacity != OPAQUE && !w->alphaPict)
1069             w->alphaPict = solid_picture (dpy, False, 
1070                                           (double) w->opacity / OPAQUE, 0, 0, 0);
1071         if (w->mode == WINDOW_TRANS)
1072         {
1073             int x, y, wid, hei;
1074 #if HAS_NAME_WINDOW_PIXMAP
1075             x = w->a.x;
1076             y = w->a.y;
1077             wid = w->a.width + w->a.border_width * 2;
1078             hei = w->a.height + w->a.border_width * 2;
1079 #else
1080             x = w->a.x + w->a.border_width;
1081             y = w->a.y + w->a.border_width;
1082             wid = w->a.width;
1083             hei = w->a.height;
1084 #endif
1085             set_ignore (dpy, NextRequest (dpy));
1086             XRenderComposite (dpy, PictOpOver, w->picture, w->alphaPict, rootBuffer,
1087                               0, 0, 0, 0, 
1088                               x, y, wid, hei);
1089         }
1090         else if (w->mode == WINDOW_ARGB)
1091         {
1092             int x, y, wid, hei;
1093 #if HAS_NAME_WINDOW_PIXMAP
1094             x = w->a.x;
1095             y = w->a.y;
1096             wid = w->a.width + w->a.border_width * 2;
1097             hei = w->a.height + w->a.border_width * 2;
1098 #else
1099             x = w->a.x + w->a.border_width;
1100             y = w->a.y + w->a.border_width;
1101             wid = w->a.width;
1102             hei = w->a.height;
1103 #endif
1104             set_ignore (dpy, NextRequest (dpy));
1105             XRenderComposite (dpy, PictOpOver, w->picture, w->alphaPict, rootBuffer,
1106                               0, 0, 0, 0, 
1107                               x, y, wid, hei);
1108         }
1109         XFixesDestroyRegion (dpy, w->borderClip);
1110         w->borderClip = None;
1111     }
1112     XFixesDestroyRegion (dpy, region);
1113     if (rootBuffer != rootPicture)
1114     {
1115         XFixesSetPictureClipRegion (dpy, rootBuffer, 0, 0, None);
1116         XRenderComposite (dpy, PictOpSrc, rootBuffer, None, rootPicture,
1117                           0, 0, 0, 0, 0, 0, root_width, root_height);
1118     }
1119 }
1120
1121 static void
1122 add_damage (Display *dpy, XserverRegion damage)
1123 {
1124     if (allDamage)
1125     {
1126         XFixesUnionRegion (dpy, allDamage, allDamage, damage);
1127         XFixesDestroyRegion (dpy, damage);
1128     }
1129     else
1130         allDamage = damage;
1131 }
1132
1133 static void
1134 repair_win (Display *dpy, win *w)
1135 {
1136     XserverRegion   parts;
1137
1138     if (!w->damaged)
1139     {
1140         parts = win_extents (dpy, w);
1141         set_ignore (dpy, NextRequest (dpy));
1142         XDamageSubtract (dpy, w->damage, None, None);
1143     }
1144     else
1145     {
1146         XserverRegion   o;
1147         parts = XFixesCreateRegion (dpy, 0, 0);
1148         set_ignore (dpy, NextRequest (dpy));
1149         XDamageSubtract (dpy, w->damage, None, parts);
1150         XFixesTranslateRegion (dpy, parts,
1151                                w->a.x + w->a.border_width,
1152                                w->a.y + w->a.border_width);
1153         if (compMode == CompServerShadows)
1154         {
1155             o = XFixesCreateRegion (dpy, 0, 0);
1156             XFixesCopyRegion (dpy, o, parts);
1157             XFixesTranslateRegion (dpy, o, w->shadow_dx, w->shadow_dy);
1158             XFixesUnionRegion (dpy, parts, parts, o);
1159             XFixesDestroyRegion (dpy, o);
1160         }
1161     }
1162     add_damage (dpy, parts);
1163     w->damaged = 1;
1164 }
1165
1166 static unsigned int
1167 get_opacity_prop (Display *dpy, win *w, unsigned int def);
1168
1169 static void
1170 map_win (Display *dpy, Window id, unsigned long sequence, Bool fade)
1171 {
1172     win         *w = find_win (dpy, id);
1173
1174     if (!w)
1175         return;
1176
1177     w->a.map_state = IsViewable;
1178     
1179     /* This needs to be here or else we lose transparency messages */
1180     XSelectInput (dpy, id, PropertyChangeMask);
1181
1182     /* This needs to be here since we don't get PropertyNotify when unmapped */
1183     w->opacity = get_opacity_prop (dpy, w, OPAQUE);
1184     determine_mode (dpy, w);
1185
1186 #if CAN_DO_USABLE
1187     w->damage_bounds.x = w->damage_bounds.y = 0;
1188     w->damage_bounds.width = w->damage_bounds.height = 0;
1189 #endif
1190     w->damaged = 0;
1191
1192     if (fade && fadeWindows)
1193         set_fade (dpy, w, 0, get_opacity_percent (dpy, w, 1.0), fade_in_step, 0, False, True, True);
1194 }
1195
1196 static void
1197 finish_unmap_win (Display *dpy, win *w)
1198 {
1199     w->damaged = 0;
1200 #if CAN_DO_USABLE
1201     w->usable = False;
1202 #endif
1203     if (w->extents != None)
1204     {
1205         add_damage (dpy, w->extents);    /* destroys region */
1206         w->extents = None;
1207     }
1208     
1209 #if HAS_NAME_WINDOW_PIXMAP
1210     if (w->pixmap)
1211     {
1212         XFreePixmap (dpy, w->pixmap);
1213         w->pixmap = None;
1214     }
1215 #endif
1216
1217     if (w->picture)
1218     {
1219         set_ignore (dpy, NextRequest (dpy));
1220         XRenderFreePicture (dpy, w->picture);
1221         w->picture = None;
1222     }
1223
1224     /* don't care about properties anymore */
1225     set_ignore (dpy, NextRequest (dpy));
1226     XSelectInput(dpy, w->id, 0);
1227
1228     if (w->borderSize)
1229     {
1230         set_ignore (dpy, NextRequest (dpy));
1231         XFixesDestroyRegion (dpy, w->borderSize);
1232         w->borderSize = None;
1233     }
1234     if (w->shadow)
1235     {
1236         XRenderFreePicture (dpy, w->shadow);
1237         w->shadow = None;
1238     }
1239     if (w->borderClip)
1240     {
1241         XFixesDestroyRegion (dpy, w->borderClip);
1242         w->borderClip = None;
1243     }
1244
1245     clipChanged = True;
1246 }
1247
1248 #if HAS_NAME_WINDOW_PIXMAP
1249 static void
1250 unmap_callback (Display *dpy, win *w, Bool gone)
1251 {
1252     finish_unmap_win (dpy, w);
1253 }
1254 #endif
1255
1256 static void
1257 unmap_win (Display *dpy, Window id, Bool fade)
1258 {
1259     win *w = find_win (dpy, id);
1260     if (!w)
1261         return;
1262     w->a.map_state = IsUnmapped;
1263 #if HAS_NAME_WINDOW_PIXMAP
1264     if (w->pixmap && fade && fadeWindows)
1265         set_fade (dpy, w, w->opacity*1.0/OPAQUE, 0.0, fade_out_step, unmap_callback, False, False, True);
1266     else
1267 #endif
1268         finish_unmap_win (dpy, w);
1269 }
1270
1271 /* Get the opacity prop from window
1272    not found: default
1273    otherwise the value
1274  */
1275 static unsigned int
1276 get_opacity_prop(Display *dpy, win *w, unsigned int def)
1277 {
1278     Atom actual;
1279     int format;
1280     unsigned long n, left;
1281
1282     unsigned char *data;
1283     int result = XGetWindowProperty(dpy, w->id, opacityAtom, 0L, 1L, False, 
1284                        XA_CARDINAL, &actual, &format, 
1285                                     &n, &left, &data);
1286     if (result == Success && data != NULL)
1287     {
1288         unsigned int i;
1289         memcpy (&i, data, sizeof (unsigned int));
1290         XFree( (void *) data);
1291         return i;
1292     }
1293     return def;
1294 }
1295
1296 /* Get the opacity property from the window in a percent format
1297    not found: default
1298    otherwise: the value
1299 */
1300 static double
1301 get_opacity_percent(Display *dpy, win *w, double def)
1302 {
1303     unsigned int opacity = get_opacity_prop (dpy, w, (unsigned int)(OPAQUE*def));
1304
1305     return opacity*1.0/OPAQUE;
1306 }
1307
1308 /* determine mode for window all in one place.
1309    Future might check for menu flag and other cool things
1310 */
1311
1312 static Atom
1313 get_wintype_prop(Display * dpy, Window w)
1314 {
1315     Atom actual;
1316     int format;
1317     unsigned long n, left;
1318
1319     unsigned char *data;
1320     int result = XGetWindowProperty (dpy, w, winTypeAtom, 0L, 1L, False,
1321                                      XA_ATOM, &actual, &format,
1322                                      &n, &left, &data);
1323
1324     if (result == Success && data != None)
1325     {
1326         Atom a;
1327         memcpy (&a, data, sizeof (Atom));
1328         XFree ( (void *) data);
1329         return a;
1330     }
1331     return winNormalAtom;
1332 }
1333
1334 static void
1335 determine_mode(Display *dpy, win *w)
1336 {
1337     int mode;
1338     XRenderPictFormat *format;
1339
1340     /* if trans prop == -1 fall back on  previous tests*/
1341
1342     if (w->alphaPict)
1343     {
1344         XRenderFreePicture (dpy, w->alphaPict);
1345         w->alphaPict = None;
1346     }
1347     if (w->shadowPict)
1348     {
1349         XRenderFreePicture (dpy, w->shadowPict);
1350         w->shadowPict = None;
1351     }
1352
1353     if (w->a.class == InputOnly)
1354     {
1355         format = 0;
1356     }
1357     else
1358     {
1359         format = XRenderFindVisualFormat (dpy, w->a.visual);
1360     }
1361
1362     if (format && format->type == PictTypeDirect && format->direct.alphaMask)
1363     {
1364         mode = WINDOW_ARGB;
1365     }
1366     else if (w->opacity != OPAQUE)
1367     {
1368         mode = WINDOW_TRANS;
1369     }
1370     else
1371     {
1372         mode = WINDOW_SOLID;
1373     }
1374     w->mode = mode;
1375     if (w->extents)
1376     {
1377         XserverRegion damage;
1378         damage = XFixesCreateRegion (dpy, 0, 0);
1379         XFixesCopyRegion (dpy, damage, w->extents);
1380         add_damage (dpy, damage);
1381     }
1382 }
1383
1384 static Atom
1385 determine_wintype (Display *dpy, Window w)
1386 {
1387     Window       root_return, parent_return;
1388     Window      *children = NULL;
1389     unsigned int nchildren, i;
1390     Atom         type;
1391
1392     type = get_wintype_prop (dpy, w);
1393     if (type != winNormalAtom)
1394         return type;
1395
1396     if (!XQueryTree (dpy, w, &root_return, &parent_return, &children,
1397                             &nchildren))
1398     {
1399         /* XQueryTree failed. */
1400         if (children)
1401             XFree ((void *)children);
1402         return winNormalAtom;
1403     }
1404
1405     for (i = 0;i < nchildren;i++)
1406     {
1407         type = determine_wintype (dpy, children[i]);
1408         if (type != winNormalAtom)
1409             return type;
1410     }
1411
1412     if (children)
1413         XFree ((void *)children);
1414
1415     return winNormalAtom;
1416 }
1417
1418 static void
1419 add_win (Display *dpy, Window id, Window prev)
1420 {
1421     win                         *new = malloc (sizeof (win));
1422     win                         **p;
1423     
1424     if (!new)
1425         return;
1426     if (prev)
1427     {
1428         for (p = &list; *p; p = &(*p)->next)
1429             if ((*p)->id == prev)
1430                 break;
1431     }
1432     else
1433         p = &list;
1434     new->id = id;
1435     set_ignore (dpy, NextRequest (dpy));
1436     if (!XGetWindowAttributes (dpy, id, &new->a))
1437     {
1438         free (new);
1439         return;
1440     }
1441     new->damaged = 0;
1442 #if CAN_DO_USABLE
1443     new->usable = False;
1444 #endif
1445 #if HAS_NAME_WINDOW_PIXMAP
1446     new->pixmap = None;
1447 #endif
1448     new->picture = None;
1449     if (new->a.class == InputOnly)
1450     {
1451         new->damage_sequence = 0;
1452         new->damage = None;
1453     }
1454     else
1455     {
1456         new->damage_sequence = NextRequest (dpy);
1457         new->damage = XDamageCreate (dpy, id, XDamageReportNonEmpty);
1458     }
1459     new->alphaPict = None;
1460     new->shadowPict = None;
1461     new->borderSize = None;
1462     new->extents = None;
1463     new->shadow = None;
1464     new->shadow_dx = 0;
1465     new->shadow_dy = 0;
1466     new->shadow_width = 0;
1467     new->shadow_height = 0;
1468     new->opacity = OPAQUE;
1469
1470     new->borderClip = None;
1471     new->prev_trans = 0;
1472
1473     new->windowType = determine_wintype (dpy, new->id);
1474     
1475     new->next = *p;
1476     *p = new;
1477     if (new->a.map_state == IsViewable)
1478         map_win (dpy, id, new->damage_sequence - 1, True);
1479 }
1480
1481 void
1482 restack_win (Display *dpy, win *w, Window new_above)
1483 {
1484     Window  old_above;
1485     
1486     if (w->next)
1487         old_above = w->next->id;
1488     else
1489         old_above = None;
1490     if (old_above != new_above)
1491     {
1492         win **prev;
1493
1494         /* unhook */
1495         for (prev = &list; *prev; prev = &(*prev)->next)
1496             if ((*prev) == w)
1497                 break;
1498         *prev = w->next;
1499         
1500         /* rehook */
1501         for (prev = &list; *prev; prev = &(*prev)->next)
1502         {
1503             if ((*prev)->id == new_above)
1504                 break;
1505         }
1506         w->next = *prev;
1507         *prev = w;
1508     }
1509 }
1510
1511 static void
1512 configure_win (Display *dpy, XConfigureEvent *ce)
1513 {
1514     win             *w = find_win (dpy, ce->window);
1515     XserverRegion   damage = None;
1516     
1517     if (!w)
1518     {
1519         if (ce->window == root)
1520         {
1521             if (rootBuffer)
1522             {
1523                 XRenderFreePicture (dpy, rootBuffer);
1524                 rootBuffer = None;
1525             }
1526             root_width = ce->width;
1527             root_height = ce->height;
1528         }
1529         return;
1530     }
1531 #if CAN_DO_USABLE
1532     if (w->usable)
1533 #endif
1534     {
1535         damage = XFixesCreateRegion (dpy, 0, 0);
1536         if (w->extents != None) 
1537             XFixesCopyRegion (dpy, damage, w->extents);
1538     }
1539     w->a.x = ce->x;
1540     w->a.y = ce->y;
1541     if (w->a.width != ce->width || w->a.height != ce->height)
1542     {
1543 #if HAS_NAME_WINDOW_PIXMAP
1544         if (w->pixmap)
1545         {
1546             XFreePixmap (dpy, w->pixmap);
1547             w->pixmap = None;
1548             if (w->picture)
1549             {
1550                 XRenderFreePicture (dpy, w->picture);
1551                 w->picture = None;
1552             }
1553         }
1554 #endif
1555         if (w->shadow)
1556         {
1557             XRenderFreePicture (dpy, w->shadow);
1558             w->shadow = None;
1559         }
1560     }
1561     w->a.width = ce->width;
1562     w->a.height = ce->height;
1563     w->a.border_width = ce->border_width;
1564     w->a.override_redirect = ce->override_redirect;
1565     restack_win (dpy, w, ce->above);
1566     if (damage)
1567     {
1568         XserverRegion   extents = win_extents (dpy, w);
1569         XFixesUnionRegion (dpy, damage, damage, extents);
1570         XFixesDestroyRegion (dpy, extents);
1571         add_damage (dpy, damage);
1572     }
1573     clipChanged = True;
1574 }
1575
1576 static void
1577 circulate_win (Display *dpy, XCirculateEvent *ce)
1578 {
1579     win     *w = find_win (dpy, ce->window);
1580     Window  new_above;
1581
1582     if (!w)
1583         return;
1584
1585     if (ce->place == PlaceOnTop)
1586         new_above = list->id;
1587     else
1588         new_above = None;
1589     restack_win (dpy, w, new_above);
1590     clipChanged = True;
1591 }
1592
1593 static void
1594 finish_destroy_win (Display *dpy, Window id, Bool gone)
1595 {
1596     win **prev, *w;
1597
1598     for (prev = &list; (w = *prev); prev = &w->next)
1599         if (w->id == id)
1600         {
1601             if (gone)
1602                 finish_unmap_win (dpy, w);
1603             *prev = w->next;
1604             if (w->picture)
1605             {
1606                 set_ignore (dpy, NextRequest (dpy));
1607                 XRenderFreePicture (dpy, w->picture);
1608                 w->picture = None;
1609             }
1610             if (w->alphaPict)
1611             {
1612                 XRenderFreePicture (dpy, w->alphaPict);
1613                 w->alphaPict = None;
1614             }
1615             if (w->shadowPict)
1616             {
1617                 XRenderFreePicture (dpy, w->shadowPict);
1618                 w->shadowPict = None;
1619             }
1620             if (w->damage != None)
1621             {
1622                 set_ignore (dpy, NextRequest (dpy));
1623                 XDamageDestroy (dpy, w->damage);
1624                 w->damage = None;
1625             }
1626             cleanup_fade (dpy, w);
1627             free (w);
1628             break;
1629         }
1630 }
1631
1632 #if HAS_NAME_WINDOW_PIXMAP
1633 static void
1634 destroy_callback (Display *dpy, win *w, Bool gone)
1635 {
1636     finish_destroy_win (dpy, w->id, gone);
1637 }
1638 #endif
1639
1640 static void
1641 destroy_win (Display *dpy, Window id, Bool gone, Bool fade)
1642 {
1643     win *w = find_win (dpy, id);
1644 #if HAS_NAME_WINDOW_PIXMAP
1645     if (w && w->pixmap && fade && fadeWindows)
1646         set_fade (dpy, w, w->opacity*1.0/OPAQUE, 0.0, fade_out_step, destroy_callback, gone, False, True);
1647     else
1648 #endif
1649     {
1650         finish_destroy_win (dpy, id, gone);
1651     }
1652 }
1653
1654 /*
1655 static void
1656 dump_win (win *w)
1657 {
1658     printf ("\t%08lx: %d x %d + %d + %d (%d)\n", w->id,
1659             w->a.width, w->a.height, w->a.x, w->a.y, w->a.border_width);
1660 }
1661
1662
1663 static void
1664 dump_wins (void)
1665 {
1666     win *w;
1667
1668     printf ("windows:\n");
1669     for (w = list; w; w = w->next)
1670         dump_win (w);
1671 }
1672 */
1673
1674 static void
1675 damage_win (Display *dpy, XDamageNotifyEvent *de)
1676 {
1677     win *w = find_win (dpy, de->drawable);
1678
1679     if (!w)
1680         return;
1681 #if CAN_DO_USABLE
1682     if (!w->usable)
1683     {
1684         if (w->damage_bounds.width == 0 || w->damage_bounds.height == 0)
1685         {
1686             w->damage_bounds = de->area;
1687         }
1688         else
1689         {
1690             if (de->area.x < w->damage_bounds.x)
1691             {
1692                 w->damage_bounds.width += (w->damage_bounds.x - de->area.x);
1693                 w->damage_bounds.x = de->area.x;
1694             }
1695             if (de->area.y < w->damage_bounds.y)
1696             {
1697                 w->damage_bounds.height += (w->damage_bounds.y - de->area.y);
1698                 w->damage_bounds.y = de->area.y;
1699             }
1700             if (de->area.x + de->area.width > w->damage_bounds.x + w->damage_bounds.width)
1701                 w->damage_bounds.width = de->area.x + de->area.width - w->damage_bounds.x;
1702             if (de->area.y + de->area.height > w->damage_bounds.y + w->damage_bounds.height)
1703                 w->damage_bounds.height = de->area.y + de->area.height - w->damage_bounds.y;
1704         }
1705 #if 0
1706         printf ("unusable damage %d, %d: %d x %d bounds %d, %d: %d x %d\n",
1707                 de->area.x,
1708                 de->area.y,
1709                 de->area.width,
1710                 de->area.height,
1711                 w->damage_bounds.x,
1712                 w->damage_bounds.y,
1713                 w->damage_bounds.width,
1714                 w->damage_bounds.height);
1715 #endif
1716         if (w->damage_bounds.x <= 0 && 
1717             w->damage_bounds.y <= 0 &&
1718             w->a.width <= w->damage_bounds.x + w->damage_bounds.width &&
1719             w->a.height <= w->damage_bounds.y + w->damage_bounds.height)
1720         {
1721             clipChanged = True;
1722             if (fadeWindows)
1723                 set_fade (dpy, w, 0, get_opacity_percent (dpy, w, 1.0), fade_in_step, 0, False, True, True);
1724             w->usable = True;
1725         }
1726     }
1727     if (w->usable)
1728 #endif
1729         repair_win (dpy, w);
1730 }
1731
1732 static int
1733 error (Display *dpy, XErrorEvent *ev)
1734 {
1735     int     o;
1736     char    *name = 0;
1737     
1738     if (should_ignore (dpy, ev->serial))
1739         return 0;
1740     
1741     if (ev->request_code == composite_opcode &&
1742         ev->minor_code == X_CompositeRedirectSubwindows)
1743     {
1744         fprintf (stderr, "Another composite manager is already running\n");
1745         exit (1);
1746     }
1747     
1748     o = ev->error_code - xfixes_error;
1749     switch (o) {
1750     case BadRegion: name = "BadRegion"; break;
1751     default: break;
1752     }
1753     o = ev->error_code - damage_error;
1754     switch (o) {
1755     case BadDamage: name = "BadDamage"; break;
1756     default: break;
1757     }
1758     o = ev->error_code - render_error;
1759     switch (o) {
1760     case BadPictFormat: name ="BadPictFormat"; break;
1761     case BadPicture: name ="BadPicture"; break;
1762     case BadPictOp: name ="BadPictOp"; break;
1763     case BadGlyphSet: name ="BadGlyphSet"; break;
1764     case BadGlyph: name ="BadGlyph"; break;
1765     default: break;
1766     }
1767         
1768     printf ("error %d request %d minor %d serial %lu\n",
1769             ev->error_code, ev->request_code, ev->minor_code, ev->serial);
1770
1771 /*    abort ();     this is just annoying to most people */
1772     return 0;
1773 }
1774
1775 static void
1776 expose_root (Display *dpy, Window root, XRectangle *rects, int nrects)
1777 {
1778     XserverRegion  region = XFixesCreateRegion (dpy, rects, nrects);
1779     
1780     add_damage (dpy, region);
1781 }
1782
1783 #if DEBUG_EVENTS
1784 static int
1785 ev_serial (XEvent *ev)
1786 {
1787     if (ev->type & 0x7f != KeymapNotify)
1788         return ev->xany.serial;
1789     return NextRequest (ev->xany.display);
1790 }
1791
1792 static char *
1793 ev_name (XEvent *ev)
1794 {
1795     static char buf[128];
1796     switch (ev->type & 0x7f) {
1797     case Expose:
1798         return "Expose";
1799     case MapNotify:
1800         return "Map";
1801     case UnmapNotify:
1802         return "Unmap";
1803     case ReparentNotify:
1804         return "Reparent";
1805     case CirculateNotify:
1806         return "Circulate";
1807     default:
1808         if (ev->type == damage_event + XDamageNotify)
1809             return "Damage";
1810         sprintf (buf, "Event %d", ev->type);
1811         return buf;
1812     }
1813 }
1814
1815 static Window
1816 ev_window (XEvent *ev)
1817 {
1818     switch (ev->type) {
1819     case Expose:
1820         return ev->xexpose.window;
1821     case MapNotify:
1822         return ev->xmap.window;
1823     case UnmapNotify:
1824         return ev->xunmap.window;
1825     case ReparentNotify:
1826         return ev->xreparent.window;
1827     case CirculateNotify:
1828         return ev->xcirculate.window;
1829     default:
1830         if (ev->type == damage_event + XDamageNotify)
1831             return ((XDamageNotifyEvent *) ev)->drawable;
1832         return 0;
1833     }
1834 }
1835 #endif
1836
1837 void
1838 usage (char *program)
1839 {
1840     fprintf (stderr, "%s v1.1.3\n", program);
1841     fprintf (stderr, "usage: %s [options]\n", program);
1842     fprintf (stderr, "Options\n");
1843     fprintf (stderr, "   -d display\n      Specifies which display should be managed.\n");
1844     fprintf (stderr, "   -r radius\n      Specifies the blur radius for client-side shadows. (default 12)\n");
1845     fprintf (stderr, "   -o opacity\n      Specifies the translucency for client-side shadows. (default .75)\n");
1846     fprintf (stderr, "   -l left-offset\n      Specifies the left offset for client-side shadows. (default -15)\n");
1847     fprintf (stderr, "   -t top-offset\n      Specifies the top offset for clinet-side shadows. (default -15)\n");
1848     fprintf (stderr, "   -I fade-in-step\n      Specifies the opacity change between steps while fading in. (default 0.028)\n");
1849     fprintf (stderr, "   -O fade-out-step\n      Specifies the opacity change between steps while fading out. (default 0.03)\n");
1850     fprintf (stderr, "   -D fade-delta-time\n      Specifies the time between steps in a fade in milliseconds. (default 10)\n");
1851     fprintf (stderr, "   -a\n      Use automatic server-side compositing. Faster, but no special effects.\n");
1852     fprintf (stderr, "   -c\n      Draw client-side shadows with fuzzy edges.\n");
1853     fprintf (stderr, "   -C\n      Avoid drawing shadows on dock/panel windows.\n");
1854     fprintf (stderr, "   -f\n      Fade windows in/out when opening/closing.\n");
1855     fprintf (stderr, "   -F\n      Fade windows during opacity changes.\n");
1856     fprintf (stderr, "   -n\n      Normal client-side compositing with transparency support\n");
1857     fprintf (stderr, "   -s\n      Draw server-side shadows with sharp edges.\n");
1858     fprintf (stderr, "   -S\n      Enable synchronous operation (for debugging).\n");
1859     exit (1);
1860 }
1861
1862 static void
1863 register_cm (void)
1864 {
1865     Window w;
1866     Atom a;
1867
1868     w = XCreateSimpleWindow (dpy, RootWindow (dpy, 0), 0, 0, 1, 1, 0, None,
1869                              None);
1870
1871     Xutf8SetWMProperties (dpy, w, "xcompmgr", "xcompmgr", NULL, 0, NULL, NULL,
1872                           NULL);
1873
1874     /* FIXME: Don't hard code the screen number */
1875     a = XInternAtom (dpy, "_NET_WM_CM_S0", False);
1876
1877     XSetSelectionOwner (dpy, a, w, 0);
1878 }
1879
1880 int
1881 main (int argc, char **argv)
1882 {
1883     XEvent          ev;
1884     Window          root_return, parent_return;
1885     Window          *children;
1886     unsigned int    nchildren;
1887     int             i;
1888     XRenderPictureAttributes    pa;
1889     XRectangle      *expose_rects = 0;
1890     int             size_expose = 0;
1891     int             n_expose = 0;
1892     struct pollfd   ufd;
1893     int             p;
1894     int             composite_major, composite_minor;
1895     char            *display = 0;
1896     int             o;
1897
1898     while ((o = getopt (argc, argv, "D:I:O:d:r:o:l:t:scnfFCaS")) != -1)
1899     {
1900         switch (o) {
1901         case 'd':
1902             display = optarg;
1903             break;
1904         case 'D':
1905             fade_delta = atoi (optarg);
1906             if (fade_delta < 1)
1907                 fade_delta = 10;
1908             break;
1909         case 'I':
1910             fade_in_step = atof (optarg);
1911             if (fade_in_step <= 0)
1912                 fade_in_step = 0.01;
1913             break;
1914         case 'O':
1915             fade_out_step = atof (optarg);
1916             if (fade_out_step <= 0)
1917                 fade_out_step = 0.01;
1918             break;
1919         case 's':
1920             compMode = CompServerShadows;
1921             break;
1922         case 'c':
1923             compMode = CompClientShadows;
1924             break;
1925         case 'C':
1926             excludeDockShadows = True;
1927             break;
1928         case 'n':
1929             compMode = CompSimple;
1930             break;
1931         case 'f':
1932             fadeWindows = True;
1933             break;
1934         case 'F':
1935             fadeTrans = True;
1936             break;
1937         case 'a':
1938             autoRedirect = True;
1939             break;
1940         case 'S':
1941             synchronize = True;
1942             break;
1943         case 'r':
1944             shadowRadius = atoi (optarg);
1945             break;
1946         case 'o':
1947             shadowOpacity = atof (optarg);
1948             break;
1949         case 'l':
1950             shadowOffsetX = atoi (optarg);
1951             break;
1952         case 't':
1953             shadowOffsetY = atoi (optarg);
1954             break;
1955         default:
1956             usage (argv[0]);
1957             break;
1958         }
1959     }
1960     
1961     dpy = XOpenDisplay (display);
1962     if (!dpy)
1963     {
1964         fprintf (stderr, "Can't open display\n");
1965         exit (1);
1966     }
1967     XSetErrorHandler (error);
1968     if (synchronize)
1969         XSynchronize (dpy, 1);
1970     scr = DefaultScreen (dpy);
1971     root = RootWindow (dpy, scr);
1972
1973     if (!XRenderQueryExtension (dpy, &render_event, &render_error))
1974     {
1975         fprintf (stderr, "No render extension\n");
1976         exit (1);
1977     }
1978     if (!XQueryExtension (dpy, COMPOSITE_NAME, &composite_opcode,
1979                           &composite_event, &composite_error))
1980     {
1981         fprintf (stderr, "No composite extension\n");
1982         exit (1);
1983     }
1984     XCompositeQueryVersion (dpy, &composite_major, &composite_minor);
1985 #if HAS_NAME_WINDOW_PIXMAP
1986     if (composite_major > 0 || composite_minor >= 2)
1987         hasNamePixmap = True;
1988 #endif
1989
1990     if (!XDamageQueryExtension (dpy, &damage_event, &damage_error))
1991     {
1992         fprintf (stderr, "No damage extension\n");
1993         exit (1);
1994     }
1995     if (!XFixesQueryExtension (dpy, &xfixes_event, &xfixes_error))
1996     {
1997         fprintf (stderr, "No XFixes extension\n");
1998         exit (1);
1999     }
2000
2001     register_cm();
2002
2003     /* get atoms */
2004     opacityAtom = XInternAtom (dpy, OPACITY_PROP, False);
2005     winTypeAtom = XInternAtom (dpy, "_NET_WM_WINDOW_TYPE", False);
2006     winDesktopAtom = XInternAtom (dpy, "_NET_WM_WINDOW_TYPE_DESKTOP", False);
2007     winDockAtom = XInternAtom (dpy, "_NET_WM_WINDOW_TYPE_DOCK", False);
2008     winToolbarAtom = XInternAtom (dpy, "_NET_WM_WINDOW_TYPE_TOOLBAR", False);
2009     winMenuAtom = XInternAtom (dpy, "_NET_WM_WINDOW_TYPE_MENU", False);
2010     winUtilAtom = XInternAtom (dpy, "_NET_WM_WINDOW_TYPE_UTILITY", False);
2011     winSplashAtom = XInternAtom (dpy, "_NET_WM_WINDOW_TYPE_SPLASH", False);
2012     winDialogAtom = XInternAtom (dpy, "_NET_WM_WINDOW_TYPE_DIALOG", False);
2013     winNormalAtom = XInternAtom (dpy, "_NET_WM_WINDOW_TYPE_NORMAL", False);
2014
2015     pa.subwindow_mode = IncludeInferiors;
2016
2017     if (compMode == CompClientShadows)
2018     {
2019         gaussianMap = make_gaussian_map(dpy, shadowRadius);
2020         presum_gaussian (gaussianMap);
2021     }
2022
2023     root_width = DisplayWidth (dpy, scr);
2024     root_height = DisplayHeight (dpy, scr);
2025
2026     rootPicture = XRenderCreatePicture (dpy, root, 
2027                                         XRenderFindVisualFormat (dpy,
2028                                                                  DefaultVisual (dpy, scr)),
2029                                         CPSubwindowMode,
2030                                         &pa);
2031     blackPicture = solid_picture (dpy, True, 1, 0, 0, 0);
2032     if (compMode == CompServerShadows)
2033         transBlackPicture = solid_picture (dpy, True, 0.3, 0, 0, 0);
2034     allDamage = None;
2035     clipChanged = True;
2036     XGrabServer (dpy);
2037     if (autoRedirect)
2038         XCompositeRedirectSubwindows (dpy, root, CompositeRedirectAutomatic);
2039     else
2040     {
2041         XCompositeRedirectSubwindows (dpy, root, CompositeRedirectManual);
2042         XSelectInput (dpy, root, 
2043                       SubstructureNotifyMask|
2044                       ExposureMask|
2045                       StructureNotifyMask|
2046                       PropertyChangeMask);
2047         XQueryTree (dpy, root, &root_return, &parent_return, &children, &nchildren);
2048         for (i = 0; i < nchildren; i++)
2049             add_win (dpy, children[i], i ? children[i-1] : None);
2050         XFree (children);
2051     }
2052     XUngrabServer (dpy);
2053     ufd.fd = ConnectionNumber (dpy);
2054     ufd.events = POLLIN;
2055     if (!autoRedirect)
2056         paint_all (dpy, None);
2057     for (;;)
2058     {
2059         /*      dump_wins (); */
2060         do {
2061             if (autoRedirect)
2062                 XFlush (dpy);
2063             if (!QLength (dpy))
2064             {
2065                  if (poll (&ufd, 1, fade_timeout()) == 0)
2066                  {
2067                     run_fades (dpy);
2068                     break;
2069                  }
2070             }
2071
2072             XNextEvent (dpy, &ev);
2073             if ((ev.type & 0x7f) != KeymapNotify)
2074                 discard_ignore (dpy, ev.xany.serial);
2075 #if DEBUG_EVENTS
2076             printf ("event %10.10s serial 0x%08x window 0x%08x\n",
2077                     ev_name(&ev), ev_serial (&ev), ev_window (&ev));
2078 #endif
2079             if (!autoRedirect) switch (ev.type) {
2080             case CreateNotify:
2081                 add_win (dpy, ev.xcreatewindow.window, 0);
2082                 break;
2083             case ConfigureNotify:
2084                 configure_win (dpy, &ev.xconfigure);
2085                 break;
2086             case DestroyNotify:
2087                 destroy_win (dpy, ev.xdestroywindow.window, True, True);
2088                 break;
2089             case MapNotify:
2090                 map_win (dpy, ev.xmap.window, ev.xmap.serial, True);
2091                 break;
2092             case UnmapNotify:
2093                 unmap_win (dpy, ev.xunmap.window, True);
2094                 break;
2095             case ReparentNotify:
2096                 if (ev.xreparent.parent == root)
2097                     add_win (dpy, ev.xreparent.window, 0);
2098                 else
2099                     destroy_win (dpy, ev.xreparent.window, False, True);
2100                 break;
2101             case CirculateNotify:
2102                 circulate_win (dpy, &ev.xcirculate);
2103                 break;
2104             case Expose:
2105                 if (ev.xexpose.window == root)
2106                 {
2107                     int more = ev.xexpose.count + 1;
2108                     if (n_expose == size_expose)
2109                     {
2110                         if (expose_rects)
2111                         {
2112                             expose_rects = realloc (expose_rects, 
2113                                                     (size_expose + more) * 
2114                                                     sizeof (XRectangle));
2115                             size_expose += more;
2116                         }
2117                         else
2118                         {
2119                             expose_rects = malloc (more * sizeof (XRectangle));
2120                             size_expose = more;
2121                         }
2122                     }
2123                     expose_rects[n_expose].x = ev.xexpose.x;
2124                     expose_rects[n_expose].y = ev.xexpose.y;
2125                     expose_rects[n_expose].width = ev.xexpose.width;
2126                     expose_rects[n_expose].height = ev.xexpose.height;
2127                     n_expose++;
2128                     if (ev.xexpose.count == 0)
2129                     {
2130                         expose_root (dpy, root, expose_rects, n_expose);
2131                         n_expose = 0;
2132                     }
2133                 }
2134                 break;
2135             case PropertyNotify:
2136                 for (p = 0; backgroundProps[p]; p++)
2137                 {
2138                     if (ev.xproperty.atom == XInternAtom (dpy, backgroundProps[p], False))
2139                     {
2140                         if (rootTile)
2141                         {
2142                             XClearArea (dpy, root, 0, 0, 0, 0, True);
2143                             XRenderFreePicture (dpy, rootTile);
2144                             rootTile = None;
2145                             break;
2146                         }
2147                     }
2148                 }
2149                 /* check if Trans property was changed */
2150                 if (ev.xproperty.atom == opacityAtom)
2151                 {
2152                     /* reset mode and redraw window */
2153                     win * w = find_win(dpy, ev.xproperty.window);
2154                     if (w)
2155                     {
2156                         if (fadeTrans)
2157                             set_fade (dpy, w, w->opacity*1.0/OPAQUE, get_opacity_percent (dpy, w, 1.0),
2158                                       fade_out_step, 0, False, True, False);
2159                         else
2160                         {
2161                         w->opacity = get_opacity_prop(dpy, w, OPAQUE);
2162                         determine_mode(dpy, w);
2163                             if (w->shadow)
2164                             {
2165                                 XRenderFreePicture (dpy, w->shadow);
2166                                 w->shadow = None;
2167                                 w->extents = win_extents (dpy, w);
2168                             }
2169                         }
2170                     }
2171                 }
2172                 break;
2173             default:
2174                 if (ev.type == damage_event + XDamageNotify)
2175                     damage_win (dpy, (XDamageNotifyEvent *) &ev);
2176                 break;
2177             }
2178         } while (QLength (dpy));
2179         if (allDamage && !autoRedirect)
2180         {
2181             static int  paint;
2182             paint_all (dpy, allDamage);
2183             paint++;
2184             XSync (dpy, False);
2185             allDamage = None;
2186             clipChanged = False;
2187         }
2188     }
2189 }