]> git.llucax.com Git - software/libev.git/blob - ev.c
optimise ev_now when \!MULTIPLICITY
[software/libev.git] / ev.c
1 /*
2  * libev event processing core, watcher management
3  *
4  * Copyright (c) 2007 Marc Alexander Lehmann <libev@schmorp.de>
5  * All rights reserved.
6  *
7  * Redistribution and use in source and binary forms, with or without
8  * modification, are permitted provided that the following conditions are
9  * met:
10  *
11  *     * Redistributions of source code must retain the above copyright
12  *       notice, this list of conditions and the following disclaimer.
13  *
14  *     * Redistributions in binary form must reproduce the above
15  *       copyright notice, this list of conditions and the following
16  *       disclaimer in the documentation and/or other materials provided
17  *       with the distribution.
18  *
19  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
20  * "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
21  * LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
22  * A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT
23  * OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
24  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT
25  * LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
26  * DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
27  * THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
28  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
29  * OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
30  */
31 #ifndef EV_STANDALONE
32 # include "config.h"
33
34 # if HAVE_CLOCK_GETTIME
35 #  define EV_USE_MONOTONIC 1
36 #  define EV_USE_REALTIME  1
37 # endif
38
39 # if HAVE_SELECT && HAVE_SYS_SELECT_H
40 #  define EV_USE_SELECT 1
41 # endif
42
43 # if HAVE_POLL && HAVE_POLL_H
44 #  define EV_USE_POLL 1
45 # endif
46
47 # if HAVE_EPOLL && HAVE_EPOLL_CTL && HAVE_SYS_EPOLL_H
48 #  define EV_USE_EPOLL 1
49 # endif
50
51 # if HAVE_KQUEUE && HAVE_WORKING_KQUEUE && HAVE_SYS_EVENT_H && HAVE_SYS_QUEUE_H
52 #  define EV_USE_KQUEUE 1
53 # endif
54
55 #endif
56
57 #include <math.h>
58 #include <stdlib.h>
59 #include <fcntl.h>
60 #include <stddef.h>
61
62 #include <stdio.h>
63
64 #include <assert.h>
65 #include <errno.h>
66 #include <sys/types.h>
67 #include <time.h>
68
69 #include <signal.h>
70
71 #ifndef WIN32
72 # include <unistd.h>
73 # include <sys/time.h>
74 # include <sys/wait.h>
75 #endif
76 /**/
77
78 #ifndef EV_USE_MONOTONIC
79 # define EV_USE_MONOTONIC 1
80 #endif
81
82 #ifndef EV_USE_SELECT
83 # define EV_USE_SELECT 1
84 #endif
85
86 #ifndef EV_USE_POLL
87 # define EV_USE_POLL 0 /* poll is usually slower than select, and not as well tested */
88 #endif
89
90 #ifndef EV_USE_EPOLL
91 # define EV_USE_EPOLL 0
92 #endif
93
94 #ifndef EV_USE_KQUEUE
95 # define EV_USE_KQUEUE 0
96 #endif
97
98 #ifndef EV_USE_WIN32
99 # ifdef WIN32
100 #  define EV_USE_WIN32 0 /* it does not exist, use select */
101 #  undef EV_USE_SELECT
102 #  define EV_USE_SELECT 1
103 # else
104 #  define EV_USE_WIN32 0
105 # endif
106 #endif
107
108 #ifndef EV_USE_REALTIME
109 # define EV_USE_REALTIME 1
110 #endif
111
112 /**/
113
114 #ifndef CLOCK_MONOTONIC
115 # undef EV_USE_MONOTONIC
116 # define EV_USE_MONOTONIC 0
117 #endif
118
119 #ifndef CLOCK_REALTIME
120 # undef EV_USE_REALTIME
121 # define EV_USE_REALTIME 0
122 #endif
123
124 /**/
125
126 #define MIN_TIMEJUMP  1. /* minimum timejump that gets detected (if monotonic clock available) */
127 #define MAX_BLOCKTIME 59.731 /* never wait longer than this time (to detect time jumps) */
128 #define PID_HASHSIZE  16 /* size of pid hash table, must be power of two */
129 /*#define CLEANUP_INTERVAL 300. /* how often to try to free memory and re-check fds */
130
131 #ifdef EV_H
132 # include EV_H
133 #else
134 # include "ev.h"
135 #endif
136
137 #if __GNUC__ >= 3
138 # define expect(expr,value)         __builtin_expect ((expr),(value))
139 # define inline                     inline
140 #else
141 # define expect(expr,value)         (expr)
142 # define inline                     static
143 #endif
144
145 #define expect_false(expr) expect ((expr) != 0, 0)
146 #define expect_true(expr)  expect ((expr) != 0, 1)
147
148 #define NUMPRI    (EV_MAXPRI - EV_MINPRI + 1)
149 #define ABSPRI(w) ((w)->priority - EV_MINPRI)
150
151 typedef struct ev_watcher *W;
152 typedef struct ev_watcher_list *WL;
153 typedef struct ev_watcher_time *WT;
154
155 static int have_monotonic; /* did clock_gettime (CLOCK_MONOTONIC) work? */
156
157 #include "ev_win32.c"
158
159 /*****************************************************************************/
160
161 static void (*syserr_cb)(const char *msg);
162
163 void ev_set_syserr_cb (void (*cb)(const char *msg))
164 {
165   syserr_cb = cb;
166 }
167
168 static void
169 syserr (const char *msg)
170 {
171   if (!msg)
172     msg = "(libev) system error";
173
174   if (syserr_cb)
175     syserr_cb (msg);
176   else
177     {
178       perror (msg);
179       abort ();
180     }
181 }
182
183 static void *(*alloc)(void *ptr, long size);
184
185 void ev_set_allocator (void *(*cb)(void *ptr, long size))
186 {
187   alloc = cb;
188 }
189
190 static void *
191 ev_realloc (void *ptr, long size)
192 {
193   ptr = alloc ? alloc (ptr, size) : realloc (ptr, size);
194
195   if (!ptr && size)
196     {
197       fprintf (stderr, "libev: cannot allocate %ld bytes, aborting.", size);
198       abort ();
199     }
200
201   return ptr;
202 }
203
204 #define ev_malloc(size) ev_realloc (0, (size))
205 #define ev_free(ptr)    ev_realloc ((ptr), 0)
206
207 /*****************************************************************************/
208
209 typedef struct
210 {
211   WL head;
212   unsigned char events;
213   unsigned char reify;
214 } ANFD;
215
216 typedef struct
217 {
218   W w;
219   int events;
220 } ANPENDING;
221
222 #if EV_MULTIPLICITY
223
224   struct ev_loop
225   {
226     ev_tstamp ev_rt_now;
227     #define VAR(name,decl) decl;
228       #include "ev_vars.h"
229     #undef VAR
230   };
231   #include "ev_wrap.h"
232
233   struct ev_loop default_loop_struct;
234   static struct ev_loop *default_loop;
235
236 #else
237
238   ev_tstamp ev_rt_now;
239   #define VAR(name,decl) static decl;
240     #include "ev_vars.h"
241   #undef VAR
242
243   static int default_loop;
244
245 #endif
246
247 /*****************************************************************************/
248
249 inline ev_tstamp
250 ev_time (void)
251 {
252 #if EV_USE_REALTIME
253   struct timespec ts;
254   clock_gettime (CLOCK_REALTIME, &ts);
255   return ts.tv_sec + ts.tv_nsec * 1e-9;
256 #else
257   struct timeval tv;
258   gettimeofday (&tv, 0);
259   return tv.tv_sec + tv.tv_usec * 1e-6;
260 #endif
261 }
262
263 inline ev_tstamp
264 get_clock (void)
265 {
266 #if EV_USE_MONOTONIC
267   if (expect_true (have_monotonic))
268     {
269       struct timespec ts;
270       clock_gettime (CLOCK_MONOTONIC, &ts);
271       return ts.tv_sec + ts.tv_nsec * 1e-9;
272     }
273 #endif
274
275   return ev_time ();
276 }
277
278 #if EV_MULTIPLICITY
279 ev_tstamp
280 ev_now (EV_P)
281 {
282   return ev_rt_now;
283 }
284 #endif
285
286 #define array_roundsize(type,n) ((n) | 4 & ~3)
287
288 #define array_needsize(type,base,cur,cnt,init)                  \
289   if (expect_false ((cnt) > cur))                               \
290     {                                                           \
291       int newcnt = cur;                                         \
292       do                                                        \
293         {                                                       \
294           newcnt = array_roundsize (type, newcnt << 1);         \
295         }                                                       \
296       while ((cnt) > newcnt);                                   \
297                                                                 \
298       base = (type *)ev_realloc (base, sizeof (type) * (newcnt));\
299       init (base + cur, newcnt - cur);                          \
300       cur = newcnt;                                             \
301     }
302
303 #define array_slim(type,stem)                                   \
304   if (stem ## max < array_roundsize (stem ## cnt >> 2))         \
305     {                                                           \
306       stem ## max = array_roundsize (stem ## cnt >> 1);         \
307       base = (type *)ev_realloc (base, sizeof (type) * (stem ## max));\
308       fprintf (stderr, "slimmed down " # stem " to %d\n", stem ## max);/*D*/\
309     }
310
311 /* microsoft's pseudo-c is quite far from C as the rest of the world and the standard knows it */
312 /* bringing us everlasting joy in form of stupid extra macros that are not required in C */
313 #define array_free_microshit(stem) \
314   ev_free (stem ## s); stem ## cnt = stem ## max = 0;
315
316 #define array_free(stem, idx) \
317   ev_free (stem ## s idx); stem ## cnt idx = stem ## max idx = 0;
318
319 /*****************************************************************************/
320
321 static void
322 anfds_init (ANFD *base, int count)
323 {
324   while (count--)
325     {
326       base->head   = 0;
327       base->events = EV_NONE;
328       base->reify  = 0;
329
330       ++base;
331     }
332 }
333
334 void
335 ev_feed_event (EV_P_ void *w, int revents)
336 {
337   W w_ = (W)w;
338
339   if (w_->pending)
340     {
341       pendings [ABSPRI (w_)][w_->pending - 1].events |= revents;
342       return;
343     }
344
345   w_->pending = ++pendingcnt [ABSPRI (w_)];
346   array_needsize (ANPENDING, pendings [ABSPRI (w_)], pendingmax [ABSPRI (w_)], pendingcnt [ABSPRI (w_)], (void));
347   pendings [ABSPRI (w_)][w_->pending - 1].w      = w_;
348   pendings [ABSPRI (w_)][w_->pending - 1].events = revents;
349 }
350
351 static void
352 queue_events (EV_P_ W *events, int eventcnt, int type)
353 {
354   int i;
355
356   for (i = 0; i < eventcnt; ++i)
357     ev_feed_event (EV_A_ events [i], type);
358 }
359
360 inline void
361 fd_event (EV_P_ int fd, int revents)
362 {
363   ANFD *anfd = anfds + fd;
364   struct ev_io *w;
365
366   for (w = (struct ev_io *)anfd->head; w; w = (struct ev_io *)((WL)w)->next)
367     {
368       int ev = w->events & revents;
369
370       if (ev)
371         ev_feed_event (EV_A_ (W)w, ev);
372     }
373 }
374
375 void
376 ev_feed_fd_event (EV_P_ int fd, int revents)
377 {
378   fd_event (EV_A_ fd, revents);
379 }
380
381 /*****************************************************************************/
382
383 static void
384 fd_reify (EV_P)
385 {
386   int i;
387
388   for (i = 0; i < fdchangecnt; ++i)
389     {
390       int fd = fdchanges [i];
391       ANFD *anfd = anfds + fd;
392       struct ev_io *w;
393
394       int events = 0;
395
396       for (w = (struct ev_io *)anfd->head; w; w = (struct ev_io *)((WL)w)->next)
397         events |= w->events;
398
399       anfd->reify = 0;
400
401       method_modify (EV_A_ fd, anfd->events, events);
402       anfd->events = events;
403     }
404
405   fdchangecnt = 0;
406 }
407
408 static void
409 fd_change (EV_P_ int fd)
410 {
411   if (anfds [fd].reify)
412     return;
413
414   anfds [fd].reify = 1;
415
416   ++fdchangecnt;
417   array_needsize (int, fdchanges, fdchangemax, fdchangecnt, (void));
418   fdchanges [fdchangecnt - 1] = fd;
419 }
420
421 static void
422 fd_kill (EV_P_ int fd)
423 {
424   struct ev_io *w;
425
426   while ((w = (struct ev_io *)anfds [fd].head))
427     {
428       ev_io_stop (EV_A_ w);
429       ev_feed_event (EV_A_ (W)w, EV_ERROR | EV_READ | EV_WRITE);
430     }
431 }
432
433 static int
434 fd_valid (int fd)
435 {
436 #ifdef WIN32
437   return !!win32_get_osfhandle (fd);
438 #else
439   return fcntl (fd, F_GETFD) != -1;
440 #endif
441 }
442
443 /* called on EBADF to verify fds */
444 static void
445 fd_ebadf (EV_P)
446 {
447   int fd;
448
449   for (fd = 0; fd < anfdmax; ++fd)
450     if (anfds [fd].events)
451       if (!fd_valid (fd) == -1 && errno == EBADF)
452         fd_kill (EV_A_ fd);
453 }
454
455 /* called on ENOMEM in select/poll to kill some fds and retry */
456 static void
457 fd_enomem (EV_P)
458 {
459   int fd;
460
461   for (fd = anfdmax; fd--; )
462     if (anfds [fd].events)
463       {
464         fd_kill (EV_A_ fd);
465         return;
466       }
467 }
468
469 /* usually called after fork if method needs to re-arm all fds from scratch */
470 static void
471 fd_rearm_all (EV_P)
472 {
473   int fd;
474
475   /* this should be highly optimised to not do anything but set a flag */
476   for (fd = 0; fd < anfdmax; ++fd)
477     if (anfds [fd].events)
478       {
479         anfds [fd].events = 0;
480         fd_change (EV_A_ fd);
481       }
482 }
483
484 /*****************************************************************************/
485
486 static void
487 upheap (WT *heap, int k)
488 {
489   WT w = heap [k];
490
491   while (k && heap [k >> 1]->at > w->at)
492     {
493       heap [k] = heap [k >> 1];
494       ((W)heap [k])->active = k + 1;
495       k >>= 1;
496     }
497
498   heap [k] = w;
499   ((W)heap [k])->active = k + 1;
500
501 }
502
503 static void
504 downheap (WT *heap, int N, int k)
505 {
506   WT w = heap [k];
507
508   while (k < (N >> 1))
509     {
510       int j = k << 1;
511
512       if (j + 1 < N && heap [j]->at > heap [j + 1]->at)
513         ++j;
514
515       if (w->at <= heap [j]->at)
516         break;
517
518       heap [k] = heap [j];
519       ((W)heap [k])->active = k + 1;
520       k = j;
521     }
522
523   heap [k] = w;
524   ((W)heap [k])->active = k + 1;
525 }
526
527 inline void
528 adjustheap (WT *heap, int N, int k, ev_tstamp at)
529 {
530   ev_tstamp old_at = heap [k]->at;
531   heap [k]->at = at;
532
533   if (old_at < at)
534     downheap (heap, N, k);
535   else
536     upheap (heap, k);
537 }
538
539 /*****************************************************************************/
540
541 typedef struct
542 {
543   WL head;
544   sig_atomic_t volatile gotsig;
545 } ANSIG;
546
547 static ANSIG *signals;
548 static int signalmax;
549
550 static int sigpipe [2];
551 static sig_atomic_t volatile gotsig;
552 static struct ev_io sigev;
553
554 static void
555 signals_init (ANSIG *base, int count)
556 {
557   while (count--)
558     {
559       base->head   = 0;
560       base->gotsig = 0;
561
562       ++base;
563     }
564 }
565
566 static void
567 sighandler (int signum)
568 {
569 #if WIN32
570   signal (signum, sighandler);
571 #endif
572
573   signals [signum - 1].gotsig = 1;
574
575   if (!gotsig)
576     {
577       int old_errno = errno;
578       gotsig = 1;
579 #ifdef WIN32
580       send (sigpipe [1], &signum, 1, MSG_DONTWAIT);
581 #else
582       write (sigpipe [1], &signum, 1);
583 #endif
584       errno = old_errno;
585     }
586 }
587
588 void
589 ev_feed_signal_event (EV_P_ int signum)
590 {
591   WL w;
592
593 #if EV_MULTIPLICITY
594   assert (("feeding signal events is only supported in the default loop", loop == default_loop));
595 #endif
596
597   --signum;
598
599   if (signum < 0 || signum >= signalmax)
600     return;
601
602   signals [signum].gotsig = 0;
603
604   for (w = signals [signum].head; w; w = w->next)
605     ev_feed_event (EV_A_ (W)w, EV_SIGNAL);
606 }
607
608 static void
609 sigcb (EV_P_ struct ev_io *iow, int revents)
610 {
611   int signum;
612
613 #ifdef WIN32
614   recv (sigpipe [0], &revents, 1, MSG_DONTWAIT);
615 #else
616   read (sigpipe [0], &revents, 1);
617 #endif
618   gotsig = 0;
619
620   for (signum = signalmax; signum--; )
621     if (signals [signum].gotsig)
622       ev_feed_signal_event (EV_A_ signum + 1);
623 }
624
625 static void
626 siginit (EV_P)
627 {
628 #ifndef WIN32
629   fcntl (sigpipe [0], F_SETFD, FD_CLOEXEC);
630   fcntl (sigpipe [1], F_SETFD, FD_CLOEXEC);
631
632   /* rather than sort out wether we really need nb, set it */
633   fcntl (sigpipe [0], F_SETFL, O_NONBLOCK);
634   fcntl (sigpipe [1], F_SETFL, O_NONBLOCK);
635 #endif
636
637   ev_io_set (&sigev, sigpipe [0], EV_READ);
638   ev_io_start (EV_A_ &sigev);
639   ev_unref (EV_A); /* child watcher should not keep loop alive */
640 }
641
642 /*****************************************************************************/
643
644 static struct ev_child *childs [PID_HASHSIZE];
645
646 #ifndef WIN32
647
648 static struct ev_signal childev;
649
650 #ifndef WCONTINUED
651 # define WCONTINUED 0
652 #endif
653
654 static void
655 child_reap (EV_P_ struct ev_signal *sw, int chain, int pid, int status)
656 {
657   struct ev_child *w;
658
659   for (w = (struct ev_child *)childs [chain & (PID_HASHSIZE - 1)]; w; w = (struct ev_child *)((WL)w)->next)
660     if (w->pid == pid || !w->pid)
661       {
662         ev_priority (w) = ev_priority (sw); /* need to do it *now* */
663         w->rpid         = pid;
664         w->rstatus      = status;
665         ev_feed_event (EV_A_ (W)w, EV_CHILD);
666       }
667 }
668
669 static void
670 childcb (EV_P_ struct ev_signal *sw, int revents)
671 {
672   int pid, status;
673
674   if (0 < (pid = waitpid (-1, &status, WNOHANG | WUNTRACED | WCONTINUED)))
675     {
676       /* make sure we are called again until all childs have been reaped */
677       ev_feed_event (EV_A_ (W)sw, EV_SIGNAL);
678
679       child_reap (EV_A_ sw, pid, pid, status);
680       child_reap (EV_A_ sw,   0, pid, status); /* this might trigger a watcher twice, but event catches that */
681     }
682 }
683
684 #endif
685
686 /*****************************************************************************/
687
688 #if EV_USE_KQUEUE
689 # include "ev_kqueue.c"
690 #endif
691 #if EV_USE_EPOLL
692 # include "ev_epoll.c"
693 #endif
694 #if EV_USE_POLL
695 # include "ev_poll.c"
696 #endif
697 #if EV_USE_SELECT
698 # include "ev_select.c"
699 #endif
700
701 int
702 ev_version_major (void)
703 {
704   return EV_VERSION_MAJOR;
705 }
706
707 int
708 ev_version_minor (void)
709 {
710   return EV_VERSION_MINOR;
711 }
712
713 /* return true if we are running with elevated privileges and should ignore env variables */
714 static int
715 enable_secure (void)
716 {
717 #ifdef WIN32
718   return 0;
719 #else
720   return getuid () != geteuid ()
721       || getgid () != getegid ();
722 #endif
723 }
724
725 int
726 ev_method (EV_P)
727 {
728   return method;
729 }
730
731 static void
732 loop_init (EV_P_ int methods)
733 {
734   if (!method)
735     {
736 #if EV_USE_MONOTONIC
737       {
738         struct timespec ts;
739         if (!clock_gettime (CLOCK_MONOTONIC, &ts))
740           have_monotonic = 1;
741       }
742 #endif
743
744       ev_rt_now = ev_time ();
745       mn_now    = get_clock ();
746       now_floor = mn_now;
747       rtmn_diff = ev_rt_now - mn_now;
748
749       if (methods == EVMETHOD_AUTO)
750         if (!enable_secure () && getenv ("LIBEV_METHODS"))
751           methods = atoi (getenv ("LIBEV_METHODS"));
752         else
753           methods = EVMETHOD_ANY;
754
755       method = 0;
756 #if EV_USE_WIN32
757       if (!method && (methods & EVMETHOD_WIN32 )) method = win32_init  (EV_A_ methods);
758 #endif
759 #if EV_USE_KQUEUE
760       if (!method && (methods & EVMETHOD_KQUEUE)) method = kqueue_init (EV_A_ methods);
761 #endif
762 #if EV_USE_EPOLL
763       if (!method && (methods & EVMETHOD_EPOLL )) method = epoll_init  (EV_A_ methods);
764 #endif
765 #if EV_USE_POLL
766       if (!method && (methods & EVMETHOD_POLL  )) method = poll_init   (EV_A_ methods);
767 #endif
768 #if EV_USE_SELECT
769       if (!method && (methods & EVMETHOD_SELECT)) method = select_init (EV_A_ methods);
770 #endif
771
772       ev_init (&sigev, sigcb);
773       ev_set_priority (&sigev, EV_MAXPRI);
774     }
775 }
776
777 void
778 loop_destroy (EV_P)
779 {
780   int i;
781
782 #if EV_USE_WIN32
783   if (method == EVMETHOD_WIN32 ) win32_destroy  (EV_A);
784 #endif
785 #if EV_USE_KQUEUE
786   if (method == EVMETHOD_KQUEUE) kqueue_destroy (EV_A);
787 #endif
788 #if EV_USE_EPOLL
789   if (method == EVMETHOD_EPOLL ) epoll_destroy  (EV_A);
790 #endif
791 #if EV_USE_POLL
792   if (method == EVMETHOD_POLL  ) poll_destroy   (EV_A);
793 #endif
794 #if EV_USE_SELECT
795   if (method == EVMETHOD_SELECT) select_destroy (EV_A);
796 #endif
797
798   for (i = NUMPRI; i--; )
799     array_free (pending, [i]);
800
801   /* have to use the microsoft-never-gets-it-right macro */
802   array_free_microshit (fdchange);
803   array_free_microshit (timer);
804   array_free_microshit (periodic);
805   array_free_microshit (idle);
806   array_free_microshit (prepare);
807   array_free_microshit (check);
808
809   method = 0;
810 }
811
812 static void
813 loop_fork (EV_P)
814 {
815 #if EV_USE_EPOLL
816   if (method == EVMETHOD_EPOLL ) epoll_fork  (EV_A);
817 #endif
818 #if EV_USE_KQUEUE
819   if (method == EVMETHOD_KQUEUE) kqueue_fork (EV_A);
820 #endif
821
822   if (ev_is_active (&sigev))
823     {
824       /* default loop */
825
826       ev_ref (EV_A);
827       ev_io_stop (EV_A_ &sigev);
828       close (sigpipe [0]);
829       close (sigpipe [1]);
830
831       while (pipe (sigpipe))
832         syserr ("(libev) error creating pipe");
833
834       siginit (EV_A);
835     }
836
837   postfork = 0;
838 }
839
840 #if EV_MULTIPLICITY
841 struct ev_loop *
842 ev_loop_new (int methods)
843 {
844   struct ev_loop *loop = (struct ev_loop *)ev_malloc (sizeof (struct ev_loop));
845
846   memset (loop, 0, sizeof (struct ev_loop));
847
848   loop_init (EV_A_ methods);
849
850   if (ev_method (EV_A))
851     return loop;
852
853   return 0;
854 }
855
856 void
857 ev_loop_destroy (EV_P)
858 {
859   loop_destroy (EV_A);
860   ev_free (loop);
861 }
862
863 void
864 ev_loop_fork (EV_P)
865 {
866   postfork = 1;
867 }
868
869 #endif
870
871 #if EV_MULTIPLICITY
872 struct ev_loop *
873 #else
874 int
875 #endif
876 ev_default_loop (int methods)
877 {
878   if (sigpipe [0] == sigpipe [1])
879     if (pipe (sigpipe))
880       return 0;
881
882   if (!default_loop)
883     {
884 #if EV_MULTIPLICITY
885       struct ev_loop *loop = default_loop = &default_loop_struct;
886 #else
887       default_loop = 1;
888 #endif
889
890       loop_init (EV_A_ methods);
891
892       if (ev_method (EV_A))
893         {
894           siginit (EV_A);
895
896 #ifndef WIN32
897           ev_signal_init (&childev, childcb, SIGCHLD);
898           ev_set_priority (&childev, EV_MAXPRI);
899           ev_signal_start (EV_A_ &childev);
900           ev_unref (EV_A); /* child watcher should not keep loop alive */
901 #endif
902         }
903       else
904         default_loop = 0;
905     }
906
907   return default_loop;
908 }
909
910 void
911 ev_default_destroy (void)
912 {
913 #if EV_MULTIPLICITY
914   struct ev_loop *loop = default_loop;
915 #endif
916
917 #ifndef WIN32
918   ev_ref (EV_A); /* child watcher */
919   ev_signal_stop (EV_A_ &childev);
920 #endif
921
922   ev_ref (EV_A); /* signal watcher */
923   ev_io_stop (EV_A_ &sigev);
924
925   close (sigpipe [0]); sigpipe [0] = 0;
926   close (sigpipe [1]); sigpipe [1] = 0;
927
928   loop_destroy (EV_A);
929 }
930
931 void
932 ev_default_fork (void)
933 {
934 #if EV_MULTIPLICITY
935   struct ev_loop *loop = default_loop;
936 #endif
937
938   if (method)
939     postfork = 1;
940 }
941
942 /*****************************************************************************/
943
944 static int
945 any_pending (EV_P)
946 {
947   int pri;
948
949   for (pri = NUMPRI; pri--; )
950     if (pendingcnt [pri])
951       return 1;
952
953   return 0;
954 }
955
956 static void
957 call_pending (EV_P)
958 {
959   int pri;
960
961   for (pri = NUMPRI; pri--; )
962     while (pendingcnt [pri])
963       {
964         ANPENDING *p = pendings [pri] + --pendingcnt [pri];
965
966         if (p->w)
967           {
968             p->w->pending = 0;
969             EV_CB_INVOKE (p->w, p->events);
970           }
971       }
972 }
973
974 static void
975 timers_reify (EV_P)
976 {
977   while (timercnt && ((WT)timers [0])->at <= mn_now)
978     {
979       struct ev_timer *w = timers [0];
980
981       assert (("inactive timer on timer heap detected", ev_is_active (w)));
982
983       /* first reschedule or stop timer */
984       if (w->repeat)
985         {
986           assert (("negative ev_timer repeat value found while processing timers", w->repeat > 0.));
987           ((WT)w)->at = mn_now + w->repeat;
988           downheap ((WT *)timers, timercnt, 0);
989         }
990       else
991         ev_timer_stop (EV_A_ w); /* nonrepeating: stop timer */
992
993       ev_feed_event (EV_A_ (W)w, EV_TIMEOUT);
994     }
995 }
996
997 static void
998 periodics_reify (EV_P)
999 {
1000   while (periodiccnt && ((WT)periodics [0])->at <= ev_rt_now)
1001     {
1002       struct ev_periodic *w = periodics [0];
1003
1004       assert (("inactive timer on periodic heap detected", ev_is_active (w)));
1005
1006       /* first reschedule or stop timer */
1007       if (w->reschedule_cb)
1008         {
1009           ev_tstamp at = ((WT)w)->at = w->reschedule_cb (w, ev_rt_now + 0.0001);
1010
1011           assert (("ev_periodic reschedule callback returned time in the past", ((WT)w)->at > ev_rt_now));
1012           downheap ((WT *)periodics, periodiccnt, 0);
1013         }
1014       else if (w->interval)
1015         {
1016           ((WT)w)->at += floor ((ev_rt_now - ((WT)w)->at) / w->interval + 1.) * w->interval;
1017           assert (("ev_periodic timeout in the past detected while processing timers, negative interval?", ((WT)w)->at > ev_rt_now));
1018           downheap ((WT *)periodics, periodiccnt, 0);
1019         }
1020       else
1021         ev_periodic_stop (EV_A_ w); /* nonrepeating: stop timer */
1022
1023       ev_feed_event (EV_A_ (W)w, EV_PERIODIC);
1024     }
1025 }
1026
1027 static void
1028 periodics_reschedule (EV_P)
1029 {
1030   int i;
1031
1032   /* adjust periodics after time jump */
1033   for (i = 0; i < periodiccnt; ++i)
1034     {
1035       struct ev_periodic *w = periodics [i];
1036
1037       if (w->reschedule_cb)
1038         ((WT)w)->at = w->reschedule_cb (w, ev_rt_now);
1039       else if (w->interval)
1040         ((WT)w)->at += ceil ((ev_rt_now - ((WT)w)->at) / w->interval) * w->interval;
1041     }
1042
1043   /* now rebuild the heap */
1044   for (i = periodiccnt >> 1; i--; )
1045     downheap ((WT *)periodics, periodiccnt, i);
1046 }
1047
1048 inline int
1049 time_update_monotonic (EV_P)
1050 {
1051   mn_now = get_clock ();
1052
1053   if (expect_true (mn_now - now_floor < MIN_TIMEJUMP * .5))
1054     {
1055       ev_rt_now = rtmn_diff + mn_now;
1056       return 0;
1057     }
1058   else
1059     {
1060       now_floor = mn_now;
1061       ev_rt_now = ev_time ();
1062       return 1;
1063     }
1064 }
1065
1066 static void
1067 time_update (EV_P)
1068 {
1069   int i;
1070
1071 #if EV_USE_MONOTONIC
1072   if (expect_true (have_monotonic))
1073     {
1074       if (time_update_monotonic (EV_A))
1075         {
1076           ev_tstamp odiff = rtmn_diff;
1077
1078           for (i = 4; --i; ) /* loop a few times, before making important decisions */
1079             {
1080               rtmn_diff = ev_rt_now - mn_now;
1081
1082               if (fabs (odiff - rtmn_diff) < MIN_TIMEJUMP)
1083                 return; /* all is well */
1084
1085               ev_rt_now = ev_time ();
1086               mn_now    = get_clock ();
1087               now_floor = mn_now;
1088             }
1089
1090           periodics_reschedule (EV_A);
1091           /* no timer adjustment, as the monotonic clock doesn't jump */
1092           /* timers_reschedule (EV_A_ rtmn_diff - odiff) */
1093         }
1094     }
1095   else
1096 #endif
1097     {
1098       ev_rt_now = ev_time ();
1099
1100       if (expect_false (mn_now > ev_rt_now || mn_now < ev_rt_now - MAX_BLOCKTIME - MIN_TIMEJUMP))
1101         {
1102           periodics_reschedule (EV_A);
1103
1104           /* adjust timers. this is easy, as the offset is the same for all */
1105           for (i = 0; i < timercnt; ++i)
1106             ((WT)timers [i])->at += ev_rt_now - mn_now;
1107         }
1108
1109       mn_now = ev_rt_now;
1110     }
1111 }
1112
1113 void
1114 ev_ref (EV_P)
1115 {
1116   ++activecnt;
1117 }
1118
1119 void
1120 ev_unref (EV_P)
1121 {
1122   --activecnt;
1123 }
1124
1125 static int loop_done;
1126
1127 void
1128 ev_loop (EV_P_ int flags)
1129 {
1130   double block;
1131   loop_done = flags & (EVLOOP_ONESHOT | EVLOOP_NONBLOCK) ? 1 : 0;
1132
1133   do
1134     {
1135       /* queue check watchers (and execute them) */
1136       if (expect_false (preparecnt))
1137         {
1138           queue_events (EV_A_ (W *)prepares, preparecnt, EV_PREPARE);
1139           call_pending (EV_A);
1140         }
1141
1142       /* we might have forked, so reify kernel state if necessary */
1143       if (expect_false (postfork))
1144         loop_fork (EV_A);
1145
1146       /* update fd-related kernel structures */
1147       fd_reify (EV_A);
1148
1149       /* calculate blocking time */
1150
1151       /* we only need this for !monotonic clock or timers, but as we basically
1152          always have timers, we just calculate it always */
1153 #if EV_USE_MONOTONIC
1154       if (expect_true (have_monotonic))
1155         time_update_monotonic (EV_A);
1156       else
1157 #endif
1158         {
1159           ev_rt_now = ev_time ();
1160           mn_now    = ev_rt_now;
1161         }
1162
1163       if (flags & EVLOOP_NONBLOCK || idlecnt)
1164         block = 0.;
1165       else
1166         {
1167           block = MAX_BLOCKTIME;
1168
1169           if (timercnt)
1170             {
1171               ev_tstamp to = ((WT)timers [0])->at - mn_now + method_fudge;
1172               if (block > to) block = to;
1173             }
1174
1175           if (periodiccnt)
1176             {
1177               ev_tstamp to = ((WT)periodics [0])->at - ev_rt_now + method_fudge;
1178               if (block > to) block = to;
1179             }
1180
1181           if (block < 0.) block = 0.;
1182         }
1183
1184       method_poll (EV_A_ block);
1185
1186       /* update ev_rt_now, do magic */
1187       time_update (EV_A);
1188
1189       /* queue pending timers and reschedule them */
1190       timers_reify (EV_A); /* relative timers called last */
1191       periodics_reify (EV_A); /* absolute timers called first */
1192
1193       /* queue idle watchers unless io or timers are pending */
1194       if (idlecnt && !any_pending (EV_A))
1195         queue_events (EV_A_ (W *)idles, idlecnt, EV_IDLE);
1196
1197       /* queue check watchers, to be executed first */
1198       if (checkcnt)
1199         queue_events (EV_A_ (W *)checks, checkcnt, EV_CHECK);
1200
1201       call_pending (EV_A);
1202     }
1203   while (activecnt && !loop_done);
1204
1205   if (loop_done != 2)
1206     loop_done = 0;
1207 }
1208
1209 void
1210 ev_unloop (EV_P_ int how)
1211 {
1212   loop_done = how;
1213 }
1214
1215 /*****************************************************************************/
1216
1217 inline void
1218 wlist_add (WL *head, WL elem)
1219 {
1220   elem->next = *head;
1221   *head = elem;
1222 }
1223
1224 inline void
1225 wlist_del (WL *head, WL elem)
1226 {
1227   while (*head)
1228     {
1229       if (*head == elem)
1230         {
1231           *head = elem->next;
1232           return;
1233         }
1234
1235       head = &(*head)->next;
1236     }
1237 }
1238
1239 inline void
1240 ev_clear_pending (EV_P_ W w)
1241 {
1242   if (w->pending)
1243     {
1244       pendings [ABSPRI (w)][w->pending - 1].w = 0;
1245       w->pending = 0;
1246     }
1247 }
1248
1249 inline void
1250 ev_start (EV_P_ W w, int active)
1251 {
1252   if (w->priority < EV_MINPRI) w->priority = EV_MINPRI;
1253   if (w->priority > EV_MAXPRI) w->priority = EV_MAXPRI;
1254
1255   w->active = active;
1256   ev_ref (EV_A);
1257 }
1258
1259 inline void
1260 ev_stop (EV_P_ W w)
1261 {
1262   ev_unref (EV_A);
1263   w->active = 0;
1264 }
1265
1266 /*****************************************************************************/
1267
1268 void
1269 ev_io_start (EV_P_ struct ev_io *w)
1270 {
1271   int fd = w->fd;
1272
1273   if (ev_is_active (w))
1274     return;
1275
1276   assert (("ev_io_start called with negative fd", fd >= 0));
1277
1278   ev_start (EV_A_ (W)w, 1);
1279   array_needsize (ANFD, anfds, anfdmax, fd + 1, anfds_init);
1280   wlist_add ((WL *)&anfds[fd].head, (WL)w);
1281
1282   fd_change (EV_A_ fd);
1283 }
1284
1285 void
1286 ev_io_stop (EV_P_ struct ev_io *w)
1287 {
1288   ev_clear_pending (EV_A_ (W)w);
1289   if (!ev_is_active (w))
1290     return;
1291
1292   wlist_del ((WL *)&anfds[w->fd].head, (WL)w);
1293   ev_stop (EV_A_ (W)w);
1294
1295   fd_change (EV_A_ w->fd);
1296 }
1297
1298 void
1299 ev_timer_start (EV_P_ struct ev_timer *w)
1300 {
1301   if (ev_is_active (w))
1302     return;
1303
1304   ((WT)w)->at += mn_now;
1305
1306   assert (("ev_timer_start called with negative timer repeat value", w->repeat >= 0.));
1307
1308   ev_start (EV_A_ (W)w, ++timercnt);
1309   array_needsize (struct ev_timer *, timers, timermax, timercnt, (void));
1310   timers [timercnt - 1] = w;
1311   upheap ((WT *)timers, timercnt - 1);
1312
1313   assert (("internal timer heap corruption", timers [((W)w)->active - 1] == w));
1314 }
1315
1316 void
1317 ev_timer_stop (EV_P_ struct ev_timer *w)
1318 {
1319   ev_clear_pending (EV_A_ (W)w);
1320   if (!ev_is_active (w))
1321     return;
1322
1323   assert (("internal timer heap corruption", timers [((W)w)->active - 1] == w));
1324
1325   if (((W)w)->active < timercnt--)
1326     {
1327       timers [((W)w)->active - 1] = timers [timercnt];
1328       downheap ((WT *)timers, timercnt, ((W)w)->active - 1);
1329     }
1330
1331   ((WT)w)->at = w->repeat;
1332
1333   ev_stop (EV_A_ (W)w);
1334 }
1335
1336 void
1337 ev_timer_again (EV_P_ struct ev_timer *w)
1338 {
1339   if (ev_is_active (w))
1340     {
1341       if (w->repeat)
1342         adjustheap ((WT *)timers, timercnt, ((W)w)->active - 1, mn_now + w->repeat);
1343       else
1344         ev_timer_stop (EV_A_ w);
1345     }
1346   else if (w->repeat)
1347     ev_timer_start (EV_A_ w);
1348 }
1349
1350 void
1351 ev_periodic_start (EV_P_ struct ev_periodic *w)
1352 {
1353   if (ev_is_active (w))
1354     return;
1355
1356   if (w->reschedule_cb)
1357     ((WT)w)->at = w->reschedule_cb (w, ev_rt_now);
1358   else if (w->interval)
1359     {
1360       assert (("ev_periodic_start called with negative interval value", w->interval >= 0.));
1361       /* this formula differs from the one in periodic_reify because we do not always round up */
1362       ((WT)w)->at += ceil ((ev_rt_now - ((WT)w)->at) / w->interval) * w->interval;
1363     }
1364
1365   ev_start (EV_A_ (W)w, ++periodiccnt);
1366   array_needsize (struct ev_periodic *, periodics, periodicmax, periodiccnt, (void));
1367   periodics [periodiccnt - 1] = w;
1368   upheap ((WT *)periodics, periodiccnt - 1);
1369
1370   assert (("internal periodic heap corruption", periodics [((W)w)->active - 1] == w));
1371 }
1372
1373 void
1374 ev_periodic_stop (EV_P_ struct ev_periodic *w)
1375 {
1376   ev_clear_pending (EV_A_ (W)w);
1377   if (!ev_is_active (w))
1378     return;
1379
1380   assert (("internal periodic heap corruption", periodics [((W)w)->active - 1] == w));
1381
1382   if (((W)w)->active < periodiccnt--)
1383     {
1384       periodics [((W)w)->active - 1] = periodics [periodiccnt];
1385       downheap ((WT *)periodics, periodiccnt, ((W)w)->active - 1);
1386     }
1387
1388   ev_stop (EV_A_ (W)w);
1389 }
1390
1391 void
1392 ev_periodic_again (EV_P_ struct ev_periodic *w)
1393 {
1394   /* TODO: use adjustheap and recalculation */
1395   ev_periodic_stop (EV_A_ w);
1396   ev_periodic_start (EV_A_ w);
1397 }
1398
1399 void
1400 ev_idle_start (EV_P_ struct ev_idle *w)
1401 {
1402   if (ev_is_active (w))
1403     return;
1404
1405   ev_start (EV_A_ (W)w, ++idlecnt);
1406   array_needsize (struct ev_idle *, idles, idlemax, idlecnt, (void));
1407   idles [idlecnt - 1] = w;
1408 }
1409
1410 void
1411 ev_idle_stop (EV_P_ struct ev_idle *w)
1412 {
1413   ev_clear_pending (EV_A_ (W)w);
1414   if (ev_is_active (w))
1415     return;
1416
1417   idles [((W)w)->active - 1] = idles [--idlecnt];
1418   ev_stop (EV_A_ (W)w);
1419 }
1420
1421 void
1422 ev_prepare_start (EV_P_ struct ev_prepare *w)
1423 {
1424   if (ev_is_active (w))
1425     return;
1426
1427   ev_start (EV_A_ (W)w, ++preparecnt);
1428   array_needsize (struct ev_prepare *, prepares, preparemax, preparecnt, (void));
1429   prepares [preparecnt - 1] = w;
1430 }
1431
1432 void
1433 ev_prepare_stop (EV_P_ struct ev_prepare *w)
1434 {
1435   ev_clear_pending (EV_A_ (W)w);
1436   if (ev_is_active (w))
1437     return;
1438
1439   prepares [((W)w)->active - 1] = prepares [--preparecnt];
1440   ev_stop (EV_A_ (W)w);
1441 }
1442
1443 void
1444 ev_check_start (EV_P_ struct ev_check *w)
1445 {
1446   if (ev_is_active (w))
1447     return;
1448
1449   ev_start (EV_A_ (W)w, ++checkcnt);
1450   array_needsize (struct ev_check *, checks, checkmax, checkcnt, (void));
1451   checks [checkcnt - 1] = w;
1452 }
1453
1454 void
1455 ev_check_stop (EV_P_ struct ev_check *w)
1456 {
1457   ev_clear_pending (EV_A_ (W)w);
1458   if (ev_is_active (w))
1459     return;
1460
1461   checks [((W)w)->active - 1] = checks [--checkcnt];
1462   ev_stop (EV_A_ (W)w);
1463 }
1464
1465 #ifndef SA_RESTART
1466 # define SA_RESTART 0
1467 #endif
1468
1469 void
1470 ev_signal_start (EV_P_ struct ev_signal *w)
1471 {
1472 #if EV_MULTIPLICITY
1473   assert (("signal watchers are only supported in the default loop", loop == default_loop));
1474 #endif
1475   if (ev_is_active (w))
1476     return;
1477
1478   assert (("ev_signal_start called with illegal signal number", w->signum > 0));
1479
1480   ev_start (EV_A_ (W)w, 1);
1481   array_needsize (ANSIG, signals, signalmax, w->signum, signals_init);
1482   wlist_add ((WL *)&signals [w->signum - 1].head, (WL)w);
1483
1484   if (!((WL)w)->next)
1485     {
1486 #if WIN32
1487       signal (w->signum, sighandler);
1488 #else
1489       struct sigaction sa;
1490       sa.sa_handler = sighandler;
1491       sigfillset (&sa.sa_mask);
1492       sa.sa_flags = SA_RESTART; /* if restarting works we save one iteration */
1493       sigaction (w->signum, &sa, 0);
1494 #endif
1495     }
1496 }
1497
1498 void
1499 ev_signal_stop (EV_P_ struct ev_signal *w)
1500 {
1501   ev_clear_pending (EV_A_ (W)w);
1502   if (!ev_is_active (w))
1503     return;
1504
1505   wlist_del ((WL *)&signals [w->signum - 1].head, (WL)w);
1506   ev_stop (EV_A_ (W)w);
1507
1508   if (!signals [w->signum - 1].head)
1509     signal (w->signum, SIG_DFL);
1510 }
1511
1512 void
1513 ev_child_start (EV_P_ struct ev_child *w)
1514 {
1515 #if EV_MULTIPLICITY
1516   assert (("child watchers are only supported in the default loop", loop == default_loop));
1517 #endif
1518   if (ev_is_active (w))
1519     return;
1520
1521   ev_start (EV_A_ (W)w, 1);
1522   wlist_add ((WL *)&childs [w->pid & (PID_HASHSIZE - 1)], (WL)w);
1523 }
1524
1525 void
1526 ev_child_stop (EV_P_ struct ev_child *w)
1527 {
1528   ev_clear_pending (EV_A_ (W)w);
1529   if (ev_is_active (w))
1530     return;
1531
1532   wlist_del ((WL *)&childs [w->pid & (PID_HASHSIZE - 1)], (WL)w);
1533   ev_stop (EV_A_ (W)w);
1534 }
1535
1536 /*****************************************************************************/
1537
1538 struct ev_once
1539 {
1540   struct ev_io io;
1541   struct ev_timer to;
1542   void (*cb)(int revents, void *arg);
1543   void *arg;
1544 };
1545
1546 static void
1547 once_cb (EV_P_ struct ev_once *once, int revents)
1548 {
1549   void (*cb)(int revents, void *arg) = once->cb;
1550   void *arg = once->arg;
1551
1552   ev_io_stop (EV_A_ &once->io);
1553   ev_timer_stop (EV_A_ &once->to);
1554   ev_free (once);
1555
1556   cb (revents, arg);
1557 }
1558
1559 static void
1560 once_cb_io (EV_P_ struct ev_io *w, int revents)
1561 {
1562   once_cb (EV_A_ (struct ev_once *)(((char *)w) - offsetof (struct ev_once, io)), revents);
1563 }
1564
1565 static void
1566 once_cb_to (EV_P_ struct ev_timer *w, int revents)
1567 {
1568   once_cb (EV_A_ (struct ev_once *)(((char *)w) - offsetof (struct ev_once, to)), revents);
1569 }
1570
1571 void
1572 ev_once (EV_P_ int fd, int events, ev_tstamp timeout, void (*cb)(int revents, void *arg), void *arg)
1573 {
1574   struct ev_once *once = (struct ev_once *)ev_malloc (sizeof (struct ev_once));
1575
1576   if (!once)
1577     cb (EV_ERROR | EV_READ | EV_WRITE | EV_TIMEOUT, arg);
1578   else
1579     {
1580       once->cb  = cb;
1581       once->arg = arg;
1582
1583       ev_init (&once->io, once_cb_io);
1584       if (fd >= 0)
1585         {
1586           ev_io_set (&once->io, fd, events);
1587           ev_io_start (EV_A_ &once->io);
1588         }
1589
1590       ev_init (&once->to, once_cb_to);
1591       if (timeout >= 0.)
1592         {
1593           ev_timer_set (&once->to, timeout, 0.);
1594           ev_timer_start (EV_A_ &once->to);
1595         }
1596     }
1597 }
1598