]> git.llucax.com Git - software/libev.git/blob - ev.c
2c341411f0006e487d71153f08097eb87e6219f5
[software/libev.git] / ev.c
1 /*
2  * libev event processing core, watcher management
3  *
4  * Copyright (c) 2007 Marc Alexander Lehmann <libev@schmorp.de>
5  * All rights reserved.
6  *
7  * Redistribution and use in source and binary forms, with or without
8  * modification, are permitted provided that the following conditions are
9  * met:
10  *
11  *     * Redistributions of source code must retain the above copyright
12  *       notice, this list of conditions and the following disclaimer.
13  *
14  *     * Redistributions in binary form must reproduce the above
15  *       copyright notice, this list of conditions and the following
16  *       disclaimer in the documentation and/or other materials provided
17  *       with the distribution.
18  *
19  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
20  * "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
21  * LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
22  * A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT
23  * OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
24  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT
25  * LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
26  * DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
27  * THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
28  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
29  * OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
30  */
31
32 #ifdef __cplusplus
33 extern "C" {
34 #endif
35
36 #ifndef EV_STANDALONE
37 # include "config.h"
38
39 # if HAVE_CLOCK_GETTIME
40 #  ifndef EV_USE_MONOTONIC
41 #   define EV_USE_MONOTONIC 1
42 #  endif
43 #  ifndef EV_USE_REALTIME
44 #   define EV_USE_REALTIME  1
45 #  endif
46 # endif
47
48 # if HAVE_SELECT && HAVE_SYS_SELECT_H && !defined (EV_USE_SELECT)
49 #  define EV_USE_SELECT 1
50 # endif
51
52 # if HAVE_POLL && HAVE_POLL_H && !defined (EV_USE_POLL)
53 #  define EV_USE_POLL 1
54 # endif
55
56 # if HAVE_EPOLL_CTL && HAVE_SYS_EPOLL_H && !defined (EV_USE_EPOLL)
57 #  define EV_USE_EPOLL 1
58 # endif
59
60 # if HAVE_KQUEUE && HAVE_SYS_EVENT_H && HAVE_SYS_QUEUE_H && !defined (EV_USE_KQUEUE)
61 #  define EV_USE_KQUEUE 1
62 # endif
63
64 #endif
65
66 #include <math.h>
67 #include <stdlib.h>
68 #include <fcntl.h>
69 #include <stddef.h>
70
71 #include <stdio.h>
72
73 #include <assert.h>
74 #include <errno.h>
75 #include <sys/types.h>
76 #include <time.h>
77
78 #include <signal.h>
79
80 #ifndef _WIN32
81 # include <unistd.h>
82 # include <sys/time.h>
83 # include <sys/wait.h>
84 #else
85 # define WIN32_LEAN_AND_MEAN
86 # include <windows.h>
87 # ifndef EV_SELECT_IS_WINSOCKET
88 #  define EV_SELECT_IS_WINSOCKET 1
89 # endif
90 #endif
91
92 /**/
93
94 #ifndef EV_USE_MONOTONIC
95 # define EV_USE_MONOTONIC 1
96 #endif
97
98 #ifndef EV_USE_SELECT
99 # define EV_USE_SELECT 1
100 # define EV_SELECT_USE_FD_SET 1
101 #endif
102
103 #ifndef EV_USE_POLL
104 # ifdef _WIN32
105 #  define EV_USE_POLL 0
106 # else
107 #  define EV_USE_POLL 1
108 # endif
109 #endif
110
111 #ifndef EV_USE_EPOLL
112 # define EV_USE_EPOLL 0
113 #endif
114
115 #ifndef EV_USE_KQUEUE
116 # define EV_USE_KQUEUE 0
117 #endif
118
119 #ifndef EV_USE_REALTIME
120 # define EV_USE_REALTIME 1
121 #endif
122
123 /**/
124
125 /* darwin simply cannot be helped */
126 #ifdef __APPLE__
127 # undef EV_USE_POLL
128 # undef EV_USE_KQUEUE
129 #endif
130
131 #ifndef CLOCK_MONOTONIC
132 # undef EV_USE_MONOTONIC
133 # define EV_USE_MONOTONIC 0
134 #endif
135
136 #ifndef CLOCK_REALTIME
137 # undef EV_USE_REALTIME
138 # define EV_USE_REALTIME 0
139 #endif
140
141 #if EV_SELECT_IS_WINSOCKET
142 # include <winsock.h>
143 #endif
144
145 /**/
146
147 #define MIN_TIMEJUMP  1. /* minimum timejump that gets detected (if monotonic clock available) */
148 #define MAX_BLOCKTIME 59.731 /* never wait longer than this time (to detect time jumps) */
149 #define PID_HASHSIZE  16 /* size of pid hash table, must be power of two */
150 /*#define CLEANUP_INTERVAL 300. /* how often to try to free memory and re-check fds */
151
152 #ifdef EV_H
153 # include EV_H
154 #else
155 # include "ev.h"
156 #endif
157
158 #if __GNUC__ >= 3
159 # define expect(expr,value)         __builtin_expect ((expr),(value))
160 # define inline                     inline
161 #else
162 # define expect(expr,value)         (expr)
163 # define inline                     static
164 #endif
165
166 #define expect_false(expr) expect ((expr) != 0, 0)
167 #define expect_true(expr)  expect ((expr) != 0, 1)
168
169 #define NUMPRI    (EV_MAXPRI - EV_MINPRI + 1)
170 #define ABSPRI(w) ((w)->priority - EV_MINPRI)
171
172 #define EMPTY /* required for microsofts broken pseudo-c compiler */
173
174 typedef struct ev_watcher *W;
175 typedef struct ev_watcher_list *WL;
176 typedef struct ev_watcher_time *WT;
177
178 static int have_monotonic; /* did clock_gettime (CLOCK_MONOTONIC) work? */
179
180 #ifdef _WIN32
181 # include "ev_win32.c"
182 #endif
183
184 /*****************************************************************************/
185
186 static void (*syserr_cb)(const char *msg);
187
188 void ev_set_syserr_cb (void (*cb)(const char *msg))
189 {
190   syserr_cb = cb;
191 }
192
193 static void
194 syserr (const char *msg)
195 {
196   if (!msg)
197     msg = "(libev) system error";
198
199   if (syserr_cb)
200     syserr_cb (msg);
201   else
202     {
203       perror (msg);
204       abort ();
205     }
206 }
207
208 static void *(*alloc)(void *ptr, long size);
209
210 void ev_set_allocator (void *(*cb)(void *ptr, long size))
211 {
212   alloc = cb;
213 }
214
215 static void *
216 ev_realloc (void *ptr, long size)
217 {
218   ptr = alloc ? alloc (ptr, size) : realloc (ptr, size);
219
220   if (!ptr && size)
221     {
222       fprintf (stderr, "libev: cannot allocate %ld bytes, aborting.", size);
223       abort ();
224     }
225
226   return ptr;
227 }
228
229 #define ev_malloc(size) ev_realloc (0, (size))
230 #define ev_free(ptr)    ev_realloc ((ptr), 0)
231
232 /*****************************************************************************/
233
234 typedef struct
235 {
236   WL head;
237   unsigned char events;
238   unsigned char reify;
239 #if EV_SELECT_IS_WINSOCKET
240   SOCKET handle;
241 #endif
242 } ANFD;
243
244 typedef struct
245 {
246   W w;
247   int events;
248 } ANPENDING;
249
250 #if EV_MULTIPLICITY
251
252   struct ev_loop
253   {
254     ev_tstamp ev_rt_now;
255     #define ev_rt_now ((loop)->ev_rt_now)
256     #define VAR(name,decl) decl;
257       #include "ev_vars.h"
258     #undef VAR
259   };
260   #include "ev_wrap.h"
261
262   struct ev_loop default_loop_struct;
263   static struct ev_loop *default_loop;
264
265 #else
266
267   ev_tstamp ev_rt_now;
268   #define VAR(name,decl) static decl;
269     #include "ev_vars.h"
270   #undef VAR
271
272   static int default_loop;
273
274 #endif
275
276 /*****************************************************************************/
277
278 ev_tstamp
279 ev_time (void)
280 {
281 #if EV_USE_REALTIME
282   struct timespec ts;
283   clock_gettime (CLOCK_REALTIME, &ts);
284   return ts.tv_sec + ts.tv_nsec * 1e-9;
285 #else
286   struct timeval tv;
287   gettimeofday (&tv, 0);
288   return tv.tv_sec + tv.tv_usec * 1e-6;
289 #endif
290 }
291
292 inline ev_tstamp
293 get_clock (void)
294 {
295 #if EV_USE_MONOTONIC
296   if (expect_true (have_monotonic))
297     {
298       struct timespec ts;
299       clock_gettime (CLOCK_MONOTONIC, &ts);
300       return ts.tv_sec + ts.tv_nsec * 1e-9;
301     }
302 #endif
303
304   return ev_time ();
305 }
306
307 #if EV_MULTIPLICITY
308 ev_tstamp
309 ev_now (EV_P)
310 {
311   return ev_rt_now;
312 }
313 #endif
314
315 #define array_roundsize(type,n) (((n) | 4) & ~3)
316
317 #define array_needsize(type,base,cur,cnt,init)                  \
318   if (expect_false ((cnt) > cur))                               \
319     {                                                           \
320       int newcnt = cur;                                         \
321       do                                                        \
322         {                                                       \
323           newcnt = array_roundsize (type, newcnt << 1);         \
324         }                                                       \
325       while ((cnt) > newcnt);                                   \
326                                                                 \
327       base = (type *)ev_realloc (base, sizeof (type) * (newcnt));\
328       init (base + cur, newcnt - cur);                          \
329       cur = newcnt;                                             \
330     }
331
332 #define array_slim(type,stem)                                   \
333   if (stem ## max < array_roundsize (stem ## cnt >> 2))         \
334     {                                                           \
335       stem ## max = array_roundsize (stem ## cnt >> 1);         \
336       base = (type *)ev_realloc (base, sizeof (type) * (stem ## max));\
337       fprintf (stderr, "slimmed down " # stem " to %d\n", stem ## max);/*D*/\
338     }
339
340 #define array_free(stem, idx) \
341   ev_free (stem ## s idx); stem ## cnt idx = stem ## max idx = 0;
342
343 /*****************************************************************************/
344
345 static void
346 anfds_init (ANFD *base, int count)
347 {
348   while (count--)
349     {
350       base->head   = 0;
351       base->events = EV_NONE;
352       base->reify  = 0;
353
354       ++base;
355     }
356 }
357
358 void
359 ev_feed_event (EV_P_ void *w, int revents)
360 {
361   W w_ = (W)w;
362
363   if (w_->pending)
364     {
365       pendings [ABSPRI (w_)][w_->pending - 1].events |= revents;
366       return;
367     }
368
369   w_->pending = ++pendingcnt [ABSPRI (w_)];
370   array_needsize (ANPENDING, pendings [ABSPRI (w_)], pendingmax [ABSPRI (w_)], pendingcnt [ABSPRI (w_)], (void));
371   pendings [ABSPRI (w_)][w_->pending - 1].w      = w_;
372   pendings [ABSPRI (w_)][w_->pending - 1].events = revents;
373 }
374
375 static void
376 queue_events (EV_P_ W *events, int eventcnt, int type)
377 {
378   int i;
379
380   for (i = 0; i < eventcnt; ++i)
381     ev_feed_event (EV_A_ events [i], type);
382 }
383
384 inline void
385 fd_event (EV_P_ int fd, int revents)
386 {
387   ANFD *anfd = anfds + fd;
388   struct ev_io *w;
389
390   for (w = (struct ev_io *)anfd->head; w; w = (struct ev_io *)((WL)w)->next)
391     {
392       int ev = w->events & revents;
393
394       if (ev)
395         ev_feed_event (EV_A_ (W)w, ev);
396     }
397 }
398
399 void
400 ev_feed_fd_event (EV_P_ int fd, int revents)
401 {
402   fd_event (EV_A_ fd, revents);
403 }
404
405 /*****************************************************************************/
406
407 static void
408 fd_reify (EV_P)
409 {
410   int i;
411
412   for (i = 0; i < fdchangecnt; ++i)
413     {
414       int fd = fdchanges [i];
415       ANFD *anfd = anfds + fd;
416       struct ev_io *w;
417
418       int events = 0;
419
420       for (w = (struct ev_io *)anfd->head; w; w = (struct ev_io *)((WL)w)->next)
421         events |= w->events;
422
423 #if EV_SELECT_IS_WINSOCKET
424       if (events)
425         {
426           unsigned long argp;
427           anfd->handle = _get_osfhandle (fd);
428           assert (("libev only supports socket fds in this configuration", ioctlsocket (anfd->handle, FIONREAD, &argp) == 0));
429         }
430 #endif
431
432       anfd->reify = 0;
433
434       method_modify (EV_A_ fd, anfd->events, events);
435       anfd->events = events;
436     }
437
438   fdchangecnt = 0;
439 }
440
441 static void
442 fd_change (EV_P_ int fd)
443 {
444   if (anfds [fd].reify)
445     return;
446
447   anfds [fd].reify = 1;
448
449   ++fdchangecnt;
450   array_needsize (int, fdchanges, fdchangemax, fdchangecnt, (void));
451   fdchanges [fdchangecnt - 1] = fd;
452 }
453
454 static void
455 fd_kill (EV_P_ int fd)
456 {
457   struct ev_io *w;
458
459   while ((w = (struct ev_io *)anfds [fd].head))
460     {
461       ev_io_stop (EV_A_ w);
462       ev_feed_event (EV_A_ (W)w, EV_ERROR | EV_READ | EV_WRITE);
463     }
464 }
465
466 static int
467 fd_valid (int fd)
468 {
469 #ifdef _WIN32
470   return _get_osfhandle (fd) != -1;
471 #else
472   return fcntl (fd, F_GETFD) != -1;
473 #endif
474 }
475
476 /* called on EBADF to verify fds */
477 static void
478 fd_ebadf (EV_P)
479 {
480   int fd;
481
482   for (fd = 0; fd < anfdmax; ++fd)
483     if (anfds [fd].events)
484       if (!fd_valid (fd) == -1 && errno == EBADF)
485         fd_kill (EV_A_ fd);
486 }
487
488 /* called on ENOMEM in select/poll to kill some fds and retry */
489 static void
490 fd_enomem (EV_P)
491 {
492   int fd;
493
494   for (fd = anfdmax; fd--; )
495     if (anfds [fd].events)
496       {
497         fd_kill (EV_A_ fd);
498         return;
499       }
500 }
501
502 /* usually called after fork if method needs to re-arm all fds from scratch */
503 static void
504 fd_rearm_all (EV_P)
505 {
506   int fd;
507
508   /* this should be highly optimised to not do anything but set a flag */
509   for (fd = 0; fd < anfdmax; ++fd)
510     if (anfds [fd].events)
511       {
512         anfds [fd].events = 0;
513         fd_change (EV_A_ fd);
514       }
515 }
516
517 /*****************************************************************************/
518
519 static void
520 upheap (WT *heap, int k)
521 {
522   WT w = heap [k];
523
524   while (k && heap [k >> 1]->at > w->at)
525     {
526       heap [k] = heap [k >> 1];
527       ((W)heap [k])->active = k + 1;
528       k >>= 1;
529     }
530
531   heap [k] = w;
532   ((W)heap [k])->active = k + 1;
533
534 }
535
536 static void
537 downheap (WT *heap, int N, int k)
538 {
539   WT w = heap [k];
540
541   while (k < (N >> 1))
542     {
543       int j = k << 1;
544
545       if (j + 1 < N && heap [j]->at > heap [j + 1]->at)
546         ++j;
547
548       if (w->at <= heap [j]->at)
549         break;
550
551       heap [k] = heap [j];
552       ((W)heap [k])->active = k + 1;
553       k = j;
554     }
555
556   heap [k] = w;
557   ((W)heap [k])->active = k + 1;
558 }
559
560 inline void
561 adjustheap (WT *heap, int N, int k)
562 {
563   upheap (heap, k);
564   downheap (heap, N, k);
565 }
566
567 /*****************************************************************************/
568
569 typedef struct
570 {
571   WL head;
572   sig_atomic_t volatile gotsig;
573 } ANSIG;
574
575 static ANSIG *signals;
576 static int signalmax;
577
578 static int sigpipe [2];
579 static sig_atomic_t volatile gotsig;
580 static struct ev_io sigev;
581
582 static void
583 signals_init (ANSIG *base, int count)
584 {
585   while (count--)
586     {
587       base->head   = 0;
588       base->gotsig = 0;
589
590       ++base;
591     }
592 }
593
594 static void
595 sighandler (int signum)
596 {
597 #if _WIN32
598   signal (signum, sighandler);
599 #endif
600
601   signals [signum - 1].gotsig = 1;
602
603   if (!gotsig)
604     {
605       int old_errno = errno;
606       gotsig = 1;
607       write (sigpipe [1], &signum, 1);
608       errno = old_errno;
609     }
610 }
611
612 void
613 ev_feed_signal_event (EV_P_ int signum)
614 {
615   WL w;
616
617 #if EV_MULTIPLICITY
618   assert (("feeding signal events is only supported in the default loop", loop == default_loop));
619 #endif
620
621   --signum;
622
623   if (signum < 0 || signum >= signalmax)
624     return;
625
626   signals [signum].gotsig = 0;
627
628   for (w = signals [signum].head; w; w = w->next)
629     ev_feed_event (EV_A_ (W)w, EV_SIGNAL);
630 }
631
632 static void
633 sigcb (EV_P_ struct ev_io *iow, int revents)
634 {
635   int signum;
636
637   read (sigpipe [0], &revents, 1);
638   gotsig = 0;
639
640   for (signum = signalmax; signum--; )
641     if (signals [signum].gotsig)
642       ev_feed_signal_event (EV_A_ signum + 1);
643 }
644
645 inline void
646 fd_intern (int fd)
647 {
648 #ifdef _WIN32
649   int arg = 1;
650   ioctlsocket (_get_osfhandle (fd), FIONBIO, &arg);
651 #else
652   fcntl (fd, F_SETFD, FD_CLOEXEC);
653   fcntl (fd, F_SETFL, O_NONBLOCK);
654 #endif
655 }
656
657 static void
658 siginit (EV_P)
659 {
660   fd_intern (sigpipe [0]);
661   fd_intern (sigpipe [1]);
662
663   ev_io_set (&sigev, sigpipe [0], EV_READ);
664   ev_io_start (EV_A_ &sigev);
665   ev_unref (EV_A); /* child watcher should not keep loop alive */
666 }
667
668 /*****************************************************************************/
669
670 static struct ev_child *childs [PID_HASHSIZE];
671
672 #ifndef _WIN32
673
674 static struct ev_signal childev;
675
676 #ifndef WCONTINUED
677 # define WCONTINUED 0
678 #endif
679
680 static void
681 child_reap (EV_P_ struct ev_signal *sw, int chain, int pid, int status)
682 {
683   struct ev_child *w;
684
685   for (w = (struct ev_child *)childs [chain & (PID_HASHSIZE - 1)]; w; w = (struct ev_child *)((WL)w)->next)
686     if (w->pid == pid || !w->pid)
687       {
688         ev_priority (w) = ev_priority (sw); /* need to do it *now* */
689         w->rpid         = pid;
690         w->rstatus      = status;
691         ev_feed_event (EV_A_ (W)w, EV_CHILD);
692       }
693 }
694
695 static void
696 childcb (EV_P_ struct ev_signal *sw, int revents)
697 {
698   int pid, status;
699
700   if (0 < (pid = waitpid (-1, &status, WNOHANG | WUNTRACED | WCONTINUED)))
701     {
702       /* make sure we are called again until all childs have been reaped */
703       ev_feed_event (EV_A_ (W)sw, EV_SIGNAL);
704
705       child_reap (EV_A_ sw, pid, pid, status);
706       child_reap (EV_A_ sw,   0, pid, status); /* this might trigger a watcher twice, but event catches that */
707     }
708 }
709
710 #endif
711
712 /*****************************************************************************/
713
714 #if EV_USE_KQUEUE
715 # include "ev_kqueue.c"
716 #endif
717 #if EV_USE_EPOLL
718 # include "ev_epoll.c"
719 #endif
720 #if EV_USE_POLL
721 # include "ev_poll.c"
722 #endif
723 #if EV_USE_SELECT
724 # include "ev_select.c"
725 #endif
726
727 int
728 ev_version_major (void)
729 {
730   return EV_VERSION_MAJOR;
731 }
732
733 int
734 ev_version_minor (void)
735 {
736   return EV_VERSION_MINOR;
737 }
738
739 /* return true if we are running with elevated privileges and should ignore env variables */
740 static int
741 enable_secure (void)
742 {
743 #ifdef _WIN32
744   return 0;
745 #else
746   return getuid () != geteuid ()
747       || getgid () != getegid ();
748 #endif
749 }
750
751 unsigned int
752 ev_method (EV_P)
753 {
754   return method;
755 }
756
757 static void
758 loop_init (EV_P_ unsigned int flags)
759 {
760   if (!method)
761     {
762 #if EV_USE_MONOTONIC
763       {
764         struct timespec ts;
765         if (!clock_gettime (CLOCK_MONOTONIC, &ts))
766           have_monotonic = 1;
767       }
768 #endif
769
770       ev_rt_now = ev_time ();
771       mn_now    = get_clock ();
772       now_floor = mn_now;
773       rtmn_diff = ev_rt_now - mn_now;
774
775       if (!(flags & EVFLAG_NOENV) && !enable_secure () && getenv ("LIBEV_FLAGS"))
776         flags = atoi (getenv ("LIBEV_FLAGS"));
777
778       if (!(flags & 0x0000ffff))
779         flags |= 0x0000ffff;
780
781       method = 0;
782 #if EV_USE_KQUEUE
783       if (!method && (flags & EVMETHOD_KQUEUE)) method = kqueue_init (EV_A_ flags);
784 #endif
785 #if EV_USE_EPOLL
786       if (!method && (flags & EVMETHOD_EPOLL )) method = epoll_init  (EV_A_ flags);
787 #endif
788 #if EV_USE_POLL
789       if (!method && (flags & EVMETHOD_POLL  )) method = poll_init   (EV_A_ flags);
790 #endif
791 #if EV_USE_SELECT
792       if (!method && (flags & EVMETHOD_SELECT)) method = select_init (EV_A_ flags);
793 #endif
794
795       ev_init (&sigev, sigcb);
796       ev_set_priority (&sigev, EV_MAXPRI);
797     }
798 }
799
800 void
801 loop_destroy (EV_P)
802 {
803   int i;
804
805 #if EV_USE_KQUEUE
806   if (method == EVMETHOD_KQUEUE) kqueue_destroy (EV_A);
807 #endif
808 #if EV_USE_EPOLL
809   if (method == EVMETHOD_EPOLL ) epoll_destroy  (EV_A);
810 #endif
811 #if EV_USE_POLL
812   if (method == EVMETHOD_POLL  ) poll_destroy   (EV_A);
813 #endif
814 #if EV_USE_SELECT
815   if (method == EVMETHOD_SELECT) select_destroy (EV_A);
816 #endif
817
818   for (i = NUMPRI; i--; )
819     array_free (pending, [i]);
820
821   /* have to use the microsoft-never-gets-it-right macro */
822   array_free (fdchange, EMPTY);
823   array_free (timer, EMPTY);
824 #if EV_PERIODICS
825   array_free (periodic, EMPTY);
826 #endif
827   array_free (idle, EMPTY);
828   array_free (prepare, EMPTY);
829   array_free (check, EMPTY);
830
831   method = 0;
832 }
833
834 static void
835 loop_fork (EV_P)
836 {
837 #if EV_USE_EPOLL
838   if (method == EVMETHOD_EPOLL ) epoll_fork  (EV_A);
839 #endif
840 #if EV_USE_KQUEUE
841   if (method == EVMETHOD_KQUEUE) kqueue_fork (EV_A);
842 #endif
843
844   if (ev_is_active (&sigev))
845     {
846       /* default loop */
847
848       ev_ref (EV_A);
849       ev_io_stop (EV_A_ &sigev);
850       close (sigpipe [0]);
851       close (sigpipe [1]);
852
853       while (pipe (sigpipe))
854         syserr ("(libev) error creating pipe");
855
856       siginit (EV_A);
857     }
858
859   postfork = 0;
860 }
861
862 #if EV_MULTIPLICITY
863 struct ev_loop *
864 ev_loop_new (unsigned int flags)
865 {
866   struct ev_loop *loop = (struct ev_loop *)ev_malloc (sizeof (struct ev_loop));
867
868   memset (loop, 0, sizeof (struct ev_loop));
869
870   loop_init (EV_A_ flags);
871
872   if (ev_method (EV_A))
873     return loop;
874
875   return 0;
876 }
877
878 void
879 ev_loop_destroy (EV_P)
880 {
881   loop_destroy (EV_A);
882   ev_free (loop);
883 }
884
885 void
886 ev_loop_fork (EV_P)
887 {
888   postfork = 1;
889 }
890
891 #endif
892
893 #if EV_MULTIPLICITY
894 struct ev_loop *
895 #else
896 int
897 #endif
898 ev_default_loop (unsigned int flags)
899 {
900   if (sigpipe [0] == sigpipe [1])
901     if (pipe (sigpipe))
902       return 0;
903
904   if (!default_loop)
905     {
906 #if EV_MULTIPLICITY
907       struct ev_loop *loop = default_loop = &default_loop_struct;
908 #else
909       default_loop = 1;
910 #endif
911
912       loop_init (EV_A_ flags);
913
914       if (ev_method (EV_A))
915         {
916           siginit (EV_A);
917
918 #ifndef _WIN32
919           ev_signal_init (&childev, childcb, SIGCHLD);
920           ev_set_priority (&childev, EV_MAXPRI);
921           ev_signal_start (EV_A_ &childev);
922           ev_unref (EV_A); /* child watcher should not keep loop alive */
923 #endif
924         }
925       else
926         default_loop = 0;
927     }
928
929   return default_loop;
930 }
931
932 void
933 ev_default_destroy (void)
934 {
935 #if EV_MULTIPLICITY
936   struct ev_loop *loop = default_loop;
937 #endif
938
939 #ifndef _WIN32
940   ev_ref (EV_A); /* child watcher */
941   ev_signal_stop (EV_A_ &childev);
942 #endif
943
944   ev_ref (EV_A); /* signal watcher */
945   ev_io_stop (EV_A_ &sigev);
946
947   close (sigpipe [0]); sigpipe [0] = 0;
948   close (sigpipe [1]); sigpipe [1] = 0;
949
950   loop_destroy (EV_A);
951 }
952
953 void
954 ev_default_fork (void)
955 {
956 #if EV_MULTIPLICITY
957   struct ev_loop *loop = default_loop;
958 #endif
959
960   if (method)
961     postfork = 1;
962 }
963
964 /*****************************************************************************/
965
966 static int
967 any_pending (EV_P)
968 {
969   int pri;
970
971   for (pri = NUMPRI; pri--; )
972     if (pendingcnt [pri])
973       return 1;
974
975   return 0;
976 }
977
978 static void
979 call_pending (EV_P)
980 {
981   int pri;
982
983   for (pri = NUMPRI; pri--; )
984     while (pendingcnt [pri])
985       {
986         ANPENDING *p = pendings [pri] + --pendingcnt [pri];
987
988         if (p->w)
989           {
990             p->w->pending = 0;
991             EV_CB_INVOKE (p->w, p->events);
992           }
993       }
994 }
995
996 static void
997 timers_reify (EV_P)
998 {
999   while (timercnt && ((WT)timers [0])->at <= mn_now)
1000     {
1001       struct ev_timer *w = timers [0];
1002
1003       assert (("inactive timer on timer heap detected", ev_is_active (w)));
1004
1005       /* first reschedule or stop timer */
1006       if (w->repeat)
1007         {
1008           assert (("negative ev_timer repeat value found while processing timers", w->repeat > 0.));
1009
1010           ((WT)w)->at += w->repeat;
1011           if (((WT)w)->at < mn_now)
1012             ((WT)w)->at = mn_now;
1013
1014           downheap ((WT *)timers, timercnt, 0);
1015         }
1016       else
1017         ev_timer_stop (EV_A_ w); /* nonrepeating: stop timer */
1018
1019       ev_feed_event (EV_A_ (W)w, EV_TIMEOUT);
1020     }
1021 }
1022
1023 #if EV_PERIODICS
1024 static void
1025 periodics_reify (EV_P)
1026 {
1027   while (periodiccnt && ((WT)periodics [0])->at <= ev_rt_now)
1028     {
1029       struct ev_periodic *w = periodics [0];
1030
1031       assert (("inactive timer on periodic heap detected", ev_is_active (w)));
1032
1033       /* first reschedule or stop timer */
1034       if (w->reschedule_cb)
1035         {
1036           ((WT)w)->at = w->reschedule_cb (w, ev_rt_now + 0.0001);
1037           assert (("ev_periodic reschedule callback returned time in the past", ((WT)w)->at > ev_rt_now));
1038           downheap ((WT *)periodics, periodiccnt, 0);
1039         }
1040       else if (w->interval)
1041         {
1042           ((WT)w)->at += floor ((ev_rt_now - ((WT)w)->at) / w->interval + 1.) * w->interval;
1043           assert (("ev_periodic timeout in the past detected while processing timers, negative interval?", ((WT)w)->at > ev_rt_now));
1044           downheap ((WT *)periodics, periodiccnt, 0);
1045         }
1046       else
1047         ev_periodic_stop (EV_A_ w); /* nonrepeating: stop timer */
1048
1049       ev_feed_event (EV_A_ (W)w, EV_PERIODIC);
1050     }
1051 }
1052
1053 static void
1054 periodics_reschedule (EV_P)
1055 {
1056   int i;
1057
1058   /* adjust periodics after time jump */
1059   for (i = 0; i < periodiccnt; ++i)
1060     {
1061       struct ev_periodic *w = periodics [i];
1062
1063       if (w->reschedule_cb)
1064         ((WT)w)->at = w->reschedule_cb (w, ev_rt_now);
1065       else if (w->interval)
1066         ((WT)w)->at += ceil ((ev_rt_now - ((WT)w)->at) / w->interval) * w->interval;
1067     }
1068
1069   /* now rebuild the heap */
1070   for (i = periodiccnt >> 1; i--; )
1071     downheap ((WT *)periodics, periodiccnt, i);
1072 }
1073 #endif
1074
1075 inline int
1076 time_update_monotonic (EV_P)
1077 {
1078   mn_now = get_clock ();
1079
1080   if (expect_true (mn_now - now_floor < MIN_TIMEJUMP * .5))
1081     {
1082       ev_rt_now = rtmn_diff + mn_now;
1083       return 0;
1084     }
1085   else
1086     {
1087       now_floor = mn_now;
1088       ev_rt_now = ev_time ();
1089       return 1;
1090     }
1091 }
1092
1093 static void
1094 time_update (EV_P)
1095 {
1096   int i;
1097
1098 #if EV_USE_MONOTONIC
1099   if (expect_true (have_monotonic))
1100     {
1101       if (time_update_monotonic (EV_A))
1102         {
1103           ev_tstamp odiff = rtmn_diff;
1104
1105           for (i = 4; --i; ) /* loop a few times, before making important decisions */
1106             {
1107               rtmn_diff = ev_rt_now - mn_now;
1108
1109               if (fabs (odiff - rtmn_diff) < MIN_TIMEJUMP)
1110                 return; /* all is well */
1111
1112               ev_rt_now = ev_time ();
1113               mn_now    = get_clock ();
1114               now_floor = mn_now;
1115             }
1116
1117 # if EV_PERIODICS
1118           periodics_reschedule (EV_A);
1119 # endif
1120           /* no timer adjustment, as the monotonic clock doesn't jump */
1121           /* timers_reschedule (EV_A_ rtmn_diff - odiff) */
1122         }
1123     }
1124   else
1125 #endif
1126     {
1127       ev_rt_now = ev_time ();
1128
1129       if (expect_false (mn_now > ev_rt_now || mn_now < ev_rt_now - MAX_BLOCKTIME - MIN_TIMEJUMP))
1130         {
1131 #if EV_PERIODICS
1132           periodics_reschedule (EV_A);
1133 #endif
1134
1135           /* adjust timers. this is easy, as the offset is the same for all */
1136           for (i = 0; i < timercnt; ++i)
1137             ((WT)timers [i])->at += ev_rt_now - mn_now;
1138         }
1139
1140       mn_now = ev_rt_now;
1141     }
1142 }
1143
1144 void
1145 ev_ref (EV_P)
1146 {
1147   ++activecnt;
1148 }
1149
1150 void
1151 ev_unref (EV_P)
1152 {
1153   --activecnt;
1154 }
1155
1156 static int loop_done;
1157
1158 void
1159 ev_loop (EV_P_ int flags)
1160 {
1161   double block;
1162   loop_done = flags & (EVLOOP_ONESHOT | EVLOOP_NONBLOCK) ? 1 : 0;
1163
1164   do
1165     {
1166       /* queue check watchers (and execute them) */
1167       if (expect_false (preparecnt))
1168         {
1169           queue_events (EV_A_ (W *)prepares, preparecnt, EV_PREPARE);
1170           call_pending (EV_A);
1171         }
1172
1173       /* we might have forked, so reify kernel state if necessary */
1174       if (expect_false (postfork))
1175         loop_fork (EV_A);
1176
1177       /* update fd-related kernel structures */
1178       fd_reify (EV_A);
1179
1180       /* calculate blocking time */
1181
1182       /* we only need this for !monotonic clock or timers, but as we basically
1183          always have timers, we just calculate it always */
1184 #if EV_USE_MONOTONIC
1185       if (expect_true (have_monotonic))
1186         time_update_monotonic (EV_A);
1187       else
1188 #endif
1189         {
1190           ev_rt_now = ev_time ();
1191           mn_now    = ev_rt_now;
1192         }
1193
1194       if (flags & EVLOOP_NONBLOCK || idlecnt)
1195         block = 0.;
1196       else
1197         {
1198           block = MAX_BLOCKTIME;
1199
1200           if (timercnt)
1201             {
1202               ev_tstamp to = ((WT)timers [0])->at - mn_now + method_fudge;
1203               if (block > to) block = to;
1204             }
1205
1206 #if EV_PERIODICS
1207           if (periodiccnt)
1208             {
1209               ev_tstamp to = ((WT)periodics [0])->at - ev_rt_now + method_fudge;
1210               if (block > to) block = to;
1211             }
1212 #endif
1213
1214           if (block < 0.) block = 0.;
1215         }
1216
1217       method_poll (EV_A_ block);
1218
1219       /* update ev_rt_now, do magic */
1220       time_update (EV_A);
1221
1222       /* queue pending timers and reschedule them */
1223       timers_reify (EV_A); /* relative timers called last */
1224 #if EV_PERIODICS
1225       periodics_reify (EV_A); /* absolute timers called first */
1226 #endif
1227
1228       /* queue idle watchers unless io or timers are pending */
1229       if (idlecnt && !any_pending (EV_A))
1230         queue_events (EV_A_ (W *)idles, idlecnt, EV_IDLE);
1231
1232       /* queue check watchers, to be executed first */
1233       if (checkcnt)
1234         queue_events (EV_A_ (W *)checks, checkcnt, EV_CHECK);
1235
1236       call_pending (EV_A);
1237     }
1238   while (activecnt && !loop_done);
1239
1240   if (loop_done != 2)
1241     loop_done = 0;
1242 }
1243
1244 void
1245 ev_unloop (EV_P_ int how)
1246 {
1247   loop_done = how;
1248 }
1249
1250 /*****************************************************************************/
1251
1252 inline void
1253 wlist_add (WL *head, WL elem)
1254 {
1255   elem->next = *head;
1256   *head = elem;
1257 }
1258
1259 inline void
1260 wlist_del (WL *head, WL elem)
1261 {
1262   while (*head)
1263     {
1264       if (*head == elem)
1265         {
1266           *head = elem->next;
1267           return;
1268         }
1269
1270       head = &(*head)->next;
1271     }
1272 }
1273
1274 inline void
1275 ev_clear_pending (EV_P_ W w)
1276 {
1277   if (w->pending)
1278     {
1279       pendings [ABSPRI (w)][w->pending - 1].w = 0;
1280       w->pending = 0;
1281     }
1282 }
1283
1284 inline void
1285 ev_start (EV_P_ W w, int active)
1286 {
1287   if (w->priority < EV_MINPRI) w->priority = EV_MINPRI;
1288   if (w->priority > EV_MAXPRI) w->priority = EV_MAXPRI;
1289
1290   w->active = active;
1291   ev_ref (EV_A);
1292 }
1293
1294 inline void
1295 ev_stop (EV_P_ W w)
1296 {
1297   ev_unref (EV_A);
1298   w->active = 0;
1299 }
1300
1301 /*****************************************************************************/
1302
1303 void
1304 ev_io_start (EV_P_ struct ev_io *w)
1305 {
1306   int fd = w->fd;
1307
1308   if (ev_is_active (w))
1309     return;
1310
1311   assert (("ev_io_start called with negative fd", fd >= 0));
1312
1313   ev_start (EV_A_ (W)w, 1);
1314   array_needsize (ANFD, anfds, anfdmax, fd + 1, anfds_init);
1315   wlist_add ((WL *)&anfds[fd].head, (WL)w);
1316
1317   fd_change (EV_A_ fd);
1318 }
1319
1320 void
1321 ev_io_stop (EV_P_ struct ev_io *w)
1322 {
1323   ev_clear_pending (EV_A_ (W)w);
1324   if (!ev_is_active (w))
1325     return;
1326
1327   assert (("ev_io_start called with illegal fd (must stay constant after start!)", w->fd >= 0 && w->fd < anfdmax));
1328
1329   wlist_del ((WL *)&anfds[w->fd].head, (WL)w);
1330   ev_stop (EV_A_ (W)w);
1331
1332   fd_change (EV_A_ w->fd);
1333 }
1334
1335 void
1336 ev_timer_start (EV_P_ struct ev_timer *w)
1337 {
1338   if (ev_is_active (w))
1339     return;
1340
1341   ((WT)w)->at += mn_now;
1342
1343   assert (("ev_timer_start called with negative timer repeat value", w->repeat >= 0.));
1344
1345   ev_start (EV_A_ (W)w, ++timercnt);
1346   array_needsize (struct ev_timer *, timers, timermax, timercnt, (void));
1347   timers [timercnt - 1] = w;
1348   upheap ((WT *)timers, timercnt - 1);
1349
1350   assert (("internal timer heap corruption", timers [((W)w)->active - 1] == w));
1351 }
1352
1353 void
1354 ev_timer_stop (EV_P_ struct ev_timer *w)
1355 {
1356   ev_clear_pending (EV_A_ (W)w);
1357   if (!ev_is_active (w))
1358     return;
1359
1360   assert (("internal timer heap corruption", timers [((W)w)->active - 1] == w));
1361
1362   if (((W)w)->active < timercnt--)
1363     {
1364       timers [((W)w)->active - 1] = timers [timercnt];
1365       adjustheap ((WT *)timers, timercnt, ((W)w)->active - 1);
1366     }
1367
1368   ((WT)w)->at -= mn_now;
1369
1370   ev_stop (EV_A_ (W)w);
1371 }
1372
1373 void
1374 ev_timer_again (EV_P_ struct ev_timer *w)
1375 {
1376   if (ev_is_active (w))
1377     {
1378       if (w->repeat)
1379         {
1380           ((WT)w)->at = mn_now + w->repeat;
1381           adjustheap ((WT *)timers, timercnt, ((W)w)->active - 1);
1382         }
1383       else
1384         ev_timer_stop (EV_A_ w);
1385     }
1386   else if (w->repeat)
1387     {
1388       w->at = w->repeat;
1389       ev_timer_start (EV_A_ w);
1390     }
1391 }
1392
1393 #if EV_PERIODICS
1394 void
1395 ev_periodic_start (EV_P_ struct ev_periodic *w)
1396 {
1397   if (ev_is_active (w))
1398     return;
1399
1400   if (w->reschedule_cb)
1401     ((WT)w)->at = w->reschedule_cb (w, ev_rt_now);
1402   else if (w->interval)
1403     {
1404       assert (("ev_periodic_start called with negative interval value", w->interval >= 0.));
1405       /* this formula differs from the one in periodic_reify because we do not always round up */
1406       ((WT)w)->at += ceil ((ev_rt_now - ((WT)w)->at) / w->interval) * w->interval;
1407     }
1408
1409   ev_start (EV_A_ (W)w, ++periodiccnt);
1410   array_needsize (struct ev_periodic *, periodics, periodicmax, periodiccnt, (void));
1411   periodics [periodiccnt - 1] = w;
1412   upheap ((WT *)periodics, periodiccnt - 1);
1413
1414   assert (("internal periodic heap corruption", periodics [((W)w)->active - 1] == w));
1415 }
1416
1417 void
1418 ev_periodic_stop (EV_P_ struct ev_periodic *w)
1419 {
1420   ev_clear_pending (EV_A_ (W)w);
1421   if (!ev_is_active (w))
1422     return;
1423
1424   assert (("internal periodic heap corruption", periodics [((W)w)->active - 1] == w));
1425
1426   if (((W)w)->active < periodiccnt--)
1427     {
1428       periodics [((W)w)->active - 1] = periodics [periodiccnt];
1429       adjustheap ((WT *)periodics, periodiccnt, ((W)w)->active - 1);
1430     }
1431
1432   ev_stop (EV_A_ (W)w);
1433 }
1434
1435 void
1436 ev_periodic_again (EV_P_ struct ev_periodic *w)
1437 {
1438   /* TODO: use adjustheap and recalculation */
1439   ev_periodic_stop (EV_A_ w);
1440   ev_periodic_start (EV_A_ w);
1441 }
1442 #endif
1443
1444 void
1445 ev_idle_start (EV_P_ struct ev_idle *w)
1446 {
1447   if (ev_is_active (w))
1448     return;
1449
1450   ev_start (EV_A_ (W)w, ++idlecnt);
1451   array_needsize (struct ev_idle *, idles, idlemax, idlecnt, (void));
1452   idles [idlecnt - 1] = w;
1453 }
1454
1455 void
1456 ev_idle_stop (EV_P_ struct ev_idle *w)
1457 {
1458   ev_clear_pending (EV_A_ (W)w);
1459   if (!ev_is_active (w))
1460     return;
1461
1462   idles [((W)w)->active - 1] = idles [--idlecnt];
1463   ev_stop (EV_A_ (W)w);
1464 }
1465
1466 void
1467 ev_prepare_start (EV_P_ struct ev_prepare *w)
1468 {
1469   if (ev_is_active (w))
1470     return;
1471
1472   ev_start (EV_A_ (W)w, ++preparecnt);
1473   array_needsize (struct ev_prepare *, prepares, preparemax, preparecnt, (void));
1474   prepares [preparecnt - 1] = w;
1475 }
1476
1477 void
1478 ev_prepare_stop (EV_P_ struct ev_prepare *w)
1479 {
1480   ev_clear_pending (EV_A_ (W)w);
1481   if (!ev_is_active (w))
1482     return;
1483
1484   prepares [((W)w)->active - 1] = prepares [--preparecnt];
1485   ev_stop (EV_A_ (W)w);
1486 }
1487
1488 void
1489 ev_check_start (EV_P_ struct ev_check *w)
1490 {
1491   if (ev_is_active (w))
1492     return;
1493
1494   ev_start (EV_A_ (W)w, ++checkcnt);
1495   array_needsize (struct ev_check *, checks, checkmax, checkcnt, (void));
1496   checks [checkcnt - 1] = w;
1497 }
1498
1499 void
1500 ev_check_stop (EV_P_ struct ev_check *w)
1501 {
1502   ev_clear_pending (EV_A_ (W)w);
1503   if (!ev_is_active (w))
1504     return;
1505
1506   checks [((W)w)->active - 1] = checks [--checkcnt];
1507   ev_stop (EV_A_ (W)w);
1508 }
1509
1510 #ifndef SA_RESTART
1511 # define SA_RESTART 0
1512 #endif
1513
1514 void
1515 ev_signal_start (EV_P_ struct ev_signal *w)
1516 {
1517 #if EV_MULTIPLICITY
1518   assert (("signal watchers are only supported in the default loop", loop == default_loop));
1519 #endif
1520   if (ev_is_active (w))
1521     return;
1522
1523   assert (("ev_signal_start called with illegal signal number", w->signum > 0));
1524
1525   ev_start (EV_A_ (W)w, 1);
1526   array_needsize (ANSIG, signals, signalmax, w->signum, signals_init);
1527   wlist_add ((WL *)&signals [w->signum - 1].head, (WL)w);
1528
1529   if (!((WL)w)->next)
1530     {
1531 #if _WIN32
1532       signal (w->signum, sighandler);
1533 #else
1534       struct sigaction sa;
1535       sa.sa_handler = sighandler;
1536       sigfillset (&sa.sa_mask);
1537       sa.sa_flags = SA_RESTART; /* if restarting works we save one iteration */
1538       sigaction (w->signum, &sa, 0);
1539 #endif
1540     }
1541 }
1542
1543 void
1544 ev_signal_stop (EV_P_ struct ev_signal *w)
1545 {
1546   ev_clear_pending (EV_A_ (W)w);
1547   if (!ev_is_active (w))
1548     return;
1549
1550   wlist_del ((WL *)&signals [w->signum - 1].head, (WL)w);
1551   ev_stop (EV_A_ (W)w);
1552
1553   if (!signals [w->signum - 1].head)
1554     signal (w->signum, SIG_DFL);
1555 }
1556
1557 void
1558 ev_child_start (EV_P_ struct ev_child *w)
1559 {
1560 #if EV_MULTIPLICITY
1561   assert (("child watchers are only supported in the default loop", loop == default_loop));
1562 #endif
1563   if (ev_is_active (w))
1564     return;
1565
1566   ev_start (EV_A_ (W)w, 1);
1567   wlist_add ((WL *)&childs [w->pid & (PID_HASHSIZE - 1)], (WL)w);
1568 }
1569
1570 void
1571 ev_child_stop (EV_P_ struct ev_child *w)
1572 {
1573   ev_clear_pending (EV_A_ (W)w);
1574   if (!ev_is_active (w))
1575     return;
1576
1577   wlist_del ((WL *)&childs [w->pid & (PID_HASHSIZE - 1)], (WL)w);
1578   ev_stop (EV_A_ (W)w);
1579 }
1580
1581 /*****************************************************************************/
1582
1583 struct ev_once
1584 {
1585   struct ev_io io;
1586   struct ev_timer to;
1587   void (*cb)(int revents, void *arg);
1588   void *arg;
1589 };
1590
1591 static void
1592 once_cb (EV_P_ struct ev_once *once, int revents)
1593 {
1594   void (*cb)(int revents, void *arg) = once->cb;
1595   void *arg = once->arg;
1596
1597   ev_io_stop (EV_A_ &once->io);
1598   ev_timer_stop (EV_A_ &once->to);
1599   ev_free (once);
1600
1601   cb (revents, arg);
1602 }
1603
1604 static void
1605 once_cb_io (EV_P_ struct ev_io *w, int revents)
1606 {
1607   once_cb (EV_A_ (struct ev_once *)(((char *)w) - offsetof (struct ev_once, io)), revents);
1608 }
1609
1610 static void
1611 once_cb_to (EV_P_ struct ev_timer *w, int revents)
1612 {
1613   once_cb (EV_A_ (struct ev_once *)(((char *)w) - offsetof (struct ev_once, to)), revents);
1614 }
1615
1616 void
1617 ev_once (EV_P_ int fd, int events, ev_tstamp timeout, void (*cb)(int revents, void *arg), void *arg)
1618 {
1619   struct ev_once *once = (struct ev_once *)ev_malloc (sizeof (struct ev_once));
1620
1621   if (!once)
1622     cb (EV_ERROR | EV_READ | EV_WRITE | EV_TIMEOUT, arg);
1623   else
1624     {
1625       once->cb  = cb;
1626       once->arg = arg;
1627
1628       ev_init (&once->io, once_cb_io);
1629       if (fd >= 0)
1630         {
1631           ev_io_set (&once->io, fd, events);
1632           ev_io_start (EV_A_ &once->io);
1633         }
1634
1635       ev_init (&once->to, once_cb_to);
1636       if (timeout >= 0.)
1637         {
1638           ev_timer_set (&once->to, timeout, 0.);
1639           ev_timer_start (EV_A_ &once->to);
1640         }
1641     }
1642 }
1643
1644 #ifdef __cplusplus
1645 }
1646 #endif
1647