The fixes in this commit are mainly to allow compiling of trunk with --enable-dev...
[asterisk/asterisk.git] / channels / vgrabbers.c
1 /*
2  * Asterisk -- An open source telephony toolkit.
3  *
4  * Copyright 2007, Luigi Rizzo 
5  *
6  * See http://www.asterisk.org for more information about
7  * the Asterisk project. Please do not directly contact
8  * any of the maintainers of this project for assistance;
9  * the project provides a web site, mailing lists and IRC
10  * channels for your use.
11  *
12  * This program is free software, distributed under the terms of
13  * the GNU General Public License Version 2. See the LICENSE file
14  * at the top of the source tree.
15  */
16
17 /*
18  * Video grabbers used in console_video.
19  *
20  * $Revision$
21  *
22  * Each grabber is implemented through open/read/close calls,
23  * plus an additional move() function used e.g. to change origin
24  * for the X grabber (this may be extended in the future to support
25  * more controls e.g. resolution changes etc.).
26  *
27  * open() should try to open and initialize the grabber, returning NULL on error.
28  * On success it allocates a descriptor for its private data (including
29  * a buffer for the video) and returns a pointer to the descriptor.
30  * read() will return NULL on failure, or a pointer to a buffer with data
31  * on success.
32  * close() should release resources.
33  * move() is optional.
34  * For more details look at the X11 grabber below.
35  *
36  * NOTE: at the moment we expect uncompressed video frames in YUV format,
37  * because this is what current sources supply and also is a convenient
38  * format for display. It is conceivable that one might want to support
39  * an already compressed stream, in which case we should redesign the
40  * pipeline used for the local source, which at the moment is
41  *
42  *                        .->--[loc_dpy]
43  *   [src]-->--[enc_in]--+
44  *                        `->--[enc_out]
45  */
46
47 #include "asterisk.h"
48 ASTERISK_FILE_VERSION(__FILE__, "$Revision$")
49 #include <sys/ioctl.h>
50 #include "asterisk/file.h"
51 #include "asterisk/utils.h"     /* ast_calloc */
52
53 #include "console_video.h"
54
55 #if defined(HAVE_VIDEO_CONSOLE)
56
57 #ifdef HAVE_X11
58
59 /* A simple X11 grabber, supporting only truecolor formats */
60
61 #include <X11/Xlib.h>
62
63 /*! \brief internal info used by the X11 grabber */
64 struct grab_x11_desc {
65         Display         *dpy;
66         XImage          *image;
67         int             screen_width;   /* width of X screen */
68         int             screen_height;  /* height of X screen */
69         struct fbuf_t   b;              /* geometry and pointer into the XImage */
70 };
71
72 /*! \brief open the grabber.
73  * We use the special name 'X11' to indicate this grabber.
74  */
75 static void *grab_x11_open(const char *name, struct fbuf_t *geom, int fps)
76 {
77         XImage *im;
78         int screen_num;
79         struct grab_x11_desc *v;
80         struct fbuf_t *b;
81
82         if (strcasecmp(name, "X11"))
83                 return NULL;    /* not us */
84         v = ast_calloc(1, sizeof(*v));
85         if (v == NULL)
86                 return NULL;    /* no memory */
87
88         /* init the connection with the X server */
89         v->dpy = XOpenDisplay(NULL);
90         if (v->dpy == NULL) {
91                 ast_log(LOG_WARNING, "error opening display\n");
92                 goto error;
93         }
94
95         v->b = *geom;   /* copy geometry */
96         b = &v->b;      /* shorthand */
97         /* find width and height of the screen */
98         screen_num = DefaultScreen(v->dpy);
99         v->screen_width = DisplayWidth(v->dpy, screen_num);
100         v->screen_height = DisplayHeight(v->dpy, screen_num);
101
102         v->image = im = XGetImage(v->dpy,
103                 RootWindow(v->dpy, DefaultScreen(v->dpy)),
104                 b->x, b->y, b->w, b->h, AllPlanes, ZPixmap);
105         if (v->image == NULL) {
106                 ast_log(LOG_WARNING, "error creating Ximage\n");
107                 goto error;
108         }
109         switch (im->bits_per_pixel) {
110         case 32:
111                 b->pix_fmt = PIX_FMT_RGBA32;
112                 break;
113         case 16:
114                 b->pix_fmt = (im->green_mask == 0x7e0) ? PIX_FMT_RGB565 : PIX_FMT_RGB555;
115                 break;
116         }
117
118         ast_log(LOG_NOTICE, "image: data %p %d bpp fmt %d, mask 0x%lx 0x%lx 0x%lx\n",
119                 im->data,
120                 im->bits_per_pixel,
121                 b->pix_fmt,
122                 im->red_mask, im->green_mask, im->blue_mask);
123
124         /* set the pointer but not the size as this is not malloc'ed */
125         b->data = (uint8_t *)im->data;
126         return v;
127
128 error:
129         /* XXX maybe XDestroy (v->image) ? */
130         if (v->dpy)
131                 XCloseDisplay(v->dpy);
132         v->dpy = NULL;
133         ast_free(v);
134         return NULL;
135 }
136
137 static struct fbuf_t *grab_x11_read(void *desc)
138 {
139         /* read frame from X11 */
140         struct grab_x11_desc *v = desc;
141         struct fbuf_t *b = &v->b;
142
143         XGetSubImage(v->dpy,
144                 RootWindow(v->dpy, DefaultScreen(v->dpy)),
145                         b->x, b->y, b->w, b->h, AllPlanes, ZPixmap, v->image, 0, 0);
146
147         b->data = (uint8_t *)v->image->data;
148         return b;
149 }
150
151 static int boundary_checks(int x, int limit)
152 {
153         return (x <= 0) ? 0 : (x > limit ? limit : x);
154 }
155
156 /*! \brief move the origin for the grabbed area, making sure we do not
157  * overflow the screen.
158  */
159 static void grab_x11_move(void *desc, int dx, int dy)
160 {
161         struct grab_x11_desc *v = desc;
162
163         v->b.x = boundary_checks(v->b.x + dx, v->screen_width - v->b.w);
164         v->b.y = boundary_checks(v->b.y + dy, v->screen_height - v->b.h);
165 }
166
167 /*! \brief disconnect from the server and release memory */
168 static void *grab_x11_close(void *desc)
169 {
170         struct grab_x11_desc *v = desc;
171
172         XCloseDisplay(v->dpy);
173         v->dpy = NULL;
174         v->image = NULL;
175         ast_free(v);
176         return NULL;
177 }
178
179 static struct grab_desc grab_x11_desc = {
180         .name = "X11",
181         .open = grab_x11_open,
182         .read = grab_x11_read,
183         .move = grab_x11_move,
184         .close = grab_x11_close,
185 };
186 #endif  /* HAVE_X11 */
187
188 #ifdef HAVE_VIDEODEV_H
189 #include <linux/videodev.h>     /* Video4Linux stuff is only used in grab_v4l1_open() */
190
191 struct grab_v4l1_desc {
192         int fd;                 /* device handle */
193         struct fbuf_t   b;      /* buffer (allocated) with grabbed image */
194 };
195
196 /*! \brief
197  * Open the local video source and allocate a buffer
198  * for storing the image.
199  */
200 static void *grab_v4l1_open(const char *dev, struct fbuf_t *geom, int fps)
201 {
202         struct video_window vw = { 0 }; /* camera attributes */
203         struct video_picture vp;
204         int fd, i;
205         struct grab_v4l1_desc *v;
206         struct fbuf_t *b;
207
208         fd = open(dev, O_RDONLY | O_NONBLOCK);
209         if (fd < 0) {
210                 ast_log(LOG_WARNING, "error opening camera %s\n", dev);
211                 return NULL;
212         }
213
214         v = ast_calloc(1, sizeof(*v));
215         if (v == NULL) {
216                 ast_log(LOG_WARNING, "no memory for camera %s\n", dev);
217                 close(fd);
218                 return NULL;    /* no memory */
219         }
220         v->fd = fd;
221         v->b = *geom;
222         b = &v->b;      /* shorthand */
223
224         i = fcntl(fd, F_GETFL);
225         if (-1 == fcntl(fd, F_SETFL, i | O_NONBLOCK)) {
226                 /* non fatal, just emit a warning */
227                 ast_log(LOG_WARNING, "error F_SETFL for %s [%s]\n",
228                         dev, strerror(errno));
229         }
230         /* set format for the camera.
231          * In principle we could retry with a different format if the
232          * one we are asking for is not supported.
233          */
234         vw.width = b->w;
235         vw.height = b->h;
236         vw.flags = fps << 16;
237         if (ioctl(fd, VIDIOCSWIN, &vw) == -1) {
238                 ast_log(LOG_WARNING, "error setting format for %s [%s]\n",
239                         dev, strerror(errno));
240                 goto error;
241         }
242         if (ioctl(fd, VIDIOCGPICT, &vp) == -1) {
243                 ast_log(LOG_WARNING, "error reading picture info\n");
244                 goto error;
245         }
246         ast_log(LOG_WARNING,
247                 "contrast %d bright %d colour %d hue %d white %d palette %d\n",
248                 vp.contrast, vp.brightness,
249                 vp.colour, vp.hue,
250                 vp.whiteness, vp.palette);
251         /* set the video format. Here again, we don't necessary have to
252          * fail if the required format is not supported, but try to use
253          * what the camera gives us.
254          */
255         b->pix_fmt = vp.palette;
256         vp.palette = VIDEO_PALETTE_YUV420P;
257         if (ioctl(v->fd, VIDIOCSPICT, &vp) == -1) {
258                 ast_log(LOG_WARNING, "error setting palette, using %d\n",
259                         b->pix_fmt);
260         } else
261                 b->pix_fmt = vp.palette;
262         /* allocate the source buffer.
263          * XXX, the code here only handles yuv411, for other formats
264          * we need to look at pix_fmt and set size accordingly
265          */
266         b->size = (b->w * b->h * 3)/2;  /* yuv411 */
267         ast_log(LOG_WARNING, "videodev %s opened, size %dx%d %d\n",
268                 dev, b->w, b->h, b->size);
269         b->data = ast_calloc(1, b->size);
270         if (!b->data) {
271                 ast_log(LOG_WARNING, "error allocating buffer %d bytes\n",
272                         b->size);
273                 goto error;
274         }
275         ast_log(LOG_WARNING, "success opening camera\n");
276         return v;
277
278 error:
279         close(v->fd);
280         fbuf_free(b);
281         ast_free(v);
282         return NULL;
283 }
284
285 /*! \brief read until error, no data or buffer full.
286  * This might be blocking but no big deal since we are in the
287  * display thread.
288  */
289 static struct fbuf_t *grab_v4l1_read(void *desc)
290 {
291         struct grab_v4l1_desc *v = desc;
292         struct fbuf_t *b = &v->b;
293         for (;;) {
294                 int r, l = b->size - b->used;
295                 r = read(v->fd, b->data + b->used, l);
296                 // ast_log(LOG_WARNING, "read %d of %d bytes from webcam\n", r, l);
297                 if (r < 0)      /* read error */
298                         break;
299                 if (r == 0)     /* no data */
300                         break;
301                 b->used += r;
302                 if (r == l) {
303                         b->used = 0; /* prepare for next frame */
304                         return b;
305                 }
306         }
307         return NULL;
308 }
309
310 static void *grab_v4l1_close(void *desc)
311 {
312         struct grab_v4l1_desc *v = desc;
313
314         close(v->fd);
315         v->fd = -1;
316         fbuf_free(&v->b);
317         ast_free(v);
318         return NULL;
319 }
320
321 /*! \brief our descriptor. We don't have .move */
322 static struct grab_desc grab_v4l1_desc = {
323         .name = "v4l1",
324         .open = grab_v4l1_open,
325         .read = grab_v4l1_read,
326         .close = grab_v4l1_close,
327 };
328 #endif /* HAVE_VIDEODEV_H */
329
330 /*
331  * Here you can add more grabbers, e.g. V4L2, firewire,
332  * a file, a still image...
333  */
334
335 /*! \brief The list of grabbers supported, with a NULL at the end */
336 struct grab_desc *console_grabbers[] = {
337 #ifdef HAVE_X11
338         &grab_x11_desc,
339 #endif
340 #ifdef HAVE_VIDEODEV_H
341         &grab_v4l1_desc,
342 #endif
343         NULL
344 };
345
346 #endif /* HAVE_VIDEO_CONSOLE */