Terry found this problem with running the expr2 parser on OSX. Make the #defines...
[asterisk/asterisk.git] / main / alaw.c
1 /*
2  * Asterisk -- An open source telephony toolkit.
3  *
4  * Copyright (C) 1999 - 2005, Digium, Inc.
5  *
6  * Mark Spencer <markster@digium.com>
7  *
8  * See http://www.asterisk.org for more information about
9  * the Asterisk project. Please do not directly contact
10  * any of the maintainers of this project for assistance;
11  * the project provides a web site, mailing lists and IRC
12  * channels for your use.
13  *
14  * This program is free software, distributed under the terms of
15  * the GNU General Public License Version 2. See the LICENSE file
16  * at the top of the source tree.
17  */
18
19 /*! \file
20  *
21  * \brief a-Law to Signed linear conversion
22  *
23  * \author Mark Spencer <markster@digium.com> 
24  */
25
26 #include "asterisk.h"
27
28 ASTERISK_FILE_VERSION(__FILE__, "$Revision$")
29
30 #include "asterisk/alaw.h"
31
32 #ifndef G711_NEW_ALGORITHM
33 #define AMI_MASK 0x55
34
35 static inline unsigned char linear2alaw(short int linear)
36 {
37     int mask;
38     int seg;
39     int pcm_val;
40     static int seg_end[8] =
41                 {
42                         0xFF, 0x1FF, 0x3FF, 0x7FF, 0xFFF, 0x1FFF, 0x3FFF, 0x7FFF
43                 };
44     
45     pcm_val = linear;
46     if (pcm_val >= 0) {
47             /* Sign (7th) bit = 1 */
48             mask = AMI_MASK | 0x80;
49     } else {
50             /* Sign bit = 0 */
51             mask = AMI_MASK;
52             pcm_val = -pcm_val;
53     }
54         
55     /* Convert the scaled magnitude to segment number. */
56     for (seg = 0;  seg < 8;  seg++) {
57             if (pcm_val <= seg_end[seg])
58                     break;
59     }
60     /* Combine the sign, segment, and quantization bits. */
61     return  ((seg << 4) | ((pcm_val >> ((seg)  ?  (seg + 3)  :  4)) & 0x0F)) ^ mask;
62 }
63 #else
64 static unsigned char linear2alaw(short sample, int full_coding)
65 {
66         static const unsigned exp_lut[128] = {
67                 1,1,2,2,3,3,3,3,
68                 4,4,4,4,4,4,4,4,
69                 5,5,5,5,5,5,5,5,
70                 5,5,5,5,5,5,5,5,
71                 6,6,6,6,6,6,6,6,
72                 6,6,6,6,6,6,6,6,
73                 6,6,6,6,6,6,6,6,
74                 6,6,6,6,6,6,6,6,
75                 7,7,7,7,7,7,7,7,
76                 7,7,7,7,7,7,7,7,
77                 7,7,7,7,7,7,7,7,
78                 7,7,7,7,7,7,7,7,
79                 7,7,7,7,7,7,7,7,
80                 7,7,7,7,7,7,7,7,
81                 7,7,7,7,7,7,7,7,
82                 7,7,7,7,7,7,7,7 };
83         unsigned sign, exponent, mantissa, mag;
84         unsigned char alawbyte;
85         
86         ast_alaw_get_sign_mag(sample, &sign, &mag);
87         if (mag > 32767)
88                 mag = 32767;        /* clip the magnitude for -32768 */
89         
90         exponent = exp_lut[(mag >> 8) & 0x7f];
91         mantissa = (mag >> (exponent + 3)) & 0x0f;
92         if (mag < 0x100)
93                 exponent = 0;
94         
95         if (full_coding) {
96                 /* full encoding, with sign and xform */
97                 alawbyte = (unsigned char)(sign | (exponent << 4) | mantissa);
98                 alawbyte ^= AST_ALAW_AMI_MASK;
99         } else {
100                 /* half-cooked coding -- mantissa+exponent only (for lookup tab) */
101                 alawbyte = (exponent << 4) | mantissa;
102         }
103         return alawbyte;
104 }
105 #endif
106
107 #ifndef G711_NEW_ALGORITHM
108 static inline short int alaw2linear (unsigned char alaw)
109 {
110     int i;
111     int seg;
112         
113     alaw ^= AMI_MASK;
114     i = ((alaw & 0x0F) << 4) + 8 /* rounding error */;
115     seg = (((int) alaw & 0x70) >> 4);
116     if (seg)
117             i = (i + 0x100) << (seg - 1);
118     return (short int) ((alaw & 0x80)  ?  i  :  -i);
119 }
120 #else
121 static inline short alaw2linear(unsigned char alawbyte)
122 {
123         unsigned exponent, mantissa;
124         short sample;
125         
126         alawbyte ^= AST_ALAW_AMI_MASK;
127         exponent = (alawbyte & 0x70) >> 4;
128         mantissa = alawbyte & 0x0f;
129         sample = (mantissa << 4) + 8 /* rounding error */;
130         if (exponent)
131                 sample = (sample + 0x100) << (exponent - 1);
132         if (!(alawbyte & 0x80))
133                 sample = -sample;
134         return sample;
135 }
136 #endif
137
138
139
140 #ifndef G711_NEW_ALGORITHM
141 unsigned char __ast_lin2a[8192];
142 #else
143 unsigned char __ast_lin2a[AST_ALAW_TAB_SIZE];
144 #endif
145 short __ast_alaw[256];
146
147 void ast_alaw_init(void)
148 {
149         int i;
150         /* 
151          *  Set up mu-law conversion table
152          */ 
153 #ifndef G711_NEW_ALGORITHM
154         for (i = 0; i < 256; i++) {
155                 __ast_alaw[i] = alaw2linear(i);
156         }
157         /* set up the reverse (mu-law) conversion table */
158         for (i = -32768; i < 32768; i++) {
159                 __ast_lin2a[((unsigned short)i) >> 3] = linear2alaw(i);
160         }
161 #else
162         for (i = 0; i < 256; i++) {
163                 __ast_alaw[i] = alaw2linear(i);
164         }
165         /* set up the reverse (a-law) conversion table */
166         for (i = 0; i <= 32768; i += AST_ALAW_STEP) {
167                 AST_LIN2A_LOOKUP(i) = linear2alaw(i, 0 /* half-cooked */);
168         }
169 #endif
170         
171 #ifdef TEST_CODING_TABLES
172         for (i = -32768; i < 32768; ++i) {
173 #ifndef G711_NEW_ALGORITHM
174                 unsigned char e1 = linear2alaw(i);
175 #else
176                 unsigned char e1 = linear2alaw(i, 1);
177 #endif
178                 short d1 = alaw2linear(e1);
179                 unsigned char e2 = AST_LIN2A(i);
180                 short d2 = alaw2linear(e2);
181                 short d3 = AST_ALAW(e1);
182                 
183                 if (e1 != e2 || d1 != d3 || d2 != d3) {
184                         ast_log(LOG_WARNING, "a-Law coding tables test failed on %d: e1=%u, e2=%u, d1=%d, d2=%d\n",
185                                         i, (unsigned)e1, (unsigned)e2, (int)d1, (int)d2);
186                 }
187         }
188         ast_log(LOG_NOTICE, "a-Law coding tables test complete.\n");
189 #endif /* TEST_CODING_TABLES */
190         
191 #ifdef TEST_TANDEM_TRANSCODING
192         /* tandem transcoding test */
193         for (i = -32768; i < 32768; ++i) {
194                 unsigned char e1 = AST_LIN2A(i);
195                 short d1 = AST_ALAW(e1);
196                 unsigned char e2 = AST_LIN2A(d1);
197                 short d2 = AST_ALAW(e2);
198                 unsigned char e3 = AST_LIN2A(d2);
199                 short d3 = AST_ALAW(e3);
200                 
201                 if (e1 != e2 || e2 != e3 || d1 != d2 || d2 != d3) {
202                         ast_log(LOG_WARNING, "a-Law tandem transcoding test failed on %d: e1=%u, e2=%u, d1=%d, d2=%d, d3=%d\n",
203                                         i, (unsigned)e1, (unsigned)e2, (int)d1, (int)d2, (int)d3);
204                 }
205         }
206         ast_log(LOG_NOTICE, "a-Law tandem transcoding test complete.\n");
207 #endif /* TEST_TANDEM_TRANSCODING */
208         
209 }
210