Fix compile when certain G711 menuselect options are enabled.
[asterisk/asterisk.git] / main / alaw.c
1 /*
2  * Asterisk -- An open source telephony toolkit.
3  *
4  * Copyright (C) 1999 - 2005, Digium, Inc.
5  *
6  * Mark Spencer <markster@digium.com>
7  *
8  * See http://www.asterisk.org for more information about
9  * the Asterisk project. Please do not directly contact
10  * any of the maintainers of this project for assistance;
11  * the project provides a web site, mailing lists and IRC
12  * channels for your use.
13  *
14  * This program is free software, distributed under the terms of
15  * the GNU General Public License Version 2. See the LICENSE file
16  * at the top of the source tree.
17  */
18
19 /*! \file
20  *
21  * \brief a-Law to Signed linear conversion
22  *
23  * \author Mark Spencer <markster@digium.com>
24  */
25
26 #include "asterisk.h"
27
28 ASTERISK_FILE_VERSION(__FILE__, "$Revision$")
29
30 #include "asterisk/alaw.h"
31 #include "asterisk/logger.h"
32
33 #ifndef G711_NEW_ALGORITHM
34 #define AMI_MASK 0x55
35
36 static inline unsigned char linear2alaw(short int linear)
37 {
38         int mask;
39         int seg;
40         int pcm_val;
41         static int seg_end[8] =
42                 {
43                         0xFF, 0x1FF, 0x3FF, 0x7FF, 0xFFF, 0x1FFF, 0x3FFF, 0x7FFF
44                 };
45
46         pcm_val = linear;
47         if (pcm_val >= 0) {
48                 /* Sign (7th) bit = 1 */
49                 mask = AMI_MASK | 0x80;
50         } else {
51                 /* Sign bit = 0 */
52                 mask = AMI_MASK;
53                 pcm_val = -pcm_val;
54         }
55
56         /* Convert the scaled magnitude to segment number. */
57         for (seg = 0; seg < 8; seg++) {
58                 if (pcm_val <= seg_end[seg]) {
59                         break;
60                 }
61         }
62         /* Combine the sign, segment, and quantization bits. */
63         return ((seg << 4) | ((pcm_val >> ((seg) ? (seg + 3) : 4)) & 0x0F)) ^ mask;
64 }
65 #else
66 static unsigned char linear2alaw(short sample, int full_coding)
67 {
68         static const unsigned exp_lut[128] = {
69                 1,1,2,2,3,3,3,3,
70                 4,4,4,4,4,4,4,4,
71                 5,5,5,5,5,5,5,5,
72                 5,5,5,5,5,5,5,5,
73                 6,6,6,6,6,6,6,6,
74                 6,6,6,6,6,6,6,6,
75                 6,6,6,6,6,6,6,6,
76                 6,6,6,6,6,6,6,6,
77                 7,7,7,7,7,7,7,7,
78                 7,7,7,7,7,7,7,7,
79                 7,7,7,7,7,7,7,7,
80                 7,7,7,7,7,7,7,7,
81                 7,7,7,7,7,7,7,7,
82                 7,7,7,7,7,7,7,7,
83                 7,7,7,7,7,7,7,7,
84                 7,7,7,7,7,7,7,7 };
85         unsigned sign, exponent, mantissa, mag;
86         unsigned char alawbyte;
87
88         ast_alaw_get_sign_mag(sample, &sign, &mag);
89         if (mag > 32767)
90                 mag = 32767;        /* clip the magnitude for -32768 */
91
92         exponent = exp_lut[(mag >> 8) & 0x7f];
93         mantissa = (mag >> (exponent + 3)) & 0x0f;
94         if (mag < 0x100)
95                 exponent = 0;
96
97         if (full_coding) {
98                 /* full encoding, with sign and xform */
99                 alawbyte = (unsigned char)(sign | (exponent << 4) | mantissa);
100                 alawbyte ^= AST_ALAW_AMI_MASK;
101         } else {
102                 /* half-cooked coding -- mantissa+exponent only (for lookup tab) */
103                 alawbyte = (exponent << 4) | mantissa;
104         }
105         return alawbyte;
106 }
107 #endif
108
109 #ifndef G711_NEW_ALGORITHM
110 static inline short int alaw2linear (unsigned char alaw)
111 {
112         int i;
113         int seg;
114
115         alaw ^= AMI_MASK;
116         i = ((alaw & 0x0F) << 4) + 8 /* rounding error */;
117         seg = (((int) alaw & 0x70) >> 4);
118         if (seg) {
119                 i = (i + 0x100) << (seg - 1);
120         }
121         return (short int) ((alaw & 0x80) ? i : -i);
122 }
123 #else
124 static inline short alaw2linear(unsigned char alawbyte)
125 {
126         unsigned exponent, mantissa;
127         short sample;
128
129         alawbyte ^= AST_ALAW_AMI_MASK;
130         exponent = (alawbyte & 0x70) >> 4;
131         mantissa = alawbyte & 0x0f;
132         sample = (mantissa << 4) + 8 /* rounding error */;
133         if (exponent)
134                 sample = (sample + 0x100) << (exponent - 1);
135         if (!(alawbyte & 0x80))
136                 sample = -sample;
137         return sample;
138 }
139 #endif
140
141
142
143 #ifndef G711_NEW_ALGORITHM
144 unsigned char __ast_lin2a[8192];
145 #else
146 unsigned char __ast_lin2a[AST_ALAW_TAB_SIZE];
147 #endif
148 short __ast_alaw[256];
149
150 void ast_alaw_init(void)
151 {
152         int i;
153         /*
154          *  Set up mu-law conversion table
155          */
156 #ifndef G711_NEW_ALGORITHM
157         for (i = 0; i < 256; i++) {
158                 __ast_alaw[i] = alaw2linear(i);
159         }
160         /* set up the reverse (mu-law) conversion table */
161         for (i = -32768; i < 32768; i++) {
162                 __ast_lin2a[((unsigned short)i) >> 3] = linear2alaw(i);
163         }
164 #else
165         for (i = 0; i < 256; i++) {
166                 __ast_alaw[i] = alaw2linear(i);
167         }
168         /* set up the reverse (a-law) conversion table */
169         for (i = 0; i <= 32768; i += AST_ALAW_STEP) {
170                 AST_LIN2A_LOOKUP(i) = linear2alaw(i, 0 /* half-cooked */);
171         }
172 #endif
173
174 #ifdef TEST_CODING_TABLES
175         for (i = -32768; i < 32768; ++i) {
176 #ifndef G711_NEW_ALGORITHM
177                 unsigned char e1 = linear2alaw(i);
178 #else
179                 unsigned char e1 = linear2alaw(i, 1);
180 #endif
181                 short d1 = alaw2linear(e1);
182                 unsigned char e2 = AST_LIN2A(i);
183                 short d2 = alaw2linear(e2);
184                 short d3 = AST_ALAW(e1);
185
186                 if (e1 != e2 || d1 != d3 || d2 != d3) {
187                         ast_log(LOG_WARNING, "a-Law coding tables test failed on %d: e1=%u, e2=%u, d1=%d, d2=%d\n",
188                                         i, (unsigned)e1, (unsigned)e2, (int)d1, (int)d2);
189                 }
190         }
191         ast_log(LOG_NOTICE, "a-Law coding tables test complete.\n");
192 #endif /* TEST_CODING_TABLES */
193
194 #ifdef TEST_TANDEM_TRANSCODING
195         /* tandem transcoding test */
196         for (i = -32768; i < 32768; ++i) {
197                 unsigned char e1 = AST_LIN2A(i);
198                 short d1 = AST_ALAW(e1);
199                 unsigned char e2 = AST_LIN2A(d1);
200                 short d2 = AST_ALAW(e2);
201                 unsigned char e3 = AST_LIN2A(d2);
202                 short d3 = AST_ALAW(e3);
203
204                 if (e1 != e2 || e2 != e3 || d1 != d2 || d2 != d3) {
205                         ast_log(LOG_WARNING, "a-Law tandem transcoding test failed on %d: e1=%u, e2=%u, d1=%d, d2=%d, d3=%d\n",
206                                         i, (unsigned)e1, (unsigned)e2, (int)d1, (int)d2, (int)d3);
207                 }
208         }
209         ast_log(LOG_NOTICE, "a-Law tandem transcoding test complete.\n");
210 #endif /* TEST_TANDEM_TRANSCODING */
211
212 }
213