Version 0.1.12 from FTP
[asterisk/asterisk.git] / codecs / lpc10 / encode.c
1 /*
2
3 $Log$
4 Revision 1.11  2000/01/05 08:20:39  markster
5 Version 0.1.12 from FTP
6
7 Revision 1.2  2000/01/05 08:20:39  markster
8 Some OSS fixes and a few lpc changes to make it actually work
9
10  * Revision 1.1  1996/08/19  22:32:21  jaf
11  * Initial revision
12  *
13
14 */
15
16 #ifdef P_R_O_T_O_T_Y_P_E_S
17 extern int encode_(integer *voice, integer *pitch, real *rms, real *rc, integer *ipitch, integer *irms, integer *irc);
18 /* comlen contrl_ 12 */
19 #endif
20
21 /*  -- translated by f2c (version 19951025).
22    You must link the resulting object file with the libraries:
23         -lf2c -lm   (in that order)
24 */
25
26 #include "f2c.h"
27
28 /* Common Block Declarations */
29
30 extern struct {
31     integer order, lframe;
32     logical corrp;
33 } contrl_;
34
35 #define contrl_1 contrl_
36
37 /* Table of constant values */
38
39 static integer c__2 = 2;
40
41 /* ***************************************************************** */
42
43 /*      ENCODE Version 54 */
44
45 /* $Log$
46  * Revision 1.11  2000/01/05 08:20:39  markster
47  * Version 0.1.12 from FTP
48  *
49 /* Revision 1.2  2000/01/05 08:20:39  markster
50 /* Some OSS fixes and a few lpc changes to make it actually work
51 /*
52  * Revision 1.1  1996/08/19  22:32:21  jaf
53  * Initial revision
54  * */
55 /* Revision 1.5  1996/03/26  19:35:50  jaf */
56 /* Commented out trace statements. */
57
58 /* Revision 1.4  1996/03/21  00:26:29  jaf */
59 /* Added the comment that this subroutine has no local state. */
60
61 /* In the last check-in, I forgot to mention that I had added comments */
62 /* explaining which indices of array arguments are read or written. */
63
64 /* Revision 1.3  1996/03/21  00:22:39  jaf */
65 /* Added comments explaining that all local arrays are effectively */
66 /* constants. */
67
68 /* Revision 1.2  1996/03/13  18:48:33  jaf */
69 /* Comments added explaining that none of the local variables of this */
70 /* subroutine need to be saved from one invocation to the next. */
71
72 /* Revision 1.1  1996/02/07 14:45:29  jaf */
73 /* Initial revision */
74
75
76 /* ***************************************************************** */
77
78 /*  Quantize LPC parameters for transmission */
79
80 /* INPUTS: */
81 /*  VOICE  - Half frame voicing decisions */
82 /*           Indices 1 through 2 read. */
83 /*  PITCH  - Pitch */
84 /*  RMS    - Energy */
85 /*  RC     - Reflection coefficients */
86 /*           Indices 1 through ORDER read. */
87 /*  CORRP  - Error Correction: TRUE = yes, FALSE = none */
88 /*           (this is defined in file control.fh) */
89 /* OUTPUTS: */
90 /*  IPITCH - Coded pitch and voicing */
91 /*  IRMS   - Quantized energy */
92 /*  IRC    - Quantized reflection coefficients */
93 /*           Indices 1 through MAX(ORDER,2) written. */
94 /*           If CORRP is .TRUE., then indices 1 through 10 written */
95 /*           for unvoiced frames. */
96
97 /* This subroutine has no local state. */
98
99 /* Subroutine */ int encode_(integer *voice, integer *pitch, real *rms, real *
100         rc, integer *ipitch, integer *irms, integer *irc)
101 {
102     /* Initialized data */
103
104     static integer enctab[16] = { 0,7,11,12,13,10,6,1,14,9,5,2,3,4,8,15 };
105     static integer entau[60] = { 19,11,27,25,29,21,23,22,30,14,15,7,39,38,46,
106             42,43,41,45,37,53,49,51,50,54,52,60,56,58,26,90,88,92,84,86,82,83,
107             81,85,69,77,73,75,74,78,70,71,67,99,97,113,112,114,98,106,104,108,
108             100,101,76 };
109     static integer enadd[8] = { 1920,-768,2432,1280,3584,1536,2816,-1152 };
110     static real enscl[8] = { .0204f,.0167f,.0145f,.0147f,.0143f,.0135f,.0125f,
111             .0112f };
112     static integer enbits[8] = { 6,5,4,4,4,4,3,3 };
113     static integer entab6[64] = { 0,0,0,0,0,0,1,1,1,1,1,1,1,2,2,2,2,2,2,2,3,3,
114             3,3,3,3,3,4,4,4,4,4,4,4,5,5,5,5,5,6,6,6,6,6,7,7,7,7,7,8,8,8,8,9,9,
115             9,10,10,11,11,12,13,14,15 };
116     static integer rmst[64] = { 1024,936,856,784,718,656,600,550,502,460,420,
117             384,352,328,294,270,246,226,206,188,172,158,144,132,120,110,102,
118             92,84,78,70,64,60,54,50,46,42,38,34,32,30,26,24,22,20,18,17,16,15,
119             14,13,12,11,10,9,8,7,6,5,4,3,2,1,0 };
120
121     /* System generated locals */
122     integer i__1, i__2;
123
124     /* Builtin functions */
125     integer pow_ii(integer *, integer *);
126
127     /* Local variables */
128     integer idel, nbit, i__, j, i2, i3, mrk;
129
130 /* $Log$
131  * Revision 1.11  2000/01/05 08:20:39  markster
132  * Version 0.1.12 from FTP
133  *
134 /* Revision 1.2  2000/01/05 08:20:39  markster
135 /* Some OSS fixes and a few lpc changes to make it actually work
136 /*
137  * Revision 1.1  1996/08/19  22:32:21  jaf
138  * Initial revision
139  * */
140 /* Revision 1.3  1996/03/29  22:03:47  jaf */
141 /* Removed definitions for any constants that were no longer used. */
142
143 /* Revision 1.2  1996/03/26  19:34:33  jaf */
144 /* Added comments indicating which constants are not needed in an */
145 /* application that uses the LPC-10 coder. */
146
147 /* Revision 1.1  1996/02/07  14:43:51  jaf */
148 /* Initial revision */
149
150 /*   LPC Configuration parameters: */
151 /* Frame size, Prediction order, Pitch period */
152 /*       Arguments */
153 /* $Log$
154  * Revision 1.11  2000/01/05 08:20:39  markster
155  * Version 0.1.12 from FTP
156  *
157 /* Revision 1.2  2000/01/05 08:20:39  markster
158 /* Some OSS fixes and a few lpc changes to make it actually work
159 /*
160  * Revision 1.1  1996/08/19  22:32:21  jaf
161  * Initial revision
162  * */
163 /* Revision 1.3  1996/03/29  22:05:55  jaf */
164 /* Commented out the common block variables that are not needed by the */
165 /* embedded version. */
166
167 /* Revision 1.2  1996/03/26  19:34:50  jaf */
168 /* Added comments indicating which constants are not needed in an */
169 /* application that uses the LPC-10 coder. */
170
171 /* Revision 1.1  1996/02/07  14:44:09  jaf */
172 /* Initial revision */
173
174 /*   LPC Processing control variables: */
175
176 /* *** Read-only: initialized in setup */
177
178 /*  Files for Speech, Parameter, and Bitstream Input & Output, */
179 /*    and message and debug outputs. */
180
181 /* Here are the only files which use these variables: */
182
183 /* lpcsim.f setup.f trans.f error.f vqsetup.f */
184
185 /* Many files which use fdebug are not listed, since it is only used in */
186 /* those other files conditionally, to print trace statements. */
187 /*      integer fsi, fso, fpi, fpo, fbi, fbo, pbin, fmsg, fdebug */
188 /*  LPC order, Frame size, Quantization rate, Bits per frame, */
189 /*    Error correction */
190 /* Subroutine SETUP is the only place where order is assigned a value, */
191 /* and that value is 10.  It could increase efficiency 1% or so to */
192 /* declare order as a constant (i.e., a Fortran PARAMETER) instead of as 
193 */
194 /* a variable in a COMMON block, since it is used in many places in the */
195 /* core of the coding and decoding routines.  Actually, I take that back. 
196 */
197 /* At least when compiling with f2c, the upper bound of DO loops is */
198 /* stored in a local variable before the DO loop begins, and then that is 
199 */
200 /* compared against on each iteration. */
201 /* Similarly for lframe, which is given a value of MAXFRM in SETUP. */
202 /* Similarly for quant, which is given a value of 2400 in SETUP.  quant */
203 /* is used in only a few places, and never in the core coding and */
204 /* decoding routines, so it could be eliminated entirely. */
205 /* nbits is similar to quant, and is given a value of 54 in SETUP. */
206 /* corrp is given a value of .TRUE. in SETUP, and is only used in the */
207 /* subroutines ENCODE and DECODE.  It doesn't affect the speed of the */
208 /* coder significantly whether it is .TRUE. or .FALSE., or whether it is 
209 */
210 /* a constant or a variable, since it is only examined once per frame. */
211 /* Leaving it as a variable that is set to .TRUE.  seems like a good */
212 /* idea, since it does enable some error-correction capability for */
213 /* unvoiced frames, with no change in the coding rate, and no noticeable 
214 */
215 /* quality difference in the decoded speech. */
216 /*      integer quant, nbits */
217 /* *** Read/write: variables for debugging, not needed for LPC algorithm 
218 */
219
220 /*  Current frame, Unstable frames, Output clip count, Max onset buffer, 
221 */
222 /*    Debug listing detail level, Line count on listing page */
223
224 /* nframe is not needed for an embedded LPC10 at all. */
225 /* nunsfm is initialized to 0 in SETUP, and incremented in subroutine */
226 /* ERROR, which is only called from RCCHK.  When LPC10 is embedded into */
227 /* an application, I would recommend removing the call to ERROR in RCCHK, 
228 */
229 /* and remove ERROR and nunsfm completely. */
230 /* iclip is initialized to 0 in SETUP, and incremented in entry SWRITE in 
231 */
232 /* sread.f.  When LPC10 is embedded into an application, one might want */
233 /* to cause it to be incremented in a routine that takes the output of */
234 /* SYNTHS and sends it to an audio device.  It could be optionally */
235 /* displayed, for those that might want to know what it is. */
236 /* maxosp is never initialized to 0 in SETUP, although it probably should 
237 */
238 /* be, and it is updated in subroutine ANALYS.  I doubt that its value */
239 /* would be of much interest to an application in which LPC10 is */
240 /* embedded. */
241 /* listl and lincnt are not needed for an embedded LPC10 at all. */
242 /*      integer nframe, nunsfm, iclip, maxosp, listl, lincnt */
243 /*      common /contrl/ fsi, fso, fpi, fpo, fbi, fbo, pbin, fmsg, fdebug */
244 /*      common /contrl/ quant, nbits */
245 /*      common /contrl/ nframe, nunsfm, iclip, maxosp, listl, lincnt */
246 /*       Parameters/constants */
247 /*       These arrays are not Fortran PARAMETER's, but they are defined */
248 /*       by DATA statements below, and their contents are never altered. 
249 */
250 /*       Local variables that need not be saved */
251     /* Parameter adjustments */
252     --irc;
253     --rc;
254     --voice;
255
256     /* Function Body */
257 /*  Scale RMS and RC's to integers */
258     *irms = *rms;
259     i__1 = contrl_1.order;
260     for (i__ = 1; i__ <= i__1; ++i__) {
261         irc[i__] = rc[i__] * 32768.f;
262     }
263 /*      IF(LISTL.GE.3)WRITE(FDEBUG,800)VOICE,PITCH,IRMS,(IRC(I),I=1,ORDER) */
264 /* 800  FORMAT(1X,/,' <<ENCODE IN>>',T32,2I3,I6,I5,T50,10I8) */
265 /*  Encode pitch and voicing */
266     if (voice[1] != 0 && voice[2] != 0) {
267         *ipitch = entau[*pitch - 1];
268     } else {
269         if (contrl_1.corrp) {
270             *ipitch = 0;
271             if (voice[1] != voice[2]) {
272                 *ipitch = 127;
273             }
274         } else {
275             *ipitch = (voice[1] << 1) + voice[2];
276         }
277     }
278 /*  Encode RMS by binary table search */
279     j = 32;
280     idel = 16;
281     *irms = min(*irms,1023);
282     while(idel > 0) {
283         if (*irms > rmst[j - 1]) {
284             j -= idel;
285         }
286         if (*irms < rmst[j - 1]) {
287             j += idel;
288         }
289         idel /= 2;
290     }
291     if (*irms > rmst[j - 1]) {
292         --j;
293     }
294     *irms = 31 - j / 2;
295 /*  Encode RC(1) and (2) as log-area-ratios */
296     for (i__ = 1; i__ <= 2; ++i__) {
297         i2 = irc[i__];
298         mrk = 0;
299         if (i2 < 0) {
300             i2 = -i2;
301             mrk = 1;
302         }
303         i2 /= 512;
304         i2 = min(i2,63);
305         i2 = entab6[i2];
306         if (mrk != 0) {
307             i2 = -i2;
308         }
309         irc[i__] = i2;
310     }
311 /*  Encode RC(3) - (10) linearly, remove bias then scale */
312     i__1 = contrl_1.order;
313     for (i__ = 3; i__ <= i__1; ++i__) {
314         i2 = irc[i__] / 2;
315         i2 = (i2 + enadd[contrl_1.order + 1 - i__ - 1]) * enscl[
316                 contrl_1.order + 1 - i__ - 1];
317 /* Computing MIN */
318         i__2 = max(i2,-127);
319         i2 = min(i__2,127);
320         nbit = enbits[contrl_1.order + 1 - i__ - 1];
321         i3 = 0;
322         if (i2 < 0) {
323             i3 = -1;
324         }
325         i2 /= pow_ii(&c__2, &nbit);
326         if (i3 == -1) {
327             --i2;
328         }
329         irc[i__] = i2;
330     }
331 /*          Protect the most significant bits of the most */
332 /*     important parameters during non-voiced frames. */
333 /*     RC(1) - RC(4) are protected using 20 parity bits */
334 /*     replacing RC(5) - RC(10). */
335     if (contrl_1.corrp) {
336         if (*ipitch == 0 || *ipitch == 127) {
337             irc[5] = enctab[(irc[1] & 30) / 2];
338             irc[6] = enctab[(irc[2] & 30) / 2];
339             irc[7] = enctab[(irc[3] & 30) / 2];
340             irc[8] = enctab[(*irms & 30) / 2];
341             irc[9] = enctab[(irc[4] & 30) / 2] / 2;
342             irc[10] = enctab[(irc[4] & 30) / 2] & 1;
343         }
344     }
345 /*      IF(LISTL.GE.3)WRITE(FDEBUG,801)VOICE,IPITCH,IRMS,(IRC(J),J=1,ORDER) */
346 /* 801  FORMAT(1X,'<<ENCODE OUT>>',T32,2I3,I6,I5,T50,10I8) */
347     return 0;
348 } /* encode_ */
349