LCOV - code coverage report
Current view: directory - media/libvorbis/lib - vorbis_floor1.c (source / functions) Found Hit Coverage
Test: app.info Lines: 570 0 0.0 %
Date: 2012-06-02 Functions: 21 0 0.0 %

       1                 : /********************************************************************
       2                 :  *                                                                  *
       3                 :  * THIS FILE IS PART OF THE OggVorbis SOFTWARE CODEC SOURCE CODE.   *
       4                 :  * USE, DISTRIBUTION AND REPRODUCTION OF THIS LIBRARY SOURCE IS     *
       5                 :  * GOVERNED BY A BSD-STYLE SOURCE LICENSE INCLUDED WITH THIS SOURCE *
       6                 :  * IN 'COPYING'. PLEASE READ THESE TERMS BEFORE DISTRIBUTING.       *
       7                 :  *                                                                  *
       8                 :  * THE OggVorbis SOURCE CODE IS (C) COPYRIGHT 1994-2009             *
       9                 :  * by the Xiph.Org Foundation http://www.xiph.org/                  *
      10                 :  *                                                                  *
      11                 :  ********************************************************************
      12                 : 
      13                 :  function: floor backend 1 implementation
      14                 :  last mod: $Id: floor1.c 17688 2010-11-29 23:53:30Z tterribe $
      15                 : 
      16                 :  ********************************************************************/
      17                 : 
      18                 : #include <stdlib.h>
      19                 : #include <string.h>
      20                 : #include <math.h>
      21                 : #include <ogg/ogg.h>
      22                 : #include "vorbis/codec.h"
      23                 : #include "codec_internal.h"
      24                 : #include "registry.h"
      25                 : #include "codebook.h"
      26                 : #include "misc.h"
      27                 : #include "scales.h"
      28                 : 
      29                 : #include <stdio.h>
      30                 : 
      31                 : #define floor1_rangedB 140 /* floor 1 fixed at -140dB to 0dB range */
      32                 : 
      33                 : typedef struct lsfit_acc{
      34                 :   int x0;
      35                 :   int x1;
      36                 : 
      37                 :   int xa;
      38                 :   int ya;
      39                 :   int x2a;
      40                 :   int y2a;
      41                 :   int xya;
      42                 :   int an;
      43                 : 
      44                 :   int xb;
      45                 :   int yb;
      46                 :   int x2b;
      47                 :   int y2b;
      48                 :   int xyb;
      49                 :   int bn;
      50                 : } lsfit_acc;
      51                 : 
      52                 : /***********************************************/
      53                 : 
      54               0 : static void floor1_free_info(vorbis_info_floor *i){
      55               0 :   vorbis_info_floor1 *info=(vorbis_info_floor1 *)i;
      56               0 :   if(info){
      57               0 :     memset(info,0,sizeof(*info));
      58               0 :     _ogg_free(info);
      59                 :   }
      60               0 : }
      61                 : 
      62               0 : static void floor1_free_look(vorbis_look_floor *i){
      63               0 :   vorbis_look_floor1 *look=(vorbis_look_floor1 *)i;
      64               0 :   if(look){
      65                 :     /*fprintf(stderr,"floor 1 bit usage %f:%f (%f total)\n",
      66                 :             (float)look->phrasebits/look->frames,
      67                 :             (float)look->postbits/look->frames,
      68                 :             (float)(look->postbits+look->phrasebits)/look->frames);*/
      69                 : 
      70               0 :     memset(look,0,sizeof(*look));
      71               0 :     _ogg_free(look);
      72                 :   }
      73               0 : }
      74                 : 
      75               0 : static int ilog(unsigned int v){
      76               0 :   int ret=0;
      77               0 :   while(v){
      78               0 :     ret++;
      79               0 :     v>>=1;
      80                 :   }
      81               0 :   return(ret);
      82                 : }
      83                 : 
      84               0 : static int ilog2(unsigned int v){
      85               0 :   int ret=0;
      86               0 :   if(v)--v;
      87               0 :   while(v){
      88               0 :     ret++;
      89               0 :     v>>=1;
      90                 :   }
      91               0 :   return(ret);
      92                 : }
      93                 : 
      94               0 : static void floor1_pack (vorbis_info_floor *i,oggpack_buffer *opb){
      95               0 :   vorbis_info_floor1 *info=(vorbis_info_floor1 *)i;
      96                 :   int j,k;
      97               0 :   int count=0;
      98                 :   int rangebits;
      99               0 :   int maxposit=info->postlist[1];
     100               0 :   int maxclass=-1;
     101                 : 
     102                 :   /* save out partitions */
     103               0 :   oggpack_write(opb,info->partitions,5); /* only 0 to 31 legal */
     104               0 :   for(j=0;j<info->partitions;j++){
     105               0 :     oggpack_write(opb,info->partitionclass[j],4); /* only 0 to 15 legal */
     106               0 :     if(maxclass<info->partitionclass[j])maxclass=info->partitionclass[j];
     107                 :   }
     108                 : 
     109                 :   /* save out partition classes */
     110               0 :   for(j=0;j<maxclass+1;j++){
     111               0 :     oggpack_write(opb,info->class_dim[j]-1,3); /* 1 to 8 */
     112               0 :     oggpack_write(opb,info->class_subs[j],2); /* 0 to 3 */
     113               0 :     if(info->class_subs[j])oggpack_write(opb,info->class_book[j],8);
     114               0 :     for(k=0;k<(1<<info->class_subs[j]);k++)
     115               0 :       oggpack_write(opb,info->class_subbook[j][k]+1,8);
     116                 :   }
     117                 : 
     118                 :   /* save out the post list */
     119               0 :   oggpack_write(opb,info->mult-1,2);     /* only 1,2,3,4 legal now */
     120               0 :   oggpack_write(opb,ilog2(maxposit),4);
     121               0 :   rangebits=ilog2(maxposit);
     122                 : 
     123               0 :   for(j=0,k=0;j<info->partitions;j++){
     124               0 :     count+=info->class_dim[info->partitionclass[j]];
     125               0 :     for(;k<count;k++)
     126               0 :       oggpack_write(opb,info->postlist[k+2],rangebits);
     127                 :   }
     128               0 : }
     129                 : 
     130               0 : static int icomp(const void *a,const void *b){
     131               0 :   return(**(int **)a-**(int **)b);
     132                 : }
     133                 : 
     134               0 : static vorbis_info_floor *floor1_unpack (vorbis_info *vi,oggpack_buffer *opb){
     135               0 :   codec_setup_info     *ci=vi->codec_setup;
     136               0 :   int j,k,count=0,maxclass=-1,rangebits;
     137                 : 
     138               0 :   vorbis_info_floor1 *info=_ogg_calloc(1,sizeof(*info));
     139                 :   /* read partitions */
     140               0 :   info->partitions=oggpack_read(opb,5); /* only 0 to 31 legal */
     141               0 :   for(j=0;j<info->partitions;j++){
     142               0 :     info->partitionclass[j]=oggpack_read(opb,4); /* only 0 to 15 legal */
     143               0 :     if(info->partitionclass[j]<0)goto err_out;
     144               0 :     if(maxclass<info->partitionclass[j])maxclass=info->partitionclass[j];
     145                 :   }
     146                 : 
     147                 :   /* read partition classes */
     148               0 :   for(j=0;j<maxclass+1;j++){
     149               0 :     info->class_dim[j]=oggpack_read(opb,3)+1; /* 1 to 8 */
     150               0 :     info->class_subs[j]=oggpack_read(opb,2); /* 0,1,2,3 bits */
     151               0 :     if(info->class_subs[j]<0)
     152               0 :       goto err_out;
     153               0 :     if(info->class_subs[j])info->class_book[j]=oggpack_read(opb,8);
     154               0 :     if(info->class_book[j]<0 || info->class_book[j]>=ci->books)
     155                 :       goto err_out;
     156               0 :     for(k=0;k<(1<<info->class_subs[j]);k++){
     157               0 :       info->class_subbook[j][k]=oggpack_read(opb,8)-1;
     158               0 :       if(info->class_subbook[j][k]<-1 || info->class_subbook[j][k]>=ci->books)
     159                 :         goto err_out;
     160                 :     }
     161                 :   }
     162                 : 
     163                 :   /* read the post list */
     164               0 :   info->mult=oggpack_read(opb,2)+1;     /* only 1,2,3,4 legal now */
     165               0 :   rangebits=oggpack_read(opb,4);
     166               0 :   if(rangebits<0)goto err_out;
     167                 : 
     168               0 :   for(j=0,k=0;j<info->partitions;j++){
     169               0 :     count+=info->class_dim[info->partitionclass[j]];
     170               0 :     if(count>VIF_POSIT) goto err_out;
     171               0 :     for(;k<count;k++){
     172               0 :       int t=info->postlist[k+2]=oggpack_read(opb,rangebits);
     173               0 :       if(t<0 || t>=(1<<rangebits))
     174                 :         goto err_out;
     175                 :     }
     176                 :   }
     177               0 :   info->postlist[0]=0;
     178               0 :   info->postlist[1]=1<<rangebits;
     179                 : 
     180                 :   /* don't allow repeated values in post list as they'd result in
     181                 :      zero-length segments */
     182                 :   {
     183                 :     int *sortpointer[VIF_POSIT+2];
     184               0 :     for(j=0;j<count+2;j++)sortpointer[j]=info->postlist+j;
     185               0 :     qsort(sortpointer,count+2,sizeof(*sortpointer),icomp);
     186                 : 
     187               0 :     for(j=1;j<count+2;j++)
     188               0 :       if(*sortpointer[j-1]==*sortpointer[j])goto err_out;
     189                 :   }
     190                 : 
     191               0 :   return(info);
     192                 : 
     193                 :  err_out:
     194               0 :   floor1_free_info(info);
     195               0 :   return(NULL);
     196                 : }
     197                 : 
     198               0 : static vorbis_look_floor *floor1_look(vorbis_dsp_state *vd,
     199                 :                                       vorbis_info_floor *in){
     200                 : 
     201                 :   int *sortpointer[VIF_POSIT+2];
     202               0 :   vorbis_info_floor1 *info=(vorbis_info_floor1 *)in;
     203               0 :   vorbis_look_floor1 *look=_ogg_calloc(1,sizeof(*look));
     204               0 :   int i,j,n=0;
     205                 : 
     206               0 :   look->vi=info;
     207               0 :   look->n=info->postlist[1];
     208                 : 
     209                 :   /* we drop each position value in-between already decoded values,
     210                 :      and use linear interpolation to predict each new value past the
     211                 :      edges.  The positions are read in the order of the position
     212                 :      list... we precompute the bounding positions in the lookup.  Of
     213                 :      course, the neighbors can change (if a position is declined), but
     214                 :      this is an initial mapping */
     215                 : 
     216               0 :   for(i=0;i<info->partitions;i++)n+=info->class_dim[info->partitionclass[i]];
     217               0 :   n+=2;
     218               0 :   look->posts=n;
     219                 : 
     220                 :   /* also store a sorted position index */
     221               0 :   for(i=0;i<n;i++)sortpointer[i]=info->postlist+i;
     222               0 :   qsort(sortpointer,n,sizeof(*sortpointer),icomp);
     223                 : 
     224                 :   /* points from sort order back to range number */
     225               0 :   for(i=0;i<n;i++)look->forward_index[i]=sortpointer[i]-info->postlist;
     226                 :   /* points from range order to sorted position */
     227               0 :   for(i=0;i<n;i++)look->reverse_index[look->forward_index[i]]=i;
     228                 :   /* we actually need the post values too */
     229               0 :   for(i=0;i<n;i++)look->sorted_index[i]=info->postlist[look->forward_index[i]];
     230                 : 
     231                 :   /* quantize values to multiplier spec */
     232               0 :   switch(info->mult){
     233                 :   case 1: /* 1024 -> 256 */
     234               0 :     look->quant_q=256;
     235               0 :     break;
     236                 :   case 2: /* 1024 -> 128 */
     237               0 :     look->quant_q=128;
     238               0 :     break;
     239                 :   case 3: /* 1024 -> 86 */
     240               0 :     look->quant_q=86;
     241               0 :     break;
     242                 :   case 4: /* 1024 -> 64 */
     243               0 :     look->quant_q=64;
     244               0 :     break;
     245                 :   }
     246                 : 
     247                 :   /* discover our neighbors for decode where we don't use fit flags
     248                 :      (that would push the neighbors outward) */
     249               0 :   for(i=0;i<n-2;i++){
     250               0 :     int lo=0;
     251               0 :     int hi=1;
     252               0 :     int lx=0;
     253               0 :     int hx=look->n;
     254               0 :     int currentx=info->postlist[i+2];
     255               0 :     for(j=0;j<i+2;j++){
     256               0 :       int x=info->postlist[j];
     257               0 :       if(x>lx && x<currentx){
     258               0 :         lo=j;
     259               0 :         lx=x;
     260                 :       }
     261               0 :       if(x<hx && x>currentx){
     262               0 :         hi=j;
     263               0 :         hx=x;
     264                 :       }
     265                 :     }
     266               0 :     look->loneighbor[i]=lo;
     267               0 :     look->hineighbor[i]=hi;
     268                 :   }
     269                 : 
     270               0 :   return(look);
     271                 : }
     272                 : 
     273               0 : static int render_point(int x0,int x1,int y0,int y1,int x){
     274               0 :   y0&=0x7fff; /* mask off flag */
     275               0 :   y1&=0x7fff;
     276                 : 
     277                 :   {
     278               0 :     int dy=y1-y0;
     279               0 :     int adx=x1-x0;
     280               0 :     int ady=abs(dy);
     281               0 :     int err=ady*(x-x0);
     282                 : 
     283               0 :     int off=err/adx;
     284               0 :     if(dy<0)return(y0-off);
     285               0 :     return(y0+off);
     286                 :   }
     287                 : }
     288                 : 
     289               0 : static int vorbis_dBquant(const float *x){
     290               0 :   int i= *x*7.3142857f+1023.5f;
     291               0 :   if(i>1023)return(1023);
     292               0 :   if(i<0)return(0);
     293               0 :   return i;
     294                 : }
     295                 : 
     296                 : static const float FLOOR1_fromdB_LOOKUP[256]={
     297                 :   1.0649863e-07F, 1.1341951e-07F, 1.2079015e-07F, 1.2863978e-07F,
     298                 :   1.3699951e-07F, 1.4590251e-07F, 1.5538408e-07F, 1.6548181e-07F,
     299                 :   1.7623575e-07F, 1.8768855e-07F, 1.9988561e-07F, 2.128753e-07F,
     300                 :   2.2670913e-07F, 2.4144197e-07F, 2.5713223e-07F, 2.7384213e-07F,
     301                 :   2.9163793e-07F, 3.1059021e-07F, 3.3077411e-07F, 3.5226968e-07F,
     302                 :   3.7516214e-07F, 3.9954229e-07F, 4.2550680e-07F, 4.5315863e-07F,
     303                 :   4.8260743e-07F, 5.1396998e-07F, 5.4737065e-07F, 5.8294187e-07F,
     304                 :   6.2082472e-07F, 6.6116941e-07F, 7.0413592e-07F, 7.4989464e-07F,
     305                 :   7.9862701e-07F, 8.5052630e-07F, 9.0579828e-07F, 9.6466216e-07F,
     306                 :   1.0273513e-06F, 1.0941144e-06F, 1.1652161e-06F, 1.2409384e-06F,
     307                 :   1.3215816e-06F, 1.4074654e-06F, 1.4989305e-06F, 1.5963394e-06F,
     308                 :   1.7000785e-06F, 1.8105592e-06F, 1.9282195e-06F, 2.0535261e-06F,
     309                 :   2.1869758e-06F, 2.3290978e-06F, 2.4804557e-06F, 2.6416497e-06F,
     310                 :   2.8133190e-06F, 2.9961443e-06F, 3.1908506e-06F, 3.3982101e-06F,
     311                 :   3.6190449e-06F, 3.8542308e-06F, 4.1047004e-06F, 4.3714470e-06F,
     312                 :   4.6555282e-06F, 4.9580707e-06F, 5.2802740e-06F, 5.6234160e-06F,
     313                 :   5.9888572e-06F, 6.3780469e-06F, 6.7925283e-06F, 7.2339451e-06F,
     314                 :   7.7040476e-06F, 8.2047000e-06F, 8.7378876e-06F, 9.3057248e-06F,
     315                 :   9.9104632e-06F, 1.0554501e-05F, 1.1240392e-05F, 1.1970856e-05F,
     316                 :   1.2748789e-05F, 1.3577278e-05F, 1.4459606e-05F, 1.5399272e-05F,
     317                 :   1.6400004e-05F, 1.7465768e-05F, 1.8600792e-05F, 1.9809576e-05F,
     318                 :   2.1096914e-05F, 2.2467911e-05F, 2.3928002e-05F, 2.5482978e-05F,
     319                 :   2.7139006e-05F, 2.8902651e-05F, 3.0780908e-05F, 3.2781225e-05F,
     320                 :   3.4911534e-05F, 3.7180282e-05F, 3.9596466e-05F, 4.2169667e-05F,
     321                 :   4.4910090e-05F, 4.7828601e-05F, 5.0936773e-05F, 5.4246931e-05F,
     322                 :   5.7772202e-05F, 6.1526565e-05F, 6.5524908e-05F, 6.9783085e-05F,
     323                 :   7.4317983e-05F, 7.9147585e-05F, 8.4291040e-05F, 8.9768747e-05F,
     324                 :   9.5602426e-05F, 0.00010181521F, 0.00010843174F, 0.00011547824F,
     325                 :   0.00012298267F, 0.00013097477F, 0.00013948625F, 0.00014855085F,
     326                 :   0.00015820453F, 0.00016848555F, 0.00017943469F, 0.00019109536F,
     327                 :   0.00020351382F, 0.00021673929F, 0.00023082423F, 0.00024582449F,
     328                 :   0.00026179955F, 0.00027881276F, 0.00029693158F, 0.00031622787F,
     329                 :   0.00033677814F, 0.00035866388F, 0.00038197188F, 0.00040679456F,
     330                 :   0.00043323036F, 0.00046138411F, 0.00049136745F, 0.00052329927F,
     331                 :   0.00055730621F, 0.00059352311F, 0.00063209358F, 0.00067317058F,
     332                 :   0.00071691700F, 0.00076350630F, 0.00081312324F, 0.00086596457F,
     333                 :   0.00092223983F, 0.00098217216F, 0.0010459992F, 0.0011139742F,
     334                 :   0.0011863665F, 0.0012634633F, 0.0013455702F, 0.0014330129F,
     335                 :   0.0015261382F, 0.0016253153F, 0.0017309374F, 0.0018434235F,
     336                 :   0.0019632195F, 0.0020908006F, 0.0022266726F, 0.0023713743F,
     337                 :   0.0025254795F, 0.0026895994F, 0.0028643847F, 0.0030505286F,
     338                 :   0.0032487691F, 0.0034598925F, 0.0036847358F, 0.0039241906F,
     339                 :   0.0041792066F, 0.0044507950F, 0.0047400328F, 0.0050480668F,
     340                 :   0.0053761186F, 0.0057254891F, 0.0060975636F, 0.0064938176F,
     341                 :   0.0069158225F, 0.0073652516F, 0.0078438871F, 0.0083536271F,
     342                 :   0.0088964928F, 0.009474637F, 0.010090352F, 0.010746080F,
     343                 :   0.011444421F, 0.012188144F, 0.012980198F, 0.013823725F,
     344                 :   0.014722068F, 0.015678791F, 0.016697687F, 0.017782797F,
     345                 :   0.018938423F, 0.020169149F, 0.021479854F, 0.022875735F,
     346                 :   0.024362330F, 0.025945531F, 0.027631618F, 0.029427276F,
     347                 :   0.031339626F, 0.033376252F, 0.035545228F, 0.037855157F,
     348                 :   0.040315199F, 0.042935108F, 0.045725273F, 0.048696758F,
     349                 :   0.051861348F, 0.055231591F, 0.058820850F, 0.062643361F,
     350                 :   0.066714279F, 0.071049749F, 0.075666962F, 0.080584227F,
     351                 :   0.085821044F, 0.091398179F, 0.097337747F, 0.10366330F,
     352                 :   0.11039993F, 0.11757434F, 0.12521498F, 0.13335215F,
     353                 :   0.14201813F, 0.15124727F, 0.16107617F, 0.17154380F,
     354                 :   0.18269168F, 0.19456402F, 0.20720788F, 0.22067342F,
     355                 :   0.23501402F, 0.25028656F, 0.26655159F, 0.28387361F,
     356                 :   0.30232132F, 0.32196786F, 0.34289114F, 0.36517414F,
     357                 :   0.38890521F, 0.41417847F, 0.44109412F, 0.46975890F,
     358                 :   0.50028648F, 0.53279791F, 0.56742212F, 0.60429640F,
     359                 :   0.64356699F, 0.68538959F, 0.72993007F, 0.77736504F,
     360                 :   0.82788260F, 0.88168307F, 0.9389798F, 1.F,
     361                 : };
     362                 : 
     363               0 : static void render_line(int n, int x0,int x1,int y0,int y1,float *d){
     364               0 :   int dy=y1-y0;
     365               0 :   int adx=x1-x0;
     366               0 :   int ady=abs(dy);
     367               0 :   int base=dy/adx;
     368               0 :   int sy=(dy<0?base-1:base+1);
     369               0 :   int x=x0;
     370               0 :   int y=y0;
     371               0 :   int err=0;
     372                 : 
     373               0 :   ady-=abs(base*adx);
     374                 : 
     375               0 :   if(n>x1)n=x1;
     376                 : 
     377               0 :   if(x<n)
     378               0 :     d[x]*=FLOOR1_fromdB_LOOKUP[y];
     379                 : 
     380               0 :   while(++x<n){
     381               0 :     err=err+ady;
     382               0 :     if(err>=adx){
     383               0 :       err-=adx;
     384               0 :       y+=sy;
     385                 :     }else{
     386               0 :       y+=base;
     387                 :     }
     388               0 :     d[x]*=FLOOR1_fromdB_LOOKUP[y];
     389                 :   }
     390               0 : }
     391                 : 
     392               0 : static void render_line0(int n, int x0,int x1,int y0,int y1,int *d){
     393               0 :   int dy=y1-y0;
     394               0 :   int adx=x1-x0;
     395               0 :   int ady=abs(dy);
     396               0 :   int base=dy/adx;
     397               0 :   int sy=(dy<0?base-1:base+1);
     398               0 :   int x=x0;
     399               0 :   int y=y0;
     400               0 :   int err=0;
     401                 : 
     402               0 :   ady-=abs(base*adx);
     403                 : 
     404               0 :   if(n>x1)n=x1;
     405                 : 
     406               0 :   if(x<n)
     407               0 :     d[x]=y;
     408                 : 
     409               0 :   while(++x<n){
     410               0 :     err=err+ady;
     411               0 :     if(err>=adx){
     412               0 :       err-=adx;
     413               0 :       y+=sy;
     414                 :     }else{
     415               0 :       y+=base;
     416                 :     }
     417               0 :     d[x]=y;
     418                 :   }
     419               0 : }
     420                 : 
     421                 : /* the floor has already been filtered to only include relevant sections */
     422               0 : static int accumulate_fit(const float *flr,const float *mdct,
     423                 :                           int x0, int x1,lsfit_acc *a,
     424                 :                           int n,vorbis_info_floor1 *info){
     425                 :   long i;
     426                 : 
     427               0 :   int xa=0,ya=0,x2a=0,y2a=0,xya=0,na=0, xb=0,yb=0,x2b=0,y2b=0,xyb=0,nb=0;
     428                 : 
     429               0 :   memset(a,0,sizeof(*a));
     430               0 :   a->x0=x0;
     431               0 :   a->x1=x1;
     432               0 :   if(x1>=n)x1=n-1;
     433                 : 
     434               0 :   for(i=x0;i<=x1;i++){
     435               0 :     int quantized=vorbis_dBquant(flr+i);
     436               0 :     if(quantized){
     437               0 :       if(mdct[i]+info->twofitatten>=flr[i]){
     438               0 :         xa  += i;
     439               0 :         ya  += quantized;
     440               0 :         x2a += i*i;
     441               0 :         y2a += quantized*quantized;
     442               0 :         xya += i*quantized;
     443               0 :         na++;
     444                 :       }else{
     445               0 :         xb  += i;
     446               0 :         yb  += quantized;
     447               0 :         x2b += i*i;
     448               0 :         y2b += quantized*quantized;
     449               0 :         xyb += i*quantized;
     450               0 :         nb++;
     451                 :       }
     452                 :     }
     453                 :   }
     454                 : 
     455               0 :   a->xa=xa;
     456               0 :   a->ya=ya;
     457               0 :   a->x2a=x2a;
     458               0 :   a->y2a=y2a;
     459               0 :   a->xya=xya;
     460               0 :   a->an=na;
     461                 : 
     462               0 :   a->xb=xb;
     463               0 :   a->yb=yb;
     464               0 :   a->x2b=x2b;
     465               0 :   a->y2b=y2b;
     466               0 :   a->xyb=xyb;
     467               0 :   a->bn=nb;
     468                 : 
     469               0 :   return(na);
     470                 : }
     471                 : 
     472               0 : static int fit_line(lsfit_acc *a,int fits,int *y0,int *y1,
     473                 :                     vorbis_info_floor1 *info){
     474               0 :   double xb=0,yb=0,x2b=0,y2b=0,xyb=0,bn=0;
     475                 :   int i;
     476               0 :   int x0=a[0].x0;
     477               0 :   int x1=a[fits-1].x1;
     478                 : 
     479               0 :   for(i=0;i<fits;i++){
     480               0 :     double weight = (a[i].bn+a[i].an)*info->twofitweight/(a[i].an+1)+1.;
     481                 : 
     482               0 :     xb+=a[i].xb + a[i].xa * weight;
     483               0 :     yb+=a[i].yb + a[i].ya * weight;
     484               0 :     x2b+=a[i].x2b + a[i].x2a * weight;
     485               0 :     y2b+=a[i].y2b + a[i].y2a * weight;
     486               0 :     xyb+=a[i].xyb + a[i].xya * weight;
     487               0 :     bn+=a[i].bn + a[i].an * weight;
     488                 :   }
     489                 : 
     490               0 :   if(*y0>=0){
     491               0 :     xb+=   x0;
     492               0 :     yb+=  *y0;
     493               0 :     x2b+=  x0 *  x0;
     494               0 :     y2b+= *y0 * *y0;
     495               0 :     xyb+= *y0 *  x0;
     496               0 :     bn++;
     497                 :   }
     498                 : 
     499               0 :   if(*y1>=0){
     500               0 :     xb+=   x1;
     501               0 :     yb+=  *y1;
     502               0 :     x2b+=  x1 *  x1;
     503               0 :     y2b+= *y1 * *y1;
     504               0 :     xyb+= *y1 *  x1;
     505               0 :     bn++;
     506                 :   }
     507                 : 
     508                 :   {
     509               0 :     double denom=(bn*x2b-xb*xb);
     510                 : 
     511               0 :     if(denom>0.){
     512               0 :       double a=(yb*x2b-xyb*xb)/denom;
     513               0 :       double b=(bn*xyb-xb*yb)/denom;
     514               0 :       *y0=rint(a+b*x0);
     515               0 :       *y1=rint(a+b*x1);
     516                 : 
     517                 :       /* limit to our range! */
     518               0 :       if(*y0>1023)*y0=1023;
     519               0 :       if(*y1>1023)*y1=1023;
     520               0 :       if(*y0<0)*y0=0;
     521               0 :       if(*y1<0)*y1=0;
     522                 : 
     523               0 :       return 0;
     524                 :     }else{
     525               0 :       *y0=0;
     526               0 :       *y1=0;
     527               0 :       return 1;
     528                 :     }
     529                 :   }
     530                 : }
     531                 : 
     532               0 : static int inspect_error(int x0,int x1,int y0,int y1,const float *mask,
     533                 :                          const float *mdct,
     534                 :                          vorbis_info_floor1 *info){
     535               0 :   int dy=y1-y0;
     536               0 :   int adx=x1-x0;
     537               0 :   int ady=abs(dy);
     538               0 :   int base=dy/adx;
     539               0 :   int sy=(dy<0?base-1:base+1);
     540               0 :   int x=x0;
     541               0 :   int y=y0;
     542               0 :   int err=0;
     543               0 :   int val=vorbis_dBquant(mask+x);
     544               0 :   int mse=0;
     545               0 :   int n=0;
     546                 : 
     547               0 :   ady-=abs(base*adx);
     548                 : 
     549               0 :   mse=(y-val);
     550               0 :   mse*=mse;
     551               0 :   n++;
     552               0 :   if(mdct[x]+info->twofitatten>=mask[x]){
     553               0 :     if(y+info->maxover<val)return(1);
     554               0 :     if(y-info->maxunder>val)return(1);
     555                 :   }
     556                 : 
     557               0 :   while(++x<x1){
     558               0 :     err=err+ady;
     559               0 :     if(err>=adx){
     560               0 :       err-=adx;
     561               0 :       y+=sy;
     562                 :     }else{
     563               0 :       y+=base;
     564                 :     }
     565                 : 
     566               0 :     val=vorbis_dBquant(mask+x);
     567               0 :     mse+=((y-val)*(y-val));
     568               0 :     n++;
     569               0 :     if(mdct[x]+info->twofitatten>=mask[x]){
     570               0 :       if(val){
     571               0 :         if(y+info->maxover<val)return(1);
     572               0 :         if(y-info->maxunder>val)return(1);
     573                 :       }
     574                 :     }
     575                 :   }
     576                 : 
     577               0 :   if(info->maxover*info->maxover/n>info->maxerr)return(0);
     578               0 :   if(info->maxunder*info->maxunder/n>info->maxerr)return(0);
     579               0 :   if(mse/n>info->maxerr)return(1);
     580               0 :   return(0);
     581                 : }
     582                 : 
     583               0 : static int post_Y(int *A,int *B,int pos){
     584               0 :   if(A[pos]<0)
     585               0 :     return B[pos];
     586               0 :   if(B[pos]<0)
     587               0 :     return A[pos];
     588                 : 
     589               0 :   return (A[pos]+B[pos])>>1;
     590                 : }
     591                 : 
     592               0 : int *floor1_fit(vorbis_block *vb,vorbis_look_floor1 *look,
     593                 :                           const float *logmdct,   /* in */
     594                 :                           const float *logmask){
     595                 :   long i,j;
     596               0 :   vorbis_info_floor1 *info=look->vi;
     597               0 :   long n=look->n;
     598               0 :   long posts=look->posts;
     599               0 :   long nonzero=0;
     600                 :   lsfit_acc fits[VIF_POSIT+1];
     601                 :   int fit_valueA[VIF_POSIT+2]; /* index by range list position */
     602                 :   int fit_valueB[VIF_POSIT+2]; /* index by range list position */
     603                 : 
     604                 :   int loneighbor[VIF_POSIT+2]; /* sorted index of range list position (+2) */
     605                 :   int hineighbor[VIF_POSIT+2];
     606               0 :   int *output=NULL;
     607                 :   int memo[VIF_POSIT+2];
     608                 : 
     609               0 :   for(i=0;i<posts;i++)fit_valueA[i]=-200; /* mark all unused */
     610               0 :   for(i=0;i<posts;i++)fit_valueB[i]=-200; /* mark all unused */
     611               0 :   for(i=0;i<posts;i++)loneighbor[i]=0; /* 0 for the implicit 0 post */
     612               0 :   for(i=0;i<posts;i++)hineighbor[i]=1; /* 1 for the implicit post at n */
     613               0 :   for(i=0;i<posts;i++)memo[i]=-1;      /* no neighbor yet */
     614                 : 
     615                 :   /* quantize the relevant floor points and collect them into line fit
     616                 :      structures (one per minimal division) at the same time */
     617               0 :   if(posts==0){
     618               0 :     nonzero+=accumulate_fit(logmask,logmdct,0,n,fits,n,info);
     619                 :   }else{
     620               0 :     for(i=0;i<posts-1;i++)
     621               0 :       nonzero+=accumulate_fit(logmask,logmdct,look->sorted_index[i],
     622               0 :                               look->sorted_index[i+1],fits+i,
     623                 :                               n,info);
     624                 :   }
     625                 : 
     626               0 :   if(nonzero){
     627                 :     /* start by fitting the implicit base case.... */
     628               0 :     int y0=-200;
     629               0 :     int y1=-200;
     630               0 :     fit_line(fits,posts-1,&y0,&y1,info);
     631                 : 
     632               0 :     fit_valueA[0]=y0;
     633               0 :     fit_valueB[0]=y0;
     634               0 :     fit_valueB[1]=y1;
     635               0 :     fit_valueA[1]=y1;
     636                 : 
     637                 :     /* Non degenerate case */
     638                 :     /* start progressive splitting.  This is a greedy, non-optimal
     639                 :        algorithm, but simple and close enough to the best
     640                 :        answer. */
     641               0 :     for(i=2;i<posts;i++){
     642               0 :       int sortpos=look->reverse_index[i];
     643               0 :       int ln=loneighbor[sortpos];
     644               0 :       int hn=hineighbor[sortpos];
     645                 : 
     646                 :       /* eliminate repeat searches of a particular range with a memo */
     647               0 :       if(memo[ln]!=hn){
     648                 :         /* haven't performed this error search yet */
     649               0 :         int lsortpos=look->reverse_index[ln];
     650               0 :         int hsortpos=look->reverse_index[hn];
     651               0 :         memo[ln]=hn;
     652                 : 
     653                 :         {
     654                 :           /* A note: we want to bound/minimize *local*, not global, error */
     655               0 :           int lx=info->postlist[ln];
     656               0 :           int hx=info->postlist[hn];
     657               0 :           int ly=post_Y(fit_valueA,fit_valueB,ln);
     658               0 :           int hy=post_Y(fit_valueA,fit_valueB,hn);
     659                 : 
     660               0 :           if(ly==-1 || hy==-1){
     661               0 :             exit(1);
     662                 :           }
     663                 : 
     664               0 :           if(inspect_error(lx,hx,ly,hy,logmask,logmdct,info)){
     665                 :             /* outside error bounds/begin search area.  Split it. */
     666               0 :             int ly0=-200;
     667               0 :             int ly1=-200;
     668               0 :             int hy0=-200;
     669               0 :             int hy1=-200;
     670               0 :             int ret0=fit_line(fits+lsortpos,sortpos-lsortpos,&ly0,&ly1,info);
     671               0 :             int ret1=fit_line(fits+sortpos,hsortpos-sortpos,&hy0,&hy1,info);
     672                 : 
     673               0 :             if(ret0){
     674               0 :               ly0=ly;
     675               0 :               ly1=hy0;
     676                 :             }
     677               0 :             if(ret1){
     678               0 :               hy0=ly1;
     679               0 :               hy1=hy;
     680                 :             }
     681                 : 
     682               0 :             if(ret0 && ret1){
     683               0 :               fit_valueA[i]=-200;
     684               0 :               fit_valueB[i]=-200;
     685                 :             }else{
     686                 :               /* store new edge values */
     687               0 :               fit_valueB[ln]=ly0;
     688               0 :               if(ln==0)fit_valueA[ln]=ly0;
     689               0 :               fit_valueA[i]=ly1;
     690               0 :               fit_valueB[i]=hy0;
     691               0 :               fit_valueA[hn]=hy1;
     692               0 :               if(hn==1)fit_valueB[hn]=hy1;
     693                 : 
     694               0 :               if(ly1>=0 || hy0>=0){
     695                 :                 /* store new neighbor values */
     696               0 :                 for(j=sortpos-1;j>=0;j--)
     697               0 :                   if(hineighbor[j]==hn)
     698               0 :                     hineighbor[j]=i;
     699                 :                   else
     700               0 :                     break;
     701               0 :                 for(j=sortpos+1;j<posts;j++)
     702               0 :                   if(loneighbor[j]==ln)
     703               0 :                     loneighbor[j]=i;
     704                 :                   else
     705               0 :                     break;
     706                 :               }
     707                 :             }
     708                 :           }else{
     709               0 :             fit_valueA[i]=-200;
     710               0 :             fit_valueB[i]=-200;
     711                 :           }
     712                 :         }
     713                 :       }
     714                 :     }
     715                 : 
     716               0 :     output=_vorbis_block_alloc(vb,sizeof(*output)*posts);
     717                 : 
     718               0 :     output[0]=post_Y(fit_valueA,fit_valueB,0);
     719               0 :     output[1]=post_Y(fit_valueA,fit_valueB,1);
     720                 : 
     721                 :     /* fill in posts marked as not using a fit; we will zero
     722                 :        back out to 'unused' when encoding them so long as curve
     723                 :        interpolation doesn't force them into use */
     724               0 :     for(i=2;i<posts;i++){
     725               0 :       int ln=look->loneighbor[i-2];
     726               0 :       int hn=look->hineighbor[i-2];
     727               0 :       int x0=info->postlist[ln];
     728               0 :       int x1=info->postlist[hn];
     729               0 :       int y0=output[ln];
     730               0 :       int y1=output[hn];
     731                 : 
     732               0 :       int predicted=render_point(x0,x1,y0,y1,info->postlist[i]);
     733               0 :       int vx=post_Y(fit_valueA,fit_valueB,i);
     734                 : 
     735               0 :       if(vx>=0 && predicted!=vx){
     736               0 :         output[i]=vx;
     737                 :       }else{
     738               0 :         output[i]= predicted|0x8000;
     739                 :       }
     740                 :     }
     741                 :   }
     742                 : 
     743               0 :   return(output);
     744                 : 
     745                 : }
     746                 : 
     747               0 : int *floor1_interpolate_fit(vorbis_block *vb,vorbis_look_floor1 *look,
     748                 :                           int *A,int *B,
     749                 :                           int del){
     750                 : 
     751                 :   long i;
     752               0 :   long posts=look->posts;
     753               0 :   int *output=NULL;
     754                 : 
     755               0 :   if(A && B){
     756               0 :     output=_vorbis_block_alloc(vb,sizeof(*output)*posts);
     757                 : 
     758                 :     /* overly simpleminded--- look again post 1.2 */
     759               0 :     for(i=0;i<posts;i++){
     760               0 :       output[i]=((65536-del)*(A[i]&0x7fff)+del*(B[i]&0x7fff)+32768)>>16;
     761               0 :       if(A[i]&0x8000 && B[i]&0x8000)output[i]|=0x8000;
     762                 :     }
     763                 :   }
     764                 : 
     765               0 :   return(output);
     766                 : }
     767                 : 
     768                 : 
     769               0 : int floor1_encode(oggpack_buffer *opb,vorbis_block *vb,
     770                 :                   vorbis_look_floor1 *look,
     771                 :                   int *post,int *ilogmask){
     772                 : 
     773                 :   long i,j;
     774               0 :   vorbis_info_floor1 *info=look->vi;
     775               0 :   long posts=look->posts;
     776               0 :   codec_setup_info *ci=vb->vd->vi->codec_setup;
     777                 :   int out[VIF_POSIT+2];
     778               0 :   static_codebook **sbooks=ci->book_param;
     779               0 :   codebook *books=ci->fullbooks;
     780                 : 
     781                 :   /* quantize values to multiplier spec */
     782               0 :   if(post){
     783               0 :     for(i=0;i<posts;i++){
     784               0 :       int val=post[i]&0x7fff;
     785               0 :       switch(info->mult){
     786                 :       case 1: /* 1024 -> 256 */
     787               0 :         val>>=2;
     788               0 :         break;
     789                 :       case 2: /* 1024 -> 128 */
     790               0 :         val>>=3;
     791               0 :         break;
     792                 :       case 3: /* 1024 -> 86 */
     793               0 :         val/=12;
     794               0 :         break;
     795                 :       case 4: /* 1024 -> 64 */
     796               0 :         val>>=4;
     797               0 :         break;
     798                 :       }
     799               0 :       post[i]=val | (post[i]&0x8000);
     800                 :     }
     801                 : 
     802               0 :     out[0]=post[0];
     803               0 :     out[1]=post[1];
     804                 : 
     805                 :     /* find prediction values for each post and subtract them */
     806               0 :     for(i=2;i<posts;i++){
     807               0 :       int ln=look->loneighbor[i-2];
     808               0 :       int hn=look->hineighbor[i-2];
     809               0 :       int x0=info->postlist[ln];
     810               0 :       int x1=info->postlist[hn];
     811               0 :       int y0=post[ln];
     812               0 :       int y1=post[hn];
     813                 : 
     814               0 :       int predicted=render_point(x0,x1,y0,y1,info->postlist[i]);
     815                 : 
     816               0 :       if((post[i]&0x8000) || (predicted==post[i])){
     817               0 :         post[i]=predicted|0x8000; /* in case there was roundoff jitter
     818                 :                                      in interpolation */
     819               0 :         out[i]=0;
     820                 :       }else{
     821               0 :         int headroom=(look->quant_q-predicted<predicted?
     822               0 :                       look->quant_q-predicted:predicted);
     823                 : 
     824               0 :         int val=post[i]-predicted;
     825                 : 
     826                 :         /* at this point the 'deviation' value is in the range +/- max
     827                 :            range, but the real, unique range can always be mapped to
     828                 :            only [0-maxrange).  So we want to wrap the deviation into
     829                 :            this limited range, but do it in the way that least screws
     830                 :            an essentially gaussian probability distribution. */
     831                 : 
     832               0 :         if(val<0)
     833               0 :           if(val<-headroom)
     834               0 :             val=headroom-val-1;
     835                 :           else
     836               0 :             val=-1-(val<<1);
     837                 :         else
     838               0 :           if(val>=headroom)
     839               0 :             val= val+headroom;
     840                 :           else
     841               0 :             val<<=1;
     842                 : 
     843               0 :         out[i]=val;
     844               0 :         post[ln]&=0x7fff;
     845               0 :         post[hn]&=0x7fff;
     846                 :       }
     847                 :     }
     848                 : 
     849                 :     /* we have everything we need. pack it out */
     850                 :     /* mark nontrivial floor */
     851               0 :     oggpack_write(opb,1,1);
     852                 : 
     853                 :     /* beginning/end post */
     854               0 :     look->frames++;
     855               0 :     look->postbits+=ilog(look->quant_q-1)*2;
     856               0 :     oggpack_write(opb,out[0],ilog(look->quant_q-1));
     857               0 :     oggpack_write(opb,out[1],ilog(look->quant_q-1));
     858                 : 
     859                 : 
     860                 :     /* partition by partition */
     861               0 :     for(i=0,j=2;i<info->partitions;i++){
     862               0 :       int class=info->partitionclass[i];
     863               0 :       int cdim=info->class_dim[class];
     864               0 :       int csubbits=info->class_subs[class];
     865               0 :       int csub=1<<csubbits;
     866               0 :       int bookas[8]={0,0,0,0,0,0,0,0};
     867               0 :       int cval=0;
     868               0 :       int cshift=0;
     869                 :       int k,l;
     870                 : 
     871                 :       /* generate the partition's first stage cascade value */
     872               0 :       if(csubbits){
     873                 :         int maxval[8];
     874               0 :         for(k=0;k<csub;k++){
     875               0 :           int booknum=info->class_subbook[class][k];
     876               0 :           if(booknum<0){
     877               0 :             maxval[k]=1;
     878                 :           }else{
     879               0 :             maxval[k]=sbooks[info->class_subbook[class][k]]->entries;
     880                 :           }
     881                 :         }
     882               0 :         for(k=0;k<cdim;k++){
     883               0 :           for(l=0;l<csub;l++){
     884               0 :             int val=out[j+k];
     885               0 :             if(val<maxval[l]){
     886               0 :               bookas[k]=l;
     887               0 :               break;
     888                 :             }
     889                 :           }
     890               0 :           cval|= bookas[k]<<cshift;
     891               0 :           cshift+=csubbits;
     892                 :         }
     893                 :         /* write it */
     894               0 :         look->phrasebits+=
     895               0 :           vorbis_book_encode(books+info->class_book[class],cval,opb);
     896                 : 
     897                 : #ifdef TRAIN_FLOOR1
     898                 :         {
     899                 :           FILE *of;
     900                 :           char buffer[80];
     901                 :           sprintf(buffer,"line_%dx%ld_class%d.vqd",
     902                 :                   vb->pcmend/2,posts-2,class);
     903                 :           of=fopen(buffer,"a");
     904                 :           fprintf(of,"%d\n",cval);
     905                 :           fclose(of);
     906                 :         }
     907                 : #endif
     908                 :       }
     909                 : 
     910                 :       /* write post values */
     911               0 :       for(k=0;k<cdim;k++){
     912               0 :         int book=info->class_subbook[class][bookas[k]];
     913               0 :         if(book>=0){
     914                 :           /* hack to allow training with 'bad' books */
     915               0 :           if(out[j+k]<(books+book)->entries)
     916               0 :             look->postbits+=vorbis_book_encode(books+book,
     917               0 :                                                out[j+k],opb);
     918                 :           /*else
     919                 :             fprintf(stderr,"+!");*/
     920                 : 
     921                 : #ifdef TRAIN_FLOOR1
     922                 :           {
     923                 :             FILE *of;
     924                 :             char buffer[80];
     925                 :             sprintf(buffer,"line_%dx%ld_%dsub%d.vqd",
     926                 :                     vb->pcmend/2,posts-2,class,bookas[k]);
     927                 :             of=fopen(buffer,"a");
     928                 :             fprintf(of,"%d\n",out[j+k]);
     929                 :             fclose(of);
     930                 :           }
     931                 : #endif
     932                 :         }
     933                 :       }
     934               0 :       j+=cdim;
     935                 :     }
     936                 : 
     937                 :     {
     938                 :       /* generate quantized floor equivalent to what we'd unpack in decode */
     939                 :       /* render the lines */
     940               0 :       int hx=0;
     941               0 :       int lx=0;
     942               0 :       int ly=post[0]*info->mult;
     943               0 :       int n=ci->blocksizes[vb->W]/2;
     944                 : 
     945               0 :       for(j=1;j<look->posts;j++){
     946               0 :         int current=look->forward_index[j];
     947               0 :         int hy=post[current]&0x7fff;
     948               0 :         if(hy==post[current]){
     949                 : 
     950               0 :           hy*=info->mult;
     951               0 :           hx=info->postlist[current];
     952                 : 
     953               0 :           render_line0(n,lx,hx,ly,hy,ilogmask);
     954                 : 
     955               0 :           lx=hx;
     956               0 :           ly=hy;
     957                 :         }
     958                 :       }
     959               0 :       for(j=hx;j<vb->pcmend/2;j++)ilogmask[j]=ly; /* be certain */
     960               0 :       return(1);
     961                 :     }
     962                 :   }else{
     963               0 :     oggpack_write(opb,0,1);
     964               0 :     memset(ilogmask,0,vb->pcmend/2*sizeof(*ilogmask));
     965               0 :     return(0);
     966                 :   }
     967                 : }
     968                 : 
     969               0 : static void *floor1_inverse1(vorbis_block *vb,vorbis_look_floor *in){
     970               0 :   vorbis_look_floor1 *look=(vorbis_look_floor1 *)in;
     971               0 :   vorbis_info_floor1 *info=look->vi;
     972               0 :   codec_setup_info   *ci=vb->vd->vi->codec_setup;
     973                 : 
     974                 :   int i,j,k;
     975               0 :   codebook *books=ci->fullbooks;
     976                 : 
     977                 :   /* unpack wrapped/predicted values from stream */
     978               0 :   if(oggpack_read(&vb->opb,1)==1){
     979               0 :     int *fit_value=_vorbis_block_alloc(vb,(look->posts)*sizeof(*fit_value));
     980                 : 
     981               0 :     fit_value[0]=oggpack_read(&vb->opb,ilog(look->quant_q-1));
     982               0 :     fit_value[1]=oggpack_read(&vb->opb,ilog(look->quant_q-1));
     983                 : 
     984                 :     /* partition by partition */
     985               0 :     for(i=0,j=2;i<info->partitions;i++){
     986               0 :       int class=info->partitionclass[i];
     987               0 :       int cdim=info->class_dim[class];
     988               0 :       int csubbits=info->class_subs[class];
     989               0 :       int csub=1<<csubbits;
     990               0 :       int cval=0;
     991                 : 
     992                 :       /* decode the partition's first stage cascade value */
     993               0 :       if(csubbits){
     994               0 :         cval=vorbis_book_decode(books+info->class_book[class],&vb->opb);
     995                 : 
     996               0 :         if(cval==-1)goto eop;
     997                 :       }
     998                 : 
     999               0 :       for(k=0;k<cdim;k++){
    1000               0 :         int book=info->class_subbook[class][cval&(csub-1)];
    1001               0 :         cval>>=csubbits;
    1002               0 :         if(book>=0){
    1003               0 :           if((fit_value[j+k]=vorbis_book_decode(books+book,&vb->opb))==-1)
    1004               0 :             goto eop;
    1005                 :         }else{
    1006               0 :           fit_value[j+k]=0;
    1007                 :         }
    1008                 :       }
    1009               0 :       j+=cdim;
    1010                 :     }
    1011                 : 
    1012                 :     /* unwrap positive values and reconsitute via linear interpolation */
    1013               0 :     for(i=2;i<look->posts;i++){
    1014               0 :       int predicted=render_point(info->postlist[look->loneighbor[i-2]],
    1015               0 :                                  info->postlist[look->hineighbor[i-2]],
    1016               0 :                                  fit_value[look->loneighbor[i-2]],
    1017               0 :                                  fit_value[look->hineighbor[i-2]],
    1018                 :                                  info->postlist[i]);
    1019               0 :       int hiroom=look->quant_q-predicted;
    1020               0 :       int loroom=predicted;
    1021               0 :       int room=(hiroom<loroom?hiroom:loroom)<<1;
    1022               0 :       int val=fit_value[i];
    1023                 : 
    1024               0 :       if(val){
    1025               0 :         if(val>=room){
    1026               0 :           if(hiroom>loroom){
    1027               0 :             val = val-loroom;
    1028                 :           }else{
    1029               0 :             val = -1-(val-hiroom);
    1030                 :           }
    1031                 :         }else{
    1032               0 :           if(val&1){
    1033               0 :             val= -((val+1)>>1);
    1034                 :           }else{
    1035               0 :             val>>=1;
    1036                 :           }
    1037                 :         }
    1038                 : 
    1039               0 :         fit_value[i]=(val+predicted)&0x7fff;
    1040               0 :         fit_value[look->loneighbor[i-2]]&=0x7fff;
    1041               0 :         fit_value[look->hineighbor[i-2]]&=0x7fff;
    1042                 : 
    1043                 :       }else{
    1044               0 :         fit_value[i]=predicted|0x8000;
    1045                 :       }
    1046                 : 
    1047                 :     }
    1048                 : 
    1049               0 :     return(fit_value);
    1050                 :   }
    1051                 :  eop:
    1052               0 :   return(NULL);
    1053                 : }
    1054                 : 
    1055               0 : static int floor1_inverse2(vorbis_block *vb,vorbis_look_floor *in,void *memo,
    1056                 :                           float *out){
    1057               0 :   vorbis_look_floor1 *look=(vorbis_look_floor1 *)in;
    1058               0 :   vorbis_info_floor1 *info=look->vi;
    1059                 : 
    1060               0 :   codec_setup_info   *ci=vb->vd->vi->codec_setup;
    1061               0 :   int                  n=ci->blocksizes[vb->W]/2;
    1062                 :   int j;
    1063                 : 
    1064               0 :   if(memo){
    1065                 :     /* render the lines */
    1066               0 :     int *fit_value=(int *)memo;
    1067               0 :     int hx=0;
    1068               0 :     int lx=0;
    1069               0 :     int ly=fit_value[0]*info->mult;
    1070                 :     /* guard lookup against out-of-range values */
    1071               0 :     ly=(ly<0?0:ly>255?255:ly);
    1072                 : 
    1073               0 :     for(j=1;j<look->posts;j++){
    1074               0 :       int current=look->forward_index[j];
    1075               0 :       int hy=fit_value[current]&0x7fff;
    1076               0 :       if(hy==fit_value[current]){
    1077                 : 
    1078               0 :         hx=info->postlist[current];
    1079               0 :         hy*=info->mult;
    1080                 :         /* guard lookup against out-of-range values */
    1081               0 :         hy=(hy<0?0:hy>255?255:hy);
    1082                 : 
    1083               0 :         render_line(n,lx,hx,ly,hy,out);
    1084                 : 
    1085               0 :         lx=hx;
    1086               0 :         ly=hy;
    1087                 :       }
    1088                 :     }
    1089               0 :     for(j=hx;j<n;j++)out[j]*=FLOOR1_fromdB_LOOKUP[ly]; /* be certain */
    1090               0 :     return(1);
    1091                 :   }
    1092               0 :   memset(out,0,sizeof(*out)*n);
    1093               0 :   return(0);
    1094                 : }
    1095                 : 
    1096                 : /* export hooks */
    1097                 : const vorbis_func_floor floor1_exportbundle={
    1098                 :   &floor1_pack,&floor1_unpack,&floor1_look,&floor1_free_info,
    1099                 :   &floor1_free_look,&floor1_inverse1,&floor1_inverse2
    1100                 : };

Generated by: LCOV version 1.7