$ od -c -N 50000 [eris]<Speech>LEXICON>withgott>NEWIPR!4 0000000 S y m b o l i c A n a l y s i 0000020 s f o r A u t o m a t i c 0000040 S p e e c h R e c o g n i t i 0000060 o n \r \r \r \r A n e w a p p r 0000100 o a c h t o c o n t i n u o 0000120 u s s p e e c h r e c o g n 0000140 i t i o n \r \r A p p r o a c h e 0000160 s t o o r d i n a r y , c 0000200 o n t i n u o u s s p e e c h 0000220 r e c o g n i t i o n d i f 0000240 f e r a c c o r d i n g t o 0000260 w h e r e t h e y l o c a 0000300 t e t h e b o u n d a r y 0000320 b e t w e e n t h e a c o u 0000340 s t i c p r o c e s s i n g 0000360 t h a t p r o d u c e s s o 0000400 m e s y m b o l i c c h a r 0000420 a c t e r i z a t i o n o f 0000440 t h e s i g n a l a n d f 0000460 u r t h e r s y m b o l i c 0000500 p r o c e s s i n g o f t h 0000520 a t i n i t i a l d i s c r 0000540 e t e c h a r a c t e r i z a 0000560 t i o n . \r I n s o m e s y 0000600 s t e m s , f o r e x a m p 0000620 l e t h o s e u s i n g d 0000640 y n a m i c t i m e w a r p 0000660 i n g a n d r e f e r e n c 0000700 e t e m p l a t e m a t c h 0000720 i n g ( R a b i n e r & L 0000740 e v i n s o n , 1 9 8 1 ) , 0000760 a l l t h e w o r k i s 0001000 d o n e a t t h e s i g n 0001020 a l p r o c e s s i n g l e 0001040 v e l , w i t h a l m o s t 0001060 n o f u r t h e r s y m b 0001100 o l i c p r o c e s s i n g . 0001120 W h i l e t h e s e s y 0001140 s t e m s h a v e b e e n 0001160 q u i t e s u c c e s s f u l 0001200 a t r e c o g n i z i n g 0001220 w o r d s f r o m a f i x 0001240 e d l i s t o c c u r r i n 0001260 g i n a s m a l l s e t 0001300 o f p h o n o l o g i c a l 0001320 o r m o r p h o l o g i c a 0001340 l c o n t e x t s , a n i 0001360 m p r a c t i c a l l y l a r 0001400 g e n u m b e r o f t e m 0001420 p l a t e s w o u l d h a v 0001440 e t o b e s p e c i f i e 0001460 d , s t o r e d , a n d m 0001500 a t c h e d f o r t h e s e 0001520 s y s t e m s t o o p e r 0001540 a t e o n t h e p r o d u 0001560 c t i v e c o n t e x t u a l 0001600 v a r i a t i o n s o f u 0001620 n l i m i t e d c o n t i n u 0001640 o u s s p e e c h . \r O t h e 0001660 r s y s t e m s d o m u c 0001700 h m o r e s y m b o l i c 0001720 p r o c e s s i n g o f p h 0001740 o n e t i c f e a t u r e s 0001760 [ ] , a n d t h e s e a r 0002000 e c a p a b l e i n p r i 0002020 n c i p l e o f d e a l i n 0002040 g w i t h t h e c o m b i 0002060 n a t o r i c s o f c o n t 0002100 e x t u a l v a r i a t i o n 0002120 . B u t t h e s y m b o 0002140 l i c c o m p o n e n t s o 0002160 f s u c h s y s t e m s h 0002200 a v e b e e n c o n s t r u 0002220 c t e d o n t h e a s s u 0002240 m p t i o n t h a t t h e y 0002260 c a n b e c o u p l e d 0002300 t o m e t h o d s f o r r 0002320 e l i a b l y s e g m e n t i 0002340 n g t h e s p o k e n i n 0002360 p u t i n t o a l l o p h o 0002400 n i c o r d e m i - s y l l 0002420 a b i c u n i t s m a r k e 0002440 d w i t h c l e a r l y i 0002460 d e n t i f i e d p h o n e t 0002500 i c c u e s , a n d t h e 0002520 s e m e t h o d s h a v e 0002540 b e e n d i f f i c u l t t 0002560 o d i s c o v e r . T h i 0002600 s i s b e c a u s e t h e 0002620 a c o u s t i c r e a l i z 0002640 a t i o n o f a g i v e n 0002660 u t t e r a n c e m a y v 0002700 a r y n o t o n l y a c c 0002720 o r d i n g t o t h e l i 0002740 n g u i s t i c c o n t e x t 0002760 b u t a l s o a c c o r d 0003000 i n g t o t h e d i a l e 0003020 c t a n d v o c a l t r a 0003040 c t o f t h e s p e a k e 0003060 r , t h e r a t e a n d 0003100 r e g i s t e r o f s p e e 0003120 c h , a n d t h e p r e s 0003140 e n c e o f e n v i r o n m 0003160 e n t a l a n d s p e a k e 0003200 r - p r o d u c e d n o i s e 0003220 . \r O u r n e w a p p r o a 0003240 c h t o c o n t i n u o u s 0003260 s p e e c h r e c o g n i t 0003300 i o n p u s h e s t h e a 0003320 c o u s t i c / s y m b o l i c 0003340 b o u n d a r y b e l o w 0003360 t h e l e v e l o f p h o 0003400 n e t i c f e a t u r e s , 0003420 d o w n t o a l e v e l 0003440 a t w h i c h i t i s p 0003460 o s s i b l e t o r e l i a 0003500 b l y a s s i g n d i s c r 0003520 e t e l a b e l s . A m 0003540 a j o r i n n o v a t i o n 0003560 i n o u r a p p r o a c h 0003600 i s t h a t t h e s e l a 0003620 b e l s a r e n o n - l i n 0003640 g u i s t i c , q u a l i t a 0003660 t i v e , p h y s i c a l d 0003700 e s c r i p t o r s o f t h 0003720 e a c o u s t i c w a v e , 0003740 n o t l a n g u a g e - d e 0003760 p e n d e n t p h o n e t i c 0004000 f e a t u r e s e x t r a c 0004020 t e d f r o m a p r e - s 0004040 e g m e n t e d w a v e f o r 0004060 m . T h e s e l a b e l s 0004100 v a r y i f t h e s p e 0004120 e c h s i g n a l v a r i e 0004140 s , e v e n i f a h u m 0004160 a n l i s t e n e r m i g h 0004200 t p e r c e i v e t h e s 0004220 a m e w o r d s b e i n g 0004240 s p o k e n . I n c o n t 0004260 r a s t t o o t h e r a p 0004300 p r o a c h e s , w e c o m 0004320 p e n s a t e f o r t h e 0004340 l a c k o f p h o n e t i c 0004360 i n v a r i a n c e i n t 0004400 h e s i g n a l b y s h i 0004420 f t i n g m o r e o f t h 0004440 e c o m p u t a t i o n a l 0004460 b u r d e n f r o m a c o u 0004500 s t i c p r o c e s s i n g 0004520 t o s y m b o l i c p r o c 0004540 e s s i n g a t a n u n u 0004560 s u a l l y l o w l e v e l 0004600 . T h i s , o f c o u r 0004620 s e , r e q u i r e s o t h 0004640 e r i n n o v a t i o n s f 0004660 o r t h e s i g n a l p r 0004700 o c e s s i n g f r o n t e 0004720 n d , f o r m a p p i n g 0004740 t h e a c o u s t i c l a b 0004760 e l s i n t o p h o n e t i 0005000 c c a t e g o r i e s , a n 0005020 d f o r s p e c i f y i n g 0005040 a n d a p p l y i n g p h 0005060 o n e t i c , l e x i c a l , 0005100 a n d p h o n o l o g i c a 0005120 l c o n s t r a i n t s . 0005140 W e p r o p o s e t o s 0005160 t a t e t h e s e c o n s t 0005200 r a i n t s i n m o d u l a 0005220 r r u l e - s y s t e m s , 0005240 d r a w i n g o n t h e r 0005260 e s u l t s o f p r e v i o 0005300 u s s p e e c h r e c o g n 0005320 i t i o n r e s e a r c h b 0005340 u t a l s o o n t h e i 0005360 n s i g h t s a n d f i n d 0005400 i n g s o f t h e o r e t i 0005420 c a l l i n g u i s t i c i 0005440 n v e s t i g a t i o n s . \r W 0005460 e b e l i e v e t h a t o 0005500 n l y a s y s t e m c o n 0005520 f i g u r e d a l o n g t h 0005540 e s e l i n e s c a n b e 0005560 h a v e r o b u s t l y i n 0005600 t h e f a c e o f p r o 0005620 d u c t i v e v a r i a b i l 0005640 i t y , a n d t h a t p u 0005660 r s u i n g s u c h a s y 0005700 s t e m w i l l h e l p u 0005720 s u n d e r s t a n d t h e 0005740 o r g a n i z i n g p r i n 0005760 c i p l e s o f t h i s s 0006000 c i e n t i f i c d o m a i n 0006020 . Y e t c u r r e n t p 0006040 o p u l a r f e e l i n g i 0006060 s t h a t a m o d u l a r 0006100 , s y m b o l i c a l l y - o 0006120 r i e n t e d s y s t e m , 0006140 t h o u g h t h e o r e t i c 0006160 a l l y a t t r a c t i v e , 0006200 s i m p l y c a n n o t b 0006220 e c o n s t r u c t e d t o 0006240 p e r f o r m w i t h p r 0006260 a c t i c a l e f f i c i e n 0006300 c y . T h i s f e e l i n 0006320 g i s b a s e d o n t h 0006340 e m i s t a k e n v i e w s 0006360 t h a t g e n e r a t i v e 0006400 l i n g u i s t i c r u l e 0006420 s c a n n o t b e i n v e 0006440 r t e d f o r c o m p u t a 0006460 t i o n a l l y f e a s i b l 0006500 e r e c o g n i t i o n , a 0006520 n d t h a t m o d u l a r 0006540 d e s c r i p t i o n s n e c 0006560 e s s a r i l y e n t a i l 0006600 m o d u l a r , a n d h e n 0006620 c e i n e f f i c i e n t , 0006640 p r o c e s s i n g . T h e 0006660 s e v i e w s e m e r g e d 0006700 f r o m p a s t a t t e m 0006720 p t s a t i n c o r p o r a 0006740 t i n g h i g h e r - l e v e 0006760 l l i n g u i s t i c k n o 0007000 w l e d g e i n r e c o g n 0007020 i t i o n s y s t e m s . 0007040 F o r e x a m p l e , g e n 0007060 e r a t i v e c o n t e x t - 0007100 s e n s i t i v e p h o n o l 0007120 o g i c a l r u l e s w e r 0007140 e a b a n d o n e d i n t 0007160 h e 1 9 7 0 ' s s p e e c h 0007200 s y s t e m s ( W o o d s 0007220 e t a l . , 1 9 7 6 ; K l 0007240 a t t , 1 9 8 0 ) b e c a u 0007260 s e r e s e a r c h e r s w 0007300 e r e u n a b l e t o d i 0007320 s c o v e r w a y s o f i 0007340 n v e r t i n g t h e m t h 0007360 a t w e r e n o t e x p o 0007400 n e n t i a l l y e x p l o s 0007420 i v e . H o w e v e r , 0007440 w e h a v e r e c e n t l y 0007460 s h o w n t h a t r u l e 0007500 s y s t e m s o f e x a c 0007520 t l y t h i s t y p e c a 0007540 n b e c o n v e r t e d a 0007560 l g o r i t h m i c a l l y i 0007600 n t o e q u i v a l e n t f 0007620 i n i t e - s t a t e t r a n 0007640 s d u c e r s , e x t r e m e 0007660 l y s i m p l e c o m p u t 0007700 a t i o n a l d e v i c e s 0007720 t h a t a r e a s e f f i 0007740 c i e n t f o r r e c o g n 0007760 i t i o n a s f o r g e n 0010000 e r a t i o n ( K a p l a n 0010020 & K a y , 1 9 8 1 ; K a p 0010040 l a n , 1 9 8 4 ) . \r T h 0010060 i s i s o n e o f s e v 0010100 e r a l n e w t e c h n o l 0010120 o g i e s t h a t u n d e r 0010140 m i n e t h e p o p u l a r 0010160 c o n c e p t i o n s . W e 0010200 a n d o u r a s s o c i a 0010220 t e s h a v e d e v e l o p 0010240 e d s e v e r a l o t h e r 0010260 t h e o r e t i c a l a n d 0010300 c o m p u t a t i o n a l t 0010320 e c h n i q u e s t h a t c 0010340 a n b e u s e d t o i m 0010360 p l e m e n t m o d u l a r , 0010400 s c i e n t i f i c a l l y 0010420 g r o u n d e d , y e t p r 0010440 a c t i c a l s y m b o l i c 0010460 p r o c e s s i n g c o m p 0010500 o n e n t s . T h e i n t 0010520 e r p r e t a t i o n o f t 0010540 h e s p o k e n i n p u t 0010560 a s a s e q u e n c e o f 0010600 m o r p h e m e s o r w o 0010620 r d s e m e r g e s f r o m 0010640 t h e a c o u s t i c l a 0010660 b e l s t h r o u g h t h e 0010700 i n t e r a c t i o n o f 0010720 a s e r i e s o f t r a n 0010740 s d u c t i o n p r o c e s s 0010760 e s t h a t o b e y c o n 0011000 s t r a i n t s e m b o d i e 0011020 d i n s e v e r a l d i s 0011040 t i n c t r u l e s y s t e 0011060 m s . W e h a v e d e v 0011100 e l o p e d f o r m a l i s m 0011120 s f o r e x p r e s s i n g 0011140 m e t r i c a l , l e x i c 0011160 a l , a n d a l l o p h o n 0011200 i c c o n s t r a i n t s b 0011220 a s e d o n s e v e r a l 0011240 s t u d i e s i n m e t r i 0011260 c a l a n d s e g m e n t a 0011300 l p h o n o l o g i c a l t 0011320 h e o r y ( W i t h g o t t , 0011340 1 9 8 2 ; K i p a r s k y , 0011360 1 9 8 1 ) . O u r f o r 0011400 m a l i s m s h a v e w e l 0011420 l - u n d e r s t o o d m a t 0011440 h e m a t i c a l p r o p e r 0011460 t i e s a n d c a n b e 0011500 p r o c e s s e d , e i t h e 0011520 r a t c o m p i l e - t i m 0011540 e o r r u n - t i m e , b 0011560 y o t h e r t e c h n o l o 0011600 g i e s w e h a v e d e v 0011620 e l o p e d , s p e c i f i c 0011640 a l l y , t h e a c t i v e 0011660 c h a r t p a r s e r s o 0011700 f K a p l a n ( 1 9 7 3 ) , 0011720 t h e f i n i t e - s t a t 0011740 e t r a n s d u c e r s o f 0011760 K a p l a n a n d K a y , 0012000 a n d t h e L e x i c a l 0012020 - F u n c t i o n a l G r a m 0012040 m a r c o n s t r a i n t - s 0012060 a t i s f a c t i o n m e c h 0012100 a n i s m s ( K a p l a n & 0012120 B r e s n a n , 1 9 8 2 ) . 0012140 T h e d e c l a r a t i v 0012160 e n a t u r e o f t h e 0012200 r u l e f o r m a l i s m s 0012220 m e a n s t h a t t h e y 0012240 i m p o s e f e w o r d e r 0012260 i n g r e s t r i c t i o n s 0012300 o n t h e c o m p u t a t 0012320 i o n s t h a t i m p l e m 0012340 e n t t h e m , s o t h o 0012360 s e c o m p u t a t i o n s 0012400 c a n e a s i l y b e e m 0012420 b e d d e d i n a m u l t 0012440 i - p r o c e s s i n g c o n 0012460 t r o l e n v i r o n m e n t 0012500 a n d i n t e g r a t e d 0012520 t o g e t h e r b y s o p h 0012540 i s t i c a t e d a s s u m p 0012560 t i o n - b a s e d t r u t h 0012600 - m a i n t e n a n c e p r o 0012620 c e d u r e s ( D e K l e e 0012640 r , 1 9 8 5 ) . M o r e v 0012660 e r , w e h a v e d e v e 0012700 l o p e d a c o l l e c t i 0012720 o n o f t o o l s , s u c 0012740 h a s t h e G r a m m a r 0012760 W r i t e r ' s W o r k b e 0013000 n c h f o r L e x i c a l 0013020 F u n c t i o n a l G r a m m 0013040 a r ( K a p l a n , 1 9 8 5 0013060 ) , t h a t e n a b l e u 0013100 s t o e a s i l y w r i t 0013120 e a n d r a p i d l y t e 0013140 s t n e w l i n g u i s t i 0013160 c d e s c r i p t i o n s . \r 0013200 W e a l s o h a v e a n 0013220 e w a p p r o a c h t o m 0013240 a p p i n g f r o m t h e 0013260 s p e e c h s i g n a l t o 0013300 t h e q u a l i t a t i v e 0013320 a c o u s t i c l a b e l s 0013340 . [ T o b e c l e a n e 0013360 d u p : A t t r a c t o r 0013400 s . \r L i k e a l l f r o n 0013420 t e n d s , t h e f r o n 0013440 t e n d w e w i s h t o 0013460 e x p l o r e p e r f o r m 0013500 s c l u s t e r i n g a n d 0013520 m a t c h i n g , b u t i 0013540 t s r e s e m b l a n c e t 0013560 o c u r r e n t m o d e l s 0013600 s t o p s t h e r e . 0013620 F o r o n e , i t e x h i 0013640 b i t s t h e p r o p e r t 0013660 y o f t r a i n a b l e c 0013700 l u s t e r i n g s o t h a 0013720 t i f s o m e o f t h e 0013740 i n i t i a l c l u s t e r 0013760 s a r e i n c o r r e c t , 0014000 t h e a r r a y c a n b 0014020 e a u t o m a t i c a l l y 0014040 m o d i f i e d t o p u l l 0014060 c l u s t e r s a p a r t 0014100 o r c o m b i n e t h e m 0014120 t o g e t h e r . U n l i k 0014140 e m o r e f a m i l i a r 0014160 v e c t o r q u a n t i z a t 0014200 i o n m o d e l s , t h e 0014220 s p e e d o f t h e m a t 0014240 c h i s n o t a d v e r s 0014260 e l y a f f e c t e d b y 0014300 t h e a d d i t i o n o f 0014320 n e w c l u s t e r s i n 0014340 t h e s y s t e m . T h i 0014360 s i s b e c a u s e t h e 0014400 d y n a m i c a t t r a c t 0014420 o r m o d e l d o e s n o 0014440 t s c o r e a n u n k n o 0014460 w n i n p u t a g a i n s t 0014500 e v e r y p o s s i b l e 0014520 m a t c h ; r a t h e r , t 0014540 h e s a m e p r o c e d u r 0014560 e r e s p o n s i b l e f o 0014600 r c o n s t r u c t i o n o 0014620 f t h e c l u s t e r s p 0014640 e r f o r m s t h e c a t e 0014660 g o r i z a t i o n o f t h 0014700 e u n k n o w n i n p u t . 0014720 S u c h a f r o n t e 0014740 n d e x h i b i t s i n v a 0014760 r i a n c e t o s m a l l 0015000 i n p u t o r d e v i c e - 0015020 i n d u c e d d i s t o r t i 0015040 o n s a n d r a p i d a d 0015060 a p t a t i o n t o n e w 0015100 t r a i n i n g s a m p l e s 0015120 o n c e a d a p t e d t o 0015140 o r i g i n a l o n e s ( 0015160 a s f o r w h e n p r o c 0015200 e s s i n g s a m p l e s f 0015220 r o m n e w s p e a k e r s 0015240 ) . A f u r t h e r , p r 0015260 a c t i c a l p o i n t i s 0015300 t h a t t h e f r o n t 0015320 e n d i s e a s i l y i m 0015340 p l e m e n t e d i n V L S 0015360 I , a n a d v a n t a g e 0015400 w e h a v e a l r e a d y 0015420 m a d e p l a n s t o p u 0015440 r s u e w i t h o t h e r 0015460 g r o u p s a t P A R C . 0015500 ] \r \r \r T h e l a n g u a g e 0015520 - i n d e p e n d e n t , s y 0015540 m b o l i c r e p r e s e n t 0015560 a t i o n o f t h e s i g 0015600 n a l i s t h e n t r a n 0015620 s l a t e d i n t o p h o n 0015640 e t i c t e r m s a n d p 0015660 r o c e s s e d l i n g u i s 0015700 t i c a l l y . T h e r e 0015720 p r e s e n t a t i o n s o f 0015740 t h e p h y s i c a l s i 0015760 g n a l a l l o w u s t o 0016000 f i l t e r o u t l a n g 0016020 u a g e - l i k e n o i s e , 0016040 a n d t o g e t h e r w i 0016060 t h a n a c t i v e c h a 0016100 r t - p a r s e r d e s i g n 0016120 e d t o c o p e w i t h 0016140 a m b i g u i t y , t o c o 0016160 m p u t e w i t h l a n g u 0016200 a g e - s p e c i f i c c o n 0016220 s t r a i n t s f r o m a 0016240 l a n g u a g e - i n d e p e n 0016260 d e n t b a s e . \r T h e t 0016300 w o m a i n o b s t a c l e 0016320 s f o r u n r e s t r i c t 0016340 e d s p e e c h r e c o g n 0016360 i t i o n h a v e b e e n 0016400 t h e v a r i a b i l i t y 0016420 a n d t h e p r o d u c t i 0016440 v i t y o f h u m a n s p 0016460 e e c h . C u r r e n t s 0016500 y s t e m s t r e a t v a r 0016520 i a b i l i t y i n t h e 0016540 s h a p e o f t h e s p e 0016560 e c h s i g n a l a s d i 0016600 s t o r t i o n , r e g a r d 0016620 l e s s o f t h e s o u r 0016640 c e . T h e r e a r e f 0016660 o u r m a i n s o u r c e s 0016700 o f v a r i a b i l i t y 0016720 w h i c h w e a t t e m p t 0016740 t o f a c t o r o u t i 0016760 n o u r m o d e l . D i 0017000 a l e c t a n d i n d i v i 0017020 d u a l d i f f e r e n c e s 0017040 g i v e r i s e t o d i 0017060 v e r s e p r o n u n c i a t 0017100 i o n s o f t h e s a m e 0017120 u t t e r a n c e , a n d 0017140 c r e a t e a p r o b l e 0017160 m o f s p e a k e r v a r 0017200 i a t i o n . W o r d s s 0017220 p o k e n i n i s o l a t i 0017240 o n b e a r o n l y l i m 0017260 i t e d r e s e m b l a n c e 0017300 t o w o r d s i n f l u 0017320 e n t s e n t e n c e s , a 0017340 n d m a y b e h a r d t 0017360 o s e g m e n t ; s i m i l 0017400 a r l y , t h e d e t e r m 0017420 i n a t i o n o f a l l o p 0017440 h o n e " b o u n d a r i e s 0017460 " i s r a r e l y t h e 0017500 s a m e i n t w o p r o n 0017520 u n c i a t i o n s o f t h 0017540 e s a m e w o r d . T h 0017560 i s p r o b l e m c a n b 0017600 e r e f e r r e d t o a s 0017620 o n e o f s e g m e t a t 0017640 i o n . M e t r i c a l f 0017660 a c t o r s , a l o n g w i 0017700 t h r a t e , c r e a t e 0017720 a s e r i o u s p r o b l e 0017740 m o f t i m i n g v a r i 0017760 a t i o n . A f i n a l 0020000 s o u r c e o f v a r i a t 0020020 i o n i n t h e s p e e c 0020040 h s i g n a l i s t h e 0020060 p r e s e n c e o f b o t h 0020100 e n v i r o n m e n t a l a 0020120 n d s p e a k e r - p r o d u 0020140 c e d n o i s e . T h e s 0020160 e a r e t h e s o u r c e 0020200 s o f v a r i a b i l i t y 0020220 i n t h e s i g n a l t 0020240 h a t v a r i o u s t e c h 0020260 n o l o g i e s a t t e m p t 0020300 t o h a n d l e b y m e 0020320 a n s o f n o r m a l i z a 0020340 t i o n , s e a r c h e s 0020360 f o r i n v a r i a n t a c 0020400 o u s t i c c u e s , o r 0020420 t h r o u g h t e m p l a t e 0020440 m a t c h i n g . \r T h e 0020460 m o d e l w e a r e d e 0020500 v e l o p i n g t r e a t s 0020520 p r o d u c t i v i t y , a s 0020540 w e l l a s v a r i a b i 0020560 l i t y i n h u m a n s p 0020600 e e c h , a s t h e n o r 0020620 m . C u r r e n t s p e e 0020640 c h s y s t e m s a r e n 0020660 o t d e s i g n e d f o r 0020700 l a n g u a g e p r o d u c t 0020720 i v i t y . I t i s i m 0020740 p r a c t i c a l o r i m p 0020760 o s s i b l e t o b u i l d 0021000 a s y s t e m b a s e d 0021020 o n t h e u s u a l d e s 0021040 i g n o f s i m p l e l e 0021060 x i c a l l o o k - u p o n 0021100 a f i n i t e w o r d l 0021120 i s t f o r l a n g u a g e 0021140 s w i t h r i c h m o r p 0021160 h o l o g i e s ( e . g . F 0021200 i n n i s h ) w h e r e a 0021220 s i n g l e v e r b m a y 0021240 e x h i b i t s e v e r a l 0021260 t h o u s a n d v a r i a t i 0021300 o n s c r e a t e d b y p 0021320 r o c e s s e s o f i n f l 0021340 e c t i o n . \r \r O u r s 0021360 h i f t i n p e r s p e c t 0021400 i v e o n t h e p r o b l 0021420 e m s o f v a r i a b i l i 0021440 t y a n d p r o d u c t i v 0021460 i t y c a r r i e s r a m i 0021500 f i c a t i o n s f o r b o 0021520 t h s i g n a l p r o c e s 0021540 s i n g a n d l i n g u i s 0021560 t i c p r o c e s s i n g . 0021600 S p e e c h i n p u t s a 0021620 r e c a t e g o r i z e d q 0021640 u a l i t a t i v e l y w i t 0021660 h l a b e l s b a s e d s 0021700 o l e l y o n a c o u s t i 0021720 c e v e n t s , a n d w h 0021740 i c h v a r y i f t h e 0021760 s p e e c h s i g n a l v a 0022000 r i e s , e v e n i f a 0022020 h u m a n l i s t e n e r m 0022040 i g h t p e r c e i v e t h 0022060 e s a m e w o r d b e i n 0022100 g s p o k e n . T h e l 0022120 a n g u a g e - i n d e p e n d 0022140 e n t , s y m b o l i c r e 0022160 p r e s e n t a t i o n o f 0022200 t h e s i g n a l i s t h 0022220 e n t r a n s l a t e d i n 0022240 t o p h o n e t i c t e r m 0022260 s a n d p r o c e s s e d 0022300 l i n g u i s t i c a l l y . 0022320 T h e r e p r e s e n t a t 0022340 i o n s o f t h e p h y s 0022360 i c a l s i g n a l a l l o 0022400 w u s t o f i l t e r o 0022420 u t l a n g u a g e - l i k e 0022440 n o i s e , a n d t o g e 0022460 t h e r w i t h a n a c t 0022500 i v e c h a r t - p a r s e r 0022520 d e s i g n e d t o c o p 0022540 e w i t h a m b i g u i t y 0022560 , t o c o m p u t e w i t 0022600 h l a n g u a g e - s p e c i 0022620 f i c c o n s t r a i n t s 0022640 f r o m a l a n g u a g e - 0022660 i n d e p e n d e n t b a s e 0022700 . \r \r T h u s o u r 0022720 m o d e l c u t s u p t h 0022740 e r e c o g n i t i o n p r 0022760 o b l e m i n a n o v e l 0023000 w a y . W e l a b e l 0023020 t h e s a m p l e d s i g n 0023040 a l i n a d e s c r i p t 0023060 i v e , l a n g u a g e - i n 0023100 d e p e n d e n t f a s h i o 0023120 n , a s t r a t e g i c s 0023140 h i f t t h a t p r o v i d 0023160 e s a n e w m e c h a n i 0023200 s m t o h a n d l e v a r 0023220 i a b i l i t y . T h i s 0023240 s h i f t o f c o u r s e 0023260 d e m a n d s a d d e d p o 0023300 w e r f r o m o t h e r p 0023320 a r t s o f t h e m o d e 0023340 l , w h i c h i s p r o v 0023360 i d e d b y p h o n e t i c 0023400 a n d p h o n o l o g i c a 0023420 l g r a m m a r s a n d p 0023440 r o c e s s o r s . F i g u 0023460 r e o n e l a y s o u t 0023500 t h e o v e r a l l t o p o 0023520 l o g y o f t h e m o d e 0023540 l . W e w i l l d e s 0023560 c r i b e b e l o w t h e 0023600 d e t e r m i n a n t a n a l 0023620 y s i s p e r f o r m e d a 0023640 t t h e l o w e s t l e v 0023660 e l u s i n g a f i n i t 0023700 e l a b e l s e t , w h i 0023720 c h e n a b l e s u s t o 0023740 i g n o r e n o i s e ; 0023760 t h e l a n g u a g e - s p e 0024000 c i f i c c o n s t r a i n t 0024020 s u s e d t o b u i l d 0024040 v a r i o u s a l t e r n a t 0024060 i v e i n t e r p r e t a t i 0024100 o n s o f t h e s y m b o 0024120 l i c s t r i n g ; a n d 0024140 t h e w a y i n w h i c h 0024160 a m b i g u i t i e s a r e 0024200 r e s o l v e d b y t a k 0024220 i n g v a r i o u s p h o n 0024240 o l o g i c a l c o n s t r a 0024260 i n t s i n t o a c c o u n 0024300 t . B u t f i r s t w 0024320 e w i l l s k e t c h t h 0024340 e b r o a d o u t l i n e s 0024360 o f s i x c l a s s e s 0024400 o f s p e e c h r e c o g n 0024420 i t i o n s y s t e m s w e 0024440 h a v e f o u n d u s e f 0024460 u l t o c o n s i d e r i 0024500 n t h e p r o c e s s o f 0024520 d e s i g n i n g o u r m 0024540 o d e l . \r \r \r \r 1 . O v e 0024560 r v i e w o f p r e v i o u 0024600 s r e c o g n i t i o n e f 0024620 f o r t s \r \r P r e v i o u s 0024640 s p e e c h r e c o g n i t i 0024660 o n s y s t e m s h a v e 0024700 v a r i e d i n t h e r i 0024720 c h n e s s o f t h e i r 0024740 s i g n a l p r o c e s s i n 0024760 g a n d l i n g u i s t i c 0025000 p r o c e s s i n g c a p a 0025020 b i l i t i t e s . R e p r 0025040 e s e n t a t i v e p o i n t 0025060 s o n t h i s e n g i n e 0025100 e r i n g / l i n g u i s t i c 0025120 s c a l e a r e : \r \r \t Z 0025140 E n g i n e e r i n g a n 0025160 d S t a t i s t i c a l a p 0025200 p r o a c h e s : \r D T W : 0025220 D y n a m i c t i m e w a r 0025240 p i n g o f s t o r e d s 0025260 p e e c h [ 1 ] . \r H M M : 0025300 P r o b a b i l i s t i c h i 0025320 d d e n M a r k o v m o d e 0025340 l s [ 2 ] , [ 3 ] . \r \t Z 0025360 M i x e d p h o n e t i c 0025400 / e n g i n e e r i n g a p p 0025420 r o a c h e s : \r N B M : N e 0025440 t w o r k - b a s e d m o d e 0025460 l s [ 4 ] , [ 5 ] . \r F B M 0025500 : F e a t u r e - b a s e d 0025520 m o d e l s [ 6 ] . \r \t Z 0025540 L i n g u i s t i c a p p r 0025560 o a c h e s : \r D E M : D i 0025600 c t i o n a r y e n c o d i n 0025620 g m o d e l s [ 7 ] , [ 8 0025640 ] . \r L P M : L i n g u i s t 0025660 i c p a r s i n g m o d e l 0025700 s [ 9 ] . \r \r \r E n g i n e e 0025720 r i n g a n d s t a t i s t 0025740 i c a l l y - b a s e d m o d 0025760 e l s h a v e u s e d d y 0026000 n a m i c t i m e w a r p i 0026020 n g a n d p r o b a b i l i 0026040 s t i c h i d d e n M a r k 0026060 o v a g o r i t h m s . I n 0026100 D T W p a r a d i g m s , 0026120 w h o l e w o r d p r o t o 0026140 t y p e s a r e s t o r e d 0026160 a n d i n p u t s a r e 0026200 m a t c h e d u s i n g a 0026220 p r e c h o s e n d i s t o r 0026240 t i o n m e a s u r e t o 0026260 r e s o l v e q u e s t i o n 0026300 s o f s c a l i n g . W h 0026320 e n t h e u n k n o w n i 0026340 n p u t i s t i m e - a l i 0026360 g n e d w i t h a r e f e 0026400 r e n c e p r o t o t y p e , 0026420 t h e e n s u i n g d i s 0026440 c r i m i n a t i o n m a y 0026460 b e t h o u g h t o f a s 0026500 r e c o g n i t i o n b y 0026520 l e a s t d i s t o r t i o n 0026540 . F i n i t e - s t a t e 0026560 H M M ' s c o n s i s t s o 0026600 f a s t a t e t r a n s i 0026620 t i o n p r o b a b i l i t y 0026640 m a t r i x a l o n g w i 0026660 t h a n i n i t i a l p r 0026700 o b a b i l i t y v e c t o r 0026720 . T h e y u s u a l l y 0026740 d o n o t i n v o l v e t 0026760 i m e - a l i g n m e n t . 0027000 H M M ' s a r e p r i m a r 0027020 i l y c o n s t r u c t e d 0027040 o u t o f t r a i n i n g 0027060 d a t a , a l t h o u g h 0027100 t h e i r s t a t e s a r e 0027120 u s u a l l y i n i t i a l 0027140 l y s p e c i f i e d b y 0027160 l i n g u i s t s a n d m a 0027200 y c o n s i s t o f a l l 0027220 o p h o n e s , d i p h o n e 0027240 s , o r t r i p h o n e s 0027260 ( o n e , t w o o r t h r 0027300 e e s e g m e n t c l u s t 0027320 e r s ) . A s y s t e 0027340 m m i g h t h a v e s e t 0027360 t a b l e p a r a m e t e r s 0027400 w h i c h d e p e n d o n 0027420 t h e l e f t a n d r i 0027440 g h t p h o n e t i c c o n 0027460 t e x t f o r e a c h a l 0027500 l o p h o n e . E a c h p a 0027520 t h t h r o u g h a g r a 0027540 p h r e p r e s e n t a t i o 0027560 n o f s u c h a s y s t 0027600 e m h a s a n a s s o c i 0027620 a t e d p r o b a b i l i t y 0027640 a n d t h e r e s u l t 0027660 i s b a s i c a l l y r e c 0027700 o g n i t i o n b y m a x i 0027720 m u m p r o b a b i l i t y . 0027740 D y n a m i c t i m e w 0027760 a r p i n g s y s t e m s a 0030000 n d M a r k o v m o d e l s 0030020 o n l y o p e r a t e o n 0030040 r e s t r i c t e d i n p u 0030060 t s . T h e s e a r e l 0030100 i m i t e d e i t h e r i n 0030120 t h e n u m b e r o f i 0030140 s o l a t e d w o r d s r e 0030160 c o g n i z e d o r i n t 0030200 h e s p e c i f i e d s e q 0030220 u e n c e o f w o r d s p 0030240 e r m i t t e d i n c o n t 0030260 i n u o u s s p e e c h . 0030300 B a s e d o n t h e e v i 0030320 d e n c e o f b e s t c u 0030340 r r e n t r e s u l t s , 0030360 u n r e s t r i c t e d s p e 0030400 e c h r e c o g n i t i o n 0030420 w i t h t h e s e m e t h o 0030440 d s d o e s n o t s e e m 0030460 t o b e c o m p u t a t i 0030500 o n a l l y f e a s i b l e . 0030520 T h e s e a p p r o a c h 0030540 e s h a v e n e v e r b e 0030560 e n u s e d t o r e c o g 0030600 n i z e u n r e s t r i c t e 0030620 d , c o n t i n u o u s s p 0030640 e e c h , w h i c h w o u 0030660 l d i n v o l v e d y n a m 0030700 i c t i m e w a r p i n g 0030720 a g a i n s t m i n i m a l l 0030740 y h u n d r e d s o f t h 0030760 o u s a n d s o f w o r d 0031000 p r o t o t y p e s , o r i 0031020 n m a s s i v e t r a i n i 0031040 n g i n M a r k o v m o d 0031060 e l s . T h i s i s d u 0031100 e t o a l l s o u r c e s 0031120 o f v a r i a b i l i t y 0031140 i n t h e s p e e c h s i 0031160 g n a l , f r o m n o i s e 0031200 a n d r a t e t o d i a 0031220 l e c t d i f f e r e n c e s 0031240 . \r \r N e t w o r k m o d e l 0031260 s a r e b a s e d o n f 0031300 i n d i n g a p a t h t h 0031320 r o u g h a f i n i t e - s 0031340 t a t e p r o n u n c i a t i 0031360 o n n e t w o r k w h o s e 0031400 a r c s m a y m o d e l 0031420 s o m e k i n d o f a c o 0031440 u s t i c - p h o n e t i c s 0031460 e g m e n t . A s e t o 0031500 f a c o u s t i c p a t t e 0031520 r n m a t c h e r s , w h i 0031540 c h c a n b e b a s e d 0031560 o n v e c t o r q u a n t i 0031600 z e d L P C s p e c t r a , 0031620 o p e r a t e a t t h e 0031640 l e v e l o f i n d i v i 0031660 d u a l s p e c t r a l a n 0031700 a l y s i s f r a m e s , o 0031720 r o v e r g r o u p s o f 0031740 t h e s e . V a r i o u s 0031760 d i s t a n c e m e t r i c s 0032000 h a v e b e e n p r o p o 0032020 s e d t o r a t e t h e 0032040 f i t o f t h e m a t c h 0032060 . A d y n a m i c p r o 0032100 g r a m m i n g s e a r c h 0032120 a l g o r i t h m f i n d s 0032140 t e m p l a t e s t o m a t 0032160 c h a g a i n s t i n o n 0032200 e o r m o r e c o d e b o 0032220 o k s . R e c o g n i t i o 0032240 n m a y b e v i e w e d 0032260 a s m i n i m u m - c o s t 0032300 t r a v e r s a l t h r o u g 0032320 h t h e n e t w o r k , a 0032340 n d u n l i k e H M M ' s , 0032360 i s n o t p r o b a b a l 0032400 i s t i c . A g a i n , t 0032420 h e s e s y s t e m s p e r 0032440 f o r m w e l l o n l y o 0032460 n r e s t r i c t e d i n p 0032500 u t s . V a r i a b i l i t 0032520 y i s m i n i m i z e d b 0032540 y e i t h e r l i m i t i n 0032560 g v o c a b u l a r y s i z 0032600 e ( o f t e n t o l e x i 0032620 c o n s o f f e w e r t h 0032640 a n t h i r t y i t e m s ) 0032660 , r e q u i r i n g s p e a 0032700 k e r s t o p a u s e b e 0032720 t w e e n e a c h w o r d , 0032740 o r b y l i m i t i n g 0032760 r e c o g n i t i o n t o t 0033000 h e s a m e s p e a k e r s 0033020 t h e s y s t e m i s t 0033040 r a i n e d o n . \r \r \r 0033060 D i c t i o n a r y e n c o d 0033100 i n g m o d e l s e x p l o 0033120 i t t h e u s e f u l c o 0033140 n c e p t o f u n d e r s p 0033160 e c i f i c a t i o n . I n 0033200 o n e i m p l e m e n t a t 0033220 i o n [ 7 ] , t h e l e x 0033240 i c o n i s e n c o d e d 0033260 u s i n g b r o a d p h o n 0033300 e t i c c a t e g o r i e s . 0033320 T h e i d e a i s b a 0033340 s i c a l l y o n e o f d 0033360 e l a y e d b i n d i n g , 0033400 a n d s t e m s f r o m t 0033420 h e o b s e r v a t i o n t 0033440 h a t t h e r e i s n o 0033460 r e a s o n t o d e m a n d 0033500 p r e c i s e i d e n t i f 0033520 i c a t i o n o f a s o u 0033540 n d i f p a r t i a l i d 0033560 e n t i f i c a t i o n o f 0033600 a s t r i n g o f s o u n 0033620 d s y i e l d s a w o r d 0033640 c a n d i d a t e . D E M 0033660 i m p o s e s a l i n g u 0033700 i s t i c c a t e g o r i z a 0033720 t i o n u p o n t h e s i 0033740 g n a l i n f i n d i n g 0033760 p o s s i b l e s e g m e n t 0034000 b o u n d a r i e s , a n d 0034020 u s e s c o n s t r a i n t 0034040 s f r o m t h e d i c t i 0034060 o n a r y t o a c h i e v e 0034100 c o m p l e t e i d e n t i 0034120 f i c a t i o n . T h i s 0034140 s t r a t e g y r e d u c e s 0034160 t h e s e a r c h s p a c 0034200 e i n t h e r e c o g n i 0034220 t i o n p r o b l e m , b u 0034240 t i s a d m i t t e d t o 0034260 b e t a i l o r e d t o 0034300 t h e p r o b l e m o f i 0034320 s o l a t e d w o r d r e c 0034340 o g n i t i o n , s i n c e 0034360 t h e t h e o r y d o e s 0034400 n o t i n c o p o r a t e p 0034420 h o n o l o g i c a l k n o w 0034440 l e d g e s o u r c e s f o 0034460 r d i s a m b i g u a t i n g 0034500 p o s s i b l e w o r d b 0034520 o u n d a r i e s . I n c 0034540 o n t r a s t , l i n g u i s 0034560 t i c p a r s i n g m o d e 0034600 l s c u t d o w n t h e 0034620 s e a r c h s p a c e a n d 0034640 a r e d e s i g n e d t o 0034660 h a n d l e c o n t i n u o 0034700 u s s p e e c h . W h i l 0034720 e i n m o s t r e c o g n 0034740 i t i o n s y s t e m s , t 0034760 h e e x p l i c i t s o u r 0035000 c e o f c o n s t r a i n t 0035020 i s a t t h e l e v e l 0035040 o f t h e w o r d , i n 0035060 L P M ' s , g e n e r a l i 0035100 z a t i o n s s t a t e d o 0035120 n s y l l a b l e s o r o 0035140 t h e r u n i t s m a y a 0035160 u g m e n t l e x i c a l c 0035200 o n s t r a i n t s . T h e 0035220 s e a d d i t i o n a l c o 0035240 n s t r a i n t s h e l p i 0035260 n f i n d i n g w o r d - b 0035300 o u n d a r i e s , a n d a 0035320 r e n o t l i m i t e d t 0035340 o f i n i t e w o r d l i 0035360 s t s . O n e e x a m p l 0035400 e o f t h e u s e o f 0035420 a d d i t i o n a l r e g u l 0035440 a r i t i e s i s w o r k 0035460 o n s y l l a b l e - b a s e 0035500 d c o n s t r a i n t s i n 0035520 a n i m p l e m e n t a t i 0035540 o n w h i c h p a r s e s 0035560 a n a l r e a d y - l a b e l 0035600 e d a l l o p h o n i c s t 0035620 r i n g i n t o w o r d s 0035640 [ 9 ] . I n c o n t r a s 0035660 t t o r e c e n t L P M ' 0035700 s , e a r l y n e t w o r k 0035720 m o d e l s e x p l o r e d 0035740 s y n t a c t i c c o n s t 0035760 a i n t s [ 4 ] . S u c h 0036000 c o n s t r a i n t s o v e r 0036020 - d e t e r m i n e o r d i n 0036040 a r y , c a s u a l s p e e 0036060 c h w h i c h i s c h a r 0036100 a c t e r i z e d b y t h e 0036120 p r e s e n c e o f s e m 0036140 i - g r a m m a t i c a l s e 0036160 n t e n c e s ( w i t h f a 0036200 l s e s t a r t s , u n f i 0036220 n i s h e d p h r a s e s , 0036240 e t c . ) . \r \r C u r r e n 0036260 t D E M a n d L P M m o 0036300 d e l s a r e h a r d t o 0036320 e v a l u a t e i n t h a 0036340 t t h e y a b s t r a c t 0036360 a w a y f r o m t h e a n 0036400 a l y s i s o f t h e a c 0036420 t u a l w a v e f o r m , a 0036440 n d o p e r a t e e i t h e 0036460 r o n p a r t i a l o r 0036500 c o m p l e t e a l l o p h o 0036520 n e s t a k e n f r o m s 0036540 e n t e n c e s t r a n s c r 0036560 i b e d b y h u m a n l i 0036600 s t e n e r s . T o c a p 0036620 t u r e t h i s s i m u l a 0036640 t e d p e r f o r m a c e i 0036660 n a f u l l y a u t o m a 0036700 t i c s y s t e m , t h e y 0036720 a w a i t b e t t e r s i 0036740 g n a l p r o c e s s i n g 0036760 a t t h e f r o n t e n d 0037000 , a n d a s o l u t i o n 0037020 t o t h e s e g m e n t a 0037040 t i o n p r o b l e m . W h 0037060 i l e t h o s e w h o w o 0037100 r k o n t h e s i g n a l 0037120 - p r o c e s s i n g / s t a t 0037140 i s t i c a l s y s t e m s 0037160 d e s c r i b e d a b o v e 0037200 p u b l i s h r e c o g n i t 0037220 i o n r e s u l t s o f 9 0037240 0 % o r b e t t e r f o r 0037260 r e c o g n i t i o n o f 0037300 u n d e r f i f t e e n w o 0037320 r d s i n c o n t i n u o u 0037340 s s p e e c h , o r f o r 0037360 a l a r g e s e t o f 0037400 w o r d s p r o n o u n c e d 0037420 i n i s o l a t i o n , 0037440 D E M , a n d L P M r e s 0037460 e a r c h e r s g e n e r a l 0037500 l y d o n o t r e p o r t 0037520 r e c o g n i t i o n s t a 0037540 t i s t i c s . A n e x c e 0037560 p t i o n t o t h i s i s 0037600 c e r t a i n w o r k o n 0037620 f e a t u r e - b a s e d m 0037640 o d e l s , f o r w h i c h 0037660 v a l u a b l e s t a t i s 0037700 t i c s a r e p u b l i s h 0037720 e d o n t w o - o r t h 0037740 r e e - w a y d i s t i n c t 0037760 i o n s ( d i s t i n g u i s 0040000 h i n g p / b p a i r s , 0040020 f o r e x a m p l e . ) T 0040040 h e s e a r c h f o r i n 0040060 v a r i a n t a c o u s t i c 0040100 c u e s i s i n t e r e s 0040120 t i n g , a n d a l t h o u 0040140 g h F B M ' s c a n n o t 0040160 h a n d l e d i s t o r t e d 0040200 o r n o i s y s p e e c h 0040220 i n p r i n c i p l e , r 0040240 e s e a r c h o n t h e s e 0040260 m o d e l s c o n t i n u e 0040300 s t o p r o v i d e n e w 0040320 i n f o r m a t i o n a b o 0040340 u t s p o k e n l a n g u a 0040360 g e . \r \r \r I n s u m m 0040400 a r y , t h e m o r e l i 0040420 n g u i s t i c a l l y - b a s 0040440 e d m o d e l s a w a i t 0040460 a b e t t e r s i g n a l 0040500 p r o c e s s i n g c o m p o 0040520 n e n t , a n d t h e t e 0040540 m p l a t e / s t a t i s t i c 0040560 a l m o d e l s a w a i t 0040600 m e t h o d s t h a t p e r 0040620 m i t t h e m t o i n c o 0040640 r p o r a t e m o r e k n o 0040660 w l e d g e r e g a r d i n g 0040700 t h e p o s s i b l e u t 0040720 t e r a n c e s o f a l a 0040740 n g u a g e . N o n e t h 0040760 e l e s s , w e e m p l o y 0041000 c e r t a i n a s p e c t s 0041020 o f t h e s y s t e m s 0041040 w e j u s t d e s c r i b e 0041060 d i n t h e m o d e l w 0041100 e a r e d e v e l o p i n g 0041120 . D i a g r a m s 2 a - 0041140 c s h o w a n e v o l u t 0041160 i o n o f t h e f o r m u 0041200 l a t i o n o f t h e s p 0041220 e e c h r e c o g n i t i o n 0041240 p r o b l e m s t a r t i n 0041260 g w i t h m a i n s t r e a 0041300 m w o r k i n t h e s e 0041320 v e n t i e s , c o n t i n u 0041340 i n g t h r o u g h r e c e 0041360 n t w o r k f r o m M I T 0041400 , a n d f i n a l l y i l 0041420 l u s t r a t i n g s e v e r 0041440 a l s h i f t s o f p e r 0041460 s p e c t i v e i n o u r 0041500 m o d e l . W h a t w e 0041520 b e l i e v e t o b e t h 0041540 e w a y a r o u n d t h e 0041560 p r o b l e m o f v a r i 0041600 a b i l i t y , a n d w h a 0041620 t i s u n i q u e i n o 0041640 u r m o d e l , i s i n 0041660 i t s r e f o r m u l a t i o 0041700 n o f t h e r e c o g n i 0041720 t i o n t a s k , i t s 0041740 i n c o r p o r a t i o n o f 0041760 c o n s t r a i n t s f r o 0042000 m p h o n o l o g i c a l c 0042020 o n s t i t u e n t s , f r o 0042040 m t h e f o o t t o t h 0042060 e s u b - s e g m e n t , i 0042100 t s p a r t i c u l a r u s 0042120 e o f s y m b o l i c r e 0042140 p r e s e n t a t i o n s o f 0042160 p h y s i c a l s i g n a l 0042200 s , a n d t h e w a y i 0042220 n w h i c h w e h a v e 0042240 c o m p a r t m e n t a l i z e 0042260 d t h e k n o w l e d g e 0042300 i n t o l a n g u a g e - i n 0042320 d e p e n d e n t a n d l a 0042340 n g u a g e - s p e c i f i c 0042360 m o d u l e s . \r \r \r \r \r 2 . 0042400 Q u a l i t a t i v e s p e e 0042420 c h a n a l y s i s a n d 0042440 p h o n o l o g i c a l c o n 0042460 s t r a i n t s \r \r \r I n o u 0042500 r a p p r o a c h , t h e 0042520 s a m p l e d s i g n a l i 0042540 s l a b e l e d i n a q 0042560 u a l i t a t i v e , l a n g 0042600 u a g e - i n d e p e n d e n t 0042620 w a y . T h e l a b e l 0042640 s d e p e n d o n t h e 0042660 d i s c r i m i n a t i o n c 0042700 a p a c i t y o f t h e f 0042720 r o n t e n d . F i g u r 0042740 e 3 s h o w s r e p r e s 0042760 e n t a t i v e o u t p u t s 0043000 o f a H u b e r m a n - H 0043020 o g g q u a l i t a t i v e 0043040 l a b e l i n g p r o c e d u 0043060 r e b a s e d o n a d i 0043100 g i t i z e d r e p r e s e n 0043120 t a t i o n o f t h e w o 0043140 r d " o f . " T h e s p 0043160 e c t r o g r a m i s m o d 0043200 i f i e d t o a s c a l e 0043220 s i m i l a r t o t h e 0043240 B a r k s c a l e , a n d 0043260 t h e d i m e n s i o n s a 0043300 r e t i m e v s . f r e q 0043320 u e n c y , w i t h i n t e 0043340 n s i t y i n d i c a t e d 0043360 b y t h e g r a y s c a l 0043400 e . W e w i l l r e f e 0043420 r t o t h e o u t p u t s 0043440 o f t h e f r o n t e n 0043460 d a s a c o u s t i c l a 0043500 b e l s . O u r a p p r o 0043520 a c h h a n d l e s v a r i 0043540 a b i l i t y i n h u m a n 0043560 s p e e c h b y b o t h 0043600 d e s c r i p t i v e a c o u 0043620 s t i c l a b e l i n g a n 0043640 d p h o n o l o g i c a l p 0043660 a r s i n g m e t h o d s . 0043700 T h e s p e e c h s e q u 0043720 e n c e i s n o t w a r p 0043740 e d t o m a t c h a s t 0043760 o r e d p r o t o t y p e , 0044000 o r s u b m i t t e d t o 0044020 a b e s t f i t p r o c e 0044040 d u r e u s i n g l a n g u 0044060 a g e - s p e c i f i c t e m 0044100 p l a t e s . I t i s l 0044120 a b e l e d i n a q u a l 0044140 i t a t i v e w a y , a n d 0044160 t h e n a n a l y z e d b 0044200 y a n a c t i v e c h a r 0044220 t p a r s e r u s i n g e 0044240 x t r e m e l y l o w - l e v 0044260 e l b u t l a n g u a g e - 0044300 s p e c i f i c c o n s t r a 0044320 i n t s , a s w e l l a s 0044340 h i g h e r - l e v e l c o 0044360 n s t r a i n t s . T h i s 0044400 d e c o m p o s i t i o n o 0044420 f t h e p r o b l e m p e 0044440 r m i t s a r e p r e s e n 0044460 t a t i o n t h a t i s s 0044500 t a b l e o v e r u t t e r 0044520 a n c e s i t u a t i o n s 0044540 a n d p r o v i d e s c o n 0044560 s t r a i n t s t h a t h a 0044600 n d l e s o m e o f t h e 0044620 d i f f i c u l t i e s a s 0044640 s o c i a t e d w i t h p a 0044660 r t i a l l y o b s c u r e d 0044700 o r ` ` i n c o m p l e t e 0044720 ' ' i n f o r m a t i o n . 0044740 \r \r T h e o r g a n i z a t 0044760 i o n o f t h e m o d e l 0045000 i s d e s i g n e d t o 0045020 a c c o u n t f o r t h e 0045040 v a r i o u s s o u r c e s 0045060 o f v a r i a b i l i t y : \r 0045100 \r \r Z P r e s e n c e o f 0045120 " n o i s e " \r \r T h e r e a 0045140 r e a t l e a s t t h r e 0045160 e t y p e s o f n o i s e 0045200 a r e a l i s t i c s y s 0045220 t e m m u s t h a n d l e . 0045240 W e o m i t d i s c u s 0045260 s i o n o f t h e f i r s 0045300 t v a r i e t y , w h i c h 0045320 i s a m b i e n t o r c 0045340 h a n n e l n o i s e t h a 0045360 t i s p o s s i b l e t o 0045400 f i l t e r o u t w i t h 0045420 s t a n d a r d t e c h n i 0045440 q u e s . A s s u m i n g 0045460 a f a i r l y c l e a n s 0045500 i g n a l , o u r m o d e l 0045520 i s d e s i g n e d t o 0045540 c o p e w i t h l a n g u a 0045560 g e - l i k e n o i s e a s 0045600 w e l l a s e x t r a n e 0045620 o u s s o u n d s b y m e 0045640 a n s o f a m a p p i n g 0045660 t o a p h o n e t i c l 0045700 e x i c o n a n d b y t h 0045720 e p a r t i c u l a r d e s 0045740 i g n o f t h e f r o n t 0045760 e n d . \r \r T h e f r o 0046000 n t e n d i m p o s e s l 0046020 a b e l s o n a r b i t r a 0046040 r y t i m e s l i c e s f 0046060 r o m a n o n - l i n g u i 0046100 s t i c , f i n i t e s e t 0046120 . I n t h e s i m p l e 0046140 s t v e r s i o n , c o n f 0046160 i g u r a t i o n s o f s p 0046200 e c t r a l e n e r g y t h 0046220 a t d o n o t f a l l i 0046240 n t o t h e f i x e d b i 0046260 n s e t a r e m e r e l y 0046300 d i s c a r d e d . I n 0046320 m o r e i n t e r e s t i n 0046340 g v e r s i o n s , t h e y 0046360 a r e c a t e g o r i z e d 0046400 a s u n k n o w n n o i s 0046420 e a n d s t o r e d u n t 0046440 i l t h e s y s t e m l e 0046460 a r n s t o p a r t i t i o 0046500 n t h e m i n t o f u r t 0046520 h e r c a t e g o r i e s . \r 0046540 \r T h i s s e t o f d e s 0046560 c r i p t i v e , a c o u s t 0046600 i c l a b e l s i s m a p 0046620 p e d t o a s m a l l e r 0046640 s e t o f l i n g u i s t 0046660 i c l a b e l s . S o m e 0046700 l a b e l s c a r r y l i 0046720 n g u i s t i c s i g n i f i 0046740 c a n c e i n s o m e l a 0046760 n g u a g e s b u t a r e 0047000 i g n o r e d a s e x t r a 0047020 - l i n g u i s t i c i n o 0047040 t h e r s . T h e l a n g 0047060 u a g e - s p e c i f i c i n 0047100 f o r m a t i o n r e g a r d 0047120 i n g t h e i n v e n t o r 0047140 y o f m e a n i n g f u l 0047160 l a b e l s i s s t o r e d 0047200 i n a p h o n e t i c l 0047220 e x i c o n . L i p s m a 0047240 c k s a n d c l i c k s a 0047260 r e g o o d e x a m p l e s 0047300 o f a c o u s t i c e v e 0047320 n t s w h i c h h a v e n 0047340 o m a t c h i n t h e p 0047360 h o n e t i c l e x i c o n 0047400 o f E n g l i s h , b u t 0047420 w h i c h m u s t b e p r 0047440 o c e s s e d f o r c e r t 0047460 a i n A f r i c a n l a n g 0047500 u a g e s ( e . g . H o t t 0047520 e n t o t , Z u l u , X h o 0047540 s a ) . \r \r T h i s m o d u l 0047560 a r a n a l y s i s o f t 0047600 h e p r e s e n c e o f n 0047620 o i s e v s . p o s s i b l 0047640 e l a n g u a g e s o u n d 0047660 s i s i n t e r e s t i n g 0047700 f r o m a t h e o r e t i 0047720 c a l p e r s p e c t i v e , 0047740 p a r t i c u l a r l y s i 0047760 n c e t h e c o m p l e t e 0050000 i n v e n t o r y o f a l 0050020 l o p h o n i c s p e e c h 0050040 s o u n d s f o r a n y a 0050060 n y g i v e n l a n g u a g 0050100 e h a s n e v e r b e e n 0050120 d o c u m e n t e d . T h 0050140 e l a n g u a g e - g e n e r 0050160 a l s o u n d s i n t h i 0050200 s m o d u l a r t r e a t m 0050220 e n t a l s o p r o v i d e 0050240 a r e a d y - m a d e f o 0050260 u n d a t i o n f o r a s s 0050300 i g n i n g l a b e l s i n 0050320 n e w l a n g u a g e s . \r 0050340 \r \r \r Z T i m i n g v a r 0050360 i a t i o n \r \r A s w e m 0050400 e n t i o n e d , s o m e o 0050420 u t p u t s o f t h e f r 0050440 o n t e n d m a y b e d 0050460 i s c a r d e d a s m e a n 0050500 i n g l e s s i n a g i v 0050520 e n l a n g u a g e . 0050540 W e w i s h t o a u g m e 0050560 n t t h e m a c h i n e a 0050600 t t h i s l e v e l s o 0050620 t h a t i t c a n p e r f 0050640 o r m n o t o n l y a m 0050660 a p p i n g t o t h e p h 0050700 o n e t c l e x i c o n , b 0050720 u t a l s o a r u d i m e 0050740 n t a r y k i n d o f c o 0050760 u n t i n g i n o r d e r 0051000 t o g a i n t h e a b i l 0051020 i t y t o u s e d u r a t 0051040 i o n c u e s o v e r v a 0051060 r i a b l e s p e e c h r a 0051100 t e , f o r i n s t a n c e 0051120 , t o e x p l o i t t h e 0051140 f a c t t h a t s p e a k 0051160 e r s d o n o t u s u a l 0051200 l y c h a n g e r a t e i 0051220 n t h e m i d d l e o f 0051240 a s h o r t u t t e r a n c 0051260 e . I t i s o b v i o 0051300 u s l y d i f f i c u l t t 0051320 o r e c o v e r t e m p o r 0051340 a l i n f o r m a t i o n i 0051360 n d y n a m i c t i m e w 0051400 a r p i n g m o d e l s , a 0051420 n d i t i s h a r d t o 0051440 c a p t u r e d u r a t i o 0051460 n g e n e r a l i z a t i o n 0051500 s i n s y s t e m s t h a 0051520 t u s e h i d d e n M a r 0051540 k o v m o d e l s . I t 0051560 i s a l s o w e l l - k n o 0051600 w n t h a t d u r a t i o n 0051620 i s h e l p f u l i n s 0051640 e g m e n t i d e n t i f i c 0051660 a t i o n , b o t h f r o m 0051700 t h e p o i n t o f v i 0051720 e w o f d i s t i n g u i s 0051740 h i n g s i m i l a r s e g 0051760 m e n t s , a n d i n t h 0052000 e f o r m i d a b l e p r o 0052020 b l e m o f d e t e r m i n 0052040 i n g h o w m a n y a l l 0052060 o p h o n e s a n u t t e r 0052100 a n c e c o n t a i n s . I 0052120 n d e s i g n i n g a w a 0052140 y t o k e e p t r a c k 0052160 o f t h e n u m b e r o f 0052200 l a b e l s t h e f r o n 0052220 t e n d p r o v i d e s , 0052240 a n d e x p l o i t i n g t 0052260 h i s s o u r c e o f c o 0052300 n s t r a i n t , w e w i s 0052320 h t o e x p l o r e t h e 0052340 l a b e l l e r - p a r s e r 0052360 i n t e r f a c e a s a 0052400 t w o - t a p e K a p l a n - 0052420 K a y / K o s k e n n i e m i 0052440 [ 1 2 ] m a c h i n e . T 0052460 h i s i s o n e p o s s i 0052500 b l e w a y t o u s e t 0052520 i m i n g i n f o r m a t i o 0052540 n w h i c h i s g o v e r 0052560 n e d b y e n v i r o n m e 0052600 n t a l f a c t o r s , i n 0052620 c l u d i n g s p e e c h r 0052640 a t e , a n d m e t r i c 0052660 a l c o n s t r a i n t s ( 0052700 l i k e s t r e s s ) . \r \r \r 0052720 \r Z L o c a t i o n o f b 0052740 o u n d a r i e s \r \r T h e a 0052760 c o u s t i c l a b e l s a 0053000 r e p a r s e d i n t o l 0053020 i n g u i s t i c o b j e c t 0053040 s u s i n g a l l o p h o n 0053060 i c a n d h i g h e r - l e 0053100 v e l g r a m m a t i c a l 0053120 c o n s t r a i n t s . U 0053140 n l i k e t h e a c o u s t 0053160 i c l a b e l i n g , t h e 0053200 p a r s i n g i s l a n g 0053220 u a g e - s p e c i f i c . 0053240 T h e s p e e c h s e q u e 0053260 n c e i s n o t s u b j e 0053300 c t e d t o a n e x p l i 0053320 c i t s e g m e n t a t i o n 0053340 p r o c e d u r e ; s e g m 0053360 e n t s e m e r g e i n t 0053400 h e w e l l - f o r m e d p 0053420 a r s e . \r \r S y l l a b i c 0053440 g r a m m a r s a l s o i m 0053460 p o s e l a n g u a g e - s p 0053500 e c i f i c c o n s t r a i n 0053520 t s . H o w e v e r , t h 0053540 e s e a r e n o t a s s 0053560 t r i n g e n t a s o n e 0053600 m i g h t e x p e c t d u e 0053620 t o t h e v a r i o u s 0053640 p e r m i s s i b l e l e n i 0053660 t i o n ( " w e a k e n i n g 0053700 " ) p r o c e s s e s s u c 0053720 h a s v o w e l d e l e 0053740 t i o n i n u n s t r e s s 0053760 e d s y l l a b l e s . O 0054000 n t h e o t h e r h a n d 0054020 , a d d i t i o n a l p h o 0054040 n o l o g i c a l c o n s t r 0054060 a i n t s a l l o w u s t 0054100 o h y p o t h e s i z e w o 0054120 r d s , i n p a r t i c u l 0054140 a r l a n g u a g e - s p e c 0054160 i f i c s e q u e n c i n g 0054200 c o n s t r a i n t s o n s 0054220 t r e s s u n i t s c o n s 0054240 i s t i n g o f s t r i n g 0054260 s o f s y l l a b l e s ( 0054300 f o o t g r a m m a r s ) . 0054320 C o n s t r a i n t s o f 0054340 t h i s t y p e h a v e 0054360 n o t b e e n r e p o r t e 0054400 d o u t s i d e t h e t h 0054420 e o r e t i c a l p h o n o l 0054440 o g i c a l l i t e r a t u r 0054460 e , a n d h a v e n e v e 0054500 r b e e n i m p l e m e n t 0054520 e d , t o o u r k n o w l 0054540 e d g e , o u t s i d e o u 0054560 r s y s t e m . \r \r A l 0054600 t h o u g h t h e s e t s 0054620 o f g r a m m a r s a r e 0054640 h i e r a r c h i c a l i n 0054660 n a t u r e , m i x e d c a 0054700 t e g o r i e s a p p e a r 0054720 b y d e s i g n o n t h e 0054740 s a m e l e v e l . A 0054760 g i v e n l e v e l m i g h 0055000 t i n c l u d e , f o r e 0055020 x a m p l e , a f u l l y 0055040 s p e c i f i e d a l l o p 0055060 h o n e f o l l o w e d b y 0055100 v a g u e d e s c r i p t i 0055120 o n s l i k e " n a s a l . 0055140 " P h o n o l o g i c a l 0055160 c o n s t r a i n t s a l l o 0055200 w u s t o h y p o t h e s 0055220 i z e w o r d s f r o m u 0055240 n d e r s p e c i f i e d t r 0055260 e e s t r u c t u r e s . 0055300 I f w e f i n d , f o r 0055320 i n s t a n c e , t h a t 0055340 s o m e k i n d o f n a s 0055360 a l p r e c e d e s a [ g 0055400 ] i n c e r t a i n p o s 0055420 i t i o n s , f o o t - s t r 0055440 u c t u r e c o n s t r a i n 0055460 t s t e l l u s t h a t 0055500 t h e n a s a l m u s t b 0055520 e v e l a r , b e c a u s e 0055540 i t i s t h e o n l y 0055560 p o s s i b l e f o o t - m e 0055600 d i a l n a s a l t h a t 0055620 p r e c e d e s a [ g ] ( 0055640 a s i n t h e w o r d f 0055660 i n g e r ) [ 1 0 , 1 1 ] . 0055700 T h i s i s t h e c o 0055720 n c e p t o f u n d e r s p 0055740 e c i f i c a t i o n b r o u 0055760 g h t i n t o t h e g r a 0056000 m m a r . \r \r W e w i s h 0056020 t o u n d e r s c o r e t h 0056040 e i m p o r t a n c e o f 0056060 a l l o p h o n i c c o n s t 0056100 r a i n t s p r o v i d e d 0056120 b y m e t r i c a l c o n s 0056140 t i t u e n t s , a n d n o 0056160 t j u s t r e l y o n m 0056200 a p p i n g t o t h e w o 0056220 r d t o p r o v i d e i n 0056240 f o r m a t i o n r e g a r d 0056260 i n g s e g m e n t s o b s 0056300 c u r e d b y n o i s e . 0056320 T h e r e a r e t h r e e 0056340 r e a s o n s f o r r e l 0056360 y i n g o n p h o n o l o g 0056400 i c a l c o n s t i t u e n t 0056420 s a s a n a u g m e n t a 0056440 t i o n t o t h e i n f o 0056460 r m a t i o n a v a i l a b l 0056500 e i n t h e d i c t i o n 0056520 a r y c o m p o n e n t . T 0056540 h e f i r s t i s t h e 0056560 p r o b l e m o f s e g m e 0056600 n t a t i o n , a n d t h e 0056620 s e c o n d i s t h a t 0056640 p h o n o l o g i c a l c a t 0056660 e g o r i e s p r o v i d e 0056700 i n t e r e s t i n g s e q 0056720 u e n c i n g c o n s t r a i 0056740 n t s . T h e t h i r d 0056760 r e a s o n i s t h e f a 0057000 c t t h a t t h e a p p e 0057020 a r a n c e o f a n a c o 0057040 u s t i c e v e n t d e p e 0057060 n d s o n w h e r e a 0057100 s e g m e n t f a l l s i n 0057120 a p h o n o l o g i c a l 0057140 c o n s t i t u e n t . F o 0057160 r e x a m p l e , a [ p ] 0057200 w i l l h a v e a b u r 0057220 s t o r n o t d e p e n d 0057240 i n g o n i t s p o s i t 0057260 i o n i n a f o o t . 0057300 \r \r P h o n o l o g i c a l c 0057320 o n s t r a i n t s h e l p 0057340 i n o v e r c o m i n g t h 0057360 e p r o b l e m o f o b s 0057400 c u r e d i n f o r m a t i o 0057420 n i n o r d i n a r y , c 0057440 o n t i n u o u s s p e e c h 0057460 . P a r s i n g w i t h 0057500 p h o n e t i c a n d p h o 0057520 n o l o g i c a l g r a m m a 0057540 r s a l s o p e r m i t s 0057560 s e g m e n t s , m e t r i c 0057600 a l c o n s t i t u e n t s , 0057620 a n d w o r d s t o e m 0057640 e r g e i n t h e w e l l 0057660 - f o r m e d p a r s e , a 0057700 n d b y p a s s e s t h e 0057720 s e a r c h f o r s e g m e 0057740 n t b o u n d a r i e s . \r 0057760 \r \r Z L a n g u a g e p r o 0060000 d u c t i v i t y \r \r A n o t h 0060020 e r r e a s o n f o r t h 0060040 e i n c l u s i o n o f p 0060060 h o n o l o g i c a l g r a m 0060100 m a r s i s a p p a r e n t 0060120 i n c r o s s - l i n g u i 0060140 s t i c s t u d i e s . W e 0060160 m u s t e x p e c t n o v 0060200 e l w o r d s ; t h e i 0060220 n v e n t o r y o f l e x i 0060240 c a l i t e m s i s n o t 0060260 t h e " b i n o f p a r 0060300 t s " w e f i n d i n r 0060320 o b o t i c v i s i o n t a 0060340 s k s . I n m o r p h o l 0060360 o g i c a l l y r i c h l a 0060400 n g u a g e s l i k e F i n 0060420 n i s h w e w o u l d n o 0060440 t d i r e c t l y m a t c h 0060460 o u r p h o n o l o g i c a 0060500 l c o n s t i t u e n t s a 0060520 g a i n s t a f i n i t e 0060540 l e x i c o n ; r a t h e r , 0060560 w e w o u l d i n c l u d 0060600 e a m o r p h o l o g i c a 0060620 l p a r s e r a s a p a 0060640 r t o f t h e m o d e l 0060660 [ 1 2 ] . \r \r \r Z S p e a k e 0060700 r v a r i a t i o n \r \r W e 0060720 e m p l o y a r a d i c a l 0060740 l y l o w l e v e l o f 0060760 s y m b o l i c r e p r e s e 0061000 n t a t i o n i n t h i s 0061020 m o d e l , a m o r e t r 0061040 a d i t i o n a l o n e t h 0061060 a t i s e s s e n t i a l l 0061100 y s y l l a b i c , a n d 0061120 a h i g h e r l e v e l c 0061140 o n s i s t i n g o f s t r 0061160 i n g s o f s y l l a b l e 0061200 s . T h e i n c o r p o r a 0061220 t i o n o f t h e l a t t 0061240 e r r e f l e c t s o u r 0061260 b e l i e f t h a t l i s t 0061300 e n e r s a t t e n d t o 0061320 t h e r h y t h m i c s t r 0061340 u c t u r e o f s p e e c h 0061360 i n f i n d i n g w o r d 0061400 b o u n d a r i e s , a n d 0061420 r e f l e c t s o u r f i 0061440 n d i n g s t h a t t h i s 0061460 l e v e l p r o v i d e s 0061500 s o m e i n t e r e s t i n g 0061520 c o n s t r a i n t s i n 0061540 d e c o d i n g o b s c u r e 0061560 d i n f o r m a t i o n . 0061600 O n e f u r t h e r p r a c 0061620 t i c a l c o n s i d e r a t 0061640 i o n i s t h a t a l t h 0061660 o u g h w h o l e s y l l a 0061700 b l e s c a n d r o p o u 0061720 t i n o r d i n a r y , c 0061740 a s u a l s p e e c h i n 0061760 s o m e d i a l e c t s a n 0062000 d s p e e c h s t y l e s , 0062020 e n t i r e f e e t d o 0062040 n o t , u n l e s s a c o 0062060 m p l e t e w o r d i s o 0062100 m i t t e d . T h e p a r 0062120 t s o f t h e m o d e l 0062140 d e s c r i b e d s o f a r 0062160 w i l l h a n d l e s o m 0062200 e a s p e c t s o f t h e 0062220 p r o b l e m o f s p e a 0062240 k e r v a r i a t i o n , i 0062260 n c l u d i n g s o m e s e 0062300 g m e n t a l d i f f e r e n 0062320 c e s a n d c h a n g e s 0062340 i n s p e a k e r r a t e , 0062360 b u t o t h e r a s p e c 0062400 t s i n v o l v e s e t t i 0062420 n g p a r a m e t e r s a t 0062440 t h e f r o n t e n d ( 0062460 e . g . i s t h e s p e a 0062500 k e r a n a d u l t m a l 0062520 e / f e m a l e o r c h i l 0062540 d ) . \r \r T h e s i g n 0062560 a l p a r s e r c a n b e 0062600 s p l i c e d o n t o a n 0062620 y n u m b e r o f g o o d 0062640 s i g n a l - p r o c e s s i 0062660 n g f r o n t e n d s . 0062700 H o w e v e r , o u r e x 0062720 p e r i e n c e i n a n a l 0062740 y z i n g D F T s p e c t r 0062760 o g r a m s a n d o t h e r 0063000 p r o c e s s e d w a v e f 0063020 o r m s l e a d s u s t o 0063040 c o n c l u d e t h a t a 0063060 r e t h i n k i n g i n t 0063100 h i s d o m a i n w i l l 0063120 l e a d t o i n t e r e s t 0063140 i n g r e s u l t s a s w 0063160 e l l . A t p r e s e n t 0063200 , h u m a n b e i n g s a 0063220 r e b e t t e r a t r e a 0063240 d i n g s p e c t r o g r a m 0063260 s t h a n a r e m a c h i 0063300 n e s [ 1 3 ] , [ 1 4 ] . 0063320 F r o n t e n d s h a v 0063340 e n o t b e e n d e s i g 0063360 n e d t o e x t r a c t t 0063400 h e i n f o r m a t i o n t 0063420 h a t i s m o s t v a l u 0063440 a b l e f r o m t h e p o 0063460 i n t o f v i e w o f a 0063500 c o u s t i c p a r s i n g , 0063520 a n d s h o u l d b e a 0063540 u g m e n t e d t o h a n d 0063560 l e h a r d p r o b l e m s 0063600 o f s p e a k e r v a r i 0063620 a t i o n . \r \r \r \r 3 . C 0063640 u r r e n t s y s t e m a n 0063660 d f i n d i n g s \r \r O u r 0063700 w i s h t o c o u p l e t 0063720 h e m o d e l t o a f r 0063740 o n t e n d t h a t i s 0063760 b e t t e r t a i l o r e d 0064000 t o t h e q u a l i t a t i 0064020 v e l a b e l i n g t a s k 0064040 , a n d w h i c h e x h i 0064060 b i t s p l a s t i c i t y , 0064100 f a u l t - t o l e r a n c e 0064120 , a n d t h e p o s s i b 0064140 i l i t y f o r l e a r n i 0064160 n g , h a s l e a d u s 0064200 t o a n e x p l o r a t i o 0064220 n o f e x p e r i m e n t a 0064240 l a r c h i t e c t u r e s . 0064260 H u b e r m a n ' s a n d 0064300 H o g g ' s m a c h i n e s 0064320 b a s e d o n a r e g u l 0064340 a r a r r a y o f l o c a 0064360 l l y c o n n e c t e d e l 0064400 e m e n t s e x h i b i t i 0064420 n t e r e s t i n g a n d g 0064440 e r m a n e p r o p e r t i e 0064460 s . F o r i n s t a n c e 0064500 , t h e s e m a c h i n e s 0064520 e x h i b i t t h e p r o 0064540 p e r t y o f p l a s t i c 0064560 i t y , o r t h e a b i l 0064600 i t y t o c l a s s i f y 0064620 c h a n g e d i n p u t s . 0064640 A c e r t a i n a m o u n 0064660 t o f p l a s t i c i t y 0064700 i s e v i d e n t i n m o 0064720 r e t r a d i t i o n a l s 0064740 y s t e m s . H o w e v e r 0064760 , a k e y d i f f e r e n 0065000 c e t h a t i s c u r r e 0065020 n t l y u n d e r i n v e s 0065040 t i g a t i o n i s t h a t 0065060 p l a s t i c i t y c a n 0065100 b e b u i l t i n t o t h 0065120 e t a r g e t s , w h i c h 0065140 a r e d y n a m i c a t t 0065160 r a c t o r s . T h e r e 0065200 i s n o d i s t i n c t i o 0065220 n i n p r i n c i p l e b 0065240 e t w e e n t h e t r a i n 0065260 i n g d a t a a n d t h e 0065300 r e c o g n i t i o n d a t 0065320 a . T h e t a r g e t s c 0065340 a n s h i f t o v e r t i 0065360 m e i n r e s p o n s e i 0065400 n t h e a c t u a l i n p 0065420 u t . T h i s e x t r a 0065440 p o w e r h a s p o s s i b 0065460 i l i t i e s f o r d o m a 0065500 i n s w h e r e i n p u t s 0065520 v a r y s y s t e m a t i c 0065540 a l l y ( a s i s t h e 0065560 c a s e w h e n m o v i n g 0065600 f r o m s p e a k e r t o 0065620 s p e a k e r o r d i a l 0065640 e c t t o d i a l e c t ) . 0065660 \r \r W e n o t o n l y w i 0065700 s h t o b u i l d a r o 0065720 b u s t r e c o g n i z e r 0065740 b u t t o u n d e r s t a n 0065760 d f i r s t h o w t o e 0066000 x t r a c t a p p r o p r i a 0066020 t e r e p r e s e n t a t i o 0066040 n s o f p h y s i c a l s 0066060 i g n a l s a n d s e c o n 0066100 d , h o w t o c o m p u 0066120 t e w i t h t h e s e r e 0066140 p r e s e n t a t i o n s t o 0066160 e x t r a c t l i n g u i s 0066200 t i c m e a n i n g u s i n 0066220 g t a s k - p a r t i c u l a 0066240 r c o n s t r a i n t s a n 0066260 d o n - l i n e l e a r n i 0066300 n g f r o m p r e v i o u s 0066320 e x p e r i e n c e . 0066340 T h e m o d u l a r d e s i 0066360 g n o f t h e s y s t e m 0066400 i s p r a c t i c a l i n 0066420 t h a t i t p e r m i t s 0066440 u s t o e x p e r i m e n 0066460 t w i t h a n u m b e r 0066500 o f f r o n t e n d s , a 0066520 n d t o t e s t t h e p 0066540 h o n e t i c c o m p o n e n 0066560 t o n l a n g u a g e s o 0066600 t h e r t h a n E n g l i s 0066620 h . \r \r A t t h i s m o 0066640 m e n t , w e b e l i e v e 0066660 w e a r e u n i q u e l y 0066700 p o s i t i o n e d t o e 0066720 n g a g e i n t h i s e x 0066740 p l o r a t i o n . W e a 0066760 r e i n v e s t i g a t i n g 0067000 o p t i m a l p a r s i n g 0067020 d e s i g n w i t h r e s 0067040 e a r c h e r s o f t h e 0067060 C e n t e r f o r t h e S 0067100 t u d y o f L a n g u a g e 0067120 a n d I n f o r m a t i o n 0067140 a t S t a n f o r d , a s 0067160 w e l l a s g e n e r a l 0067200 p h o n o l o g i c a l a n 0067220 d s p e e c h r e c o g n i 0067240 t i o n i s s u e s w i t h 0067260 m e m b e r s o f t h e 0067300 l o c a l r e s e a r c h c 0067320 o m m u n i t y i n t h e 0067340 a r e a . I n a d d i t i 0067360 o n , w e a r e a b l e 0067400 t o b e n e f i t f r o m 0067420 K a p l a n ' s a n d K a y 0067440 ' s c u r r e n t w o r k 0067460 o n l e x i c a l a c c e s 0067500 s a n d e n c o d i n g ( 0067520 f o r a d e s c r i p t i o 0067540 n s e e [ 1 2 ] ) . F i 0067560 n a l l y , o u r c o m p u 0067600 t a t i o n a l e n v i r o n 0067620 m e n t i n c l u d e s a c 0067640 c e s s t o s i m u l a t i 0067660 o n s o f t h e H u b e r 0067700 m a n - H o g g m a c h i n e 0067720 s , a n d t h e L F G s 0067740 y s t e m w h e r e b o t h 0067760 p r e l i m i n a r y p h o 0070000 n e t i c a n d h i g h - l 0070020 e v e l p h o n o l o g i c a 0070040 l c o m p o n e n t s h a v 0070060 e b e e n s u c c e s s f u 0070100 l l y i m p l e m e n t e d . 0070120 \r \r \r S p e c i f i c a l l 0070140 y , t h e c o n c e p t o 0070160 f a t t r a c t i v e f i x 0070200 e d p o i n t s , d r a w n 0070220 f r o m t h e f i e l d 0070240 o f d y n a m i c a l s y s 0070260 t e m s t h e o r y i n p 0070300 h y s i c s , h a s b e e n 0070320 a p p l i e d t o d i s c 0070340 r e t e p r o c e s s e s t 0070360 o p r o d u c e c o m p u t 0070400 i n g a r c h i t e c t u r e 0070420 s c a p a b l e o f f a u 0070440 l t - t o l e r a n t p a t t 0070460 e r n c l a s s i f i c a t i 0070500 o n . T h e s e a r c h i 0070520 t e c t u r e s c u r r e n t 0070540 l y c o n s i s t o f a r 0070560 r a y s o f s i m p l e l 0070600 o c a l u n i t s t h a t 0070620 o p e r a t e o n i n t e g 0070640 e r d a t a r e c e i v e d 0070660 l o c a l l y f r o m t h 0070700 e i r n e i g h b o r s . 0070720 I n p u t t o t h e m a 0070740 c h i n e t a k e s p l a c 0070760 e o n l y a l o n g t h e 0071000 e d g e s a n d t h e c 0071020 o m p u t a t i o n i s s y 0071040 s t o l i c a l l y a d v a n 0071060 c e d f r o m r o w t o 0071100 r o w i n s t e p w i t h 0071120 a g l o b a l c l o c k . 0071140 E a c h p r o c e s s o r 0071160 h a s a n i n t e r n a l 0071200 s t a t e , r e p r e s e n 0071220 t e d b y a n i n t e g e 0071240 r , w h i c h c a n o n l 0071260 y t a k e a s m a l l s 0071300 e t o f v a l u e s d e p 0071320 e n d i n g o n a g i v e 0071340 n a d a p t i v e r u l e . 0071360 T h e u n i t d e t e r 0071400 m i n e s i t s l o c a l 0071420 o u t p u t b a s e d o n 0071440 i t s i n p u t s a n d i 0071460 t s i n t e r n a l s t a t 0071500 e . A t e a c h t i m e 0071520 s t e p , e v e r y e l e 0071540 m e n t r e c e i v e s d a 0071560 t a v a l u e s f r o m t 0071600 h e a d j o i n i n g u n i 0071620 t s i n o n e d i r e c t 0071640 i o n a n d c o m p u t e s 0071660 i t s o u t p u t , w h i 0071700 c h i s t h e n p a s s e 0071720 d a l o n g t o i t s n 0071740 e x t n e i g h b o r s . 0071760 H u b e r m a n a n d H o g 0072000 g h a v e r e c e n t l y 0072020 s h o w n t h a t t h e s e 0072040 a r c h i t e c t u r e s c 0072060 a n b e m a d e t o c o 0072100 m p u t e i n a d i s t r 0072120 i b u t e d , d e t e r m i n 0072140 i s t i c , s e l f - r e p a 0072160 i r i n g f a s h i o n [ 1 0072200 5 ] . T h e s e m a c h i 0072220 n e s a c h i e v e a c e 0072240 r t a i n a m o u n t o f 0072260 s e g m e n t a t i o n o f 0072300 t h e s p e e c h w a v e f 0072320 o r m , a n d p e r f o r m 0072340 a d i s c r e t e r e c o 0072360 d i n g o f t h e c o n t 0072400 i n u o u s i n p u t . T 0072420 h e c a u s a l r e l a t i 0072440 o n b e t w e e n l a n g u 0072460 a g e - i n d e p e n d e n t 0072500 r e p r e s e n t a t i o n s 0072520 a n d t h e p h y s i c a l 0072540 s i g n a l i s e s t a b 0072560 l i s h e d i n t h i s p 0072600 r o c e d u r e , w h i c h 0072620 a m o u n t s t o a q u a 0072640 l i t a t i v e l a b e l i n 0072660 g o f t h e i n p u t s . 0072700 \r \r T h e q u a l i t a t i 0072720 v e l a b e l s a r e t h 0072740 e n l i n g u i s t i c a l l 0072760 y p r o c e s s e d u s i n 0073000 g a g e n e r a l i z e d 0073020 L F G s y s t e m . T h e 0073040 t e c h n o l o g y t h a t 0073060 f o r m s a b a s i s f 0073100 o r t h e c o n s t r a i n 0073120 t - b a s e d p a r s e w a 0073140 s o r i g i n a l l y i m p 0073160 l e m e n t e d f o r n a t 0073200 u r a l l a n g u a g e s y 0073220 n t a x , a l t h o u g h t 0073240 h e t h e o r y b e h i n d 0073260 i t s d e v e l o p m e n t 0073300 w a s n o t r e s t r i c 0073320 t e d t o t h i s d o m a 0073340 i n [ 1 6 ] . T h e d e 0073360 s i g n o f t h e K a p l 0073400 a n s y s t e m r e f l e c 0073420 t s t h e i d e a o f a 0073440 c o l l e c t i o n o f a 0073460 s y n c h r o n o u s c o m m 0073500 u n i c a t i n g p r o c e s 0073520 s e s t h a t h a n d l e 0073540 v a r i o u s a s p e c t s 0073560 o f t h e r e c o g n i t i 0073600 o n p r o b l e m . A b a 0073620 n d o n i n g t h e f a m i 0073640 l i a r l i n e a r c o n t 0073660 r o l s t r a t e g y , t h 0073700 e s y s t e m e f f e c t i 0073720 v e l y r e d u c e s t h e 0073740 c o m p u t a t i o n s p a 0073760 c e b y k e e p i n g t r 0074000 a c k o f a c o l l e c t 0074020 i o n o f c o n s t r a i n 0074040 t s w h i c h m i n i m i z 0074060 e s d e a d - e n d s i n 0074100 t h e p a r s e . T h e 0074120 p h o n o l o g i c a l g r a 0074140 m m a r i s a s e t o f 0074160 t r a n s i t i o n n e t w 0074200 o r k s w h e r e l a b e l 0074220 s o n d i r e c t e d a r 0074240 c s c o r r e s p o n d t o 0074260 s o u n d c o n s t i t u e 0074300 n t s o f v a r i o u s s 0074320 i z e s . T h e p h o n o 0074340 l o g i c a l g r a m m a r 0074360 d e r i v e s f r o m s e v 0074400 e r a l s t u d i e s o n 0074420 m e t r i c a l a n d s e g 0074440 m e n t a l p h o n o l o g i 0074460 c a l t h e o r y . T h e 0074500 s y s t e m a p p l i e s 0074520 a g r a m m a r n e t w o r 0074540 k t o a d a t a s t r u 0074560 c t u r e c a l l e d a c 0074600 h a r t , w h i c h b u i l 0074620 d s u p n e w e d g e s 0074640 a n d v e r t i c e s , w h 0074660 e r e e a c h e d g e c o 0074700 r r e s p o n d s t o a w 0074720 e l l - f o r m e d s u b - s 0074740 t r i n g a n d e a c h v 0074760 e r t e x f o r m s a j u 0075000 n c t u r e . T h e c u r 0075020 r e n t p a r s e r o p e r 0075040 a t e s b o t h b o t t o m 0075060 - u p a n d t o p - d o w n 0075100 , t h e m u l t i - p r o c 0075120 e s s o r f r a m e w o r k 0075140 e l i m i n a t i n g r e d u 0075160 n d a n t c o m p u t a t i o 0075200 n . T h e s y s t e m i 0075220 s b o t h f a s t a n d 0075240 f l e x i b l e , a n d s h 0075260 o u l d s c a l e u p i n 0075300 a s t r a i g h t f o r w a 0075320 r d w a y a s m o r e c 0075340 o n s t r a i n t s a r e i 0075360 n c o r p o r a t e d . \r \r \r \r 0075400 4 . P r o p o s a l \r \r W e 0075420 p r o p o s e a t h r e e 0075440 - y e a r e f f o r t i n 0075460 o r d e r t o m a k e s u 0075500 b s t a n t i a l p r o g r e 0075520 s s o n t h e s e i s s u 0075540 e s . W h i l e a t p r 0075560 e s e n t w e h a v e d e 0075600 s i g n s a n d s i m u l a 0075620 t i o n s o f c o m p o n e 0075640 n t s t h a t p r o v i d e 0075660 s o l u t i o n s t o s o 0075700 m e o f t h e d i f f i c 0075720 u l t i e s a s s o c i a t e 0075740 d w i t h v a r i a b i l i 0075760 t y a n d p r o d u c t i v 0076000 i t y , w e w i s h t o 0076020 s y s t e m a t i c a l l y i 0076040 n v e s t i g a t e h o w t 0076060 o i m p r o v e t h e m b 0076100 o t h f r o m t h e p o i 0076120 n t o f v i e w o f t h 0076140 e s c i e n t i f i c m o d 0076160 e l a n d f r o m a n e 0076200 f f i c i e n c y p e r s p e 0076220 c t i v e . I n a d d i t 0076240 i o n , w e w a n t t o 0076260 i m p l e m e n t o u r s o 0076300 f t w a r e i n a s p e c 0076320 i a l - p u r p o s e c h i p 0076340 w h i c h w o u l d e n a 0076360 b l e f a r g r e a t e r 0076400 p r o c e s s i n g s p e e d 0076420 . T h e s u p p o r t w e 0076440 s e e k i s f o r t h e 0076460 i n v e s t i g a t i o n o 0076500 f s c i e n t i f i c q u e 0076520 s t i o n s i n c l u d i n g 0076540 h o w t o d e v e l o p 0076560 b e t t e r a d a p t i v e 0076600 s t r u c t u r e s f o r t 0076620 i m e - v a r y i n g i n p u 0076640 t s , w h e t h e r a t w 0076660 o - t a p e f i n i t e - s t 0076700 a t e a u t o m a t o n w i 0076720 l l s u f f i c e t o m a 0076740 p t h e a r r a y o u t p 0076760 u t s t o t h e p a r s e 0077000 r , h o w t o d e v e l o 0077020 p t h e m e t r i c a l c 0077040 o n s t r a i n t s a l r e a 0077060 d y i n p l a c e , a n d 0077100 a d d a d d i t i o n a l 0077120 p h o n o l o g i c a l c o n 0077140 s t r a i n t s , a n d f i 0077160 n a l l y h o w b e s t t 0077200 o e x p l o i t t h e m a 0077220 c h i n e s w e h a v e d 0077240 e v e l o p e d f o r l e x 0077260 i c a l l o o k - u p . \r \r 0077300 \r \r \r \r R E F E R E N C E S \r \r 0077320 [ 1 ] R a b i n e r , L . 0077340 a n d S . L e v i n s o n . 0077360 I s o l a t e d a n d c o 0077400 n n e c t e d w o r d r e c 0077420 o g n i t i o n - - t h e o 0077440 r y a n d s e l e c t e d 0077460 a p p l i c a t i o n s . I E 0077500 E E T r a n s . o n c o m 0077520 m u n i c a t i o n s , C O M 0077540 - 2 9 , 5 , M a y 1 9 8 1 0077560 . \r \r [ 2 ] R a b i n e r , 0077600 L . , S . L e v i n s o n 0077620 a n d M . S o n d h i . 0077640 O n t h e a p p l i c a t i 0077660 o n o f v e c t o r q u a 0077700 n t i z a t i o n a n d h i 0077720 d d e n M a r k o v m o d e 0077740 l s t o s p e a k e r - i n 0077760 d e p e n d e n t , i s o l a 0100000 t e d w o r d r e c o g n i 0100020 t i o n . B S T J 6 2 ( 4 ) 0100040 ( A P R . 1 9 8 3 ) . \r \r 0100060 [ 3 ] J o h n M a k h o u 0100100 l , R i c h a r d S c h w a 0100120 r t z , Y e n - L u C h o w 0100140 , O w e n K i m b a l l , 0100160 S a l i m R o u c o s , a n 0100200 d M i c h a e l K r a s n e 0100220 r ( B B N ) , C o n t i n u 0100240 o u s p h o n e t i c s p e 0100260 e c h r e c o g n i t i o n , 0100300 P r e s e n t a t i o n a 0100320 t A S A , O c t o b e r 1 0100340 9 8 4 . \r \r [ 4 ] L o w e r r 0100360 e , B . T h e H A R P Y 0100400 S p e e c h R e c o g n i t i 0100420 o n S y s t e m , C M U P 0100440 h . D . d i s s e r t a t i o 0100460 n , 1 9 7 6 . \r \r [ 5 ] B 0100500 u s h , M . , G . K o p e 0100520 c , a n d M . H a m i l t 0100540 o n ( F a i r c h i l d ) , 0100560 N e t w o r k - b a s e d I 0100600 s o l a t e d D i g i t R e 0100620 c o g n i t i o n U s i n g 0100640 V e c t o r Q u a n t i z a t 0100660 i o n . P r e s e n t a t 0100700 i o n a t A S A , O c t o 0100720 b e r 1 9 8 4 . \r \r [ 6 ] S 0100740 t e v e n s , K . N . T o w 0100760 a r d a f e a t u r e - b a 0101000 s e d m o d e l o f s p e 0101020 e c h p e r c e p t i o n . 0101040 I P O A n n u . P r o g . 0101060 R e p . 1 7 , 3 6 - 3 7 ( 0101100 1 9 8 2 ) . \r \r [ 7 ] S h i p 0101120 m a n , D . a n d V . Z 0101140 u e . P r o p e r t i e s 0101160 o f l a r g e l e x i c o n 0101200 s : i m p l i c a t i o n s 0101220 f o r a d v a n c e d w o r 0101240 d r e c o g n i t i o n s y 0101260 s t e m s , 1 9 8 3 I E E E 0101300 I n t e r n a t i o n a l C 0101320 o n f e r e n c e o n A c o 0101340 u s t i c s , S p e e c h a 0101360 n d S i g n a l P r o c e s 0101400 s i n g , P a r i s , F r a 0101420 n c e . \r \r [ 8 ] H u t t e n 0101440 l o c h e r , D . a n d V 0101460 . Z u e . I C A A S P 8 4 0101500 . \r \r [ 9 ] C h u r c h , K 0101520 . P h r a s e - S t r u c t 0101540 u r e P a r s i n g : A M 0101560 e t h o d f o r T a k i n g 0101600 A d v a n t a g e o f A l 0101620 l o p h o n i c C o n s t r a 0101640 i n t s , M I T P h . D . 0101660 d i s s e r t a t i o n , 1 9 0101700 8 3 ( a v a i l a b l e f r 0101720 o m R L E p u b l i c a t i 0101740 o n s , M I T , C a m b r i 0101760 d g e , M A ) . \r \r [ 1 0 ] 0102000 W i t h g o t t , M . S e g 0102020 m e n t a l E v i d e n c e 0102040 f o r P h o n o l o g i c a l 0102060 C o n s t i t u e n t s , U 0102100 T P h . D . d i s s e r t a 0102120 t i o n , 1 9 8 2 , A u s t 0102140 i n , T X ( a v a i l a b l 0102160 e f r o m U n i v e r s i t 0102200 y m i c r o f i l m s , A n 0102220 n A r b o r ) . \r \r [ 1 1 ] 0102240 K i p a r s k y , P . M 0102260 e t r i c a l S t r u c t u r 0102300 e A s s i g n m e n t i s 0102320 C y c l i c . L i n g u i s 0102340 t i c I n q u i r y 1 0 , 0102360 4 2 1 - 4 4 1 . \r \r [ 1 2 ] K 0102400 o s k e n n i e m i , K . 0102420 T w o - l e v e l m o r p h o 0102440 l o g y : A g e n e r a l 0102460 c o m p u t a t i o n a l m o 0102500 d e l f o r w o r d - f o r 0102520 m r e c o g n i t i o n a n 0102540 d p r o d u c t i o n . U 0102560 n i v e r s i t y o f H e l 0102600 s i n k i P u b l i c a t i o 0102620 n s , N o . 1 1 , 1 9 8 3 0102640 . \r \r [ 1 3 ] B e t h G . 0102660 G r e e n e , D a v i d B . 0102700 P i s o n i , T h o m a s 0102720 D . C a r r e l l . R e c o 0102740 g n i t o n o f s p e e c h 0102760 s p e c t r o g r a m s J A 0103000 S A 7 6 , 1 , ' 8 4 \r \r [ 1 0103020 4 ] S h o c k e y , L . a 0103040 n d R e d d y , R . Q u 0103060 a n t i t a t i v e a n a l y 0103100 s i s o f s p e e c h p e 0103120 r s e p t i o n : R e s u l t 0103140 s f r o m t r a n s c r i p 0103160 t i o n o f c o n n e c t e 0103200 d s p e e c h f r o m u n 0103220 f a m i l i a r l a n g u a g 0103240 e s , " p a p e r p r e s e 0103260 n t e d a t t h e S p e e 0103300 c h C o m m u n i c a t i o n 0103320 S e m i n a r , S t o c k h 0103340 o l m , S w e d e n , 1 9 7 0103360 4 . \r \r [ 1 5 ] H u b e r m a 0103400 n , B . A . a n d T . 0103420 H o g g . A d a p t i o n 0103440 a n d S e l f - R e p a i r 0103460 i n P a r a l l e l C o m p 0103500 u t i n g S t r u c t u r e s 0103520 , P h y s . R e v . L e t 0103540 t . 5 2 , 1 0 4 8 - 1 0 5 1 0103560 , 1 9 8 4 . \r H o 0103600 g g , T . a n d B . A 0103620 . H u b e r m a n , U n d e 0103640 r s t a n d i n g B i o l o g 0103660 i c a l C o m p u t a t i o n 0103700 : R e l i a b l e L e a r n 0103720 i n g a n d R e c o g n i t 0103740 i o n , P r o c . N a t l . 0103760 A c a d . S c i . U S A 0104000 8 1 , 6 8 7 1 - 6 8 7 5 , 1 0104020 9 8 4 . \r \r [ 1 6 ] K a p l a 0104040 n , R . A m u l t i - p 0104060 r o c e s s i n g a p p r o a 0104100 c h t o n a t u r a l l a 0104120 n g u a g e . P r o c . o 0104140 f t h e N a t i o n a l C 0104160 o m p u t e r C o n f e r e n 0104200 c e , p p . 4 3 5 - 4 4 0 , 0104220 1 9 7 3 . \0 \0 \0 \0 \0 003 ( L I S 0104240 T ( ( P A G E N I L N I L 0104260 ( 0 0 1 7 2 2 ) ( ( F 0104300 O L I O N I L ( P A R A L O 0104320 O K S ( Q U A D C E N T E R 0104340 E D ) C H A R L O O K S ( F 0104360 A M I L Y N I L O V E R L I 0104400 N E O F F S T R I K E O U T 0104420 O F F U N D E R L I N E O 0104440 F F S L O P E R E G U L A R 0104460 W E I G H T M E D I U M ) ) 0104500 ( 2 7 0 3 6 7 2 3 6 ) 0104520 N I L ) ( T E X T N I L N 0104540 I L ( 7 5 7 3 4 6 2 6 4 0104560 7 ) N I L ) ) ) ( P A G E 0104600 N I L N I L ( 0 0 1 7 0104620 2 2 ) ( ( F O L I O N I L 0104640 ( P A R A L O O K S ( Q U A D 0104660 C E N T E R E D ) C H A R L 0104700 O O K S ( F A M I L Y N I L 0104720 O V E R L I N E O F F S T 0104740 R I K E O U T O F F U N D E 0104760 R L I N E O F F S L O P E 0105000 R E G U L A R W E I G H T M 0105020 E D I U M ) ) ( 2 7 0 3 6 0105040 7 2 3 6 ) N I L ) ( T E X 0105060 T N I L N I L ( 7 5 7 3 0105100 4 6 2 6 4 7 ) N I L ) ) ) 0105120 ( P A G E N I L N I L ( 0105140 0 0 1 7 2 2 ) ( ( F O L 0105160 I O N I L ( P A R A L O O K 0105200 S ( Q U A D C E N T E R E D 0105220 ) C H A R L O O K S ( F A M 0105240 I L Y N I L O V E R L I N E 0105260 O F F S T R I K E O U T O 0105300 F F U N D E R L I N E O F F 0105320 S L O P E R E G U L A R W 0105340 E I G H T M E D I U M ) ) ( 0105360 2 7 0 3 6 7 2 3 6 ) N I 0105400 L ) ( T E X T N I L N I L 0105420 ( 7 5 7 3 4 6 2 6 4 7 ) 0105440 N I L ) ) ) ) ) \0 \0 \0 \0 \0 005 \0 0105460 005 \0 \0 \0 \0 \0 \0 \0 \f \0 \0 \0 002 002 004 \0 0105500 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 0105520 \0 \0 $ \0 $ \0 \0 \0 \0 \0 \0 \0 \0 002 004 \0 0105540 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 0105560 \0 \0 < \0 < 001 370 \0 \0 \0 \0 \0 \0 002 004 \0 0105600 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 0105620 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 002 004 \0 0105640 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 0105660 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 002 003 \0 0105700 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 \0 0105720 \0 \0 \0 \0 \0 \0 004 \0 \b \0 \n T I M E S 0105740 R O M A N \0 \f \0 \0 \0 \0 \0 \0 002 \0 \0 0105760 \n T I M E S R O M A N \0 \n \0 \0 \0 0106000 \0 \0 \0 \0 \0 \0 004 M A T H \0 \f \0 \0 \0 0106020 \0 \0 \0 \0 \0 \0 \n T I M E S R O M A 0106040 N \0 016 \0 \0 \0 \0 \0 \0 001 \0 \0 \n T I M 0106060 E S R O M A N \0 016 \0 \0 \0 \0 \0 \0 \0 0106100 \0 \0 \n T I M E S R O M A N \0 016 \0 0106120 \0 \0 \0 \0 \0 003 \0 \0 \n T I M E S R O 0106140 M A N \0 \f \0 \0 \0 \0 \0 \0 \0 \0 \0 \n T 0106160 I M E S R O M A N \0 016 \0 \0 \0 \0 \0 0106200 \0 002 \0 \0 \0 \0 \0 \0 002 \0 005 \0 \0 \0 2 \0 0106220 \0 \0 \0 \b \0 \0 \0 001 \0 \0 \0 \0 \a \0 \0 \0 0106240 \0 \0 002 \0 005 \0 \0 \0 001 \0 \0 \0 \0 \a \0 \0 0106260 \0 \0 \0 002 \0 005 \0 \0 \0 001 \0 \0 \0 \0 \a \0 0106300 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 \a 0106320 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 / \0 \0 \0 \0 0106340 006 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 0106360 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 0106400 002 \0 001 \0 \0 001 017 \0 \0 \0 \0 005 \0 \0 \0 \0 0106420 \0 002 \0 001 \0 \0 002 6 \0 \0 \0 \0 005 \0 \0 \0 0106440 \0 \0 002 \0 001 \0 \0 002 346 \0 \0 \0 \0 005 \0 \0 0106460 \0 \0 \0 002 \0 001 \0 \0 001 \a \0 \0 \0 \0 005 \0 0106500 \0 \0 % \0 \0 \0 \0 004 \0 \0 003 q \0 \0 \0 \0 0106520 005 \0 \0 \0 \0 \0 002 \0 001 \0 \0 003 a \0 \0 \0 0106540 \0 005 \0 \0 \0 005 \0 \0 \0 \0 004 \0 \0 001 231 \0 0106560 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 001 \0 \0 006 R 0106600 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 001 \0 \0 \0 0106620 203 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 001 \0 \0 0106640 004 ? \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 001 \0 0106660 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 001 0106700 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 0106720 001 \0 \0 001 w \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 0106740 \0 001 \0 \0 001 271 \0 \0 \0 \0 005 \0 \0 \0 022 \0 0106760 \0 \0 \0 004 \0 \0 001 022 \0 \0 \0 \0 005 \0 \0 \0 0107000 \v \0 \0 \0 \0 004 \0 \0 \0 B \0 \0 \0 \0 005 \0 0107020 \0 \0 020 \0 \0 \0 \0 004 \0 \0 \0 o \0 \0 \0 \0 0107040 005 \0 \0 \0 005 \0 \0 \0 \0 004 \0 \0 \0 304 \0 \0 0107060 \0 \0 005 \0 \0 \0 \0 \0 002 \0 001 \0 \0 001 275 \0 0107100 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 0107120 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 002 0107140 333 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 0107160 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 0107200 \0 003 240 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 0107220 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 0107240 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 0107260 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 0107300 002 \0 004 \0 \0 \0 + \0 \0 \0 \0 \b \0 \0 \0 001 0107320 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 0107340 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 0107360 \0 305 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 0107400 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 0107420 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 001 \0 \0 \0 0107440 \0 003 \0 \0 \0 + \0 \0 \0 \0 005 \0 \0 \0 \0 \0 0107460 002 \0 003 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 * 0107500 \0 \0 \0 \0 004 \0 \0 \0 006 \0 \0 \0 \0 005 \0 \0 0107520 \0 \0 \0 002 \0 003 \0 \0 \0 ' \0 \0 \0 \0 004 \0 0107540 \0 \0 \v \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 0107560 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 001 \0 \0 \0 0107600 \0 003 \0 \0 \0 * \0 \0 \0 \0 005 \0 \0 \0 \0 \0 0107620 002 \0 003 \0 \0 \0 031 \0 \0 \0 \0 004 \0 \0 \0 \v 0107640 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 003 \0 \0 \0 0107660 031 \0 \0 \0 \0 004 \0 \0 \0 006 \0 \0 \0 \0 005 \0 0107700 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 \a 0107720 \0 \0 \0 001 \0 \0 \0 \0 003 \0 \0 \0 032 \0 \0 \0 0107740 \0 005 \0 \0 \0 \0 \0 002 \0 003 \0 \0 \0 001 \0 \0 0107760 \0 \0 005 \0 \0 \0 037 \0 \0 \0 \0 004 \0 \0 \0 \v 0110000 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 003 \0 \0 \0 0110020 036 \0 \0 \0 \0 004 \0 \0 \0 006 \0 \0 \0 \0 005 \0 0110040 \0 \0 \0 \0 002 \0 002 \0 \0 \0 001 \0 \0 \0 \0 005 0110060 \0 \0 \0 \0 \0 002 \0 002 \0 \0 \0 001 \0 \0 \0 \0 0110100 \a \0 \0 \0 \0 \0 002 \0 002 \0 \0 006 331 \0 \0 \0 0110120 \0 \a \0 \0 \0 \0 \0 002 \0 002 \0 \0 \0 001 \0 \0 0110140 \0 \0 \a \0 \0 \0 \0 \0 002 \0 002 \0 \0 003 212 \0 0110160 \0 \0 \0 \a \0 \0 \0 \0 \0 002 \0 002 \0 \0 \0 001 0110200 \0 \0 \0 \0 \a \0 \0 \0 \0 \0 002 \0 002 \0 \0 \0 0110220 002 \0 \0 \0 \0 \a \0 \0 \0 \0 \0 002 \0 002 \0 \0 0110240 005 K \0 \0 \0 \0 \a \0 \0 \0 \a \0 \0 \0 \0 005 0110260 \0 \0 001 ' \0 \0 \0 \0 \a \0 \0 \0 \0 \0 002 \0 0110300 002 \0 \0 \0 001 \0 \0 \0 \0 \a \0 \0 \0 \0 \0 002 0110320 \0 002 \0 \0 004 K \0 \0 \0 \0 \a \0 \0 \0 \0 \0 0110340 002 \0 004 \0 \0 \0 002 \0 \0 \0 \0 \a \0 \0 \0 001 0110360 \0 \0 \0 \0 002 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 0110400 001 \0 \0 \0 \0 002 \0 \0 \0 \0 \0 002 \0 004 \0 \0 0110420 001 d \0 \0 \0 \0 005 \0 \0 \0 002 \0 \0 \0 \0 004 0110440 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 001 \0 \0 \0 0110460 \0 004 \0 \0 002 230 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 0110500 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 0110520 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 0110540 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 0110560 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 0110600 \0 \0 \0 \0 002 \0 004 \0 \0 \0 ; \0 \0 \0 \0 \b 0110620 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 0110640 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 0110660 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 0110700 002 \0 004 \0 \0 004 247 \0 \0 \0 \0 005 \0 \0 \0 \0 0110720 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 0110740 \0 \0 002 \0 004 \0 \0 \0 ] \0 \0 \0 \0 005 \0 \0 0110760 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 0111000 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 0111020 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 0111040 003 \0 \0 \0 025 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 0111060 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 0111100 002 \0 004 \0 \0 001 237 \0 \0 \0 \0 005 \0 \0 \0 \0 0111120 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 0111140 \0 \0 002 \0 004 \0 \0 001 g \0 \0 \0 \0 005 \0 \0 0111160 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 0111200 \0 \0 \0 \0 002 \0 004 \0 \0 002 004 \0 \0 \0 \0 005 0111220 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 0111240 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 001 z \0 \0 \0 0111260 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 0111300 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 002 \0 0111320 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 0111340 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 0111360 001 \0 \0 \0 \0 003 \0 \0 \0 022 \0 \0 \0 \0 005 \0 0111400 \0 \0 \0 \0 002 \0 004 \0 \0 \0 002 \0 \0 \0 \0 005 0111420 \0 \0 \0 \0 \0 002 \0 004 \0 \0 004 325 \0 \0 \0 \0 0111440 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 0111460 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 0111500 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 0111520 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 0111540 \0 \0 \0 \0 003 \0 \0 \0 030 \0 \0 \0 \0 005 \0 \0 0111560 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 0111600 \0 \0 \0 \0 002 \0 004 \0 \0 001 + \0 \0 \0 \0 005 0111620 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 0111640 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 002 f \0 \0 \0 0111660 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 0111700 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 002 1 \0 0111720 \0 \0 \0 005 \0 \0 \0 006 \0 \0 \0 \0 004 \0 \0 \0 0111740 R \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 0111760 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 0112000 \0 002 271 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 0112020 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 0112040 004 \0 \0 001 . \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 0112060 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 0112100 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 0112120 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 003 \0 \0 \0 0112140 027 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 0112160 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 0112200 \0 001 253 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 0112220 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 0112240 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 0112260 \0 004 \0 \0 \0 001 \0 \0 \0 \0 003 \0 \0 \0 023 \0 0112300 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 0112320 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 003 0112340 232 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 0112360 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 0112400 \0 002 0 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 0112420 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 0112440 004 \0 \0 \0 002 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 0112460 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 0112500 002 \0 004 \0 \0 \0 036 \0 \0 \0 \0 \b \0 \0 \0 001 0112520 \0 \0 \0 \0 003 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 0112540 001 \0 \0 \0 \0 003 \0 \0 \0 \0 \0 002 \0 004 \0 \0 0112560 003 365 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 \0 0112600 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 004 0112620 \0 \0 001 343 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 \0 0112640 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 002 0112660 \0 004 \0 \0 002 275 \0 \0 \0 \0 005 \0 \0 \0 \0 \0 0112700 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 \0 0112720 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 0112740 \0 \0 002 \0 004 \0 \0 005 m \0 \0 \0 \0 005 \0 \0 0112760 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 0113000 \0 \0 \0 \0 002 \0 004 \0 \0 005 : \0 \0 \0 \0 005 0113020 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 0113040 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 0113060 \0 \a \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 0113100 \0 \0 \a \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 \f \0 0113120 \0 \0 \0 \b \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 \0 0113140 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 \0 \0 0113160 \0 \0 \0 002 \0 004 \0 \0 003 260 \0 \0 \0 \0 005 \0 0113200 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 005 0113220 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 002 \0 \0 \0 \0 0113240 005 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 0113260 \0 \a \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 0113300 \0 \0 \a \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 0113320 \0 \0 \0 \a \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 \n 0113340 \0 \0 \0 \0 001 \0 \0 \0 001 \0 \0 \0 \0 \a \0 \0 0113360 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 \a \0 0113400 \0 \0 \0 \0 002 \0 004 \0 \0 \0 242 \0 \0 \0 \0 \a 0113420 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 0113440 \a \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 274 \0 \0 \0 0113460 \0 \a \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 0113500 \0 \0 \a \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 265 \0 0113520 \0 \0 \0 \a \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 0113540 \0 \0 \0 \0 \a \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 0113560 S \0 \0 \0 \0 \a \0 \0 \0 \0 \0 002 \0 004 \0 \0 0113600 \0 001 \0 \0 \0 \0 \a \0 \0 \0 \0 \0 002 \0 004 \0 0113620 \0 \0 240 \0 \0 \0 \0 \a \0 \0 \0 \0 \0 002 \0 004 0113640 \0 \0 \0 001 \0 \0 \0 \0 \a \0 \0 \0 \0 \0 002 \0 0113660 004 \0 \0 \0 l \0 \0 \0 \0 \a \0 \0 \0 \0 \0 002 0113700 \0 004 \0 \0 \0 001 \0 \0 \0 \0 \a \0 \0 \0 \0 \0 0113720 002 \0 004 \0 \0 \0 315 \0 \0 \0 \0 \a \0 \0 \0 \0 0113740 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 \a \0 \0 \0 0113760 \0 \0 002 \0 004 \0 \0 \0 , \0 \0 \0 \0 \a \0 \0 0114000 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 \a \0 0114020 \0 \0 \0 \0 002 \0 004 \0 \0 \0 267 \0 \0 \0 \0 \a 0114040 \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 0114060 \a \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 237 \0 \0 \0 0114100 \0 \a \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 001 \0 \0 0114120 \0 \0 \a \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 ^ \0 0114140 \0 \0 \0 \a \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 251 0114160 \0 \0 \0 \0 \a \0 \0 \0 \0 \0 002 \0 004 \0 \0 \0 0114200 001 \0 \0 \0 \0 \a \0 \0 \0 \0 \0 002 \0 004 \0 \0 0114220 \0 j \0 \0 \0 \0 \a \0 \0 \0 \0 \0 002 \0 004 \0 0114240 \0 \0 001 \0 \0 \0 \0 \a \0 \0 \0 \0 \0 002 \0 004 0114260 \0 \0 \0 345 \0 \0 \0 \0 \a \0 \0 \0 \0 \0 002 \0 0114300 004 \0 \0 \0 001 \0 \0 \0 \0 \a \0 \0 \0 \0 \0 002 0114320 \0 004 \0 \0 \0 204 \0 \0 \0 \0 \a \0 \0 \0 \0 \0 0114340 002 \0 004 \0 \0 \0 235 \0 \0 \0 \0 \a \0 \0 \0 \0 0114360 \0 002 \0 004 \0 \0 \0 001 \0 \0 \0 \0 \a \0 \0 \0 0114400 \0 \0 002 \0 004 \0 \0 \0 200 \0 \0 \0 \0 \a \0 \0 0114420 210 226 001 x z 271 0114426