Kyoto University

Language Knowledge Engineering Lab.

KyotoEBMT	  System	  Descrip3on	  for	  the	  1st	  Workshop	  on	  Asian	  Transla3on	John Richardson

john@nlp.ist.i.kyoto-u.ac.jp

Fabien Cromières
fabien@pa.jst.jp

Toshiaki Nakazawa
nakazawa@pa.jst.jp

Sadao Kurohashi
kuro@i.kyoto-u.ac.jp

Graduate School of Informatics, Kyoto University	

KyotoEBMT System Pipeline	

Web Interface of Translation	

WAT2014 Official Results	
Dependency	  Parsers	  	  	  	  	  	  Ja:	  KNP	  [Kawahara	  and	  Kurohashi,	  2006]	  	  	  	  	  	  En:	  NLParser	  [Charniak	  and	  Johnson,	  2005]	  with	  rules	  	  	  	  	  	  Zh:	  SKP	  [Shen	  et	  al.,	  2012]	  Reranking	  Features	  	  	  	  	  	  20-­‐best	  parses	  with	  its	  parsing	  scores	  	  	  	  	  	  7-­‐gram	  language	  model	  with	  Modiﬁed	  Kneser-­‐Ney	  smoothing	  	  	  	  	  	  Recurrent	  Neural	  Network	  Language	  Model	  with	  hidden	  layer	  size	  200	

JE	EJ	JC	CJ	

Reranking	NO	YES	NO	  YES	NO	YES	NO	
YES	

BLEU	
20.60	
21.07	
29.76	
31.09	
27.21	
27.67	
33.57	
34.75	RIBES	
70.12	
69.90	
75.21	
75.96	
79.13	
78.83	
80.10	
80.26	

HUMAN	21.50	
25.00	
33.75	
38.00	-­‐0.75	
-­‐8.75	
6.00	
7.50	

Findings	  	  	  	  	  	  Team-­‐based	  rankings	  of	  HUMAN	  score	  were	  2nd,	  3rd,	  5th	  and	  4th	  	  	  	  	  	  Reranking	  works	  well	  for	  all	  the	  direcBons	  other	  than	  J-­‐>C	  	  	  	  	  	  	  	  	  	  	  need	  more	  invesBgaBons	

Illustration of Translation Process	  

 !

 *!
 %!

 )!

 $!   (!





(!


(!  '! " '! '!

 '!
'!


$!

$!  (!$!&!   Conclusion and Future Perspective	   Translation with Lattice Rules	  [Cromieres	  and	  Kurohashi,	  EMNLP	  2014]	

 

 

   Each	  path	  in	  this	  laWce	  corresponds	  to	  diﬀerent	  choices	  of	  inserBon	  posiBon	  for	  X2,	  morphological	  forms	  of	  “be”,	  and	  the	  opBonal	  inserBon	  of	  “at”.	

• designed	  to	  handle	  an	  arbitrary	  number	  of	  non-­‐terminals	  • able	  to	  handle	  ambiguiBes	  of	  translaBon	  hypotheses	  Ø which	  target	  word	  is	  going	  to	  be	  used	  Ø which	  will	  be	  the	  ﬁnal	  posiBon	  of	  each	  non-­‐terminal	

KyotoEBMT	  system	  	  	  	  	  	  -­‐	  source	  code	  available	  under	  a	  GPL	  license	  at	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  	  h`p://nlp.ist.i.kyoto-­‐u.ac.jp/kyotoebmt/	  	  	  	  	  	  -­‐	  uses	  both	  source	  and	  target	  dependency	  analysis	  	  	  	  	  	  -­‐	  online	  example	  retrieving	  	  	  	  	  	  -­‐	  availability	  of	  full	  translaBon	  examples	  at	  run	  Bme	  	  Future	  perspecBves	  	  	  	  	  	  -­‐	  use	  of	  the	  input	  parse	  forest	  instead	  of	  k-­‐best	  parses	  	  	  	  	  	  -­‐	  parsing	  the	  example	  parallel	  corpus	  as	  forests	  	  	  	  	  	  -­‐	  use	  a	  target-­‐side	  tree	  language	  model	  as	  a	  decoding/	  	  	  	  	  	  	  	  	  reranking	  feature	  	  	  	  	  	  -­‐	  online	  tuning	  of	  weights	  	  	  	  	  	  -­‐	  target-­‐side	  structural	  features	  	  	WAT2014, Tokyo Japan, 4th October 2014