Datasets:

addisai
/

amharic-tts-benchmark

case_id stringclasses 100 values	system stringclasses 8 values	source stringclasses 3 values	reference_text stringclasses 100 values	transcript stringlengths 13 512	cer float64 0 8.35	wer float64 0 7.31
am-001	addis	fleurs	መናገር ባያስፈልግም የሮማንስ ቋንቋን ካወቁ ፖርቹጋልኛ ለመማር ይቀልዎታል	መናገር ባያስፈልግም የሮማንስ ቋንቋን ካወቁ ፖርቹጋልኛ ለመማር ይቀንሎታል።	0.051282	0.125
am-001	azure-ameha	fleurs	መናገር ባያስፈልግም የሮማንስ ቋንቋን ካወቁ ፖርቹጋልኛ ለመማር ይቀልዎታል	መናገር ባያስፈልግም የሮማንስ ቋንቋን ካወቁ ፖርቹጋልኛ ለመማር ይቀልዎታል።	0	0
am-001	azure-mekdes	fleurs	መናገር ባያስፈልግም የሮማንስ ቋንቋን ካወቁ ፖርቹጋልኛ ለመማር ይቀልዎታል	መናገር ባያስፈልግም የሮማንስ ቋንቋን ከወቁ ፖርቹጋልኛ ለመማር ይቀልዎታል።	0.025641	0.125
am-001	elevenlabs	fleurs	መናገር ባያስፈልግም የሮማንስ ቋንቋን ካወቁ ፖርቹጋልኛ ለመማር ይቀልዎታል	ነፍስ አይፈቅድም ብቁ ተውጊ ፈው አፑጃይ ደማ ተርሚናሽን ሱ ዲድ አይድላይ	0.923077	1.375
am-001	gemini	fleurs	መናገር ባያስፈልግም የሮማንስ ቋንቋን ካወቁ ፖርቹጋልኛ ለመማር ይቀልዎታል	መናገር ባያስፈልግም የሮማንስ ቋንቋን ካወቁ ፖርቹጋልኛ ለመማር ይቀሎታል።	0.051282	0.125
am-001	human-reference	fleurs	መናገር ባያስፈልግም የሮማንስ ቋንቋን ካወቁ ፖርቹጋልኛ ለመማር ይቀልዎታል	መናገር ባያስፈልግም የሮማንስ ቋንቋን ካወቁ ፖርቹጋልኛ ለመማር ይቀልዎታል።	0	0
am-001	meta-mms	fleurs	መናገር ባያስፈልግም የሮማንስ ቋንቋን ካወቁ ፖርቹጋልኛ ለመማር ይቀልዎታል	መናገር ባያስፈልግም የሮማንስ ቋንቋን ካወቁ ከወቹ ጋር ለኛ ለመማር ይቀልዎታል።	0.102564	0.375
am-001	openai	fleurs	መናገር ባያስፈልግም የሮማንስ ቋንቋን ካወቁ ፖርቹጋልኛ ለመማር ይቀልዎታል	ምን አገር ባያስፈልግም የሮማንስ ቋንቋን ካወቁ ፖርቹጋልኛ ለመማር ይቀልዎታል።	0.076923	0.25
am-002	addis	fleurs	ይህ ስንብት አይሆንም ይህ የአንድ ምእራፍ መዝጊያ እና የአዲሱ መክፈቻ ነው	ይህ ስንብት አይሆንም ይህ የአንድ ምዕራፍ መዝጊያና የአዲሱ መክፈቻ ነው።	0.027027	0.181818
am-002	azure-ameha	fleurs	ይህ ስንብት አይሆንም ይህ የአንድ ምእራፍ መዝጊያ እና የአዲሱ መክፈቻ ነው	ይህ ስንብት አይሆንም ይህ የአንድ ምዕራፍ መዝጊያ እና የአዲሱ መክፈቻ ነው።	0	0
am-002	azure-mekdes	fleurs	ይህ ስንብት አይሆንም ይህ የአንድ ምእራፍ መዝጊያ እና የአዲሱ መክፈቻ ነው	ይህ ስንብት አይሆንም ይህ የአንድ ምዕራፍ መዝጊያ እና የአዲሱ መክፈቻ ነው።	0	0
am-002	elevenlabs	fleurs	ይህ ስንብት አይሆንም ይህ የአንድ ምእራፍ መዝጊያ እና የአዲሱ መክፈቻ ነው	ሰይ እንግዲህ ይቻላል ስለዚህ ደግሞ ይሄ ኮቬ መተድ ማውዝ ጎይንዲ ኦለብ መታ	0.945946	1.090909
am-002	gemini	fleurs	ይህ ስንብት አይሆንም ይህ የአንድ ምእራፍ መዝጊያ እና የአዲሱ መክፈቻ ነው	ይህ ስንብት አይሆንም ይህ የአንድ ምዕራፍ መዝጊያ እና የአዲሱ መክፈቻ ነው።	0	0
am-002	human-reference	fleurs	ይህ ስንብት አይሆንም ይህ የአንድ ምእራፍ መዝጊያ እና የአዲሱ መክፈቻ ነው	ይህ ስንብት አይሆንም፣ ይህ የአንድ ምዕራፍ መዝጊያ እና የአዲሱ መክፈቻ ነው።	0	0
am-002	meta-mms	fleurs	ይህ ስንብት አይሆንም ይህ የአንድ ምእራፍ መዝጊያ እና የአዲሱ መክፈቻ ነው	ይህ ስንብት አይሆንም ይህ የአንድ ምዕራፍ መዝጊያ እና የአዲሱ መክፈቻ ነው።	0	0
am-002	openai	fleurs	ይህ ስንብት አይሆንም ይህ የአንድ ምእራፍ መዝጊያ እና የአዲሱ መክፈቻ ነው	ይህ ስም ብት አይሆንም ይህ ያንተ መራፍ መስኪያ እና ያዲሱ መክፈቻ ነው።	0.27027	0.545455
am-003	addis	fleurs	ብዙ ሰዎች ላባ ስላላቸው እና መብረር ስለሚችሉ እንደ ዳይኖሰር አይቆጥሯቸውም	ብዙ ሰዎች ላባ ስላላቸው እና መብረር ስለሚችሉ እንደ ዳይኖሰር አይቆጥሯቸውም።	0	0
am-003	azure-ameha	fleurs	ብዙ ሰዎች ላባ ስላላቸው እና መብረር ስለሚችሉ እንደ ዳይኖሰር አይቆጥሯቸውም	ብዙ ሰዎች ላባ ስላላቸው እና መብረር ስለሚችሉ እንደ ዳይኖሰር አይቆጥሯቸውም።	0	0
am-003	azure-mekdes	fleurs	ብዙ ሰዎች ላባ ስላላቸው እና መብረር ስለሚችሉ እንደ ዳይኖሰር አይቆጥሯቸውም	ብዙ ሰዎች ላባ ስላላቸው እና መብረር ስለሚችሉ እንደ ዳይኖሰር አይቆጥሯቸውም።	0	0
am-003	elevenlabs	fleurs	ብዙ ሰዎች ላባ ስላላቸው እና መብረር ስለሚችሉ እንደ ዳይኖሰር አይቆጥሯቸውም	ነዲ ወን ሳይ ሳይ ደደድ እተመት በን ሳይ ስወ እንተኮካ እተኮከት ይሁዳ	0.897436	1.2
am-003	gemini	fleurs	ብዙ ሰዎች ላባ ስላላቸው እና መብረር ስለሚችሉ እንደ ዳይኖሰር አይቆጥሯቸውም	ብዙ ሰዎች ላባ ስላላቸው እና መብረር ስለሚችሉ እንደ ዳይናሶር አይቆጥሯቸውም።	0.051282	0.1
am-003	human-reference	fleurs	ብዙ ሰዎች ላባ ስላላቸው እና መብረር ስለሚችሉ እንደ ዳይኖሰር አይቆጥሯቸውም	ብዙ ሰዎች ላባ ስላላቸው እና መብረስ ስለሚችሉ እንደ ዳይኖሰር አይቆጥሯቸውም።	0.025641	0.1
am-003	meta-mms	fleurs	ብዙ ሰዎች ላባ ስላላቸው እና መብረር ስለሚችሉ እንደ ዳይኖሰር አይቆጥሯቸውም	ብዙ ሰዎች ለአባ ስላላቸው እና መብረር ስለሚችሉ እንደ ዳይኖሰር አይቆትሯቸውም።	0.076923	0.2
am-003	openai	fleurs	ብዙ ሰዎች ላባ ስላላቸው እና መብረር ስለሚችሉ እንደ ዳይኖሰር አይቆጥሯቸውም	ብዙ ሰዎች ላባ ስላላቸው እና መበለር ስለሚችሉ አይቆጥሯቸውም።	0.25641	0.3
am-004	addis	fleurs	ከሪ ከስጋ ወይም አታክልት ጋር በእጽዋትና ቅመማ ቅመም ላይ የተመሰረተ ምግብ ነው	ከሪ ከስጋ ወይም አታክልት ጋር በእጽዋትና ክመማ ክመም ላይ የተመሰረተ ምግብ ነው።	0.05	0.166667
am-004	azure-ameha	fleurs	ከሪ ከስጋ ወይም አታክልት ጋር በእጽዋትና ቅመማ ቅመም ላይ የተመሰረተ ምግብ ነው	ከሪ ከስጋ ወይም አታክልት ጋር በእስዋትና ቅመማ ቅመም ላይ የተመሰረተ ምግብ ነው።	0.025	0.083333
am-004	azure-mekdes	fleurs	ከሪ ከስጋ ወይም አታክልት ጋር በእጽዋትና ቅመማ ቅመም ላይ የተመሰረተ ምግብ ነው	ከሪ ከስጋ ወይም አታክልት ጋር በእጽዋትና ቅመማ ቅመም ላይ የተመሰረተ ምግብ ነው።	0	0
am-004	elevenlabs	fleurs	ከሪ ከስጋ ወይም አታክልት ጋር በእጽዋትና ቅመማ ቅመም ላይ የተመሰረተ ምግብ ነው	እንሳው አውሃም እትሎ ሃይ ጋብ ብረም ሰውን ከመታ ጋማ እም ሰውን መራን ዝውር እም ገታ	0.925	1.25
am-004	gemini	fleurs	ከሪ ከስጋ ወይም አታክልት ጋር በእጽዋትና ቅመማ ቅመም ላይ የተመሰረተ ምግብ ነው	ከሪ ከስጋ ወይም አታክልት ጋር በእጽዋትና ቅመማቅመም ላይ የተመሰረተ ምግብ ነው።	0	0.166667
am-004	human-reference	fleurs	ከሪ ከስጋ ወይም አታክልት ጋር በእጽዋትና ቅመማ ቅመም ላይ የተመሰረተ ምግብ ነው	ከሪ ከስጋ ወይም አትክልት ጋር በእፅዋት እና ቅመማቅመም ላይ የተመሰረተ ምግብ ነው።	0.05	0.333333
am-004	meta-mms	fleurs	ከሪ ከስጋ ወይም አታክልት ጋር በእጽዋትና ቅመማ ቅመም ላይ የተመሰረተ ምግብ ነው	ከሪ ከስጋ ወይም አታክልት ጋር በእጽዋትና ቅመማ ቅመም ላይ የተመሰረተ ምግብ ነው።	0	0
am-004	openai	fleurs	ከሪ ከስጋ ወይም አታክልት ጋር በእጽዋትና ቅመማ ቅመም ላይ የተመሰረተ ምግብ ነው	ከሪ ከስጋ ወይም አታክልት ጋር በእጽዋትና ቅመማ ቅመም ላይ የተመሰረተ ምገድ ነው።	0.05	0.083333
am-005	addis	fleurs	የጥቅል ጎመን ጁስ በኬሚካሉ አሲድነት ወይም ቤዝነት አልካሊ መሠረት ቀለም ይቀይራል	የጥቅል ጎመን ጁስ በኬሚካሉ አሲድነት ወይም ቤዝነት አልካሊ መሰረት ቀለም ይገይራል።	0.02381	0.090909
am-005	azure-ameha	fleurs	የጥቅል ጎመን ጁስ በኬሚካሉ አሲድነት ወይም ቤዝነት አልካሊ መሠረት ቀለም ይቀይራል	የጥቅል ጎመን ጁስ በኬሚካሉ አሲድነት ወይም ቤዝነት አልካሊ መሰረት ቀለም ይቀይራል።	0	0
am-005	azure-mekdes	fleurs	የጥቅል ጎመን ጁስ በኬሚካሉ አሲድነት ወይም ቤዝነት አልካሊ መሠረት ቀለም ይቀይራል	የጥቅል ጎመን ጁስ በኬሚካሉ አሲድነት ወይም ቤዝነት አልካሊ መሰረት ቀለም ይቀይራል።	0	0
am-005	elevenlabs	fleurs	የጥቅል ጎመን ጁስ በኬሚካሉ አሲድነት ወይም ቤዝነት አልካሊ መሠረት ቀለም ይቀይራል	ግ ዜ ግ መ ብ ክ ኪ እ ለ ወ ወ ህ በ ት ወ እ ቲን መ ተ ረ ይም ደ ገ ም ሱ ዱ ተይ	0.880952	2.454545
am-005	gemini	fleurs	የጥቅል ጎመን ጁስ በኬሚካሉ አሲድነት ወይም ቤዝነት አልካሊ መሠረት ቀለም ይቀይራል	የጥቅል ጎመን ጁስ በኬሚካሉ አሲድነት ወይም ቤዝነት አልካሊ መሰረት ቀለም ይቀይራል።	0	0
am-005	human-reference	fleurs	የጥቅል ጎመን ጁስ በኬሚካሉ አሲድነት ወይም ቤዝነት አልካሊ መሠረት ቀለም ይቀይራል	የጥቅል ጎመን ጁስ በኬሚካሉ አሲድነት (ብሄርን አልካሌ) መሰረት ቀለም ይቀይራል።	0.190476	0.272727
am-005	meta-mms	fleurs	የጥቅል ጎመን ጁስ በኬሚካሉ አሲድነት ወይም ቤዝነት አልካሊ መሠረት ቀለም ይቀይራል	የጥቅል ጎመን ጆስ በኬሚካሉ አሲድነት ወይም ቤዝነት አልካሊ መሰረት ቀለም ይቀይራል።	0.02381	0.090909
am-005	openai	fleurs	የጥቅል ጎመን ጁስ በኬሚካሉ አሲድነት ወይም ቤዝነት አልካሊ መሠረት ቀለም ይቀይራል	የጥቅል ጎመን ጁስ በኬሚካሉ አሲድነት ወይም በይዝነት አልካሪ መሰረት ቀለም ይቀይራል።	0.071429	0.181818
am-006	addis	fleurs	ስልጣኔ ተባብረው በሚኖሩ እና በሚሰሩ ሰፊ ህዝቦች ማሕበረሰብ የሚጋራ ነጠላ ባሕል ነው	ስልጣኔ ተባብረው በሚኖሩና በሚሰሩ ሰፊ ህዝቦች ማህበረሰብ የሚጋራ ነጠና ባህል ነው	0.046512	0.25
am-006	azure-ameha	fleurs	ስልጣኔ ተባብረው በሚኖሩ እና በሚሰሩ ሰፊ ህዝቦች ማሕበረሰብ የሚጋራ ነጠላ ባሕል ነው	ስልጣኔ ተባብረው በሚኖሩ እና በሚሰሩ ሰፊ ህዝቦች ማህበረሰብ የሚጋራ ነጠላ ባህል ነው።	0	0
am-006	azure-mekdes	fleurs	ስልጣኔ ተባብረው በሚኖሩ እና በሚሰሩ ሰፊ ህዝቦች ማሕበረሰብ የሚጋራ ነጠላ ባሕል ነው	ስልጣኔ ተባብረው በሚኖሩ እና በሚሰሩ ሰፊ ህዝቦች ማህበረሰብ የሚጋራ ነጠላ ባህል ነው።	0	0
am-006	elevenlabs	fleurs	ስልጣኔ ተባብረው በሚኖሩ እና በሚሰሩ ሰፊ ህዝቦች ማሕበረሰብ የሚጋራ ነጠላ ባሕል ነው	ሰው ሰኔ በረንድ ወን በራካዝ እንደራሳት ራን ነምስልስ ፋይግራን ወርት በሰላቶ ላ አታ	0.930233	1.083333
am-006	gemini	fleurs	ስልጣኔ ተባብረው በሚኖሩ እና በሚሰሩ ሰፊ ህዝቦች ማሕበረሰብ የሚጋራ ነጠላ ባሕል ነው	ስልጣኔ ተባብረው በሚኖሩና በሚሰሩ ሰፊ ህዝቦች ማህበረሰብ የሚጋራ ነጠላ ባህል ነው።	0.023256	0.166667
am-006	human-reference	fleurs	ስልጣኔ ተባብረው በሚኖሩ እና በሚሰሩ ሰፊ ህዝቦች ማሕበረሰብ የሚጋራ ነጠላ ባሕል ነው	ስልጣኔ ተባብረው በሚኖሩ እና በሚሰሩ ሰፊ ህዝቦች ማህበረሰብ የሚጋራ ነጠላ ባህል ነው።	0	0
am-006	meta-mms	fleurs	ስልጣኔ ተባብረው በሚኖሩ እና በሚሰሩ ሰፊ ህዝቦች ማሕበረሰብ የሚጋራ ነጠላ ባሕል ነው	ስልጣኔ ተባብረው በሚኖሩ እና በሚሰሩ ሰፊ ህዝቦች ማህበረሰብ የሚጋራ ነተራ ባህል ነው።	0.046512	0.083333
am-006	openai	fleurs	ስልጣኔ ተባብረው በሚኖሩ እና በሚሰሩ ሰፊ ህዝቦች ማሕበረሰብ የሚጋራ ነጠላ ባሕል ነው	ስልጣኔ ተባብረው በሚኖሩ እና በሚሰሩ ሰፊ ህዝቦች ማህበረሰብ የሚጋራ ነተላ ባህል ነው።	0.023256	0.083333
am-007	addis	fleurs	አዲስ ነገር ሲመጣ የቁልፍ ሰሌዳ ምን እንደሚሆን አንደ ሰው መገረም ብቻ ነው የሚችለው	አዲስ ነገር ሲመጣ የቁልፍ ሰሌዳ ምን እንደሚሆን አንድ ሰው መገረም ብቻ ነው የሚችለው።	0.02381	0.076923
am-007	azure-ameha	fleurs	አዲስ ነገር ሲመጣ የቁልፍ ሰሌዳ ምን እንደሚሆን አንደ ሰው መገረም ብቻ ነው የሚችለው	አዲስ ነገር ሲመጣ የቁልፍ ሰሌዳ ምን እንደሚሆን አንድ ሰው መገረም ብቻ ነው የሚችለው።	0.02381	0.076923
am-007	azure-mekdes	fleurs	አዲስ ነገር ሲመጣ የቁልፍ ሰሌዳ ምን እንደሚሆን አንደ ሰው መገረም ብቻ ነው የሚችለው	አዲስ ነገር ሲመጣ የቁልፍ ሰሌዳ ምን እንደሚሆን አንድ ሰው መገረም ብቻ ነው የሚችለው።	0.02381	0.076923
am-007	elevenlabs	fleurs	አዲስ ነገር ሲመጣ የቁልፍ ሰሌዳ ምን እንደሚሆን አንደ ሰው መገረም ብቻ ነው የሚችለው	እምዳብ ድሪኮል እም እንኮራ ከንጊ ኮራ ሶማካ እም ደ ጀናታ መሰርሰያ	0.857143	1
am-007	gemini	fleurs	አዲስ ነገር ሲመጣ የቁልፍ ሰሌዳ ምን እንደሚሆን አንደ ሰው መገረም ብቻ ነው የሚችለው	አዲስ ነገር ሲመጣ የቁልፍ ሰሌዳ ምን እንደሚሆን አንድ ሰው መገረም ብቻ ነው የሚችለው።	0.02381	0.076923
am-007	human-reference	fleurs	አዲስ ነገር ሲመጣ የቁልፍ ሰሌዳ ምን እንደሚሆን አንደ ሰው መገረም ብቻ ነው የሚችለው	አዲስ ነገር ሲመጣ የቁልፍ ሰሌዳ ምን እንደሚሆን አንድ ሰው መገረም ብቻ ነው የሚችለው።	0.02381	0.076923
am-007	meta-mms	fleurs	አዲስ ነገር ሲመጣ የቁልፍ ሰሌዳ ምን እንደሚሆን አንደ ሰው መገረም ብቻ ነው የሚችለው	አይስ ነገር ሲመጣ የቁልፍ ሰሌዳ ምን እንደሚሆን አንድ ሰው መገረም ብቻ ነው የሚችለው።	0.047619	0.153846
am-007	openai	fleurs	አዲስ ነገር ሲመጣ የቁልፍ ሰሌዳ ምን እንደሚሆን አንደ ሰው መገረም ብቻ ነው የሚችለው	አዲስ ነገር ሲመጣ የጉልፍ ሰሌዳ ምን እንደሚሆን አንድ ሰው መገረም ብቻ ነው የሚችለው።	0.047619	0.153846
am-008	addis	fleurs	ካዛብላንካ በሁሉም ሞሮኮ ውስጥ ለመገብየት በዝቅተኛ ደረጃ አስደሳች ከሆኑ ቦታዎች አንዱ ነው	ካዛብላንካ በሁሉም ሞሮኮ ውስጥ ለመገብየት በዝቅተኛ ደረጃ አስደሳች ከሆኑ ቦታዎች አንዱ ነው።	0	0
am-008	azure-ameha	fleurs	ካዛብላንካ በሁሉም ሞሮኮ ውስጥ ለመገብየት በዝቅተኛ ደረጃ አስደሳች ከሆኑ ቦታዎች አንዱ ነው	ካዛብላንካ በሁሉም ሞሮኮ ውስጥ ለመገቢየት በዝቅተኛ ደረጃ አስደሳች ከሆኑ ቦታዎች አንዱ ነው።	0.021277	0.083333
am-008	azure-mekdes	fleurs	ካዛብላንካ በሁሉም ሞሮኮ ውስጥ ለመገብየት በዝቅተኛ ደረጃ አስደሳች ከሆኑ ቦታዎች አንዱ ነው	ካዛብላንካ በሁሉም ሞሮኮ ውስጥ ለመገብየት በዝቅተኛ ደረጃ አስደሳች ከሆኑ ቦታዎች አንዱ ነው።	0	0
am-008	elevenlabs	fleurs	ካዛብላንካ በሁሉም ሞሮኮ ውስጥ ለመገብየት በዝቅተኛ ደረጃ አስደሳች ከሆኑ ቦታዎች አንዱ ነው	ከዚህ በፊት አስተሳሰብ እንዲያመጣ በማቅረብ ብርሃን ዘይት አይበላ ውስጥ እንኳን ደብረ ሊኖስ ይሆናል.	1.042553	1.083333
am-008	gemini	fleurs	ካዛብላንካ በሁሉም ሞሮኮ ውስጥ ለመገብየት በዝቅተኛ ደረጃ አስደሳች ከሆኑ ቦታዎች አንዱ ነው	ካዛብላንካ በሁሉም ሞሮኮ ውስጥ ለመገብየት በዝቅተኛ ደረጃ አስደሳች ከሆኑ ቦታዎች አንዱ ነው።	0	0
am-008	human-reference	fleurs	ካዛብላንካ በሁሉም ሞሮኮ ውስጥ ለመገብየት በዝቅተኛ ደረጃ አስደሳች ከሆኑ ቦታዎች አንዱ ነው	ካዛብላንካ በሁሉም ሞሮኮ ውስጥ ለመገብየት በጥቅተኛ ደረጃ አስደሳች ከሆኑ ቦታዎች አንዱ ነው።	0.021277	0.083333
am-008	meta-mms	fleurs	ካዛብላንካ በሁሉም ሞሮኮ ውስጥ ለመገብየት በዝቅተኛ ደረጃ አስደሳች ከሆኑ ቦታዎች አንዱ ነው	ከዛ ብላንካ በሁሉም ሞሮኮ ውስጥ ለመገብየት በእስክተኛ ደረጃ አስደሳች ከሆኑ ቦታዎች አንዱ ነው።	0.085106	0.25
am-008	openai	fleurs	ካዛብላንካ በሁሉም ሞሮኮ ውስጥ ለመገብየት በዝቅተኛ ደረጃ አስደሳች ከሆኑ ቦታዎች አንዱ ነው	ካዛብላንካ በሁሉም ሞሮኮ ውስጥ ለመገብየት በዝግተኛ ደረጃ አስደሳች ከሆኑ ቦታዎች አንዱ ነው።	0.021277	0.083333
am-009	addis	fleurs	ዱቫል አግብቶ ሁለት አዋቂ ልጆች ያሉት በሚለር ታሪኩ ከተገናኘው ላይ ትልቅ ተዕጽኖ አላሳደረም	ዱባል አግብቶ ሁለት አዋቂ ልጆች ያሉት በሚለር ታሪኩ ከተገናኘው ላይ ትልቅ ተጽኖ አላሳደረም	0.042553	0.153846
am-009	azure-ameha	fleurs	ዱቫል አግብቶ ሁለት አዋቂ ልጆች ያሉት በሚለር ታሪኩ ከተገናኘው ላይ ትልቅ ተዕጽኖ አላሳደረም	ዱቫል አግብቶ ሁለት አዋቂ ልጆች ያሉት በሚለር ታሪኩ ከተገናኘው ላይ ትልቅ ተጽዕኖ አላሳደረም።	0.042553	0.076923
am-009	azure-mekdes	fleurs	ዱቫል አግብቶ ሁለት አዋቂ ልጆች ያሉት በሚለር ታሪኩ ከተገናኘው ላይ ትልቅ ተዕጽኖ አላሳደረም	ዱቫል አግብቶ ሁለት አዋቂ ልጆች ያሉት በሚለር ታሪኩ ከተገናኘው ላይ ትልቅ ተጽኖ አላሳደረም።	0.021277	0.076923
am-009	elevenlabs	fleurs	ዱቫል አግብቶ ሁለት አዋቂ ልጆች ያሉት በሚለር ታሪኩ ከተገናኘው ላይ ትልቅ ተዕጽኖ አላሳደረም	ወደ ኢግዊት ሰምሳዊ ዶታይ ከምስ ፈወየቭ በራታያ ብላፓ ኢን ብራጋዶርሶ ቬይደን በርሆክስ ሚዳይ ላሁራም	1.021277	1.076923
am-009	gemini	fleurs	ዱቫል አግብቶ ሁለት አዋቂ ልጆች ያሉት በሚለር ታሪኩ ከተገናኘው ላይ ትልቅ ተዕጽኖ አላሳደረም	ዱቫል አግብቶ ሁለት አዋቂ ልጆች ያሉት በሚለር ታሪኩ ከተገናኘው ላይ ትልቅ ተጽዕኖ አላሳደረም።	0.042553	0.076923
am-009	human-reference	fleurs	ዱቫል አግብቶ ሁለት አዋቂ ልጆች ያሉት በሚለር ታሪኩ ከተገናኘው ላይ ትልቅ ተዕጽኖ አላሳደረም	ዱቫል አግብተው ሁለት ታዋቂ ልጆች ያሉት በሚለር ታሪኩ ከተገናኘው ላይ ትልቅ ተጽዕኖ አላሳደረም።	0.106383	0.230769
am-009	meta-mms	fleurs	ዱቫል አግብቶ ሁለት አዋቂ ልጆች ያሉት በሚለር ታሪኩ ከተገናኘው ላይ ትልቅ ተዕጽኖ አላሳደረም	ባህል አግብቶ ሁለት አዋቂ ልጆች ያሉት በሚለው ታሪኩ ከተገናኘው ላይ ትልቅ ተጽዕኖ አላሳደረም።	0.106383	0.230769
am-009	openai	fleurs	ዱቫል አግብቶ ሁለት አዋቂ ልጆች ያሉት በሚለር ታሪኩ ከተገናኘው ላይ ትልቅ ተዕጽኖ አላሳደረም	ዱቫል አግብቶ ሁለት አዋቂ ልጆች ያሉት በሚለር ታሪኩ ከተገናኘው ላይ ትልቅ ተዕጽኖ አላሳደረም	0	0
am-010	addis	fleurs	ተሽከርካሪው ራሱ በተመሳሳይ ቀን በግምት 1200 gmt አደጋው ከተከሰተበት ቦታ ላይ ተወስዷል	ተሽከርካሪው ራሱ በተመሳሳይ ቀን በግምት አስሮ ለዜሮ ጅምት አደጋው ከተከሰተበት ቦታ ላይ ተወስ<0xE1><0x8B><0xB7>ል	0.4375	0.666667
am-010	azure-ameha	fleurs	ተሽከርካሪው ራሱ በተመሳሳይ ቀን በግምት 1200 gmt አደጋው ከተከሰተበት ቦታ ላይ ተወስዷል	ተሽከርካሪው ራሱ በተመሳሳይ ቀን በግምት 1200 ግመት አደጋው ከተከሰተበት ቦታ ላይ ተወስ<0xE1><0x8B><0xB7>ል።	0.3125	0.5
am-010	azure-mekdes	fleurs	ተሽከርካሪው ራሱ በተመሳሳይ ቀን በግምት 1200 gmt አደጋው ከተከሰተበት ቦታ ላይ ተወስዷል	ተሽከርካሪው ራሱ በተመሳሳይ ቀን በግምት 1200 ግመት አደጋው ከተከሰተበት ቦታ ላይ ተወስ<0xE1><0x8B><0xB7>ል።	0.3125	0.5
am-010	elevenlabs	fleurs	ተሽከርካሪው ራሱ በተመሳሳይ ቀን በግምት 1200 gmt አደጋው ከተከሰተበት ቦታ ላይ ተወስዷል	ሪስኒፕ ጎር ላፍ በርማትሊኩይ ደገን በርግም 1200 ጊኤምቲ ኢዶር ኢምበርናቡ መትላ ሶበር ዋይስ አይ	0.833333	1.083333
am-010	gemini	fleurs	ተሽከርካሪው ራሱ በተመሳሳይ ቀን በግምት 1200 gmt አደጋው ከተከሰተበት ቦታ ላይ ተወስዷል	ተሽከርካሪው ራሱ በተመሳሳይ ቀን በግምት 12 00 ጂኤምቲ አደጋው ከተከሰተበት ቦታ ላይ ተወስ<0xE1><0x8B><0xB7>ል።	0.333333	0.666667
am-010	human-reference	fleurs	ተሽከርካሪው ራሱ በተመሳሳይ ቀን በግምት 1200 gmt አደጋው ከተከሰተበት ቦታ ላይ ተወስዷል	ተሽከርካሪው ራሱ በተመሳሳይ ቀን በግምት 12.00 GMT አደጋው ከተከሰተበት ቦታ ላይ ተወስ<0xE1><0x8B><0xB7>ል።	0.25	0.583333
am-010	meta-mms	fleurs	ተሽከርካሪው ራሱ በተመሳሳይ ቀን በግምት 1200 gmt አደጋው ከተከሰተበት ቦታ ላይ ተወስዷል	ተሽከርካሪው ራሱ በተመሳሳይ ቀን በግምት አደጋው ከተከሰተበት ቦታ ላይ ተወስ<0xE1><0x8B><0xB7>ል።	0.395833	0.583333
am-010	openai	fleurs	ተሽከርካሪው ራሱ በተመሳሳይ ቀን በግምት 1200 gmt አደጋው ከተከሰተበት ቦታ ላይ ተወስዷል	ተሽከርካሪው ራሱ በተመሳሳይ ቀን በግምት አንፉ ምንመት መጂኤምቲ አደጋው ከተከሰተበት ቦታ ላይ ተወስ<0xE1><0x8B><0xB7>ል።	0.5	0.666667
am-011	addis	fleurs	ዱር እንስሳትን በተመለከተ ማዳጋስካር እስካሁን ካሉት በጣም ትልቁ እና በራሱ አንድ አህጉር ነው	ዱር እንስሳትን በተመለከተ ማዳጋስካር እስካሁን ካሉት በጣም ትልቁ እና በራሱ አንድ አህጉር ነው።	0	0
am-011	azure-ameha	fleurs	ዱር እንስሳትን በተመለከተ ማዳጋስካር እስካሁን ካሉት በጣም ትልቁ እና በራሱ አንድ አህጉር ነው	ዱር እንስሳትን በተመለከተ ማዳጋስካር እስካሁን ካሉት በጣም ትልቁ እና በራሱ አንድ አህጉር ነው።	0	0
am-011	azure-mekdes	fleurs	ዱር እንስሳትን በተመለከተ ማዳጋስካር እስካሁን ካሉት በጣም ትልቁ እና በራሱ አንድ አህጉር ነው	ዱር እንስሳትን በተመለከተ ማዳጋስካር እስካሁን ካሉት በጣም ትልቁ እና በራሱ አንድ አህጉር ነው።	0	0
am-011	elevenlabs	fleurs	ዱር እንስሳትን በተመለከተ ማዳጋስካር እስካሁን ካሉት በጣም ትልቁ እና በራሱ አንድ አህጉር ነው	ዋን ፓንት አቫን በርመታይ ኦነር ፎር ጆዊ ካፕ ኤፊ ስንግ ኢታይም በብረት ሰም ቬይዞ ኤንድ በስታይ ኢኮ ኢዳም ገታ	0.958333	1.461538
am-011	gemini	fleurs	ዱር እንስሳትን በተመለከተ ማዳጋስካር እስካሁን ካሉት በጣም ትልቁ እና በራሱ አንድ አህጉር ነው	ዱር እንስሳትን በተመለከተ ማዳጋስካር እስካሁን ካሉት በጣም ትልቁ እና በራሱ አንድ አህጉር ነው።	0	0
am-011	human-reference	fleurs	ዱር እንስሳትን በተመለከተ ማዳጋስካር እስካሁን ካሉት በጣም ትልቁ እና በራሱ አንድ አህጉር ነው	ዱር እንስሳትን በተመለከተ ማዳጋስካር እስካሁን ካሉት በጣም ትልቁ እና በራሱ አንድ አህጉር ነው።	0	0
am-011	meta-mms	fleurs	ዱር እንስሳትን በተመለከተ ማዳጋስካር እስካሁን ካሉት በጣም ትልቁ እና በራሱ አንድ አህጉር ነው	እውር እንስሳትን በተመለከተ ማዳጋስካር እስካሁን ካሉት በጣም ጥልቁ እና በራሱ አንድ አጉር ነው።	0.083333	0.230769
am-011	openai	fleurs	ዱር እንስሳትን በተመለከተ ማዳጋስካር እስካሁን ካሉት በጣም ትልቁ እና በራሱ አንድ አህጉር ነው	ዱር እንስሳትን በተመለከተ ማዳጋስካር እስካሁን ካሉት በጣም ትልቁ እና በራሱ አንድ አህጉር ነው	0	0
am-012	addis	fleurs	ላካ ሲንግ የ chhappan bhog bhajan ንም አቅርቧል ዘፋኙ ራጁ ካንደልዋል አብሮት ነበር	ላካ ሲንግ የቻፓ አምቦ ባጃን ንም አቅርቧል ዘፋኝ ውራጁ ካንደሏን አብሮት ነበር	0.469388	0.538462
am-012	azure-ameha	fleurs	ላካ ሲንግ የ chhappan bhog bhajan ንም አቅርቧል ዘፋኙ ራጁ ካንደልዋል አብሮት ነበር	ላካሲንግ የኬፕ ያን በሆግ በሃጃንም አቅርቧል ዘፋኙ ራጁ ካንደልዋል አብሮት ነበር።	0.367347	0.538462
am-012	azure-mekdes	fleurs	ላካ ሲንግ የ chhappan bhog bhajan ንም አቅርቧል ዘፋኙ ራጁ ካንደልዋል አብሮት ነበር	ለካሲንግ የኬፕ አውንት ቢሆግ ቢሃጃንም አቅርቧል ዘፋኙ ራጁ ከንደለዋል አብሮት ነበር።	0.428571	0.615385
am-012	elevenlabs	fleurs	ላካ ሲንግ የ chhappan bhog bhajan ንም አቅርቧል ዘፋኙ ራጁ ካንደልዋል አብሮት ነበር	ሳይክላንግ አም 56 በግ በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግልግል በጀን እንግ...	8.346939	7.307692
am-012	gemini	fleurs	ላካ ሲንግ የ chhappan bhog bhajan ንም አቅርቧል ዘፋኙ ራጁ ካንደልዋል አብሮት ነበር	ላካ ሲንግ የቸፕን ቦግ ፓጃንንም አቅርቧል። ዘፋኙ ራጁ ካንዴልዋል አብሮት ነበር።	0.387755	0.461538
am-012	human-reference	fleurs	ላካ ሲንግ የ chhappan bhog bhajan ንም አቅርቧል ዘፋኙ ራጁ ካንደልዋል አብሮት ነበር	ላካ ሲንግ የ ቻፓን ቦግ ቦጃንም አቅርቧል። ዘፋኙ ራጁ ካንደልዋል አብሮት ነበር።	0.367347	0.307692
am-012	meta-mms	fleurs	ላካ ሲንግ የ chhappan bhog bhajan ንም አቅርቧል ዘፋኙ ራጁ ካንደልዋል አብሮት ነበር	ለአካሲም ጌች አበበው በጀንም አቅርበዋል ዘፋኙ ብራጁ ከአንድ ሉዋል አብሮት ነበር።	0.612245	0.846154
am-012	openai	fleurs	ላካ ሲንግ የ chhappan bhog bhajan ንም አቅርቧል ዘፋኙ ራጁ ካንደልዋል አብሮት ነበር	ላካ ሲንግ የቻፓን ቦግ ባጃንም አቀርቧል ዘፋን ዩራጁ ካንደልዋል አብሮት ነበር	0.428571	0.615385
am-013	addis	fleurs	በአጠገብ በኩል ብዙ ማሪያ ሊኖር ይችላል ምክንያቱም ቅርፊቱ ሳሳ ያለ ነው ለላቫው ወደ ላይ መውጣት ቀላል ነበር	በአጠገብ በኩል ብዙ ማርያ ሊኖር ይችላል ምክንያቱም ክርፊቱ ሳሳ ያለ ነው ለላባው ወደ ላይ መውጣት ቀላል ነበር	0.055556	0.176471
am-013	azure-ameha	fleurs	በአጠገብ በኩል ብዙ ማሪያ ሊኖር ይችላል ምክንያቱም ቅርፊቱ ሳሳ ያለ ነው ለላቫው ወደ ላይ መውጣት ቀላል ነበር	በአጠገብ በኩል ብዙ ማርያ ሊኖር ይችላል ምክንያቱም ቅርፊቱ ሳሳ ያለ ነው ለላፋው ወደ ላይ መውጣት ቀላል ነበር።	0.037037	0.117647
am-013	azure-mekdes	fleurs	በአጠገብ በኩል ብዙ ማሪያ ሊኖር ይችላል ምክንያቱም ቅርፊቱ ሳሳ ያለ ነው ለላቫው ወደ ላይ መውጣት ቀላል ነበር	በአጠገብ በኩል ብዙ ማርያ ሊኖር ይችላል ምክንያቱም ቅርፊቱ ሳሳ ያለ ነው ለላቫው ወደ ላይ መውጣት ቀላል ነበር።	0.018519	0.058824
am-013	elevenlabs	fleurs	በአጠገብ በኩል ብዙ ማሪያ ሊኖር ይችላል ምክንያቱም ቅርፊቱ ሳሳ ያለ ነው ለላቫው ወደ ላይ መውጣት ቀላል ነበር	በየጊዜ ድረስ ማይፍው እንከብሰው ሰው እንሆ ኩረም ጃብ ነው ዋክ ፍይ ከያታ አይዮ ዘር ዋሪ ሶማ ሰው ዲያት ትርፕ	0.962963	1.117647

End of preview. Expand in Data Studio

Amharic TTS Benchmark

Seven text-to-speech systems and the original human recordings, evaluated on 100 Amharic prompts from three open datasets. Run date 2026-08-12.

Published results: addisassistant.com/benchmarks

Reproduce the CER/WER results

python score.py

No arguments. It reads data/judge_rows.jsonl, recomputes every character and word edit count from the transcripts and writes data/summary.json.

This covers the CER/WER results only. Listening scores, latency and cost are published on the results page and are not derivable from ASR transcripts.

System	CER	WER
Gemini 3.1 Flash TTS	2.89%	11.02%
Azure Ameha Neural	3.03%	11.16%
Azure Mekdes Neural	4.15%	13.01%
Addis Voice 2	4.44%	13.87%
Meta MMS	7.86%	22.89%
OpenAI gpt-4o-mini-tts	18.74%	31.34%
ElevenLabs v3	111.65%	147.86%

Primary table, 87 of 100 prompts, digits excluded. Lower is better. The original human recordings are included in data/ and audio/ as a reference point but are not a synthetic system and are not ranked here.

Path	Rows	Contents
`data/prompts.jsonl`	100	Prompt id, source dataset, pinned revision, split, licence, upstream row id, reference text, length stratum
`data/judge_rows.jsonl`	800	Per system per prompt: transcript raw and normalised, character and word edit counts, CER, WER, judge confidence
`data/summary.json`	—	Written by `score.py`
`audio/<system>/am-NNN.*`	100 each	Generated audio, plus the original human recordings. Every judge row carries `audio_path` and `audio_sha256`, so rows join to files without guessing the extension
`score.py`, `normalize.py`	—	The scorer

Prompt set

Public test-split rows pinned to exact dataset revisions, drawn once with seed addis-voice-public-benchmark-v1, balanced 33 short / 34 medium / 33 long.

Source	Repository	Rows	Licence
FLEURS	`google/fleurs`	34	CC BY 4.0
Waxal	`google/WaxalNLP`	33	CC BY-SA 4.0
Horn-ASR	`LesanAI/Horn-ASR`	33	CC BY-SA 4.0

Every shipped file is hashed in checksums.sha256, including all 800 audio clips. Each row of data/judge_rows.jsonl also carries audio_path and audio_sha256, so a transcript can be tied to the exact file that produced it without guessing.

Scoring definition

WER and CER were measured with Chirp 3 as the ASR judge, so the scores are a recognition-based proxy for intelligibility rather than a direct measure of it.

All audio is converted to 16 kHz mono PCM WAV before scoring. Then:

Unicode NFC normalisation
punctuation stripped, Ethiopic and ASCII
Ethiopic homophone families folded to one canonical form, see normalize.py
whitespace collapsed
CER is Levenshtein distance over the normalised text with spaces removed
WER is Levenshtein distance over whitespace-split tokens
rates are micro-averages of raw edit counts, not means of per-clip rates

Step 5 is the one that catches people out. Scoring CER with spaces included gives roughly double the error rate.

Prompts containing digits are excluded from the primary table, because a written digit and its spoken form are not the same string and no equivalence rule has been validated. The strict full-set figures over all 100 prompts are in data/summary.json.

Running it with a different recogniser

The pipeline is recogniser-agnostic and an independent judge is the most useful thing an outside party can contribute. Two open Amharic ASR models:

Transcribe audio/<system>/, replace hypothesis_raw in data/judge_rows.jsonl, rerun score.py and compare the ordering.

Addis Voice 2 is reachable on the public API as model addis-voice-2.

Limitations

Recognition error is a proxy for intelligibility. It says nothing about prosody, emphasis or how a long passage sounds.
Systems without documented Amharic support were run anyway and their rows describe an unsupported-language condition, not their quality elsewhere.
Word error above 100% is possible when a system inserts more words than the reference contains.
Human reference recordings are field audio with variable level and microphone quality, and two thirds of them are spontaneous rather than read speech. They are a reference point, not a quality ceiling.
One run on one date. Hosted models change under their version strings.

Licensing

This repository contains material under several different licences. There is no single licence covering all of it, and Addis AI does not relicense any content it does not own.

Component	Owner	Terms
`data/*.jsonl`, `data/summary.json`, `score.py`, `normalize.py`, this card	Addis AI	CC BY-SA 4.0
`audio/human-reference/` FLEURS-sourced clips	Google, FLEURS	CC BY 4.0, attribution required
`audio/human-reference/` Waxal-sourced clips	Google, WaxalNLP	CC BY-SA 4.0
`audio/human-reference/` Horn-ASR-sourced clips	LesanAI	CC BY-SA 4.0
`audio/addis/`	Addis AI	CC BY-SA 4.0
`audio/meta-mms/`	generated with `facebook/mms-tts-amh`, open weights	per the model licence
`audio/azure-ameha/`, `audio/azure-mekdes/`, `audio/gemini/`, `audio/openai/`, `audio/elevenlabs/`	generated output of third-party commercial services	governed by each provider's terms of service; not relicensed by Addis AI

The per-clip source dataset and its licence are recorded for every prompt in data/prompts.jsonl, so the terms applying to any individual human recording can be resolved from that file.

Third-party generated audio is included as evaluation evidence so the published error rates can be independently verified. It is not offered for reuse, and anyone redistributing it is responsible for their own compliance with the relevant provider's terms.

Contact

contact@addisassistant.com

Downloads last month: 16