yosefw/bert-amharic-embed-small-v2

BERT Amharic Text Embedding Small

This is a sentence-transformers model finetuned from rasyosef/bert-small-amharic. It maps sentences & paragraphs to a 512-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: rasyosef/bert-small-amharic
• Maximum Sequence Length: 512 tokens
• Output Dimensionality: 512 dimensions
• Similarity Function: Cosine Similarity
• Language: en
• License: apache-2.0

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: BertModel 
  (1): Pooling({'word_embedding_dimension': 512, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("yosefw/bert-amharic-embed-small-v2")
# Run inference
sentences = [
    'ፖሊሶች ከፈረስ ላይ በገመድ አስረው የወሰዱት ጥቁር አሜሪካዊ 1 ሚሊዮን ዶላር ይገባኛል ሲል ከሰሰ',
    'የ44 አመቱ ዶናልድ ኒሊ ያለ ፈቃድ የእግረኞች መረማመጃ ላይ ተኝቶ ተገኝቷል በሚል ወንጀልም ተጠርጥሮ በገመድ አስረው ፖሊሶች ሲወስዱት የታየው።\n\nይህም ቪዲዮ መውጣቱን ተከትሎ ፖሊስ ይቅርታ ጠይቆ ነበር።\n\nበዚህ ሳምንት የቀረበው ክስ የሚያስረዳው ፖሊሶቹ የፈፀሙት ድርጊት" ፅንፈኛና አሰቃቂ ነው" በማለት ዶናልድ ኔሊም ለስነ-ልቦናዊ ቁስልና የአዕምሮ ጤንነቱም ላይ ጉዳት አድርሰውበታል ይላል።\n\nቤት አልባ የሆነው ዶናልድ በእግረኞች መረማመጃ ላይ ተኝቶ በመገኘቱም ነው ፖሊሶች በቁጥጥር ስር እንዳዋሉት የአሜሪካ ሚዲያዎች የዘገቡት።\n\nፖሊስ ፍቃድ የሌለው ቦታ ላይ ተገኝቷል ብሎ ያቀረበበትም ወንጀል ፍርድ ቤቱ በነፃ አሰናብቶታል።\n\nበገመድም ታስሮ ሲወሰድ ያዩ በርካቶችም ከባርነት ዘመን ጋርም በማነፃፀር ቁጣቸውን ገልፀዋል።\n\nበክሱም ላይ ይሄው ሁኔታ ተገልጿል።\n\nክሱ እንደሚያትተውም " በገመድ ታስሮ በጎዳናዎች ላይ ባርያ ይመስል መውሰድ አፀያፊ ነው" ይላል።\n\nየከተማዋን እንዲሁ የጋልቭስቶን ፖሊስን ተጠያቂ ያደረገው ክሱ ዶናልድ በታሰረበት እጅ ሰንሰለት ምክንያት ጉዳት ደርሶበታል፤ በጎዳናው ላይ ይዘውትም ሲሄዱ በከፍተኛ ሙቀት ተለብልቧል እንዲሁም በሁኔታውም ፍርሃትና ውርደት እንደደረሰበትም ያትታል።\n\nየከተማው አስተዳዳሪዎች ለሚዲያዎች አስተያየት ከመስጠት ተቆጥበዋል።\n\nበመጀመሪያ ዶናልድ በገመድ ታስሮ ሲወሰድ የሚያሳየው ምስል መውጣቱን ተከትሎ በተቀሰቀሰው ቁጣ በገመድ አልታሰረም በማለት ፖሊስ ለማስተባበልም ሞክሮ ነበር። ከምርመራ በኋላ የወጣው ቪዲዮ እንደሚያሳየውም ፖሊሶች በዚህ መንገድ አስረው በማዋረዳቸውም ሲዘባበቱበት ተሰምተዋል።\n\nየጋልቭስተን ፖሊስረ ኃላፊ ቬርኖን ሃሌ እንዳሉም በዚህ መንገድ ተጠርጣሪዎችን መውሰድ በአንዳንድ ሁኔታዎች ተቀባይነት ያለው ቢሆንም "በዚህ ወቅት ግን ፖሊሶቹ ያልተገባ ባህርይ ነው ያሳዩት" በማለት ተችተዋል።\n\nይህንን ለመፈፀም "የተደበቀ ሴራ አልነበረም" ያሉት ኃላፊው ዶናልድ ለደረሰበት "አላስፈላጊ ውርደት" ይቅርታ ጠይቀዋል።\n\nያንንንም ተከትሎ በዚህ መንገድ ተጠርጣሪዎችን ማሰር አይገባም በሚልም እግድ ተጥሎበታል። \n\n ',
    'ፕላቶ የተባለቺው የናይጀሪያ ግዛት ዋና አስተዳዳሪ የነበሩትና በአሁኑ ወቅት የኮንግረስ አባል የሆኑት ጆሽዋ ዳሪዬ፣ በ3.2 ሚ ዶላር ዝርፊያ ተከከስሰው የ14 አመታት እስር እንደተፈረደባቸው ተዘግቧል፡፡ባለስልጣኑ እ.ኤ.አ ከ1999 እስከ 2007 የፕላቶ ግዛት ዋና አስተዳዳሪ ሆነው በሚሰሩበት ወቅት ለግዛቲቱ የአካባቢ ጥበቃ የተመደበውን 3.2 ሚሊዮን ዶላር ዘርፈው፣ ለግል ጥቅማቸው ማዋላቸው በመረጋገጡ፣ የእስር ቅጣቱ እንደተጣለባቸው ቢቢሲ ዘግቧል፡፡በተመሳሳይም ታራባ የተባለቺው የናይጀሪያ ግዛት ዋና አስተዳዳሪ የነበሩት ጆሊ ናይሜ፣ ከሁለት ሳምንታት በፊት በሙስና ተከስሰው፣ የ14 አመታት እስር እንደተፈረደባቸው ዘገባው አስታውሷል፡፡',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 512]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Evaluation

Metrics

Information Retrieval

• Datasets: dim_512 and dim_256
• Evaluated with InformationRetrievalEvaluator

Metric	dim_512	dim_256
cosine_accuracy@1	0.5852	0.5772
cosine_accuracy@3	0.73	0.7274
cosine_accuracy@5	0.7808	0.7756
cosine_accuracy@10	0.8375	0.8293
cosine_precision@1	0.5852	0.5772
cosine_precision@3	0.2433	0.2425
cosine_precision@5	0.1562	0.1551
cosine_precision@10	0.0838	0.0829
cosine_recall@1	0.5852	0.5772
cosine_recall@3	0.73	0.7274
cosine_recall@5	0.7808	0.7756
cosine_recall@10	0.8375	0.8293
cosine_ndcg@10	0.7105	0.703
cosine_mrr@10	0.6699	0.6626
cosine_map@100	0.6744	0.6674

Training Details

Training Dataset

Unnamed Dataset

• Size: 274,500 training samples
• Columns: anchor, positive, and negative
• Approximate statistics based on the first 1000 samples:

  	anchor	positive	negative
  type	string	string	string
  details	min: 5 tokens mean: 17.69 tokens max: 60 tokens	min: 32 tokens mean: 339.07 tokens max: 512 tokens	min: 32 tokens mean: 341.92 tokens max: 512 tokens

• Samples:

  anchor	positive	negative
  አአ U-17	ቅዱስ ጊዮርጊስ ተከታታይ 5ኛ ድሉን ሲያስመዘግብ መድን እና አካዳሚም አሸንፈዋል	የአዲስ አበባ እግርኳስ ፌዴሬሽን ከ17 ዓመት በታች ውድድር 5ኛ ሳምንት ላይ ደርሷል። በዛሬው ዕለት አራት ጨዋታዎች ተካሂደው ቅዱስ ጊዮርጊስ ፣ ኢ/ወ/ስ አካዳሚ እና ኢትዮጵያ መድን ድል ማስመዝገብም ችለዋል።በሳምንቱ ተጠባቂ ጨዋታ የምድቡ አንደኛ ቅዱስ ጊዮርጊስን በሁለት ነጥብ ዝቅ ብሎ በሁለተኛ ደረጃ ከሚከተለው ኢትዮ ኤሌትሪክ ጋር በወጣቶች ስፖርት አካዳሚ 03:00 ላይ ባገናኘው ጨዋታ ቅዱስ ጊዮርጊስ 2-0 በሆነ ውጤት አሸንፎ አምስተኛ ተከታታይ ድል ይዞ ወጥቷል።እንደተጠበቀው ጠንካራ ፉክክር ባስተናገደው በዚህ ጨዋታ ከማዕዘን ምት የተሻገረው ኳስ ተደርቦ ሲመለስ ሐብታሙ ደሴ በግንባሩ በመግጨት ባስቆጠረው ጎል ቅዱስ ጊዮርጊስ ቀዳሚ መሆን ችሏል። የሜዳውን ስፋት ከመጠቀም ይልቅ በመሐል ሜዳ ላይ ተገድቦ የቀጠለው ጨዋታ በኢትዮ ኤሌትሪክ በኩል የመስመር አጥቂው ይበልጣል ቻሌ በግሉ የሚያደርገው እንቅስቃሴ መልካም የሚባል ነበር።ከእረፍት መልስ ኢትዮ ኤሌትሪኮች በተሻለ በመንቀሳቀስ ወደ ጨዋታው የሚመልሳቸውን ጎል ፍለጋ ጥረት ቢያደርጉም መጨረሻ ደቂቃ ላይ ፀጋዬ መለሰ ሁለተኛ ጎል በማስቆጠር የፈረሰኞቹን የጎል መጠን ወደ ሁለት ከፍ ማድረግ ችሏል። ፀጋዬ በውድድሩ ያስቆጠረውን ጎል ወደ አምስት አድርሷል። ጨዋታውም በቅዱስ ጊዮርጊስ 2-0 አሸናፊነት ተጠናቋል። ውጤቱን ተከትሎ ቅዱስ ጊዮርጊስ ተከታታይ አምስተኛ ጨዋታውን በማሸነፍ መሪነቱን ማስፋት ችሏል።* ከጨዋታው መጠናቀቅ በኋላ የቅዱስ ጊዮርጊስ አንድ ተጫዋች እና ከኢትዮ ኤሌትሪክ በኩል ከ18 ተጫዋቾች ውጭ በሆነ ተጫዋች መካከል የተፈጠረው ፀብ ወደ ሌሎቹ ተዛምቶ ለመቆጣጠር በሚያስቸግር መልኩ ከፍተኛ ግርግር የተፈጠረ ሲሆን እንዳጋጣሚ ሆኖ በአካዳሚው የመሰብሰቢያ አዳራሽ ለስብሰባ የመጡ የአዲስ አበባ ፖሊስ አባላ...
  አአ U-17	ቅዱስ ጊዮርጊስ ተከታታይ 5ኛ ድሉን ሲያስመዘግብ መድን እና አካዳሚም አሸንፈዋል	የአዲስ አበባ እግርኳስ ፌዴሬሽን ከ17 ዓመት በታች ውድድር 5ኛ ሳምንት ላይ ደርሷል። በዛሬው ዕለት አራት ጨዋታዎች ተካሂደው ቅዱስ ጊዮርጊስ ፣ ኢ/ወ/ስ አካዳሚ እና ኢትዮጵያ መድን ድል ማስመዝገብም ችለዋል።በሳምንቱ ተጠባቂ ጨዋታ የምድቡ አንደኛ ቅዱስ ጊዮርጊስን በሁለት ነጥብ ዝቅ ብሎ በሁለተኛ ደረጃ ከሚከተለው ኢትዮ ኤሌትሪክ ጋር በወጣቶች ስፖርት አካዳሚ 03:00 ላይ ባገናኘው ጨዋታ ቅዱስ ጊዮርጊስ 2-0 በሆነ ውጤት አሸንፎ አምስተኛ ተከታታይ ድል ይዞ ወጥቷል።እንደተጠበቀው ጠንካራ ፉክክር ባስተናገደው በዚህ ጨዋታ ከማዕዘን ምት የተሻገረው ኳስ ተደርቦ ሲመለስ ሐብታሙ ደሴ በግንባሩ በመግጨት ባስቆጠረው ጎል ቅዱስ ጊዮርጊስ ቀዳሚ መሆን ችሏል። የሜዳውን ስፋት ከመጠቀም ይልቅ በመሐል ሜዳ ላይ ተገድቦ የቀጠለው ጨዋታ በኢትዮ ኤሌትሪክ በኩል የመስመር አጥቂው ይበልጣል ቻሌ በግሉ የሚያደርገው እንቅስቃሴ መልካም የሚባል ነበር።ከእረፍት መልስ ኢትዮ ኤሌትሪኮች በተሻለ በመንቀሳቀስ ወደ ጨዋታው የሚመልሳቸውን ጎል ፍለጋ ጥረት ቢያደርጉም መጨረሻ ደቂቃ ላይ ፀጋዬ መለሰ ሁለተኛ ጎል በማስቆጠር የፈረሰኞቹን የጎል መጠን ወደ ሁለት ከፍ ማድረግ ችሏል። ፀጋዬ በውድድሩ ያስቆጠረውን ጎል ወደ አምስት አድርሷል። ጨዋታውም በቅዱስ ጊዮርጊስ 2-0 አሸናፊነት ተጠናቋል። ውጤቱን ተከትሎ ቅዱስ ጊዮርጊስ ተከታታይ አምስተኛ ጨዋታውን በማሸነፍ መሪነቱን ማስፋት ችሏል።* ከጨዋታው መጠናቀቅ በኋላ የቅዱስ ጊዮርጊስ አንድ ተጫዋች እና ከኢትዮ ኤሌትሪክ በኩል ከ18 ተጫዋቾች ውጭ በሆነ ተጫዋች መካከል የተፈጠረው ፀብ ወደ ሌሎቹ ተዛምቶ ለመቆጣጠር በሚያስቸግር መልኩ ከፍተኛ ግርግር የተፈጠረ ሲሆን እንዳጋጣሚ ሆኖ በአካዳሚው የመሰብሰቢያ አዳራሽ ለስብሰባ የመጡ የአዲስ አበባ ፖሊስ አባላ...
  አአ U-17	ቅዱስ ጊዮርጊስ ተከታታይ 5ኛ ድሉን ሲያስመዘግብ መድን እና አካዳሚም አሸንፈዋል	የአዲስ አበባ እግርኳስ ፌዴሬሽን ከ17 ዓመት በታች ውድድር 5ኛ ሳምንት ላይ ደርሷል። በዛሬው ዕለት አራት ጨዋታዎች ተካሂደው ቅዱስ ጊዮርጊስ ፣ ኢ/ወ/ስ አካዳሚ እና ኢትዮጵያ መድን ድል ማስመዝገብም ችለዋል።በሳምንቱ ተጠባቂ ጨዋታ የምድቡ አንደኛ ቅዱስ ጊዮርጊስን በሁለት ነጥብ ዝቅ ብሎ በሁለተኛ ደረጃ ከሚከተለው ኢትዮ ኤሌትሪክ ጋር በወጣቶች ስፖርት አካዳሚ 03:00 ላይ ባገናኘው ጨዋታ ቅዱስ ጊዮርጊስ 2-0 በሆነ ውጤት አሸንፎ አምስተኛ ተከታታይ ድል ይዞ ወጥቷል።እንደተጠበቀው ጠንካራ ፉክክር ባስተናገደው በዚህ ጨዋታ ከማዕዘን ምት የተሻገረው ኳስ ተደርቦ ሲመለስ ሐብታሙ ደሴ በግንባሩ በመግጨት ባስቆጠረው ጎል ቅዱስ ጊዮርጊስ ቀዳሚ መሆን ችሏል። የሜዳውን ስፋት ከመጠቀም ይልቅ በመሐል ሜዳ ላይ ተገድቦ የቀጠለው ጨዋታ በኢትዮ ኤሌትሪክ በኩል የመስመር አጥቂው ይበልጣል ቻሌ በግሉ የሚያደርገው እንቅስቃሴ መልካም የሚባል ነበር።ከእረፍት መልስ ኢትዮ ኤሌትሪኮች በተሻለ በመንቀሳቀስ ወደ ጨዋታው የሚመልሳቸውን ጎል ፍለጋ ጥረት ቢያደርጉም መጨረሻ ደቂቃ ላይ ፀጋዬ መለሰ ሁለተኛ ጎል በማስቆጠር የፈረሰኞቹን የጎል መጠን ወደ ሁለት ከፍ ማድረግ ችሏል። ፀጋዬ በውድድሩ ያስቆጠረውን ጎል ወደ አምስት አድርሷል። ጨዋታውም በቅዱስ ጊዮርጊስ 2-0 አሸናፊነት ተጠናቋል። ውጤቱን ተከትሎ ቅዱስ ጊዮርጊስ ተከታታይ አምስተኛ ጨዋታውን በማሸነፍ መሪነቱን ማስፋት ችሏል።* ከጨዋታው መጠናቀቅ በኋላ የቅዱስ ጊዮርጊስ አንድ ተጫዋች እና ከኢትዮ ኤሌትሪክ በኩል ከ18 ተጫዋቾች ውጭ በሆነ ተጫዋች መካከል የተፈጠረው ፀብ ወደ ሌሎቹ ተዛምቶ ለመቆጣጠር በሚያስቸግር መልኩ ከፍተኛ ግርግር የተፈጠረ ሲሆን እንዳጋጣሚ ሆኖ በአካዳሚው የመሰብሰቢያ አዳራሽ ለስብሰባ የመጡ የአዲስ አበባ ፖሊስ አባላ...

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "MultipleNegativesRankingLoss",
      "matryoshka_dims": [
          512,
          256
      ],
      "matryoshka_weights": [
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

Training Hyperparameters

Non-Default Hyperparameters

• eval_strategy: epoch
• per_device_train_batch_size: 128
• per_device_eval_batch_size: 64
• num_train_epochs: 4
• lr_scheduler_type: cosine
• warmup_ratio: 0.1
• seed: 16
• fp16: True
• load_best_model_at_end: True
• optim: adamw_torch_fused
• batch_sampler: no_duplicates

All Hyperparameters

Click to expand

• overwrite_output_dir: False
• do_predict: False
• eval_strategy: epoch
• prediction_loss_only: True
• per_device_train_batch_size: 128
• per_device_eval_batch_size: 64
• per_gpu_train_batch_size: None
• per_gpu_eval_batch_size: None
• gradient_accumulation_steps: 1
• eval_accumulation_steps: None
• torch_empty_cache_steps: None
• learning_rate: 5e-05
• weight_decay: 0.0
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• max_grad_norm: 1.0
• num_train_epochs: 4
• max_steps: -1
• lr_scheduler_type: cosine
• lr_scheduler_kwargs: {}
• warmup_ratio: 0.1
• warmup_steps: 0
• log_level: passive
• log_level_replica: warning
• log_on_each_node: True
• logging_nan_inf_filter: True
• save_safetensors: True
• save_on_each_node: False
• save_only_model: False
• restore_callback_states_from_checkpoint: False
• no_cuda: False
• use_cpu: False
• use_mps_device: False
• seed: 16
• data_seed: None
• jit_mode_eval: False
• use_ipex: False
• bf16: False
• fp16: True
• fp16_opt_level: O1
• half_precision_backend: auto
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• local_rank: 0
• ddp_backend: None
• tpu_num_cores: None
• tpu_metrics_debug: False
• debug: []
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_prefetch_factor: None
• past_index: -1
• disable_tqdm: False
• remove_unused_columns: True
• label_names: None
• load_best_model_at_end: True
• ignore_data_skip: False
• fsdp: []
• fsdp_min_num_params: 0
• fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
• fsdp_transformer_layer_cls_to_wrap: None
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• deepspeed: None
• label_smoothing_factor: 0.0
• optim: adamw_torch_fused
• optim_args: None
• adafactor: False
• group_by_length: False
• length_column_name: length
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• skip_memory_metrics: True
• use_legacy_prediction_loop: False
• push_to_hub: False
• resume_from_checkpoint: None
• hub_model_id: None
• hub_strategy: every_save
• hub_private_repo: None
• hub_always_push: False
• gradient_checkpointing: False
• gradient_checkpointing_kwargs: None
• include_inputs_for_metrics: False
• include_for_metrics: []
• eval_do_concat_batches: True
• fp16_backend: auto
• push_to_hub_model_id: None
• push_to_hub_organization: None
• mp_parameters:
• auto_find_batch_size: False
• full_determinism: False
• torchdynamo: None
• ray_scope: last
• ddp_timeout: 1800
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• dispatch_batches: None
• split_batches: None
• include_tokens_per_second: False
• include_num_input_tokens_seen: False
• neftune_noise_alpha: None
• optim_target_modules: None
• batch_eval_metrics: False
• eval_on_start: False
• use_liger_kernel: False
• eval_use_gather_object: False
• average_tokens_across_devices: False
• prompts: None
• batch_sampler: no_duplicates
• multi_dataset_batch_sampler: proportional

Training Logs

Epoch	Step	Training Loss	dim_512_cosine_ndcg@10	dim_256_cosine_ndcg@10
1.0	2145	0.9698	0.7001	0.6932
2.0	4290	0.1285	0.7070	0.7013
3.0	6435	0.0486	0.7094	0.7055
4.0	8580	0.0322	0.7105	0.7030

• The bold row denotes the saved checkpoint.

Framework Versions

• Python: 3.10.12
• Sentence Transformers: 3.4.1
• Transformers: 4.49.0
• PyTorch: 2.6.0+cu124
• Accelerate: 1.2.1
• Datasets: 3.3.2
• Tokenizers: 0.21.0

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MatryoshkaLoss

@misc{kusupati2024matryoshka,
    title={Matryoshka Representation Learning},
    author={Aditya Kusupati and Gantavya Bhatt and Aniket Rege and Matthew Wallingford and Aditya Sinha and Vivek Ramanujan and William Howard-Snyder and Kaifeng Chen and Sham Kakade and Prateek Jain and Ali Farhadi},
    year={2024},
    eprint={2205.13147},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}

MultipleNegativesRankingLoss

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}