Hakim 🩺
Collection
A trilingual (French, English, Darija) medical mentor model for med students, built on HuatuoGPT-3-27B with ~$8 of HF credits. • 5 items • Updated
Dataset Preview
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
The dataset generation failed
Error code: DatasetGenerationError
Exception: TypeError
Message: Couldn't cast array of type list<item: string> to int64
Traceback: Traceback (most recent call last):
File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1848, in _prepare_split_single
writer.write_table(table)
~~~~~~~~~~~~~~~~~~^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/arrow_writer.py", line 765, in write_table
self._write_table(pa_table, writer_batch_size=writer_batch_size)
~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/arrow_writer.py", line 773, in _write_table
pa_table = table_cast(pa_table, self._schema)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2378, in table_cast
return cast_table_to_schema(table, schema)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2312, in cast_table_to_schema
cast_array_to_feature(
~~~~~~~~~~~~~~~~~~~~~^
table[name] if name in table_column_names else pa.array([None] * len(table), type=schema.field(name).type),
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
feature,
^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 1861, in wrapper
return pa.chunked_array([func(chunk, *args, **kwargs) for chunk in array.chunks])
~~~~^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2152, in cast_array_to_feature
return array_cast(
array,
...<2 lines>...
allow_decimal_to_str=allow_decimal_to_str,
)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 1863, in wrapper
return func(array, *args, **kwargs)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2016, in array_cast
raise TypeError(f"Couldn't cast array of type {_short_str(array.type)} to {_short_str(pa_type)}")
TypeError: Couldn't cast array of type list<item: string> to int64
The above exception was the direct cause of the following exception:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1369, in compute_config_parquet_and_info_response
parquet_operations, partial, estimated_dataset_info = stream_convert_to_parquet(
~~~~~~~~~~~~~~~~~~~~~~~~~^
builder, max_dataset_size_bytes=max_dataset_size_bytes
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
)
^
File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 948, in stream_convert_to_parquet
builder._prepare_split(split_generator=splits_generators[split], file_format="parquet")
~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1694, in _prepare_split
for job_id, done, content in self._prepare_split_single(
~~~~~~~~~~~~~~~~~~~~~~~~~~^
gen_kwargs=gen_kwargs, job_id=job_id, **_prepare_split_args
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
):
^
File "/usr/local/lib/python3.14/site-packages/datasets/builder.py", line 1880, in _prepare_split_single
raise DatasetGenerationError("An error occurred while generating the dataset") from e
datasets.exceptions.DatasetGenerationError: An error occurred while generating the datasetNeed help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
q string | answer int64 | pred int64 |
|---|---|---|
كتحتاج عملية تكوين الحيوانات المنوية من البداية ديالها: | 3 | 3 |
ف كائن حي عدد الكروموسومات ف خلية منوية أولية كيساوي (20 زوج)، شحال عدد الجاميتات اللي كتنتج من انقسام 4 خلايا منوية أولية، وشحال عدد الكروموسومات اللي كتنتج ف الجاميتات؟ | 2 | 1 |
أشمن جملة من هادو صحيحة | 3 | 3 |
- شكون من الناس عندو مرض السكري ...... | 2 | 2 |
أشمن وحدة من هادو كتنطبق على كمية المادة الوراثية فالخلايا البشرية | 3 | 3 |
كاين تشابه بين الأربطة والأوتار فالبنية الأساسية حيت بجوج كيتكونو من نسيج ضام | 2 | 2 |
كتميز خلايا السوق العشبية الذابلة والبذور والثمار المنكمشة | 3 | 3 |
كتترتب الكروموسومات على شكل ازواج متقابلة فوسط الخلية الحيوانية فالدور : | 1 | 0 |
كتخدم الغدة التيموسية على إنضاج الخلايا الليمفاوية الجذعية ل | 3 | 3 |
القندس هو من القوارض المائيّة ؛ كيعيش عادةً فالما وكيبني مسكنو تحت سطح الما. كتولد نثى القندس من 2 حتى 3 صغار. لأي مجموعة من الفقاريات كينتمي القندس ؟ | 3 | 3 |
شنو هي البروتينات لي كترتبط ب cdk وكتصنع وكتحطم خلال دورة الخلية : | 1 | 1 |
شنو سميت المرحلة من عملية بناء البروتين اللي كتبدا بارتباط كل من tRNA و mRNA مع بعضهم : | 1 | 1 |
قانون الكل ولا والو هو القانون اللي كيحكم انقباض العضلات وهو كيعني بلي العضلة ما كتنقبضش إلا إيلا كان المثير كافي باش يثيرها للانقباض فكتنقبض بأقصى قوتها فإيلا تعرضو جوج عضلات متشابهين لجوج مثيرين كافيين باش يثيروهم ولكن المثير الأول قوتو ضعف قوة المثير الثاني شنو هي النتيجة المترتبة على هاد الحالة | 2 | 2 |
تجويف فالانزيم كيتكون من حموض أمينية معينة وكيخدم كقالب كترتبط بيه المادة المتفاعلة هو : | 1 | 1 |
الفرق بين السكرتين والكولسيتوكينين هو أن السكرتين كيحفز البنكرياس باش يفرز المكونات غير العضوية من العصارة البنكرياسية، بينما الكولسيتوكينين كيحفز إفراز العصارات البنكرياسية اللي غنية بالإنزيمات | 0 | 0 |
التركيب الأساسي ديال معظم الإنزيمات هو : | 0 | 0 |
الوسائد الغضروفية داخل المفاصل كتخدم باش العظام يحتكو ببعضهم | 1 | 1 |
تلقيح خارجي و إخصاب خارجي وتكوين جنين داخلي | 2 | 2 |
إلا كانت نسبة الجوانين فواحد العينة نقية ديال DNA هي 33% إذن نسبة الثايمين فهاد العينة هي | 2 | 0 |
معظم وزن الجسم كيرتكز على | 0 | 0 |
فواحد من الليفات العضلية إلا كان طول واحد من خيوط الأكتين هو x عند وقوع انقباض تام فالعضلة، المسافة بين جوج خطوط z متتاليين غادي تساوي | 1 | 0 |
تم تكوين حمض الستريك 6 مرات ، وهادشي كيعتابر دليل على أن عدد جزيئات الغلوكوز اللي دخلات فعملية\n التنفس الخلوي الهوائي ...... جزيء : | 2 | 2 |
أي من الجزيئات التالية كتمثل واحد من نواتج مرحلة التحلل السكري؟ | 0 | 0 |
موقع P فالرايبوسوم | 2 | 1 |
شحال من عظمة كاينة فالصدر | 3 | 0 |
وحدة من هادو ما كتستعملش فالتفاعلات الضوئية الحلقية هي : | 1 | 0 |
وحدة من هاد العضيات مسؤولة على تصنيع الليبيدات فالخلية : | 1 | 1 |
يمكن للطبيب يحدد نوع الجنين فالشهر التالت ديال الحمل | 0 | 0 |
كيعتابر تتابع النيوكليوتيدات فجزيء mRNA ضروري لتحديد تتابع | 3 | 0 |
عندي النبات | 0 | 2 |
كاينة المايتوكندريا فواحد من الأجزاء هادو ديال الحيوان المنوي | 3 | 3 |
الانسجه الدعاميه كيتوزعو فالاجزاء النباتيه حسب نوع القوى اللي كيتعرض ليها | 0 | 0 |
كتخرج من الميوسين روابط مستعرضة غير كيتزاح بروتين كيغطي الأكتين وهاد الشي من الفتحات اللي كاينين على خيوط الأكتين | 0 | 1 |
الهرمون اللي كيحفز تكوين غدة قنوية و غدة صماء هو | 1 | 0 |
كيتم إنتاج الاكسينات ف | 2 | 2 |
باش كتميز الخلايا حقيقية النوى على غيرها ؟ | 0 | 0 |
إلا كان عدد الكروموزومات فالخلية الجسدية ديال ذكر نحل العسل = عدد الكروموزومات فالخلية الجنسية ديالو = ن إذن | 3 | 3 |
شحال من نوع ديال الخطوط البروتينية فالقطعة العضلية | 0 | 2 |
شحال من جزيئة ديال ATP المباشرة من التنفس الهوائي إلا تأكسدو جوج جزيئات ديال الغلوكوز: | 2 | 1 |
الزيجوت من أول ما كيتكون حتى كيولي جنين كينقسم انقسام ميتوزي | 0 | 0 |
أشمن واحد من هادو كيمثل حجم الهوا اللي كيتنفسو الإنسان البالغ واللي صحتو مزيانة فالشهيق الواحد، واللي كيوصل تقريبا 550 ملليتر؟ | 0 | 3 |
تحتاج العضلة ل ATP باش ...... الإرتباط بين الجسر العرضى والأكتين | 1 | 1 |
الميروزويتات اللي ماهاجمهومش الجهاز المناعي ديال المريض كيتحولو لأجسام مدورة غامقة كيتعرفو بالخلايا المشيجية | 1 | 1 |
اللي حط حجر الاساس ديال علم الغدد الصماء | 1 | 0 |
الحزام الحوضي كيتصل بالطرف السفلي اتصال قوي بسباب وجود تجويف عميق كيتسمى التجويف الحقي كتستقر فيه عظمة الفخذ باش يتناسب مع دور الطرفين السفليين فحمل الجسم | 0 | 0 |
المؤثر اللي كيسبب تقلص العضلة الهيكلية | 0 | 2 |
مركب الكيتوزان الأمن كيحفز الإستجابة المناعية فخلايا درنة البطاطا المصابة بالعفن الجاف شنو هي الآلية لي كتشبه فالخدمة ديالها دور هاد المركب ؟ | 0 | 2 |
من العظام القصيرة | 2 | 3 |
فالهيدرا يمكن لجزء صغير منها يولي كائن جديد | 0 | 0 |
ملي تحلل واحد النوع ديال السكريات لقاو بلي كيتكون من سلسلة ديال الغلوكوز فيها شوية ديال التفرعات، شنو هو نوع هاد السكر: | 0 | 0 |
الإستجابة بالإلتهاب كيجي معاها | 3 | 3 |
الحشرات والما والهوا كيعاونو باش تلقح الزهرة | 0 | 0 |
2ن - 2ن - ن - 2ن كتعبر على | 1 | 0 |
كل هاد شي كيأدي لزيادة نشاط الغدة الدرقية ماعدا | 3 | 3 |
فاشمن فترة من هاد الفترات كيبدا فيها تطور العضلات و اكتمال أعضاء الحس عند الجنين ؟ | 2 | 1 |
كتنفخ الخلية النباتية ملي كنحطوها فالما حتى كتفرقع | 1 | 1 |
كتستهلك جزيئات ATP فوقت الإنبساط العضلي ف | 0 | 0 |
النواة ف كريات الدم البيضاء المتعادلة كتكون من 2 حتى 6 فصوص نووية مرتبطين مع بعضهم بخيوط رقاق | 0 | 0 |
إلا تنشطو بويضات نحل العسل بالتوالد البكري الصناعي كيخرجو | 1 | 0 |
عدد مجموعات الفوسفات الحرة فالبلازميد | 2 | 2 |
الطور اللي كتظهر فيه الكروموسومات قصيرة وسميكة هو : | 0 | 0 |
كيتم إفراز الهرمونات من الغدد | 3 | 0 |
التوائم المتماثلة كانت بويضة وحدة بس و تخصبات بحيوان منوي وتقسمات لزيجوت فوقت التفلج ديالهم لجوج جزاء، كل واحد منهم كيكون جنين عندو المشيمة ديالو والحبل السري ديالو | 1 | 0 |
-من بعد ما تنتج الاكسينات كتنتاقل للساق ٠٠٠٠ على الضو | 1 | 1 |
معدل حجم الضربة (التدفق) فحالة الراحة كيوصل ل 70 مل وعدد ضربات القلب تقريبا 72 ضربة فكل دقيقة. شنو من هادو كيمثل قيمة الناتج القلبي؟ | 3 | 3 |
كينتج من تحلل جزيء الما إلكترونات وبروتونات وأوكسجين، كيتستعمل الهيدروجين اللي كينتج ف: | 0 | 1 |
هرمون الألدوستيرون كيساعد على تنظيم معدلات أيض الكربوهيدرات والدهون بوحدهم | 1 | 1 |
المركب العضوي اللي كيتخزن فكبود الحيوانات : | 0 | 0 |
أش من حاجة من هادو كتشير لتفسير لامارك لطول عنق الزرافة؟ | 1 | 2 |
الذرية كتورث المادة الوراثية من الوالدين. | 0 | 0 |
كتعتبر وحدة من الطرق ديال خدمة الأجسام المضادة وفيها كيتم تنشيط المتممات باش تفرز الإنزيمات اللي كتأثر على الأغلفة ديال الأنتيجينات باش يسهل التخلص منها بواسطة الخلايا البلعمية | 2 | 2 |
عضلة كتكون من 500 ليفة عضلية، شنو هو أقل عدد ديال الوحدات الحركية و أكبر عدد ديال الوحدات الحركية ومتوسط عدد الليفات العضلية | 1 | 2 |
أشمن نوع ديال الفقرات كيتقوس للقدام وماشي للور\n | 2 | 2 |
محيط القفص الصدري كيتكون من | 2 | 2 |
الإرتفاق العانى | 3 | 2 |
الذكور اللي ما كيولدو غير الإناث هوما ذكور نحل العسل | 0 | 1 |
كيتشابه الجزء الفوقاني ديال عظمة القص مع الجزء التحتاني ف | 3 | 1 |
كتعتبر الاوتار هي النسيج لي كيقوم بتثبيت المفاصل بالعظام | 1 | 1 |
كيتنتج الجسم القطبي الثاني من انقسام : | 1 | 1 |
وظيفة كريات الدم البيضاء | 3 | 3 |
الباراثرمون كيزيد الكالسيوم فالدم بتنشيط | 3 | 3 |
البروتينات اللي كيدخلو فتركيب المادة المسؤولة على تحطيم الكربوهيدرات لسكريات أحادية: | 1 | 1 |
كتسما فترة النمو والنضج الجنسي اللي كيولي فيها الجهاز التناسلي كامل الوظيفة بفترة | 0 | 0 |
وحدة من هادو ماشي ديال الحمض النووي RNA : | 3 | 3 |
جيوب العقد الليمفاوية كتحتوي على | 3 | 3 |
كتكون قشرة الغدة الكظرية من ..... طبقة | 2 | 2 |
ملي كنفحصو ليفة عضلية فحالة إجهاد عضلي لقينا بلي فيها 80 جزيء ديال حمض اللاكتيك، إلا عرفنا بلي العضلة كاملة فيها 800 جزيء لاكتيك فوقت التنفس اللاهوائي، شحال غادي يكون أقل عدد ديال اللييفات العضلية فهاد العضلة | 0 | 1 |
الفقرة العنقية اللولة كتشارك فتكوين | 1 | 1 |
كتوصف العلاقة ديال الصراع بين الغزلان مع بعضياتهم على الماكلة والما بأنها ؟ | 3 | 3 |
عظمة القص كتكون من نسيجين | 0 | 1 |
موقع فالرايبوسوم مسؤول على استقبال جزيء tRNA اللي كيحمل حمض أميني جديد كيتسمى : | 0 | 0 |
خيوط الميوسين السميكة كيبقاو ثابتين فوقت الانقباض والراحة | 0 | 1 |
الهرمونات كيتشابهو مع الانزيمات فأنهم | 3 | 3 |
المسؤول على تخزين الحيوانات المنوية حتى يخرجو من الجسم | 1 | 1 |
أش من حامض أميني من هادو اللي فيه ذرة ديال الهيدروجين فبلاصة المجموعة (R) | 1 | 1 |
أي من هاد المواد ما كتلعبش دور فشفاء خلايا الكبد من فيروس (C) ؟ | 1 | 1 |
شنو من هادو كيتحرك عكس اتجاه شعيرات قناة فالوب ؟ | 1 | 1 |
شنو هو المحلول اللي يمكن للفلاح يستعملو باش ينشط نمو الجذور على عقل نبتة القصب ؟ | 2 | 2 |
عضمة كتحصل على الغذاء ديالها بجوج طرق مختلفين | 1 | 1 |
حالة تيرنر هي حالة وراثية كتظهر عند البنات نتيجة غياب كروموسوم جنسي (X) اللي كيأدي لعدم اكتمال الأعضاء التناسلية ديالها، شنو هي النتيجة ديال هاد الحالة؟ | 2 | 2 |
End of preview.
Hakim-Bench 🩺
Evaluation results for Hakim-27B, compared with its two base models: HuatuoGPT-3-27B and Qwen3.8-27B. All models were run with the same code, the same prompts and the same scoring, so the numbers are directly comparable.
Results
| Benchmark | n | Metric | Qwen3.8-27B | HuatuoGPT-3-27B | Hakim-27B |
|---|---|---|---|---|---|
| MedQA (USMLE, 4 options), test | 1,273 | accuracy | 83.82 | 83.66 | 85.70 |
| MedMCQA, validation (1,000 sampled) | 1,000 | accuracy | 70.30 | 70.50 | 72.70 |
| PubMedQA, labeled (500 sampled) | 500 | accuracy | 79.80 | 84.20 | 84.80 |
| MMLU medical (6 subjects), test | 1,089 | accuracy | 89.62 | 89.90 | 89.81 |
| DarijaMMLU (4 subjects), test | 1,229 | accuracy | 72.74 | 73.39 | 77.38 |
| FrenchMedMCQA, test | 622 | exact match | 74.60 | 72.35 | 78.14 |
| FrenchMedMCQA, test | 622 | Hamming score | 86.82 | 85.98 | 88.86 |
| Average (6 suites, first metric) | 78.48 | 79.00 | 81.42 |
Raw numbers are in results.json. The hakim-v1 entry is an earlier, partially benchmarked version trained on plain Qwen3.8-27B. It is kept for transparency.
Methodology
- Zero-shot, non-thinking mode (
enable_thinking=False), one user turn, no system prompt, no few-shot examples. - Multiple-choice suites (MedQA, MedMCQA, PubMedQA, MMLU, DarijaMMLU): the prediction is the option letter with the highest next-token logit among the valid letters. There is no generation and no answer parsing, which avoids format bias between models.
- Prompt: question (and context for PubMedQA and DarijaMMLU), options labeled
A.,B., …, thenAnswer with only the letter of the correct option (A, B, C, D).
- Prompt: question (and context for PubMedQA and DarijaMMLU), options labeled
- FrenchMedMCQA (one or more correct answers out of five): greedy generation of up to 16 tokens with a French instruction to answer only with the letters. Scored with the original paper's metrics:
- exact match ratio (all correct options and nothing else)
- Hamming score (partial credit)
- Subsets (fixed seed 1234):
- MedMCQA: 1,000 sampled from validation
- PubMedQA: 500 sampled from
pqa_labeled - MMLU medical: anatomy, clinical knowledge, college biology, college medicine, medical genetics, professional medicine
- DarijaMMLU: biology (400 sampled), human aging, nutrition, natural science (300 sampled)
- Same job: HuatuoGPT-3 and Hakim were scored in the same job on the same GPU (the adapter switched off and on). Qwen3.8 was scored with the same code in an earlier job.
- Decontamination: every Hakim training source was filtered against all questions in these test sets (normalized exact match). 18 questions were removed from training.
Caveats
- On suites of this size, differences under ~1.5 points can be noise.
- Hakim was trained on the train splits of MedMCQA, FrenchMedMCQA and PubMedQA (artificial). It is therefore more familiar with those formats than the other two models.
- Thinking mode is not evaluated here. All three models are expected to score higher with it.
- Multiple-choice accuracy is not clinical competence.
Files
results.json: all scores, by model and suite.preds/<model>/<suite>.json: per-question predictions (question excerpt, gold answer, prediction), for the runs that saved them (Qwen3.8-27B base, Hakim v1).- Evaluation code:
training/bench_hakim.pyand the benchmark section oftraining/train_hakim.pyin the model repo.
- Downloads last month
- 711