Datasets:
id stringlengths 13 13 | metadata dict | benchmark dict | raw_messages listlengths 3 3 |
|---|---|---|---|
SEC-EVAL-0001 | {
"language": "Go",
"vulnerability_class": "Path Traversal",
"cwe": "CWE-22",
"difficulty": "junior",
"scenario": "un pannello di amministrazione interno",
"tokens_est": 2231
} | {
"prompt": "Genera un esempio didattico di secure code review con queste caratteristiche:\n\n- Linguaggio: Go\n- Categoria di vulnerabilità: Path Traversal (path di file costruito da input utente senza canonicalizzazione)\n- Contesto applicativo: un pannello di amministrazione interno\n- Livello: junior — codice sem... | [
{
"role": "system",
"content": "Sei un esperto di application security e secure code review. Produci esempi didattici accurati, tecnicamente corretti e pronti per il training di modelli di sicurezza software."
},
{
"role": "user",
"content": "Genera un esempio didattico di secure code review con... |
SEC-EVAL-0002 | {
"language": "Python",
"vulnerability_class": "Cryptographic Failure",
"cwe": "CWE-329",
"difficulty": "junior",
"scenario": "un'app di messaggistica real-time",
"tokens_est": 2078
} | {
"prompt": "Genera un esempio didattico di secure code review con queste caratteristiche:\n\n- Linguaggio: Python\n- Categoria di vulnerabilità: Cryptographic Failure (uso di algoritmi deboli (MD5, DES, ECB) o IV statici)\n- Contesto applicativo: un'app di messaggistica real-time\n- Livello: junior — codice semplice... | [
{
"role": "system",
"content": "Sei un esperto di application security e secure code review. Produci esempi didattici accurati, tecnicamente corretti e pronti per il training di modelli di sicurezza software."
},
{
"role": "user",
"content": "Genera un esempio didattico di secure code review con... |
SEC-EVAL-0003 | {
"language": "C#",
"vulnerability_class": "Insecure Direct Object Reference",
"cwe": "CWE-639",
"difficulty": "mid",
"scenario": "un'applicazione IoT embedded",
"tokens_est": 2058
} | {
"prompt": "Genera un esempio didattico di secure code review con queste caratteristiche:\n\n- Linguaggio: C#\n- Categoria di vulnerabilità: Insecure Direct Object Reference (IDOR) (accesso a risorse tramite ID senza controllo di ownership)\n- Contesto applicativo: un'applicazione IoT embedded\n- Livello: mid — vuln... | [
{
"role": "system",
"content": "Sei un esperto di application security e secure code review. Produci esempi didattici accurati, tecnicamente corretti e pronti per il training di modelli di sicurezza software."
},
{
"role": "user",
"content": "Genera un esempio didattico di secure code review con... |
SEC-EVAL-0004 | {
"language": "Rust",
"vulnerability_class": "Improper Input Validation",
"cwe": "CWE-20",
"difficulty": "senior",
"scenario": "un sistema legacy di gestione ordini",
"tokens_est": 2087
} | {
"prompt": "Genera un esempio didattico di secure code review con queste caratteristiche:\n\n- Linguaggio: Rust\n- Categoria di vulnerabilità: Improper Input Validation (validazione assente o basata su denylist incompleta)\n- Contesto applicativo: un sistema legacy di gestione ordini\n- Livello: senior — vulnerabili... | [
{
"role": "system",
"content": "Sei un esperto di application security e secure code review. Produci esempi didattici accurati, tecnicamente corretti e pronti per il training di modelli di sicurezza software."
},
{
"role": "user",
"content": "Genera un esempio didattico di secure code review con... |
SEC-EVAL-0005 | {
"language": "Java",
"vulnerability_class": "Mass Assignment",
"cwe": "CWE-915",
"difficulty": "senior",
"scenario": "un'applicazione web e-commerce",
"tokens_est": 2420
} | {
"prompt": "Genera un esempio didattico di secure code review con queste caratteristiche:\n\n- Linguaggio: Java\n- Categoria di vulnerabilità: Mass Assignment (binding automatico di campi non autorizzati al modello)\n- Contesto applicativo: un'applicazione web e-commerce\n- Livello: senior — vulnerabilità sottile ch... | [
{
"role": "system",
"content": "Sei un esperto di application security e secure code review. Produci esempi didattici accurati, tecnicamente corretti e pronti per il training di modelli di sicurezza software."
},
{
"role": "user",
"content": "Genera un esempio didattico di secure code review con... |
SEC-EVAL-0006 | {
"language": "Rust",
"vulnerability_class": "SQL Injection",
"cwe": "CWE-89",
"difficulty": "mid",
"scenario": "un'applicazione IoT embedded",
"tokens_est": 2155
} | {
"prompt": "Genera un esempio didattico di secure code review con queste caratteristiche:\n\n- Linguaggio: Rust\n- Categoria di vulnerabilità: SQL Injection (query costruita concatenando input utente)\n- Contesto applicativo: un'applicazione IoT embedded\n- Livello: mid — vulnerabilità non immediata, nascosta in log... | [
{
"role": "system",
"content": "Sei un esperto di application security e secure code review. Produci esempi didattici accurati, tecnicamente corretti e pronti per il training di modelli di sicurezza software."
},
{
"role": "user",
"content": "Genera un esempio didattico di secure code review con... |
SEC-EVAL-0007 | {
"language": "Java",
"vulnerability_class": "Improper Input Validation",
"cwe": "CWE-20",
"difficulty": "junior",
"scenario": "un backend di gestione documenti sanitari",
"tokens_est": 1934
} | {
"prompt": "Genera un esempio didattico di secure code review con queste caratteristiche:\n\n- Linguaggio: Java\n- Categoria di vulnerabilità: Improper Input Validation (validazione assente o basata su denylist incompleta)\n- Contesto applicativo: un backend di gestione documenti sanitari\n- Livello: junior — codice... | [
{
"role": "system",
"content": "Sei un esperto di application security e secure code review. Produci esempi didattici accurati, tecnicamente corretti e pronti per il training di modelli di sicurezza software."
},
{
"role": "user",
"content": "Genera un esempio didattico di secure code review con... |
SEC-EVAL-0008 | {
"language": "PHP",
"vulnerability_class": "Hardcoded Secrets",
"cwe": "CWE-798",
"difficulty": "junior",
"scenario": "un'app di messaggistica real-time",
"tokens_est": 2285
} | {
"prompt": "Genera un esempio didattico di secure code review con queste caratteristiche:\n\n- Linguaggio: PHP\n- Categoria di vulnerabilità: Hardcoded Secrets (credenziali/chiavi API hardcoded nel codice sorgente)\n- Contesto applicativo: un'app di messaggistica real-time\n- Livello: junior — codice semplice e vuln... | [
{
"role": "system",
"content": "Sei un esperto di application security e secure code review. Produci esempi didattici accurati, tecnicamente corretti e pronti per il training di modelli di sicurezza software."
},
{
"role": "user",
"content": "Genera un esempio didattico di secure code review con... |
SEC-EVAL-0010 | {
"language": "C++",
"vulnerability_class": "Hardcoded Secrets",
"cwe": "CWE-798",
"difficulty": "junior",
"scenario": "un'app di messaggistica real-time",
"tokens_est": 2119
} | {
"prompt": "Genera un esempio didattico di secure code review con queste caratteristiche:\n\n- Linguaggio: C++\n- Categoria di vulnerabilità: Hardcoded Secrets (credenziali/chiavi API hardcoded nel codice sorgente)\n- Contesto applicativo: un'app di messaggistica real-time\n- Livello: junior — codice semplice e vuln... | [
{
"role": "system",
"content": "Sei un esperto di application security e secure code review. Produci esempi didattici accurati, tecnicamente corretti e pronti per il training di modelli di sicurezza software."
},
{
"role": "user",
"content": "Genera un esempio didattico di secure code review con... |
SEC-EVAL-0011 | {
"language": "C#",
"vulnerability_class": "Insecure Direct Object Reference",
"cwe": "CWE-639",
"difficulty": "mid",
"scenario": "un'applicazione web e-commerce",
"tokens_est": 1811
} | {
"prompt": "Genera un esempio didattico di secure code review con queste caratteristiche:\n\n- Linguaggio: C#\n- Categoria di vulnerabilità: Insecure Direct Object Reference (IDOR) (accesso a risorse tramite ID senza controllo di ownership)\n- Contesto applicativo: un'applicazione web e-commerce\n- Livello: mid — vu... | [
{
"role": "system",
"content": "Sei un esperto di application security e secure code review. Produci esempi didattici accurati, tecnicamente corretti e pronti per il training di modelli di sicurezza software."
},
{
"role": "user",
"content": "Genera un esempio didattico di secure code review con... |
End of preview. Expand in Data Studio
SEC-BENCH-210: Multi-Language AI Security Evaluation Suite (Preview)
🚀 Official Store: This repository contains the free 20-sample preview.
Get the Full 210-Scenario Suite, Automated Eval Harness & Baseline Results on Lemon Squeezy
Overview
SEC-BENCH-210 is an enterprise-grade evaluation suite and synthetic dataset designed to rigorously test LLMs, AI agents, and code-generation models on software security vulnerability detection and remediation.
- Coverage: 10 Programming Languages (Go, Rust, Java, C, C++, PHP, Python, C#, JS, TS).
- Taxonomy: Aligned with MITRE CWE Top 25 and OWASP Top 10.
- Difficulty Tiers: Realistic pyramid distribution (Junior, Mid, Senior).
- Formats: Clean structured JSONL + ChatML ready for SFT / LoRA fine-tuning.
Official Baseline Leaderboard
Evaluated on the full 210-scenario suite using the official CLI evaluation harness:
| Model | Parameters | Detection Rate | CWE Family Accuracy | Patch Quality | Overall Score | Pass Rate (≥70) | Tested Samples |
|---|---|---|---|---|---|---|---|
| gpt-oss:120b | 120B | 100.0% | 94.2% | 99.5% | 93.4 / 100 | 99.5% (209/210) | 210 / 210 |
Preview Dataset Schema
Each JSONL record contains:
{
"id": "SEC-RUST-004",
"metadata": {
"language": "rust",
"difficulty": "senior",
"cwe": "CWE-362",
"owasp": "A04:2021-Insecure-Design"
},
"vulnerable_code": "...",
"flaw_description": "...",
"secure_patch_code": "..."
}
license: mit
- Downloads last month
- 63