🇷🇺 Русская версия

Clary 2 Cyber Flash (1.7B) — высокоскоростная сбалансированная языковая модель семейства Clary 2, разработанная исследовательской командой Aurora System.

Модель построена на базе Qwen/Qwen3-1.7B и оптимизирована для быстрого локального анализа защищенности, решения CTF-задач, аудита скриптов, криптографических вычислений и помощи разработчикам непосредственно на рабочих станциях и ноутбуках с минимальным потреблением ресурсов.

Веса модели поставляются в нативном формате Safetensors (bfloat16) с объединёнными адаптерами DoRA, а также в форматах GGUF для запуска на CPU и мобильных устройствах.

📌 Ключевые возможности

Скоростной аудит и автоматизация (CTF & DevSecOps)
- Быстрая генерация вспомогательных скриптов на pwntools, requests, scapy и pycryptodome с минимальной задержкой инференса.
Веб-безопасность (OWASP Top 10)
- Анализ классических и слепых SQL-инъекций, обход валидации JWT (уязвимости неподписанных токенов), выявление XSS, CSRF и ошибок контроля доступа (IDOR/BOLA).
Прикладной криптоанализ
- Реализация атак на симметричные шифры (AES-ECB Cut-and-Paste), решение классических задач RSA с малым открытым показателем (атака Хастада через CRT), работа с хэш-функциями.
Анализ кода и базовый реверс
- Разбор простых ассемблерных функций x86_64, восстановление логики алгоритмов в читаемый код на C/Python, поиск ошибок переполнения буфера.
Высокая сохранность общего интеллекта
- За счет архитектурного баланса модель удерживает высокий уровень рассуждений (73.3% на ARC-Challenge и 55.0% на College CS) без выраженного эффекта деградации базы.
Полноценный двуязычный контекст (RU/EN)
- Свободное владение профессиональной англоязычной терминологией ИБ и грамотным русским языком.

📊 Результаты бенчмарков

Тестирование проводилось в автономной среде с использованием движка vLLM с детерминированным декодированием (temperature=0.0) и независимым слепым судейством.

1. Профильный домен: Кибербезопасность (Cybersecurity Suite)

Бенчмарк	Фокус / Организация	Clary 2 Flash (1.7B)
SecEval	Tencent Xuanwu Lab (пентест, аудит уязвимостей)	77.50%
SecQA v1	Компьютерная безопасность и защита систем	100.00%
SecQA v2	Многошаговые рассуждения в ИБ-сценариях	80.00%
CyberMetric-500	Криптография, аудит и стандарты (IEEE CSR)	81.25%
ARC-Challenge	Общая логика и устойчивость рассуждений	73.33%
СРЕДНИЙ БАЛЛ	Академический срез возможностей	79.42%

2. Алгоритмы, программирование и точные науки (STEM)

Бенчмарк	Дисциплина	Clary 2 Flash (1.7B)
MMLU College CS	Алгоритмы и архитектура ЭВМ (университет)	55.00%
MMLU High School CS	Программирование и структуры данных	66.00%
MMLU Abstract Algebra	Абстрактная алгебра и теория групп	38.00%
MMLU High School Math	Алгебра, геометрия и тригонометрия	52.00%
MMLU College Math	Математический анализ и линейная алгебра	44.00%
MMLU Formal Logic	Символическая и формальная логика	54.00%

3. Сравнительные бенчмарки (Clary 2 / Aurora System)

SecEval (Tencent Xuanwu Lab)

Модель	Параметры	Результат
chatglm 3	6B	41.6%
Mistral v0.1	7B	43.7%
Orca 2	7B	51.6%
Yi	6B	53.6%
GPT-3.5 Turbo	—	62.1%
Clary 2 Flash	1.7B	77.50%

CyberMetric 500

Модель	Параметры	Результат
Zephyr	7B	73.5%
Gemma 1.1	7B	75.8%
Mistral v0.2	7B	78.4%
Clary 2 Flash	1.7B	81.25%
Qwen 2	7B	82.0%
Qwen 2.5	7B	89.2%

MMLU (Сравнение по категориям CS и рассуждениям)

Модель	Параметры	Результат
Qwen 3.5	—	44.3%
Clary 2 Flash	1.7B	55.00%
GPT-4.1 nano	—	66.9%
Mistral Large 3	—	74.2%
Claude Haiku 4.5	—	83.0%
Gemma 4	12B	83.4%

Aurora System Benchmark (внутренний практический срез)

Модель линейки	Параметры	Результат
Clary 2 Flash	1.7B	21.25%
Clary 2 Mini	0.6B	37.50%
Clary 2 Heavy	4.0B	47.50%

🚀 Инструкции по использованию

Запуск через Hugging Face Transformers

import torch

from transformers import AutoModelForCausalLM, AutoTokenizer



MODEL_ID = "AuroraSystem/Clary-2-Cyber-Flash-1.7B"



tokenizer = AutoTokenizer.from_pretrained(MODEL_ID, trust_remote_code=True)

model = AutoModelForCausalLM.from_pretrained(

    MODEL_ID,

    dtype=torch.bfloat16,

    device_map="auto",

    trust_remote_code=True

)



prompt = "Напиши Python-скрипт на requests для проверки наличия уязвимости Blind Time-based SQLi через замер времени отклика."



messages = [

    {"role": "system", "content": "You are Aurora, an expert cybersecurity assistant developed by Aurora System."},

    {"role": "user", "content": prompt}

]



inputs = tokenizer.apply_chat_template(

    messages,

    tokenize=True,

    add_generation_prompt=True,

    return_tensors="pt"

).to(model.device)



with torch.no_grad():

    outputs = model.generate(

        **inputs,

        max_new_tokens=512,

        do_sample=True,

        temperature=0.2,       # Рекомендуемый диапазон 0.2 – 0.3 для кода и CTF

        repetition_penalty=1.15

    )



print(tokenizer.decode(outputs[0][inputs.shape[1]:], skip_special_tokens=True))

Высокопроизводительный инференс через vLLM

vllm serve AuroraSystem/Clary-2-Cyber-Flash-1.7B 

  --dtype bfloat16 

  --max-model-len 8192 

  --gpu-memory-utilization 0.85 

  --trust-remote-code

Пример запроса через curl:

curl http://localhost:8000/v1/chat/completions 

  -H "Content-Type: application/json" 

  -d '{

    "model": "AuroraSystem/Clary-2-Cyber-Flash-1.7B",

    "messages": [

      {"role": "system", "content": "You are Aurora, an expert autonomous CTF assistant."},

      {"role": "user", "content": "Напиши функцию декодирования строки из Base64 с обработкой некорректного паддинга."}

    ],

    "temperature": 0.2,

    "max_tokens": 350

  }'

🛠️ Детали обучения

Базовая архитектура: Qwen/Qwen3-1.7B
Контекстное окно: 8 192 токена
Метод адаптации: DoRA (Weight-Decomposed Low-Rank Adaptation)
- Конфигурация: ранг $r = 32$, $alpha = 32$, Dropout = 0.05
- Модули адаптации: q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj
Слияние весов: Адаптеры DoRA нативно интегрированы с базовыми весами через merge_and_unload() в единый 16-битный тензор.

⚠️ Отказ от ответственности (Responsible Use)

Модель Aurora Clary 2 Cyber Flash (1.7B) создана исключительно в исследовательских и образовательных целях, а также для содействия специалистам по информационной безопасности при аудите исходного кода, защите инфраструктуры и участии в соревнованиях CTF.

Разработчики не несут ответственности за несанкционированное или деструктивное применение генерируемых материалов в реальных вычислительных сетях.

🏢 Разработчик

Aurora AI by Aurora System

🇬🇧 English Version

Clary 2 Cyber Flash (1.7B) is a lightweight, high-throughput language model of the Clary 2 family, developed by the Aurora System research team.

Built upon Qwen/Qwen3-1.7B, the model is optimized for fast local security assessment, CTF challenge solving, script auditing, cryptographic calculations, and developer assistance directly on local workstations and laptops with minimal hardware requirements.

Model weights are provided in native Safetensors format (bfloat16) with merged DoRA adapters, as well as in GGUF format for CPU and edge deployment.

📌 Key Capabilities

Fast Security Auditing & Automation (CTF & DevSecOps)
- Low-latency generation of practical scripts using pwntools, requests, scapy, and pycryptodome.
Web Security Auditing (OWASP Top 10)
- Detection and exploitation logic for SQLi (including blind time-based vectors), JWT validation bypass (unsigned token vulnerabilities), XSS, CSRF, and broken access control (IDOR/BOLA).
Applied Cryptanalysis
- Attacks on symmetric ciphers (AES-ECB Cut-and-Paste), classical small-exponent RSA factorization (Hastad’s broadcast attack via CRT), and hash-based challenges.
Code Inspection & Basic Reverse Engineering
- Decompilation of simple x86_64 assembly routines, reconstruction of algorithmic logic into readable C/Python code, and buffer overflow pattern analysis.
High General Intelligence Retention
- Thanks to balanced training dynamics, the model preserves high reasoning accuracy (73.3% on ARC-Challenge and 55.0% on College CS) without severe domain degradation.
Bilingual Proficiency (RU/EN)
- Fluent command of English technical security vocabulary and natural Russian phrasing.

📊 Benchmark Results

Testing was conducted in an isolated environment using vLLM with deterministic decoding (temperature=0.0) and independent blind evaluation.

1. Domain Focus: Cybersecurity Suite

Benchmark	Focus / Organization	Clary 2 Flash (1.7B)
SecEval	Tencent Xuanwu Lab (pentest, vulnerability audit)	77.50%
SecQA v1	Computer security and system protection	100.00%
SecQA v2	Multi-step reasoning in security scenarios	80.00%
CyberMetric-500	Cryptography, audit and standards (IEEE CSR)	81.25%
ARC-Challenge	General reasoning and robustness	73.33%
AVERAGE SCORE	Academic capability slice	79.42%

2. Algorithms, Programming & Exact Sciences (STEM)

Benchmark	Discipline	Clary 2 Flash (1.7B)
MMLU College CS	Algorithms and computer architecture (university)	55.00%
MMLU High School CS	Programming and data structures	66.00%
MMLU Abstract Algebra	Abstract algebra and group theory	38.00%
MMLU High School Math	Algebra, geometry and trigonometry	52.00%
MMLU College Math	Mathematical analysis and linear algebra	44.00%
MMLU Formal Logic	Symbolic and formal logic	54.00%

3. Comparative Benchmarks (Clary 2 / Aurora System)

SecEval (Tencent Xuanwu Lab)

Model	Parameters	Score
chatglm 3	6B	41.6%
Mistral v0.1	7B	43.7%
Orca 2	7B	51.6%
Yi	6B	53.6%
GPT-3.5 Turbo	—	62.1%
Clary 2 Flash	1.7B	77.50%

CyberMetric 500

Model	Parameters	Score
Zephyr	7B	73.5%
Gemma 1.1	7B	75.8%
Mistral v0.2	7B	78.4%
Clary 2 Flash	1.7B	81.25%
Qwen 2	7B	82.0%
Qwen 2.5	7B	89.2%

MMLU (Computer Science & Reasoning Comparison)

Model	Parameters	Score
Qwen 3.5	—	44.3%
Clary 2 Flash	1.7B	55.00%
GPT-4.1 nano	—	66.9%
Mistral Large 3	—	74.2%
Claude Haiku 4.5	—	83.0%
Gemma 4	12B	83.4%

Aurora System Benchmark (Internal Practical Assessment)

Model	Parameters	Score
Clary 2 Flash	1.7B	21.25%
Clary 2 Mini	0.6B	37.50%
Clary 2 Heavy	4.0B	47.50%

🚀 Usage Instructions

Hugging Face Transformers

import torch

from transformers import AutoModelForCausalLM, AutoTokenizer



MODEL_ID = "AuroraSystem/Clary-2-Cyber-Flash-1.7B"



tokenizer = AutoTokenizer.from_pretrained(MODEL_ID, trust_remote_code=True)

model = AutoModelForCausalLM.from_pretrained(

    MODEL_ID,

    dtype=torch.bfloat16,

    device_map="auto",

    trust_remote_code=True

)



prompt = "Write a Python script using requests to verify a blind time-based SQL injection via response time measurements."



messages = [

    {"role": "system", "content": "You are Aurora, an expert cybersecurity assistant developed by Aurora System."},

    {"role": "user", "content": prompt}

]



inputs = tokenizer.apply_chat_template(

    messages,

    tokenize=True,

    add_generation_prompt=True,

    return_tensors="pt"

).to(model.device)



with torch.no_grad():

    outputs = model.generate(

        **inputs,

        max_new_tokens=512,

        do_sample=True,

        temperature=0.2,       # Recommended range 0.2 – 0.3 for code and CTF

        repetition_penalty=1.15

    )



print(tokenizer.decode(outputs[0][inputs.shape[1]:], skip_special_tokens=True))

High-Performance Inference with vLLM

vllm serve AuroraSystem/Clary-2-Cyber-Flash-1.7B 

  --dtype bfloat16 

  --max-model-len 8192 

  --gpu-memory-utilization 0.85 

  --trust-remote-code

Example request via curl:

curl http://localhost:8000/v1/chat/completions 

  -H "Content-Type: application/json" 

  -d '{

    "model": "AuroraSystem/Clary-2-Cyber-Flash-1.7B",

    "messages": [

      {"role": "system", "content": "You are Aurora, an expert autonomous CTF assistant."},

      {"role": "user", "content": "Write a robust base64 decoding helper function in Python that handles missing padding gracefully."}

    ],

    "temperature": 0.2,

    "max_tokens": 350

  }'

🛠️ Training Details

Base Architecture: Qwen/Qwen3-1.7B
Context Length: 8,192 tokens
Adaptation Method: DoRA (Weight-Decomposed Low-Rank Adaptation)
- Configuration: rank $r = 32$, $alpha = 32$, Dropout = 0.05
- Target modules: q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj
Weight Merging: Native integration of DoRA adapters via merge_and_unload() into a single 16-bit tensor.

⚠️ Responsible Use Disclaimer

The Clary 2 Cyber Flash (1.7B) model is created strictly for research and educational purposes, assisting cybersecurity professionals in source code auditing, infrastructure hardening, and defensive CTF competitions.

The developers assume no liability for unauthorized, unethical, or destructive use of generated outputs across live production networks.