Chr0mat1x/Temik-AI

Temik AI 🧠

Мини-GPT на NumPy, написанный и обученный с нуля на домашнем компьютере. Никаких ML-библиотек — только линейная алгебра и ручной backpropagation.

Путь обучения (всё, как у настоящего ChatGPT, только в миниатюре)

1. Архитектура — decoder-only трансформер (attention, LayerNorm, residual, weight tying), ~124 000 параметров.
2. Предобучение — на русской Википедии (корпус ~666 тыс. символов).
3. SFT — инструктивное дообучение на парах «вопрос → ответ»: приветствия, личность, столицы, факты.
4. Физика — определения, единицы измерения, законы (Ом, Ньютон, Архимед, Бойль-Мариотт), формулы (v=s/t, F=ma, p=m/V, P=A/t).
5. Инструмент-калькулятор — численные задачи решаются точно, как в больших GPT (нейросеть понимает вопрос, считает калькулятор).

Автор

Chr0mat1x — каждый вес Temik AI обучен на его компьютере.

Попробуйте

• «Привет! Кто ты?»
• «Что такое сила?» / «Сформулируй закон Ома»
• «Какая скорость, если путь 100 м за 20 с?»
• «Столица Франции?»