Dataset Viewer
Auto-converted to Parquet Duplicate
instruction
stringclasses
1 value
input
stringlengths
215
7.48k
output
stringlengths
51
305
_src
stringclasses
3 values
_nunits
int64
5
119
_nsplits
int64
1
29
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Тема: - Художественная идея и ее воплощение в поэме "Реквием" - Сочинения по русскому языку и литературе Тема: - Художественная идея и ее воплощение в поэме "Реквием" Тема: - Художественная идея и ее воплощение в поэме "Реквием". [2] Просмотров: 29 | Добавил: damian (03.04.2019) (Изменено: 03.04.2019) Идея "Реквием...
{"splits": [9, 19, 29], "topic": "Анализ художественной идеи и её воплощения в поэме А. Ахматовой 'Реквием', где центральным является противоречие между необходимостью слова и ситуацией немоты."}
cultura
37
3
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] 30-31 мая в Москве прошел форум «Мир ЦОД – 2012», в работе которого приняла участие делегация Intel. [2] Давайте воспользуемся этим поводом, чтобы кратенько, в обзорной форме, обрисовать видение Intel сегодняшнего дня и ближайшей перспективы ЦОД. [3] Статья предназначена прежде всего тем хабралюдям, которые имеют ж...
{"splits": [3, 12, 22, 31], "topic": "Обзор видения Intel и тенденций развития центров обработки данных (ЦОД) на форуме «Мир ЦОД – 2012»."}
habr
45
4
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] # Сводка: Спецификация оборудования [2] спецификация оборудования: итоговые цифры за отчётный период приведены ниже. [3] | Параметр | Значение | Ед. | |---|---|---| | Мощность | 73 | бар | | Ток | 132 | бар | | Частота | 16 | °C | | Ток | 392 | °C | | Напряжение | 11 | Гц | | Масса | 31 | °C | | Масса | 429 | Вт | ...
{"splits": [2, 4], "topic": "Сводка спецификации оборудования с итоговыми цифрами за отчётный период."}
synthetic
5
2
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Модели для утилизации тепла и формирования гарнисажа в металлургических агрегатах типа СЭР Авторы: Оленников Алексей Александрович, Оленников Евгений Александрович, Чапаев Денис Борисович, Широких Андрей Валерьевич Особенностью металлургических агрегатов типа СЭР, используемых для получения металла, является протек...
{"splits": [7], "topic": "Документ посвящён математическому моделированию процессов формирования гарнисажного слоя и утилизации тепла в металлургических агрегатах типа СЭР."}
cultura
40
1
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Описание задачи: обработка данных. [2] Рассмотрим пример реализации. [3] ```python def process(items): return [x*2 for x in items if x > 0] ``` [4] После изменений сервис нужно перезапустить. [5] Решение готово к развёртыванию.
{"splits": [3], "topic": "Обработка данных с примером реализации на Python и последующим развёртыванием."}
synthetic
5
1
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Кнопки соцсетей можно устанавливать в любом месте на странице, задавать цвет, форму, размер и спецэффекты. [2] Не забывайте экспериментировать: кнопки соцсетей – один из конверсионных элементов на вашем сайте: добивайтесь самого удачного места их расположения и внешнего вида. [3] Фишки социальных кнопок Uptolike 1....
{"splits": [2, 8, 10, 17], "topic": "Документ описывает функциональные возможности и настройку кнопок соцсетей Uptolike, включая виджеты, цитирование, подписки и модуль рейтингов, а также процедуры регистрации и входа в систему."}
cultura
24
4
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Вентиляция подвала в доме | Ventilati.ru Правильная организация вентиляции подвала в доме в значительной мере определяет эффективность его эксплуатации. [2] Признаками плохого воздухообмена в подвале или погребе являются «тяжелый» затхлый воздух и конденсационная влага на стенах. [3] Когда в погребе воздух застойны...
{"splits": [12, 24, 36, 45], "topic": "Организация естественной вентиляции подвала частного дома и борьба с избыточной влажностью."}
cultura
48
4
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] В прошлом году хабраюзерам был представлен Codeo — минималистичный аналог Pastebin. [2] За последний месяц я полностью переписал сервис, добавил в него ряд новых возможностей, и перенёс его на новый домен (code.re). [3] Основная концепция сервиса осталась неизменной — минимум усилий для получения результата :) [4] ...
{"splits": [6, 12, 19], "topic": "Обновление сервиса Codeo (code.re): новые возможности, оформление, аккаунты, API и планы развития."}
habr
26
3
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Практика безмолвия - Славянская Традиция Для себя я называю практику безмолвия — нулевой практикой. [2] Потому что безмолвие нужно везде, куда бы вы не сунулись в мир волошбы и духов. [3] Ну а ещё потому что как-то получилось что безмолвие даётся мне. [4] Т.е. в какой-то момент моей жизни практика безмолвия дала о ...
{"splits": [12, 25, 36], "topic": "Практика безмолвия в славянской традиции: её суть, механизм достижения прямого знания и недостаток в виде костности языка."}
cultura
37
3
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Организационно-методические средства Администратор банка данных Организационно-методические средства – это различная документация, касающаяся установки, настройки, ведения АБД. [2] В основном они представлены в виде инструкций, руководств и других печатных и электронных материалов. [3] Наиболее распространенной док...
{"splits": [2, 5], "topic": "Документ описывает организационно-методические средства и обязанности администратора банка данных."}
cultura
6
2
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Агентство NASA провело испытания нового ракетного двигателя для сверхтяжелой ракеты SLS (Space Launch System). [2] Эта ракета предназначена для пилотируемых полетов к другим планетам, например, к Марсу. [3] В ходе испытаний специалисты запустили двигатель, который проработал 535 секунд: именно столько требуется для...
{"splits": [4, 9, 13, 16, 21, 26, 30], "topic": "Испытания ракетного двигателя для сверхтяжелой ракеты SLS и её характеристики, а также запуск малых спутников CubeSats."}
habr
32
7
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Как я заготавливаю свою брокколи — Понимание здоровья Опубликовано 10.08.2020 Автор: Galina Как я заготавливаю свою брокколи Соцветие брокколи в листьях. [2] Знаете, почему капуста брокколи всегда такая дорогая? [3] Потому, что на всем растении созревает одно более-менее крупное соцветие и при определенных манипуля...
{"splits": [5, 13, 18, 21], "topic": "Автор описывает свой метод заготовки брокколи, включая использование листьев и цветов для максимизации урожая."}
cultura
23
4
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Доброго времени суток, хабравчане! [2] Я уверен, что все заметили, когда делали деплой своей программы через windeployqt.exe, программа зависит от разных динамических и qt'шных библиотек. [3] Вследствие чего, развертка на других компьютерах становится неудобной. [4] Почему? [5] Приходится держать сам exe'шник в пап...
{"splits": [11, 17, 28, 39, 45, 48], "topic": "Инструкция по статической сборке Qt для устранения зависимости от динамических библиотек"}
habr
49
6
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] В соответствии с теорией доктора, наш организм должен потреблять правильную пищу, т.е. те продукты , которые благоприятно скажутся на здоровье человека, относящегося к той или иной группе крови. [2] И, наоборот, те продукты, которые вредны для определенной группы крови, необходимо исключить из рациона питания. [3] ...
{"splits": [2, 9, 14, 21], "topic": "Документ описывает рекомендации по питанию и физическим упражнениям для людей с разными группами крови согласно теории доктора Адамо."}
cultura
23
4
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] В таблице представлена сводка: метрики мониторинга. [2] | Сервис | CPU | RAM | Запросы/с | Аптайм | |---|---|---|---|---| | gateway | 78% | 15 ГБ | 946 | 96.88% | | auth | 38% | 19 ГБ | 2048 | 98.57% | | auth | 95% | 61 ГБ | 303 | 99.30% | [3] Динамика по строкам различается, что важно при планировании. [4] Пояснен...
{"splits": [2, 6], "topic": "Документ содержит таблицы с метриками мониторинга и результатами тестов для анализа производительности."}
synthetic
8
2
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] В данной статье пойдет речь о сайт коллекциях SharePoint в контексте возможных вариантов начальных url-адресов. [2] И самое интересное, описан способ создания сайт коллекции на специфическом url на поддомене, отличном от основного приложения. [3] Итак, всем, кого интересует администрирование SharePoint, и тем, кто ...
{"splits": [27, 41], "topic": "Создание сайт-коллекций SharePoint на поддоменах, отличных от основного веб-приложения, с помощью PowerShell."}
habr
42
2
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Как расшифровать тест "Рисунок семьи" Как расшифровать тест "Рисунок семьи" В рисунке не может быть ничего случайного. [2] Ведь ребенок рисует не предметы с натуры, а выражает свои эмоции и переживания по поводу близких ему людей и значимых предметов. [3] Оговорки типа: "А брата я просто забыл нарисовать" или "Сест...
{"splits": [3, 6, 9], "topic": "Интерпретация детского рисунка семьи: отсутствие членов семьи и значение размеров персонажей"}
cultura
10
3
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Если до недавних пор защиту от воды и пыли получали только флагманские модели Sony, то новая модель средней ценовой категории – Xperia M2 Aqua – призвана разрушить этот стереотип. [2] Более того, новинка обладает более высоким классом защиты – IP68, что, согласно международной классификации, означает абсолютную защ...
{"splits": [4, 9], "topic": "Обзор двух моделей смартфонов Sony: Xperia M2 Aqua с защитой IP68 и Xperia C3 с акцентом на фронтальную камеру."}
habr
10
2
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Курсовая работа : Исследование механизма компрессора Мы не можем решить это уравнение, поэтому в нём 3 неизвестных. [2] Для того, чтобы его решить найдём из уравнения моментов сил для звена 4 относительно . [3] 2.8 Построение плана сил для кривошипа Найдём уравновешивающий момент. [4] Делительные диаметры зубчатых ...
{"splits": [2, 12, 15, 17, 20, 24, 26, 29, 32, 35, 39], "topic": "Документ содержит курсовую работу по исследованию механизма компрессора, включая структурный анализ, кинетостатическое исследование, геометрический синтез зубчатого зацепления и анализ неисправностей."}
cultura
40
11
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Корпорация Google запустила экспериментальную программу, пытаясь перехватить патенты изобретателей, небольших компаний, которые могут быть проданы непроизводящим патентовладелецам (англ. non-manufacturing patentee или англ. non-manufacturing entity), торговцам патентами (англ. patent marketer). [2] Программа предос...
{"splits": [4, 8], "topic": "Google запустила программу по покупке патентов у изобретателей и небольших компаний для создания рынка патентов."}
habr
10
2
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] В Украине приняли в первом чтении закон, обязывающий провайдеров собирать информацию об интернет-активности их клиентов. [2] И выдавать эту информацию по первому же требованию правоохранительным органам. [3] Естественно, такой жесткий закон протаскивают под модным и чистым флагом борьбы с детской порнографией. [4] ...
{"splits": [5], "topic": "В Украине принят закон об обязательном сборе интернет-данных провайдерами, что вызывает опасения граждан."}
habr
9
1
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] # Справка: Бюджет проекта [2] Рассмотрим основные показатели (бюджет проекта). [3] | Статья | План | Факт | Откл. | |---|---|---|---| | Аренда | 35 тыс ₽ | 699 тыс ₽ | -17% | | Разработка | 42 тыс ₽ | 160 тыс ₽ | 27% | | Аренда | 317 тыс ₽ | 134 тыс ₽ | -26% | | ФОТ | 246 тыс ₽ | 970 млн ₽ | 21% | [4] Как видно из ...
{"splits": [3], "topic": "Анализ бюджета проекта с отклонениями по статьям расходов"}
synthetic
5
1
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Препараты бисфосфонаты при остеопорозе: плюсы и минусы, список наиболее эффективных Плюсы и минусы использования препаратов бисфосфонатов при остеопорозе Если в процессе жизнедеятельности у человека достаточно часто случаются переломы костей, то качество жизни значительно ухудшается. [2] Частые переломы являются од...
{"splits": [16, 28, 40], "topic": "Документ описывает остеопороз, его виды, причины, симптомы и лечение бисфосфонатами, включая их плюсы и минусы."}
cultura
46
3
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Сейчас на рынке присутствует достаточно много разнообразных миникомпьютеров. [2] Самые распространенные из них это Raspberry Pi, Orange Pi, Odroid. [3] И есть очень популярная платформа Arduino. [4] Но иногда случается, так что не хватает этих распространённых платформ. [5] Например, хочется какой нибудь миникомпью...
{"splits": [6, 17, 20, 25], "topic": "Обзор миникомпьютера DE0-Nano-SoC на базе Altera Cyclone V SoC с FPGA и ARM Cortex A9, его характеристик, применения и выводов."}
habr
30
4
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] #### Когда её нет [2] Низкий порог вхождения, легкий способ прострелить себе ногу, потратьте свою энергию на изучение настоящего языка программирования — много обидных слов может услышать PHP-разработчик от коллег-программистов, которым посчастливилось освоить другие технологии. [3] PHP удобно ругать всем, — каждый...
{"splits": [17, 29, 44], "topic": "Статья о культуре программирования на PHP, проблемах низкого порога входа и важности технического образования для профессионального роста."}
habr
45
3
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Автоматный квадрат — металлопрокат в форме тянутого прутка заданной длины. [2] Для его производства используют специальную автоматную сталь, содержащую железо и углерод. [3] Также в её составе присутствует сера и фосфор. [4] Данная марка сплава специально изготовлена таким образом, чтобы обеспечить максимальную эфф...
{"splits": [4, 7, 11, 16], "topic": "Описание автоматного квадрата из стали, его свойств, применения и условий покупки в компании."}
cultura
19
4
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] О перипетиях, сопровождающих процедуру банкротства телекоммуникационной компании Nortel, писал Shapelez в своей записи о патентном оружии, которое находилось в распоряжении Nortel и должно было пойти с молотка. [2] Google заявила о том, что собирается купить огромный пакет патентов (порядка 6000 патентов, затрагива...
{"splits": [4, 10, 14, 18, 24, 30, 33], "topic": "Документ описывает историю аукциона патентов Nortel, его последствия для Google и других компаний, а также влияние на развитие свободных проектов в сфере телекоммуникаций."}
habr
34
7
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Рукопашный бой | МАУ «Спортивная школа «Строитель» г. Северодвинск Рукопашный бой - популярный отечественный вид спорта. [2] Привлекательными факторами является зрелищность соревнований, многообразие технических приемов и действий, в сочетании с обеспечением необходимого уровня безопасности для здоровья спортсменов...
{"splits": [4], "topic": "Описание рукопашного боя как вида спорта и целей образовательной программы в спортивной школе"}
cultura
8
1
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Белая Лошадь — 1930, 1990 год « Гороскопы, сoвместимость знаков, любовь и отношения Белая Лошадь — 1930, 1990 год Белая Лошадь в Даосском гороскопе. [2] Годы Белой Лошади: с 30 января 1930 по 16 февраля 1931, с 27 января 1990 по 14 февраля 1991 года. [3] Стоит ли говорить, что люди с подобными характеристиками.боле...
{"splits": [10, 18, 23, 27], "topic": "Описание характеристик и особенностей личности Белой Лошади по даосскому гороскопу."}
cultura
36
4
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] Жабы могут лечить рак и СПИД, - ученые » Новости GoGetNews Жабы могут лечить рак и СПИД, - ученые Учеными было проведено уникальное исследование, в ходе которого они смогли доказать, что жабы могут оказаться источником лекарства против таких тяжких болезней, как СПИД и рак. [2] Токсины, которые находятся на коже оп...
{"splits": [4], "topic": "Ученые обнаружили, что токсины с кожи жаб могут быть использованы для лечения рака и СПИДа после обработки."}
cultura
8
1
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] # Обзор: Метрики мониторинга [2] метрики мониторинга: итоговые цифры за отчётный период приведены ниже. [3] | Сервис | CPU | RAM | Запросы/с | |---|---|---|---| | worker | 20% | 28 ГБ | 3632 | | auth | 73% | 61 ГБ | 1973 | | gateway | 85% | 22 ГБ | 3287 | | db | 5% | 57 ГБ | 2348 | [4] Как видно из таблицы, значени...
{"splits": [3], "topic": "Обзор метрик мониторинга сервисов с таблицей показателей CPU, RAM и запросов в секунду"}
synthetic
5
1
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] В службе спасения Сакраменто подтвердили, что по инструкции на охлаждение повреждённой батареи электромобилей Tesla Model S нужно до 30 тонн воды. [2] Пену при авариях с электромобилями использовать нельзя. [3] В таких случаях рекомендуется присылать на вызов сразу несколько расчётов спасателей, так как одна пожарн...
{"splits": [3, 5, 9], "topic": "Тушение возгораний литиевых батарей электромобилей требует большого количества воды и неэффективно пеной."}
habr
10
3
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] # Отчёт: Метрики мониторинга [2] В таблице представлена сводка: метрики мониторинга. [3] | Сервис | CPU | RAM | Запросы/с | Аптайм | |---|---|---|---|---| | gateway | 9% | 8 ГБ | 1346 | 98.21% | | queue | 15% | 15 ГБ | 2926 | 97.56% | [4] Как видно из таблицы, значения распределены неравномерно. [5] По итогам будет...
{"splits": [3, 7], "topic": "Документ содержит метрики мониторинга и прайс-лист услуг с последующим анализом."}
synthetic
9
2
Раздели документ на смысловые части для системы поиска (RAG). Каждая часть читается независимо, не разрывая предложений, таблиц и кода. Верни ТОЛЬКО номера единиц, после которых проходит граница, в формате JSON.
[1] По роду деятельности я немного администратор баз данных. [2] Так или иначе мне приходится обслуживать несколько десятков БД. [3] Наткнувшись на статью, опубликованную недавно, посчитал нужным дополнить ее некоторыми практическими рекомендациями. [4] То что затрагивалось в прошлой статье, в этой опускалось. [5] ####...
{"splits": [4, 16, 21, 28, 36, 43], "topic": "Практические рекомендации по администрированию резервного копирования баз данных MS SQL"}
habr
46
6
End of preview. Expand in Data Studio

RU Context-Aware Document Split

Датасет (teacher-distillation) для обучения русского context-aware сплиттера документов для RAG. Каждый пример учит модель где резать документ на самодостаточные смысловые чанки, держа таблицы и код целыми.

Использован для модели AGmind/agmind-rag-splitter-ru. Код генерации и обучения: github.com/botAGI/AGmind-ML.

Формат (Alpaca JSONL)

{
  "instruction": "Раздели документ на смысловые части для системы поиска (RAG)...",
  "input": "[1] Первое предложение. [2] Второе. [3] | таблица | ... |\n[4] ...",
  "output": "{\"splits\": [3, 7], \"topic\": \"о чём документ\"}",
  "_src": "cultura"
}
  • input — документ, разбитый на нумерованные юниты: проза делится на предложения (razdel), таблицы и код держатся как единые атомарные юниты.
  • output — JSON: splits = индексы юнитов, после которых граница чанка (1-индексные); topic = одно предложение-саммари.
  • _src — источник примера (provenance).
  • На инференсе хост режет оригинал по индексам → чанки байт-в-байт совпадают с исходником, таблицы целы.

Как собрано

Документы из русских корпусов → сегментация (razdel + детект таблиц/кода) → разметка границ моделью-учителем DeepSeek-V4-Flash (temperature=0) → жёсткие гейты качества (валидный JSON, 1–60 границ, кириллица>0.6, нет коротких чанков, dedup). Код: data/generate.py в репозитории.

Файлы

Файл Примеров Что
train.jsonl 16 965 основной train (cultura + habr + синтетика)
holdout.jsonl 1 500 отложенная выборка для оценки
synthetic_topup.jsonl 10 800 доп. синтетика таблиц/кода (12 доменов) для v2
synthetic_topup_holdout.jsonl 1 200 holdout доп. синтетики

Состав v1 (~17k) и лицензии источников

источник доля лицензия
deepvk/cultura_ru_edu ~47% apache-2.0
IlyaGusev/habr ~34% не указана (см. исходный репо)
синтетика таблиц/кода ~19% сгенерировано (наше)

synthetic_topup — 100% синтетика (наша).

⚠️ Лицензии (важно)

Тег other, потому что датасет смешанный по источникам:

  • labels (output: индексы границ + topic) сгенерированы нами — свободны к использованию.
  • input-текст наследует лицензии источников: cultura — apache-2.0; habr — лицензия не указана в исходном репозитории (IlyaGusev/habr); синтетика — наша.
  • Для чисто-редистрибутируемого использования бери synthetic_topup.jsonl + cultura-подмножество (_src=="cultura"/synthetic"); примеры с _src=="habr" — на усмотрение пользователя с учётом лицензии источника. Кредит источникам: deepvk, IlyaGusev.

Ограничения

Метки — политика разметки от модели-учителя, не human-ground-truth. Подходит для обучения боундари-сплиттеров прозы + мелких/средних таблиц.

Downloads last month
-

Models trained or fine-tuned on AGmind/agmind-rag-splitter-ru-data