Datasets:
text stringlengths 400 239k |
|---|
Function Get(URL, RequestParameters = Undefined, AdditionalParameters = Undefined, Session = Undefined) Export
CurrentSession = CurrentSession(Session);
FillAdditionalData(AdditionalParameters, RequestParameters, Undefined, Undefined);
Return CallHTTPMethod(CurrentSession, "GET", URL, AdditionalParameters);
EndFun... |
Function DeleteJson(URL, Json, AdditionalParameters = Undefined, Session = Undefined) Export
CurrentSession = CurrentSession(Session);
FillAdditionalData(AdditionalParameters, Undefined, Undefined, Json);
JSONConversionParameters =
SelectValue(Undefined, AdditionalParameters, "JSONConversionParameters", Undefined... |
Function CallMethod(Method, URL, AdditionalParameters = Undefined, Session = Undefined) Export
CurrentSession = CurrentSession(Session);
FillAdditionalData(AdditionalParameters, Undefined, Undefined, Undefined);
Return CallHTTPMethod(CurrentSession, Method, URL, AdditionalParameters);
EndFunction
// Session const... |
Function ParseURL(Val URL) Export
Scheme = "";
Path = "";
Authentication = New Structure("User, Password", "", "");
Host = "";
Port = "";
Fragment = "";
ValidSchemes = StrSplit("http,https", ",");
URLWithoutScheme = URL;
SplitStringByDelimiter(Scheme, URLWithoutScheme, "://");
If ValidSchemes.Find(Lower(Sc... |
Function HMAC(Key_, Data, Algorithm) Export
BlockSize = 64;
If Key_.Size() > BlockSize Then
Hashing = New DataHashing(Algorithm);
Hashing.Append(Key_);
BufferKey = GetBinaryDataBufferFromBinaryData(Hashing.HashSum);
Else
BufferKey = GetBinaryDataBufferFromBinaryData(Key_);
EndIf;
ModifiedKey = New Bina... |
Function CallHTTPMethod(Session, Method, URL, AdditionalParameters)
HTTPStatusCodes = HTTPStatusCodes();
PreparedRequest = PrepareRequest(Session, Method, URL, AdditionalParameters);
ConnectionSettings = ConnectionSettings(Method, URL, AdditionalParameters);
Response = SendRequest(Session, PreparedRequest, Conn... |
Function EncodeRequestParameters(RequestParameters)
RequestParametersParts = New Array;
For Each Parameter In RequestParameters Do
If TypeOf(Parameter.Value) = Type("Array") Then
Values = Parameter.Value;
Else
Values = New Array;
Values.Add(Parameter.Value);
EndIf;
If Parameter.Value = Undefined Th... |
Function MergeAuthenticationParameters(MainSource, AdditionalSource)
AuthenticationParameters = New Structure;
If TypeOf(MainSource) = Type("Structure") Then
For Each Parameter In MainSource Do
AuthenticationParameters.Insert(Parameter.Key, Parameter.Value);
EndDo;
EndIf;
If TypeOf(AdditionalSource) = Type(... |
Function CreateCookieAndFillBasicParameters(Parameter)
Parts = StrSplit(Parameter, "=", False);
Description = Parts[0];
If Parts.Count() > 1 Then
Value = Parts[1];
EndIf;
Return CookieConstructor(Description, Value);
EndFunction
Function ParseCookie(Header, URL, CurrentTime)
Cookie = Undefined;
Index = 0;... |
Function ConnectionID(ConnectionParameters)
CalculateIDParameters = New Array;
For Each Item In ConnectionParameters Do
ItemType = TypeOf(Item);
If ItemType = Type("InternetProxy") Then
CalculateIDParameters.Add(StrConcat(Item.BypassProxyOnAddresses, ""));
CalculateIDParameters.Add(XMLString(Item.BypassPr... |
Procedure PrepareAuthenticationAWS4(PreparedRequest)
HeaderValue = HeaderValue("x-amz-date", PreparedRequest.Headers);
If HeaderValue <> False Then
CurrentTime = Date(StrReplace(StrReplace(HeaderValue, "T", ""), "Z", ""));
Else
CurrentTime = CurrentUniversalDate();
EndIf;
PreparedRequest.Headers["x-amz-date"]... |
Function ZipCDH(CRC32, CompressedDataSize, UncompressedDataSize)
// Central directory header
Buffer = New BinaryDataBuffer(ZipCDHSize());
Buffer.WriteInt32(0, 33639248); // signature 0x02014b50
Buffer.WriteInt16(4, 798); // version made by
Buffer.WriteInt16(6, 20); ... |
Function PrepareHeaderDigest(Session, PreparedRequest)
DigestParameters = Session.ServiceData.DigestParameters;
Algorithm = DetermineHashFunction(DigestParameters.algorithm);
AlgorithmString = Upper(DigestParameters.algorithm);
If Algorithm = Undefined Then
Return Undefined;
EndIf;
URLComposition = ParseURL(... |
Function HTTPStatusesCodesDescriptions()
Codes = New Array;
Codes.Add(NewHTTPCode(100, "Continue_100", "Continue"));
Codes.Add(NewHTTPCode(101, "SwitchingProtocols_101", "Switching Protocols"));
Codes.Add(NewHTTPCode(102, "Processing_102", "Processing"));
Codes.Add(NewHTTPCode(103, "EarlyHints_103", "Early Hints"... |
Функция Get(URL, ПараметрыЗапроса = Неопределено, ДополнительныеПараметры = Неопределено, Сессия = Неопределено) Экспорт
ТекущаяСессия = ТекущаяСессия(Сессия);
Параметры = НовыеПараметры();
Дополнить(Параметры, ДополнительныеПараметры);
Дополнить(Параметры, ПараметрыИзАргументов(ПараметрыЗапроса, Неопределено, Не... |
Функция GetJson(URL,
ПараметрыЗапроса = Неопределено,
ДополнительныеПараметры = Неопределено,
Сессия = Неопределено) Экспорт
ТекущаяСессия = ТекущаяСессия(Сессия);
Параметры = НовыеПараметры();
Дополнить(Параметры, ДополнительныеПараметры);
Дополнить(Параметры, ПараметрыИзАргументов(ПараметрыЗапроса, ... |
Функция DeleteJson(URL, Json, ДополнительныеПараметры = Неопределено, Сессия = Неопределено) Экспорт
ТекущаяСессия = ТекущаяСессия(Сессия);
Параметры = НовыеПараметры();
Дополнить(Параметры, ДополнительныеПараметры);
Дополнить(Параметры, ПараметрыИзАргументов(Неопределено, Неопределено, Json));
ПараметрыПреобра... |
Функция НовыйОтправляемыйФайл(Имя, ИмяФайла, Данные = Неопределено, Тип = Неопределено) Экспорт
Файл = Новый Структура;
Файл.Вставить("Имя", Имя);
Файл.Вставить("ИмяФайла", ИмяФайла);
Файл.Вставить("Данные", ?(Данные = Неопределено, Base64Значение(""), Данные));
Файл.Вставить("Тип", Тип);
Файл.Вставить("Заголовк... |
Функция НоваяАутентификацияAWS4(КлючДоступа = "", СекретныйКлюч = "", Сервис = "", Регион = "") Экспорт
Результат = Новый Структура;
Результат.Вставить("Тип", "AWS4-HMAC-SHA256");
Результат.Вставить("ИдентификаторКлючаДоступа", КлючДоступа);
Результат.Вставить("СекретныйКлюч", СекретныйКлюч);
Результат.Вставить("... |
Функция РазобратьURL(Знач URL) Экспорт
Схема = "";
Путь = "";
Аутентификация = Новый Структура("Пользователь, Пароль", "", "");
Сервер = "";
Порт = "";
Фрагмент = "";
ДопустимыеСхемы = СтрРазделить("http,https", ",");
URLБезСхемы = URL;
РазбитьСтрокуПоРазделителю(Схема, URLБезСхемы, "://");
Если Допустимые... |
Функция ОбъектВJson(Объект, Знач ПараметрыПреобразования = Неопределено, Знач ПараметрыЗаписи = Неопределено) Экспорт
ПараметрыПреобразованияJSON = Объединить(ПараметрыПреобразованияJSONПоУмолчанию(), ПараметрыПреобразования);
НастройкиСериализации = Новый НастройкиСериализацииJSON;
НастройкиСериализации.ФорматСер... |
Функция ПрочитатьGZip(СжатыеДанные) Экспорт
РазмерПрефиксаGZip = 10;
РазмерПостфиксаGZip = 8;
ЧтениеДанных = Новый ЧтениеДанных(СжатыеДанные);
ЧтениеДанных.Пропустить(РазмерПрефиксаGZip);
РазмерСжатыхДанных = ЧтениеДанных.ИсходныйПоток().Размер() - РазмерПрефиксаGZip - РазмерПостфиксаGZip;
ПотокZip = Новый Пот... |
End of preview. Expand in Data Studio
1C Enterprise Script Clean Corpus
Кратко
Это датасет для обучения моделей работе с кодом на 1C:Enterprise Script.
В репозитории есть два независимых поднабора:
pretrain: чистый корпус реального кода дляcontinued pretraining/domain adaptationsft_strict: instruction/chat датасет дляSFT, построенный поверх очищенного корпуса
Состав
pretrain/train.jsonlpretrain/validation.jsonlsft_strict/train.jsonlsft_strict/validation.jsonlmanifests/repos.jsonl
Что внутри
1. Корпус для pretraining
Формат:
{"text":"<фрагмент кода 1С>"}
Это чистый текстовый корпус для дообучения языковой модели на синтаксисе и типовых конструкциях 1С.
2. Корпус для SFT
Формат:
{"messages":[{"role":"system","content":"..."},{"role":"user","content":"..."},{"role":"assistant","content":"..."}],"task_type":"complete_function"}
В sft_strict оставлены только более надёжные типы задач:
complete_functionname_function
Источники
Источник данных: публичные GitHub-репозитории с явной open-source лицензией.
В выборку включались только файлы:
.bsl.os
Для каждого источника сохранялся манифест:
manifests/repos.jsonl
Политика лицензий
Этот датасет не является кодом под одной общей лицензией.
Он представляет собой компиляцию материалов из репозиториев с permissive-лицензиями. В исходной сборке использовались только репозитории с лицензиями:
Apache-2.0BSD-3-ClauseMITMPL-2.0
Для каждого примера в исходном полном корпусе сохранялись метаданные источника: репозиторий, путь и лицензия.
Если вы используете этот датасет дальше, вы обязаны учитывать лицензию исходного репозитория, а не считать весь датасет автоматически MIT или любой другой единой лицензией.
Очистка и фильтрация
При сборке датасета применялись следующие фильтры:
- исключение
tests,examples,demo,docs,vendor,generated,fixtures,mocks - дедупликация одинаковых чанков
- отсев слишком коротких и шумных фрагментов
- фильтрация по плотности идентификаторов и наличию реальных кодовых конструкций
Ограничения
- это не официальный корпус от фирмы
1С - датасет отражает стиль и практики открытых репозиториев, а не всю экосистему 1С
sft_strictпостроен автоматически из реального кода, а не размечен вручную экспертами- корпус может быть полезен для генерации и completion, но не гарантирует правильную бизнес-логику
Рекомендуемое использование
Для pretraining
Используйте конфиг pretrain.
Пример:
from datasets import load_dataset
ds = load_dataset("YOUR_NAME/YOUR_DATASET", "pretrain")
Для SFT
Используйте конфиг sft_strict.
Пример:
from datasets import load_dataset
ds = load_dataset("YOUR_NAME/YOUR_DATASET", "sft_strict")
Этические и практические замечания
- перед коммерческим использованием стоит отдельно проверить совместимость лицензий с вашим сценарием
- модель, обученная на этом корпусе, может наследовать ошибки и неидеальные паттерны из исходного кода
- для production-использования желательно дополнительно валидировать ответы модели тестами и ревью
Статистика
На момент публикации:
pretrain: очищенный корпус на основе открытых репозиториев 1Сsft_strict: instruction-набор на базе задач дописывания и восстановления имени функции
Точные источники вынесены в manifests/repos.jsonl.
- Downloads last month
- 35