Lamblador/IRSpectra

Dataset Card for IR Spectra Dataset

Датасет ИК-спектров органических соединений с автоматически созданными метками функциональных групп и типов колебаний для обучения моделей машинного обучения в области спектроскопии.

Dataset Details

Dataset Description

Датасет содержит инфракрасные спектры органических соединений из базы данных NIST с автоматически созданными метками для классификации. Каждый образец включает:

• Исходные и обработанные спектральные данные (волновые числа и значения поглощения)
• Молекулярную информацию (CAS номер, название, формула, SMILES, InChI)
• Бинарные метки для 17 классов функциональных групп
• Бинарные метки для 72 классов типов колебаний
• Опционально: бинарные метки для некоррелированных классов (подмножество из 72 классов)

Спектры обработаны и нормализованы: диапазон 500-4100 cm⁻¹, шаг интерполяции 2 cm⁻¹, что дает 1800 точек данных на спектр.

• Curated by: Koshelev Daniil (@Lamblador)

• Funded by [optional]: Фонд интеллект

• Shared by [optional]: Privet

• Language(s) (NLP): Не применимо (спектроскопические данные)

• License: MIT

Dataset Sources [optional]

• Repository: https://github.com/Lamblador/IR_expert_system_2

• Paper [optional]: 10.1177/00037028241226732

• Demo [optional]: [More Information Needed]

• Source Data: База данных NIST IR Spectra (National Institute of Standards and Technology)

Uses

Direct Use

Датасет предназначен для:

1. Обучения моделей классификации функциональных групп по ИК-спектрам (17 классов)
2. Обучения моделей классификации типов колебаний по ИК-спектрам (72 класса)
3. Исследований в области спектроскопии и машинного обучения
4. Разработки экспертных систем для идентификации органических соединений по ИК-спектрам
5. Сравнительного анализа различных архитектур нейронных сетей для обработки спектральных данных

Датасет может быть использован для:

• Многоклассовой классификации (multi-label classification)
• Регрессионных задач предсказания спектральных характеристик
• Обучения моделей для автоматической интерпретации ИК-спектров

Out-of-Scope Use

Датасет НЕ предназначен для:

1. Количественного анализа концентраций веществ в смесях
2. Идентификации неорганических соединений или соединений с переходными металлами (их количество в датасете ограничено)
3. Прямого использования в клинических или медицинских приложениях без дополнительной валидации
4. Анализа соединений вне диапазона 500-4100 cm⁻¹ (спектры обрезаны до этого диапазона)
5. Точной идентификации стереоизомеров (метки основаны на 2D структурах молекул)

Dataset Structure

Структура данных

Каждый образец в датасете содержит следующие поля:

Молекулярная информация:

• cas (str): CAS номер соединения
• name (str): Название соединения
• formula (str): Химическая формула
• smiles (str): SMILES строка молекулы
• inchi (str): InChI строка молекулы

Спектральные данные: - spectrum_raw_x (List[float]): Исходные волновые числа (cm⁻¹) - spectrum_raw_y (List[float]): Исходные значения поглощения (%) - spectrum_processed_x (List[float]): Обработанные волновые числа (500-4100 cm⁻¹, шаг 2 cm⁻¹, 1800 точек) - spectrum_processed_y (List[float]): Обработанные значения поглощения

Метки классов:

• labels_17 (List[int]): Бинарный массив из 17 элементов для функциональных групп:

  1. alkane (Алканы)
  2. methyl (Метильные группы)
  3. alkene (Алкены)
  4. alkyne (Алкины)
  5. alcohols (Спирты)
  6. amines (Амины)
  7. nitriles (Нитрилы)
  8. aromatics (Ароматические соединения)
  9. alkyl halides (Алкилгалогениды)
  10. esters (Сложные эфиры)
  11. ketones (Кетоны)
  12. aldehydes (Альдегиды)
  13. carboxylic acids (Карбоновые кислоты)
  14. ether (Простые эфиры)
  15. acyl halides (Ацилгалогениды)
  16. amides (Амиды)
  17. nitro (Нитрогруппы)

• labels_72 (List[int]): Бинарный массив из 72 элементов для типов колебаний (C─H, C═C, C═O, O─H, N─H, C─O, C─N, C─X, N─O, P─C, P─O связи различных типов)

• labels_72_uncorrelated (List[int], опционально): Бинарный массив для некоррелированных классов (подмножество из 72 классов, отобранное по порогу корреляции < 0.8)

Разделение данных

Датасет разделен на три подмножества:

• Train: 70% данных (~9,800 образцов)
• Validation: 15% данных (~2,100 образцов)
• Test: 15% данных (~2,100 образцов)

Разделение выполняется случайным образом с использованием sklearn.model_selection.train_test_split с random_state=42 для воспроизводимости.

Статистика

• Общее количество образцов: ~14,000
• Размер спектра: 1800 точек
• Диапазон волновых чисел: 500-4100 cm⁻¹
• Шаг интерполяции: 2 cm⁻¹
• Количество классов функциональных групп: 17
• Количество классов типов колебаний: 72
• Количество некоррелированных классов: ~45 (зависит от порога корреляции)

Dataset Creation

Curation Rationale

Датасет создан для решения задачи автоматической классификации функциональных групп и типов колебаний в органических соединениях по их ИК-спектрам. Это важная задача в аналитической химии и спектроскопии, которая традиционно требует экспертных знаний.

Автоматизация этой задачи с помощью машинного обучения может:

• Ускорить анализ спектров
• Снизить зависимость от экспертов
• Обеспечить воспроизводимость результатов
• Помочь в обучении студентов и исследователей

Source Data

Data Collection and Processing

Источник данных:

• База данных NIST IR Spectra (National Institute of Standards and Technology)
• Список соединений из файла nist_ir_spectra_list_with_72_bonds.csv

Процесс обработки данных:

1. Загрузка спектров:

   • Спектры загружаются из файлов в форматах JCAMP-DX (.jdx), CSV или ASC
   • Используется библиотека jcamp для чтения JCAMP файлов
   • Поддерживается автоматическая конвертация единиц измерения (микрометры → см⁻¹, пропускание → поглощение)

2. Обработка спектров:

   • Нормализация порядка данных (от меньшего к большему волновому числу)
   • Обрезка до диапазона 500-4100 cm⁻¹
   • Интерполяция с шагом 2 cm⁻¹ (результат: 1800 точек)
   • Нормализация значений поглощения
   • Поиск пиков с использованием библиотеки peakutils
   • Создание маски пиков с окрестностями

3. Создание меток:

   • Метки создаются автоматически на основе молекулярной структуры (SMILES/InChI)
   • Используются SMARTS паттерны через библиотеку RDKit
   • 17 классов функциональных групп определяются через паттерны из словаря FUNC_GROUP_SMARTS_17
   • 72 класса типов колебаний определяются через паттерны из словаря BONDS_TYPES_SMARTS_72
   • Каждая молекула проверяется на наличие каждого паттерна, результат - бинарный массив

4. Обработка отсутствующих данных:

   • Автоматическое заполнение отсутствующих SMILES из CAS номеров через библиотеку cirpy
   • Автоматическое заполнение отсутствующих InChI из CAS или SMILES через RDKit
   • Удаление записей с отсутствующими спектральными данными

5. Анализ корреляций (опционально):

   • Вычисление корреляций между 72 классами колебаний
   • Создание подмножества некоррелированных классов (порог корреляции < 0.8 по умолчанию)
   • Сохранение списка некоррелированных классов для использования в обучении

Инструменты и библиотеки:

• Python 3.x
• pandas, numpy - обработка данных
• RDKit - работа с молекулярными структурами и SMARTS паттернами
• jcamp - чтение JCAMP файлов
• cirpy - получение молекулярной информации по CAS номерам
• peakutils - поиск пиков в спектрах
• scikit-learn - разделение данных
• Hugging Face datasets - формат датасета

Who are the source data producers?

Исходные спектральные данные получены из базы данных NIST (National Institute of Standards and Technology). NIST является государственным агентством США, ответственным за стандартизацию и измерения.

Метки классов созданы автоматически с использованием алгоритмов на основе SMARTS паттернов, разработанных авторами проекта.

Annotations [optional]

Annotation process

Процесс аннотации:

Метки классов создаются автоматически, без участия человека-аннотатора. Процесс включает:

1. Определение функциональных групп (17 классов):

   • Каждая молекула анализируется на наличие 17 типов функциональных групп
   • Используются SMARTS паттерны из предопределенного словаря
   • Результат: бинарный массив из 17 элементов (1 = присутствует, 0 = отсутствует)

2. Определение типов колебаний (72 класса):

   • Каждая молекула анализируется на наличие 72 типов химических связей и колебаний
   • Используются SMARTS паттерны, специфичные для каждого типа колебания
   • Результат: бинарный массив из 72 элементов

3. Валидация:

   • Проверка корректности InChI/SMILES строк через RDKit
   • Обработка ошибок при парсинге молекул (заполнение нулями при ошибках)
   • Статистический анализ корреляций между классами

Инструменты аннотации:

• RDKit для парсинга молекул и применения SMARTS паттернов
• Python скрипты для автоматической обработки всего датасета

Охват аннотации:

• Все ~14,000 образцов в датасете имеют метки для 17 классов
• Все ~14,000 образцов в датасете имеют метки для 72 классов

Who are the annotators?

Аннотации созданы автоматически с использованием алгоритмов на основе SMARTS паттернов. Паттерны разработаны на основе знаний из области спектроскопии и химии.

Personal and Sensitive Information

Датасет содержит только спектроскопические данные и молекулярную информацию об органических соединениях. Не содержит персональных данных или чувствительной информации о людях.

Данные о соединениях (CAS номера, названия, формулы) являются публично доступной научной информацией из базы данных NIST.

Bias, Risks, and Limitations

Технические ограничения:

1. Дисбаланс классов: Датасет имеет сильный дисбаланс классов - некоторые функциональные группы встречаются гораздо чаще других. Это требует использования взвешенных функций потерь или других техник балансировки при обучении.

2. Ограниченный диапазон: Спектры обрезаны до диапазона 500-4100 cm⁻¹. Информация вне этого диапазона теряется.

3. Автоматические метки: Метки созданы автоматически на основе SMARTS паттернов и могут содержать ошибки, особенно для сложных или необычных структур.

4. Органические соединения: Датасет в основном содержит органические соединения. Количество соединений с переходными металлами (360) и f-элементами (40) ограничено.

5. 2D структуры: Метки основаны на 2D структурах молекул (SMILES/InChI), стереохимическая информация может быть не полностью учтена.

6. Качество спектров: Исходные спектры из NIST могут иметь различное качество и условия измерения, что может влиять на результаты обучения.

Социотехнические ограничения:

1. Применение в реальных условиях: Модели, обученные на этом датасете, могут работать хуже на данных, полученных в других условиях (различные инструменты, условия измерения, образцы).

2. Интерпретируемость: Автоматические метки могут не всегда соответствовать интерпретации эксперта-спектроскописта.

3. Обобщаемость: Модели могут быть переобучены на специфические характеристики датасета NIST.

Recommendations

Пользователи должны быть осведомлены о следующих рекомендациях:

1. Использование взвешенных функций потерь для учета дисбаланса классов
2. Валидация на независимых данных перед применением в реальных задачах
3. Проверка качества меток на подмножестве данных экспертом-спектроскопистом
4. Учет ограничений диапазона при интерпретации результатов
5. Тестирование на данных из других источников для оценки обобщающей способности
6. Использование техник аугментации данных для улучшения устойчивости моделей
7. Учет корреляций между классами при интерпретации результатов многоклассовой классификации

Citation [optional]

BibTeX:

[More Information Needed]

APA:

[More Information Needed]

Glossary [optional]

• CAS номер: Уникальный идентификатор химического соединения в системе Chemical Abstracts Service
• SMILES: Simplified Molecular Input Line Entry System - текстовое представление молекулярной структуры
• InChI: International Chemical Identifier - стандартизированное текстовое представление молекулярной структуры
• SMARTS: SMILES Arbitrary Target Specification - язык для описания структурных паттернов в молекулах
• JCAMP-DX: Формат файлов для обмена спектроскопическими данными
• cm⁻¹ (волновые числа): Единица измерения в инфракрасной спектроскопии, обратная сантиметрам
• Поглощение (Absorbance): Мера того, сколько света поглощается образцом
• Функциональная группа: Характерная группа атомов в молекуле, определяющая её химические свойства
• Тип колебания: Характерное движение атомов в молекуле, соответствующее определенной частоте в ИК-спектре

More Information [optional]

Использование датасета

Загрузка из Hugging Face Hub:

from datasets import load_dataset

dataset = load_dataset('username/ir-spectra-dataset')
train = dataset['train']
validation = dataset['validation']
test = dataset['test']

Структура образца:

sample = train[0]
print(sample.keys())
# dict_keys(['cas', 'name', 'formula', 'smiles', 'inchi', 
#           'spectrum_raw_x', 'spectrum_raw_y', 
#           'spectrum_processed_x', 'spectrum_processed_y',
#           'labels_17', 'labels_72'])

Метаданные:

Метаданные датасета доступны в файле metadata.json и содержат:

• Количество образцов в каждом разделе
• Количество классов
• Параметры обработки спектров
• Списки названий классов
• Порог корреляции (если используется некоррелированное подмножество)

Dataset Card Authors [optional]

[More Information Needed]

Dataset Card Contact

[More Information Needed]