Study of forestry machines classifiers based on logistic regression
Authors: Сухов А.С. , Хитров Е.Г. , Григорьев И.В. , Друзьянова В.П. , Теппоев А.В. , Задраускайте Н.О. 
Published: February 2024

Целью исследования являлось развитие подхода к классификации лесных машин на основе методов машинного обучения, использующих кластеризацию данных и регрессионные модели-классификаторы. Для выполнения работы использованы сведения о характеристиках 39 моделей восьмиколесных форвардеров, выпускающихся фирмами Ponsse, Rottne, Komatsu, John Deere, HSM, Ecolog. Данные получены непосредственно с официальных веб-сайтов производителей и актуальны на 2023 год. Работа с данными выполнена на платформе Jupyter Notebook. В проведенных вычислительных экспериментах модель-классификатор на основе логистической регрессии оказалась способна с приемлемой точностью, на уровне 92–94%, определить принадлежность форвардера к одному из четырех классов, соответствующих меткам кластеров по алгоритму k- средних, при наличии информации о 14 паспортных параметрах машины. Модель- классификатор, использующая в качестве параметров 1–2 главные компоненты матрицы, составленной из значений 14 характеристик машин, способна классифицировать рассмотренные модели форвардеров по 3 классам с точностью на уровне 97–98%. Точность модели при классификации по 4 классам несколько ниже, ее оценка составляет 90–94%. Результаты вычислительного эксперимента показали, что использование логистических регрессионных моделей при подразделении форвардеров на число классов более 5 приводит к существенной потере точности классификации. Результаты оказались устойчивы при кросс-валидации, причем с высокой оценкой метрики качества. Перспектива дальнейшего исследования состоит в тестировании классификатора на модельных данных, а также в оценке чувствительности моделей к изменению параметров и разработке способа получения адекватной оценки недостающих значений признаков, например, на основе линейной регрессии.

The study aims on development of the approach to classification of forestry machines basing on machine learning methods, which use data clustering and logistic-regression classifier. The study uses information on characteristics of 39 models of eight-wheeled forwarders manufactured by Ponsse, Rottne, Komatsu, John Deere, HSM, Ecolog. The data was obtained from the official websites of the manufacturers and is current for 2023. The data processing was performed on Jupyter Notebook platform. In computational experiments, the classifier model based on logistic regression was able to classify forwarders’ models to one of the four classes corresponding to the cluster labels obtained with k-means algorithm, given the information on 14 passport parameters of the machines, with accuracy at level of 92– 94%. The classifier model, which used as the parameters 1–2 of the principal components of the features matrix, was able to classify the considered forwarder models into 3 classes with accuracy of 97–98%. The accuracy of the model when classifying into 4 classes was lower with estimate at level of 90–94%. Meanwhile, results of the computational experiment showed that logistic regression models when classifying the forwarders into more than 5 classes bear significant loss of the accuracy. The computations results stayed stable during cross-validation with a high assessment of the accuracy. The prospect of further research lays in testing the classifiers on a generated data to assess the sensitivity of the logistic models to the parameters’ changes, and development of a method for obtaining an adequate estimate of missing feature values.