P3420 Бугаев С Котельников И Кропотов С

рамках данной работы мы обрабатывали в программном комплексе Weka данные о прибыли массы американских компаний по годам, с
указанием их географического положения и рода деятельности.

«Inc.» – американский экономический журнал. Каждый год журнал
составляет рейтинг 5000 американских компаний, отличившихся рекордным ростом
выручки. Мы спарсили этот рейтинг с официального сайта журнала за 2011, 2012,
2013 и 2014 года. Компании, упомянутые все 4 года подряд и попали в нашу
выборку (1193 штуки).

Существовала
возможность использовать данные и о компаниях, упомянутых 1-3 раза, но учитывая
прочие сложности, мы решили использовать только данные без пропусков.

Так
в выборку попали следующие столбцы:

* Название компании;
* Индустрия, в

которой компания работает; // 25 номиналов

* Штат, где компания

расположена; // 45 номиналов

* 2011Revenue – выручка компании за 2011 год;
* 2011Growth – рост выручки(%) в 2011 году по сравнению с прошлым

годом;

* 2012Revenue;
* 2012Growth;
* 2013Revenue;
* 2013Growth;
* 2014Revenue;
* 2014Growth.

Так
же выборка была дополнена еще четырьмя столбцами, но использоваться они будут
только в самом конце работы, большая часть гипотез проверялась без них. Эти
столбцы содержат информацию о средней стоимости галлона бензина в штате,
указанном в третьем столбце строки, по годам. Информацию любезно предоставила
компания GasBuddy.
Эти ребята собираются скрупулезным сбором информации о розничных ценах на
топливо, а затем этой информацией торгуют за деньги. Но они благородно
поверхностно отнеслись к вопросам защиты общей статистики, что позволило при
помощи Matlab восстановить достаточно точные значения для дальнейшего использования в
нашей работе:

* 2011;
* 2012;
* 2013;
* 2014.

Изначально
задача была сформулирована следующим образом: «Установить экономические
факторы, влияющие на прибыль компаний каждой отрасли; проследить это влияние на
конечных значениях прибыли; установить связи между географическим положением,
отраслью и экономической ситуацией по годам». К сожалению, выполнить ее не
удалось по следующим причинам:

В «Inc. 5000 List»
попадают только те компании, дела у которых обстоят не просто хорошо, а лучше
всех. Для сколь угодно адекватного экономического анализа необходима информация
и о менее удачливых участниках рынка, которая отсутствовала в выборке;

На этапе
формулирования задачи, Weka представлялась не тем, чем оказалась на самом деле.
Изначально представлялось, что Weka способна результатом своей работы представить информацию
о неочевидных корреляциях внутри значительного массива данных, когда на практике
она может лишь пытаться предсказать значение на манер эталонного массива.

В
свете этих событий, от первоначальной задачи было решено отказаться. Мы
оставили массив данных, но изменили стратегию: мы будем выдвигать различные
гипотезы, которые могут быть доказаны или опровергнуты посредствам Weka.

### **ОЧИСТКА ДАННЫХ**

Первым
этапом мы производим начальную очистку выборки. Выручка большинства компаний
измерялась миллионами американских долларов, но некоторые из них зарабатывали
миллиарды. Этот факт вносил бы ненужные помехи в алгоритмы обработки, поэтому
мы сразу избавились от записей, где выручка или ее процентное изменение
существенно отличалось от медианы.

После
этого мы обратили внимание на те штаты, откуда в выборке находилось менее 10
представителей. Это тоже создавало номинальный шум, от которого мы избавились.

В
результате, таблица сохранила записи о 1084 компаниях. Было потеряно 109
записей (~9%), но так же было приобретено -17 номиналов в столбце штат (~38%).

### **ГИПОТЕЗА №1**

Мы
предположили, что из информации о прибыли и области деятельности, можно
предсказать штат расположения компании. И обратно: из прибыли и штата можно
угадать индустрию.

1084
записи были отправлены в cross-validation обработку следующими алгоритмами: J48, NBTree и NaiveBayes.
Для контроля была проведена обработка алгоритмом ZeroR.

**Результат:**
все три алгоритма показали менее удовлетворительные результаты, нежели ZeroR. Это свидетельствует, что в представленной скудной
информации отсутствует какие-либо конкретные указатели на тот или иной класс.

### **ГИПОТЕЗА №2**

Мы
предположили, что из информации о состоянии дел у определенной компании Х в
2011-2013 годах и из полных данных о массе компаний, можно предположить
изменение выручки компании Х в 2014 году.

1084
записи были отправлены в cross-validation обработку следующими алгоритмами: LinearRegression,
GaussianProcesses и m5p. Удовлетворительным результатом будем считать ошибку в
не более, чем 10% от общей дельты.

**Результат:** лучший
процент удовлетворительных предсказаний показал алгоритм LinearRegression:
41,6% записей. Этот алгоритм и будет использоваться при проверке дальнейших
гипотез.

### **ГИПОТЕЗА №3**

Мы
предположили, что если к условиям предыдущего исследования добавить информацию
о точном значении прибыли (2011-2013Revenue), качество предсказаний должно увеличиться. Столбец 2014Revenue отсутствовал, поскольку из его отношения к столбцу 2013Revenue можно математически 100% точно вычислить столбец 2014Growth. Конечно, Weka недостаточно хитра для этого, но сам факт не
удовлетворяет цели нашего исследования.

1084
записи были отправлены в cross-validation обработку алгоритмом LinearRegression.
Удовлетворительным результатом будем считать ошибку в не более, чем 10% от
общей дельты.

**Результат:** количество
удовлетворительных предсказаний не изменилось, разве что 2 записи перешли в
категорию <1%. Это говорит о том, что уточнительное, но таки дублирование
информации слабо улучшает предсказание, да и от pitfall’ов не спасает.

### **ГИПОТЕЗА №4**

Мы
предположили, что оперирование в рамках одной индустрии может улучшить точность
предсказания.

189
записей индустрии IT Services (самая часто упомянутая) были отправлены в cross-validation обработку алгоритмом LinearRegression. Информацию о
штатах не отправляем как «шумную». Удовлетворительным результатом будем считать
ошибку в не более, чем 10% от общей дельты.

**Результат:**
количество удовлетворительных предсказаний уменьшилось по сравнению с
предсказаниями It Services из общей таблицы.

### **ГИПОТЕЗА №5**

Мы
предположили, что в смежных индустриях дела обстоят примерно одинаково.

189
записей индустрии IT Services были отправлены на обучение supplied test set. На
предсказание алгоритмом LinearRegression отправляем те же столбцы 82 записей
индустрии Software. Информацию о штатах и индустриях не отправляем как «шумную».
Удовлетворительным результатом будем считать ошибку в не более, чем 10% от
общей дельты.

**Результат:**
Лучше, чем могло бы быть. На промежутке <5% произошел аж десятипроцентный
прирост качественных предсказаний, нежели предсказания индустрии Software из общей таблицы.

Тем
не менее, увы, нельзя считать гипотезу наверняка подтвержденной. «Успех» теста
может быть обусловлен тем, что все оставшиеся после чистки записи имеют
приблизительно одинаковый характер.

### **ГИПОТЕЗА №6**

На
развитие компании влияют различные экономические факторы. Одни и те же факторы
влияют на разные индустрии в разной степени.

Мы
предположили, что введение в таблицу дополнительных и уместных данных должно
улучшить качество предсказаний, а внесение дополнительных и неуместных –
ухудшить.

Отправляем
на изучение cross-validation привычные столбцы 70 записей индустрий Logistics & Transportation и Retail (без информации об индустрии!).

На
предсказание отправляем те же 70 записей, но уже с дополнительными столбцами,
содержащими средние цены на бензин по годам в соответствующих штатах.

Так
же на предсказание отправим уже хорошо знакомые 189 записей IT Services с дополнительными столбцами. Эта индустрия гораздо
меньше завязана на цены на бензин, а потому введение дополнительной и лишней
информации должно ухудшить предсказания.

**Результат:**
гипотеза подтвердилась. В случае с транспортом+логистикой+ритейлом, процент
качественных предсказаний вырос почти на 6 единиц сравнительно от общей
таблицы, когда IT Services потеряли 2,5 единицы.

### **ВЫВОД**

Это
говорит о том, что при использовании полноценных выборки информации, методы
«дата-майнинга» вполне применимы для экономического анализа.

Но
нужно помнить, что каждая выборка должна быть максимально локализована и
снабжена ТОЛЬКО характерной для этой выборки побочной информацией.
Нехарактерная информация наоборот ухудшает результаты предсказаний (Pratfall): цена не бензин малоинтересна в сфере IT, а количество мобильных телефонов у населения связано с Retail в совершенно ином ключе.

Презентация: pdf, pptx

Реферат: pdf, docx

Набор данных: arff