Работа нейронной сети основана на манипуляциях с матрицами. Для обучения используются разнообразные методы, многие из которых выросли из метода градиентного спуска, где необходимо умение обращаться с матрицами, вычислять градиенты (производные по матрицам). Если заглянуть “под капот” нейронной сети, можно увидеть цепочки из матриц, выглядящие зачастую устрашающе. Проще говоря, “нас всех подстерегает матрица”.  Пора познакомиться поближе. Для этого сделаем следующие шаги: рассмотрим манипуляции с матрицами : транспонирование, умножение, градиент;   построим игрушечную нейронную сеть; познакомимся с методом обратного распространения ошибки с использованием метода градиентного спуска. Все шаги сопровождаются примерами кода с использованием только NumPy . Вычисления, не выходящие, впрочем, за рамки элементарной математики, приведены подробно. За индексами придется внимательно следить, но не отчаивайтесь, просто представьте, что каждый индекс - винтик, который надо закрутить, следуя простым правилам, но не пропустить. Если вдруг не разберетесь, ничего страшного - одно из двух:  либо сбой в матрице, либо одно из двух. Основная структура данных в системах машинного обучения - тензор, который, по сути, является многомерным массивом. Тем не менее, тензор звучит солиднее, причем настолько, что он вошел в название библиотеки машинного обучения Google TensorFlow. Итак, определим одномерный массив, он же тензор с единственной осью, он же тензор первого ранга, или просто вектор, который будем обозначать  , где индекс  ;  - размерность вектора. Скалярное произведение двух векторов ​. Отметим, что по повторяющимся индексам производится суммирование, здесь  пробегает значения от 0 до 2 включительно.  Теперь перейдем к двумерному тензору (тензору второго ранга) - матрице​, элементы которой выводятся как​. Например, - элемент матрицы на пересечении 0-й строки и 2-го столбца. Из определения ясно, что матрица имеет две оси. При умножении матрици​ получаем  матрицу  ​ , элементы которой ​. Поскольку по повторяющимся индексам производится суммирования, количество столбцов матрицыдолжно совпадать с количеством строк​ (первое измерение   совпадает с нулевым измерением​) Если попытаемся умножить ​ , то: Первая размерность матрицы не совпадает с нулевой , о чем красноречиво и говорится. Посмотрим, как построить матрицу из двух векторов.  Для этого из векторов сделаем матрицы с одним столбцом, элементы которой и ​. Затем имеем ​. Повторяющийся индекс есть, но он стоит не внутри произведения, как прописано в правилах  для произведения матриц, поэтому воспользуемся тождеством ​, где - транспонированная матрица (используем обозначения  NumPy). В результате имеем ​.  Любопытно, что  операция транспонирования приводит ​. Вводим матрицу на входе, получаем результат на выходе. Поскольку мы тренируемся на подготовленном наборе данных, на выходе знаем нужный ответ.  Представим себе нейронную сеть как черный ящик с ручками, которыми можно манипулировать так, чтобы значения на выходе из нашего ящика как можно меньше отличались от тестового результата. Мера отклонения выводится с помощью функции потерь (cost function). Отметим, что в одну сторону ручки крутятся полегче. Туда осторожно и крутим. Когда все данные из тренировочного набора прошли один раз, и каждую ручку покрутили с выбранным шагом (learning rate), говорят, произошла одна эпоха (epoch). И так повторяем до тех пор, пока уменьшается функция потерь. Далее записываем показания ручек (веса), которые вместе с архитектурой и методом коррекции весов представляют собой исчерпывающий набор данных относительно обученной нейронной сети. Теперь мы можем засунуть в наш черный ящик любые разумные данные и получить наиболее вероятный ответ. Раньше этим занимались разумные животные, теперь ситуация изменилась, но как не было разумного подхода, так до сих пор и нет. Разберем простую нейронную сеть, показанную на рисунке из статьи (рекомендую посмотреть, есть русский перевод ). На входе имеем подготовленные данные - совокупность образцов (samples) . Каждый образец представлен вектором с тремя компонентами. Таким образом, все данные представлены тензором второго ранга (матрицей), первая ось которого (ось с нулевым индексом ) - ось образцов (samples), вторая  - ось признаков (features).   Для обучения нейронной сети имеем подготовленный тренировочный набор, в котором каждый образец имеет определённый выход (целевые данные). Это может быть распределение по классам (мужчина, женщина и …) или, например, значение температуры  кончика носа для заданных параметров. Нам необходимо построить такую модель, чтобы значения на выходе как можно меньше отличались от значений из тренировочного набора.  Давайте пройдемся по нашей нейронной сети от начала до конца, посмотрим, что где лежит. Мы не будем ничего запоминать, просто погуляем по “Дворцу памяти” . Там не так много места, поскольку это всего лишь произведения матриц, которые разворачиваются от начала до конца. Мы вольны делать с ними все что угодно, только надо контролировать, чтобы каждая последующая матрица правильно зацеплялась с предыдущей по правилу умножения матриц. Есть матрицы с данными, и есть матрицы с параметрами, которые впоследствии подстроим, когда пойдем в обратный путь. Предположим, на входе имеем 10 экземпляров векторов с тремя признаками. Таким образом, матрица на входе ​ имеет форму (10, 3).  Пока возьмем ее “с потолка”, заполним случайными числами. Существует несколько вариантов, как это можно сделать. Итак, можно заполнить матрицу: целыми в диапазоне, например, от 0 до 50 ;  равномерно распределенными в диапазоне от 0 до 1; распределёнными по нормальному закону со средним  и дисперсией​.  Нормальное распределение, или распределение Гаусса, обычно обозначается как; Когда  и ​,  имеем дело со стандартным нормальным распределением.  Итак, на входе имеем матрицу с формой Теперь нам надо определить матрицу весов ​, чтобы подать значения на внутренний слой с четырьмя нейронами. Если значения в тренировочном наборе полностью определены при постановке задачи обучения,  первоначальные значения весов задаются действительно произвольно, полагаясь впоследствии на методы их корректировки. Очевидно, что, вспоминая правила умножения матриц, должна иметь форму . Полезно себе представить, что ​. В результате, на внутренний слой приходит матрица с формой ​, на которую действует - причем весьма необычным способом - функция активации , выбранная должным образом для внутреннего слоя. Функция действует на каждый элемент матрицы независимо от другого элемента. Иными словами, если есть матрица ​с формой ​( строк, столбцов ) и с элементами ​, то после действия функции получим матрицу с той же формой, элементы которой равны ; просто, например, имеем , и так для каждого элемента. На выходе для каждого образца получим число, поэтому проблема выбора матрицы весов становится тривиальной, поскольку она должна иметь форму ​. Таким образом, ​. Итак, наше предсказание​ представлено в виде матрицы с 10-ю строчками (samples) и одним столбцом. В матричном виде все выглядит тривиально: Напоминаем, что нумерация начинается с нуля. Для наглядности мы пока не включили функции активации и смещения (bias). Проверим на коде. Задача состоит в следующем: создать имитацию данных на входе, построить матрицы весов, получить значение на выходе, следить за формой.  На выходе получили числа внутри матрицы  с формой (10,1)​. Мы специально выбирали веса в диапазоне от -1 до +1, исходя из собственных “мутных” соображений (пока это не принципиально).  Теперь включим функции активации. Первая функция будет действовать на вход “скрытого слоя”, вторая - на выход . В результате имеем Подавая значения на вход нейронной сети из тренировочного набора, мы должны сравнить наши предсказания с этими значениями. С этой целью определим функцию потерь   где - тренировочный набор, и мы ввели обозначение . Напомним,  что для транспонированной матрицы справедливо соотношение . Это все, что мы можем получить на выходе. Пора в обратный путь. На самом деле никакого распространения нет. Выход нейронной сети - просто произведение матриц. Причем все должно быть построено таким образом, чтобы функция потерь оказалась минимальной. Для этого необходимо нужным образом подстроить параметры, входящие в матрицы весов. Функция потерь - это функция многих переменных, в роли которых выступают веса. Экстремальная точка функции находится из уравнения ​, где “штрих ” - производная. Если вторая производная в этой точке больше нуля, это будет минимум, и наоборот. Понятно, что решить уравнение со многими переменными затруднительно, поэтому и проверить экстремум не представляется возможным. Можно поступить проще: стартовать из произвольной точки в пространстве весов - она у нас уже задана, поскольку мы определили матрицу весов случайным образом, - затем двигаться в направлении минимума. Выберем одну переменную веса (напомним, их у нас уже 16 штук), при этом зависимость от этой переменной одномерная, если зафиксированы остальные. Двигаемся от нуля в положительном направлении. Если спускаемся вниз,​, мы должны продолжить движение, если поднимаемся по склону,  ​, лучше вернуться назад  в направлении к минимуму.  Таким образом, изменение переменной ​должно быть пропорционально производной с отрицательным знаком. Для функции потерь имеем   или для компонент   где - коэффициент скорости обучения (learning rate).  Как видно, в этой формуле стоят производные по матрицам. Производные в этих формулах еще называют  градиентом . Для векторов - это нормально, а для тензоров, почему бы и нет. Тем более, название самого метода -  градиентный спуск . Для вычисления производных по матрицам необходимо руководствоваться правилом    где ​- символ Кронекера, который отличен от нуля только тогда, когда  . Например,  ​, а уже ​. Но самое главное: внимательно отслеживать индексы и никуда не спешить. Для производной от функции потерь по матрице имеем где, напомним, ​, по повторяющимся индексам производится суммирование. Градиент без активации. Пока проделаем вычисления без функций активации. Затем, когда освоимся в мире элементарного дифференцирования матриц, включим механизмы активации. Итак, вспоминая , получим Напомним, для произвольной матрицы справедливо ​. Таким образом, окончательно получим следующее выражение: или Посмотрим, получится ли, используя наши доморощенные данные, правильная форма для​.  Поскольку имеет форму ​, после транспонирования - ​. Форма совпадает с формой - ​. Таким образом, форма равна ​, как и должно быть. Теперь займемся . Индексы, которые “торчат наружу”, некоторыми называются “говорящие ” - в данном случае это и ​. Пока мы работаем с компонентами, сомножители можно произвольно переставлять, поскольку это всего лишь числа.  Это мы и сделали: поставили члены с “говорящими” индексами впереди и сзади (если необходимо транспонировали), затем проследили, чтобы индексы правильно цеплялись друг за другом в соответствии с правилом умножения матриц. Для формы имеем: . Градиент с активацией. Надеюсь,те, кто следит за индексами, разобрались с результатами предыдущего раздела, когда не было никаких функций активации. Пришло время их включить. Дифференцировать по матрицам надо аккуратно, поскольку теперь матрицы весов скрыты под функциями. Мы рекомендуем сделать замены переменных, чтобы на каждом этапе дифференцирования имели дело только с одной матрицей. Надеюсь, правила дифференцирования сложной функции знакомы читателю, но на всякий случай напомним: если ​, то  производная от по ​равна ​. Итак, где используем очевидную цепочку замен: Матрица весов находится не так глубоко внутри функций, поэтому первоначально найдем градиент по этой матрице. Последовательно разворачивая цепочку дифференцирования, имеем Действительно, Напомним, здесь функция от матрицы - матрица с той же формой. Для перемещения индекса в начало цепочки поступаем как обычно: , аналогично для функций . Таким образом, в результате получаем Остановимся подробнее на операции поэлементного умножения “*” матриц . Если у нас есть две матрицы, и ​,  с одинаковой формой, то в результате действия операции поэлементного умножения мы получим матрицу с той же формой, каждый элемент которой равен произведению элементов; например, третий элемент второй строки равен ​. Проиллюстрируем на коде. Пусть и . Эти функции будут принимать матрицы, затем возводить в степень по правилу, что каждый элемент матрицы независимо возводится в степень. Для этого в NumPy есть соответствующие функции. Вычисление градиента по развернется в более длинную цепочку, но при этом здесь отсутствуют концептуальные сложности. Просто надо аккуратно двигаться вперед - шаг за шагом. где . Раздельно вычисляем производные: Собирая все вместе, получим  где мы использовали очевидные свертки индексов Действительно, ​, индексы и мы не трогаем, поскольку они “говорящие”, так что остается побеспокоиться относительно ​. Теперь располагаем “говорящие” индексы в нужных местах, что приводит к соотношению Действительно, если ввести вспомогательную матрицу , то при умножении  получаем матрицу , и дальше  поэлементное умножение ​. Проверим в коде. Основным результатом является получение выражения для градиентов. Но это лишь игра с камешками на берегу озера. “То, что было - нынче сплыло. Прошлое прости-прощай!” А что дальше? Если некоторые термины для  вас не знакомы, поройтесь, почитайте, но особо вникать не надо. Хотите научиться шить, для этого не следует годами изучать инструкцию для швейной машинки. Просто надо сесть  и попытаться что-нибудь сделать, используя навыки, которыми вы обладаете. Садитесь и шейте! Думаю, если интересуетесь нейронными сетями, уже есть какой-то багаж навыков. Во всяком случае, здесь не место  бахвалиться своими знаниями инструкций, как это принято у продвинутых знатоков библиотек.  Итак, что я рекомендую сделать сейчас же. У James Loy - автора статьи , которая и инспирировала настоящие заметки, есть отличная книга, в которую полезно, при желании, заглянуть. К этой книге прилагаются коды . Откройте коды к первой главе, в одном из них увидите воплощение того, чем мы занимались в этих заметках, но только на своих данных. Попробуйте обучить нейронную сеть на собственных данных с другой логикой “вход-выход”, используйте другие функции активации, постройте графики, научитесь выводить время выполнения. Когда надоест баловаться и захочется более лёгкой жизни, значит пришло время связать свою жизнь с TensorFlow и Keras. Для этого много чего есть, но лучше начать с первоисточника (есть перевод на русский).  Пишите коды, вникайте в формулы, читайте книги, задавайте себе вопросы.  Что касается инструментов, то это Jupyter Notebook (Anaconda рулит!),  Colab...