Вопрос: Что свидетельствует о том, что машина обучается, а не собирает новые данные и не сравнивает их с уже загруженными?

Лучший ответ: Я, будучи противником концепции "Аааа, ИИ наступает, скоро скайнет, ааа!!!", всегда неформально объясняю студентам так:
1. "Нейронная сеть" - это всего лишь такой продвинутый "фильтр", по сути - решето с гибким размером сетки. Её задача чаще всего - классификация, отбор, отделение условных "зёрен" от "плевел".
Это никакой не "искусственный разум"!
2. Для такого "отбора" нам надо как-то задать критерии, чем одно отличается от другого. Поскольку и мир неидеален, и зёрна неидеальны, и решето неидеально, нам также нужна "погрешность" - порог срабатывания, threshold, допуск, люфт, позволяющий пропустить "нестандартное, но ещё зерно".
3. Процесс подбора коэффициентов ("весов") по сути - тонкая настройка, калибровка, подгонка этого "решета".
4. Для упрощения подгонки применяются математические алгоритмы, по сути статистические, вероятностные, которые так или иначе усредняют подаваемый на вход массив возможных данных чтобы получить на выходе такие коэффициенты, при которых это "сито" будет работать с приемлемой (поддающейся оценке, известной, расчётной или требуемой для данной задачи) точностью.
Это и есть всё "обучение". По сути мы пишем алгоритм, который на основании измеренного разброса вариаций входных данных выдаёт нам такие коэффициенты, при которых сито будет пропускать большинство нужных "зёрен" и не пропускать большинство шелухи.
Замени эти слова на другие. Не "обучение", а "подбор коэффициентов", не "думает", а "фильтрует", не "нейронная сеть", а "нечёткий классификатор", и многое станет проще и понятнее.

Худший ответ: Обучение - установка "весов" в узлах нейросети по заранее заданным входным и выходным параметрам.
Пример, обучения (ребёнка):Итерация1: показываем кубик (вход) -> говорим "это кубик" (выход)Действие НС: сравнивать пока не с чем - просто создаём узел: "кубик". (вес нейрона: 1.0)Итерация2: показываем шарик (вход) -> говорим "это шарик" (выход)Действие НС: сравнивается с кубиком: нейронами формируются отклонения визуального контура предмета на основе большой разницы визуальной и звуковой информации и, на основе полного несовпадения ни с какими предметами (похожесть узлов 1-го уровня), появляется новый "узел" в НС: "шарик". (вес нейрона: 1/[общее кол-во связей в пределах текущего узла]=1/2=0.5)Итерация3: показываем параллелепипед (брусок) (вход) -> говорим "это кирпичик, как кубик, только вытянутый" (выход) Действие НС: сравнивается с кубиком и шариком: нейронами сравниваются совокупности "весов" узлов кубика и шарика, определяется, что максимальное совпадение - это кубик, формируется разница признаков и снова появляется новая ветка от узла "кубик". 
Делаем сравнение: на сколько кирпичик отличается от остальных предметов? 
Допустим, результат сравнения на совпадение контурных линий и звуковой информации:
1. кирпичик vs шарик: <50%
2. кирпичик vs кубик: >=50%, (НО! СТРОГО МЕНЬШЕ 100%)
Т.е., мы видим, что кирпичик - вовсе не шарик, а больше похож на "недокубик") и в связи с этим, строим новую ветку от узла "кубик".
Было:
1-й уровень (1=100%): 0.5(шарик), 0.5(кубик).
Стало: 
1-й уровень (1=100%): шарик: 0.5, кубик: 0.5
2-й уровень (0.5=100%): кирпичик: 0.5
(3-й: 0.25=100% и т.д.)
Сумма весов от любого из "узлов" 1-го уровня до любого "листа" в "дереве" - всегда равна единице!
Таким способом, мы постепенно строим дерево связей.
Вот как-то так обучение и происходит: опорные эталонные признаки (обучение), сравнение с имеющимися из "дерева" знаний и добавление нового знания в нужную ветку дерева.
Сами связи - привязываем к времени с постепенным вычитание весов узлов дерева до нуля и получаем эффект забывания (или "высвобождения" узлов = памяти), если информация периодически не обновляется. При обновлении информации - обновляем всю ветку до листа максимальным весом: "повторенье - мать ученья".