Привести квадратичную форму к каноническому виду

Вопроса я не понял. Попробую объяснить другими словами.

Мои собственные значения, умноженные на

будут вашими. Например, моему собственному значению

будет соответствовать ваше

Можете проверить это на собственном векторе, который я уже приводил

Ваша матрица (с множителем), умноженная на этот вектор дает умножение этого вектора на

То есть это число

является собственным для вашей матрицы. Однако это число не обращает в нуль характеристический многочлен, который вы вычислили. Так что, скорее всего, вы вычислили его неправильно.

Что и зачем нужно умножать, я не знаю. Вам нужно получить какой-нибудь ортонормированный базис из собственных векторов. Он один и тот же что у квадратичной формы с множителем, что без множителя. Так что собственные значения вам уже не важны.

Если действовать по формальному алгоритму, не отбрасывая никаких множителей, то попробуйте правильно найти характеристический многочлен. Одним из его нулей должен быть

остальные два находятся по формуле решения квадратного уравнения. Они по идее должны равняться

Добавлено через 44 минуты

Однако мне трудно сказать, что вам нужно ответить, когда вас спросят, каким образом вы нашли корень

. То что в задаче множитель выделен (с чего бы это?), наводит на мысль, что его нужно отбросить и тогда корень находится подбором школьными методами. Я так и сделал, считая это самым очевидным путем, упрощающим задачу.