Ошибка this variable is undefined

1. Можно выбрать несколько кандидатов в решения и сравнить с полученным решением. Если они хуже найденного решения, то можно надеяться, что решение правильное. Но гарантии никакой.
2. Решение такой задачи существует, если область, где ищем решение, ограничена. И решение лежит на границе области (в данном случае - это многогранник). Это может быть 1) одна из вершин многогранника, 2) все точки какого то ребра многогранника, 3) все точки какой то грани. Это значит, что хотя бы один из элементов вектора A2*x совпадает с соответствующим элементом вектора b1 или b2. В вашем случае так и есть: А2*х0 = b20 = 6.4. Для гарантии возьмите еще две точки этой грани многогранника, не лежащие на одной прямой. Если результаты такие же, то на всей этой грани фукнционал достигает максимума.
3. Однако, вы изменили условия задачи (заменили неравенство на противоположное). Тогда ваша область - многогранник - ограничена только двумя плоскостями (двугранный угол). Это неограниченная область, в которой функция может не достичь максимума. Спросите, почему двугранный угол? Судите сами: Если выполнены два неравенства a<b, a<c, то одно из них лишнее и его можно отбросить. Например, если b<c, то оставляем первое неравенство a<b, так как второе автоматически выполняется.
Таким образом, теперь у вас в условии задачи на самом деле только два неравенства, определяющие двугранный угол.
4. Замечу, что четырех неравенств тоже может быть недостаточно для получения ограниченного многогранника
(для вашего (неисправленного) случая это я не проверял). Но составители задач обычно "подыгрывают" нам - решателям и подсовывают задачи, имеющие решения (если, конечно, не ошиблись).
5. Можно построить графики этих областей для наглядности.
6. Можно решить графическим методом такие задачи.
7. Можно, наконец, анимировать процесс решения.
8. Но все это в другой раз, если, конечно, интересно.

1