Если вы про комплексный подход к решению,  так это не математический термин, просто термин из области общих знаний. Разумеется, ударение там на О. А комплЕксные числа - это профессионализм, профессональный жаргон, традиция. КомпАс, рапОрт, прОгиб, дОбыча. Если произнести эти слова с обычным ударением, смысл не поменяется, но уйдет налет профессионализма)))