Проблема с преобразованием уйдет и можно будет смотреть errno на HUGE_VAL.
Но мне почему-то кажется что с этой функцией будут проблемы при компиляции. Попробуйте, если скопмпилириуется, то можно поступить так.