testcase for returning nan