Test ImageMath's mod, imagemath_equal and imagemath_notequal