Sachverhalt: A. Am 8. Februar 2010 reichte die X._ AG beim Betreibungsamt Z._ ein Betreibungsbegehren gegen Y._ ein. Mit Verfügung vom 4. März 2010 trat das Betreibungsamt mangels örtlicher Zuständigkeit nicht darauf ein. B. Dagegen gelangte die X._ AG mit Beschwerde vom 10. März 2010 an das Kantonsgericht Appenzell Innerrhoden als Aufsichtsbehörde und verlangte die Verpflichtung des Betreibungsamtes zur Durchführung des Betreibungsverfahrens. Mit Entscheid vom 27. April 2010 wies das Kantonsgericht die Beschwerde ab. C. Dem Bundesgericht beantragt die X._ AG (nachfolgend Beschwerdeführerin) in ihrer Beschwerde vom 6. Mai 2010 sinngemäss die Aufhebung des kantonsgerichtlichen Entscheides und die Rückweisung an das Betreibungsamt mit der Anweisung, auf das Betreibungsbegehren gegen Y._ (nachfolgend Beschwerdegegner) einzutreten. Das Kantonsgericht hat die kantonalen Akten zugestellt, auf eine Beschwerdeantwort aber verzichtet. Das Betreibungsamt hat sich nicht vernehmen lassen.