Den 3kg (6.6lb) hund är inställd på att bli en del av en sök-och-räddning team som används för katastrofer som jordbävningar.
Dess lilla storlek innebär att den kommer att kunna klämma in på platser som är för smala för hundar som schäfer.
Chihuahuas, uppkallad efter en mexikansk stat, är en av de minsta hundraserna.
"Det är ganska ovanligt för oss att ha en chihuahua arbete som polishund", sade en polis taleskvinna i Nara, västra Japan.
"Vi skulle vilja att det arbetade hårt genom att dra nytta av sin lilla storlek."
Momo, sju år, börjar arbeta i januari.
En chihuahua som heter Momo (Peach) har klarat provet för att bli en hund i poliskåren i västra Japan, i vad som verkar vara en första.