Puli kom trolig til Ungarn med madjarene. Den stammer sannsynligvis fra persiske og asiatiske vokterhunder av urtypen, men har nok først funnet sin endelige form på de ungarske steppene. Pulien har tradisjonelt fungert som vokterhund gjennom århundrene, men fra 1800-tallet og framover har den mer og mer gått over til å bli en gårdshund og vakthund. Rasen ble introdusert i USA i 1930 og der ble den anerkjent av American Kennel Club i 1936. Rasestandarden ble endelig fastsatt først i 1955.