Оба термина существуют. На мой взгляд, разница такая:

Popover: http://i.stack.imgur.com/s2XYp.png (также используются в iOS)
Popup: http://upload.wikimedia.org/wikipedia/sh/1/1a/Pop-up_ads.jpg

Можно и то, и другое перевести, как "всплывающее окно" (и popunder заодно), но разница тоже есть.