Finnbogason startet sin fotballkarriere med ungdomsfotball hos Ungmennafélagið Fjölnir før han i 2005 gikk videre til Breiðablik. Her ble en del av en samling talenter og senere utenlandsspillere som bestod av Gylfi Sigurðsson, Jóhann Berg Guðmundsson, Elfar Freyr Helgason, Guðmundur Kristjánsson, Kristinn Jónsson, Kristinn Steindórsson og Aron Jóhannsson.