Han har tidligere spilt for islandske KR Reykjavik og Valur. Det vakte oppsikt da Jóhannsson i 2006 ble kjøpt av Fredrikstad for to millioner en drøy måned etter at han var blitt solgt for 100 000 til en islandsk klubb.