W reprezentacji Islandii Baldvinsson zadebiutował w sierpniu 2001 w towarzyskim meczu z reprezentacją Polski. Był uczestnikiem eliminacji do Mistrzostw Europy 2004 oraz Mistrzostw Europy 2008, jednak jego reprezentacja na oba nie awansowała.