На острове Исландия, на острове Новая Зеландия.В государстве Исландия, в государстве Новая Зеландия  Не поленилась, копирую из Розенталя:1) С административно-географическими наименованиями употребляется предлог в с винительным и предложным падежами, например: в город/городе, в район/районе, в область/области, в республику/ республике; в Сибирь/Сибири, в Белоруссию/Белоруссии, в Закавказье. Сочетание на Украину/Украйне возникло под влиянием украинского языка (ср.: на Полтавщину/Полтавщине, на Черниговщину/ Черниговщине) и поддерживается выражением на окраине. [Тут вставлю от себя... вполне понятно желание украинского правительства не быть на окраине  а получить в том числе и лингвистическое подтверждение независимости]С названиями горных областей употребляется предлог на: на Алтай/Алтае, на Кавказ/Кавказе, на Урал/Урале (имеется в виду горная местность без точно очерченных границ). Но: в Крым/Крыму (только частично ограниченное горами степное пространство). Употребление предлогов в — на с предложным падежом при названиях гор во множественном числе придает сочетаниям разное значение: в Альпах, в Андах, в Апеннинах, в Пиренеях и т. д. значит «в горах, среди гор»; на Балканах — Балканском полуострове, на Карпатах — на поверхности гор.В некоторых случаях закрепляется один из синонимических предлогов: работать в фотостудии — работать на киностудии (на радио, на телевидении).Иногда сказывается исторически сложившаяся традиция; ср.: в деревне — на хуторе, в селе — первый на селе работник; в учреждении — на предприятии, в переулке — на улице; ср. также: в комбинате бытового обслуживания — на мясокомбинате.На выбор предлога влияет семантика управляющего слова и значение всего сочетания. Ср.: поехал на вокзал — вошел в вокзал, пошел на студию — вошел в студию (сказывается соответствие приставки в- и предлога в).