На старте сезона 2009 года Карлович вышел в четвертьфинал турнира в Ченнаи. На Открытом чемпионате Австралии он во втором раунде проиграл своему соотечественнику Марио Анчичу. В мае он смог пройти в полуфинал на грунтовом турнире в Белграде. 24 мая 2009 года в первом круге Ролан Гаррос Карлович в матче против Ллейтона Хьюитта подал 55 эйсов и установил абсолютный рекорд АТП по количеству эйсов в 1 матче. Примечательно, что и этот матч Иво по итогу уступил в 5 сетах. На турнире в Лондоне хорватский теннисист дошёл до четвертьфинала. На Уимблдонсокм турнире он смог обыграть Лукаша Лацко, Стива Дарси, Жо-Вильфрида Тсонга и Фернандо Вердаско и вышел в четвертьфинал, который стал для Карловича первым в одиночках на Больших шлемах. Из дальнейшего турнира его в трёх сетах выбил Роджер Федерер — 3-6, 5-7, 6-7(3). В августе он сыграл в 1/4 финала на турнире в Вашингтоне. На Открытом чемпионате США выбыл уже в первом раунде. 18 сентября 2009 года Карлович в домашнем полуфинальном матче Кубка Дэвиса Хорватия — Чехия, играя против Радека Штепанека, установил новый мировой рекорд по эйсам — 78. Несмотря на это, он вновь уступил в пяти сетах со счётом 7-6(5), 6-7(5), 6-7(6), 7-6(2), 14-16. Их Матч продолжался 5 часов 59 минут.. Рекорд продержался менее года и был побит на Уимблдоне-2010 Джоном Изнером и Николя Маю.