Ở cấp độ quốc tế, Kovač đã chơi cho Croatia trong 5 trận đấu vòng loại World Cup 2002 và ghi 1 bàn trong chiến thắng 4-0 của Croatia trước San Marino. Tại vòng chung kết, ông ra sân ngay từ đầu trong cả ba trận đấu vòng bảng, trước khi Croatia bị loại vì chỉ xếp thứ 3. Ông cũng tham dự nhiều trận vòng loại Euro 2004, có 7 lần ra sân và ghi hai bàn thắng trong các trận đấu trên sân khách, đó là trận thắng 1-0 trước Estonia và bàn thắng mở tỷ số trong chiến thắng 3-0 trước Andorra. Ông cũng đã chơi toàn bộ 3 trận đấu vòng bảng tại vòng chung kết Euro 2004 ở Bồ Đào Nha và ghi bàn thắng trong trận đấu cuối cùng với đội tuyển Anh. Tuy nhiên, Croatia đã thua 4-2 và một lần nữa bị loại khỏi giải đấu với vị trí thứ 3 trong bảng.