Иоаннис Коссос родился в семье резчика по дереву Петроса Коссоса в городе Триполисе, расположенном в центре полуострова Пелопоннес. С юных лет Иоаннис помогал отцу в работе на арсане (небольшая корабельная верфь) на острове Порос в Сароническом заливе, специализировался на изготовлении деревянных скульптур для форштевней морских судов. Позднее он записался в школу искусств, учился мастерству скульптора под руководством немецкого скульптора-классициста Кристиана Зигеля (Siegel). Получив стипендию, Коссос продолжил учёбу в Флоренции, а в начале 1860-х годов возрасте открыл собственную мастерскую в Афинах. На Всемирной выставке в Вене (1873) наградой была отмечена скульптура Коссоса, аллегорически представлявшая Грецию. Учеником И. Коссоса был скульптор Георгиос Врутос.