Влияние Гиппарха и его партии «друзей тиранов» пошатнулось после битвы при Марафоне 490 года , где в качестве союзника персов присутствовал бывший тиран Гиппий. Гиппарх лично не совершал преступлений, за которые его можно было бы осудить. Поэтому он был первым за всю историю Афин подвергнут остракизму — форме узаконенного изгнания. Ему предшествовало голосование граждан в Народном собрании. Целью остракизма было не наказание отдельного гражданина за противоправный поступок, а его устранение из города, так как дальнейшее присутствие в Афинах представлялось опасным либо нежелательным. Событие произошло в 488 или 487 году О дальнейшей судьбе Гиппарха ничего не известно.