32-åringen, tidigare med Watford och Cardiff, har kommit överens om ett avtal fram till maj 2018.
Cowie spelade med Ross County och Inverness Caledonian Thistle och har 10 internationella kapsyler.
"Han kommer att ge erfarenhet till bordet, vilket är ovärderligt när du försöker blod yngre spelare i det första laget," sade Hearts boss Robbie Neilson.
På klubbens hemsida tillade Neilson: "Han har spelat i den skotska toppflyget innan så vet vårt spel, och han har spelat på högsta nivå söderut och vann ett Championship, så jag vet att han är en vinnare.
"Efter att ha spelat i England, kommer han att visa spelarna här den nivå de måste komma till om de har ambitioner att spela där själva."
Cowie har gjort mer än 450 senior klubb framträdanden, poäng 52 gånger.
Scotland Midfielder Don Cowie har undertecknat för Hearts efter hans frigivning från Wigan.