Enligt domarna i Strasbourg hade Ryssland diskriminerat tre homosexuella rättighetsaktivister som motsatte sig lagen. Den antogs 2013 och förbjöd främjande av homosexualitet bland personer under 18 år.
Lagen "stärkte stigmatisering och fördomar och uppmuntrade homofobi", sade domen.
Gayrättsgrupperna fördömde lagen.
Enligt lagen ska privatpersoner som anses främja "homosexuellt beteende bland minderåriga" få böter på upp till 5.000 rubel (67 pund, 85 dollar), medan tjänstemän riskerar att betala 10 gånger det beloppet. Företag och skolor kan bötfällas upp till 500.000 rubel.
Homosexualitet avkriminaliserades i Ryssland 1993, men anti-gay-fördomar är vanligt förekommande.
Kritiker ser propagandalagen som en del av en statlig kampanj för att marginalisera hbtq-aktivister, vars arbete omfattar spridning av sexuell hälsorådgivning.
Domstolen i Strasbourg konstaterade att de böter som ålagts tre ryska homosexuella rättighetsaktivister bröt mot artikel 10 ( Yttrandefrihet) och artikel 14 (förbud mot diskriminering) i Europeiska konventionen om skydd för de mänskliga rättigheterna.
Enligt domstolen var lagstiftningen som syftade till att stävja främjandet av homosexualitet "inte tydligt definierad" och genomfördes på ett godtyckligt sätt. Det "tjänade inget legitimt allmänintresse", sade domstolen.
Rysslands justitieministerium säger att det kommer att överklaga och hävdar att lagen uteslutande syftar till att skydda barns moral och hälsa.
MP Vitaly Milonov, av det regerande United Russia partiet, som introducerade den ursprungliga lagförslaget i S:t Petersburg parlamentet och som utgjorde grunden för den federala lagen, berättade BBC Ryska att domstolens beslut var "anti-national".
"Det är helt skadligt, och de som inrättade detta beslut är fiender till Europa", sade han.
De tre aktivisterna hade befunnits skyldiga till protester mot lagen 2009-2012 - utanför en gymnasieskola i Ryazan, ett barnbibliotek i Ärkeängel och en administrativ byggnad i S:t Petersburg.
Domstolen avvisade den ryska regeringens påstående att en sådan lag behövdes för att skydda moralen.
Man fann att regeringen "inte hade lyckats visa hur yttrandefriheten i hbtq-frågor skulle devalvera eller på annat sätt negativt påverka faktiska och existerande "traditionella familjer" eller äventyra deras framtid".
Sådana lagar, sade domarna, "utgör en predisponerad partiskhet från en heterosexuell majoritets sida mot en homosexuell minoritet".
De beordrade Ryssland att betala var och en av aktivisterna skadestånd på mellan 8.000 euro (7.000 pund; 8.900 dollar) och 20.000 euro.
En av de tre, Nikolai Alexeyev, hyllade utslaget som en "total seger", rapporterar BBC Sarah Rainsford från Moskva.
Han hade picketterat ett barnbibliotek, med en skylt som förklarade att homosexuella också kunde vara bra - och listat den ryska kompositören Pyotr Tjajkovskij och filmskaparen Sergei Eisenstein som exempel.
Rysslands "gay propaganda" lag är diskriminerande och uppmuntrar homofobi, har Europeiska domstolen för de mänskliga rättigheterna beslutat.