Projektet för motorsport och fritid på 433 miljoner pund syftade till att skapa upp till 6 000 arbetstillfällen i ett eftersatt område.
Men ekonomiminister Ken Skates sa att jobbanspråk var "överskattade" och det fanns för mycket ekonomisk risk.
Utvecklarna var "starkt oense" med beslutet och motivet bakom det.
Ministrarna sade att en bilpark på 100 miljoner pund skulle byggas i stället.
Förste minister Carwyn Jones sade att stöd planen skulle innebära skolor och bostäder inte skulle byggas.
Projektet, som först presenterades 2011, har varit ihärdigt av kontroverser.
Dess finansiärer - cheferna för Valleys Development Company (HoVDC) - hade velat att den walesiska regeringen skulle betala 80 procent av kostnaden, vilket reviderades till omkring 50 procent när ministrarna bad om en omprövning.
Vid sidan av själva kretsen, som skulle ha varit värd för det brittiska benet av MotoGP i minst fem år, fanns det också planer på att ta BMX och mountainbike, inomhus skidåkning och konserter.
Utfärdandet av garantin innebar att den walesiska regeringen skulle ha fått 99 miljoner pund under 33 år i utbyte mot att teckna projektet när det väl var öppet för handel.
Men om det skulle misslyckas, skulle den offentliga plånboken behöva betala tillbaka £ 210m över tiden, medan finansiärer Aviva skulle hålla kretsen och infrastrukturen.
Men i tisdags sade Andreas Skates att kostnaden för garantiavtalet fortfarande var för hög och att det skulle ha påverkat ministrarnas övriga utgiftsplaner.
Han sade efter diskussioner med statstjänstemän och kontoret för nationell statistik, det verkade finnas en "mycket stor risk" att hela £ 373m skuld projektet skulle klassificeras mot walesiska statens kapitalutgifter.
Andreas Skates tillade att den verkliga siffran för sysselsättningen var omkring 100 direkta arbetstillfällen, med 500 indirekta arbetstillfällen och cirka 500 arbetstillfällen inom byggsektorn medan spåret byggdes.
Senare, under premiärministerns frågor, sade Jones att tillhandahållandet av finansieringsgarantier skulle ha inneburit hans regering "skulle förlora 373 miljoner pund i kapitalfinansiering, £ 137 miljoner skulle behöva hittas detta budgetår".
Han sade till Ams: " Det är skolor som inte byggs. Sjukhusen moderniseras inte. Hus som inte byggs."
Blaenau Gwent kommunfullmäktige ledare Nigel Daniels sade att han var besviken på beslutet men förstod de komplexa frågor som är inblandade.
Han välkomnade investeringen på 100 miljoner pund i en ny bilpark.
Men Daniels sade att han skulle "söka efter brådskande möten med den walesiska regeringen och andra parter för att undersöka andra alternativ som kan läggas fram för att mildra konsekvenserna av detta beslut med tanke på den förväntan som har ökat i samhället under de senaste åren".
UKIP:s gruppledare Neil Hamilton sa att det var en "bön-konvent".
"Vad vi måste göra här är att ändra redovisningskonventionen snarare än att förstöra förhoppningarna hos dem som förlitar sig på att regenerera hela sydöstra Wales", sade han.
Plaid Cymru finans talesman Adam Price sade att det var en "hocking åtal" av ministrar att de hade " tagit sju år och över £ 9m offentliga pengar" att avvisa "den enda största privata investeringsförslag i Wales historia".
"Är Wales öppet för affärer eller öppet för hån?" Peter Price tillade.
Konservativ AM Russell George sade beslutet motsade kommentarer av högre tjänsteman James Price på måndagen att det var "bra valuta för pengarna".
Han kallade det "djupt om" att "mindre än 24 timmar senare får vi veta att ministern har en helt annan uppfattning och att risken för den walesiska regeringen skulle vara för stor".
Men det fanns stöd för den walesiska regeringens beslut från Tory Monmouth MP David Davies.
I en kommentar på Twitter sade han: "Inte ofta berömmer jag arbetsmarknadsministrarna men @KenSkatesAM gjorde ett bra beslut baserat på ordentlig granskning av affärsplanen."
Analys av Sarah Dickins, BBC Wales nationalekonomi korrespondent
Företaget bakom Circuit av Wales har sagt att det var "väldigt besviken" och håller inte med om skälen bakom beslutet. Den hade verkat säker på att den skulle få grönt ljus.
Reaktionerna från den privata sektorn har delats upp.
Dr David Williams, från förnybar energi företag eco2, beskrev det som sorgligt för inåt investeringar i Wales "om du domstol stora företag i sju år flytta målstolparna och sedan säga nej", twittrade han.
Men Cardiff advokat Chris Nott twittrade att det skulle ha varit "galet" för walesiska regeringen att stödja projektet.
Det fanns naturligtvis många faktorer som spelade in i det slutliga beslutet.
Det ena var uttalandet från den walesiska regeringen om att projektets skuld kunde ha påverkat kapitalutgifterna på liknande sjukhus och skolor.
I slutändan kom det till en uppfattning om huruvida det skulle locka tillräckligt många besökare.  Om man hade varit mer övertygad om att projektet skulle fungera skulle den walesiska regeringen ha varit mindre oroad över om en garanti skulle krävas.
Ministrarna var också oroade över att alla företag som var intresserade av att starta den andra etappen av projektet - en specialiserad bilpark - till slut skulle begära mer finansiering.
I stället spenderar den walesiska regeringen nu 100 miljoner pund över 10 år på att inrätta en egen bilteknikpark i Ebbw Vale som man tror kommer att locka 1500 arbetstillfällen. Men dess närbelägna företagszon - som nyligen utvidgats - har hittills inte varit framgångsrik.
Tim Williams, vid Wales Automotive Forum, sade: " Jag kan känna besvikelsen hos den bredare industrin, HoVDC och folket i Ebbw Vale att det inte har godkänts.
"Men jag respekterar den walesiska regeringens beslut om det."
Men Williams sade att den "plan B" som Skates tillkännagav skulle välkomnas.
Hittills verkar Aston Martins investering i Vale of Glamorgan gå framåt smidigt medan den walesiska regeringen är övertygad om att företag kommer att vilja etablera sig på bilteknikparken i Ebbw Vale.
De som är desperata efter lokala, stabila jobb längs cheferna för dalarna kommer att hoppas att den walesiska regeringen inte är under någon illusion.
Martin Whitaker, chef för HoVDC, sade att han var "tillagd" att den walesiska regeringen "misslyckades att stödja... vad som skulle vara ett spel förändrar utvecklingen för Wales".
"Vi har alltid trott passionerat, och fortsätter att göra det, i detta projekt förmåga att omvandla och ge möjligheter och hopp till en av de fattigaste delarna av Storbritannien, inte bara Wales," sade han.
"Projektet är helt definierat, finans är på plats, och bygg och uthyrning kan starta omedelbart."
Den walesiska regeringen har avvisat en grund av utvecklare av Circuit of Wales i Ebbw Vale för 210 miljoner pund i skattefinansierade garantier.