Den Virginia-baserade domstolen sade presidentens breda invandring makt var "inte absolut" och förbudet "avsedda att spärra muslimer från detta land".
Beslutet bekräftade ett lägre Maryland-domstolsbeslut som fann att förbudet bröt mot de konstitutionella rättigheterna.
Justitiedepartementet sa att den nu skulle söka en prövning av överklagandet.
Justitieminister Jeff Sessions sade domen omintetgjorde Mr Trumps ansträngningar att skydda USA: s nationella säkerhet.
Trumps reviderade verkställande order skulle ha inneburit ett tillfälligt förbud mot personer från sex huvudsakligen muslimska länder och flyktingprogrammet.
Den amerikanska regeringen hävdar federal invandring lagar ger presidenten breda befogenheter att stoppa utlänningar från att komma in i landet.
Men överdomare Roger L Gregory, som skrev majoritetsyttrandet för den fjärde Circuit Court of Appeals, sade på torsdag att Mr Trumps befogenheter hade gränser.
"Det kan inte gå okontrollerat när, som här, presidenten utövar det genom en verkställande påbud som står för att orsaka irreparabel skada för individer över hela denna nation," sade domare Gregory.
Domstolen tillade att regeringens nationella säkerhetsargument var en "sekundär motivering till en verkställande ordning rotad i religiös animus och avsedd att hindra muslimer från detta land".
Beslutet innebär att medborgare från Iran, Sudan, Somalia, Jemen, Syrien och Libyen kan fortsätta resa till USA.
Den 10-3 utslaget är det senaste i en rad rättsliga bakslag för en order presidenten insisterar på behövs för att stoppa terrorister från att komma in i landet.
Två lägre domstolsbeslut blockerade förbudet bara några timmar innan det skulle börja i mars.
En domare i Maryland fastslog att ordern var avsedd att vara ett förbud mot muslimer och bröt mot den första ändringen av den amerikanska konstitutionen.
En federal domare på Hawaii ställde sig också på motståndares sida om att förbudet var diskriminerande och citerade "förutsägbara bevis" i regeringens argument att förbudet var en fråga om nationell säkerhet.
Justitiedepartementet har överklagat Hawaiis beslut till den nionde Circuit Court of Appeals, som hörde muntliga argument för målet den 15 maj.
Den nionde Circuit är samma domstol som vägrade att lyfta ett block på Mr Trump ursprungliga reseförbud undertecknat den 27 januari.
Den ordern trädde i kraft i sju dagar innan en federal domare i Seattle stoppade den.
I stället för att överklaga beslutet till Högsta domstolen, Mr Trump utfärdade en reviderad version den 6 mars.
Washingtons justitieminister Bob Ferguson gjorde ett uttalande efter torsdagens dom kallar det en "viktig seger för rättsstatsprincipen".
"Jag kommer att stödja utmaningar mot denna olagliga och författningsstridiga exekutionstitel eftersom vårt eget fall mot reseförbudet fortsätter i federal domstol här i Washington."
Sessionerna sade i ett uttalande att Trump följde den amerikanska författningen och gjorde sin "skyldighet att skydda våra samhällen från terrorism".
"Detta justitiedepartement kommer att fortsätta att kraftfullt försvara den verkställande avdelningens makt och skyldighet att skydda folket i detta land från fara", tillade han.
Det kontroversiella förbudet har lett till protester och debatt i hela USA.
Nyligen belyste en grupp pastorer i North Carolina frågan på en affischtavla med hänvisning till attackerna den 11 september i Catawba County.
Tecknet, som betalas av North Carolina Pastors Network, lyder: "19 muslimska invandrare dödade 2977 amerikaner", hänvisar till attackerna 9/11.
En federal appellationsdomstol i USA har vägrat att häva ett tillfälligt block mot president Donald Trumps reviderade reseförbud.