Tjänstemannen sägs ha agerat som CIA-kontakt på USA:s ambassad, enligt rapporter, i en skandal som har rasat tyska politiker.
En tysk underrättelsetjänsteman greps förra veckan misstänkt för spioneri.
En undersökning har också påbörjats av en tysk försvarsministeriearbetare, sägs det.
"Representanten för USA: s underrättelsetjänst på ambassaden i USA har blivit tillsagd att lämna Tyskland," regeringens talesman Steffen Seibert sade.
Analys av Rajini Vaidyanathan, BBC News, Washington
Tidigare i veckan beskrev Vita huset partnerskapet mellan USA och Tyskland som ett partnerskap byggt på respekt. Men ingen gillar att bli spionerad på, särskilt när det är din vän som spionerar.
Denna senaste episod är ännu en påminnelse om hur amerikanska övervakningsprogram orsakar friktion med allierade. Det är förargat många i Tyskland, där frågan om snokande historiskt sett är mycket känslig, och många frågar: "Vad? En gång till?"
Det var ju inte länge sen vi hörde att National Security Agency spionerade på förbundskansler Angela Merkels mobiltelefon. Efter en översyn av övervakningsprogrammen lovade president Obama att USA inte skulle spionera på sina vänner utomlands.
Men trots önskemål om att inkluderas, Tyskland är inte en del av en icke-spying pakt som USA har med Storbritannien, Nya Zeeland, Australien och Kanada. Vita huset kommer att vilja göra allt som står i dess makt för att åtgärda alla förtroendeproblem i samband med denna senaste händelse, så att de kan samarbeta på andra områden - till exempel behöver det tyskt stöd för hårdare sanktioner mot Ryssland mot Ukraina.
Analys av Stephen Evans, BBC News, Berlin
Den tyska regeringens begäran följer på en ökande frustration över att den inte har lyckats få USA:s försäkringar om att spioneri skulle upphöra mot tyska medborgare från förbundskansler Angela Merkel.
Hon blev chockad när hon fick veta att hennes mobiltelefonsamtal i hemlighet övervakades medan president Obama hälsade på henne som vän vid hans besök i Berlin.
Kansler Merkel har försökt upprätthålla en balans mellan att fördöma USA:s handlingar men också att upprätthålla hjärtliga relationer. Varje uppenbarelse har gjort denna balans svårare att uppnå.
Detta är viktigt eftersom Amerika behöver tysk hjälp i en rad frågor, från att försöka få världsekonomin ur sina svårigheter, till att finna en enad västlig aktion mot Ryssland, till att ta itu med de avslöjanden som kommer från Edward Snowden som för närvarande är i Moskva men som vissa tyska lagstiftare vill bjuda in till Berlin.
Ordföranden i förbundsdagens (parlaments) kommitté som övervakade underrättelsetjänsten sade att åtgärderna hade vidtagits på grund av USA:s spioneri på tyska politiker och dess underlåtenhet att samarbeta och ge lämpliga svar.
USA har inte förnekat anklagelser om att en tysk anställd inom underrättelsetjänsten som arresterades förra veckan överlämnade hemliga dokument till US National Security Agency (NSA).
De senaste rapporterna om att en anställd inom försvarsministeriet också spionerade för USA ansågs dock allvarligare. Även om det inte gjordes några gripanden, genomfördes genomsökningar på onsdagar i förkunnartjänsten och på andra håll.
USA och Tyskland har varit nära allierade i årtionden men förbindelserna träffades förra året när det visade sig att förbundskansler Angela Merkels mobiltelefon hade övervakats av NSA.
Vita huset avböjde att kommentera frågan men sade att säkerhets- och underrättelseförbindelserna med Tyskland "är mycket viktiga och håller tyskar och amerikaner säkra".
"Det är viktigt att samarbetet fortsätter på alla områden och vi kommer att fortsätta att vara i kontakt med den tyska regeringen i lämpliga kanaler," taleskvinna Caitlin Hayden sade.
Oktober 2013: Tyska förbundskansler Angela Merkel ringer USA:s president Barack Obama efter avslöjanden att USA kan ha spionerat på sin mobiltelefon
Juni 2014: Tyskland aviserar en undersökning av fordringarna
4 juli 2014: En misstänkt amerikansk spion sägs arbeta för den tyska underrättelsetjänsten arresteras
9 juli 2014: Ett andra fall dyker upp i och med att sökningar utförs vid försvarsministeriet
10 juli 2014: Tyska regeringen beordrar utvisning av CIA tjänsteman
På torsdag sa Angela Merkel att spioneri på allierade var ett "slöseri av energi".
"Vi har så många problem, vi bör fokusera på de viktiga sakerna", sade hon.
"I det kalla kriget fanns det kanske allmän misstro. Idag lever vi i 2000-talet. Idag finns det helt nya hot."
Den tyske inrikesministern Thomas de Maiziere sade att den information som USA verkade ha fått från det misstänkta spionaget var "skrattbar", men den politiska skadan var "oproportionerlig och allvarlig".
Omfattningen av den amerikanska byråns övervakning avslöjades av före detta NSA-entreprenören Edward Snowden, som flydde från USA och nu är en rymling i Ryssland.
Den tyske underrättelsetjänsteman som greps förra veckan påstods ha försökt samla in uppgifter om en tysk parlamentarisk kommitté som undersökte NSA:s spionskandal.
När Angela Merkel besökte Vita huset i maj försökte president Barack Obama försäkra henne och det tyska folket att de inte var föremål för "kontinuerlig övervakning" av USA.
Han sade att "komplicerade frågor" var inblandade, men han förväntade sig att frågan skulle lösas på ett tillfredsställande sätt för båda länderna.
Den tyska regeringen har beordrat utvisning av en CIA-tjänsteman i Berlin som svar på två fall av påstådda spioneri av USA.