Den brittiska byrån sa att den förlorade 32 000 sidor data och 81 ljudband kopplade till en bestickningssond i BAE:s al-Yamamah-affär med Saudiarabien.
Utredningen av den enorma vapenaffären avbröts 2006 efter ingripande från dåvarande premiärminister Tony Blair.
SFO sa att det förlorade materialet bestod av 3% av data om affären.
Den sa att den förlorade föremålen när den återlämnade mer material än vad som var avsett för en källa i undersökningen.
Dataförlusten ägde rum mellan maj och oktober 2012 och upptäcktes i maj i år.
SFO sade att man hade kontaktat de 59 leverantörerna av uppgifter för undersökningen för att informera dem om situationen.
"All förlust av data är en allvarlig fråga och SFO har vidtagit åtgärder för att säkerställa att inga ytterligare material kan skickas ut felaktigt," byrån sade i ett uttalande.
Den fortsatte: " SFO har en skyldighet att lämna tillbaka material till dem som på begäran levererade det efter det att en undersökning avslutats.
"I detta fall skickades den part som begärde återlämnandet ytterligare material som faktiskt hade erhållits från andra källor."
Peter Mason, tidigare säkerhetschef på Westminsterpalatset, har gjort en översyn och gjort några rekommendationer, bland annat att höja profilen för datahantering som en nyckelrisk i SFO:s verksamhet.
En före detta statstjänsteman, Alan Woods, genomför också en mer omfattande översyn av SFO-processerna.
Al-Yamaha affären handlade om försäljningen av tiotals miljarder pund vapen till Saudiarabien av BAE Systems, med början på 1980-talet och slutade 2006 med försäljningen av 72 tyfon stridsflygplan.
Påståenden om korruption och mutor ledde till en SFO-undersökning 2004, men avslutades 2006 på grund av allmänintresset, bland farhågor om att förbindelserna med Saudiarabien skadades.
Företaget betalade 450 miljoner dollar (289 miljoner pund) i böter i Storbritannien och USA för tre år sedan för att avsluta andra korruptionsutredningar i båda länderna.
Rådet erkände sig skyldigt till en anklagelse att konspirera för att göra falska uttalanden till USA:s regering, bland annat om avtal i Saudiarabien, och i Storbritannien om en anklagelse för brott mot tull när det gäller betalningar som gjorts i Tanzania.
På tal om dataförlusten sade en talesman för BAE: "Ultimat, detta är en fråga för SFO och när det gäller BAE Systems är det nu stängt."
Labour MP Emily Thornberry, skuggföredragande general, sade incidenten "höjer fler frågor än det svarar" och frågade vad regeringen gjorde för att "säkerställa att detta aldrig händer igen".
Den allvarliga bedrägeribyrån (SFO) säger att den har förlorat tusentals dokument som rör en sond till BAE Systems.