Sachverhalt:
A. X._ wurde mit Verfügung vom 17. Dezember 2007 von der Eidgenössischen Revisionsaufsichtsbehörde (RAB) unbefristet als Revisionsexperte zugelassen und ins Revisorenregister eingetragen. Mit Schreiben vom 13. Juli 2009 teilte die RAB X._ mit, sie sei über eine Anzeige an die Standeskommission der Treuhand-Kammer gegen ihn und die Y._ AG orientiert worden, wonach er bzw. die Y._ AG gegen die Vorschriften über die Unabhängigkeit verstossen hätten, und forderte ihn auf, hierzu Stellung zu nehmen. Nach Stellungnahme durch X._ und die Y._ AG eröffnete die RAB am 3. August 2010 gegen X._ ein Verfahren um Entzug der Zulassung.
Mit Verfügung vom 24. Januar 2011 entzog die RAB X._ die Zulassung als Revisionsexperte und löschte die entsprechende Eintragung im Revisorenregister. Die von X._ dagegen erhobene Beschwerde wies das Bundesverwaltungsgericht mit Urteil vom 5. Oktober 2011 ab.
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 11. November 2011 beantragt X._, das erwähnte Urteil des Bundesverwaltungsgerichts aufzuheben.
Das Bundesverwaltungsgericht und das Eidgenössische Justiz- und Polizeidepartement haben auf eine Vernehmlassung verzichtet.
Die Eidgenössische Revisionsaufsichtsbehörde schliesst auf Abweisung der Beschwerde, soweit darauf eingetreten werde.
Mit Eingabe vom 12. März 2012 hält X._ an seinen Anträgen fest.
Erwägungen:
1. 1.1 Das angefochtene Urteil, ein Endentscheid des Bundesverwaltungsgerichts (Art. 86 Abs. 1 lit. a und Art. 90 BGG), stützt sich auf das Bundesgesetz vom 16. Dezember 2005 über die Zulassung und Beaufsichtigung der Revisorinnen und Revisoren (Revisionsaufsichtsgesetz, RAG; SR 221.302) und die zugehörige Verordnung vom 22. August 2007 (Revisionsaufsichtsverordnung, RAV; SR 221.302.3). Die genannten Erlasse regeln die Zulassung und die Beaufsichtigung von Personen, die Revisionsdienstleistungen erbringen, mithin eine Angelegenheit des öffentlichen Rechts im Sinne von Art. 82 lit. a BGG. Allerdings ist gemäss Art. 83 lit. t BGG die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen Entscheide ausgeschlossen, welche die Beurteilung geistiger oder körperlicher Fähigkeiten zum Gegenstand haben. Die Bundesbehörden stützen ihren Entscheid über den Entzug der Zulassung als Revisionsexperte darauf, dass sie dem Beschwerdeführer - im Rahmen ihrer Aufsicht - den unbescholtenen Leumund und damit seine Vertrauenswürdigkeit absprechen (vgl. Art. 4 Abs. 1 RAG, Urteil 2C_58/2008 vom 14. April 2008 E. 2.1). Dem angefochtenen Entscheid liegt somit nicht eine Bewertung seiner geistigen oder körperlichen Fähigkeiten zugrunde, so dass der erwähnte Ausschlussgrund keine Anwendung findet (vgl. Urteile 2C_655/2009 vom 23. März 2010 E. 1 und 2C_191/2008 vom 24. Juni 2008 E. 1). Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist demnach zulässig.
1.2 Nach Art. 42 Abs. 2 BGG ist in der Begründung in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Appellatorische Kritik und die blosse Gegenüberstellung der eigenen Sichtweise genügen grundsätzlich nicht (vgl. BGE 133 II 249 E. 1.4.2 S. 254). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Die Feststellung des Sachverhaltes kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Im Bereich der Beweiswürdigung steht dem Sachgericht ein erheblicher Ermessensspielraum zu (BGE 120 Ia 31 E. 4b S. 40). Das Bundesgericht greift auf Beschwerde hin nur ein, wenn das Sachgericht sein Ermessen missbraucht, insbesondere offensichtlich unhaltbare Schlüsse zieht, erhebliche Beweise übersieht oder solche willkürlich ausser Acht lässt (vgl. BGE 132 III 209 E. 2.1 S. 211, 129 I 8 E. 2.1 S. 9; 120 Ia 31 E. 4b S. 40; 118 Ia 28 E. 1b S. 30).
2. Natürliche Personen und Unternehmen, die Revisionsdienstleistungen (als Revisionsexperte oder Revisor) erbringen, bedürfen einer Zulassung durch die Eidgenössische Revisionsaufsichtsbehörde (Art. 3 Abs. 1 und Art. 28 RAG). Eine natürliche Person wird (unbefristet) als Revisionsexpertin zugelassen, wenn sie die Anforderungen an die Ausbildung und Fachpraxis erfüllt und über einen unbescholtenen Leumund verfügt (Art. 4 Abs. 1 RAG). Sind die Zulassungsvoraussetzungen nicht mehr erfüllt, kann die Aufsichtsbehörde die Zulassung befristet oder unbefristet entziehen (Art. 17 RAG). Der Beschwerdeführer erfüllt unbestrittenermassen die Anforderungen an Ausbildung und Fachpraxis; streitig ist einzig, ob sein Leumund als unbescholten gelten kann.
3. 3.1 Der Begriff des unbescholtenen Leumunds wird in Art. 4 Abs. 1 RAG nicht näher umschrieben. Art. 4 RAV legt dazu fest, dass der Gesuchsteller zugelassen wird, wenn er über einen unbescholtenen Leumund verfügt und es sich aus keinen anderen persönlichen Umständen ergibt, dass er keine Gewähr für eine einwandfreie Prüftätigkeit bietet; zu berücksichtigen sind insbesondere im Zentralstrafregister noch nicht entfernte strafrechtliche Verurteilungen und bestehende Verlustscheine.
3. 3.1 Der Begriff des unbescholtenen Leumunds wird in Art. 4 Abs. 1 RAG nicht näher umschrieben. Art. 4 RAV legt dazu fest, dass der Gesuchsteller zugelassen wird, wenn er über einen unbescholtenen Leumund verfügt und es sich aus keinen anderen persönlichen Umständen ergibt, dass er keine Gewähr für eine einwandfreie Prüftätigkeit bietet; zu berücksichtigen sind insbesondere im Zentralstrafregister noch nicht entfernte strafrechtliche Verurteilungen und bestehende Verlustscheine.
3.2 3.2.1 Die Vorinstanz geht unter Bezugnahme auf die eigene und die bundesgerichtliche Rechtsprechung sowie vergleichbare Regelungen in der Banken-, Börsen- und Geldwäschereigesetzgebung davon aus, dass bei der Gewährs- und Leumundsprüfung verschiedene Elemente wie Integrität, Gewissenhaftigkeit und einwandfreie Sorgfalt als berufsspezifische Leumundsmerkmale oder allgemeine Eigenschaften wie Ansehen, Achtung und Vertrauenswürdigkeit zu berücksichtigen seien. Unter Umständen könnten auch Aktivitäten, die über die Tätigkeit als Revisor und Revisionsexperte hinausgingen, die Beurteilung einer einwandfreien Prüftätigkeit beeinflussen. Nach dem Zweckartikel des Revisionsgesetzes diene dieses der ordnungsgemässen Erfüllung und der Sicherstellung der Qualität von Revisionsdienstleistungen. Die Umschreibung des Zwecks sei für die Auslegung des Revisionsaufsichtsgesetzes heranzuziehen. Dieser Auslegung ist beizupflichten (vgl. dazu auch die Urteile 2C_834/2010 vom 11. März 2011 E. 3.2 und 2C_505/2010 vom 7. April 2011 E. 4.2).
3.2.2 Die Vorinstanz legt sodann zu Recht dar, dass für die Erfüllung der Voraussetzung des unbescholtenen Leumunds insbesondere auch die Einhaltung der Vorschriften über die Unabhängigkeit der Revisionsstelle bei Aktiengesellschaften nach Art. 728 (ordentliche Revision) und 729 (eingeschränkte Revision) des Obligationenrechts vom 30. März 1911 (OR; SR 220) bestimmend sind und dass dasselbe für die standesrechtlichen Unabhängigkeitsbestimmungen (Richtlinien zur Unabhängigkeit, zuletzt geändert am 6. Dezember 2010, hrsg. von der Treuhand-Kammer), zu deren Einhaltung der Beschwerdeführer als Mitglied der Treuhand-Kammer verpflichtet sei, gelte. Nach Art. 728 Abs. 1 OR hat die Revisionsstelle unabhängig zu sein und sich ihr Prüfungsurteil objektiv zu bilden. Die Unabhängigkeit darf weder tatsächlich noch dem Anschein nach beeinträchtigt sein. Grundsätzlich die gleichen Anforderungen gelten gemäss Art. 729 Abs. 1 OR auch für eine eingeschränkt prüfende Revisionsstelle, wobei gemäss Abs. 2 dieser Bestimmung die Mitwirkung bei der Buchführung und das Erbringen anderer Dienstleistungen für die zu prüfende Gesellschaft zulässig sind. Sofern das Risiko der Überprüfung eigener Arbeiten entsteht, muss allerdings durch geeignete organisatorische und personelle Massnahmen eine verlässliche Prüfung sichergestellt werden.
Der Beschwerdeführer wirft der Vorinstanz in diesem Zusammenhang eine unrichtige Rechtsanwendung vor und macht geltend, Verstösse gegen die Unabhängigkeitsvorschriften seien nach den Strafbestimmungen gemäss Art. 39 ff. RAG zu ahnden. Sinngemäss scheint er daraus zu schliessen, dass derartige Verstösse im Rahmen der Prüfung des unbescholtenen Leumundes nicht zu beurteilen seien.
Dieser Auffassung kann nicht gefolgt werden. Die Frage, ob eine Revisionsstelle die notwendigen Voraussetzungen für die Zulassung erfüllt, und diejenige, ob allenfalls ein strafrechtlich zu sanktionierendes Verhalten vorliegt, sind voneinander unabhängig zu beurteilen. Es ist offensichtlich, dass dabei ein strafrechtlich relevantes Verhalten - handle es sich nun um einen nach RAG zu beurteilenden Sachverhalt oder um ein anderweitig unter Strafe gestelltes Verhalten - für die Beurteilung des für die Zulassung erforderlichen guten Leumundes relevant sein wird. Daraus kann jedoch weder abgeleitet werden, derartiges Verhalten könne ausschliesslich unter dem Gesichtspunkt der Strafbarkeit beurteilt werden, noch dass ein strafbares Verhalten für Verneinung des unbescholtenen Leumundes erforderlich wäre.
Vorliegend steht einzig die Frage des unbescholtenen Leumundes nach Art. 4 Abs. 1 RAG zur Diskussion. Auf die Frage der allfälligen Strafbarkeit ist nicht einzugehen.
3.3 Bei der Frage, ob die genannten Verfehlungen des Beschwerdeführers seinen beruflichen Leumund und guten Ruf beeinträchtigen und er keine Gewähr für die vertrauenswürdige Ausübung seiner Revisionstätigkeit sowie die getreue Einhaltung der entsprechenden Pflichten zu bieten vermag, verfügt die Aufsichtsbehörde über einen grossen Beurteilungsspielraum. Sie hat indessen stets den Grundsatz der Verhältnismässigkeit zu beachten, d.h. für die Verneinung eines guten Leumundes muss eine gewisse Schwere der Verfehlungen vorliegen, welche mit der Verweigerung der Zulassung in einem vernünftigen Verhältnis zu stehen hat (vgl. Urteile 2C_834/2010 vom 11. März 2011 E. 6.2 und 2C_183/2010 vom 21. Juli 2010 E. 2.3). Bei der Verhältnismässigkeitsprüfung ist insbesondere zu beachten, dass die Revisionspflicht den Schutz von Investoren, von Personen mit Minderheitsbeteiligungen, von Gläubigern bezweckt und der Unternehmensüberwachung dient (zur Sicherung von Arbeitsplätzen und einer nachhaltigen wirtschaftlichen Entwicklung; vgl. dazu die Botschaft vom 23. Juni 2004 zur Änderung des Obligationenrechts [Revisionspflicht im Gesellschaftsrecht] sowie zum Bundesgesetz über Zulassung und Beaufsichtigung der Revisorinnen und Revisoren, BBl 2004 3969 ff. Ziff. 1.4.1). Der Revisionsstelle kommt dabei eine zentrale Rolle zu. Sie soll die Zuverlässigkeit der Jahres- und Konzernrechnung sicherstellen und damit allen geschützten Personengruppen ermöglichen, die wirtschaftliche Lage eines Unternehmens verlässlich beurteilen zu können. Dieses Ziel kann nur erreicht werden, wenn die Revisionsdienstleistungen durch fachlich hinreichend qualifizierte Personen erbracht werden (vgl. BBl 2004 3969 f. Ziff. 1.1.1), deren Qualifikation im Rahmen der Zulassung anhand der strengen Zulassungsvoraussetzungen zu prüfen ist. Die Sicherung der Qualität der Revisionsdienstleistungen ist daher von erheblichem öffentlichen Interesse (vgl. Urteil 2C_438/2008 vom 16. Oktober 2008, E. 3; BBl 2004 3970 ff.). Im Zusammenhang mit dem Entzug der Zulassung hat das Bundesgericht immerhin festgestellt, diese solle die ultima ratio bilden für den Fall, dass zum Schutz der in Frage stehenden öffentlichen Interessen und zur Abwendung von weiteren Störungen einzig die Möglichkeit bleibe, den Betroffenen von der weiteren Berufsausübung auszuschliessen (vgl. Urteil 2C_834/2010 vom 11. März 2011 E. 6.2.3).
3.4 Das Bundesverwaltungsgericht hat erwogen, der Beschwerdeführer sei über Jahre sowohl direkt als auch indirekt an der Z._ AG beteiligt gewesen und bis zum heutigen Zeitpunkt direkt beteiligt, und er sei trotzdem bis zum 1. November 2010 als leitender Revisor bei der Y._ AG für die Durchführung der Revisionen der Z._ AG zuständig gewesen und habe die entsprechenden Revisionsberichte verfasst. Weiter hat das Bundesverwaltungsgericht festgestellt, dem Beschwerdeführer sei nachvollziehbar und schlüssig eine enge (geschäftliche) Beziehung zu A._, welcher Verwaltungsratsmitglied der Z._ AG (seit 1999) sowie bedeutender (bzw. [fiduziarischer] Mehrheits-) Aktionär derselben gewesen sei, nachgewiesen worden. Weiter führte es aus, seit dem 5. Juli 2007 sei die B._ AG als Revisionsstelle der C._ AG eingetragen und der Beschwerdeführer führe über die B._ AG, bei welcher er seit 1999 als Verwaltungsratsmitglied amte (seit 2009 als einziges Verwaltungsratsmitglied) und deren einziger Revisionsmitarbeiter er sei, die Revisionen der C._ AG durch. Die C._ AG führe gleichzeitig bei verschiedenen Gesellschaften der D._ AG, in denen der Beschwerdeführer (einziger) Verwaltungsrat sei, ebenfalls Prüfungen der Jahresrechnungen durch. Die Revisionsunternehmen prüften demnach gegenseitig Gesellschaften, deren Verwaltung jeweils mit ihrer eigenen Revisionsstelle identisch sei (faktische bzw. indirekte gegenseitige Revision).
Der Beschwerdeführer stellt diese Sachverhaltsfeststellungen der Vorinstanz nicht in Abrede.
3.5 Das Bundesverwaltungsgericht führt ausgehend von seinen Sachverhaltsfeststellungen aus, es sei erstellt, dass der Beschwerdeführer mehrfach und fortgesetzt in schwerwiegender Weise gegen die Bestimmung der Unabhängigkeit der Revisionsstelle verstossen habe. Er weise aufgrund seiner direkten und indirekten Beteiligung an der Z._ AG sowie aufgrund einer zumindest dem Anschein nach gegebenen engen Beziehung zu deren Verwaltungsrat und bedeutenden Aktionär A._ als langjähriger Revisor dieser Gesellschaft nicht die erforderliche Unabhängigkeit auf. Dasselbe gelte hinsichtlich der Situation B._ AG/C._ AG.
3.5.1 Dieser Schluss des Bundesverwaltungsgerichts ist nicht zu beanstanden. Der Beschwerdeführer bringt zwar vor, die Vorinstanz habe keinerlei Unterscheidung zwischen ordentlicher und eingeschränkter Revision gemacht. Entgegen seiner Ansicht ist jedoch nicht ersichtlich, inwiefern sich aufgrund dieser Unterscheidung mit Blick auf die gesetzlich geforderte Unabhängigkeit (vgl. Art. 728 und 729 OR) vorliegend relevante Unterschiede ergeben würden. Der Beschwerdeführer legt insbesondere nicht dar, dass es vorliegend lediglich um im Rahmen der eingeschränkten Revision grundsätzlich zulässige Dienstleistungen im Sinne von Art. 729 Abs. 2 OR ging und dass überdies die notwendigen Vorkehrungen zur Vermeidung des Risikos der Überprüfung eigener Arbeiten ergriffen worden wären. Dem Beschwerdeführer ist nicht zu folgen, wenn er im Ergebnis meint, bei einer eingeschränkten Revision seien generell Abstriche von den Anforderungen an die Unabhängigkeit der Revisionsstelle zu machen.
3.5.2 Der Beschwerdeführer bringt im Weiteren vor, eine tatsächliche Verletzung der Unabhängigkeit sei weder behauptet worden, noch sei eine solche bewiesen. Damit stehe lediglich eine Verletzung des Anscheins der Unabhängigkeit zur Diskussion.
Soweit der Beschwerdeführer in diesem Zusammenhang eine Verletzung des rechtlichen Gehörs durch die Vorinstanz beanstandet, kann ihm ebenfalls nicht gefolgt werden: Gemäss Art. 29 Abs. 2 BV haben die Parteien in Verfahren vor Gerichts- und Verwaltungsinstanzen Anspruch auf rechtliches Gehör. Daraus fliesst - nach Massgabe der einschlägigen Rechtsprechung - das Recht, angehört zu werden, am Beweisverfahren mitzuwirken und einen begründeten Entscheid zu erhalten. In der Entscheidbegründung müssen jedenfalls kurz die Überlegungen genannt werden, von denen sich die Behörde leiten liess und auf welche sich ihr Entscheid stützt. Die Behörde muss sich allerdings nicht mit jeder Behauptung und jedem Einwand auseinandersetzen, sondern kann sich auf jene Gesichtspunkte beschränken, die für den Entscheid wesentlich sind (BGE 124 I 241 E. 2; 126 I 97 E. 2b). Das Bundesverwaltungsgericht hat die entscheidwesentlichen Gesichtspunkte behandelt und sein Urteil ausführlich begründet. Es kam zum Schluss, der Beschwerdeführer habe mehrfach und fortgesetzt in schwerwiegender Weise gegen die Bestimmungen der Unabhängigkeit der Revisionsstelle verstossen. Entgegen der Meinung des Beschwerdeführers musste es sich bei diesem Schluss nicht noch detailliert mit seinen Ausführungen betreffend einen Verstoss gegen den blossen Anschein der Verletzung der Unabhängigkeit auseinandersetzen.
Dem Beschwerdeführer kann auch in der Sache nicht gefolgt werden. Er zeigt insbesondere nicht auf, inwiefern - entgegen der vorinstanzlichen Schlussfolgerungen - die gesetzlich geforderte Unabhängigkeit in den untersuchten Verhältnissen gegeben gewesen sein sollte.
3.5.3 Der Beschwerdeführer macht sodann geltend, der Entzug der Bewilligung sei unverhältnismässig.
Hierzu ist vorab festzustellen, dass der Beschwerdeführer fehlgeht, wenn er vorbringt, er verfüge seit 1984 über einen völlig ungetrübten, ausgezeichneten beruflichen Leumund, habe also über 25 Jahre Berufserfahrung, ohne dass ihm etwas vorgeworfen werden könne. Damit blendet er aus, dass er gemäss den verbindlichen Sachverhaltsfeststellungen der Vorinstanz während Jahren die gesetzlichen Vorschriften missachtet hat, wonach die Revisionsstelle unabhängig sein muss und ihre Unabhängigkeit weder tatsächlich noch dem Anschein nach beeinträchtigt sein darf.
Die Vorinstanz hat die Verhältnismässigkeit der angefochtenen Massnahme sorgfältig und umfassend geprüft. Sie hat dabei insbesondere berücksichtigt, dass der Beschwerdeführer über einen langen Zeitraum von fast zehn Jahren regelmässig und mehrfach gegen die für seine Tätigkeit zentralen Unabhängigkeitsvorschriften verstiess. Nachdem er von der Revisionsaufsichtsbehörde auf diesen Zustand hingewiesen worden sei, habe er ihn erst nach 15 bzw. 19 Monaten bereinigt. Die Vorinstanz kam zum Schluss, bei derart schweren Verstössen gegen die Unabhängigkeitsvorschriften komme ein allfällig zulässiger Verweis als mildere Massnahme nicht in Betracht. Gleich verhalte es sich mit einem befristeten Entzug. Diesbezüglich wies die Vorinstanz jedoch darauf hin, dem Beschwerdeführer sei eine erneute Prüfung der Zulassung nach drei Jahren in Aussicht gestellt worden, was einem auf drei Jahren befristeten Entzug nahekomme, wobei der Beschwerdeführer dannzumal allerdings ein neues Gesuch einreichen und die Gewähr für eine einwandfreie Prüfung werde nachweisen müssen. Die Vorinstanz hat bei ihrer Verhältnismässigkeitsüberprüfung sodann auch berücksichtigt, dass der Beschwerdeführer die beanstandeten Verhältnisse - zumindest teilweise - bereinigt hat. Was andererseits die Interessen des Beschwerdeführers betrifft, stellte sie fest, dieser sei bei zahlreichen zur D._ AG gehörenden Gesellschaften als einziger Verwaltungsrat und Revisionsmitarbeiter tätig; insofern seien auch diese Gesellschaften vom Zulassungsentzug betroffen. Jedoch seien in der D._ AG verschiedene Personen mit der entsprechenden Zulassung tätig, sodass die Möglichkeiten von Reorganisationen und Umstrukturierungen vorhanden seien.
Aufgrund dieser Überlegungen kam die Vorinstanz zum Schluss, die Massnahme sei zumutbar und der unbefristete Entzug der Bewilligung erweise sich als verhältnismässig.
Den Ausführungen der Vorinstanz ist beizupflichten. Die von ihr vorgenommene Interessenabwägung ist nicht zu beanstanden. Daran vermag auch der Hinweis des Beschwerdeführers auf Art. 17 Abs. 1 RAG nichts zu ändern, wonach ein Entzug vorerst anzudrohen ist, sofern die Zulassungsvoraussetzungen wiederhergestellt werden können. Der Beschwerdeführer übersieht mit diesem Hinweis, dass vorliegend der Grund für den Entzug im fehlenden unbescholtenen Leumund liegt. Bei dieser Voraussetzung für die Zulassung handelt es sich nicht um kurzfristig änderbare Sachverhaltsumstände. Der Beschwerdeführer argumentiert daher an der Sache vorbei, wenn er sich implizit darauf stützt, dass er seine Verhältnisse neu so geregelt habe, dass inskünftig die Unabhängigkeit gewährleistet sei und auch nicht der Anschein der Gefährdung entstehen könne. Massgebend ist vielmehr, dass er - wie die Vorinstanz in deutlicher Weise festhielt - die entsprechenden gesetzlichen Bestimmungen zuvor während Jahren missachtete. Fehlt geht schliesslich auch die Rüge, der angefochtene Entscheid verletze die Unschuldsvermutung. Dass die Vorinstanz festhielt, falls der Beschwerdeführer eine Selbstanzeige gemacht hätte, hätte er seine Einsicht und Reue auszudrücken vermocht, was allenfalls eine mildere Massnahme als den unbefristeten Entzug ermöglicht hätte, ist nicht zu beanstanden. Es ist im Gegenteil richtig, dass es zugunsten eines Betroffenen berücksichtigt werden kann, wenn er aktiv Massnahmen ergreift, um eine gesetzeswidrige Situation zu korrigieren. Dass die Vorinstanz festhielt, eine mildere Massnahme aufgrund gezeigter Reue und Einsicht sei vorliegend nicht möglich, stellt in keiner Weise eine Verletzung der Unschuldsvermutung dar.
3.6 Zusammenfassend ergibt sich, dass die Vorinstanz zu Recht zum Schluss gekommen ist, der Leumund des Beschwerdeführers sei durch seine in Frage stehenden Pflichtverletzungen in einem Masse beeinträchtigt, welches zur Verweigerung der Zulassung führen müsse.
4. Nach dem Gesagten ist die Beschwerde abzuweisen. Mit dem vorliegenden Entscheid in der Sache wird das Gesuch um aufschiebende Wirkung gegenstandslos.
Der unterliegende Beschwerdeführer wird für das bundesgerichtliche Verfahren kostenpflichtig (Art. 65 f. BGG). Es sind keine Parteientschädigungen geschuldet (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, der Eidgenössischen Revisionsaufsichtsbehörde, dem Bundesverwaltungsgericht, Abteilung II, und dem Eidgenössischen Justiz- und Polizeidepartement schriftlich mitgeteilt.
Lausanne, 8. Mai 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Die Gerichtsschreiberin: Genner