Sachverhalt:
A. A.a Am 5. November 2004 wurde die X._ Holding AG (nunmehr X._ AG, Beklagte) als Auffanggesellschaft eines konkursiten Unternehmens gegründet. Das Aktienkapital der X._ Holding AG von Fr. 500'000.-- wurde bei der Gründung von Z._ (Kläger) und zwei weiteren Aktionären im Umfang von jeweils 10% und von Y._ in der Höhe von 70% aufgebracht. Seit der Gründung bildeten diese vier Aktionäre den Verwaltungsrat der Beklagten. Y._ amtete als Verwaltungsratspräsident, während der Kläger und ein weiterer Aktionär das nötige Know-how einbrachten. Zusätzlich zum Verwaltungsratsmandat übernahm der Kläger die Funktion des Controllers und war als solcher mit der Überwachung und Umsetzung des Geschäftsplans der Beklagten betraut.
Ende 2006 hatte die Beklagte die Gewinnzone noch nicht erreicht. Wegen Überschuldung drohte die Benachrichtigung des Richters durch den Verwaltungsrat gemäss Art. 725 Abs. 2 OR. Dies konnte dank eines von Y._ erklärten Rangrücktritts für ein Aktionärsdarlehen in der Höhe von Fr. 4'900'000.-- vermieden werden.
A.b Mit Schreiben vom 28. Dezember 2007 lud der Verwaltungsratspräsident zu einer Verwaltungsratssitzung am 7. Januar 2008 ein. Traktandiert waren die Verabschiedung des Protokolls der letzten Verwaltungsratssitzung, die Einberufung einer ausserordentlichen Generalversammlung, der Antrag des Verwaltungsrats zuhanden der ausserordentlichen Generalversammlung betreffend Herabsetzung des Aktienkapitals der Beklagten mit gleichzeitiger Wiedererhöhung und Varia. Als Beilagen zur Einladung wurden die Bilanz und Erfolgsrechnung per 31. Dezember 2007 erwähnt. Aufgrund einer Auslandabwesenheit konnte der Kläger an der Verwaltungsratssitzung nicht teilnehmen; ein Verschiebungsgesuch wurde abgelehnt. Anlässlich dieser Sitzung beschloss der Verwaltungsrat, am 18. Februar 2008 eine ausserordentliche Generalversammlung durchzuführen zum Zwecke der Kapitalherabsetzung mit anschliessender Wiedererhöhung des Aktienkapitals und der Abberufung des Klägers aus dem Verwaltungsrat.
A.c Mit Schreiben vom 9. Januar 2008 wurde die Einladung zur ausserordentlichen Generalversammlung vom 18. Februar 2008 an die Aktionäre verschickt. Als Traktanden genannt waren die Kapitalherabsetzung auf Fr. 0.-- mit unmittelbarer Wiedererhöhung auf Fr. 500'000.-- sowie die Abberufung des Klägers aus dem Verwaltungsrat. Mit Schreiben vom gleichen Tag wurde zudem zu einer Verwaltungsratssitzung geladen, welche im Anschluss an die ausserordentliche Generalversammlung stattfinden sollte. Für diese Sitzung traktandiert waren die Verabschiedung des Protokolls der letzten Verwaltungsratssitzung, der Kapitalerhöhungsbericht und der Feststellungsbeschluss betreffend Durchführung der Kapitalerhöhung unmittelbar nach ausgeführter Kapitalherabsetzung, die Anmeldung der Kapitalherabsetzung mit gleichzeitiger Wiedererhöhung auf den bisherigen Betrag beim Handelsregisteramt sowie Varia.
A.d Mit Schreiben vom 29. Januar 2008 wurde den Aktionären der Beklagten ein Zeichnungsschein im Hinblick auf die am 18. Februar 2008 zu beschliessende Kapitalherabsetzung mit gleichzeitiger Wiedererhöhung des Aktienkapitals zugestellt. Zur Begründung wurde im Begleitschreiben angeführt, zwecks Durchführung der geplanten Kapitalerhöhung anlässlich der ausserordentlichen Generalversammlung vom 18. Februar 2008 müsse bis zum 8. Februar 2008 feststehen, wer in welchem Umfang von seinem Bezugsrecht als Aktionär Gebrauch machen wolle. Sollte der Zeichnungsschein nicht bis spätestens am 8. Februar 2008 retourniert werden, werde davon ausgegangen, dass vom Bezugsrecht kein Gebrauch gemacht werde.
Mit Schreiben vom 1. Februar 2008 verlangte der Kläger vom Verwaltungsratspräsidenten die Beantwortung diverser Fragen betreffend den Bestand, die Ursachen und den Umfang des Sanierungsbedarfs sowie Einsicht in Geschäftsdokumente der Beklagten. Mit Schreiben vom 3. Februar 2008 teilte der Kläger der Beklagten mit, er sei aufgrund der noch offenen Fragen derzeit weder in der Lage noch willens, sich bezüglich der Ausübung des Bezugsrechts festzulegen. Mit Schreiben vom 18. Februar 2008 antwortete der Verwaltungsratspräsident auf die Fragen des Beschwerdeführers, indem er mehrfach auf den Geschäftsbericht 2007 verwies und die Rechtmässigkeit des Rangrücktritts, die Funktion des Klägers als Controller und dessen damit einhergehende Kenntnisse über die Finanzlage der Holding betonte.
A.e Am 18. Februar 2008 fand die ausserordentliche Generalversammlung der Beklagten statt. Gemäss Protokoll waren alle Aktienstimmen anwesend oder vertreten. Der Generalversammlung lag der erst am 7. Januar 2008 erstellte provisorische Abschluss des Geschäftsjahres 2007 vor. Es wurden weder der definitive Abschluss des Geschäftsjahres 2007 noch der Geschäftsbericht per 31. Dezember 2007 noch der Bericht der Revisionsstelle vorgelegt. Gemäss den Ausführungen der Beklagten ergab der provisorische Abschluss für das Geschäftsjahr 2007 vor Wertberichtigungen ein negatives Ergebnis von rund Fr. 184'000.-- sowie einen Kapitalverlust von Fr. 4'509'352.--. Der Antrag des Klägers auf Beantwortung seiner im Schreiben vom 1. Februar 2008 an den Verwaltungsrat gestellten Fragen wurde unter Hinweis auf seine Position als Verantwortlicher für das Rechnungswesen und Controlling mit 450 gegen 50 Stimmen abgelehnt. Informationen über weitere beabsichtigte Massnahmen, mit denen die Gesellschaft zusammen mit dem traktandierten Kapitalschnitt saniert werden könnte, wurden der Generalversammlung nicht präsentiert.
Gemäss dem vom 18. Februar 2008 datierenden notariellen Protokoll fasste die ausserordentliche Generalversammlung schliesslich folgende Beschlüsse mit je 450 zu 50 Stimmen:
1. Herabsetzung des Aktienkapitals von bisher Fr. 500'000.--, eingeteilt in 500 Namenaktien zu nominal Fr. 1'000.--, um Fr. 500'000.-- auf Fr. 0.-- durch Abschreibung und Vernichtung sämtlicher Aktien;
2. Wiedererhöhung des Aktienkapitals auf 500 neue Namenaktien zu nominal je Fr. 1'000.--, zu liberieren durch Verrechnung mit einem Aktionärsdarlehen im Betrag von Fr. 500'000.--, wobei die neuen Aktien den bisherigen Aktionären im Verhältnis ihres bisherigen Aktienbesitzes zur Zeichnung anzubieten sind und nicht ausgeübte Bezugsrechte durch den Verwaltungsrat bisherigen Aktionären oder Dritten zugewiesen werden können;
3. Ersatz des herabgesetzten Kapitals bis auf die bisherige Höhe durch voll einbezahltes Aktienkapital;
4. Beauftragung des Verwaltungsrats mit der Durchführung der Kapitalerhöhung und der entsprechenden Anmeldung beim Handelsregister innerhalb der gesetzlichen Frist von drei Monaten;
5. Abwahl des Klägers aus dem Verwaltungsrat.
Der Kapitalerhöhungsbericht des Verwaltungsrates vom 18. Februar 2008 hielt die Kapitalherabsetzung mit anschliessender Wiedererhöhung im vorerwähnten Umfang fest, erwähnte das Bezugsrecht zugunsten der bisherigen Aktionäre und stellte fest, dass ein Aktionär von seinem Bezugsrecht Gebrauch gemacht habe und die übrigen Aktionäre darauf verzichtet hätten. Die auf die nicht ausgeübten Bezugsrechte entfallenden neuen Aktien würden vom Verwaltungsrat dem Aktionär, der von seinem Bezugsrecht Gebrauch gemacht hatte, sowie Dritten zur Zeichnung angeboten werden. Die 500 neuen Namenaktien seien gültig gezeichnet worden und die Liberierung des neuen Aktienkapitals erfolge durch Verrechnung mit einer Darlehensforderung im Betrag von Fr. 500'000.--, welche sich aus den Geschäftsbüchern ergebe. Die Revisionsstelle der Beklagten bestätigte mit Erklärung vom 18. Februar 2008 den Kapitalerhöhungsbericht. Gemäss notariellem Protokoll vom 18. Februar 2008 beschloss der Verwaltungsrat im Anschluss an die ausserordentliche Generalversammlung sodann die Durchführung der Kapitalerhöhung. In der Folge verzichtete der Verwaltungsratspräsident auf eine Forderung gegenüber der Gesellschaft im Umfang von Fr. 3'750'000.--.
A.f Mit Schreiben vom 19. Februar 2008 teilte der Kläger dem Verwaltungsratspräsidenten mit, er übe "vorsorglich und ohne Präjudiz im Umfang von mindestens 1 Aktie" sein Bezugsrecht aus. Gleichzeitig gab er zum Ausdruck, dass er mit dem Vorgehen und dem Ergebnis der ausserordentlichen Generalversammlung nicht einverstanden sei und hielt fest, dass die Voraussetzungen zur Eintragung der Kapitalerhöhung im Handelsregister nicht gegeben seien. Das Handelsregisteramt B._ setzte er mittels Orientierungskopie dieses Schreibens in Kenntnis.
Am gleichen Tag meldete die Beklagte die Beschlüsse der ausserordentlichen Generalversammlung vom 18. Februar 2008 beim Handelsregisteramt B._ an. Das Handelsregisteramt verstand das Schreiben des Klägers als Einsprache gegen die erfolgte Herabsetzung und Wiedererhöhung des Aktienkapitals der Beklagten und setzte dem Kläger mit Schreiben vom 20. Februar 2008 eine Frist von zehn Tagen, um beim Bezirksgericht A._ vorsorgliche Massnahmen zu beantragen. Mit superprovisorischer Verfügung der Bezirksgerichtspräsidentin A._ vom 29. Februar 2008 wurde ein entsprechendes Gesuch des Klägers bewilligt und das Handelsregisteramt B._ angewiesen, vorerst keine Eintragungen in das Handelsregister über die an der ausserordentlichen Generalversammlung der Gesuchsbeklagten und der unmittelbar daran anschliessenden Verwaltungsratsitzung gefassten Beschlüsse zur Abschreibung und gleichzeitigen Wiedererhöhung des Aktienkapitals auf Fr. 500'000.-- vorzunehmen (Ziff. 1). Diese Eintragungssperre wurde mit Verfügung der Bezirksgerichtspräsidentin A._ vom 27. Mai 2008 aufgehoben, nachdem die Beklagte dazu Stellung genommen hatte.
B. B.a Mit Klage vom 17. April 2008 stellte der Kläger dem Bezirksgericht A._ folgende Anträge: Es sei festzustellen, dass alle an der ausserordentlichen Generalversammlung der Beklagten vom 18. Februar 2008 gefassten Beschlüsse gemäss Ziffern 1 (Kapitalherabsetzung), 2 (Wiedererhöhung des Aktienkapitals), 3 (Ersatz des herabgesetzten Kapitals) und 4 (Durchführung der Kapitalerhöhung) des notariellen Protokolls vom 18. Februar 2008 nichtig sind. Eventualiter seien die genannten Beschlüsse kraft Anfechtung im Sinne von Art. 706 OR für ungültig zu erklären und rückwirkend per 18. Februar 2008 aufzuheben. Schliesslich sei festzustellen, dass alle an der Verwaltungsratssitzung der Beklagten vom 18. Februar 2008 gefassten Beschlüsse gemäss öffentlicher Urkunde vom gleichen Tag nichtig sind.
Mit Eingabe vom 12. Dezember 2008 reichte der Kläger seine schriftliche Klagebegründung ein, die in Ziffer 4 ein neues Rechtsbegehren enthielt: "4. Es sei die Beklagte zu verpflichten, den Kläger als Aktionär mit 10% der Aktien anzuerkennen."
Mit Klageantwort vom 20. April 2009 beantragte die Beklagte, das Begehren um Klageänderung sei abzuweisen und auf das Rechtsbegehren gemäss Ziffer 4 der Klage sei nicht einzutreten. Im Übrigen sei die Klage abzuweisen.
Mit Verfügung vom 24. April 2009 ordnete die Bezirksgerichtspräsidentin A._ einen zweiten Schriftenwechsel an, der auf die Frage der Klageänderung und des Nichteintretens auf das Rechtsbegehren gemäss Ziffer 4 der Klagebegründung beschränkt war. Die Parteien hielten in diesem Schriftenwechsel jeweils an ihren Anträgen fest.
Mit Urteil vom 3. März 2010 wies das Bezirksgericht A._ die Klage vollumfänglich ab, soweit es darauf eintrat. Die Gerichtsgebühr von Fr. 8'000.-- zuzüglich Auslagen von Fr. 300.-- wurden dem Kläger auferlegt. Der Kläger wurde verpflichtet, der Beklagten eine Parteientschädigung von Fr. 55'458.10 (inkl. Auslagen und MwSt von Fr. 3'917.10) zu bezahlen.
B.b Gegen das Urteil des Bezirksgerichts legte der Kläger am 3. März 2010 beim Kantonsgericht Basel-Landschaft Appellation ein. In der Appellationsbegründung vom 27. August 2010 beantragte er, es sei das Urteil des Bezirksgerichts A._ vom 3. März 2010 aufzuheben und die Klage gemäss Rechtsbegehren der Klagebegründung vom 12. Dezember 2008 gutzuheissen. Weiter seien sämtliche ordentlichen und ausserordentlichen Kosten des erst- und zweitinstanzlichen Verfahrens der Beklagten aufzuerlegen.
Mit Appellationsantwort vom 18. Oktober 2010 beantragte die Appellatin, es sei die Appellation abzuweisen und die Klageabweisung durch die Vorinstanz zu bestätigen, dies unter Kostenfolge für beide Instanzen.
Mit Urteil vom 18. Januar 2011 hiess das Kantonsgericht die Appellation im Kostenpunkt teilweise gut, auferlegte die ordentlichen Kosten des erstinstanzlichen Verfahrens, bestehend aus einer Gerichtsgebühr von Fr. 8'000.-- zuzüglich Auslagen von Fr. 300.--, den Parteien je zur Hälfte und schlug die ausserordentlichen Kosten des erstinstanzlichen Verfahrens wett. Im Übrigen bestätigte das Kantonsgericht das erstinstanzliche Urteil und auferlegte die ordentlichen Kosten des kantonsgerichtlichen Verfahrens, bestehend aus einer Gebühr von Fr. 25'000.-- zuzüglich Auslagen von Fr. 230.--, den Parteien je zur Hälfte und schlug die ausserordentlichen Kosten des kantonsgerichtlichen Verfahrens ebenfalls wett.
C. C.a Beide Parteien haben gegen das Urteil des Kantonsgerichts Basel-Landschaft Beschwerde in Zivilsachen erhoben.
Der Kläger (Verfahren 4A_290/2011) beantragt dem Bundesgericht, es sei das Urteil des Kantonsgerichts vom 18. Januar 2011 aufzuheben und die Klage gutzuheissen, d.h. es sei festzustellen, dass die Beschlüsse der ausserordentlichen Generalversammlung der Beklagten gemäss Ziffern 1 (Kapitalherabsetzung), 2 (Wiedererhöhung des Aktienkapitals), 3 (Ersatz des herabgesetzten Kapitals) und 4 (Durchführung der Kapitalerhöhung) des notariellen Protokolls vom 18. Februar 2008 sowie alle vom Verwaltungsrat der Beklagten gefassten Beschlüsse gemäss notariellem Protokoll vom 18. Februar 2008 nichtig sind. Eventualiter seien die erwähnten Beschlüsse der Generalversammlung im Sinne von Art. 706 OR für ungültig zu erklären und rückwirkend per 18. Februar 2008 aufzuheben.
Die Beklagte (Verfahren 4A_288/2011) beantragt dem Bundesgericht, es sei das Urteil des Kantonsgerichts vom 18. Januar 2011 aufzuheben, das Urteil des Bezirksgerichts A._ vom 3. März 2010 zu bestätigen und dem Kläger die Gerichtskosten des kantonsgerichtlichen Verfahrens von Fr. 25'230.-- sowie eine Parteientschädigung zugunsten der Beklagten von Fr. 36'863.65 aufzuerlegen. Eventualiter sei die Sache zu neuer Entscheidung an die Vorinstanz zurückzuweisen.
C.b Die Beklagte beantragt in ihrer Vernehmlassung zur Beschwerde des Klägers deren Abweisung. Der Kläger beantragt die Vereinigung der Beschwerden sowie die Abschreibung der Beschwerde der Beklagten wegen Gegenstandslosigkeit zufolge Gutheissung der klägerischen Beschwerde. Eventualiter sei die Beschwerde der Beklagten abzuweisen.
Die Vorinstanz beantragt die Abweisung beider Beschwerden. Die Parteien haben im Verfahren 4A_290/2011 repliziert und dupliziert.
Erwägungen:
1. Wenn - wie hier - an den Verfahren dieselben Parteien beteiligt sind und den Beschwerden der gleiche Sachverhalt zugrunde liegt, behandelt das Bundesgericht die verschiedenen Eingaben in der Regel in einem einzigen Urteil. Es rechtfertigt sich daher unter den gegebenen Umständen, die beiden Beschwerdeverfahren 4A_288/2011 und 4A_290/2011 zu vereinigen.
2. 2.1 Angefochten ist ein verfahrensabschliessender Entscheid (Art. 90 BGG) in einer Zivilsache (Art. 72 BGG) eines oberen kantonalen Gerichts, das als letzte kantonale Instanz in einem Rechtsmittelverfahren geurteilt hat (Art. 75 BGG). Beide Parteien sind mit ihren Rechtsbegehren im kantonalen Verfahren nicht vollumfänglich durchgedrungen (Art. 76 Abs. 1 BGG), der massgebende Streitwert beträgt mehr als Fr. 30'000.-- (Art. 51 i.V.m. Art. 74 Abs. 1 lit. b BGG) und die Beschwerdefrist ist gewahrt (Art. 100 Abs. 1 BGG). Unter Vorbehalt zulässiger Rügen und einer rechtsgenüglichen Begründung (Art. 42 Abs. 2 und 106 Abs. 2 BGG) ist auf die Beschwerden einzutreten.
2.2 Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG). Von diesen tatsächlichen Feststellungen kann es nur dann abweichen, wenn sie offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen (Art. 105 Abs. 2 BGG) und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Offensichtlich unrichtig bedeutet dabei willkürlich (BGE 137 I 58 E. 4.1.2 S. 62, 136 II 304 E. 2.4 S. 313; je mit Hinweisen). In der Beschwerde ist entsprechend den Anforderungen von Art. 106 Abs. 2 BGG zu begründen, inwiefern der von der Vorinstanz festgestellte Sachverhalt einen Mangel im Sinne von Art. 105 Abs. 2 BGG aufweisen soll (BGE 133 II 249 E. 1.4.3 S. 254).
3. Der Kläger rügt in seiner Beschwerde (4A_290/2011), die Vorinstanz habe zu Unrecht die Voraussetzungen eines Kapitalschnitts auf Null mit anschliessender Wiedererhöhung gemäss Art. 732a Abs. 1 OR ("Harmonika") als erfüllt erachtet. Die beschlossene "Harmonika" stelle eine "unnütze Bilanzkosmetik" dar und habe als solche keinen Sanierungszweck aufgewiesen.
3.1 Gemäss Art. 621 OR beträgt das Aktienkapital mindestens Fr. 100'000.--. Es darf im Rahmen einer Kapitalherabsetzung nur unter Fr. 100'000.-- herabgesetzt werden, sofern es gleichzeitig durch neues, voll einzubezahlendes Kapital in der Höhe von mindestens Fr. 100'000.-- ersetzt wird (Art. 732 Abs. 5 OR).
Wird das Aktienkapital im Rahmen einer Kapitalherabsetzung bis auf Null herabgesetzt und anschliessend wieder um den gleichen Betrag erhöht, spricht man von einem "Kapitalschnitt auf Null" (vgl. PETER BÖCKLI, Schweizer Aktienrecht, 4. Aufl. 2009, § 2 N 381a, 385). Mit dem auf 1. Januar 2008 in Kraft getretenen Art. 732a OR hat der Gesetzgeber die Zulässigkeit eines solchen Kapitalschnitts auf Null mit anschliessender Wiedererhöhung zum Zwecke der Sanierung ausdrücklich anerkannt. Dabei gehen gemäss Art. 732a Abs. 1 OR die bisherigen Mitgliedschaftsrechte der Aktionäre unter und ausgegebene Aktien müssen vernichtet werden. Mit dieser Norm hat der Gesetzgeber klargestellt, dass die Gesellschafterstellung in der Kapitalgesellschaft zwingend mit einer Beteiligung am Risikokapital verbunden ist. Geht dieses Risikokapital verloren, muss auch die damit verbundene Beteiligung ein Ende finden (Botschaft zur Revision des Obligationenrechts [GmbH-Recht sowie Anpassungen im Aktien-, Genossenschafts-, Handelsregister- und Firmenrecht], BBl 2002 3148, S. 3233; anders noch für das frühere Recht BGE 121 III 420 E. 4 S. 427 ff.). Der grundsätzlich nicht entziehbaren Mitgliedschaftsstellung des Aktionärs im Falle eines gänzlichen Kapitalverlusts trägt der Gesetzgeber dadurch Rechnung, dass dem Aktionär ein unbedingtes und unentziehbares Recht zugestanden wird, sich im Ausmass seines bisherigen Aktienbesitzes am wieder erhöhten Aktienkapital zu beteiligen (Art. 732a Abs. 2 OR; Botschaft, a.a.O., S. 3234).
3.2 Die Möglichkeit eines Kapitalschnitts auf Null ist gemäss Art. 732a Abs. 1 OR auf Fälle beschränkt, in denen die Kombination einer Kapitalherabsetzung mit einer Kapitalerhöhung dem Zwecke der Sanierung dient (vgl. Botschaft, a.a.O., S. 3233 f.; LUKAS GLANZMANN, Fallstricke bei Gründung und Kapitalerhöhung, in: Kunz et al. [Hrsg.], Entwicklungen im Gesellschaftsrecht VI, Bern 2011, S. 30; für die Lage nach altem Recht vgl. BGE 86 II 78 E. 3 und 4 S. 80 - 86; 121 III 420 E. 4 S. 427). Saniert werden kann nur eine sanierungsbedürftige Gesellschaft. Gemäss der Botschaft darf ein Kapitalschnitt auf Null denn auch nur dann beschlossen werden, wenn das Aktienkapital der Gesellschaft bei objektiver Beurteilung vollständig verloren ist (Botschaft, a.a.O., S. 3233 f.). Vorausgesetzt ist mithin eine Sanierungsbedürftigkeit, wie sie bei einer Überschuldung i.S. von Art. 725 Abs. 2 OR vorliegt.
Gemäss den Feststellungen der Vorinstanz wies die Jahresrechnung 2006 der Beklagten einen Bilanzverlust von Fr. 4'899'177.-- und ein negatives Eigenkapital von Fr. 4'399'177.-- aus. Im Jahr 2007 erzielte die Beklagte zwar einen Gewinn von Fr. 390'000.--, was aber nichts daran änderte, dass sie im Februar 2008 nach wie vor eine Überschuldung i.S. von Art. 725 Abs. 2 OR aufwies. Die Sanierungsbedürftigkeit der Beklagten war im Zeitpunkt der ausserordentlichen Generalversammlung vom 18. Februar 2008 damit ausgewiesen.
3.3 Das Vorliegen einer Sanierungsbedürftigkeit allein macht einen Kapitalschnitt auf Null indessen noch nicht per se zu einer Massnahme mit Sanierungszweck. Der im vorliegenden Fall beschlossene Kapitalschnitt mit anschliessender Wiedererhöhung auf das ursprüngliche Aktienkapital von Fr. 500'000.-- vermochte die Überschuldung der Beklagten im Umfang von rund Fr. 4 Mio. denn auch lediglich zu mildern, keineswegs aber zu beseitigen. Fraglich ist, ob dennoch von einer Massnahme zum Zwecke der Sanierung die Rede sein kann.
3.3.1 Der Begriff des Sanierungszwecks i.S. von Art. 732a Abs. 1 OR wird im Gesetz nicht näher definiert. Die Lehre knüpft an den Sanierungsbegriff des Art. 725 OR an und verlangt, dass eine "Harmonika" im Zuge einer echten Sanierung im Sinne des Art. 725 OR durchgeführt wird (BÖCKLI, a.a.O., § 2 N 388). Unter Sanierung werden sämtliche Massnahmen verstanden, die auf die finanzielle Gesundung der Gesellschaft (BGE 121 III 420 E. 2b S. 424), d.h. auf den Fortbestand der Gesellschaft und die Verhinderung der Liquidation abzielen (CHRISTOPH B. BÜHLER, Sanierung der Aktiengesellschaft, in: Kunz et al. [Hrsg.], a.a.O., S. 39 f.). Im Falle einer Überschuldung ist das kurzfristige Ziel von Sanierungsmassnahmen, die Gesellschaft mindestens in einen Zustand zu versetzen, dass die Anrufung des Richters nach Art. 725 Abs. 2 OR unabhängig von allfälligen Rangrücktrittserklärungen vermieden werden kann. Auf dieses Mindestziel muss die "Harmonika" ausgerichtet sein, um einen Sanierungszweck aufzuweisen.
3.3.2 Führt die im Rahmen der "Harmonika" beschlossene Kapitalerhöhung dazu, dass die Überschuldung gänzlich beseitigt wird, ist dieses Ziel ohne weiteres erreicht. Die tatsächliche Beseitigung der Überschuldung ist aber nicht zwingende Voraussetzung dafür, um von der Anrufung des Richters nach Art. 725 Abs. 2 OR absehen zu können. Gemäss der Rechtsprechung braucht der Richter auch dann nicht angerufen zu werden, wenn die Leitungsorgane der Gesellschaft unverzüglich Massnahmen ergreifen, welche vernünftige Aussichten auf eine nachhaltige Sanierung begründen (BGE 132 III 564 E. 5.1 S. 573 mit Hinweisen). Reicht die Kapitalerhöhung allein noch nicht aus, um die Überschuldung zu beseitigen, kann eine "Harmonika" damit dennoch einen Sanierungszweck aufweisen, falls sie zusammen mit weiteren Massnahmen die Überschuldung beseitigt und zur Sanierung führt (vgl. auch PETER FORSTMOSER/HANS-UELI VOGT, Liberierung durch Verrechnung mit einer nicht werthaltigen Forderung: eine zulässige Form der Sanierung einer überschuldeten Gesellschaft?, in: ZSR 2003, S. 551). Der Sanierungszweck der "Harmonika" entfaltet sich diesfalls im Verbund eines Massnahmenpakets, das auf eine nachhaltige Sanierung ausgerichtet ist.
3.3.3 Will der Verwaltungsrat, dem die Vorbereitung erforderlicher Sanierungsmassnahmen obliegt (WÜSTINER, in: Basler Kommentar, 3. Aufl., 2008, N. 28 zu Art. 725 OR), eine "Harmonika" zum Zwecke der Sanierung durchführen, muss diese folglich entweder die Überschuldung direkt beseitigen oder es müssen gleichzeitig weitere Sanierungsmassnahmen in Angriff genommen werden. Diese müssen zusammen mit der Kapitalerhöhung vernünftige Aussichten auf eine nachhaltige Sanierung der Gesellschaft geben. Der Verwaltungsrat muss über ein Sanierungskonzept verfügen, das ihn unabhängig von allfälligen Rangrücktrittserklärungen von der Pflicht zur Benachrichtigung des Richters gemäss Art. 725 Abs. 2 OR entbindet.
Für die Beschlussfassung über einen Kapitalschnitt auf Null mit anschliessender Wiedererhöhung des Aktienkapitals ist die Generalversammlung zuständig (Art. 732 Abs. 1 OR). Soll eine "Harmonika" zum Zwecke der Sanierung durchgeführt werden, die als isolierte Massnahme die Überschuldung nicht beseitigt, muss der Verwaltungsrat die Generalversammlung über die weiteren Massnahmen informieren, mit denen zusammen der Sanierungszweck erreicht werden soll. Das entsprechende Sanierungskonzept hat der Verwaltungsrat der Generalversammlung als dem für die Beschlussfassung zuständigen Organ vorzulegen. Ohne Kenntnis dieses Konzepts kann die Generalversammlung nicht beurteilen, ob die traktandierte "Harmonika" einen Sanierungszweck aufweist. Zudem können auch die Aktionäre ohne Aufklärung über das Sanierungskonzept keinen informierten Entscheid darüber fällen, ob sie durch Ausübung ihres Bezugsrechts weiterhin an der Gesellschaft partizipieren wollen. Darin läge eine unzulässige Beschränkung des Bezugsrechts nach Art. 732a Abs. 2 OR.
3.4 Gemäss den Feststellungen der Vorinstanz wurden der ausserordentlichen Generalversammlung keine Informationen über weitere Massnahmen präsentiert, mit denen die Gesellschaft saniert werden sollte. Es wurde namentlich auch kein Verzicht auf die Rückzahlung eines Aktionärsdarlehens in Aussicht gestellt, geschweige denn ein eigentliches Sanierungskonzept vorgelegt. Die Einwände der Beklagten gegen diese Feststellungen sind mangels hinreichend substanziierter Sachverhaltsrügen unbeachtlich (vgl. oben E. 2.2).
Mangels Bekanntgabe von weiteren Massnahmen, welche zusammen mit der Kapitalerhöhung vernünftige Aussichten auf eine nachhaltige Sanierung gaben, konnte die ausserordentliche. Generalversammlung vom 18. Februar 2008 nicht beurteilen, ob die beantragte "Harmonika" einen Sanierungszweck aufweisen sollte. Ohne Kenntnis eines Sanierungskonzepts konnten die Aktionäre schliesslich auch keinen informierten Entscheid darüber fällen, ob sie durch Ausübung des Bezugsrechts nach Art. 732a Abs. 2 OR weiterhin an der Gesellschaft partizipieren wollten. Die Voraussetzungen eines Kapitalschnitts auf Null gemäss Art. 732a Abs. 1 OR waren nicht gegeben, womit sich die beschlossene "Harmonika" als rechtswidrig erweist.
4. 4.1 Gemäss Art. 706 OR können der Verwaltungsrat und jeder Aktionär Beschlüsse der Generalversammlung, die gegen das Gesetz oder die Statuten verstossen, beim Richter mit Klage gegen die Gesellschaft anfechten (Abs. 1). Anfechtbar sind insbesondere Beschlüsse, die unter Verletzung von Gesetz oder Statuten oder in unsachlicher Weise Rechte von Aktionären entziehen oder beschränken (Abs. 2 Ziff. 1 und 2). Das Urteil, das einen Beschluss der Generalversammlung aufhebt, wirkt für und gegen alle Aktionäre (Abs. 5). Es handelt sich um ein auflösendes Gestaltungsurteil, das zu einer rückwirkenden Aufhebung des angefochtenen Generalversammlungsbeschlusses führt (BGE 110 II 387 E. 2c S. 390). Das Anfechtungsrecht erlischt, wenn die Klage nicht spätestens zwei Monate nach der Generalversammlung erhoben wird (Art. 706a Abs. 1 OR). Gemäss Art. 706b OR können sich Beschlüsse der Generalversammlung auch als nichtig erweisen. Nichtig sind insbesondere Beschlüsse, die vom Gesetz zwingend gewährte Rechte des Aktionärs entziehen oder beschränken, Kontrollrechte von Aktionären über das gesetzlich zulässige Mass hinaus beschränken oder die Grundstrukturen der Aktiengesellschaft missachten bzw. die Bestimmungen zum Kapitalschutz verletzen (Art. 706b Ziff. 1 bis 3 OR).
Die vorliegend angefochtene "Harmonika" erweist sich aufgrund des Verstosses gegen Art. 732a Abs. 1 OR zwar nicht als nichtig i.S. von Art. 706b OR, wohl aber als gesetzeswidrig i.S. von Art. 706 Abs. 1 OR. Die angefochtenen Beschlüsse der ausserordentlichen Generalversammlung der Beklagten vom 18. Februar 2008 gemäss Ziffern 1 (Kapitalherabsetzung), 2 (Wiedererhöhung des Aktienkapitals), 3 (Ersatz des herabgesetzten Kapitals) und 4 (Durchführung der Kapitalerhöhung) sind damit in Gutheissung der fristgerecht innert zwei Monaten nach der Generalversammlung angehobenen Anfechtungsklage rückwirkend aufzuheben.
4.2 Mit den Feststellungsbeschlüssen gemäss notariellem Protokoll vom 18. Februar 2008 beschloss der Verwaltungsrat der Beklagten, die Wiedererhöhung des Aktienkapitals gemäss Art. 650 Abs. 1 Satz 2 OR durchzuführen. Ein solcher Durchführungsbeschluss muss sich auf einen entsprechenden Kapitalerhöhungsbeschluss der Generalversammlung stützen; er darf davon nicht abweichen (Art. 650 Abs. 1 Satz 1 OR; BÖCKLI, § 2 N 164, 166a; vgl. auch BGE 132 III 668 E. 3.3.1 S. 675 f.).
Gemäss Art. 714 OR gelten für Beschlüsse des Verwaltungsrats sinngemäss die gleichen Nichtigkeitsgründe wie für Generalversammlungsbeschlüsse. Nichtig sind namentlich Verwaltungsratsbeschlüsse, die in schwerwiegender Weise gegen zwingende und grundlegende Normen des Aktienrechts verstossen (BGE 133 III 77 E. 5 S. 79; 115 II 468 E. 3b S. 473 f.). Gegen einen nichtigen Beschluss kann eine Klage auf Feststellung der Nichtigkeit erhoben werden. Das Feststellungsurteil, das die Nichtigkeit feststellt, wirkt gegenüber jedermann (WERNLI, in: Basler Kommentar, 3. Aufl., 2008, N. 7 zu Art. 714 OR; PETER/CAVADINI, in: Commentaire romand, 2008, N. 9 zu Art. 714 OR).
Nachdem sich die von der Generalversammlung getroffenen Beschlüsse über die "Harmonika" vorliegend als ungültig erweisen, ist dem Durchführungsbeschluss des Verwaltungsrats vom 18. Februar 2008 die Grundlage entzogen. Mangels einer entsprechenden Ermächtigung durch einen gültigen Erhöhungsbeschluss der GV leidet der vorliegend angefochtene Durchführungsbeschluss des Verwaltungsrats der Beklagten an einem schwerwiegenden Mangel und erweist sich als nichtig gemäss Art. 714 OR.
5. Die Beschwerde des Klägers (4A_290/2011) ist begründet, soweit die rückwirkende Aufhebung der angefochtenen Beschlüsse der ausserordentlichen Generalversammlung der Beklagten vom 18. Februar 2008 gemäss Ziffern 1 - 4 sowie die Feststellung verlangt wird, dass die vom Verwaltungsrat der Beklagten gefassten Beschlüs-se gemäss notariellem Protokoll vom 18. Februar 2008 nichtig sind (Ziffern 1b und 2 der Beschwerdeanträge). Der angefochtene Ent-scheid ist aufzuheben und die Rechtsbegehren gemäss Ziffern 1b und 2 der klägerischen Beschwerde sind gutzuheissen. Ferner ist die Sache zur Neuregelung der Kosten- und Entschädigungsfolgen des kantonalen Verfahrens an die Vorinstanz zurückzuweisen (Art. 67 und 68 Abs. 5 BGG).
Mit der Aufhebung des angefochtenen Entscheids entfällt das Anfechtungsobjekt der Beschwerde der Beklagten (4A_288/2011), womit diese gegenstandslos wird.
Dem Ausgang des Verfahrens entsprechend wird die Beklagte für das bundesgerichtliche Verfahren kosten- und entschädigungspflichtig (Art. 66 Abs. 1 sowie Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Verfahren 4A_288/2011 und 4A_290/2011 werden vereinigt.
2. Die Beschwerde des Klägers (4A_290/2011) wird gutgeheissen und das angefochtene Urteil des Kantonsgerichts Basel-Landschaft, Abteilung Zivilrecht, vom 18. Januar 2011 wird aufgehoben.
3. Die Beschlüsse der ausserordentlichen Generalversammlung der Beklagten gemäss Ziffern 1 (Kapitalherabsetzung), 2 (Wiedererhöhung des Aktienkapitals), 3 (Ersatz des herabgesetzten Kapitals) und 4 (Durchführung der Kapitalerhöhung) des notariellen Protokolls vom 18. Februar 2008 werden rückwirkend aufgehoben.
4. Es wird die Nichtigkeit der vom Verwaltungsrat der Beklagten gefassten Beschlüsse gemäss notariellem Protokoll vom 18. Februar 2008 festgestellt.
5. Die Sache wird zur Neuregelung der Kosten- und Entschädigungsfolgen des kantonalen Verfahrens an die Vorinstanz zurückgewiesen.
6. Die Beschwerde der Beklagten (4A_288/2011) wird als gegenstandslos abgeschrieben.
7. Die Gerichtskosten von insgesamt Fr. 10'000.-- werden der Beklagten auferlegt.
8. Die Beklagte hat den Kläger für das bundesgerichtliche Verfahren mit Fr. 11'500.-- zu entschädigen.
9. Dieses Urteil wird den Parteien und dem Kantonsgericht Basel-Landschaft, Abteilung Zivilrecht, schriftlich mitgeteilt.
Lausanne, 13. Februar 2012
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Hurni