Sachverhalt:
A. B. Y._ (Arbeitnehmer) war seit 1. November 1977 für die X._ (Beschwerdegegnerin), ab 1. Januar 1978 in der Funktion als Direktor, tätig. Die X._ kündigte das Arbeitsverhältnis mit Schreiben vom 17. März 2006 auf den 31. Dezember 2006. Der Arbeitnehmer focht diese Kündigung am 6. März 2007 klageweise beim Zivilgericht Basel-Stadt an und beantragte, die X._ sei zu verurteilen, ihm Fr. 234'951.25, eventualiter Fr. 443'073.85, jeweils zuzüglich Verzugszins zu 5 % seit 1. März 2007, zu bezahlen. Die X._ stellte das Rechtsbegehren, die Klage sei abzuweisen und verlangte widerklageweise, es sei festzustellen, dass die Kündigung gültig sei, das Arbeitsverhältnis der Parteien folglich am 31. Dezember 2006 geendet habe und keine weiteren Lohnzahlungen mehr geschuldet seien. Mit Entscheid vom 5. November 2008 wies das Zivilgericht Basel-Stadt die Klage ab und trat auf die Feststellungswiderklage nicht ein.
B. Dagegen erhob B. Y._ in Erneuerung seiner Anträge aus dem Verfahren vor Zivilgericht Appellation. Am 5. Dezember 2009 ist er verstorben. Seine Ehefrau, A. Y._ (nachfolgend: Beschwerdeführerin), trat als Rechtsnachfolgerin ins Verfahren ein. Mit Zwischenurteil vom 22. Dezember 2010 lehnte das Appellationsgericht des Kantons Basel-Stadt das mittels Eingabe vom 26. November 2010 von ihr gestellte Ablehnungsbegehren gegen die Appellationsgerichtspräsidenten L._ und M._ ab. Im Anschluss daran änderte das Appellationsgericht den Entscheid des Zivilgerichts insoweit ab, als es festhielt, die X._ habe der Beschwerdeführerin eine Genugtuung in der Höhe von Fr. 8'500.-- zuzüglich Zins zu 5 % seit 1. März 2007 zu bezahlen; im Übrigen wies es die Appellation ab (Urteil vom 22. Dezember 2010).
C. A. Y._ führt gegen das Urteil betreffend Forderung aus Arbeitsverhältnis Beschwerde in Zivilsachen und wiederholt die in der Klage und in der Appellation vorgebrachten Rechtsbegehren; ausserdem beantragt sie, die Gerichts- und Parteikosten sämtlicher drei Instanzen seien der Beschwerdegegnerin aufzuerlegen.
Gegen das Zwischenurteil vom 22. Dezember 2010 betreffend Ausstand erhebt A. Y._ ebenfalls Beschwerde in Zivilsachen (Verfahren 4A_308/2011). Das Gesuch von A. Y._ um Vereinigung der Verfahren 4A_306/2011 und 4A_308/2011 ist vom Bundesgericht abgelehnt worden (Präsidialverfügung vom 9. Juni 2011). Mit heutigem Datum hat das Bundesgericht die Beschwerde im Verfahren 4A_308/2011 abgewiesen.
Die X._ lässt auf Abweisung der Beschwerde schliessen, soweit darauf eingetreten werde könne. A. Y._ hat sich am 20. Oktober 2011 zu dieser Eingabe geäussert. Die X._ hat am 7. November 2011 eine weitere Vernehmlassung einreichen lassen.
Erwägungen:
1. Die Streitsache ist zivilrechtlicher Natur, womit die Beschwerde in Zivilsachen das ordentliche Rechtsmittel ist (Art. 72 Abs. 1 BGG). Angefochten ist ein Endurteil (Art. 90 BGG) einer oberen kantonalen Instanz, die als Rechtsmittelbehörde entschieden hat (Art. 75 Abs. 1 und 2 BGG). Die Beschwerdeführerin ist mit ihren Anträgen vor der Vorinstanz unterlegen (Art. 76 BGG), die Beschwerdefrist (Art. 100 i.V.m. Art. 46 BGG) ist eingehalten und der Streitwert übersteigt die Grenze nach Art. 74 Abs. 1 lit. a BGG. Demnach ist - mit nachfolgenden Vorbehalten - auf die Beschwerde einzutreten.
2. 2.1 Nach Art. 42 Abs. 1 BGG hat die Beschwerdeschrift Begehren und Begründung zu enthalten. In der Begründung ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt (Art. 42 Abs. 2 BGG). Die Vorbringen müssen sachbezogen sein, damit aus der Beschwerdeschrift ersichtlich ist, in welchen Punkten und weshalb der angefochtene Entscheid beanstandet wird. Dies setzt voraus, dass sich ein Beschwerdeführer wenigstens kurz mit den Erwägungen des angefochtenen Entscheids auseinandersetzt (BGE 134 II 244 E. 2.1 S. 245 f.). Die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht kann das Bundesgericht nur insofern prüfen, als eine solche Rüge in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG; BGE 136 I 65 E. 1.3.1 S. 68; 134 II 244 E. 2.2 S. 246; 133 III 439 E. 3.2 S. 444). Macht der Beschwerdeführer eine Verletzung des Willkürverbots von Art. 9 BV geltend, genügt es nicht, wenn er einfach behauptet, der angefochtene Entscheid sei willkürlich. Er hat vielmehr im Einzelnen aufzuzeigen, inwiefern dieser offensichtlich unhaltbar ist (BGE 135 III 513 E. 4.3 S. 522; 134 II 349 E. 3 S. 352). Das Bundesgericht hebt einen Entscheid jedoch nur auf, wenn nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist. Dass eine andere Lösung ebenfalls als vertretbar oder gar zutreffend erscheint, genügt nicht (BGE 137 I 1 E. 2.4; 133 I 149 E. 3.1; 131 I 467 E. 3.1 S. 474).
2.2 Nach Art. 105 BGG legt das Bundesgericht seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Abs. 1). Es kann diese Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Abs. 2). Die Voraussetzungen für eine Sachverhaltsrüge nach Art. 97 Abs. 1 BGG und für eine Berichtigung des Sachverhalts von Amtes wegen nach Art. 105 Abs. 2 BGG stimmen im Wesentlichen überein. Soweit es um die Frage geht, ob der Sachverhalt willkürlich oder unter verfassungswidriger Verletzung einer kantonalen Verfahrensregel ermittelt worden ist, sind strenge Anforderungen an die Begründungspflicht der Beschwerde gerechtfertigt. Entsprechende Beanstandungen sind nach Massgabe von Art. 106 Abs. 2 BGG zu begründen. Demzufolge genügt es nicht, einen von den tatsächlichen Feststellungen der Vorinstanz abweichenden Sachverhalt zu behaupten. Vielmehr ist in der Beschwerdeschrift nach den erwähnten gesetzlichen Erfordernissen darzulegen, inwiefern diese Feststellungen willkürlich bzw. unter Verletzung einer verfahrensrechtlichen Verfassungsvorschrift zustande gekommen sind. Andernfalls können Vorbringen mit Bezug auf einen Sachverhalt, der von den Feststellungen im angefochtenen Entscheid abweicht, nicht berücksichtigt werden. Vorbehalten bleiben offensichtliche Sachverhaltsmängel im Sinne von Art. 105 Abs. 2 BGG, die dem Gericht geradezu in die Augen springen (BGE 133 II 249 E. 1.4.3 S. 254 f. mit Hinweisen).
2.3 Diesen Anforderungen genügt die Beschwerde über weite Strecken nicht. Die Beschwerdeführerin schildert dem Bundesgericht unter dem Titel "Sachverhalt" ihre Sicht der Dinge, wobei sie beliebig von den Feststellungen im angefochtenen Urteil abweicht oder diese erweitert, und wörtlich wiederholt, was sie im kantonalen Verfahren vorgebracht hat. Darauf ist nicht einzutreten. Dasselbe gilt für ihre weiteren Ausführungen, soweit sie sich darin mit dem angefochtenen Urteil in keiner Weise auseinandersetzt. Ihre Verweise auf die bisherigen Rechtsschriften sind nicht zulässig (Art. 42 Abs. 1 und 2 BGG; BGE 134 II 244).
3. 3.1 Die Beschwerdeführerin rügt zunächst, die Vorinstanz habe den Anspruch auf ein unbefangenes, unvoreingenommenes und unparteiisches Gericht verletzt. Soweit sie damit das Zwischenurteil des Appellationsgerichts vom 22. Dezember 2010 (Verfahren 4A_308/2011) anfechten will, kann darauf im vorliegenden Prozess, in welchem das Urteil des Appellationsgerichts vom 22. Dezember 2010 betreffend Forderung aus Arbeitsverhältnis den Anfechtungsgegenstand bildet, nicht eingetreten werden.
3.2 Nach Art. 30 Abs. 1 BV und Art. 6 Ziff. 1 EMRK hat jede Person Anspruch darauf, dass ihre Sache von einem unbefangenen, unvoreingenommenen und unparteiischen Gericht beurteilt wird. Es soll garantiert werden, dass keine sachfremden Umstände, welche ausserhalb des Prozesses liegen, in sachwidriger Weise zugunsten oder zulasten einer Partei auf das gerichtliche Urteil einwirken. Die Garantie des verfassungsmässigen Richters wird verletzt, wenn bei objektiver Betrachtung Gegebenheiten vorliegen, die den Anschein der Befangenheit oder die Gefahr der Voreingenommenheit zu begründen vermögen (BGE 114 Ia 50 E. 3b und 3c S. 53 ff.; BGE 134 I 20 E. 4.2 S. 21; BGE 131 I 24 E. 1.1 S. 25, BGE 131 I 113 E. 3.4 S. 116, mit Hinweisen). Im Lichte der Garantie gemäss Art. 30 Abs. 1 BV und Art. 6 Ziff. 1 EMRK darf eine Gerichtsperson Vergleichsgespräche aufgrund provisorischer Einschätzung der Sach- und Rechtslage führen und eine vorläufige Auffassung mit Zurückhaltung und unter dem Vorbehalt der förmlichen Streitentscheidung auch zum Ausdruck bringen (vgl. BGE 134 I 238 E. 2.4 S. 244; 131 I 113 E. 3.6 S. 119 f. mit zahlreichen Hinweisen).
Dass die Appellationsgerichtspräsidentin anlässlich der Hauptverhandlung über eine gefestigtere Rechtsauffassung verfügt als zu Beginn des Verfahrens, ist nachvollziehbar und dem Abschluss eines Vergleichs in der Regel förderlich. Auch in einem solchen Fall erscheint die Richterin bei objektiver Betrachtung nicht allein deswegen befangen, weil sie ihre Auffassung im Rahmen von Vergleichsgesprächen gegenüber den Parteien äussert (Urteil 5A_895/2010 vom 21. Februar 2011 E. 3.2). Soweit die Beschwerdeführerin Entsprechendes annimmt, vermag sie damit keine Verletzung von Art. 30 Abs. 1 BV bzw. Art. 6 Ziff. 1 EMRK darzutun. Das Mitglied des Gerichts könnte nur abgelehnt werden, wenn der vorhergehende Vergleichsvorschlag den objektiv begründeten Anschein der Befangenheit hervorruft (vgl. BGE 131 I 113 E. 3.6; vgl. auch BGE 119 Ia 81 E. 4b S. 87). Solches kann hier nicht angenommen werden. Im Übrigen entspricht der Vergleichsvorschlag (Verzicht der Beschwerdeführerin auf Forderungen bei hälftiger Aufteilung der ordentlichen Kosten und Wettschlagung der ausserordentlichen Kosten) nicht dem Urteil betreffend Forderung aus Arbeitsverhältnis vom 22. Dezember 2010.
3.3 Soweit die Beschwerdeführerin die Voreingenommenheit des Appellationsgerichts damit begründet, dass dieses im Streitpunkt eine andere Meinung als sie selbst vertritt, kann ihr nicht gefolgt werden. Abweichende Standpunkte in der Sache lassen die Gerichtsmitglieder bei objektiver Betrachtung nicht schon als befangen erscheinen. Der Beschwerdeführerin kann sodann nicht gefolgt werden, wenn sie die Ansicht vertritt, die Appellationsrichterin N._ sei schon deshalb befangen, weil sie angeblich gleich wie der Präsident des Vorstandes der Beklagten und deren Rechtsvertreter Mitglied des Clubs Z._ sei. Die Zugehörigkeit zu einem Verband oder Verein allein vermag ohne besondere zusätzliche Umstände aus objektiver Sicht die Gefahr der Voreingenommenheit nicht zu begründen. Derartige besondere Umstände sind aber nicht schon darin zu sehen, dass sich die Vereinsmitglieder periodisch zum Essen treffen sollen und die Pflege der Freundschaft zum Zwecke, sich anderen nützlich zu erweisen, in den Statuten enthalten sei. Dass die Richterin mit dem Organ der Beklagten eine besondere persönliche Freundschaft verbinde, behauptet die Beschwerdeführerin nicht und benennt dafür auch keine weiteren Anhaltspunkte. Erst recht ist nicht ersichtlich, inwiefern die ganz besonderen Voraussetzungen erfüllt sein könnten, unter denen persönliche Beziehungen einer Richterin nicht zur Partei, sondern deren Vertreter eine Befangenheit zu begründen vermöchten.
3.4 Aus dem Umstand, dass das Zwischenurteil vom 22. Dezember 2010 im Zeitpunkt der Durchführung der Hauptverhandlung im Appellationsverfahren betreffend Forderung aus Arbeitsverhältnis noch nicht in Rechtskraft erwachsen war, kann die Beschwerdeführerin nichts zu ihren Gunsten ableiten. Das Gericht nahm damit lediglich (aber immerhin) in Kauf, dass es das Verfahren in anderer Besetzung hätte durchführen müssen, falls die Rüge der Befangenheit sich im Verfahren 4A_308/2011 als berechtigt herausgestellt hätte.
4. Die Beschwerdeführerin wirft der Vorinstanz weiter vor, sie habe, basierend auf einer offensichtlich unrichtigen Sachverhaltsfeststellung, in willkürlicher Weise die Nichtigkeit der Kündigung des Arbeitsvertrages vom 17. März 2006 (wegen Verletzung der Sperrfrist infolge Krankheit gemäss Art. 336c Abs. 1 lit. b OR) verneint.
4.1 Das Appellationsgericht gelangt - ausgehend von der unbestrittenen Tatsache, dass die Kündigung vom 17. März 2006 dem Arbeitnehmer spätestens am 20. März 2006 zugegangen ist - in Würdigung der gesamten Umstände zur Auffassung, die Auflösung des Arbeitsverhältnisses durch die Beschwerdegegnerin sei gültig erfolgt. Der Arbeitnehmer sei im Zeitpunkt der Kündigung zu 100 % arbeitsfähig gewesen, weshalb diese nicht in eine Sperrfrist gefallen sei. Ins Gewicht fällt dabei für die Vorinstanz namentlich, dass der Arbeitnehmer nach den vom 6. Januar bis 1. März 2006 durchgeführten Bestrahlungen zur Behandlung des Prostatakarzinoms die Arbeit am 9. März 2006 wieder aufgenommen hatte und sich selber an sämtliche Vorstandsmitglieder und Mitgliederverbände der Beschwerdegegnerin wandte mit der Mitteilung, er sei vollständig genesen, weshalb er "die administrative und wirtschaftspolitische Leitung (...) wieder vollumfänglich übernommen" habe. Zudem liege kein Arztzeugnis vor, welches für den Zeitpunkt der Kündigung eine volle oder teilweise Arbeitsunfähigkeit attestieren würde. Der behandelnde Dr. med. C._, welcher den Arbeitnehmer letztmals am 1. März 2006 gesehen habe, habe am 26. Oktober 2006 retrospektiv nur eine allgemeine Einschätzung, basierend auf Erfahrungswerten, nicht bezogen auf die konkrete Situation, abgegeben. Darauf könne nicht abgestellt werden.
4.2 Die Beschwerdeführerin macht geltend, die Beschwerdegegnerin habe die Arbeitsunfähigkeit zur Zeit der Kündigung anerkannt, indem sie in ihrer schriftlichen Begründung der Kündigung vom 31. März 2006 neben dem fehlenden Vertrauensverhältnis zwischen Direktor, leitendem Ausschuss und Vorstand den schlechten Gesundheitszustand als Kündigungsgrund angegeben habe. Zu Recht wendet sie ein, das Appellationsgericht habe sich mit dieser Kündigungsbegründung nicht auseinandergesetzt .
Es ist der Beschwerdeführerin beizupflichten, dass es nicht auf das subjektive Empfinden eines Arbeitnehmers ankommt, ob er sich arbeitsfähig fühlt oder nicht. Anderseits sollte sich aber auch die Arbeitgeberin nicht anmassen, eine abschliessende Beurteilung der Auswirkungen eines Gesundheitszustandes auf die Arbeitsfähigkeit abzugeben. In diesem Sinn kann die Kündigungsbegründung der X._ allerdings auch nicht verstanden werden. Soweit darin auf die schwere Erkrankung vom "16. September 2005" hingewiesen und feststellt wird, dass der Arbeitnehmer "seit Monaten nicht mehr in der Lage" gewesen sei, seine Aufgaben als Direktor wahrzunehmen, geht es um den unbestrittenen Umstand, dass er zumindest während der Dauer der Bestrahlung (ab 6. Januar bis 1. März 2006) und davor aufgrund einer anderen Gesundheitseinschränkung auch schon in den letzten Monaten des Jahres 2005 seine Erwerbstätigkeit nicht ausüben konnte. Indem die X._ weiter ausführt, es sei ihm nach der Rückkehr an den Arbeitsplatz - trotz anderslautenden Zusicherungen - nicht möglich gewesen, seine Arbeit mit jenem Einsatz auszuführen, den die anspruchsvolle Aufgabe erfordere, ist darin nicht ohne weiteres eine "Anerkennung" einer teilweisen oder vollen Arbeitsunfähigkeit zu sehen. Vielmehr kann diese Textstelle auch so verstanden werden, dass die Arbeitgeberin dem Direktor mit Blick auf dessen Gesundheitszustand die grosse Motivation und übermässige Einsatzbereitschaft absprach, um die X._ weiterhin erfolgreich zu führen, was nicht mit der Verneinung einer ganzen Arbeitsfähigkeit gleichgesetzt werden kann. So oder anders erweist sich die vorinstanzliche Beweiswürdigung nicht als willkürlich und der daraus gezogene Schluss der vorhandenen Arbeitsfähigkeit zur Zeit der Kündigung lässt sich vor dem Hintergrund des fehlenden ärztlichen Attestes einer (teilweisen oder ganzen) Arbeitsunfähigkeit für die relevante Zeit nicht als offensichtlich unhaltbar qualifizieren.
5. Eventualiter macht die Beschwerdeführerin geltend, es handle sich um eine Rache- bzw. Missbrauchskündigung.
5.1 In diesem Rahmen bringt sie vor, die Vorinstanz habe den Arbeitnehmer als psychisch krank, als "verrückt", qualifiziert und deshalb nicht auf seine Angaben abgestellt. Zur Entkräftung dieser Argumentationsgrundlage reicht sie erstmals vor Bundesgericht eine Stellungnahme des ehemals behandelnden Dr. med. D._, Spezialarzt Innere Medizin FMH, vom 9. Mai 2011 ein, in welcher Hinweise auf eine psychische Erkrankung verneint werden.
Neue Tatsachen und Beweismittel dürfen nur so weit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG). Aus dem angefochtenen Urteil ergibt sich nirgends, dass das Gericht die Angaben des Arbeitnehmers aus gesundheitlichen Gründen nicht für glaubwürdig gehalten hätte. Indem in den vorinstanzlichen Erwägungen ausgeführt wird, er sei mit der Bekanntmachung der schweren Erkrankung und des Behandlungsmodus, insbesondere mit dem Hinweis auf Psychopharmaka, in seinem grossen beruflichen Umfeld "gestempelt" gewesen und hätte kaum Erfolg auf der Suche nach einer neuen Stelle gehabt, wird lediglich auf notorische Vorurteile Dritter hingewiesen. Für die Einreichung des ärztlichen Berichts bestand demzufolge keine Veranlassung, weshalb darauf nicht weiter einzugehen ist.
5.2 Die Vorinstanz legt detailliert dar, aus welchen Gründen sie die Mobbing-Vorwürfe des Arbeitnehmers als unbegründet qualifiziert und davon ausgeht, dass sein forderndes, auf Konfrontation insbesondere mit den Vorgesetzten angelegtes Verhalten zur objektiven Zerrüttung der Vertrauensbasis zwischen ihm und der Arbeitgeberin geführt habe. Mit seiner Rückkehr an den Arbeitsplatz am 9. März 2006 habe er den Mitgliedern "Korrekturen" dessen versprochen, was in den vergangenen Wochen seiner Abwesenheit falsch gelaufen sei. Damit sei die damals schon brüchige Vertrauensbasis endgültig zerstört worden. Seine (berechtigte) finanzielle Forderung aus Datenschutzverletzung - infolge Bekanntgabe der detaillierten Diagnose und des Behandlungskonzepts unter Hinweis auf die Verschreibung von Psychopharmaka in schriftlicher Protokollform gegenüber den Vorstandsmitgliedern - sei nur ein Punkt unter mehreren für die Kündigung gewesen und die Arbeitgeberin habe noch weitere gewichtige Gründe gehabt, welche für sich allein genügt hätten, um die Kündigung auszusprechen. Unter den vorliegenden Umständen liege eine Fürsorgepflichtverletzung nicht vor und auch die sofortige Freistellung lasse sich nicht beanstanden. Die Beschwerdeführerin vermag dieser Würdigung keine Argumente entgegenzusetzen, welche auf Willkür schliessen lassen. Der Rechtsmissbrauchsvorwurf lässt sich auf der Basis des von der Vorinstanz verbindlich festgestellten Sachverhalts nicht nachvollziehen.
6. Was die Beschwerdeführerin gegen die Verneinung von finanziellen Ansprüchen zur Abgeltung nicht bezogener Ferien und von weiteren Bonusforderungen vorbringt, lässt die vorinstanzliche Sachverhaltsfeststellung ebenfalls nicht als offensichtlich unhaltbar erscheinen. Eine Rechtsverletzung liegt nicht vor.
7. Indem das Appellationsgericht nicht auf alle Vorbringen der Beschwerdeführerin eingegangen ist, verletzte es deren rechtliches Gehör nicht. Nach der Rechtsprechung ist nicht erforderlich, dass sich die Vorinstanz mit allen Parteistandpunkten einlässlich auseinandersetzt und jedes einzelne Vorbringen ausdrücklich widerlegt. Sie kann sich auf diejenigen Gesichtspunkte beschränken, die für den Entscheid wesentlich sind (Urteil 5A_37/2011 vom 1. September 2011 E. 2.5.1 m.w.H.). Die Beschwerdeführerin hätte auch in dieser Hinsicht substanziiert vortragen müssen, inwiefern das kantonale Gericht entscheidrelevante Punkte übersehen haben soll.
8. Die Beschwerde erweist sich als unbegründet und ist abzuweisen, soweit darauf eingetreten werden kann. Dem Ausgang des Verfahrens entsprechend wird die Beschwerdeführerin kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 6'000.-- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 7'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Appellationsgericht des Kantons Basel-Stadt schriftlich mitgeteilt.
Lausanne, 19. Januar 2012
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Die Gerichtsschreiberin: Berger Götz