Sachverhalt:
A.
Mit Beschluss vom 5. Juli 2012 erteilte die Baukommission Rüschlikon der Baugenossenschaft Rüschlikon die baurechtliche Bewilligung für den Neubau von zwei Mehrfamilienhäusern mit 25 Wohnungen, vier Atelierräumen und einer Unterniveaugarage mit 30 Parkplätzen auf dem Grundstück Kat.-Nr. 5662 an der Bahnhofstrasse 29 in Rüschlikon. Die beiden projektierten, äusserlich nahezu identischen Flachdachgebäude weisen drei Vollgeschosse, ein Attikageschoss sowie ein anrechenbares Untergeschoss auf. Das gegenwärtig mit einer Reithalle überbaute Baugrundstück ist gemäss der Bau- und Zonenordnung der Gemeinde Rüschlikon vom 22. Juni 2000 (BZO) der dreigeschossigen Wohn- und Gewerbezone W3G zugeordnet. Es grenzt im Norden und Westen an die zweigeschossige Wohnzone W2B, die mit Einfamilienhäusern überstellt ist. A._ ist Eigentümer solcher Häuser.
Das Bauvorhaben stellt die überarbeitete Version eines früheren Projekts dar, dessen Bewilligung vom Verwaltungsgericht mit Urteil vom 22. Februar 2012 in Gutheissung einer Beschwerde von A._ aufgehoben wurde, weil das Projekt übergeschossig war, wenn Gebäudelängsseiten als hypothetische Traufseiten gewählt werden. Im vorliegenden Projekt wurde daher die hypothetische Traufseite neu ausgerichtet. Die Änderungen zum Vorgängerprojekt beschränkten sich im Wesentlichen auf die Dach- bzw. Attikageschosse.
B.
A._ focht die Baubewilligung vom 5. Juli 2012 mit einem Rekurs beim Baurekursgericht des Kantons Zürich an. Dieses führte am 13. Dezember 2012 einen Augenschein durch und wies mit Entscheid vom 25. Juni 2013 den Rekurs ab, soweit es darauf eintrat. Eine dagegen von A._ erhobene Beschwerde wies das Verwaltungsgericht des Kantons Zürich mit Urteil vom 23. Januar 2014 ab.
C.
A._ (Beschwerdeführer) erhebt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit den Anträgen, den Entscheid des Verwaltungsgerichts vom 23. Januar 2014 und die baurechtliche Bewilligung vom 5. Juli 2012 aufzuheben. Eventuell sei die Angelegenheit an die Baugenossenschaft (recte: Baukommission) Rüschlikon zur Neubeurteilung im Sinne der Erwägungen zurückzuweisen. Subeventuell sei die Angelegenheit an das Verwaltungsgericht zur Erhebung des rechtserheblichen Sachverhalts und zur Neubeurteilung im Sinne der Erwägungen zurückzuweisen.
Mit Präsidialverfügung vom 7. April 2014 wurde der Beschwerde auf Antrag des Beschwerdeführers die aufschiebende Wirkung zuerkannt.
Das Verwaltungsgericht und die Baukommission Rüschlikon beantragen, die Beschwerde abzuweisen, soweit darauf einzutreten sei. Die Baugenossenschaft Rüschlikon schliesst auf Abweisung der Beschwerde. In seiner Replik hält der Beschwerdeführer an seinen bisherigen Anträgen fest.

Erwägungen:
1.
1.1. Angefochten ist ein kantonal letztinstanzlicher Verwaltungsgerichtsentscheid, der eine baurechtliche Bewilligung bestätigt. Dagegen steht grundsätzlich die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen (Art. 82 lit. a und Art. 86 Abs. 1 lit. d BGG; <ref-ruling> E. 2 S. 356). Der Beschwerdeführer hat am vorinstanzlichen Verfahren teilgenommen und ist als Eigentümer der mit Wohngebäuden überbauten Grundstücke Kat.-Nrn. 3764 und 3800, die allein durch den Pilgerweg von der Bauparzelle getrennt sind, von der Baubewilligung besonders betroffen und daher zur Beschwerdeführung legitimiert (<ref-law>; Urteil 1C_589/2013 vom 19. Juni 2014 E. 1.1 mit Hinweisen). Da auch die übrigen Sachurteilsvoraussetzungen gegeben sind, ist grundsätzlich auf die Beschwerde einzutreten.
1.2. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann die Verletzung von Bundesrecht, Völkerrecht und kantonalen verfassungsmässigen Rechten gerügt werden (Art. 95 lit. a, b und c BGG). Die Verletzung des übrigen kantonalen Rechts kann abgesehen von hier nicht relevanten Ausnahmen gemäss Art. 95 lit. c und d BGG vor Bundesgericht nicht gerügt werden; zulässig ist jedoch die Rüge, die Anwendung dieses Rechts führe zu einer Verletzung von Bundesrecht, namentlich des verfassungsmässigen Willkürverbots (<ref-ruling> E. 2 S. 149 f.). Nach der Praxis des Bundesgerichts verstösst ein Entscheid gegen dieses Verbot, wenn er offensichtlich unhaltbar ist, weil er zum Beispiel eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt. Das Bundesgericht hebt einen Entscheid jedoch nur auf, wenn nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist. Dass eine andere Lösung ebenfalls als vertretbar oder gar zutreffender erscheint, genügt nicht (<ref-ruling> E. 2.4 S. 5; <ref-ruling> E. 7.1; je mit Hinweisen).
1.3. Das Bundesgericht legt seinem Urteil den Sachverhalt zu Grunde, den die Vorinstanz festgestellt hat (<ref-law>). Die Sachverhaltsfeststellung kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Die Sachverhaltsfeststellung ist offensichtlich unrichtig, wenn sie willkürlich im Sinne von <ref-law> ist (<ref-ruling> E. 4.2 mit Hinweisen).
1.4. Nach <ref-law> ist in der Beschwerdebegründung in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Die Verletzung von Grundrechten prüft das Bundesgericht nur insofern, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (<ref-law>; <ref-ruling> E. 1.6 S. 130). Wird eine Verletzung des Willkürverbots gemäss <ref-law> geltend gemacht, muss anhand der angefochtenen Subsumtion im Einzelnen dargelegt werden, inwiefern der Entscheid an einem qualifizierten und offensichtlichen Mangel leidet (vgl. <ref-ruling> E. 2.2 S. 246). Auf eine rein appellatorische Kritik am angefochtenen Urteil tritt das Bundesgericht nicht ein (<ref-ruling> E. 4.2.3; <ref-ruling> E. 2.8; je mit Hinweisen). Die Begründung muss gemäss der Rechtsprechung in Beschwerdeschrift selber enthalten sein, weshalb blosse Verweise auf Ausführungen in anderen Rechtsschriften nicht ausreichen (<ref-ruling> E. 3.2 S. 399 f.; Urteil 1B_52/2014 vom 21. Februar 2014 E. 1).
2.
2.1. Das Verwaltungsgericht lehnte den Antrag des Beschwerdeführers auf Durchführung eines Augenscheins ab. Zur Begründung führte es aus, das Baurekursgericht habe am 13. Dezember 2012 in Bezug auf das vorliegende Projekt bereits einen Augenschein vorgenommen. Da sich der massgebende Sachverhalt aufgrund des entsprechenden Protokolls, der übrigen Akten und der Pläne mit ausreichender Deutlichkeit ergebe, bestehe kein Anlass für die Durchführung eines weiteren Augenscheins.
2.2. Der Beschwerdeführer rügt, das Verwaltungsgericht habe mit dem Verzicht auf die Durchführung eines Augenscheins sein rechtliches Gehör und den Grundsatz der Sachverhaltsermittlung von Amtes wegen gemäss § 7 des Zürcher Verwaltungsrechtspflegegesetzes verletzt. Es habe auf die vom Baurekursgericht vorgenommene Sachverhaltsermittlung abgestellt, obwohl der Beschwerdeführer gerügt habe, diese sei unrichtig. Somit seien wesentliche Sachverhaltselemente strittig geblieben. Dazu komme, dass die Vorinstanz Gebäude erwähne, die in den Akten nicht dokumentiert seien. Auch lägen keine gesicherten Sachverhaltsermittlungen zur Ausschöpfung der zulässigen Bauvolumen vor. Ohne Augenschein sei es nicht möglich, einzuschätzen, ob das projektierte Gebäude von der Liegenschaften des Beschwerdeführers als Wand erscheine. Das Bundesgericht habe daher die Angelegenheit zur Durchführung eines Augenscheins an die Vorinstanz zurückzuweisen, oder selber einen solchen vorzunehmen.
2.3. Vorliegend sind die Einordnung der projektierten Gebäude und der Flachdächer strittig. Diese Fragen können gestützt auf die Akten beantwortet werden, zumal diese neben den Plänen Fotos des Baugrundstücks und seiner Umgebung enthalten. Der Beschwerdeführer behauptet zwar, mangels Durchführung eines Augenscheins habe die Vorinstanz den optischen Bezug des Bauvorhabens zur denkmalgeschützten Kirche nicht zuverlässig einschätzen können. Dies trifft jedoch nicht zu, da auf der Foto Nr. 6 des Augenscheinprotokolls das ausgesteckte Bauvorhaben und die Kirche deutlich erkennbar sind. Zudem hat der Beschwerdeführer im kantonalen Verfahren als Beilage 4 eine Visualisierung des Bauprojekts eingereicht, welche die Kirche einbezieht. Zur Beurteilung der Dachlandschaft der umliegenden Gebäude hat der Beschwerdeführer in der Beilage 5 von Google Map erstellte Fotos eingereicht, die jedoch nur einen begrenzten Ausschnitt zeigen. Er wendet ein, die vom Verwaltungsgericht erwähnte Blöcke an der Bahnhofstrasse 30-34 seien bisher nirgends aktenkundig. Er bestreitet jedoch nicht, dass diese Gebäude gemäss der Feststellung des Verwaltungsgerichts Flachdächer haben, was durch die auf dem Internet abrufbaren Bilder von Google Map bestätigt wird. Demnach erübrigt sich auch insoweit die Durchführung eines Augenscheins, zumal der Beschwerdeführer nicht darlegt, inwiefern dem Verwaltungsgericht der Zugriff auf die von ihm genannten einfach verfügbaren Internetdaten versagt sein soll (vgl. Urteil 1C_326/2011 vom 22. März 2012 E. 2.1). Er vermag gemäss den nachstehenden Erwägungen auch keine entscheiderheblichen offensichtlich falschen tatsächlichen Feststellungen nachzuweisen. Unter diesen Umständen hat das Verwaltungsgericht sein rechtliche Gehör nicht verletzt, wenn es auf die Durchführung eines Augenscheins verzichtete. Ein solcher ist auch vom Bundesgericht nicht vorzunehmen.
3.
3.1. Nach <ref-law> und Art. 6 Ziff. 1 EMRK hat jede Person Anspruch darauf, dass ihre Sache von einem durch Gesetz geschaffenen, zuständigen, unabhängigen und unparteiischen Gericht ohne Einwirken sachfremder Umstände entschieden wird. Dieser Anspruch ist verletzt, wenn Gegebenheiten vorliegen, die bei einer Gerichtsperson objektiv betrachtet den Anschein der Befangenheit und die Gefahr der Voreingenommenheit zu begründen vermögen. Solche Umstände können entweder in einem bestimmten Verhalten der betreffenden Person oder in äusseren Gegebenheiten funktioneller und organisatorischer Natur begründet sein (<ref-ruling> E. 6.2 S. 6 mit Hinweisen; vgl. auch <ref-ruling> E. 2.1 S. 240). Eine gewisse Besorgnis bezüglich der Voreingenommenheit einer Gerichtsperson kann entstehen, wenn sie in einem früheren Verfahren mit der konkreten Streitsache schon einmal befasst war (<ref-ruling> E. 3.4 S. 116 mit Hinweisen). Nach der Rechtsprechung steht bei der Neubeurteilung der Streitsache nach einer oberinstanzlichen Rückweisung der am aufgehobenen Entscheid beteiligte Richter jedoch nicht von vornherein unter dem Anschein der Befangenheit. Vielmehr darf von ihm erwartet werden, dass er die Streitsache auch nach Aufhebung des Entscheids objektiv und unparteiisch behandelt, zumal er sich dabei an die Auffassung der Rechtsmittelinstanz zu halten hat (<ref-ruling> E. 3.6 S. 120 mit Hinweis). Auch die Mitwirkung eines Richters an einem Entscheid, der die unentgeltliche Rechtspflege wegen Aussichtslosigkeit verweigert, bildet für sich allein keinen Ausstandsgrund. Bei solchen systembedingten Vorbefassungen ist die Annahme, der betreffende Richter sei voreingenommen, nur begründet, wenn weitere Gründe hinzutreten. Es müssen konkrete Anhaltspunkte dafür vorliegen, dass sich der Richter bereits in einer Art festgelegt hat, dass er einer anderen Bewertung der Sach- und Rechtslage nicht mehr zugänglich und der Verfahrensausgang deswegen nicht mehr offen erscheint (<ref-ruling> E. 3.4 S. 116 und E. 3.7.3 S. 123 f.) Solche Anhaltspunkte bejaht das Bundesgericht, wenn eine Baukommission die Bauherrschaft bei ihrer Ausarbeitung des Baugesuchs in detaillierter Weise berät oder ihr vor Berücksichtigung allfälliger Drittinteressen die verbindliche Zusage macht, das Vorhaben in einer bestimmten Form bewilligen zu können (Urteil 1C_914/2013 vom 26. Juni 2014 E. 6.3, zur Publ. bestimmt).
3.2. Vor dem Verwaltungsgericht machte der Beschwerdeführer geltend, die Einordnung des Bauvorhabens sei vom Baurekursgericht nicht unbefangen beurteilt worden, weil es unbesehen auf seine früheren Ausführungen zum ersten Projekt sowie auf die Beurteilung der mit der Bauherrschaft verflochtenen Jury abgestellt habe.
3.3. Das Verwaltungsgericht erwog dazu, wenn es die Bewilligung für ein Bauprojekt aufhebe und in der Folge das Baurekursgericht die Rechtmässigkeit eines angepassten Projekts überprüfte, liege eine systembedingte Mehrfachbefassung vor, die - gleich wie bei einer Rückweisung einer Sache an das Baurekursgericht - grundsätzlich hinzunehmen sei. Das Baurekursgericht sei auch nicht deshalb befangen, weil es im angefochtenen Entscheid an seine Ausführungen im früheren Verfahren anknüpfe, zumal sich die beiden Projekte im Hinblick auf ihre Einordnung nur unwesentlich voneinander unterschieden und das Gericht sich über die Anpassungen im Klaren gewesen sei. Gegen eine unzulässige Vorbefassung spreche auch, dass das Baurekursgericht betreffend die Einordnung des leicht überarbeiteten Bauvorhabens einen neuen Augenschein vorgenommen habe. Daran ändere nichts, dass das Baurekursgericht massgeblich auf die Würdigung der Preisrichter abgestellt habe, da es dies nur zur Stützung seiner eigenen ästhetischen Beurteilung getan habe.
3.4. Der Beschwerdeführer wendet ein, selbst wenn eine nochmalige Befassung mit derselben Angelegenheit praxisgemäss für sich allein den Anschein der Befangenheit nicht zu begründen vermöge, lägen durch den pauschalen Verweis des Baurekursgerichts auf seinen früheren Entscheid und die Beurteilung des Preisgerichts besondere Umständen vor, die Anschein der Voreingenommenheit erweckten. Aufgrund dieses Verweises sei offensichtlich, dass das Baurekursgericht den Augenschein nur pro forma vorgenommen und eine anschliessende inhaltliche Überprüfung und Beurteilung der sich stellenden Fragen unterlassen habe. So seien weder der Augenschein noch anderweitige neue Auseinandersetzungen zu den aufgeworfenen Fragen in das Urteil des Baurekursgerichts eingeflossen, was beweise, dass es nicht unbefangen gewesen sei. Die gegenteilige Auffassung der Vorinstanz sei unhaltbar, weshalb <ref-law> verletzt sei.
3.5. Vorliegend hat das Verwaltungsgericht den Entscheid des Baurekursgerichts betreffend das erste Bauprojekt aufgehoben. Danach hatte das Baurekursgericht ein zweites abgeändertes Baugesuch zu beurteilen. Diese mehrfache Befassung mit zwei ähnlichen Bauprojekten ist systembedingt und führt somit grundsätzlich nicht zum Anschein der Befangenheit. Das Baurekursgericht führte in den Erwägungen 5.1 bis 5.3 seines Entscheids vom vom 25. Juni 2013 unter Hinweis auf mehrere am Abteilungsaugenschein vom 13. Dezember 2012 erstellte Fotografien aus, es habe sich anlässlich dieses Augenscheins davon überzeugen können, dass zwischen dem Bauvorhaben und der evangelisch-reformierten Kirche Rüschlikon kein optischer Zusammenhang bestehe, dass sich die Einordnungsproblematik im Vergleich zum vorangegangenen Projekt kaum verändert habe und im betreffenden Quartier eine heterogene Dachlandschaft bestehe, in die sich die geplanten Flachdächer passend einordneten. Diese Ausführungen belegen, dass das Baurekursgericht den Augenschein bei der Beurteilung der Einordnungsfragen tatsächlich berücksichtigte und es diese Frage eingenständig beantwortete. Daran vermag nichts zu ändern, dass es in seinen Entscheiden Ausführungen der Preisrichter zur Einordnungsfrage wiedergab, weil es diese Ausführungen gestützt auf eine vor Ort vorgenommene eigene Beurteilung des Bauprojekts als zutreffend erachtete. Dies vermag, unabhängig davon, ob die Preisrichter mit der Baukommission bzw. der Baugenossenschaft Rüschlikon personell verflochten waren, nicht den Eindruck der Befangenheit zu erwecken. Da sich die Einordnungsproblematik bei den beiden Bauprojekten kaum veränderte, kann daraus, dass Baurekursgericht bei seiner Beurteilung der Einordnung des zweiten Projekts an die einschlägigen Darlegungen im ersten Entscheid anknüpfte, nicht auf seine Befangenheit geschlossen werden, zumal der Beschwerdeführer bereits im ersten Verfahren beteiligt war und das Baurekursgericht bei der Ausarbeitung der Projekte keine beratende Funktion übernahm. Unter diesen Umständen erweist sich die Rüge, das Verwaltungsgericht hätte die Befangenheit des Baurekursgerichts bejahen müssen, als unbegründet.
4.
4.1. Aus dem Anspruch auf rechtliches Gehör gemäss <ref-law> wird die Pflicht der Gerichte abgeleitet, ihre Entscheide zu begründen. Um eine sachgerechte Anfechtung des Entscheides zu ermöglichen, muss die Begründung die wesentlichen Überlegungen nennen, von denen sich das Gericht hat leiten lassen und auf die es seinen Entscheid stützt. Die Begründung muss sich jedoch nicht mit allen Parteistandpunkten einlässlich auseinandersetzen und jedes einzelne Vorbringen ausdrücklich widerlegen (<ref-ruling> E. 5.1 S. 237; <ref-ruling> E. 3.2 S. 270; <ref-ruling> E. 3.3 S. 445 mit Hinweisen).
4.2. Das Verwaltungsgericht kam zum Ergebnis, das Baurekursgericht habe seine Begründungspflicht verletzt, weil es ungenügend auf Einwände des Beschwerdeführers bezüglich der Einordnung des Bauprojekts eingegangen sei. Das Verwaltungsgericht ging jedoch davon aus, dieser Begründungsmangel sei im Beschwerdeverfahren geheilt worden.
4.3. Der Beschwerdeführer bringt in seiner Beschwerde keine Einwände gegen die vom Verwaltungsgericht vorgenommene Heilung des Begründungsmangels vor. Die erst in der nach Ablauf der Beschwerdefrist eingereichten Replik erhobene Rüge, eine Heilung habe nicht stattfinden können, wurde offensichtlich verspätet erhoben (vgl. Art. 100 Abs. 1 i.V.m. Art. 42 Abs. 1-2 BGG; Urteil 1B_212/2010 vom 22. September 2010 E. 5).
4.4. In seiner Beschwerde wirft der Beschwerdeführer dem Verwaltungsgericht vor, seine Begründungspflicht und damit <ref-law> verletzt zu haben, weil es sich mit verschiedenen Rügen hinsichtlich der Einordnung des Bauprojekts nicht auseinandergesetzt habe. So fehle namentlich eine Berücksichtigung des Spannungsverhältnisses zwischen den zweigeschossigen Einfamilienhäusern in der Zone W2B und den überdimensionierten Baukörpern in der Zone W3G.
4.5. Diese Rüge ist unbegründet, weil das Verwaltungsgericht die Überlegungen, von denen es sich bezüglich der Einordnung des Bauprojekts hat leiten lassen, ausführlich dargelegte und es damit eine sachgerechte Anfechtung ermöglichte.
5.
5.1. Art. 20 BZO mit der Überschrift: "Dachform, Dachaufbauten und -einschnitte" bestimmt:
"1 Auf Hauptgebäuden sind in der Regel nur Schrägdächer mit einer Neigung von 25° - 45° alter Teilung zulässig.
2 Flachdächer können bei guter Einordnung in die Dachlandschaft und guter Gestaltung gestattet werden."
5.2. Das Verwaltungsgericht ging davon aus, die Zulässigkeit der geplanten Flachdächer gemäss <ref-law> sei an den tatsächlich unterschiedlichen Dachformen zu messen, wie sie (in der Umgebung des Bauprojekts) von den Vorinstanzen zutreffend festgestellt worden seien (vgl. Augenscheinprotokoll vom 13. Dezember 2012, Act. 8/1; vgl. auch Googel Maps/Street View, https://maps.google.ch). Laut E. 5.3 des Rekursentscheids vom 25. Juni 2013 seien Satteldächer mit diversen Neigungen, Walm-, Mansarden- und Tonnendächer sowie begrünte Flachdächer zu sehen, welche in den letzten Jahren ortsüblich geworden seien (vgl. namentlich die Gebäude Bahnhofstrasse 21, 23, 24, 27, 30-34, Pilgerweg 11, 13, 15 und Schlossstrasse 17-27, act. 8/17). Die Umgebung zeichne sich jedenfalls nicht durch eine Gleichförmigkeit als besonderes Gestaltungsmerkmal aus, die es gebieten würde, besondere Rücksicht auf die bestehenden Bauformen zu nehmen. Nachdem das Satteldach als klassisches Schrägdach infolge der neueren Entwicklungen nicht (mehr) das prägende Element des Quartiers bilde, habe die Baubehörde von der Vereinbarkeit der geplanten Flachdächer mit <ref-law> ausgehen dürfen. Zudem seien die geplanten Flachdächer durch die Rückversetzung des Attikageschosses zurückhaltend gestaltet und die beiden Aufbauten übersichtlich angeordnet.
5.3. Der Beschwerdeführer rügt, die Behauptung, Flachdächer seien in den letzten Jahren ortsüblich geworden, sei unzutreffend. Die vom Kantonsgericht genannten Gebäude an der Bahnhofstrasse 21, 23 und 27 seien zwar Flachdachbauten. Sie seien jedoch aufgrund ihrer Zweigeschossigkeit nicht mit den dominanten, projektierten Baukörpern vergleichbar. Das Gebäude an der Bahnhofstrasse 24 verfüge über ein Walmdach, also über ein Schrägdach. Die Blöcke an der Bahnhofstrasse 30-34 seien nicht aktenkundig. Die Gebäude am Pilgerweg 11, 13 und 15 seien mit Walmdächern versehen. Unter den Gebäuden an der Schlossstrasse 17-27 finde sich nur ein Flachdach. Die unzähligen Satteldächer in der Umgebung, welche auf der Beilage 5 der kantonalen Beschwerde abgebildet seien, würden vom Kantonsgericht nicht genannt. Zudem sei zu beachten, dass Art. 20 BZO zwischen Schräg- und Flachdächern unterscheide, weshalb die vom Verwaltungsgericht aufgezählten Dachformen wie Satteldächer mit diversen Neigungen, Walm-, Mansarden- und Tonnendächer gemäss der BZO erlaubte Schrägdächer seien, wobei Satteldächer klar dominierten. Angesichts des klaren Wortlauts von Art. 20 BZO dürften einige bestehende Flachdächer nicht zum entscheidenden Faktor werden. Inwiefern das Verwaltungsgericht vor diesem Hintergrund von einer "Heterogenität der umliegenden Dächer" spreche, sei nicht nachvollziehbar.
5.4. Der Beschwerdeführer anerkennt, dass an der Bahnhofstrasse 21, 23 und 27 Flachdachbauten stehen. Diese drei Bauten befinden sich in der Zone W2B nördlich des Baugrundstücks. Die südlich davon gelegenen Blöcke an der Bahnhofstrasse 30-34 sind gemäss der unbestrittenen vorinstanzlichen Feststellung ebenfalls Flachdachbauten (vgl. E. 2.3 hiervor). Demnach erweist sich die vorinstanzliche Feststellung, Flachdächer seien in den letzten Jahren ortsüblich geworden, jedenfalls bezüglich der Umgebung des Baugrundstücks an der Bahnhofstrasse 29 in Rüschlikon als zutreffend. Zudem ist auf der Fotografie 9 des Augenscheinprotokolls erkennbar, dass das Dach des dominanten Gebäudes an der Bahnhofstrasse 24 gegenüber dem Baugrundstück eine sehr geringe Neigung aufweist, weshalb es von der Strasse aus betrachtet, weitgehend als Flachdach erscheint. Unter diesen Umständen ist das Verwaltungsgericht nicht in Willkür verfallen, wenn es die gemäss <ref-law> verlangte gute Einordnung der geplanten Flachdächer in die Dachlandschaft der Umgebung bejahte. Daran vermag nichts zu ändern, dass in der Zone W2B östlich des Pilgerwegs Einfamilienhäuser mit Schrägdächern überwiegen, da - wie dargelegt - auch in dieser Zone Flachdächer vorhanden sind und es vertretbar ist, an verschiedenen Strassen in verschiedenen Zonen unterschiedliche Dachlandschaften zuzulassen.
6.
6.1. Gemäss § 238 Abs. 1 des Züricher Planungs- und Baugesetzes vom 7. September 1975 (PBG) sind Bauten, Anlagen und Umschwung für sich und in ihrem Zusammenhang mit der baulichen und landschaftlichen Umgebung im ganzen und in ihren einzelnen Teilen so zu gestalten, dass eine befriedigende Gesamtwirkung erreicht wird; diese Anforderung gilt auch für Materialien und Farben.
6.2. Das Verwaltungsgericht kam zum Ergebnis, aus Art. 20 Abs. 2 BZO ergäbe sich nicht, dass Flachdachbauten bezüglich des Gebäudes höheren Einordnungsanforderungen zu entsprechen hätten, als nach § 238 Abs. 1 PBG.
6.3. Der Beschwerdeführer gibt diese Auffassung als falsch aus. Er übt dabei jedoch bloss appellatorische Kritik am angefochtenen Urteil, auf welche nicht einzutreten ist (vgl. E. 1.4 hiervor).
7.
7.1. Das Verwaltungsgericht erwog, § 238 Abs. 2 PBG stelle an die Einordnung der Baute höhere Anforderungen, wenn sich ein Objekt des Heimatschutzes in ihrer Nähe befinde. Insoweit sei massgeblich, dass die Wahrnehmung von Schutzobjekten von Drittstandorten aus durch neu zu erstellende Bauten nicht beeinträchtigt werden dürfe. Damit diese Bestimmung zum Tragen käme, müsse aus der Sicht eines aussenstehenden Beobachters ein optischer Bezug zwischen der projektierten Baute und dem Schutzobjekt bestehen. Vorliegend sei ein solcher Zusammenhang nicht erkennbar. Die evangelisch-reformierte Kirche Rüschlikon befinde sich mindestens rund 130 m von der Bauparzelle entfernt und wende ihr die Rückseite zu. Der Pilgerweg und die Bahnhofstrasse würden im hier massgebenden Abschnitt von einer ganzen Reihe unprätentiöser Bauten gesäumt und zudem von zwei Querstrassen geschnitten.
7.2. Der Beschwerdeführer rügt, die vorinstanzliche Feststellung, dass zwischen der Kirche und dem Bauvorhaben kein optischer Bezug im Sinne von § 238 Abs. 2 PBG bestehe, sei offensichtlich unrichtig.
7.3. Die Rüge ist unbegründet, weil der Beschwerdeführer nicht darlegt, von welchen Drittstandorten aus, die Wahrnehmung der Kirche durch die geplante Bauten beeinträchtigt werden soll, was auch nicht ersichtlich ist. Damit ist vorinstanzliche Feststellung, die Kirche wende der Bauparzelle die Rückseite zu, nicht entscheidrelevant. Auf die dagegen gerichtete Sachverhaltsrüge ist daher nicht einzutreten.
8.
8.1. Bauten haben nicht nur die geltende Bau- und Zonenordnung einzuhalten, sondern auch allfällige ästhetische Schutzbestimmungen - wie vorliegend § 238 PBG (vgl. E. 6.1 hiervor) - zu erfüllen. Solche Vorschriften haben gemäss der Rechtsprechung eine eigenständige Bedeutung. Sie sind nicht von vornherein eingehalten, wenn die Bauvorschriften respektiert werden, denn die Schutzbereiche der Normen decken sich nicht zwingend. Die Anwendung einer positiven Ästhetikklausel darf jedoch nicht dazu führen, dass generell - etwa für die ganze Dorfkernzone - die Zonenordnung ausser Kraft gesetzt würde. Lässt diese eine bestimmte Geschosszahl zu, darf nicht generell nur ein Geschoss weniger bewilligt werden, um eine gute Gesamtwirkung zu erreichen (Urteil 1C_434/2012 vom 28. März 2013 E. 3.3 mit Hinweisen, in: ZBl 2014 S. 443).
8.2. Entsprechend führte das Verwaltungsgericht unangefochten aus, nach ständiger Rechtsprechung könne allein gestützt auf § 238 PBG keine generelle Herabsetzung des nach der Bau- und Zonenordnung zulässigen Bauvolumens verlangt werden. Ein Verzicht auf die Realisierung des auf dem betreffenden Grundstück zulässigen Volumens, könne nur in Ausnahmefällen durchgesetzt werden. Hierfür seien besonders triftige Gründe erforderlich, wie z.B. eine besondere Qualität der bestehenden Überbauung, die Rücksicht auf ein Schutzobjekt oder eine qualifizierte landschaftliche Empfindlichkeit.
8.3. Im kantonalen Verfahren machte der Beschwerdeführer geltend, die geplanten Mehrfamilienhäuser würden ihrem Zusammenhang mit der baulichen Umgebung keine befriedigende Gesamtwirkung erreichen, weil sie wegen der Ausschöpfung der massgebenden Baubegrenzungsvorschriften wuchtig und überdimensioniert seien. Sie nähmen keine Rücksicht auf Struktur der östlich des Pilgerwegs gelegenen Überbauung, sondern bildeten einen störenden Gegensatz zu den benachbarten Einfamilienhäusern.
8.4. Das Verwaltungsgericht führte dazu aus, der Umstand, dass die geplanten Gebäude in eine Bebauungsstruktur mit den Zwischenräumen einer Streusiedlung erstellt werden sollen, rechtfertige noch keine Herabsetzung des in der betreffenden Zone zulässigen Bauvolumens. Von einer weitherum zurückhaltend ausgeschöpften Ausnutzung könne jedenfalls für die Zone W3G nicht gesprochen werden. Die benachbarte, mit Einfamilienhäusern überstelle Wohnzone W2B "Platte" sei grösstenteils von der Wohn- und Gewerbezone W3G sowie der Wohnzone W3 umgeben, in denen sich überwiegend Mehrfamilienhäuser und vereinzelte Gewerbebauten befänden. Der dörfliche Charakter der umschlossenen Einfamilienhaussiedlung werde durch die auf der gegenüberliegenden Seite des Pilgerwegs geplanten Mehrfamilienhäuser nicht gefährdet. Diese bildeten kein fremdartiges Element inmitten einer Einfamilienhaussiedlung, sondern betonten deren Abschluss nach Westen hin. Trotz des deutlichen Kontrasts zum benachbarten Quartier sei das vorliegende Bauprojekt im Zeitalter des verdichteten Bauens hinzunehmen, soweit es in seiner konkreten Ausgestaltung eine befriedigende Gesamtwirkung mit der Umgebung erziele. Dass die Gebäude unter Berücksichtigung der Attika- und teilweise freiliegenden Untergeschosse auf einen aussenstehenden Betrachter als vier- bzw. fünfgeschossig wirken mögen, sei eine Folge der anwendbaren Zonenvorschriften. Diese würden sogar zwei anrechenbare Dachgeschosse zulassen. Triftige Gründe für eine höhenmässige Beschränkung des Gebäudes aufgrund der Einordnung ergäben sich auch nicht aus der Hanglage und der geringen Breite des Pilgerwegs. Die Gebäude seien gegenüber der Baulinie BRB 3265 um bis zu 4 m zurückversetzt und erschienen entgegen der Befürchtung des Beschwerdeführers nicht wie eine Wand. Die Baukörper wiesen eine horizontale und vertikale Gliederung auf und zeichneten sich durch schlichte, aber zugleich differenzierte Bauformen aus und träten nicht repetitiv in Erscheinung. Sie überzeugten durch ihre kompakte wie gut proportionierte Gebäudeform. Darüber hinaus beliessen die beiden jeweils 24,2 m langen Gebäude - zulässig wäre nach Art. 18 BZO eine Gebäudelänge von bis zu 50 m - dank dem 24 m breiten Zwischenraum die Durchsicht zum nahen Zürichsee.
8.5. Der Beschwerdeführer rügt, das Verwaltungsgericht habe § 238 PBG willkürlich angewendet, weil es dieser Bestimmung eine eigenständige Bedeutung abgesprochen habe. Zwar dürfe diese Ästhetikvorschrift die Bau- und Zonenordnung nicht aushebeln. Im Einzelfall sei aber denkbar, dass auch in zonenkonformes Bauvorhaben abgelehnt werde, weil es nicht zu einer genügenden Gesamtwirkung führe. Diese Möglichkeit habe das Verwaltungsgericht nicht ernsthaft in Betracht gezogen. Seine entsprechenden Schlüsse seien nicht nachvollziehbar und offensichtlich unhaltbar, da es in verschiedenen Punkten von falschen Annahmen ausgegangen sei. Die vorinstanzliche Aussage, in der Zone W3G sei die Ausnützung nicht weitherum zurückhaltend ausgeschöpft worden, entbehre jeglicher Grundlage und sei falsch, da die gegenüberliegenden Gebäude an der Bahnhofstrasse gemäss der Foto Nr. 6 des Augenscheinprotokolls drei- und nicht fünfgeschossig, wie das Bauvorhaben in Erscheinung treten würden. In unhaltbarer Weise habe das Verwaltungsgericht eine uneingeschränkte und gesamthafte Beurteilung der massgeblichen Gesichtspunkte unterlassen. Es habe missachtet, dass eine Vielzahl von Gründen vorlägen, die bei einer pflichtgemässen Beurteilung zumindest in ihrer Gesamtheit zu einer Verneinung der Einordnung hätten führen müssen. Zu diesen Gründen zähle der Umgebungsschutz, die Ausgestaltung als Flachdachbaute, die undifferenzierten und wuchtigen Baukörper, die übermässige Höhe und der extreme Wechsel zwischen den Zonen. Aufgrund des Spannungsverhältnisses zwischen den geplanten massiven Baukörpern und den angrenzenden zweigeschossigen Häusern lägen besondere Verhältnisse vor, die eine angemessene Beschränkung der maximalen Ausnützung der Bauvorschriften unverzichtbar machten.
8.6. Die Frage, ob eine befriedigende Gesamtwirkung im Sinne von § 238 PBG erzielt wird, ist im Einzelfall anhand der konkreten Verhältnisse zu prüfen. Den kommunalen Behörden steht bei der Anwendung dieser Vorschrift ein Ermessensspielraum zu, der im Rechtsmittelverfahren zu beachten ist. Ist der Einordnungsentscheid einer kommunalen Behörde nachvollziehbar, beruht er mithin auf einer vertretbaren Würdigung der massgebenden Sachumstände, so haben die Rechtsmittelinstanzen diesen zu respektieren und dürfen das Ermessen der kommunalen Behörde nicht durch ihr eigenes ersetzen (Urteil 1C_434/2012 vom 28. März 2013 E. 3.3, in: ZBl 2014 S. 443 f.; mit Hinweisen).
8.7. Die vorliegend umstrittenen Gebäude sind in einer dreigeschossigen Wohn- und Gewerbezone am Rande einer zweigeschossigen Wohnzone geplant, weshalb an der Zonengrenze unterschiedliche Gebäudehöhen und -strukturen unumgänglich sind. Zudem ist wesentlich, dass die geplante Überbauung aufgrund ihrer Aufteilung in zwei kompakte Gebäude mit einem etwa ihrer Länge entsprechenden Zwischenraum erhebliche Durchblicke lässt, weshalb entgegen der Annahme des Beschwerdeführers keine besonders wuchtigen Baukörper bzw. "Riesenblöcke" geplant sind. Inwiefern die Gebäude trotz ihrer strukturierten Fassadengestaltung "undifferenziert" sein sollen, legt er nicht dar und ist auch unter Berücksichtigung der Flachdächer nicht ersichtlich. Zudem geht der Beschwerdeführer selber davon aus, die dem Bauprojekt an der Bahnhofstrasse gegenüberliegenden Gebäude seien dreigeschossig. Damit besteht der Unterschied zu den geplanten Bauten darin, dass diese anstatt eines Schrägdachs über dem dritten Geschoss ein zurückversetztes Attikageschoss aufweisen. Es ist vertretbar anzunehmen, dieser Unterschied führe nicht zu einer ungenügenden Einordnung, zumal nicht ersichtlich ist, inwiefern dadurch unter den vorliegenden Gegebenheiten eine schützenswerte landschaftliche oder bauliche Umgebung gefährdet werden könnte. Damit erübrigen sich weitere Sachverhaltsermittlungen zur Ausschöpfung der Bauvolumen. Nach dem Gesagten durften die Baubehörde und das Verwaltungsgericht insbesondere aufgrund der Aufteilung der Überbauung in zwei kompakte Gebäude auch bei einer Gesamtbetrachtung willkürfrei eine befriedigende Gesamtwirkung des Bauprojekts im Sinne von § 238 Abs. 1 PBG bejahen und auf eine Reduktion der vorgesehenen zulässigen Ausnutzung verzichten.
9.
Gemäss den vorstehenden Erwägungen ist die Beschwerde abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens sind die Gerichtskosten dem unterliegenden Beschwerdeführer aufzuerlegen (<ref-law>). Dieser hat der Baugenossenschaft Rüschlikon als privaten Beschwerdegegnerin eine Parteientschädigung zu bezahlen (<ref-law>). Diese wird als Gesamtbetrag festgesetzt, in dem auch die Mehrwertsteuer enthalten ist (Art. 12 des Parteientschädigungsreglementes vom 31. März 2006, SR 173.110.210.3). Die in ihrem amtlichen Wirkungskreis obsiegende Baukommission Rüschlikon hat gemäss <ref-law> grundsätzlich keinen Anspruch auf eine Parteientschädigung. Zwar lässt diese Bestimmung Ausnahmen zu, so etwa in Fällen mutwilliger oder querulatorischer Prozessführung (Urteil 2C_485/2010 vom 3. Juli 2012 E. 12 mit Hinweisen, nicht publ. in: <ref-ruling>). Ein solcher Ausnahmefall liegt hier jedoch nicht vor.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 4'000.-- werden dem Beschwerdeführer auferlegt.
3.
Der Beschwerdeführer hat die Beschwerdegegnerin 2 für das bundesgerichtliche Verfahren mit Fr. 3'000.-- zu entschädigen.
4.
Dieses Urteil wird den Parteien und dem Verwaltungsgericht des Kantons Zürich, 1. Abteilung, schriftlich mitgeteilt.
Lausanne, 3. Oktober 2014
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Gelzer