Sachverhalt:
A.
Die A._ AG (nachstehend: Bauherrin) ist Eigentümerin des Grundstücks Kat.-Nr. 866 an der Ausserdorfstrasse 2 der Gemeinde Maschwanden (nachstehend: Baugrundstück). Es liegt am südwestlichen Siedlungsrand von Maschwanden im Ortsteil Usserdorf innerhalb der Perimeter des Inventars der schutzwürdigen Ortsbilder von überkommunaler Bedeutung des Kantons Zürich (KOBI) und des Bundesinventars der schützenswerten Ortsbilder der Schweiz von nationaler Bedeutung (ISOS). Das Baugrundstück wurde gemäss der Bau- und Zonenordnung der Gemeinde Maschwanden von 2. Juni 2003 (BZO) der Kernzone zugeordnet. Es ist mit einem Mehrzweckbauernhaus überbaut.
Auf dem südöstlichen Nachbargrundstück (Kat.-Nr. 816) befindet sich ein Bauernhof mit einem als regionales Schutzobjekt eingestuften Riegelhaus, einer grossen Scheune sowie kleinerer Wirtschaftsbauten.
B.
Mit Baugesuch vom 11. November 2015 beantragte die Bauherrin der Gemeinde Maschwanden, auf dem Baugrundstück den Abbruch des Bauernhauses und den Bau von drei Mehrfamilienhäusern mit insgesamt 34 Wohnungen, einer gemeinsamen Tiefgarage mit 51 Plätzen und einem oberirdischen Besucherparkplatz mit 17 Abstellplätzen zu bewilligen. Die Häuser A und B sollen eine Länge von 30 m, eine Breite von 14 m und eine Firsthöhe von 13,52 m aufweisen. Das Haus B ist parallel zur Ausserdorfstrasse vorgesehen, während das Haus A im rechten Winkel zu dieser Strasse geplant ist. Das kleinere Haus C soll im südöstlichen Bereich des Baugrundstücks errichtet werden. Die Zufahrtsrampe zur Tiefgarage ist zwischen den Häusern A und B vorgesehen.
Die Natur- und Heimatschutzkommission des Kantons Zürich (NHK) beantragte in ihrem Gutachten vom 27. April 2016, die Volumetrie der von der Bauherrin geplanten Bauten sei entsprechend der Siedlungsstruktur und dem Bebauungsmuster des Usserdorfs stark zu reduzieren. Zur Begründung führte die NHK namentlich aus, die Neubauten A und B - und ebenfalls C, wenn auch nicht so ausgeprägt - würden eine Grösse aufweisen, die einen völlig neuen Massstab ins Usserdorf brächte. Die Gebäudetiefen seien deutlich grösser als bei den benachbarten Wohnbauten, seien es ortstypische Altbauten oder Einfamilienhäuser neueren Datums. Sowohl die Gebäudetiefen als auch die Gebäudehöhen seien mit denjenigen der umgebenden Scheunen vergleichbar, nicht aber mit jenen der Nachbarhäuser. Das historische Usserdorf sei einem Strassendorf ähnlich, die Bauten seien in lockerer Abfolge entlang der Strasse aufgereiht. Darunter gebe es Höfe und kleinere Wohnhäuser. Dazwischen lägen grosse Freiräume mit Nutz- und Obstgärten, Wiesen, Bäumen und vereinzelt eingestreuten, kleinen Ökonmiegebäuden. Dieser Charakter des Usserdorfs sei sowohl im nationalen als auch im kantonalen Inventar als prägend für das Ortsbild von Maschwanden hervorgehoben worden. Die dichte Gruppierung der drei Wohnblocks auf vergleichsweise engem Raum führe zu einer eklatanten Störung dieses Charakters und einer gravierenden Beeinträchtigung des Ortsbilds. Insbesondere das Haus C als Gegenüber zum Schutzobjekt auf dem Grundstück Kat.-Nr. 816 sei inakzeptabel; der Neubau sei zu gross, zu nahe am Schutzobjekt und erreiche die gestalterische und handwerkliche Qualität dieses mächtigen Fachwerkhauses nicht.
Als zuständiges Fachamt der Baudirektion des Kantons Zürich verweigerte das Amt für Raumentwicklung (ARE) mit Gesamtverfügung vom 16. August 2016 die Bewilligung für das von der Bauherrin vorgesehene Bauvorhaben, weil es mit den Zielen des Ortsbildschutzes nicht vereinbar sei. Die beiden Häuser A und B seien deutlich grösser als die benachbarten Wohnhäuser und dominierten die Umgebung. Zudem werde das südöstlich des Hauses C auf dem Grundstück Kat.-Nr. 816 stehende Denkmalschutzobjekt von regionaler Bedeutung durch den Neubau stark bedrängt und in seiner Wirkung geschmälert. Alle drei Neubauten wiesen eine unruhige, ortsuntypische Fassaden- und Dachgestaltung auf. Aus der Sicht des Ortsbildschutzes sei das Bauvorhaben zu überarbeiten; die Volumen der Neubauten seien zu reduzieren und deren Anordnung zu überdenken.
Am 6. September 2016 verweigerte der Gemeinderat der Gemeinde Maschwanden die baurechtliche Bewilligung für das Bauvorhaben der Bauherrin, weil es aufgrund der Grösse, der Anordnung sowie der Ausgestaltung der vorgesehenen Bauten mit dem Ortsbild von Maschwanden nicht vereinbar sei und damit den Vorschriften gemäss § 238 PBG widerspreche. Zudem würden die Anforderungen gemäss Art. 8 und 9 BZO hinsichtlich Fassaden, Materialien und der Umgebungsgestaltung nicht erfüllt. Der Gemeinderat stützte sich dabei auf die Verfügung des Amts für Raumentwicklung vom 16. August 2016, die er zum integrierenden Bestandteil seiner Bauverweigerung erklärte.
Die Bauherrin focht die Bauverweigerungen der Baudirektion und des Gemeinderats Maschwanden mit Rekurs an, den das Baurekursgericht des Kantons Zürich nach der Durchführung eines Augenscheins mit Entscheid vom 18. April 2017 abwies. Zur Begründung führte es namentlich aus, der Augenschein habe gezeigt, dass die Feststellungen der NHK den Gegebenheiten entsprechen würden. Auch ihre rechtliche Würdigung sei weitestgehend nachvollziehbar. Die Ortsbildunverträglichkeit ergebe sich nicht allein aus der Kubatur eines einzelnen Gebäudes, sondern insbesondere aus der Konzentration der drei voluminösen Baukörper auf engem Raum, was im Ergebnis zu einer atypisch dichten, vorstädtisch anmutenden Überbauung führe. Zwar bestünden auch in Usserdorf vereinzelt Gebäude mit ähnlichen Volumen, jedoch handle es sich dabei entweder um Ökonomie- oder Spezialgebäude (Schulhaus) nicht aber um Wohnhäuser.
Eine gegen den Entscheid des Baurekursgerichts eingereichte Beschwerde der Bauherrin wies das Verwaltungsgericht des Kantons Zürich mit Urteil vom 16. November 2017 ab.
C.
Die Bauherrin (Beschwerdeführerin) erhebt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit den Anträgen, das Urteil des Verwaltungsgerichts vom 16. November 2017, die in der "Gesamtverfügung" vom 16. August 2016 enthaltene Verfügung des ARE und den Beschluss des Gemeinderats vom 6. September 2016 aufzuheben und die verlangten baurechtlichen Bewilligungen zu erteilen. Eventuell sei die Sache zur weiteren Abklärung des Sachverhalts und zum Neuentscheid im Sinne der Erwägungen an die Vorinstanz, das Baurekursgericht oder die beiden ersten Instanzen zurückzuweisen.
Der Gemeinderat Maschwanden schliesst auf Abweisung der Beschwerde. Die Baudirektion des Kantons Zürich beantragt ebenfalls, die Beschwerde abzuweisen, wobei sie auf den beigelegten Mitbericht des Amtes für Raumentwicklung verweist, in dem dieses den Antrag stellt, die Beschwerde abzuweisen, soweit darauf einzutreten sei.

Erwägungen:
1.
1.1. Gegen den kantonal letztinstanzlichen Endentscheid des Verwaltungsgerichts im Bereich des Baurechts steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten grundsätzlich offen (Art. 82 f. BGG; <ref-ruling> E. 2 S. 356). Die Beschwerdeführerin hat am vorinstanzlichen Verfahren teilgenommen und ist als Baugesuchstellerin zur Beschwerde legitimiert (<ref-law>). Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist auf die Beschwerde grundsätzlich einzutreten.
1.2. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann geltend gemacht werden, der angefochtene Entscheid verletze Bundes- oder Völkerrecht (Art. 95 lit. a und b BGG). Zulässig ist auch die Rüge der Verletzung von kantonalen verfassungsmässigen Rechten, kantonalen Bestimmungen über die politische Stimmberechtigung der Bürger und über Volkswahlen- und Abstimmungen (Art. 95 lit. c und d BGG). Abgesehen davon überprüft das Bundesgericht die Anwendung des kantonalen Rechts als solche nicht. Jedoch kann gerügt werden, diese Anwendung widerspreche dem Bundesrecht, namentlich dem Willkürverbot gemäss <ref-law> (<ref-ruling> E. 2.1 S. 372 mit Hinweisen). Nach der Praxis des Bundesgerichts verstösst ein Entscheid gegen dieses Verbot, wenn er im Ergebnis offensichtlich unhaltbar ist, weil er zum Beispiel eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt. Dass eine andere Lösung ebenfalls als vertretbar erscheint, genügt nicht (<ref-ruling> E. 2.2 S. 72 mit Hinweisen).
1.3. Das Bundesgericht prüft bei schwerwiegenden Einschränkungen von Grundrechten die gesetzliche Grundlage des kantonalen Rechts ohne Beschränkung der Kognition, andernfalls nur auf Willkür hin. Gemäss der Rechtsprechung liegt ein schwerer Eingriff in die Eigentumsgarantie vor, wenn die bisherige oder künftig mögliche, bestimmungsgemässe Nutzung eines Grundstücks durch Verbote oder Gebote verunmöglicht oder stark erschwert wird. Dagegen liegt kein schwerer Eingriff vor, wenn die zulässige Überbauungsmöglichkeit lediglich reduziert wird (Urteil 1C_126/2016 vom 30. August 2016 E. 3.2 mit Hinweisen). So verhält es sich im vorliegenden Fall, weshalb die Grundlage im kantonalen Recht nur unter dem Gesichtspunkt der Willkür zu prüfen ist (vgl. Urteil 1C_434/2012 vom 28. März 2013 E. 3.3).
1.4. Das Bundesgericht legt seinem Urteil den Sachverhalt zu Grunde, den die Vorinstanz festgestellt hat (<ref-law>). Die vorinstanzliche Sachverhaltsfeststellung kann nur gerügt werden, wenn sie offensichtlich unrichtig, d.h. willkürlich, ist, oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>; <ref-ruling> E. 5.1; <ref-ruling> E. 4.2; je mit Hinweisen). Eine entsprechende Willkürrüge ist substanziiert vorzubringen (<ref-law>; <ref-ruling> E. 5.4 S. 324; <ref-ruling> E. 4.2 S. 233 f.; je mit Hinweisen).
2.
Die Beschwerdeführerin rügt, die Vorinstanz sei auf verschiedene rechtserhebliche Begründungen nicht eingegangen und habe damit das rechtliche Gehör verletzt.
Im angefochtenen Urteil hat die Vorinstanz die wesentlichen Überlegungen genannt, von denen sie sich hat leiten lassen. Damit war eine sachgerechte Anfechtung ihres Entscheids möglich, auch wenn sie nicht jedes einzelne Vorbringen der Beschwerdeführerin ausdrücklich widerlegte. Die Rügen der Verletzung der Begründungspflicht erweisen sich damit als unbegründet (<ref-ruling> E. 5.2 S. 236).
3.
3.1. Gemäss § 238 des Planungs- und Baugesetzes des Kantons Zürich vom 7. September 1975 (PBG) sind Bauten, Anlagen und Umschwung für sich und in ihrem Zusammenhang mit der baulichen und landschaftlichen Umgebung im ganzen und in ihren einzelnen Teilen so zu gestalten, dass eine befriedigende Gesamtwirkung erreicht wird (Abs. 1). Auf Objekte des Natur- und Heimatschutzes ist besondere Rücksicht zu nehmen (Abs. 2).
3.2. Die Vorinstanz führte allgemein aus, gestützt auf § 238 PBG könne nur in Ausnahmefällen ein Verzicht auf die Realisierung des auf einem Grundstück zulässigen Volumens verlangt werden, wenn der Widerspruch zur baulichen Umgebung klar und krass sei. Hiefür seien besonders triftige Gründe erforderlich, wie zum Beispiel eine weitherum zurückhaltende Ausnützung, eine besondere Qualität der bestehenden Überbauung oder eine qualifizierte landschaftliche Empfindlichkeit. Nur ein krasses Missverhältnis der Proportionen oder die Rücksicht auf ein Schutzobjekt könne gestützt auf § 238 PBG die Ausschöpfung des grundsätzlich zulässigen Bauvolumens verbieten. In Kernzonen, die gemäss § 50 Abs. 1 PBG schutzwürdige Ortsbilder umfassten, die in ihrer Eigenart erhalten oder erweitert werden sollten, würden die erhöhten Gestaltungsanforderungen gemäss § 238 Abs. 2 PBG gelten, weshalb nicht nur eine befriedigende, sondern eine gute Einordnung verlangt werden könne.
Im vorliegenden Fall sei gemäss der zutreffenden Annahme des Bau-rekursgerichts dem Gutachten der NKH ein grosses Gewicht beizumessen. Eine fehlerhafte Tatsachenfeststellung durch das Baurekursgericht sei nicht ersichtlich. Die Akten liessen erkennen, dass das in direkter Nachbarschaft befindliche Schutzobjekt und die dazugehörigen Ökonomiebauten sich prägend auf die unmittelbare Umgebung des Baugrundstücks auswirkten. Das Baurekursgericht habe sich zu Recht nicht nur auf die unmittelbar anstossenden Grundstücke, sondern auch auf die weitere Umgebung bezogen und dazu ausgeführt, dass diese aus überwiegend locker aufgereihten Bauern- und Einfamilienhäusern mit grosszügigen Zwischenbereichen bestehe. Die besondere Qualität der baulichen Umgebung ergebe sich bereits aus der Inventarisierung im ISOS als eines der besterhaltenen ländlichen Ortsbilder der Region und aus dem dort formulierten Erhaltungsziel bezüglich Substanz, Anordnung und Gestaltung der Bauten. So würden etwa die Bauten auf dem unmittelbar östlich angrenzenden Grundstück im kantonalen Inventar als prägend bezeichnet. Zudem befinde sich das bauliche Umfeld entlang der Ausserdorfstrasse in einem als "Baugruppe mit speziellen Merkmalen" bezeichneten Bereich. Daran ändere nichts, dass sich in der Nachbarschaft auch Einfamilienhäuser jüngeren Baujahrs befänden. Gemäss dem Schutzziel seien insbesondere auch die Freiräume zu bewahren, wobei das Inventar die Grünbereiche und Gärten hervorhebe und das Gebiet westlich des Baugrundstücks als wichtigen Freiraum einstufe, weshalb von einer qualifizierten landschaftlichen Empfindlichkeit ausgegangen werden könne. Zwar habe das Baurekursgericht zutreffend ausgeführt, die Stellung der drei Neubauten sei grundsätzlich zulässig, die Grundmasse gemäss Art. 4 BZO würden eingehalten und das Haus B verstosse nicht gegen die Vorschriften der Profilierung. Doch habe das Baurekursgericht im Einklang mit der verwaltungsgerichtlichen Rechtsprechung die Gesamtwirkung der drei geplanten Häuser gemeinsam beurteilt und dabei festgehalten, dass durch das Ausschöpfen der zulässigen Grundmasse auf engem Raum drei voluminöse Baukörper zu stehen kämen, die deutlich dominanter in Erscheinung treten würden als die bestehenden Bauten in der Umgebung und daher mit dem Ortsbild nicht verträglich seien. Dass gewisse dieser Bauten ähnliche Volumen aufwiesen, ändere nichts daran, dass sich die geplante Überbauung durch ihre Dimensionen und die gut einsehbare Lage am bisher intakten Siedlungsrand störend auf das geschützte Ortsbild auswirken würde, indem sie sich durch ihr Volumen übermässig abhebe. Die streitbetroffenen Neubauten würden durch ihre Grösse und Nähe das Schutzobjekt beeinträchtigen, indem sie von Drittstandorten aus gesehen die Sicht darauf einschränkten und es optisch konkurrierten. Die Rücksichtnahme auf das benachbarte Schutzobjekt sowie die baulich und landschaftlich empfindliche Umgebung verlange damit eine Reduktion der geplanten Gebäudevolumen. Den damit verbundenen Ausnutzungsverlust müsse die Beschwerdeführerin hinnehmen, weil ihre Interessen diesbezüglich als geringer zu gewichten seien.
3.3. Die Beschwerdeführerin wendet ein, die Argumentation, das strittige Bauprojekt brächte einen völlig neuen Massstab ins Usserdorf verletze das Legalitätsprinzip, weil damit im Usserdorf ein anderer Massstab gelte als in der übrigen Kernzone. Hätte die Gemeinde Maschwanden im Usserdorf nur ein reduziertes Bauvolumen zulassen wollen, hätte sie für dieses Gebiet eine differenzierte Regelung treffen müssen. Da sie dies unterlassen habe, könne die Korrektur nicht über § 238 PBG erfolgen, weil gestützt auf diese Regelung nicht generell - etwa für ein ganzes Quartier - die Zonenordnung ausser Kraft gesetzt werden dürfe.
3.4. Gemäss der Rechtsprechung des Bundesgerichts haben Bauten nicht nur die geltende Bau- und Zonenordnung einzuhalten, sondern auch den Anforderungen allfälliger ästhetischer Schutzbestimmungen - wie vorliegend § 238 PBG - zu genügen. Solche Vorschriften haben eine eigenständige Bedeutung, da sich ihr Schutzbereich nicht zwingend mit demjenigen der Bauvorschriften deckt. Die Anwendung einer positiven Ästhetikklausel darf jedoch nicht dazu führen, dass generell - etwa für die ganze Dorfkernzone - die Zonenordnung ausser Kraft gesetzt würde. Lässt diese etwa eine bestimmte Geschosszahl zu, darf nicht generell nur ein Geschoss weniger bewilligt werden, um eine gute Gesamtwirkung zu erreichen (Urteil 1C_138/2014 vom 3. Oktober 2014 E. 8.1 mit Hinweis; vgl. auch Urteile 1C_434/2012 vom 28. März 2013 E. 3.3; 1C_270/2017 vom 12. Januar 2018 E. 4.2).
3.5. Vorliegend wurde gestützt auf § 238 PBG von der Bauherrin verlangt, auf dem Baugrundstück an exponierter Stelle des Usserdorfs unter Berücksichtigung von umliegenden denkmalgeschützten Bauten das grundsätzlich zulässige Bauvolumen nicht auszuschöpfen. Die damit verlangte Reduktion des Bauvolumens beschränkt sich auf das Baugrundstück und wird mit den konkreten, am betreffenden Standort gegebenen Umständen begründet. Sie erfasst nicht die ganze Dorfkernzone, weshalb die Rüge, die Zonenordnung werde generell ausser Kraft gesetzt, unbegründet ist.
4.
4.1. Weiter rügt die Beschwerdeführerin, die Vorinstanz habe § 238 PBG willkürlich angewandt, weil sie teilweise von einem offensichtlich unzutreffenden Sachverhalt ausgegangen sei. So sei die Feststellung, die drei geplanten voluminösen Baukörper würden wesentlich dominanter in Erscheinung treten als die bestehenden Bauten in der Umgebung, willkürlich und widersprüchlich, weil die Vorinstanz einräume, dass umliegende Bauten ähnliche Volumen aufwiesen.
4.2. Insoweit ist zu beachten, dass das Baurekursgericht angab, zwar bestünden auch in Usserdorf vereinzelt Gebäude, die über ähnliche Volumen verfügten, jedoch handle es sich dabei entweder um Ökonomiegebäude oder Spezialgebäude (Schulhaus), nicht aber um Wohnhäuser. Da die Vorinstanz von den Feststellungen des Baurekursgerichts ausging, ist erkennbar, dass sie mit dem Baurekursgericht von einer Dominanz der geplanten Wohnbauten gegenüber anderen Wohnbauten in der Umgebung ausging. Dazu steht nicht im Widerspruch, dass umliegende Ökonomiegebäude ähnliche Volumen aufweisen wie die strittigen Bauten. Zwar bringt die Beschwerdeführerin vor, in Bezug auf die bauliche Struktur sei es unerheblich, ob die umliegenden Gebäude Wohn-, Ökonomie- oder Spezialgebäude seien, weil diese Unterscheidung die Nutzung betreffe. Damit zeigt die Beschwerdeführerin jedoch nicht auf, inwiefern es willkürlich sein soll, in ländlichen Gebieten in Bezug auf die bauliche Struktur zwisc hen Wohnhäusern und - typischerweise grösseren - Ökonomiegebäuden zu unterscheiden und bei Wohnbauten eine Angleichung an die umliegenden anderen Wohnhäuser zu verlangen. Dies ist auch nicht ersichtlich, da in vertretbarer Weise auch grossvolumige Scheunen mit geringen Fensterflächen als weniger dominierend angesehen werden können als Wohnhäuser mit verputzten Fassaden und grossen Fensterflächen.
4.3. Sodann bringt die Beschwerdeführerin vor, von einer Dominanz der geplanten Mehrfamilienhäuser gegenüber den Gebäuden auf der südlichen Nachbarparzelle könne keine Rede sein, weil das darauf errichtete denkmalgeschützte Wohnhaus und die Stallscheune eine grössere Gesamthöhe aufwiesen als die geplanten Mehrfamilienhäuser und diese mit den Gebäuden auf dem Nachbargrundstück auch volumenmässig vergleichbar seien. Ein erheblicher Volumenunterschied bestehe nur zu den nördlich des Baugrundstücks errichteten kleineren Bauten, die jedoch keine besondere Qualität aufwiesen. Die Behauptung, das kleinere Haus C konkurrenziere optisch das geschützte "mächtige Riegelhaus" sei offenkundig falsch, da dieses gemäss Fotos bei den Akten höher sei als die geplanten Neubauten und ein vergleichbares Volumen aufweise. Zudem sei das Riegelhaus vom Baugrundstück aus nur zwischen zwei Ökonomiegebäuden hindurch einsehbar, weshalb es zu den geplanten Bauten nicht in Konkurrenz stehen könne. Entgegen der Behauptung der Vorinstanz habe das Baurekursgericht nicht festgehalten, dass die Neubauten durch ihre Grösse und Nähe das Schutzobjekt beeinträchtigten, indem sie die Sicht darauf einschänkten und dieses optisch konkurrenzierten. Die entsprechende Feststellung der Vorinstanz sei daher offensichtlich falsch. Auch die vorinstanzliche Feststellung, die unmittelbare Umgebung des Baugrundstücks werde durch das unter Schutz gestellte Riegelhaus mit dem dazugehörenden Ökonomiegebäude geprägt, sei offensichtlich falsch, weil das entsprechende Gehöft bloss den südlichen Dorfrand aber nicht die Situation an der Ausserdorfstrasse präge.
4.4. Die von der Beschwerdeführerin angerufenen Fotos lassen erkennen, dass die Firsthöhen des geschützten Riegelhauses und der daneben errichteten Stallscheune zwar etwa gleich hoch sind, die Stallscheune jedoch wesentlich länger und breiter ist als das Riegelhaus. Entsprechend führt die Beschwerdeführerin selber aus, zum Schutzobjekt gehöre eine volumenmässig erheblich grössere Scheune. Demnach kann in vertretbarer Weise angenommen werden, die volumenmässig allenfalls mit der Stallscheune vergleichbaren Wohnbauten A und B seien bezüglich des Volumens wesentlich grösser als das denkmalgeschützte Riegelhaus. Die vorinstanzliche Feststellung, dieses Riegelhaus werde durch die auf dem Baugrundstück geplanten grösseren Wohnbauten optisch konkurrenziert bzw. in seiner Wirkung eingeschränkt, erweist sich damit nicht als willkürlich. Da das Riegelhaus anerkanntermassen für den südlichen Dorfrand prägend ist, durfte die Vorinstanz willkürfrei auch dann von seiner prägenden Wirkung für die Umgebung des Baugrundstücks ausgehen, wenn berücksichtigt wird, dass das Riegelhaus vom Baugrundstück bzw. von der Ausserdorfstrasse aus gesehen nur zwischen zwei Scheunen eingesehen werden kann.
Zusammenfassend ergibt sich, dass die Rügen der willkürlichen Sachverhaltsfeststellungen unbegründet sind.
5.
5.1. Sodann rügt die Beschwerdeführerin, die Vorinstanz habe gegen das Willkürverbot verstossen, weil sie ihre ständige Rechtsprechung zu § 238 PBG falsch angewandt habe. Nach dieser Rechtsprechung dürfe ein Verzicht auf die Realisierung des auf einem Grundstück zulässigen Volumens nur verlangt werden, wenn dafür triftige Gründe gegeben seien, wie zum Beispiel ein krasser Widerspruch zu einer bestehenden Überbauung mit einer besonderen Qualität. Solche triftigen Gründe würden vorliegend offenkundig fehlen. Es sei nicht erkennbar, weshalb die bauliche Umgebung besonders empfindlich sein sollte. So sei es unhaltbar, aus dem Eintrag im ISOS, der als Erhaltungsziel nur die Strukturerhaltung vorsehe, generell auf eine besondere Qualität der baulichen Umgebung zu schliessen. Die nördlich des Baugrundstücks errichteten kleineren Einfamilienhäuser jüngeren Datums könnten kein empfindliches bauliches Umfeld darstellen. Die B auten auf den unmittelbar östlich angrenzenden Grundstücken seien im KOBI nur mit der Signatur "prägende Firstrichtungen" versehen worden, was mit den Bauvolumen nichts zu tun habe. Was die Vorinstanz in Bezug auf das Bauvolumen aus der im kantonalen Inventar enthaltenen Signatur "Baugruppe mit speziellen Merkmalen" herleiten möchte, sei nicht nachvollziehbar. In Bezug auf das grossvolumige Schutzobjekt im Süden mit den es umgebenden grossvolumigen Ökonomiegebäuden sei das geplante Bauvolumen unproblematisch.
5.2. In tatsächlicher Hinsicht ist gestützt auf den vorinstanzlich festgestellten Sachverhalt davon auszugehen, dass das in direkter Nachbarschaft befindliche denkmalgeschützte Riegelhaus und die entsprechenden Ökonomigebäude sich prägend auf die unmittelbare Umgebung des Baugrundstücks auswirken und die weitere Umgebung aus überwiegend locker aufgereihten Bauern- und Einfamilienhäusern mit grosszügigen Zwischenbereichen und teils grösseren Scheunen besteht, wobei die Gebäude A und B gegenüber den umliegenden Wohnbauten volumenmässig erheblich grösser sind. Unter diesen Umständen durfte die Vorinstanz willkürfrei annehmen, das strittige Bauprojekt würde aufgrund der Konzentration von drei voluminösen Wohnbauten auf engem Raum und der entsprechend kleinen ländlichen Freiflächennutzungen einen störenden Gegensatz zur Umgebung schaffen. Bezüglich der Empfindlichkeit der näheren Umgebung ist zu berücksichtigen, dass gemäss der zutreffenden Angabe der Vorinstanz - und entgegen der Behauptung der Beschwerdeführerin - die Bauten auf den Grundstücken östlich des Baugrundstücks im kantonalen Inventar KOBI nicht nur als Gebäude mit prägenden Firstrichtungen, sondern auch als prägende oder strukturbildende Gebäude eingetragen sind. Südlich des Baugrundstücks liegt ein Bauernhof mit einem denkmalgeschützten Riegelhaus von überregionaler Bedeutung. Demnach durfte die Vorinstanz unabhängig von den nördlich des Baugrundstücks errichteten Einfamilienhäusern namentlich unter Berücksichtigung der Wohnbauten auf den südlich und östlich an das Baugrundstück angrenzenden Parzellen die besondere Empfindlichkeit der Umgebung bejahen. Dies wird dadurch bestätigt, dass das ISOS in Bezug auf das Usserdorf die Erhaltungsziele "Erhalten der Substanz, Anordnung und Gestalt der Bauten und Freiräume bewahren" nennt und das kantonale Inventar bezüglich der Gemeinde Maschwanden ausführt, das Schwergewicht der Schutzbestrebungen liege bei der Erhaltung der wertvollen Altbausubstanz innerhalb des bestehenden, lockeren Siedlungsgefüges mit den typischen ländlichen Freiflächennutzungen (Vorgärten, Zier- und Nutzgärten in den Zwischen- und Hinterbereichen) und den Grünräumen mit schönem Baubestand, weshalb beim Auffüllen von Baulücken mit grosser Sorgfalt bezüglich kubischer Gestaltung und Materialwahl vorzugehen sei. Vor diesem Hintergrund durfte die Vorinstanz in vertretbarer Weise davon ausgehen, die geplante Überbauung schaffe bei einer Gesamtbetrachtung zur umliegenden Überbauung mit besonderer Qualität und Schutzobjekten einen krassen Widerspruch, weshalb gemäss ihrer Rechtsprechung gestützt auf § 238 PBG eine Reduktion des von der BZO grundsätzlich zugelassenen Volumens verlangt werden durfte.
5.3. Da insoweit den Erwägungen der Vorinstanz zur Einstufung des Gebiets westlich des Baugrundstücks als wichtiger Freiraum keine selbständige Bedeutung zukommt, ist auf die dagegen gerichtete Kritik der Beschwerdeführerin nicht einzutreten. Die Ausführungen der Beschwerdeführerin zur Beweislast betreffend den Widerspruch zur baulichen Umgebung sind ebenfalls nicht entscheiderheblich, weil die Vorinstanz diesen Widerspruch als bewiesen erachten durfte und sich daher die Frage der Beweislastverteilung nicht stellt (<ref-ruling> E. 3.4 S. 634 mit Hinweis).
6.
6.1. Die Vorinstanz erwog, das Gleichbehandlungsgebot verlange nicht, dass in der Kernzone des Dorfes Maschwanden überall die gleichen Anforderungen an die Einordnung gälten, weil diese Zone unterschiedliche Siedlungsstrukturen aufweise, die bezüglich der Einordnung zu berücksichtigen seien. Die Überbauung "Sagi" sei mit dem strittigen Bauprojekt nicht vergleichbar. Für dieses könne auch aus der noch nicht rechtskräftigen Bewilligung einer Überbauung an der Ausserdorfstrasse 44/46 nichts abgeleitet werden, weil keine Vergleichbarkeit gegeben sei, die einen Verstoss gegen das Gleichbehandlungsgebot begründen könnte. Ob die entsprechende Noveneingabe noch zulässig gewesen sei, könne daher offen bleiben und die Edition der Baupläne könne unterbleiben.
6.2. Die Beschwerdeführerin rügt, die Bauverweigerung verletze die Rechtsgleichheit, weil sie gegen die Bewilligungspraxis im Kanton Zürich verstosse. So seien in Maschwanden die dichte und "serielle" Überbauung "Sagi" und an der Ausserdorfstrasse 44/46 eine mit dem strittigen Bauprojekt vergleichbare Überbauung mit vier Mehrfamilienhäusern bewilligt worden, welche die zulässigen Grundmasse teilweise voll ausschöpften. Die Pläne dieser Überbauung müssten daher ediert und der Sachverhalt entsprechend ergänzt werden.
6.3. Da gemäss den vorstehenden Erwägungen das strittige Bauprojekt § 238 PBG verletzt, verlangt die Beschwerdeführerin mit ihrem Hinweis auf die Erteilung von zwei Bewilligungen für ihrer Ansicht nach ähnliche Überbauungen eine Gleichbehandlung im Unrecht. Nach der Rechtsprechung setzt ein Anspruch auf eine solche Gleichbehandlung namentlich voraus, dass dieselbe Behörde in ähnlichen Fällen bisher in ständiger Praxis vom Gesetz abwich und zu erkennen gibt, auch künftig nicht gesetzeskonform entscheiden zu wollen. Dabei begründen wenige vereinzelte Fälle noch keine Praxis (<ref-ruling> E. 7.1 S. 61; <ref-ruling> E. 5.6 S. 78 f.; <ref-ruling> E. 3c S. 253 f.; je mit Hinweisen).
6.4. Vorliegend ist ein Anspruch auf Gleichbehandlung im Unrecht betreffend das vorgesehene Bauvolumen bereits deshalb ausgeschlossen, weil die Beschwerdeführerin mit der Anrufung von bloss zwei anderen Fällen keine entsprechende Praxis nachweisen kann (vgl. Urteil 1C_685/2013 vom 6. März 2015 E. 4.3). Demnach braucht nicht abgeklärt zu werden, ob die an der Ausserdorfstrasse 44/46 bewilligte Überbauung mit der strittigen Überbauung vergleichbar ist.
7.
Da sich die Rügen der willkürlichen und rechtsungleichen Anwendung von § 238 PBG als unbegründet erwiesen haben, sind auch die daraus abgeleiteten Rügen der Verletzung des Legalitätsprinzips gemäss <ref-law> und der Eigentumsgarantie gemäss <ref-law> unbegründet.
Weil die Vorinstanz die von der Beschwerdeführerin verlangte Baubewilligung aufgrund der Verletzung von § 238 PBG bundesrechtskonform verweigern durfte, kommt den vorinstanzlichen Erwägungen, wonach die geplante Überbauung auch die Anforderungen gemäss Art. 7, 8 und 9 BZO nicht erfülle, keine entscheiderhebliche Bedeutung zu. Auf die dagegen gerichteten Rügen ist daher nicht einzutreten.
8.
Gemäss den vorstehenden Erwägungen ist die Beschwerde abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens sind die Gerichtskosten der unterliegenden Beschwerdeführerin aufzuerlegen (<ref-law>). Die in ihrem amtlichen Wirkungskreis obsiegende und nicht anwaltlich vertretene Gemeinde hat keinen Anspruch auf eine Parteientschädigung (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 4'000.-- werden der Beschwerdeführerin auferlegt.
3.
Es wird keine Parteientschädigung zugesprochen.
4.
Dieses Urteil wird der Beschwerdeführerin, dem Gemeinderat Maschwanden, der Baudirektion des Kantons Zürich und dem Verwaltungsgericht des Kantons Zürich, 1. Abteilung, 1. Kammer, schriftlich mitgeteilt.
Lausanne, 8. August 2018
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Merkli
Der Gerichtsschreiber: Gelzer