Sachverhalt: A. Mit Verfügung vom 5. Dezember 2000 stellte die Volkswirtschaftsdirektion des Kantons Zürich E._ als juristische Sekretärin im Amt für Wirtschaft und Arbeit (AWA) mit Antrittsdatum vom 16. März 2001 ein. Zu ihren Aufgaben gehörte die Beurteilung von Gesuchen um Arbeitsbewilligungen. Im Jahr 2006 wurde sie mit der Bearbeitung des Gesuchs um eine Arbeitsbewilligung für D._, welche für den damaligen Direktor H._ tätig sein sollte, betraut. Infolge verschiedener Differenzen mit ihren Vorgesetzten in Zusammenhang mit der Bearbeitung dieses Gesuchs resp. zweier Wiedererwägungsgesuche kündigte E._ das Arbeitsverhältnis mit Schreiben vom 16. Februar 2007 fristlos, welches sie am 22. Februar 2007 ihrem direkten Vorgesetzten übergab. Mit Entscheid vom 22. Februar 2007 verfügte die Anklagekammer des Obergerichts gestützt auf die von E._ in ihrer Strafanzeige vom 22. Dezember 2006 erhobenen Vorwürfe die Eröffnung eines Strafverfahrens gegen den Chef des AWA. Nachdem die Volkswirtschaftsdirektion am 27. Februar 2007 das Arbeitsverhältnis rückwirkend aufgelöst und sich infolge Unrechtmässigkeit der fristlosen Kündigung allfällige Forderungen vorbehalten hatte, verlangte E._ eine Begründung dieser Verfügung. Am 4. April 2007 erliess die Volkswirtschaftsdirektion eine praktisch identische Austrittsverfügung. Auf den von E._ dagegen eingereichten Rekurs trat der Regierungsrat mit Entscheid vom 19. August 2009 nicht ein. B. E._ liess dagegen Beschwerde beim Verwaltungsgericht des Kantons Zürich führen. Dieses stellte in teilweiser Gutheissung der Beschwerde mit Entscheid vom 27. Januar 2010 fest, die fristlose Kündigung durch E._ sei gerechtfertigt gewesen, und verpflichtete den Kanton Zürich zur Leistung einer Entschädigung von drei Monatslöhnen sowie einer Abfindung von neun Monatslöhnen. C. Der Kanton Zürich führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, es sei der vorinstanzliche Entscheid aufzuheben und festzustellen, die fristlose Kündigung von E._ sei nicht gerechtfertigt gewesen. Zudem ersucht der Kanton Zürich um Gewährung der aufschiebenden Wirkung seiner Beschwerde. E._ lässt auf Abweisung der Beschwerde, soweit darauf eingetreten werden könne, sowie auf Abweisung des Gesuchs um aufschiebende Wirkung schliessen. D. Mit Verfügung vom 30. April 2010 wies das Bundesgericht das Gesuch um Gewährung der aufschiebenden Wirkung ab.