Sachverhalt:
A. Der 1949 geborene G._ war gemäss Arbeitsvertrag vom 28. Februar 2004 ab 1. März 2004 als Chief Financial Officer (CFO) in der Firma X._ AG tätig. Mit Schreiben vom 25. Februar 2005 teilte ihm die Arbeitgeberin mit, sie sei überschuldet und müsse aufgelöst werden. Daher werde das Arbeitsverhältnis mit sofortiger Wirkung und ohne Lohnfortzahlung beendet. Am 10. Oktober 2005 stellte G._ Antrag auf Insolvenzentschädigung. Mit Verfügung vom 19. Mai 2006 verneinte die Arbeitslosenkasse des Kantons Zürich einen solchen Leistungsanspruch. Daran hielt sie mit Einspracheentscheid vom 22. August 2007 fest. Zur Begründung wurde u.a. ausgeführt, es liege keiner der im Gesetz genannten Insolvenztatbestände vor.
B. Die von G._ hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 28. September 2009 ab.
C. G._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, in Aufhebung des vorinstanzlichen Entscheids sei ihm eine Insolvenzentschädigung nebst Verzugszins zuzusprechen; eventuell sei die Sache zur Feststellung des Sachverhalts an die Arbeitslosenkasse zurückzuweisen.
Die Arbeitslosenkasse schliesst auf Abweisung der Beschwerde. Das Staatssekretariat für Wirtschaft verzichtet auf eine Stellungnahme.
Mit Eingabe vom 27. Januar 2010 lässt sich G._ nochmals vernehmen.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 und 96 BGG geltend gemacht werden. Das Bundesgericht wendet das Recht grundsätzlich von Amtes wegen an (<ref-law>). Trotzdem obliegt es der Beschwerde führenden Partei, sich in der Beschwerde sachbezogen mit den Darlegungen im angefochtenen Entscheid auseinanderzusetzen (Art. 42 Abs. 1 und 2 BGG). Das Bundesgericht prüft unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht - vorbehältlich offensichtlicher Fehler - nur die in seinem Verfahren geltend gemachten Rechtswidrigkeiten. Es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (<ref-ruling> E. 2.2.1 S. 389 mit Hinweisen). Die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht prüft das Bundesgericht nur insoweit, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (<ref-law>). Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (<ref-law>), es sei denn, dieser sei offensichtlich unrichtig oder beruhe auf einer Rechtsverletzung im Sinne von <ref-law> (<ref-law>).
2. Im angefochtenen Entscheid sind die Bestimmungen über die verschiedenen Tatbestände, bei welchen Anspruch auf Insolvenzentschädigung besteht (Art. 51 Abs. 1, Art. 58 AVIG), mit der dazu ergangenen Rechtsprechung (insbes. <ref-ruling>) zutreffend dargelegt. Darauf wird verwiesen.
3. Das kantonale Gericht hat erkannt, es liege kein solcher Insolvenztatbestand vor. Eine Überschuldung der Arbeitgeberin würde, selbst wenn sie offensichtlich wäre, hiefür nicht genügen. Auch habe die ehemalige Arbeitgeberin des Versicherten zwar am 29. August 2005 ihr Domizil eingebüsst. Es sei aber nicht der Konkurs über sie eröffnet worden. Rechtsprechungsgemäss (<ref-ruling>) sei es auch bei eingebüsstem Domizil einer Firma noch möglich und zumutbar, die Eröffnung des Konkurses zu erwirken. Das sei hier nicht geschehen.
Diese Beurteilung ist nicht umstritten. Auch wird nicht geltend gemacht, einer der anderen im Gesetz genannten Insolvenztatbestände sei gegeben. Es besteht kein Anlass zu weiteren Bemerkungen.
4. Der Beschwerdeführer erneuert sein Vorbringen, die Verwaltung sei hinsichtlich der Obliegenheiten, welchen er zur Wahrung des Anspruchs auf Insolvenzentschädigung hätte genügen müssen, ihrer Aufklärungs- und Beratungspflicht gemäss <ref-law> und arbeitslosenversicherungsrechtlichen Bestimmungen nicht nachgekommen. Daraus dürfe ihm kein Rechtsnachteil erwachsen. Somit sei sein Leistungsanspruch zu bejahen.
4.1 Das kantonale Gericht hat dies mit der Begründung verneint, der Versicherte habe lediglich eine Verletzung der behördlichen Beratungspflicht und nicht eine eigentliche Falschauskunft beanstandet. Er könne daher auch aus Treu und Glauben nichts zu seinen Gunsten ableiten.
Diese Begründung überzeugt nicht. Gemäss konstanter Rechtsprechung kommt eine ungenügende oder fehlende Wahrnehmung der Beratungspflicht einer falsch erteilten Auskunft des Versicherungsträgers gleich (aus jüngerer Zeit: Urteil 8C_66/2009 vom 7. September 2009 E. 8.4 mit Hinweis, nicht publ. in: <ref-ruling>, aber in: SVR 2010 UV Nr. 1 S. 1; Urteil U 50/07 vom 4. August 2008 E. 11.2 mit Hinweisen, nicht publ. in: <ref-ruling>, aber in: SVR 2008 UV Nr. 34 S. 126).
4.2 Im Ergebnis ist die vorinstanzliche Beurteilung aber richtig.
4.2.1 Der Anspruch auf Insolvenzentschädigung setzt u.a. voraus, dass die versicherte Person im Rahmen der Schadenminderungspflicht gegenüber dem Arbeitgeber das ihr Mögliche und Zumutbare vorgekehrt hat, um zum geschuldeten Lohn zu gelangen (vgl. <ref-law> und die dazu ergangene Rechtsprechung). Das beinhaltet namentlich auch zwangsvollstreckungsrechtliche Massnahmen bis hin zu einem der Stadien der Zwangsvollstreckung, in welchen von Gesetzes wegen (Art. 51 Abs. 1 und Art. 58 AVIG) ein Anspruch auf Insolvenzentschädigung erst bestehen kann. Die Anforderungen an die (ALV-)behördliche Auskunfts- und Beratungspflicht dürfen diesbezüglich nicht überspannt werden. Namentlich ist es nicht Sache der Arbeitslosenkasse, der versicherten Person jeden zwangsvollstreckungsrechtlichen Schritt bis hin zur Erreichung eines der besagten Insolvenztatbestände aufzuzeigen. Das gilt erst recht, wenn berücksichtigt wird, dass die versicherte Person auch aus eigenem Interesse, welches in der Erlangung des geschuldeten Lohnes besteht, gehalten ist, gegen den Arbeitgeber vorzugehen.
4.2.2 Im vorliegenden Fall hatte der Versicherte nach Erhalt der Kündigung zunächst lediglich Arbeitslosenentschädigung geltend gemacht und war von der Arbeitslosenkasse über die diesbezüglich anfallenden Obliegenheiten informiert worden. Dem dabei aufgelegten Kündigungsschreiben der Arbeitgeberin vom 25. Februar 2005 ist zu entnehmen, dass die Firma überschuldet und illiquid sei, weshalb umgehend die Bilanzen deponiert werden müssten. Am 17. Mai 2005 teilte die ehemalige Arbeitgeberin der Arbeitslosenkasse dann mit, dass sie mangels Liquidität von Amtes wegen liquidiert werde. Sodann führte der Versicherte in seiner Einsprache vom 27. Juni 2005 gegen die - Arbeitslosenentschädigung betreffende - Verfügung der Arbeitslosenkasse vom 8. Juni 2005 aus, wegen offensichtlicher Überschuldung und mangels eines von einem Gläubiger geleisteten Kostenvorschusses werde der Konkurs über die ehemalige Arbeitgeberin nicht eröffnet. Aus diesem Grund werde er Antrag auf Insolvenzentschädigung stellen müssen, weshalb ihm ein entsprechendes Formular zuzustellen sei.
Wird der Konkurs gegen den Arbeitgeber nur deshalb nicht eröffnet, weil sich infolge offensichtlicher Überschuldung kein Gläubiger bereit findet, die Kosten vorzuschiessen, stellt das einen eigenen gesetzlichen Tatbestand dar, bei welchem Anspruch auf Insolvenzentschädigung besteht (<ref-law>). Aufgrund der dargelegten Mitteilungen der ehemaligen Arbeitgeberin und des Versicherten konnte die Arbeitslosenkasse davon ausgehen, dass dieses Zwangsvollstreckungsstadium hier erreicht und damit auch der besagte Insolvenztatbestand gegeben sei. Damit bedurfte es keiner weiteren Auskünfte der ALV-Behörden zu Obliegenheiten des Beschwerdeführers im Zwangsvollstreckungsverfahren.
4.2.3 Spätestens aufgrund der Verfügung der Arbeitslosenkasse vom 19. Mai 2006 war für den Versicherten ohnehin klar, dass ein Anspruch auf Insolvenzentschädigung bestimmte Handlungen von seiner Seite voraussetzen würde. Er hat nach Lage der Akten dennoch, weder bis dahin noch in der Folge, irgendwelche zwangsvollstreckungsrechtlichen Massnahmen gegen die ehemalige Arbeitgeberin eingeleitet. Vielmehr beschränkte er sich offenbar darauf, am 28. April 2005 beim Konkursamt seine Lohnforderung anzumelden. Dabei war ihm bekannt, dass noch kein Konkurs eröffnet worden war. Dennoch sah er von eigenen zwangsvollstreckungsrechtlichen Schritten ab. Das mag zwar auch in teils wenig aussagekräftigen Auskünften des Konkursamtes begründet gewesen sein. Von einer Verletzung der ALV-behördlichen Auskunfts- und Beratungspflicht, welche gegebenenfalls unter dem Aspekt des Vertrauensschutzes anspruchsrelevant sein könnte, kann unter den gegebenen Umständen aber nicht gesprochen werden. Die Vorbringen des Versicherten rechtfertigen keine andere Betrachtungsweise. Das gilt auch für die neu aufgelegten - novenrechtlich ohnehin unzulässigen (<ref-law>) - Dokumente.
5. Die Arbeitslosenkasse hat einen Anspruch auf Insolvenzentschädigung auch mit der Begründung verneint, dem Versicherten sei aufgrund seiner Funktion innerhalb der X._ AG und des Verwaltungsratsmandates, welches er innerhalb der mit diesem Unternehmen eng verbundenen Y._ AG ausgeübt habe, eine arbeitgeberähnliche Stellung zugekommen. Zudem sei der Beschwerdeführer ein übermässiges Risiko eingegangen, als er am 28. Februar 2004 den Arbeitsvertrag mit der X._ AG abgeschlossen und mit zeitgleich abgeschlossener Zusatzvereinbarung den von dieser laufend geschuldeten Lohn für die Dauer eines Jahres (bis 31. März 2005) gestundet habe.
Ob auch diese Gesichtspunkte gestatten würden, einen Anspruch auf Insolvenzentschädigung zu verneinen, muss nicht weiter geprüft werden, da die Beschwerde schon aufgrund des zuvor Gesagten abzuweisen ist. Damit erübrigt sich auch, auf die diesbezüglichen Äusserungen der Parteien einzugehen.
6. Die Kosten des Verfahrens sind vom unterliegenden Beschwerdeführer zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, dem Staatssekretariat für Wirtschaft und dem Amt für Wirtschaft und Arbeit des Kantons Zürich schriftlich mitgeteilt.
Luzern, 23. März 2010
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Ursprung Lanz