Sachverhalt:
A. Mit Beschluss vom 11. Juni 2008 verfügte der Bezirksrat Küssnacht zwecks Erweiterung des Strandbads Seeburg die enteignungsweise Übertragung von 2'340 m2 Land ab der Liegenschaft GB 794 Küssnacht auf den Bezirk Küssnacht zu Eigentum zur Bildung der neuen Liegenschaft GB 4064 Küssnacht.
B. In der Folge erhob X._ Beschwerde beim Regierungsrat des Kantons Schwyz und verlangte die Aufhebung des Beschlusses des Bezirksrats Küssnacht vom 11. Juni 2008. Nach Überweisung dieses Rechtsmittels an das Verwaltungsgericht des Kantons Schwyz wies dieses die Beschwerde mit Entscheid vom 20. November 2008 ab. Es erwog, für die streitige Enteignung bestehe eine formell-gesetzliche Grundlage, es sei ein öffentliches Interesse gegeben und die Massnahme sei verhältnismässig.
C. Mit Eingabe vom 26. Januar 2009 erhebt X._ beim Bundesgericht subsidiäre Verfassungsbeschwerde (Art. 113 ff. BGG). Er beantragt die Aufhebung des verwaltungsgerichtlichen Entscheids vom 20. November 2008 und ersucht um Gewährung der aufschiebenden Wirkung. Er rügt eine Verletzung der Eigentumsgarantie (Art. 26 BV).
D. Mit Präsidialverfügung vom 23. Februar 2009 wurde der Beschwerde aufschiebende Wirkung zuerkannt.
E. Das Verwaltungsgericht und der Bezirksrat Küssnacht beantragen in ihren Vernehmlassungen Abweisung der Beschwerde.
Erwägungen:
1. Das Bundesgericht prüft seine Zuständigkeit von Amtes wegen (Art. 29 Abs. 1 BGG). Es untersucht deshalb grundsätzlich von Amtes wegen, ob und inwiefern auf eine Beschwerde eingetreten werden kann.
1.1 Dem angefochtenen Entscheid einer letzten kantonalen Instanz (Art. 86 Abs. 1 lit. d BGG) liegt ein Beschwerdeverfahren über eine Enteignung und damit eine öffentlich-rechtliche Angelegenheit zu Grunde. Ein Ausschlussgrund nach Art. 83 ff. BGG liegt nicht vor. Somit steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten zur Verfügung (Art. 82 ff. BGG). Für die vom Beschwerdeführer eingereichte subsidiäre Verfassungsbeschwerde verbleibt demnach kein Raum (Art. 113 BGG). Zu beachten ist jedoch, dass die vom Beschwerdeführer erhobene Rüge der Verletzung der Eigentumsgarantie als Rüge der Verletzung von Bundesrecht gemäss Art. 95 lit. a BGG mit Beschwerde in öffentlich-rechtlichen Angelegenheiten hätte vorgebracht werden können. Dies hat der Beschwerdeführer übersehen. Die unrichtige Bezeichnung des Rechtsmittels schadet ihm jedoch nicht, wenn bezüglich des statthaften Rechtsmittels sämtliche formellen Voraussetzungen erfüllt sind und daher eine Konversion möglich ist. Vorliegend steht nichts entgegen, die Eingabe vom 26. Januar 2009 vollumfänglich als Beschwerde in öffentlich-rechtlichen Angelegenheiten zu behandeln.
1.2 Das schwyzerische Enteignungsverfahren ist zweistufig aufgebaut. Auf der ersten Stufe entscheidet nach § 2 Abs. 1 des Expropriationsgesetzes des Kantons Schwyz vom 1. Dezember 1870 (SRSZ 470.100; im Folgenden: EntG) in Bezirksangelegenheiten der Bezirksrat über die Zulässigkeit und den Umfang der Enteignung. Gegen dessen Entscheid stehen als Rechtsmittel die Verwaltungsbeschwerde an den Regierungsrat (§ 45 Abs. 1 lit. b der Verordnung vom 6. Juni 1974 über die Verwaltungsrechtspflege [SRSZ 234.110; im Folgenden: VRP] i.V.m. § 2 Abs. 2 EntG) und danach die Verwaltungsgerichtsbeschwerde zur Verfügung (§ 51 lit. a VRP). Auf der zweiten Stufe des Enteignungsverfahrens legt die zuständige Schätzungskommission die Entschädigungssumme fest (§ 1 Abs. 1 der Vollzugsverordnung vom 23. Dezember 1974 zum Enteignungsrecht [SRSZ 470.111; im Folgenden: VVEntG] i.V.m. § 14 EntG). Ihr Entscheid kann mit Klage beim Verwaltungsgericht angefochten werden (§ 3 Abs. 1 VVEntG i.V.m. § 14 EntG). Nach der kantonalen Rechtsprechung darf die Schätzungskommission erst tätig werden, wenn das Verfahren der ersten Stufe rechtskräftig abgeschlossen ist. Auf den angefochtenen Entscheid, bei dem es um die Frage der Zulässigkeit und des Umfangs der strittigen Enteignung geht, kann demnach in einem nachfolgenden Schätzungsverfahren grundsätzlich nicht mehr zurückgekommen werden. Er ist daher abschliessend im Sinne von Art. 90 BGG und gilt deshalb als Endentscheid.
1.3 Der Beschwerdeführer hat am vorinstanzlichen Verfahren teilgenommen und ist Eigentümer des Grundstücks, das enteignet werden soll. Er ist von der umstrittenen formellen Enteignung besonders berührt und beruft sich auf schutzwürdige Interessen. Seine Beschwerdelegitimation ist gestützt auf Art. 89 Abs. 1 BGG zu bejahen. Auch die übrigen Sachurteilsvoraussetzungen sind grundsätzlich erfüllt und geben zu keinen weiteren Bemerkungen Anlass. Vorbehältlich genügend begründeter Rügen (Art. 106 Abs. 2 i.V.m. Art. 42 Abs. 2 BGG) ist auf die Beschwerde einzutreten.
2. 2.1 Der Beschwerdeführer bringt vor, aus der Sachverhaltsfeststellung der Vorinstanz gehe nicht hinreichend klar hervor, dass die ihm verbleibende, in der Landhauszone WL gelegene Teilfläche der Liegenschaft GB 794 Küssnacht nach der umstrittenen Enteignung nicht mehr über die Seeburgstrasse erschlossen wäre und daher einer Erschliessung entbehren würde. Des Weitern habe die Vorinstanz die Fuss- und Fahrwegrechte nicht berücksichtigt, die er dem Eigentümer der Liegenschaft GB 3266 Küssnacht zu gewähren habe. Sinngemäss rügt der Beschwerdeführer somit eine unrichtige Sachverhaltsfeststellung durch die Vorinstanz.
2.2 Die Feststellung des Sachverhalts durch die Vorinstanz kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG).
2.3 Der Beschwerdeführer legt nicht dar und es ist auch nicht ersichtlich, inwiefern die von ihm behaupteten Mängel der Sachverhaltsfeststellung für den Ausgang des vorliegenden Verfahrens entscheidend seien. Auf die entsprechende Rüge ist daher nicht weiter einzutreten.
3. Der Beschwerdeführer rügt zudem eine Verletzung der Eigentumsgarantie. Dabei stellt er weder in Frage, dass die umstrittene Enteignung auf einer hinreichenden gesetzlichen Grundlage beruht, noch dass die Massnahme im öffentlichen Interesse liegt. Er macht jedoch geltend, eine Enteignung sei nur verhältnismässig, wenn mildere Mittel wie Verkaufsverhandlungen nicht zum angestrebten Ziel geführt hätten. Im vorliegenden Fall seien vom Bezirksrat Küssnacht indes keine ernsthaften Verhandlungen geführt worden, weshalb die umstrittene Enteignung unverhältnismässig sei.
3.1 Nach der Rechtsprechung des Bundesgerichts handelt es sich beim zwangsweisen Entzug von Grundeigentum um einen schweren Eingriff in die Eigentumsgarantie nach Art. 26 BV. In diesem Fall prüft das Bundesgericht frei, ob die Voraussetzungen einer Einschränkung von Grundrechten gemäss Art. 36 BV (hinreichende gesetzliche Grundlage, Vorliegen eines öffentlichen Interesses, Verhältnismässigkeit der Massnahme) erfüllt sind (BGE 126 I 219 E. 2c S. 221 f.; 124 II 538 E. 2a S. 540 f.; je mit Hinweisen). Es auferlegt sich aber Zurückhaltung, soweit es um die Beurteilung von Ermessensfragen oder von örtlichen Verhältnissen geht (BGE 126 I 219 E. 2c S. 221 f. mit Hinweisen).
3.2 Die Vorinstanz führt aus, aus den Unterlagen sei ersichtlich, dass die Parteien erneut Verkaufsverhandlungen aufgenommen hätten, nachdem ein Kauf der fraglichen Liegenschaft zum Preis von Fr. 1'100.--/m2 durch die zuständigen politischen Instanzen des Bezirks Küssnacht abgelehnt worden war. Da jedoch über den Kaufpreis unterschiedliche Meinungen bestanden hätten, habe keine gütliche Einigung erzielt werden können. Aus dieser Tatsache könne indes nicht geschlossen werden, dass die Verhandlungsführung des Bezirksrats Küssnacht nicht ernsthaft gewesen sei.
3.3 Der Beschwerdeführer macht geltend, es gehe daraus hervor, dass der Bezirksrat nicht ernsthaft verhandelt habe, dass er auf sein Verkaufsangebot vom 15. Januar 2008 nicht eingegangen sei, mit dem er die fragliche Liegenschaft für Fr. 1'040.--/m2 offeriert habe. Dieser Preis habe deutlich unter dem Kaufpreis von Fr. 1'100.--/m2 gelegen, auf den man sich ursprünglich geeinigt hatte, der dann aber von den zuständigen politischen Instanzen abgelehnt worden sei. Des Weitern habe der Bezirksrat am 6. November 2007 eine Kaufofferte zum Preis von Fr. 720.--/m2 (zuzüglich Teuerung seit 1997 gemäss dem Landesindex der Konsumentenpreise) unterbreitet, die nicht nachvollziehbar gewesen sei. Dieser Preis habe auf einer pauschalen Verkehrswertschätzung der Güterschatzungskommission des Kantons Schwyz vom 18. April 2005 beruht, die rückwirkend per 1997 vorgenommen worden sei.
3.4 Der Beschwerdeführer macht keine Verletzung kantonalen Rechts geltend, sondern beruft sich auf die Eigentumsgarantie bzw. das Verhältnismässigkeitsprinzip. Ob dieses erheischt, vor der förmlichen Einleitung eines Enteignungsverfahrens mit dem Betroffenen Verhandlungen zu führen, kann offen bleiben, hat doch der Bezirksrat mit dem Beschwerdeführer Verhandlungen geführt. Sein Vorwurf, diese Verhandlungen seien nicht ernsthaft geführt worden, ist unbegründet.
Nachdem die zuständigen politischen Instanzen des Bezirks Küssnacht einem Kauf der fraglichen Liegenschaft zu dem mit dem Beschwerdeführer verhandelten Preis von Fr. 1'100.--/m2 nicht zugestimmt hatten, durfte der Bezirksrat davon ausgehen, dass diese Instanzen auch nicht einem Kauf zu dem vom Beschwerdeführer offerierten Preis von Fr. 1'040.--/m2 zustimmen werden, zumal die Preisdifferenz lediglich 5 % beträgt. Angesichts der Preisvorstellungen des Beschwerdeführers durfte der Bezirksrat des Weitern davon ausgehen, dass seine eigene Kaufofferte zum Preis von Fr. 720.--/m2 (zuzüglich Teuerung seit 1997), die auf einer Verkehrswertschätzung der kantonalen Güterschatzungskommission, d.h. der zuständigen Fachstelle beruhte, chancenlos war. Bei dieser Ausgangslage war es sachlich begründet, dass der Bezirksrat die Verhandlungen, von denen kein Erfolg mehr zu erwarten war, abbrach und statt dessen das Enteignungsverfahren einleitete. Dass er es unterliess, den Beschwerdeführer über das Ergebnis der Prüfung des Verkaufsangebots vom 15. Januar 2008, wie im Schreiben vom 13. Februar 2008 in Aussicht gestellt, eigens zu informieren und statt dessen direkt die Enteignungsverfügung vom 11. Juni 2008 erliess, vermag hieran nichts zu ändern. Die Rüge der fehlenden Verhältnismässigkeit der umstrittenen Enteignung ist demnach nicht stichhaltig.
4. Der Beschwerdeführer bringt zudem vor, unfair behandelt worden zu sein. Zur Begründung dieser Rüge führt er jedoch nichts aus, was über das in den bisherigen Erwägungen Behandelte hinaus geht. Es erübrigt sich daher, auf dieses Vorbringen weiter einzutreten.
5. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist nach dem Gesagten abzuweisen, soweit darauf eingetreten werden kann.
Dem Ausgang des vorliegenden Verfahrens entsprechend sind die Gerichtskosten dem unterliegenden Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG). Eine Parteientschädigung ist nicht zuzusprechen (Art. 68 Abs. 1 und 3 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf eingetreten werden kann.
2. Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3. Es wird keine Parteientschädigung zugesprochen.
4. Dieses Urteil wird dem Beschwerdeführer, dem Bezirksrat Küssnacht und dem Verwaltungsgericht des Kantons Schwyz, Kammer III, schriftlich mitgeteilt.
Lausanne, 18. Mai 2009
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Féraud Kappeler