Sie wurde ursprünglich als "Kärntner Verein "Alpenrose"" 1890 in Wien gegründet. Der Verein wurde am 2. März 1890 von Hans Tuppinger, Peter Payer, Hans Mlatschnig, Georg Ostermann, Georg Jansel, Johann Thaler, Christof Ronacher und Heinrich Klienerim im Hotel Nagler im Wiener Bezirk Landstraße gegründet. Der Kärntner Geselligkeitsverein "Edelweiß", gegründet 1891 in Wien, schloss sich 1908 der Alpenrose an, verließ aber mit seinen Mitgliedern im März 1918 den Verein wegen . Auf Grund des Ausganges der Kärntner Volksabstimmung am 10. Oktober 1920 wurde aus Freude über das Ergebnis und als äußeres Zeichen eine Namensänderung durchgeführt. Der neue Name lautete: "Kärntner Landsmannschaft für Wien und Niederösterreich."