Alexy besuchte ab 1834 als Bronzearbeiter die Sonntagskurse der Wiener Akademie der bildenden Künste. In weiterer Folge wurde er Schüler der dortigen Bildhauerklasse unter Josef Klieber. Seine Karriere begann 1841, als er eine Porträtbüste und eine Reiterstatue der britischen Königin Victoria der Öffentlichkeit präsentierte. Es folgten Studienreisen nach Deutschland, Frankreich und Italien. Im Zuge der &lt;a href="Revolution%20von%201848/1849%20im%20Kaisertum%20%C3%96sterreich"&gt;Revolution von 1848/1849 im Kaisertum Österreich&lt;/a&gt; stellte er sich auf die Seite der revolutionären ungarischen Freiheitskämpfer, was ihm eine Verurteilung und eine dreijährige Gefangenschaft in Pest einbrachte. Nach seiner Freilassung übersiedelte Alexy nach London, wo er vorerst im Atelier von William Behnes (1795–1864) arbeitete, in weiterer Folge aber selbstständig tätig war. In dieser Zeit entstanden im Crystal Palace die Büsten Raffaels und seiner Geliebten Margherita Luti sowie einige Figurengruppen zum ostindischen Krieg, welche großes Aufsehen erregten und den Künstler bekannt machten. 1861 kehrte Karoly Alexy wieder in seine Heimat Ungarn zurück. In dieser Zeit schuf er die kolossale Marmorbüste des ungarischen Freiheitskämpfers Graf Lajos Batthyány, weiters übernahm er die plastische Dekoration der Budapester Redoute. Im Anschluss daran unterrichtete er Zeichnung an der dortigen Oberrealschule.