1877 wechselte er auf die Kunstakademie Düsseldorf, wo er bis 1878 Schüler von Heinrich Lauenstein und Hugo Crola war. Dann schrieb er sich in der Münchner Königlichen Akademie der Bildenden Künste ein. Dort unterrichteten ihn Ludwig von Löfftz und der US-Amerikaner Frank Duveneck. Mit weiteren Duveneck-Schülern, die wie er aus den Vereinigten Staaten kamen, etwa John White Alexander und Joseph DeCamp, wird er daher kunstgeschichtlich zu den "Duveneck Boys" gezählt. Gemeinsam reisten sie nach Venedig, wo sie etwa ein Jahr blieben. 1883 bis 1884 hielt er sich als Schüler Duvenecks in Florenz auf. 1884 zog nach Paris. Dort besuchte er die Académie Julian unter Tony Robert-Fleury und William Adolphe Bouguereau. Am 10. März 1887 heiratete er in Florenz Anna Eliza Chickering (1859–1896), die Tochter von George Harvey Chickering (1830–1899), des Miteigentümers des Klavierbauunternehmens Chickering &amp; Sons. An der Pariser Weltausstellung 1889 nahm Rolshoven teil und gewann eine silberne Medaille. Auch auf den Weltausstellungen in Chicago 1893 und Paris 1900 stellte er aus. 1896 zog er nach London, wo seine erste Frau, die keine Kinder geboren hatte, am 5. Dezember starb. 1902 ging er wieder nach Florenz und leitete eine Malklasse. 1910 bereiste er Tunesien.