I første halvdel av 1880-årene var det én politisk sak som overskygget alle andre temaer i Norge, nemlig spørsmålet om Folkesuverenitet. Som stortingsmann var Schwartz meget engasjert i dette spørsmålet om Norges stilling vis-à-vis Sverige. I februar 1884 ble han invitert til å tale på et folkemøte på Stenseth gård i Eiker. Der ga han statsminister Selmer sin fulle støtte, og det ble etterpå fortalt at Schwartz hadde en så høy status, og ordla seg med så stor pondus og kløkt, at ingen tok til motmæle mot synspunktene han fremførte i talen.