I likhet med Walther Rathenau var Weiss medlem av det liberale Deutsche Demokratische Partei. Sammen med sin sjef, politipresident Albert Grzesinski, slo Weiss systematisk ned på politisk motivert vold på høyre- og venstresiden. Han spilte en ledende rolle i etterforskningen av drapet på Rathenau.