Auf Reichsebene war er zwischen 1906 und 1917 Vorsitzender des Zentralen Bildungsausschuss der Partei. Heimann gehörte 1908 zu den ersten acht Sozialdemokraten, die trotz des Dreiklassenwahlrechts in das preußische Abgeordnetenhaus einzogen (blieb es bis 1910). Während der Novemberrevolution war er Volksbeauftragter in Berlin und gehörte 1919/20 der Weimarer Nationalversammlung an. Anschließend war er von 1920 bis 1932 Mitglied des Reichstages. In der Nationalversammlung wie auch im Reichstag war er ohne größere Unterbrechungen Vorsitzender des Haushaltsausschusses. Heimann blieb zunächst unter nationalsozialistischen Herrschaft in Berlin und emigrierte 1939 zunächst nach Großbritannien und später in die USA. Nach dem Krieg kehrte er nicht mehr nach Deutschland zurück. Ein Sohn Heimanns war der Sozial- und Wirtschaftswissenschaftler Eduard Heimann.