Pappenheim war der Sohn des jüdischen Lehrers Max Pappenheim und der Regina Sprecher. Er studierte von 1899 bis 1905 Medizin an der Universität Wien, nach der Promotion war er 1906/07 Assistent an der Psychiatrischen Klinik in Prag, danach bis 1911 an der Psychiatrischen Klinik in Heidelberg. Pappenheim habilitierte 1915 in Wien. Als eingezogener Militärarzt betreute er als Gefängnispsychiater den Attentäter von Sarajevo, Gavrilo Princip. Pappenheim war aktiver Sozialdemokrat und besuchte 1920/21 die Sowjetunion. 1922 wurde Pappenheim Vorsteher der neurologischen Abteilung am Krankenhaus Lainz und 1924 außerordentlicher Professor für Neurologie und Psychiatrie der Universität. Ab 1928 war er Mitglied der Wiener Psychoanalytischen Vereinigung, er gehörte zum engeren Kreis um Sigmund Freud. Pappenheim kehrte 1934, nach dem Scheitern der Februaraufstände, auf Anraten von Freunden, von einer Palästinareise nicht mehr zurück, sondern ließ sich dort nieder.