Paul Wittgenstein se narodil ve Vídni, jeho otec byl průmyslový magnát Karl Wittgenstein, jeden z nejbohatších lidí své doby. Jeho bratr — známý filosof Ludwig Wittgenstein — se narodil o dva roky později. Otec byl známým vídeňským mecenášem. Na hudebních večírcích, které se u Wittgensteinů tehdy pořádaly, se objevovali i významní hudební skladatelé mezi nimi byli i Johannes Brahms, Gustav Mahler, Josef Labor nebo Richard Strauss, se kterým hrával mladý Paul duety. První veřejný klavírní koncert proběhl v roce 1913. V tehdejším tisku sklidil pochvalné recenze. Následující rok byl povolán do armády, se kterou se účastnil útoku na dnešní Polsko. Wittgenstein byl střelen do pravého lokte a následně mu byla amputována pravá ruka.