Olga Taussky (eller ) kom fra en jødisk familie. Hennes far Julius David Taussky var indrustrikjemiker, og moren Ida Pollach var husmor. Olga var den andre av tre barn. Hun ble født i Olmütz (dagens i Tsjekkia, den gang i det østerriksk-ungarske kronlandet Mähren), men vokste opp i Wien og Linz.