912年，中华民国成立后，向奥匈帝国派驻外交代表。1913年10月6日，奥匈帝国外交承认中华民国，于维也纳设立中华民国驻奥匈帝国公使馆，并派驻公使。1917年8月14日，第一次世界大战爆发后，中华民国对奥匈帝国宣战，并召回公使。1919年，巴黎和会召开后，中华民国与奥地利第一共和国签署和约。9月10日，恢复于维也纳设立的公使馆，改名为中华民国驻奥地利公使馆，并恢复派驻公使。1938年3月13日，德国吞併奥地利后，中华民国撤除驻奥地利公使馆，改设立中华民国驻维也纳总领事馆，并改派驻总领事。