Sau thất bại tại Điện Biên Phủ, theo Hiệp định Genève, 1954, Pháp phải rút khỏi Việt Nam. Việt Nam tạm thời chia thành 2 miền tập kết. Tòa lãnh sự Trung Hoa Dân quốc dời vào Sài Gòn. Khi Thủ tướng Quốc gia Việt Nam tuyến bố phế truất Quốc trưởng Bảo Đại và thành lập Việt Nam Cộng hòa. Trung Hoa Dân quốc ngay lập tức công nhận Việt Nam Cộng hòa bởi hai quốc gia này có cùng chung chính sách chống cộng sản. Chính quyền Ngô Đình Diệm đã thiết lập mối quan hệ chính thức với chính quyền Đài Bắc năm 1955. Quan hệ cấp Lãnh sự được nâng lên hàng Đại sứ. Đại sứ đầu tiên của Trung Hoa Dân quốc tại Việt Nam Cộng hòa cũng chính là cựu Tổng lãnh sự Viên Tử Kiên.