Wiener Übereinkommen über das Recht der Verträge
Neben seinem akademischen Wirken war Karl Zemanek auch diplomatisch tätig. Er wirkte von 1967 bis 2003 als Rechtsberater des österreichischen Außenministeriums und gehörte mehrfach den Delegationen seines Heimatlandes zu internationalen Organisationen und Konferenzen an. So vertrat er Österreich bei zwölf Sitzungen der Generalversammlung der Vereinten Nationen, zwischen 1978 und 1985 bei den Generalkonferenzen der UNESCO, zwischen 1962 und 1976 im Ausschuss für die friedliche Nutzung des Weltraums der Vereinten Nationen sowie in den Jahren 1968/1969 als Leiter der österreichischen Delegation bei den Verhandlungen zum Wiener Übereinkommen über das Recht der Verträge. Darüber hinaus fungierte er als Präsident der UN-Konferenzen, bei denen 1977/1978 die Wiener Konvention über die Staatennachfolge in völkerrechtliche Verträge und 1986 die Konvention über das Vertragsrecht der internationalen Organisationen ausgehandelt und beschlossen wurden. Seit 1977 ist er Mitglied des Ständigen Schiedshofs in Den Haag.