Ole Ålgård tok examen artium ved Kongsgård skole i Stavanger i 1940. Han begynte i utenrikstjenesten etter å ha utdannet seg til jurist: Han ble cand.jur. i 1946 og tok også eksamen på Académie de droit international de La Haye i Frankrike i 1947. Han var ambassaderåd i Brussel fra 1965 til 1967 og var da også fast norsk representant i Europarådet. Ålgård var ambassadør i Beijing fra 1967 til 1970, Norges ambassadør til FN i New York i ti år fra 1972 til 1982. Fra 1975 var han leder av FNs tilsynskomite for FNs andre utviklingstiår. Han avsluttet sin karriere i utenrikstjenesten som ambassadør i København fra 1982 til 1989.