Etter sin første periode i NTB fra 1957 til 1960 begynte Olsen i Arbeidernes Pressekontor, der han var fram til 1965. Deretter ble han redaktør i 1965–1970 og i 1971–1973, før han ble sjefredaktør i fra 1974 til 1975.