1991年12月3日，联合国大会任命加利为联合国第六任秘书长，任期五年，成为联合国历史上第一位担任此职务的非洲人。被选为联合国秘书长之后，加利的工作引起了众多争议。人们批评他在1994年卢旺达大屠杀中未能发挥联合国的作用；另外在安哥拉内战期间，加利在调停上未能统一联合国的意见。在联合国的作用以及美国在联合国的地位等问题上，加利遭到了更猛烈的质疑。尽管他的支持者们将之归咎于美国对联合国行动的抵制，但加利已渐渐成为「空洞的联合国」的象征。