Stephen Thomas Erlewine de AllMusic elogió la canción por su artesanía y su escritura, al comentar que «[en] "One Sweet Day", un dueto con Boyz II Men, Carey hace un llamamiento a ambas audiencias por igual debido a la gran cantidad de artesanía y el trabajo duro que pone en sus discos.»