Alf Andersen er gravlagt på Vår Frelsers gravlund i Oslo sammen med sin hustru Liv Ingebjørg Lindberg. Gravstenen, som er hugget ut av granitt av bildehuggeren Gunnar Janson, er utformet som et fløytemunnstykke. Han var også medlem av Den Norske Frimurerorden.