В 1948 году он женился на актрисе Руби Ди, с которой провёл в открытом браке 57 лет и вырастил троих детей. Они были известными активистами и членами многих правозащитных организаций, в том числе и NAACP, которая в 1989 году включила его с супругой в свой зал славы. Дэвис с женой были друзьями Мартина Лютера Кинга, Малколма Икс, Джесси Джексона и других афроамериканских икон эпохи. В августе 1963 года они приняли участие в знаменитом Марше на Вашингтон, где Мартин Лютер Кинг произнёс речь, получившую название «У меня есть мечта». В 2007 Осси Дэвис, совместно с супругой Руби Ди, был посмертно удостоен премии «Грэмми» за их альбом «With Ossie And Ruby: In This Life Together», посвящённый их браку.