Han giftet seg i 1963 med Marna Holm, søster til Óli Holm. Jákup Olsen er far til Annika Olsen og morfar til Bjørk Maria Kunoy (født Olsen), begge politikere for Fólkaflokkurin.