Mullen vokste opp i Artane på nordsiden av Dublin, som den midterste av de tre barna til Maureen og Larry Mullen. Foreldrene hans syntes gutten burde lære seg å spille et instrument og oppdaget fort at han likte best å tromme. Han tok trommetimer hos Joe Bonnie, som var Irlands mest berømte trommeslager. Han fikk sitt første egne trommesett i 1973, kjøpt av hans eldste søster, Cecilia.