是灞陵县令皇甫叔献，父皇甫叔侯，举孝廉。出后叔父，徒居新安。少家贫，边耕边读。学习废寝忘食。博览儒家经典百家，人称“书淫”。淡于名利。举孝廉而不行，相国征辟而不就。晋武帝屡下诏敦促，皆固辞，终身不仕，潜心着述。上表，武帝赠书一车。 晚年患风痹疾。太康三年（282年）卒，时年六十八。
着作.皇甫谧把古代着名的三部医学着作，即《素问》，《针经》（即《灵枢》），《明堂孔穴针灸治要》，综合编着成《黄帝三部鍼灸甲乙经》，共10卷，乃中国针灸学名着。到了南北朝，才被改为12卷本。。另着