不继嗣，与张璁（1475年-1569年）、桂萼（？-1531年）、方献夫（1485年-1544年）、席书（1461年-1527年）同调。世宗得疏后甚喜，然时“濮议”诸臣佔据朝廷，所论被认为是邪说误国。韬意不自释，遂于嘉靖二年（1523年）三月谢病归。嘉靖三年（1524年）明世宗商议尊亲生父母事，并两次下诏召回霍韬。霍韬借病辞退不任，但仍然上疏提出自己建议。世宗非常赞赏其忠义，催其回朝。第二年，提升为詹事府少詹事兼侍讲学士，霍韬坚决辞退，奏折也没有被採纳。嘉靖六年（1527年）再次回朝，世宗命其负责经筵讲