坚定而狂热的天主教徒，他的很多政策中都能看到宗教信仰的影子。这大大影响了他在一些问题上的判断，并使政府卷入一系列宗教纷争。特别是由于腓力二世希望铲除各种异端或异教的决心，中世纪的宗教审判和迫害异端在他统治时期达到登峰造极的程度。腓力二世大力支持天主教宗教裁判所，使大批持异端邪说的人（无论是真有其事还是受到陷害）在火刑柱上化为灰烬。他的另一项政策则使1568年－1570年被强制迁徙到西班牙内地的摩尔人受到残酷迫害。从阿拉贡国王费尔南多二世开始的对穆斯林和犹太人的迫害和驱逐最终使西班牙的种族构成趋于“纯化”。