Renan luego expone lo que se ha convertido en una de las ideas más famosas y perdurables del ensayo: «El olvido, y hasta diría que el error histórico, es fundamental en la creación de una nación». La investigación histórica, al revelar verdades no deseadas, puede incluso poner en peligro la nacionalidad. Todas las naciones, incluso las más benévolas en la práctica posterior, se basan en actos de violencia, que luego se olvidan: «La unidad siempre se logra con la brutalidad: la unión del norte de Francia con el centro fue el resultado de casi un siglo de exterminio y terror». Él cree que las personas se unen en sus recuerdos de sufrimiento porque aliviar el dolor requiere un «esfuerzo común» que sirve como base para la unidad. Los miembros de una comunidad sienten que han logrado algo grandioso cuando pueden sobrevivir en condiciones adversas. Da algunos ejemplos de países como Turquía y Bohemia donde hay una estratificación rígida, o donde diferentes comunidades se enfrentan entre sí, y donde la homogeneización de diferentes grupos no pudo ocurrir, lo que resultó en un fracaso de la nacionalidad. Esto conduce a una de las declaraciones más citadas en el ensayo:Sin embargo, la esencia de una nación es que todos los individuos tienen muchas cosas en común y también que han olvidado muchas cosas. Ningún ciudadano francés sabe si es borgoñón, alan, taifale o visigodo; sin embargo, todo ciudadano francés tiene que haber olvidado la matanza de San Bartolomé o la matanza que tuvo lugar en el sur en el siglo XIII.