奥斯曼也因为用人唯亲而引发周遭人士的不满。656年，来自伊拉克和埃及的宗教激进分子组成的刺客集团于麦地那包围了奥斯曼的住所。6月17日，奥斯曼被一群破门而入的刺客杀死。当奥斯曼被刺时，他正在阅读《古兰经》。在奥斯曼遇刺后，其堂侄穆阿威叶反对先知的堂弟阿里成为新一任哈里发；他公开展示奥斯曼的血衣，暗示阿里是刺杀奥斯曼的藏镜人。奥斯曼的遗体则被安放在麦地那。