Als Militärattaché wurde er bei der Besetzung der bundesdeutschen Botschaft in Stockholm von Terroristen der Rote Armee Fraktion ermordet. Nachdem die schwedische Polizei das Untergeschoss der Botschaft besetzt hatte, beauftragten die Geiselnehmer von Mirbach mit Verhandlungen. Die Verhandlungen dauerten circa eine Stunde. Eine Forderung der Geiselnehmer war, dass von Mirbach die Polizisten zum Abzug aus dem von ihnen besetzten Erdgeschoss des Botschaftsgebäudes bewegen sollte, andernfalls werde er erschossen. Als die Polizei der Forderung zum Abzug nach mehrfacher Verlängerung des Ultimatums nicht nachkam, wurde von Mirbach durch einen der Geiselattentäter aus unmittelbarer Nähe von hinten mit fünf Schüssen in Kopf, Rücken, Becken und Beine niedergeschossen und mit dem Kopf voran die Treppe heruntergeworfen. Erst eine Stunde später durften zwei bis auf die Unterhosen entkleidete schwedische Polizisten Mirbach bergen, der zwei Stunden später, nach einer Operation in der Universitätsklinik von Stockholm, starb. Nach den Schüssen zog sich die Polizei in ein Nebengebäude zurück. Wer von der RAF die Schüsse abgegeben hatte, ist ungeklärt, da es keine neutralen Zeugen gab und die RAF-Terroristen bisher schwiegen.