Olsen forsøkte å redusere sitt ansvar under rettssaken, men alvoret i tiltalen påvirket ham synlig. Han ble dømt til livsvarig fengsel for sin rolle i Rinnanbanden og på grunn av de grove overgrepene han var involvert i. Han startet soning 3. august 1947 og ble løslatt fra Bjørkelangen tvangsarbeidsleir 10. juni 1953.