Mrkšić foi acusado em 1995, juntamente com Miroslav Radić, Veselin Šljivančanin e Slavko Dokmanović, pelo Tribunal Penal Internacional para a antiga Iugoslávia (TPII). Ele entregou-se voluntariamente ao Tribunal em 15 de maio de 2002, sendo transferido para suas dependências no mesmo dia. O julgamento contra ele começou em outubro de 2005 e terminou em 2007; quando em 27 de setembro, foi considerado culpado por contribuir e incitar o massacre de Vukovar com o assassinato de civis e prisioneiros, ajudando e incitando a tortura e o tratamento cruel às vítimas. Em Agosto de 2012, Mrksic foi condenado a 20 anos de prisao, pena a cumprir na prisao de alta segurança de Monsanto, em Portugal, por de "assassinio, tortura e crueldade".