I august deltok han ved OL i London. Han hadde det nest lengste kvalifiseringskastet, med 84,47 meter, kun slått av Vitezslav Vesely. I finalen greide han imidlertid ikke å kaste like langt. Det første kastet var såvidt over 70 meter, og dette kastet gjorde han dødt ved å tråkke over streken. Neste kast var på 82,63 meter, tredje kast tråkket han dødt, og fjerde kast ble 81,70 meter. Thorkildsen ble stående med 82,63 meter som lengste kast, og endte på 6.-plass i finalen. 19 år gamle Keshorn Walcott vant gullet i dette OL. Thorkildsen kastet 71,05 meter ved sesongens siste Diamond League-stevne, som gikk i Stockholm, og endte på 10.-plass i dette stevnet. På grunn av sine dårlige resultater på slutten av sesongen valgte han også å stå over NM i friidrett 2012.