Delhis 2010 Commonwealth chef Suresh Kalmadi sade att det skulle vara olämpligt för honom att vara hedersliv president i Indiens olympiska kropp.
Idrottsministern hade beskrivit utnämningen som "helt oacceptabelt".
Mr Kalmadi väntar på rättegång för bedrägeri, förfalskning och brottskonspiration. Han förnekar anklagelserna och har erkänt att han inte är skyldig.
Kongresspartiets politiker avskedades från sin samväldesroll 2011 och tillbringade 10 månader i fängelse innan han frigavs mot borgen.
"Jag tackar den indiska olympiska föreningen för att ge äran av liv president på mig," Mr Kalmadi sade i ett brev till den indiska olympiska Association (IOA) president N Ramachandran.
"Jag anser dock inte att det skulle vara lämpligt för mig att acceptera denna ära just nu. Jag är övertygad om att mitt namn kommer att rentvås och jag kommer att skjuta upp accepterandet av äran till denna tid."
Idrottsministeriet hade hotat att bryta banden med IOA, om det inte vände erbjudandet om hederslivsroller till Mr Kalmadi och en annan politiker som står inför korruptionsanklagelser, Abhay Singh Chautala.
Indiska sociala mediers användare förlöjligade erbjudandena.
"Suresh Kalmadi & Abhay Chautala har belönats för Indiens fantastiska prestanda i OS under de senaste åren," skrev en kommentator, hänvisar till sitt lands dåliga rekord i senaste spel.
"Ja, Indian Olympic Association, låt oss motivera våra idrottare genom att göra #SureshKalmadi till deras president", skrev en annan.
Andra föreslog framstående människor som de ansåg skulle vara lika illa lämpade för inflytelserika positioner på grund av sin bakgrund, med en sådan tweet tyder på före detta porrstjärna Sunny Leone bör leda Indiens film censurer.
En högt uppsatt indisk politiker anklagad för korruption har avböjt en ärofull olympisk roll mitt i en storm av protester.