Etter å ha lagt opp som spiller gikk Inge Ludvigsen i 2003 inn som trener for Fyllingen. I 2005 trakk han seg imidlertid midt i sesongen etter skuffende resultater i sesonginnledningen.