7 февраля 2007 года Марио дебютировал в основной сборной Германии в товарищеском поединке против Швейцарии (3:1). В этом же матче он забил свой первый гол. Марио получал предложения выступать за испанскую сборную, однако сделал выбор в пользу страны, в которой родился. В 2008 году он отправился на чемпионат Европы, где сыграл в трёх матчах, но забитыми голами не отметился. В июне 2009 года Гомес оформил покер в поединке против сборной ОАЭ (7:2), один из которых был признан ФИФА лучшим голом месяца. Карьера Гомеса в сборной Германии складывалась неоднозначно. Он мог не забивать годами, а также отмечался сенсационными промахами. В итоге на чемпионате мира 2010 года он выходил лишь на замены и вновь не забил.