15. července 2016 byl Gnabry pozván k účasti na Letních olympijských hrách 2016. 4. srpna nastoupil do zápasu Německa proti Mexiku a vstřelil první gól Německa v 58 minutě; zápas skončil remízou 2:2. O tři dny později se dvakrát střelecky prosadil do sítě Jižní Koreje, pomohl tak Německu zachránit bod při remíze 3:3. 10. srpna Gnabry přispěl dalšími dvěma góly k porážce Fidži 10:0. Ve čtvrtfinálovém zápase proti Portugalsku vstřelil svůj šestý gól na turnaji těsně před poločasovou přestávkou, když Německo zvítězilo poměrem 4:0. Stal se, spolu se svým spoluhráčem Nilsem Petersenem, nejlepším střelcem turnaje; pomohl týmu ke stříbrné medaili.