Rahim Ayew doorliep alle Ghanese nationale jeugdelftallen vanaf de U-17 tot de U-23. In 2009 werd hij voor het eerst opgeroepen voor het seniorenteam, voor een vriendschappelijke interland tegen Angola. Hij werd opgenomen in de selectie voor de Afrika Cup 2010, waarin Ghana de finale haalde maar met 1-0 verloor tegen Egypte. Na de succesvolle Afrika Cup werd hij ook opgenomen in de selectie voor het WK voetbal 2010 in Zuid-Afrika, waar Ghana in de kwartfinale in de slotseconden van de verlengingen een strafschop miste en uiteindelijk na strafschoppen werd uitgeschakeld door Uruguay.