Abu spilte i Sporting Club Accra før han ble tilknyttet ungdomsakademiet til Manchester City. 31. august 2010 signerte han proffkontrakt med den engelske klubben. Han ble umiddelbart lånt ut til Strømsgodset fram til sommeren 2011. I sin første sesong i Strømsgodset var han med på å vinne cupen. Etter dette ble utlånsavtalen forlenget ut sesongen 2011. Våren 2012 ble han lånt ut til Eintracht Frankfurt, men ingen spilletid og mistrivsel gjorde at han returnerte til Strømsgodset 30. mars 2012. Her ble han til sommeren 2012, da Manchester City lånte han ut igjen, denne gang til Rayo Vallecano i Spania. 1. februar 2013 ble Abu lånt ut til den franske klubben Lorient.