Costa hizo su debut oficial con el club de Londres el 18 de agosto de 2014, anotando además su primer gol con el equipo en lo que terminó en una victoria 3-1 como visitante sobre el Burnley FC en la primera fecha de la Premier League 2014/15.