Kaouch palasi arvokisoihin vuonna 2004, jolloin hän oli Brysselin maastojuoksun MM-kisoissa lyhyellä matkalla kymmenes. Ateenan olympialaisissa hän sijoittui 1 500 metrillä yhdeksänneksi ja kahdenneksitoista. Maastojuoksun MM-kisoissa 2005 hän oli lyhyellä matkalla yhdestoista. Samana vuonna Helsingin MM-kisoissa hän voitti MM-hopeaa 1 500 metrillä ajalla 3.38,00. 2006 hän avasi kautensa juoksemalla seitsemänneksi Moskovan sisäratojen MM-kisoissa 3 000 metrin juoksussa ajalla 7.48,01. Fukuokan maastojuoksun MM-kisoissa hän voitti pronssia MM-pronssia lyhyellä henkilökohtaisella matkalla sekä joukkuekilpailussa. Samana vuonna hän sijoittui toiseksi Afrikan-mestaruuskilpailuissa 1 500 metrillä sekä kahdenneksitoista .