Faits: A. Le 14 juin 2010, A._ a commencé à travailler, à Genève, auprès de l'entreprise X._ - dont les activités ont été reprises ultérieurement par la société B._ - en qualité de chauffeur-livreur. Lors de son engagement, il avait également accepté de prêter main forte à l'atelier où étaient préparées les commandes de poisson et le responsable de l'atelier l'avait formé à l'utilisation d'une "pelleuse-découenneuse", c'est-à-dire une machine destinée à enlever la peau des poissons grâce à un rouleau tournant contre une lame. Le 16 juin 2010, la main de A._ a été happée par cette machine et partiellement broyée. A dire de médecin, il se trouvait encore, en février 2011, en incapacité totale de travailler et subissait une atteinte à l'intégrité en cas de lésion de peau estimée à 10%. Le 11 mai 2011, A._ a déposé plainte pénale pour mise en danger de la vie d'autrui et lésions corporelles par négligence contre inconnu. Il reprochait en substance à son employeur de ne pas avoir pris les dispositions nécessaires pour veiller sur son intégrité physique. Lors du dépôt de la plainte, 11 mois après les faits, la machine en cause avait été remplacée par du matériel neuf et ne se trouvait plus dans les locaux de l'entreprise. B. Par ordonnance du 15 décembre 2011, le Ministère public du canton de Genève a décidé de ne pas entrer en matière. Par arrêt du 24 février 2012, la Chambre pénale de la Cour de justice (ci-après: le Tribunal cantonal ou la cour cantonale) a rejeté le recours de A._. C. Agissant par la voie du recours en matière pénale, A._ demande au Tribunal fédéral d'annuler l'arrêt du 24 février 2012, d'ordonner au Ministère public d'ouvrir une information pénale et d'inviter l'autorité inférieure à le mettre au bénéfice de l'assistance juridique. Il sollicite en outre l'assistance judiciaire pour la procédure devant le Tribunal fédéral. Le Tribunal cantonal renonce à se déterminer et se réfère aux considérants de son arrêt. Le Ministère public conclut au rejet du recours. L'intimé D._, directeur et propriétaire de B._, confirme les déclarations faites à la police.