Faits: A. A._ a fait l'objet en 2011 d'une instruction pénale ouverte par le Ministère public genevois, pour avoir fait des avances à caractère sexuel à un adolescent de quinze ans sur un site Internet de rencontres. En réalité, il est apparu que le profil de l'adolescent avait été créé par un journaliste dans le but de piéger le prévenu. Par ordonnance du 3 mai 2012, après avoir fait saisir et analyser l'ordinateur du prévenu, le Ministère public a classé la procédure sans examiner s'il y avait infraction à l'art. 187 CP, considérant que les seules preuves d'un éventuel comportement illicite avaient été obtenues illicitement. Le Ministère public a toutefois refusé d'indemniser le prévenu pour le préjudice ou le tort moral subi, considérant que son comportement inadmissible (soit une discussion d'ordre sexuel avec un mineur avec des avances explicites) était à l'origine de la procédure pénale. Les frais ont toutefois été laissés à la charge de l'Etat. B. Par arrêt du 18 juin 2012, la Chambre pénale de recours de la Cour de justice genevoise a rejeté le recours formé par A._. Celui-ci n'avait pas d'intérêt à remettre en cause les motifs de la décision de classement. Le refus de toute indemnité était justifié au regard de l'art. 430 al. 1 CPP car le fait de proposer explicitement à une personne de quinze ans d'accomplir ou de subir des actes d'ordre sexuel était contraire aux moeurs au sens de l'art. 41 al. 2 CO. C. Par acte du 21 août 2012, A._ forme un recours en matière pénale. Il conclut à l'annulation de l'arrêt cantonal en tant que celui-ci refuse de lui allouer une indemnité. Il demande 21'480 fr. avec intérêts pour ses frais de défense, ainsi que la réserve de ses droits concernant toute autre indemnisation ou réparation du tort moral. Subsidiairement, il conclut au renvoi de la cause à la cour cantonale pour nouvelle décision. La cour cantonale se réfère aux considérants de son arrêt, sans observations. Le Ministère public conclut au rejet du recours. Le recourant a déposé de nouvelles observations le 25 octobre 2012, persistant dans ses conclusions.