Sachverhalt: A. Mit Verfügung vom 23. Mai 2005 lehnte die IV-Stelle des Kantons Zürich ein Gesuch des E._ (geb. 1994) um medizinische Massnahmen zur Behandlung eines angeborenen Psychoorganischen Syndroms (POS) ab. Daran hielt die IV-Stelle mit Einspracheentscheid vom 12. Juli 2005 fest. B. Die dagegen erhobene Beschwerde hiess das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 28. April 2006 gut und stellte fest, dass E._ Anspruch auf die Gewährung medizinischer Massnahmen für die Behandlung des Geburtsgebrechens nach Ziff. 404 GgV Anhang habe. C. Das Bundesamt für Sozialversicherungen (BSV) führt Verwaltungsgerichtsbeschwerde mit dem Antrag, der kantonale Entscheid sei aufzuheben. E._ lässt auf Abweisung der Verwaltungsgerichtsbeschwerde schliessen, während die IV-Stelle deren Gutheissung anbegehrt.