Sachverhalt:
A. Mit Verfügung vom 23. Mai 2005 lehnte die IV-Stelle des Kantons Zürich ein Gesuch des E._ (geb. 1994) um medizinische Massnahmen zur Behandlung eines angeborenen Psychoorganischen Syndroms (POS) ab. Daran hielt die IV-Stelle mit Einspracheentscheid vom 12. Juli 2005 fest.
B. Die dagegen erhobene Beschwerde hiess das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 28. April 2006 gut und stellte fest, dass E._ Anspruch auf die Gewährung medizinischer Massnahmen für die Behandlung des Geburtsgebrechens nach Ziff. 404 GgV Anhang habe.
C. Das Bundesamt für Sozialversicherungen (BSV) führt Verwaltungsgerichtsbeschwerde mit dem Antrag, der kantonale Entscheid sei aufzuheben.
E._ lässt auf Abweisung der Verwaltungsgerichtsbeschwerde schliessen, während die IV-Stelle deren Gutheissung anbegehrt.

Das Bundesgericht zieht in Erwägung:
1. Am 1. Januar 2007 ist das Bundesgesetz über das Bundesgericht vom 17. Juni 2005 (BGG; SR 173.110) in Kraft getreten (AS 2006 1205, 1243). Damit wurden das Eidgenössische Versicherungsgericht und das Bundesgericht in Lausanne zu einem einheitlichen Bundesgericht (an zwei Standorten) zusammengefügt (Seiler/von Werdt/Güngerich, Bundesgerichtsgesetz [BGG], Bern 2007, S. 10 Rz 75). Dieses Gesetz ist auf die nach seinem Inkrafttreten eingeleiteten Verfahren des Bundesgerichts anwendbar, auf ein Beschwerdeverfahren jedoch nur dann, wenn auch der angefochtene Entscheid nach dem Inkrafttreten dieses Gesetzes ergangen ist (<ref-law>). Da der kantonale Gerichtsentscheid am 5. April 2006 und somit vor dem 1. Januar 2007 erlassen wurde, richtet sich das Verfahren nach dem bis 31. Dezember 2006 in Kraft gewesenen Bundesgesetz über die Organisation der Bundesrechtspflege (OG) vom 16. Dezember 1943 (vgl. <ref-ruling> E. 1.2 S. 395).
2. Da die Verwaltungsgerichtsbeschwerde am 1. Juli 2006 bereits hängig war, sind auch die auf diesen Zeitpunkt in Kraft getretenen, für Streitigkeiten um Leistungen der Invalidenversicherung geltenden Anpassungen von Art. 132 und Art. 134 OG gemäss Ziff. III des Bundesgesetzes vom 16. Dezember 2005 über die Änderungen des IVG nicht anwendbar. Die Beurteilung hat daher mit voller Kognition zu erfolgen, und das Verfahren ist kostenfrei (Art. 132 und Art. 134 OG je in der massgebenden, bis 30. Juni 2006 in Kraft gewesenen Fassung).
3. Das kantonale Gericht hat die gesetzlichen Vorschriften zum Anspruch auf medizinische Massnahmen bei Geburtsgebrechen (<ref-law> in Verbindung mit <ref-law>; Art. 1 ff. GgV), insbesondere bei angeborenem POS (Ziff. 404 GgV Anhang), sowie die dazu ergangene Rechtsprechung (<ref-ruling>) richtig dargelegt. Darauf wird verwiesen.
4. Streitig und zu prüfen ist der Anspruch auf medizinische Massnahmen zur Behandlung eines angeborenen POS. Dieser ist gegeben, sofern die Diagnose vor dem vollendeten 9. Altersjahr, also vor dem 7. Dezember 2003, gestellt und ebenfalls vor diesem Datum mit der Behandlung begonnen wurde (Ziff. 404 GgV Anhang).
4.1 In seiner Rechtsprechung (<ref-ruling> und zahlreiche seitherige Urteile) hat das Eidgenössische Versicherungsgericht erkannt, dass Ziff. 404 GgV-Anhang gesetzmässig ist. Demnach sind die rechtzeitig vor Vollendung des 9. Altersjahres erhobene Diagnose und der vor demselben Zeitpunkt liegende Behandlungsbeginn Anspruchsvoraussetzungen für medizinische Massnahmen gemäss der erwähnten Ziffer. Auf diese beiden Voraussetzungen kann nicht verzichtet werden. Sie beruhen auf der empirischen Erfahrung, dass ein erst später diagnostiziertes und behandeltes Leiden nicht mehr auf einem angeborenen, sondern einem erworbenen POS beruht, welches nicht von der Invaliden-, sondern von der Krankenversicherung zu übernehmen ist. Erfolgen Diagnose und Behandlungsbeginn erst nach dem vollendeten 9. Altersjahr, besteht die unwiderlegbare Rechtsvermutung, dass ein erworbenes und kein angeborenes POS vorliegt. Damit entfällt auch der nachträgliche Beweis, dass die Möglichkeit der Diagnosestellung vor Vollendung des 9. Altersjahres bestanden habe. Selbst wenn es, objektiv betrachtet, an sich möglich gewesen wäre, rechtzeitig eine Diagnose zu stellen, dies aber im konkreten Einzelfall - aus welchen Gründen auch immer - nicht geschah, hat die Invalidenversicherung unter Ziff. 404 GgV Anhang keine medizinischen Massnahmen zu übernehmen (Urteile A. vom 13. Januar 2003, I 362/02, G. vom 5. September 2001, I 554/00, und S. vom 31. August 2001, I 558/00).
4.2 Das POS ist ein komplexes Leiden. Damit die Voraussetzungen für dessen Diagnose erfüllt sind, müssen kumulativ eine Reihe von Symptomen nachgewiesen sein (<ref-ruling> E. 2f S. 117; Rz 404.5 des Kreisschreibens des BSV über medizinische Eingliederungsmassnahmen [KSME]): Störungen des Verhaltens im Sinne krankhafter Beeinträchtigungen der Affektivität oder der Kontaktfähigkeit, des Antriebes, des Erfassens (perzeptive, kognitive oder Wahrnehmungsstörungen), der Konzentrations- sowie der Merkfähigkeit. Bei allen diesen Symptomen handelt es sich um nicht leicht fass- und messbare Elemente. Obwohl sie zu einem Geburtsgebrechen gehören können, treten sie nicht schon bei Säuglingen, sondern erst in den nachfolgenden Lebensjahren in unterschiedlicher Schwere und zu unterschiedlichen Zeitspannen auf. In vielen Fällen, in welchen schlussendlich ein POS diagnostiziert wird, sind anfänglich nur einzelne der genannten Symptome augenfällig und führen bereits zu Behandlungen, welche mangels ausdrücklicher POS-Diagnose von der Krankenkasse oder gegebenenfalls von der Invalidenversicherung, jedoch nicht unter Ziff. 404 GgV Anhang, übernommen werden (Urteil K. vom 6. Dezember 2006, I 223/06).
5. 5.1 Das Bundesamt macht in erster Linie geltend, es liege eine im 5. Altersjahr erstmals erkannte Schwerhörigkeit vor, welche weitere Leiden wie eine gestörte Sprachentwicklung und eine auditive Merkfähigkeitsschwäche zur Folge gehabt habe. Ein POS sei jedoch nicht ausgewiesen. Zu dieser Krankheit gehöre ein hirnorganischer Schaden als Ursache für die psychischen Störungen. Ein solcher sei nicht belegt. Gemäss heutigen medizinischen Erkenntnissen resultiere ein POS in der Regel als Folge einer schwerwiegenden Erkrankung während der Schwangerschaft oder einer Komplikation während der Geburt. Dadurch könne die Diagnose einer hirnorganischen Störung meist relativ rasch, nämlich bereits intrauterin oder kurz nach der Geburt, gestellt werden. Nur wenn ein kongenitaler hirnorganischer Schaden nachgewiesen sei, könne die Diagnose eines POS im Sinne der Ziff. 404 GgV Anhang gestellt werden. Es sei daher an Hand von präpartalen Untersuchungsbefunden, Geburtsprotokollen oder kinderärztlicher Untersuchungen in den ersten Tagen nach der Geburt zu prüfen, ob die überwiegende Wahrscheinlichkeit einer bei Geburt bestehenden Hirnschädigung vorliege. Bei komplikationsloser Schwangerschaft, problemloser Geburt und unauffälligen kinderärztlichen Untersuchungsbefunden könne eine kongenitale hirnorganische Schädigung mit überwiegender Wahrscheinlichkeit ausgeschlossen werden.
5.2 Nach der vom BSV selbst formulierten Rz 404.5 KSME können die Voraussetzungen von GgV 404 als erfüllt gelten, wenn die darin genannten Symptome vorliegen. Der Nachweis eines hirnorganischen Schadens auf Grund der bei der Geburt erstellten medizinischen Unterlagen wird in dieser Rz nicht gefordert. In der bisherigen Rechtsprechung war ebenfalls noch nie die Rede davon, dass medizinische Akten aus der Zeit der Geburt beigezogen und an Hand derselben auf das Vorliegen eines hirnorganischen Schadens geschlossen werden müsse. Vielmehr hat das Eidgenössische Versicherungsgericht wiederholt bestätigt, dass das rechtzeitige Vorliegen der Symptome gemäss Rz 404.5 KSME (in Verbindung mit einem rechtzeitigen Behandlungsbeginn) für die Leistungspflicht der Invalidenversicherung bei einem angeborenen POS ausreicht (SVR IV Nr. 2 S. 8, I 756/03; Urteil Z. vom 2. Mai 2002, I 373/01). Umgekehrt schaffen fehlende rechtzeitige Diagnose oder fehlender rechtzeitiger Behandlungsbeginn die unwiderlegbare Rechtsvermutung, dass das POS nicht angeboren ist (<ref-ruling> E. 3c/bb S. 122). Wenn das BSV nunmehr zur Anerkennung eines POS nach Ziff. 404 GgV Anhang den Nachweis einer hirnorganischen Störung gestützt auf die Unterlagen aus der Zeit der Geburt verlangt, kommt dies einer Verschärfung der bisherigen Beweisanforderungen gleich. Hiezu besteht jedoch kein Anlass. Die vom BSV eingereichten wissenschaftlichen Unterlagen sind nicht geeignet, einer solchen Verschärfung das Wort zu reden. Namentlich findet sich darin keine Aussage in dem Sinne, dass sich mit medizinischen Akten aus der Geburtszeit ein hirnorganischer Schaden leicht nachweisen lasse, wie das BSV behauptet. Vielmehr steht in den vorgelegten Leitlinien der Deutschen Gesellschaft für Sozialpädiatrie und Jugendmedizin unter dem Kapitel "2. Störungsspezifische Diagnostik" zu lesen, dass die Bedeutung der Lokalisation von Hirnschädigungen im Kindesalter kontrovers diskutiert werde. Als gesichert könne angesehen werden, dass die klassischen hirnlokalen Ausfälle und Syndrome erst in der Adoleszenz einigermassen sicher diagnostiziert werden könnten. Gemäss den im Fall R. (I 237/06) vom BSV beigelegten Unterlagen ("POS das Psycho-Organische Syndrom" der Website "www.elpos.ch) scheint ausserdem die Vererbung eine grössere Rolle als Ursache eines POS zu spielen als schädigende Einflüsse (z.B. Sauerstoffmangel, Infektionen, Umweltgifte etc.) in der Schwangerschaft, bei der Geburt oder in den ersten Lebensmonaten. Unter solchen Umständen ist nicht erstellt, dass der Nachweis eines angeborenen POS mit dem Beizug medizinischer Akten über die Geburt zuverlässig erbracht werden kann. Die vom Versicherten eingereichte Stellungnahme des Dr. med. C._, FMH Kinder- und Jugendpsychiatrie/-psychotherapie, vom 8. September 2006 lässt an der medizinischen Argumentation des BSV ebenfalls erhebliche Zweifel aufkommen.
5.3 Dem Standpunkt des BSV kann aus einem weiteren Grund kein Erfolg beschieden sein. Der Verordnungsgeber lässt es zu, dass POS noch während Jahren erst nach der Geburt als solche erkannt, diagnostiziert, behandelt und zwecks Therapie als Geburtsgebrechen bei der Invalidenversicherung zur Anmeldung gebracht werden können. Mit der neuen Betrachtungsweise des BSV wird der Rechtssinn von Ziff. 404 GgV Anhang in Frage gestellt. Solange die Verordnung nicht geändert ist, kann eine Beschränkung auf kurze Zeit nach der Geburt manifest gewordene POS, wie es das BSV vertritt, nicht in Frage kommen. Diese Auffassung wurde in den Urteilen K. vom 6. Dezember 2006, I 223/06, R. vom 5. Januar 2007, I 237/06, und mehreren Folgeurteilen bestätigt. Demnach hängt der Anspruch auf medizinische Massnahmen zur Behandlung des Geburtsgebrechens nach Ziff. 404 GgV Anhang wie bisher einzig davon ab, ob die in Rz 404.5 KSME genannten Symptome vor dem vollendeten 9. Altersjahr nachweisbar waren und mit der Behandlung des Leidens vor diesem Zeitpunkt begonnen wurde.
6. Die Vorinstanz hat die Akten in umfassender und sorgfältiger Weise gewürdigt und daraus den zutreffenden Schluss gezogen, dass die gesamte Symptomatik gemäss Rz 404.5 KSME vor der Vollendung des 9. Altersjahres rechtsgenüglich nachweisbar war. Aus den Berichten des Dr. med. R._, Kinderarzt FMH, vom 4. und 22. April 2005 geht hervor, dass die Diagnose erstmals am 6. Juli 2001 anlässlich der Einschulung gestellt worden ist. Zwar nennt Dr. R._ im Bericht vom 22. April 2005 unter "Diagnoseliste" nur das ADHD/ADS. Im nachfolgenden Text führt er jedoch aus: "deutliche Zeichen eines ADHS zur Einschulung und anamnestisch passende Schwierigkeiten im Kiga (Logopädie/Sprachheilkiga): Diagnose eines cong. inf. POS mit abwartendem Procedere (...) Anmeldung IV (POS) sobald Leistungen beansprucht werden (PM/Psychotherapie/Ergotherapie)". Zwar trifft zu, dass das POS nicht ausdrücklich unter der Rubrik "Diagnosen" erwähnt ist. Indessen ist zu beachten, dass im Bericht vom 4. April 2005 unmissverständlich ein Geburtsgebrechen gemäss Ziff. 404 GgV Anhang genannt wurde. Am selben Tag hat Dr. R._ zudem den Fragebogen für das infantile POS ausgefüllt und die gesamte Symptomatik des Leidens beschrieben. Insgesamt können diese Angaben vernünftigerweise nur dahin verstanden werden, dass Dr. R._ vom Vorliegen eines POS bereits am 6. Juli 2001 überzeugt war. Es hiesse den Bogen überspannen, ein POS nur dann als rechtzeitig diagnostiziert zuzulassen, wenn es im entsprechenden Arztbericht unter den Diagnosen erwähnt wird, nicht aber, wenn sich diese Diagnose aus anderen Stellen des Berichts ergibt (erwähntes Urteil K). Im Übrigen lässt es die Rechtsprechung zu, dass die beweisrechtliche Frage, ob die rechtzeitig gestellte Diagnose eines POS zutraf, auch mit erst nach dem 9. Altersjahr vorgenommenen ergänzenden Abklärungen beantwortet wird (<ref-ruling> E. 2f S. 117 und E. 3c/cc S. 123). Sodann wurde mit der Behandlung rechtzeitig begonnen. Selbst wenn sich die verschiedenen Massnahmen ursprünglich gegen andere Leiden richteten, waren sie ab dem Zeitpunkt der Diagnosestellung auch als Behandlungen des POS zu werten (Urteil B. vom 16. Juni 2005, I 9/05). Damit ist der kantonale Entscheid zu bestätigen.

Demnach erkennt das Bundesgericht:
1. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
2. Es werden keine Gerichtskosten erhoben.
3. Das Bundesamt für Sozialversicherungen hat dem Beschwerdegegner für das Verfahren vor dem Bundesgericht eine Entschädigung von Fr. 2500.- (einschliesslich Mehrwertsteuer) zu bezahlen.
4. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, der Ausgleichskasse des Kantons Zürich und der IV-Stelle des Kantons Zürich zugestellt.
Luzern, 2. März 2007
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber: