Sachverhalt:
A. X._ und Y._ sind die Eltern von A._, geboren im November 2000, und B._, geboren im Mai 2002. Sie leben seit ihrer Heirat am 23. Juni 2000 in S._ (DE). Die elterliche Sorge über die Kinder steht ihnen gemeinsam zu. Über Pfingsten 2006 verbrachten die Eltern einige Tage mit den Kindern im Tessin. Anschliessend begab sich Y._ mit den Kindern zu ihren Grosseltern nach T._ (CH). X._ kehrte nach S._ zurück. Am 21. Juni 2006 unterzeichnete Y._ einen Mietvertrag auf den 1. Juli 2006 für eine Wohnung in U._ (CH), auf welches Datum sie sich und die beiden Kinder bei der dortigen Einwohnerkontrolle anmeldete. Am 30. August 2006 reichte Y._ beim Gerichtspräsidium Zurzach ein Eheschutzbegehren ein. X._ hinterlegte am 5. September 2006 beim Amtsgericht S._ einen Scheidungsantrag.
B. Am 11. Dezember 2006 reichte X._ beim Bundesamt für Justiz, Zentralbehörde zur Behandlung internationaler Kindesentführungen, einen Antrag ein auf sofortige Rückführung der beiden Kinder nach S._. Der Präsident des Gerichtspräsidiums Brugg, dem das Gesuch zuständigkeitshalber zugestellt worden war, wies die Klage mit Urteil vom 27. April 2007 ab. Er kam zum Schluss, dass eine Rückführung der Kinder nicht in deren Interesse sei und sie daher vorläufig bei der Mutter in der Schweiz bleiben sollten, bis die zuständigen Behörden in Deutschland über die Kinderbelange befunden hätten. X._ gelangte daraufhin an das Obergericht des Kantons Aargau, welches seine Beschwerde mit Urteil vom 4. Juli 2007 abwies. Es sah im Verhalten von X._ nach dem Verbringen der Kinder in die Schweiz eine Genehmigung, diese bei der Mutter zu belassen.
C. X._ ist mit Beschwerde in Zivilsachen an das Bundesgericht gelangt. Er beantragt die Aufhebung des obergerichtlichen Urteils sowie die Rückführung der beiden Kinder durch Y._ nach Deutschland innert zehn Tagen ab Zustellung des Urteils auf deren Kosten, nach unbenutztem Ablauf dieser Frist die Verpflichtung zur Übergabe der Kinder an ihn zwecks Rückführung, in jedem Fall unter Hinweis auf die Straffolgen nach <ref-law>. Eventualiter sei die Sache zu neuer Beurteilung an die Vorinstanz zurückzuweisen.
Es sind keine Vernehmlassungen eingeholt worden.

Das Bundesgericht zieht in Erwägung:
1. 1.1 Das angefochtene Urteil ist nach Inkrafttreten des Bundesgesetzes über das Bundesgericht vom 17. Juni 2005 (BGG; SR 173.110) ergangen, weshalb das neue Recht anzuwenden ist (<ref-law>).
1.2 Entscheide über die Rückführung eines Kindes nach dem Haager Übereinkommen vom 25. Oktober 1980 über die zivilrechtlichen Aspekte internationaler Kindesentführung (HEntfÜ; SR 0.211.230.02) stellen keine Zivilsachen dar. Es geht in einem solchen Verfahren vielmehr um die Regelung der Rechtshilfe zwischen den Vertragsstaaten, mithin um eine Angelegenheit öffentlich-rechtlicher Natur (<ref-ruling> E. 2b S. 224), die in unmittelbarem Zusammenhang mit der Respektierung und Durchsetzung ausländischen Zivilrechts steht (Art. 72 Abs. 2 lit. b Ziff. 1 BGG; Urteil des Bundesgerichts 5A_285/2007 vom 16. August 2007, E. 2). Angefochten ist ein letztinstanzlicher Entscheid (<ref-law>). Die Beschwerde in Zivilsachen ist daher gegeben.
1.3 Mit der Beschwerde in Zivilsachen kann unter anderem die Verletzung von Völkerrecht geltend gemacht werden, dessen Anwendung vom Bundesgericht frei geprüft wird (<ref-law>; zur Publikation in der amtlichen Sammlung bestimmtes Urteil 5A_285/2007 vom 16. August 2007, E. 4.1). Die Feststellung des Sachverhaltes kann nur gerügt werden, wenn sie offensichtlich unrichtig ist (Botschaft zur Totalrevision der Bundesrechtspflege vom 28. Februar 2001, BBl 2001, 4.1.4.2, S. 4338) oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Dabei bedeutet "offensichtlich unrichtig" willkürlich (<ref-ruling> E. 1.2.2).
1.4 Auf die Vorbringen des Beschwerdeführers ist nur soweit einzutreten, als sie den gesetzlichen Begründungsanforderungen genügen. Die Beschwerde nach <ref-law> hat nebst einem Antrag eine Begründung zu enthalten, in welcher in gedrängter Form dargelegt wird, inwiefern der angefochtene Entscheid Recht verletzt (Art. 42 Abs. 1 und 2 BGG). Während das Bundesgericht das Recht von Amtes wegen anwendet (<ref-law>) und über eine Beschwerde unabhängig der Parteivorbringen und den Erwägungen der Vorinstanz entscheidet, gilt hinsichtlich der Verletzung von Grundrechten eine qualifizierte Rügepflicht. Geprüft werden nur klar und einlässlich erhobene Rügen (<ref-law>). In diesem Bereich gilt auch weiterhin die Rechtsprechung zum Rügeprinzip gemäss Art. 90 Abs. 1 lit. b OG (<ref-ruling> E. 1.4.1 und 1.4.2).
2. Das HEntfÜ zielt auf die sofortige Rückgabe widerrechtlich in einen Vertragsstaat verbrachter oder dort zurückgehaltener Kinder ab (Art. 1 lit. a HEntfÜ). Als widerrechtlich gilt das Verbringen oder Zurückhalten eines Kindes, wenn dadurch das Sorgerecht verletzt wird, das einer Person allein oder gemeinsam nach den Regeln des Staates zusteht, in dem das Kind unmittelbar vor dem Verbringen oder Zurückhalten seinen gewöhnlichen Aufenthalt hatte (Art. 3 lit. a HEntfÜ). Im vorliegenden Fall steht fest, dass der Aufenthaltsort der Kinder vor dem Verbringen in die Schweiz in S._ war und dass den Parteien die elterliche Sorge und Obhut gemeinsam zustehen. Es ist unbestritten, dass das Verbringen der beiden Kinder in die Schweiz das Sorgerecht des Beschwerdeführers im Sinne von Art. 3 HEntfÜ verletzt.
3. Weist die Person, welche sich der Rückgabe des Kindes widersetzt, nach, dass der Gesuchsteller dem Verbringen oder Zurückhalten zugestimmt oder dieses nachträglich genehmigt hat, so ist die Rückgabe abzulehnen. Es obliegt dem entführenden Elternteil die Tatsachen glaubhaft zu machen, welche einen Verweigerungsgrund darstellen können. Ob die vorgetragenen Sachverhaltselemente glaubhaft gemacht sind, ist Tatfrage, die das Bundesgericht nur beschränkt überprüfen kann (E. 1.3). Hingegen prüft es das Vorliegen eines Verweigerungsgrundes als Rechtsfrage wie bei der Staatsvertragsbeschwerde (<ref-ruling> E. 3b S. 455, 130 III 489 E. 1.4 S. 492) auch unter neuem Recht frei. Die Zustimmung bzw. nachträgliche Genehmigung kann ausdrücklich oder konkludent erfolgen, indes muss sie klar zum Ausdruck kommen. Dem Zweck des HEntfÜ folgend sind hier strenge Anforderungen zu stellen.
4. Der Beschwerdeführer erachtet den von der Vorinstanz festgestellten Sachverhalt als unklar und unvollständig. Er hält dafür, dass dieser anhand der erstinstanzlichen Akten, insbesondere seines Rückführungsgesuchs und der Ausführungen in der vorliegenden Beschwerde von Amtes wegen ergänzt wird.
4.1 Soweit sich die Darlegungen des Beschwerdeführers in einer blossen Erläuterung des angefochtenen Urteils erschöpfen und daraus nicht hervorgeht, inwieweit der vorinstanzliche Sachverhalt konkret zu ergänzen ist, wird darauf mangels rechtsgenüglicher Begründung nicht eingetreten. Dies gilt insbesondere für die Vorkommnisse in der Zeit vom 18./19. Juni bis 23. Juni 2006.
4.2 Der Beschwerdeführer äussert sich alsdann zum anschliessenden Verhalten der Parteien und will gegenüber dem angefochtenen Urteil Präzisierungen, ohne jedoch darzutun, inwieweit sich damit an welchem Beweisergebnis etwas ändern sollte. So führt er nicht aus, weshalb die Vorinstanz auf seine Behauptung, er habe um die Freihaltung der Plätze für die Kinder im Ballett bzw. für A._ im Kindergarten gebeten, hätte eingehen und welchen Schluss sie daraus hätte ziehen müssen. Darauf kann nicht eingetreten werden. Dies gilt auch für seine weiteren Vorbringen, die teilweise widersprüchlich oder gar überflüssig sind. So weist er darauf hin, dass nicht er, sondern die Beschwerdegegnerin die Tochter A._ vom Kindergarten und vom Ballettunterricht abgemeldet hätte. An der Verhandlung vor Bezirksgericht sagte der Beschwerdeführer jedoch aus, dass er die beiden Kinder abgemeldet habe. Was die Übersendung von gewissen Gegenständen in die Schweiz betrifft, hält die Vorinstanz fest, dass der Beschwerdeführer diesbezüglich einen Fax erhalten habe. Sie verweist auf den entsprechenden Beleg, der als Absender die Beschwerdegegnerin anführt. Insoweit kommt die Vorinstanz zum selben Ergebnis wie der Beschwerdeführer es dem Bundesgericht nun vorträgt.
4.3 Dem Beschwerdeführer kann auch nicht gefolgt werden, wenn er der Vorinstanz vorwirft, sie "unterschlage" seinen zweimaligen mündlich geäusserten Widerruf der Zustimmung zum vorläufigen Verbleib der Kinder in der Schweiz. Sie hat nämlich zu den entsprechenden Vorbringen sehr wohl Stellung genommen und ist zum Schluss gekommen, dass es dafür keinen Beweis gebe. Es werde erstmals mit Schreiben vom 5. Dezember 2006 aktenkundig, dass die Beschwerdegegnerin die Kinder nach S._ zurückbringen solle. Auch hier trifft der Vorwurf des Beschwerdeführers nicht zu, die Vorinstanz habe den Sachverhalt nur unvollständig dargestellt.
5. Die Vorinstanz kam zum Schluss, dass der Beschwerdeführer noch kein Einverständnis zum dauernden Verbleib der beiden Kinder bei der Mutter in der Schweiz erteilt habe, als sein Rechtsvertreter am 23. Juni 2006 die Zustimmung zu deren vorübergehendem Aufenthalt der Kinder in der Schweiz abgegeben habe. Diese Zustimmung sei allerdings weder bedingt noch konkret befristet erteilt worden. Die vom Beschwerdeführer behaupteten Aufforderungen an die Beschwerdegegnerin, sofort mit den Kindern nach S._ zurückzukehren, seien beweislos geblieben. Zudem seien die Kinder im Sommer vom Ballett und A._ zudem vom Kindergarten abgemeldet worden. Die Ende Juni 2006 dem Beschwerdeführer gefaxte Liste der zu übermachenden Gegenstände für die sofortige Übersiedlung habe bei diesem keine Zweifel aufkommen lassen können, dass mit einer (baldigen) Rückkehr der Beschwerdegegnerin und der beiden Kinder nicht gerechnet werden durfte. Nach Ansicht der Vorinstanz muss daher die Zustimmungserklärung gemäss Schreiben vom 23. Juni 2006 verbunden mit der Tatsache, dass der Beschwerdegegner darauf mehrere Monate nicht zurückgekommen ist, und auch mit einer baldigen Rückkehr der Kinder nicht rechnen durfte, als Genehmigung des Zurückhaltens nach Art. 13 Abs. 1 lit. a HEntfÜ verstanden werden. Der erst fünf Monate, nachdem über den beabsichtigten definitiven Verbleib der Beschwerdegegnerin und der Kinder Gewissheit bestand, erklärte Widerruf vom 5. Dezember 2006 muss nach Ansicht der Vorinstanz gestützt auf Art. 13 Abs. 1 lit. a HEntfÜ eine Rückführung der Kinder wegen Genehmigung des Zurückhaltens ausschliessen.
5.1 Soweit der Beschwerdeführer demgegenüber vorbringt, dass die Zustimmung bzw. nachträgliche Genehmigung zum Verbleib der Kinder in der Schweiz nicht glaubhaft gemacht worden war, begründet er seine Kritik nicht weiter. Sie stellt vielmehr eine Folgerung aus der bereits gegen die Sachverhaltsfeststellungen erhobenen Rügen dar. Darauf ist nicht einzutreten.
5.2 Im Weiteren betont der Beschwerdeführer, dass an die Zustimmung bzw. Genehmigung des Zurückhaltens strenge Anforderungen zu stellen seien und sich das Gericht bei rechtsgestaltenden Erklärungen nicht mit Zweideutigkeiten zufrieden geben dürfe. Dies sei vorliegend nicht der Fall. Zudem werde ihm in unzulässiger Weise die Beweislast für die Zustimmung bzw. Genehmigung auferlegt.
Soweit der Beschwerdeführer meint, die Zustimmung bzw. Genehmigung müsse explizit erfolgen, um eine Rückführung der Kinder nach Art. 13 Abs. 1 lit. a HEntfÜ zu verweigern, ist er auf die bundesgerichtliche Rechtsprechung hinzuweisen. Demnach kann die Zustimmung bzw. Genehmigung ausdrücklich oder konkludent erfolgen, welche Rechtsfrage das Bundesgericht im Rahmen der altrechtlichen Staatsvertragsbeschwerde frei geprüft hat und dies aufgrund der zulässigen Rügen nach <ref-law> auch unter neuem Recht tut.
Die von der Vorinstanz festgestellten Umstände, die sich im vorliegenden Verfahren als weder unvollständig noch offensichtlich unrichtig erwiesen haben (E. 3), lassen den Schluss zu, dass der Beschwerdeführer auf seine ursprüngliche Zustimmung während fünf Monaten nicht zurückgekommen ist. Er führt sogar selber aus, während drei Monaten geschwiegen zu haben. Abgesehen davon, dass sein Anruf vom 30. August 2006 nicht erstellt ist, beschlugen die von ihm ins Feld geführten Vergleichsverhandlungen gemäss eigenen Angaben bzw. denjenigen seines Anwaltes die Scheidung und das Besuchsrecht, was er vor Bundesgericht nicht bestreitet. Seiner an sich zutreffenden Argumentation, ein zeitweiliges Hinnehmen des Aufenthaltes beim entführenden Elternteil im Rahmen von Vergleichsverhandlungen bedeute noch keine nachträgliche Genehmigung, ist damit der Boden entzogen und es kann zudem offen bleiben, ob das Stillschweigen des Beschwerdeführers während fünf Monaten noch als zeitweilig im Sinne dieser Praxis zu verstehen ist. Allfällige Vergleichsverhandlungen der Parteien dürfen nämlich nur in Betracht gezogen werden, soweit sie aus Anlass der Entführung eines Kindes aufgenommen werden und sich auf dessen künftigen Verbleib beziehen. Dass dies vorliegend nicht der Fall war, blendet der Beschwerdeführer im Rahmen seiner Ausführungen zum Sinn von Vergleichsverhandlungen vollständig aus.
Dem Beschwerdeführer kann auch nicht gefolgt werden, wenn er meint, die Vorinstanz habe ihm die Beweislast auferlegt. Entgegen der missverständlichen Formulierung im angefochtenen Urteil, wonach der Beschwerdeführer nicht dargetan habe, dass er auf die ursprüngliche Zustimmung zum Aufenthalt der Kinder in der Schweiz vor Ablauf von fünf Monaten nicht zurückgekommen sei, auferlegte die Vorinstanz ihm keineswegs die Beweislast. Sie würdigte lediglich die Vorbringen beider Parteien. Dabei erachtete sie die Aussagen des Beschwerdeführers, er habe die Beschwerdegegnerin mehrmals telefonisch zur Rückkehr aufgefordert, als nicht überzeugend. Weitere Behauptungen des Beschwerdeführers hatte die Vorinstanz nicht zu würdigen. Insgesamt kam sie zum Schluss, der Beschwerdeführer habe während fünf Monaten nicht reagiert. Anders kann die erwähnte Formulierung der Vorinstanz nicht verstanden werden.
6. Nach dem Gesagten ist der Vorinstanz keine Verletzung von Art. 13 Abs. 1 lit. a HEntfÜ vorzuwerfen. Damit kann der Beschwerde kein Erfolg beschieden sein. Unabhängig vom Ausgang des Verfahrens werden dem Beschwerdeführer keine Kosten auferlegt (Art. 26 Abs. 2 HEntfÜ; zur Publikation bestimmtes Urteil 5A_285/2007 vom 16. August 2007, E. 5).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Es werden keine Kosten erhoben.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Aargau, Zivilgericht, 5. Kammer, schriftlich mitgeteilt.
Lausanne, 12. September 2007
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber: