Sachverhalt:
A. A.a S._ (geb. xxxx 2005) und T._ (geb. xxxx 2009) sind die ehelichen Kinder von Z._ (Vater) und X._ (Mutter). Die Familie wohnte zuletzt gemeinsam in D-10785 Berlin.
A.b Am 10. Januar 2011 verliess die Mutter zusammen mit den Kindern die eheliche Wohnung und zog nach A._ (Schweiz), wo sie sich anmeldete und das ältere Kind im Kindergarten einschulte. Am 7. Februar 2011 stellte die Mutter beim Gerichtspräsidium B._ ein Eheschutzbegehren und beantragte insbesondere die superprovisorische Zuteilung der elterlichen Obhut über die Kinder und die Anordnung eines auf die Schweiz beschränkten Besuchsrechts für den Vater. Mit Verfügung vom gleichen Tag stellte die angerufene Instanz die Kinder superprovisorisch und mit sofortiger Wirkung unter die Obhut der Mutter, behielt indes die Regelung des Besuchsrechts bis zur mündlichen Verhandlung im Eheschutzverfahren vor.
B. Am 14. Februar 2011 stellte der Vater beim Obergericht des Kantons Aargau einen Antrag auf Rückführung der Kinder nach Berlin. In Gutheissung dieses Begehrens befahl das Obergericht mit Entscheid vom 23. März 2011 der Mutter unter Androhung der Strafen nach <ref-law>, die beiden Kinder bis spätestens 8. April 2011 nach Deutschland zurückzuführen oder zurückführen zu lassen (Ziff. 1). Der Mutter wurde des Weiteren verboten, die Kinder, mit Ausnahme für ihre Ausreise nach Deutschland, aus dem Kanton Aargau zu entfernen (Ziff. 2). Die sich in den Akten befindlichen Reisedokumente wurden nach Anordnung des Obergerichts der Gemeinde A._ zugestellt, die überdies ersucht wurde, die Mutter und die Kinder am Tag ihrer Abreise zur Grenze zu begleiten und ihnen unmittelbar vor dem Grenzübertritt die Reisedokumente zu übergeben; die Mutter hat zu diesem Zweck die Gemeinde A._ über den Zeitpunkt ihrer Ausreise zu informieren (Ziff. 3). Nach erfolgter freiwilliger Rückreise nach Deutschland hat die Mutter die neue Wohnadresse der Kinder der Kammer für Vormundschaftswesen unverzüglich anzuzeigen und der Vater seinerseits den Vollzug unverzüglich der Kammer für Vormundschaftswesen zu melden (Ziff. 4). Für den Fall, dass die Kinder nicht gemäss den vorstehenden Anordnungen nach Deutschland zurückgeführt werden, ordnete das Obergericht an, die Sache werde zur zwangsweisen Vollstreckung des Rückführungsentscheides an das Departement Volkswirtschaft und Inneres überwiesen, welches die Kinder entweder an die Adresse des Vaters in Berlin zurückzuführen oder sie vom Vater in der Schweiz abholen zu lassen habe (Ziff. 5). Im Weitern regelte das Obergericht die Kosten und die Gewährung der unentgeltlichen Rechtspflege an die Mutter (Ziffern 6).
C. Die Mutter hat gegen diesen Entscheid am 5. April 2011 (Postaufgabe) beim Bundesgericht Beschwerde in Zivilsachen erhoben. Sie beantragt, der Entscheid des Obergerichts sei aufzuheben und das Rückführungsgesuch vom 11. Februar 2011 sei abzuweisen. Für das bundesgerichtliche Verfahren ersucht sie überdies um unentgeltliche Rechtspflege.
D. Mit Verfügung vom 6. April 2011 erteilte die Präsidentin der II. zivilrechtlichen Abteilung des Bundesgerichts dem Antrag der Beschwerdeführerin entsprechend der Beschwerde superprovisorisch aufschiebende Wirkung für Dispositiv-Ziff. 1 des angefochtenen Entscheids.
E. Das Obergericht hat auf Vernehmlassung verzichtet. Die Kinder haben sich durch ihren Anwalt am 13. April 2011 vernehmen lassen. Der Vater (Beschwerdegegner) beantragt mit Eingabe vom 18. April 2011, die Beschwerde abzuweisen und den angefochtenen Entscheid zu bestätigen. Des Weiteren stellt er den Antrag, der Beschwerde die aufschiebende Wirkung zu entziehen.

Erwägungen:
1. 1.1 Beim Verfahren betreffend Rückführung eines Kindes nach dem Haager Übereinkommen vom 25. Oktober 1980 über die zivilrechtlichen Aspekte internationaler Kindesentführung (HKÜ; SR 211.230.02) geht es um die Regelung der Rechtshilfe zwischen den Vertragsstaaten, mithin um eine Angelegenheit öffentlich-rechtlicher Natur, die in unmittelbarem Zusammenhang mit der Respektierung und Durchsetzung ausländischen Zivilrechts steht (Art. 72 Abs. 2 lit. b Ziff. 1 BGG; <ref-ruling> E. 1.2 mit Hinweisen). Der Entscheid des Obergerichts des Kantons Aargau vom 23. März 2011 als oberen kantonalen Gerichts gilt als letztinstanzlicher kantonaler Endentscheid im Sinn von <ref-law> (Art. 7 Abs. 1 des Bundesgesetzes über internationale Kindesentführung und die Haager Übereinkommen zum Schutz von Kindern und Erwachsenen [BG-KKE; SR 211.222.32]). Die Beschwerde in Zivilsachen ist daher gegeben. Der angefochtene Entscheid ist der Beschwerdeführerin am 31. März 2011 zugestellt worden, womit die zehntägige Beschwerdefrist (<ref-law>) mit der Postausgabe vom 5. April 2011 eingehalten worden ist. Auf die rechtzeitig eingereichte Beschwerde ist somit einzutreten.
1.2 Geltend gemacht werden kann insbesondere die Verletzung von Völkerrecht, dessen Anwendung das Bundesgericht frei prüft (Art. 95 lit. b i.V.m. <ref-law>). Demgegenüber können Sachverhaltsfeststellungen nur gerügt werden, wenn sie offensichtlich unrichtig, d.h. willkürlich (<ref-ruling> E. 1.2.2 S. 252) sind, auf einer Rechtsverletzung im Sinn von <ref-law> beruhen und für den Ausgang des Verfahrens entscheidend sind (<ref-law>).
1.3 In der Beschwerde ist in Auseinandersetzung mit den Erwägungen des angefochtenen Entscheids darzulegen, welche Rechte der beschwerdeführenden Partei durch das kantonale Gericht verletzt worden sind (<ref-law>; <ref-ruling> E. 2.1 S. 245), wobei eine Verletzung verfassungsmässiger Rechte vom Bundesgericht nicht von Amtes wegen, sondern nur dann geprüft wird, wenn solche Rügen in der Beschwerdeschrift ausdrücklich erhoben und begründet werden (<ref-law>; <ref-ruling> E. 1.2 S. 234). Wird eine Sachverhaltsfeststellung beanstandet, muss in der Beschwerdeschrift dargelegt werden, inwiefern diese Feststellung willkürlich oder durch eine andere Rechtsverletzung im Sinn von <ref-law> (z.B. <ref-law> oder <ref-law>) zustande gekommen ist (vgl. <ref-ruling> E. 1.2.2 und 1.4.3 S. 255) und inwiefern die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 in fine BGG; <ref-ruling> E. 2.2.2 S. 22). Auf rein appellatorische Kritik am Sachverhalt tritt das Bundesgericht nicht ein. In der Beschwerde in Zivilsachen dürfen überdies keine neuen Tatsachen und Beweismittel vorgebracht werden, es sei denn, erst der Entscheid der Vorinstanz habe dazu Anlass gegeben (<ref-law>). In der Beschwerde ist darzutun, inwiefern die Voraussetzung für eine nachträgliche Einreichung von Tatsachen und Beweismitteln erfüllt sein soll (<ref-ruling> E. 3 S. 395).
2. Das HKÜ bezweckt die sofortige Rückgabe widerrechtlich in einen Vertragsstaat verbrachter oder dort zurückgehaltener Kinder (Art. 1 lit. a). Als widerrechtlich gilt das Verbringen oder Zurückhalten eines Kindes, wenn dadurch das Sorgerecht verletzt wird, das einer Person, Behörde oder sonstigen Stelle allein oder gemeinsam nach dem Recht des Staates zusteht, in dem das Kind unmittelbar vor dem Verbringen oder Zurückhalten seinen gewöhnlichen Aufenthalt hatte (Art. 3 lit. a HKÜ) und dieses Recht im Zeitpunkt des Verbringens oder Zurückhaltens allein oder gemeinsam tatsächlich ausgeübt wurde oder ausgeübt worden wäre, falls das Verbringen oder Zurückhalten nicht stattgefunden hätte (Art. 3 lit. b).
Im vorliegenden Fall obliegt die elterliche Sorge unstrittig beiden Eltern gemeinsam und es wird überdies auch nicht substanziiert geltend gemacht, der um Rückführung der Kinder ersuchende Beschwerdegegner habe die elterliche Sorge vor dem Verbringen der Kinder in die Schweiz nicht ausgeübt. Strittig ist hingegen, ob die Kinder vor dem Verbringen in die Schweiz in Berlin einen gewöhnlichen Aufenthalt begründet haben (Art. 3 lit. a HKÜ).
2.1 Die Beschwerdeführerin hat bereits im kantonalen Verfahren geltend gemacht, in Berlin sei kein gewöhnlicher Aufenthalt der Kinder begründet worden, weil sich die Parteien dort nicht angemeldet hätten. Das Obergericht hat dazu erwogen, die Meldeverhältnisse der Parteien seien für den Aufenthaltsstatus im Sinn von Art. 3 lit. a HKÜ irrelevant, komme es doch einzig auf den Willen der Parteien an. Im vorliegenden Fall sei unbestritten, dass man sich nach dem erfolgten Nachzug der Beschwerdegegnerin mit den Kindern nach Berlin im Februar 2010 eine Wohnung gesucht und diese ab August 2010 gemeinsam bezogen habe, womit in Berlin ein gemeinsamer Aufenthalt begründet worden sei.
Die Beschwerdeführerin macht geltend, die Vorinstanz stütze ihre Begründung allein auf den Willen der Parteien, auf den es indes nach der bundesgerichtlichen Rechtsprechung nicht ankomme. Aus der Wohnungsmiete lasse sich abgesehen davon auch kein definitiver Wille der Beschwerdegegnerin herleiten, in Berlin zu leben. Sie sei die Hauptbezugsperson der Kinder, weshalb ihr Lebensmittelpunkt auch für ihre beiden Kinder massgebend sei. Ihr soziales Netz befinde sich in der Schweiz; sie sei in der Region C._ aufgewachsen, ihre Mutter lebe in A._ und sämtliche Bekannte und Freunde lebten in dieser Gegend. Der Schwerpunkt der Lebensbeziehungen sei nie nach Berlin verlegt worden. Bis August 2010 hätten die Parteien mit den Kindern in einer Pension gelebt, die man allein deswegen verlassen habe, weil sie aus wirtschaftlichen Gründen ihren Betrieb eingestellt habe und die Platzverhältnisse für die vierköpfige Familie zu eng geworden seien. Das Obergericht habe sodann in Verletzung der Begründungspflicht gemäss <ref-law> die an der Verhandlung vorgebrachte Tatsache nicht berücksichtigt, dass die Parteien zuvor bereits in verschiedenen Staaten gelebt hätten und die Beschwerdegegnerin danach immer wieder in die Region C._ zurückgekehrt sei. Der Tatsache, dass in Berlin kein gewöhnlicher Aufenthalt begründet worden sei, könne auch nicht entgegengehalten werden, der ältere Sohn habe in Berlin einen Kindergarten besucht, entspreche es doch dem normalen Lauf der Dinge, Kinder bei längeren Reisen einzuschulen. Damit habe die Vorinstanz zu Unrecht einen gewöhnlichen Aufenthalt im Sinn des HKÜ bejaht.
Die Kinder und der Beschwerdegegner schliessen sich im Wesentlichen den obergerichtlichen Ausführungen an.
2.2 Der gewöhnliche Aufenthalt im Sinne des HKÜ wird vertragsautonom ausgelegt. Es ist darunter der tatsächliche Mittelpunkt der Lebensführung des Kindes zu verstehen (<ref-ruling> E. 3 S. 122: "le centre effectif de la vie et de ses attaches"; vgl. <ref-ruling> E. 4d S. 339), welcher sich aus der tatsächlichen Dauer des Aufenthaltes und den dadurch begründeten Beziehungen oder aus der voraussichtlichen Dauer des Aufenthalts und der damit zu erwartenden Integration ergibt (grundlegend: Urteil 5P.367/2005 vom 15. November 2005 E. 5.1 in Fampra.ch 2006 S. 474). Der gewöhnliche Aufenthalt bestimmt sich aufgrund der nach aussen erkennbaren tatsächlichen Umstände; innere Umstände, wie etwa der Wille, sind dabei nicht massgebend. In der Regel fällt der gewöhnliche Aufenthalt mit dem Lebensmittelpunkt mindestens eines Elternteils zusammen (siehe dazu <ref-ruling> E. 4.1 S. 292 und Urteile 5A_427/2009 vom 27. Juli 2009 E. 3.2; 5A_650/2009 vom 11. November 2009 E. 5.2).
2.3 Im vorliegenden Fall ist aufgrund der tatsächlichen Feststellungen des angefochtenen Urteils erstellt, dass die Parteien mit den beiden Kindern von Februar 2010 bis zum Auszug der Beschwerdeführerin mit den Kindern am 10. Januar 2011 in Berlin gelebt haben, wobei die Beschwerdeführerin überdies eingeräumt hat, dass das ältere Kind dort den Kindergarten besuchte. In Berlin wohnte die Familie, wie die Beschwerdeführerin weiterhin einräumt, vorerst in einer Pension und bezog danach im August 2010 gemeinsam eine Wohnung. Aus den geschilderten nach aussen hin erkennbaren tatsächlichen Gegebenheiten lässt sich ohne Verletzung des HKÜ auf die Begründung eines gewöhnlichen Aufenthaltes in Berlin schliessen. Dagegen spricht auch nicht, dass die Beschwerdeführerin mit ihren Eltern und Bekannten in der Schweiz weiterhin enge Beziehungen unterhält. Denn die Beschwerdeführerin hat im vorliegenden Verfahren weder behauptet noch belegt, sie habe sich mit den Kindern in der Zeit von Februar 2010 bis Januar 2011 des Öftern in der Schweiz aufgehalten oder sie sei mit ihren Kindern sogar vorübergehend in die Schweiz gezogen. Damit aber ist auch unerheblich, dass die Beschwerdeführerin anlässlich gemeinsamer Aufenthalte der Familie in anderen Staaten des öfteren in die Schweiz zurückgekehrt ist. Zu beurteilen ist hier einzig, ob die konkreten Umstände auf die Begründung eines gewöhnlichen Aufenthalts in Berlin schliessen lassen, was das Obergericht zu Recht bejaht hat. Waren aber die Beziehungen der Beschwerdeführerin zur Mutter und zu Freunden und ihr Verhalten anlässlich von Aufenthalten in anderen Staaten für die Beurteilung der sich stellenden Frage nach der Begründung eines gewöhnlichen Aufenthalts in Berlin nicht relevant, so erweist sich auch der Vorwurf der Verletzung des rechtlichen Gehörs als unbegründet: Artikel 29 Abs. 2 BV zwingt die richterliche Behörde nicht dazu, sich mit unerheblichen Vorbringen der Parteien auseinanderzusetzen (<ref-ruling> E. 3.1 S. 277; <ref-ruling> E. 4.3 S. 540 mit Hinweisen).
3. Weist die Person, welche sich der Rückgabe des Kindes widersetzt, nach, dass der Gesuchsteller dem Verbringen oder Zurückhalten zugestimmt oder dieses nachträglich genehmigt hat, so ist die Rückgabe abzulehnen (Art. 13 Abs. 1 lit. a HKÜ). Dem Zweck des HKÜ folgend sind hier strenge Anforderungen zu stellen. Es muss die klar (ausdrücklich oder stillschweigend) zum Ausdruck gebrachte Zustimmung zur dauerhaften Aufenthaltsänderung nachgewiesen werden. Dies gilt auch für die nachträgliche Genehmigung, die sich insbesondere nicht aus blosser zeitweiliger Hinnahme des Aufenthalts beim entführenden Elternteil ergibt. Der beweislastpflichtige entführende Elternteil hat die Verweigerungsgründe anhand substanziiert vorgetragener Anhaltspunkte objektiv glaubhaft zu machen (Urteil 5P.367/2005 vom 15. November 2005 E. 7.1, in SZIER 2007 S. 342). Ob die vorgetragenen Sachverhaltselemente glaubhaft gemacht sind, ist Tatfrage, die das Bundesgericht nur beschränkt überprüfen kann (E. 1.2). Frei zu prüfende Rechtsfrage ist hingegen, ob ein Verweigerungsgrund vorliegt (Urteil 5A_520/2010 vom 31. August 2010 E. 3).
3.1 Die Beschwerdeführerin hat im kantonalen Verfahren vorgetragen, der Beschwerdegegner habe in einem E-Mail-Verkehr mit ihr nachträglich den Wegzug der Kinder in die Schweiz genehmigt. Das Obergericht hat dazu erwogen, die zum Beweis der nachträglichen Genehmigung eingereichte E-Mail datiere vom 20. Januar 2011, sei somit nach Einreichung des Rückführungsbegehrens des Beschwerdegegners versandt worden und könne allein schon deshalb nicht als nachträgliche Genehmigung zum Verbleib der Kinder in der Schweiz gewertet werden. Hinzu komme, dass in diesem E-Mail-Kontakt über die Modalitäten der Trennung gestritten worden sei und die im Zusammenhang mit der Diskussion über eine vorgeschlagene Konvention abgegebene Erklärung des Beschwerdegegners "das gemeinsame Sorgerecht fehlt, dass die Kinder wohnen bei der Mutter kann man ja reinmachen" keinesfalls als Genehmigung des Verbringens der Kinder in die Schweiz verstanden werden könne. Aus demselben Grund könne diese erst nachträglich und im Rahmen unverbindlicher und strittiger Diskussionen über Konventionsmöglichkeiten abgegebene Erklärung auch nicht als rechtsmissbräuchlich dahingehend aufgefasst werden, der Beschwerdegegner habe sich mit der E-Mail in Widerspruch zu seinem Rückführungsantrag gestellt, weshalb auch aus diesem Grund sein Rückführungsantrag abzuweisen wäre.
Die Beschwerdeführerin macht geltend, das Obergericht habe übersehen, dass der Beschwerdegegner seinen Rückführungsantrag nicht vor der E-Mail vom 20. Januar 2011, sondern gut drei Wochen später, nämlich am 14. Februar 2011 gestellt habe, weshalb eine nachträgliche Genehmigung nicht ausgeschlossen sei. Im Übrigen vermöge auch die Argumentation des Obergerichts in der Sache nicht zu überzeugen. Zwar sei die Scheidungskonvention nicht zustande gekommen. Die strittigen Punkte hätten aber nicht die Obhut bzw. das Sorgerecht betroffen, sondern die Unterhaltsbeiträge. Mit der pauschalen Argumentation des Obergerichts bleibe die E-Mail als Beweismittel unberücksichtigt. Dieser lasse sich entnehmen, dass die Beschwerdeführerin den Beschwerdegegner auf ihre aktuelle Adresse in der Schweiz aufmerksam gemacht habe. Der Beschwerdegegner habe darauf geantwortet, dass ihn das Besuchsrecht nicht vollständig befriedige. Bezüglich der Obhut sei dem Schriftstück indes klar zu entnehmen, dass diese durch die Beschwerdeführerin ausgeübt werden solle ("Da ja auch ihr 2 monatlich zu mir kommen solltet...", "dass die Kinder wohnen bei der Mutter kann man ja reinmachen."). Der Beschwerdegegner habe somit gewusst, dass die Kinder in der Schweiz leben werden. Überdies sei anlässlich der Verhandlung vom 23. März 2011 darauf hingewiesen worden, dass sich bereits im Vorfeld der Abreise aus Deutschland die Frage der Rückkehr in die Schweiz gestellt habe und ständiges Thema der Diskussionen der Parteien gewesen sei. Das Obergericht habe dies nicht beachtet und damit <ref-law> verletzt.
Die Kinder und der Beschwerdegegner schliessen sich im Wesentlichen den Ausführungen des Obergerichts an.
3.2 Wie die Beschwerdeführerin zu Recht bemerkt, ist das Gesuch des Beschwerdegegners um Rückführung der Kinder entgegen den obergerichtlichen Ausführungen erst nach der E-Mail vom 20. Januar 2011, nämlich am 14. Februar 2011 erfolgt. Das Obergericht hat es indes nicht bei dieser Begründung bewenden lassen, sondern hat sich ausführlich zum Inhalt der E-Mail geäussert. Damit setzt sich die Beschwerdeführerin nur ungenügend auseinander. Insbesondere lässt sie in ihrer Argumentation gegen diesen Teil der obergerichtlichen Begründung den Satzteil: "das gemeinsame Sorgerecht fehlt.." unerwähnt. Im Lichte dieser Aussage ist die Behauptung unzutreffend, es seien nur die Unterhaltsbeiträge strittig gewesen. Wie das Obergericht überdies zu Recht darauf hinweist, ist die Konvention nicht unterschrieben worden. Es geht damit nicht an, nach Gutdünken einzelne Teile aus einem Vergleichsgespräch zu erwähnen, um so eine nachträgliche Genehmigung des Verbleibs der Kinder in der Schweiz zu konstruieren. Soweit die Beschwerdeführerin behauptet, es seien Aussagen nicht gewürdigt worden, die sie an der Verhandlung vom 23. März 2011 gemacht habe, zeigt sie nicht durch klaren Verweis auf das Protokoll auf, dass sie diese Aussagen tatsächlich so, wie in der Beschwerde behauptet, gemacht hat. Darauf und insbesondere auf den Vorwurf der Verweigerung des rechtlichen Gehörs (<ref-law>) ist nicht einzutreten.
4. 4.1 Die Beschwerdeführerin macht weiter geltend, die Rückführung widerspreche Sinn und Zweck des Abkommens. Sie sei die Hauptbezugsperson der beiden zwei bzw. fünf Jahre alten Kinder, könne ihren Wohnsitz innerhalb Deutschlands frei wählen und werde sich in der Zukunft nahe der Schweizergrenze aufhalten. Sobald das deutsche Gericht über die Trennung und die Zuteilung der elterlichen Sorge entschieden haben werde, ziehe sie erneut in die Schweiz. Das dadurch entstehende Hin und Her entspreche nicht dem Sinn des Abkommens.
4.2 Entgegen der Auffassung der Beschwerdeführerin entspricht die Rückführung sehr wohl Sinn und Zweck des Abkommens, soll doch damit dessen Forderung nach dem Schutz des übergeordneten Kindeswohls vor den Folgen widerrechtlicher Veränderung des Sorgeverhältnisse entsprochen werden (vgl. JÖRG PIRRUNG, in: von Staudingers Kommentar zum BGB, Berlin 2009, Vorbem. zu Art. 19 EG/BGB, D 22; Urteil 5A_582/2007 vom 4. Dezember 2007 E. 3). Mit der Rückführung der Kinder nach Deutschland (im Vollstreckungsfall nach Berlin; vgl. Dispositiv-Ziff. 5 des angefochtenen Urteils) wird die Situation der Kinder und deren Sorgeberechtigten vor dem Verbringen in die Schweiz wiederhergestellt und somit dem Kindeswohl und dem Sinn des Abkommens entsprochen. Die Beschwerdeführerin blendet aus, dass sie nicht alleinige Inhaberin der elterlichen Sorge ist, wenn sie sich als Hauptbezugsperson darstellt. Schliesslich beruhen die Ausführungen der Beschwerdeführerin zu den Verhältnissen nach der vom deutschen Gericht ausgesprochenen Trennung bzw. Scheidung auf reiner Spekulation, die im Rahmen des vorliegenden Rückführungsverfahrens nicht berücksichtigt werden kann. Insbesondere ist keineswegs entschieden, dass die elterliche Sorge der Beschwerdeführerin allein übertragen wird, und es ist auch unklar, ob die deutschen Gerichte Kindesschutzmassnahmen anordnen werden. Insoweit sind die Ausführungen der Beschwerdeführerin nicht geeignet, eine Verletzung des Konventionsrechts darzutun.
5. 5.1 Die Beschwerdeführerin macht schliesslich geltend, zwischen Deutschland und der Schweiz herrsche aufgrund des Schengenübereinkommens freier Personenverkehr, weshalb sich der Beschwerdegegner innerhalb beider Staaten bewegen könne und sein Sorgerecht immer noch gewahrt sei.
5.2 Die Ausführungen der Beschwerdeführerin gehen an der Rechtslage vorbei: Aufgrund des zwischen Deutschland und der Schweiz geltenden HKÜ ist die Schweiz verpflichtet, dem Rückführungsbegehren eines deutschen Staatsangehörigen zu entsprechen, sofern wie hier die Voraussetzungen des Übereinkommens erfüllt sind und nicht Ausschlussgründe im Sinn von Art. 12 Abs. 1, Art. 13 Abs. 1 und 2 oder Art. 20 HKÜ vorliegen. Damit ist die Rückführung widerrechtlich verbrachter Kinder anzuordnen, ohne dass dem ersuchten Vertragsstaat dabei ein Ermessen zukäme (Urteil 5A_582/2007 vom 4. Dezember 2007 E. 2). Die Kritik der Beschwerdeführerin richtet sich im Ergebnis an die Gesetzgeber bzw. die Vertragsstaaten des HKÜ und ist im vorliegenden Verfahren nicht zu hören.
5.3 Abschliessend ergibt sich, dass die Vorinstanz mit der Anordnung der Rückführung kein Völkerrecht verletzt hat. Die Beschwerde ist somit abzuweisen, soweit darauf eingetreten werden kann. Damit wird das Gesuch um aufschiebende Wirkung gegenstandslos. Soweit die aufschiebende Wirkung superprovisorisch verfügt worden ist, fällt sie mit dem Entscheid in der Sache dahin.
6. 6.1 Für das Verfahren der Kindesrückführung werden keine Gerichtskosten erhoben (Art. 26 Abs. 2 HKÜ; Urteil 5A_436/2010 vom 8. Juli 2010 E. 6). Dem Beschwerdegegner ist für das bundesgerichtliche Verfahren eine Entschädigung aus der Bundesgerichtskasse zu entrichten.
6.2 Des weiteren ist auch dem Rechtsbeistand der Kinder für dessen Bemühungen im bundesgerichtlichen Verfahren aus der Bundesgerichtskasse eine Entschädigung von Fr. 2'500.-- auszurichten.
7. Das Gesuch der Beschwerdeführerin um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren ist abzuweisen, da sich die Beschwerde als von vornherein aussichtslos erwiesen hat (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist. Der in Ziff. 1 des Entscheides des Obergerichts des Kantons Aargau, Kammer für Vormundschaftswesen vom 23. März 2011 bestimmte Termin für die Rückführung der Kinder S._ und T._ nach Deutschland wird neu auf Dienstag, 14. Juni 2011, festgesetzt.
2. Mit dem Entscheid in der Sache wird das Gesuch um aufschiebende Wirkung gegenstandslos.
3. Das Gesuch der Beschwerdeführerin um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren wird abgewiesen.
4. Es werden keine Gerichtskosten erhoben.
5. Dem Beschwerdegegner wird für das bundesgerichtliche Verfahren eine Entschädigung von Fr. 2'500.-- aus der Bundesgerichtskasse entrichtet.
6. Rechtsanwalt Oliver Bulaty wird für seine Bemühungen als Rechtsbeistand der beiden Kinder im bundesgerichtlichen Verfahren eine Entschädigung von Fr. 2'500.-- aus der Bundesgerichtskasse entrichtet.
7. Dieses Urteil wird den Parteien, dem Obergericht des Kantons Aargau, Kammer für Vormundschaftswesen, dem Bundesamt für Justiz Dienste für internationale Kindesentführungen, der Gemeinde A._ und dem Departement Volkswirtschaft und Inneres des Kantons Aargau, Justizabteilung, schriftlich mitgeteilt.
Lausanne, 25. Mai 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Zbinden