Sachverhalt:
A. Die ungarischen Staatsangehörigen Y._ und X._ sind die unverheirateten Eltern des 2001 in Ungarn geborenen Kindes A._. Die zuständige ungarische Behörde sprach 2008 der Mutter das Sorgerecht und dem Vater ein Besuchsrecht zu.
B. Nachdem die Mutter im August 2008 in B._ Wohnsitz genommen und das Kind dort für die Schule angemeldet hatte, leitete der Vater am 5. November 2008 ein Verfahren um Rückführung des Kindes gemäss dem Haager Übereinkommen über die zivilrechtlichen Aspekte internationaler Kindesentführung ein (HKÜ, SR 0.211.230.2).
Mit dringlicher Verfügung vom 26. November 2008 setzte der Gerichtspräsident des Sensebezirks das Besuchsrecht für die Dauer des Rückführungsverfahrens in dem Sinn fest, dass der Vater das Kind an den Wochenenden vom 6. und 13. Dezember 2008 besuchen konnte. Mit Verfügung vom 23. Dezember 2008 legte er weitere Besuchsrechtswochenenden fest.
Mit Urteil vom 10. Februar 2009 ordnete der Gerichtspräsident die Rückführung des Kindes nach Ungarn an, ebenso das Zivilgericht des Sensebezirks mit Urteil vom 6. April 2009. Die Kosten der Rückführung sowie die Parteikosten des Vaters wurden in Anwendung von Art. 26 Abs. 4 HKÜ der Mutter auferlegt.
C. Gestützt auf die betreffende Urteilsklausel reichte die Anwältin des Vaters am 12. Mai 2009 eine Kostenliste ein und machte Fr. 30'466.95 für Anwaltskosten (Honorar 27'000.--; Auslagen 1'315.--; MWSt 2'151.95) sowie weitere Kosten von Fr. 18'135.-- geltend.
Mit Verfügung vom 18. März 2010 setzte der Gerichtspräsident des Sensebezirks die Anwaltskosten auf Fr. 16'874.90 (Honorar 13'080.--; Auslagen 300; Reiseentschädigung 2'303.--; MWSt 1'191.90) fest und sprach dem Vater eine pauschalisierte Entschädigung für weitere Kosten von Fr. 4'500.-- zu.
Dagegen erhoben beide Parteien Rekurs; die Mutter verlangte die Festsetzung der Entschädigung auf Fr. 1'000.--, während der Vater Anwaltskosten von Fr. 30'386.25, eventualiter 26'900.--, und eine Entschädigung für weitere Kosten von Fr. 18'135.-- verlangte.
Mit Urteil vom 16. August 2010 setzte das Kantonsgericht Freiburg, Moderationshof, die Anwaltskosten auf Fr. 16'874.90 (Kostenschlüssel wie erstinstanzlich) und die Entschädigung für weitere Kosten auf Fr. 6'915.-- fest.
D. Gegen dieses Urteil hat der Vater am 27. September 2010 eine subsidiäre Verfassungsbeschwerde eingereicht mit dem Begehren um Festsetzung der Anwaltskosten auf Fr. 24'877.15 und der übrigen Kosten auf Fr. 9'357.55. Es wurden keine Vernehmlassungen eingeholt.
Erwägungen:
1. Angefochten ist ein selbständig erlassener Kostenentscheid, so dass die Kosten im betreffenden kantonalen Verfahren nicht ein Akzessorium, sondern die Hauptsache sind. Entsprechend liegt eine vermögensrechtliche Streitigkeit vor, so dass für die Beschwerde in Zivilsachen der Mindeststreitwert von Fr. 30'000.-- erforderlich ist (Art. 74 Abs. 1 lit. b BGG). Der Beschwerdeführer beziffert den Streitwert auf Fr. 10'444.90 (Differenz zwischen seinen jetzigen Rechtsbegehren und den im angefochtenen Entscheid zugesprochenen Beträgen). Der Streitwert bestimmt sich indes nicht nach dem Gravamen, sondern nach den Begehren, die vor der letzten kantonalen Instanz streitig geblieben waren (Art. 51 Abs. 1 lit. a BGG). Das Kantonsgericht hat diesen Wert zutreffend auf Fr. 27'146.35 beziffert (30'386.25 + 18'135.-- - 16'874.90 - 4'500.--). Die Beschwerde in Zivilsachen fällt damit ausser Betracht und entsprechend steht die subsidiäre Verfassungsbeschwerde offen (Art. 113 BGG).
Mit der Verfassungsbeschwerde kann, wie es bereits der Name sagt, die Verletzung verfassungsmässiger Rechte gerügt werden (Art. 116 BGG). Hierfür gilt aufgrund des Verweises in Art. 117 BGG das strenge Rügeprinzip gemäss Art. 106 Abs. 2 BGG, und zwar - entgegen der Annahme des Beschwerdeführers, es komme hierfür Art. 106 Abs. 1 BGG zum Tragen - auch für Rechtsfragen, weil nach dem klaren Wortlaut von Art. 116 BGG keine falsche Rechtsanwendung geltend gemacht, sondern ausschliesslich die Verletzung verfassungsmässiger Rechte gerügt werden kann und entsprechend Art. 117 BGG in jeder Hinsicht, d.h. auch für Rechtsfragen, einzig auf Art. 106 Abs. 2 BGG verweist.
2. Entgegen seiner Behauptung kann der Beschwerdeführer aus Art. 26 Abs. 4 HKÜ keinen unbedingten Anspruch auf Bezahlung aller Kosten durch die Gegenpartei ableiten: Bei der betreffenden Norm handelt es sich um eine "kann-Vorschrift", welche dem Sachgericht einen weiten Ermessensspielraum eröffnet; insbesondere dürfte auch von jeglicher Kostenauflage an die Gegenpartei abgesehen werden (vgl. Elisa Pérez-VERA, Explanatory Report on the 1980 Hague Child Abduction Convention, 1982, N. 136).
Dies führt freilich nicht dazu, dass dem Beschwerdeführer vorliegend jegliche Beschwerdelegitimation abzusprechen wäre: Die kantonalen Instanzen haben Art. 26 Abs. 4 HKÜ dahingehend angewandt, dass sie sich grundsätzlich zu einer Kostenüberwälzung an die Beschwerdegegnerin entschlossen haben. Innerhalb dieses auf Ermessensausübung beruhenden Grundentscheides muss das Sachgericht selbstverständlich nach pflichtgemässem Ermessen bzw. willkürfrei entscheiden und es ist auch an die übrigen Grundrechte gebunden. Dementsprechend kann gestützt auf Art. 116 BGG vorgebracht werden, der von der letzten kantonalen Instanz getroffene Entscheid verletze ein verfassungsmässiges Recht.
3. Mit Bezug auf die Anwaltskosten hat das Kantonsgericht unter Verweis auf Art. 3 PKT/FR erwogen, für das Verfahren vor dem Gerichtspräsidenten sei der Maximalbetrag von Fr. 4'600.-- angesichts der Aufwändigkeit des Verfahrens verdoppelt worden und für das Verfahren vor dem Zivilgericht sei auf den vorgesehenen Höchstbetrag von Fr. 2'880.-- ein Zuschlag von Fr. 1'000.-- gewährt worden; sodann seien Auslagen von Fr. 300.-- und eine Reiseentschädigung von Fr. 2'303.-- (Zeit inbegriffen) gewährt worden.
3.1 Der Beschwerdeführer sieht Art. 8 BV (Rechtsgleichheitsverbot) verletzt. Er macht geltend, nur wegen der in Art. 11 Abs. 2 HKÜ vorgesehenen Sechswochenfrist seien die Kindesrückführungen ins Summarverfahren verwiesen worden. Das ändere nichts daran, dass es sich dabei um ausserordentlich komplizierte und aufwändige Verfahren handle, die offensichtlich den für Summarverfahren vorgesehenen Tarifrahmen sprengen würden; der kantonale Gesetzgeber habe dies übersehen. Sodann seien während des Rückführungsverfahrens drei Massnahmeverfahren (davon zwei zum Besuchsrecht) durchgeführt worden. Für das Verfahren vor dem Gerichtspräsidenten sei deshalb ein Aufwand von 80,9 Stunden und im Beschwerdeverfahren vor dem Zivilgericht ein solcher von 31,95 Stunden entstanden. In beiden Verfahren sei der durchschnittliche Honoraransatz von Fr. 300.-- gesenkt und ein Pauschalhonorar von Fr. 18'000.-- bzw. 9'000.-- gefordert worden. Es gehe nicht an, diese Beträge weiter zu kürzen mit dem unhaltbaren Hinweis, der im PKT/FR vorgesehene Kostenrahmen werde ansonsten überschritten.
3.2 Zunächst ist festzuhalten, dass der Beschwerdeführer nicht dartut, inwiefern er gegenüber anderen Personen in einem der in Art. 8 Abs. 2 BV aufgezählten Punkte diskriminiert worden wäre. Dem Obergericht lässt sich aber auch nicht vorwerfen, dass es im Rahmen des allgemeinen Rechtsgleichheitsgebotes gemäss Art. 8 Abs. 1 BV Gleiches nicht nach Massgabe seiner Gleichheit gleich und Ungleiches nicht nach Massgabe seiner Ungleichheit ungleich behandelt hätte. Insbesondere ist die Annahme falsch, die Kindesrückführung gehöre in Wahrheit gar nicht in ein Summarverfahren und entsprechend könne der dort vorgesehene Tarifrahmen nicht zur Anwendung gelangen: Im Rückführungsverfahren geht es nicht um einen materiellen Sorgerechtsentscheid (vgl. 16 und 19 HKÜ), sondern um Rechtshilfe zwischen Vertragsstaaten (BGE 120 II 222 E. 2b S. 224); zu überprüfen ist einzig, ob die Rückführungsvoraussetzungen gegeben sind und keine Ausschlussgründe vorliegen (namentlich Art. 13 oder 20 HKÜ). Ein solcher Entscheid gehört typischerweise ins Summarverfahren; Entsprechendes sieht denn auch Art. 302 Abs. 1 lit. a der am 1. Januar 2011 in Kraft tretenden schweizerischen Zivilprozessordnung vor. Sodann verhält es sich entgegen den sinngemässen Ausführungen des Beschwerdeführers nicht so, dass zum Rückführungsverfahren gewissermassen diverse eigenständige Besuchsrechtsverfahren dazugekommen wären; vielmehr wurden für die Zeit des Rückführungsverfahrens vorsorglich mehrere Besuchsrechtstermine festgesetzt. Vor diesem Hintergrund ist nicht ersichtlich, inwiefern das Rechtsgleichheitsgebot verletzt sein soll, wenn das Kantonsgericht eine die Massnahmeverfahren einschliessende Gesamtentschädigung innerhalb des Rückführungsverfahrens festgesetzt hat.
3.3 Nach dem Gesagten ist das Rechtsgleichheitsgebot im Zusammenhang mit der Honorarfestsetzung nicht tangiert. Was die konkrete Höhe der zugesprochenen Anwaltskosten anbelangt, wäre unter verfassungsrechtlichen Gesichtspunkten vielmehr zu fragen, ob die Art der Bemessung in willkürlicher Weise erfolgt sei. Eine Verletzung des Willkürverbots (Art. 9 BV) wird jedoch nicht geltend gemacht und zufolge des strikten Rügeprinzips kann das Bundesgericht die betreffende Frage nicht von sich aus aufgreifen.
4. Das Kantonsgericht hat weitere Kosten von total Fr. 9'357.55 berücksichtigt, und zwar Reise-, Übernachtungs- und Verpflegungskosten sowie Lohnausfall im Zusammenhang mit den Reisen bzw. Aufenthalten des Beschwerdeführers in der Schweiz einerseits sowie Übersetzungskosten für Verfahrensakten andererseits.
4.1 Betreffend Übersetzungskosten hat das Kantonsgericht erwogen, der Beschwerdeführer habe diese nicht mit Belegen erstellt und die erst im Rahmen des Rekurses eingereichten Rechnungen seien verspätet; ermessensweise werde aber angesichts des Umfangs der übersetzten Akten und der Lebenshaltungskosten in Ungarn ein Betrag von Fr. 1'500.-- für Übersetzungskosten berücksichtigt.
Der Beschwerdeführer macht geltend, vor dem Hintergrund der Aktenmenge (5'400 übersetzte Zeilen, wovon 3'703 im Recht lägen) sei der geltend gemachte Übersetzungsaufwand für die Vorinstanzen unabhängig von Rechnungen ersichtlich gewesen. Sodann habe er vor Kantonsgericht ausgeführt, dass er sich die schweizerischen Entscheide ins Ungarische habe zurückübersetzen lassen müssen, um seine Verfahrensrechte wahrnehmen zu können. Dies sei Bestandteil seines rechtlichen Gehörs (Art. 29 Abs. 2 BV); indem der betreffende Aufwand nicht berücksichtigt worden sei, liege dementsprechend eine Gehörsverletzung vor.
Der Beschwerdeführer übergeht zum einen, dass er vor den schweizerischen Gerichten durch eine Anwältin vertreten war und zu deren Aufgaben auch die Erläuterung der Entscheide gegenüber dem Klienten gehörte. Zum anderen überspielt er, dass das Kantonsgericht ihm ermessensweise einen Betrag von Fr. 1'500.-- für Übersetzungskosten zugestanden hat. Vor dem Hintergrund dieser beiden Umstände ist nicht ersichtlich, inwiefern sein rechtliches Gehör verletzt worden sein soll, indem er sich nicht angemessen im Verfahren hätte einbringen bzw. Gehör verschaffen können; umso weniger ist dies ersichtlich, als seinen Anträgen auf Rückführung des Kindes und auf Besuchswochenenden entsprochen worden ist.
Was sodann die konkrete Berechnung der Kosten anbelangt, geht es nicht um das rechtliche Gehör; vielmehr hätte hier wiederum eine Verletzung des Willkürverbotes (Art. 9 BV) gerügt und eine unsachliche Wahl der Berechnungskriterien oder eine qualifiziert unrichtige Bemessung innerhalb korrekt gewählter Kriterien aufgezeigt werden müssen.
4.2 Vom geltend gemachten Lohnausfall von fünfzehn Tagen zu je Fr. 150.-- hat das Kantonsgericht zwölf Tage zu je Fr. 60.-- anerkannt. Für die Bemessung des väterlichen Einkommens ging es von den Zahlen im Urteil betreffend Kindesunterhalt des Komitatsgerichts Buda vom 23. April 2007 aus und hielt sodann fest, es ergebe sich nicht rechtsgenüglich aus den Akten, dass der als Anwalt tätige Beschwerdeführer von der dort genannten Lohnsumme auch noch eine Büroorganisation mit Angestellten unterhalten müsse.
Der Beschwerdeführer macht geltend, im Urteil des Komitatsgerichts Buda gehe es um offensichtlich um Nettoeinkommen. Für ihn als Rechtsanwalt sei jedoch hinsichtlich des Lohnausfalls das Bruttoeinkommen relevant. Aufgrund der bundesgerichtlichen Rechtsprechung sei notorisch, dass 60% der Einnahmen für den Bürobetrieb (Miete, Einrichtung, Personal) notwendig seien. Indem das Kantonsgericht von einem Nettolohn ausgegangen sei, habe es willkürlich gehandelt und seine Verfahrensrechte in krasser Weise verletzt.
Das Rügeprinzip gemäss Art. 106 Abs. 2 BGG bedeutet, dass das Bundesgericht nur klar und detailliert erhobene und soweit möglich belegte Rügen prüft, während es auf ungenügend begründete Rügen und rein appellatorische Kritik am angefochtenen Entscheid nicht eintritt. Wird die Verletzung des Willkürverbots gerügt, reicht es sodann nicht aus, die Lage aus Sicht des Beschwerdeführers darzulegen und den davon abweichenden angefochtenen Entscheid als willkürlich zu bezeichnen; vielmehr ist im Einzelnen darzulegen, inwiefern das kantonale Gericht willkürlich entschieden haben soll und der angefochtene Entscheid deshalb an einem qualifizierten und offensichtlichen Mangel leidet (BGE 134 II 244 E. 2.2 S. 246).
Diesen Anforderungen vermögen die Vorbringen des Beschwerdeführers nicht zu genügen: Er unterlässt eine Auseinandersetzung mit der Kernerwägung des Kantonsgerichts, es sei nicht nachgewiesen, dass er mit seinem Lohn auch noch eine Büroorganisation mit Angestellten unterhalten müsse. Mit dem abstrakten Hinweis auf bundesgerichtliche Rechtsprechung kann dem Vorwurf, effektive Auslagen seien nicht dargetan, nicht begegnet werden: Zwar hätte das Kantonsgericht durchaus einer solchen Betrachtungsweise folgen können und auch dies wäre willkürfrei gewesen, liegt doch Willkür nicht schon vor, wenn eine andere Lösung ebenfalls vertretbar erscheint oder sogar vorzuziehen wäre (BGE 132 I 13 E. 5.1 S. 17; 133 I 149 E. 3.1 S. 153). Vorliegend hat das Kantonsgericht aber mit Blick auf die undurchsichtigen Arbeitsbedingungen - es ist nicht einmal bekannt, ob die Anwaltstätigkeit selbständig oder im Rahmen eines Angestelltenverhältnisses ausgeübt wird; wie bereits im Rekursverfahren wird aber auch in der Beschwerde in Zivilsachen durchwegs von Lohnausfall gesprochen, was auf ein Angestelltenverhältnis schliessen lässt - und auf die allenfalls generell von der Schweiz abweichende Sachlage konkrete Angaben verlangt, d.h. der Beschwerdeführer hätte seinen tatsächlichen Ausfall mit Geschäftszahlen plausibilisieren müssen. Der Beschwerdeführer hat jedoch die Offenlegung oder doch wenigstens die Substanziierung seines Ausfalls im Zusammenhang mit Erwerbsarbeit verweigert und es ist deshalb nicht unsachlich bzw. willkürlich, wenn das Kantonsgericht deshalb auf das im Urteil des Komitatsgerichts Buda festgestellte Einkommen abgestellt hat. Mit Blick darauf, dass sich ein Entscheid nicht nur in der Begründung, sondern auch im Ergebnis als willkürlich erweisen müsste (BGE 132 III 209 E. 2.1 S. 211; 133 I 149 E. 3.1 S. 153; 134 I 140 E. 5.4 S. 148), ist im Übrigen festzuhalten, dass der Lohnausfall unter anderem im Zusammenhang mit den Besuchsrechtswochenenden in der Schweiz berücksichtigt worden ist, die Kosten der Besuchsrechtsausübung jedoch im Allgemeinen vom Ausübenden selbst zu tragen sind (Entscheid 7B.145/2005 vom 11. November 2005 E. 3.3). Auch vor diesem Hintergrund lässt sich nicht sagen, dass die kantonal zugesprochene Entschädigung für Lohnausfall insgesamt als krass stossend und damit als willkürlich auszusehen wäre.
5. Zusammenfassend ergibt sich, dass keine Verfassungsverletzungen nachgewiesen sind und die subsidiäre Verfassungsbeschwerde abzuweisen ist, soweit auf sie eingetreten werden kann. Da eine im Zusammenhang mit einem Rückführungsverfahren stehende Kostenentscheidung angefochten ist, wird angesichts von Art. 26 Abs. 2 HKÜ von Gerichtskosten abgesehen. Der unterliegende Beschwerdeführer hat aber auch keinen Anspruch auf staatliche Entschädigung ausserhalb der unentgeltlichen Rechtspflege.
Demnach erkennt das Bundesgericht:
1. Die subsidiäre Verfassungsbeschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Es werden keine Gerichtskosten erhoben.
3. Es werden keine Parteikosten gesprochen.
4. Dieses Urteil wird den Parteien und dem Kantonsgericht Freiburg, Moderationshof, schriftlich mitgeteilt.
Lausanne, 3. Dezember 2010
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Möckli