Sachverhalt:
A. Z._ war ab 1. Februar 2002 bei der Fachhochschule X._ (nachfolgend: Fachhochschule) als wissenschaftlicher Mitarbeiter angestellt. Am 28. September 2007 stellte er der Universität Y._ Rechnung über Fr. 2'800.- für von ihm ausgeführte Arbeiten. Entgegen seinem Wunsch erfolgte die Zahlung mit der Lohnabrechnung über die Fachhochschule und es wurden darauf zusätzlich Sozialversicherungsbeiträge geleistet, so dass er insgesamt Fr. 3'008.- ausbezahlt erhielt.
Z._ verlangte beim Direktionspräsidenten der Fachhochschule eine Berichtigung und Rückabwicklung der Zahlung, was am 21. Dezember 2007/28. Januar 2008 abgelehnt wurde. Die Beschwerdekommission der Fachhochschule (nachfolgend: Beschwerdekommission) wies am 19. März 2008 die Sache an die Direktion zurück. Diese ordnete am 1. Juli 2008 an, es werde Z._ der Betrag von Fr. 2'800.- überwiesen und seiner Lohnauszahlung der bereits geleistete Betrag von Fr. 3'008.- belastet. Z._ wehrte sich erneut dagegen. Am 16. Juli 2008 stellte ihm die Fachhochschule einen berichtigten Lohnausweis zu. Am 17. September 2008 hielt die Beschwerdekommission fest, die Fachhochschule werde auf ihrer Zusage behaftet, aus der Änderung des Lohnausweises keine Rückforderungen gegenüber Z._ zu erheben; im Übrigen lehnte es seine Forderungen ab.
B. Die dagegen erhobene Klage wies das Personalrekursgericht des Kantons Aargau mit Entscheid vom 17. September 2009 ab, soweit es darauf eintrat, auferlegte Z._ die Gerichtskosten von insgesamt Fr. 1'205.- und verpflichtete ihn zur Zahlung einer Parteientschädigung von Fr. 2'194.75.
C. Z._ erhebt subsidiäre Verfassungsbeschwerde mit dem Begehren, es sei der vorinstanzliche Entscheid aufzuheben, und ersucht um einen zweiten Schriftenwechsel.
Das Personalrekursgericht schliesst auf Abweisung der Beschwerde. Die Fachhochschule lässt die Abweisung der Beschwerde, soweit darauf eingetreten werden könne, beantragen.
D. Z._ richtete am 13. und 26. November 2009 sowie am 9. Dezember 2009 und 6. Februar 2010 weitere Eingaben ans Bundesgericht.
Erwägungen:
1. Mit der Verfassungsbeschwerde kann einzig die Verletzung verfassungsmässiger Rechte gerügt werden (Art. 116 BGG). Es gilt das Rügeprinzip (Art. 117 in Verbindung mit Art. 106 Abs. 2 BGG): Der Beschwerdeführer muss im Einzelnen darlegen, welche verfassungsmässigen Rechte inwiefern verletzt worden sein sollen. Das Bundesgericht untersucht nicht von Amtes wegen, ob der angefochtene Entscheid verfassungsmässig ist, sondern prüft nur rechtsgenügend vorgebrachte, klar erhobene und, soweit möglich, belegte Rügen; auf rein appellatorische Kritik am angefochtenen Entscheid tritt es nicht ein (BGE 133 II 396 E. 3.1 S. 399).
Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 118 BGG). Es kann davon nur abweichen, wenn die Sachverhaltsfeststellung unter Verletzung eines verfassungsmässigen Rechts zustande kam (Art. 118 Abs. 2 und Art. 116 BGG), was der Beschwerdeführer präzise geltend zu machen hat (Art. 117 in Verbindung mit Art. 106 Abs. 2 BGG; BGE 133 III 439 E. 3.2 S. 444).
2. 2.1 Neue Tatsachen und Beweismittel dürfen nur so weit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt; neue Begehren sind unzulässig (Art. 117 in Verbindung mit Art. 99 Abs. 1 und 2 BGG). Tatsachen und Beweismittel, die nach Ablauf der Beschwerdefrist ausserhalb eines zweiten Schriftenwechsels eingereicht bzw. geltend gemacht werden, sind grundsätzlich unbeachtlich, es sei denn, sie vermöchten eine Revision des Gerichtsurteils zu rechtfertigen (BGE 127 V 353; SVR 2009 IV Nr. 10 S. 21 E. 3.1 [9C_40/2007]).
Die vom Beschwerdeführer vor Bundesgericht aufgelegten neuen Beweismittel können nicht berücksichtigt werden, da die entsprechenden Punkte bereits im vorinstanzlichen Verfahren streitig waren und nicht erst der kantonale Entscheid Anlass zu ihrer Einreichung gab.
2.2 Gehen in einem Gerichtsverfahren Vernehmlassungen und Stellungnahmen von Parteien und Behörden ein, so werden diese den übrigen Verfahrensbeteiligten im Allgemeinen zur Kenntnisnahme zugestellt. Diese Zustellung kann verbunden werden mit der Anordnung eines zweiten Schriftenwechsels. Ein solcher wird jedoch nur ausnahmsweise durchgeführt (Art. 117 in Verbindung mit Art. 102 Abs. 3 BGG). Eine Ausnahme ist unter dem Aspekt des Anspruchs auf rechtliches Gehör geboten, wenn die Beschwerdeantwort neue rechtliche oder tatsächliche Begründungselemente enthält, die zulässig sind und mit welchen nicht gerechnet werden musste (vgl. Urteil 8C_599/2009 vom 16. September 2009, E. 2).
Es sind keine Anhaltspunkte ersichtlich, die einen zweiten Schriftenwechsel notwendig erscheinen lassen, weshalb darauf zu verzichten ist. Daran ändern auch die vom Beschwerdeführer nachträglich eingereichten Eingaben nichts.
3. 3.1 Der Beschwerdeführer rügt, die Vorinstanz habe den Sachverhalt willkürlich festgestellt, indem sie unterschlagen habe, dass er die Steuerverwaltung zweimal um Fristerstreckung ersucht habe.
Diese Behauptung ist falsch (vgl. E. II/5.2 des vorinstanzlichen Entscheids), so dass offen bleiben kann, ob diese Rüge überhaupt rechtsgenügend begründet wurde (E. 1).
3.2 Der Beschwerdeführer macht eine Verletzung seines Anspruchs auf rechtliches Gehör (Art. 29 Abs. 2 BV) geltend.
Das rechtliche Gehör nach Art. 29 Abs. 2 BV verlangt, dass die Behörde die Vorbringen des vom Entscheid in ihrer Rechtslage betroffenen Person auch tatsächlich hört, prüft und in der Entscheidfindung berücksichtigt. Daraus folgt die Verpflichtung der Behörde, ihren Entscheid zu begründen. Dabei ist es nicht erforderlich, dass sie sich mit allen Parteistandpunkten einlässlich auseinandersetzt und jedes einzelne Vorbringen ausdrücklich widerlegt. Vielmehr kann sie sich auf die für den Entscheid wesentlichen Punkte beschränken. Die Begründung muss so abgefasst sein, dass sich die betroffene Person über die Tragweite des Entscheids Rechenschaft geben und ihn in voller Kenntnis der Sache an die höhere Instanz weiterziehen kann. In diesem Sinne müssen wenigstens kurz die Überlegungen genannt werden, von denen sich die Behörde hat leiten lassen und auf die sich ihr Entscheid stützt (BGE 134 I 83 E. 4.1 S. 88 mit Hinweisen).
Die Vorinstanz hat in ihrem Entscheid dargelegt, weshalb sie den Einwänden des Beschwerdeführers nicht gefolgt ist. Sie hat insbesondere nachvollziehbar begründet, weshalb die "Entscheide" des Direktionspräsidenten keine (vollziehbare) Verfügungen, sondern lediglich vertragliche Erklärungen darstellen, inwiefern seine Forderungen durch den berichtigten Lohnausweis sowie die rechnerische Korrektur erfüllt sind und weshalb kein Anspruch auf Rückabwicklung nach seinen Vorstellungen besteht. Sein Anspruch auf rechtliches Gehör ist nicht verletzt.
3.3 Der Beschwerdeführer wirft der Vorinstanz in verschiedener Hinsicht Willkür (Art. 9 BV) vor.
Willkür in der Rechtsanwendung liegt vor, wenn der angefochtene Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen umstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Das Bundesgericht hebt einen Entscheid jedoch nur auf, wenn nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist; dass eine andere Lösung ebenfalls als vertretbar oder gar zutreffender erscheint, genügt nicht (BGE 133 I 149 E. 3.1 S. 153, 131 I 467 E. 3.1 S. 473, je mit Hinweisen).
Entgegen der Ansicht des Beschwerdeführers ist die Vorinstanz nicht in Willkür verfallen, als sie feststellte, ihm sei - ungeachtet des Ergebnisses vor der Beschwerdekommission - keine Entschädigung für das Verfahren vor der Beschwerdekommission auszurichten. Wie das kantonale Gericht unter Verweis auf die massgebliche kantonale Praxis (Entscheid B. vom 3. Juli 2008, publiziert in AGVE 2008 Nr. 94 S. 433) darlegte, handelt es sich dabei um ein unentgeltliches Verfahren und es werden weder Verfahrensgebühren erhoben noch Parteientschädigungen ausgerichtet. Ebenfalls nicht willkürlich ist, dass die Vorinstanz sich nicht mit dem Einwand der "zwei Verfahren" auseinandersetzte. Vielmehr bestand dazu gar kein Anlass, da sie überzeugend begründete, dass das Verfahren vor dem Direktionspräsidenten - ebenso wie jenes vor der Beschwerdekommission - nicht kostenpflichtig ist (E. III/2).
3.4 Weiter macht der Beschwerdeführer eine Verletzung des Verhältnismässigkeitsprinzips von Art. 5 Abs. 2 BV geltend.
Staatliches Handeln ist verhältnismässig, wenn es erforderlich, die vorgesehene Massnahme zur Erreichung des Ziels geeignet ist und das gewählte Mittel nicht in einem Missverhältnis zu anderen zu beachtenden Interessen steht (BGE 135 V 172 E. 7.3.3 S. 182 mit Hinweis). Dabei handelt es sich nicht um ein verfassungsmässiges Recht im Sinne von Art. 116 BGG, sondern um ein verfassungsmässiges Prinzip (BGE 135 V 172 E. 7.3.2; GIOVANNI BIAGGINI, Bundesgerichtsgesetz, Basler Kommentar, N. 16 zu Art. 116 BGG, je mit Hinweisen). Die Verhältnismässigkeit kann im Rahmen der Verfassungsbeschwerde dennoch eine Rolle spielen, etwa bei der Überprüfung staatlichen Handelns unter dem Blickwinkel der Willkür (BIAGGINI, a.a.O., N. 16 zu Art. 116 BGG).
Die Vorinstanz hat nicht willkürlich gegen das Verhältnismässigkeitsprinzip verstossen, indem sie es dem Beschwerdeführer als zumutbar erachtete, seine Steuererklärung mit den damals vorhandenen Unterlagen und dem Vermerk, es gebe bezüglich des Einkommens noch zu klärende Fragen, einzureichen oder sich vor der verlangten Fristerstreckung bei der Steuerverwaltung über deren Notwendigkeit zu erkundigen. Dass eine andere Lösung ebenfalls vertretbar oder - nach Ansicht des Beschwerdeführers - gar zutreffender wäre, genügt nicht zur Bejahung von Willkür (vgl. E. 3.3) und wäre hier auch nicht gegeben.
3.5 Schliesslich rügt der Beschwerdeführer eine Verletzung von Art. 6 Ziff. 1 EMRK.
Art. 6 EMRK verpflichtet die Vertragsstaaten, für ein faires Gerichtsverfahren zu sorgen. Kostenentscheide können in den Anwendungsbereich von Art. 6 Ziff. 1 EMRK fallen und in Ausnahmefällen gegen das Gebot des fairen Verfahrens verstossen, sofern sie willkürlich oder unangemessen sind (JENS MEYER-LADEWIG, Europäische Menschenrechtskonvention, 2. Aufl., N. 60a zu Art. 6 EMRK). Gerichtskosten sind zulässig, sofern sie weder das Wesen des Rechts auf Zugang zum Gericht antasten noch den Zugang unangemessen oder unverhältnismässig erschweren; es kommt somit auf die Höhe der Gebühren, auf die Zahlungsfähigkeit des Betroffenen, das Stadium des Verfahrens und den Streitgegenstand an. Schwierigkeiten können durch die unentgeltliche Rechtspflege abgefangen werden, bei welcher nebst der Zahlungsfähigkeit auch die Erfolgsaussichten berücksichtigt werden dürfen (MEYER-LADEWIG, a.a.O., N. 22a zu Art. 6 EMRK). Der Staat ist aber nicht verpflichtet, durch Einsatz öffentlicher Mittel vollständige Waffengleichheit zwischen den Parteien herzustellen (MEYER-LADEWIG, a.a.O., N. 23a zu Art. 6 EMRK; vgl. auch BGE 8C_216/2009 vom 28. Oktober 2009, E. 4.3.1 mit Hinweisen).
Entgegen der Ansicht des Beschwerdeführers ist der vorinstanzliche Kostenentscheid nicht willkürlich, sondern beruht auf einer gesetzlichen Grundlage. Der Beschwerdeführer zeigt denn auch nicht auf, inwiefern die auferlegten Kosten seinen Zugang zu einem Gericht unangemessen oder unverhältnismässig erschweren oder gar beschränken würden. Es liegt somit keine Verletzung von Art. 6 Ziff. 1 EMKR vor. Daran ändert weder seine Berufung auf die Bestimmungen des (bis Ende 2008 in Kraft gewesenen) kantonalen Verwaltungsrechtspflegegesetzes noch auf Art. 68 Abs. 3 BGG etwas, da erstere nicht massgeblich sind (vgl. zutreffend E. I/2 und III/3 des vorinstanzlichen Entscheids) und aus letzterem nichts für das Verfahren vor kantonalen Instanzen abgeleitet werden kann. Ebenso unbehelflich ist der Verweis auf den Entscheid des Verwaltungsgerichts des Kantons Baselland, da sich dieser weder auf die Rechtslage im Kanton Aargau noch auf ein verwaltungsgerichtliches Klageverfahren bezieht. Zur Höhe der Gerichtskosten und Parteientschädigung bringt der Beschwerdeführer keine rechtsgenügende Rüge vor (Art. 117 in Verbindung mit Art. 106 Abs. 2 BGG).
4. Das Verfahren ist kostenpflichtig. Der unterliegende Beschwerdeführer hat die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG). Die Fachhochschule hat keinen Anspruch auf eine Parteientschädigung, da sie in ihrem amtlichen Wirkungskreis tätig war (Art. 68 Abs. 3 BGG; Urteil 1C_296/2008 vom 5. März 2009, E. 4).
Demnach erkennt das Bundesgericht:
1. Die Verfassungsbeschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 1'500.- werden dem Beschwerdeführer auferlegt.
3. Es wird keine Parteientschädigung zugesprochen.
4. Dieses Urteil wird den Parteien und dem Personalrekursgericht des Kantons Aargau schriftlich mitgeteilt.
Luzern, 10. März 2010
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Ursprung Riedi Hunold