Sachverhalt:
A. Das Strafgericht des Kantons Basel-Landschaft verurteilte X._ am 29. November 2006 wegen mehrfachen, teilweise versuchten, sexuellen Handlungen mit seiner damals 13-jährigen Tochter, mehrfachen versuchten Inzests sowie Konsums von Betäubungsmitteln zu einer Gefängnisstrafe von 21/4 Jahren und auferlegte ihm die Verfahrenskosten.
X._ gelangte gegen dieses Urteil ans Kantonsgericht Basel-Landschaft, welches die Appellation mit Urteil vom 2. Dezember 2008 teilweise guthiess und X._ von der Anklage der sexuellen Handlungen mit einem Kind sowie des versuchten Inzests freisprach. Auf die Anklage wegen Konsums von Betäubungsmitteln trat das Kantonsgericht zufolge Verjährung nicht ein. Im Kostenpunkt entschied es, dass die Verfahrenskosten sowie die Urteilsgebühr des Strafgerichts je zur Hälfte X._ und dem Staat auferlegt werden (Dispositiv-Ziff. I). Die Gebühr des Kantonsgerichts von Fr. 14'400.- zuzüglich Gutachterkosten von Fr. 3'165.60 sowie Auslagen von Fr. 234.40 wurde ebenfalls je zur Hälfte X._ und dem Staat auferlegt (Dispositiv-Ziff. II).
B. Mit Beschwerde in Strafsachen und subsidiärer Verfassungsbeschwerde vom 18. Februar 2009 beantragt X._, Dispositiv-Ziff. II des Urteils des Kantonsgerichts vom 2. Dezember 2008 aufzuheben und die zweitinstanzlichen Verfahrenskosten vollumfänglich dem Staat aufzuerlegen. Eventualiter sei die Sache an die Vorinstanz zurückzuweisen. Zudem ersucht er um Gewährung der aufschiebenden Wirkung und der unentgeltlichen Rechtspflege und Verbeiständung.
Erwägungen:
1. Nach dem Konzept der Einheitsbeschwerde soll der Rechtsmittelweg an das Bundesgericht vom Rechtsgebiet abhängen, auf welches die Streitsache letztlich zurückgeht (Botschaft zur Totalrevision der Bundesrechtspflege vom 28. Februar 2001, BBl 2001 4235). Beim angefochtenen Entscheid handelt es sich um ein Strafurteil, gegen welches die Beschwerde in Strafsachen gemäss Art. 78 Abs. 1 BGG zulässig ist. Da mit diesem Rechtsmittel auch die Verletzung der Bundesverfassung gerügt werden kann (Art. 95 lit. a BGG), besteht für die subsidiäre Verfassungsbeschwerde kein Raum (vgl. Urteil des Bundesgerichts 6B_948/2008 vom 23. März 2009 E. 1.1).
2. Der Beschwerdeführer rügt, die Auferlegung der zweitinstanzlichen Verfahrenskosten sei mangels eines Kausalzusammenhangs in willkürlicher Anwendung von § 31 StPO/BL erfolgt.
2.1 Wird die angeschuldigte Person freigesprochen, wird das Verfahren eingestellt oder wird ihm keine weitere Folge gegeben, trägt gemäss § 31 Abs. 2 Satz 1 des Gesetzes vom 3. Juni 1999 betreffend die Strafprozessordnung des Kantons Basel-Landschaft (StPO/BL) in der Regel der Staat die Verfahrenskosten. Diese können der angeschuldigten Person ganz oder teilweise überbunden werden, wenn sie die Untersuchung durch ihr Verhalten verschuldet oder in unzulässiger Weise erschwert hat (§ 31 Abs. 2 Satz 2 StPO/BL). § 31 Abs. 2 StPO/BL gilt sinngemäss auch für Beschwerdeverfahren, über die ausserhalb der Hauptsache selbständig entschieden wird (§ 31 Abs. 5 StPO/BL).
2.2 Nach der Rechtsprechung des Bundesgerichts verstösst eine Kostenauflage bei Freispruch oder Einstellung des Verfahrens gegen den Grundsatz der Unschuldsvermutung (Art. 32 Abs. 1 BV, Art. 6 Ziff. 2 EMRK), wenn dem Angeschuldigten in der Begründung des Kostenentscheids direkt oder indirekt vorgeworfen wird, er habe sich strafbar gemacht bzw. es treffe ihn ein strafrechtliches Verschulden. Dagegen ist es mit Verfassung und Konvention vereinbar, einem nicht verurteilten Angeschuldigten die Kosten zu überbinden, wenn er in zivilrechtlich vorwerfbarer Weise, d.h. im Sinne einer analogen Anwendung der sich aus Art. 41 OR ergebenden Grundsätze, gegen eine geschriebene oder ungeschriebene Verhaltensnorm, die sich aus der Gesamtheit der schweizerischen Rechtsordnung ergeben kann, klar verstossen und dadurch das Strafverfahren veranlasst oder dessen Durchführung erschwert hat (BGE 120 la 147 E. 3b S. 155; 119 la 332 E. 1b S. 334; 116 la 162 E. 2c - e S. 168 ff., je mit Hinweisen).
Zwischen dem zivilrechtlich vorwerfbaren Verhalten und den durch die Untersuchung entstandenen Kosten muss ein Kausalzusammenhang bestehen (BGE 116 Ia 162 E. 2c S. 170 f. und E. 2d/bb S. 174 f. mit Hinweisen). Die Kausalität muss für jede Verfahrensstufe gesondert geprüft werden. Hat der Beschuldigte die Einleitung des Strafverfahrens schuldhaft veranlasst und bestand nach dem Ergebnis der Untersuchung ein hinreichender Anlass zur Anklageerhebung, können diesem sowohl die Untersuchungskosten als auch die Kosten der erstinstanzlichen Gerichtsverhandlung ganz oder teilweise auferlegt werden (vgl. BGE 109 Ia 160 E. 4a S. 163 mit Hinweis; Urteil des Bundesgerichts 6B_175/2008 vom 20. Juni 2008 E. 2.8). Einem in zweiter Instanz rechtskräftig Freigesprochenen, der in erster Instanz zu Unrecht verurteilt worden war und der aufgrund einer schuldhaften Verursachung der Strafuntersuchung die Untersuchungs- und erstinstanzlichen Verfahrenskosten zu tragen hat, dürfen demgegenüber nicht ohne Weiteres auch die Kosten des erfolgreichen Rechtsmittelverfahrens auferlegt werden. Diesfalls ist zu prüfen, ob durch die ungerechtfertigte erstinstanzliche Verurteilung der adäquate Kausalzusammenhang zwischen dem zivilrechtlich vorwerfbaren Verhalten und den Kosten des Rechtsmittelverfahrens unterbrochen wurde. Vorbehalten bleibt ein prozessuales Verschulden im engeren Sinne des Beschuldigten (vgl. Urteil des Bundesgerichts 1P.538/2000 vom 20. Oktober 2000 E. 2b).
2.3 Willkür in der Rechtsanwendung liegt vor, wenn der angefochtene Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Das Bundesgericht hebt einen Entscheid nur auf, wenn nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist. Dass eine andere Lösung ebenfalls als vertretbar oder gar zutreffender erscheint, genügt nicht (BGE 134 II 124 E. 4.1 S. 133; 132 I 175 E. 1.2 S. 177; 131 I 467 E. 3.1 S. 473 f.).
3. 3.1 Die Vorinstanz hat den Beschwerdeführer von der Anklage der sexuellen Handlungen mit einem Kind und des versuchten Inzests freigesprochen, da das vom Kantonsgericht eingeholte Glaubhaftigkeitsgutachten, wie auch das vom Beschwerdeführer im Appellationsverfahren eingereichte Privatgutachten, Zweifel am Wahrheitsgehalt der Aussagen des Opfers aufkommen liessen. Bezüglich der hälftigen Auferlegung der Verfahrenskosten hat die Vorinstanz erwogen, der Beschwerdeführer habe sich fortlaufend und massiv vormundschaftlichen Massnahmen widersetzt, indem er seine Tochter trotz Besuchsverbots und Obhut bei den Grosseltern zu sich genommen habe und sich auch durch Bussenandrohung sowie durch das Aussprechen einer Busse wegen Ungehorsams gegen eine amtliche Verfügung davon nicht habe abhalten lassen. Erst aufgrund dieser illegalen und klar gegen das Kindeswohl verstossenden Obhut beim Beschwerdeführer habe es zu den von diesem zugestandenen Grenzüberschreitungen im Verhalten zwischen Eltern und Kind kommen können. Durch das Zugänglichmachen von Pornovideos und Sexspielzeugen habe er grob gegen seine Erziehungspflicht nach Art. 302 Abs. 1 ZGB verstossen. Mit der Herstellung eines die Tochter mit nacktem Unterleib und gespreizten Beinen darstellenden Fotos und mit der umfassenden Kontrolle über ihr Leben habe er deren Persönlichkeit im Sinne von Art. 28 ZGB verletzt. Durch die Verletzung all dieser geschriebenen Normen der Rechtsordnung habe er ein stark sexualisiertes Umfeld geschaffen, das die Grundlage für den Verdacht bildete, er habe seine Tochter sexuell missbraucht. Der Kausalzusammenhang zwischen seinem Verhalten und den entstandenen Verfahrenskosten sei offenkundig. Es sei deshalb angemessen, dem Beschwerdeführer die Hälfte der Gerichts- und Verfahrenskosten aufzuerlegen.
3.2 Der Beschwerdeführer wirft der Vorinstanz vor, sie hätte nicht zwischen den erst- und zweitinstanzlichen Verfahrenskosten unterschieden. Letztere ständen in keinem Kausalzusammenhang mehr mit dem ihm vorgeworfenen Verhalten. Er habe die Einholung eines Glaubhaftigkeitsgutachtens bereits beim Bezirksstatthalteramt und im Rahmen des erstinstanzlichen Instruktionsverfahrens auch beim Strafgerichtspräsidium und nachgängig bei der Strafgerichtskammer beantragt, welche den entsprechenden Antrag jedoch abgelehnt hätten. Dass es zu einem zweitinstanzlichen Verfahren gekommen sei, habe seine Ursache einzig im Fehlurteil der ersten Instanz. Auch sei es stossend, ihm die Kosten für die Erstellung eines Gutachtens hälftig aufzuerlegen, aufgrund dessen es zu einer Urteilsänderung und zu einem vollumfänglichen Freispruch gekommen sei.
3.3 Unbestritten ist, dass der Beschwerdeführer gegen seine Erziehungspflicht verstiess und die Persönlichkeitsrechte seiner Tochter verletzte. Mit der Schaffung eines sexualisierten, nicht kindgerechten Umfelds gab er den Strafverfolgungsbehörden Anlass, die Aussagen seiner Tochter sowohl in Bezug auf die zugestandenen Grenzüberschreitungen als auch die weitergehenden, strafrechtlich relevanten Vorwürfe ernst zu nehmen und durch ein Strafverfahren abzuklären. Im Zusammenhang mit den Kosten des Rechtsmittelverfahrens ist zu berücksichtigen, dass der Beschwerdeführer durch sein Verhalten eine schwierige Beweislage geschaffen hat, da die Beurteilung der Aussagen zu sexuellen Übergriffen eines zu früh und in einer seiner Entwicklung völlig unangepassten Weise mit pornografischen Darstellungen und Sexspielzeugen konfrontierten Kindes erfahrungsgemäss sehr anspruchsvoll ist. Durch sein rechts- und sittenwidriges Einwirken auf seine Tochter hat der Beschwerdeführer einen Zustand geschaffen, der die Beurteilung ihrer Behauptungen so schwierig erscheinen liess, dass auch die Erstellung des Glaubhaftigkeitsgutachtens als adäquat kausale Ursache seines schuldhaften Verhaltens erscheint. Dem erstinstanzlichen Gericht können vorliegend keine Verfahrensfehler oder Ermessensüberschreitungen vorgeworfen werden. Eine Unterbrechung des Kausalzusammenhangs etwa durch ein grob fehlerhaftes erstinstanzliches Urteil ist nicht auszumachen. Die Vorinstanz hat dem Beschwerdeführer zudem nicht die gesamten Verfahrenskosten (Untersuchungs-, erst- und zweitinstanzliche Gerichtskosten) überbunden, sondern hat sich je auf eine hälftige Auferlegung beschränkt. Damit hat sie dem Umstand Rechnung getragen, dass ein Teil der Kosten durch das nachträglich aufgehobene erstinstanzliche Strafurteil verursacht wurde.
Die angefochtene Kostenauflage ist im Ergebnis nicht stossend und im Rahmen einer Willkürprüfung nicht zu beanstanden.
4. Die Beschwerde ist als unbegründet abzuweisen. Mit dem Entscheid in der Sache wird das Gesuch um aufschiebende Wirkung gegenstandslos.
Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung ist gutzuheissen, da die Beschwerde nicht von vornherein aussichtslos war und die Bedürftigkeit des Beschwerdeführers erstellt scheint (Art. 64 Abs. 1 und 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird gutgeheissen.
3. Es werden keine Kosten erhoben.
4. Rechtsanwalt Roulet wird als unentgeltlicher Rechtsvertreter eingesetzt und für das bundesgerichtliche Verfahren mit Fr. 2'000.- aus der Bundesgerichtskasse entschädigt.
5. Dieses Urteil wird den Parteien und dem Kantonsgericht Basel-Landschaft, Abteilung Zivil- und Strafrecht, schriftlich mitgeteilt.
Lausanne, 18. Mai 2009
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Favre Unseld