Sachverhalt:
A. X._ reichte am 26. April 2010 beim Bezirksstatthalteramt Liestal eine Strafanzeige ein wegen Urkundenfälschung, Betrugs, etc. Darin macht er geltend, der Finanzberater Y._ habe ihm für Fr. 100'000.-- das Finanzprodukt V._ der Firma Z._AG (Maastricht/NL) vermittelt. Dabei habe dieser auf einem von ihm an die Z._AG weitergeleiteten Antragsformular mehrfach seine Unterschrift sowie diejenige seiner Ehefrau gefälscht. Ausserdem habe er auf einem in der Schweiz ausgefüllten Formular Deutschland als Ausstellungsort vermerkt und dadurch eine Urkunde mit unwahrem Inhalt hergestellt.
Das Bezirksstatthalteramt (heute: Staatsanwaltschaft) eröffnete gegen Y._ ein Verfahren wegen Urkundenfälschung. Am 28. September 2011 stellte sie es wieder ein, nachdem ein Handschriftengutachten ergeben hatte, dass die fraglichen Unterschriften von X._ mit an Sicherheit grenzender Wahrscheinlichkeit von ihm selber und diejenigen seiner Ehefrau mit hoher Wahrscheinlichkeit bzw. in einem Fall wahrscheinlich von ihr selber stammten.
Das Kantonsgericht Basel-Landschaft wies die Beschwerde von X._ gegen die Verfahrenseinstellung am 6. Dezember 2011 ab.
B. Mit Beschwerde in Strafsachen und subsidiärer Verfassungsbeschwerde beantragt X._, diesen Beschluss des Kantonsgerichts aufzuheben und die Staatsanwaltschaft anzuweisen, das Strafverfahren gegen Y._ fortzuführen.
C. Das Kantonsgericht beantragt in seiner Vernehmlassung, die Beschwerde abzuweisen, soweit darauf einzutreten sei. Die Staatsanwaltschaft beantragt, die Beschwerde abzuweisen.
Erwägungen:
1. Der angefochtene Entscheid bestätigt, dass das vom Beschwerdeführer angestrebte Strafverfahren eingestellt bleibt. Er schliesst damit das Verfahren ab. Es handelt sich um den Endentscheid einer letzten kantonalen Instanz in einer Strafsache, gegen den die Beschwerde in Strafsachen zulässig ist (Art. 78 Abs. 1, Art. 80 Abs. 1, Art. 90 BGG). Der Beschwerdeführer war als Privatkläger am kantonalen Verfahren beteiligt und hat dabei Schadenersatzansprüche erhoben, die er aus dem angeblich strafbaren Verhalten des Beschwerdegegners ableitet. Der angefochtene Entscheid kann sich daher auf die Beurteilung der Zivilansprüche auswirken, womit der Beschwerdeführer zur Beschwerde befugt ist (Art. 81 Abs. 1 lit. a und lit. b Ziff. 5 BGG). Die übrigen Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass, sodass auf die Beschwerde einzutreten ist. Für die subsidiäre Verfassungsbeschwerde besteht damit kein Raum.
2. Ein Strafverfahren ist u.a. dann einzustellen, wenn kein Tatverdacht mehr besteht, der eine Anklage rechtfertigen könnte oder kein Straftatbestand erfüllt ist (Art. 319 Abs. 1 lit. a und b StPO).
2.1 In Bezug auf die behaupteten Unterschriftenfälschungen geht das Kantonsgericht wie bereits die Staatsanwaltschaft gestützt auf das kriminaltechnische Handschriftengutachten der Polizei Basel-Landschaft vom 18. Februar 2011 und der Beantwortung von Ergänzungsfragen vom 13. Juli 2011 davon aus, dass diesbezüglich kein Tatverdacht mehr besteht. Der Beschwerdeführer macht geltend, das Gutachten sei widersprüchlich und nicht schlüssig, weshalb darauf nicht abgestellt werden dürfe.
2.1.1 Gutachten unterliegen der freien richterlichen Beweiswürdigung. In Fachfragen darf das Gericht jedoch nur aus triftigen Gründen von einer Expertise abweichen. Die Beweiswürdigung und die Beantwortung der sich stellenden Rechtsfragen ist Aufgabe des Gerichts. Dieses hat zu prüfen, ob sich aufgrund der übrigen Beweismittel und der Vorbringen der Parteien ernsthafte Einwände gegen die Schlüssigkeit der gutachterlichen Darlegungen aufdrängen. Erscheint dem Gericht die Schlüssigkeit eines Gutachtens in wesentlichen Punkten zweifelhaft, hat es nötigenfalls ergänzende Beweise zur Klärung dieser Zweifel zu erheben. Das Abstellen auf eine nicht schlüssige Expertise bzw. der Verzicht auf die gebotenen zusätzlichen Beweiserhebungen kann gegen das Verbot willkürlicher Beweiswürdigung (Art. 9 BV) verstossen (BGE 136 II 539 E. 3.2; 133 II 384 E. 4.2.3; 130 I 337 E. 5.4.2).
2.1.2 Der Beschwerdeführer bringt vor, gemäss Ziffer 6 des Gutachtens sei davon auszugehen, dass der Gutachter nicht jede der fraglichen Unterschriften je einzeln allen ihm zur Verfügung stehenden Vergleichsschriften gegenübergestellt habe. Er habe nur Unterschriftsgruppen miteinander verglichen, was methodisch unzulässig sei. Der Einwand geht fehl. In Ziffer 6.3 führt der Gutachter aus, die "fraglichen Schriften wurden den Vergleichsschriften gegenübergestellt (..)". In der Folge wird dieser Vergleich vorgenommen und auszugsweise dokumentiert. Es ist nicht ersichtlich, inwiefern dieses Vorgehen methodisch unzulässig sein sollte.
2.1.3 Unbestritten ist, dass die Unterschrift der Frau des Beschwerdeführers eine geringe Eigenprägung ("schulschriftmässige Ausführung") und damit eine eher tiefe Fälschungsresistenz aufweist. Ein Teil der Unterschriften - insbesondere die mit x6 bezeichnete - weisen zudem abschnittsweise eine doppelte, sich überlagernde Schriftführung ("Übermalungen") auf, was ihren Beweiswert einschränkt (Gutachten Ziff. 5.1.2 S. 13). Der Gutachter hat die "materialkritischen Einschränkungen" und die "eher tiefe Fälschungsresistenz" bei seiner Beurteilung berücksichtigt (Gutachten Ziff. 7.3 S. 29 letzter Absatz). Seine Schlussfolgerungen sind dementsprechend in Bezug auf die Beurteilung der Unterschriften der Frau des Beschwerdeführers zurückhaltender - sie stammten mit hoher Wahrscheinlichkeit bzw. im Fall der Unterschrift x6 mit Wahrscheinlichkeit von ihr selber - als in Bezug auf die Unterschriften des Beschwerdeführers, die er als mit an Sicherheit grenzender Wahrscheinlichkeit echt beurteilt. Der Beschwerdeführer behauptet zwar, die Echtheit der Unterschriften seiner Frau könne anhand der dem Gutachter vorliegenden Schriftproben nicht beurteilt werden, der Gutachter hätte zum Schluss kommen müssen, der Sachverhalt sei nicht entscheidbar ("non liquet"-Bewertung). Er liefert für diese Behauptung indessen keine nachvollziehbare Begründung. Der Einwand ist damit nicht geeignet, das Gutachten in Frage zu stellen.
Es ist zudem ohnehin undenkbar und wird vom Beschwerdeführer auch nicht behauptet, dass der Beschwerdegegner oder Komplizen von ihm in den Besitz eines Antragsformulars mit der echten Unterschrift des Beschwerdeführers gekommen sein sollten und darauf die falsche Unterschrift seiner Frau anbrachten. Sind die fraglichen Unterschriften des Beschwerdeführers echt, woran der Gutachter keine Zweifel hat, sind es damit unabhängig vom Gutachten mit grösster Wahrscheinlichkeit auch diejenigen seiner Frau.
2.1.4 Der Beschwerdeführer bringt vor, in der Unterschrift x4 "X._" fehle ein "l". Diese Eigenheit finde sich in keiner Vergleichsunterschrift. Der Gutachter habe sich dazu erstaunlicherweise nicht geäussert, obwohl darin ein Indiz dafür liege, dass die Unterschrift gefälscht sei. Es sei nicht zu erwarten, dass er seinen eigenen Namen falsch geschrieben habe. Die Staatsanwaltschaft und das Kantonsgericht hätten dazu übereinstimmend erklärt, das Argument sei unbehelflich, weil es bei oft mit hoher Geschwindigkeit geschriebenen Namenszügen durchaus vorkommen könne, dass Buchstaben vergessen gingen. Dies könne stimmen, müsse aber nicht, und hätte damit als unbewiesene Annahme nach einer Klärung durch den Gutachter verlangt.
Ob es sich beim fehlenden Buchstaben in der Unterschrift x4 um das das zweite "l" von "NachnameX._" handelt, wie der Beschwerdeführer meint, oder das "e", wovon der Gutachter ausgeht, ist jedenfalls für den Laien nicht ersichtlich. Entscheidend ist hingegen, dass der Gutachter diesen Umstand keineswegs übersah, sondern mitbeurteilte (Gutachten Ziff. 6.3.1 S. 20 dritter Abschnitt) und festhielt, dass sich im Vergleichsmaterial keine entsprechende Auslassung eines Buchstabens findet. Diesen Umstand liess der Gutachter in seine Bewertung einfliessen, indem er dort (E. 7.1 S. 25) ausführt, zwischen den fraglichen Unterschriften x1-x4 des Beschwerdeführers mit dem Vergleichsmaterial bestünden sowohl bei den allgemeinen als auch den besonderen Schriftmerkmalen weitgehende Übereinstimmungen, dass sich aber einzelne, eine oder zwei der fraglichen Unterschriften betreffende Befunde im Vergleichsmaterial nicht belegen liessen. Der Einwand, der Gutachter habe das Fehlen eines Buchstabens in einer Unterschrift und damit einen für die Begutachtung wesentlichen Umstand übersehen, was geklärt werden müsse, geht fehl. Im Übrigen spricht dieser Umstand entgegen der Auffassung des Beschwerdeführers keineswegs eindeutig für das Vorliegen einer Fälschung, würde man doch von einem Fälscher erwarten, sich einer korrekten Schreibweise des Namens zu befleissigen, da dies für den "Erfolg" der Täuschung erheblich ist.
2.1.5 Bei den auf den Geschlechtsnamen beschränkten Unterschriften x3 und x7 sind die Vornamen des Beschwerdeführers bzw. seiner Ehefrau vorangestellt und mit einem Doppelpunkt von der Unterschrift abgegrenzt ("X._" bzw. "W._"). Die Vornamen sollen vom Beschwerdegegner eingefügt worden sein, damit sie für Dritte eindeutig dem Beschwerdeführer bzw. seiner Frau zugeordnet werden können. Im Gutachten wird dazu ausgeführt (Ziff. 4 S. 12 2. Absatz), die vor den Unterschriften vorhandenen Eintragungen "Vorname X._" und "VornameW._" zeigten in der Luminiszenz- / Absorptionsuntersuchung ein abweichendes Verhalten, was allenfalls auf unterschiedlichen Druck bei der Ausführung und damit auf eine unterschiedliche Ablagerungscharakteristik des pasteusen Schreibmittels zurückzuführen sein könnte. In der stereomikroskopischen Untersuchung zeige sich, dass zwischen dem Doppelpunkt hinter "VornameX._" und dem Ansatz zur Unterschrift eine Verbindung zu bestehen scheine, was darauf hinweise, dass die beiden Eintragungen in einem Zug und mit demselben Schreibgerät und Schreibmittel ausgeführt worden seien. Für den Beschwerdeführer stellt die stereomikroskopische Untersuchung, die daraufhin deute, dass die anerkanntermassen von verschiedenen Urhebern stammenden Worte "VornameX._" und "NachnameX._" von derselben Person geschrieben worden seien, die Schlüssigkeit des Gutachtens in Frage.
Davon kann keine Rede sein. Aus der angeführten Passage des Gutachtens ergibt sich lediglich, dass die Luminiszenz-/ Absorptionsuntersuchung eher daraufhin deutet, dass die Wörter "Vorname X._" und "NachnameX._" in der Unterschrift x3 verschiedene Urheber haben, währenddem die stereomikroskopische Untersuchung daraufhin weist, dass der Doppelpunkt und "Nachname X._" denselben Urheber haben könnten. Bereits aus der Verwendung des Konjunktivs ergibt sich, dass beide Ergebnisse für sich allein genommen nicht aussagekräftig sind. Die Argumentation des Beschwerdeführers - die stereomikroskopische Untersuchung beweise, dass bei der Schriftprobe x3 Vorname, Doppelpunkt und Geschlechtsname von der gleichen Person verfasst worden seien, was nicht zutreffe, da Vorname und Doppelpunkt eingestandenermassen vom Beschwerdegegner geschrieben worden seien, was wiederum zeige, dass das Gutachten nicht schlüssig sei - geht damit von falschen Voraussetzungen aus und ist nicht geeignet, die Ergebnisse des Gutachtens in Frage zu stellen.
2.1.6 Damit ergibt sich zusammenfassend, dass die Vorbringen des Beschwerdeführers nicht geeignet sind, das Gutachten zu erschüttern. Es ist daher nicht zu beanstanden, dass das Kantonsgericht bei der Beurteilung der Echtheit der fraglichen Unterschriften auf dessen Ergebnisse abstellte.
2.2 Der Beschwerdeführer wirft dem Beschwerdegegner vor, er habe eine echte Urkunde mit unwahrem Inhalt hergestellt und sich dadurch der Falschbeurkundung im Sinn von Art. 251 Ziff. 1 StGB schuldig gemacht, in dem er auf dem von allen Beteiligten am 6. Juli 2001 unterzeichneten Formular "Erklärungen" der Z._AG Deutschland als Ausstellungsort des gleichentags unterzeichneten Antrags für den Erwerb des Finanzprodukts V._ angegeben habe, obwohl dieser in Tat und Wahrheit in der Schweiz ausgefüllt worden sei.
2.2.1 Gemäss Art. 251 Ziff. 1 StGB macht sich der Urkundenfälschung schuldig, wer in der Absicht, jemanden am Vermögen oder an andern Rechten zu schädigen oder sich oder einem andern einen unrechtmässigen Vorteil zu verschaffen, eine Urkunde fälscht oder verfälscht, die echte Unterschrift oder das echte Handzeichen eines andern zur Herstellung einer unechten Urkunde benützt oder eine rechtlich erhebliche Tatsache unrichtig beurkundet oder beurkunden lässt. Die Tatbestände des Urkundenstrafrechts schützen das Vertrauen, welches im Rechtsverkehr einer Urkunde als einem Beweismittel entgegengebracht wird. Mittel zum Beweis kann nur sein, was generell geeignet ist, Beweis zu erbringen. Als Urkunden gelten deshalb unter anderem nur Schriften, die bestimmt und geeignet sind, eine Tatsache von rechtlicher Bedeutung zu beweisen (Art. 110 Abs. 4 StGB).
Vorliegend steht der Tatbestand der Falschbeurkundung zur Diskussion. Eine Falschbeurkundung erfordert eine qualifizierte schriftliche Lüge. Eine solche liegt nach der bundesgerichtlichen Rechtsprechung nur vor, wenn der Urkunde eine erhöhte Glaubhaftigkeit zukommt und der Adressat ihr daher ein besonderes Vertrauen entgegenbringt. Dies ist etwa der Fall, wenn allgemein gültige objektive Garantien die Wahrheit der Erklärung gegenüber Dritten gewährleisten, wie sie unter anderem in der Prüfungspflicht einer Urkundsperson oder in gesetzlichen Vorschriften wie etwa den Bilanzvorschriften der Art. 958 ff. OR liegen, die gerade den Inhalt bestimmter Schriftstücke näher festlegen (BGE 132 IV 12 E. 8.1 und 129 IV 130 E. 2.1; je mit Hinweisen; Urteil 6B_327/2010 vom 19. August 2010 E. 4.3).
2.2.2 Für das Kantonsgericht und die Staatsanwaltschaft bringt die Z._AG dem von ihr hergestellten und an sie adressierten Formular "Erklärungen", auf welchem der Beschwerdegegner sowie der Beschwerdeführer und seine Frau bestätigten, dass der Antrag an die Z._AG in Deutschland verhandelt und unterzeichnet wurde, kein besonderes Vertrauen entgegen. Sie gehen davon aus, dass dieses Formular, das nur Antragssteller aus Nicht-EU-Staaten unterzeichnen müssen, von der Z._AG als reine Formalität betrachtet wird und ihr bewusst ist, dass die Ortsangaben nicht immer zutreffen.
Es kann offen bleiben, ob der Ort, an welchem der Antrag des Beschwerdeführers verhandelt und unterzeichnet wurde, für das Verhältnis zwischen dem Beschwerdeführer und seiner Frau, dem Beschwerdegegner und der Z._AG, von grosser Bedeutung ist. Dagegen spricht jedenfalls, dass auf dem Antragsformular selber unter dem Titel "Unterschriften" nur Rubriken für Datum und Unterschriften, nicht aber für die Ortsangabe vorgesehen sind. Der Ort, wo der Antrag unterzeichnet wurde, ist denn auf dem Formular auch nicht angegeben. Auf jeden Fall aber ist nicht ersichtlich, inwiefern die Z._AG ihrem firmeneigenen Formular "Erklärungen" ein besonderes, gegenüber anderen schriftlichen Bestätigungen erhöhtes Vertrauen entgegenbringen sollte. Das Kantonsgericht hat damit kein Bundesrecht verletzt, indem es davon ausgeht, dass der Straftatbestand der Falschbeurkundung im Sinn von Art. 251 Ziff. 1 Abs. 1 StGB von vornherein nicht erfüllt ist. Im Übrigen ist der Beschwerdeführer darauf hinzuweisen, dass auch er das fragliche Formular mit dem (mutmasslich) unwahren Inhalt unterzeichnet hat und demnach die Strafverfolgung, wäre es eine Urkunde im Sinn der eben erwähnten Bestimmung des Strafrechts, wohl auch auf ihn hätte ausgedehnt werden müssen.
3. Die Beschwerde ist somit abzuweisen. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, der Staatsanwaltschaft Basel-Landschaft und dem Kantonsgericht Basel-Landschaft, Abteilung Strafrecht, schriftlich mitgeteilt.
Lausanne, 2. Mai 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Störi