Sachverhalt:
A. Die Prozessparteien gehören alle drei der malaysischen X._-Gruppe an. Sie sind durch diese Konzernzugehörigkeit verbunden, ohne dass allerdings ein Beherrschungsverhältnis zwischen ihnen vorliegt. Die Z._ GmbH und die X._ European Logistic and Services GmbH (Beschwerdeführerinnen, Klägerinnen), beide ansässig in Deutschland, sind Töchter der A._ GmbH, mithin Schwester-Gesellschaften. Die X._ Production AG (Beschwerdegegnerin, Beklagte) war zunächst die X._ International AG, welche während des erstinstanzlichen Verfahrens von der Muttergesellschaft, der X._ Production AG - der nunmehrigen Beschwerdegegnerin - übernommen wurde und dadurch unterging. Die A._ GmbH und die Beschwerdegegnerin werden (über die X._ Europe Ltd.) von der X._ Holding AG beherrscht. Konzernobergesellschaft ist die malaysische Gesellschaft X._ International Corporation.
Die Beschwerdeführerin 1 war im prozessrelevanten Zeitraum (11. April 1998 bis 16. Januar 2003) als Handelsvertreterin der X._ (International) AG, d.h. der Rechtsvorgängerin der Beschwerdegegnerin, tätig. Sie vermittelte Kaufverträge über Tintenpatronen zwischen der Beschwerdegegnerin und deutschen Kunden, wobei der Vertrag direkt zwischen der Beschwerdegegnerin und dem Kunden zustande kam. Die Beschwerdeführerin 2 erbrachte für die Beschwerdegegnerin Logistikdienstleistungen. Die Beschwerdegegnerin liess die zu lagernden Produkte zunächst an die Beschwerdeführerin 2 liefern, welche diese zwischenlagerte, den Bestellungen entsprechend zusammenstellte, verpackte und durch konzernunabhängige Frachtführer ausliefern liess. Zur Abwicklung der Verträge und insbesondere zum Zugang zu den damit zusammenhängenden Informationen kann im Einzelnen auf die Erwägungen 1.2.3 und 1.2.4 des obergerichtlichen Urteils verwiesen werden.
Hintergrund der vorliegenden Auseinandersetzung ist ein Patentrechtsverletzungsverfahren, welches B._, Tokyo, Japan (fortan "B._") gegen die beiden Beschwerdeführerinnen in Deutschland angestrengt hat. Mit Urteil des Landgerichts Düsseldorf vom 16. Januar 2003 wurde eine Patentrechtsverletzung festgestellt und wurden die Beschwerdeführerinnen verpflichtet, gegenüber B._ über die von ihnen angebotenen bzw. in Verkehr gebrachten Tintenpatronen Rechnung zu legen, um diese in die Lage zu versetzen, den ihr zustehenden Entschädigungs- und Schadenersatzanspruch zu beziffern. Dieser Entscheid wurde mit Urteil des Oberlandsgerichts Düsseldorf vom 9. September 2004 lediglich bezüglich des Zeitraumes der Rechnungslegung abgeändert.
Die B._ hat, was dieses Verfahren betrifft, bislang darauf verzichtet, ihren Rechnungslegungsanspruch gerichtlich zu vollstrecken und den Beschwerdeführerinnen ein Zwangsgeld auferlegen zu lassen. Dies vor dem Hintergrund, dass das Vollstreckungsgericht den Beschwerdeführerinnen in einem gleich gelagerten Verfahren die Möglichkeit eingeräumt hatte, die Betreibung des Zwangsgeldes abzuwenden, indem sie die Beschwerdegegnerin auf Erteilung der Auskünfte in Anspruch nehmen, die ihnen eine Erfüllung ihrer Rechnungslegungspflicht gegenüber der B._ erst ermöglicht, nachdem sie geltend gemacht hatten, selber nicht im Besitz der notwendigen Informationen zu sein. Mit Schreiben vom 25. Februar 2008 forderte die B._ (Rechtsanwalt Dr. C._) die Beschwerdeführerinnen auf, den ihnen zustehenden Informationsanspruch gegenüber der Beschwerdegegnerin geltend zu machen.
B. In der Folge erhoben die Beschwerdeführerinnen mit Eingabe vom 23. Juni 2008 beim Bezirksgericht Uster Klage auf Erteilung von verschiedenen Auskünften, eventualiter Edition von Akten, subenventualiter Einsicht in die Akten hinsichtlich der von ihnen im Zeitraum vom 11. April 1998 bis 16. Januar 2003 vermittelten bzw. ausgelieferten Tintenpatronentypen mit im Rechtsbegehren im Einzelnen aufgeführten Artikelnummern.
Mit Urteil und Beschluss vom 11. Februar 2011 trat das Bezirksgericht auf einen Teil der Klage infolge vorbestehender Rechtshängigkeit derselben Sache nicht ein und wies die Klage im Übrigen wegen Verjährung ab. Hinsichtlich der Verjährung kam es zum Schluss, die Verjährungsfrist für die eingeklagten Rechnungslegungsansprüche habe spätestens am 31. Dezember 2003 um 24 Uhr zu laufen begonnen und am 31. Dezember 2006 um 24 Uhr geendet, weshalb sie im Zeitpunkt der Einreichung der Klage verjährt gewesen seien. Eine gegen das klageabweisende Urteil erhobene Berufung der Beschwerdeführerinnen wies das Obergericht des Kantons Zürich mit Urteil vom 3. Oktober 2011 unter Bestätigung des erstinstanzlichen Entscheids ab.
C. Die Beschwerdeführerinnen beantragen mit Beschwerde in Zivilsachen vom 11. November 2011, dieses Urteil aufzuheben und die Klage gutzuheissen, soweit das Bezirksgericht darauf eingetreten sei.
Auf die Einholung von Stellungnahmen zur Beschwerde wurde im vorliegenden Verfahren verzichtet.

Erwägungen:
1. Das angefochtene Urteil des Obergerichts ist ein verfahrensabschliessender Endentscheid (<ref-law>) einer letzten kantonalen Instanz im Sinne von Art. 75 Abs. 1 und 2 BGG. Sodann übersteigt der Streitwert die Grenze nach <ref-law>. Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist auf die Beschwerde einzutreten.
2. Da die Beschwerdeführerinnen ihren Sitz in Deutschland haben, liegt ein internationaler Sachverhalt vor. Die hier strittige Verjährungsfrage beurteilt sich nach den zutreffenden und unbestrittenen vorinstanzlichen Ausführungen nach deutschem Recht als dem Recht, das auf die streitgegenständlichen Auskunftsansprüche anwendbar ist (Art. 117 Abs. 2 und 3 sowie <ref-law>; vgl. dazu <ref-ruling> E. 3.2; <ref-ruling> E. 2b).
2.1 In nicht vermögensrechtlichen Streitigkeiten kann mit Beschwerde in Zivilsachen gerügt werden, das nach dem schweizerischen internationalen Privatrecht massgebende ausländische Recht sei nicht richtig angewendet worden (<ref-law>). In vermögensrechtlichen Zivilrechtsstreitigkeiten, wie vorliegend eine gegeben ist, kann die Rüge unrichtiger Anwendung ausländischen Rechts nicht erhoben werden. In diesen Streitigkeiten verbleibt nur die Rüge, der angefochtene Entscheid wende ausländisches Recht willkürlich an (<ref-ruling> E. 3.1; vgl. auch <ref-ruling> E. 4.1.3 S. 616).
2.2 Nach ständiger Praxis des Bundesgerichts liegt Willkür in der Rechtsanwendung vor, wenn der angefochtene Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Das Bundesgericht hebt einen Entscheid jedoch nur auf, wenn nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist. Dass eine andere Lösung ebenfalls als vertretbar oder gar zutreffender erscheint, genügt nicht (<ref-ruling> E. 2.4 mit Hinweisen).
3. Die Beschwerdeführerinnen stellen nicht in Frage, dass vorliegend eine dreijährige Verjährungsfrist nach § 195 BGB anwendbar ist. Bestritten wird von ihnen in verjährungsrechtlicher Hinsicht einzig, dass die Verjährungsfrist am 31. Dezember 2003 zu laufen begonnen habe. Sie rügen, die Vorinstanz sei unter willkürlicher Anwendung von § 199 Abs. 1 Nr. 2 BGB zu diesem Schluss gekommen.
Nach § 199 Abs. 1 BGB beginnt die regelmässige Verjährungsfrist mit dem Schluss des Jahres, in dem (1.) der Anspruch entstanden ist und (2.) der Gläubiger von den den Anspruch begründenden Umständen und der Person des Schuldners Kenntnis erlangt oder ohne grobe Fahrlässigkeit erlangen müsste. Gerügt und zu prüfen ist vorliegend einzig, ob die Vorinstanz willkürlich entschied, die Beschwerdeführerinnen als Gläubigerinnen hätten im Jahre 2003 von den den Anspruch begründenden Umständen Kenntnis erlangt oder ohne grobe Fahrlässigkeit erlangen müssen (<ref-law>).
3.1 Die Vorinstanz führte zunächst unter Verweis auf eine im Berufungsverfahren unwidersprochen gebliebene Erwägung des Bezirksgerichts aus, dass es für die nach § 199 Abs. 1 Nr. 2 erforderliche Kenntnisnahme der anspruchsbegründenden Tatsachen genüge, wenn der Gläubiger auf Grund der ihm bekannten oder erkennbaren Tatsachen eine hinreichend aussichtsreiche, wenn nicht risikolose Klage erheben könne. Sie hielt dafür, im vorliegenden Fall hätten die Beschwerdeführerinnen mit der Kenntnisnahme des Urteils des Landgerichts Düsseldorf vom 16. Januar 2003 eine genügende Kenntnis der die streitgegenständlichen Auskunftsansprüche begründenden Umstände gehabt. Demgegenüber verwarf sie den Standpunkt der Beschwerdeführerinnen, dass diese erst mit dem Schreiben der B._ vom 25. Februar 2008 in eine Zwangslage geraten seien, und dass diese Zwangslage eine den Informationsanspruch mitbegründende Tatsache gemäss § 199 Abs. 1 Nr. 2 BGG sei, deren Kenntnis den Beginn der Verjährungsfrist bestimme. Sie erwog dazu, dass die Informationsansprüche der Beschwerdeführerinnen, wenn auch aus Treu und Glauben hergeleitet, vertraglicher Natur seien. Anspruchsbegründend sei demnach, dass die Beschwerdeführerinnen im Zuge ihrer Vermittlungs- und Vertriebstätigkeit für die Beschwerdegegnerin nur beschränkten Zugang zu den relevanten Geschäftsdaten hatten und daher nicht in der Lage seien, über ihre für die Beschwerdegegnerin im klagerelevanten Zeitraum ausgeführten Dienstleistungen Rechnung zu legen. Das bringe die Beschwerdeführerinnen in eine Notlage und zwar allein deshalb, weil sie im Patentverletzungsverfahren gegenüber B._ zu einer entsprechenden Rechnungslegung verpflichtet worden seien. Ab diesem Zeitpunkt hätten die Beschwerdeführerinnen mithin gewusst, dass und welche Informationen sie von der Beschwerdegegnerin verlangen konnten, so dass ihnen mit hinreichenden Aussichten die Einreichung einer Klage möglich gewesen wäre; die Beschwerdeführerinnen hätten mit Grund nie behauptet, dass zu jenem Zeitpunkt noch gewisse Tatsachen unklar gewesen seien oder dass ihnen irgendwelche, zur Klageerhebung nötige Informationen gefehlt hätten. Die mit dem Schreiben der B._ vom 25. Februar 2008 angedrohte Vollstreckung des Anspruchs habe eine Klage auf Auskunft weder erst möglich noch erst hinreichend aussichtsreich gemacht. Für den Beginn der Verjährung könne keine Rolle spielen, ob und wann sich die anspruchsberechtigte Vertragspartei von einem Dritten bedroht oder in eine Zwangslage versetzt sehe, weshalb das Schreiben vom 25. Februar 2008 keinerlei Bedeutung für die klageweise Geltendmachung der Auskunftsansprüche gehabt habe.
3.2 Die Beschwerdeführerinnen bringen dagegen vor, B._ habe vorgängig ihres Schreibens vom 25. Februar 2008 darauf verzichtet, ihren Rechnungslegungsanspruch auf dem Vollstreckungsweg durchzusetzen, was die Vorinstanz zu Unrecht für unwesentlich erachtet habe. Habe B._ auf die Durchsetzung des Rechnungslegungsanspruchs verzichtet, habe für die Beschwerdeführerinnen kein Anlass und keine Notwendigkeit bestanden, ihren Auskunftsanspruch gerichtlich durchzusetzen bzw. die streitbetroffenen Auskünfte zu verlangen. Dies habe erst mit der Androhung der Vollstreckung im Schreiben vom 25. Februar 2008 geändert. Erst dadurch sei eine Zwangslage eingetreten und erst damit sei der Auskunftsanspruch zwischen den Parteien entstanden und habe die Verjährungsfrist zu laufen beginnen können. Als wesentlichen Umstand hätte die Vorinstanz dabei berücksichtigen müssen, dass zwischen den Parteien ein Konzernverhältnis bestehe. Indem sie diesen nicht beachtet habe, habe sie § 199 Abs. 1 Nr. 2 BGB willkürlich ausgelegt.
Mit diesen Vorbringen setzen sich die Beschwerdeführerinnen nicht rechtsgenügend mit den Erwägungen der Vorinstanz auseinander und zeigen nicht hinreichend auf, inwiefern mit diesen eine willkürliche Rechtsanwendung erfolgt sein soll. So unterbreiten sie dem Bundesgericht in rein appellatorischer Weise ihre eigene Auffassung, die Vorinstanz hätte für den Beginn der Verjährungsfrist verlangen müssen, dass für die Beschwerdeführerinnen ein "Anlass" im Sinne einer "Notwendigkeit" zur Klageerhebung bestanden hätte. Sie legen aber nicht einmal im Ansatz dar, weshalb die Vorinstanz in Willkür verfallen sein soll, indem sie zur Auslösung des Verjährungslaufs nach § 199 Abs. 1 Nr. 2 BGB den Umstand genügen liess, dass die Beschwerdeführerinnen mit der Kenntnisnahme vom Urteil des Landgerichts Düsseldorf vom 16. Januar 2003 eine hinreichend aussichtsreiche Klage hätten erheben können, und nicht verlangte, dass die Beschwerdeführerinnen "Anlass" zur Klage hatten. Abgesehen davon würden die Beschwerdeführerinnen auch nicht durchdringen, wenn für den Beginn der Verjährung verlangt würde, dass für sie Anlass zur Klage bestand, da ohne weiteres davon ausgegangen werden kann, dass dies schon ab dem Jahre 2003 der Fall war. Denn nach den unbestrittenen Feststellungen der Vorinstanz hatten die Beschwerdeführerinnen schon vor dem Schreiben vom 25. Februar 2008 keine Gründe für die Annahme, dass B._ (künftig) auf die Durchsetzung ihrer Ansprüche verzichten werde. Sodann habe die Beschwerdegegnerin den Beschwerdeführerinnen nach deren eigenen Ausführungen die für die Erfüllung der Ansprüche der B._ notwendige Auskunfterteilung stets verweigert, obwohl sie mit den Beschwerdeführerinnen konzernmässig verbunden ist. Von vornherein fehl gehen die Beschwerdeführerinnen sodann, soweit sie die Entstehung ihres Auskunftsanspruchs gegenüber der Beschwerdegegnerin vor dem Schreiben vom 25. Februar 2008 bestreiten und diesbezüglich eine willkürliche Anwendung von § 199 Abs. 1 Nr. 2 BGB rügen. Denn diese Bestimmung befasst sich nicht mit der Entstehung des Anspruchs, sondern mit der Kenntnisnahme der anspruchsbegründenden Tatsachen. Schliesslich legen die Beschwerdeführerinnen auch nicht dar, weshalb der Umstand, dass die Parteien konzernmässig verbunden sind unter dem Gesichtswinkel des Willkürverbots, etwas daran ändern müsste, dass die Kenntnisnahme von den den Anspruch begründenden Tatsachen den Verjährungslauf auslöst. Auf die Rüge der willkürlichen Anwendung von § 199 Abs. 1 Nr. 2 BGB kann somit mangels hinreichender Begründung nicht eingetreten werden.
4. Die Beschwerdeführerinnen machen sodann geltend, die Erhebung der Verjährungseinrede habe im vorliegenden Fall gegen Treu und Glauben verstossen.
4.1 Den Einwand der rechtsmissbräuchlichen Erhebung der Verjährungseinrede bringen die Beschwerdeführerinnen erstmals im bundesgerichtlichen Verfahren vor. Dies ist zulässig, da es sich dabei um einen rechtlichen Einwand handelt. Allerdings ist das Bundesgericht bei der Beurteilung desselben an den Sachverhalt gebunden, wie er von der Vorinstanz festgestellt wurde (<ref-law>; <ref-ruling> E. 4.5 S. 277, 362 E. 4.1).
Beim Rechtsmissbrauchsverbot nach <ref-law> handelt es sich um eine Norm, die zum positiven ordre public gehört und die nach <ref-law> unabhängig von dem durch eine allgemeinere Kollisionsregel bezeichneten Recht zwingend anzuwenden ist, soweit eine hinreichende Binnenbeziehung zur Schweiz besteht (<ref-ruling> E. 1). Die Voraussetzung einer genügenden Binnenbeziehung ist vorliegend mit dem Sitz der Beschwerdegegnerin in der Schweiz ohne weiteres erfüllt. Die Frage, ob die Verjährungseinrede von der Beschwerdegegnerin rechtsmissbräuchlich bzw. wider Treu und Glauben erhoben wurde, ist somit nach schweizerischem Recht zu beurteilen, unabhängig davon, dass in der Sache deutsches Recht anwendbar ist.
<ref-law> gewährt offenbarem Rechtsmissbrauch keinen Rechtsschutz. Ob eine Berechtigung missbräuchlich ausgeübt wird, hängt stets von den Umständen des Einzelfalles ab (<ref-ruling> E. 3.3.1 S. 169; <ref-ruling> E. 5.1 S. 497; <ref-ruling> E. 3d S. 63). Dabei sind die von der Lehre und Rechtsprechung gebildeten Fallgruppen zu beachten (BGE <ref-ruling> E. 5.1 S. 497; <ref-ruling> E. 2a S. 259). Die Einrede der Verjährung stellt nach der Rechtsprechung einen Rechtsmissbrauch im Sinne von <ref-law> dar und ist nicht zu schützen, wenn sie gegen erwecktes Vertrauen verstösst, der Schuldner insbesondere ein Verhalten gezeigt hat, das den Gläubiger bewogen hat, während der Verjährungsfrist rechtliche Schritte zu unterlassen, und das seine Säumnis auch bei objektiver Betrachtungsweise als verständlich erscheinen lässt. Ein arglistiges Verhalten ist dabei nicht erforderlich (<ref-ruling> E. 2 S. 437 mit Hinweisen).
4.2 Die Beschwerdeführerinnen leiten die angebliche Treuwidrigkeit der erhobenen Verjährungseinrede daraus ab, dass die Beschwerdegegnerin ein Interesse daran gehabt habe, dass die Beschwerdeführerinnen nicht eine unnütze und allenfalls mangels Rechtsschutzinteresse erfolglose Klage gegen sie erheben würden, solange sie von B._ nicht dazu gezwungen würden; erst bei entsprechendem Zwang hätten zwischen den Parteien als Konzerngesellschaften überhaupt Auskunftspflichten bestanden und erst das Schreiben der B._ vom 25. Februar 2008 habe die Klage auf Auskunft überhaupt notwendig gemacht.
Mit diesen Ausführungen zeigen die Beschwerdeführerinnen kein vertrauenserweckendes Verhalten der Beschwerdegegnerin auf, das deren Verjährungseinrede als rechtsmissbräuchlich erscheinen lassen könnte. Zunächst kann der subjektiven Einschätzung der Beschwerdeführerinnen, dass die Erhebung einer Klage gegen B._ erst nach dem Schreiben vom 25. Februar 2008 "notwendig" geworden bzw. vorher "unnütz" gewesen wäre, nicht gefolgt werden, wozu auf die Ausführungen in der vorstehenden Erwägung 3.2 verwiesen werden kann. Angesichts der von der Vorinstanz festgestellten steten Weigerung der Beschwerdegegnerin, den Beschwerdeführerinnen die Auskünfte zu erteilen, die zur Erfüllung der Rechenschaftsansprüche der B._ notwendig sind, kann der Beschwerdegegnerin offensichtlich nicht vorgeworfen werden, die Verjährungseinrede nach der klageweisen Einforderung der Auskünfte missbräuchlich erhoben zu haben; es ist weder festgestellt noch behauptet, dass die stete Auskunftsverweigerung etwa nur vorbehältlich der Androhung von Vollstreckungshandlungen durch die B._ erfolgt wäre und dass die Beschwerdegegnerin insoweit berechtigte Erwartungen der Beschwerdeführerinnen erweckt hätte, sie werde nach der Androhung von Zwangsmassnahmen freiwillig Auskunft erteilen (vgl. dazu BGE <ref-ruling> E. 5.1 S. 497; <ref-ruling> E. 2a S. 259). Unter den gegebenen Umständen lässt sich auch nicht sagen, die Beschwerdeführerinnen hätten aufgrund des Umstands, dass die Parteien konzernmässig verbunden sind, berechtigterweise darauf vertrauen dürfen, die Beschwerdegegnerin werde keine Verjährungseinrede erheben; ohnehin handelt es sich bei der konzernmässigen Verbindung nicht um ein "Verhalten" der Beschwerdegegnerin, weshalb dieser Umstand von vornherein nicht geeignet war, berechtigte Erwartungen zu wecken. Der Einwand des Rechtsmissbrauchs ist unbegründet.
5. Die Beschwerde ist damit abzuweisen, soweit darauf einzutreten ist. Diesem Verfahrensausgang entsprechend werden die Beschwerdeführerinnen kostenpflichtig, unter solidarischer Haftbarkeit (Art. 66 Abs. 1 und 5 BGG). Nachdem keine Beschwerdeantwort eingeholt wurde, ist der Beschwerdegegnerin keine Parteientschädigung zuzusprechen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 4'000.-- werden den Beschwerdeführerinnen auferlegt, unter solidarischer Haftbarkeit.
3. Es wird keine Parteientschädigung zugesprochen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 9. Dezember 2011
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Widmer