Faits:
A. M._ travaillait en qualité de secrétaire pour la société X._. Le 11 juin 2002, la prénommée a été victime d'un accident de la circulation. Le véhicule dont elle était passagère avant est entré en collision frontale avec un char de l'armée qui lui a coupé la route. Après avoir perdu connaissance, elle a été hospitalisée pendant 48 heures à l'Hôpital Y._ où des contusions multiples ont été diagnostiquées. En raison de douleurs thoraciques latérales persistantes, des radiographies du gril costal ont été effectuées, mettant en évidence des fractures en série des côtes. Les suites de l'accident ont été caractérisées par des céphalées, une sensation vertigineuse, des cervicalgies importantes ainsi que des douleurs au thorax, lesquelles ont motivé un arrêt complet de travail d'environ trois mois. Le cas a été pris en charge par la Caisse nationale suisse d'assurance en cas d'accidents (ci-après: CNA). M._ a ensuite alterné les périodes de travail et d'incapacité (totale ou partielle) jusqu'au 15 août 2005, date à laquelle elle a accouché de son premier enfant. Depuis lors, elle n'a plus repris d'activité professionnelle. Le 21 juin 2006, elle a été licenciée avec effet au 30 septembre 2006.
Entre-temps, soit le 18 mars 2005, M._ a déposé une demande de prestations de l'assurance-invalidité tendant à l'octroi de mesures médicales de réadaptation spéciales et d'une rente.
La CNA a chargé l'Hôpital Z._ d'une expertise pluri-disciplinaire. Dans leur rapport du 13 décembre 2006, les médecins de Z._ ont posé comme diagnostics avec influence essentielle sur la capacité de travail un traumatisme cranio-cérébral avec lésions axonales diffuses, sans séquelle neuropsychologique (MTBI), des cervicalgies après traumatisme d'accélération cranio-cervicale de degré II, des céphalées chroniques post-traumatiques et une fracture de la face antérieure du segment III du sternum. Sur le plan de la capacité de travail, les experts ont retenu qu'un taux d'occupation était envisageable à 100 %, avec une diminution de rendement de 20 % en raison des cervicalgies et des céphalées. En raison de ces affections, il existait une limitation fonctionnelle pour les mouvements répétitifs de flexion-extension de la colonne cervicale, le maintien de positions prolongées en extension de la nuque, les mouvements de rotation répétitifs, les activités physiques lourdes, le port de charges ou les rendements imposés.
Dans un rapport du 19 avril 2007, le docteur R._, médecin-chef à l'hôpital W._, a relevé qu'une infiltration sternale effectuée en août 2006 n'avait apporté aucune amélioration à la symptomatologie douloureuse. Celle-ci ne limitait cependant pas l'assurée dans ses activités quotidiennes. En raison de l'incohérence entre les plaintes et les diagnostics radiologiques, il ne préconisait pas de nouveau traitement. Le 31 mai 2007, le docteur K._, spécialiste FMH en neurologie, a fait état d'un syndrome cervical supérieur de degré léger à moyen avec irritation du nerf occipital majeur droit. A la demande du docteur K._, l'assurée a fait l'objet d'un nouvel examen neuro-psychologique le 25 avril 2008 au Centre V._. Le docteur K._ a résumé les résultats de cet examen dans un rapport du 16 mai 2008. Il a mis en évidence une dysfonction cérébrale ayant des répercussions sur la concentration et l'attention ainsi que sur la mémoire courte, lesquelles justifiaient une indemnité pour atteinte à l'intégrité. Dans une lettre du 12 août 2008 adressée au mandataire de l'assurée, le docteur K._ a estimé la capacité résiduelle de travail de l'assurée à 30, voire 40 %.
Z._ a été invitée à se prononcer sur les conclusions des docteurs R._ et K._. Dans son rapport complémentaire du 24 avril 2009, le docteur P._ a confirmé les conclusions de l'expertise du 13 décembre 2006. Il a indiqué que l'assurée se plaignait d'un manque de mots mais qu'une batterie de tests évaluant l'axe lexical n'avait pas permis d'objectiver de déficit. Sur le plan langagier, toutes les épreuves étaient normales. L'assurée ne présentait pas de troubles praxiques ou gnosiques, ce qui parlait contre une atteinte corticale. L'élément le plus significatif était noté sur le plan mnésique, où le test de la mémoire verbale permettait d'obtenir des résultats dans la norme inférieure en condition de rappel différé. Les capacités d'apprentissage étaient toutefois normales. Par ailleurs, l'assurée ne se plaignait pas de de déficit fonctionnel dans sa vie quotidienne qui soit lié à la sphère neuropsychologique. Elle se présentait comme une femme plutôt vive et joviale. Si l'on se basait sur le bilan neuropsychologique effectué en 2008, soit deux ans après celui de Z._, il fallait considérer que l'assurée aurait présenté une nette aggravation, évolution quelque peu atypique dans le contexte post-traumatique, pouvant éventuellement être expliqué par la réapparition d'une composante thymique à même d'expliquer ces symptômes.
Le 6 novembre 2009, le docteur K._ a confirmé une incapacité de travail de 100 %, sans que cela n'affecte l'exercice des tâches ménagères.
Par décision du 30 avril 2010, confirmée sur opposition le 28 octobre 2010, la CNA a octroyé à l'assurée une rente d'invalidité fondée sur une incapacité de gain de 20 % avec effet au 1er mai 2010.
Se fondant sur les renseignements médicaux se trouvant dans le dossier de la CNA, plus particulièrement sur le rapport d'expertise pluridisciplinaire de Z._, l'Office de l'assurance-invalidité du Jura (ci-après: l'OAI) a rejeté la demande de rente, par décision du 11 novembre 2010.
B. M._ a recouru contre la décision de l'OAI du 11 novembre 2010 dont elle a demandé l'annulation, en concluant, sous suite de frais et dépens, à l'octroi des prestations découlant de la LAI.
Par arrêt du 10 octobre 2011, la Cour des assurances du Tribunal cantonal a rejeté le recours interjeté par M._ contre la décision sur opposition de la CNA du 28 octobre 2010.
Par arrêt du même jour, la juridiction cantonale a également rejeté le recours contre la décision de l'OAI du 11 novembre 2010.
C. M._ interjette un recours en matière de droit public contre ce dernier arrêt dont elle demande l'annulation. Elle conclut principalement à ce que l'intimé soit condamné à lui verser une rente d'invalidité et, subsidiairement, au renvoi de la cause pour mise en oeuvre d'une nouvelle expertise, le tout sous suite de frais et dépens.
L'intimé conclut au rejet du recours. L'Office fédéral des assurances sociales ne s'est pas déterminé.
D. Par arrêt de ce jour, le Tribunal fédéral a rejeté le recours de l'assurée contre l'arrêt du 10 octobre 2011 en matière d'assurance-accidents (8C_850/2011).

Considérant en droit:
1. Saisi d'un recours en matière de droit public (art. 82 ss LTF), le Tribunal fédéral exerce un pouvoir d'examen limité. Il applique le droit d'office (art. 106 al. 1 LTF) et statue sur la base de faits retenus par l'autorité précédente (art. 105 al. 1 LTF). Il peut néanmoins rectifier ou compléter d'office l'état de fait du jugement entrepris si des lacunes ou des erreurs manifestes lui apparaissent aussitôt (art. 105 al. 2 LTF). Il examine en principe seulement les griefs motivés (art. 42 al. 2 LTF) et ne peut pas aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Le recourant ne peut critiquer la constatation des faits importants pour le sort de l'affaire que si ceux-ci ont été établis en violation du droit ou de façon manifestement inexacte (art. 97 al. 1 LTF).
2. Le litige porte en l'espèce sur le droit de la recourante à une rente d'invalidité, singulièrement sur l'évaluation de son incapacité de travail. Le jugement entrepris expose correctement les dispositions légales et les principes jurisprudentiels applicables à la solution du cas, de sorte qu'il suffit d'y renvoyer.
3. En substance, la juridiction cantonale a constaté, en se fondant sur le rapport d'expertise de Z._ (du 13 décembre 2006), que l'assurée disposait d'une capacité résiduelle de travail de 80 % dans son ancienne activité de secrétaire, compte tenu d'une diminution de rendement de 20 % sur un plein temps en raison de diverses limitations fonctionnelles. Elle s'est écartée de l'avis du docteur K._, au motif que ce dernier n'expliquait pas en quoi les troubles diagnostiqués influençaient la capacité de travail de la recourante dans une mesure aussi importante que celle qu'il avait retenue. La juridiction cantonale a par ailleurs considéré qu'il n'y avait pas lieu de retenir une aggravation de l'état de santé de la recourante, dès lors qu'aucun médecin n'en faisait état, pas même le docteur K._ lui-même.
4. La recourante conteste la valeur probante de l'expertise de Z._, dès lors que l'analyse de sa capacité de travail y serait lacunaire et contradictoire. D'une part, les experts précisent qu'une appréciation complète de la capacité de travail ne pourrait se faire qu'après une évaluation orthopédique en vue de la fixation de la fracture du manubrium sternal. D'autre part, ils concluent que les douleurs thoraciques n'engendrent a priori aucune incapacité de travail dans une activité légère. Par ailleurs, la recourante reproche à la juridiction cantonale de s'être fondée sur les conclusions de Z._ alors que l'ensemble des rapports médicaux établis postérieurement à cette expertise feraient état d'une aggravation de son état de santé, en particulier le complément d'expertise de Z._ (du 24 avril 2009). Elle fait enfin grief à la juridiction cantonale d'avoir écarté l'avis du docteur K._.
5. 5.1 Il n'appartient pas au Tribunal fédéral, eu égard à son pouvoir d'examen restreint (supra consid. 1), de procéder une nouvelle fois à l'appréciation des preuves administrées, mais à la partie recourante d'établir en quoi celle opérée par l'autorité cantonale serait manifestement inexacte ou incomplète - notion qui correspond à celle d'arbitraire -, ou en quoi les faits auraient été constatés au mépris de règles essentielles de procédure. L'appréciation des preuves est arbitraire lorsqu'elle est manifestement insoutenable, en contradiction avec le dossier ou contraire au sens de la justice et de l'équité ou encore lorsque le juge a interprété les pièces du dossier de manière insoutenable, a méconnu des preuves pertinentes ou s'est fondé exclusivement sur une partie des moyens de preuve (<ref-ruling> consid. 4.1.2 p. 62; <ref-ruling> consid. 4.2 p. 560; <ref-ruling> consid. 4.3 p. 62).
5.2 En l'occurrence, l'argumentation de la recourante ne permet pas d'établir le caractère insoutenable de l'appréciation des preuves à laquelle sont parvenus les premiers juges. En ce qui concerne tout d'abord les reproches à l'égard de l'expertise de Z._, on ne saurait nier toute valeur probante à cette dernière au seul motif que les experts réservent leur appréciation quant à l'influence des douleurs sternales sur la capacité de travail de la recourante. En effet, ceux-ci ont proposé une évaluation orthopédique à ce propos, laquelle a été faite par le docteur R._. Or, celui-ci a exclu toute limitation dans les activités habituelles de la recourante en raison des douleurs sternales (cf. rapport du 19 avril 2007). La recourante échoue par ailleurs à démontrer une aggravation de son état de santé. Si celle-ci est certes évoquée par Z._ dans son rapport complémentaire du 24 avril 2009 (réapparition d'une composante thymique), il ne s'agit que d'une simple hypothèse, laquelle n'est toutefois documentée par aucun médecin, contrairement à ce que prétend la recourante. En affirmant que le rapport du docteur K._ du 11 juillet 2008 est de bonne qualité et bien motivé et que ce praticien est parfaitement au courant de sa situation médicale globale, la recourante ne démontre pas en quoi la juridiction cantonale se serait manifestement trompée en privilégiant le point de vue des experts de Z._ à celle de ce praticien. Dans ces conditions, le Tribunal fédéral n'a aucune raison de s'écarter des considérations du jugement attaqué.
6. Mal fondé, le recours doit être rejeté.
7. Vu l'issue de la procédure, la recourante doit supporter les frais judiciaires y afférents (art. 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de la recourante.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal de la République et canton du Jura, Cour des assurances, et à l'Office fédéral des assurances sociales.
Lucerne, le 17 octobre 2012
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: Ursprung
La Greffière: Fretz Perrin