Faits: A. Il résulte d'un courrier de son directeur général daté du 9 décembre 1999 que Banque Y._ Ltd (in receivership), devenue par la suite Banque Y._ Ltd (in liquidation), un établissement bancaire dont le siège est dans la République de ..., a ouvert un compte auprès de la Banque A._ SA, devenue ultérieurement la Banque X._ SA, un établissement bancaire dont le siège est à Genève. Selon les explications données par Banque Y._, l'ouverture de ce compte avait pour but d'effectuer des dépôts à vue, en tant que placements interbancaires, repayables à première demande. Banque Y._ a fait transférer les sommes de 1'000'000 USD, 500'000 USD et 1'500'000 USD en date des 20 et 22 décembre 1999 et 25 janvier 2000 sur son compte N° 415 018 ouvert auprès de la Banque A._. Le 11 mai 2001, Banque Y._, sous la signature de son directeur général, a invité la Banque A._ à transférer 1'235'441,12 USD sur un de ses comptes auprès d'un autre établissement bancaire et a réinvestir la somme de 2'000'000 USD. La Banque A._ s'y est refusée en invoquant des instructions contraires. Le 16 mai 2001, Banque Y._, toujours sous la signature de son directeur général, a réitéré ses demandes de virement à la Banque A._. Le 18 mai 2001, la Banque A._ a informé Banque Y._ qu'elle n'exécuterait pas l'ordre parce que les avoirs figurant sur le compte avaient été remis en nantissement pour garantir la créance que la Banque A._ avait à l'encontre de K._, qui était précédemment président et actionnaire majoritaire de Banque Y._ et auquel la Banque A._ avait accordé un prêt personnel de 3'000'000 USD. Banque Y._ conteste avoir remis en gage ces avoirs auprès de la Banque A._ pour garantir une dette personnelle de K._ à l'égard de cette dernière. Le 15 mai 2001, K._ avait quitté ses fonctions de président de Banque Y._ à la demande de la Banque de ..., entité de supervision et de régulation des banques commerciales de .... Le 15 mars 2002, la Cour suprême de la République de ... a placé Banque Y._ sous administration judiciaire et a désigné un administrateur judiciaire de la banque. Au 11 avril 2002, les avoirs détenus par Banque Y._ auprès de la Banque A._ se montaient à 38'623,07 USD en compte-courant et 3'235'441,12 USD en placements. Le 19 avril 2002, Banque Y._ a donné instruction à la Banque A._ de transférer l'ensemble de ses avoirs sur un compte ouvert auprès d'un autre établissement bancaire. Le 23 avril 2002, la Banque A._ a refusé d'exécuter cet ordre, au motif que les avoirs avaient été déposés en garantie d'un prêt accordé à un tiers (K._). B. Par acte déposé au greffe du Tribunal de première instance de Genève le 3 février 2004, Banque Y._ a assigné la Banque A._ en paiement de ses avoirs déposés auprès d'elle. La Banque A._ s'est opposée à la demande, motif pris du nantissement en sa faveur des fonds déposés par Banque Y._ en garantie d'un prêt octroyé à K._, directeur, président et actionnaire majoritaire de cette dernière. Par jugement du 3 février 2011, le Tribunal de première instance a condamné la Banque X._ SA - nouvelle dénomination de la Banque A._ - à verser à Banque Y._ Limited (in liquidation) la somme de 3'235'441,12 USD avec intérêts à 5 % l'an dès le 19 avril 2002, ainsi que la somme de 38'623,07 USD avec intérêts à 5 % l'an dès le 19 avril 2002, avec suite de dépens. La Banque B._ a fait appel de ce jugement, concluant au rejet des prétentions de sa partie adverse. Banque Y._ a conclu à la confirmation du jugement attaqué. Par arrêt du 13 avril 2012, la Chambre civile de la Cour de justice du canton de Genève a confirmé le jugement entrepris, statuant par ailleurs sur les frais et dépens. A titre d'argumentation principale, la cour cantonale a retenu que la Banque B._ n'était parvenue à prouver ni l'existence d'un nantissement en sa faveur, ni l'existence de sa créance à l'encontre de K._. C. La Banque B._ exerce un recours en matière civile au Tribunal fédéral contre l'arrêt cantonal du 13 avril 2012. Invoquant une violation de l'art. 84 CO, une violation arbitraire (art. 9 Cst.) de l'art. 126 de la Loi genevoise de procédure civile, ainsi que l'arbitraire dans l'appréciation des preuves et l'établissement des faits, elle conclut, sous suite de frais et dépens, à l'annulation de l'arrêt attaqué et au déboutement de sa partie adverse, subsidiairement au renvoi de la cause à la cour cantonale. Sa requête d'effet suspensif a été admise, faute d'opposition, par ordonnance présidentielle du 12 juin 2012. La banque intimée a conclu au rejet du recours avec suite de frais et dépens. Les parties ont répliqué et dupliqué.