Faits: A. Depuis 1997, Y._ et X._, tous deux domiciliés en Italie, exerçaient ensemble une activité économique se rapportant au commerce de matériel informatique et à la fourniture de services technologiques. Pour exercer cette activité, ils disposaient en dernier lieu de cinq sociétés appartenant, à des degrés divers, aux membres des familles Y._ et X._. Pour exposer la situation de manière simplifiée, la société italienne A._ faisait le commerce de matériel informatique, la société italienne B._ fabriquait notamment des emballages de CD et de disquettes, la société italienne C._ assurait le négoce de software, la société italienne D._ était titulaire des locaux nécessaires aux activités du groupe et la société panaméenne E._ (dont l'unique actionnaire est Y._) s'occupait principalement d'opérations de financement. La banque F._ a accordé un prêt à la société panaméenne E._. Par contrat soumis au droit suisse du 6 septembre 1999 (qui remplaçait un contrat antérieur), la banque a octroyé à la société panaméenne un crédit en compte courant de 2'000'000 USD. Ce contrat a été renouvelé en langue anglaise le 19 février 2001, puis le 3 juin 2002. Par acte de nantissement du 17 février 1997, Y._ avait remis en gage à la banque tous ses avoirs auprès d'elle afin de garantir les créances de la banque envers la société panaméenne. Le 21 février 2002, X._ a également signé un acte de nantissement analogue, remettant en gage l'ensemble de ses avoirs auprès de la banque pour garantir les créances de celle-ci envers la société panaméenne. Y._ avait signé le contrat du 6 septembre 1999 d'une part en tant que représentant de la société panaméenne et, d'autre part, en son nom personnel pour se porter, non pas coemprunteur, mais tiers garant du prêt. Dans le contrat du 3 juin 2002, X._ a également apposé sa signature en se portant "pledgor", ce qui correspond, dans la version française antérieure, au terme de tiers garant. Bien que Y._ fut le seul actionnaire de la société panaméenne (les administrateurs étaient panaméens), X._ disposait également de la signature individuelle sur les comptes de la société auprès de la banque et il a effectivement ordonné seul différents prélèvements ou virements. Durant l'année 2002, la situation financière du groupe s'est détériorée, de même que la situation financière personnelle de X._. Dans ces circonstances, une séance a été tenue dans les locaux de la banque le 9 août 2002, au cours de laquelle Y._ et X._ ont réitéré leur engagement personnel de payer la dette de la société panaméenne. Savoir s'ils ont convenu en cette occasion de se répartir entre eux la perte à raison de 50 % chacun est une question litigieuse. Par la suite, chacun d'eux a payé une certaine somme à la banque. Ne parvenant pas à recouvrer le solde, celle-ci a choisi de s'adresser à Y._ qui était plus solvable et qui a fini par payer le reste de la somme due par la société panaméenne. Estimant qu'il ne devait supporter, sur le plan interne, que le 50 % de cette perte, Y._ s'est adressé en vain à X._ pour lui réclamer le solde de la part incombant à ce dernier. B. Ayant obtenu un séquestre le 8 septembre 2004, Y._ a introduit une poursuite en validation du séquestre, puis, X._ ayant formé opposition, une action en reconnaissance de dette. Par jugement du 4 novembre 2008, la Cour civile II du Tribunal cantonal valaisan a condamné X._ à payer à Y._ 610'360 euros avec intérêts à 5 % dès le 11 novembre 2004, avec suite de frais et dépens, la mainlevée étant prononcée et le séquestre validé à due concurrence. En substance, la cour cantonale a considéré que les parties avaient conclu entre elles, pour diriger leur groupe de sociétés ou à tout le moins la société panaméenne, une société simple tacite soumise au droit italien et que X._ devait, en vertu de ce droit, supporter la moitié de la perte. A titre de motivation alternative, la cour cantonale a retenu que dans les contrats conclus avec la Banque F._, prévoyant l'application du droit suisse, les deux parties s'étaient engagées personnellement et solidairement à payer les dettes de la société panaméenne et que Y._ disposait d'un recours sur la base de l'art. 148 al. 1 et 2 CO en vue d'obtenir une répartition interne par moitié, un accord sur une autre clé de répartition n'ayant pas été prouvé. C. X._ a déposé un recours en matière civile au Tribunal fédéral contre le jugement du 4 novembre 2008. Critiquant l'établissement des faits, contestant l'existence d'une société simple et d'un rapport de solidarité, invoquant encore la prescription, il conclut, sous suite de frais et dépens, à l'annulation du jugement attaqué et au rejet de la demande formée par sa partie adverse. L'intimé conclut, sous suite de frais et dépens, à l'irrecevabilité et subsidiairement au rejet du recours. La requête d'effet suspensif présentée par le recourant a été rejetée par ordonnance du 16 janvier 2009.