Faits:
A. Le 30 juin 2003, B._ SA a ouvert action devant la Cour civile du Tribunal cantonal vaudois, concluant au paiement, par X._, A._ AG, C._, D._, E._ et F._, solidairement entre eux, de la somme de 311'600 fr. avec intérêt à 5 % l'an dès le 31 mars 1999 sur la somme de 194'078 fr. et dès le 2 décembre 1999 pour le surplus.
La demande indiquait comme domicile de X._ l'adresse "..., à 1196 Gland". Le pli LSI contenant la demande qui lui a été adressée le 29 août 2003 est revenu avec la mention "L'adresse de l'envoi et de la boîte aux lettres/case postale ne concordent pas". B._ SA ayant fourni une nouvelle adresse, la demande a été envoyée à nouveau pour notification le 7 octobre 2003 à X._, "..., 1260 Nyon", avec délai de réponse au 3 novembre 2003, celui-ci étant invité à remettre cette pièce à son avocat aussi vite que possible. Selon accusé de réception, X._ a reçu cet acte le 18 octobre 2003.
Le 5 novembre 2003, une requête incidente en suspension a été notifiée à cette adresse à X._, qui en a accusé réception.
Le 16 août 2005, le Juge instructeur de la Cour civile a communiqué à X._, à l'adresse susmentionnée, un exemplaire de l'écriture déposée le 28 juin 2005 par le conseil de A._ AG, avec délai au 20 septembre 2005 pour déposer sa réponse. Ce pli a été retourné avec la mention "A déménagé. Délai de réexpédition expiré".
Après une notification par voie édictale le 13 décembre 2005 et la fourniture par B._ SA d'une nouvelle adresse, l'acte susmentionné a été envoyé le 13 janvier 2006 sous pli simple à X._ à l'adresse "..., 1800 Vevey".
Une réplique, communiquée à X._ à cette dernière adresse le 18 août 2006, est revenue avec la mention "a déménagé". Elle a derechef été communiquée à l'adresse "..., 1616 Attalens".
X._ et F._ n'ont pas procédé. Les autres parties ont déposé réponses, réplique, dupliques et déterminations.
Le 10 janvier 2008, le Juge instructeur de la Cour civile a assigné les parties à comparaître personnellement à son audience du 3 juin 2008 à 14h00, pour l'instruction préliminaire de la cause. L'exploit notifié, selon accusé de réception, le 15 janvier 2008 à X._ à l'adresse "..., 1616 Attalens" comporte la mention suivante: "Si vous ne comparaissez pas personnellement, jugement par défaut pourra être rendu contre vous".
X._ et F._ ne se sont pas présentés à l'audience du 3 juin 2008, ni personne en leur nom. Les parties présentes ont passé une transaction et requis que jugement par défaut soit rendu à l'égard des défaillants.
Par jugement rendu sous la forme de dispositif le 13 juin 2008, le Juge instructeur de la Cour civile, statuant par défaut de X._ et F._, les a condamnés, solidairement entre eux, à payer à B._ SA la somme de 311'600 fr. 10 avec intérêt à 5 % l'an dès le 31 mars 1999 sur 194'078 fr. et dès le 2 décembre 1999 sur le solde, sous déduction de 55'000 fr., valeur au 30 juin 2008, et à payer, solidairement entre eux, à A._ AG, C._, D._ et E._, solidairement entre eux, la somme de 55'000 fr. avec intérêt à 5 % l'an dès le 1er juillet 2008.
Ce jugement mentionne que la partie défaillante peut demander à être jugée en contradictoire en déposant une requête de relief en deux exemplaires au greffe de la Cour civile dans les vingt jours dès la notification dudit dispositif et en versant au greffe, dans le même délai, la somme de 9'750 fr. destinée à assurer les dépens frustraires des parties adverses. Est également indiqué un délai de dix jours pour requérir la motivation du jugement, faute de quoi celui-ci deviendra définitif et exécutoire à l'échéance du délai de relief.
Le pli recommandé contenant ce jugement, adressé à X._ à l'adresse "..., 1616 Attalens", est revenu avec la mention "non réclamé". Un avis de tentative de notification avait été déposé dans la boîte aux lettres de X._ le 16 juin 2008.
Par courrier du 10 juillet 2008, le Juge instructeur de la Cour civile a chargé le Tribunal cantonal fribourgeois de faire notifier le dispositif du jugement susmentionné à X._, la notification par la poste ayant échoué.
Selon le procès-verbal des opérations, le Juge instructeur de la Cour civile a répondu par téléphone, le 14 juillet 2008, à un courrier de B._ SA en déclarant que le jugement en cause n'était pas exécutoire, la notification à X._ n'ayant pas encore abouti.
Le 22 juillet 2008, la Police cantonale fribourgeoise a notifié à X._ le dispositif du jugement du 13 juin 2008, ce dont le Juge instructeur de la Cour civile a été informé le 28 juillet 2008.
B. Le 26 juillet 2008, X._ a déposé une requête de relief, puis a effectué le dépôt des frais frustraires, par 9'750 fr., le 29 juillet 2008. Par requêtes incidentes du 18 août 2008, A._ AG, ainsi que B._ SA, C._, D._ et E._, ont conclu au rejet de la requête de relief. X._ a déposé un mémoire incident le 5 novembre 2008.
Par jugement incident du 25 novembre 2008, le Juge instructeur de la Cour civile du Tribunal cantonal vaudois a admis les requêtes incidentes déposées par A._ AG, B._ SA, C._, D._ et E._, et a dit que la requête de relief déposée par X._ est rejetée et que le jugement du Juge instructeur de la Cour civile rendu le 13 juin 2008 par défaut de X._ et F._ est définitif et exécutoire. En droit, il a considéré que la deuxième notification du 22 juillet 2008 n'avait pas fait courir un nouveau délai de relief et que la requête de relief, ainsi que le dépôt des frais frustraires, étaient tardifs.
Saisie par X._ et statuant par arrêt du 26 février 2009, la Chambre des recours du Tribunal cantonal vaudois a rejeté le recours et confirmé le jugement incident du 25 novembre 2008. En substance, elle a considéré que la demande du 30 juin 2003 avait été notifiée à X._ le 18 octobre 2003; l'instance avait ainsi été nouée entre les autres parties et lui et il devait dès lors veiller à ce que les décisions liées au procès puissent lui être communiquées; en outre, la citation à comparaître du 15 janvier 2008, qui avait atteint son destinataire, mentionnait expressément que s'il ne se présentait pas à l'audience du 3 juin 2008, un jugement pas défaut pourrait être rendu contre lui; il devait dès lors d'autant plus s'attendre à une communication du premier juge durant la période suivant cette audience et prendre les mesures idoines pour pouvoir retirer les plis recommandés qui lui étaient adressés; enfin, X._ ne prétendait pas avoir été empêché de retirer le pli litigieux; dès lors, il y avait lieu de considérer que la fiction de la notification à l'échéance du délai de garde postal s'appliquait, cette opération étant censée avoir été effectuée le 23 juin 2008. Par ailleurs, la confiance de X._ n'avait pas pu lui causer de préjudice, puisque la notification opérée par voie d'entraide judiciaire intercantonale n'avait eu lieu qu'après l'échéance des délais de demande de motivation et de relief; il n'avait alors pas pu considérer qu'un premier délai était susceptible de renaître par cette deuxième notification; aussi les actes du premier juge postérieurs au retour du pli contenant le jugement du 13 juin 2008 ne permettaient pas de considérer que la notification par la voie postale n'avait pas eu lieu; peu importait dès lors qu'il ait fait procéder à une notification par la Police fribourgeoise et ait déclaré par téléphone au conseil d'une autre partie, sans que X._ ait connaissance du téléphone, qu'à son sens, le jugement n'était pas exécutoire; il n'y avait pas à déduire de ces actes du premier juge une position dont X._ pourrait se prévaloir en application des règles de la bonne foi. Quant au fait que B._ SA et les autres défendeurs se soient mis d'accord à l'audience préliminaire au sujet d'une cession des droits de la première, il n'était pas pertinent pour juger de la validité d'une notification ainsi que sur les effets d'une seconde notification intervenue après l'échéance des délais de demande de motivation et de relief.
C. X._ (le recourant) a interjeté un recours en matière civile au Tribunal fédéral. Il concluait, avec suite de frais et dépens de toutes les instances, principalement à la réforme de l'arrêt du 26 février 2009 dans le sens que le jugement incident est réformé, que la demande de relief est admise et qu'en conséquence, les requêtes incidentes déposées par ses adverses parties, en contestation du droit au relief, sont rejetées et le jugement rendu par défaut le 3 juin 2008 mis à néant, subsidiairement à l'annulation de l'arrêt du 26 février 2009 et au renvoi de la cause à l'autorité cantonale pour nouvelle instruction et nouveau jugement.
B._ SA a proposé le rejet du recours, sous suite de dépens, de même que C._, D._ et E._, tous trois représentés par le même avocat. Pour sa part, A._ AG a signifié à la Cour de céans qu'elle renonçait à déposer une réponse et se référait à la décision entreprise. Enfin, F._ ne s'est pas déterminé dans le délai qui lui avait été imparti à cet effet.
Considérant en droit:
1. L'arrêt attaqué, qui confirme une décision de première instance rejetant une requête de relief et disant que le jugement rendu par défaut est définitif et exécutoire, est une décision finale (art. 90 LTF); il a été rendu en matière civile (art. 72 al. 1 LTF) par une autorité cantonale de dernière instance (art. 75 al. 1 LTF) dans le cadre d'une affaire dont la valeur litigieuse atteint le seuil de 30'000 fr. (art. 74 al. 1 let. b LTF). Le recours en matière civile présentement soumis à l'examen du Tribunal fédéral a été interjeté par le recourant qui a succombé dans ses conclusions (art. 76 al. 1 LTF); par ailleurs, il a été déposé dans le délai (art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi; par conséquent, il est en principe recevable.
2. Le recours au Tribunal fédéral peut être formé pour violation du droit fédéral (art. 95 let. a LTF), y compris les droits constitutionnels (ATF 134 III 379 consid. 1.2 p. 382). Il ne peut pas être interjeté pour violation du droit cantonal en tant que tel, mais il est possible de faire valoir que la mauvaise application du droit cantonal constitue une violation du droit fédéral, en particulier qu'elle est arbitraire au sens de l'art. 9 Cst. ou contraire à d'autres droits constitutionnels (ATF 134 II 349 consid. 3 p. 351; 133 III 462 consid. 2.3). Le Tribunal fédéral n'examine la violation de droits fondamentaux ainsi que celle de dispositions de droit cantonal et intercantonal que si ce grief a été invoqué et motivé par le recourant (art. 106 al. 2 LTF).
Saisi d'un recours en matière civile, le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF) sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), dont il ne peut s'écarter que s'ils l'ont été de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (ATF 134 V 53 consid. 4.3) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF).
3. Le recourant reproche à la cour cantonale d'avoir fait une application arbitraire du droit cantonal, en particulier l'art. 22 du code de procédure civile (du canton de Vaud) du 14 décembre 1966 (CPC/VD; RSV 270.11), en considérant que la notification par voie d'huissier n'avait pas eu d'effet juridique, alors même que le Juge instructeur de la Cour civile estimait qu'elle était la seule possible. Il plaide en outre que même si l'on accordait une portée à la prétendue notification du 13 juin 2008, les juges cantonaux auraient erré en retenant une fiction de notification à l'échéance du délai de garde postal.
3.1 Une décision est arbitraire, au sens de l'art. 9 Cst., lorsqu'elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté, ou heurte de manière choquante le sentiment de la justice et de l'équité; il ne suffit pas qu'une autre solution paraisse concevable, voire préférable; pour que cette décision soit annulée, encore faut-il qu'elle se révèle arbitraire non seulement dans ses motifs, mais aussi dans son résultat, ce qu'il appartient à la partie recourante de démontrer en vertu de l'art. 106 al. 2 LTF (ATF 134 I 263 consid. 3.1 p. 265 s.).
En matière d'application du droit cantonal, arbitraire et violation de la loi ne doivent pas être confondus; une violation de la loi doit être manifeste et reconnaissable d'emblée pour être considérée comme arbitraire. Le Tribunal fédéral n'a pas à déterminer quelle est l'interprétation correcte que l'autorité cantonale aurait dû donner des dispositions applicables; il doit uniquement examiner si l'interprétation qui a été faite est défendable. Il n'y a pas arbitraire du seul fait qu'une autre solution paraît également concevable, voire même préférable (ATF 132 I 13 consid. 5.1 p. 18).
3.2 Selon la jurisprudence constante du Tribunal fédéral, lorsque le destinataire d'une notification n'est pas atteint et qu'un avis de retrait est déposé dans sa boîte aux lettres ou dans sa case postale, l'envoi est considéré comme notifié au moment où il est retiré. Si le retrait n'a pas lieu dans le délai de garde de sept jours, l'envoi est réputé notifié (fiction de notification) le dernier jour de ce délai (ATF 134 V 49 consid. 4 p. 51 s.; 130 III 396 consid. 1.2.3 p. 399; 127 I 31 consid. 2a/aa), du moins pour autant que les lois cantonales de procédure ne contiennent pas de dispositions contraires concernant tant les notifications faites selon le droit fédéral que celles faites selon le droit cantonal (ATF 109 Ia 15 consid. 4 p. 18; 104 Ia 465 consid. 3 p. 466). Cette jurisprudence n'est cependant applicable que lorsque la notification d'un acte officiel doit être attendue avec une certaine vraisemblance (ATF 134 V 49 consid. 4 p. 52; cf. également art. 138 al. 3 let. a du code de procédure civile [CPC] voté par les Chambres fédérales le 19 décembre 2008 [FF 2009 21 ss, spéc. p. 51]). Cette condition n'est réalisée que lorsqu'il y a un procès en cours qui impose aux parties de se comporter conformément aux règles de la bonne foi, à savoir de faire en sorte, entre autres, que les décisions relatives à la procédure puissent leur être notifiées. Le devoir procédural d'avoir à s'attendre avec une certaine vraisemblance à recevoir la notification d'un acte officiel naît avec l'ouverture d'un procès et vaut pendant toute la durée de la procédure (ATF 130 III 396 consid. 1.2.3 p. 399).
Lorsque l'autorité procède à une deuxième notification, celle-ci est sans effets juridiques (ATF 119 V 89 consid. 4b/aa p. 94; 118 V 190 consid. 3a p. 191; 117 V 131 consid. 4a p. 132), sous réserve des cas où, intervenue avant l'échéance du délai de recours, elle contient une indication sans réserve des voies de droit et pour autant que les conditions relatives à l'application du principe constitutionnel de la confiance soient remplies. En revanche, après l'expiration du délai de recours initial, un deuxième essai de notification ne peut pas faire courir un nouveau délai de recours au regard de la protection de la confiance du justiciable. En effet, la confiance que le justiciable a pu mettre dans la deuxième indication des voies de recours ne peut plus lui causer de préjudice, un tel préjudice résultant en fait déjà de l'échéance du délai de recours initial (cf. ATF 118 V 190 consid. 3a p. 191; 115 Ia 12 consid. 4c p. 20).
3.3 Aux termes de l'art. 22 CPC/VD, la notification consiste dans la remise de l'acte à la personne à laquelle il est adressé ou à sa demeure (al. 1). Elle est faite par la poste, à moins que le juge décide, eu égard aux circonstances, qu'elle aura lieu par l'huissier ou, lorsque la loi le prévoit, par publication officielle (al. 2). La notification du premier acte d'une procédure doit avoir lieu par l'huissier lorsque la poste n'a pas distribué l'envoi (al. 3).
Selon les commentateurs, l'art. 22 al. 2 CPC/VD énumère simplement les trois modes de notification prévus par le code, soit par la poste (art. 23), par l'huissier (art. 24-27) et par publication officielle (art. 28-30); elle indique en outre l'ordre dans lequel il y a lieu d'y recourir (Poudret/Haldy/Tappy, Procédure civile vaudoise, 3e éd. 2002, n° 2 ad art. 22 CPC/VD). Le législateur a limité l'exigence d'une notification par huissier au premier acte de la procédure, considérant sans doute que la notification postale suffirait dans la suite de la procédure car il appartiendrait alors à la partie de retirer les envois dans le délai de garde ou d'être atteignable en tout temps (Poudret/Haldy/Tappy, op. cit., n° 3 ad art. 22 CPC/VD, p. 52). Ainsi, la notification par le ministère d'un huissier n'est obligatoire qu'en cas d'échec de la notification postale du premier acte du procès, et cela pour autant que le destinataire ait une résidence connue dans le canton ou dans un canton partie au concordat du 15 avril 1975 sur l'entraide judiciaire en matière civile (RSV 274.91; ci-après: le concordat). Néanmoins, en vertu de l'art. 22 al. 2 CPC/VD, il est loisible au juge de recourir à ce mode de notification dans d'autres cas, notamment pour gagner du temps en cas d'assignation urgente (cf. Poudret/Haldy/Tappy, op. cit., ad art. 24 CPC/VD).
3.4 En l'espèce, il sied de souligner que la notification en cause ne porte pas sur le premier acte de la procédure. Dans ces circonstances, il apparaît que l'art. 22 CPC/VD, qui ne fait comme précédemment exposé qu'énumérer les différents modes de notification possibles et déterminer l'ordre dans lequel il y a lieu de procéder, ne saurait être considéré comme une disposition cantonale de procédure de nature à déroger aux principes posés par la jurisprudence fédérale en matière de notification. Il en résulte que la règle usuelle et principale est la notification par la poste - laquelle est également possible lorsque le destinataire de l'acte à notifier demeure dans un autre canton (art. 6 al. 1 du concordat) - le juge ayant la faculté, et non l'obligation, de recourir à la notification par l'huissier s'il estime que des circonstances particulières le justifient. En l'occurrence, le Juge instructeur de la Cour civile a procédé en premier lieu à la notification par la poste, ce qui était conforme tant au CPC/VD qu'au concordat. A cet égard, le recourant plaide vainement l'existence de circonstances particulières justifiant que le juge recourt impérativement à la notification par l'huissier; en effet, lorsqu'il relève que l'acte introductif d'instance lui avait été notifié plus de cinq ans auparavant et qu'il subsistait de nombreux doutes quant à la régularité de la notification de ce premier acte de procédure, compte tenu du fait que l'adresse mentionnée sur l'envoi concerné s'était révélée erronée par la suite et qu'il n'avait jamais été atteint par les envois postaux qui lui avaient été adressés à ses adresses successives, il fait fi des constatations de fait selon lesquelles il avait accusé réception dudit acte le 18 octobre 2003, puis de la requête incidente en suspension de cause le 5 novembre 2003 et de l'exploit de comparution le 15 janvier 2008; au demeurant, il lui incombait selon la jurisprudence cantonale de communiquer à l'autorité ses changements d'adresse successifs (cf. Poudret/Haldy/Tappy, op. cit., n° 1 ad art. 22 CPC/VD, p. 50 s., et ad art. 30 CPC/VD, p. 59, et les références citées).
Cela étant, la notification par la poste a valablement abouti le 23 juin 2008, à l'échéance du délai de garde postal durant lequel le recourant n'avait pas été retirer son envoi. Quoi qu'en dise le recourant, rien ne s'opposait à ce que la fiction de notification s'applique; en effet, dans le cadre d'une instance introduite certes depuis un certain temps, situation dans laquelle il devait en tout état compter avec la possibilité que des actes judiciaires lui soient notifiés, il avait accusé réception, le 15 janvier 2008, de la citation à comparaître à l'audience préliminaire du 3 juin 2008, qui mentionnait expressément que s'il ne comparaissait pas, un jugement par défaut pourrait être rendu contre lui; que le recourant soutienne qu'il n'était pas imaginable qu'un accord intervienne à cet audience entre les parties présentes n'est guère convaincant. Dès lors que la notification par la poste a valablement abouti, elle n'avait pas à être renouvelée; elle a déployé des effets qui n'ont quoi que le premier juge ait ultérieurement pu penser, dire ou faire - étant d'ailleurs expressément relevé que l'expression de son avis selon lequel le jugement n'était pas exécutoire n'a pas été porté à la connaissance du recourant, mais d'un tiers - pas pu être réduits à néant par la deuxième communication, intervenue après l'échéance du délai de recours et de relief. Ledit magistrat ne pouvait ainsi en aucun cas faire renaître un délai par le biais d'une deuxième notification, et l'idée de la protection de la bonne foi et de la confiance du recourant n'entrait pas en considération, compte tenu du fait que son préjudice résultait déjà de ce qu'il n'avait pas agi dans le délai initial. Dans cette mesure, la notification par l'huissier ne pouvait qu'être considérée comme une communication à bien plaire.
En définitive, l'on ne voit pas que la cour cantonale ait fait une application arbitraire de l'art. 22 CPC/VD et le moyen du recourant ne peut qu'être écarté. Il s'ensuit la confirmation de l'arrêt attaqué qui rejette la requête de relief pour cause de tardiveté et dit que le jugement rendu par défaut est définitif et exécutoire. Dès lors, le grief du recourant fondé sur une prétendue violation de l'art. 3 CPC/VD - selon lequel le juge est lié par les conclusions des parties; il peut les réduire, mais non les augmenter ni les changer -, qui est en réalité dirigé contre le jugement rendu par défaut, n'a pas à être examiné. Par conséquent, le recours doit être rejeté dans la mesure de sa recevabilité.
4. Compte tenu de l'issue du litige, les frais judiciaires et dépens des intimés d'une part B._ SA, d'autre part C._, D._ et E._, tous trois créanciers solidaires, sont mis à la charge du recourant, qui succombe (art. 66 al. 1 et art. 68 al. 1 et 2 LTF). Il n'y a en revanche pas lieu d'allouer de dépens à A._ AG, qui a renoncé à déposé une réponse, ni à F._, qui ne s'est pas déterminé dans le délai qui lui avait été imparti à cet effet.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 6'500 fr., sont mis à la charge du recourant.
3. Des indemnités de 7'500 fr., à payer d'une part à l'intimée B._ SA, d'autre part aux intimés C._, D._ et E._, tous trois créanciers solidaires, à titre de dépens, sont mises à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et à la Chambre des recours du Tribunal cantonal vaudois.
Lausanne, le 6 août 2009
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Klett Cornaz