Faits:
A. Y._ est propriétaire d'un bien-fonds agricole dans le canton de Vaud. En 2004, il a engagé des pourparlers avec X._ en vue de l'exploitation de son domaine. Le 30 novembre 2004, les parties ont signé un contrat prévoyant la constitution d'une société simple au 1er janvier 2005 pour une durée de 5 ans, reconductible sous la forme d'un bail à ferme pour exploitation agricole; un certain nombre d'apports devaient devenir propriété commune des deux parties. Des modifications ont été apportées par contrat signé le 29 avril 2005, en vertu duquel la société simple, constituée pour une durée illimitée, devait prendre fin le 31 décembre 2009, mais était reconductible tacitement pour un an sauf dénonciation 12 mois avant son terme.
Une mésentente s'est progressivement installée entre les parties.
B. Le 19 janvier 2007, Y._ a ouvert action contre X._ devant le Président du Tribunal d'arrondissement de La Broye et du Nord vaudois en concluant à la dissolution pour justes motifs de la société simple formée avec le défendeur, ainsi qu'à la désignation d'un notaire pour stipuler le partage à l'amiable des biens de la société, à défaut faire des propositions en vue du partage.
X._ a conclu au rejet de la demande. Il a en outre pris des conclusions reconventionnelles tendant premièrement à la dissolution des rapports de société simple, deuxièmement à la nomination d'un expert agricole pour stipuler le partage à l'amiable des éventuels biens de la société, à défaut faire des propositions de liquidation des rapports de société simple, troisièmement à la constatation que les parties ont conclu le 30 novembre 2004 un bail à ferme agricole d'une durée initiale de neuf ans dès le 1er janvier 2005. A l'appui de sa réponse, X._ a plaidé que les parties avaient conclu un contrat de bail à ferme agricole couplé à des rapports de société simple.
A l'initiative du demandeur, le Président du Tribunal d'arrondissement a ordonné l'instruction séparée et le jugement préalable de diverses questions; il devait en particulier être statué sur la portée du contrat du 29 avril 2005 et des accords antérieurs, sur la réalisation d'un juste motif de dissolution de la société et sur l'applicabilité totale ou partielle des règles du bail à ferme agricole aux relations contractuelles des deux parties. Par jugement préjudiciel du 18 juin 2010, le président a constaté que Y._ et X._ avaient été liés par un contrat de société simple (chiffre I du dispositif), que celle-ci avait pris fin le 31 décembre 2009, sa liquidation devant faire l'objet d'un jugement postérieur (chiffre II), et qu'en conséquence, l'instruction de la cause se poursuivait jusqu'au jugement (chiffre V).
X._ a déféré ce jugement à la Chambre des recours du Tribunal cantonal vaudois afin de faire constater que les parties ont conclu un bail à ferme agricole d'une durée initiale de 9 ans dès le 1er janvier 2005, que les rapports de société simple avec Y._ sont dissous et que leur liquidation doit faire l'objet d'un jugement postérieur. Dans son mémoire ampliatif, il a conclu à la réforme du chiffre I du dispositif du jugement, en ce sens que les parties sont déclarées liées par un contrat de bail à ferme agricole, à l'annulation du chiffre II du dispositif et à la confirmation du chiffre V.
Le recours a été rejeté par arrêt du 22 mars 2011.
C. X._ (ci-après: le recourant) interjette un recours en matière civile devant le Tribunal fédéral. Il réitère les conclusions prises dans le mémoire ampliatif déposé devant l'autorité précédente.
Y._ (ci-après: l'intimé) conclut au rejet du recours dans la mesure où il est recevable. L'autorité précédente se réfère à son arrêt.
Dans sa réplique, le recourant confirme ses conclusions. Par courrier du 29 novembre 2011, l'intimé a fait savoir qu'il renonçait à déposer des observations supplémentaires.
Considérant en droit:
1. L'épouse du recourant a déposé des observations datées du 2 novembre 2011 en précisant qu'elle agissait sans l'accord de l'intéressé. Il ne peut être tenu compte d'une telle écriture dès lors que son auteur n'a pas la qualité de partie à la présente procédure.
2. Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (ATF 135 III 1 consid. 1.1).
2.1 La décision attaquée statue à titre préalable sur la qualification des relations contractuelles des parties. Elle ne saurait être finale dès lors qu'elle ne met pas un terme à la procédure (cf. art. 90 LTF), l'instruction au fond devant être poursuivie en vue de statuer sur la liquidation de la société. Elle ne constitue pas davantage une décision partielle au sens de l'art. 91 LTF dans la mesure où le sort de l'objet sur lequel elle statue (l'existence d'une société simple et d'un motif de dissolution) n'est pas indépendant de celui qui reste en cause (la liquidation de cette entité). Il ne peut dès lors s'agir que d'une décision préjudicielle au sens de l'art. 93 LTF en tant qu'elle statue à titre préalable sur une question matérielle et ne représente qu'une étape vers la décision finale (cf. ATF 133 III 629 consid. 2.2 p. 631), ce qui a totalement échappé au recourant; la décision de première instance est pourtant expressément intitulée "jugement préjudiciel" et il en ressort clairement que la cause a été disjointe pour statuer sur des questions préalables de droit matériel. Une telle décision ne peut être l'objet d'un recours en matière civile que si elle est susceptible de causer un préjudice irréparable (art. 93 al. 1 let. a LTF), ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (art. 93 al. 1 let. b LTF).
2.2 Est irréparable le préjudice d'ordre juridique, ce qui suppose qu'il ne puisse pas entièrement être réparé par une décision finale ultérieure hypothétiquement favorable au recourant. Il n'est pas nécessaire que la décision potentiellement favorable intervienne déjà au stade de la procédure cantonale; il suffit qu'une procédure consécutive devant le Tribunal fédéral permette d'écarter le préjudice. Un dommage de pur fait tel que la prolongation de la procédure ou un accroissement des frais de celle-ci n'est pas considéré comme irréparable (ATF 137 III 380 consid. 1.2.1; 134 III 188 consid. 2.1). Une décision incidente portant sur une question matérielle ne remplira en pratique quasiment jamais les exigences liées au préjudice irréparable, dès lors qu'il est par définition possible de l'attaquer avec la décision mettant fin au litige (cf. ATF 127 I 92 consid. 1c à propos de l'art. 87 OJ, sur lequel est calqué l'art. 93 al. 1 let. a LTF, cf. ATF 133 III 629 consid. 2.3 p. 632). Il appartient au recourant d'alléguer et d'établir la possibilité que la décision préjudicielle ou incidente lui cause un dommage irréparable, à moins que celui-ci ne fasse d'emblée aucun doute (ATF 133 III 629 consid. 2.3.1; cf. aussi ATF 137 III 324 consid. 1.1 p. 329).
En l'occurrence, le recourant ne s'interroge pas sur la nature de la décision attaquée et n'allègue pas ni a fortiori ne démontre que celle-ci serait susceptible de lui causer un préjudice irréparable. S'agissant d'un jugement préalable sur une question matérielle, le risque d'un tel dommage n'est pas manifeste. Les prévisions de l'art. 93 al. 1 let. a LTF ne sont dès lors pas réalisées.
2.3 L'art. 93 al. 1 let. b LTF contient deux conditions cumulatives. La première exige que le Tribunal fédéral puisse mettre fin immédiatement à la procédure dans l'hypothèse où il admettrait le recours et retiendrait une solution différente de celle retenue par l'autorité précédente (ATF 133 III 629 consid. 2.4.1). Cette exigence n'est pas satisfaite lorsque le Tribunal fédéral ne peut pas statuer lui-même à la place de l'autorité précédente et doit lui renvoyer la cause (cf. ATF 127 III 433 consid. 1c/aa à propos de l'art. 50 OJ, confirmé sous le nouveau droit par l'arrêt 4A_339/2009 du 17 novembre 2009 consid. 1.1.1).
Dans le cas concret, la cour de céans ne pourrait pas mettre un terme à la procédure quand bien même elle retiendrait la qualification d'un bail à ferme agricole. Elle ne saurait se substituer aux autorités cantonales sur des questions que celles-ci n'ont pas eu l'occasion de traiter vu la qualification retenue, notamment celle de la validité des courriers de résiliation adressés au recourant en juillet 2008. Du reste, le recourant conclut à la confirmation du chiffre V du dispositif du jugement de première instance, lequel ordonne la poursuite de l'instruction de la cause jusqu'au jugement. Il précise encore dans sa motivation que la qualification de bail à ferme agricole doit être retenue et que pour le surplus, la cause doit être renvoyée à l'autorité de première instance. Le recourant lui-même admet donc que la cour de céans ne pourrait pas rendre immédiatement une décision finale. Il s'ensuit que les prévisions de l'art. 93 al. 1 let. b LTF ne sont pas non plus réalisées.
2.4 Le recours se révèle ainsi irrecevable.
3. Le recourant, qui succombe, supportera les frais de justice (art. 66 al. 1 LTF). L'arrêt attaqué indique certes la possibilité de recourir au Tribunal fédéral, mais le recourant était assisté d'un avocat, de sorte qu'il ne se justifie pas de renoncer à la perception d'un émolument. Celui-ci sera toutefois réduit dès lors que la décision se restreint à la recevabilité du recours. De pleins dépens seront alloués à l'intimé (art. 68 al. 1 et 2 LTF), qui ne pouvait pas prendre le risque de renoncer à se déterminer sur le fond.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est irrecevable.
2. Un émolument judiciaire de 1'500 fr. est mis à la charge du recourant.
3. Le recourant versera à l'intimé une indemnité de 6'000 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux mandataires des parties et à la Chambre des recours du Tribunal cantonal du canton de Vaud.
Lausanne, le 11 janvier 2012
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
La Greffière: Monti