Faits:
A. Y._, architecte, et X._, ingénieur civil, ont oeuvré ensemble pour obtenir de A._ la conclusion d'une promesse de vente par laquelle ce dernier, en tant que promettant-vendeur, s'est engagé à leur vendre, en tant que promettants-acheteurs solidaires, une parcelle dans la commune de ... (Genève). Y._ et X._ ont également travaillé ensemble pour obtenir l'autorisation, délivrée le 16 août 2005, d'y ériger une construction. Etant partenaire chacun à 50% dans cette promotion immobilière, ils partaient de l'idée que chacun d'eux obtiendrait l'un le mandat d'architecte et l'autre le mandat d'ingénieur civil.
Pour des raisons qui n'ont pas été élucidées, X._ s'est retiré du projet, alors qu'il n'y avait aucun moyen de l'y contraindre. Il a reçu 12'000 fr. pour les prestations d'ingénieur qu'il avait effectivement fournies. Il semble qu'il ait alors tenté d'obtenir de Y._ une sorte de compensation pour la perte des espérances liée à ce projet immobilier.
Il a tout d'abord sollicité que le mandat d'ingénieur lui soit confié, ce que Y._ a refusé, par lettre du 26 octobre 2005, pour le motif que les honoraires demandés étaient trop élevés.
Parallèlement, X._, par une lettre du 27 octobre 2005, a soutenu qu'un arrangement avait été trouvé entre les parties lors des entretiens des 2 et 26 septembre 2005 et que Y._ allait lui verser 40'000 fr. à titre de dédommagement pour son retrait de l'affaire. Y._ n'a pas répondu à ce courrier.
Un autre entretien a eu lieu entre les parties le 16 janvier 2006 qui a donné lieu à une nouvelle lettre adressée par X._ à Y._ le 17 janvier 2006, dans laquelle il invoque à nouveau un arrangement et présente deux factures d'un montant total de 40'000 fr. correspondant cette fois-ci à un salaire de courtier. Y._ n'a pas davantage répondu à cette lettre.
B. X._ a déposé auprès du Tribunal de première instance du canton de Genève une demande en paiement dirigée contre Y._, lui réclamant différents montants, sur lesquels seuls restent litigieux devant le Tribunal fédéral les 40'000 fr. déjà évoqués.
Par jugement du 23 avril 2009, le Tribunal de première instance a condamné Y._ à payer à X._ le montant de 40'000 fr. avec intérêts à 5% l'an dès le 28 mars 2007 sous déduction de 2'000 fr. versés en juillet 2008, ainsi qu'un montant de 912 fr. avec intérêts à 5% l'an dès le 10 février 2006. Le Tribunal a considéré en substance que le silence de Y._ à réception de la lettre du 16 janvier 2006 devait être compris comme un acquiescement et que la somme était due à X._ en qualité de courtier négociateur.
Saisie d'un appel de Y._, la Chambre civile de la Cour de justice, par arrêt du 12 mars 2010, a annulé le jugement attaqué et rejeté la demande de X._ avec suite de dépens. Elle a retenu qu'au moment des faits, aucune des parties n'avait eu la volonté de conclure un contrat de courtage, qu'elles s'étaient au contraire entendues sur un contrat de société simple, que X._ en était sorti par sa volonté et qu'il n'avait pas prouvé de faits permettant de fonder sa créance, étant retenu que le silence de sa partie adverse, dans les circonstances d'espèce, ne pouvait valoir acquiescement à la prétention de X._.
C. X._ exerce un recours en matière civile au Tribunal fédéral contre l'arrêt du 12 mars 2010. Invoquant une violation du droit d'être entendu (art. 29 al. 2 Cst.), une transgression de l'<ref-law>, ainsi que des <ref-law> et 6 CO, le recourant conclut à l'annulation de l'arrêt attaqué et à ce que sa partie adverse soit condamnée à lui verser, sous suite de dépens, la somme de 20'000 fr. avec intérêts à 5% l'an dès le 30 juin 2005 et la somme de 20'000 fr. avec intérêts à 5% l'an dès le 31 décembre 2006, étant précisé qu'un montant de 2'000 fr. pourra être imputé sur les montants précités; subsidiairement, il a demandé le renvoi de la cause à l'autorité précédente.
Y._ (ci-après: l'intimé) a conclu au rejet du recours avec suite de dépens.

Considérant en droit:
1. 1.1 Interjeté par la partie qui a succombé dans ses conclusions en paiement (<ref-law>) et dirigé contre un arrêt final (<ref-law>) rendu en matière civile (<ref-law>) par une autorité cantonale de dernière instance (<ref-law>) dans une affaire pécuniaire dont la valeur litigieuse atteint le seuil de 30'000 fr. (<ref-law>), le recours est en principe recevable, puisqu'il a été déposé dans le délai (art. 46 al. 1 let. a, 48 al. 1 et 100 al. 1 LTF) et la forme (<ref-law>) prévus par la loi.
1.2 Le recours peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Il peut donc également être formé pour violation d'un droit constitutionnel (<ref-ruling> consid. 1.4 p. 674; <ref-ruling> consid. 1.2 p. 382). Le Tribunal fédéral applique le droit d'office (<ref-law>). Il n'est donc limité ni par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (<ref-ruling> consid. 1.4 p. 400; <ref-ruling> consid. 1.1 p. 104). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (<ref-law>), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent lorsque celles-ci ne sont plus discutées devant lui (<ref-ruling> consid. 1.4 p. 400; <ref-ruling> consid. 2.2 p. 389). Par exception à la règle selon laquelle il applique le droit d'office, il ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (<ref-law>).
1.3 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire (<ref-ruling> consid. 1.5 p. 130, 397 consid. 1.5 p. 401; <ref-ruling> consid. 8.1 p. 153) - ou en violation du droit au sens de l'<ref-law> (<ref-law>).
La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (<ref-ruling> consid. 1.4 et 6.2). Une rectification de l'état de fait ne peut d'ailleurs être demandée que si elle est de nature à influer sur le sort de la cause (<ref-law>). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>).
1.4 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (<ref-law>). Toute conclusion nouvelle est irrecevable (<ref-law>).
En l'espèce, le recourant a renoncé à un poste de 912 fr. qui était encore litigieux devant la cour cantonale, ce qui est admissible, puisqu'il est toujours possible pour la partie demanderesse de renoncer à une partie de ses prétentions (arrêt 4A_565/2009 du 21 janvier 2010 consid. 1.4; FF 2001 p. 4137; sous la LTF: Bernard Corboz, in Commentaire de la LTF, 2009, n° 33 ad <ref-law>; Yves Donzallaz, Loi sur le Tribunal fédéral, 2008, n° 4071 ad <ref-law>; sous l'empire de l'ancienne OJ: Poudret/Sandoz-Monod, Commentaire de la Loi fédérale d'organisation judiciaire, 1990, n° 1.4.3 ad art. 55 OJ).
2. 2.1 Le recourant invoque tout d'abord une violation du droit d'être entendu, garanti par l'art. 29 al. 2 Cst., en ce sens que la cour cantonale n'aurait pas motivé sa décision d'écarter l'argumentation des juges de première instance fondée sur le silence de l'intimé à réception des lettres des 27 octobre 2005 et 16 janvier 2006.
La jurisprudence a notamment déduit du droit d'être entendu l'obligation pour l'autorité de motiver sa décision, afin que son destinataire puisse la comprendre et l'attaquer utilement s'il y a lieu (<ref-ruling> consid. 3.1 p. 277; <ref-ruling> consid. 3.3 p. 445). Le juge n'a cependant pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties; il suffit qu'il mentionne, au moins brièvement, les motifs qui l'ont guidé et sur lesquels il a fondé sa décision, de manière à ce que l'intéressé puisse se rendre compte de la portée de celle-ci et l'attaquer en connaissance de cause (<ref-ruling> consid. 4.1 p. 88; <ref-ruling> consid. 3.3 p. 445).
En l'espèce, la cour cantonale a bien observé que les juges de première instance avaient tiré argument du fait que l'intimé était resté silencieux à réception des lettres qu'il avait reçues (arrêt attaqué p. 7 et 8). Elle a pris position en déclarant que ce raisonnement n'emportait pas sa conviction (arrêt attaqué p. 14). Elle a par ailleurs expliqué, à différents endroits (p. 12 à 16), les raisons qui l'ont amenée à dire que le silence n'était pas concluant (absence de volonté de conclure un contrat de courtage, absence de document écrit signé par le débiteur, changement de position de la part du demandeur). Savoir si les arguments présentés sont conformes au droit est une question de droit de fond, qui ne relève pas du droit d'être entendu (cf. <ref-ruling> consid. 2c p. 103; arrêt 4A_211/2010 du 15 juin 2010 consid. 2.2). La motivation contenue dans l'arrêt cantonal est suffisante pour constater que la cour n'a pas ignoré l'argumentation de la première instance, mais qu'elle l'a écartée pour des raisons qui sont exposées.
Il n'y a donc pas trace d'une violation du droit d'être entendu et le premier grief est infondé.
2.2 Le recourant invoque ensuite une violation de l'<ref-law>.
Selon cette disposition, les décisions qui peuvent faire l'objet d'un recours au Tribunal fédéral doivent indiquer par écrit "les motifs déterminants de fait et de droit" sur lesquels l'autorité s'est fondée. Si la décision attaquée ne satisfait pas à ces exigences, le Tribunal fédéral peut soit la renvoyer à l'autorité cantonale en invitant celle-ci à la parfaire, soit l'annuler (<ref-law>).
Se référant à une partie de la doctrine (Corboz, op. cit., n°s 26 et 27 ad <ref-law>), le recourant rappelle à juste titre que "les motifs déterminants de fait" doivent permettre de comprendre comment les preuves ont été appréciées et quels sont les faits litigieux déterminants que l'autorité cantonale a retenus, écartés ou considérés comme non prouvés. Un simple résumé du contenu du dossier, avec les allégués divergents des parties et la présentation des résultats des divers moyens de preuve administrés, ne satisfait pas à l'exigence légale, parce qu'il ne permet pas de savoir, sur les points décisifs litigieux, ce que l'autorité cantonale a en définitive retenu ou écarté (cf. arrêt 4A_252/2007 du 15 novembre 2007 consid. 3.2).
Dans sa partie "en fait", la cour cantonale ne fait que résumer le contenu de son dossier en citant les prises de position successives des parties et le contenu des pièces, des témoignages et du jugement attaqué. A aucun moment, on ne trouve une appréciation des preuves et on ne peut savoir, sur les points litigieux, ce que la cour cantonale a retenu ou écarté. On trouve par contre l'appréciation des preuves et les faits retenus, paradoxalement, dans la partie en droit, mélangés avec des considérations juridiques. On pourrait songer à renvoyer le dossier à la cour cantonale pour l'amener à mettre de l'ordre dans sa décision (<ref-law>). Le Tribunal fédéral renonce toutefois à ce détour procédural inutile, parce que les faits retenus décisifs ressortent de manière suffisante de l'exposé "en droit", en faisant abstraction de la partie "en fait" qui est inutile.
Ainsi, il a été constaté que les parties avaient oeuvré ensemble pour obtenir la conclusion de la promesse de vente (arrêt attaqué, p. 12), qu'ils y apparaissent solidairement comme promettants-acheteurs (p. 12) et qu'ils ont travaillé ensemble pour obtenir l'autorisation de construire, étant chacun partenaire à 50% dans ce projet immobilier (p. 12). Il a été également constaté que le recourant est sorti du projet par sa propre volonté alors que personne ne pouvait l'y contraindre (p. 13). Il a été observé que le recourant avait proposé ses services d'ingénieur, mais que sa partie adverse a refusé de conclure un mandat avec lui (p. 13 s.). Il a été rémunéré par 12'000 fr. pour les prestations déjà fournies (p. 15). Les lettres des 27 octobre 2005 et 17 janvier 2006, auxquelles l'intimé n'a pas répondu, sont évoquées à la page 13 et l'ensemble de la partie "en droit" discute l'appréciation juridique des circonstances entourant ces deux missives.
Les constatations figurant dans l'arrêt cantonal sont donc suffisantes pour que le Tribunal fédéral puisse contrôler de quelle manière le droit fédéral a été appliqué.
2.3 Le recourant invoque une violation de l'<ref-law>.
Pour tous les litiges fondés sur le droit privé fédéral, cette disposition, en l'absence d'une règle spéciale instituant une présomption, répartit le fardeau de la preuve et détermine, sur cette base, laquelle des parties doit assumer les conséquences de l'échec de la preuve (<ref-ruling> consid. 2.6 p. 24; <ref-ruling> consid. 2a p. 522). L'<ref-law> prévoit que chaque partie doit, si la loi ne prescrit le contraire, prouver les faits qu'elle allègue pour en déduire son droit.
En tant que demandeur, le recourant devait prouver les faits permettant de constater l'existence de la créance qu'il invoque en justice. Dans la mesure où les faits restent douteux - en ce sens qu'il n'est pas prouvé que l'intimé se soit engagé à lui payer une somme déterminée -, la cour cantonale n'a pas violé l'<ref-law> en rejetant la demande pour le motif que le recourant n'avait pas prouvé les faits allégués à l'appui de sa prétention.
En réalité, le recourant soutient que l'absence de réaction de l'intimé à réception de ses lettres des 27 octobre 2005 ou 17 janvier 2006 créerait une présomption extra-légale en faveur de sa thèse. Il soulève ainsi le problème des effets du silence, qui relève en principe de l'<ref-law>. Le moyen, tel qu'il est soulevé, se confond donc avec le grief de violation de cette dernière disposition.
2.4 Le recourant se plaint enfin d'une violation de l'<ref-law>.
2.4.1 Selon cette disposition, lorsque l'auteur de l'offre ne devait pas, en raison de la nature spéciale de l'affaire, soit des circonstances, s'attendre à une acceptation expresse, le contrat est réputé conclu si l'offre n'a pas été refusée dans un délai convenable.
En principe, le silence ne vaut pas acceptation (ATF 30 II 298 consid. 3 p. 301 s.; arrêt 4C.303/2001 du 4 mars 2002 publié in SJ 2002 I p. 363 consid. 2b; Eugen Bucher, in Basler Kommentar, OR I, 4e éd. 2007, n° 4 ad <ref-law>; François Dessemontet, in Commentaire romand, CO I, 2003, n° 1 ad <ref-law>). Ainsi, l'absence de réaction après avoir reçu une facture ne peut pas être tenue comme une acceptation du montant réclamé (<ref-ruling> consid. 3b p. 502).
Ce n'est donc qu'exceptionnellement que le silence sera interprété comme une acceptation (ATF 30 II 298 consid. 3 p. 301 s.).
Ainsi, lorsqu'une offre est entièrement avantageuse pour son destinataire et ne comporte pour lui ni charge ni obligation, on admettra, en application de l'<ref-law>, que le silence vaut acceptation (<ref-ruling> consid. 2d p. 161). On ne se trouve pas dans ce cas de figure, puisqu'il faut déterminer si l'intimé, par son absence de réaction, s'est engagé à payer 40'000 fr. au recourant.
Une autre exception a été admise, entre commerçants en relation d'affaires, lorsque l'un d'eux déclare confirmer un accord intervenu verbalement et que l'autre, destinataire de la communication, garde le silence; dans certains arrêts, on parle d'un renversement du fardeau de la preuve et dans d'autres d'un effet constitutif du silence; dans tous les cas, la jurisprudence insiste sur l'analyse des circonstances concrètes en application du principe de la bonne foi (cf. pour l'idée d'une présomption: arrêt 4C.303/2001 du 4 mars 2002 publié in SJ 2002 I p. 363 consid. 2b; arrêt C.647/1985 du 24 mars 1986 consid. 3; pour un silence concluant: <ref-ruling> consid. 2a p. 251; arrêt 4C.1/1997 du 23 avril 1998 publié in SJ 1999 I p. 27 consid. 3b; insistant sur l'application du principe de la bonne foi: arrêt 4C.278/1993 du 11 janvier 1994 publié in Rep. 1994 p. 244 consid. 2a; arrêt C.385/1986 du 11 février 1987 publié in Rep. 1988 p. 272 consid. 3b).
L'<ref-law> ne doit pas être isolé du contexte légal. Savoir si un contrat a été conclu ou non est régi en première ligne par l'<ref-law>. S'il est possible d'établir - ce qui relève du fait - une réelle et commune intention des parties, la question est réglée; ce n'est que si une volonté commune ne peut pas être établie ou que la volonté des parties était divergente que l'on doit faire appel au principe de la confiance (ou de la bonne foi) - ce qui constitue une question de droit dans laquelle peut intervenir l'<ref-law> - et qu'il faut se demander comment une déclaration ou une attitude d'une partie pouvait être comprise de bonne foi par l'autre partie (cf. <ref-ruling> consid. 3.2 p. 412 s.; <ref-ruling> consid. 2.3.2 p. 274 s., 626 consid. 3.1 p. 632).
2.4.2 En l'espèce, la cour cantonale, en se fondant sur des données de fait qui lient le Tribunal fédéral (<ref-law>) - à savoir que les parties se présentaient comme des partenaires à 50%, qu'elles ont oeuvré ensemble pour obtenir la promesse de vente et l'autorisation de construire et qu'elles sont promettants-acheteurs solidaires -, en a déduit que les parties avaient l'une et l'autre la volonté de s'associer dans cette promotion immobilière; un courtage d'indication (cf. <ref-law>) n'aurait eu aucun sens puisque l'intimé connaissait déjà le futur vendeur; quant à un courtage de négociation (cf. <ref-law>), il était également exclu puisque, durant toutes les négociations, les parties agissaient en tant que partenaires dans le cadre d'une société simple (<ref-law>). Ainsi, la cour cantonale a clairement constaté en fait qu'à aucun moment durant les négociations les parties n'ont eu la réelle et commune intention de conclure un contrat de courtage. Cela exclut donc l'existence d'un tel contrat (et d'un salaire de courtier), sans qu'il y ait lieu de faire appel à la théorie de la confiance et à l'<ref-law>.
La question est un peu plus délicate en ce qui concerne un éventuel accord sur une indemnité de sortie de la société simple. Dans sa lettre du 27 octobre 2005 (présentée comme une confirmation d'accord), le recourant a allégué qu'un accord était intervenu entre les parties lors de leurs entretiens des 2 et 26 septembre 2005 et que l'intimé avait consenti à lui verser 40'000 fr. On sait cependant - constatation de fait qui lie le Tribunal fédéral - que les parties se sont réunies à nouveau le 16 janvier 2006, ce qui n'avait pas de sens si la question avait été déjà liquidée; après cette réunion, le recourant a écrit une nouvelle lettre, le 17 janvier 2006, qui diffère fondamentalement de celle du 27 octobre 2005; de ce changement d'attitude, la cour cantonale a manifestement déduit - sans arbitraire (art. 9 Cst.) - que la question n'avait pas été réglée lors des entretiens des 2 et 26 septembre 2005 et ainsi laissé entendre qu'une volonté commune ne pouvait être établie.
Reste alors à examiner la question sous l'angle de l'<ref-law> (cf. supra consid. 2.4.1). Dès le moment où l'intimé avait refusé de confier au recourant le mandat d'ingénieur, il était clair que l'on se trouvait en présence d'un litige naissant; qu'il y ait eu ensuite une pluralité d'entretiens sans qu'aucun accord ne soit signé portant sur les prétentions successives (indemnités de sortie, puis salaire de courtier) ne fait que le confirmer. On ne se trouve pas dans des circonstances particulières, prévues par l'<ref-law>, qui permettraient d'admettre qu'une acceptation expresse était superflue. Dans la situation d'espèce, le silence ne signifiait pas nécessairement une acceptation, mais pouvait procéder tout aussi bien de la volonté de calmer le différend ou de prendre le temps de consulter.
En concluant que le silence n'était pas significatif et que le recourant n'était pas parvenu à prouver l'engagement allégué de lui verser la somme de 40'000 fr., la cour cantonale n'a pas violé le droit fédéral.
Le recours doit donc être rejeté.
3. Les frais judiciaires et les dépens sont mis à la charge de la partie qui succombe (art. 66 al. 1 et 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le recourant versera à l'intimé une indemnité de 2'500 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux parties et à la Cour de justice du canton de Genève, Chambre civile.
Lausanne, le 10 août 2010
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Le Greffier:
Klett Piaget