Sachverhalt:
A.
A._ (Kläger, Beschwerdeführer) und B._ (Beklagter, Beschwerdegegner) betreiben als Bodenleger je selbstständig eine Einzelfirma. Sie führten zusammen zahlreiche grössere und kleinere Aufträge aus, gesamthaft über 36 in knapp drei Jahren. Auch das Projekt "C._", bei welchem 4'500 m2 Parkett zu verlegen waren, führten sie zusammen aus. Auftraggeberin war die D._ AG. Mit Rechnung vom 10. Juli 2009 forderte A._ von der D._ AG für die erbrachten Leistungen die Bezahlung von Fr. 139'297.59. Aufgrund dieser Rechnung bezahlte A._ an B._ den Betrag von Fr. 69'648.80 aus, was der Hälfte von Fr. 139'297.59 entspricht. In der Folge wurden die Arbeiten seitens der C._ International GmbH (Bauherrin) bemängelt. Am 4. November 2009 wurde zwischen der Auftraggeberin und A._ eine Vereinbarung betreffend die Sanierung getroffen. Unter anderem wurde vereinbart, dass A._ von den Sanierungskosten 2/3 und die Auftraggeberin 1/3 übernehmen. Von den gesamten Sanierungskosten von Fr. 180'477.58 übernahmen schliesslich andere Unternehmer den Betrag von Fr. 47'568.75; die Differenz von Fr. 132'908.83 ging entsprechend der Vereinbarung vom 4. November 2009 zu 1/3 zu Lasten der D._ AG (Fr. 44'302.94) bzw. zu 2/3 zu Lasten von A._ (Fr. 88'605.89). Zuzüglich 7,6 % Mehrwertsteuer wurden A._ von der Auftraggeberin schliesslich Fr. 95'339.94 in Rechnung gestellt. A._ verlangte sodann von B._ die hälftige Bezahlung dieser Sanierungskosten.
B.
B.a. Mit Klage beim Bezirksgerichtspräsidium Arlesheim verlangte der Kläger, der Beklagte sei zu verpflichten, ihm Fr. 30'000.-- (hälftige Beteiligung an den Sanierungskosten abzüglich bereits geleisteter Abschlagszahlungen) samt Zins zu 5 % seit 3. August 2009 zu bezahlen und es sei der Rechtsvorschlag in der Betreibung Nr. xxx des Betreibungsamts Binningen aufzuheben.
Mit Urteil vom 17. April 2013 schützte der Bezirksgerichtspräsident die Klage vollumfänglich unter Kosten- und Entschädigungsfolge zu Lasten des Beklagten.
B.b. Die gegen diesen Entscheid gerichtete Berufung des Beklagten, mit dem dieser dessen Aufhebung und die Abweisung der Klage unter Kosten- und Entschädigungsfolge für beide Instanzen zu Lasten des Klägers beantragte, schützte das Kantonsgericht Basel-Landschaft mit Urteil vom 10. Dezember 2013.
C.
Mit Beschwerde in Zivilsachen beantragt der Beschwerdeführer dem Bundesgericht, der Entscheid des Kantonsgerichts Basel-Landschaft vom 10. Dezember 2013 sei unter Kosten- und Entschädigungsfolge zu Lasten des Beschwerdeführers (richtig: Beschwerdegegners) aufzuheben und die Klage sei vollumfänglich gutzuheissen, eventualiter sei die Angelegenheit unter Aufhebung des vorinstanzlichen Entscheids zur Neubeurteilung an die Vorinstanz zurückzuweisen; unter Kosten- und Entschädigungsfolge in sämtlichen Instanzen zu Lasten des Beschwerdegegners.
Der Beschwerdegegner beantragt, die Beschwerde sei vollumfänglich abzuweisen, soweit darauf einzutreten sei und das Urteil der Vorinstanz vom 10. Dezember 2013 sei zu bestätigen; unter Kosten- und Entschädigungsfolge zu Lasten des Beschwerdeführers.
Die Vorinstanz beantragt mit einer einlässlichen Vernehmlassung die Abweisung der Beschwerde.

Erwägungen:
1.
Das angefochtene Urteil ist ein verfahrensabschliessender Endentscheid (Art. 90 BGG) einer letzten kantonalen Instanz im Sinne von Art. 75 Abs. 1 und 2 BGG. Der Streitwert erreicht die Grenze nach Art. 74 Abs. 1 lit. b BGG. Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist - unter Vorbehalt einer hinlänglichen Begründung (Art. 42 Abs. 2 und Art. 106 Abs. 2 BGG) - auf die Beschwerde einzutreten.
2.
2.1. Mit Beschwerde in Zivilsachen können Rechtsverletzungen nach Art. 95 und 96 BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist somit weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen oder eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Mit Blick auf die Begründungspflicht des Beschwerdeführers (Art. 42 Abs. 1 und 2 BGG) behandelt es aber nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind; es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (<ref-ruling> E. 1.4 S. 400).
Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht. Das Bundesgericht prüft eine solche Rüge nur insofern, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG).
2.2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 118 BGG). Dazu gehören sowohl die Feststellungen über den Lebenssachverhalt, der dem Streitgegenstand zugrunde liegt, als auch jene über den Ablauf des vor- und erstinstanzlichen Verfahrens, also die Feststellungen über den Prozesssachverhalt (<ref-ruling> E. 1.3.1 S. 18). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (<ref-ruling> E. 4.2 S. 234). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (Art. 97 Abs. 1 BGG). Die beschwerdeführende Partei, welche die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss klar und substanziiert aufzeigen, inwiefern die gerügten Feststellungen bzw. die Unterlassung von Feststellungen offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen (vgl. <ref-ruling> E. 1.2 S. 511 f.; <ref-ruling> E. 1.4.3 S. 254 f.; <ref-ruling> E. 1.3 S. 351, 393 E. 7.1 S. 398). Soweit sie den Sachverhalt ergänzen will, hat sie zudem mit Aktenhinweisen darzulegen, dass sie entsprechende rechtsrelevante Tatsachen und taugliche Beweismittel bereits bei den Vorinstanzen prozesskonform eingebracht hat (Urteile 4A_214/2008 vom 9. Juli 2008 E. 1.2, nicht publ. in: <ref-ruling>; 4A_470/2009 vom 18. Februar 2010 E. 1.2).
Der Beschwerdeführer macht in verschiedener Hinsicht geltend, die Vorinstanz habe den Sachverhalt falsch oder ungenügend festgestellt. Dabei trägt er den genannten Grundsätzen jedoch über weite Strecken keine Rechnung, womit er den Begründungsanforderungen nicht zu genügen vermag. So macht er unter anderem geltend, die Feststellung der Vorinstanz, wonach er selber erstinstanzlich nicht von einer Alleinschuldnerschaft im Aussenverhältnis ausgegangen sei, sondern von Solidarschuldnerschaft zwischen den beiden Gesellschaftern der einfachen Gesellschaft, sei "nicht korrekt ". Mit dem Vorwurf der nicht korrekten Tatsachenfeststellung behauptet er nicht einmal Willkür, geschweige denn, dass er eine solche nachweisen würde.
3.
Die Vorinstanz erwog im angefochtenen Entscheid, dass die Parteien für ihre gemeinsam ausgeführten Projekte jeweils projektbezogene einfache Gesellschaften gebildet haben. So seien die Parteien auch beim Projekt "C._" gegenüber der Auftraggeberin der D._ AG als Gesellschafter aufgetreten. Als einfache Gesellschafter würden sie gegenüber der Auftraggeberin gestützt auf Art. 544 Abs. 3 OR, für die mit Vereinbarung vom 4. November 2009 übernommenen Schuld bezüglich der Sanierungskosten betreffend das Projekt "C._", solidarisch haften. Aufgrund dieser Solidarhaftung könne der Beschwerdeführer auf den Beschwerdegegner nur Rückgriff nehmen, wenn er im Aussenverhältnis (d.h. gegenüber der D._ AG) mehr geleistet habe, als er im Innenverhältnis (hälftige Tragung der Sanierungskosten) zu tragen hätte (Art. 148 Abs. 2 OR). Dass der Beschwerdeführer jedoch mehr als seinen internen Anteil geleistet habe, sei von diesem weder substanziiert noch bewiesen worden.
4.
Der Beschwerdeführer rügt in verschiedener Hinsicht eine Verletzung seines rechtlichen Gehörs (Art. 29 Abs. 2 BV).
4.1. So macht er geltend, die Vorinstanz habe in Verletzung von Art. 29 Abs. 2 BV, die von ihm unter Ziffer 5 seiner Klageschrift beantragten Zeugen, E._ und F._ der D._ AG, welche die Vereinbarung vom 4. November 2009 ebenfalls unterzeichnet hätten, nicht einvernommen.
Es ist fraglich, ob damit überhaupt eine genügende Verfassungsrüge (vgl. E. 2.1) vorliegt. Dies kann aber offen bleiben, da die Rüge ohnehin unbegründet ist: Der aus Art. 29 Abs. 2 BV fliessende Anspruch auf rechtliches Gehör verleiht der betroffenen Partei das Recht, in einem Verfahren, welches in ihre Rechtsstellung eingreift, mit rechtzeitig und formgültig angebotenen Beweisanträgen gehört zu werden, soweit diese erhebliche Tatsachen betreffen und nicht offensichtlich beweisuntauglich sind (<ref-ruling> E. 3 S. 157; <ref-ruling> E. 2b S. 56; <ref-ruling> E. 2 S. 242; je mit Hinweisen). Es liegt daher keine Verletzung des rechtlichen Gehörs vor, wenn ein Gericht auf die Abnahme beantragter Beweismittel verzichtet, weil es aufgrund bereits abgenommener Beweise seine Überzeugung gebildet hat und ohne Willkür in vorweggenommener Beweiswürdigung annehmen darf, dass seine Überzeugung durch weitere Beweiserhebungen nicht geändert würde (<ref-ruling> E. 5.3 S. 148). Nachdem der Bezirksgerichtspräsident von den drei vom Beschwerdeführer beantragten Zeugen (E._, F._ und G._), die alle die Vereinbarung vom 4. November 2009 namens der D._ AG unterzeichnet hatten, den Zeugen G._ einvernommen hatte, war es keineswegs willkürlich, wenn in antizipierter Beweiswürdigung auf die Einvernahme der anderen beiden Unterzeichner verzichtet wurde. Hinzu kommt, dass der Beschwerdeführer nicht darlegt, dass er bei der Vorinstanz einen entsprechenden Beweisantrag gestellt hat.
Die unterlassene Zeugeneinvernahme soll nach Auffassung des Beschwerdeführers auch eine Verletzung der gemässigten Untersuchungsmaxime nach Art. 247 ZPO darstellen. Indessen kommt vorliegend nicht Art. 247 Abs. 2 ZPO (gemässigter Untersuchungsgrundsatz), sondern Art. 247 Abs. 1 ZPO zur Anwendung. Danach wirkt das Gericht durch entsprechende Fragen darauf hin, dass die Parteien ungenügende Angaben zum Sachverhalt ergänzen und Beweismittel bezeichnen. Die Bestimmung regelt somit den Fall, dass ungenügende Beweismittel angegeben werden und nicht, dass eine Partei Beweismittel angibt, die nicht abgenommen werden.
4.2. Der Beschwerdeführer rügt sodann wiederholt eine Verletzung von Art. 29 Abs. 2 BV durch ungenügende Begründung. Er macht geltend, dem angefochtenen Entscheid würden sich keine Feststellungen hinsichtlich der Höhe des von ihm intern zu tragenden Anteils entnehmen lassen. So habe die Vorinstanz auch nicht begründet, warum sie im Zusammenhang mit der Prüfung der Rechtzeitigkeit seiner Eingabe vom 29. Oktober 2012 der einen Lehrmeinung und nicht der anderen gefolgt sei. Diese Einwände des Beschwerdeführers sind jedoch offensichtlich unbehelflich, war er doch in der Lage, das Urteil des Kantonsgerichts sachgerecht anzufechten, womit eine Verletzung der Begründungspflicht entfällt (<ref-ruling> E. 2.2.1 S. 188).
4.3. Eine Verletzung des rechtlichen Gehörs (Art. 29 Abs. 2 BV) - nebst der Verletzung verschiedener Bestimmungen der ZPO - sieht der Beschwerdeführer schliesslich darin, dass seine nach Abschluss des zweifachen Schriftenwechsels eingereichte Eingabe vom 29. Oktober 2012 als verspätet nicht zugelassen wurde. Er begründet nicht, inwiefern die Verfassungsnorm einen über die gesetzlichen Bestimmungen hinausgehenden Schutz verleihen soll. Eine genügende Verfassungsrüge liegt erneut nicht vor.
5.
Der Beschwerdeführer bestreitet nicht, dass die Parteien für das Projekt "C._" gegenüber der Auftraggeberin als einfache Gesellschaft aufgetreten sind und dass sie als einfache Gesellschafter gestützt auf Art. 544 Abs. 3 OR für Werkmängel grundsätzlich solidarisch haften. Er macht jedoch geltend, entgegen der Auffassung der Vorinstanz habe er mit Vereinbarung vom 4. November 2009 die Sanierungsschuld in der Höhe von Fr. 95'339.94 im Aussenverhältnis gegenüber der Auftraggeberin als Alleinschuldner übernommen. Entsprechend könne er bereits vor Bezahlung der ganzen Schadenssumme gestützt auf Art. 533 Abs. 1 OR auf den Beschwerdegegner Rückgriff nehmen.
5.1. Haben die Gesellschafter gemeinschaftlich oder durch Stellvertretung einem Dritten gegenüber Verpflichtungen eingegangen, so haften sie ihm solidarisch, unter Vorbehalt anderer Vereinbarungen (Art. 544 Abs. 3 OR). Solidarität besteht unter den Gesellschaftern für alle Schulden, die sich aus der Geschäftstätigkeit der Gesellschaft ergeben, unbekümmert darum, aus welchem Rechtsgrund sie entstehen. Eine solidarische Verpflichtung entsteht somit nicht nur rechtsgeschäftlich, sondern auch aus der Tatsache des gesellschaftlichen Betriebes, wie dies vorliegend der Fall ist (BGE 72 II 255 E. IV/4 S. 266; vgl. auch Urteil 4C.30/1998 vom 21. August 1998 E. 6 nicht publ. in: <ref-ruling>). Eine Beschränkung der Solidarhaftung auf einen der beiden Schuldner, das heisst eine Übernahme als Alleinhaftender im externen Verhältnis, bedarf einer entsprechenden Vereinbarung mit dem Gläubiger (Urteil 4A_562/2011 vom 16. Januar 2012 E. 4.2 mit Hinweis). Zu prüfen ist, ob eine solche Übernahme vorliegt.
5.2. Die Vorinstanz nahm an, aus der Vereinbarung vom 4. November 2009 ergebe sich nicht, dass der Beschwerdeführer Alleinschuldner geworden wäre. Bei den Sitzungen mit der Auftraggeberin betreffend Verteilung der Sanierungskosten seien sowohl der Beschwerdeführer als auch der Beschwerdegegner anwesend gewesen und der Beschwerdegegner habe dabei die Solidarhaftung nicht in Abrede gestellt. Aufgrund des Verhaltens des Beschwerdegegners bei diesen Gesprächen sei davon auszugehen, dass sein Einverständnis und seine Ermächtigung an den Beschwerdeführer vorlagen, die Vereinbarung vom 4. November 2009 zu unterzeichnen und so die einfache Gesellschaft für den anerkannten Betrag zu verpflichten. Die Vereinbarung vom 4. November 2009 erwähne zwar nur den Beschwerdeführer, enthalte aber keine Erklärung, dass der Beschwerdegegner aus der Solidarhaft entlassen werde. Die Position der D._ AG sei nicht bekannt, da sie nicht Partei im vorliegenden Verfahren sei. Dass sie gegenüber dem Beschwerdegegner auf die Haftung verzichtet habe, dürfe jedoch nicht leichthin angenommen werden und wäre aufgrund der Umstände explizit zu erklären. Aus der Vereinbarung vom 4. November 2009 sei somit kein solcher Verzicht abzuleiten. Das gelte umso mehr, als der Beschwerdeführer selber im erstinstanzlichen Verfahren von der Solidarhaftung ausgegangen sei und - jedenfalls in einem ersten Stadium des Prozesses - der Vereinbarung vom 4. November 2009 nicht die nun behauptete Bedeutung zugemessen habe.
5.3. Was der Beschwerdeführer gegen die vorinstanzliche Beurteilung vorbringt, ist nicht geeignet, diese als bundesrechtswidrig erscheinen zu lassen:
5.3.1. Er macht geltend, ein Wille des Beschwerdeführers, die einfache Gesellschaft im Rahmen der Vereinbarung vom 4. November 2009 zu vertreten, sei von keiner Partei behauptet und bewiesen worden. Entsprechend hätte die Vorinstanz bei der Auslegung der Vereinbarung einen solchen Vertreterwillen des Beschwerdeführers nicht bejahen dürfen. Dabei übergeht der Beschwerdeführer jedoch, dass die Vorinstanz keine tatsächlichen Feststellungen zum inneren Willen der Parteien getroffen hat. Das angefochtene Urteil ist vielmehr dahin gehend zu verstehen, dass das Kantonsgericht nach dem Sinn geforscht hat, der dem Vertrag unter den gegebenen Umständen nach Treu und Glauben objektiv beizulegen ist. Diese auf dem Vertrauensgrundsatz beruhende Vertragsauslegung kann das Bundesgericht frei überprüfen. Grundsätzlich gebunden ist es aber an die Feststellungen des kantonalen Gerichts über die Umstände des Vertragsschlusses und das Wissen der Vertragsparteien (<ref-ruling> E. 2.2.1 S. 67; <ref-ruling> E. 4 S. 28, 268 E. 2.3.2 S. 274 f., 626 E. 3.1 S. 632; <ref-ruling> E. 4.1 S. 611).
5.3.2. Der Beschwerdeführer beruft sich insbesondere auf den Wortlaut der Vereinbarung vom 4. November 2009 und bringt vor, daraus ergebe sich deutlich, dass nur er von dieser Vereinbarung betroffen sei, da stets nur er erwähnt werde. Es trifft zu, dass in der Vereinbarung als Parteien die Auftraggeberin (Unternehmerin) und der Beschwerdeführer (Subunternehmer) aufgeführt sind und immer auf ihn Bezug genommen wird. So beispielsweise, dass ihm die Verlegung des Parketts übertragen worden sei, dass er die Arbeiten mit seinem Personal ausgeführt habe, dass er die Verantwortung als Subunternehmer trage, dass ihn die Auftraggeberin über die Mängelrüge informiert habe, dass er die Sanierungskosten zu 2/3 und die Auftraggeberin zu 1/3 zu tragen habe und dass die Sanierungskosten zu Lasten des Beschwerdeführers von der Auftraggeberin bevorschusst würden. Der Beschwerdegegner wird in der Vereinbarung vom 4. November 2009 nur einmal erwähnt, nämlich dass er als Partner des Beschwerdeführers für die Sanierungsarbeiten unter der Führung des beizuziehenden externen Bodenlegers eingesetzt werden könne.
Zu Recht hat die Vorinstanz aus diesem Wortlaut nichts Entscheidendes abgeleitet. Zweck der Vereinbarung war offensichtlich die quantitative Regelung der Haftungssumme, namentlich die Aufteilung zwischen Unternehmerin (D._ AG) und Subunternehmer und das praktische Vorgehen bei der Sanierung (Federführung eines externen Bodenlegers; Einbringung der Arbeitsleistung des Beschwerdeführers und des Beschwerdegegners). Nachdem die ursprüngliche Auftragsvergabe durch Vertrag zwischen der D._ AG und dem Beschwerdeführer erfolgte, war es aus Sicht der Auftraggeberin folgerichtig, die Sanierungsvereinbarung ebenfalls mit ihm abzuschliessen. In diesem Zeitpunkt und angesichts des Regelungszwecks musste sich die Auftraggeberin keine Gedanken zur rechtlichen Qualifikation des Verhältnisses zwischen dem Beschwerdeführer und dem Beschwerdegegner machen. Aus der Zeugenaussage von G._ (Projekt- und Geschäftsstellenleiter der D._ AG) ergibt sich denn auch, dass die Auftraggeberin die Parteien als Team wahrgenommen hatte bzw. diese den Auftrag zusammen ausgeführt haben. Das bedeutet aber nicht, dass ihr in diesem Zeitpunkt bewusst war, dass dieses Team in rechtlicher Hinsicht als eine einfache Gesellschaft zu qualifizieren ist. Jedenfalls ist nichts Derartiges festgestellt und der hierfür beweisbelastete Beschwerdeführer behauptet auch nichts Entsprechendes. Fehlt es aber an einem solchen Bewusstsein, kann bereits deshalb nicht angenommen werden, dass die Vereinbarung eine Entlassung des Beschwerdegegners aus der Solidarhaftung beinhalten sollte. Die Vereinbarung enthält denn auch keinen irgendwie gearteten Anhaltspunkt hierfür. Das Bundesgericht hat wiederholt festgestellt, dass von einem Forderungsverzicht eines Gläubigers gegenüber einem Dritten im Rahmen eines Vergleichs mit einem Solidarschuldner nur mit Zurückhaltung auszugehen ist (Urteil 4C.358/2005 vom 12. Februar 2007 E. 4.6, nicht publ. in: <ref-ruling>; vgl. auch <ref-ruling> E. 2b S. 329 f.). Dies lässt sich auch hier sagen. Wäre entgegen dem soeben Ausgeführten davon auszugehen, dass der Auftraggeberin die Solidarhaftung des Beschwerdeführers bei Abschluss der Vereinbarung vom 4. November 2009 bewusst war, wäre nicht einzusehen, weshalb sie auf den Vorteil dieser zusätzlichen Sicherheit hätte verzichten sollen. Der Beschwerdeführer hat denn auch nichts Entsprechendes dargelegt.
5.4. Der Beschwerdeführer lässt schliesslich ausführen, was nicht vom gewöhnlichen Betrieb des gemeinschaftlichen Geschäfts erfasst werde, bedürfe gemäss Art. 535 Abs. 3 OR der ausdrücklichen Einwilligung der Gesellschafter. Eine solche ausdrückliche Einwilligung wäre für den Abschluss der Vereinbarung vom 4. November 2009 "hinsichtlich des geltend gemachten Schadens" notwendig gewesen, werde aber weder von ihm noch vom Beschwerdegegner geltend gemacht. Folglich sei hinsichtlich der Vereinbarung vom 4. November 2009 keine Vertretungsbefugnis des Beschwerdeführers vorgelegen, weshalb nur er selber "unter Entlassung des Beschwerdegegners verpflichtet" worden sei.
Es erhellt nicht, was der Beschwerdeführer mit diesen schwer nachvollziehbaren Ausführungen geltend machen will. Soweit es erneut um den Verzicht auf die Solidarschuldnerschaft gehen sollte, wird auf das oben Ausgeführte verwiesen. Sollte er damit aber behaupten wollen, inhaltlich sei die von ihm mit der D._ AG getroffene Vereinbarung durch seine Befugnisse als Geschäftsführer nicht gedeckt gewesen, stünde dies in offensichtlichem Widerspruch zu den tatsächlichen Feststellungen der Vorinstanz, wonach der Beschwerdegegner gemäss dem Zeugen G._ bei den Besprechungen betreffend die Schadenersatzforderung dabei war und diese Forderung nicht in Abrede gestellt habe.
6.
6.1. Die Vorinstanz stellte sodann fest, es sei unbestritten, dass aus dem Projekt "C._" kein Gesellschaftsvermögen mehr vorhanden sei, mit welchem die Schuld gegenüber der D._ AG (teilweise) beglichen werden könnte. Somit gelangten die Rückforderungsbestimmungen nach Art. 148 Abs. 2 OR zur Anwendung. In dem Umfang, in dem ein Gesellschafter im Aussenverhältnis mehr geleistet habe, als er nach dem Gesellschaftsvertrag im Innenverhältnis müsste, könne er wie andere Solidarschuldner auch auf seine Mitschuldner Rückgriff nehmen. Entsprechend könne der Beschwerdeführer auf den Beschwerdegegner Rückgriff nehmen, wenn er gegenüber der D._ AG mehr geleistet habe, als er im Innenverhältnis zu tragen hätte. Ein Solidarschuldner könne aber nicht schon dann Rückgriff nehmen, wenn der Gläubiger von ihm die Leistung verlangt, sondern erst dann, wenn die Leistung von ihm erbracht worden sei.
Demzufolge prüfte die Vorinstanz, ob der Beschwerdeführer mehr als seinen eigenen, internen Anteil geleistet habe. Dabei kam sie jedoch zum Ergebnis, dass der Beschwerdeführer seine Forderung zu wenig substanziiert und bewiesen habe. Er habe weder in der Klage noch in der Replik vorgetragen, welchen Betrag er an die D._ AG geleistet habe. Er habe die Substanziierung mit seiner Eingabe vom 29. Oktober 2012 nachholen wollen. Diese sei jedoch verspätet erfolgt. Im Übrigen könnte der Beschwerdeführer auch mit der Eingabe vom 29. Oktober 2012 - also selbst wenn diese nicht verspätet wäre - seine Forderung nicht beweisen. Die damit eingereichte Zusammenstellung der D._ AG vom 8. Oktober 2012 zeige, dass bis zu diesem Datum der Betrag von Fr. 65'760.-- durch Zahlung und Verrechnung geleistet und der Betrag von Fr. 29'579.94 noch offen war. Da die Regressforderung mit der Zahlung an den Gläubiger fällig werde, könnten nur die Zahlungen des Beschwerdeführers per Einreichung des Schlichtungsgesuchs vom 2. November 2011 (Beginn der Rechtshängigkeit gemäss Art. 62 Abs. 1 ZPO) massgebend sein. Per Einreichung des Schlichtungsgesuchs sei gemäss der Zusammenstellung der D._ AG ein Betrag von Fr. 54'030.-- bezahlt/verrechnet gewesen. Werde davon die unbestritten seitens des Beschwerdegegners bereits erfolgte Zahlung von Fr. 17'229.60 abgezogen, verbleibe für den Beschwerdeführer der Betrag von Fr. 36'800.40. Dieser liege immer noch unter der Hälfte der Schadensumme von Fr. 95'339.94. Und selbst wenn auf den Saldo per 8. Oktober 2012 abzustellen wäre und die nachträgliche Substanziierung zugelassen würde, könnte die Forderung nur für den Betrag von Fr. 860.43, den der Beschwerdeführer bis zu diesem Datum über seinen hälftigen Anteil hinaus geleistet habe, gutgeheissen werden. Angesichts des Streitwerts von Fr. 30'000.-- wären diesfalls auch die Kosten beider Instanzen vollumfänglich vom Beschwerdeführer zu tragen.
6.2. Für den Fall, dass trotz der Vereinbarung vom 4. November 2009 von Solidarhaftung ausgegangen wird, bestreitet der Beschwerdeführer nicht, dass ein Regress nur erfolgen kann, wenn eine Zahlung über den eigenen intern zu tragenden Anteil hinaus nachgewiesen ist. Auch im Quantitativen bestreitet er die Berechnungen der Vorinstanz nicht.
6.3. Die vorinstanzliche Feststellung, dass während des doppelten Schriftenwechsels die Regressforderung nicht begründet worden sei, wird vom Beschwerdeführer nicht substanziiert gerügt. Er ist aber der Auffassung, die Vorinstanz hätte die Eingabe vom 29. Oktober 2012, mit welcher er seine Leistungen an die Auftraggeberin nachgewiesen habe, nicht als verspätet zurückweisen dürfen.
6.3.1. In diesem Zusammenhang beruft er sich auf die Besonderheiten des vereinfachten Verfahrens.
6.3.1.1. Sein Einwand, die Vorinstanz habe die gemässigte Untersuchungsmaxime nach Art. 247 Abs. 2 ZPO und damit auch Art. 229 Abs. 3 ZPO verletzt, ist unbegründet. Vorliegend ist nicht der beschränkte Untersuchungsgrundsatz gemäss Art. 247 Abs. 2 ZPO, sondern Art. 247 Abs. 1 ZPO (vgl. E. 4.1) anwendbar, das heisst die durch das richterliche Fragerecht abgeschwächte Verhandlungsmaxime (Urteile 4A_57/2014 vom 8. Mai 2014 E. 1.3.3 und 4D_57/2013 vom 2. Dezember 2013 E. 3.2; LAURENT KILLIAS, in: Berner Kommentar, Schweizerische Zivilprozessordnung, 2012, N. 7 zu Art. 247 ZPO; FABIENNE HOHL, Procédure civile, Tome II, 2010, Rz. 1309). Der Beschwerdeführer kann sich somit von vorneherein nicht auf Art. 229 Abs. 3 ZPO berufen.
6.3.1.2. Er ist zudem der Auffassung, der Bezirksgerichtspräsident hätte von dem im vereinfachten Verfahren geltenden richterlichen Fragerecht (Art. 247 Abs. 1 ZPO) Gebrauch machen müssen, wenn er der Auffassung war, der Sachverhalt sei ungenügend substanziiert worden. Bereits die Vorinstanz hat jedoch zu Recht darauf hingewiesen, dass bei einer anwaltlich vertretenen Partei die gerichtliche Fragepflicht stark gemildert ist (Urteile 4A_57/2014 vom 8. Mai 2014 E. 1.3.2 und 4D_57/2013 vom 2. Dezember 2013 E. 3.2). Es sind stets alle Umstände zu berücksichtigen. Anlass für eine Ausübung des Fragerechts kann u.U. sein, wenn ein neuer, für den Kläger unerwarteter Rechtsstandpunkt aufgeworfen wird (<ref-ruling> E. 6.2 S. 41). Der Beschwerdeführer macht geltend, er habe im erstinstanzlichen Schriftenwechsel nicht weiter substanziiert, weil er von einer Schuldübernahme im Aussenverhältnis ausgegangen sei. Diese Behauptung steht jedoch im klaren Widerspruch zu den für das Bundesgericht massgeblichen Feststellungen (vgl. E. 2.2) der Vorinstanz, wonach der Beschwerdeführer in Klage und Replik seinen Anspruch mit der Solidarschuldnerschaft der beiden Gesellschafter begründet und erst im Berufungsverfahren eine Alleinschuldnerschaft gestützt auf die Vereinbarung vom 4. November 2009 behauptet habe. Substanziierte Ausführungen zu den gegenüber der Gläubigerin getätigten Zahlungen gehörten daher zum zentralen Klagefundament und es kann keine Rede davon sein, dass ein unerwarteter Rechtsstandpunkt aufgeworfen worden wäre.
Aus den Bestimmungen zum vereinfachten Verfahren kann der Beschwerdeführer somit nichts zu seinen Gunsten ableiten.
6.3.2. Ob die Eingabe des Beschwerdeführers vom 29. Oktober 2012 verspätet erfolgte, ist vielmehr nach den allgemeinen Grundsätzen gemäss Art. 229 Abs. 1 ZPO zu beurteilen.
6.3.2.1. Die Eingabe vom 29. Oktober 2012 wurde nach Abschluss des doppelten Schriftenwechsels, jedoch vor der Instruktionsverhandlung vom 20. November 2012 eingereicht. Die Vorinstanz erachtete dies als verspätet, weil sie unter Hinweis auf eine Lehrmeinung (Christoph Leuenberger, in: Kommentar zur Schweizerischen Zivilprozessordnung (ZPO), Sutter-Somm/Hasenböhler/Leuenberger [Hrsg.], 2. Aufl. 2013, N. 5 zu Art. 226 und N. 4a zu Art. 229 ZPO) davon ausging, die Parteien hätten grundsätzlich zweimal Gelegenheit, unbeschränkt Tatsachen und Beweismittel vorzubringen. Habe demnach ein zweifacher Schriftenwechsel stattgefunden, trete der Aktenschluss ein und die Parteien könnten Noven nur noch nach den Voraussetzungen von Art. 229 Abs. 1 ZPO in den Prozess einbringen.
6.3.2.2. Der Beschwerdeführer bringt vor, an der von der Vorinstanz zitierten Literaturstelle würden zwei mögliche Interpretationen erwähnt. Dabei werde ausgeführt, es sei unsicher, ob an einer Instruktionsverhandlung nach einem doppelten Schriftenwechsel noch unbegrenzt Noven vorgetragen werden dürften. Dafür spreche, dass der Aktenschluss nach dem Wortlaut von Art. 229 Abs. 1 lit. a ZPO ("[...] oder nach der letzten Instruktionsverhandlung"; "[...] ou à la dernière audience d'instruction"; "[...] o dopo l'ultima udienza di istruzione") nach der "letzten" Instruktionsverhandlung eintrete. Dies habe die Vorinstanz unberücksichtigt gelassen und sei zu seinem Nachteil nicht von dieser Möglichkeit ausgegangen.
6.3.2.3. Dass eine unbeschränkte Ergänzung noch bis zur (letzten) Instruktionsverhandlung möglich sein soll, wird nur vereinzelt ausdrücklich vertreten (Denis Tappy, in: CPC, Code de procédure civile commenté, 2011, N. 25 zu Art. 229 ZPO, unter Hinweis auf den Wortlaut von Art. 229 Abs. 1 lit. a und b ZPO ["la dernière audience d'instruction"]). Andere Autoren halten fest, die Parteien könnten sich "mindestens" bzw. "zumindest" zweimal unbeschränkt äussern, ohne dies jedoch zu konkretisieren oder näher zu begründen (Laurent Killias, a.a.O., N. 20 zu Art. 229 ZPO; Gasser/Rickli, Schweizerische Zivilprozessordnung (ZPO), Kurzkommentar, 2010, N. 8 zu Art. 229 ZPO). Nach einer weitergehenderen Auffassung sollen unbeschränkte Ergänzungen möglich sein, solange das Verfahren nicht ins Stadium der Hauptverhandlung übergetreten ist. Gebe das Gericht beispielsweise Gelegenheit zu einem zweiten Schriftenwechsel, trete die Novenrechtsschranke unmittelbar mit der Eröffnung der Hauptverhandlung ein. Abgeleitet wird dies aus der Formulierung in Art. 229 Abs. 1 ZPO "In der Hauptverhandlung [...]" (Daniel Willisegger, in: Basler Kommentar, Schweizerische Zivilprozessordnung, 2. Aufl. 2013, N. 7 ff. zu Art. 229 ZPO). Dass nach einem doppelten Schriftenwechsel der Aktenschluss eintritt, unabhängig davon, ob anschliessend noch eine Instruktionsverhandlung folge, wird demgegenüber von zwei Lehrmeinungen ausdrücklich vertreten (Thomas Sutter-Somm, Schweizerisches Zivilprozessrecht, 2. Aufl. 2012, Rz. 1103; Staehelin/Staehelin/Grolimund, Zivilprozessrecht, 2. Aufl. 2013, §10 Rz. 40a i.V.m. § 21 Rz. 7; so auch: Fabienne Hohl, a.a.O., Rz. 1195).
Aus den Materialien ergeben sich keine Anhaltspunkte, was mit der Formulierung "nach der letzten Instruktionsverhandlung " genau gemeint war (vgl. Christoph Leuenberger, Das Recht, zweimal unbeschränkt Tatsachen und Beweise vorzutragen, ein Grundsatz und seine Anwendung, SZZP 2014 S. 86). Andererseits verweist die Lehre zu Recht auf den im Zug der Differenzbereinigung zwischen den Räten eingefügten Art. 229 Abs. 2 ZPO, mit dem sichergestellt werden sollte, dass sich jede Partei grundsätzlich zweimal unbeschränkt äussern kann, entweder im Rahmen eines doppelten Schriftenwechsels oder eines einfachen Schriftenwechsels mit anschliessender Instruktionsverhandlung oder eines einfachen Schriftenwechsels und den ersten Parteivorträgen an der Hauptverhandlung (Christoph Leuenberger, a.a.O., S. 84; Denis Tappy, a.a.O., N. 18 zu Art. 229 ZPO; Georg Naegeli/Nadine Mayhall, in: ZPO, Oberhammer/Domej/Haas [Hrsg.], 2. Aufl. 2013, N. 17 zu Art. 229 ZPO; alle unter Hinweis auf die Materialien). Wäre es möglich, an einer einem doppelten Schriftenwechsel folgenden Instruktionsverhandlung (bzw. bei allfälligen mehreren Instruktionsverhandlungen an der letzten) noch unbeschränkt Tatsachen vorzubringen, wäre die Eventualmaxime in das Ermessen des Gerichts gestellt und eine Partei wüsste von vornherein nie, wann der Aktenschluss eintritt. Ein solches Vorgehen widerspricht einem geordneten und für die Parteien berechenbaren Prozessablauf. Die Vorinstanz ging somit zu Recht davon aus, dass mit dem zweiten Schriftenwechsel der Aktenschluss eintrat.
6.3.3. Der Beschwerdeführer rügt schliesslich, nachdem die Abschlagzahlungen erstmals in der Duplik bestritten worden seien, hätte es noch möglich sein müssen, dazu Stellung zu nehmen und entsprechende echte Noven einzureichen.
Echte Noven sind nach dem oben Ausgeführten solche Tatsachen, die nach Abschluss des zweiten Schriftenwechsels, bzw. für den Kläger nach der Replik, eingetreten sind. Die Replik datiert vom 24. Juli 2012. Echte Noven könnten somit Zahlungen nach dem 24. Juli 2012 sein. Der Beschwerdeführer zeigt aber nicht auf, dass er solche Zahlungen in seiner Eingabe vom 29. Oktober 2012 substanziiert dargelegt hätte. Er verweist lediglich auf die Akten, nämlich die Saldobestätigung der D._ AG vom 8. Oktober 2012, was nicht genügt. Er verkennt im Übrigen, dass unter dem Aspekt des Novenrechts nicht der Gesamtsaldo massgeblich ist, sondern einzig die nach Aktenschluss eingetretenen Zahlungen, mit denen er aber nicht darlegen konnte, dass er mehr als den hälftigen Anteil von Fr. 47'669.97 geleistet hat. Zahlungen, die vorher erfolgten, sind sog. unechte Noven, die nur berücksichtigt werden könnten, wenn der Beschwerdeführer substanziiert darlegen würde, weshalb er diese bei zumutbarer Sorgfalt nicht vorher vorbringen konnte (Art. 229 Abs. 1 lit. b ZPO). Entsprechende Vorbringen fehlen. Die Vorinstanz hat die Klage somit zu Recht unter Kosten- und Entschädigungsfolge vollständig abgewiesen.
6.4. Der Beschwerdeführer bemängelt schliesslich, dass die Vorinstanz nicht verbindlich festgestellt habe, wie hoch der intern zu tragende Anteil des Beschwerdegegners sei. Soweit man daraus ein Feststellungsbegehren ableiten müsste, wäre dieses neu und daher vor Bundesgericht unzulässig (Art. 99 Abs. 2 BGG).
7.
Bei diesem Verfahrensausgang wird der Beschwerdeführer auch für das bundesgerichtliche Verfahren kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Der Beschwerdeführer hat den Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 2'500.-- zu entschädigen.
4.
Dieses Urteil wird den Parteien und dem Kantonsgericht Basel-Landschaft, Abteilung Zivilrecht, schriftlich mitgeteilt.
Lausanne, 19. Juni 2014
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Die Gerichtsschreiberin: Reitze