Sachverhalt:
A. Y._ (geb. 1970) ist die Mutter des ausserehelichen Sohnes Z._ (geb. xxxx 1990). Erst im September 1999 gab sie die Identität des Kindsvaters bekannt und erlangten einerseits X._ (geb. 1947) - verheiratet und Vater zweier Kinder - Kenntnis von seinem ausserehelichen Sohn sowie andererseits Z._ von seinem Vater.
Daraufhin erhob Z._ beim Bezirksgericht Brig eine Vaterschafts- und Unterhaltsklage gegen X._. Im Verlauf dieses Verfahrens anerkannte X._ im Mai 2001 Z._ als seinen Sohn. Das Bezirksgericht verpflichtete den Kindsvater mit Urteil vom 11. Dezember 2001 zu monatlichen Unterhaltsbeiträgen an seinen Sohn von Fr. 700.-- (ab 1. November 1999 bis zum vollendeten 12. Altersjahr), Fr. 750.-- (vom 13. Altersjahr bis zur Mündigkeit) und verwies für die Zeit nach der Mündigkeit des Kindes auf Art. 277 Abs. 2 ZGB. Der Kindsvater kam seiner Unterhaltspflicht gemäss Urteil vom 11. Dezember 2001 bis zum Eintritt des Sohnes in das Mündigkeitsalter nach, stellte die Zahlungen anschliessend aber ein. Im Sommer 2007 begann Z._ die Handelsmittelschule.
B. Am 23. September 2009 reichte Z._ beim Bezirksgericht Brig eine Klage auf Mündigenunterhalt ein. Er beantragte, sein Vater sei zu verpflichten, ihm ausstehende Unterhaltsbeiträge für die Zeit vom 1. März 2007 bis Ende September 2009 in der Höhe von Fr. 23'250.-- nebst Zins zu 5% seit mittlerem Verfall sowie monatliche Unterhaltsbeiträge von Fr. 750.-- ab 1. Oktober 2009 bis zum Abschluss seiner ersten ordentlichen Ausbildung zu bezahlen. X._ widersetzte sich der Klage.
Mit Entscheid vom 23. September 2010 verpflichtete das Bezirksgericht X._, seinem Sohn ab 1. Oktober 2008 bis zum ordentlichen Abschluss der Erstausbildung im Sinne von Art. 277 Abs. 2 ZGB einen monatlichen Unterhaltsbeitrag von Fr. 750.-- zu bezahlen, wobei ausstehende Unterhaltsbeiträge seit 1. Oktober 2008 bis Ende September 2009 in der Höhe von insgesamt Fr. 9'000.-- zu 5% seit mittlerem Verfall zu verzinsen seien. Soweit weitergehend wies es die Klage ab. Es erachtete X._ als zu 3/4 unterliegend und auferlegte Z._ Gerichtskosten von Fr. 250.-- und X._ von Fr. 750.--. Es verpflichtete Z._ zu einer Parteientschädigung von Fr. 500.-- und X._ von Fr. 1'500.-- und setzte das Honorar der unentgeltlichen Rechtsbeiständin von Z._ (für den unterliegenden Teil von 1/4) auf Fr. 400.-- fest.
C. Gegen diesen Entscheid erhob X._ am 25. Oktober 2010 Berufung an das Kantonsgericht Wallis. In der Sache beantragte er die Abweisung der Unterhaltsklage, eventualiter die Reduktion des festgesetzten Unterhalts. Dieser Berufung schlossen sich Z._ und dessen unentgeltliche Rechtsbeiständin bezüglich der Parteientschädigung und des amtlichen Honorars für die unentgeltliche Rechtsbeiständin mit Eingabe vom 8. November 2010 an.
Mit Urteil vom 14. Mai 2012 wies das Kantonsgericht die Berufung ab, soweit es darauf eintrat, und bestätigte die bezirksgerichtliche Gerichtskostenregelung. Die Anschlussberufung von Z._ hiess es teilweise gut, verpflichtete X._ zu einer Parteientschädigung für das bezirksgerichtliche Verfahren von Fr. 2'475.-- und Z._ zu einer solchen von Fr. 825.--. Das Honorar der unentgeltlichen Rechtsbeiständin von Z._ für das bezirksgerichtliche Verfahren erhöhte es auf Fr. 475.--. Sodann regelte es die Kosten und Entschädigungen des Berufungsverfahrens.
D. Dem Bundesgericht beantragt X._ (nachfolgend Beschwerdeführer) in seiner Beschwerde in Zivilsachen vom 4. Juli 2012, der kantonsgerichtliche Entscheid sei aufzuheben und die Unterhaltsklage sinngemäss abzuweisen. Sodann seien die gesamten Kosten von Verfahren und Entscheid Z._ (nachfolgend Beschwerdegegner) aufzuerlegen und dieser habe ihm eine angemessene Parteientschädigung auszurichten.
Zudem ersucht der Beschwerdeführer um aufschiebende Wirkung. Das Kantonsgericht hat auf eine Stellungnahme dazu verzichtet (Schreiben vom 9. Juli 2012). Der Beschwerdegegner hat beantragt, das Gesuch abzuweisen (Vernehmlassung vom 16. Juli 2012) und hat gleichzeitig ein Gesuch um unentgeltliche Rechtspflege und Verbeiständung eingereicht. Die Präsidentin der II. zivilrechtlichen Abteilung des Bundesgerichts hat der Beschwerde mit Verfügung vom 18. Juli 2012 für die Unterhaltsbeiträge bis und mit Juni 2012 die aufschiebende Wirkung zuerkannt, das Gesuch im Übrigen jedoch abgewiesen.
Das Bundesgericht hat die Vorakten, in der Sache jedoch keine Vernehmlassungen eingeholt.

Erwägungen:
1. Angefochten ist der Endentscheid des Kantonsgerichts, das als oberes Gericht kantonal letztinstanzlich auf Rechtsmittel hin über eine Klage auf Mündigenunterhalt entschieden hat (Art. 90 und Art. 75 BGG). Es handelt sich damit um eine Zivilsache in einer vermögensrechtlichen Angelegenheit, wobei die erforderliche Streitwertgrenze erreicht ist (Art. 72 Abs. 1, Art. 74 Abs. 1 lit. b und Art. 51 Abs. 4 BGG). Die im Übrigen fristgerecht (Art. 100 Abs. 1 BGG) eingereichte Beschwerde in Zivilsachen ist grundsätzlich zulässig. Auf formelle Einzelfragen ist im Sachzusammenhang einzugehen.
2. 2.1 Die Beschwerde ist zu begründen (Art. 42 Abs. 2 BGG). Es ist in gedrängter Form durch Auseinandersetzung mit den Erwägungen des angefochtenen Entscheids darzulegen, welche Vorschriften und warum sie von der Vorinstanz verletzt worden sein sollen. Allgemein gehaltene Einwände, die ohne aufgezeigten oder erkennbaren Zusammenhang mit bestimmten Entscheidungsgründen vorgebracht werden, genügen nicht, da das Bundesgericht nicht gehalten ist, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen (<ref-ruling> E. 1.3 S. 584; <ref-ruling> E. 3.3 S. 60).
Die Verletzung von Grundrechten prüft das Bundesgericht nur insofern, als eine solche Rüge in der Beschwerde vorgebracht und gehörig begründet wird (Art. 106 Abs. 2 BGG). Der Beschwerdeführer muss präzise angeben, welches verfassungsmässige Recht verletzt wurde und substanziiert anhand der Erwägungen des angefochtenen Entscheids darlegen, worin die Verletzung besteht. Das Bundesgericht prüft nur ausdrücklich vorgebrachte, klar und detailliert erhobene sowie, soweit möglich, belegte Rügen (<ref-ruling> E. 3.3 S. 310 f.; <ref-ruling> E. 2.2 S. 246).
2.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Die vorinstanzliche Sachverhaltsfeststellung kann nur gerügt werden, wenn sie offensichtlich unrichtig und damit willkürlich ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG; <ref-ruling> E. 4.2 S. 234). Das Vorliegen dieser Voraussetzungen hat der Beschwerdeführer genau darzulegen. Auf rein appellatorische Kritik an der vorinstanzlichen Sachverhaltsfeststellung oder Beweiswürdigung tritt das Bundesgericht nicht ein (<ref-ruling> E. 5.1 S. 356).
Die Sachverhaltsfeststellung beziehungsweise Beweiswürdigung erweist sich als willkürlich, wenn das Gericht Sinn und Tragweite eines Beweismittels offensichtlich verkannt hat, wenn es ohne sachlichen Grund ein wichtiges und entscheidwesentliches Beweismittel unberücksichtigt gelassen oder wenn es auf der Grundlage der festgestellten Tatsachen unhaltbare Schlussfolgerungen gezogen hat (<ref-ruling> E. 4.2 S. 234).
2.3 Der Beschwerdeführer stellt in einem ersten Teil seiner Beschwerde - vorgängig zu seiner "Begründung" der Beschwerde (S. 4 ff. der Beschwerde) - den Sachverhalt dar. Soweit seine Darstellung vom kantonsgerichtlich festgestellten Sachverhalt abweicht oder diesen ergänzt, unterlässt er es, die kantonsgerichtlichen Feststellungen (im beschriebenen Sinn) zu rügen. Darauf ist von vornherein nicht einzutreten (<ref-ruling> E. 1.2 S. 511 f.).
3. 3.1 Die Unterhaltspflicht der Eltern dauert bis zur Mündigkeit des Kindes (Art. 277 Abs. 1 ZGB). Hat es dann noch keine angemessene Ausbildung, so haben die Eltern, soweit es ihnen nach den gesamten Umständen zugemutet werden darf, für seinen Unterhalt aufzukommen, bis eine entsprechende Ausbildung ordentlicherweise abgeschlossen werden kann (Art. 277 Abs. 2 ZGB).
Unter dem Gesichtspunkt der Zumutbarkeit gemäss Art. 277 Abs. 2 ZGB sind nicht nur die wirtschaftlichen Verhältnisse, sondern auch die persönliche Beziehung zwischen dem Unterhaltspflichtigen und seinem Kind zu beachten (Zumutbarkeit in finanzieller und persönlicher Hinsicht; <ref-ruling> E. 3 S. 376).
3.2 Vorliegend ist nicht strittig, dass die Handelsmittelschule, in die der Beschwerdegegner im Sommer 2007 eintrat, eine angemessene Ausbildung gemäss Art. 277 Abs. 2 ZGB darstellt. Der Beschwerdeführer macht zudem nicht mehr geltend, der von den kantonalen Instanzen zugesprochene Mündigenunterhalt sei ihm in finanzieller Hinsicht nicht zumutbar. Vielmehr bringt er vor Bundesgericht einzig noch vor, es sei ihm in persönlicher Hinsicht auf Grund der fehlenden persönlichen Beziehung zu seinem mündigen Sohn nicht zumutbar, noch Unterhalt zu bezahlen.
3.2 Vorliegend ist nicht strittig, dass die Handelsmittelschule, in die der Beschwerdegegner im Sommer 2007 eintrat, eine angemessene Ausbildung gemäss Art. 277 Abs. 2 ZGB darstellt. Der Beschwerdeführer macht zudem nicht mehr geltend, der von den kantonalen Instanzen zugesprochene Mündigenunterhalt sei ihm in finanzieller Hinsicht nicht zumutbar. Vielmehr bringt er vor Bundesgericht einzig noch vor, es sei ihm in persönlicher Hinsicht auf Grund der fehlenden persönlichen Beziehung zu seinem mündigen Sohn nicht zumutbar, noch Unterhalt zu bezahlen.
3.3 3.3.1 Das Bundesgericht hat den früheren Ausnahmecharakter des Mündigenunterhalts (<ref-ruling> E. 4a S. 98) mit der Herabsetzung des Mündigkeitsalters relativiert (<ref-ruling> E. 3.2 S. 238; <ref-ruling> E. 3 S. 376 ff.): Je jünger ein Kind ist, desto mehr ist es auf Mündigenunterhalt angewiesen, aber auch umso weniger dazu fähig, von traumatisierenden Erfahrungen in der Kind-Eltern-Beziehung Abstand zu gewinnen. Entsprechend höhere Anforderungen sind daher an die Einrede der Unzumutbarkeit eines sich darauf berufenden Elternteils zu stellen. Je älter hingegen ein Kind ist, desto weniger ist es im Allgemeinen auf Mündigenunterhalt angewiesen, aber auch umso eher sollte es in der Lage sein, zu früheren Vorkommnissen Abstand zu gewinnen. Dies wiederum rechtfertigt es, entsprechend weniger hohe Anforderungen an die Einrede der Unzumutbarkeit des in Anspruch genommenen Elternteils zu stellen (<ref-ruling> E. 3.4 S. 378).
3.3.2 Eltern und Kinder sind einander allen Beistand, alle Rücksicht und Achtung schuldig, die das Wohl der Gemeinschaft erfordert (Art. 272 ZGB). Eine Verletzung dieser Pflicht, namentlich, wenn das Kind die persönlichen Beziehungen bewusst abbricht oder sich dem Kontakt entzieht, kann die Zahlung von Mündigenunterhalt im Sinne von Art. 277 Abs. 2 ZGB unzumutbar machen, selbst wenn die Eltern dazu wirtschaftlich in der Lage wären. Vorausgesetzt ist allerdings, dass das mündige Kind schuldhaft seinen Pflichten der Familie gegenüber nicht nachkommt, dass es mithin ohne Grund aus eigenem Willen die persönlichen Beziehungen zu den Eltern abbricht oder sich grundlos dem persönlichen Verkehr mit ihnen entzieht. Das Kind muss die Verantwortung dafür tragen, dass das Eltern-Kind-Verhältnis erheblich gestört oder gar zerstört ist, und diese Verantwortung muss ihm subjektiv zum Vorwurf gereichen (<ref-ruling> E. 3c S. 179 f.; <ref-ruling> E. 2 S. 376 f.; Urteile 5A_563/2008 vom 4. Dezember 2008 E. 5.1, in: FamPra.ch 2009 S. 520; 5C.231/2005 vom 27. Januar 2006 E. 2, auszugsweise in: FamPra.ch 2006 S. 488).
3.3.3 Während die Beurteilung der Zumutbarkeit gemäss Art. 277 Abs. 2 ZGB eine Rechtsfrage darstellt, handelt es sich bei den zugrunde liegenden konkreten Umständen, die das Gericht zum Nachweis der Zumutbarkeit anführt und als Ursachen - auch im Bereich der inneren, psychischen Vorgänge - für das Fehlen der persönlichen Beziehung zwischen Vater und Sohn feststellt, um Tatfragen (Urteil 5P.333/2005 vom 27. Januar 2006 E. 1).
3.3.4 Bei der Beurteilung der Frage, ob es den Eltern nach den gesamten Umständen zugemutet werden darf, für den Unterhalt des mündigen Kindes aufzukommen, steht dem Sachgericht ein weites Ermessen zu (Art. 4 ZGB; <ref-ruling> E. 2a S. 411). Das Bundesgericht übt bei der Überprüfung solcher Entscheide Zurückhaltung und schreitet nur ein, wenn die Vorinstanz grundlos von in Lehre und Rechtsprechung anerkannten Grundsätzen abgewichen ist, wenn sie Tatsachen berücksichtigt hat, die für den Entscheid im Einzelfall keine Rolle hätten spielen dürfen, oder wenn sie umgekehrt Umstände ausser Betracht gelassen hat, die zwingend hätten beachtet werden müssen. Ausserdem greift das Bundesgericht in Ermessensentscheide ein, falls sich diese als offensichtlich unbillig, als in stossender Weise ungerecht erweisen (<ref-ruling> E. 2.1.1 S. 305; <ref-ruling> E. 1 S. 99).
3.3.4 Bei der Beurteilung der Frage, ob es den Eltern nach den gesamten Umständen zugemutet werden darf, für den Unterhalt des mündigen Kindes aufzukommen, steht dem Sachgericht ein weites Ermessen zu (Art. 4 ZGB; <ref-ruling> E. 2a S. 411). Das Bundesgericht übt bei der Überprüfung solcher Entscheide Zurückhaltung und schreitet nur ein, wenn die Vorinstanz grundlos von in Lehre und Rechtsprechung anerkannten Grundsätzen abgewichen ist, wenn sie Tatsachen berücksichtigt hat, die für den Entscheid im Einzelfall keine Rolle hätten spielen dürfen, oder wenn sie umgekehrt Umstände ausser Betracht gelassen hat, die zwingend hätten beachtet werden müssen. Ausserdem greift das Bundesgericht in Ermessensentscheide ein, falls sich diese als offensichtlich unbillig, als in stossender Weise ungerecht erweisen (<ref-ruling> E. 2.1.1 S. 305; <ref-ruling> E. 1 S. 99).
3.4 3.4.1 Das Kantonsgericht hat in tatsächlicher Hinsicht festgestellt, aufgrund der Weigerung der Mutter, den Kindsvater bekannt zu geben, hätten der Beschwerdeführer und Beschwerdegegner erst im September 1999 Kenntnis von ihrem Eltern- und Kindsverhältnis erhalten. Die (unverheirateten) Eltern seien in den Jahren nach der Geburt noch miteinander in Kontakt gewesen. Abgesehen von ganz wenigen ("zwei, drei") Ausnahmen sei der Beschwerdegegner aber jeweils nicht zugegen gewesen. Nach der Durchführung des Vaterschaftstests (im Rahmen des Verfahrens auf Vaterschaftsklage) hätten die Eltern den Kontakt eingestellt.
Der Beschwerdeführer habe im Mai 2003 versucht, mit Hilfe des Vormundschaftsamts und des Amtes für Kindesschutz einen ersten Kontakt zu seinem Sohn herzustellen. Dabei sollte auf Wunsch des Beschwerdegegners der Kontakt zwischen ihm und dem Beschwerdeführer vorerst brieflich entstehen. Das Amt für Kindesschutz habe im September 2003 einen Abklärungsbericht verfasst, eine Kindesschutzmassnahme als nicht nötig erachtet und das Dossier geschlossen, ohne den Beschwerdeführer davon in Kenntnis zu setzen. Erst im Mai 2005 und nach mehrmaliger Intervention seines Rechtsvertreters habe der Beschwerdeführer vom Abklärungsbericht Kenntnis erlangt. Der angestrebte Briefkontakt habe sich schliesslich auf wenige Briefe sowie Geburtstags- und Weihnachtskarten beschränkt. Einen darüber hinausgehenden Kontakt habe es nicht gegeben.
Im Ergebnis hätten mehrere Gründe dazu geführt, dass kein Vater-Sohn-Verhältnis habe aufgebaut werden können. Zwar habe der Beschwerdegegner kein Interesse, seinen Vater kennen zu lernen, was nicht rühmenswert sei. Der Beschwerdeführer müsse sich aber vorwerfen lassen, sich zu spät um eine Kontaktaufnahme zu seinem Sohn bemüht und bei den vormundschaftlichen Behörden zu wenig entschieden interveniert zu haben. Zudem hätte er einen intensiveren Briefkontakt zu seinem Sohn aufbauen können. Daneben treffe auch die Kindsmutter am fehlenden Verhältnis zwischen Vater und Sohn ein Verschulden und habe auch die ungeschickte Vorgehensweise der vormundschaftlichen Behörden dazu beigetragen.
3.4.2 Das Kantonsgericht ist zum Schluss gekommen, der fehlende Kontakt zwischen dem Beschwerdeführer und Beschwerdegegner liege nicht einzig in einem persönlich vorwerfbaren Verhalten des Beschwerdegegners. Es hat es deshalb für den Beschwerdeführer als in persönlicher Hinsicht zumutbar erachtet, Mündigenunterhalt zu leisten.
3.4.2 Das Kantonsgericht ist zum Schluss gekommen, der fehlende Kontakt zwischen dem Beschwerdeführer und Beschwerdegegner liege nicht einzig in einem persönlich vorwerfbaren Verhalten des Beschwerdegegners. Es hat es deshalb für den Beschwerdeführer als in persönlicher Hinsicht zumutbar erachtet, Mündigenunterhalt zu leisten.
3.5 3.5.1 Der Beschwerdeführer rügt die kantonsgerichtliche Sachverhaltsfeststellung und Beweiswürdigung als willkürlich (Art. 9 BV). Das Kantonsgericht habe zwar anerkannt, dass das Verhalten des Beschwerdegegners nicht rühmlich und dieser nicht bestrebt sei, ihn kennen zu lernen. Jedoch habe es dieses Verhalten im Ergebnis nicht entsprechend gewürdigt.
Er sei von Anfang an bemüht gewesen, einen Kontakt zu seinem Sohn herzustellen und sei am Aufbau einer persönlichen Beziehung interessiert gewesen. Auch wenn eine anfängliche abweisende Haltung des Kindes nachvollzogen werden könne, sei es nicht akzeptabel, dass der Beschwerdegegner auch "nach eins, zwei Jahren" keinen Willen zeige, auf die diversen Bemühungen von ihm zu reagieren. Es sei mit dem Zeitablauf immer weniger gerechtfertigt, dass der Beschwerdegegner den Kontakt zu ihm ablehne, zumal der Beschwerdegegner nach neun Jahren Französischunterricht nun auch in der Lage sei, sich in dieser Sprache mit ihm zu verständigen. Aus seiner Sicht handle es sich eindeutig um eine starrsinnige und einseitig ablehnende Haltung des Beschwerdegegners.
Für das fehlende Vater-Kind-Verhältnis treffe sodann den Beschwerdegegner die alleinige Verantwortung. Diese Verantwortung sei subjektiv bedingt und könne nicht mit objektiven Umständen gerechtfertigt werden. Mit seinem Verhalten reduziere ihn der Beschwerdegegner auf einen "Zahlvater".
Sodann sei der Vorwurf des Kantonsgerichts, er habe wichtige Zeit ungenutzt verstreichen lassen, ungerechtfertigt. Es werde damit ausser Acht gelassen, dass er in den Jahren 2003 - 2005 mehrmals versucht habe, über die vormundschaftlichen Behörden und über seinen Anwalt mit dem Beschwerdegegner Kontakt aufzunehmen, um eine Beziehung aufzubauen. Zu berücksichtigen sei dabei auch, dass er erst im Jahr 1999 Kenntnis davon erlangt habe, der Vater vom Beschwerdegegner zu sein und er sich nicht sogleich in der Lage gesehen habe, Kontakt mit seinem ausserehelichen Sohn aufzubauen, da diese Neuigkeit auch in seiner Familie zu Konflikten geführt habe. Ab dem Jahr 2003 habe er aber die Angelegenheit an die Hand genommen und trotz ablehnender Haltung des Beschwerdegegners regelmässig Geburtstags- und Weihnachtskarten zugesandt.
3.5.2 Aufgrund dieser Sachverhaltselemente sei deshalb im Ergebnis festzustellen, dass ihn am heute fehlenden Vater-Sohn-Verhältnis kein Verschulden treffe. Vielmehr habe der Beschwerdegegner bisher jegliche Kontaktaufnahme verweigert.
Es sei ihm folglich nicht zumutbar, dem Beschwerdegegner Mündigenunterhalt zu leisten. Das kantonsgerichtliche Urteil sei im Ergebnis willkürlich (Art. 9 BV) und verletze Art. 277 Abs. 2 ZGB.
4. 4.1 Soweit sich der Beschwerdeführer gegen die kantonsgerichtliche Beweiswürdigung wendet, begnügt er sich mit appellatorischer Kritik. Für die Darlegung der Willkür in der Beweiswürdigung reicht es nicht aus, der vom Sachgericht vorgenommenen Beweiswürdigung in appellatorischer Weise seine eigene entgegenzusetzen, wie dies der Beschwerdeführer ausdrücklich tut ("Es handelt sich dabei aus der Sicht der Unterzeichneten eindeutig um eine starrsinnige und einseitig ablehnende Haltung, die den Verlust des Mündigenunterhalts zu Folge hat, dies umso mehr der Beschwerdeführer sich immer wieder um Kontakt bemühte."). Eine vertiefte Auseinandersetzung mit der ausführlichen Begründung des Kantonsgerichts fehlt. Darauf ist nicht einzutreten (vgl. E. 2.2 oben).
4.2 Der Beschwerdegegner war im Zeitpunkt der Klageeinreichung 19 Jahre alt.
Das Kantonsgericht hat zurecht anerkannt, dass die ablehnende Haltung des Beschwerdegegners nicht korrekt und rühmenswert sei. Das Kantonsgericht hat aber ausgeführt, dieses Fehlverhalten des Beschwerdegegners sei in einem gewissen Sinne nachvollziehbar und gehe auf die Tatsache zurück, dass der Beschwerdegegner während über 13 Jahren ohne Vater aufgewachsen sei und nun plötzlich zu einer fremden Person ein Vater-Kind-Verhältnis aufbauen solle und dass auch dessen Mutter, den Beschwerdeführer und die vormundschaftlichen Behörden an dieser Situation ein Verschulden treffe.
Der Beschwerdeführer äussert sich nicht zum kantonsgerichtlichen Hinweis, dass auch die Mutter und die vormundschaftlichen Behörden einen mitunter erheblichen Teil zur heutigen Situation beigetragen haben, sondern begnügt sich mit Ausführungen, wonach jedenfalls ihn selbst kein Verschulden treffe.
Letztlich ist das Kantonsgericht von einem Grenzfall ausgegangen. In Anbetracht des ihm zustehenden beträchtlichen Ermessensspielraums (vgl. E. 3.3.4 oben) erscheint es nicht als bundesrechtswidrig, dass es in Würdigung der konkreten Sachumstände angenommen hat, die Verantwortung für das fehlende Vater-Sohn-Verhältnis liege nicht ausschliesslich auf Seiten des Beschwerdegegners, und dass sich der Beschwerdegegner demnach nicht grundlos dem Kontakt zum Beschwerdeführer entziehe, weshalb eine schuldhafte und schwerwiegende Verletzung familienrechtlicher Pflichten (einzig) durch den Beschwerdegegner verneint werden dürfe (zur fehlenden alleinigen Verantwortlichkeit des Kindes vgl. auch Urteile 5A_560/2011 vom 25. November 2011 E. 4.2.1, in: FamPra.ch 2012 S. 496; 5A_563/2008 vom 4. Dezember 2008 E. 5.3, in: FamPra.ch 2009 S. 520; 5C.231/2005 vom 27. Januar 2006 E. 3.2, in: FamPra.ch 2006 S. 488).
4.3 Aus den dargelegten Gründen bedeutet es keine rechtsfehlerhafte Ermessensausübung, wenn das Kantonsgericht dem Beschwerdeführer die Zahlung von Mündigenunterhalt an den Beschwerdegegner in persönlicher Hinsicht zugemutet hat.
Anzufügen bleibt jedoch, dass es vom Beschwerdegegner erwartet werden kann, nunmehr zu den erwähnten Gründen für die fehlende und nie aufgenommene Vater-Sohn-Beziehung Abstand zu gewinnen (vgl. E. 3.3.1 oben). Sollte er auch weiterhin den Kontakt zum Beschwerdeführer verweigern, wäre infrage gestellt und neu zu prüfen, inwieweit an den obigen Ausführungen festgehalten werden könnte (wobei dies vor allem eine Unterhaltspflicht des Beschwerdeführers an den Beschwerdegegner für eine an die Handelsmittelschule anschliessende Ausbildung betreffen würde).
5. 5.1 Der Beschwerdeführer wendet sich sodann gegen die kantonsgerichtliche Erhöhung der Parteientschädigung aus dem bezirksgerichtlichen Verfahren an den Beschwerdegegner. Wie die nachfolgenden Ausführungen zeigen, kann offen gelassen werden, ob der Beschwerdeführer für die selbstständige Anfechtung der kantonalen Kostenregelung überhaupt rechtsgenügliche Anträge stellt (vgl. dazu <ref-ruling> E. 2 S. 236 f.; Urteil 4A_225/2011 vom 15. Juli 2011 E. 2.6.2).
5.2 Das Kantonsgericht hat die Parteientschädigung des Beschwerdegegners für das bezirksgerichtliche Verfahren gestützt auf die einschlägigen kantonalen Rechtsgrundlagen auf Fr. 3'300.-- erhöht. Angesichts des Unterliegens des Beschwerdegegners vor Bezirksgericht von 1/4 setzte es die vom Beschwerdeführer zu leistende Parteientschädigung demnach auf Fr. 2'475.-- fest. Im Umfang des Unterliegens bestimmte es das Honorar der unentgeltlichen Rechtsbeiständin des Beschwerdegegners auf Fr. 475.--.
5.3 Der Beschwerdeführer macht geltend, es sei nicht nachvollziehbar, weshalb das Kantonsgericht auf das Begehren der Rechtsvertreterin des Beschwerdegegners auf Erhöhung der Parteientschädigung des bezirksgerichtlichen Verfahrens eingetreten sei. Der Entscheid sei insoweit unzureichend begründet und verletze damit seinen Anspruch auf rechtliches Gehör (Art. 29 Abs. 2 BV). Die Erhöhung erweise sich im Übrigen als willkürlich (Art. 9 BV), da sie ungerechtfertigt sei und in keinem Verhältnis zum geringen Aktenumfang stehe.
5.3 Der Beschwerdeführer macht geltend, es sei nicht nachvollziehbar, weshalb das Kantonsgericht auf das Begehren der Rechtsvertreterin des Beschwerdegegners auf Erhöhung der Parteientschädigung des bezirksgerichtlichen Verfahrens eingetreten sei. Der Entscheid sei insoweit unzureichend begründet und verletze damit seinen Anspruch auf rechtliches Gehör (Art. 29 Abs. 2 BV). Die Erhöhung erweise sich im Übrigen als willkürlich (Art. 9 BV), da sie ungerechtfertigt sei und in keinem Verhältnis zum geringen Aktenumfang stehe.
5.4 5.4.1 Geht es um einen Kostenentscheid (Gerichts- und/oder Parteikosten) wird die Partei persönlich und unmittelbar betroffen (<ref-ruling> E. 1b S. 255). Folglich ist nur die Partei selbst legitimiert, einen (behaupteterweise) zu tiefen Parteikostenersatz anzufechten. Steht hingegen die Festsetzung der Entschädigung der unentgeltlichen Rechtsbeiständin in Frage, ist die Rechtsvertreterin, der das Honorar nicht ihrer Kostenliste entsprechend festgesetzt wurde, zur Beschwerde legitimiert (Urteil 5D_175/2008 vom 6. Februar 2009 E. 1.2, in: Pra 2009 Nr. 114 S. 779).
5.4.2 Das Kantonsgericht ist auf die Anschlussberufung des Beschwerdegegners und seiner Rechtsvertreterin mit der Begründung eingetreten, dass die Gegenpartei (gemeint ist der Beschwerdegegner) den Kostenentscheid und damit die Parteientschädigung mit Anschlussberufung anfechten könne. Sodann sei nur die Offizialanwältin befugt, in Bezug auf ihr amtliches Honorar ein Rechtsmittel einzureichen (Ziff. 1e S. 5 f. des angefochtenen Entscheids).
Das Kantonsgericht ist demnach zutreffend davon ausgegangen, die Anschlussberufung des Beschwerdegegners betreffe (nur) die Parteientschädigung und diejenige seiner Rechtsvertreterin (nur) ihr Honorar als unentgeltliche Rechtsbeiständin.
Im Übrigen hat das Kantonsgericht die Erhöhung der Parteientschädigung auf Fr. 3'300.-- auf beinahe zwei Seiten (Ziff. 4c/cc S. 18 f. des angefochtenen Entscheids) ausführlich begründet. Die Rüge der Verletzung des Anspruchs auf rechtliches Gehör erweist sich demnach als unbegründet.
5.5 Soweit der Beschwerdeführer die Festsetzung der Parteientschädigung als willkürlich beanstandet, genügt es nicht, wenn er behauptet, der angefochtene Entscheid sei willkürlich. Er hat vielmehr die kantonale Bestimmung, die seines Erachtens willkürlich angewandt worden sein soll, zu bezeichnen und anhand der angefochtenen Subsumtion im Einzelnen zu zeigen, inwiefern der Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem und offensichtlichem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (<ref-ruling> E. 2.1 S. 3; <ref-ruling> E. 2a S. 3).
Diesen Anforderungen vermag die Willkürrüge des Beschwerdeführers nicht zu genügen, weshalb darauf nicht einzutreten ist.
6. Aus den dargelegten Gründen muss die Beschwerde abgewiesen werden, soweit darauf einzutreten ist. Der Beschwerdeführer wird kosten-, nicht hingegen entschädigungspflichtig, da das Bundesgericht in der Hauptsache keine Vernehmlassung eingeholt hat und der Beschwerdegegner im Verfahren um aufschiebende Wirkung teilweise unterlegen ist, womit es sich insoweit rechtfertigt, die Parteikosten wettzuschlagen.
Das Gesuch des Beschwerdegegners um unentgeltliche Rechtspflege und Verbeiständung (Art. 64 BGG) muss - soweit es nicht gegenstandslos geworden ist - abgewiesen werden, da der Anspruch auf unentgeltliche Rechtspflege und Verbeiständung gegenüber familienrechtlichen Beistands- und Unterhaltspflichten subsidiär ist (zu Art. 277 Abs. 2 ZGB vgl. <ref-ruling> E. 3 S. 204 ff.) und der Beschwerdegegner vor dem Hintergrund der finanziellen Verhältnisse seiner unterstützungspflichtigen Eltern die Bedürftigkeit nicht darlegt (Urteil 5C.150/2005 vom 11. Oktober 2005 E. 5; vgl. auch Urteil 5A_508/2007 vom 3. Juni 2008 E. 5).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Das Gesuch des Beschwerdegegners um unentgeltliche Rechtspflege und Verbeiständung für das bundesgerichtliche Verfahren wird abgewiesen, soweit es nicht gegenstandslos geworden ist.
4. Dieses Urteil wird den Parteien und dem Kantonsgericht Wallis, I. zivilrechtliche Abteilung, schriftlich mitgeteilt.
Lausanne, 4. Dezember 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Bettler