Das Bundesgericht zieht in Erwägung:
1. In einem von C._ gegen A._ und B._ am 3. Februar 2003 am Bezirksgericht Leuk eingeleiteten Verfahren auf Auflösung der einfachen Gesellschaft "X._" sowie auf Zahlung von Fr. 140'020.25 durch A._ und von Fr. 133'306.10 durch B._, je nebst Zins, sowie auf Feststellung der Solidarität im Sinne von <ref-law> fand nach Überweisung der Akten an das Kantonsgericht Wallis am 10. November 2004 die Schlussverhandlung statt. Das Urteil erging am 12. Mai 2005. Danach schulden A._ und B._ C._ Fr. 32'671.65 bzw. Fr. 30'993.15, je nebst Zins. Alle anders lautenden oder weitergehenden Rechtsbegehren wurden abgewiesen.
2. Gegen dieses Urteil führen A._ und B._ staatsrechtliche Beschwerde mit dem Antrag auf Aufhebung des angefochtenen Urteils.
Der Beschwerdegegner schliesst auf Abweisung der staatsrechtlichen Beschwerde und Bestätigung des angefochtenen Urteils unter Kosten- und Entschädigungsfolgen zu Lasten der Beschwerdeführer. Subsidiär verlangt er die unentgeltliche Rechtspflege für das Verfahren vor Bundesgericht.
Das Kantonsgericht Wallis stellt keinen formellen Antrag.
3. Die Beschwerdeführer rügen unter anderem eine Verletzung ihres Anspruchs auf rechtmässige Zusammensetzung des Gerichts nach <ref-law>. Zur Begründung tragen sie vor, anlässlich der Schlussverhandlung habe sich das Kantonsgericht aus den Kantonsrichtern D._ als Präsident und Dr. E._ sowie aus Kantonsrichterin F._ und Gerichtsschreiberin G._ zusammengesetzt. Zu Beginn der Verhandlung habe der Gerichtspräsident die Parteivertreter angefragt, ob sie etwas dagegen einzuwenden hätten, dass anstelle des vorgesehenen, jedoch verhinderten Kantonsrichters H._ Frau Kantonsrichterin F._ im Dreiergericht Einsitz nehme. Beide Parteien hätten sich mit dieser neuen Zusammensetzung des Gerichts einverstanden erklärt. Gemäss Rubrum des Entscheides vom 12. Mai 2005 habe dann aber neben den Kantonsrichtern D._ und Dr. E._ nicht Kantonsrichterin F._ an der Fällung des Urteils mitgewirkt, sondern Kantonsrichter H._. Dieser Richter habe jedoch der ausschliesslich mündlichen, in keinem Protokoll festgehaltenen Schlussverhandlung nicht beigewohnt, und er habe sich auf Grund der Akten nicht die gleichen Kenntnisse wie die übrigen Richter verschaffen können. Der Anspruch auf rechtliches Gehör (<ref-law>) wie auch jener auf rechtmässige Zusammensetzung des Gerichts (<ref-law>) sind deshalb nach Ansicht der Beschwerdeführer verletzt.
Die Sachdarstellung der Beschwerdeführer wird in der Vernehmlassung des Kantonsgerichts sowie in jener des Beschwerdegegners bestätigt.
4. Nach <ref-law> hat jede Person, deren Sache in einem gerichtlichen Verfahren beurteilt werden muss, Anspruch auf ein durch Gesetz geschaffenes, zuständiges, unabhängiges und unparteiisches Gericht. Diese Vorschrift, die den Gehalt des Art. 58 Abs. 1 aBV übernommen hat, garantiert unter anderem den Anspruch auf richtige Zusammensetzung des Gerichts. Die Frage der richtigen Besetzung des Gerichts beurteilt sich zunächst nach dem einschlägigen kantonalen Verfahrensrecht. Wird mit staatsrechtlicher Beschwerde eine Verletzung von <ref-law> gerügt, so prüft das Bundesgericht die Auslegung und Anwendung des kantonalen Gesetzesrechts nur unter dem Gesichtswinkel des Willkürverbots. Mit freier Kognition beurteilt es indessen, ob die als vertretbar erkannte Auslegung des kantonalen Rechts mit den Garantien von <ref-law> vereinbar ist (<ref-ruling> E. 3c S. 130; <ref-ruling> E. 3b S. 73; <ref-ruling> E. 2b S. 51, je mit Hinweisen).
Im vorliegenden Falle gab das Gericht mit der Vorladung den Parteien die Zusammensetzung des Gerichtshofs bekannt, wobei es D._ als Präsidenten, H._ und Dr. E._ als Richter aufführte sowie als Gerichtsschreiberin G._. Daraus ergab sich die Notwendigkeit der Mitteilung einer Änderung der Besetzung, welche nach den Vorbringen der Beschwerdeführer korrekt erfolgt ist. Dass aber eine Partei erwarten darf, von jenen Richtern beurteilt zu werden, die ihren mündlichen Vortrag auch gehört haben, ergibt sich aus dem Kerngehalt des Anspruchs auf rechtliches Gehör nach <ref-law> und bedarf keiner weiteren Erörterung.
Die Ausführungen der Parteien zur Sache wurden nicht protokolliert. Das Protokoll der Schlussverhandlung gibt lediglich über Ort, Datum, die Besetzung des Gerichtshofs und die anwesenden Personen Auskunft und lautet im übrigen wie folgt:
"1. Der Präsident eröffnet die Verhandlung um 10.30 Uhr.
2. Klagebegründung
Rechtsanwalt Zengaffinen begründet die Klage und hinterlegt seine schriftlichen Schlussbegehren.
3. Klageantwort
Rechtsanwalt Arnold antwortet auf die Klage und hält die Begehren gemäss Schlussdenkschrift aufrecht.
4. Replik
Rechtsanwalt Zengaffinen verzichtet auf eine Replik.
5. Urteilseröffnung
Das Urteil wird den Parteien mit ihrem Einverständnis schriftlich eröffnet werden.
6. Der Präsident erklärt um 11.15 Uhr
Schluss der Verhandlung."
Diese Art der Protokollierung entspricht <ref-law>/VS. Entgegen der Behauptung des Beschwerdegegners ist demnach nicht ersichtlich, wie sich der an der Urteilsfällung beteiligte Kantonsrichter H._ über die Vorbringen der Parteien an der Schlussverhandlung hätte ins Bild setzen können. Urteilte aber ein Richter in der Sache, ohne die Parteien angehört zu haben, ist der in <ref-law> verankerte Anspruch auf rechtliches Gehör offensichtlich verletzt. Zugleich führte der Umstand, dass ein Richter, der die Parteien nicht angehört hatte, am Urteilsspruch beteiligt war, dazu, dass das Gericht nicht gehörig besetzt war (<ref-ruling> E. 4c mit Hinweisen). Die staatsrechtliche Beschwerde ist insoweit begründet.
5. Dass ein nicht gehörig zusammengesetztes Gericht in der Sache entschieden hat, führt ungeachtet der Erfolgsaussichten der Beschwerde in der Sache zur Aufhebung des angefochtenen Entscheides (<ref-ruling> E. 4b mit Hinweis). Die weiteren Rügen der Beschwerdeführer sind deshalb nicht zu prüfen.
6. Bei diesem Verfahrensausgang wird der Beschwerdegegner, der sich der Aufhebung des angefochtenen Urteils widersetzt hat, als unterliegende Partei kosten- und entschädigungspflichtig (Art. 165 Abs. 1 und Art. 159 Abs. 2 OG). Da sein Standpunkt aussichtslos war, kommt die Gewährung der unentgeltlichen Rechtspflege für das Verfahren der staatsrechtlichen Beschwerde nicht in Frage (Art. 152 Abs. 1 OG).
Das Gericht erkennt im Verfahren nach Art. 36a OG:
1. Das Gesuch des Beschwerdegegners um unentgeltliche Rechtspflege wird abgewiesen.
2. In Gutheissung der staatsrechtlichen Beschwerde wird das Urteil des Kantonsgericht Wallis, Zivilgerichtshof I, vom 12. Mai 2005 aufgehoben.
3. Die Gerichtsgebühr von Fr. 2'500.-- wird dem Beschwerdegegner auferlegt.
4. Der Beschwerdegegner hat die Beschwerdeführer für das bundesgerichtliche Verfahren mit insgesamt Fr. 3'000.-- zu entschädigen.
5. Dieses Urteil wird den Parteien und dem Kantonsgericht Wallis, Zivilgerichtshof I, schriftlich mitgeteilt.
Lausanne, 6. September 2005
Im Namen der I. Zivilabteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber: