Sachverhalt:
A. Rechtsanwalt A._ (Beschwerdeführer) war von dem 1989 verstorbenen F._ als Willensvollstrecker eingesetzt worden. F._ hinterliess als gesetzliche Erben den Sohn G._ aus erster Ehe, die (zweite) Ehefrau B._ und die Kinder aus zweiter Ehe C._, D._ und E._, welche er alle auf den Pflichtteil setzte. Im Juli 1993 klagten B._, D._ (Beschwerdegegnerin 2) und E._ (Beschwerdegegner 3) gegen den Beschwerdeführer als Willensvollstrecker. Sie verlangten dessen Verpflichtung zur Erstellung einer vollständigen Buchhaltung mit Jahresabschlüssen über den Nachlass von F._ sowie die Auszahlung verschiedener Beträge aus Erbteilung. Mit Teilurteil vom 21. Juli 1995 verpflichtete das Bezirksgericht Winterthur den Beschwerdeführer zur Vorlage einer geordneten, nachvollziehbaren Buchhaltung über den Nachlass des verstorbenen F._. Gleich entschied das Obergericht des Kantons Zürich am 16. März 1998 auf Berufung des Beschwerdeführers. Die gegen dieses Urteil geführte Nichtigkeitsbeschwerde wies das Kassationsgericht des Kantons Zürich am 18. November 1999 ab, soweit es darauf eintrat. Es führte im Rubrum seines Beschlusses anstelle der im März 1997 verstorbenen B._ deren Kinder auf, nämlich C._ (Beschwerdegegner 1a) sowie die Beschwerdegegner 2 und 3. Letztere sind somit sowohl infolge ihrer eigenen Klage als auch in ihrer Stellung als Erben ihrer Mutter (als Beschwerdegegner 1b und 1c) am Verfahren beteiligt.
B. In einem weiteren Urteil verpflichtete das Bezirksgericht Winterthur den Beschwerdeführer am 24. Juli 2001 zur Zahlung verschiedener Beträge an die Beschwerdegegner in der Annahme, dieser habe keine nachvollziehbare Buchhaltung entsprechend der Verpflichtung im ersten Urteil eingereicht. Das diesen Entscheid bestätigende Urteil des Obergerichts des Kantons Zürich vom 20. November 2003 wurde jedoch vom Kassationsgericht des Kantons Zürich am 21. Juli 2004 aufgehoben und das Obergericht angewiesen, die Sache an das Bezirksgericht zur Weiterführung des erstinstanzlichen Verfahrens, insbesondere zur Gewährung des rechtlichen Gehörs zurückzuweisen. In seinem hierauf ergangen dritten Urteil verpflichtete das Bezirksgericht Winterthur den Beschwerdeführer erneut zur Zahlung der Beträge gemäss dem früheren Urteil vom 24. Juli 2001 an die Beschwerdegegner, weil auch die neue Teilungsrechnung nicht nachvollziehbar und die Honorarrechnung des Willensvollstreckers zu pauschal sei. Das Obergericht des Kantons Zürich entschied auf Berufung des Beschwerdeführers gleich wie das Bezirksgericht und verpflichtete diesen mit Urteil vom 19. August 2008, den Beschwerdegegnern 1a, 1b und 1c als Erben der B._ insgesamt Fr. 54'190.80 zu bezahlen sowie den Beschwerdegegnern 2 und 3 als Erben von F._ Fr. 4'237.50, jeweils nebst Zins. Die vom Beschwerdeführer gegen dieses Urteil eingereichte kantonale Nichtigkeitsbeschwerde wies das Kassationsgericht des Kantons Zürich mit Zirkulationsbeschluss vom 24. September 2009 ab, soweit es darauf eintrat.
C. Der Beschwerdeführer beantragt dem Bundesgericht mit Beschwerde in Zivilsachen, es sei das Urteil des Obergerichts vom 19. August 2008 aufzuheben und die Klage abzuweisen, eventuell sei der Prozess an das Bezirksgericht Winterthur zurückzuweisen. Die Beschwerdegegner schliessen auf kostenfällige Abweisung der Beschwerde. Das Kassationsgericht wie auch das Obergericht haben auf Stellungnahme verzichtet.
Erwägungen:
1. Mit dem Entscheid in der Sache wird das vom Beschwerdeführer gestellte Gesuch um Erteilung der aufschiebenden Wirkung gegenstandslos.
1.1 Gemäss Art. 75 Abs. 1 BGG ist die Beschwerde zulässig gegen Entscheide letzter kantonaler Instanzen und des Bundesverwaltungsgerichts. Dabei knüpft der Begriff der Letztinstanzlichkeit an jenen von Art. 86 Abs. 1 OG an. Letztinstanzlichkeit gemäss Art. 75 Abs. 1 BGG bedeutet, dass der kantonale Instanzenzug für die Rügen, die dem Bundesgericht vorgetragen werden, ausgeschöpft sein muss (BGE 134 III 524 E. 1.3 S. 527 mit Hinweisen).
1.2 Der Beschwerdeführer stellt in der Beschwerdeschrift ausdrücklich klar, der Entscheid des Kassationsgerichts werde nicht angefochten. Soweit er gegen das Urteil des Obergerichts Rügen erhebt, die er dem Kassationsgericht unterbreiten konnte, ist deshalb auf die Beschwerde nicht einzutreten. Diesbezüglich ist das angefochtene Urteil nicht letztinstanzlich (Art. 75 Abs. 1 BGG; BGE 134 III 524 E. 1.3 S. 527 mit Hinweisen). Nach § 281 der Zivilprozessordnung vom 13. Juni 1976 (ZPO/ZH, LS 271) kann mit Nichtigkeitsbeschwerde geltend gemacht werden, der angefochtene Entscheid beruhe zum Nachteil des Nichtigkeitsklägers auf einer Verletzung eines wesentlichen Verfahrensgrundsatzes (Ziff. 1), auf einer aktenwidrigen oder willkürlichen tatsächlichen Annahme (Ziff. 2) oder auf einer Verletzung klaren materiellen Rechts (Ziff. 3). Ausgeschlossen ist die Nichtigkeitsbeschwerde, wenn das Bundesgericht einen Mangel frei überprüfen kann, wobei sie gemäss § 285 Abs. 2 ZPO/ZH stets zulässig ist, wenn eine Verletzung von Art. 8, 9, 29 oder 30 BV oder von Art. 6 EMRK geltend gemacht wird. Auf die Beschwerde ist daher nicht einzutreten, soweit darin Willkür bei der Beweiswürdigung oder eine Verletzung des Gehörsanspruchs gerügt wird.
2. Der Beschwerdeführer bestreitet zunächst sinngemäss die Aktivlegitimation der Beschwerdegegner 1a-c. Diese hätten nie nachgewiesen und die Vorinstanzen nie geprüft, wer alles Erbe von B._ sei. Der eingereichte Todesschein sage nichts darüber aus, wer mit welcher Quote am Nachlass der verstorbenen Person berechtigt sei. Erbscheine lägen nicht vor. Sofern der Beschwerdeführer indessen Zweifel hatte, ob neben den Beschwerdegegnern 1a-c weitere Erben vorhanden sind, oder der Auffassung war, wegen Ungewissheit über die Erbfolge seien weitere Abklärungen durch das Gericht notwendig (vgl. GULDENER, Schweizerisches Zivilprozessrecht, 3. Aufl. 1979, S. 276 Fn. 58), hätte er im kantonalen Verfahren rechtzeitig und prozesskonform bestreiten müssen, dass sich die Erbengemeinschaft der Verstorbenen (nur) aus den Beschwerdegegnern 1a-c zusammensetzt. Dass er dies getan hätte, geht aus den Entscheiden des Obergerichts und des Kassationsgerichts nicht hervor und wird in der Beschwerdeschrift nicht mit Aktenhinweis aufgezeigt, so dass eine diesbezügliche Ergänzung des Sachverhalts ausscheidet (Art. 105 Abs. 1 BGG; Art. 99 Abs. 1 BGG; vgl. BGE 115 II 484 E. 2a S. 485 f.). Dass vor dem Kassationsgericht eine Bestreitung erfolgte, ist nicht massgebend, da dessen Entscheid nicht angefochten ist. Hat der Beschwerdeführer vor Obergericht nicht prozesskonform bestritten, dass die Beschwerdegegner 1a-c die Erbegemeinschaft ihrer Mutter bilden, war das Obergericht von Bundesrechts wegen nicht gehalten, weitere Abklärungen vorzunehmen. Soweit die Rüge überhaupt zulässig ist, erweist sie sich als unbegründet.
3. Nicht zu hören ist die Bestreitung der Aktivlegitimation des Beschwerdegegners 1a mit der Begründung, dieser habe den Erbanteil am mütterlichen Nachlass am 16. Januar 2002 abgetreten. Das Kassationsgericht erachtete diese Behauptung für neu und damit unzulässig. Da dessen Entscheid unangefochten blieb, hat es dabei sein Bewenden. Dass der Beschwerdeführer erst im Rahmen der Vorbereitung seiner kantonalen Nichtigkeitsbeschwerde auf das betreffende Dokument in den Akten gestossen ist, wie er vor Bundesgericht vorträgt, ändert daran nichts.
4. Der Beschwerdeführer stellt nicht in Abrede, dass er als Willensvollstrecker gegenüber den Erben auskunfts- und abrechnungspflichtig ist. Hingegen ist er der Meinung, er sei seiner Rechenschaftspflicht hinreichend nachgekommen.
4.1 Dies trifft nach Auffassung des Obergerichts nicht zu. Die eingereichte Buchhaltung in Tabellenform vermag nach dem angefochtenen Urteil nur unter grossem Zeitaufwand ein einigermassen umfassendes Bild zu vermitteln, und aufgrund dieser Buchhaltung ist die Schlussabrechnung nur nach intensivem und aufwendigem Studium verständlich. Das Obergericht erläutert anhand mehrerer Beispiele die Schwierigkeiten bei der Zuordnung und Kontrolle der einzelnen Posten sowie beim Nachvollzug der Schlussabrechnung und hält fest, die Buchhaltung genüge dem Erfordernis, mit angemessenem Aufwand und innerhalb von einigen wenigen Stunden verständlich und auf Übereinstimmung mit den Belegen überprüfbar zu sein, nicht. Die Unterlagen, die sich an verschiedenen Orten in den Akten befinden, und die nachgebrachten oder nur angebotenen Erklärungen sowie die Belegablage erfüllen nach Auffassung des Obergerichts angesichts des für das Studium und das Verschaffen eines Gesamtüberblicks notwendigen Zeitaufwandes die Anforderungen an eine ordentliche, nachvollziehbare Buchhaltung und Teilungsrechnung insgesamt nicht.
4.2 In einer Alternativbegründung erwog die Vorinstanz, die Klage auf Zahlung von insgesamt Fr. 62'674.80 nebst Zins müsste auch gutgeheissen werden, wenn - unter Ausklammerung des bestrittenen Willensvollstreckerhonorars - von einer nachvollziehbaren Teilungsrechnung auszugehen wäre. Der Beschwerdeführer habe gemäss seiner Schlussabrechnung ein Willensvollstreckerhonorar von Fr. 77'147.-- geltend gemacht. Davon entfallen nach Auffassung des Obergerichts gut 70 % (abgerundet Fr. 54'300.--) auf die Beschwerdegegner. Der Beschwerdeführer habe indessen nicht hinreichend detailliert behauptet, welche Verrichtungen er wann, wofür und wie lange als Willensvollstrecker vorgenommen habe. Hierzu wäre er aber im Hinblick auf die Bestreitung von Umfang und Notwendigkeit seiner Aufwendungen gehalten gewesen. Trotz mehrfacher Hinweise seitens des Gerichts auf die Notwendigkeit derartiger Substanziierung habe er diese nicht nachgeholt. Seine allgemein gehaltenen Erklärungen, es hätten zwei Nachlässe auseinander gehalten und geteilt werden müssen, die Teilung des Nachlasses des vorverstorbenen Sohn des Erblassers sei problematisch gewesen, es sei auch Grundeigentum in K._ zu veräussern gewesen etc. hätten den Beschwerdegegnern nicht erlaubt, die Honorarforderung im Detail zu bestreiten. Die Beschwerdegegner hätten daher ihre Klage aufgrund der ihnen bekannten Parameter beziffern müssen. Da bereits die Notwendigkeit der Bemühungen bestritten werde, verbiete sich eine Schätzung des angemessen Honorars durch das Gericht. Die Beschwerdegegner hätten auch kein Honorar anerkannt, das den Zinsanteil von B._ vor dem 24. Dezember 1992 übersteige. Zähle man zu dem auf die Beschwerdegegner fallenden Anteil der Rechnung von Fr. 54'300.-, welchen der Beschwerdeführer nach Ansicht des Obergerichts nicht beanspruchen kann, den anerkannten Anspruch auf Fr. 8'750.-- aus einem Rückbehalt für eine Schadenersatzforderung hinzu, ergebe dies Fr. 63'050.--, welcher Betrag die streitige Forderung übersteige.
4.3 Nach Art. 42 Abs. 2 BGG ist in der Beschwerdeschrift in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Soweit das Bundesgericht das Recht von Amtes wegen anwendet (Art. 106 BGG), ist zwar eine ausdrückliche Nennung bestimmter Gesetzesartikel nicht erforderlich, falls aus den Vorbringen hervorgeht, gegen welche Regeln des Bundesrechts die Vorinstanz verstossen haben soll. Unerlässlich ist aber, dass auf die Begründung des angefochtenen Urteils eingegangen und im Einzelnen dargetan wird, worin eine Verletzung von Bundesrecht liegen soll (BGE 134 V 53 E. 3.3 S. 60; 133 IV 286 E. 1.4; vgl. BGE 121 III 397 E. 2a S. 400). Es geht nicht an, in einer Beschwerde in Zivilsachen appellatorische Kritik an der Beweiswürdigung des kantonalen Gerichts zu üben und Ergänzungen bezüglich der tatsächlichen Feststellungen vorzunehmen, als ob dem Bundesgericht im Beschwerdeverfahren die freie Prüfung aller Tatfragen zukäme (BGE 133 II 249 E. 1.4.3 S. 254 f. mit Hinweisen). Beruht ein Entscheid auf mehreren selbständigen alternativen Begründungen, ist für jede einzelne darzutun, weshalb sie Recht verletzt; denn soweit nicht beanstandete Begründungen das angefochtene Urteil selbständig stützen, fehlt das Rechtsschutzinteresse an der Beurteilung der gehörig begründeten Rügen (BGE 133 IV 119 E. 6.3 S. 120 f.; vgl. auch BGE 132 III 555 E. 3.2 S. 560; je mit Hinweisen). Der Beschwerdeführer kritisiert beide Begründungen des Obergerichts und kommt insoweit seiner Begründungsobliegenheit nach.
4.4 Der Beschwerdeführer macht unter Hinweis auf sämtliche Buchhaltungsbelege geltend, jede Transaktion sei buchhalterisch erfasst, und es sei darüber abgerechnet worden, wobei sich aus diesen Abrechnungen ergebe, wer was zugute und bereits erhalten habe und warum was nicht ausbezahlt worden sei (Rückbehalt und Willensvollstreckerhonorar). Der Beschwerdeführer verkennt, dass die Vorinstanz nicht ein bestimmtes Ablagesystem für die Buchhaltungsbelege forderte, sondern annahm, die vom Beschwerdeführer vorgenommene Ordnung der Belege tauge nicht als Grundlage einer Erbteilungsschlussabrechnung. Mit den Erwägungen der Vorinstanz setzt sich der Beschwerdeführer im Übrigen nicht hinreichend auseinander, sondern unterbreitet dem Bundesgericht unabhängig davon seine eigene Sicht der Dinge. Entgegen der Auffassung des Beschwerdeführers verletzt das Obergericht kein Bundesrecht, wenn es verlangt, eine Teilungsrechnung und die dieser zugrunde liegende Buchhaltung müssten mit vernünftigem Aufwand ohne zusätzliche Erklärungen nachvollziehbar sein. Auch wenn bundesrechtlich kein bestimmtes Ablagesystem vorgeschrieben ist, kann von einer gehörigen Erfüllung nur die Rede sein, wenn das gewählte System gewissen Mindestanforderungen genügt. Dies war nach den Feststellungen des Obergerichts nicht der Fall. Die Beschwerde ist in diesem Punkte unbegründet, soweit darauf einzutreten ist.
4.5 Was den betreffend seinen Honoraranspruch von der Vorinstanz erhobenen Vorwurf mangelnder Substanziierung anbelangt, bringt der Beschwerdeführer vor, nachdem er seiner Behauptungslast genügt habe, hätten ihm die Vorinstanzen den Beweis für den behaupteten Zeitaufwand auferlegen müssen. Jedoch sei im gesamten Verfahren nie ein Beweisauflagebeschluss erlassen worden. Nach Auffassung der Vorinstanz war gerade dies nicht möglich, da die vom Beschwerdeführer aufgestellten Behauptungen den Detaillierungsgrad nicht erreichten, welcher es den Beschwerdegegnern erlaubt hätte, sich in Auseinandersetzung mit dem Vorgebrachten darüber schlüssig zu werden, ob eine bestimmte Behauptung anerkannt oder bestritten werden sollte. Hierauf geht der Beschwerdeführer nicht hinreichend ein. Eine Bundesrechtsverletzung ist weder aufgezeigt noch ersichtlich. Auf die in diesem Zusammenhang erhobene Rüge der Verletzung von Art. 29 Abs. 2 BV ist mangels Erschöpfung des kantonalen Instanzenzugs nicht einzutreten.
4.6 Des Weiteren rügt der Beschwerdeführer, selbst bei mangelnder Substanziierung des Zeitaufwandes hätte das Teilhonorar von Fr. 21'675.-- anerkannt werden müssen, da es einen Anteil von 1.5 % der Bruttonachlassaktiven von Fr. 1'445'000.-- darstellte. Auch mit diesem Einwand dringt der Beschwerdeführer nicht durch. Nach dem angefochtenen Urteil bestritten die Beschwerdegegner nicht bloss die angemessene Höhe des Honorars, sondern die Notwendigkeit der Bemühungen, wie der Beschwerdeführer selbst festhält. Fehlte es daran, was sich angesichts der mangelnden Substanziierung der Verrichtungen durch den Beschwerdeführer nicht ausschliessen lässt, steht ihm auch kein prozentualer Anteil an den Nachlassaktiven zu. Soweit er ausführt, von seinen Arbeiten hätten die Beschwerdegegner profitiert und er habe alle ihm übertragenen Pflichten ohne Verzug und im Interesse aller Erben wahrgenommen, finden seine Angaben in den für das Bundesgericht verbindlichen Feststellungen der Vorinstanz keine Stütze, und sie würden mangels hinreichender Bestimmtheit auch keinerlei Schätzung des angemessenen Honorars zulassen. Von einer Verletzung von Art. 8 ZGB oder von Art. 394 Abs. 3 OR bzw. von Art. 517 Abs. 3 ZGB, welcher bestimmt, dass dem beauftragten Willensvollstrecker ein Honorar zusteht, kann im Hinblick darauf, dass der Beschwerdeführer nicht hinreichend dargelegt hat, welche Tat- oder Rechtshandlungen er in welcher Zeit ausgeführt hat, nicht die Rede sein. Demnach kommt auch der Ersatz der behaupteten Aufwendungen für den beigezogenen Buchhalter nicht in Frage.
4.7 Schliesslich beanstandet der Beschwerdeführer, das Obergericht nehme zu Unrecht an, er sei seit dem Mahnschreiben vom 24. Dezember 1992 in Verzug gewesen. Er geht indessen selbst davon aus, sofern sich der Willensvollstrecker mit einer klar fälligen Geldleistung in Verzug befinde, sei von einem Verzugszins von 5 % gemäss Art. 104 Abs. 1 OR auszugehen. Es sei aber nicht zu beanstanden, wenn der Willensvollstrecker, wie im zu beurteilenden Fall, ein Restgeld vor der möglichen Teilung nicht auszahle, weil mehrere Fragen und Verfahren mit Reflexwirkung auf das letztlich auszubezahlende Geld pendent seien. Entsprechendes ist indessen nicht festgestellt. Mit seinen Vorbringen setzt sich der Beschwerdeführer in tatsächlicher Hinsicht in Widerspruch zur Annahme des Obergerichts, bereits im Zeitpunkt der erfolgten Mahnung vom 24. Dezember 1992 sei die Schlussabrechnung oder zumindest ein konkreter Abrechnungsvorschlag möglich gewesen. Da das Kassationsgericht diese Annahme in tatsächlicher Hinsicht hätte überprüfen können, ist der angefochtene Entscheid insoweit nicht letztinstanzlich. Eine Bundesrechtsverletzung ist nicht ersichtlich. Nicht einzutreten ist auf die Beschwerde, soweit darin die Feststellung der Vorinstanz beanstandet wird, der Bescherdeführer habe es unterlassen darzutun, bis wann über die vom Garagenmieter in K._ geltend gemachte Forderung von Fr. 20'000.-- Ungewissheit geherrscht habe. Auch in dieser Hinsicht legt der Beschwerdeführer seinem Vorbringen einen beliebig erweiterten Sachverhalt zugrunde. Das ist unzulässig.
5. Die Beschwerde genügt über weite Strecken den Begründungsanforderungen nicht, so dass insoweit nicht darauf eingetreten werden kann. Sie ist im Übrigen abzuweisen. Bei diesem Verfahrensausgang wird der Beschwerdeführer kosten- und entschädigungspflichtig.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 4'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegner für das bundesgerichtliche Verfahren mit insgesamt Fr. 5'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Obergericht des Kantons Zürich, I. Zivilkammer, und dem Kassationsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 27. April 2010
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Klett Luczak