Sachverhalt:
A. A._ mit Wohnsitz in Q._ ist Inhaber der Patente 111._ (nachstehend: Patent 1) und 222._ (nachstehend: Patent 2).
B. Am 8. Juli 2002 reichte A._ (Kläger) beim Handelsgericht des Kantons Zürich gegen die X._ AG (Beklagte1), die Y._ AG (Beklagte 2), die Schweizerische Eidgenossenschaft (Beklagte 3) und die Z._ AG (Beklagte 4) eine Klage ein, mit der er im Wesentlichen verlangte, den Beklagten sei in der Schweiz und im Fürstentum Liechtenstein Herstellung, Vertrieb, Import, Lieferung und Reparatur von Geräten zur Ermittlung der leistungsabhängigen Schwerverkehrs-Abgabe (LSVA) - insbesondere der Geräte des Typs R._ - zu verbieten, welche die in der Klage im einzelnen aufgeführten Eigenschaften aufweisen. Zudem seien die Beklagten zu verpflichten, dem Kläger Schadenersatz in einer nach dem Beweisverfahren zu spezifizierenden Höhe zu zahlen oder den unrechtmässig erzielten Gewinn an den Kläger herauszugeben. Zur Begründung führte der Kläger an, die in der Klage umschriebenen Geräte verletzten die Ansprüche 1 und 11 seines Patentes 1 und die Ansprüche 1 und 12 seines Patentes 2. Zudem beantragte er die unentgeltliche Rechtspflege. Die Beklagten wendeten ein, diese Patentansprüche seien nichtig.
Mit Beschluss vom 21. Juli 2003 wies das Handelsgericht das Gesuch des Klägers um unentgeltliche Rechtspflege ab und setzte ihm Frist zur Leistung einer Prozesskaution von Fr. 800'000.--.
Der Kläger focht diesen Beschluss sowohl mit staatsrechtlicher Beschwerde als auch mit kantonaler Nichtigkeitsbeschwerde an. Das Bundesgericht trat auf die staatsrechtliche Beschwerde nicht ein. Das Kassationsgericht wies die Nichtigkeitsbeschwerde am 8. März 2004 ab, soweit es auf sie eintrat, und erneuerte die Frist zur Leistung der Prozesskaution von Fr. 800'000.--. Diesen Entscheid hob das Bundesgericht in Gutheissung einer staatsrechtliche Beschwerde des Klägers am 1. Juli 2004 mit der Begründung auf, bei der Prüfung der unentgeltlichen Rechtspflege seien die Erfolgsaussichten der Klagebegehren nicht geprüft worden. Daraufhin hob das Kassationsgericht am 19. Januar 2005 den Beschluss des Handelsgerichts vom 21. Juli 2003 auf und wies die Sache zur neuen Entscheidung an das Handelsgericht zurück.
Mit Verfügung vom 21. Oktober 2005 gab das Handelsgericht dem Kläger zur Prüfung des Gesuchs um unentgeltliche Rechtspflege Gelegenheit zur Beantwortung von Fragen betreffend seine finanziellen Verhältnisse und zur Stellungnahme zu dem von den Beklagten erhobenen Einwand der Teilnichtigkeit der Streitpatente. In der Folge lud das Handelsgericht die Parteien zu einer Verhandlung und liess im Hinblick darauf zur Frage der Prozessaussichten und als Grundlage eines Vergleichsvorschlags ein Fachrichterreferat erstellen. Nach der Verhandlung vom 11. Januar 2007 und der Mitteilung, dass Vergleichsgespräche zu keiner Einigung geführt hätten, liess das Handelsgericht das Fachrichterreferat zu einem Fachrichtervotum überarbeiten, das am 5. Oktober 2007 fertiggestellt wurde.
Der Fachrichter kam in seinem Votum zum Ergebnis, die angerufenen klägerischen Patentansprüche seien nicht rechtsgültig. Sie würden sich gegenüber dem damaligen Stand der Technik bzw. einem älteren Patent als nächstliegendem Stand der Technik zwar dadurch unterscheiden, dass Daten zweier Ermittlungseinheiten in einer Datenschalteinheit gespeichert, danach Vergleichswerte gewonnen und diese auf Unterschiede analysiert würden (Unterscheid I). Zudem werde die Datenschalteinheit an der Windschutzscheibe des Fahrzeugs befestigt (Unterschied II). Der Unterschied I sei für einen Fachmann naheliegend, wenn die Aufgabe gelöst werden müsse, einen in Echtzeit ermittelten Fahrzeugstand jederzeit, also auch in Nicht-Echtzeit zu analysieren. Die Befestigung an der Windschutzscheibe bilde nur eine von vielen Lösungen der Aufgabe, die Datenschalteinheit an einem Fahrzeugteil zu befestigen, dessen Ausbau aufwendig sei. Diese Lösung zeichne sich gegenüber anderen durch keine Vorteile aus und sei deshalb nicht erfinderisch. Werde von der Aufgabe ausgegangen, dass die Datenschalteinheit ausserhalb und innerhalb des Fahrzeuges zu sehen sei, so biete sich für die Befestigung naheliegenderweise die Windschutzscheibe an, weshalb auch dies nicht erfinderisch sei.
Am 11. Oktober 2007 stellte das Handelsgericht das Fachrichtervotum den Parteien zur Stellungnahme zu. Es gelangte zum Schluss, die Patente 1 und 2 seien im Rahmen der geltend gemachten Ansprüche nicht rechtsgültig. Da der Kläger keine Einschränkungsmöglichkeiten gezeigt habe, die zu rechtsgültigen Ansprüchen hätten führen können und sich die Beurteilung der Gültigkeitsfrage gestützt auf unbestrittene Sachverhalte als technisch nicht schwierig und eindeutig erwiesen habe, sei die Klage - ausgehend von den Verhältnissen bei Einreichung der Klage - aussichtslos gewesen. Demnach wies das Handelsgericht mit Beschluss vom 23. August 2008 den Antrag des Klägers auf Gewährung der unentgeltlichen Rechtspflege erneut ab und setzte ihm eine einmal erstreckbare Frist bis 29. September 2008, um für die Gerichtskosten und die Prozessentschädigung eine Prozesskaution von Fr. 1.1 Mio. zu leisten.
Das Kassationsgericht wies eine dagegen gerichtete Nichtigkeitsbeschwerde des Klägers mit Zirkulationsbeschluss vom 3. März 2010 ab, soweit es darauf eintrat, und setzte dem Kläger eine neue Frist von 30 Tagen ab Zustellung des Beschlusses zur Zahlung der Prozesskaution.
C. Der Kläger (Beschwerdeführer) erhebt Beschwerde in Zivilsachen mit den Anträgen, den Beschluss des Handelsgerichts vom 23. August 2008 und den Zirkulationsbeschluss des Kassationsgerichts vom 3. März 2010 aufzuheben und dem Beschwerdeführer im Klageverfahren die unentgeltliche Rechtspflege und -verbeiständung zu gewähren. Er ersucht um Ansetzung einer Frist, um seine Klagebegehren zu begrenzen oder Vorschläge zu unterbreiten sowie um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren. Für den Fall einer Sitzung sei ihm ein unentgeltlicher Rechtsbeistand beizugeben. Seinem Begehren, der Beschwerde die aufschiebende Wirkung zuzuerkennen, wurde mit Präsidialverfügung vom 26. April 2010 entsprochen.
Mit Verfügung vom 21. Juni 2010 wies das Bundesgericht das Begehren um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren ab und forderte den Beschwerdeführer auf, einen Kostenvorschuss von Fr. 12'000.-- zu bezahlen. Ein dagegen erhobenes Revisionsgesuch des Beschwerdeführers wies das Bundesgericht mit Verfügung vom 19. Oktober 2010 ab, worauf der Beschwerdeführer den verlangten Kostenvorschuss innert der neu angesetzten Frist bezahlte.
Zur Beschwerde wurden keine Vernehmlassungen eingeholt.
Erwägungen:
1. 1.1 Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob auf eine Beschwerde einzutreten ist (BGE 133 II 249 E. 1.1 S. 251; 131 II 58 E. 1 S. 60; je mit Hinweisen).
1.2 Gegenstand des Verfahrens bildet eine Zivilsache (Art. 72 Abs. 1 BGG). Die Rechtsbegehren des Beschwerdeführers sind im kantonalen Verfahren nicht geschützt worden (Art. 76 Abs. 1 BGG), der massgebende Streitwert beträgt mehr als Fr. 30'000.-- (Art. 74 Abs. 1 lit. a BGG) und die Beschwerdefrist ist eingehalten (Art. 100 Abs. 1 und Abs. 6 BGG i.V.m. Art. 44 f. BGG).
1.3 Die angefochtenen Beschlüsse schliessen das Klageverfahren nicht ab und sind daher selbständig eröffnete Zwischenentscheide im Sinne von Art. 93 BGG. Gegen solche ist die Beschwerde in Zivilsachen - abgesehen vom hier nicht gegebenen Ausnahmefall gemäss Art. 93 Abs. 1 lit. b BGG - nur zulässig, wenn sie einen nicht wieder gutzumachenden Nachteil bewirken können (Art. 93 Abs. 1 lit. a BGG). Diese Voraussetzung ist gegeben, weil ein solcher Nachteil durch die Verweigerung der unentgeltlichen Verbeiständung und die Aufforderung zur Leistung eines Kostenvorschusses bewirkt wird, wenn im Säumnisfall auf die Klage bzw. das Rechtsmittel nicht eingetreten wird (Urteil 4A_100/2009 vom 15. September 2009 E. 1.3 mit Hinweisen, nicht publiziert in BGE 135 III 603).
1.4 Weiter setzt die Beschwerde in Zivilsachen voraus, dass das angefochtene Urteil letztinstanzlich ist (Art. 75 Abs. 1 BGG). Dies trifft bezüglich des Zirkulationsbeschlusses des Kassationsgerichts zu. Die Beschwerde ist damit zulässig, soweit sie sich gegen diesen Beschluss richtet. Der Beschluss des Handelsgerichts vom 23. August 2008 ist dagegen nur letztinstanzlich, soweit er nicht mit kantonaler Nichtigkeitsbeschwerde nach § 281 ZPO/ZH beim Kassationsgericht des Kantons Zürich hätte angefochten werden können.
Nach 281 Abs. 1 ZPO/ZH kann mit der Nichtigkeitsbeschwerde geltend gemacht werden, der angefochtene Entscheid beruhe auf der Verletzung eines wesentlichen Verfahrensgrundsatzes, auf einer aktenwidrigen oder willkürlichen tatsächlichen Annahme oder auf einer Verletzung klaren materiellen Rechts. Nach § 285 Abs. 1 und 2 ZPO/ZH ist die Nichtigkeitsbeschwerde grundsätzlich ausgeschlossen, wenn das Bundesgericht frei überprüfen kann, ob der geltend gemachte Mangel vorliege. Dies betrifft die Rügen der Verletzung von Bundeszivilrecht (vgl. Urteil 4A_398/2008 vom 18. Dezember 2008, E. 1.2.2). Dagegen ist die Nichtigkeitsbeschwerde stets zulässig, wenn eine Verletzung von Art. 8, 9, 29 oder 30 der Bundesverfassung oder von Art. 6 EMRK geltend gemacht wird. Als Verletzung des Willkürverbots gemäss Art. 9 BV kann das Kassationsgericht die Rüge der willkürlichen Sachverhaltsfeststellung prüfen (Beschluss des Kassationsgerichts vom 6. März 2008 E. 4g, publ. in: ZR 107/2008, S. 65 ff., 76).
1.5 Nach dem Gesagten ist der Beschluss des Handelsgerichts bezüglich der Rügen der Verletzung von Art. 9 und 29 BV und Art. 6 EMRK nicht letztinstanzlich. Auf die Rügen, das Handelsgericht habe diese Normen verletzt, indem es den Streitwert willkürlich auf über Fr. 100 Mio. geschätzt und es daher übermässig hohe Vorschüsse verlangt habe, ist demnach nicht einzutreten. Dasselbe gilt für die Rüge, das Handelsgericht habe sein rechtliches Gehör verletzt, indem es ihm nicht erlaubt habe, zur Aufgabe der Streitpatente Stellung zu nehmen. Unzulässig ist auch die Rüge, das Handelsgericht habe den Anspruch auf unentgeltliche Rechtspflege gemäss Art. 29 Abs. 3 BV verletzt, da es zu Unrecht davon ausgegangen sei, die umstrittenen Patentansprüche seien nichtig, zumal das Kassationsgericht die entsprechende Rüge sowohl in rechtlicher als auch in tatsächlicher Hinsicht frei prüfte.
1.6 Das Bundesgericht prüft die Verletzung von Grundrechten nur insofern, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG). Das bedeutet, dass klar und detailliert anhand der Erwägungen des angefochtenen Entscheids darzulegen ist, inwiefern verfassungsmässige Rechte verletzt worden sein sollen. Bei der Willkürrüge (Art. 9 BV) ist in der erwähnten Form aufzuzeigen, inwiefern der kantonale Entscheid offensichtlich unhaltbar sein soll (BGE 134 II 244 E. 2.2 S. 246; 133 I 149 E. 3.1 S. 153; je mit Hinweisen). Auf rein appellatorische Kritik, wie sie allenfalls in einem Berufungsverfahren zulässig ist, wird nicht eingetreten (BGE 130 I 258 E. 1 S. 261 f. mit Hinweisen).
2. 2.1 Das Kassationsgericht ging auf die Beanstandung des Beschwerdeführers, dass der Beschluss des Handelsgerichts vom 23. August 2008 keine Rechtsmittelbelehrung enthalte, nicht ein, da der Beschwerdeführer nicht beantragt hatte, den angefochtenen Beschluss deswegen aufzuheben oder die Rechtsmittelfrist wiederherzustellen. Abgesehen davon sei dem Beschwerdeführer die Möglichkeit, innert 30 Tage beim Kassationsgericht eine Nichtigkeitsbeschwerde zu erheben, bekannt gewesen, weshalb ihm aus der unterlassenen Rechtsmittelbelehrung kein Nachteil erwachsen sei.
2.2 Der Beschwerdeführer rügt, das Kassationsgericht habe damit gegen das Willkürverbot und den Grundsatz von Treu und Glauben gemäss Art. 9 BV verstossen. Er setzt sich aber mit dem Argument des fehlenden Antrags auf Wiederherstellung der Rechtsmittelfrist nicht auseinander und legt auch nicht dar, inwiefern die Feststellung des Kassationsgerichts, dass er die Rechtsmittelmöglichkeit kannte, willkürlich sein soll. Die Rüge ist mangels hinreichender Begründung nicht zu hören.
3. 3.1 Das Bundesgesetz über die Erfindungspatente (Patentgesetz, PatG; SR 232.14) geht vom Grundsatz aus, dass für neue gewerblich anwendbare Erfindungen Erfindungspatente erteilt werden (Art. 1 Abs. 1 PatG). Was sich in nahe liegender Weise aus dem Stand der Technik ergibt, ist jedoch keine patentierbare Erfindung (Art. 1 Abs. 2 PatG). Nach der Rechtsprechung ist im Sinne dieser Bestimmung naheliegend, was ein durchschnittlich gut ausgebildeter Fachmann des einschlägigen Gebiets ausgehend vom Stand der Technik schon mit geringer geistiger Anstrengung bzw. aufgrund einfacher Experimente im entsprechenden Forschungsbereich finden kann (BGE 123 III 485 E. 2a S. 488 ff., mit Hinweisen). Die blosse Kombination von Einzelelementen aus dem Stand der Technik ist erst dann erfinderisch, wenn die Zusammenstellung zur patentierten Kombinationslösung für den Fachmann nicht naheliegend war (BGE 120 II 312 E. 4b S. 318). Ob dies zutrifft, ist bezogen auf den Zeitpunkt der Anmeldung des Patents zu prüfen (BGE 123 III 485 E. 2b S. 491). Unzulässig ist daher eine rückblickende Beurteilung ausgehend von der neuen Lösung bzw. dem aktuellen Stand der Technik (Urteil 4C.120/2003 vom 18. Juli 2003 E. 3.2, publ. in sic! 2/2004 S. 111 ff., 113).
3.2 In seiner bereinigten Nichtigkeitsbeschwerde vom 18. Oktober 2010 brachte der Beschwerdeführer in Ziff. 2.10 (S. 29 f.) zusammengefasst vor, für eine korrekte Auslegung der Aufgabe des Patentes sei das Beiziehen von Fachleuten aus mehreren Fachgebieten unentbehrlich gewesen.
3.3 Das Kassationsgericht wies diese Rüge mit der Begründung ab, es sei Sache des Beschwerdeführers, die Aufgaben darzulegen, welche mit seinen Erfindungen gelöst werden sollen.
3.4 Vor Bundesgericht wendet der Beschwerdeführer dem Sinne nach ein, das Kassationsgericht habe ausser Acht gelassen, dass er in Ziff. 2.10 seiner Nichtigkeitsbeschwerde (auf etwas unbeholfene Art) kritisiert habe, dass die Wahl des Fachmanns dem massgebenden Gebiet schlecht entsprochen habe. Der Fachmann hätte bei den Praktikern der Elektronikbranche gesucht werden müssen.
3.5 Da den vom Beschwerdeführer bezeichneten Ausführungen in seiner Nichtigkeitsbeschwerde eine solche Rüge nicht entnommen werden kann, ist der Vorwurf der Verletzung des rechtlichen Gehörs unbegründet.
4. 4.1 Gemäss Art. 29 Abs. 3 BV hat jede Person, die nicht über die erforderlichen Mittel verfügt, Anspruch auf unentgeltliche Rechtspflege, wenn ihr Rechtsbegehren nicht aussichtslos erscheint. Soweit es zur Wahrung ihrer Rechte notwendig ist, hat sie ausserdem Anspruch auf unentgeltlichen Rechtsbeistand. Nach der Rechtsprechung sind Begehren aussichtslos, bei denen die Gewinnaussichten beträchtlich geringer sind als die Verlustgefahren und die deshalb kaum als ernsthaft bezeichnet werden können. Dagegen gilt ein Begehren nicht als aussichtslos, wenn sich Gewinnaussichten und Verlustgefahren ungefähr die Waage halten oder jene nur wenig geringer sind als diese. Massgebend ist, ob eine Partei, die über die nötigen finanziellen Mittel verfügt, sich bei vernünftiger Überlegung zu einem Prozess entschliessen würde (BGE 129 I 129 E. 2.3.1). Die Beurteilung der Prozessaussichten prüft das Bundesgericht in rechtlicher Hinsicht mit freier Kognition (BGE 129 I 129 E. 2.3.1).
4.2 Der Beschwerdeführer rügt, das Kassationsgericht habe Art. 29 Abs. 3 BV verletzt, weil es bei der Prüfung, ob die geltend gemachten Erfindungen naheliegend waren, von ihren Unterschieden zum bisherigen Stand der Technik ausgegangen sei, was eine verbotene rückblickende Betrachtung der Erfindung darstelle.
4.3 Diese Rüge ist unbegründet. Sowohl das Handels- als auch das Kassationsgericht sind bei der Prüfung des nicht Naheliegenden von bei der Anmeldung der umstrittenen Patente bereits veröffentlichten Patenten, d.h. dem damaligen Stand der Technik, ausgegangen und untersuchten, ob die Unterschiede dazu bzw. die Neuheiten der Streitpatente im Hinblick auf die zu lösenden Aufgaben naheliegend waren. Damit hat das Kassationsgericht keine verpönte rückblickende Analyse vorgenommen (vgl. E. 3.1 hiervor).
4.4 Alsdann macht der Beschwerdeführer geltend, da die Analyse des Handelsgerichts vom Kassationsgericht bestätigt worden sei, könne dessen Urteil auf der Basis der in der Beschwerde gegen das Handelsgericht erhobenen Kritik aufgehoben werden. Mit diesem Verweis auf die bereits vor dem Kassationsgericht vorgebrachte Kritik kommt der Beschwerdeführer seiner Begründungspflicht nicht nach, zumal er auf die darauf bezogenen Erwägungen des Kassationsgerichts nicht eingeht und nicht rechtsgenüglich darlegt, inwiefern diese unzutreffend sein sollen.
5. 5.1 Gemäss Art. 24 Abs. 1 PatG kann der Patentinhaber auf das Patent teilweise verzichten, indem er beim Institut den Antrag stellt, einen unabhängigen Patentanspruch durch Zusammenlegung mit einem oder mehreren von ihm abhängigen Patentansprüchen (lit. b), oder auf anderem Weg einzuschränken. In diesem Fall muss der eingeschränkte Patentanspruch sich auf die gleiche Erfindung beziehen und eine Ausführungsart definieren, die in der veröffentlichten Patentschrift und in der für das Anmeldedatum massgebenden Fassung des Patentgesuches vorgesehen ist (lit. c).
5.2 Das Handelgericht erwog, der Beschwerdeführer habe sich für den Fall, dass es die von ihm angerufenen Ansprüche als ungültig erachte, vorbehalten, diese durch Teilverzichte einzuschränken. Hätte er für die Beurteilung der Frage der unentgeltlichen Rechtspflege ihm vorschwebende Einschränkungen mitberücksichtigt haben wollen, hätte er diese konkretisieren und darlegen müssen, welche Handlungen der Beschwerdegegnerinnen unter den eingeschränkten Anspruch fielen. Dies habe er nicht getan. Zwar habe er eine Zusammenlegung von verschiedenen Ansprüchen in Erwägung gezogen. Da der Anspruch 12 nicht erfinderisch sei, könne er jedoch auch durch eine Zusammenlegung mit Anspruch 15 nicht gerettet werden.
5.3 Vor dem Kassationsgericht machte der Beschwerdeführer geltend, das Handelsgericht habe seinen Anspruch auf rechtliches Gehör verletzt, indem es ihn nicht auf eine Gesetzesänderung aufmerksam gemacht habe, welche neue Einschränkungsmöglichkeiten eröffnet habe.
5.4 Das Kassationsgericht erwog, bei der Prüfung der unentgeltlichen Rechtspflege seien die Erfolgsaussichten der Klage gestützt auf die geltend gemachten Patentansprüche zu prüfen gewesen. Die Gültigkeit anderer bzw. eingeschränkter Patentansprüche seien insoweit irrelevant gewesen. Schon deshalb habe das Handelsgericht den Beschwerdeführer nicht auf Gesetzesänderungen aufmerksam machen müssen, welche eventuell künftige Einschränkungsmöglichkeiten eröffnet hätten.
5.5 Der Beschwerdeführer wendet ein, entgegen der Annahme des Kassationsgerichts könne bei der Beurteilung der Erfolgsaussichten nicht auf die bei Einreichung der Klage erhobenen Ansprüche abgestellt werden. Ansonsten müsste ein bedürftiger Patentinhaber seine Ansprüche bereits vor der Klageeinreichung einschränken, ohne zu wissen, ob und in welchem Umfang diese von der beklagten Partei in Frage gestellt werden. Dies würde ihn gegenüber solventen Patentinhabern benachteiligen, weil diese ihre Ansprüche im Verlaufe des Verfahrens noch einschränken könnten. Demnach hätte das Kassationsgericht das Handelsgericht nach Treu und Glauben (Art. 9 BV) verpflichten müssen, den Beschwerdeführer über eine am 17. Dezember 2007 in Kraft getretene Gesetzesänderung bezüglich der Erweiterung der Einschränkungsmöglichkeit zu informieren.
5.6 Da bezüglich der Gewährung der unentgeltlichen Rechtspflege die Erfolgsaussichten einer Klage nach den Verhältnissen im Zeitpunkt der Gesuchstellung zu beurteilen sind (vgl. E. 6.1 hiernach), hatte das Handelsgericht insoweit mögliche nachträgliche Änderungen der Patentverletzungsklage durch Einschränkungen der Patentansprüche nicht zu berücksichtigen. Bereits aus diesem Grund hat das Kassationsgericht den Grundsatz von Treu und Glauben nicht verletzt, wenn es annahm, das Handelsgericht habe den Beschwerdeführer nicht von Amtes wegen über Möglichkeiten der Klageeinschränkung zu informieren. Demnach ist seinem Antrag, ihm zur Begrenzung der Klagebegehren eine Frist anzusetzen, nicht stattzugeben.
6. 6.1 Die Prozessaussichten sind gestützt auf eine summarische Prüfung nach den Verhältnissen zur Zeit der Stellung des Gesuchs um unentgeltliche Rechtspflege zu beurteilen (BGE 133 III 614 E. 5, mit Hinweisen). Dabei sind die tatsächlichen Voraussetzungen gestützt auf die Glaubhaftigkeit der Ausführungen des Gesuchstellers unter Berücksichtigung der Aktenlage zu prüfen, ohne dass gerichtliche Beweiserhebungen vorzunehmen sind (BERNARD CORBOZ, Le droit constitutionnel à l'assistance judiciaire, SJ 125/2003 II, S. 67 ff., 82). Der Entscheid über die unentgeltliche Rechtspflege darf daher nicht bis zur Abnahme solcher Beweise hinausgeschoben und bei für den Gesuchsteller negativem Ergebnis das Armenrecht für das gesamte Verfahren verweigert werden (BGE 101 Ia 34 E. 2 S. 37 f.).
6.2 Unter Berufung auf diese Rechtsprechung machte der Beschwerdeführer vor dem Kassationsgericht geltend, das Handelsgericht habe seinen Anspruch auf unentgeltliche Rechtspflege verletzt, weil es ein sechsjähriges Verfahren durchgeführt habe, ohne ihm einen unentgeltlichen Rechtsbeistand beizuordnen. Der Beschwerdeführer habe daher den Prozess nach der Verhandlung vom 11. Januar 2007 ohne Anwalt weiterführen müssen.
6.3 Das Kassationsgericht erwog, die lange Dauer zwischen der Einreichung des Armenrechtsgesuchs vom 8. Juli 2002 bis zum Entscheid vom 23. August 2008 sei im diesbezüglichen Verfahren samt Rechtsmittelverfahren, damit verbundenen Abklärungen und der Kompliziertheit der Materie begründet gewesen und nicht im Abwarten gerichtlicher Beweiserhebungen. Die Einholung eines Fachrichtervotums habe keine solche Beweiserhebung bedeutet und sei bei der vorliegenden Patentstreitigkeit angebracht gewesen. Das Handelsgericht habe denn auch aufgrund der Sachlage im Zeitpunkt der Einreichung des Gesuchs entschieden. Das Vorgehen des Handelsgerichts sei unter diesem Aspekt nicht zu beanstanden.
6.4 Auf diese Erwägung des Kassationsgerichts geht der Beschwerdeführer nicht ein. Er schildert bloss den Prozessablauf nach dem Bundesgerichtsurteil vom 1. April 2004, ohne darzulegen, inwiefern diese im vorliegenden Fall verletzt sein sollen. Seine Rüge, das Handels- und Kassationsgericht hätten durch ihr Vorgehen den Anspruch auf unentgeltliche Rechtspflege gemäss Art. 29 BV verletzt, ist somit nicht hinreichend begründet.
6.5 Da das Kassationsgericht von der Aussichtslosigkeit der Klagebegehren ausging, hatte der Beschwerdeführer bereits aus diesem Grund keinen Anspruch auf unentgeltliche Rechtsverbeiständung (BGE 128 I 225 E. 2.5 S. 232 ff.). Der Eventualerwägung des Kassationsgerichts zur Erforderlichkeit seiner anwaltlichen Vertretung kommt demnach keine entscheiderhebliche Bedeutung zu. Auf die dagegen gerichtete Kritik des Beschwerdeführers ist daher nicht einzutreten.
7. Alsdann bringt der Beschwerdeführer vor, die kantonalen Gerichte hätten ihm das Recht verweigert und Art. 29 Abs. 2 (recte: 1) BV verletzt, da sie über sein Gesuch um unentgeltliche Rechtspflege nicht innert angemessener Frist entschieden hätten. Da der betreffende Entscheid bereits vorliegt, ist auf diese Rüge mangels eines aktuellen Rechtsschutzinteresses nicht einzutreten (Urteile 8C_613/2009 vom 22. Februar 2010 E. 1; 8C_622/2009 vom 3. Dezember 2009 E. 1.1).
8. Schliesslich rügt der Beschwerdeführer, das Kassationsgericht habe zufolge einer übermässigen Schätzung des Streitwerts durch das Handelsgericht die Gerichtskosten und die Parteientschädigung zu hoch festgesetzt. Weil der Beschwerdeführer aber die Streitwertschätzung des Handelsgerichts vor dem Kassationsgericht nicht angefochten und damit den Instanzenzug nicht ausgeschöpft hat, ist die Rüge unzulässig (vgl. E. 1.5 hiervor).
9. Nach dem Gesagten ist die Beschwerde abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer für das bundesgerichtliche Verfahren kostenpflichtig. Ausgehend von der verlangten Prozesskaution von 1.1 Mio. Franken sind die Gerichtskosten auf Fr. 12'000.-- festzusetzen.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 12'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Handelsgericht des Kantons Zürich und dem Kassationsgericht des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 10. Januar 2011
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Klett Gelzer