Peter Paterna (NA), 1991-03-21:
Frau Präsidentin! Meine Damen und Herren! Technikfolgenabschätzung und -bewertung sind notwendig. Darüber gibt es Einigkeit zwischen den Parteien und Fraktionen, zwischen den Wirtschaftsverbänden und den Gewerkschaften. Die Bekenntnisse zur Notwendigkeit von Technikfolgenabschätzung bleiben aber - so die Beobachtung - meist im Verbalen stecken, d. h. sie sind theoretisch ebenso wohlklingend wie praktisch folgenlos.
Zu den Ursachen dieses Befundes und den Folgen der Defizite in der parlamentarischen Arbeit haben mein Kollege Ottmar Schreiner, meine Kollegin Edelgard Bulmahn und ich öffentlich und auch von dieser Stelle mehrfach gesprochen. Ich will deshalb nur auf diese Stellungnahmen verweisen und unsere Position heute nicht erneut darstellen.
Unsere Enquete-Kommission hatte die eigentliche Aufgabe - darauf hat der Kollege Voigt richtig hingewiesen -, Entscheidungen darüber vorzubereiten, wie Technikfolgenabschätzung und -bewertung beim Parlament institutionalisiert werden können. Die inhaltlichen Arbeiten, über die wir heute zu reden haben, sind also, wenn Sie so wollen, Nebenprodukte, Fingerübungen, Ergebnisse praktischer Versuche, im Learning by doing die Schwierigkeiten qualifizierter Technikfolgenabschätzung und -bewertung in einem Prozeß der Selbsterfahrung zu erforschen. Das war ja die Grundidee dieser Arbeit.
Ich will die vielfältigen Schwierigkeiten, mit denen wir recht und schlecht gekämpft haben, nicht schildern, weil die beiden Sachthemen im Vordergrund stehen sollen. Ich will aber auf ein Problem hinweisen, weil es für die angestrebte Weiterberatung in den Fachausschüssen des Bundestages eine Rolle spielen sollte, das Problem der Themenwahl. Die SPD hätte sich das Thema, zu dem ich rede, Expertensysteme, viel weiter und aktualitätsbezogener gewünscht.
Wir wollten, daß sich die Kommission mit der Digitalisierung und der daraus folgenden Integration der Informations- und Kommunikationstechniken - Stichworte ,,Schmalband-ISDN" und „BreitbandISDN" - beschäftigt und auf die Vernetzungsaspekte und damit auf die wachsende Abhängigkeit und Verletzlichkeit der Gesellschaft, die wir zunehmend eine Informationsgesellschaft nennen, den Schwerpunkt legt. Dies wurde von der Koalitionsmehrheit abgelehnt, insbesondere mit dem Argument, das Thema sei zu umfassend und deshalb in der zur Verfügung stehenden Zeit nicht zu bewältigen. Ich vermute aber, bei dieser Ablehnung war unausgesprochen ausschlaggebend - das ist eines der Grundübel der parlamentarischen Beschäftigung mit Technikfolgenabschätzung, wenn ich das über die Jahre beobachte -, daß die Mehrheit die Befürchtung hatte, wir könnten mit einer kritischen Betrachtung aktuellem Regierungshandeln unliebsam in die Quere kommen. Deswegen ist es eine beliebte Methode - das war im übrigen zur Zeit der sozialliberalen Koalition auch nicht viel anders -, sich, wenn man an Technikfolgenabschätzung nicht vorbeikommt, entweder einen Nebenkriegsschauplatz oder ein Wolkenkuckucksheim, jedenfalls etwas, was mit aktueller Politik möglichst wenig zu tun hat, auszuwählen. Dies ist wohl auch ein Grund für diese Themenwahl gewesen. Man hatte nicht nur das etwas exotische Thema Expertensysteme gewählt. Interessant ist auch die Begrenzung des Themas Expertensysteme auf die beiden Bereiche Produktion und Medizin.
Mein Vorschlag, sich dann wenigstens auf den Einsatz von Expertensystemen im militärischen Bereich zu konzentrieren - das wäre nämlich außerordentlich lehrreich gewesen - , fiel ebenso der Ablehnung der Mehrheit zum Opfer. Die offizielle Begründung war, hier gebe es unüberwindliche Hürden in der Informationsbeschaffung. Das mag ja sein. Aber das ist natürlich ein Argument, das ein bezeichnendes Licht auf die Wünschbarkeit und Wirksamkeit parlamentarischer Kontrolle wirft.
Die Chancen und Risiken von Expertensystemen in der Produktion sind für die Beteiligten und Betroffenen ziemlich offensichtlich. Das hätte einer intensiven Bearbeitung nicht vordringlich bedurft.
Der massenweise Einsatz von Expertensystemen in der Medizin hat sich als ziemlich unwahrscheinlich herausgestellt. Auch da lag eigentlich kein so dringender Handlungsbedarf, wie es das Thema suggeriert.
Dagegen ist das bereits heute breiteste und folgenreichste Einsatzfeld fortgeschrittener Computergenerationen im militärischen Bereich ein außerordentlich dringendes Thema, und dies nicht erst seit wenigen Jahren, sondern schon seit längerer Zeit. Aber da traut sich bekanntlicherweise niemand dran, oder er wird von der Mehrheit nicht herangelassen.
Da uns dieser Bereich verschlossen blieb, kann ich heute nur anregen, daß sich der Verteidigungsausschuß mit diesem Problemkomplex gründlich beschäftigt. Da wird ja wohl niemand argumentieren, daß auch die an die notwendigen Informationen nicht herankommen. Das würde ich mir dann mal anschauen.
Einige Hinweise auf klärungsbedürftige Fragestellungen grundsätzlicher Art haben wir in den Bericht hineingeschmuggelt. Vielleicht sollte dies auch als offizielle Anregung verstanden werden, daß der Verteidigungsausschuß in den Kreis der offiziell als mitberatend genannten Ausschüsse ebenso hineinkommt wie der Ausschuß für Umwelt, Naturschutz und Reaktorsicherheit; denn im zivilen Bereich liegen die besonders gravierenden Risiken des Einsatzes von Expertensystemen nach meiner Einschätzung im Einsatz der Steuerung und Überwachung derjenigen großtechnischen Anlagen, die im Störfall unabsehbare Folgen für Gesundheit und Leben vieler Menschen haben und große Langzeitschäden in der Umwelt anrichten können, insbesondere bei Kernenergieanlagen und bei chemischen Anlagen. Deshalb halte ich die Beschäftigung mit den Chancen und Risiken des Einsatzes von Expertensystemen für den Ausschuß für Umwelt, Naturschutz und Reaktorsicherheit, der ebenfalls bisher nicht zur Mitberatung vorgesehen ist, für ein wichtiges Thema.
Alle mitberatenden Ausschüsse sollten sich nicht von der Schwierigkeit abschrecken lassen, die sich bei dem Versuch ergibt, zweifelsfrei und allgemeingültig
zu definieren, was Expertensysteme eigentlich sind. Wer sich mit diesen Definitionsversuchen näher beschäftigen will, sollte den Text lesen. Dabei geht es darum, die Trennlinie festzustellen zwischen, wie man gelegentlich sagt, Computern der vierten und solchen der fünften Generation, dem, was wir inzwischen schon klassische EDV nennen und sogenannten wissensbasierten Systemen; das ist einer der Versuche, Expertensysteme allgemeinverständlich zu umschreiben. Das kann auch mit dem etwas unscharfen, irreführenden Begriff der künstlichen Intelligenz geschehen. Wir hatten in diesem Parlament schon Schwierigkeiten - das ist vielleicht eine sarkastische Bemerkung - , Intelligenz zu definieren.
({0})
Mit der Künstlichkeit hatten wir auch so unsere Probleme.
Für mich - deswegen sind diese Definitionsversuche gar nicht so bedeutsam - ist in dieser Gruppe, die sich schwerpunktmäßig mit Expertensystemen zu beschäftigen hatte, immer deutlicher geworden, daß es wenig Sinn macht, Expertensysteme für sich und getrennt von der vertrauten EDV-Umwelt zu betrachten. Expertensysteme weisen nämlich kaum spezifische, nur ihnen eigene Chancen und Risiken auf. Sie wirken vielmehr ganz überwiegend als Trendverstärker von Chancen und Risiken, die bereits in der Nutzung vertrauter und weit verbreiteter Datenverarbeitungs-, Informations- und Kommunikationstechniken erkennbar sind.
Mein Rat an die mitberatenden Ausschüsse ist deshalb, den Blick nicht so zu verengen, wie das der Titel unseres Berichts suggeriert, sondern die breite Palette der Chancen und Risiken in den Blick zu nehmen, die bei dem Übergang in die sogenannte Informationsgesellschaft zu analysieren sind, um dann nicht, wie bisher überwiegend geschehen, neue Techniken nach dem Prinzip des Trial and error einzuführen und gegebenenfalls nachträglich über Schadensbegrenzungsstrategien nachzudenken, wenn das sprichwörtliche Kind bereits im Brunnen liegt; wir sollten mögliche Entwicklungen und den Einsatz neuer Techniken bewußt und planend im öffentlichen Dialog und demokratisch kontrolliert gestalten. Auch sollten wir in eine offenere Diskussion insoweit geraten, daß nicht diejenigen, die mehr die Risiken technischer Entwicklungen beschreiben, gleich in die Ecke der Technikverhinderer gestellt werden.
Es gibt eine Fülle von Anschauungsmaterial, das die diversen Fachausschüsse dazu reizen sollte, sich mit diesem Themenkomplex intensiv zu beschäftigen: jüngst der Golfkrieg und schon vor mehreren Jahren der irrtümliche Abschuß eines zivilen Großraumflugzeuges durch ein amerikanisches Kriegsschiff im Mittelmeer. Dies war im übrigen insofern ein besonders bezeichnender Ablauf, als das Flugzeug zweifellos von einem Expertensystem, das in einem Raum saß, in dem es nicht einmal ein Fenster gab, das dem Bediener die Chance gegeben hätte, das anfliegende unbekannte Flugobjekt einmal in Augenschein zu nehmen, in einem automatisierten Entscheidungsverfahren vom Himmel geholt wurde. Das ist, glaube ich, apokalyptisch die schlimmste Form von Risiken, die uns im Umgang mit Expertensystemen begegnen können.
Alarmstarts atomarer Bomber auf Grund vermeintlicher feindlicher Raketenangriffe - dazu gibt es übrigens amerikanische Berichte von durchaus konservativen Abgeordneten; diese Berichte sind schon 10 Jahre alt; es wird also allmählich Zeit, daß wir uns damit einmal ein bißchen genauer beschäftigen -, weltweite Börsencrashs, Tschernobyl, großflächige Zusammenbrüche von Telefonnetzen, massenweise Abstürze von Betriebs-EDV durch äußere Einflüsse usw. liefern für jeden Fachbereich anschauliche Beispiele für die Verletzlichkeit unseres auf Elektronik gestützten Wirtschafts- und Gesellschaftssystems - egal, ob daran sogenannte Expertensysteme im präzise definierten Sinn beteiligt waren oder nicht.
Es gilt, sich die Wirkungen unvermeidlicher Software-Fehler, die Gefahren durch sogenannte Computerkriminalität, die Verbreitung von Viren und anderen Computerbestien bewußt zu machen. Vielleicht haben Sie die „Wirtschaftswoche" aus der vergangenen Woche gelesen. Darin gab es einen 70 Seiten langen Bericht über alle möglichen Anwendungsfälle und über die rasante Vermehrung dieses Computerbestiariums.
Für jeden sensiblen Anwendungsfall werden wir die Risiken prüfen müssen, die aus diesen Befunden hervorgehen. Wir müssen immer wieder bereit sein, zu prüfen, inwieweit wir uns in die Abhängigkeit von der Kontrollierbarkeit und Funktionsfähigkeit technischer Systeme begeben können. Diese Frage läßt sich nicht allgemein und abstrakt beantworten, sondern nur jeweils konkret bezogen auf Anwendungsfälle, natürlich auch in Abwägung zu den Risiken, die wir eingehen, wenn wir bestimmte technische Möglichkeiten nicht nutzen. Denn auf bestimmte technische Möglichkeiten zu verzichten, kann ja durchaus auch mit Risiken behaftet sein. Das sage ich ausdrücklich dazu.
Um die Mitberatung zu erleichtern, hat sich die Kommission bemüht, Fragenkomplexe einzelnen Ausschüssen zuzuordnen. Vorschläge zu vertief ender Bearbeitung sind als Handlungsoptionen überschrieben worden. Zu Empfehlungen, bei denen sich politisch kontroverse Abstimmungen möglicherweise nicht hätten vermeiden lassen, hat sich die Kommission leider nicht durchringen können. Das ist also eine sehr weiche und, wenn Sie so wollen, zarte Andeutung von Handlungsbedarf - die mildeste Form, zu der wir uns überhaupt verständigen konnten. Ich hoffe, daß die notwendige, etwas kernigere Auseinandersetzung in den Ausschüssen und im Plenum des Bundestages nachgeholt wird.
Die Streubreite der Handlungsempfehlungen reicht von industrie- und forschungspolitischen Aufgaben über Fragen des Einsatzes von Expertensystemen in der öffentlichen Verwaltung, rasch wachsenden Handlungsbedarf bezüglich der Datensicherheit und des Schutzes personenbezogener Daten und die Notwendigkeit neuer Lösungsansätze zur Mitbestimmung der Arbeitnehmerinnen und Arbeitnehmer - angesichts der Vernetzung haben wir es mit einem völlig neuen Betriebsbegriff zu tun - bis zu neuartiPeter Paterna
gen urheberrechtlichen und haftungsrechtlichen Problemstellungen.
Ich hoffe, daß neben den fachspezifischen Fragestellungen die Behandlung ressortübergreif ender Probleme nicht zu kurz kommen wird. Dabei geht es u. a. um Fragen der Ethik, der Sozial- und Gesellschaftsverträglichkeit und der Demokratie- und Verfassungsverträglichkeit beim Einsatz neuer Informations- und Kommunikationstechniken, ebenso spannende wie schwierige Querschnittsaufgaben, die in unserem parlamentarischen Alltagsbetrieb nicht verschüttet werden sollten. Ich hoffe, wir sind uns darin nicht nur verbal, sondern auch im praktischen Handeln der nächsten Jahre einig.
Vielen Dank.
({1})