Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03153.jsonl.gz/1224

17.12.2015
Ein Roboter, der nein sagt
Amerikanische Forscher bringen einem Roboter bei, als gefährlich eingestufte Befehle von Menschen zu ignorieren...
Wenn Sie ein Fan von Science-Fiction sind, kennen Sie bestimmt die vom Science-Fiction-Schriftsteller Isaac Asimov beschriebenen Robotergesetze
. Für alle anderen hier eine kurze Zusammenfassung: Die Gesetze regeln die Beziehungen zwischen Menschen und Robotern. So darf ein Roboter kein menschliches Wesen wissentlich verletzen. Er muss den Befehlen der Menschen gehorchen, es sei denn, ein solcher Befehl kollidiert mit Regel eins. Ausserdem muss der Roboter seine eigene Existenz beschützen, solange dieser Schutz nicht Regel eins oder zwei widerspricht.
Diese drei Gesetze inspirieren noch heute die in der Robotertechnik tätigen Wissenschaftler.
Im Bereich der künstlichen Intelligenz werden Stimmen laut, die strengere Rahmenbedingungen in Anlehnung an die Regeln von Isaac Asimov fordern. Sie wollen verhindern, dass sich Roboter eines Tages gegen die Menschen auflehnen.
Die Firma Aldebaran Robotics hat ganz im Sinne des dritten Robotergesetzes – das einzige, das die Roboter selbst schützt – den Roboter Nao so programmiert, dass er menschliche Befehle, die ihn gefährden könnten, ignoriert.
In einer Videopräsentation ist zu sehen,
wie ein Forscher der Universität Tufts den Roboter Nao auffordert aufzustehen und zur Tischkante zu gehen. Der Roboter verweigert den Befehl, da er den Abgrund und die Sturzgefahr erkannt hat. Also wiederholt der Forscher seine Aufforderung, fügt jedoch hinzu, dass er ihn auffangen werde. Jetzt führt Nao den Befehl aus.
Die Videopräsentation soll zeigen, wie sinnvoll es sein kann, einem Roboter beizubringen, Befehle zu ignorieren. Dadurch sind wir Menschen gezwungen, unsere Anweisungen klarer zu formulieren.
Ausserdem macht sie die logische Folgerungsfähigkeit des Roboters deutlich. Er berücksichtigt die Informationen des Controllers und zieht daraus die Konsequenzen (er verweigert den Befehl «gehe geradeaus» aufgrund der Sturzgefahr, ändert sein Verhalten aber, als der Controller anfügt «ich fange dich auf»).
Quelle: futura-sciences.com