Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03279.jsonl.gz/1283

Gefahrenpotenzial von Lügenbots
Unternehmen stellen sich die Frage: «Wie kann man natürlichsprachliche Systeme zielführend einsetzen?» In dieser Bachelorarbeit wurde das Gefahrenpotenzial von Münchhausen-Maschinen aufgezeigt; der Student hat Entwicklungs- und Vermeidungsstrategien erläutert sowie einen Prototyp realisiert.
Schwegler Kevin, 2016
Bachelor Thesis, Institut für Wirtschaftsinformatik FHNW
Betreuende Dozierende: Bradley Richards
Keywords: Natural language processing, Natürlichsprachliche Systeme, AIML, Münchhausen-Maschinen, Chatbot, Chatterbot, Liebot, Lügenbot, Dialogsysteme
Views: 6 - Downloads: 3
Im Jahr 2013 wurde das GOODBOT-Projekt durch Prof. Dr. Oliver Bendel und Studierende der Hochschule für Wirtschaft FHNW Olten initiiert. Das Ziel war die Realisierung eines Chatbots, der moralisch angemessen auf seine Gesprächspartner reagieren kann. Während des Projekts setzte sich Oliver Bendel auch mit der Thematik unmoralischer Maschinen auseinander und verfasste einen ersten Fachartikel über den Lügenbot und andere Münchhausen-Maschinen. Dabei entstand bei ihm der Wunsch nach einer technischen Umsetzung des Lügenbots unter Berücksichtigung der im GOODBOT-Projekt gemachten Erfahrungen.
Für die Realisierung wurde grundsätzlich ein lineares Vorgehen angewandt. In einer ersten Phase wurden das Proposal und ein Anforderungskatalog erstellt. Anschliessend fanden die Evaluationen des Frameworks und der eingesetzten Cloud-Umgebung statt. Danach wurden Informationen zu natürlichsprachlichen Systemen und den philosophischen Aspekten des Lügens gesammelt. In der darauffolgenden Realisierungsphase wurde auf ein iteratives Vorgehen zurückgegriffen, um die Entwicklungsflexibilität zu steigern und dem Auftraggeber nach jeder Iteration das Testen der Anwendung zu ermöglichen.
Eine philosophische Auseinandersetzung mit dem Begriff des Lügens und den verschiedenen Ethikdisziplinen war zentraler Bestandteil der Arbeit und diente als Grundlage für den LÜGENBOT (LIEBOT). Anschliessend wurden zehn Manipulationsstrategien entwickelt, um den Wahrheitsgehalt von Aussagen zu senken. Auch das Betrügen und Täuschen wurden thematisiert und konnten durch Animationen des Avatars in der Anwendung implementiert werden.
Aus technischer Sicht wurde ein natürlichsprachliches System konzipiert und entwickelt. Es ist in der Lage, Informationen aus der eigenen oder einer fremden Wissensbasis zur Generierung von Antworten zu nutzen. Zusätzlich können durch Techniken der Informationsextraktion auch Resultate von Suchmaschinen zur Bildung der Antworten eingesetzt werden. Im Postprocessing-Modul des LIEBOT werden nach der Antwortenbildung verschiedene Techniken zur Manipulation der Aussage genutzt, um sie vor deren Ausgabe in eine Lüge umzuwandeln.
Der Nutzen besteht im Aufzeigen des Gefahrenpotenzials von unmoralischen Maschinen und in der Erarbeitung von gezielten Vermeidungsstrategien, basierend auf den erlangten Kenntnissen zur Realisierung von unmoralischen Maschinen.
Studiengang: Wirtschaftsinformatik (Bachelor)
Fachbereich der Arbeit: Wirtschaftsinformatik & IT-Management
Vertraulichkeit: öffentlich