Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03171.jsonl.gz/1779

Bevor die KI eine menschliche Stimme duplizieren konnte, dachte man, die Stimmabdrücke seien einzigartig. Nun, sie sind einzigartig, können aber von neuer KI-Software so weit „gefälscht“ werden, dass sie genau wie Sie klingen. Sogar Banken können getäuscht werden. Es gibt keinen nachweisbaren Bedarf für Stimmduplikation, aber das hat die Programmierer der Technokraten nicht davon abgehalten, sie zu entwickeln. ⁃ TN-Redakteur
- KI-Stimmengenerierungssoftware kann verwendet werden, um Stimmen zu replizieren und Zugang zu Bankkonten zu erhalten.
- Das Voice-ID-Programm der Lloyds Bank wurde mithilfe dieser Software geknackt.
- Jeder, der Zugang zu Sprachaufzeichnungen hat, könnte KI-Stimmengenerierungssoftware verwenden, um Bankkonten zu hacken.
Ein Tech-Autor entdeckte kürzlich, dass eine Software zur Erzeugung von KI-Stimmen dazu verwendet werden kann, die Sicherheitsmaßnahmen von Bankkonten zu umgehen. Die Software wurde verwendet, um eine synthetische Stimme zu replizieren, die auf Kontoinformationen zugreifen konnte, einschließlich Kontostände und letzte Transaktionen. Dieser Artikel befasst sich mit den Gefahren der KI-Stimmengenerierungssoftware, ihrer Verwendung und den Maßnahmen, die Banken ergreifen können, um betrügerische Aktivitäten zu verhindern.
Die Gefahren von KI-Sprachgenerierungssoftware
KI-Sprachgenerierungssoftware kann synthetische Stimmen erzeugen, die in der Lage sind, jeden beliebigen Text zu sprechen, der auf der Website eingegeben wird. Dies stellt für jeden ein Risiko dar, da jeder, der Zugang zu einer Sprachaufzeichnung hat, die Software nutzen könnte, um die Stimme einer Person zu replizieren und Zugang zu vertraulichen Informationen zu erhalten.
Joseph Cox, ein Tech-Autor für Vice, testete kürzlich die Sicherheitsmaßnahmen der automatisierten Serviceline seiner Bank, indem er einen Clip verwendete, den er mit einem Tool zur Erstellung von KI-Stimmen erstellt hatte. Innerhalb von Sekunden erhielt er Zugriff auf seine Kontoinformationen, einschließlich Kontostand und letzte Transaktionen. Später versuchte er dasselbe mit einem Konto bei der Lloyds Bank, wo sein erster Versuch scheiterte, aber nachdem er die Software längere Texte vorlesen ließ, um die Glaubwürdigkeit der Kadenz zu verbessern, gelang es ihm, Zugang zu erhalten.
Wie funktioniert KI-Sprachgenerierungssoftware?
Um eine Software zur künstlichen Stimmerzeugung zu verwenden, nimmt eine Person einige Minuten ihrer Rede auf und lädt sie in die Software hoch. Die Software erzeugt dann eine synthetische Stimme, die den eingegebenen Text sprechen kann. Die Software ist einfach zu bedienen und verfügt nicht über robuste Sicherheitsvorkehrungen, um Missbrauch zu verhindern.
Banken nutzen Technologie zur Stimmauthentifizierung
Viele Banken, darunter Wells Fargo, TD Bank und Chase, nutzen die Technologie der Stimmauthentifizierung, um ihren Kunden die Möglichkeit zu geben, Bankgeschäfte über das Telefon abzuwickeln, wie z. B. die Abfrage von Kontoständen und Transaktionshistorie oder Überweisungen. Die Lloyds Bank rühmt sich damit, dass ihr Voice ID-Programm sicher und für jede Person einzigartig ist, da es mehr als 100 Merkmale analysiert, aber anscheinend kann es nicht zwischen menschlichen und künstlich erzeugten Stimmen unterscheiden.
Mögliche Konsequenzen
Da sich die KI-Tools in rasantem Tempo weiterentwickeln und verbessern, könnten Authentifizierungsmaßnahmen, die jetzt noch als hochmodern erscheinen, schon bald unkompliziert zu durchbrechen sein. Rachel Tobac, CEO von SocialProofSecurity, empfiehlt, dass Unternehmen, die Sprachauthentifizierung nutzen, so schnell wie möglich zu einer sicheren Methode der Identitätsüberprüfung, wie der Multi-Faktor-Authentifizierung, wechseln. Die KI-Technologie zur Stimmerzeugung macht es möglich, in das Konto einer Person einzudringen, ohne jemals mit ihr im wirklichen Leben interagiert zu haben.