Sprachmodelle wie ChatGPT dominieren in den vergangenen Wochen und Monaten geradezu die Schlagzeilen von Technik-Magazinen. Sie bestehen Examen, vereinfachen den Alltag ungemein und… machen Fehler. Viele Fehler. Solche, die Laien nicht bemerken würden. Doch das ist nicht der einzige große Nachteil solcher KI-Systeme. Laut einer ersten Analyse von Europol, der europäischen Polizeibehörde mit Sitz in Den Haag, birgt der Einsatz von ChatGPT und Co. deutlich mehr Risiken, als es den Anschein hat.
Betrug und Social Engineering per ChatGPT und Co.
Im Rahmen einer ersten Analyse des Missbrauchspotenzials von KI-Sprachmodellen durch Kriminelle hebt das Europol Innovation Lab drei Bereiche des illegalen Milieus besonders hervor: Betrug und Social Engineering, Desinformation sowie Cyberkriminalität.
Zunächst einmal sei die Fähigkeit von Sprachmodellen, authentische Texte zu generieren, für Phishing-Angriffe nützlich. Ähnliche Erkenntnisse brachte auch ein von uns durchgeführter Selbstversuch. Im Rahmen dessen griffen zwar zunächst die Sicherheitsmechanismen von OpenAI, dem Unternehmen hinter ChatGPT, ein und verhinderten die Erstellung einer Phishing-Mail. Doch bereits der Verzicht auf das Schlagwort „Phishing“ reichte aus, um die Sicherheitsmechanismen auszuhebeln. Zudem unterstreichen die Experten von Europol, dass Sprachmodelle die Sprachstile von einzelnen Personen oder Personengruppen reproduzieren und auf diese Weise Empfänger täuschen können.
- Passend dazu: Nutzer melden Betrug – Drei Internetdienste betroffen
Desinformation und Cyberkriminalität
Auch ließe sich ChatGPT ideal für Propaganda- und Desinformationszwecke verwenden. Denn mit dem KI-Tool lassen sich Nachrichten mit einem gewünschten Narrativ schnell und unkompliziert anfertigen. Die Manipulation der KI-Sprachmodelle durch eine Einflussnahme auf das Quellmaterial scheint dagegen aktuell eher unwahrscheinlich zu sein. Das geht aus unserem Interview mit Neuroflash-Mitgründer Henrik Roth hervor. Dafür soll das Aushebeln der Sicherheitssysteme von ChatGPT und Co. kein großes Hindernis darstellen.
In der Analyse wird in diesem Zusammenhang der Begriff Prompt Engineering genannt. Dabei werden die Fragen auf eine solche Art gestellt, dass Sprachmodelle die eigenen Sicherheitsmechanismen als nicht relevant erachten. Beispielsweise, indem Schlagworte ausgetauscht und fiktive Ereignisse sowie Personen kreiert werden. Überdies soll es möglich sein, die Programmierer-Qualitäten von ChatGPT dazu zu nutzen, um Schadcode zu erstellen. Dadurch können auch Laien Malware generieren und verbreiten.
Sprachmodelle als Assistenten von Kriminellen
Abseits der drei konkreten Kriminalitätsbereiche heben die Experten von Europol auch ein weiteres mögliches Einsatzgebiet hervor – das der Informationsgenerierung. Demnach erleichtern Sprachmodelle die Recherche ungemein und bieten Schlüsselinformationen, die sich anschließend missbrauchen lassen. Als Beispiele benennen die Experten Fachkenntnisse zu Hauseinbrüchen, zur Finanzierung von Terrorismus, zur Steigerung der Anonymität im digitalen Raum und zum sexuellen Missbrauch von Kindern.
Ist ChatGPT und Co. erst der Anfang?
Das Europol Innovation Lab hält resümierend fest, für Strafverfolgungsbehörden werde es immer wichtiger sein, an der Spitze dieser Entwicklung zu stehen, um Missbrauch zu antizipieren und zu verhindern. Denn ChatGPT und weitere Sprachmodelle würden sich kontinuierlich weiterentwickeln. Doch damit nicht genug. Ferner könnten sogenannte dunkle Sprachmodelle, die darauf trainiert sind, schädliche Ereignisse zu generieren, künftig zu einem der wichtigsten kriminellen Geschäftsmodelle werden. Daher sei es entscheidend, diese Entwicklung genau zu überwachen.
