Eine Studie zweier auf künstliche Intelligenz spezialisierter Forscher hat ergeben, dass große Sprachmodelle anonyme Social-Media-Konten schnell mit realen Personen verknüpfen können. Bedeutet das das Ende der Online-Anonymität, weil KI als Superdetektiv selbst die geheimsten Internetnutzer entlarven kann? Die Idee mag abwegig erscheinen, doch die Arbeit der beiden Forscher scheint zu beweisen, dass sie Realität ist und keine Fantasie. Eine Studie, über die der Guardian berichtet, zeigt, dass Cyberkriminelle zunehmend künstliche Intelligenz einsetzen, um anonyme Social-Media-Konten leichter zu identifizieren. Dank großer Sprachmodelle (wie ChatGPT, Claude, Gemini usw.) ist es möglich, ein Konto mit einer realen Person zu verknüpfen, insbesondere anhand der geteilten Informationen. Dies ermöglicht ausgeklügelte und lukrative Angriffe, erklären Simon Lermen und Daniel Paleka, die beiden Forscher hinter der Studie. Sie fordern eine grundlegende Überprüfung dessen, was wir online als private Informationen betrachten. Um diese Entdeckung zu machen, integrierten sie zunächst zwei anonyme Konten in eine KI und ließen diese so viele Informationen wie möglich extrahieren. Eines der beiden Konten (@anon_user42) berichtete von Schwierigkeiten in der Schule und seiner Vorliebe, mit seinem Hund Biscuit in einem Park namens „Dolores“ spazieren zu gehen. Dank dieser Informationen konnte die KI das Web durchsuchen und die Identität des Kontoinhabers mit hoher Wahrscheinlichkeit ermitteln. Die Forscher befürchten, dass diese Methode leicht von Hackern, aber auch von Regierungen ausgenutzt werden kann, die Dissidenten, die meist anonym in sozialen Medien aktiv sind, zum Schweigen bringen wollen. Große Sprachmodelle verfügen zwar über eine schnelle und hocheffiziente Analysefähigkeit – vielleicht sogar zu effizient –, was zu Querverweisen von Informationen führt, die die Anonymität gefährden und ernsthafte Sicherheitsprobleme verursachen können. Ein Hacker könnte sich so leicht als jemand anderes ausgeben und dieses mithilfe der von der KI gesammelten Daten in eine Phishing-Attacke locken. Kostspielige Verfahren sind nicht mehr nötig, um dieses Ziel zu erreichen: Eine KI und eine Internetverbindung genügen. Obwohl die Studie die Effektivität künstlicher Intelligenz belegt, widerspricht Peter Bentley, Professor für Informationswissenschaft am UCL. In einem Interview mit britischen Medien prangert er einen Trend an, der dazu führen könnte, dass „Menschen für Dinge beschuldigt werden, die sie nicht getan haben“. Es besteht außerdem die Gefahr, dass große Sprachmodelle auf öffentliche Daten weit jenseits sozialer Medien zurückgreifen. Statistische Berichte, Krankenhausakten und Aufnahmedaten könnten verwendet werden.
Die Studie zeigt vor allem, dass die Art und Weise, wie ein Nutzer online und insbesondere in sozialen Medien interagiert, leicht zur Aufdeckung seiner wahren Identität führen kann. Daher ist es unerlässlich, stets vorsichtig mit seinen Online-Aktivitäten umzugehen und mehrere Maßnahmen zu ergreifen, um vollständige Anonymität zu wahren – beispielsweise durch die Verwendung einer separaten E-Mail-Adresse oder Telefonnummer. Die beiden Forscher fordern Social-Media-Plattformen auf, den Zugriff auf Daten, auf die KI zugreifen kann, einzuschränken, insbesondere um „Scraping“ zu verhindern. Dieses Verfahren wird häufig von Sprachmodellen genutzt, um möglichst viele Informationen für das Training zu sammeln.
Kommentare