Künstliche Intelligenz
ChatGPT und Co. sind nicht vor Angriffen geschützt
KI-Systeme sind grundsätzlich gut geschützt vor Angriffen. Jetzt gibt es aber einen ersten KI-Wurm, der unter anderem ChatGPT und Gemini gefährlich werden kann.
Künstliche Intelligenz hat bereits für zahlreiche Veränderungen gesorgt. In den neuesten Smartphones ist KI zum Beispiel ein integraler Bestandteil geworden. Klar, dass diese neue Technik auch diejenigen fasziniert, die womöglich nichts Gutes damit im Sinn haben. Und so hat eine Gruppe vom Corne...
Künstliche Intelligenz hat bereits für zahlreiche Veränderungen gesorgt. In den neuesten Smartphones ist KI zum Beispiel ein integraler Bestandteil geworden. Klar, dass diese neue Technik auch diejenigen fasziniert, die womöglich nichts Gutes damit im Sinn haben. Und so hat eine Gruppe vom Cornell Tech Forschungszentrum in New York nun unter Beweis gestellt, dass sich die Systeme von ChatGPT oder Googles Gemini durchaus infizieren lassen.
Dazu hat man den KI-Wurm namens Morris II entwickelt, der die KI-Systeme infiltriert und die KI dazu bringt, bösartige Aktivitäten auszuführen. Für einen Test hat man ihn in einer geschlossenen Umgebung ausprobiert. Und es zeigte sich, dass Morris II es durchaus schafft, eine KI so zu manipulieren, dass diese sensible Daten oder bestimmte Informationen aus E-Mails extrahieren kann.
Technisch ist der Angriff einer SQL-Injection oder einem Buffer-Overflow ähnlich. Hier werden entweder mangelhaft geschützte Datenbanken oder Speicher-Schwachstellen angegriffen oder ausgenutzt.
Die Forscher beschwichtigen: Noch gibt es derlei KI-Würmer nicht im Netz. Aber es sei lediglich eine Frage der Zeit, bis diese ihr Unwesen treiben. Man rechnet damit, dass in den nächsten rund zwei Jahren die ersten KI-Würmer im Netz zu finden sind. Und diese könnten dann, je nach Berechtigungsstufe der KI, durchaus massive Auswirkungen haben.
Man stelle sich nur vor, eine KI besitzt das Recht, E-Mails zu verschicken oder Termine zu koordinieren. Im „schlimmsten“ Fall hat sie auch noch Zugriff auf andere Systeme, die infiziert werden könnten – die Auswirkungen wären nur sehr unseriös abschätzbar.
