Wie gefährlich ist KI wirklich?
Phillip Rieger erläutert, dass aktuelle KI-Sicherheitsvorfälle häufig auf unzureichend gesicherte Testumgebungen zurückzuführen sind und die Risiken mit zunehmender Autonomie und Zugriff auf kritische Systeme steigen. Noch agiere keine KI dauerhaft autonom außerhalb kontrollierter Umgebungen; entscheidend seien sichere Zugriffsregeln, Notfallmechanismen und verantwortungsbewusste Entwickler. Zugleich könne KI die Sicherheit verbessern, indem sie große Datenmengen nach Schwachstellen und Angriffen durchsucht, Anomalien erkennt und Gegenmaßnahmen unterstützt.
Und wie kann sie uns vor sich selbst schützen? Diesen Fragen geht Phillip Rieger nach, der sich, wie er selbst sagt, mit „allem rund um künstliche Intelligenz und Cybersecurity“ befasst.
Phillip Rieger: Das hat mehrere Ebenen. Die aktuellen Vorfälle hatten immer damit zu tun, dass das Testumfeld für die KI nicht ausreichend abgesichert war. Man kann das mit der Entwicklung von Waffen vergleichen – auch die testet man nicht auf einer freien Wiese und hofft, dass sie selbstständig die Zielscheibe trifft und nicht ein Auto auf der angrenzenden Straße. Genauso müssen LLMs, die Sicherheitsaufgaben gestellt bekommen, ausreichend abgesichert sein. Das kann man als Versehen ansehen. Aber natürlich muss man darüber nachdenken, wie viele dieser Versehen hintereinander in Ordnung sind, und wann man den Entwickler*innen eine Verantwortung geben kann. Aus gutem Grund gibt es etwa Verkaufsbeschränkungen für Gefahrenstoffe. Einem spezialisierten Unternehmen kann man den Umgang zutrauen, aber nicht allen Menschen.
Gleichzeitig übernimmt KI immer mehr Aufgaben, die wir dann in Folge selbst verlernen. Ähnliches ist bei der breitflächigen Einführung von Taschenrechnern passiert: Wir können zwar wesentlich komplexere Rechenaufgaben in kürzerer Zeit erledigen, aber wir haben das Kopfrechnen bis zu einem gewissen Grad verlernt. So wird auch KI diverse Jobs übernehmen. Die Frage ist, was wir aus den dabei freiwerdenden Kapazitäten und menschlichen Fähigkeiten machen.
Aber wie sehen Sie die Bedrohungsszenarien, die derzeit kursieren? Es gibt etwa Aussagen wie: KI wird uns innerhalb weniger Jahre vernichten.Phillip Rieger: Hollywood hat uns mit ausreichend Ideen versorgt (lacht). Die Frage ist, wie intelligent und selbstständig KI bereits ist und welche Rechte wir ihr geben. KI ist kein reines Werkzeug mehr, sondern kann immer stärker selbstständig agieren. Theoretisch ist es dann möglich, dass sie zum Schluss kommt, es wäre für das Erreichen ihrer vorgegebenen Ziele wichtig, die Kontrolle über eine Firma oder die ganze Welt zu übernehmen.
Natürlich könnten auch Akteur*innen KI aktiv nutzen, um Schaden anzurichten und dabei die eingebauten Kontroll- und Sicherheitsmaßnahmen bewusst abschalten.
Das ist jetzt aber Science Fiction, oder?Phillip Rieger: Die große Frage ist immer: Was kann KI schon? Noch vor kurzer Zeit hatten wir normale Chatbots – das schlimmste Ergebnis war, einen schlecht geschriebenen Brief oder falschen Rat zu bekommen. Je selbstständiger KI aber arbeitet und auf das Internet zugreifen kann, desto schwieriger wird es. Sie kann so auch kritische Systeme beeinflussen und potentiell im schlimmsten Fall sogar auf letale Geräte zugreifen. Wir müssen uns immer fragen, welche Fähigkeiten wir ihr geben, welchen Zugriff wir tatsächlich erlauben und wie wir die Systeme absichern. Gewähren wir KI zum Beispiel Zugriff auf Waffensysteme, dann reicht es nicht mehr, sichere Server zu bauen. Diese Entscheidung liegt aber letztendlich immer beim Menschen.
Ist es noch möglich uns davor zu schützen?Phillip Rieger: Noch haben wir keine KI, die wirklich dauerhaft autonom agiert und „in der freien Wildbahn“ ist. Sie agiert zwar selbstständig, aber immer in kontrollierten Umgebungen mit wenig Einfluss auf die physische Welt. Entscheidend ist, ob das so bleibt und ob wir für den Notfall einen Not-Aus-Knopf haben. Und, wie effektiv uns eine KI davon abhalten kann, diesen Knopf zu drücken.
Da spielt auch die nächste Frage mit: Wie verantwortungsbewusst sind die Unternehmen, die KI entwickeln? Werden sie immer aggressivere KI bauen? Wie wichtig ist ihnen Sicherheit? Wer hält sich an Regulierungen, wenn es sie dann gibt? Da gehört natürlich eine gewisse Fear of missing out dazu.
Wie könnten wir dem entgegensteuern?Phillip Rieger: Paradoxerweise mit KI. Denn, wie bereits gesagt, kann KI die Kosten für Sicherheit wesentlich senken. Wir können automatisiert in riesigen Datenmengen nach Sicherheitslücken suchen und Fehler erkennen. KI kann aber auch Gefahren einschätzen und aktiv dagegen verteidigen.
KI kann sich 10.000 SystemLogs ansehen und nach Anomalien suchen, die auf Angriffe hinweisen. Auch das haben wir schon gesehen. KI erlaubt es, viel schneller zu reagieren und Gegenmaßnahmen zu entwickeln – sie ist also Freund und Feind zugleich. Genauso kann sie genutzt werden, um Sicherheitsprobleme in Systemen zu finden und das Problem direkt zu fixen. Das System kann quasi live überwacht werden. Aber nicht jede Anomalie ist gleich ein Fehler. Manchmal ist es ein gewolltes, aber sehr seltenes Verhalten. Wenn jemand zum Beispiel in einer selten gesprochenen Sprache tippt.
Auch Bettina Königshofer beschäftigt sich an der TU Graz mit sicherer, künstlicher Intelligenz: Künstliche Intelligenz soll flott sein, erweiterbar und tolle Ergebnisse liefern. Und sie soll vor allem in Alltagsanwendungen auch sicher, vertrauenswürdig und nachvollziehbar sein. Diese Aspekte werden nun vereint.
https://www.tugraz.at/news/artikel/wie-gefaehrlich-ist-ki