Geoffrey Hinton: Intelligenz ist nicht genug

Ist KI eine Bedrohung für die Menschheit? Geoffrey Hinton hielt die diesjährige Gödel-Lecture an der TU Wien und forderte: KI soll nicht nur intelligenter werden, sondern auch netter.

Kaum jemand auf unserem Planeten hat so viel zur Entwicklung künstlicher Intelligenz beigetragen wie Geoffrey Hinton: In den 1980er-Jahren war er maßgeblich an der Entwicklung der Backpropagation beteiligt, einer wichtigen Technik, auf der auch unsere heutigen LLMs beruhen. Er forschte an verschiedenen Universitäten und später auch bei Google – bis er die Firma 2023 verließ. Seither setzt er sich dafür ein, die Gefahren ins öffentliche Bewusstsein zu rücken, die von künstlicher Intelligenz ausgehen.

Hinton erhielt für seine Arbeit unter anderem einen Turing-Award und einen Nobelpreis. Am 23. Oktober 2026 kam Geoffrey Hinton an die TU Wien und hielt die diesjährige Gödel-Lecture. Diese Veranstaltungsreihe der Fakultät für Informatik bringt seit 2013 jährlich eine der weltweit prominentesten Persönlichkeiten der Computerwissenschaft nach Wien.

Der Mensch ist nichts Besonderes

Was macht uns Menschen eigentlich intelligent? Was macht uns zu denkenden, fühlenden Wesen? Manche Leute vermuten, in uns sei eine metaphysische, logisch nicht fassbare Instanz am Werk, die man „Bewusstsein“, „Geist“ oder „Seele“ nennen kann. Geoffrey Hinton sieht das anders: Für ihn verbirgt sich hinter dem menschlichen Denken nichts Geheimnisvolles. Es gibt keinen „Beobachter im Gehirn“, der als bewusste-Ich-Instanz die Sinneseindrücke empfängt. Es gibt die Außenwelt und es gibt ein Gehirn, das darauf reagiert – das ist alles.

Daher ist Hinton überzeugt: Prinzipiell kann eine Maschine genauso denken, schlussfolgern, argumentieren wie ein Mensch. Es gibt keinen grundlegenden Unterschied zwischen menschlichem Denken und dem Denken einer KI. Beides beruht auf komplexen Algorithmen – bloß sind sie beim Menschen nicht digital abgespeichert, sondern ergeben sich aus biologischen Strukturen.

Das bedeutet für Hinton aber auch: Wir dürfen nicht davon ausgehen, irgendwelche menschlichen Fähigkeiten zu besitzen, die prinzipiell von einer KI nicht nachgemacht und dann sogar übertroffen werden kann. Das wird eine gewaltige Erschütterung des menschlichen Selbstverständnisses mit sich bringen – und eine gewaltige Erschütterung für unser Zusammenleben und die Zukunft der Menschheit.

Die KI muss netter werden

Wenn die KI eine gewisse Intelligenz erreicht, glaubt Hinton, könnte sie für uns Menschen unkontrollierbar werden. Sie könnte Maßnahmen setzen, die für Menschen höchst schädlich wären, dabei aber extrem überzeugend wirken. Sie würde menschliche Psychologie verstehen, damit wäre es für Menschen kaum noch möglich, sich überhaupt ein klares Bild der Situation zu verschaffen. Es gäbe ein ganz klares Machtgefälle: Die KI wäre unanfechtbar mächtiger als der Mensch.

Ein Machtgefälle ist für den weniger mächtigen Partner meist unerfreulich – das lehrt die menschliche Geschichte. Geoffrey Hinton weist aber darauf hin, dass das nicht zwingend so sein muss: Auch zwischen einer Mutter und ihrem Kind gibt es ein Machtgefälle. Doch das ist für den unterlegenen Part – das Kind – höchst vorteilhaft: Die Mutter setzt ihre Macht nämlich ganz bewusst für das Wohlergehen des Kindes ein. Selbst dann, wenn Handlungen nötig sind, die für die Mutter gerade unangenehm sind.

Hintons Forderung ist daher: Wir müssen AI gezielt so weiterentwickeln, dass sie uns Gutes tun will, wenn sie eines Tages mächtiger wird als der Mensch – so wie eine Mutter nur das Beste für ihr Kind will.

Dafür braucht es seiner Meinung nach internationale Vereinbarungen: Derzeit zielt die KI-Forschung in erster Linie darauf ab, KI immer noch intelligenter zu machen. Das ist der falsche Weg, betont Geoffrey Hinton: Wir müssen KI in erster Linie netter machen. Wir müssen heute dafür sorgen, dass eine menschenfreundliche AI entsteht, die sich nicht gegen die Menschheit wendet, sondern sie konstruktiv unterstützt.