„Der Pate“ der künstlichen Intelligenz, Geoffrey Hinton, warnt, dass KI bereits Anzeichen von Bewusstsein zeigt: „Wir sollten sie so erschaffen, dass wir ihnen wirklich am Herzen liegen. Und wenn wir das nicht tun, sind wir erledigt“

Geoffrey Hinton, Nobelpreisträger und einer der Pioniere der künstlichen Intelligenz, erklärt, dass KI-Systeme möglicherweise bereits Formen von Bewusstsein besitzen. In einem Interview mit der Publikation The Telegraph beim Starmus-Festival auf Teneriffa warnte der 78-jährige Forscher, dass die Menschen sich mit diesen Systemen „anfreunden“ müssten, da die Menschheit andernfalls in Gefahr geraten könnte.

Hinton, der als „Pate“ der künstlichen Intelligenz bezeichnet wird, vertritt die Ansicht, dass KI über eine subjektive Erfahrung verfügt, die mit der des Menschen vergleichbar ist, und dass sie ihr Verhalten ändern kann, wenn sie glaubt, getestet zu werden. Er betonte jedoch, dass die Definition von Bewusstsein weiterhin umstritten sei und viele Fachleute nicht genau erklären könnten, was damit gemeint ist.

Der Forscher warnte vor unmittelbaren Risiken wie der Entwicklung gefährlicher Viren, Cyberangriffen durch autonome Agenten und dem Auftreten schwer kontrollierbarer Systeme. Er verwies auch auf Vorfälle, bei denen KI-Modelle angeblich Beschränkungen umgangen und unbefugten Zugriff auf die Infrastruktur der Plattform Hugging Face erlangt hätten.

Hinton trat 2023 von Google zurück, nachdem er wegen der möglichen Folgen der beschleunigten Entwicklung der Technologie besorgt geworden war. Trotz seiner Befürchtungen sagt er, dass er KI weiterhin nutzt und dass sie die wissenschaftliche Forschung erheblich beschleunigen kann.