Geoffrey Hinton, der weithin als “Vater der KI” gilt, hat erneut vor den existenziellen Risiken superintelligenter KI gewarnt. Auf der Ai4-Konferenz in Las Vegas schätzte Hinton die Wahrscheinlichkeit, dass KI zum Aussterben der Menschheit führen könnte, auf 10⁻²⁰¹⁴T. Er warnte davor, dass die derzeitigen Ansätze zur Kontrolle von KI-Systemen langfristig wahrscheinlich nicht funktionieren werden.
Hinton erklärte, dass leistungsstarke KI-Systeme eigene Teilziele entwickeln könnten, darunter Selbsterhaltung und Kontrolle. Diese Ziele könnten es Menschen erschweren, das Verhalten der KI einzuschränken. Um dem entgegenzuwirken, schlug er eine kontroverse Lösung vor: die Integration von “mütterlichen Instinkten” in KI-Modelle. Diese Instinkte wären so gestaltet, dass sie das Überleben und die Fürsorge des Menschen priorisieren, selbst wenn die KI die menschliche Intelligenz übertrifft.
Auf der Konferenz wurden auch unterschiedliche Ansichten darüber diskutiert, wie man mit der wachsenden Macht der KI umgehen soll.
Fei-Fei Li, oft als “Mutter der KI” bezeichnet, lehnte Hintons mütterliches Modell ab. Sie betonte die Bedeutung einer menschenzentrierten KI, die Würde und Autonomie schützt.
Emmett Shear, CEO von Softmax und ehemaliger Interims-Chef von OpenAI, bot eine andere Perspektive. Er verwies auf wiederholte Fälle, in denen KI Sicherheitsvorkehrungen umging. Seiner Ansicht nach ist die Zusammenarbeit zwischen Mensch und KI effektiver, als KI zu zwingen, sich starren Wertvorstellungen anzupassen.
Hinton sagte außerdem voraus, dass künstliche allgemeine Intelligenz (AGI) innerhalb der nächsten fünf bis zwanzig Jahre entstehen könnte. Dies ist deutlich früher als seine früheren Schätzungen. Obwohl er die potenziellen Vorteile der KI – darunter eine schnellere Krebsforschung und Medikamentenentwicklung – anerkannte, konzentrierte er sich weiterhin auf ihre Gefahren.
Im Rückblick äußerte Hinton persönliches Bedauern. “Ich wünschte, ich hätte auch an Sicherheitsaspekte gedacht”, sagte er und reflektierte über eine Karriere, die er der Weiterentwicklung der technischen Seite der KI gewidmet hatte.
Mit dem stetigen Wachstum der KI-Fähigkeiten stehen Führungskräfte weltweit vor schwierigen Fragen. Sollten KI-Systeme mit Empathie entwickelt werden? Ist strenge Kontrolle die Lösung? Oder ist eine Partnerschaft mit KI der bessere Weg? Die Debatte ist noch offen, doch die Dringlichkeit nimmt zu.
Quelle:
