Mobile-Menu

Entwicklung soll sich verlangsamen Firmenchefs warnen erstmals bei UN-Sicherheitsrat vor Risiken von KI

Quelle: dpa 2 min Lesedauer

Anbieter zum Thema

FAST LTA GmbH
Arvato Systems GmbH
Onapsis Europe GmbH

Die Chefs von OpenAI und Anthropic warnen im UN-Sicherheitsrat vor Kontrollverlust und Machtkonzentration durch KI. Beide fordern internationale Regeln und zeigen sich bereit, die Entwicklung notfalls zu verlangsamen.

In New York sprachen die Chefs von OpenAI und Anthropic vor dem UN-Sicherheitsrat und forderten Maßnahmen, um die Gefahren von KI einzudämmen.(Bild: Hugo Magalhaes Pexels via Canva)
In New York sprachen die Chefs von OpenAI und Anthropic vor dem UN-Sicherheitsrat und forderten Maßnahmen, um die Gefahren von KI einzudämmen.
(Bild: Hugo Magalhaes Pexels via Canva)

Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz haben die Chefs der größten US-amerikanischen KI-Firmen erstmals vor dem UN-Sicherheitsrat vor den Risiken der Technologie gewarnt. „Wir sind an einem Scheideweg angelangt“, sagte der Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, vor dem Gremium in New York. „Dieser Zeitpunkt verlangt nach extremer Vorsicht.“ Es gebe besonders zwei große Risiken: den Verlust der Kontrolle über KI und die „Konzentration von zu viel Macht in zu wenigen Händen“.

KI sei „die größte Sicherheitsherausforderung, mit der die Welt heute konfrontiert ist“, sagte der per Video zugeschaltete Chef des KI-Labors Anthropic, Dario Amodei. „Bei schlechter Handhabung glaube ich, dass KI ein Risiko für die gesamte Menschheit sein könnte.“ Es war der erste Auftritt der Firmenchefs vor dem Sicherheitsrat und das erste Mal, dass sich das Gremium während der Generaldebatte, der wichtigsten UN-Woche des Jahres, mit dem Thema beschäftigte.

Nach Hacking-Attacke Bereitschaft zur Entwicklungsverlangsamung

Zuletzt hatte es unter anderem eine aufsehenerregende Hacking-Attacke gegeben, bei der eine Software von OpenAI in einem Testlauf aus der abgesicherten Umgebung ausgebrochen und auf eigene Faust in Systeme der KI-Firma Hugging Face eingedrungen war. Daraufhin hatten sich große amerikanische KI-Firmen wie OpenAI und Anthropic dazu bereit erklärt, die Entwicklung der Technologie zu verlangsamen, was Kritiker schon lange gefordert hatten.

OpenAI-Chef Altman betonte seine Bereitschaft dazu nun erneut. „Wir haben in der Vergangenheit schon einseitig verlangsamt. Wir werden das in Zukunft wieder tun.“ Niemand sollte KI-Modelle entwickeln, von denen er nicht garantieren könnte, dass er sie unter menschlicher Kontrolle halten könne. Altman gab aber auch zu: „Wir haben nicht alle Antworten und sind offen für jegliche bessere Idee.“

Anthropic-Chef Amodei forderte globale kooperative Maßnahmen zur Eindämmung der Risiken, unter anderem mit gemeinsamen Standards, Inspektoren, mehr Transparenz und einer Einigung darauf, KI nicht für die Entwicklung von biologischen Waffen zu nutzen.

Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA, etwa auch im Weißen Haus von US-Präsident Donald Trump, ist der Wettlauf mit China.

(ID:50963818)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte