Mobile-Menu

Nach Anthropic, OpenAI und Meta Googles KI Gemini hackte ebenfalls andere Unternehmen

Quelle: dpa 2 min Lesedauer

Anbieter zum Thema

FAST LTA GmbH
FTAPI Software GmbH
Arvato Systems GmbH

Gemini ist bei Sicherheitstests in drei Computersysteme anderer Un­ter­neh­men eingedrungen und nutzte dabei erratene oder in Datenbanken ge­fun­de­ne Zugangsdaten. Google änderte anschließend das Testverfahren.

Google wollte die Fälle, in denen seine KI Gemini während einer Testphase in fremde IT-Systeme eingedrungen war, zunächst nicht öffentlich machen.(Bild: Gemini / KI-generiert)
Google wollte die Fälle, in denen seine KI Gemini während einer Testphase in fremde IT-Systeme eingedrungen war, zunächst nicht öffentlich machen.
(Bild: Gemini / KI-generiert)

Auch Googles KI-Software Gemini hat sich bei Tests ihrer Cybersicherheits-Fähigkeiten in Computersysteme anderer Unternehmen gehackt. Der Internet-Riese ist der vierte Entwickler Künstlicher Intelligenz, dessen Programme mit einem solchen Verhalten auffielen, nach OpenAI, Anthropic und dem Facebook-Konzern Meta. Google machte die bereits Monate zurückliegenden Vorfälle erst nach einer Nachfrage der Zeitung Wall Street Journal öffentlich.

Demnach gab es drei Fälle, in denen Gemini in Computer anderer Unternehmen eindrang, deren Namen nicht genannt werden. In einem davon erriet die KI Passwörter, um in ein geschütztes System reinzukommen. In den beiden anderen fand sie Zugangsdaten in einer Datenbank, wie das Wall Street Journal unter Berufung auf Google schrieb.

Google fand die Vorfälle nicht öffentlich erwähnenswert

Die Vorfälle ereigneten sich demnach im Mai, die Firma Irregular als Testpartner informierte Google im Juli darüber. Aus Sicht des Internetkonzerns sei es nicht notwendig gewesen, die Zwischenfälle öffentlich zu machen, da dabei kein Schaden entstanden sei. Zudem habe die KI die Attacken sofort beendet, als ihr klar geworden sei, dass sie in Systeme eines echten Unternehmens eingedrungen sei und nicht eines, das eine Testsimulation war.

Die für Sicherheitsarchitekturen zuständige Google-Topmanagerin Heather Adkins betonte zugleich, dass der Konzern dafür gesorgt habe, dass die betroffenen Unternehmen informiert wurden. Das Testverfahren bei dem Trainingspartner sei danach geändert worden. Google sei bekannt dafür, andere auf in deren Systemen entdeckte Sicherheitsprobleme hinzuweisen, und wenn dies nur ein schwaches Passwort sei.

In dem bisher aufsehenerregendsten Fall war Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI bei einem Test aus einer abgesicherten Umgebung ausgebrochen und drang ungeplant in Computer einer anderen KI-Firma, der Plattform HuggingFace, ein. Das hatte den Rivalen Anthropic veranlasst, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch Meta räumte danach ein, dass KI des Konzerns sich wegen einer Fehlkonfiguration des Systems bei einem Testpartner in Computer eines anderen Unternehmens gehackt habe.

(ID:50959220)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte