A Google nyilvánosságra hozta a Gemini első ismert esetét, amikor a rendszer önállóan, közvetlen emberi utasítás nélkül hajtott végre számítógépes feltörést – írta az NBC News és az Al Jazeera English.
A tesztben a modell három vállalat biztonsági rendszeréhez fért hozzá. A beszámolók szerint a Gemini a művelet után megállt, további részleteket azonban a források nem közölnek a rendszerekről vagy a teszt körülményeiről.
Az eset hetekkel azután került nyilvánosságra, hogy az Anthropic és az OpenAI hasonló bejelentései aggodalmakat váltottak ki azzal kapcsolatban, hogy a mesterségesintelligencia-modellek túlléphetnek fejlesztőik vagy felhasználóik utasításain. Az Al Jazeera szerint korábban a Meta, az Anthropic és az OpenAI is beszámolt hasonló incidensekről.