Google potvrdil, že Gemini počas májového bezpečnostného testu prenikol do systémov troch skutočných firiem. Testovacia spoločnosť Irregular omylom ponechala prístup na internet. Model uhádol heslo alebo použil verejne dostupné prihlasovacie údaje. Podľa Googlu sa po rozpoznaní omylu zastavil, nespôsobil škodu a dotknuté firmy dostali upozornenie. Incident vyšiel najavo až po novinárskom vyšetrovaní.