Zamestnanci Samsungu vyzrádzali firemné tajomstvá umelej inteligencii ChatGPT

Zdá sa, že pôvodný zákaz zo strany spoločnosti Samsung smerom k jej zamestnancom používať na pracovné účely četbotov postavených na umelej inteligencii, mal svoje opodstatnenie.

Len niekoľko týždňov po tom, čo Samsung tento zákaz zrušil, došlo k vážnemu porušeniu protokolov. Kórejské médiá informujú o troch prípadoch, v rámci ktorých zamestnanci spoločnosti Samsung Electronics chceli využiť populárneho četbota na pomoc s ich prácou.

Jeden zo zamestnancov spoločnosti mal skopírovať celý zdrojový kód z chybnej polovodičovej databázy a ChatGPT požiadať o to, aby mu pomohol nájsť chybu a opraviť ju. Ďalší zamestnanec mal v nesúvisiacom incidente četbotovi zaslať utajený kód so žiadosťou o opravu chybného zariadenia. Tretí zamestnanec mal do ChatGPT vložiť celý zápis z mítingu, z ktorého si chcel pomocou umelej inteligencie vytvoriť skrátenú zápisnicu.

Štandardne ide o úlohy, ktoré ChatGPT skutočne dokáže vykonať, avšak fungovanie tohto četbota má svoj háčik. Spoločnosť OpenAI, ktorá ho prevádzkuje, varuje používateľov, aby do služby nevkladali žiadne citlivé údaje a firemné tajomstvá, nakoľko sama môže niektoré konverzácie využívať na ďalšie vylepšenie svojej umelej inteligencie. Zároveň OpenAI otvorene priznáva, že nedokáže vymazať špecifické čety a pokiaľ dôjde k podobnému incidentu, nedokáže s tým už nič robiť.

Samsung po týchto incidentoch prijal okamžité opatrenia, ktoré umožňujú zamestnancom využívať ChatGPT len v rámci dátového limitu na úrovni 1 024 bajtov. Následne mal byť vo firme spustený vývoj vlastného četbota, nad ktorým by mal Samsung lepšiu kontrolu.

Kórejský gigant nie je jediný, ktorý musí v týchto týždňoch čeliť takýmto novým výzvam. Na možný únik citlivých dát prostredníctvom umelých inteligencií už museli svojich zamestnancov nedávno upozorniť aj spoločnosti Amazon, LG Display Walmart, zatiaľ čo spoločnosti ako Verizon, SK hynx či J. P. Morgan Chase pristúpili rovno k plošnému blokovaniu podobných nástrojov.