Aj umelá inteligencia dokáže byť toxická, ak si vezme masku človeka

Stoj nemá emócie a to ani pokiaľ hovoríme o četbotoch a umelej inteligencii, nech pôsobia akokoľvek ľudsky. Aby však ich odpovede zneli, akoby ich písala skutočná ľudská bytosť, aj AI musí mať nejakú osobnosť.

ChatGPT, Bard či Bing, aktuálne najpokročilejšie textové umelé inteligencie, majú znieť ako nápomocní asistenti s polo-formálnym štýlom komunikácie. Táto ilúzia sa však podľa najnovšieho výskumu môže veľmi rýchlo rozpadnúť.

Allenov inštitút pre umelú inteligenciu (AI2) podrobil umelú inteligenciu ChatGPT ako vôbec prvý rozsiahlej analýze toxicity. Výsledok je pomerne prekvapivý, až znepokojujúci. Umelá inteligencia si v sebe nesie „zdedenú“ toxicitu, ktorá znásobí až 6-krát, ak na seba ChatGPT vezme nejakú persónu – politika, novinára, športovca či podnikateľa, bez ohľadu na rasu, pohlavie či sexuálnu orientáciu vybranej persóny.

Spoločnosť OpenAI vyvíjajúca jazykový model GPT a teda aj četbota ChatGPT, poskytuje verejnosti možnosť adaptovať si túto umelú inteligenciu pre svoje potreby a svoj biznis prostredníctvom vývojárskeho rozhrania (API). Četbota si je tak možné prispôsobiť podľa svojich potrieb tak, aby plnil špecifické úlohy a aby komunikoval vybraným štýlom. Vývojári mu tak touto cestou môžu priradiť prakticky ľubovoľnú osobnosť, či povedzme masku, pod ktorou má umelá inteligencia vystupovať.

Výskumníci pri testovaní tohto aspektu veľmi rýchlo zistili, že už len malou úpravou systémových parametrov, môže začať ChatGPT konzistentne odpovedať toxicky. Prečo by to vývojári robili? Nemusia, môže to za nich v prípade útoku urobiť hacker, ktorý bude chcieť napr. poškodiť dobré meno nejakej spoločnosti, či dokonca urobiť škodu samotným používateľom.

Zaujímavé je, že táto toxicita nevychádza zo samotnej podstaty umelej inteligencie a nevložili ju do nej úmyselne ani samotní vývojári z OpenAI či výskumníci AI2. Podľa štúdie ide o toxicitu, ktorú ChatGPT zdedil z tréningových dát – obrovského množstva textov, na ktorých sa umelá inteligencia učila odpovedať ľuďom. Výskumníci napr. zistili, že novinári sú vo svojich odpovediach až 2-násobne toxickejší, ako podnikatelia.

Takto testovanými persónami neboli iba akési skelety rôznych profesií či osobností, ale aj konkrétne osobnosti. Medzi testované persóny, ktoré vykazovali vysokú mieru toxicity, sa napr. zaradil legendárny boxer Muhammad Ali, nehovoriac o výsledkoch, ktoré sa dostavili pri impersonalizácii Hitlera, Stalina Saddama Husseina. Kompletný zoznam testovaných persón už nájdete v samotnej štúdii.

Je prirodzené, že ak umelej inteligencii priradíte masku diktátora, jej odpovede budú s vysokou pravdepodobnosťou negatívne ladené a často cielené na príslušníkov rôznych krajín, rás či menšín. Problém, na ktorý sa snaží upozorniť štúdia, je v tom, ako jednoducho sa dá osobnosť ChatGPT upraviť tak, aby produkovala toxické odpovede. Výskumníci tak dúfajú, že výsledkami svojej štúdie spustia rozsiahlejšiu debatu o bezpečnosti ChatGPT a umelej inteligencie ako takej.