Američania a Briti budú spoločne skúmať bezpečnosť umelých inteligencií

Vlády Spojených štátov a Spojeného kráľovstva podpísali spoločné memorandum o porozumení, ktoré je základným kameňom pre ich vzájomnú spoluprácu pri preverovaní bezpečnosti AI modelov.

Len v máloktorej oblasti technológií sme mohli v uplynulých rokoch vidieť tak rapídny pokrok, ako je tomu v oblasti vývoja umelej inteligencie. Výsledkom takéhoto konkurenčného boja technologických gigantov údajne môžu byť aj potenciálne nebezpečné pokročilé AI modely.

Preverovať bezpečnosť takýchto modelov by po novom mali spoločne americké a britské inštitúty pre bezpečnosť umelej inteligencie. Krajiny si po podpísaní memoranda majú zosúladiť svoje vedecké postupy pri preverovaní AI modelov a zároveň vybudovať nové spoločné postupy, ktorými sa chcú ubezpečiť, že vývoj AI sa uberá správnym smerom.

Inštitúcie by teda mali vzájomne zdieľať svoje znalosti, postupy a personál, ktorý bude pri testoch spolupracovať. Spoločne by mali čoskoro vykonať prvý skúšobný test niektorého z verejne dostupných AI modelov. Ktorý to bude, zatiaľ nie je známe, tipovali by sme to však na niektorú z aktuálnych verzií modelu GPT, ktorý sa radí medzi tie najpopulárnejšie.

Štátna tajomníčka Spojeného kráľovstva pre vedu, inovácie a technológie Michelle Donelan pre denník The Financial Times uviedla, že v oblasti skúmania bezpečnosti AI modelov údajne musia konať čo najrýchlejšie. Na trh by totiž už v najbližšom roku mala prísť nová generácia pokročilejších AI modelov, ktoré môžu „kompletne zmeniť hru“.

„Vždy sme mali jasno v tom, že zaistenie bezpečného vývoja AI je spoločným globálnym problémom. Len spoluprácou môžeme čeliť rizikám technológie a využiť jej obrovský potenciál na to, aby sme nám všetkým pomohli žiť jednoduchšie a zdravšie.„, doplnila Michelle Donelan.

Táto bilaterálna dohoda je prvou svojho druhu na svete, nie však prvou oficiálnou snahou dostať vývoj umelej inteligencie pod kontrolu. Európsky parlament v marci schválil rozsiahlu reguláciu systémov AI, ktorá má v prvom rade chrániť práva a súkromie občanov únie. Oficiálnu rezolúciu s podobným zámerom krátko na to prijala aj Organizácia spojených národov, v ktorej ju presadzovali najmä Spojené štáty a Čína.

Pri modeloch AI bude potrebné skúmať napríklad ich dodržiavanie základných etických a morálnych zásad, schopnosť chrániť bezpečnosť a zdravie ľudí a tiež ochranu osobných údajov, kde už dnes najmä pri dôvernom využívaní četbotov hrozí potenciálny únik citlivých informácií. Autori týchto modelov by tiež mali povereným orgánom poskytnúť transparentné informácie o fungovaní takýchto modelov a o tom, z akého zdroja boli čerpané dáta pri ich trénovaní.