AI zaskočila vedcov, dokáže rozpoznať rasu človeka z röntgenových snímok

Rozpoznať pohlavie, rasu a odhadnúť vek pre umelú inteligenciu už nie je žiadna výzva. Medzinárodný tím vedcov však prekvapil a mierne znepokojil nový model, ktorý dokázal uhádnuť rasu pacienta z röntgenových snímok.

Medzinárodný tím zložený zo zdravotníckych výskumníkov zo Spojených štátov, Kanady a Taiwanu vyškolil nový model umelej inteligencie na stovkách tisíc röntgenových snímok s prekvapivým výsledkom. Finálny model dokázal bez akýchkoľvek dodatočných informácií o pacientoch s 90 % úspešnosťou uhádnuť ich rasu, čo nedokážu ani skúsení lekári.

Aj keď niektoré snímky zachytávali pacienta s rovnakým vekom aj pohlavím, umelá inteligencia dokázala aj napriek tomu rozlíšiť, že ide o ľudí rôznej rasy. Prečo je umelá inteligencia tak dobrá v rozpoznávaní rasy, je pre vedcov v tejto chvíli záhadou.

Aj keď pri testovaní modelu strojového učenia vedci odstránili niektoré potenciálne nápovedy, ako je napríklad hustota kostí alebo zo snímky urobili detailnejší výrez, úspešnosť AI v určovaní rasy pacienta výrazne neklesla. Vedci sa v tejto chvíli domnievajú, že model možno rozpoznáva nejaké stopy po melaníne, o ktorom zatiaľ nevedia.

Nový výskum odzrkadľuje výsledky predchádzajúcej štúdie, ktorá zistila, že umelá inteligencia má tendenciu prehliadať niektoré choroby, ktoré postihujú zvyčajne iba pacientov tmavšej pleti. Vedci sa v tejto súvislosti obávajú, že ak tento problém nepochopia a nepodchytia, umelá inteligencia môže pri zapojení sa do diagnostiky a liečenia pacientov dochádzať k nesprávnym záverom.

„Musíme si dať pauzu… Nemôžeme sa unáhliť so zapojením algoritmov do nemocníc a kliník kým si nebudeme istí, že nerobia rasistické alebo sexistické rozhodnutia.“, uviedol výskumník a lekár Leo Anthony Celi z MIT pre Boston Globe.

Faktom je, že umelá inteligencia sa do procesu diagnostiky pacienta skôr či neskôr určite zapojí. Na rozdiel od ľudského lekára má dostatočne výkonný počítač schopnosť v zlomku sekundy preveriť snímku pacienta a jeho zdravotné údaje, porovnať ich s obrovskou databázou a okamžite lekárom predložiť potenciálne nálezy aj s ponukou možných liečení. Ako to dokazuje aj aktuálna štúdia, na takýchto modeloch AI sa intenzívne pracuje už dnes.