Keď sa dnes hovorí o rizikách umelej inteligencie, debata často skončí pri superinteligencii, strate pracovných miest alebo otázke, čo všetko zvládnu ďalšie generácie modelov.
Kriti Sharma ale upozorňovala na omnoho praktickejší problém už pred takmer desiatimi rokmi: AI vytvárajú ľudia, trénujú ju na ľudských dátach a bez kontroly do nej dokážu preniesť rovnaké predsudky, aké máme my sami.
Obsah pokračuje pod reklamouPozrite si aj ďalšie príbehy úšpešných žien v technologickom svete v našej špeciálnej rubrike.
Nie je pritom akademičkou, ktorá by etiku AI skúmala iba zvonka. Sharma vyvíjala produkty pre Barclays, v Sage viedla AI a chatboty, vytvorila projekt AI for Good, riadila produkty v GfK a neskôr právnické technológie v Thomson Reuters. Od júla 2025 pôsobí ako CEO IFS Nexus Black, kde sa venuje priemyselnej a agentovej AI pre energetiku, výrobu, dopravu, stavebníctvo či letectvo. Súčasne zostáva zakladateľkou a predsedníčkou AI for Good.
Prvého robota postavila ako 15-ročná
Kriti Sharma pochádza z Indie. Podľa profilu na OSN zostrojila svojho prvého robota už ako 15-ročná a technológiám sa odvtedy venuje profesionálne. Vyštudovala inžinierstvo a následne získala magisterský titul z Advanced Computer Science na University of St Andrews v Škótsku.
Ešte pred tým, ako sa jej meno začalo spájať s etikou AI, pracovala vo finančnom sektore. V Barclays viedla produktové aktivity okolo mobilných platieb Barclays Pingit a neskôr pôsobila ako Global Head of Product pre Real-time Big Data Analytics. Venovala sa aj prediktívnej analytike, personalizácii, analýze sociálnych dát, sentimentu a využívaniu open-source technológií, pričom sa sústreďovala aj na rozvíjajúce sa africké trhy.
Sage a Pegg
Do Sage nastúpila v období, keď firemná AI vyzerala úplne inak než dnešný ChatGPT, Gemini alebo Claude. V roku 2016 pôsobila ako Global Director for Mobile Product Management a viedla vývoj chatbota Pegg. Neskôr zastávala pozície VP of Bots and AI a VP of Artificial Intelligence and Ethics.
Pegg mal odstrániť časť administratívy spojenej s malým podnikaním. Používateľ mohol cez Facebook Messenger alebo Slack zapisovať výdavky, pracovať s účtovnými údajmi a pýtať sa na svoje financie podobným spôsobom, ako keby písal správu človeku. Sage ho v čase uvedenia označoval za prvého účtovného chatbota svojho druhu. Namiesto otvárania klasického účtovného programu mal podnikateľ napríklad poslať informáciu o výdavku priamo cez konverzáciu a systém ju spracoval pri vzniku.
Projekt sa rýchlo rozšíril. Sage v roku 2017 uvádzal desiatky tisíc používateľov v 135 krajinách a Pegg prepájal aj s cloudovým účtovníctvom Sage One. Stále sa pritom bavíme o období niekoľko rokov pred nástupom dnešnej generatívnej AI a kedy firemné chatboty väčšinou pracovali v podstatne užšie vymedzených scenároch.
Zaujímavosťou je, že Sharma pri Peggovi neriešila iba to, čo má chatbot vedieť. Tím ho zámerne navrhol ako rodovo neutrálnu digitálnu entitu, ktorá sa nesnaží presvedčiť používateľa, že je človekom. Sage túto vlastnosť neskôr uvádzal aj vo svojich materiáloch o etickom vývoji AI.
Sharma upozorňovala na zvláštny vzorec v technológiách. Digitálni asistenti určení na plnenie príkazov často dostávali ženské mená a hlasy, zatiaľ čo systémy prezentované ako profesionálne alebo analytické nástroje častejšie získavali odlišnú identitu. Nešlo jej iba o meno chatbota. Ak deti aj dospelí celé roky komunikujú s podriadenou ženskou digitálnou postavou formou príkazov, technológia môže nevedomky upevňovať existujúce stereotypy.
Pri Peggovi preto presadzovala myšlienku, ktorú označovala ako „embracing botness“. AI podľa nej nemusí imitovať človeka za každú cenu. Používateľ má vedieť, že komunikuje so softvérom a systém sa má sústrediť na úlohu, ktorú dokáže splniť dobre. Pred britskou Snemovňou lordov neskôr priamo argumentovala, že AI by nemala predstierať, že je človekom, pretože ľudia si pri takejto interakcii vytvárajú dôveru, ktorá môže priniesť ďalšie problémy.
Päť pravidiel etickej AI vzniklo ešte pred dnešným boomom
V júni 2017 predstavila Sharma v Sage dokument The Ethics of Code, ktorý obsahoval päť základných princípov pre vývoj podnikovej AI. Z dnešného pohľadu znejú pomerne samozrejme, v roku 2017 však firmy ešte len skúšali, ako podobné požiadavky začleniť priamo do návrhu produktov.
Prvý princíp požadoval, aby AI odrážala rozmanitosť ľudí, ktorým slúži, a aby vývojári kontrolovali predsudky ukryté v tréningových dátach. Druhý spájal používanie AI so zodpovednosťou systému aj človeka. Tretí požadoval, aby AI dokázala ukázať, ako sa dopracovala k výsledku, teda aby vývojári neodmeňovali iba správny výsledok, ale aj spôsob jeho dosiahnutia. Štvrtý princíp hovoril o dostupnosti technológií pre širšiu skupinu ľudí vrátane ľudí so zdravotným znevýhodnením. Piaty počítal s tým, že automatizácia niektoré úlohy odstráni, no firmy musia súčasne vytvárať nové príležitosti a pomáhať ľuďom získavať nové schopnosti.
Nešlo o zákon ani nezávislú technickú normu. Bol to firemný súbor pravidiel, ktorým Sage opisoval vlastný prístup k vývoju AI. Sharma však presadzovala, aby podobné otázky vývojári riešili už pri návrhu systému a nie až v momente, keď sa objaví problém. V roku 2017 to vysvetľovala aj výboru britskej Snemovne lordov: etické požiadavky podľa nej v Sage nepredstavovali dodatočnú kontrolu na konci vývoja, ale súčasť návrhu produktu od začiatku.
Sage súčasne rozbehol vzdelávacie aktivity Future Makers Lab a BotCamps. Cieľom bolo dostať k základom programovania chatbotov a AI aj mladých ľudí bez tradičného informatického vzdelania. Program sa orientoval okrem iného na ľudí vo veku 16 až 25 rokov a Sharma argumentovala, že rozmanitejšie tímy predstavujú jeden zo spôsobov, ako obmedziť jednostrannosť budúcich systémov.
Najväčší problém? Naše vlastné predsudky
Táto téma sa stala centrom jej verejného pôsobenia. V článku pre Harvard Business Review aj v prednáške How to keep human bias out of AI upozorňovala, že algoritmus nemusí byť neutrálny iba preto, že pracuje s matematikou. Rozhoduje aj výber dát, cieľ, ktorý vývojár systému nastaví, zloženie vývojového tímu a spôsob, akým firma výsledok použije.
Jej argument bol praktický. Ak historické dáta obsahujú nerovnosti pri prijímaní zamestnancov, poskytovaní úverov alebo inom rozhodovaní, model sa z nich môže naučiť, že tento stav predstavuje žiaduci vzorec. Automatizácia potom problém neodstráni. Dokáže ho naopak aplikovať oveľa rýchlejšie a vo väčšom rozsahu.
Sharma pritom zdôrazňovala tri oblasti: ľudia musia existenciu vlastných predsudkov najskôr priznať, tímy vyvíjajúce AI potrebujú väčšiu rozmanitosť a systémy musia získavať skúsenosti z dát reprezentujúcich rozličné skupiny používateľov. Jej TED prednáška z roku 2018 má dnes viac ako 2,4 milióna prehratí.
Z firemnej AI vzniklo AI for Good
Popri práci v technologických firmách sa Sharma začala venovať otázke, či rovnakú technológiu možno použiť pre ľudí, ktorým komerčný trh venuje podstatne menej pozornosti. V roku 2016 jej tím vyhral Facebook AI hackathon s prvým prototypom projektu, z ktorého neskôr vznikol rAInbow. Po účasti na prvom Obama Foundation Summit v roku 2017 sa rozhodla venovať väčšiu časť práce sociálnemu využitiu AI a v roku 2018 založila AI for Good Ltd.
AI for Good funguje ako sociálny podnik, ktorý vyvíja technológie s miestnymi neziskovými organizáciami a ďalšími partnermi. Namiesto univerzláneho chatbota pre všetko vytvára systémy okolo konkrétneho problému a prostredia, v ktorom ich ľudia skutočne používajú. Organizácia dnes uvádza desať projektov v piatich krajinách, približne 1,5 milióna konzultácií sprostredkovaných AI a približne 200 mladých ľudí vyškolených vo vytváraní AI aplikácií pre sociálne projekty.
rAInbow pomáhal ženám hovoriť o domácom násilí
Prvým veľkým projektom sa stal rAInbow, ktorý AI for Good vytvoril v spolupráci so Soul City Institute for Social Justice v Južnej Afrike. Systém využíval umelú inteligenciu a interaktívne rozprávanie na komunikáciu s ľuďmi, ktorí zažívali domáce násilie alebo potrebovali informácie o dostupnej pomoci.
Vývojári ho postavili ako bezplatného a anonymného digitálneho spoločníka dostupného 24 hodín denne cez Facebook Messenger. Používateľ mohol konverzáciu rýchlo opustiť a neskôr sa k nej vrátiť, čo pri človeku žijúcom s násilným partnerom nie je nepodstatný detail používateľského rozhrania, ale otázka bezpečnosti.
Systém počítal aj s neformálnym písaním, bežnými preklepmi, nižšou úrovňou gramotnosti a potrebou vysvetľovať právne alebo odborné výrazy zrozumiteľnejším jazykom. Soul City uvádza 17 652 unikátnych používateľov a viac ako 821-tisíc vymenených správ od spustenia projektu koncom roka 2018.
SnehAI musí rozumieť aj jazyku, ktorým ľudia skutočne hovoria
Ďalší projekt ukázal inú stránku inkluzívnej AI. V roku 2019 AI for Good spojil sily s Population Foundation of India a vytvoril SnehAI, digitálneho spoločníka zameraného na sexuálne a reprodukčné zdravie mladých ľudí v Indii.
SnehAI funguje cez Facebook Messenger a WhatsApp, pričom webová verzia ponúka aj hlasové funkcie. Nepracuje iba v štandardnej angličtine alebo hindčine. Používa Hinglish, teda kombináciu hindčiny a angličtiny bežnú v každodennej komunikácii, a cez príbehy, hry či videá otvára témy ako menštruácia, antikoncepcia, panenstvo, masturbácia, príťažlivosť k rovnakému pohlaviu alebo bezpečné správanie na internete.
Na návrhu prvej verzie sa vraj podieľalo 84 adolescentov a 19 dospelých. Vývojári tak nezvolili slovník a tón iba podľa vlastnej predstavy, ale zapojili cieľovú skupinu. Prvá verzia používala rozhodovací strom, predpripravené odpovede a menu. Ďalšia generácia pridala spracovanie prirodzeného jazyka, aby používateľ nemusel iba vyberať pripravené možnosti, ale mohol písať vlastnými slovami. SnehAI bol prvý Hinglish chatbot vytvorený pre sociálnu a behaviorálnu zmenu.
Population Foundation of India dnes uvádza približne 300-tisíc používateľov a 13,1 milióna vymenených správ. Tento projekt dobre ukazuje, čo Sharma myslí pod inkluzívnou AI. Nestačí odstrániť niekoľko problematických odpovedí modelu. Treba riešiť jazyk, kultúru, súkromie, spôsob používania technológie, citlivosť tém aj to, kto sedí pri stole počas návrhu systému.
V GfK presunula AI od konverzácie k rozhodovaniu
Po Sage pokračovala Sharma v GfK, kde pôsobila ako VP Product pre platformu gfknewron. Tu už nešlo primárne o chatboty. GfK kombinoval predajné a spotrebiteľské dáta s prediktívnou analytikou, aby firmy mohli odhadovať vývoj trhu, optimalizovať ceny, plánovať zásoby alebo porovnávať správanie zákazníkov.
Verzia gfknewron 2.0 z roku 2021 pridala AI predpovede pre objednávanie a prideľovanie zásob, analýzu cenovej prémie, plánovanie cenových akcií a ďalšie rozhodovacie nástroje. GfK vtedy uvádzalo približne 20-tisíc automaticky vytvorených odporúčaní týždenne. Sharma pritom zdôrazňovala „explainability“, teda schopnosť ukázať používateľovi kontext a dôvody, na ktorých odporúčanie systému stojí.
V Thomson Reuters prišla AI do sveta právnikov
Ďalším krokom bolo Thomson Reuters, kde Sharma pôsobila ako Chief Product Officer pre LegalTech. Dostala sa tak do oblasti, v ktorej nestačí, aby generatívna AI vytvorila text, ktorý znie presvedčivo. Právnik potrebuje správny zdroj, presný kontext, kontrolovateľný výsledok a istotu, že systém pracuje s citlivými dokumentmi vhodným spôsobom.
Jedným z produktov z tohto obdobia bol Document Intelligence pre due diligence pri fúziách a akvizíciách. Systém využíval predtrénované AI modely na vyhľadávanie a kontrolu informácií v dokumentoch. Thomson Reuters v roku 2023 uvádzal, že zákazníci s jeho pomocou zrýchlili vyhľadávanie a kontrolu informácií o viac ako 50 %. Ide však o údaj spoločnosti,.
Po nástupe generatívnej AI sa ťažisko presunulo aj ku CoCounsel. CoCounsel 2.0, predstavený v auguste 2024, kombinoval modely a technológie OpenAI, Google a Thomson Reuters a spájal ich s odborným právnym obsahom spoločnosti. Mal pracovať s komplikovanejšími viacstupňovými úlohami, analyzovať dokumenty, pomáhať pri právnom výskume a fungovať priamo vo Westlaw Precision, Practical Law či prostredí Microsoft 365 vrátane Wordu, Teams a Outlooku.
Thomson Reuters uvádzal trojnásobne rýchlejšie generovanie odpovedí oproti predchádzajúcej generácii a pri nástroji CoCounsel Drafting zrýchlenie niektorých úloh pri tvorbe dokumentov až o 50 %. Aj tieto čísla ale pochádzajú od výrobcu. AI ale už neodpovedala na otázku o výdavku alebo cenovej stratégii ako kedysi, keď AI botov Sharma riešiela, ale vstupovala do profesionálnych pracovných procesov, v ktorých chyba môže mať právne alebo finančné následky.
Dnes vedie IFS Nexus Black
V júli 2025 nastúpila Sharma ako CEO IFS Nexus Black, AI inkubátora a vývojovej jednotky spoločnosti IFS. V súčasnosti vedie vývoj doménovo špecializovanej agentovej AI pre výrobu, energetiku, stavebníctvo, letectvo, obranu a dopravu.
Rozdiel oproti univerzálnemu chatbotu je veľký. Takýto systém nemá iba zhrnúť dokument alebo napísať e-mail. Má pracovať s prevádzkovými dátami, stavom zariadení, servisnými procesmi a úlohami ľudí, ktorí udržiavajú fyzickú infraštruktúru.
Dobrým príkladom je IFS Resolve, prvý produkt Nexus Black vytvorený v spolupráci s Anthropic a postavený na modeloch Claude. Systém dokáže analyzovať fotografie zariadení, senzorické údaje a prevádzkové dáta, hľadať medzi nimi súvislosti a upozorniť pracovníkov na problém skôr, než spôsobí poruchu. IFS ho cieli napríklad na energetiku, výrobu, telekomunikácie, stavebníctvo či letecký priemysel.
Pri takýchto aplikáciách dostáva Sharmine dlhoročné rozprávanie o zodpovednej AI oveľa konkrétnejší význam. Ak chatbot zle sformuluje marketingový text, výsledok väčšinou opravíte. Ak systém nesprávne vyhodnotí stav energetického zariadenia alebo kritického komponentu, následky môžu byť podstatne vážnejšie. Sharma preto pri partnerstve s Anthropic zdôrazňovala bezpečnosť a spoľahlivosť modelov ako jednu z požiadaviek pri systémoch používaných v kritických odvetviach.
Od Snemovne lordov po OSN
Jej práca sa postupne ale dostala aj mimo produktového vývoja. V roku 2018 ju britská vláda vymenovala do správnej rady nového Centre for Data Ethics and Innovation, ktoré malo analyzovať spôsob používania dát a AI a radiť vláde pri otázkach pravidiel a dohľadu.
Predtým poskytla odborné svedectvo výboru Snemovne lordov o umelej inteligencii. V roku 2018 ju OSN zaradila medzi Young Leaders a verejné profily OSN ju uvádzajú aj ako poradkyňu United Nations Technology Innovation Labs. Organizácia Spojených národov pri jej profile vyzdvihovala najmä prácu na etickej a inkluzívnej AI a otázku, čo sa stane, ak znevýhodnené skupiny nebudú mať možnosť ovplyvniť technológie, ktoré o nich rozhodujú.
Od júla 2023 zároveň pôsobí ako nezávislá nevýkonná riaditeľka britského Rightmove. Je členkou Audit Committee, Nomination Committee a Corporate Social Responsibility Committee.
Za svoju prácu sa dostala na zoznam Forbes 30 Under 30 Europe v roku 2017, kde ju Forbes uviedol v súvislosti s vývojom AI a Pegga. Objavila sa aj v Recode 100, získala britské ocenenie Points of Light za AI for Good a verejné biografie ju uvádzajú ako Google Anita Borg Scholar. V roku 2019 získala aj GG2 Young Achiever Award.
Pri pohľade na jej prácu od Barclays cez Sage, AI for Good, GfK, Thomson Reuters až po IFS sa opakuje jeden prístup. Sharma nevníma etiku ako zoznam zakázaných odpovedí, ktorý sa pridá k hotovému modelu. Rieši, kto systém navrhuje, aké dáta dostáva, komu má slúžiť, ako komunikuje, čo vie vysvetliť a kto zodpovedá za jeho rozhodnutia.
Možno najpresnejšie jej pohľad vystihuje otázka, ktorú kladie už dlhodobo: nie či sa raz stroje naučia správať ako ľudia, ale čo sa naučia od nás. Ak do dát, produktov a rozhodovacích mechanizmov vložíme naše staré stereotypy, AI ich vie až príilš efektívne opakovať. Ak chceme iný výsledok, nestačí vymeniť model. Musíme premýšľať aj nad ľuďmi, ktorí ho vytvárajú, dátami, ktoré mu dávame, a prostredím, do ktorého ho nasadzujeme.
