Pozor na AI, jej sebavedomie vás môže stáť nemalé peniaze

Četboty sa pre mnohých stali prvým miestom, kam sa obracajú s otázkami, ktoré by ešte donedávna zadávali do vyhľadávača alebo riešili s odborníkom. Pýtame sa ich na zdravie, zmluvy, pracovné rozhodnutia aj osobné financie.

Tento spôsob komunikácie má však jednu nepríjemnú vlastnosť: nesprávna a potenciálne nebezpečná odpoveď môže znieť rovnako presvedčivo, ako správna.

Ak používate umelú inteligenciu pravidelne, nepochybne sa už aj vám stalo, že ste četbota pristihli pri zjavnej nepravde. Pravdepodobne išlo o tému, ktorej ste dobre rozumeli, prípadne ste poznali fakty, ktoré sa nedali spochybniť. Napriek tomu AI ďalej používame aj pri otázkach, v ktorých sa až tak nevyznáme a odpovede si len zriedka kontrolujeme v ďalších zdrojoch.

Práve v tom spočíva problém. Pri téme, ktorú poznáme, vieme zachytiť chybný údaj, nelogický záver alebo vymyslenú informáciu. Ak však četbot radí pri daniach, investíciách či dôchodku, často nemáme dostatok vedomostí na to, aby sme rozpoznali, že odpoveď stojí na nesprávnom predpoklade alebo jej chýba dôležitý kontext.

Na toto riziko upozorňuje Pawan Jain, docent financií na University of Michigan–Flint a vedúci tamojšieho programu pre certifikovaných finančných plánovačov. Podľa neho nemusí byť najnebezpečnejšia odpoveď, ktorá je na prvý pohľad nezmyselná. Oveľa väčší problém predstavuje rada, ktorá pôsobí odborne, je logicky usporiadaná a sebavedomo vysvetlená, no napriek tomu je chybná alebo nevhodná pre konkrétneho človeka.

Jazykové modely totiž nevytvárajú odpovede rovnakým spôsobom ako finančný poradca, ktorý pozná situáciu klienta a nesie za svoje odporúčanie určitú zodpovednosť. Generujú text na základe pravdepodobnosti ďalších slov a vzorcov, ktoré sa naučili z veľkého množstva údajov. Ich úlohou je vytvoriť súvislú odpoveď, nie automaticky zaručiť, že odporúčanie zohľadňuje všetky osobné, právne a daňové okolnosti.

Rovnakým pokojným tónom tak môže četbot vysvetliť princíp zloženého úročenia aj odporučiť konkrétny spôsob čerpania dôchodkových úspor. Nemusíte pritom postrehnúť, že pri druhom prípade systému chýba informácia o príjmoch partnera, zdravotnom stave, ďalšom majetku alebo budúcich daňových dôsledkoch.

Pri všeobecných otázkach nemusí byť takéto obmedzenie zásadné. Četbot dokáže zrozumiteľne vysvetliť rozdiel medzi akciou a dlhopisom, opísať fungovanie hypotéky alebo priblížiť základné investičné pojmy. Môže tiež pripraviť zoznam otázok, ktoré sa oplatí položiť finančnému poradcovi.

Riziko rastie vo chvíli, keď sa od vysvetľovania pojmov presuniete ku konkrétnemu rozhodnutiu. Dôchodkové plánovanie, dedičstvo, optimalizácia daní, zamestnanecké opcie, predaj firmy alebo delenie majetku pri rozvode závisia od množstva individuálnych údajov. Stačí, aby četbot jednu podstatnú okolnosť nepoznal alebo sa na ňu nespýtal, a všeobecne správna rada môže byť pre človeka zrazu nevhodná.

Pri osobných financiách sa navyše chyba nemusí prejaviť okamžite. Nevhodne načasovaný predaj majetku môže zvýšiť daňovú povinnosť až pri nasledujúcom zúčtovaní. Zle nastavené čerpanie dôchodkových úspor môže ukázať svoje dôsledky počas poklesu trhu a nesprávne rozhodnutie o dávkach môže ovplyvniť príjem domácnosti počas ďalších rokov.

Jain preto upozorňuje na rozdiel medzi očividnou a skrytou chybou. Ak četbot uvedie nezmyselný údaj alebo spraví jednoduchú matematickú chybu, človek môže spozornieť a začať odpoveď overovať. Takéto zlyhanie síce znižuje dôveru v nástroj, ale zároveň človeka prinúti hľadať ďalší zdroj.

Nebezpečnejšia je odpoveď, ktorá vyzerá bezchybne. Je dobre napísaná, obsahuje výpočet, vysvetlenie aj konkrétny návrh. Jej presvedčivosť môže vytvoriť dojem, že ďalšia konzultácia už nie je potrebná.

Najväčšou škodou tak nemusí byť jediný nesprávny krok. Problémom môže byť aj to, že človek po sebavedomej odpovedi četbota vôbec nevyhľadá odbornú pomoc, aj keď si to jeho situácia vyžaduje.

Rozsah takýchto prípadov sa zatiaľ meria ťažko. Jain vo svojom komentári odkazuje na prieskum komerčnej platformy Pearl.com medzi 2 000 dospelými Američanmi. V ňom 19 percent respondentov uviedlo, že po nasledovaní finančnej rady od umelej inteligencie prišli o viac ako 100 dolárov. Medzi príslušníkmi generácie Z dosiahol tento podiel 27 percent.

Tieto čísla však treba vnímať s rezervou. Nejde o akademickú štúdiu ani o kontrolu reálnych účtov a transakcií. Výsledky vychádzajú z toho, čo uviedli samotní respondenti, pričom prieskum uskutočnila firma pôsobiaca v oblasti odborných služieb. Tento výskum každopádne naznačuje, že ľudia už četboty nepoužívajú iba na vysvetľovanie pojmov, ale aj ako podklad pre skutočné finančné rozhodnutia.

Otázkou zároveň zostáva, koľko chybných rozhodnutí si ľudia vôbec neuvedomili. Pri niektorých finančných krokoch sa následky ukážu až po rokoch, prípadne sa nedajú jednoznačne spojiť s konkrétnou odpoveďou umelej inteligencie. Prieskum tak môže zachytávať iba prípady, pri ktorých si ľudia stratu všimli a vedeli ju spätne priradiť k rade četbota.

Jain poukazuje aj na nerovnomerné schopnosti systémov umelej inteligencie. Pri bežných a často opisovaných situáciách môžu fungovať dobre, pretože majú k dispozícii množstvo podobných príkladov. Pri neobvyklých, komplikovaných alebo jednorazových prípadoch však môže byť ich spoľahlivosť výrazne nižšia. Vo financiách pritom bývajú práve menej časté rozhodnutia často tie najdrahšie. Predaj firmy, uplatnenie zamestnaneckých opcií, presun veľkej časti úspor alebo voľba dôchodkovej stratégie sa nemusia počas života opakovať. Človek v takýchto prípadoch nemá vlastnú skúsenosť, podľa ktorej by vedel posúdiť kvalitu odporúčania.

Četbot môže napriek tomu podať odpoveď rovnako sebavedomo ako pri jednoduchej otázke o úroku na sporiacom účte. Z tónu ani zo štruktúry textu sa nedá spoľahlivo vyčítať, či ide o dobre zvládnutý problém alebo oblasť, v ktorej systém iba presvedčivo skladá pravdepodobné tvrdenia.

Ani ľudský poradca, samozrejme, nie je automatickou zárukou správnej rady. Výhodou konzultácie s človekom je aspoň možnosť pýtať sa na predpoklady, riziká a zodpovednosť. Poradca môže vysvetliť, prečo odporúča konkrétny postup, ktoré údaje pri rozhodovaní zohľadnil a za akých okolností by svoju radu zmenil. Pri četbote môže byť podobné vysvetlenie iba ďalším vygenerovaným textom. V skutočnosti nemáte šancu vedieť, či systém skutočne pracoval so správnymi pravidlami a úplnými údajmi, alebo iba dodatočne vytvoril presvedčivé odôvodnenie svojho pôvodného záveru.

Umelá inteligencia nemusí byť pri osobných financiách nepoužiteľná. Dobre poslúži pri orientácii v téme, vysvetľovaní terminológie, porovnaní základných možností alebo príprave otázok pred stretnutím s odborníkom. Môže človeku pomôcť pochopiť, na čo sa má pýtať a ktoré informácie si má pripraviť.

Hranica by možno mala byť nastavená pri rozhodnutiach, ktoré zahŕňajú vysokú sumu, významné daňové dôsledky alebo krok, ktorý sa už nebude dať jednoducho vrátiť späť. Dedičstvo, dôchodkové úspory, štruktúra podnikania či predaj veľkého majetku patria medzi situácie, pri ktorých by odpoveď četbota nemala byť jediným podkladom pre rozhodovanie a konkrétne úkony.