Vedci z Univerzity Karlovej, Českého vysokého učenia technického v Prahe a kanadskej Albertskej univerzity dosiahli vynikajúci úspech na poli umelej inteligencie.
Medzinárodný tím vyvinul program DeepStack, ktorý v decembri 2016 prvýkrát v histórii porazil profesionálnych hráčov v jednej z najpopulárnejších kartových hier na svete – v dvojhráčovom neobmedzenom Texas Hold’em pokri.
O vedeckých objavoch, ktoré viedli k tomuto výsledku, informoval včera jeden z najprestížnejších vedeckých časopisov Science. Na vývoji programu sa podieľali aj slovenskí vedci Viliam Lisý, Matej Moravčík a Martin Schmid, ktorý má slovenskú matku a českého otca.
Náročnosť projektu podčiarkuje fakt, že desaťčlenný tím pracoval na projekte takmer rok.
Prekonaný medzník
DeepStack vytvoril ďalší historický míľnik, kedy ľudia v populárnych hrách podľahli počítačom. Po backgammone, dáme, šachu a go je teda ďalším v poradí no-limit poker. Poker však bol podľa Michaela Bowlinga, profesora z Albertskej univerzity, ktorý výskumný tím viedol, dlhoročnou výzvou pre umelú inteligenciu. „Je to typická hra s neúplnými informáciami, v ktorej hráči počas hry nemajú rovnakú informáciu a pohľad na hru,“ povedal Bowling.
Fakt, že hráč nevidí karty oponenta a oponent nevidí jeho karty, robí problém výrazne zložitejším z teoretického hľadiska. Na druhú stranu je však táto neurčitosť informácie v reálnom svete bežná. Preto je pokrok v riešení hier s neúplnou informáciou zásadný pre praktické aplikácie, uviedol Michael Bowling.
„Algoritmus DeepStack je prelomový, pretože sa nám podarilo preniesť myšlienky, ktoré boli kľúčové v hrách s úplnou informácií, do sveta hier s neúplnou informáciu. Doteraz nebolo jasné, či je podobný prístup vôbec možný,“ povedal Schmid. DeepStack umožňuje vypočítať vhodnú stratégiu pre situáciu v pokri až v momente, keď situácia nastane, bez nutnosti uvažovať o celej hre dopredu naraz, čo bol doteraz prevládajúci prístup.
Softvér s intuíciou
Algoritmus využíva strojové učenie pomocou hlbokých neurónových sietí. V prípade DeepStack neurónová sieť vyhodnocuje jednotlivé pokrové situácie, ide teda o istú formu intuície, ktorú algoritmus využíva pri rozhodovaní. Podobne ako človek, musí aj DeepStack svoju intuíciu trénovať hraním mnohých pokrových partií. V jeho prípade išlo o milióny pokrových situácií, uviedol Moravčík.
Deepstack hral proti skupine 33 profesionálnych hráčov pokru v vybraných Medzinárodnou federáciou pokru zo sedemnástich štátov v decembri 2016. Každý hráč mal možnosť hrať 3 000 hier počas štyroch týždňov. Deepstack týchto hráčov v priemere porazil s obrovskou prevahou.
Každého z jedenástich hráčov, ktorí dohrali všetkých 3 000 hier, porazil aj individuálne a iba v jednom prípade výhra nebola štatisticky signifikantná. DeepStack je teda prvý počítačový program, ktorý porazil profesionálnych hráčov v dvojhráčovém no-limit Texas Hold’em pokri.
DeepStack je výnimočný, no nie je výnimkou
DeepStack je prvým, dnes už však nie jediným programom, ktorý to dokázal. V januári sa pokrových profesionálov podarilo poraziť aj programu Libratus, ktorí vyvinuli vedci z Carnegie Mellon University.
Dôvodom časového posunu pri informovaní o úspechu programu DeepStack je zrejme publikovanie v magazíne Science. Tamojšia redakcia totiž pred uverejnením starostlivo preveruje výsledky a informácie.
„Schopnosť uvažovať o jednotlivých pokrových situáciách až v momente keď nastanú je kľúčová pre zložité hry, ako je no-limit Texas Hold’em, v ktorých môže nastať oveľa viac rôznych situácií, než je počet atómov vo vesmíre“, povedal Viliam Lisý z ČVUT.
Aj takú zložitú hru hrá DeepStack rýchlejšie ako ľudia. Potrebuje zhruba len tri sekundy uvažovania na každé rozhodnutie a funguje aj na bežnom laptope s výkonnejšou grafickou kartou od nVidie. Tú používa pre svoje výpočty.
Ukazuje sa teda, že medzinárodný tím priniesol dôležitý príspevok k vývoju umelej inteligencie, ktorá sa tak opäť priblížila tej ľudskej.