Pozrite si
Microsoft chce motivovať vývojárov, aby do svojich riešení adaptovali Microsoft Copilotov. Pre pre doplnenie či vylepšenie. Ako na to, a aké to prináša výhody?
O tom sme sa porozprávali s Michalom Marušanom z Microsoft, špecialistom na end-2end AI riešenia pomocou novinky Azure AI studio.
Počas druhej polovice mája 2023 sa zásadne rozvírili vody témy umelej inteligencie. Teda, nie že by bola hladina posledné mesiace práve stojatá, no po konferencii Microsoft Build 2023 je jasné, že inteligentní chatboti, ako absolútne prirodzená súčasť online prostredia, sú definitívne tu.
Obsah pokračuje pod reklamou
Pomerne podrobne sme vám novinky z tejto konferencie predstavili v článku Microsoft Copilot je neoddeliteľnou súčasťou portfólia Microsoft, čo to znamená? Okrem riešení pre bežných používateľov Microsoft predstavil riešenie pre vývojárov. To je však navrhnuté tak, že vlastne ani nemusíte vedieť programovať.
Vytvárajte AI nástroje aj bez programovania, pomocou Azure AI Studio
Veľmi zjednodušene môžeme povedať, že pomocou Azure AI studio si viete vytvoriť vlastný nástroj využívajúci umelú inteligenciu bez znalostí programovania. Pre e-shop, správu dát, alebo takmer na akýkoľvek iný účel.
„Azure AI Studio je súbor služieb, ktoré podporujú rôzne úrovne používateľov. Azure AI je spojujúcim prvkom pre vývojárov, ktorý zjednodušuje prístup k jednotlivým funkcionalitám a umožňuje vývoj end-to-end riešení,“ priblížil nám v rozhovore pre TECHBOX novinku Michal Marušan zo spoločnosti Microsoft.
Dodal, že tieto služby sú dostupné všetkým a využiť ich môžete aj v prípade malého e-shopu. „Z pohľadu nákladov tu nie je žiadna vstupná bariéra, nakoľko predplatné za služby je postavené tak, aby nástroje mohol využívať naozaj každý,“ doplnil Marušan.
V praxi to znamená toľko, že ak chcete do svojho riešenia integrovať na svoj obraz vytvoreného Copilota a o programovaní nič netušíte, v rámci Azure AI nájdte Microsoft Power Platform a komponenty Power Virtual Agents. Tu si v rozhraní „drag&drop“ postavíte vlastného inteligentného pomocníka, prípadne iné riešenie, ktoré využíva umelú inteligenciu.
Vývojári majú k dispozícii komplexné pracovné prostredie
Samozrejme, výhody Azure AI pre end-to-end riešenia nekončia pri tom, že si svoj nástroj môže „vyklikať“ aj takmer úplný laik. Skúsení vývojári majú k dispozícií bohaté pole možností. „Najväčšou výhodou je integrácia/prepojiteľnosť s ostatnými službami Azure. V rámci end-to-end riešení nejde len o samotné AI služby, ale často potrebujete riešiť aj zber, ukladanie a spracovanie dát, automatizáciu nasadenia, front-end v podobe aplikácií a podobne. Pre všetky tieto fázy a funkcionality v rámci takéhoto riešenia ponúka Azure odpovedajúce služby, ktoré je možné veľmi jednoducho integrovať s Azure AI službami,“ priblížil Michal Marušan.
Ak by sme sa sústredili výhradne na end-to-end riešenia, Azure AI je jednoduché GUI prostredie pre manažment a vytváranie riešení s použitím rôznych Azure AI služieb. „Môžete si tu napríklad vyskúšať „chatovať“ s rôznymi OpeanAI modelmi, napríklad ChatGPT, alebo vytrénovať vlastný image klasifikátor,“ vysvetľuje odborník z Microsoftu.
Viac kontroly nad vývojom a kódom získate vďaka Azure Machine Learning Studio. „Špeciálne pre jazykové modely je tu novinka Azure Machine Learning prompt flow, kde môžete vizuálne tvoriť pipeliny spracovania jednotlivých logických úloh – prompty, riadiace kódy a podobne. Samozrejme, vrátane testovania a nasadenia týchto pipeline,“ dopĺňa novinky Marušan.
Ako veľmi je Azure AI bezpečné?
Pri promtoch nás napadla otázka, aký je vlastne proces ovládania a filtrovania promptov v rámci orchestrácie v Azure AI? „Pre minimalizáciu rizík ponúka Azure OpenAI ako filtrovanie obsahu, tak monitorovanie zneužitia. Filtrovanie obsahu prebieha synchrónne s dotazom/promtom a žiadne dáta sa neukladajú ani nepoužívajú k pretrénovaniu modelu, zároveň sme predstavili funkcionalitu Custom Content Filtering, kde si môžu používatelia nastaviť úroveň, ktorá vyhovuje ich riešeniu.“
Obsah pokračuje pod reklamou
Michal Marušan nás ubezpečil, že Microsoft vníma bezpečnosť veľmi citlivo a kladie na ňu veľký dôraz. Responsible AI Framework, ktorý je dostupný aj zákazníkom, je vylepšený o celý rad nástrojov a procesov. „V súvislosti s tým sme tiež nedávno vydali Azure AI Content Safety pre jazykové a obrazové modely, kde sa dajú využívať naše modely na identifikovanie nevhodného a škodlivého obsahu,“ doplnil odborník zo spoločnosti Microsoft.
Použite open source, nech sa páči
Ak ste pri end-to-end riešeniach zvyknutí používať open source modely, nebudete sa podľa Microsoftu musieť obmedzovať v implementácií. Predstavené novinky umožňujú používať modely tretích strán. Jedno z najčerstvejších partnerstiev je so spoločnosťou Meta, ktoré umožnilo sprístupnenie Llama2 v rámci Model Catalog služby Azure machine learning. Tento model môžete priamo použiť alebo ho podľa potrieb dotrénovať a pripraviť ako API pre integráciu do vášho projektu.
Tiež nás zaujímali výhody Azure AI v porovnaní s inými riešeniami. „V prvom rade je Microsoft Azure postavený ako Enterprise Cloud, ktorý zodpovedá používaniu, architektúre a prísnym nárokom našich Enterprise zákazníkov – ako taký, je založený na škálovateľnosti a bezpečnosti, ktoré sa premietajú aj do AI služieb. Azure AI je súbor služieb, ktoré nestoja samostatne, ale sú integrované s ostatným Azure službami. Často potrebujete uložiť dáta, poslať informácie o výsledku, postaviť aplikáciu, ktorá používa AI – to všetko je jednoducho integrovateľné v rámci platformy Azure,“ uzavrel Michal Marušan zo spoločnosti Micsrosoft.
Ak vidíte v novinkách od Microsoft potenciál pre vašu prácu, nemusíte už viac čakať. Niektoré firmy v našom regióne už nové možnosti využívajú. Zaujímavou informáciou je, že sa použitie zásadne nemení naprieč regiónmi, teda inšpirovať sa, či hľadať pomoc s riešeniami môžete doslova u kohokoľvek.