Slýcháme o ní každý den, ptáme se jí na pomoc s porozuměním textu, na ideální itinerář k výletu do dalekých zemí a někdy z ní děláme osobního terapeuta. Umělá inteligence je dnes pro mnoho lidí velkým pomocníkem, který šetří čas, jiní ji však vnímají jako hrozbu a mají obavu, že právě tyto nástroje je nahradí v zaměstnání nebo že odstraní běžnou mezilidskou konverzaci. Co tedy můžeme na tomto poli v příštích letech očekávat? Na co se těšit a vůči čemu být ostražití? My jsme si o otázkách naší budoucnosti s AI (zkratka pro umělou inteligenci), o jejích možnostech i potenciálních rizicích povídali s RNDr. Rudolfem Červenkou, matematikem, který se umělé inteligenci dlouhodobě věnuje, podrobně sleduje její vývoj a nyní vyvíjí hybridní model AI specifický pro české prostředí.
Co nejzajímavějšího se z vašeho pohledu momentálně děje na poli vývoje AI?
V těchto dnech asi uvedení modelu GPT-5 od OpenAI, který slibuje další krok k obecně umělé inteligenci (AGI). AI se už nejméně dva roky bouřlivě rozvíjí, jistě si umíte představit, kolik převratných událostí se už odehrálo – guru AI Geoffrey Hinton ovšem tvrdí, že se nacházíme teprve na deseti procentech vývojové křivky.
Když se podíváte na posun AI za poslední roky, co vás osobně nejvíc překvapilo?
Skutečně mě šokovala rychlost, s jakou generativní AI přešla od jednoduchých odpovědí k tvorbě umění, hudby nebo počítačových kódů. Co pro nás AI dnes běžně dělá, znělo včera jako sci-fi.
Jak si představujete, že bude vypadat běžný den člověka s osobní AI za pět let?
Za pět let bude AI všude kolem nás: ráno nám navrhne snídani, v práci bude pro nás řešit rutinní úkoly, večer shrne, co se během dne událo, a nabídne nám lístky do divadla. Bude tak trochu jako kouzelný džin. Podmínkou je, abychom si nad ní udrželi převahu, abychom se tedy opravdově snažili orientovat ve věcech kolem nás i ve světě – a abychom k tomu používali lidský rozum a cit.
Takže očekáváte, že se AI v blízké době stane běžnou součástí domácnosti stejně jako třeba Wi-Fi?
Určitě, vždyť široké nasazení autonomních robotů v domácnostech se očekává do roku 2030. Nepůjde jenom o řízení zdrojů tepla nebo ovládání světel, roboti se chystají například i k tomu, aby pečovali o seniory. AI bude všudypřítomná natolik, že první, co se v její obsluze máme naučit, je umět ji vypnout. Dobrou paralelou může být opravdu Wi-Fi, jejíž signály lze celkem snadno využít ke špehování skrz zdi. Na Carnegie Mellon University vyvinuli metodu analyzující signál, který každá Wi-Fi šíří. Metoda umí vytvořit 3D mapu těla a jeho pohybu v reálném čase, což umožňuje detekovat lidi a jejich aktivity i skrz zeď.
RNDr. Rudolf Červenka je matematik působící v oblasti umělé inteligence, překladatel (mj. Marka Aurelia, Alberta Camuse, Scotta Fitzgeralda) a interpret mluveného slova. V 90. letech založil a od té doby vede nakladatelství LEDA, které vydává jazykové učebnice pro 35 jazyků, náročnější literaturu fakt a zásadní beletrii. Je autorem kompendia „UMĚLÁ INTELIGENCE – zdroje, podstata, současný stav, praktické využití, budoucnost“. Vydal knížku fejetonů „Otevřený deník“ a společensko-politickou mozaiku „Hlavou proti zdi“.
Které oblasti lidského života se podle vás v souvislosti s AI nejvíce změní?
Nejvíc se změní práce, vzdělávání a zdravotnictví. Hovoří se o automatizaci až 60 % míst, o personalizovaném učení řízeném AI, o nových lécích a lékařských postupech. Změní se i doprava – v několika amerických městech už teď zavádějí robotaxi.
Za pět let toho bude mnohem víc. Rutinu by měly převzít modely AI, lidskou doménou budou tvořivé úkoly a samozřejmě řemeslnické profese. Vystoupí nové argumenty pro tvrzení, že „řemeslo má zlaté dno“.
Může vést masové užívání AI ke zlenivění ve smyslu neochoty o věcech samostatně přemýšlet?
Jistě ano – když AI shrne, co autor ve svém románu napsal, proč číst celou knihu? Což jsem nemyslel vážně. Klíč je v rov- nováze – AI budeme používat jako asistenta, nad ním bude náš vlastní mozek.
Jaké jiné společenské důsledky plošného používání AI v budoucnu odhadujete?
Nárůst nerovnosti. Že bohatí dostanou super obecnou umě- lou inteligenci (AGI), ale chudí ne. Že se v důsledku propo- jení člověk-stroj změní lidská identita, že člověk se strojem splynou. A z pozitivního hlediska to bude zlepšení v oblasti medicíny a ekologie. Ale rizika budou obrovská, vlastně už je pociťujeme. Nástup AI bude jako průmyslová revoluce, nápadná změna provázená vírou v lepší budoucnost, ale hodně bolestná.
Myslíte, že uvidíme v nejbližších letech první vědecké objevy, které budou plně dílem AI?
V jistém smyslu ano. Vždyť AI už teď navrhuje léky a analyzuje data z vesmírných teleskopů. Skutečná tvořivost jí ale není vlastní, má jen vynikající kombinační schopnosti. Její budoucnost však nejsme schopni odhadnout z naprosto principiálních důvodů, dosud totiž nevíme, co to je vědomí ani jak vzniká.
Můžeme se v blízké době těšit na AI, která bude schopna vést hluboký rozhovor nebo chápat ironii a humor?
Očekává se, že neurálně-symbolické systémy AI pochopí někdy po roce 2030 logiku i emoce, takže hluboké rozhovo- ry a ironie budou na pořadu dne. Už teď AI modely zvládají konverzaci na „rozumová“ témata. Sám jsem před několika dny debatoval s Grokem o podrobnostech jaderné fúze na Slunci (je zde např. otázka, proč se fúze na Slunci nezrychluje, materiálu je tam stále dost). I když mám matematicko-fyzikální vzdělání, přinesl mi rozhovor zajímavé poznatky. Samozřejmě jsem je spěchal ověřit do seriózních zdrojů.
Myslíte si, že AI někdy porozumí lidským emocím tak jako člověk?
Možná ne úplně jako člověk, ale dost podobně, až například vznikne tzv. rozšířená inteligence. Ta by mohla za pomoci zvláštního snímače číst myšlenky, pokusy tímto směrem se už dějí. AGI by mohla detekovat emoce z hlasu nebo textu. Jen ta hluboká lidská empatie bude asi trvat déle – a možná ji roboti nezvládnou vůbec nikdy.
Co by měli lidé vědět o AI, aby se jí zbytečně nebáli, ale ani jí slepě nedůvěřovali?
AI je nástroj, není to magie. Je trénovaná na nedokonalých datech, takže může halucinovat nebo zkreslovat. Je třeba se AI nebát, ale vždy ověřovat, co nám sděluje. Je to jako s autem: skvělé na cestování, ale řídit musí člověk sám, jinak by mohl dojet bůhvíkam. Takže když slyšíme Zuckerberga, jak vyhlašuje „… každý bude mít osobní superinteligenci, která mu pomůže dosáhnout jeho cílů, prožívat jakékoliv dobrodružství, být lepším přítelem a růst v osobu, kterou si přeje být“, měli bychom v maximální míře zpozornět.
Říkal jste, že AI musí být řízena člověkem. Nemusíme se tedy jako společnost připravovat na situaci, že by AI mohla rozhodovat například o tom, koho přijmout do práce nebo komu schválit hypotéku?
Na nic takového rozhodně nemáme být připraveni! Zaplaťpánbůh, nežijeme v totalitní společnosti. Model AI může shrnout informace, ale rozhodnout musí zásadně člověk. On přece bude za dané rozhodnutí v maximální míře zodpovědný.
Pokud se bavíme o odpovědnosti, kdo je z vašeho pohledu nejvíce zodpovědný za úkony nebo rozhodnutí, které učiní AI? Vývojář, uživatel, nebo někdo jiný?
Odpovědnost v morálním smyslu mají všichni zúčastnění – od vývojářů a firem vytvářejících modely AI přes datová centra, v nichž se modely provozují, až po samotného uživatele. Jde právě o něj, a tak je to on, kdo musí být opatrný, třebaže odpovědnost sdílí společnost jako celek.
Kde dnes vidíte největší etický problém v používání AI?
AI je nebezpečnou hrozbou pro naše soukromí, ulehčuje zneužití našich soukromých dat a nás samotných. Mám na mysli obrovská rizika totalitní kontroly. Co jsem řekl, není ale přesné.
Nebezpečnou hrozbou pochopitelně není sama technologie umělé inteligence, ale lidé, kteří se ji budou snažit zneužít. Příkladů je hodně a bohužel pocházejí ze států, kde bychom to nečekali. Nedávno se například provalilo, že britská vláda tajně umožnila policii prohledávat víc než 150 milionů fotografií z pasů a imigračních databází pomocí orwellovské technologie rozpoznávání obličejů, která je jednou z disciplín AI.
V současné době pracujete na hybridním modelu AI specifickém pro české prostředí, můžete trochu přiblížit, o co přesně se jedná?
Jde o to, že každý model AI je ve svých funkcích zatížen okolnostmi svého vzniku, například daty, která byla použita k jeho vytrénování. Promítly se do něj kulturní vzory, zkušenost, dějiny, jazyk a umění daných zemí – většinou USA a Číny. Český národ se utvářel jinak, má jiné vzory a obecně jiné priority, například nikdy nebude velmocí. Chceme, aby náš model plně odrážel českou zkušenost.
Jaké máte s tímto modelem plány? Co by měl přinést?
Připravili jsme víc než dvacet oblastí, v nichž bude jeho nasazení užitečné. Uvedu jen jednu – bylo by přínosné, kdyby existoval zdroj aktuálních a dlouhodobých informací, na který by se bylo možné do velké míry spolehnout. Dnes nic takového nemáme.