Aktuální vydání magazínu Forbes

▶ Vědec Jan Pichl: AI nás dokáže zahubit i během plnění banálního úkolu

Pošli to dál

Umělé inteligenci (AI) se věnuje teprve čtyři roky, už má ale za sebou zkušenosti a ocenění, které by mu měl závidět každý jeho vrstevník. Doktorand Jan Pichl z Českého vysokého učení technického v Praze byl jedním z pětičlenného týmu, který loni získal stříbro v celosvětové soutěži Amazon Alexa Prize od amerického e-commerce gigantu. V ní šlo o to, vytvořit chatbota, který bude v hlasové konverzaci co nejvěrněji komunikovat s kterýmkoli člověkem.

Cíl Amazonu je v tomto snažení jasný – vylepšit co nejlépe svou virtuální asistentku Alexu.

Čtěte také: Forbes 30 pod 30 podcast s Markusem Krugem o životě, Kazmovi i Boratovi

„Ocenění je významné hlavně z toho důvodu, že jsme soutěžili s věhlasnými univerzitami, které se do finále vůbec nedostaly,“ vysvětluje v podcastu Forbes 30 pod 30 Honza Pichl, kterého k počítačům přivedl jeho dědeček – velký fanoušek moderních technologií. „Cíl byl, aby konverzace byla co nejdelší,“ vrací se ještě k soutěži.

Virtuální asistenti ovládaní hlasem jsou dnes velkým tématem pro mnoho světových firem. Amazon má svou Alexu, Apple Siri, Microsoft koketuje s Cortanou. Tito asistenti nám pomáhají s hlasovým zadáváním a vyhledáváním informací, v Americe se již dnes často používají k objednávání zboží. Jejich role ale brzy může být daleko širší.

„Od zdokonalování se v angličtině až po asistenty starších lidí, kteří si nemají s kým popovídat,“ dává Honza některé z příkladů.

Umělá inteligence u chatbotů hraje zásadní roli. Je to mozek virtuálních asistentů, který by měl rozeznat, co se po něm požaduje, a poté na podnět co nejpřesněji zareagovat. Dobrý sluha se ale může jako lusknutím prstu změnit ve zlého pána.

„Když se podíváme do budoucna – bez ohledu na to, za jak dlouho to bude -, obavy jsou na místě,“ odpovídá Honza na otázku, zda máme varování před AI od podnikatelů, jako je Bill Gates nebo Elon Musk, brát opravdu vážně.

„Může existovat scénář, kdy umělá inteligence vyhodnotí, že lidstvo není přínos pro naši planetu. A to může být začátek konce. Na to je potřeba dbát už při vývoji,“ říká český vědec a jedním dechem dodává, že ke katastrofě může dojít i během plnění zprvu banálního úkolu.

„Například dostane za úkol vytisknout letáčky a optimalizuje si vše tak, že má vytisknout co nejvíce těchto letáčků. Nejdřív by došel papír, tak by začala kácet stromy, až by vykácela všechny stromy na světě,“ říká Honza s tím, že už i to by mělo negativní následky. Navíc jen u stromů by zůstat nemuselo.

V podcastu se dozvíte více o takovýchto scénářích, o samotném Honzovi Pichlovi z ČVUT i o tom, jak takový chatbot vzniká a co vše je ve vývoji potřeba.

Čtěte také