Aktuální vydání magazínu Forbes

obalgha_sajt_2017-04
musk

Boj proti příliš chytré umělé inteligenci podle Elona Muska: informace bez cenzury

Pošli to dál

Terminátor, Ex Machina, Já, Robot nebo Vesmírná odysea. Taky vám tyhle filmy někdy nahánějí strach? Nejste sami, nemalé obavy z vývoje technologií, a zvlášť těch chytrých, má paradoxně i Elon Musk. A proto se rozhodl s několika dalšími osobnostmi technologického světa založit společnost, která má v plánu negativnímu vývoji umělé inteligence zabránit. Jmenuje se OpenAI a má vlastně jediný cíl – pracovat na umělé inteligenci a všechno, na co přijde, zveřejňovat.

Zapomeňte teď na chvíli na superchytré roboty, které nerozeznáte od člověka – tak daleko pravděpodobně vývoj umělé inteligence ještě není. To ale neznamená, že bychom se s těmito technologiemi nesetkávali v běžném životě už dnes. V Silicon Valley je tahle disciplína v posledních letech stále populárnější a lidé, kteří ji umějí, stále žádanější. A asi vás nepřekvapí, že mezi největší hráče, kteří ji posouvají dál, patří Google nebo Facebook.

Díky systému „deep learning“ umí jak Google, tak Facebook poznávat obrázky, samostatně překládat nebo prostě jenom poznat slova, která se chystáte napsat. Díky tomu si můžete na vašem telefonu s Androidem třeba nechat z cizího jazyka přeložit názvy ulic, pokud na ně namíříte svůj telefon. Facebook vám zase díky této technologii pomůže identifikovat lidi na fotkách nebo upraví News Feed podle toho, co by vás mohlo zajímat. Běžné, ne?

S přislíbenými částkami jednotlivých investorů se suma plánovaná na vznik hlídacího psa OpenAI vyšplhala na miliardu dolarů. Dalšími investory kromě Muska a Sama Altmana ze společnosti Y Combinator, kteří ji vedou, jsou třeba i Peter Thiel, se kterým Musk už spoluzakládal internetovou platební službu Paypal nebo spoluzakladatel sociální sítě LinkedIn Reid Hoffman. A pozadu nezůstává ani Amazon Web Services Jeffa Bezose – ten poskytne OpenAI potřebnou výpočetní infrastrukturu.

Bill Gates kdysi své obavy z pokroku digitální inteligence rozdělil do několika etap jejího vývoje: „Nejdřív za nás budou ještě-ne-super-inteligentní stroje odvádět hodně práce. To je pozitivní, jestli to zvládneme dobře. Ale za pár dekád bude ta inteligence nakonec dost silná na to, aby nám způsobila starosti.“ Příklady, které pro zakladatele OpenAI představují první vlaštovky té druhé druhé fáze, jsou přístroje schopné kreativity, snění a prožitku lidské zkušenosti.

Musk nyní říká, že ho umělá inteligence a bezpečnost s ní spojená trápily už nějakou dobu, takže je prý čas, který bude muset vytížený vizionář projektu obětovat. Podle něj ale stále jde o dobrou cenu za klid na duši. Už dříve přitom investoval do společností vyvíjejících umělou inteligenci DeepMinds a Vicarious a neziskovému projektu Future of Life Institute, který „pracuje na zmírnění risků, kterým lidstvo čelí“ a zabývá se, kromě umělé inteligence, také výzkumem jádra, biotechnologií nebo klimatu.

Peníze těmto společnostem nevěnoval prý s myšlenkou na zisk, ale „aby umělou inteligenci lépe pochopil a dohlížel na ni,“ vysvětlil Musk pro web Business Insider. Což je vlastně stejná motivace, která dnes stojí za vznikem OpenAI. „Našim cílem je takový pokrok digitální inteligence, který by co nejlépe sloužil společnosti jako celku, bez nutnosti finanční návratnosti,“ píše se na webu OpenAI. „Naše vědce silně povzbuzujeme k publikování jejich práce. Jestli budeme mít nějaké patenty, podělíme se o ně se světem,“ stojí tamtéž. Tím se projekt vymezuje vůči podobným existujícím aktivitám.

Altman sice v rozhovoru pro server Backchannels připustil, že i Google sdílí závěry svých výzkumů s veřejností, ale zároveň zapochyboval, jestli tomu tak bude i nadále: „Jak se postupně přibližujeme k něčemu, co předčí lidskou inteligenci, je otázkou, kolik toho bude Google sdílet,“ řekl doslova.

Nejen kvůli tomu média přisoudila OpenAI přídomek „altruistická“. Na otázku, jestli budou moci k jejím aktivitám přispívat i lidé zvenčí Altman odpovídá: „Rozhodně. Výhodou otevřeného programu je, že laboratoř bude moct volně sdílet informace. Je těžké spolupracovat se zaměstnanci Googlu, protože ti jsou vázaní mlčenlivostí.“ Otevřenost uvádí i jako důvod, proč by měli špičkoví vědci chtít pracovat právě v OpenAI a ne třeba ve Facebooku.

Vědce podle něj bude lákat možnost sdílet, na čem právě pracují. A něco na tom možná bude, OpenAI už svému velkému „konkurentovi“ Googlu přetáhl vědce Ilju Sutskevera, který platí za přední kapacitu v oblasti neurovědeckého zkoumání a v Googlu měl na starosti právě tento výzkum.

Musk s Altmanem prý hodiny debatovali o tom, jestli právě otevřeností a sdílením informací, které si pro OpenAI vytyčili jako základní pravidla, nakonec hrozby, kterým chtějí předejít, jen nezvýší. Altman přiznává, že si tím asi nikdy nebudou stoprocentně jistí, ale ještě jednou vysvětluje filozofii projektu: „Jestli má tajemství technologie držet jen někdo, podle čeho se rozhodnete, jestli to má být Google, americká, čínská vláda, ISIS nebo kdo? Na světě je spousta špatných lidí a přesto lidstvo prosperuje. Co by se ale stalo, kdyby některý z těch lidí byl nepoměřitelně mocnější než jiný člověk?“

A Musk přitakává: „Myslím, že nejlepší obrana proti zneužití umělé inteligence je poskytnout ji co nejvíce lidem. Jestli všichni budou mít možnost využívat umělé inteligence, tak nebude existovat člověk nebo malá skupina lidí, kteří by měli superschopnosti.“ Říká člověk, kterému se přezdívá opravdový Iron Man.

Autor: Daniela Ešnerová

Čtěte také