Příležitosti a hrozby umělé inteligence

AI neboli umělá inteligence (v současném kontextu také její podoblasti strojové učení – machine learning a hluboké učení – deep learning) je dalším nástrojem, který lidská společnost při svém vývoji objevila. Narozdíl od kola nebo kladkostroje je pouze sofistikovanější a jeho použití vyžaduje důkladnějších a obezřetnějších postupů. Není to ale nástroj, který by sám o sobě znamenal zkázu lidstva nebo nadvládu strojů. Je jen na nás – na lidech – k čemu námi stvořenou inteligenci povedeme. Jestli k násilí a útlaku, nebo k rozvoji společnosti a jejího blahobytu. Velká většina vědců, výzkumníků, programátorů a dalších odborníků si naštěstí tento zásadní etický rozměr uvědomuje a snaží se jej ve svém výzkumu zohledňovat.

Není však na místě podléhat absolutnímu technologickému optimismu. Příkladů zneužití umělé inteligence je celá řada. Ať už v případě zemí s autoritářskými režimy (například systém sociálního kreditu v Číně nebo hromadné sledování v Rusku), ale i v demokratických státech (například v Nizozemí, kde je AI využívána k diskriminaci nízkopříjmových skupin obyvatel). Prostřednictvím nástrojů využívajících některou z forem umělé inteligence běžně po celém světě dochází ke zneužívání osobních údajů pro různé politické a reklamní kampaně nebo k šíření škodlivých dezinformací. Výrazným rizikem dnešní doby je i vývoj inteligentních zbraňových systémů, které by samy dokázaly provádět útočné operace.

Možnosti pozitivní aplikace umělé inteligence ale nabízí mnohem lepší cestu. Namísto válčení na cizím území nebo utlačování obyvatel na území vlastním můžeme AI používat tak, aby byla lidem opravdu prospěšná. Příležitostí je celá řada ve všech oblastech lidské činnosti. V zemědělství může umělá inteligence kontrolovat složení a stav půdy i plodin a na základě toho zajišťovat zavlažování, hnojení, postřik pesticidy a případně i samotnou sklizeň. Podobným způsobem se jiná inteligence může orientovat na územní plánování a efektivní výstavbu. Význam a možnosti nových prostředků pro práci s daty a informacemi (mezi jiným třeba při rozpoznávání textů historických rukopisů) jsou pro knihovny, školy a jiné vzdělávací instituce naprosto přelomové. Umělá inteligence nám může pomoci i s úbytkem pracovních sil u některých profesí, o které v posledních letech opadá zájem. Neplatí tedy to, že nám stroje vezmou práci – naopak nám ji pomůžou vůbec provést.

Velmi významné je také využití umělé inteligence ve zdravotnictví a při řešení výzev spojených s klimatickými změnami. Při poskytování zdravotní péče mohou neuronové sítě pomáhat nejen s diagnózou a sledováním stavu pacientů, ale také s prováděním lékařských zákroků včetně náročných chirurgických operací. Umělá inteligence rovněž může usnadňovat život handicapovaným (například prostřednictvím chytré aplikace, která zrakově postiženým lidem popisuje jejich okolí, předčítá texty a dalšími způsoby jim tak nahrazuje zrak). Přínos umělé inteligence oceníme také u modelů dlouhodobého vývoje klimatu, které nám poskytnou nejen daleko přesnější předpovědi počasí, ale hlavně nám umožní mnohem lépe předvídat hrozící přírodní katastrofy, jako jsou požáry, zemětřesení, hurikány nebo záplavy.

Je jasné, že důkladné regulaci umělé inteligence na evropské úrovni se při jejím dalším rozvoji nevyhneme. Koneckonců je potřeba zabránit rozšiřování negativních trendů v jejím vývoji, zároveň je nutné stanovit jasná pravidla i pro její pozitivní využití. Předsedkyně Komise von der Leyen v tomto směru přislíbila legislativu zaměřenou na oblast umělé inteligence s podobně tematickým zacílením jako nařízení o ochraně osobních údajů (GDPR). Takový legislativní krok je nezbytný k tomu, abychom jako Evropa byli schopni prosadit evropská opatření jako nový celosvětový standard pro výzkum a vývoj takové umělé inteligence, která nebude zneužívána k porušování lidských práv, ale naopak bude přispívat ke zlepšování životní úrovně a řešení podstatných problémů, se kterými se jako lidstvo potýkáme.

Uniklá verze textu, který Komise připravuje, bohužel vyvolává jisté pochybnosti. Požadavek na dodržování Listiny základních práv totiž nesměřuje na soukromý sektor, kde se otevírá prostor pro případná selhání. Je také otázka, zdali chápat AI čistě jako „produkt“ – v řadě situací na její využití spotřebitel narazí spíše jako na „službu“. Měl by být chráněn i v těchto případech.

Chybí mi jasnější přístup ve věci kybernetické bezpečnosti. S rozvojem IoT budeme na AI narážet na mnoha dalších místech a prostor, kde se mohou objevit nové zranitelnosti, tím nepříjemně roste. U tohoto typu software lze zároveň očekávat vysoké tempo aktualizací, které budou prověřování komplikovat. Samotný software má při tom mnohdy charakter „černé skříňky“, u které je obtížné vysvětlit, co dělá a proč to dělá.

Doufám, že Komise ještě před formálním zveřejněním text vylepší. Společně se vznikající Evropskou strategií pro data bude nejspíš základním pilířem pro rozvoj hospodářství ve 21. století a určí vnímání lidských práv v digitálním věku.