Umělá inteligence neboli AI má v myslích mnoha z nás podobu postav sci-fi jako Terminátor nebo Robocop. Hraje však zásadní roli v rámci digitální transformace společnosti a už dnes je součástí života každého z nás. Algoritmy za nás vybírají oblečení, třídí naše životopisy při přijímacích řízeních či rozhodují, který obsah na sociálních sítích se nám zobrazí. A ač bychom měli jít s technologickým pokrokem vpřed, musíme se mít na pozoru před možnými hrozbami, které s rozvojem umělé inteligence přicházejí. Co mám na mysli? Zejména prosazení takových zákonů, které budou možným hrozbám předcházet. Proč by nás to mělo zajímat? A jaký je vývoj na evropské úrovni?
Dobrý sluha, zlý pán
Technologický pokrok vpřed nesmí znamenat pokrok vzad z pohledu lidských práv. Automatické rozpoznávání obličeje a šmírování veřejnosti, jedno z nejznámějších využití umělé inteligence, je dozajista může ohrozit. Premiantem v této technologii je nedemokratická Čína. A je také premiantem v jejím zneužívání zejména k perzekuci lidí za jiné politické postoje či odlišné náboženské vyznání. Bohužel však není zdaleka jedinou zemí, která zneužívá umělou inteligenci k potlačování občanských svobod. Ázerbájdžán a Bahrajn skrze sociální sítě identifikují odpůrce režimu, politické oponenty či příslušníky komunity LGBT, které následně pronásledují.
I v Evropě se využití umělé inteligence rozšiřuje raketovou rychlostí. Pokud nebudou existovat jasné hranice, může se nám vše vymknout z rukou. Firmy budou moci volně prodávat nové produkty autoritářským režimům, podobně jako to nyní dělají například někteří izraelští vývojáři. Stejně tak bude sledován každý náš krok. U nás rozpoznávání obličejů prozatím provozuje letiště Václava Havla, ovšem policie přemýšlela nad jeho užitím i v místech se zvýšenou koncentrací osob jako je metro či na turisticky oblíbených místech. Šmírování lidí na veřejnosti za pomocí automatických systémů je dle mého názoru nepřípustné. Pokud by přišly do špatných rukou, mohly by velmi jednoduše omezovat svobodu nás všech. Plošné monitorování lidí je neospravedlnitelné jak na Internetu, tak v reálném světě.
Stejné možnosti pro všechny
S expanzí algoritmů se také rozšířila jejich schopnost organizovat společnost, politiku, instituce a naše chování. Algoritmické zkreslení, které se vyskytuje napříč platformami, včetně výsledků vyhledávačů a obsahu na sociálních sítích, může mít dopady od narušení soukromí až po prohlubování předsudků na základě rasy, pohlaví, sexuality či etnického původu. Narazili jste na video nebo film o konspiračních teoriích a teď vám “ty internety” nenabízejí nic jiného? Přesně k podobnému šíření konspiračních teorií může právě umělá inteligence přispět. I proto je zapotřebí komplexnější regulace, protože nově vznikající technologie jsou stále vyspělejší a méně transparentní.
Pracujeme na změně
Podpořit inovace a přitom zajistit bezpečnost a chránit soukromí. To je cíl, na kterém v Evropském parlamentu pracuji, konkrétně ve výborech pro vnitřní trh a ochranu spotřebitelů (IMCO), kulturu a vzdělávání (CULT) a ve zvláštním výboru pro umělou inteligenci v digitálním věku (AIDA).
Pokroku bychom se neměli bránit. Ovšem je potřeba přijmout potřebný právní rámec, který nastaví pravidla pro užití umělé inteligence. Je klíčové, aby v první řadě motivoval odpovědnou stranu k vyhnutí se způsobení škody jako takové, ale také zajistil náhradu škody případným obětem zneužívání umělé inteligence. Věřím, že nastavením pravidel a mantinelů bude do budoucna umělá inteligence moct být ku prospěchu jak jednotlivcům, tak celé společnosti a ekonomice.