Logo Dennika

Umelá inteligencia môže byť zlým pánom. Príklady už vidíme

Ilustračný obrázok (Zdroj: SITA)

Umelá inteligencia dokáže napísať presvedčivý text, nakresliť obrazy, ktoré sa dražia za státisíce eur, šoférovať automobil, objednať nás ku kaderníčke, dokonca v televízii uvádza správy. Každá minca má však dve strany a s ňou sú spojené aj nemalé riziká.

Hlavné otázky sa otvárajú v oblasti bezpečnosti. Je to prirodzené, keďže sme už desaťročia zásobení sci-fi literatúrou, filmami a video hrami, v ktorých umelá inteligencia vystupuje často práve v pozícií antagonistu. Agent Smith, Skynet, Omnius, Shodan, Reaperi, atď. Ľudstvo sa vždy (oprávnene) bojí nepoznaného, hlavne ak ide o jeho vlastný výtvor. Bojíme sa tak aj sami seba, naša história je plná vojen a konfliktov. Zmení sa to s nástupom umelej inteligencie?

Nie je to hudba budúcnosti

Elon Musk varoval pred rizikami spojenými s ňou už veľa krát a robí tak znova a znova každých pár mesiacov. Podobne sa na jej adresu vyjadroval aj známy fyzik Stephen Hawking. Po sérií varovaní sa k týmto dvom pánom pridalo viacero technologických expertov a spolu ešte v roku 2015 vytvorili otvorený list, v ktorom vyzdvihli pozitíva aj negatíva umelej inteligencie a pokúsili sa apelovať na preventívne kroky, aby tak zabránili katastrofe skôr, než nastane.

Čínsky kreditový systém zavedený tamojšou vládou je praktickou ukážkou, ako je možné tak mocný nástroj zneužiť. Sociálne hodnotenie máme dnes na Facebooku. Každý užívateľ má skóre podľa toho, či klame, či zdieľa problematické príspevky, je vulgárny, atď. Daný algoritmus pozná len Facebook.

Má ho aj Google, Amazon, Netflix, Alibaba a vôbec takmer každá spoločnosť, ktorá má možnosť spracovávať „Big data“. A nemusíme ani chodiť ďaleko, už desaťročia ho majú poisťovne, banky, polícia, tajné služby, školstvo, zamestnávatelia, atď. Svojim spôsobom skóre ľuďom priraďujeme aj my, iba o tom neuvažujeme, pretože je to podvedomý proces, ktorý vznikol počas našej evolúcie.

Veľký „umelý“ brat v krajine stredu

A teraz si predstavme, že by sa všetky tieto informácie zjednotili. Nemožné? Už sa tak stalo. Čínska vláda sa dohodla so spoločnosťami, ktoré zbierajú dáta o používateľoch a vytvárajú sociálne hodnotenia, na prístupe k týmto dátam, zvyšok už mala dávno pod palcom. Pracovať s tak nepredstaviteľným množstvom dát a vzťahov medzi nimi však dokáže dnes už iba umelá inteligencia, komplexnosť je proste príliš vysoká, o množstve ani nehovoriac.

Nebezpečie zneužitia je obrovské. Ak budete konať akcie proti politike čínskej vlády, vaše skóre bude klesať. V Číne tak už prišli milióny ľudí o možnosť využívať lietadlá aj rychlovlaky, čo je pri obrovskej rozlohe tohto štátu značne limitujúce. Myslíte si, že uniknete? Umelá inteligencia vás spoľahlivo vystopuje. S prístupom k dátam o platbách, kamerovým záznamom, GPS záznamom, BTS-kám, aktivovaným cestovným lístkom, záznamom o prihlásení do internetových služieb, družicovým snímkom, psychologickému profilu, zoznamu vašich kontaktov, atď.? Uniknúť máte dnes už iba teoretickú šancu a to dalo by sa povedať doslova v rovine hypotetickej.

Súkromie bude minulosťou

Myslíte si, že tento systém bude existovať iba v takom štáte ako je Čína? Omyl, svojim spôsobom sa inšpirovali aj ďalšie krajiny. Napríklad Japonsko, Spojené štáty, Rusko, Nemecko, Veľká Británia, atď. Nemôžeme vylúčiť, že v budúcnosti systém podobného typu presadí aj v našich končinách.

Skúsme si však predstaviť aj iný scenár, a síce osvietenú vládu, ktorej by nešlo o kontrolu a poslušnosť svojich občanov ako z románu 1984, ale o ich blaho. Naivná predstava, ale v tomto prípade by umelá inteligencia pomohla vybudovať drasticky lepšiu spoločnosť. V oboch prípadoch však prichádzame o svoje súkromie. Tento proces je však nezvratný. S čoraz pokročilejšími, prepojenejšími a integrovanejšími technológiami, nad ktorými bude tróniť umelá inteligencia, naše súkromie mizne.

Možno najdesivejšia je skutočnosť, že umelá inteligencia sa bude vyvíjať tempom, ktorého my nie sme ani len teoreticky schopní. Už za krátky čas ju prestaneme chápať a následne ju schopní pochopiť už asi ani nikdy nebudeme. Deje sa tak dokonca už dnes a to znova a znova. Obavy sú preto na mieste. Na mieste je aj vytvorenie určitých globálnych štandardov a z nich vyplývajúcich obmedzení, ktoré by nám aspoň získali čas pripraviť sa. Existujú už síce viaceré návrhy, nie sú však nikde zakotvené a nik sa nimi nemusí riadiť. Európska únia zatiaľ prišla iba s veľmi vágnou smernicou.

Musíme sa pýtať

Riziká tak máme v podstate dve. Riziko zneužitie umelej inteligencie ako nástroja a riziko umelej inteligencie ako takej, keďže jej zámery a ciele môžu byť výrazne odlišné od tých našich. Budú mať v budúcnosti svoje práva aj androidi? Je etické ohraničovať ich vývoj? Nebude práve táto naša snaha považovaná za akt agresie a začiatkom nášho konca? Na tieto a mnohé iné otázky nedokáže dnes nik odpovedať. Umelá inteligencia je skutočnou výzvou. Uvidíme, či ju dokážeme zvládnuť.

— Tomáš Dugovič

Prečo vznikol Denník S

Sme mladí ľudia, ktorí písanie chápu nie len ako spôsob vlastnej sebarealizácie, ale aj ako povinnosť voči vám ostatným. Nebudeme sa však stavať do nečitateľnej pózy, ale nahlas šíriť to, čo pokladáme za objektívne správne so zreteľom na náš hodnotový systém. Neromantizujeme si minulosť, ale nasledujeme pozitívny odkaz našich dejateľov či predkov, ktorí za náš spôsob života, vlasť a rodinu umierali a chceme našu domovinu odovzdať budúcim generáciám v ešte lepšom stave, než v akom sme ju našli. Čítajte viac...