Deti chránime pred rizikami v reálnom svete, no zároveň ich púšťame do online priestoru, kde na ne číhajú úplne iné nebezpečenstvá. Niektorí ľudia sa podľa teoretického fyzika a popularizátora vedy Samuela Kováčika utopia v dezinformáciách a vytvoria si vlastnú paralelnú realitu.
Tento rozhovor ste mohli čítať aj v Denníku N.
V rozhovore sa dočítate:
- ako sa v záplave informácií nestratiť;
- ako sa pripraviť na svet, v ktorom bude AI meniť pracovný trh;
- či vznikne superinteligencia, ktorej správanie nebudeme vedieť predvídať;
- prečo je pri regulácii AI dôležité, aby jej rozumeli najmä tí, ktorí o nej rozhodujú.
Čo pre vás znamená AI? Ako často a na čo ju využívate?
Pod pojmom AI rozumiem pomerne všeobecne umelú inteligenciu ako nejakú formu počítačového programu, ktorá nie je programovaná konvenčným spôsobom a v niektorých ohľadoch veľmi dobre simuluje našu inteligenciu. Dokonca ju v mnohých prípadoch dokáže aj predčiť.
Dlho sme robili programy tak, že išlo jednoducho o súbor inštrukcií: urob A, urob B, a keď sa stane C, tak urob D. Niekto napísal manuál, ako má program postupovať, a vniesol doň svoj intelekt, svoje predstavy a podobne. Umelá inteligencia je tiež počítačový program, niečo, čo je vyjadrené v reči jednotiek a núl a beží na nejakom počítači. Nie je však programovaná klasickým spôsobom, že niekto začne písať inštrukcie, čo má umelá inteligencia robiť.
Je učená tak, že do nej niekto nahádzal obrovské množstvo dát a napísal postup, ako sa má týmto dátam prispôsobiť a potom ich nejakou formou zrkadliť.
Takže je to v istom zmysle nová éra počítačových programov. Nie je to úplná novinka, veď sa na tom pracuje už polstoročie, ale teraz to prešlo nejakou kritickou hranicou, keď to dokáže byť na nerozoznanie od ľudských schopností. Povedali by sme, že to prešlo Turingovým testom (skúška, ktorá zisťuje, či dokáže stroj prejavovať správanie nerozoznateľné od správania človeka – pozn. red.).
Používam ju v podstate niekoľkokrát denne. Napríklad keď ráno vstanem, mám vytrénovaného asistenta, ktorý mi pozrie, aké e-maily mám neprečítané a ktorým sa mám venovať, aké veci mám dnes v pláne, čo mám zhruba rozbehnuté tento týždeň a čo som ešte nerozbehol. V podstate má k dispozícii rôzne dáta o mne a každý deň mi robí taký brief. V mnohých ohľadoch to funguje ako osobný asistent, ktorý stojí dvadsať eur mesačne, nie dvetisíc eur.
Využívam AI na všeličo. Tým, že robím výskum, ktorý zastrešuje niekoľko medzinárodných spoluprác, popri tom učím, robím Vedátora, som čerstvý otec, snažím sa ešte cvičiť a robím rôzne komerčné spolupráce, je toho veľa, čo treba ustrážiť. A veľmi mi v tom pomáha umelá inteligencia. Zapojil som si cez konektor prístup do e-mailov. Zmieril som sa s tým, že však aj tak tie dáta už niekto predtým ukradol, tak si ich môžu zobrať aj oni.
Pomáha mi aj v rôznej administratíve. Dajme tomu, keď prídem zo zahraničnej pracovnej cesty, potrebujem napísať krátky sumár a dať dohromady všetky výdavky. Snažím sa, aby doklady o nich končili v e-mailoch. Potom môžem všetko nahrať do umelej inteligencie a povedať: Bol som tam, zisti, o čom som prednášal, aké som mal výdavky a urob za mňa tento report. To, čo mi kedysi trvalo hodinu, mi teraz trvá päť minút a tých 55 minút môžem venovať niečomu oveľa kreatívnejšiemu a užitočnejšiemu.
Snažím sa ju zapájať aj do výskumu. Keď robím nejaký výskum, nahrám do nej články, ktoré sú z danej oblasti, a potom ju nechám kritizovať moje nápady. Lebo vo vede – teda v tej veľmi špecifickej oblasti vedy, ktorej sa venujem – vychádza najmenej päťdesiat nových článkov, ktoré majú v priemere štyridsať strán. A to je jednoducho neobsiahnuteľné v rámci nejakých normálnych časových kapacít.
Keď sa plánujem venovať nejakej problematike, nastavím, čo idem robiť a ako to robím, a nechávam ju, aby ma za pochodu kontrolovala. Sem-tam povie: „Aha, niečo podobné robili ľudia na tejto univerzite pred štyrmi rokmi. Skús pozrieť tieto prepojenia.“ Takže mám pocit, že aj výskumne mi celkom pomáha. Dalo by sa povedať, že AI je na úrovni veľmi rýchleho doktoranda.
Pomenovali ste pozitíva AI – zefektívňuje vám čas a ustráži ho, aby ste ho mohli venovať iným veciam. Naopak, aké riziká má podľa vás AI? Spomenuli ste, že umelá inteligencia má k dispozícii váš e-mail, kde môžu byť aj citlivé údaje.
Áno, väčšina týchto údajov je už teraz uložená na nejakom externom serveri, takže nemám pocit, že by toto riziko v súvislosti s umelou inteligenciou nejako výrazne narástlo. Riziká sa dajú rozbiť na: málo pravdepodobné, veľmi pravdepodobné a krátkodobý a dlhodobý horizont.
Jedna z vecí, ktorú AI možno urobí, je, že stimuluje nejaké zmeny na pracovnom trhu. Niekto hovorí, že môže viesť k veľkej nezamestnanosti. Dáta tomu zatiaľ úplne nenasvedčujú. Dokonca ani v technologických sektoroch, kde napríklad umelá inteligencia veľmi dobre programuje, neprepúšťajú programátorov, pretože vďaka AI dokážu fungovať efektívnejšie. Nevenujú čas syntaxi a správnemu písaniu znakov, ale premýšľajú o architektúre programu.
Ale možno AI naozaj spôsobí, že prácu, ktorú teraz robí päťčlenný tím, bude čoskoro robiť jeden človek a tí štyria ďalší ľudia si budú musieť vymyslieť nejakú novú zábavku. V tomto sme historicky veľmi dobrí. Keď prichádzala priemyselná revolúcia, vyzeralo to, že ľudia sa budú nudiť, lebo stroje za nás urobia všetku prácu. Ale vymysleli sme si niečo iné.
Takže aj AI spôsobí nejaké otrasy, ale v poslednom čase som trochu optimistickejší, než som bol, dajme tomu, posledný rok. Najprv to vyzeralo tak, že umelá inteligencia môže veľa ľudí jednoducho vyhodiť z trhu práce. Teraz začínam byť mierne optimistickejší, lebo nevidím, že by sa to dialo, aj keď naozaj veľa práce sa už dá automatizovať.
Skôr mám pocit, že to mnohým ľuďom môže otvoriť nové možnosti. Dajme tomu, niekto si povie, že si chce založiť malú firmu na Slovensku – jednoosobovú eseročku. S tým sa spája neuveriteľné množstvo práce, lebo treba byť tak trochu úradník a spravovať si všetky veci okolo, treba byť tak trochu účtovník, marketér, človek, ktorý rozpošle päťdesiat e-mailov rôznym potenciálnym partnerom. A s rôznymi časťami tohto si teraz vie človek pomôcť umelou inteligenciou.
Napríklad mu môže pomôcť s marketingom a človek sa potom môže sústrediť na tie veci, v ktorých je naozaj silný. Keď je niekto remeselník, ktorý chce lepšie odpromovať svoje služby, má teraz oveľa lepšie nástroje na to, aby mohol omnoho viac svojej kapacity venovať tomu, v čom je naozaj dobrý, a uľahčiť si ostatné umelou inteligenciou.
Samozrejme, sú ľudia, ktorí majú pocit, že všetko nahradí umelá inteligencia, a potom to tak trochu vyzerá, že niektoré produkty sú viditeľne generované AI a nestoja až za tak veľa. V takom krátkodobom horizonte je pomerne pravdepodobné, že veľa obsahu, ktorý vzniká na internete, bude generovaný umelou inteligenciou a nebude ktovieaký.
Už teraz keď si človek otvorí sociálne siete, pozrie si video a rozmýšľa, či je skutočné alebo ho len niekto napromptoval umelej inteligencii. A ak je to naozaj tak, ľudia si začnú uvedomovať, že to umelé im prináša menší pôžitok.
Človek si pozrie nejaké video, ktoré ho poteší tým, že vidí napríklad niečo z prírody, nejaký pekný príbeh alebo niečo, čo sa naučí, a zrazu si bude klásť otázku: Je to naozaj skutočné? Problém je, že tento istý pocit bude mať aj pri skutočných videách. Uvidí niečo skutočné a nebude vedieť, či sa pozerá na niečí skvelý výkon alebo na niečo fascinujúce, ale neprirodzené. To nás bude oberať o pôžitok. Takže myslím si, že AI ešte viac výrazne zamáva so sociálnymi sieťami.
Menej pravdepodobná predpoveď je, že časť ľudí začne sociálne siete opúšťať. Lebo aj tí, ktorí tam netrávia veľa času, ale občas si ich pustia kvôli nejakému pôžitku, sa môžu pýtať, akú radosť z toho vlastne budú mať, keď budú v podstate vidieť iba vygenerované videá. Časť ľudí to asi odradí od sociálnych sietí a časť ľudí sa v tom totálne utopí, lebo umelá inteligencia vie robiť fascinujúci obsah priamo na mieru. Akékoľvek divné pôžitky človek môže mať, vie mu ich pripraviť.
Nepravdivé informácie sa však netýkajú len AI…
Dlho som sa zamýšľal nad otázkou: aké percento informácií, ktoré čítame na internete, je správne? Keď si úplne náhodne otvorím stránku na internete a niečo si prečítam, väčšina informácií je nesprávna. Nemusí ísť o cielene vytvorenú dezinformáciu. Môžu to byť napríklad nesprávne uvedené otváracie hodiny nejakého obchodu, lebo obchod to tam nastavil pred desiatimi rokmi a medzičasom sa to mohlo zmeniť. Už v minulosti pre mňa platilo, že k väčšine informácií na internete mám pristupovať veľmi opatrne. S umelou inteligenciou bude táto obozretnosť ešte dôležitejšia.
Pri rizikách rozlišujem aj dlhodobé obavy. Jednou je, že vytvoríme formu existencie, ktorá nás prevýši, a nebudeme vedieť ju kontrolovať. Už teraz nie je úplne nepredstaviteľné vytvoriť umelú superinteligenciu, ktorá sa prosto rozlezie po internete, takže nebude v podstate odhaliteľná a vymazateľná, a bude využívať rôzne kapacity na to, aby získala pre seba viac a viac zdrojov. Nemyslím si však, že to hrozí v krátkodobom horizonte. Ale čo znamená krátkodobý horizont, je menej jasné, než bolo kedysi.
Ľudia môžu umelú inteligenciu využívať na dobré veci, napríklad na vynachádzanie nových liekov, ale môžu ju využívať aj na zlé veci. Ľudia, ktorí chceli niekomu uškodiť, no neboli veľmi kompetentní, dostali do ruky silný nástroj. Je to trochu ako súťaž v zbrojení ako kedysi: boli ľudia, ktorí vymýšľali vírusy, a boli aj takí, ktorí robili antivírusové programy. Toto je znova celé umocnené umelou inteligenciou.
Umelá inteligencia je už naozaj našou každodennou súčasťou. Dokonca od marca 2026 ministerstvo školstva rozšírilo štátny vzdelávací program o AI gramotnosť. Prečo podľa vás potrebujú byť mladí ľudia gramotní aj v tejto oblasti? Čo si pod AI gramotnosťou predstavujete?
Problém je, že umelá inteligencia je dobrý sluha, ale zlý pán. Keď dostanem v škole otázku, nad ktorou sa mám zamyslieť a priniesť odpoveď, no namiesto toho tú otázku len napíšem do umelej inteligencie a skopírujem odpoveď, neprinesie mi to žiadny progres. Štúdie nám ukazujú, že to, slušne povedané, vytvára kognitívny dlh. Ľudovo to znamená, že ľudia kvôli umelej inteligencii proste otupievajú.
Keď mi učiteľka položí v škole nejakú otázku, nezaujíma ju iba moja odpoveď. Ide jej o to, aby ma postrčila do myšlienkového procesu, ktorý ma posúva. Keď ten proces nahradím umelou inteligenciou, samozrejme, zostanem zaseknutý na mieste.
Príkladom toho, ako to nemá fungovať, je, že na vysokej škole máme odovzdať bakalársku prácu. Tá sa už teraz dá napísať jedným odstavcovým promptom, v ktorom vysvetlím, odkiaľ má čerpať dáta, aký má mať formát, že na univerzitnej stránke má nájsť šablónu. To je príklad, ako to nemá fungovať. Lebo bakalárska práca nie je cieľom, skutočným cieľom je to, čo sa pri jej písaní študent naučí.
Iný príklad, ako to však môže fungovať s umelou inteligenciou, je, že dáme študentovi v podstate veľmi ťažkú bakalársku prácu a on bude používať umelú inteligenciu na to, aby sa naučil nové veci, aby písal efektívnejšie alebo aby mu umelá inteligencia našla chyby rýchlejšie, než ich nájde školiteľ. A pomocou toho napíše vo výsledku oveľa lepšiu záverečnú prácu a naučí sa oveľa viac.
Celkom dobrý nástroj je rozmýšľať o umelej inteligencii ako o tútorovi. Každý z nás má zrazu osobného tútora, vlastného odborníka – tých mali kedysi len ľudia zo šľachtických rodín. Teraz ho má každý z nás a pomáha nám zorientovať sa v chémii, biológii a tak ďalej.
A znova, keď ho používam tak, že za mňa urobí domácu úlohu, nenaučí ma nič. Ale keď je nástrojom, ktorý mi pomáha identifikovať moje slabé miesta, pomáha mi ich zlepšiť a posúva moje schopnosti ďalej, vie byť užitočným nástrojom.
Z toho mi tak trochu vychádza, že zodpovednosť je na študentoch a študentkách, ako sa rozhodnú k svojim domácim úlohám pristúpiť – ľahšou alebo ťažšou cestou.
Áno. Niekedy v raných časoch detstva má človek prirodzenú motiváciu, že sa chce učiť. Ale problém je, že potom prejde na režim, že cieľom školy nie je sa niečo naučiť, ale zvládnuť testy a mať dobré známky. Nemám pocit, že v tomto je chyba na strane študentov. Skôr je podľa mňa problém na strane systému, že niekde stratíme motiváciu a zvedavosť a zo školy sa stane len miesto testov, skúšok, maturít a podobne.
Ako spoločnosť podľa mňa nemáme jasne zadefinované, čo vlastne od školy očakávame. Lebo všetci sme si ňou prešli, máme vágnu predstavu a pocit, že deti majú robiť to isté, čo sme tam robili my, len to budú robiť na novších počítačoch. A toto je podľa mňa veľká chyba. Neviem, či niekde na svete si toto už ľudia zodpovedali.
Keď bola industriálna revolúcia, do školy sa naozaj chodilo s tým, že odtiaľ majú vyjsť žiaci, ktorí vedia bez pomôcok odmocniny na tri desatinné miesta, lebo veľa z nich to naozaj pri práci potrebovala. Museli sa učiť encyklopedické vedomosti, lebo nemali encyklopédie poruke. Sotva sa ľudstvo spamätalo z toho, že všetci máme encyklopédie a kalkulačky vo vrecku nonstop, nedostali sme sa ešte k ďalšiemu kroku.
Je na zamyslenie, čo vlastne očakávame, že sa žiaci v škole naučia. Neviem, či má nejaká krajina v tomto vyjasnenú odpoveď alebo či by sme si to, čo vlastne chceme, mali povedať ako spoločnosť.
Čo by sme podľa vás mali od škôl vyžadovať, aby sa žiaci naučili?
Určite chceme, aby aj bez používania zariadenia, ktoré majú vo vrecku, mali žiaci základný prehľad o fungovaní sveta. Aby som nepotreboval pozerať na Wikipédiu, keď chcem zhruba vysvetliť, čo je fotosyntéza. Nemyslím presne povedať všetky jej cykly, ale vysvetliť základnú myšlienku, že je to spôsob, ktorým rastliny zachytávajú energiu zo slnka a ukladajú ju do rôznych chemických zlúčenín.
V nejakých takýchto hrubých rysoch by podľa mňa mali mať žiaci informácie v hlave. Mali by rozumieť, ako funguje spoločnosť, a poznať spoločenské zvyklosti. To je podľa mňa niečo, čo sa často podceňuje. Jedna z výhod škôl je, že sme zatvorení osem rokov s tridsiatimi ľuďmi v jednej miestnosti a niektorí z nich nám vyhovujú, niektorí nám nevyhovujú.
Veľa spoločenských zručností sa implicitne a prirodzene v škole učíme. Ale nikto nepovedal, že toto je jedným z tých veľkých cieľov – naučiť sa interagovať, spolu dospievať a riešiť konflikty. Vystaviť sa riziku, zavolať niekoho prvýkrát na rande a byť pripravený na to, že odpoveď bude nie. Toto sú milióny rôznych vecí, ktoré nás škola učí za pochodu.
Keď si to jasne zadefinujeme, bude nám oveľa jasnejšie, aké sú tie vhodné miesta, kde môže umelá inteligencia pomôcť.
AI nám môže dať veľmi presvedčivo znejúcu odpoveď, ktorá však nemusí byť správna. Čomu môžeme dôverovať a čo, naopak, treba overovať?
Ľudia majú pocit, akoby bol toto problém umelej inteligencie. Ale ja si môžem otvoriť noviny alebo učebnicu, kde môže byť chyba. Môžem si otvoriť dve učebnice, ktoré tvrdia rozdielne veci o tom istom. Chyby sa stávajú, preto treba byť nastavený tak, že hocijaká informácia, ktorú čítam, nie je stopercentne zaručená.
Umelá inteligencia má istú výhodu v tom, že novinám nedokážem povedať: „Dodajte mi zdroj.“ No jej môžem povedať: „Napíš mi aj zdroje informácií.“ Môžem si vypýtať nezávislé zdroje: „Nájdi mi o tom tri nezávislé zdroje a nepíš mi veci, ktoré nie sú overené z viacerých nezávislých zdrojov.“ Pre mňa je to súčasť celkovej opatrnosti voči informáciám, ktoré prijímam.
Treba si na to dávať pozor. Sú rôzne štúdie o tom, že ľudia konzultujú svoje zdravotné problémy s umelou inteligenciou veľmi často, lebo je dostupná nonstop a bez čakania. A naozaj má k dispozícii obrovskú informačnú databázu, ale iba približne 75 percent informácií, ktoré ľudia dostanú od umelej inteligencie o zdraví, je správnych. To znamená, že štvrtina je nesprávna. To je veľa.
Čiastočne je to spôsobené tým, že AI niečo nepochopí, zle vyhodnotí, a čiastočne tým, že to ľudia nevedia dobre opísať. Umelá inteligencia sa nepýta tak dobre doplňujúce otázky, ako sa pýta doktorka. Tá si môže všimnúť nejakú drobnosť, ktorú umelá inteligencia prehliadne.
AI je silný nástroj, ktorý často dáva rýchlo správne odpovede a občas dáva rýchlo nesprávne odpovede. Keď pri výskume používam AI na nejaký sumár, ktorému chcem reálne rozumieť, idem na to krok po kroku. Keď mi niečo nedáva zmysel, poviem jej: „Tomuto nerozumiem, toto mi nedáva zmysel.“ A áno, občas sa stane, že umelá inteligencia prizná: „Hups, toto je zle vytiahnutý údaj alebo zle urobené škálovanie.“ No sem-tam sa stane, že mi vysvetlí, že niečomu rozumiem zle.
Ako menia často nepravdivé obrázky, videá alebo texty, vyprodukované AI naše vnímanie sveta a diania okolo nás?
Dezinformácie nie sú niečo, čo by teraz prišlo vďaka umelej inteligencii. Umelá inteligencia však dokáže robiť niektoré veci oveľa vernejšie. Dezinformácie sa šírili posledné roky hlavne prostredníctvom textov a obrázkov, často zavádzajúcich, ktoré mohli byť vytrhnuté z kontextu alebo použité z iného obdobia.
Niekto napríklad urobí fotografiu nejakého námestia a napíše k nej: „Pozrite sa, koľko sa sem nahrnulo migrantov.“ Je to skutočná fotografia, ale úplne posunutá v čase a priestore.
Robili sa aj videá, ktoré boli zavádzajúco zostrihané. Napríklad sa vystrihla nejaká kľúčová časť a potom celá myšlienka vyznela úplne inak. A to, čo teraz umožňuje umelá inteligencia, je, že v podstate dokáže zreprodukovať hocijaký typ obsahu, ktorý sme zvyknutí prijímať ako konvenčný alebo hodnoverný, a to spôsobom, ktorý sa dá len veľmi ťažko odhaliť.
Vie bez problémov vytvoriť video politika, ktorý tvrdí niečo, čo nikdy nepovedal. A umelá inteligencia to vie urobiť takým spôsobom, že naozaj treba experta, aby si všimol, že to nie je skutočné. Takže AI spôsobila, že ľudia, ktorí chcú šíriť dezinformácie, už nemajú žiadny limit. Už nemusia byť odkázaní na tie typy obsahu, ktoré sa im predtým produkovali ľahšie, lebo teraz sa dá veľmi ľahko robiť prakticky všetko.
Nie je vylúčené, že vďaka tomu vzniknú veľké skupiny ľudí, ktoré budú žiť úplne v paralelnej realite. A v podstate sa to v niečom deje už aj teraz. Kým v minulosti si človek o niečom len prečítal, teraz si môže pozrieť kopu videí, ktoré v ňom vytvoria dojem, že nejaké mesto je úplne neobývateľné, lebo sa tam niečo udialo, pritom to budú videá vygenerované umelou inteligenciou.
Keby si teraz niekto povedal, že chce systematicky začať očierňovať Tvrdošín, dokáže vygenerovať také množstvo obsahu, až sa môže nájsť niekto, kto uverí, že mesto ovládajú, dajme tomu, ilumináti. Nástroje na to sú a nevyžadujú si veľké kapacity, aby ich niekto začal používať.
Takže v tomto, žiaľ, dezinformátori dostali do rúk silný nástroj. A mohli by sme znova povedať, že je to súťaž v zbrojení, pretože aj ľudia, ktorí odhaľujú mýty, dostali silný nástroj. Umelá inteligencia totiž vie rôzne mýty rýchlo detegovať a podobne. Ale, žiaľ, vieme, že dezinformácia má vždy väčší dosah ako jej vyvrátenie. No keby tvorcom alebo správcom sociálnych sietí v skutočnosti záležalo na hodnoverných informáciách, vedeli by, čo s tým majú urobiť.
K akým hodnotám by sme mali viesť deti, aby odolali nielen digitálnym skúškam, ktoré ste teraz zmienili?
Odpoveď je asi dvojaká. Jedna z nich je zvedavosť. Zvedavosť je niečo, čo deti majú prirodzene, len potom ju v nich viac či menej úspešne začneme dusiť. Ak tú zvedavosť budú mať, podľa mňa je veľká pravdepodobnosť, že keď narazia na umelú inteligenciu, budú ju používať správne.
A tá druhá vec súvisí s tým, do akých problémov vedieme svoje deti. V skutočnom svete vytvárame prostredie, ktoré má byť pre nich extrémne bezpečné, a zároveň v online svete im vytvárame extrémne nebezpečné prostredie.
Do trinástich rokov sa dieťa hrá na preliezačkách, kde keď spadne pomaly z trojmetrovej výšky, odrazí sa od zeme a nič sa mu nestane, lebo všetko je urobené tak, aby ani náhodou nemohol vzniknúť nejaký problém. A potom má trinásť rokov a dostane prístup k sociálnym dieťam, kde mu môže vypisovať v podstate hocijaký úchyl úplne bez problémov.
To, čo by sme mali robiť, je vytvoriť im trochu menej bezpečné prostredie v útlom veku, aby sa sami postupne začali učiť identifikovať nebezpečenstvo, vyhýbať sa mu a rozumieť tomu, na ktorú vetvu na strome sa môžu zavesiť a na ktorú už nie. To sa, žiaľ, nedá urobiť bez toho, aby sa občas nejaká vetva zlomila. Dôležité je, aby to bola vetva, ktorá je nízko.
Jonathan Haidt (americký sociálny psychológ – pozn. red.) to pekne zhrnul: máme pre deti vytvárať prostredie, v ktorom môžu získavať modriny, ale nie jazvy. Vytvárať svet, kde sa nemusíme báť pustiť deti hrať sa na ihrisko, lebo vieme, že tam dôjdu bez toho, aby museli prejsť cez štvorprúdovku. Aby sa tam mohli oťukávať s rovesníkmi, budovať si vzťahy a zistiť, že vo svete narážame na ľudí, ktorí sa chcú hrať s tou istou hračkou ako ja, a musíme sa nejako dohodnúť.
Nechajme ich teda oťukávať sa a identifikovať hrozby v skutočnom svete. Zároveň zmiernime šok, ktorý dieťa zažije pri vstupe do online sveta. Ten je drsný a prechod doň býva často taký prudký, že ho mladí ľudia nezvládnu. Množstvo ľudí už vymyslelo veľmi nežné postupy, ako deti postupne posadiť za počítač alebo ako im postupne dávať do ruky mobilný telefón tak, aby im to nespôsobilo šok. Deti do veku šestnásť rokov by pravdepodobne nemali byť na sociálnych sieťach, pretože sa im ešte vyvíja mozog a sú oveľa náchylnejšie na neurologické „chytáky“, ktoré proti nám sociálne siete používajú, a mnohé tomu prepadnú.
Myslím, že Austrália ako prvá krajina zaviedla zákonné obmedzenie sociálnych sietí deťom do šestnástich rokov. Možno sa inšpirujú aj ďalšie krajiny… Spomenuli ste, že sa očakáva, že umelá inteligencia prevezme časť práce, ktorú dnes robia ľudia. Ako sa máme pripravovať na svet, v ktorom možno ešte ani nevieme, aké profesie budú o dvadsať rokov existovať?
Moja manželka sa istý čas živila digitálnym marketingom. Robila optimalizáciu stránok pre potreby prehliadačov. Keď študovala, tieto veci ešte neexistovali. V podstate, keď sa narodila, Google ešte nebol. Vtedy by to bola nerealistická predstava, že by išla na školu a tam by sme ju pripravovali na to, že bude robiť práve toto.
To, čo by sa žiaci mali v škole naučiť, súvisí s tým, čo som už povedal – mali by sme si vytvoriť súbor očakávaní, čo si vlastne majú zo školy odniesť. A jednou z najdôležitejších zručností je naučiť sa učiť sa. Aby vedeli zoči-voči niečomu novému, čo majú robiť.
Celú školu dieťa niekto vedie za ručičku a hovoria mu: „Nauč sa toto, nauč sa tieto štyri strany a potom dostaneš test, v ktorom treba vyplniť správne odpovede.“ To je podľa mňa nesprávny prístup. Oveľa dôležitejšie je, aby človek po absolvovaní školy mal zhruba predstavu o tom, čo má robiť, keď sa chce naučiť niečo nové.
Poviem si napríklad, že sa chcem naučiť základy marketingu. Tak kde vlastne začať? Mám si niečo prečítať? Mám si nájsť nejaké kurzy? Toto platilo vždy a teraz, v časoch umelej inteligencie, to bude ešte dôležitejšie, lebo nové odvetvia budú vznikať dynamicky a dynamicky sa bude meniť aj trh práce. Treba si povedať, ktoré veci sa nenaučím doma. Doma sa nenaučím operovať mozog, ale môžem sa naučiť robiť internetové stránky alebo strihať videá. Platí to isté ponaučenie, ktoré som ľuďom dával aj pred desiatimi rokmi – učiť sa, učiť sa.
Takže v podstate učiť sa adaptovať na zmeny. Vedeli by ste k tomu ešte pridať nejaké ďalšie kvality alebo hodnoty?
Kritické myslenie je niečo, čo sa dalo odporúčať pred desiatimi rokmi a dá sa odporúčať aj teraz. Platí to úplne rovnako, ak nie ešte viac. Ako sme sa rozprávali, bude pribúdať dezinformácií a bude jednoduchšie ich vytvárať. Internet je plný informácií, z ktorých mnohé sú nedôveryhodné, a teraz treba mať v mysli nastavené dobré filtre.
Jeden zlý postup je povedať si, že všetci klamú, a neveriť absolútne ničomu. Druhý zlý postup je bezmyšlienkovito prijímať všetko. Naučiť sa, ako pristupovať k novým informáciám, je extrémne dôležité.
Takže učiť sa nové veci, mať kritické myslenie a naučiť sa púšťať si správne myšlienky do hlavy a prehodnocovať tie, ktoré v hlave už máme. Je to mimochodom nielen o filtrovaní informácií, ale aj o introspekcii (sebapozorovanie a skúmanie vlastného duševného života, vnútorných zážitkov, myšlienok a stavov vo vedomí – pozn. red.).
Po tretie pracovať na osobných vzťahoch. To je niečo, čo extrémne súvisí s tým, aká je kvalita života – aké mám blízke vzťahy, najbližšie rodinné vzťahy a ako fungujem sám so sebou. Potom aký mám vzťah so svojím blízkym okolím a so svojimi kamarátmi. Toto sú všetko veci, ktoré sa človek nikde poriadne nenaučí, čo je aj trochu škoda.
Čím viac času sme na internete, tým menej času trávime v skutočných vzťahoch. Máme výskumy, ktoré potvrdzujú, že zažívame rôzne krízy samoty a podobne. Ľudia sa cítia osamelejší, majú menej skutočných vzťahov, menej ľudí, ktorým môžu zavolať, keď sa chcú o niečom porozprávať.
Takže túto schopnosť by sme sa mali znovu naučiť – budovať normálne vzťahy. Bez nich nebude mať nikto dobrý život. Dobre, pár ľudí možno áno, ale myslím si, že vo všeobecnosti platí, že toto je úplne primárny faktor určujúci kvalitu aj dĺžku života.
Už niekoľko rokov sa objavujú varovania výskumníkov z oblasti AI, že jej ďalší vývoj môže predstavovať existenčné riziko pre ľudstvo. Naposledy zarezonovalo vyjadrenie výskumníka Jacoba Coxona, podľa ktorého by nás AI mohla do konca desaťročia všetkých zabiť. Ako sa ako vedec pozeráte na takéto predpovede? Kde podľa vás končí seriózna obava a začína špekulácia?
Táto špekulácia je namieste, lebo to riziko tam skutočne je. V zmysle, že vytvárame niečo, čo sme tu zatiaľ nemali, a teda nevieme predvídať, ako sa to bude správať. Veľmi často progres fungoval tak, že sme vymysleli niečo nové, zistili sme, či to funguje, keď nie, tak sme to zlepšili a vrátili sme sa k tomu späť.
Prvé lietadlo fungovalo mizerne a pomerne rýchlo sa rozpadlo, druhé bolo trochu lepšie a tretie ešte lepšie. A teraz robíme vynález – superinteligenciu –, kde to musíme trafiť na prvý pokus. Keď to dopadne zle, tak to môže dopadnúť veľmi zle. Takže úplne rozumiem obavám.
Na druhú stranu si myslím, že problematická nebude umelá inteligencia ako taká, ale skôr to, ak ju zneužijú ľudia, ktorí ju budú mať k dispozícii. Nemám momentálne obavy z autonómnej umelej inteligencie, aj keď nedávny incident s Hugging Face, (modely OpenAI počas kyberbezpečnostného testu unikli z izolovaného prostredia a prenikli do platformy, na ktorej vývojári a výskumníci zverejňujú modely umelej inteligencie – pozn. red.) nám ukázal, že ani tieto varovné scenáre nie sú úplne mylné.
Skôr sa bojím toho, čo to bude robiť v rukách ľudí, ktorí ju budú chcieť zneužiť.
Zaregistrovala som aj mnoho komentárov pod príspevkami o vyjadrení J. Coxona, v ktorých ľudia písali, že im to pripomína pasáže z apokalyptických filmov, keď nás vedci varujú pred reálnou hrozbou a my ich nepočúvame…
Podľa mňa je v niečom dobré, že sa varuje pred hrozbami AI. Je to technológia, ktorá nám dokáže veľmi zlepšiť životy, ale zároveň nás v princípe môže ohroziť. Je to vlastnosť každej novej technológie.
Genetické modifikácie môžu vytvoriť ryžu, vďaka ktorej deti v Južnej Ázii a v centrálnej Afrike nebudú slepnúť pre nedostatok vitamínov, no rovnaké mechanizmy genetických modifikácií sa môžu použiť na to, aby sme vytvorili novú verziu vírusu alebo baktérie.
Je na nás – ľudstve, aby sme boli dostatočne vyspelí na to, aby sme AI využívali na prospešné veci a nie na tie neprospešné. Žiaľ, toto platí pri jadrových zbraniach, genetických modifikáciách a aj umelej inteligencii. Vytvárame veľmi silný nástroj a ako ľudstvo musíme dosiahnuť technologickú a civilizačnú dospelosť. Teraz sme ako takí pubertiaci, ktorým už narástli svaly, ale prefrontálny kortex ešte dorastá.
Znie to trochu strašidelne, že o nás rozhodujú najmä tí mocní. Máme nejakú právomoc, ako by sme mohli vyžadovať kontrolu AI? Je riešením prestať ju používať?
Osobne, keď niečo prestanem používať, nič to nezmení. Toto sú veci, ktoré treba v prvom rade regulovať zhora. Rovnako ako sa ani fosílny priemysel sám nezreguluje, treba mať pri využití AI iniciatívy, ktoré povedia, aké sú limity a čo treba dodržiavať.
Keby mali v Amerike príčetnú administratívu, pričom majú jej dokonalý opak, tak už teraz by mali nastavené nejaké pravidlá, ktoré by tvorcom umelej inteligencie dávali zodpovednosť za škody, ktoré napácha. Keď má niekto dobermana, ktorý dohrýzol susedovo dieťa, nepôjde do basy doberman, ale jeho majiteľ. Rovnako by mali byť aj tvorcovia umelej inteligencie postihnuteľní za to, keď ich umelá inteligencia napácha nejaké škody. Až keď človek bude cítiť riziko, že skončí v base na doživotie, začnú sa diať veci.
Odpoveďou je regulácia zhora, hlavne v Amerike, kde sa vyvíja väčšina najpokročilejších modelov, ktorá tam úplne absentuje. V Európskej únii sa síce žartuje, že sme veľmi dobrí v reguláciách, ale ono je to niekedy užitočné. Treba však nájsť balans medzi tým, aby sme prospešný vývoj nezastavili, ale zároveň aby sme limitovali riziká.
Ja ako človek môžem prispieť k lepšiemu dvomi vecami. Po prvé, voliť zástupcov a apelovať na už zvolených zástupcov tak, aby vytvárali tlak, a voliť ľudí, ktorí sú v tejto problematike zorientovaní. Niektorí sú totiž totálne mimo. V Amerike, ale aj u nás, je v menšej miere problém s tým, že často sa proste volia dlhodobo tí istí ľudia. Takže tam majú napríklad 93-ročného kandidáta. No čo ten zreguluje na AI?
Sem-tam sa podarí urobiť aj iniciatívu zdola, ktorá môže na niečo zatlačiť. Pred pár mesiacmi začali rôzni CEO koketovať s americkou administratívou: „Zrušte predplatné.“ Keď predplatné zruší tridsaťtisíc ľudí, je to dosť veľký signál.
Samuel Kováčik je teoretický fyzik a docent na Fakulte matematiky, fyziky a informatiky Univerzity Komenského. V roku 2016 založil popularizačný projekt Vedátor, v ktorom približuje vedu zrozumiteľným spôsobom. Vo výskume sa venuje napríklad modifikáciám kvantovej mechaniky, numerickým simuláciám a maticovým modelom. Pôsobil aj na Dublinskom inštitúte pokročilých štúdií a Masarykovej univerzite v Brne.
Tento rozhovor vznikol v rámci Komenského inštitútu vďaka finančnej podpore Nadácie E.SK.
Články z rubriky SPOLOČNOSŤ
Profil autora:
Vyštudovala žurnalistiku na Univerzite Komenského v Bratislave. Bola aktivistkou za práva zvierat v organizácii Humánny Pokrok a tiež redaktorkou online magazínu Romano fórum. Spravuje sociálne siete mimovládnej organizácii Živica. Pochádza z malého mesta, kde organizuje výmeny oblečenia. Je spoluzakladateľkou instagramovej platformy Na skládke, na ktorej sa venuje klimatickým a zvieracoprávnym témam. Knihomoľka, ktorá má záľubu v cestnej cyklistike.
