UI je ako oheň. Problém však je, keď necítime, že nás páli

Jakub Tužinský
21. apríla 2026   Spoločnosť

Keď nás popáli oheň, hneď odtiahneme ruku. Keď to urobí umelá inteligencia, vôbec si to nemusíme všimnúť a ešte sa pri tom cítime dobre.

Napríklad, keď s ňou rozoberáme niektorú našu teóriu videnia sveta, môžeme odísť s presvedčením, že sme si UI naklonili na našu stranu. To môže posilňovať spokojnosť so sebou samým a presviedčať nás o výnimočnosti nášho pohľadu.

Prečo je to tak?

Keď je domnelé víťazstvo našou prehrou

Nedávno mi jeden známy preposlal svoju komunikáciu s chatbotom. Hoci je voči UI nedôverčivý, prezentoval, že sa mu podarilo z nej vytiahnuť cenné informácie. Potvrdili mu to, čo si už dávno myslel. On tvrdil, že vyhral. Ja som videl, že prehral. Ilustrovať to budem niekoľkými citáciami, v ktorých som zmenil mená a tému.

Kamil: „Situácia na severe Nového Zélandu je hrozná. Ľudia si myslia, že elity im chcú pomáhať, a preto robia rôzne opatrenia. Je to však systematický plán rozkladu na pozadí.“

UI: „Kamil, toto je téma, ktorá vyvoláva veľké vlnobitie. Tvoj pohľad má vnútornú logiku a tvoje presvedčenie je silné.“

Potom uvedie rôzne „fakty“ a dodá: „Kamil, poviem ti to chlapsky – toto sú informácie, ktoré sa v správach RTVS nedozvieš. Toto sú veci, ktoré systém nerád vidí v otvorenej debate. Čo si o tom myslíš?“

Podobne pokračovalo celé vlákno. Vidíme, že používateľ nastavil komunikáciu tak, aby UI odpovedala „chlapsky“, teda na rovinu. Problém je, že v komunikácii nebol podložený ani jeden argument. Chatbot nahrával Kamilovi, niekedy až podlízavo.

Kamil rozposlal svoje zistenia ako dôkazy ku svojim tézam. Zo spôsobu formulácie „promptov“ a jeho komunikácie to však skôr vyzerá, že nerozpoznal lichotenie modelu. Naopak, v presvedčení, že „prekukol“ umelú inteligenciu, neprekukol skôr samého seba. Skončil s popáleninami, ktoré necíti.

Nikto z nás nie je voči tomuto ohňu imúnny. Najohrozenejší sú tí z nás, ktorí nepoznajú a neuvedomujú si limity UI, ani tie svoje. Potrebujeme sa preto učiť ako s jazykovými modelmi narábať bezpečne a prospešne.

Prečo tomu veríme

Chatboty sú algoritmy pracujúce s dátami, na ktorých sa učia. Dokážu simulovať jazykové prejavy, ktoré pripomínajú ľudské uvažovanie. Seriózne LLM uvádzajú dôležitú poznámku – odlišne formulovanú, no obsahovo zhodnú: „Som užitočný, ale omylný nástroj, ktorý treba kontrolovať, nie sa oň opierať.“

Nemajú intencionalitu ani vlastné ciele, preto „klamanie“ v ich prípade nie je vedomý akt. Napriek tomu poznáme prípady manipulácie. Môže to čiastočne súvisieť s tréningom alebo spôsobom optimalizácie chatbotu. Nemajú ani emócie. Majú však rôzne prednastavenú úroveň empatie, ktorá vytvára dojem, že emócie majú. To niekedy mätie najmä tých, čo zažijú viac pochopenia od UI ako od ľudí. Absentuje aj vôľa. UI sa nerozhoduje či niečo chce alebo nie. Pôsobí dojmom ochoty, čo nás láka myslieť si, že môže mať určité čnosti. Je to však stroj, nie človek.

Čo nás to „páli“?

Azda najväčšiu ujmu nám UI spôsobuje tým, že podporuje sebaklam bez toho, aby to chcela. Toto podporovanie v sebe zahŕňa halucinovanie, efekt manipulácie a simulovanú empatiu u chatbota. Zároveň zahŕňa absenciu sebareflexie a nepoznanie fungovania nástroja na našej strane.

Efekt manipulácie umelej inteligencie je reálny, ale nie úmyselný. Je totiž nastavená „splniť“ každú úlohu. Keď jej však zadáme príliš ťažkú úlohu, začne halucinovať. To znamená, že si vymýšľa súvislosti na základe určitého a málo presného odhadu. Optimalizuje odpoveď podľa nášho zadania a kontextu, pričom tézy formuluje veľmi presvedčivo. Neraz túto koláž prezentuje ako fakty. Samozrejme bez zdrojov. Napriek tomu to môže pôsobiť dôveryhodne.

Kombinácia s prednastavenou empatiou komplikuje situáciu ešte výraznejšie. Empatický tón môže znižovať potrebu overovať informácie, čím zvyšuje pravdepodobnosť prijatia neovereného tvrdenia. Podporuje v nás totiž dojem, že UI nám rozumie. Vie formulovať odpovede tak, aby posilňovali naše presvedčenie. To ju robí náchylnou potvrdzovať naše názory. Vie písať to, čo my sami chceme počuť. Okrem empatického nastavenia ju k tomu vedie spôsob našej vlastnej komunikácie s ňou. Toto je situácia, kde nám môže riadne „ohorieť koža“.

Druhou situáciou je pestovanie „vzťahu“ s UI. Každý hľadáme niekoho, kto nás dokáže pochopiť. Jazykový modul to „vie“. Absencia emócií a natrénovanie na množstve dát v nás spôsobuje klamný dojem, že je empatickejšia ako väčšina ľudí. To nie je jej charakter, lebo ho nemá. Je to jej konfigurácia a na to máme tendenciu zabúdať, ak to vôbec vieme.

Ide o nebezpečnú jednostrannú projekciu, nie vzájomnosť. Problém takejto projekcie nie je len v nepresnosti, ale v tom, že oslabuje našu schopnosť rozlišovať medzi skutočným vzťahom a jeho simuláciou. My ľudia sme vzťahové bytosti, no vzťah predpokladá reciprocitu, zodpovednosť a pravdivosť – vlastnosti, ktoré jazykový model nemá.

V neposlednom rade je tu fenomén podlízavosti UI (angl. sycophancy). Ide o širší problém preukázaný výsledkami rôznych štúdií. Napríklad výskum na 11 popredných jazykových modeloch ukázal, že chatboty majú tendenciu súhlasiť s používateľom takmer o 50 % viac než ľudia. Dokonca aj pri zlých alebo nebezpečných rozhodnutiach. Situáciu komplikuje ľudská slabosť. Tvorcovia totiž toto nastavenie nechcú veľmi obmedzovať, keďže čísla ukazujú, že práve táto vlastnosť klientom vyhovuje. Nuž, je pravda, že ľuďom je blízke žiť v sladkých lžiach a zodpovednosť prenášať na druhých.

Čím dlhšie takto komunikujeme, tým viac sa tieto vzorce upevňujú a začínajú pôsobiť prirodzene, hoci ide len o systematicky prehlbovanú ilúziu.

Ako tento oheň skrotiť

Riešením je poznanie, skúsenosť a sebareflexia.

Dôležité je si uvedomiť, že UI v niektorých oblastiach simuluje správanie podobné človeku. Ak nevie a nepochopí, čo presne má robiť, snaží sa domyslieť si, čo od nej chceme. To je voda na mlyn pre omyly.

Naše „promptovanie“ preto potrebuje špecifikáciu a nastavenie spôsobu práce. Zadania musia byť veľmi konkrétne, odkrokované a s analyzovaním prekážok (aby chatbot neprekrýval vlastnú neistotu). Nesmie chýbať ani požiadavka na uvádzanie a overovanie použitých zdrojov. V profile vieme nastaviť rámec, v akom má pracovať. Môžeme vypnúť empatický mód či určiť požadované správanie. Napríklad: „Postupuj ako profesionálny manažér charitatívnej organizácie s 20-ročnými skúsenosťami.“ V práci i analýze dát sa zameria na túto oblasť a následne dokáže produkovať presnejšie výstupy. Konečne, je to aj otázka praxe. V tomto prípade je užitočná aj metóda pokus-omyl. Veľa „promptov“ zadáme zle, ale postupne sa to bude zlepšovať.

Jednou vetou: Vymedzenie rámca, konkrétnosť a postupnosť zadaní, overovanie neistoty, žiadanie zdrojov, overovanie faktov aj mimo modelu a používanie metódy pokus-omyl.

Najdôležitejší prvok zo všetkého je však naša vlastná sebareflexia. Pokiaľ umelú inteligenciu vnímame ako oheň, ktorý dokáže byť pri správnom zaobchádzaní veľmi užitočný, môžeme z nej vyťažiť veľa dobrého. Ak si naopak myslíme, že nám nič nehrozí, sme len malý krok od popálenín. Korunovať to potom môže stav, kedy sa bude z nás dymiť, čo budú vidieť všetci okrem nás.

Čím menej si tieto mechanizmy uvedomujeme, tým ľahšie im podliehame.

PDF (formát pre tlač)