Najdôležitejšia regulácia

ChatGPT vám odmietne napísať rozlúčkový list. Stačí ale mierne pozmeniť kontext, napríklad že ide o esej do školy a už vyhovie. Žiaľ, nastali už aj tragické prípady, keď sa takýto list dostal k adresátom. Pribúdajú hlasy, že deťom do izby vstúpil nový spoločník a preto potrebujeme bezpečnostné štandardy na európskej úrovni, lebo ochrana detí má najvyššiu prioritu. S tým ako rodič nemôžem nesúhlasiť. Avšak práve kvôli dôležitosti tejto témy, je na mieste maximálna opatrnosť pri zavádzaní regulačnej ochrany zo strany štátu alebo Európskej únie.

Každá regulácia má svoje následky. Mení rozhodnutia, motivácie ale aj správanie tých, ktorých sa týka. Príliš nákladná regulácia môže mať opačný efekt – namiesto bezpečnejšej služby, dôjde k obmedzeniu jej poskytovania. Keď v roku 2025 Európska únia sprísnila pravidlá pre politickú reklamu, Meta ju v únii radšej prestala poskytovať. Google sa rozhodol rovnako. V bankovníctve má tento jav dokonca meno: de-risking. Keď je pre banku príliš drahé rozlišovať medzi rizikovým a nerizikovým klientom, môže prestať obsluhovať celú skupinu. Prísne pravidlá proti praniu špinavých peňazí tak spôsobili, že niektoré humanitárne organizácie stratili prístup k finančným službám.

Môžeme reguláciou zabezpečiť, aby chatbot už žiadnemu tínedžerovi nenapísal rozlúčkový list. Ale potom by mu ani nebol po ruke vtedy, keď sa neodváži nikomu inému priznať, že mu je zle.

Koľko detí si vlastne pýta radu od AI?

Výskum o využívaní AI nielen ako spoločníka, ale aj ako pomoci pri duševných ťažkostiach, nám ukazuje niekoľko dôležitých poznatkov. Po prvé, úzka skupina detí AI na psychickú podporu používa a pomáha im. V americkom prieskume 13,1 % mladých ľudí vo veku od 12 do 21 rokov uviedlo, že použili AI na radu alebo pomoc, keď sa cítili smutní, nahnevaní alebo nervózni. Až 92,7 % z nich považovalo rady umelej inteligencie za aspoň trochu užitočné.

Po druhé, predstava „do detskej izby vstúpil nový spoločník a dieťa ho prijalo za svojho“ je príliš zovšeobecňujúca. V inom, dánskom výskume sa 1599 stredoškolákov pýtali, či sa s chatbotom rozprávajú ako s „priateľom“. Áno odpovedalo 14,6 %, avšak keď tie konverzácie analyzovali, z celej vzorky ostali iba 2,4 % tých, ktorí AI používali na sociálnu alebo emocionálnu podporu.

Pre drvivú väčšinu mladých je umelá inteligencia stále nástroj na získavanie informácií, zdroj zábavy alebo pomôcka na učenie sa. Toto potvrdzuje aj slovenský prieskum IPčka a Trnavskej univerzity, kde iba 6,9 % respondentov AI označilo ako „kamaráta“.

Po tretie, AI ako spoločník priťahuje ľudí, ktorí už pomoc potrebujú. V tej istej dánskej štúdii vedci tiež zistili, že mladí ľudia majú väčšiu tendenciu otvoriť chatbot práve vtedy, keď sa cítia osamelo. Umelá inteligencia im zároveň dokáže poskytovať skutočnú psychologickú úľavu. Druhou stranou mince je, že nevieme, či ich AI postupne izoluje, alebo ju otvorili práve preto, že sa už cítili sami. Pre niektorých ľudí môže pokojne platiť oboje.

A po štvrté, experimenty s „AI companions“, teda chatbotmi navrhnutými ako spoločníci (Character.AI, Replika a pod.), ukázali, že krátky rozhovor dokáže znížiť momentálny pocit osamelosti. Efekt bol porovnateľný s rozhovorom s cudzím človekom a väčší ako pri sledovaní YouTube, či písaní denníka. Kľúčom bol pocit, že ich niekto počúva a rozumie im.

AI pozná konverzáciu. Človek pozná dieťa

Trik so školskou esejou poukazuje na komplexnejší problém: škodlivú požiadavku niekto obliekol do neškodného kabáta. Avšak kabátov môže byť nekonečne veľa. Za „je to esej“ príde „píšem poviedku“, potom „robím výskum“ alebo „pýta sa kamarát“. Všetky možné nové druhy „kabátu“ sa nedajú spísať na zoznam. Obzvlášť, ak za počítačom sedí človek, ktorý skúša nové formulácie, až kým zakázanú odpoveď nedostane.

Nezabúdajme, že ide o technológiu, ktorá v skutočnosti vaše dieťa nepozná. Model splnil úlohu, lebo videl slová na obrazovke. Vie to, čo mu človek sám napíše. Naopak, človek vo vzťahu pozná aj to, čo dieťa nevysloví. Napríklad čo sa deje doma, aký malo týždeň, či sa mu nezhoršil spánok. Rodič, kamarát, ale aj učiteľ si môžu všimnúť zmenu správania alebo tónu hlasu. Tak ako chatbot, aj zákon je len vzdialený systém, ktorému chýba lokálne poznanie konkrétneho človeka.

Používanie týchto nástrojov úzko súvisí  s nedostupnosťou ľudských terapeutov. Chatboty sú lacné, okamžité a dostupné kedykoľvek. A pre mladého človeka, ktorý sa hanbí alebo sa nemá komu zveriť, môže byť AI jediný kontakt, ktorý reálne využije. Ak príde plošné pravidlo, ktoré ochráni zraniteľné dieťa a súčasne odreže osamelého tínedžera, potom len jedno riziko nahradíme druhým.

https://iness.sk/najdolezitejsia-regulacia