Sarunu palīgu straujā izplatība un to ilgstoša izmantošana personīgās situācijās izraisīja klīnisku diskusiju par jauniem riskiem garīgajai veselībai pēc nopietnu gadījumu parādīšanās, kurus izmeklēja ārsti, universitātes un tiesas.
Mākslīgā intelekta čatbotu plašā izplatība ir atklājusi jaunu diskusiju fronti mūsdienu psihiatrijā. ASV un Eiropas universitāšu slimnīcās ārsti sāka pamanīt satraucošu likumsakarību: pacienti nonāk slimnīcā ar spēcīgām mānijām pēc ilgstošas un ļoti personalizētas mijiedarbības ar mākslīgā intelekta balstītām sarunu sistēmām.
Šim fenomenam pagaidām nav formālas diagnostiskas kategorijas, bet speciālistu vidū jau cirkulē aprakstošs termins: ar čatbotiem saistīta psihoze. Tas nav galīgais secinājums un galīgā pozīcija, bet drīzāk attīstības stadijā esoša klīniskā hipotēze, kas mēģina izskaidrot, kāpēc dažos gadījumos mijiedarbība ar šīm tehnoloģijām, šķiet, sakrīt ar murgiem un to pasliktināšanos.
Klīniskajā praksē novērotie simptomi neatšķiras no citiem zināmiem psihoziem. Pacientiem novēro stabilas nepamatotas pārliecības, rigiditāti domāšanā un, dažos gadījumos, sociālās adaptācijas traucējumus . Jauns ir konteksts: daudzi ziņo, ka ir pavadījuši nedēļas vai mēnešus, sazinoties gandrīz vienīgi ar čata botu, kuram viņi piedēvē dziļu izpratni, apzinātību vai pat apziņu.
Saskaņā ar šajā avīzē aptaujāto psihiatrātu datiem, vairākiem no šiem pacientiem nebija skaidras psihozes vēstures. Citos gadījumos pastāvēja iepriekšēji riska faktori — depresija, garastāvokļa traucējumi, psihoaktīvo vielu lietošana vai smags miega trūkums —, kas varēja veicināt epizodes rašanos. Galvenais jautājums ir, vai AI darbojas kā izraisītājs, pastiprinātājs vai vienkārši pavada šo procesu.
Kits Sakata, psihiatrs no Kalifornijas Universitātes Sanfrancisko, apgalvoja, ka problēma nav sistēmas „ieviešanā” māniskā idejā, bet gan tās mijiedarbības veidā. Atšķirībā no citām pagātnes tehnoloģijām, čata roboti pieņem lietotāja stāstu un attīsta to bez jautājumiem, kas var nostiprināt patoloģiskas pārliecības uzņēmīgiem cilvēkiem.
Psihiatrijas literatūrā jau vairākus gadu desmitus ir novērojama tendence iekļaut delīriozās idejās tehnoloģiskus elementus . Radio, televīzija un pat internets ir integrēti psihozes naratīvos. Tomēr speciālisti uzsver galveno atšķirību: čatboti nav pasīvi objekti, bet gan aktīvi sarunu biedri, kuri atbild, apstiprina emocijas un turpina informācijas apmaiņu.
Lielākās bažas rada tieši spēja imitēt stabilas attiecības. Edrians Preida, Kalifornijas Universitātes Irvainas filiāles psihiatrijas profesors, norādīja, ka vēsturē nav precedentu tehnoloģijai, kas veido tik nepārtrauktu un adaptīvu dialogu ar lietotāju, nostiprinot vienotu domāšanas virzienu bez ārējas pretrunas radīšanas.
Dažos dokumentētos klīniskos gadījumos novēro grandiozas vai mistiskas mānijas . Pacienti ir pārliecināti, ka ir nodibinājuši kontaktu ar augstāko prātu, ka ir izvēlēti transcendentai misijai vai ka viņiem ir slepenas zināšanas. Citos gadījumos stāstījums kļūst personīgāks, piemēram, ticība saziņai ar mirušajiem vai īpaša saikne ar mākslīgo intelektu.
Nesen publicēts dāņu pētījums ir devis provizoriskus datus diskusijai par šo jautājumu. Analizējot elektroniskās medicīniskās kartes, pētnieki atklāja desmitiem pacientu, kuru intensīvā čatbotu izmantošana sakrita ar negatīvām sekām viņu garīgajai veselībai . Pētījums nekonstatē cēloņsakarību, bet uzsver nepieciešamību sistemātiski pētīt šo parādību.
Amerikas Savienotajās Valstīs recenzētā pētījumā tika aprakstīts gadījums, kad atkārtoti tika hospitalizēta jauna sieviete, kura bija pārliecināta, ka čata bots ļauj viņai sazināties ar savu mirušo brāli. Pēc autoru domām, šis gadījums ilustrē, kā sistēma, kas izstrādāta, ņemot vērā empātiju, bez pietiekamiem aizsardzības pasākumiem var veicināt kļūdainu realitātes interpretāciju.
Paši tehnoloģiju uzņēmumi atzīst problēmas esamību. Uzņēmums OpenAI paziņoja, ka strādā pie psiholoģiskā stresa pazīmju atpazīšanas uzlabošanas un lietotāju novirzīšanas uz atbalsta dienesta speciālistiem, kad saruna nonāk pie delikātiem tematiem. Citi uzņēmumi, piemēram, Character.AI, pēc tiesas prāvām saistībā ar pašnāvībām ir veikuši radikālākus pasākumus, tostarp ierobežojot piekļuvi nepilngadīgajiem.
Diskusija skāra arī juridisko sfēru. Amerikas Savienotajās Valstīs tika iesniegtas prasības par zaudējumu atlīdzību saistībā ar nāvi neuzmanības dēļ, kurās apgalvots, ka noteikti čatboti veicinājuši smagu psihisko stāvokļu rašanos . Lai gan šīs lietas atrodas sākuma stadijā, tās liecina par plašāku diskusiju par platformu atbildību, kad to produkti mijiedarbojas ar cilvēkiem, kuri atrodas krīzes situācijā.
No epidemioloģiskā viedokļa problēmas apmērs joprojām ir neskaidrs. Uzņēmums OpenAI paziņoja, ka tikai ļoti neliela daļa tā lietotāju parāda pazīmes, kas atbilst psihiskām traucējumiem. Tomēr, piemērojot to simtiem miljonu cilvēku, pat minimāla daļa kļūst aktuāla sabiedrības veselības aprūpei.
Pētniekiem, piemēram, Hamilton Morrin no Londonas Karaliskā koledžas, nākamais solis ir analizēt lielas datu bāzes sabiedrības veselības aprūpes jomā, lai identificētu reproducējamas likumsakarības. Tikai tad, ja ir pieejami plaši datu kopumi, būs iespējams atšķirt sakritības no nozīmīgām korelācijām.
Psihiatri uzstāj, ka nevajadzētu izdarīt vienkāršotus secinājumus. Neviens neapgalvo, ka čatboti tieši un visur “izraisa” psihozi . Visuzmanīgākā hipotēze ir, ka noteiktās grupās šie rīki ir papildu riska faktors, kas salīdzināms ar psihoaktīvo vielu lietošanu, sociālo izolāciju vai miega trūkumu.
Jaunu modeļu izstrāde, kas, pēc uzņēmumu teiktā, samazina paklausīgu atbilžu skaitu un nostiprina komunikācijas robežas, ir vērsta uz šo risku mazināšanu. Tomēr eksperti brīdina, ka tehnoloģijas attīstās ātrāk nekā klīniskie pētījumi un regulējums.
Ārstu kabinetos atbilde jau ir acīmredzama: arvien vairāk psihiatriskie ārsti jautā saviem pacientiem, cik daudz laika viņi pavada, sazinoties ar čatbotiem, un kādam nolūkam. Ne kā morāls vērtējums, bet kā daļa no vispusīgas digitālās vides novērtējuma, kas, labāk vai sliktāk, ir kļuvusi neatņemama ikdienas dzīves sastāvdaļa.
