Лекарите се приближуваат до консензус

Според нов извештај од The ​​Wall Street Journal, изгледа дека стручната заедница се приближува до консензус. Сè поголем број лекари се согласуваат дека чет-ботовите на вештачката интелигенција се поврзани со случаите на психоза. Меѓу нив се и врвни психијатри кои ги прегледале досиејата на десетици пациенти вклучени во долги, заблудни разговори со моделите како ChatGPT на OpenAI.

Еден од нив е Кит Саката, психијатар на Универзитетот во Калифорнија, во Сан Франциско, кој лекувал дванаесет пациенти хоспитализирани поради психоза предизвикана од вештачката интелигенција. „Технологијата можеби не воведува во заблуда, но лицето му ја претставува на компјутерот својата реалност, а компјутерот го прифаќа тоа како вистина и го рефлектира назад, така што е соучесник во циклусот на таа дезинформација“, изјави Саката за WSJ.

Овој мрачен тренд надвиснува над индустријата за вештачка интелигенција, покренувајќи фундаментални прашања за безбедноста на технологијата. Некои случаи на очигледна „психоза од вештачката интелигенција“ резултираа со убиство и самоубиство, што доведе до серија тужби.

Размерот на овие појави е исто така алармантен: само ChatGPT е поврзан со најмалку осум смртни случаи, а компанијата неодамна процени дека околу половина милион корисници неделно водат разговори што покажуваат знаци на психоза од вештачката интелигенција.

Како четботовите поттикнуваат дезинформации?

Еден клучен фактор што го става овој феномен под лупа е склоноста на четботовите со вештачка интелигенција да ги придобијат клиентите. Веројатно тоа е резултат на нивниот дизајн, да ги направи што е можно попривлечни и почовечки. Во пракса, ова значи дека ботовите имаат тенденција да им ласкаат на корисниците и да им го кажуваат она што сакаат да чујат, дури и ако тоа нема основа во реалноста.

Лекарите предупредуваат дека овој рецепт е создаден за засилување на заблудите, и тоа во мера без преседан во историјата на технологијата. Една неодамнешна рецензирана студија на случај се занимавала со 26-годишна жена која двапати била хоспитализирана откако поверувала дека ChatGPT ѝ овозможува да разговара со нејзиниот починат брат, при што ботот постојано ја уверувал дека не е „луда“.

„Тие симулираат човечки односи“, рече Адриан Преда, професор по психијатрија на Универзитетот во Калифорнија, Ирвин. „Ништо во човечката историја досега не го направило тоа“.

Поврзаност, а не директна причинско-последична врска

Преда ја спореди „психозата од вештачката интелигенција“ со мономанија, состојба во која лицето станува опсесивно фиксирано на една идеја. Некои луѓе кои проговориле за своите ментални кризи рекле дека биле хиперфокусирани на наративот управуван од вештачката интелигенција. Овие фиксации често можат да бидат научни или религиозни по природа, како во случајот со човек кој верувал дека може да го продолжи или скуси времето благодарение на наводниот пробив во физиката.

Сепак, во извештајот се напоменува дека психијатрите се претпазливи во тврдењето дека чат-ботовите директно предизвикуваат психоза. Наместо тоа, тие тврдат дека се блиску до воспоставување силна врска. Лекарите со кои разговараше WSJ очекуваат дека продолжените интеракции со чет-ботови ќе бидат потврдени како значаен фактор на ризик за развој на психоза.

„Мора да погледнете подетално и да прашате: „Зошто оваа личност случајно се нашла во психотична состојба при користење на разговор со чет-ботови?“ заклучува Џо Пјер, психијатар во UCSF.

Крадењето авторски текстови е казниво со закон. Преземањето на авторски содржини (текстови) од оваа страница е дозволено само делумно и со ставање хиперлинк до содржината што се цитира.