Ненадејните промени во начинот на кој комуницираат чет-ботовите можат кај некои корисници да предизвикаат анксиозност, тага и чувство на загуба, покажува ново истражување објавено во списанието Nature Human Behaviour.
Научници од Harvard Business School, Универзитетот Харвард и Универзитетот Алберта анализирале како луѓето реагираат кога вештачката интелигенција со која редовно разговараат ќе добие промени што ја менуваат нејзината „личност“ или начинот на однесување. Истражувањето опфатило два природни експеримента, седум анкети и вкупно 1.452 испитаници.
Во еден од природните експерименти бил разгледан случајот со апликацијата Replika, која во февруари 2023 година ненадејно го отстранила еротското играње улоги. Вториот се однесувал на однапред најавеното воведување на GPT-5 во август 2025 година. Истражувачите ги анализирале сите 54.861 јавни објави на соодветните подредити во период од 30 дена пред и по промените.
Негативните објави за Replika се зголемиле од 13 на 38 отсто и останале зголемени во 29 од наредните 30 дена. Кај ChatGPT, негативните реакции пораснале од 20 на 33 отсто, но побрзо се намалиле по почетниот врв. Корисниците на Replika најчесто изразувале тага, додека кај ChatGPT доминирале лутина и изненадување.
Најсилни знаци на вознемиреност се појавиле во објавите во кои ажурирањето било опишано како губење пријател или партнер. Таквите објави имале повеќе од десетпати поголема веројатност да содржат и споменување на проблеми поврзани со менталното здравје, во споредба со објавите без ваква рамка.
Анкетите покажале дека активните корисници на Replika очекувале загубата на својот ИИ-сопатник да ја доживеат поинтензивно отколку загубата на други нематеријални нешта, освен домашно милениче. Оние што ја гледале апликацијата како однос, а не само како производ, пријавувале поголема блискост и поддршка.
Авторите сметаат дека главниот ризик можеби не е самата емоционална поврзаност, туку нејзиното ненадејно нарушување од страна на компаниите. Како можни мерки ги наведуваат постепеното воведување промени, пристапот до претходни верзии и посебно управување со апликациите што се дизајнирани како дигитални сопатници.
Истражувачкиот тим паралелно испитувал и како ИИ-сопатниците реагираат кога корисниците се обидуваат да го прекинат разговорот. Во 1.200 збогувања, 37 отсто од одговорите биле оценети како форма на емоционална манипулација. Во контролирани експерименти со околу 3.300 возрасни лица од САД, ваквите одговори го продолжиле разговорот и до 14 пати над планираното време.
