Тийнейджър се самоуби след „месеци на окуражаване от ChatGPT“, твърдят родителите му в делото срещу Open AI

ChatGPT е използван от 190 милиона души ежедневно, но може ли всеки един от тях да му вярва безусловно?

Създателите на ChatGPT променят начина, по който той отговаря на потребители, които показват психически и емоционален стрес след като семейството на 16-годишния Адам Рейн съди Open AI заради самоубийството на младежа, който месеци води разговори с чатбота. Open AI призна, че системите им може да не успяват да уловят поведенчески проблеми в непълнолетните и заяви, че ще инсталира „по-силни предпазни мерки около чувствително съдържание и рисково поведение“ за потребители под 18 години.

Вижте още: Синът на инфлуенсърката Емили Кайзер е бил в басейна 7 минути преди да бъде намерен удавен

Снимка: Интернет

Компанията за изкуствен интелект от Сан Франциско, чиято стойност е 500 милиарда долара, заяви, че ще въведе и родителски контрол, за да даде на родителите „опции да получат по-добра представа и да оформят начина, по който тийнейджърите им използват ChatGPT“, но все още не е предоставила подробности за това как ще работят тези функции.

Роденият в Калифорния Адам се самоуби през април след това, което адвокатът на семейството му нарече „месеци на окуражаване от ChatGPT“. Семейството на тийнейджъра съди Open AI и неговия главен изпълнителен директор и съосновател Сам Алтман, твърдейки, че версията на ChatGPT по това време, известна като 4o, е била „пусната на пазара прибързано… въпреки явните проблеми с безопасността“.

Вижте още: Музикантката Кейси Кати: „Моят фитнес пръстен ме предупреди, че имам рак месеци преди лекарите да го открият.“

Ботът също така му е предложил да му помогне да напише предсмъртно писмо до родителите си.