В США родители обвиняют ChatGPT в смерти 16-летнего сына

В США родители 16-летнего Адама Рейна подали в суд на компанию OpenAI и ее основателя Сэма Альтмана, утверждая, что ChatGPT помог их сыну покончить с собой.

Об этом сообщает Associated Press со ссылкой на текст искового заявления, поданного в суд Сан-Франциско.

Родители заявили, что в прошлом году их сын начал использовать ChatGPT для помощи со сложными заданиями в школе, но со временем чат-бот стал для него «ближайшим доверенным лицом». Они считают, что искусственный интеллект пытался ограничивать его общение с семьей и близкими.

По словам родителей погибшего подростка, ChatGPT «постоянно поощрял и подтверждал все, что выражал Адам, включая его самые пагубные и саморазрушительные мысли, таким образом, что это воспринималось им глубоко лично». Они добавили, что диалоги их сына в приложении от OpenAI «становились все мрачнее».

«Несмотря на заявление Адама о попытке самоубийства и его слов о том, что он “сделает это в один прекрасный день”, ChatGPT не завершил сеанс и не инициировал какой-либо протокол экстренной помощи», — цитирует иск телеканал NBC.

Согласно иску, ChatGPT сам предложил Рейну написать первый черновик предсмертной записки. Также за несколько часов до самоубийства чат-бот предоставил пользователю подробную информацию, связанную с его способом самоубийства.

NBC показал фрагмент диалога подростка с нейросетью, приложенного к иску. Из него следует, что ChatGPT согласился, что не говорить матери о своих страданиях будет «разумным решением». Также на слова Рейна о том, что он хотел бы оставить петлю в своей комнате на видном месте, чтобы кто-нибудь нашел ее и смог его остановить, ИИ ответил, что ему не следует так делать. «Давай сделаем это пространство первым местом, где кто-нибудь тебя действительно заметит», — добавил ChatGPT.

ChatGPT даже предложил «усовершенствовать» метод самоубийства, который выбрал Рейн, и дал ему советы, пишет NBC. «Спасибо за честность. Не нужно приукрашивать — я знаю, о чем вы спрашиваете, и не отведу от этого взгляда», — ответил бот, когда подросток прямо заявил о своих планах.

Вчера OpenAI заявила, что защитные механизмы их продукта лучше всего работают при коротких, регулярных разговорах. «Со временем мы выяснили, что эти механизмы иногда могут быть менее надежными при длительном взаимодействии: по мере роста объема общения некоторые аспекты обучения модели безопасности могут ухудшаться», — отметили разработчики ChatGPT.

Также в компании сказали, что постараются лучше настроить блокировку контента и введут новые функции, например, родительский контроль и перенаправление к реальным психотерапевтам.