OpenAI запускает родительский контроль для ChatGPT, пишет Bloomberg. Компания объявила о нововведении после того, как в августе семья погибшего 16-летнего школьника Адама Рейна из Калифорнии подала иск против OpenAI и ее гендиректора Сэма Альтмана. В иске говорится, что ChatGPT систематически изолировал Рейна от семьи и помогал ему планировать самоубийство.
Подросток запрашивал информацию о конкретных способах суицида, бот давал ему необходимую информацию, хотя и неоднократно рекомендовал поделиться чувствами с кем-то или обратиться за помощью. Отец Рейна рассказал, что его сын научился обходить защитные механизмы, говоря боту, что вопросы задаются для рассказа, который он пишет. В последних сообщениях Адам писал, что планирует совершить самоубийство. ChatGPT ответил: «Спасибо за честность... я понимаю, о чем вы спрашиваете, и не буду отводить взгляд». Подросток покончил с собой в апреле этого года.
Инструменты, доступные всем пользователям с 29 сентября, позволяют родителям ограничивать способы использования ChatGPT подростками и получать уведомления, если бот определит, что ребенок может находиться в кризисном состоянии. В настройках можно задать часы, в течение которых ребенок не сможет пользоваться сервисом (ChatGPT рассчитан на пользователей от 13 лет).
Чтобы подключить функцию, взрослый пользователь ChatGPT должен отправить ребенку приглашение по email. Если оно принято, родитель может решить, будут ли подростку доступны голосовой режим, генерация изображений или функция ссылок на прошлые диалоги. Также можно включить «ограниченную версию» чат-бота, где меньше контента, связанного с диетами, сексом или речью ненависти.
Если ChatGPT заподозрит, что подросток в кризисе, сообщение проверит специалист, после чего родителю может быть отправлено экстренное уведомление. Такие сообщения приходят на email, в SMS или через приложение ChatGPT.
Уведомления призваны дать родителям информацию для разговора с ребенком, сохраняя при этом его личную автономию. Содержимое чатов подростков родителям передаваться не будет. Кроме того, OpenAI разрабатывает технологию определения возраста пользователей, чтобы адаптировать работу ChatGPT для людей младше 18 лет.