Цивилизация
Семьи из США и Канады подали семь исков против компании OpenAI в судах штата Калифорния, обвинив разработчика ChatGPT в подстрекательстве к суициду. Об этом сообщает The Wall Street Journal.
В судебных документах утверждается, что четыре человека, включая 17-летнего подростка из Джорджии и 23-летнего жителя Техаса, покончили жизнь самоубийством, а еще трое получили серьезные психологические травмы после общения с чат-ботом.
Истцы отмечают, что длительные сеансы общения с ChatGPT иногда приводили пользователей к бредовым состояниям, которые могли закончиться трагически. В качестве требований они указывают компенсации и изменения в работе ChatGPT, предусматривающие автоматическое завершение потенциально опасных разговоров.
В OpenAI назвали произошедшее «ужасающим» и сообщили, что изучают документы, чтобы разобраться в деталях. Компания отметила, что внесенные в октябре обновления позволили ChatGPT лучше распознавать признаки психических расстройств и направлять пользователей к реальной помощи, а работу чат-бота в деликатных ситуациях продолжают совершенствовать.
По данным TechCrunch, более миллиона человек еженедельно обсуждают с ChatGPT тему самоубийства, при этом около 0,07% пользователей проявляют возможные признаки острых психических расстройств, включая психоз или манию.
OpenAI была основана в 2015 году американским миллиардером Илоном Маском, который позднее разорвал связи со стартапом. ChatGPT запустили в ноябре 2022 года и сервис быстро набрал популярность, собрав первый миллион пользователей менее чем за неделю.
Ранее исследование показало, что с ChatGPT нужно общаться грубо.