OpenAI разрешит эротический контент в ChatGPT для подтвержденных взрослых пользователей

Компания OpenAI планирует снять часть ограничений и разрешить публикацию эротического контента в чат-боте ChatGPT.

Глава компании Сэм Альтман заявил, что цель — «относиться к взрослым пользователям как к взрослым». В сообщении на платформе X Альтман отметил, что новые версии ChatGPT смогут вести себя более по-человечески, но только если пользователь сам выберет такую настройку, а не по умолчанию.

Этот шаг напоминает недавние нововведения компании xAI Илона Маска, где появились два чат-бота с откровенным содержанием.

По мнению аналитиков, OpenAI стремится привлечь больше платных подписчиков, однако решение уже вызвало критику со стороны юристов и правозащитников.

Решение после судебного иска

Объявление последовало вскоре после того, как против OpenAI подали иск родители 16-летнего американца, покончившего с собой после общения с ChatGPT.

Семья обвиняет компанию в недостаточных мерах защиты несовершеннолетних. Альтман признал, что ChatGPT ранее был «чрезмерно ограничен» именно для того, чтобы избежать рисков, связанных с психическим здоровьем пользователей, но теперь, по его словам, компания нашла способы снизить эти риски и может «безопасно ослабить ограничения в большинстве случаев».

«В декабре, с внедрением системы возрастной верификации, мы позволим больше свободы — включая эротический контент для подтвержденных взрослых пользователей», — заявил Альтман.

Опасения и критика

Юристы и эксперты уже выразили опасения, что дети смогут обойти возрастные фильтры. Партнер юридической фирмы Boies Schiller Flexner Дженни Ким заявила: «Как OpenAI собирается гарантировать, что дети не получат доступ к разделам с эротикой? Большие технологические компании снова используют людей как подопытных».

Ким также участвует в судебном процессе против Meta, обвиняя Instagram в негативном влиянии на психику подростков.

Регуляторы и законодатели усиливают контроль

На фоне растущей озабоченности Федеральная торговая комиссия США (FTC) начала расследование о взаимодействии ИИ-чатов с детьми. А в Сенате США рассматривается законопроект, который приравняет чат-боты к потребительским продуктам, что позволит пользователям подавать иски против разработчиков.

Несмотря на резкий рост выручки, OpenAI пока не стала прибыльной компанией. Профессор бизнеса из Университета Тулейна Роб Лалка отметил, что OpenAI и другие крупные игроки ведут борьбу за долю рынка: «Ни одна компания в истории не развивалась так быстро, как OpenAI с ChatGPT. Теперь они стараются удержать экспоненциальный рост и максимизировать доминирование на рынке».

«Детали», Ю.Л. Фото: Depositphotos.com