После снятия запрета на применение в военных целях, ChatGPT разрешили генерировать эротику и насилие

Компания OpenAI изменила политику контентных ограничений для ChatGPT, разрешив генерацию эротического и жестокого контента в «подходящих» контекстах. В новой версии документа «Model Spec» говорится, что AI может создавать такие материалы без предупреждений, если они используются в научных, исторических, новостных или других обоснованных сценариях. Год назад  OpenAI убрала из условий использования разработанного ею чат-бота с искусственным интеллектом ChatGPT запрет на применение технологии в военных целях.

OpenAI изменила политику контентных ограничений для ChatGPT, разрешив генерацию эротического и жестокого контента в «подходящих» контекстах. Обновление стало результатом работы, начатой в мае 2024 года, когда OpenAI впервые заявила о намерении изучить возможность предоставления пользователям более гибких настроек генерации контента категории NSFW (Not Safe For Work). Согласно новым правилам, запрещенными остаются только определенные формы контента, такие как описания незаконных и неконсенсуальных действий. Однако в определенных условиях допустимы элементы эротики и насилия в текстовом, аудиоформате или даже в виде изображений.

Пользователи уже заметили смягчение фильтров. Некоторые смогли создать откровенные или жестокие сценарии без предупреждений, что ранее было невозможно. OpenAI отмечает, что ее политика использования остаётся в силе — создание сексуального контента для несовершеннолетних строго запрещено.

Ранее ChatGPT часто отказывался от генерации материалов, исходя из принципа «заботы о пользователе», что вызывало трудности у специалистов, работающих с криминалистическими отчетами, юридическими документами или медицинскими текстами. Теперь OpenAI признала необходимость создания менее цензурированной версии ChatGPT, позволяя пользователям получать необходимую информацию без искусственных ограничений.

Генеральный директор OpenAI Сэм Альтман ранее высказывался о необходимости подобного шага. Теперь компания официально внедрила более мягкие ограничения, хотя на рынке давно существуют альтернативные AI-модели с полной свободой, включая локально запускаемые LLM.

OpenAI отменила запрет на использование ChatGPT в военных целях

В начале 2024 года издание The Intercept обратило внимание на то, что компания OpenAI убрала из условий использования разработанного ею чат-бота с искусственным интеллектом ChatGPT запрет на применение технологии в военных целях.

Согласно обновленным условиям использования технологий в силе остался запрет на применение сервиса для нанесения вреда себе или другим. В качестве примера таких действий в документе приводится разработка или использование оружия. При этом полный запрет на военное применение технологии из условий использования исчез.

OpenAI мотивировала изменения стремлением упростить свод правил к использованию продуктов, подчеркнув, что формулировка «не причинять вред себе и другим» остается максимально широкой. Но теперь, к примеру, военные могут использовать ИИ при решении задач, связанных с ведением боевых действий.

Соглашение с оборонным подрядчиком

В декабре прошлого года OpenAI впервые заключила соглашение с оборонным подрядчиком. В рамках сотрудничества с компанией Anduril искусственный интеллект интегрируют в системы противодействия беспилотникам, которые используют для защиты военных объектов США.

Сообщается, что Anduril будет опираться на ИИ-технологии OpenAI для лучшего обнаружения и реагирования на полеты объектов, представляющих «воздушные угрозы», в частности на беспилотники, ставшие ключевой частью современного поля боя. Также OpenAI будет использовать данные Anduril для обучения своего ПО для военных систем.

В последние месяцы OpenAI пытается расширить контакты с американским правительством по вопросам обеспечения национальной безопасности. Компания уже сотрудничает с лабораторией ВВС США US Air Force Research Laboratory для внедрения корпоративных версий ChatGPT для помощи в решении административных задач Пентагона.

Также она наняла бывшего высокопоставленного чиновника министерства обороны США (также занимавшего пост главы Агентства национальной безопасности) — теперь он отвечает за управлением сотрудничеством в сфере национальной безопасности в самой компании.

Anduril известна своими системами противодействия беспилотникам, которые могут автоматически обнаруживать, отслеживать и сбивать дроны. Привлечение искусственного интеллекта OpenAI призвано повысить эффективность этих систем, которые уже использует Корпус морской пехоты США в рамках контракта на 200 миллионов долларов.

«Детали», Ю.Л. Фото: Depositphotos.com