Скандал вокруг OpenAI: компания сообщает о диалогах пользователей полиции

На прошлой неделе стало известно, что OpenAI отслеживает разговоры пользователей ChatGPT и передает их правоохранительным органам в случае, если модераторы сочтут сообщения угрожающими.

В блоге компании отмечается, что переписки, содержащие планы причинить вред другим людям, направляются в отдельный канал для проверки небольшой группой специалистов. Если те решат, что существует «непосредственная угроза серьезного физического вреда», информация может быть передана в полицию.

Новость вызвала бурную реакцию. Критики задаются вопросами: как именно OpenAI определяет местоположение пользователей, как защищает систему от злоупотреблений (например, ложных доносов), и не противоречит ли это обещаниям конфиденциальности, ранее озвученным гендиректором Сэмом Альтманом.

Юристы, исследователи и общественные деятели указывают, что вмешательство полиции в ситуации психического кризиса часто приводит к трагическим последствиям. Кроме того, в индустрии технологий уже были примеры расширения подобного надзора под давлением властей и корпораций.

Некоторые эксперты отмечают противоречие: с одной стороны, компания сталкивается с критикой за случаи, когда пользователи ChatGPT впадали в психоз или совершали суицид; с другой — ответом становится усиленный контроль и передача данных властям. Это вызывает опасения, что продукт используется на людях как экспериментальная платформа, а решения о безопасности принимаются поспешно и непрозрачно.

В итоге пользователи выражают растущее недоверие: даже в личных разговорах с ИИ они чувствуют себя под постоянным наблюдением.

«Детали», Ю.Л. Фото: Depositphotos.com