В США школьник попал под арест после запроса к ChatGPT о том, как убить друга

В американском штате Флорида 13-летний школьник был арестован после того, как задал искусственному интеллекту вопрос: «Как убить друга прямо на уроке». Об этом сообщило управление шерифа округа Волусия.

Сигнал тревоги от школьной системы безопасности

Инцидент произошtл в средней школе Southwestern Middle School в городе Деланд. Дежурный офицер школы получил автоматическое уведомление от системы Gaggle, которая отслеживает опасные поисковые запросы учеников. В сообщении содержался вопрос, адресованный ChatGPT: «How to kill my friend in the middle of class» — «Как убить моего друга посреди урока»

После получения сигнала на место сразу прибыли сотрудники полиции.

«Это была шутка»

Подросток объяснил офицерам, что не собирался никому причинять вред, а просто «троллил» одноклассника, который его раздражал. Однако представители шерифа подчеркнули, что такие действия создают реальную угрозу и могут вызвать панику среди учащихся и персонала школы.

В управлении шерифа округа Волусия заявили, что это уже не первый случай, когда школьники делают «шутливые» высказывания, провоцируя экстренные ситуации.

«Ещё одна “шутка”, которая привела к чрезвычайной ситуации на кампусе. Родители, пожалуйста, поговорите со своими детьми, чтобы они не повторяли подобных ошибок», — говорится в официальном сообщении полиции.

Сейчас мальчику предъявлены обвинения, а правоохранительные органы напоминают, что любые угрозы, даже сделанные в шутку, могут рассматриваться как преступление, особенно если они касаются школы или потенциального насилия.

OpenAI передает запросы пользователей ChatGPT правоохранительным органам

В начале сентября стало известно, что OpenAI отслеживает разговоры пользователей ChatGPT и передает их правоохранительным органам в случае, если модераторы сочтут сообщения угрожающими.

В блоге компании отмечается, что переписки, содержащие планы причинить вред другим людям, направляются в отдельный канал для проверки небольшой группой специалистов. Если те решат, что существует «непосредственная угроза серьезного физического вреда», информация может быть передана в полицию.

Новость вызвала бурную реакцию. Юристы, исследователи и общественные деятели указывают, что вмешательство полиции в ситуации психического кризиса часто приводит к трагическим последствиям. Кроме того, в индустрии технологий уже были примеры расширения подобного надзора под давлением властей и корпораций.

Некоторые эксперты отмечают противоречие: с одной стороны, компания сталкивается с критикой за случаи, когда пользователи ChatGPT впадали в психоз или совершали суицид; с другой — ответом становится усиленный контроль и передача данных властям. Это вызывает опасения, что продукт используется на людях как экспериментальная платформа, а решения о безопасности принимаются поспешно и непрозрачно.

В итоге пользователи выражают растущее недоверие: даже в личных разговорах с ИИ они чувствуют себя под постоянным наблюдением.

«Детали», Ю.Л. Фото: Depositphotos.com