Новая модель ChatGPT без проблем вычислит место, где была сделана фотография

На этой неделе OpenAI представила две ИИ-модели нового поколения. По словам разработчиков, новые модели являются первыми моделями OpenAI, которые интегрируют визуальную информацию в процесс рассуждения, что позволяет новым системам обрабатывать размытые изображения, а также вращать или увеличивать фотографии во время выполнения задач. Пользователи уже нашли для них неожиданное применение — определение геолокации по случайным фотографиям.

В компании отмечают, что o3 и o4-mini — это ее первые модели рассуждений, которые могут отвечать, используя все инструменты ChatGPT, включая просмотр веб-страниц, а также генерацию и анализ изображений.

Между тем в соцсетях набирает обороты своеобразный челлендж: люди загружают снимки фасадов зданий, ресторанных меню, уличных сцен и даже селфи, а модель о3 отгадывает, где они были сделаны — иногда по мельчайшим деталям. При этом, как подчеркивают исследователи, ChatGPT не использует EXIF-метаданные, то есть скрытую информацию, которая обычно хранится в файлах фото и может напрямую указывать на местоположение.

Особенно активно о3 сравнивают с игрой GeoGuessr — там участникам нужно по кадрам из Google Street View угадать, где они находятся. Теперь ту же задачу решает нейросеть, и нередко с поразительной точностью. При этом иногда модель выдает совершенно неверные ответы или «зависает» в попытках проанализировать слишком неинформативное изображение. Тем не менее, даже с огрехами в работе, возможности вызывают тревогу — ведь теперь определить местоположение человека по фото стало гораздо проще, и это может использоваться во вред.

OpenAI, комментируя ситуацию спустя несколько часов после выхода первых публикаций, заявила, что о3 и o4-mini действительно обладают возможностями визуального анализа и могут быть полезны при решении задач в сфере доступности, научных исследованиях и при работе экстренных служб. Представители компании также утверждают, что были внедрены ограничения , запрещающие распознавание частных лиц и защиту личной информации. Однако, судя по примерам, приведенным пользователями, пока что ограничения легко обходятся — и это вызывает вопросы к реальной эффективности встроенных механизмов защиты.

«Детали», Ю.Л. Фото: Depositphotos.com