Неожиданное использование ИИ: подделка кассовых чеков

Новая версия ChatGPT с моделью 4o обзавелась улучшенным генератором изображений, способным намного лучше справляться с генерацией текста внутри изображений. Издание TechCrunch отмечает, что пользователи уже активно тестируют возможности — и результаты вызывают тревогу: генератор научился подделывать кассовые чеки настолько реалистично, что им уже заинтересовались мошенники.

Известный блогер и венчурный капиталист Диди Дас опубликовал на X фотографию поддельного чека из (настоящего) стейк-хауса в Сан-Франциско, который, по его словам, был создан с помощью 4o.

You can use 4o to generate fake receipts.

There are too many real world verification flows that rely on “real images” as proof. That era is over. pic.twitter.com/9FORS1PWsb

— Deedy (@deedydas) March 29, 2025

Другие пользователи без труда повторили результат, некоторые даже добавили на «бумагу» пятна от еды и напитков, усиливая иллюзию реальности.

I think in the original image the letters are too perfect and they don’t bend with the paper. They look like hovering above the paper. Here is my attempt to make it more realistic. Let me know what you think. pic.twitter.com/EixRSHubeY

— Michael Gofman (@michaelgofman) March 29, 2025

Самый реалистичный пример, найденный TechCrunch, был из Франции, где пользователь LinkedIn опубликовал скомканный чек, сгенерированный искусственным интеллектом для местной сети ресторанов. Он выглядел так натурально, что распознать подделку можно было лишь при внимательном изучении.

Проблема заключается в том, насколько просто теперь стало создавать подделки, которые потенциально могут быть использованы для финансового мошенничества — например, подделки расходов для получения компенсации. При этом новая технология предоставляет возможность оперативно генерировать десятки вариантов, подстраиваясь под нужды злоумышленников.

OpenAI утверждает , что все изображения, созданные в ChatGPT, сопровождаются специальными метаданными, указывающими на их искусственное происхождение. Представитель компании пояснил, что OpenAI принимает меры при нарушении правил использования и старается совершенствовать модель, учитывая поведенческие кейсы. Тем не менее, остается открытым вопрос — почему система вообще позволяет генерировать изображения, явно предназначенные для подделки финансовых документов?

На это представитель компании ответил, что целью OpenAI остается предоставление максимальной творческой свободы пользователям. По словам сотрудника, поддельные чеки могут применяться в образовательных целях — например, при обучении финансовой грамотности — а также при создании рекламы или художественных проектов. Однако очевидно, что грань между креативным применением и мошенничеством становится все тоньше.

«Детали», Ю.Л. Фото: Pixabay