«Хрустальный шар» или нарушение прав? Израильский стартап намерен предсказывать преступления

Израильская компания Voyager заявила об открытии технологии, позволяющей предсказывать будущие преступления или увлечение человека радикальными идеями — на базе информации из соцсетей. Впрочем ее методология вызывает опасения относительно нарушения права интернет-пользователей на конфиденциальность. Компания отказывается раскрывать подробности того, как именно искусственный интеллект распознает поддержку экстремистских течений.

Уникальная технология, которую компания Voyager продает исключительно органам правопорядка разных стран, помогает, в числе прочего, расшифровывать имена пользователей «Инстаграма», которые могут свидетельствовать о радикализации человека.

«О чем говорят ваши публикации в «Фейсбуке»? А список тех, на кого вы подписаны в «Инстаграме»? Или перечень ваших контактов в других социальных сетях? Израильский стартап Voyager Labs утверждает, что с помощью этой информации полиция сможет понять, намерены ли вы совершить преступление или уже совершили его», — пишет в воскресенье, 21 ноября, британское издание The Guardian.

Компания помогает полиции собирать информацию о пользователях соцсетей и выстраивать модель поведения отдельных объектов. «Магия» состоит в работе искусственного интеллекта, который, по заверению компании, может расшифровать сетевое ДНК человека. Поиск заточен на три варианта типажей: тот, кто совершил преступление, тот, кто собирается его совершить – и тот, кто привержен определенной идеологии.

Однако согласно исследованию, проведенному британскими журналистами совместно с американской правозащитной организацией Центр Бренана, принцип работы технологии Voyager Labs идет в разрез с законодательством целого ряда стран. В основном это касается нарушения права на конфиденциальность интернет-пользователей.

К примеру, однажды технология указала на одного из пользователей «Инстаграма», в никнейме которого фигурировало понятие «арабская гордость». В другом случае она определила твит об исламе как «признак возможной радикализации».

Имеющиеся в публичном доступе сведения свидетельствуют о том, что Voyager Labs поощряет некоторые сомнительные с этической точки зрения полицейские меры: использование поддельных профилей для получения доступа к сообществу или конкретному пользователю.

Стартап Voyager существует уже 9 лет. За это время компания обзавелась офисами в Израиле, Вашингтоне и Нью-Йорке. В 2019 году она вела длительные переговоры с полицией Лос-Анджелеса – об их результатах не сообщается. Запросы журналистов о партнерах компании и – главное – о том, как искусственный интеллект распознает поддержку человеком определенной идеологии, остались без ответа.

IsraelDefense, Д.Р. Фото: pixabay