По данным ShibDaily, Google выпустил предупреждение о растущей изощренности мошенничества, основанного на искусственном интеллекте, включая подделки под других, мошенничество с инвестициями в криптовалюту и мошеннические клоны приложений. Команда Trust & Safety компании подчеркнула эти тенденции в новом консультативном сообщении об онлайн-мошенничестве, подчеркнув, как мошенники используют новые технологии и крупные события, чтобы обманывать пользователей по всему миру.
Среди основных угроз, выявленных Google, — неправомерное использование технологии deepfake на основе искусственного интеллекта для выдачи себя за публичных лиц. Эти имитации использовались для продвижения мошеннических схем, таких как поддельные инвестиционные возможности и раздачи призов. В ответ Google обновил свою политику для борьбы с мошенничеством, создаваемым с помощью deepfake, на своих платформах, включая Ads и YouTube. Кроме того, наблюдается всплеск мошенничества с криптоинвестициями, в котором используются гиперреалистичные визуальные эффекты для обещания высокой прибыли с минимальным риском. Эти схемы часто организуются организованными преступными группировками, действующими через границы, что усложняет работу правоохранительных органов. Google советует пользователям скептически относиться к инвестициям, которые кажутся слишком хорошими, чтобы быть правдой.
Еще одна растущая угроза — клоны приложений и целевых страниц, которые имитируют надежные бренды для кражи личной информации или доставки вредоносного ПО. Эта тенденция распространилась на порталы входа сотрудников, подвергая компании потенциальным утечкам данных и финансовым потерям. Мошенники также используют методы маскировки, чтобы обойти системы модерации, направляя пользователей на страницы поддельных продуктов или сайты с поддельным ПО. Эти мошенничества часто используют значимые события, от выборов до стихийных бедствий, чтобы создать ощущение срочности и достоверности.
Для борьбы с этими угрозами Google внедрила политики, направленные против искажения информации, фишинга и маскировки. Компания также разработала такие инструменты, как SynthID, для водяного знака на контенте, созданном ИИ, и такие функции, как «Об этом результате», чтобы помочь пользователям проверить подлинность результатов поиска. Кроме того, политика Google в отношении конфиденциальных событий направлена на пресечение мошенничества, которое использует гуманитарные кризисы, популярные шоу и крупные мировые события. Рост мошенничества подчеркивает меняющийся ландшафт угроз, обусловленный технологическими достижениями. Google подчеркивает важность бдительности пользователей, призывая отдельных лиц и компании дважды проверять URL-адреса, сохранять осторожность в отношении нежелательных предложений и использовать функции улучшенной защиты в Chrome. Поскольку мошенники продолжают адаптировать свои методы, осведомленность общественности и сотрудничество с технологическими платформами остаются важными для решения этих проблем.
