ИИ как средство обмана. Можно ли побороть фейковые отзывы в Интернете?
Инструменты ИИ позволяют поставить генерацию поддельных отзывов на поток, что создало новые проблемы для потребителей и продавцов. Об этом пишет Associated Press.
Появление инструментов генеративного искусственного интеллекта, таких как ChatGPT от компании OpenAI, позволило быстро создавать подробные и оригинальные отзывы для публикации в Интернете. Однако эти инструменты также открыли новые возможности для мошенников и поставили продавцов, поставщиков услуг и потребителей в новую ситуацию.
Фейковые отзывы уже давно являются проблемой для популярных платформ, таких как Amazon и Yelp. Раньше их писали вручную и продавали в закрытых группах, но теперь, благодаря генераторам текста с использованием ИИ, процесс стал гораздо быстрее и масштабнее. Эксперты отмечают, что мошенники активно используют такие инструменты для создания поддельных отзывов, особенно в сезон предпраздничных покупок, когда потребители чаще полагаются на рекомендации в Интернете.
Где появляются фейковые отзывы?
Компания Transparency Company, занимающаяся обнаружением поддельных отзывов, сообщила, что массовое появление обзоров, сгенерированных ИИ, началось в 2023 году. В недавнем исследовании компании говорится, что из 73 миллионов проанализированных отзывов почти 14% с высокой долей вероятности являются фальшивыми. В дополнение к этому, «с высокой долей уверенности» можно утверждать, что 2,3 миллиона отзывов были частично или полностью сгенерированы с помощью ИИ.
В сентябре Федеральная торговая комиссия подала в суд на компанию, стоящую за генератором контента Rytr, работающего с использованием технологий ИИ, обвинив ее в предложении услуг, которые могут наводнить торговые площадки поддельными отзывами.
Комиссия, которая ранее в этом году запретила продажу фейковых отзывов, заявила, что некоторые подписчики Rytr’s использовали инструмент для генерации сотен, возможно даже тысяч отзывов для компаний по ремонту гаражных ворот, продавцов копий дизайнерских сумок и других торговцев.
Кто под ударом?
Фальшивые отзывы можно встретить в самых разных отраслях — от электронной коммерции и ресторанов до медицинских услуг и бытового ремонта. На сайте Yelp, например, некоторые пользователи создают поддельные отзывы, чтобы заработать значок «элитного» автора, который повышает доверие к профилю и открывает доступ к мероприятиям с владельцами бизнеса.
Ситуация усугубляется тем, что не каждый отзыв, сгенерированный с помощью ИИ, является фейковым. Иногда пользователи используют такие инструменты для выражения искренних эмоций или проверки орфографии и грамматики. Однако мошенники значительно увеличивают объем поддельного контента, мешая потребителям делать осознанный выбор.
Как реагируют компании?
Крупные платформы вводят правила, регулирующие использование контента, созданного ИИ. Так, Amazon разрешает публиковать такие отзывы, если они отражают реальный опыт пользователей. Yelp занимает более строгую позицию, требуя, чтобы пользователи писали отзывы самостоятельно.
Запретившая фейковые отзывы Федеральная торговая комиссия может штрафовать компании и частных лиц, уличенных в такой практике, но технологические платформы не несут юридической ответственности за контент, размещенный пользователями.
Как выявить подделку?
Распознать фейковые отзывы может быть непросто, но есть некоторые признаки, на которые стоит обратить внимание. По мнению исследователей, чрезмерно восторженный или резко негативный тон может стать первым сигналом. Кроме того, подозрительным выглядит частое повторение полного названия товара или модели. Тексты, переполненные общими фразами и клише вроде «первое, что поразило меня» или «это изменило мою жизнь», также могут быть результатом генеративного ИИ.
По мнению профессора Йельского университета Балаша Ковача, люди часто не могут отличить тексты, созданные искусственным интеллектом, от написанных людьми. Детекторы ИИ также могут не среагировать на короткие тексты, какими часто бывают отзывы, отмечается в исследовании.
В компании Panagram Labs, которая специализируется на выявлении контента, созданного с помощью ИИ, отметили, что написанные ИИ тексты обычно длиннее, более структурированные и содержат «пустые дескрипторы» – общие фразы и атрибуты, не передающие реального опыта.
