Ученые из четырех университетов выяснили, что чат-боты на основе искусственного интеллекта могут быть успешнее в завоевании доверия потенциальных жертв мошенничества, чем люди-мошенники. Это касается схем, где злоумышленники выстраивают долгосрочные отношения с жертвой, а затем убеждают ее инвестировать в поддельные криптовалютные схемы.
В эксперименте чат-боты с ИИ и люди общались с 22 добровольцами в течение недели. Почти половина участников выполнила просьбу чат-бота с ИИ (скачать приложение), в то время как просьбу человека-мошенника выполнил менее чем каждый пятый.
Участники также оценили уровень доверия к своим собеседникам. Чат-боты получили более высокие оценки. Это позволяет ИИ взять на себя большую часть процесса мошенничества, действуя как независимый агент.
Человек-мошенник может подключаться только на финальной стадии, чтобы направить жертву к поддельной инвестиционной платформе. Это позволяет обойти защитные механизмы, встроенные в крупные языковые модели для выявления мошенничества.
Исроэль Мирски, профессор компьютерных наук из Университета Бен-Гуриона в Негеве, который руководил исследованием, отметил, что ИИ способен превзойти человека в создании «эксплуатируемого эмоционального доверия».
Исследование также показало, что чат-боты с ИИ успешно скрывают свою истинную природу. Из 22 участников только один самостоятельно догадался, что общается с ИИ. Чат-бот отрицал, что является искусственным интеллектом, и придумывал объяснения своим ошибкам.
Когда исследователи раскрыли правду, 20 из 22 участников смогли ретроспективно определить, кто из собеседников был чат-ботом. Это подчеркивает сложность распознавания обмана, находясь внутри иллюзии, которую создает мошенник.