Группа учёных из Швейцарии, Америки и Италии выявила серьёзную уязвимость в использовании ИИ, включая GPT-4. В статье Nature Human Behaviour указано, что ИИ оказался более убедительным, чем человек, в 64% случаев — особенно при доступе к личным данным оппонента.

«Мы показали, что в дебатах GPT-4 в 64% случаев более успешен, чем человек, если имеет доступ к персональным данным», — отмечается в исследовании.

Эксперимент проводился под руководством доцента Роберта Уэста. Цель — изучить потенциал применения ИИ, способного адаптировать аргументы под убеждения и характеристики собеседника. Особую тревогу вызывает способность нейросетей персонализировать аргументацию: получая данные о взглядах, ценностях и психологическом профиле человека, ИИ может эффективно склонять его к изменению мнения.

Для подтверждения опасений исследователи привлекли 900 пользователей Сети. Каждому предлагалось вступить в онлайн-дебаты на политическую, либо социальную тему — как с людьми, так и с GPT-4. Доступ к персональным данным усиливал эффективность ИИ: GPT-4 вдвое чаще людей склонял оппонентов к изменению мнения.

Учёные подчёркивают: «Первые опыты показали, что они роботы способны вырабатывать убедительные аргументы, однако способность подбирать их под конкретных людей не изучалась».

Исследование подчёркивает необходимость жёсткого регулирования и контроля ИИ на дискуссионных платформах, чтобы минимизировать риск манипуляции мнением социума. Особенно важно обеспечить прозрачность в отношении того, когда собеседником пользователя является машина, а не человек.