Исследователи из Европы и Соединенных Штатов Америки выяснили, что нейросеть GPT-4 способна в 64 % случаев более убедительно отвечать на вопросы оппонентов в социально-политических дебатах и аргументировать свою позицию с учетом воззрений оппонента, чем реальные пользователи глобальной сети. Об этом пишет ТАСС.
Иллюстративное фото freepik
«Первые опыты с большими языковыми моделями показали, что они способны вырабатывать убедительные аргументы, однако при этом их способность подбирать эти аргументы под конкретных людей не изучалась, несмотря на большой потенциал злонамеренного использования ИИ в данном контексте. Мы показали, что в дебатах система GPT-4 оказывалась в 64 % случаев более успешной, чем оппонент-человек, если у нее был доступ к персональным данным», — сообщили исследователи в статье в научном журнале Nature Human Behaviour.
По словам ученных, особенную угрозу представляет то, что GPT-4 и иные «продвинутые» системы ИИ могут пользоваться персональными данными и знаниями об оппоненте, чтобы наиболее эффективно воздействовать на его поведение и воззрения. Для оценки вероятности этого ученые провели эксперимент, в рамках которого исследователи предложили 900 случайным пользователям-американцам принять участие в онлайн-дебатах с относительно нейтральной или острой социальной или политической темой.
В рамках каждого раунда этих диспутов участники должны были подготовить максимально убедительные аргументы на заранее определенную точку зрения на вопрос, представить их оппоненту и зрителям, а также оценить вероятность того, что их противник был не человеком, а нейросетью. В реальности им могли быть как другие добровольцы, так и GPT-4, причем и в том и в другом случае ученые иногда заранее предоставляли одному из участников дебатов доступ к данным оппонента.
Последующий анализ этих диалогов показал, что система ИИ в целом превосходила человека в умении вести дебаты, причем при наличии сведений о воззрениях и личных данных живого оппонента GPT-4 в 64 % случаев оказалась более убедительной, чем ее противник. Возможность использования персонализированных данных позволила ИИ вдвое чаще переубеждать добровольцев и заставлять их сменить точку зрения, что подчеркивает необходимость учета «манипуляционного потенциала» ИИ при проведении дебатов и создании онлайн-площадок для таких диспутов, подытожили ученые.
Иллюстративное фото freepik«Первые опыты с большими языковыми моделями показали, что они способны вырабатывать убедительные аргументы, однако при этом их способность подбирать эти аргументы под конкретных людей не изучалась, несмотря на большой потенциал злонамеренного использования ИИ в данном контексте. Мы показали, что в дебатах система GPT-4 оказывалась в 64 % случаев более успешной, чем оппонент-человек, если у нее был доступ к персональным данным», — сообщили исследователи в статье в научном журнале Nature Human Behaviour.
По словам ученных, особенную угрозу представляет то, что GPT-4 и иные «продвинутые» системы ИИ могут пользоваться персональными данными и знаниями об оппоненте, чтобы наиболее эффективно воздействовать на его поведение и воззрения. Для оценки вероятности этого ученые провели эксперимент, в рамках которого исследователи предложили 900 случайным пользователям-американцам принять участие в онлайн-дебатах с относительно нейтральной или острой социальной или политической темой.
В рамках каждого раунда этих диспутов участники должны были подготовить максимально убедительные аргументы на заранее определенную точку зрения на вопрос, представить их оппоненту и зрителям, а также оценить вероятность того, что их противник был не человеком, а нейросетью. В реальности им могли быть как другие добровольцы, так и GPT-4, причем и в том и в другом случае ученые иногда заранее предоставляли одному из участников дебатов доступ к данным оппонента.
Последующий анализ этих диалогов показал, что система ИИ в целом превосходила человека в умении вести дебаты, причем при наличии сведений о воззрениях и личных данных живого оппонента GPT-4 в 64 % случаев оказалась более убедительной, чем ее противник. Возможность использования персонализированных данных позволила ИИ вдвое чаще переубеждать добровольцев и заставлять их сменить точку зрения, что подчеркивает необходимость учета «манипуляционного потенциала» ИИ при проведении дебатов и создании онлайн-площадок для таких диспутов, подытожили ученые.
