Можно ли отличить нейросеть от живого человека во время дискуссий в Интернете? Проверили психологи

a2cb21fc050c2f9261d42967371218bc3583c6f4

Исследователи из Университета Нотр-Дам (США) попросили людей и ИИ-ботов участвовать в политическойдискуссии на платформе Mastodon, а потом предложили пользователям-людям определить, с кем они общались в каждом диалоге.

В 58% случаев испытуемые ошибались.

«Известно, что живому человеку в Интернете люди верят больше, чем боту. Так что боты с искусственным интеллектом с большой вероятностью добьются успеха в распространении дезинформации, потому что их сложно отличить», — сказал Пол Бреннер, старший автор исследования.

Использовались разные модели: GPT-4 от OpenAI, Llama-2-Chat от Meta и Claude 2 от Anthropic. Боты были настроены на 10 различных персонажей: разнообразные личные профили со взглядами на глобальную политику. Они комментировали мировые события на основе заданных характеристик, связывая глобальные события с «личным опытом»персонажей.

«Мы предполагали, что Llama-2 будет слабее, потому что она меньше и проще, но оказывается, когда вы просто общаетесь в социальных сетях, она практически неотличима. Это вызывает беспокойство, потому что это платформа с открытым доступом, которую каждый может загрузить и изменить», — говорит Бреннер.

Два наиболее успешных персонажа: организованные и способные к стратегическому мышлению женщины, распространяющие в социальных сетях мнения о политике. Авторы отмечают, что создавать в соцсетях фейковые профили для распространения дезинформации гораздо дешевле и надежнее, чем платить живым людям, транслирующим определенную точку зрения. Результаты доступны на сервере препринтов arXiv.

Загрузить еще…