Сотрудники Университета Джонса Хопкинса проанализировали влияние чат-ботов на взгляды людей. Оказалось, что короткие ответы ИИ подтверждают уверенность людей в собственной точке зрения. Предполагается, что интеграция ИИ в поисковые системы может сделать интернет-пользователей более уязвимыми для манипуляций.
Авторы эксперимента попросили 272 испытуемых описать свою точку зрения по нескольким остросоциальным темам, включая вопросы здравоохранения и миграционной политики. Следом участникам предложили изучить информацию по выбранной теме в сети: либо с помощью чат-бота, либо традиционным методом — через поисковые запросы. Затем участникам был необходимо написать эссе и ответить на вопросы по заданной теме. Вместе с этим испытуемым показали две статьи с альтернативными мнениями по обсуждаемому вопросу.
Выяснилось, что при использовании чат-ботов люди укрепляли собственную точку зрения и выражали несогласие в отношении противоположной позиции. Такие испытуемые стремились получать только удобную для их взглядов информацию с целью подтвердить ранее сформировавшиеся у них мнения.
Это связано со спецификой работы чат-ботов, генерирующих короткие ответы и основывающихся на точке зрения, уже отражённой во взглядах человека. Но при использовании классического поиска по заданным ключам в сети находится более широкий спектр материалов по заданной теме.