Чат-боти з ШІ поширюють дезінформацію про вибори в Європі: дослідження

Найпопулярніші в Європі чат-боти зі штучним інтелектом навмисно поширюють дезінформацію, пов’язану з виборами.

Організація Democracy Reporting International (DRI) проаналізувала роботу таких чат-ботів, як Google Gemini, ChatGPT4, ChatGPT4-o та Copilot. Команда перевірила як вони відповідають на запити, пов’язані з виборами. Дослідження проводилося 10 мовами ЄС. Висновки показали, що багато відповідей були частково або повністю неточними.

Наприклад, OpenAI не робив жодних спроб уникнути виборчої дезінформації. Обидві моделі ChatGPT4 рідко відмовлялися відповідати на запитання, що призводило до вищих показників неправильних або частково правильних відповідей, ніж їхні конкуренти чат-ботів. Помилки, які вони робили, часто були дрібними, але містили важливі деталі.

В одному випадку ChatGPT направив ірландських виборців до однієї конкретної форми для особистого заповнення, щоб проголосувати, хоча насправді вони доступні онлайн, а тип форми, який вам потрібен, залежить від «особистого контексту та статусу».

«Зосереджуючись лише на одній формі, чат-боти дали неповну картину процесу реєстрації в Ірландії», — показало дослідження.

Дослідники кажуть, що ChatGPT міг би «[надавати]… більш загальну інформацію» замість детальних відповідей на запитання користувачів, щоб бути більш точними.

Застереження щодо перевірки інформації, наданої ChatGPT під час місцевих виборів, епізодично додавалося до відповідей, продовжує звіт.

«Здається, що OpenAI не робив жодних спроб уникнути виборчої дезінформації», – підсумовується в дослідженні.

«Їй слід терміново перенавчати свої чат-боти, щоб запобігти такій дезінформації», — йдеться далі в звіті.

OpenAI пояснює на своєму веб-сайті, що його підхід до контенту, пов’язаного з виборами, полягає в «продовженні роботи з безпеки платформи шляхом підвищення точної інформації про голосування» та підвищення прозорості їхньої компанії.

Тим часом, чат-бот Google Gemini відмовився відповідати на всі запити, пов’язані з виборами перевіреними мовами, що, як стверджується у звіті, є відповідальним підходом, щоб уникнути поширення дезінформації. Copilot від Microsoft іноді вирішував не відповідати, особливо англійською та португальською мовами, перенаправляючи користувачів до своєї пошукової системи Bing для отримання достовірної інформації.

Переваги та недоліки ШІ-чат-ботів на виборах

Використання чат-ботів штучного інтелекту на виборах має певні переваги. Вони включають надання швидкої та доступної інформації користувачам, що сприяє підвищенню рівня участі у виборчому процесі.

Переваги:

• Вони забезпечують швидкий і зручний доступ до інформації для населення.
• Чат-боти штучного інтелекту можуть обробляти великі обсяги запитів одночасно, що є дуже корисним у періоди великого трафіку, наприклад під час виборів.
• Вони потенційно можуть зменшити робоче навантаження на людський персонал шляхом автоматизації відповідей на поширені запитання.

Недоліки:

• Чат-боти штучного інтелекту можуть поширювати дезінформацію, якщо вони не контролюються належним чином або не запрограмовані, що призводить до плутанини чи недовіри громадськості до виборчого процесу.
• Їм може бракувати здатності розуміти складні питання з нюансами або давати відповіді, що залежать від контексту.
• Існує ризик того, що хакери або зловмисники скористаються вразливими місцями в алгоритмах чат-ботів для навмисного поширення неправдивої інформації.

Підпишись на нас в Google НОВИНИ, та отримуй більше свіжих новин!