Чому не варто довіряти генеративному ШІ: приклади безглуздих відповідей на запитання

Чат-бот ChatGPT від OpenAI дає неправильні відповіді на 52% питань комп’ютерного програмування. Це – результати нещодавнього наукового дослідження, яке провели вчені з Університету Пердью (Purdue).

Вчені виявили, що чат-бот ChatGPT, створений компанією OpenAI, надає неправильні відповіді на запити комп’ютерного програмування в 52% випадків. Крім того, 77% відповідей надто багатослівні.

Незважаючи на ці недоліки, користувачі у 35% надають перевагу відповідям ChatGPT через їх вичерпність. Дослідження також показало, що програмісти не помічали помилки чат-бота в 39% випадків. Це говорить нестачу обізнаності користувачів про ризики, пов’язані з відповідями, створеними ШІ.

В мережі час від часу з’являються приклади абсолютно абсурдних відповідей, які надає штучний інтелект.

Наприклад, користувач звернувся по допомогу до іншої моделі штучного інтелекту – AI Overviews від Google – і запитав, що робити, коли сир не прилипає до піци. У відповідь штучний інтелект порекомендував додати у рецепт клей: «Змішування сиру з соусом допомагає додати сиру вологи та висушити соус. Ви також можете додати приблизно 1/8 склянки нетоксичного клею в соус, щоб надати йому більшої липкості».

Ще одна неточна відповідь AI Overviews з’явилася нещодавно, коли користувач запитав Google: «Скільки каменів я маю з’їсти». В результаті штучний інтелект почав цитувати геологів Каліфорнійського університету в Берклі і запропонував таке: «Рекомендується їсти принаймні один камінь на день, оскільки камені містять мінерали та вітаміни, важливі для здоров’я травлення».

Таким самим чином з’являються рекомендації полікувати себе сечею або дати дітям тютюн як ліки, бо колись хтось так робив і такі методи існували. Про достовірність, доказовість і якість цих методів, звісно, не йдеться.

І ось саме такий інструмент в результаті Google зробив головним при пошуку інформації: відповіді AI Overviews вийшли на перший план у пошуковій стрічці, відсунувши вниз першоджерела, рекомендації науковців і т.д.

Не дивно, що результати пошуку Google, створені за допомогою штучного інтелекту, вчені називають «катастрофою», якій «більше не можна довіряти», а користувачі почали активно шукати способи позбавитись AI Overviews у стрічці.

Крім того, не забувайте, що штучний інтелект здатний навмисно брехати та маніпулювати відповідями, і це вже доведено науковцями.

Підпишись на нас в Google НОВИНИ, та отримуй більше свіжих новин!