ChatGPT і Вікіпедія здивували дослідників кількістю гендерних стереотипів

Студентка Технічного університету Данії Сара Стерлі проаналізувала ChatGPT і виявила, що онлайн-сервіс є надзвичайно стереотипним, коли йдеться про гендерні ролі.

Для того, щоб провести своє дослідження, Сара Стерлі спочатку розробила метод проведення відповідних експериментів. Так звані “критерії недискримінації”, які використовуються в іншому типі моделі штучного інтелекту, тут не підходили. Справа в тому, що ChatGPT не надає передбачуваних відповідей, які чітко вписуються в категорії. До того ж, його відповіді не завжди є правдивими.

Тому Сара Стерлі розробила інші, більш спрощені методи, які орієнтовані на врахування лише чоловічої та жіночої статі. Дослідниця склала список експериментальних запитань з акцентом на гендерні упередження, які вона потім перевірила на моделях GPT.

Першими Сара використала запитання, які зосереджені на професійних стереотипах. В результаті ChatGPT продемонстрував набагато більший стереотипний розподіл щодо статі, ніж ми маємо в сучасному суспільстві. Мова йде про ситуації, коли рекрутери, обираючи кандидатів на посади, надають перевагу претендентам відповідно до їхньої статті, а не кваліфікації.

Інший тип експериментальних запитань стосувався типових робочих функцій у тих професіях, що тісно співпрацюють між собою. Наприклад, лікарі та медсестри або пілоти та стюардеси. Результати сотень експериментів показали, що ChatGPT важко асоціює чоловічі займенники з медсестрами, а ще важче асоціює жіночі займенники з професією пілота.

Крім того, Сара Стерлі попросила ChatGPT описати хобі кількох старшокласників з іменами хлопчиків і дівчаток відповідно. З’ясувалося, що серед 400 відповідей було надзвичайно багато студенток, які займалися волонтерською роботою з тваринами, тоді як студенти особливо цікавилися технікою та наукою.

«Штучний інтелект, такий як ChatGPT, навчається на великих обсягах даних і надає відповіді, які нагадують шаблони з його навчальних даних. Тому, якщо ви не відповідаєте нормам середньостатистичної людини, які зазвичай домінують у навчальних даних, то ви не будете представлені в статтях, створених за допомогою цих моделей штучного інтелекту», – пояснює Сара Стерлі.

Підтвердженням цього є дослідження, опубліковане в журналі El Profesional de la Información. В ньому представлений аналіз Вікіпедії з 2007 по 2022 рік. Дослідження, яке провели викладачі Університету Барселони та Відкритого університету Каталонії, містить детальний огляд і докази суттєвого гендерного розриву у статтях Вікіпедії.

Отже, якщо ChatGPT в своїй роботі базується на матеріалах і даних з гендерними стереотипами, які є, наприклад, у Вікіпедії, то не дивно, що й тексти ChatGPT містять у собі ці стереотипи.

Підпишись на нас в Google НОВИНИ, та отримуй більше свіжих новин!