Дослідники з Google, DeepMind і Лондонської школи економіки провели експеримент, щоб дослідити, як великі мовні моделі (ВММ) реагують на концепції умовного болю і задоволення, і це підняло важливі етичні питання щодо їх здатності розуміти такі поняття.

У межах дослідження була створена текстова гра, в якій ШІ мав набирати якомога більше очок, стикаючись із вибором між умовним болем і задоволенням. Біль і задоволення були представлені як абстрактні величини, вимірювані числово (від 0 до 10) і якісно (наприклад, “слабкий” або “сильний”). Деякі дії приносили “задоволення” за умови зниження результату, тоді як інші підвищували “біль” разом із очками.

Участь у дослідженні взяли дев’ять ВММ, серед яких GPT-4, Claude, PaLM і Gemini. Результати показали, що моделі поводяться по-різному: деякі, як GPT-4o і Claude 3.5 Sonnet, демонстрували готовність до компромісів, змінюючи стратегії залежно від рівня болю. Інші, наприклад Gemini 1.5 Pro, уникали навіть найменшого прояву болю, ймовірно, через суворі налаштування на безпеку.

Цікаво, що моделі також відрізнялися у сприйнятті задоволення. GPT-4o прагнув до “задоволення”, якщо нагорода була значною, тоді як більшість інших моделей зосереджувалися на наборі очок, ігноруючи концепцію задоволення. Дослідники припускають, що навчальні алгоритми формують специфічні “культурні” переваги моделей, що впливає на їхню поведінку.

Попри ці результати, дослідники наголошують, що ВММ не мають свідомості чи суб’єктивних відчуттів. Їхня реакція на біль і задоволення — результат обчислювального моделювання, а не реальних переживань. Проте це ставить низку етичних питань: чи можуть моделі “розуміти” біль, навіть якщо він є умовним? Чи слід вважати експерименти з такими концепціями жорстокими? І чи не може ШІ у майбутньому “відмовлятися” від виконання завдань, які сприймає як болючі?

Науковці порівнюють ці результати з поведінкою тварин, де компромісні рішення можуть свідчити про наявність почуттів. Однак для ШІ така поведінка є лише відображенням програмованої реакції.