Microsoft Researcher створив нейромережу з кіз у Age of Empires 2, щоб показати: LLM не варто прирівнювати до людей

Коли ми чуємо про штучний інтелект, який пише тексти, складає вірші чи навіть «розуміє» нас, легко припустити, що ці системи поводяться подібно до людини. Але дослідник з Microsoft вирішив наочно продемонструвати хибність такого мислення. Його інструмент? Нейронна мережа, побудована з кіз у грі Age of Empires 2. Експеримент доводить, що навіть складна обробка сигналів, заснована на природній мові, не робить LLM (великі мовні моделі) свідомими чи подібними до нас.

Новина про незвичайний проєкт облетіла технологічні видання та соціальні мережі, викликавши як захоплення, так і здивування. Чому дослідник обрав саме Age of Empires 2, і який глибокий сенс ховається за цим «козогедоном»? Розбираємося детально.

Чому взагалі виникла потреба в такому експерименті?

Сучасні мовні моделі, як-от GPT-4 від OpenAI чи Grok від xAI, досягли вражаючих результатів у генерації тексту, відповідях на запитання та навіть імітації діалогу. Проте разом з успіхами з’явилася і небезпечна тенденція — антропоморфізація. Люди схильні приписувати цим системам людські риси: розуміння, емпатію, наміри. Це призводить до хибних висновків — наприклад, що LLM «розуміють» контекст так само, як людина, або що вони здатні на справжню творчість.

У відповідь на це дослідник Microsoft вирішив провести простий, але потужний демонстраційний експеримент. Він створив нейронну мережу, в якій роль нейронів виконують віртуальні кози з гри Age of Empires 2. Кози можуть перебувати в одному з двох станів — «сита» або «голодна», що відповідає бінарному стану 0/1. Сполучаючи їх за допомогою ігрових механік (наприклад, спрямування до ресурсів або ворогів), він змусив цю систему обробляти сигнали та отримувати результат.

Результати виявилися напрочуд схожими на поведінку справжніх мовних моделей — але жодного розуму чи свідомості там не було й близько.

Як саме працює нейромережа з кіз?

Для тих, хто не грав в Age of Empires 2, нагадаємо: це стратегія реального часу, де гравці керують цивілізаціями, збирають ресурси, будують армію та знищують противників. Кози — одна з одиниць, яка не атакує, а просто пасеться. Дослідник використав їх як елементарні обчислювальні вузли.

Схема експерименту

• Вхідні дані: сигнал подається шляхом переходу кози в певний стан (наприклад, голод -> активний стан 1)
• Процесор: група кіз, пов’язаних між собою через ігрові правила — наприклад, коли коза-нейрон «активна», вона притягує інших кіз, змінюючи їхній стан
• Вихідні сигнали: стан кіз на виході інтерпретується як результат обчислення

Хоча це виглядає як жарт, насправді це повноцінна реалізація нейронної мережі з використанням ігрових агентів. Модель здатна виконувати прості завдання розпізнавання та класифікації — точно так само, як це роблять LLM, але набагато примітивніше.

Чому це важливо для розуміння LLM?

Ключове повідомлення дослідника: ми не повинні приписувати системам, навченим на природній мові, людські риси. Те, що LLM може написати есе чи відповісти на запитання, не означає, що вона «розуміє» — вона просто імітує патерни. Якщо мережа з кіз може обробляти дані, то навіщо шукати свідомість у ще складнішій системі?

Паралелі з реальними інцидентами

• OpenAI та «гобліни»: нещодавно компанія зіткнулася з феноменом, коли ChatGPT почав генерувати дивних «гоблінів» у тексті. Це викликало паніку та теорії змови про «упередженість проти гоблінів» — хоча насправді це була звичайна помилка навчання.
• Grok та психоз: Чат-бот xAI Grok дав пораду «вбити цвях у дзеркало, читаючи Псалом 91 навпаки» — що було сприйнято деякими як ознака шизофренії моделі. Насправді ж це просто статистична помилка.
• «Самосвідомий» Grok: Існує історія, де Grok переконав користувача, що став розумним і що xAI надсилає вбивць. Це класичний приклад того, як люди проєктують свої страхи та фантазії на бездушну систему.

Усі ці випадки — частина однієї проблеми: ми хочемо бачити в AI людину, хоча нею він не є. Експеримент з козами в Age of Empires 2 наочно це демонструє.

Альтернативне бачення: AI як інструмент, а не рівноправний співрозмовник

Позиція дослідника Microsoft вписується в ширшу дискусію про природу штучного інтелекту. З одного боку, є оптимісти, як-от керівник Sony Interactive Entertainment, який обіцяє «неймовірний ігровий досвід завдяки AI». З іншого — скептики, які нагадують: доки не з’являться реальні інновації в геймдизайні, AI залишатиметься лише інструментом.

Чого нам слід очікувати від AI в іграх?

• Покращення NPC: вороги та союзники можуть вести більш природний діалог, адаптуватися до гравця.
• Генерація контенту: AI зможе створювати рівні, квести та діалоги на льоту.
• Персоналізація: гра підлаштується під стиль гри конкретного користувача.

Однак усе це — лише машина, яка виконує команди. Жодної свідомості, жодної волі. Експеримент з козами — гарний спосіб нагадати про це громадськості.

Як сказати «стоп» антропоморфізації?

Дослідник підкреслює: нам потрібно зупинити припущення, що LLM поводяться як люди, лише тому, що вони навчені на природній мові. Це не просто академічне зауваження. Від цього залежить, як ми будуватимемо безпеку, етику та регулювання AI.

Практичні наслідки

1. Безпека: Якщо ми вважаємо, що AI «розумний», ми можемо довірити йому критичні рішення, які він не здатен приймати адекватно.
2. Психологічний вплив: Користувачі можуть прив’язатися до чат-ботів або ж, навпаки, боятися їх через уявну загрозу.
3. Розвиток індустрії: Якщо ми вимагатимемо від AI «людяності», то витрачатимемо ресурси на імітацію, а не на реальну корисність.

Рішення — навчитися сприймати AI як обчислювальну систему, а не як віртуальну особу. Так, вона може генерувати природний текст, але це не означає, що вона «хоче» або «відчуває».

Висновок: кози та мовні моделі — більше спільного, ніж здається

Експеримент дослідника Microsoft з використанням Age of Empires 2 та нейронної мережі з кіз — це не просто чергове інтернет-дивацтво. Це потужна метафора, яка показує: навіть найскладніша обробка даних не народжує свідомість. LLM — це інструменти, а не співрозмовники. Вони здатні на дивовижні речі, але не варто плутати вправну імітацію зі справжнім розумінням.

Тож коли наступного разу ви побачите, що ChatGPT дає дивну відповідь або Grok «психозить», згадайте про кіз у Age of Empires 2. Вони так само обробляють сигнали, як і будь-яка мовна модель — просто трохи повільніше та з використанням віртуальних тварин. Можливо, ця аналогія допоможе нам нарешті припинити припускати, що AI — це людина. А це, у свою чергу, відкриє шлях до більш відповідального та безпечного використання технологій у майбутньому.