ШІ навчився «спати»: Claude сам виправляє власні помилки без підказок

Модель Claude навчилася використовувати періоди бездіяльності для аналізу власного досвіду: вона впорядковує нотатки, виправляє помилки й формує структуровану базу знань. Розробники Anthropic порівнюють цей процес зі сном людини. Про результати дослідження повідомляє РБК-Украина з посиланням на матеріали Anthropic.

Ідея полягає в тому, щоб штучний інтелект не просто зберігав усі дані, а вирізняв серед них те, що справді може знадобитися в майбутньому. Надмірно докладні записи швидко перетворюють пам’ять на хаотичне сховище, тоді як занадто сильне скорочення змушує модель щоразу починати роботу майже з нуля.

Чого Claude навчився у грі Pokémon Red

Щоб перевірити цей підхід, дослідники доручили моделям проходити Pokémon Red — гру, у якій потрібно досліджувати світ і здобувати значки. Після 10 000 ігрових кроків різниця між моделями виявилася помітною.

Sonnet 3.7 зберігала практично все: створила 413 файлів у 225 папках загальним обсягом близько 978 тисяч символів. Однак за цей час модель здобула лише один значок.

Claude Fable 5 діяла вибірково. Вона використала десять файлів у трьох папках — приблизно 43,4 тисячі символів — і здобула чотири значки. Модель фіксувала передусім стратегії, висновки та поточні цілі, не дублюючи інформацію, яку й так бачила на екрані.

Такий підхід перегукується з іншими експериментами, у яких ШІ вчиться ефективніше взаємодіяти зі світом, а не просто накопичувати дані. Наприклад, робот-гуманоїд у Південній Кореї навчився координувати все тіло майже як людина.

«Сон» допоміг виправити помилкові координати

Періоди бездіяльності стали корисними й для виправлення помилок. Під час проходження Pokémon Red Claude неправильно записав координати Покецентру біля гори Мун. Через це модель знову й знову блукала тією самою ділянкою, долала односторонні уступи та поверталася на початок маршруту.

Під час «сну» Claude зіставив власні нотатки з повним текстом попередньої гри, виявив невідповідність і самостійно замінив хибні координати правильними. Після повернення до гри модель без проблем пройшла гору Мун і дісталася міста Сірулін.

Версія Claude без цієї функції продовжувала рухатися за помилковими записами й залишалася в пастці. Дослідники наголошують, що неправильно збережений факт може впливати на подальші рішення моделі так, ніби він є достовірним.

Від масиву документів до структурованої бази знань

Anthropic також перевірила технологію на корпоративних документах. Claude опрацював 350 тисяч внутрішніх матеріалів компанії Stainless загальним обсягом близько 420 мільйонів токенів. За 128 періодів бездіяльності модель самостійно створила вікісистему зі структурованими даними та перехресними посиланнями.

Після цього точність відповідей на 25 складних тестових запитань зросла з 13 до 48 відсотків. В іншому експерименті, присвяченому документам про злиття компаній, створена під час таких періодів база знань забезпечила точність відповідей до 87 відсотків. Звичайний пошук у документах дав результат на рівні 73 відсотків.

Водночас розробники визнають обмеження підходу. Такі сеанси аналізу потребують значних обчислювальних ресурсів, а надмірне накопичення інформації може знову знизити ефективність системи. Тому ключовим завданням залишається не максимальний обсяг пам’яті, а вміння моделі відбирати, перевіряти й своєчасно оновлювати найважливіші знання.