«Здатний знищити всіх нас»: фахівець звільнився з Google DeepMind через страх перед ШІ

Колишній співробітник Google DeepMind Білал Чугтай став одним із фахівців, які вирішили залишити роботу через побоювання щодо стрімкого розвитку штучного інтелекту. На його думку, людство наближається до моменту, коли технології можуть вийти з-під ефективного контролю, а часу для запобігання найнебезпечнішим сценаріям залишається дедалі менше.

Свою позицію фахівець пояснює не страхом перед самою технологією, а ризиками, які виникають у разі створення надзвичайно потужних систем без достатніх гарантій безпеки. У публічному просторі дедалі частіше обговорюють можливість появи штучного інтелекту, здатного самостійно аналізувати складні завдання, планувати дії, створювати програмний код і впливати на рішення людей.

Чому фахівці побоюються розвитку ШІ

Штучний інтелект уже використовується для роботи з текстами, зображеннями, програмами, медичними даними та великими масивами інформації. Однак зі зростанням можливостей таких систем збільшується і ціна помилки. Якщо алгоритм неправильно зрозуміє поставлену мету, отримає доступ до важливих ресурсів або діятиме в умовах недостатнього нагляду, наслідки можуть бути значно серйознішими, ніж звичайна технічна несправність.

Основна тривога полягає у відсутності повної гарантії, що складна система поводитиметься саме так, як очікують її розробники. Сучасні моделі навчаються на величезних обсягах даних і можуть демонструвати поведінку, яку складно заздалегідь передбачити. Навіть якщо розробники встановлюють обмеження, їхня ефективність залежить від якості тестування, доступу до системи та здатності своєчасно помічати небезпечні дії.

Ще один ризик пов’язаний із конкуренцією між технологічними компаніями. Прагнення першими випустити потужніший продукт може підштовхувати бізнес до скорочення термінів перевірки та запуску нових функцій до того, як усі потенційні загрози будуть досліджені. У такій ситуації питання безпеки може поступитися місцем боротьбі за інвестиції, користувачів і вплив на ринок.

Побоювання також стосуються не лише гіпотетичного надрозумного ШІ. Уже сьогодні алгоритми можуть використовуватися для масового поширення дезінформації, автоматизації шахрайських схем, створення переконливих підробок і маніпулювання громадською думкою. Водночас автоматизація здатна змінити ринок праці, посилити нерівність між працівниками та компаніями й зробити окремі професії менш затребуваними.

Що означає звільнення Білала Чугтая

Рішення колишнього працівника Google DeepMind привернуло увагу тому, що він залишався безпосередньо пов’язаним із середовищем, де розробляються одні з найскладніших систем штучного інтелекту. Звільнення фахівця в такому контексті сприймається як сигнал: дискусія про безпеку ШІ стосується не лише зовнішніх критиків, а й людей, які добре розуміють принципи роботи сучасних технологій.

Чугтай попереджає, що людство може втрачати час, необхідний для створення надійних механізмів контролю. Йдеться про незалежне тестування моделей, обмеження доступу до критично важливих інструментів, прозору звітність компаній і чіткі правила відповідальності за наслідки використання алгоритмів. На думку прихильників такого підходу, реагувати потрібно до того, як небезпечна система стане широко доступною, а не після першої масштабної аварії.

Водночас його позиція не означає заклик повністю відмовитися від штучного інтелекту. Технологія може приносити користь у медицині, науці, освіті, промисловості та боротьбі з глобальними проблемами. Проте користь залежить від того, наскільки відповідально її розроблятимуть і застосовуватимуть. Безпека має бути закладена в архітектуру системи, а не додана після запуску як формальна функція.

Чи можна запобігти катастрофічному сценарію

Фахівці з безпеки ШІ наголошують на необхідності поєднати технічні, правові та суспільні заходи. Технічний рівень передбачає перевірку моделей у різних умовах, пошук способів обійти обмеження, контроль автономних дій і постійний моніторинг поведінки систем. Жоден алгоритм не повинен отримувати необмежений доступ до фінансів, критичної інфраструктури або державних процесів без участі відповідальних людей.

На законодавчому рівні потрібні зрозумілі правила для компаній, які створюють і впроваджують потужні моделі. Важливо визначити, хто відповідає за помилки алгоритму, як мають повідомлятися про небезпечні інциденти та які системи потребують особливо суворої перевірки. Також необхідно захищати персональні дані, авторські права та право людини розуміти, коли вона взаємодіє з автоматизованою системою.

Запобігання катастрофічним наслідкам неможливе без відкритої дискусії та незалежного контролю. Якщо рішення про майбутнє ШІ залишаться винятково всередині великих корпорацій, суспільство не зможе повною мірою оцінити ризики. До розроблення правил мають бути залучені науковці, інженери, юристи, представники держави та громадськості.

Історія Білала Чугтая показує, наскільки суперечливим стало питання розвитку штучного інтелекту. З одного боку, технологічний прогрес обіцяє нові відкриття та зручні інструменти. З іншого — неконтрольоване змагання за створення дедалі потужніших систем може створити загрози, масштаби яких важко оцінити заздалегідь.

Попередження про те, що ШІ «здатний знищити всіх нас», звучить радикально, але саме такі заяви змушують суспільство серйозніше ставитися до питань безпеки. Майбутнє технології залежатиме не лише від швидкості її розвитку, а й від готовності людей встановити межі, забезпечити контроль і не допустити, щоб комерційна конкуренція випередила відповідальність.