Замість звичних стриманих білих касок, він обрав більш сучасний вигляд — довгий модний білий пуховик, його традиційний пекторальний хрестик спочиває над стиснутою талією. Понтифік випромінював "крутість" та "стиль", за словами онлайн-коментаторів, і отримав широку подяку за свій незвичайний вибір стилю.Хоча багато хто вважав цю фотографію правдивою через її реалістичний вигляд та Папу, відомого своєю схильністю порушувати конвенції, вона була повністю фальшивою.Це ще один приклад зображення, створеного за допомогою доступного генератора зображень, який працює на штучному інтелекті. У цьому випадку програмою був Midjourney, а дипфейкове зображення було розміщене на Reddit, перш ніж швидко поширитися на Twitter."Ласкаво просимо в майбутнє! Ці речі прийшли, щоб залишитися," — написав електронного листа Матіас Ріссе, професор Гарвардського університету, який досліджував наслідки штучного інтелекту.Ріссе заявив, що він "насправді трохи здивований, чому саме ця фотографія стала такою популярною", оскільки технологія виробництва подібних зображень — і навіть фальшивих відео — використовується вже десятки років. Проте він зазначив, що це "яскраве і помітне нагадування про більші тенденції", оскільки такі вигадані візуальні матеріали призведуть до поширення неправдивої інформації.
BuzzFeed News провело інтерв'ю з творцем зображення 31-річним Пабло Ксавьєром, який заявив, що був під впливом грибів, коли йому прийшла в голову ця ідея.Ксав'єр, який живе в Чикаго та відмовився поділитися своїм прізвищем, заявив, що його шокувало, наскільки швидко зображення поширилося в Інтернеті, і що було "безумовно жахливо" бачити, що люди в це вірять. "Ви не завжди можете знати всі специфічні ознаки зображення, створеного штучним інтелектом", — сказала Алехандра Карабальо, клінічний інструктор в кіберправничій клініці Юридичної школи Гарварда. "Те, що відбувається, це зниження бар'єру доступу до можливості створювати фальшиві зображення, особливо з огляду на їх реалістичний вигляд".Їхнє виробництво в масштабах може "зменшити довіру людей — знову ж таки — до того, що вони бачать онлайн", — сказала вона.
Автентичність зображення може бути другорядною, сказала Карабальо. Більшість дезінформації в Інтернеті "легко спростовується", а найбільш шкідливі візуальні матеріали, створені штучним інтелектом, зазвичай випливають з теорій змови, сказала вона."У цьому випадку це може бути безпечним, якщо йдеться про те, що носить Папа Римський", — сказала вона. — "Те, що Папа Римський носить дивну куртку, не здається дивним у порівнянні з тим, що він зазвичай носить. Але я думаю, що тут нашою основною проблемою є — що, якщо це політик у якійсь компрометуючій ситуації?". Під час надзвичайних подій, таких як трагедії з багатьма жертвами, деякі люди можуть використовувати технології для поширення масштабної дезінформації, — сказала Карабалло. Це обов'язково призведе до хаосу.
"Генеративні технології штучного інтелекту революціонізують спосіб взаємодії людей з технологіями", — написала в електронному листі Даніела Рус, директор Лабораторії комп'ютерних наук та штучного інтелекту Массачусетського технологічного інституту (MIT). Вона зазначила, що широке використання змінених зображень "представляє серйозну загрозу цілісності громадської дискусії та може призвести до поширення дезінформації та брехні".Рус зазначила, що існування зображень, створених за допомогою штучного інтелекту, підкреслює потенціал використання цієї технології для зловживань і підкреслює важливість розробки захисних механізмів для використання штучного інтелекту відповідно до етичних та відповідальних принципів, а також потребу в надійних регулюваннях"."Зображення, створені за допомогою генеративного штучного інтелекту, можуть створювати додаткові ризики та проблеми, які виходять за межі традиційних зображень, такі як поширення неправдивої інформації, завдання шкоди репутації, маніпулювання громадською думкою та підрив довіри до інституцій", — зазначила вона.
Ріссе зазначив, що крім збереження ступеня скептицизму та пошуку незалежної підтримки, середньому користувачеві небагато що залишається зробити.Ріссе вважає, що найбільші ризики виникнення пов'язані з відео, які були піддані маніпулюванню за допомогою штучного інтелекту, а не фотографіями. Можливість створювати глибокофейкові відео незабаром буде легко доступною, з величезним потенціалом для творчості "і, звичайно ж, з багатьма причинами для стурбування". "Відео все ще функціонують як своєрідний епістемічний запобіжник — якщо воно зафіксовано на відео, то ми знаємо, що це сталося" — сказав він. "Якщо цього більше не буде, то люди можуть почати створювати свої власні реальності, і, принаймні, пройде деякий час, перш ніж все це буде відсортовано. І технологія ускладнює сортування речей взагалі". Хоча на сайтах з генераторами зображень, таких як Midjourney, наразі існує кілька захисних механізмів, з розповсюдженням технології та її доступністю буде менше перевірок, — сказала Карабалло. Вона також згадала про небезпеку відео, створених за допомогою штучного інтелекту, таких як deepfake-порнографія."Технологія розвивається швидше, ніж законодавство та політика можуть встигнути за нею", — сказала вона. "Я думаю, що нам дійсно потрібно зупинитись і ретельно обдумати наслідки".Читайте також: Папа Римський прокоментував виселення УПЦ МП з Києво-Печерської Лаври "Жіноче мислення відрізняється від чоловічого": Папа Римський зробив заяву з приводу 8 Березня Папа Римський закликав до мирних переговорів перед річницею нападу Росії на Україну