Народ, якому постійно брешуть його лідери, втратить здатність відрізняти правду від брехні.
— Енн Гендершотт
Казку про «Хлопчика, який кричав “Вовки!”» зазвичай розповідають як повчальну історію про брехню: вона попереджає, що якщо ми брехатимемо, ніхто не повірить нам, коли ми казатимемо правду. Але справжній урок цієї історії — про те, що буває, коли попередження втрачають свою силу.
Після низки хибних тривог від хлопчика-пастуха про вигаданого вовка, селяни перестали до нього дослухатися. Їх привчили вважати, що кожна небезпека — несправжня. Коли ж з’явився справжній вовк і дійсно почав їсти овець, трагедія полягала не лише в тому, що пастух забагато брехав; вона полягала в тому, що селяни взагалі більше нікому не довіряли.
Сьогодні ми живемо саме в тому селі, поки ШІ-фаталісти (ШІ-думери) пророкують крах цивілізації. Джейкоб Коксон, колишній дослідник компанії Anthropic — одного з лідерів у галузі штучного інтелекту, — застеріг у , що «передові системи можуть убити нас усіх до кінця десятиліття». Він попередив: раптова поява «надлюдських систем, здатних зламати будь-що, за одну ніч зробити революцію в будь-якій сфері та отримати реальну владу й ресурси», становить екзистенційну загрозу, яку сучасні запобіжники більше не в змозі стримати.
Значна частина медіа підсилила ці страхи, заявляючи: «Ці апокаліптичні попередження зовсім не абстрактні, адже спираються на слабкі місця, які даються взнаки прямо зараз. Зокрема, у медичних ІТ-мережах, де ведення конфіденційних записів пацієнтів стрімко адаптується під інструменти ШІ». Але нас попереджали вже надто багато разів. Ми засвоїли, що, схоже, у кожного хлопчика-пастуха є свій прихований мотив.
Ми відкидаємо застереження щодо ШІ не тому, що маємо його за щось безпечне. Багато з нас не дослухаються до ШІ-думерів, оскільки останні кілька десятків років нас постійно переконували, що катастрофа невідворотна. Нам так часто обіцяли появу вовка, що тепер навіть щирі сигнали тривоги здаються брехнею.
Мені це знайомо особисто. Я живу в будинку, зведеному на узбережжі океану понад століття тому. За словами колишнього віцепрезидента Ела Гора, такі будинки вже давно мали б піти під воду і відійти морю. Звісно, я йому не повірила. Проте мої страхові платежі на випадок повені — які злетіли куди вище за ті припливи —, недвозначно натякають: хтось десь усе ще вірить, що вовк близько. Та минули десятиліття, а я й досі тут: спостерігаю за припливами та відпливами і продовжую чекати на біблійні потопи, які мали б дістатися мого порогу вже давним-давно.
Саме з цим скептицизмом стикаються ШІ-думери — і цьому сприяють медіа, що наживаються на перебільшеннях, та дедалі більша кількість політиків (як-от сенатор-соціаліст від Вермонту Берні Сандерс), які навчилися використовувати апокаліптичну риторику у власних цілях. Можливо, вони й мають рацію щодо небезпеки, але звертаються до суспільства, яке втратило здатність оцінювати правдивість їхніх попереджень. Після лукавих заяв під час пандемії, після постійного перенесення дат кліматичних катастроф та обіцянок про руйнівні припливи, які нині майже зійшли нанівець, після застережень щодо крипти й після кожної технологічної революції, що обіцяла нам крах або спасіння, ми цим людям більше не довіряємо.
Також читайте: Чому Пітер Тіль так переймається Антихристом?
Президент Трамп категорично відкинув апокаліптичні застереження, назвавши їх звичайним шахрайством. Когось це, можливо, і втішає, але тільки не більшість із нас. Трамп заявив, що у США вже існують необхідні механізми контролю, щоб регулювати роботу ШІ-компаній та притягати їх до відповідальності, вочевидь знецінюючи побоювання Ілона Маска та інших лідерів індустрії стосовно небезпеки від зловживань штучним інтелектом. Ми й справді більше не розуміємо, у що вірити напевно.
В одному з останніх випусків The New Yorker опубліковано велике філософське есе, присвячене Ганні Арендт — одній із найвидатніших мислительок ХХ століття, яка досліджувала витоки тоталітаризму. У тексті акцентується на найважливішому спостереженні Арендт стосовно загрози від повсюдної брехні державних діячів. Вона застерігала, що коли влада вдається до обману, головна небезпека криється не в тому, що люди повірять у брехню, а в тому, що вони можуть остаточно втратити здатність довіряти будь-чому. Коли офіційна риторика уряду без упину змінює вектор, а представники еліт перекроюють власні наративи, раз по раз перекреслюючи свої ж публічні заяви, суспільство опиняється в розгубленості й не може розпізнати, де правда, а де фальш. Тоді люди стають легкою здобиччю для того авторитету, чий голос у дану мить лунає найпереконливіше.
За політичними пророками катастроф, найімовірніше, стоїть політичний мотив. Ліві мають очевидний стимул посилювати панічні наративи напередодні проміжних виборів, оскільки масовий песимізм знижує явку, особливо серед виборців із правими поглядами та політично виснажених громадян. Це та сама динаміка, що й із селянами, які перестали реагувати на крики хлопчика. Якщо ви зможете переконати людей, що вовк постійно чатує на порозі, вам не доведеться вказувати їм, як голосувати — достатньо просто змусити їх залишитися вдома.
Автор: Енн Гендершотт є професором соціології та директором Центру етики в суспільному житті «Верітас» Францисканського університету Стубенвілла (штат Огайо). Вона є авторкою праці «Політика заздрості» (Crisis Publications, 2020).
Джерело: CRISIS magazine
Також читайте: «ШІ цього ніколи не замінить». Розмова з ректором ЛПБА о. Михайлом Сиваком (+відео)
Про Вульгату, Содом та штучний інтелект: розмова з отцем-доктором Рафаїлом Турконяком (+ аудіо)
Повязані записи
