Нехай нас перестануть обманювати: Штучний інтелект не мислить, не відчуває і нічого не знає
Президент Трамп нещодавно заявив, що штучний інтелект (ШІ) слід називати “суперінтелектом”. Однак сучасні чат-боти далекі від будь-якої форми вищого розуму. Поклоніння ШІ відображає фундаментальне нерозуміння того, як вони працюють.
Хибні медіа, вони нам не потрібні, чи не так?
Це фейк, ось що це для тебе, чуєш?
Не, не, не, не,
Не вір цій мішурі.
—Public Enemy, Don’t Believe the Hype
Компанії, що займаються штучним інтелектом, та їхні керівники стверджують, що “свідомість” чат-ботів не за горами, а “сингулярність ШІ” — момент, коли інтелект ШІ перевершить людський — вже настала. Наближаючись до кінця 2026 року, цей нестримний ажіотаж навколо ШІ, здається, не вщухає.
Цього тижня президент Трамп пішов ще далі, заявивши, що “слова “Штучний інтелект” є неточними та дуже незграбними стосовно ШІ, або Штучного інтелекту. Набагато елегантнішим і точнішим описом цього нового явища був би “Суперінтелект” (СІ) або “Екстремальний інтелект” (ЕІ), або “Найвищий інтелект” (НІ)”. Він навіть провів опитування, запитуючи, яке з цих назв є “найкращим”, і “суперінтелект” переміг. Через кілька днів, виступаючи в Організації Об’єднаних Націй, Трамп знову назвав ШІ “суперінтелектом”, заявивши, що новий термін буде використовуватися у всіх документах США.
Президент мав рацію лише в одному. “Штучний інтелект” — це справді неточний термін для опису ШІ-чат-ботів. Але лише тому, що ШІ-чат-боти взагалі не є інтелектуальними, не кажучи вже про те, щоб бути супер-, найвищими чи надзвичайно розумними.
Хибність ШІ
ШІ-чат-боти чудово справляються зі своїм завданням — імітувати плавність людського мовлення так, щоб користувачі відчували, ніби спілкуються з іншою людиною, і не могли відрізнити вивід ШІ від людського за умов сліпого тестування.
Проте чат-боти, що базуються на великих мовних моделях (LLM), часто зазнають невдач у найпростіших завданнях, таких як базові математичні обчислення або підрахунок літер у слові. Іноді вони дають жахливі поради, які буквально збивають людей зі шляху і завдають шкоди. Наприклад, нещодавно туристи, які покладалися на ШІ для навігації та порад щодо спорядження, опинилися в пастці на горі Шаста без достатньої кількості їжі та води, і їх довелося рятувати рейнджерам.
Щодо широко розрекламованих досягнень чат-ботів, таких як їхня здатність писати код або розв’язувати складні математичні задачі, то це значною мірою перебільшення. Ще в квітні дослідник ШІ, який вигадав термін “vibe coding”, назвав код, згенерований ШІ, “громіздким”, “крихким”, “незграбним” і “мерзенним”, підсумувавши, що він все ще потребує людського нагляду. Інші називали код, згенерований ШІ, “шматочками роботи”, що “руйнують продуктивність”, при цьому 95% організацій не отримують вимірюваної віддачі від своїх інвестицій у ШІ. На початку цього року повідомлялося, що на кожен долар, витрачений на ШІ, компаніям потрібно додатково витратити 0,44 долара на виправлення помилок, 0,27 долара на переписування коду та 0,11 долара на затримки перегляду.
Чи схоже таке “шмаття роботи” на продукт вищого чи найвищого інтелекту?
Минулого місяця OpenAI заявила, що її новий ШІ розв’язав задачу тисячоліття з Нав’є-Стокса — давню математичну головоломку щодо рівняння, яке моделює динаміку рідин — всього за 88 годин. Але незабаром після цього професор математики з Нью-Йоркського університету Трістан Бакмастер стверджував, що розв’язання було скопійоване з його власної роботи над проблемою, яку він збирався опублікувати. Хоча його заява залишається неперевіреною, а OpenAI її заперечила, компанія визнала роботу Бакмастера і запропонувала розділити заслуги.
Міжнародна дослідницька група нещодавно опублікувала препринт статті, в якій аналізувалася здатність існуючих LLM робити наукові відкриття в різних галузях. Автори виявили, що LLM є “недостатніми замінниками наукового відкриття, яке спирається на ітеративне мислення, генерацію гіпотез та інтерпретацію доказів”. Вони дійшли висновку, що на даний момент ШІ далекий від “справжнього наукового суперінтелекту”.
Припинімо антропоморфізувати та обожнювати ШІ
Будемо відверті, цілком можливо, що технології ШІ одного дня досягнуть рівня, коли вони стануть надійними генераторами коду, математичних доведень, наукових відкриттів, промислових інновацій та мистецтва. Але поки що сучасні ШІ-чат-боти не роблять нічого подібного як незалежні агенти. Натомість, те, що вони генерують, походить — дехто скаже, вкрадене або плагіатизоване — з того, що вже існує. І тому, коли керівники компаній, що займаються ШІ, та політики роблять необґрунтовані заяви про інтелект чат-ботів, щоб отримати прибуток і виграти глобальну “гонкою ШІ”, вони винні в тому, що я називаю “обожнюванням” — тому самому обожнюванні, яке наражає людей на ризик психозу, спричиненого ШІ, та інших супутніх проблем з психічним здоров’ям.
Громадськість слід інформувати про те, чому багато експертів відкинули чат-ботів як “механізми передбачення наступного слова”, “автозаповнення на стероїдах”, “стохастичних папуг” і “машини для плагіату”. Для цього нам потрібне краще висвітлення в медіа реалій та обмежень технології, а не підживлення ажіотажу, як це сталося, коли Пірс Морган нещодавно провів інтерв’ю з “актрисою ШІ Тіллі Норвуд” (яка наживо мала збій і почала говорити кантонською), ніби вона була реальною людиною.
Роками ми знаємо про ефект ELIZA — тенденцію людей антропоморфізувати чат-ботів, навіть коли зрозуміло, що це просто машини. Незважаючи на це знання, ми, здається, не можемо уникнути рефлекторного використання антропоморфної мови для опису ШІ-чат-ботів на кожному кроці. Ми повинні протистояти спокусі використовувати дієслова, що описують людей, коли ми звертаємося до ШІ-чат-ботів. Чат-боти не “думають”, не “міркують” і не “відчувають”. Вони не “хочуть” і не “намагаються”. Вони нічого не “знають”. І коли ми ставимо їм запитання, вони не шукають інформацію в реальному часі (якщо вони не підключені до пошукової системи), щоб надати нам відповіді, і вони не навчені точності (оскільки вони передбачають наступну правдоподібну текстову відповідь, а не знаходять або розпізнають факти).
Коли ми говоримо, що чат-боти думають і знають — навіть якщо ми використовуємо слова метафорично — ми займаємося самообманом, який ризикує передати владу машинам і компаніям, що їх контролюють. А коли ми піддаємося твердженням, що ШІ є “суперінтелектом” або що “сингулярність ШІ” настала, ми безкоштовно рекламуємо ці компанії, коли вони намагаються продати світу ще не виправдану обіцянку нової технології.
ШІ-чат-боти не розумніші за нас, але ми можемо бути розумнішими. Ми не повинні піддаватися самообману. Ми можемо краще зрозуміти, що роблять чат-боти і як вони працюють. І коли йдеться про ШІ, ми можемо нагадати собі не завжди вірити ажіотажу.
Original article : www.psychologytoday.com