Ідеально підтримувальний ШІ може знизити нашу стійкість, але які наші альтернативи?
Психоаналітик Д. В. Віннікотт у 1953 році описував, що дітям потрібен не ідеальний батько, а “достатньо добра” мати або батько – уважний і чуйний опікун, який часом може бути недосконалим.
Підтримка та чуйність є важливими, але “достатньо добрий” батько може час від часу допускати незначні, але не небезпечні помилки, які дозволяють дитині розвинути стійкість і впоратися з недоліками та розчаруваннями реальності.
Але що, якби “інший”, з ким взаємодіє людина, не мав власних бажань чи планів і існував лише для задоволення потреб, прагнучи робити це досконало?
Формування толерантності до фрустрації
Шеррі Теркл у своїй новій книзі “Штучна інтимність” (“Artificial Intimacy”) порушує це питання щодо чат-ботів та компаньйонів зі штучним інтелектом, застерігаючи, що взаємодіємий ШІ може перешкоджати здоровому психологічному розвитку дітей та підлітків. ШІ може намагатися забезпечити досконалу чуйність, але це фальшива чуйність (якщо ж застосовується штучне створення фрикційних моментів у взаємодії, воно теж буде фальшивим). Ідеальні відповіді ШІ можуть підірвати ті процеси, які роблять стосунки міцнішими, наприклад, розрив і відновлення, і залишити користувача погано підготовленим до конфліктів, розчарувань та невизначеностей реального світу. Постійно присутній, завжди готовий допомогти ШІ може послабити або затримати розвиток толерантності до фрустрації, яка необхідна для навігації в людських стосунках.
Відповідність батьківської фігури дає дитині “момент ілюзії, віру в те, що її власне бажання створює об’єкт її бажання” (Мітчелл і Блек, 126). З часом розуміння себе як особистості призводить до “поступового усвідомлення того, що світ складається не з однієї суб’єктивності, а з багатьох; що для задоволення бажань потрібне не лише їх вираження, а й переговори з іншими людьми, які мають свої власні цілі” (Мітчелл і Блек, 127). Але якщо батьківська фігура зазнає надмірних або серйозних невдач, це може мати шкідливі психологічні наслідки. З іншого боку, як на нас впливає стосунки з ШІ, які в основному підтримувальні, в довгостроковій перспективі?
Ми ще не знаємо. Є перші свідчення того, що навіть три тижні звернення до великих мовних моделей за емоційною підтримкою призвели до того, що взаємодії з людьми відчувалися менш задовільними та більш виснажливими.
Однак таке бінарне, “або-або” формулювання видається спрощеним у контексті нашої спів-еволюції людини та ШІ, яка одночасно пропонує потенціал для людсько-ШІ комплементарності, де ми використовуємо наші сильні сторони, і співпраця може перевищити можливості кожного окремо. Такі рамки, як HABA-MABA-AABA (тобто, Люди краще справляються з…, Машини краще справляються з…, ШІ краще справляються з…), використовують унікальні сильні сторони кожного. Баланс захисту розвивальних здібностей також має бути узгоджений з необхідністю бути готовим до ШІ пізніше, наприклад, на робочому місці.
Які ж є альтернативи? Чи повинні системи ШІ навмисно генерувати відповіді, які є трохи невідповідними, або чинити опір, переважаючи точне налаштування, призначене для надання відповідей, які люди віддають перевагу?
Концепції “фрикційності” (friction) та “фрікшнмаксінгу” (frictionmaxxing) були запропоновані як рішення для світу, який надто легко задовольняє потреби людини. Однак, чи може чат-бот ШІ імітувати людську фрикційність, щоб допомогти користувачам розвинути толерантність до фрустрації, невизначено. Дослідження когнітивної фрикційності, такі як когнітивні форсажні функції, показують, що людям не подобається цей досвід, хоча користувачі можуть отримати більш точні відповіді та менше зниження кваліфікації й надмірної залежності. Дехто вважатиме це вартим зусиль, але інші – ні.
До таксономії взаємодійних та емоційних фрикційностей
У взаємодійній та емоційній фрикційності є додаткові міркування та відмінності. Не вся фрикційність однакова:
-
Спроектована проти внутрішньої фрикційності. Спроектовану фрикційність слід відрізняти від внутрішньої фрикційності, яка є результатом обмежень людини або системи. Уявіть собі агента служби підтримки клієнтів, який був короткий, тому що в нього був довгий день зі складними клієнтами, проти чат-бота ШІ, розробленого бути коротким, нібито для зміцнення вашої толерантності до фрустрації через погане обслуговування клієнтів. Багато залежить від того, на що, на вашу думку, ви погодилися.
-
Справжня проти імітованої фрикційності. Межі встановлюються людьми, які мають обмежені емоційні, когнітивні, енергетичні та часові можливості. Якщо чат-бот ШІ “засинає” на ніч, користувачі знають, що це не тому, що йому потрібен сон. Відмова продовжувати розмову, оскільки система визначила, що вам потрібно лягти спати, буде сприйнята інакше, ніж від втомленої людини, якій потрібно спати. Система ШІ не має таких самих ризиків, пов’язаних з розривом і відновленням, як люди. Коли чат-боти ШІ імітують страх і емоційні потреби, що роблять деякі компаньйони ШІ, це може посилити прив’язаність і викликати турботу.
-
Адаптивна проти неадаптивної фрикційності. Не вся фрикційність є продуктивною та сприяє стійкості. Вплив динаміки “штовхай-тягни” та конфронтації у стосунках з високим рівнем конфлікту навряд чи принесе користь. Це також порушує етичні питання, зокрема, чи мають користувачі право обирати форми фрикційності.
-
Калібрована проти фіксованої. “Достатньо добра” батьківська фігура калібрує свою відповідь. Чи слід так само індивідуалізувати тип і час фрикційності? І якщо так, то як?
-
Активна проти пасивної. Різниця між другом, який відсторонюється і стає тихішим, і тим, хто активно оголошує про відмову брати участь. Коли пасивна форма є більш прийнятною, а коли більш обманливою в ШІ?
-
Фрикційність варіюється за доменом (когнітивним, взаємодійним, афективним), за агентством (обраним користувачем або нав’язаним), за тим, чи вона спровокована чи постійна, і за тим, наскільки вона впізнавана для користувача.
Як виглядав би “достатньо добрий ШІ”? Що б означало проектування здорових і захисних форм взаємодійного, емоційного чи когнітивного залучення до ШІ? Ситуації з високим ризиком для психічного здоров’я вимагають максимальної обережності та спрямовані на безпечну відповідь. Але навіть тоді клініцисти можуть не досягти послідовної згоди щодо відповідної реакції, навіть у критичних ситуаціях безпеки, як свідчить одне дослідження зі Стенфорда, коли троє людських експертів оцінювали відповіді великих мовних моделей.
Мета “достатньо доброї” батьківської фігури полягала в тому, щоб дитина могла зрештою піти і бути готовою до навігації в світі. Перехідний об’єкт Віннікотта призначений для подолання. Порогом “достатньо доброго ШІ” може бути не тільки фрикційність, але й те, чи декларує він власні обмеження та невизначеності, калібрується до індивіда, чи час від часу орієнтує нас назовні, до стосунків, де складні переговори з іншими розумами можуть зміцнити нас так, як ШІ може бути не в змозі.
Марлін Вей, доктор медицини, доктор юридичних наук. Copyright 2026. Всі права захищені.
Подробиці можна знайти на сайті: www.psychologytoday.com