Чи справді штучний інтелект “супер”?
Термін “суперінтелект” передбачає, що людський та машинний інтелект знаходяться на одній когнітивній шкалі.
Штучний інтелект може мати зовсім іншу архітектуру, де висока продуктивність не дорівнює мудрості чи авторитету.
Називаючи ШІ “супер”, ми можемо змінити наше ставлення до нього, спонукаючи до підкорення та інтелектуальної відмови.
Президент Дональд Трамп своїм указом змінив термінологію, що використовується урядом США, з “Штучного інтелекту” (Artificial Intelligence) на “Суперінтелект” (Superintelligence). На перший погляд, це може здатися простою зміною термінів. Однак, я вважаю, що слово “супер” несе в собі припущення, яке може мати набагато серйозніші наслідки, ніж просто зміна назви.
Кілька місяців тому я написав статтю під назвою “Ми вимірюємо ШІ неправильною лінійкою”. Моя аргументація була досить простою. Коли ми припускаємо, що ШІ розумніший за людей, ми вже робимо висновок, що людське пізнання та машинний інтелект можна вимірювати за однаковою шкалою. У цьому контексті ми починаємо уявляти інтелект як щось, що існує на єдиному континуумі, подібно до вимірювання на числовій осі.
Існує щось історично знайоме у слові “супер”, і це хороший початок. У ранні дні розробки ядерної зброї водневу бомбу називали “Супер”. Ця зброя вважалася набагато потужнішою за атомну бомбу. І термін мав сенс, оскільки вибухова потужність вимірювалася за тією ж шкалою. Більше енергії означало потужнішу бомбу. Але я не впевнений, що інтелект працює таким чином. Називаючи ШІ “суперінтелектуальним”, ми використовуємо подібне слово, але навряд чи вимірюємо щось настільки об’єктивне, як кілотони тротилу.
Отже, ця нова мова суперінтелекту може вивести це припущення на новий рівень. “Супер” встановлює ієрархію, де ШІ піднімається вздовж тієї ж “лінії”, що вимірює людський інтелект. У цій структурі він може зайняти позицію вище за нас. Але я не впевнений (і це мене непокоїть), чи правильний це спосіб розуміти те, що насправді відбувається. Поєднання штучних обчислень з людським пізнанням є, щонайменше, спрощенням обох.
Я писав про “Антиінтелект” як термін для обговорення можливості того, що ШІ являє собою фундаментально іншу когнітивну архітектуру, яка може змусити нас переглянути перспективу “єдиної лінії”. І, не вдаючись у складності квадрантів та ортогональності, головне: ШІ може генерувати вражаючі ідеї, не маючи життєвого досвіду людського мислення.
Я вважаю, що ця відмінність стає ще важливішою, коли ШІ стає потужнішим. Але продуктивність та мудрість — це дуже різні речі. Бути дуже вправним у вирішенні проблем не дає ШІ автоматично нової влади. Насправді, вкрай важливо визнати, що обчислювальна потужність не надає моральної влади, навіть коли ШІ ставиться вище за людські можливості.
Ось де сама мова стає цікавою. Якщо ми почнемо описувати ШІ як суперінтелектуальний, ми можемо почати змінювати наші стосунки з ним. Якщо ШІ позиціонується “над нами” інтелектуально, підкорення йому може просто послідувати. Навіщо самому мучитися над проблемою? Навіщо ставити під сумнів відповіді ШІ, коли він “лінгвістично підтверджений” як наш когнітивний вищий? Маркування “супер” може навіть перетворити “супер” можливості на своєрідний інтелектуальний статус, подібний до нової Ліги Плюща чи кращої Нобелівської премії. І не забувайте, інтелектуальний статус часто межує з владою (або знаходить до неї шлях).
Для мене головне питання не в тому, чи є “Суперінтелект” кращою назвою для ШІ. Понад це, нам потрібно запитати, що станеться з нашим людським пізнанням, коли ми почнемо структурувати наші стосунки з “машиною”, яка випередила нас на цій когнітивній числовій осі.
Отже, можливо, ми все ще використовуємо неправильну лінійку. І якщо ми помістимо ШІ на вершину цієї лінійки і назвемо його суперінтелектуальним, нам слід бути дуже обережними щодо наших припущень про все, що знаходиться нижче — особливо про нас самих.
Learn more at : www.psychologytoday.com