Генеральний директор Anthropic стає повним техно-оптимістом у 15 000 слів про ШІ

Генеральний директор Anthropic Даріо Амодей хоче, щоб ви знали, що він не «руйнівник» ШІ.

Принаймні, це моє прочитання “мікрофонного падіння” есе ~15 000 слів, опублікованого в його блозі ввечері в п’ятницю. (Я спробував запитати чат-бота Клода з Anthropic, чи він погоджується, але, на жаль, публікація перевищила ліміт часу безкоштовного плану.)

Загалом, Амодей малює картину світу, у якому всі ризики штучного інтелекту зменшені, а технологія пропонує досі нереалізоване процвітання, соціальне піднесення та достаток. Він стверджує, що це не для того, щоб мінімізувати недоліки штучного інтелекту — спочатку Amodei орієнтується (не називаючи назв) на компанії штучного інтелекту, які перепродають і загалом рекламують можливості своєї технології. Але можна стверджувати — і цей автор так і робить, — що есе надто схиляється в техноутопічному напрямку, висуваючи твердження, які просто не підтверджуються фактами.

Амодей вважає, що «потужний штучний інтелект» не з’явиться раніше 2026 року. (Я потужний AIвін має на увазі штучний інтелект, який «розумніший за нобелівського лауреата» в таких галузях, як біологія та інженерія, і який може виконувати такі завдання, як доведення нерозв’язних математичних теорем і написання «надзвичайно хороших романів».) Цей штучний інтелект, каже Амодей, буде здатний керувати будь-яким програмним або апаратним забезпеченням, яке тільки можна собі уявити, включно з промисловим обладнанням, і, по суті, виконувати більшість робіт, які виконують люди сьогодні — але краще.

“[This AI] може брати участь у будь-яких діях, комунікаціях або дистанційних операціях … включаючи виконання дій в Інтернеті, отримання або надання інструкцій людям, замовлення матеріалів, керівництво експериментами, перегляд відео, створення відео тощо», – пише Amodei. «Він не має фізичного вбудовування (окрім живого на екрані комп’ютера), але він може керувати існуючими фізичними інструментами, роботами чи лабораторним обладнанням через комп’ютер. Теоретично він міг навіть розробити роботів або обладнання для використання».

Багато чого має статися, щоб дійти до цього моменту.

Навіть найкращий сьогодні штучний інтелект не може «мислити» так, як ми це розуміємо. Моделі не стільки говорять, скільки повторюють шаблони, які вони спостерігали в даних своїх тренувань.

Припускаючи для цілей аргументації Амодея, що індустрія ШІ робить скоро «Розгадуючи» людську думку, чи буде робототехніки достатньо, щоб майбутній ШІ міг проводити лабораторні експерименти, створювати власні інструменти тощо? Крихкість сучасних роботів вказує на те, що це далеко.

Тим не менш, Амодей налаштований оптимістично — дуже оптимістично.

Він вважає, що штучний інтелект може в найближчі 7-12 років допомогти вилікувати майже всі інфекційні захворювання, викорінити більшість видів раку, вилікувати генетичні захворювання та зупинити хворобу Альцгеймера на ранніх стадіях. У найближчі 5-10 років Амодей вважає, що такі стани, як посттравматичний стресовий розлад, депресія, шизофренія та залежність, будуть лікуватися препаратами, виготовленими на основі штучного інтелекту, або генетично запобігти контролю над ембріонами (суперечлива думка) — і що ліки, розроблені штучним інтелектом, існуватимуть що «узгодити когнітивну функцію та емоційний стан», щоб «взяти [our brains] поводьтеся трохи краще і отримуйте більш повноцінний щоденний досвід».

Якщо це станеться, Амодей очікує, що середня тривалість життя людини подвоїться до 150 років.

«Мій основний прогноз полягає в тому, що біологія та медицина з підтримкою штучного інтелекту дозволять нам стиснути прогрес, якого люди-біологи досягли б протягом наступних 50-100 років, до 5-10 років», – пише він. «Я буду називати це «стиснутим 21-м століттям»: ідея про те, що після розвитку потужного штучного інтелекту за кілька років ми досягнемо всього прогресу в біології та медицині, якого б досягли за все 21-е століття. “

Це також здається натяжним, враховуючи, що штучний інтелект ще фундаментально не змінив медицину — і, можливо, не змінить ще деякий час, якщо взагалі коли-небудь. Навіть якщо штучний інтелект зменшить роботу та витрати на доклінічні випробування препарату, він може зазнати невдачі на пізнішому етапі, як і ліки, розроблені людиною. Вважайте, що штучний інтелект, який сьогодні використовується в охороні здоров’я, виявився упередженим і небезпечним у багатьох відношеннях, або з іншого боку неймовірно складним для впровадження в існуючих клінічних і лабораторних умовах. Щоб припустити, що всі ці та інші проблеми будуть вирішені протягом десятиліття чи близько того, ну… амбітнийодним словом.

Але Амодей на цьому не зупиняється.

Він стверджує, що штучний інтелект може вирішити проблему голоду у світі. Це може змінити кліматичні зміни. І це може змінити економіку більшості країн, що розвиваються. Амодей вважає, що штучний інтелект може збільшити ВВП на душу населення в Африці на південь від Сахари (1701 долар до 2022 року) до ВВП Китаю на душу населення (12 720 доларів у 2022 році) за 5-10 років.

Це, м’яко кажучи, сміливі заяви — хоча, ймовірно, знайомі кожному, хто слухав послідовників руху «Сингулярність», які очікують подібних результатів. До честі Амодея, він визнає, що вони потребуватимуть «великих зусиль у сфері глобальної охорони здоров’я, благодійності, [and] політична адвокація», яка, на його думку, відбудеться, тому що це в найкращих економічних інтересах світу.

Проте я зазначу, що історично це було не так в одному важливому аспекті. Багато працівників, відповідальних за маркування наборів даних, які використовуються для навчання штучного інтелекту, отримують зарплату значно нижчу від мінімальної, а їхні роботодавці отримують десятки мільйонів або сотні мільйонів капіталу від результатів.

Амодей коротко торкається ризиків штучного інтелекту для громадянського суспільства, пропонуючи, щоб коаліція демократій убезпечила ланцюжок поставок штучного інтелекту та блокувала ворогів, які мають намір використовувати штучний інтелект у шкідливих цілях від засобів виробництва потужного штучного інтелекту (напівпровідників тощо). Одночасно він припускає, що штучний інтелект – у правильних руках – може бути використаний для «підриву репресивних урядів» і навіть зменшення упередженості в правовій системі. (Історично штучний інтелект посилював упередження в правовій системі.)

«Справді зріле та успішне впровадження штучного інтелекту має потенціал обмежувати упередженості та бути справедливішим до всіх», – пише Амодей.

Отже, якщо штучний інтелект візьме на себе кожну можливу роботу та виконає її краще та швидше, чи не залишить це людей у ​​фінансовій біді? Амодей визнає, що так, це було б — і що в цей момент суспільство має обговорити те, «як має бути організована економіка».

Але це не пропонує рішення.

«Люди хочуть відчути досягнення, навіть відчуття конкуренції, і в світі після штучного інтелекту буде цілком можливо витратити роки на виконання дуже складного завдання за допомогою складної стратегії, подібної до того, що люди роблять сьогодні, коли починають дослідницькі програми. , спробуйте стати голлівудськими акторами або знайдіть компанії», – пише він. «Факти про те, що (а) десь штучний інтелект міг би виконувати цю роботу краще, і (б) ця робота більше не є фінансово вигідним елементом глобальної економіки, не здається мені великим значенням».

Амодей висуває ідею, дійшовши висновку, що штучний інтелект є лише технологічним прискорювачем, що люди природно тяжіють до «верховенства права, демократії та цінностей Просвітництва». Але при цьому він ігнорує великі витрати на штучний інтелект. Передбачається, що штучний інтелект матиме — і вже мав — величезний вплив на навколишнє середовище. І це створює нерівність. Лауреат Нобелівської премії з економіки Джозеф Стігліц та інші зауважили, що збої в роботі, спричинені штучним інтелектом, можуть ще більше сконцентрувати багатство в руках корпорацій і зробити працівників ще більш безправними, ніж будь-коли.

Серед цих компаній є Anthropic, хоч Amodei не хоче це визнавати. (Він згадує Anthropic лише шість разів у всьому есе.) Anthropic – це, зрештою, бізнес, який, як повідомляється, коштує близько 40 мільярдів доларів. І ті, хто отримує користь від його технології ШІ, загалом, це компанії, чия єдина відповідальність полягає в тому, щоб збільшити прибутки акціонерів, а не краще людство.

Насправді це есе здається цинічно витриманим, враховуючи, що Anthropic нібито перебуває в процесі залучення мільярдів доларів венчурного капіталу. Генеральний директор OpenAI Сем Альтман опублікував подібний маніфест технічної оцінки незадовго до завершення раунду фінансування OpenAI у розмірі 6,5 мільярдів доларів. Можливо, це збіг обставин!

Знову ж таки, Амодей не є філантропом. Йому, як і кожному генеральному директору, є який продукт презентувати. Таке просто буває з продукт «врятує світ» — і ті, хто вірить інакше, ризикують залишитися позаду (принаймні, ви б так повірили).