Піонер штучного інтелекту Джеффрі Хінтон каже, що стає все важче і важче відрізнити створені технологією відео, голоси та зображення від реальних речей, але у нього є ідея, яка допоможе в боротьбі.
Посилення боротьби сприяло зміні того, як британсько-канадський комп’ютерний вчений і нещодавній лауреат Нобелівської премії вважає, що світ може мати справу з фейковим контентом.
«Якийсь час я думав, що ми зможемо називати речі створеними штучним інтелектом», — сказав Хінтон у понеділок на перших лекціях Hinton.
«Я вважаю, що зараз більш правдоподібно, що ми можемо визнати реальність речей, отримавши на них код і перейшовши на кілька веб-сайтів і побачивши на них те саме».
Хінтон виступив на першій із дводенних лекцій Гінтона в Інституті глобального ризику, які відбулися цього тижня в театрі Джона В. Х. Бассета в Торонто.
Хінтон, якого часто називають хрещеним батьком штучного інтелекту, ненадовго вийшов на сцену, щоб нагадати аудиторії про небезпеку, яку несе технологія, про яку попереджали громадськість. Він вважає, що штучний інтелект може спричинити випадкові катастрофи, безробіття, кіберзлочинність, дискримінацію, а також біологічні та екзистенціальні загрози.
Він сказав, що підхід до позначення підтвердить, що вміст не є фейковим, і він вважає, що це може бути особливо корисним, коли мова йде про політичну відеорекламу.
«У них може бути щось на зразок QR-коду [taking you] на сайті, і якщо на цьому сайті є ідентичне відео, все, що вам потрібно зробити, це знати, що цей сайт справжній», – пояснив Хінтон.
Згідно з квітневим опитуванням 2501 канадця, яке провела Dais, організація громадської політики в Торонто Метрополітен університеті, більшість канадців помітили дипфейки в Інтернеті, і майже чверть стикаються з ними щотижня.
Deepfakes — це цифрові оброблені зображення або відео, які зображують сцени, яких не було. Недавні дипфейки зобразили Папу Франциска в піджаку Balenciaga та поп-зірку Тейлор Свіфт у сексуальних позах.
На прес-конференції після заходу Хінтон розповів більше про те, що він робив зі своєю половиною 1,45 мільйона доларів, які він і дослідник Прінстонського університету Джон Хопфілд отримали, коли вони отримали Нобелівську премію з фізики на початку місяця.
Хінтон сказав, що він пожертвував свою половину нагороди Water First, організації з Крімора, штат Онтаріо, яка навчає корінні громади тому, як розвивати та надавати доступ до систем безпечної води.
Спочатку він розглядав можливість віддати частину грошей організації з водопостачання, з якою працює актор Метт Деймон в Африці, але потім сказав, що його партнер запитав його: «А як щодо Канади?»
Цьогорічним лауреатом Нобелівської премії з фізики став британський канадець Джеффрі Хінтон, якого називають «хрещеним батьком штучного інтелекту». Він розмовляє з головним політичним кореспондентом CBC Розмарі Бартон про те, як уряди мають регулювати технології та їх використання у виборчих кампаніях.
Це спонукало Хінтона до відкриття Water First. Він сказав, що був змушений пожертвувати на це через визнання землі, які він чує на початку багатьох подій.
«Я думаю, що це чудово, що вони це визнають [who lived on the land first]але це не захищає дітей корінного населення від діареї», – сказав він.
Раніше Хінтон заявляв, що частина його прибутку також піде організації, яка надає роботу молодим людям з неврологічними вадами.
«Тривожний песиміст»
Більшу частину вечора навіть у понеділок Джейкоб Стейнхардт, доцент кафедри електротехніки, комп’ютерних наук і статистики Каліфорнійського університету в Берклі, присвятив виступу.
Стейнхардт сказав аудиторії, що, на його думку, ШІ розвиватиметься навіть швидше, ніж багато хто очікує, але на цьому шляху будуть сюрпризи.
За його уявленнями, до 2030 року штучний інтелект стане «надлюдським», коли мова йде про математику, програмування та хакерство.
Він також вважає, що великі мовні моделі, які лежать в основі систем штучного інтелекту, можуть стати здатними до переконання або маніпуляції.
«Є значний простір, якщо спробувати тренуватися [them] для переконання, можливо, або шахрайська корпорація, або уряд, який піклувався про те, щоб переконати своїх громадян», — сказав Штайнхардт. «Є багато речей, які ви можете зробити».
Він сказав аудиторії, що вважає себе «тривожним оптимістом», який вірить, що існує 10% ймовірність того, що технологія призведе до вимирання людства, і 50% ймовірність того, що вона призведе до величезної економічної цінності та «радикального процвітання».
Відповідаючи на наступному прес-конференції питання щодо ярлика Стейнхардта «тривожний оптиміст», Хінтон назвав себе «тривожним песимістом».
«Є дослідження, яке показує, що якщо ви попросите людей оцінити ризики, нормальні, здорові люди недооцінюють ризики дуже поганих речей… і люди, які правильно розуміють ризики, є легко депресивними», — сказав Хінтон.
«Я вважаю себе одним із них і вважаю, що ризики дещо вищі, ніж у Джейкоба [Steinhardt] вірить — скажімо, близько 20 відсотків».
