Генеральний директор Human каже

Керуючий директор антропіки Даріо Амодеї переживає за конкурента DeepSeek, китайської компанії AI, яка взяла Силіконову долину з шторму з моделлю R1. І його занепокоєння може бути більш серйозним, ніж типові, які вони викликали щодо DeepSeek, які надсилають дані користувачів назад до Китаю.

В інтерв’ю подкаста Джордана Шнайдера Chinatalk, Amodei заявив, що Deepseek створив рідкісну інформацію про біовіда в тесті безпеки Anthropic.

Виступ Deepseek був “найгіршим з будь -якої моделі, яку ми коли -небудь намагалися”, – заявив Амодеї. “У нього абсолютно не було квадрата проти створення цієї інформації”.

Амодеї заявив, що це частина оцінок, які проходять на різних моделях ШІ для оцінки потенційних ризиків національної безпеки. Його команда вивчає, чи можуть моделі створювати інформацію, пов’язану з біовистомами, які не легко знайти в Google або посібниках. Антропогенні позиціонують себе як основного постачальника моделі AI, який серйозно ставиться до безпеки.

Амодеей сказав, що не вважає, що моделі DeepSeek сьогодні “буквально небезпечні” у наданні рідкісної та небезпечної інформації, але що вони можуть бути найближчим часом. Хоча високо оцінив команду DeepSeek як “талановитих інженерів”, він повідомив компанію “сприймати ці слова безпеки серйозно”.

Amodei також підтримував потужний експортне контроль в Китаї в Китаї, повідомляючи про занепокоєння, що вони могли б отримати перевагу армії Китаю.

Amodei не уточнив в інтерв’ю Chinatalk, яке було перевірено моделлю DeepSeek, а також не дав більше технічних деталей щодо цих тестів. Чоловік не одразу відповів на запит про коментарі TechCrunch. Навіть DeepSeek.

Підйом Deepseek викликав занепокоєння щодо його безпеки та інших країн. Наприклад, дослідники безпеки Cisco минулого тижня повідомили, що DeepSeek R1 не зміг запобігти шкідливих підказках у тестах на безпеку, досягнувши 100% успішності джейлбрейка.

Cisco не згадував BioWeapons, але сказала, що вона змогла взяти DeepSeek, щоб створити шкідливу інформацію про кіберпростор та інші незаконні заходи. Однак варто зазначити, що Meta’s LLAMA-3,1-405B та OpenAI GPT-4O також мали високий рівень відмови 96% та 86%.

Залишається побачити, чи подібні проблеми стануть серйозною вм’яткою у швидкому прийнятті DeepSeek. Такі компанії, як AWS та Microsoft, публічно включають R1 у свої хмарні платформи – досить іронічні, оскільки Amazon є найбільшим інвестором Antropic.

З іншого боку, зростає перелік країн, компаній та особливо державних організацій, таких як ВМС США та Пентагон, які почали заборонити DeepSeek.

Час покаже, чи ці зусилля ловлять, чи продовжиться глобальний підйом DeepSeek. Так чи інакше, Амодеей каже, що вважає DeepSeek нового конкурента на рівні нас, що ведуть компанії AI.

“Новий факт тут полягає в тому, що є новий конкурент”, – сказав він Chinatalk. “До великих компаній, які можуть навчити AI – Anthicic, OpenAI, Google, можливо, Meta та Xai – тепер DeepSeek може бути доданий до цієї категорії”.