OpenAI заявив у п’ятницю, що він розкрив докази того, що китайський бізнес з безпеки створив інструмент для моніторингу штучного інтелекту для збору звітів у реальному часі про антикитайські позиції в соціальних медіа в західних країнах.
Дослідники компанії заявили, що вони визначили цю нову кампанію, яку вони назвали оцінкою однолітків, оскільки хтось, хто працював у інструменті, використовувалося OpenAI Technologies для пошуку частини комп’ютерного коду, який його підтримує.
Бен Німмо, дослідник OpenAI, заявив, що це вперше компанія виявила інструмент спостереження, що працює від ШІ.
“Актори загрози іноді розглянули, що вони роблять в інших частинах Інтернету через те, як вони використовують моделі AI”, – сказав пан Німмо.
Зростає занепокоєння, що AI можна використовувати для спостереження, злом комп’ютера, дезінформаційних кампаній та інших зловмисних цілей. Хоча такі дослідники, як пан Німмо, кажуть, що технологія, безумовно, може дозволити таким видам діяльності, додайте, що ШІ також може допомогти виявити та зупинити таку поведінку.
Пан Німмо та його команда вважають, що китайський інструмент спостереження базується на Llama, технології AI, виробленої Meta, яка відкриває свою технологію, а це означає, що вона ділиться своєю роботою з розробниками програмного забезпечення у всьому світі.
У детальному звіті про використання ШІ для шкідливих та оманливих цілей OpenAi також заявив, що він розкрив окрему китайську кампанію, яка називається спонсорством, яка використовувала OpenAI Technologies для створення позицій англійської мови.
Ця ж команда, за словами OpenAi, використовувала технології компанії для перекладу статей на іспанську мову, перш ніж розповсюджувати їх до Латинської Америки. Статті критикували американське суспільство та політику.
Окремо дослідники OpenAI визначили кампанію, яка, як вважається, базується в Камбоджі, яка використовувала технології компанії для створення та перекладу коментарів соціальних медіа, які допомогли сприяти шахрайству, відомому як “свиня”, йдеться у повідомленні. Зауваження, створені AI, використовувались для того, щоб відчувати чоловіків в Інтернеті та залучати їх до інвестиційної програми.
(New York Times здійснив критику OpenAI та Microsoft щодо порушень авторських прав систем, пов’язаних з AI. OpenAI та Microsoft заперечували ці претензії.)
