OpenAI заборонив кластер облікових записів ChatGPT, пов’язаних з іранською операцією впливу, яка створювала контент, пов’язаний з президентськими виборами в США, згідно з повідомленням у блозі в п’ятницю. Компанія стверджує, що бізнес генерував статті та пости в соціальних мережах, створені штучним інтелектом, хоча, здається, вони не охопили великої кількості людей.
Це не перший раз, коли OpenAI забороняє облікові записи, пов’язані з державними установами, які зловмисно використовують ChatGPT. У травні компанія закрила п’ять кампаній, які використовували ChatGPT для маніпулювання громадською думкою.
Ці епізоди нагадують, як державні актори використовують соціальні медіа-платформи, такі як Facebook і Twitter, щоб намагатися вплинути на попередні виборчі цикли. Тепер подібні групи (або, можливо, ті самі) використовують генетичний штучний інтелект, щоб наводнити соціальні канали дезінформацією. Подібно до компаній соціальних мереж, OpenAI, схоже, використовує підхід «вдарити крота», забороняючи облікові записи, пов’язані з цими зусиллями, щойно вони з’являються.
OpenAI каже, що розслідування цього кластера облікових записів скористалося звітом Microsoft Threat Intelligence, опублікованим минулого тижня, який ідентифікував групу (яку вона називає Storm-2035) як частину ширшої кампанії впливу на вибори в США, що діє з 2020 року.
У Microsoft заявили, що Storm-2035 — це іранська мережа з кількома веб-сайтами, які видають себе за інформаційні агентства та «активно залучають групи виборців США на протилежних кінцях політичного спектру з поляризуючими повідомленнями щодо таких питань, як кандидати в президенти США, права ЛГБТК та конфлікт Ізраїлю та ХАМАС». ” Посібник, як було доведено в інших бізнесах, не обов’язково спрямований на просування тієї чи іншої політики, а на розсіювання розбрату та конфлікту.
OpenAI визначив п’ять веб-сайтів для Storm-2035, на яких представлені як прогресивні, так і консервативні новинні видання з переконливими доменними іменами, такими як «evenpolitics.com». Група використовувала ChatGPT, щоб написати кілька довгих статей, у тому числі одну, у якій стверджувалося, що «X цензурує твіти Трампа», чого точно не робила платформа Ілона Маска (якщо взагалі, Маск заохочує колишнього президента Дональда Трампа більше мати справу з X).
У соціальних мережах OpenAI виявив дванадцять облікових записів X і один обліковий запис Instagram, які контролюються цією функцією. Компанія каже, що ChatGPT використовувався для переписування різних політичних коментарів, які потім публікувалися на цих платформах. В одному з цих твітів хибно та заплутано стверджувалося, що Камала Гарріс пояснює «збільшення витрат на імміграцію» зміною клімату, а потім «#DumpKamala».
OpenAI стверджує, що не бачить доказів того, що статті Storm-2035 широко поширювалися, і зазначає, що більшість публікацій у соціальних мережах майже не отримали лайків, поширень чи коментарів. Це часто буває з цими функціями, які швидко та дешево розробити за допомогою інструментів ШІ, таких як ChatGPT. Очікуйте побачити ще багато подібних оголошень із наближенням виборів і загостренням міжпартійних суперечок в Інтернеті.
&w=120&resize=120,86&ssl=1)
