OpenAI каже, що виявив «операцію впливу Ірану» за підтримки ChatGPT

OpenAI заявив у п’ятницю, що виявив «операцію під впливом Ірану» за допомогою ChatGPT. За даними OpenAI, група, відома як Storm-1679, створювала статті та коментарі в соціальних мережах, щоб сформувати громадську думку навколо віце-президента Камали Харріс і колишнього президента Дональда Трампа. Окрім націлювання на кандидатів у президенти США 2024 року, OpenAI каже, що Storm-1679 також створив контент про вторгнення Ізраїлю в Газу та його присутність на Олімпійських іграх 2024 року, права латиноамериканських громад у США, політику Венесуели та незалежність Шотландії від Сполучених Штатів. Королівство

За словами компанії, більшість публікацій і статей, виявлених OpenAI, не привернули уваги реальних людей. Проте вона детально описала інцидент у своєму блозі, написавши, що знайшла дюжину облікових записів X (раніше Twitter), які видавали себе за консервативних і прогресивних і використовували такі хештеги, як «#DumpTrump» і «#DumpKamala». Storm-1679 також використовував принаймні один обліковий запис Instagram для поширення контенту, створеного штучним інтелектом, відповідно до OpenAI.

Раніше OpenAI описував «акторів державної загрози» за допомогою своїх інструментів, але це перший раз, коли він розкрив конкретну кампанію втручання у вибори за допомогою ChatGPT.

OpenAI заявив, що відреагував на відкриття, заборонивши «кластер» облікових записів, які створили вміст. Компанія також повідомила, що «поділилася інформацією про загрози з урядом, кампанією та зацікавленими сторонами галузі». Компанія не назвала конкретних імен зацікавлених, але поділилася скріншотами деяких публікацій. Ці знімки екрана мали кількість переглядів від 8 до 207 переглядів і майже жодного лайка.

Знімок екрана OpenAI із X публікаціями, створеними за допомогою ChatGPT для впливу на вибори. © OpenAI

OpenAI повідомила, що Storm-1679 також ділився статтями, створеними ChatGPT, на різних веб-сайтах, які «представляли себе як прогресивні та консервативні ЗМІ». Компанія додала: «Більшість публікацій у соціальних мережах, які ми виявили, отримали мало лайків, поділів чи коментарів або взагалі не отримали їх. Так само ми не знайшли доказів того, що веб-статті поширювалися в соціальних мережах».

У звіті від Microsoft від 6 серпня Storm-2035 описується подібним чином – як іранська мережа з «чотирма веб-сайтами, які маскуються під ЗМІ». За словами Microsoft, мережа випустила «поляризаційні» пости про вибори, права ЛГБТКІА+, а також про вторгнення Ізраїлю в Газу.

Повідомлення про іноземне втручання у вибори в США в Інтернеті стали майже звичним явищем. Наприклад, звіт Microsoft від 6 серпня також включав фішингову атаку, пов’язану з Іраном, яка була спрямована на неназваного «високопоставленого» представника американської кампанії. Незабаром після того, як Microsoft відкликала звіт, кампанія Трампа оголосила, що «іноземні джерела» викрали деякі її електронні листи та документи, намагаючись вплинути на президентські вибори 2024 року. Вісім років тому хакерська група, відома як Guccifer 2.0, зламала дані електронною поштою Національного комітету Демократичної партії через аналогічну фішингову атаку. нарешті тисячі електронних листів і документів DNC були оприлюднені перед Національним з’їздом Демократичної партії 2016 року.

Під тиском законодавців великі технологічні компанії протягом багатьох років вживали різноманітних заходів у відповідь на такі інциденти. Їхні зусилля включають перевірку фактів на меми, видавання бажаного за дійсне, короткочасну заборону на політичну рекламу, «військову кімнату» та партнерство з опонентами та поліцією.