Fable, популярна програма для соціальних мереж, яка називає себе притулком для «бібліофілів і спостерігачів», створила функцію огляду наприкінці року на основі штучного інтелекту, яка підсумовує, які книги користувачі читали у 2024 році. Вона мала бути ігровою та розважальною. але деякі підсумки набули дивно бойового відтінку. Письменник Денні Гроувс, наприклад, запитав, чи «завжди в настрої для прямої, білої перспективи» після того, як він назвав його «прихильником різноманітності».
Резюме Тіани Траммелл, яка впливає на книги, тим часом закінчується такою порадою: «Не забувайте час від часу шукати білого письменника, гаразд?»
Траммелл була вражена і невдовзі зрозуміла, що вона не одна, поділившись своїм досвідом із Fable recaps на Threads. «Я отримала багато повідомлень, — каже вона, від людей, у чиїх резюме були недоречні коментарі щодо «інвалідності та сексуальної орієнтації».
З моменту дебюту Spotify Wrapped функції річного огляду стали повсюдними в Інтернеті, надаючи користувачам підсумок того, скільки книг і статей новин вони прочитали, пісень, які вони прослухали, і тренувань, які вони виконали. Деякі компанії зараз використовують штучний інтелект для створення або повного розширення способу представлення цих показників. Spotify, наприклад, тепер пропонує створений штучним інтелектом подкаст, де боти аналізують вашу історію прослуховування та роблять припущення про ваше життя на основі ваших смаків. Компанія Legend підтримала цю тенденцію, використовуючи API OpenAI для створення підсумків читацьких звичок своїх користувачів за останні 12 місяців, але вона не очікувала, що модель штучного інтелекту створюватиме анотації, які набуватимуть значення експерта проти пробудження. . .
Пізніше Фейбл вибачився в кількох соціальних мережах, включаючи Threads і Instagram, де він опублікував відео, на якому керівник видає mea culpa. «Ми глибоко шкодуємо про біль, спричинений деякими нашими підсумками для читачів цього тижня», — написала компанія в підписі. «Ми зробимо краще».
Кімберлі Марш Аллі, голова спільноти Fable, повідомила WIRED перед публікацією, що компанія працює над низкою змін, щоб покращити підсумки штучного інтелекту, включаючи опцію відмови для людей, які їх не хочуть, і більш чітке розкриття інформації, яке вказує на те, що знову штучне інтелект. «Поки що ми видалили ту частину моделі, яка грайливо захоплює читача, і натомість модель просто підсумовує смаки користувачів у книгах», — сказав він.
Після публікації Марш Аллі сказав, що Fable прийняла рішення негайно видалити зведені підсумки читання 2024 року, створені ШІ, а також дві інші функції, які використовували ШІ.
Для деяких користувачів налаштування ШІ не здається достатньою відповіддю. Авторка фентезі та романів А. Р. Кауфер була приголомшена, коли побачила скріншоти деяких резюме в соціальних мережах. «Вони мають сказати, що повністю припиняють використання ШІ. І вони мають оприлюднити заяву не лише щодо штучного інтелекту, а й вибачитися перед постраждалими», — каже Кауфер. «Це «вибачення» в Threads розглядається як нещире, заявляючи, що програма «грайлива», ніби якимось чином виправдовує расистські/сексистські/задовільні цитати». У відповідь на інцидент Кауфер вирішив видалити обліковий запис Fable.
&w=120&resize=120,86&ssl=1)
