Дослідники штучного інтелекту заявили в п’ятницю, що вони видалили понад 2000 веб-посилань на зображення ймовірних сексуальних насильств над дітьми з бази даних, яка використовувалася для навчання популярних інструментів обробки зображень ШІ.
Дослідницька база даних LAION — це величезний покажчик онлайн-зображень і підписів, який був джерелом для провідних виробників зображень штучного інтелекту, таких як Stable Diffusion і Midjourney.
Але минулорічний звіт Стенфордської інтернет-обсерваторії виявив, що він містив посилання на сексуальні зображення дітей, що сприяло легкості, з якою деякі інструменти штучного інтелекту змогли створювати фотореалістичні дипфейки із зображенням дітей.
Цей грудневий звіт спонукав LAION, що означає некомерційну відкриту мережу широкомасштабного штучного інтелекту, негайно видалити свій набір даних. Через вісім місяців LAION повідомила в дописі в блозі, що працювала з групою моніторингу Стенфордського університету та організаціями по боротьбі зі зловживаннями в Канаді та Великобританії, щоб вирішити проблему та випустити очищену базу даних для майбутніх досліджень ШІ.
Дослідник із Стенфордського університету Девід Тіл, автор грудневого звіту, похвалив LAION за значні покращення, але сказав, що наступним кроком є вилучення з розповсюдження «зіпсованих моделей», які все ще здатні створювати зображення жорстокого поводження з дітьми.
Один із інструментів на основі LAION, який Стенфорд визначив як «найпопулярнішу модель для створення чітких зображень» — старішу та дещо відфільтровану версію Stable Diffusion — залишався легкодоступним до четверга, коли компанія Runway ML зі штаб-квартирою в Нью-Йорку видалила його. зі сховища моделей AI Hugging Face. У заяві Runway у п’ятницю йдеться, що це було «заплановане видалення дослідницьких моделей і коду, які не підтримувалися активно».
Очищена версія бази даних LAION з’являється, коли уряди в усьому світі уважніше вивчають, як певні технологічні інструменти використовуються для створення чи розповсюдження незаконних зображень дітей.
Міський прокурор Сан-Франциско на початку цього місяця подав позов, вимагаючи закрити групу веб-сайтів, які дозволяють створювати штучного інтелекту оголених жінок і дівчат. Ймовірне розповсюдження зображень сексуального насильства над дітьми в додатку для обміну повідомленнями Telegram є частиною того, що змусило французьку владу в середу висунути звинувачення проти засновника та генерального директора платформи Павла Дурова.
