Каліфорнія хоче, щоб чат -боти AI нагадали користувачам, що вони не люди

Навіть якщо чати успішно пройдуть тест Тьюрінга, їм доведеться відмовитися від гри, якщо вони працюють у Каліфорнії. Новий законопроект, запропонований сенатором Каліфорнії Стівом Падільою, вимагатиме чатів, які взаємодіють з дітьми, пропонують випадкові нагадування про те, що це насправді машина, а не справжня людина.

Законопроект, SB 243, був введений як частина спроби регулювати гарантії, які потребують компанії, які працюють з чатами для захисту дітей. Серед вимог про те, що законопроект буде встановлений: він заборонить компаніям “винагороджувати” користувачів збільшувати зобов’язання або користуватися, вимагати від компаній звітувати перед державним міністерством охорони здоров’я, як часто неповнолітні виявляють ознаки суїцидальних ідей, і вони періодично надають нагадування про те, що Чатботи-створені AI, а не люди.

Останній твір особливо сміливий для поточного моменту, оскільки діти виявились досить вразливими до цих систем. Минулого року 14 -річний трагічно зайняв своє життя після розвитку емоційних стосунків з чатом, який став доступним за характером. Батьки дитини ставилися до характеру.

Дослідники Кембриджського університету виявили, що діти частіше, ніж дорослі, вважають чат -боти AI як достовірними, навіть вважаючи їх квазі -гуманом. Це може поставити дітей до значного ризику, коли чати реагують на їх закликання без будь -якого захисту. Наприклад, дослідники змогли отримати побудований Snapchat -в AI, щоб надати інструкції гіпотетичному 13 -річному користувачеві про те, як брехати батькам, щоб зустріти 30 -річну та втратити дівоцтво.

Дітям можливі переваги, щоб сміливо ділитися своїми почуттями з ботом, якщо вони дозволять їм висловитись у місці, де вони почуваються в безпеці. Але ризик ізоляції справжній. Невеликі нагадування про те, що на іншому кінці вашої розмови немає людини, може бути корисним і заважати циклу наркоманії, що технологічні платформи настільки досвідчені у захопленні дітей через повторювані успіхи дофаміну – це хороша відправна точка. Невдача цих типів втручань, оскільки соціальні медіа почали брати участь, є частиною того, як ми потрапили сюди в першу чергу.

Але цей захист не вирішить радикальні проблеми, які призводять до того, що діти в першу чергу шукають підтримки чатів. Існує серйозний дефіцит ресурсів для полегшення стосунків із реальним життям для дітей. Класи є надмірними та суб’єктивними, оскільки після шкільних програм занепадають, “третє місця” продовжують зникати, і не вистачає дитячих психологів, які допоможуть дітям обробляти все, що вони стикаються. Добре нагадувати дітям, що чат -боти насправді не є, але краще було б поставити їх у ситуації, коли вони не відчувають, що їм доведеться в першу чергу розмовляти з ботами.

Навіть якщо чати успішно пройдуть тест Тьюрінга, їм доведеться відмовитися від гри, якщо вони працюють у Каліфорнії. Новий законопроект, запропонований сенатором Каліфорнії Стівом Падільою, вимагатиме чатів, які взаємодіють з дітьми, пропонують випадкові нагадування про те, що це насправді машина, а не справжня людина.

Законопроект, SB 243, був введений як частина спроби регулювати гарантії, які потребують компанії, які працюють з чатами для захисту дітей. Серед вимог про те, що законопроект буде встановлений: він заборонить компаніям “винагороджувати” користувачів збільшувати зобов’язання або користуватися, вимагати від компаній звітувати перед державним міністерством охорони здоров’я, як часто неповнолітні виявляють ознаки суїцидальних ідей, і вони періодично надають нагадування про те, що Чатботи-створені AI, а не люди.

Останній твір особливо сміливий для поточного моменту, оскільки діти виявились досить вразливими до цих систем. Минулого року 14 -річний трагічно зайняв своє життя після розвитку емоційних стосунків з чатом, який став доступним за характером. Батьки дитини ставилися до характеру.

Дослідники Кембриджського університету виявили, що діти частіше, ніж дорослі, вважають чат -боти AI як достовірними, навіть вважаючи їх квазі -гуманом. Це може поставити дітей до значного ризику, коли чати реагують на їх закликання без будь -якого захисту. Наприклад, дослідники змогли отримати побудований Snapchat -в AI, щоб надати інструкції гіпотетичному 13 -річному користувачеві про те, як брехати батькам, щоб зустріти 30 -річну та втратити дівоцтво.

Дітям можливі переваги, щоб сміливо ділитися своїми почуттями з ботом, якщо вони дозволять їм висловитись у місці, де вони почуваються в безпеці. Але ризик ізоляції справжній. Невеликі нагадування про те, що на іншому кінці вашої розмови немає людини, може бути корисним і заважати циклу наркоманії, що технологічні платформи настільки досвідчені у захопленні дітей через повторювані успіхи дофаміну – це хороша відправна точка. Невдача цих типів втручань, оскільки соціальні медіа почали брати участь, є частиною того, як ми потрапили сюди в першу чергу.

Але цей захист не вирішить радикальні проблеми, які призводять до того, що діти в першу чергу шукають підтримки чатів. Існує серйозний дефіцит ресурсів для полегшення стосунків із реальним життям для дітей. Класи є надмірними та суб’єктивними, оскільки після шкільних програм занепадають, “третє місця” продовжують зникати, і не вистачає дитячих психологів, які допоможуть дітям обробляти все, що вони стикаються. Добре нагадувати дітям, що чат -боти насправді не є, але краще було б поставити їх у ситуації, коли вони не відчувають, що їм доведеться в першу чергу розмовляти з ботами.