Китай будет бороться с чат-ботами искусственного интеллекта, связанными с самоубийствами и азартными играми

ПЕКИН — Китай планирует запретить чат-ботам на базе искусственного интеллекта влиять на человеческие эмоции способами, которые могут привести к самоубийству или членовредительству, согласно сообщению проект правил выпущен в субботу.

предлагаемые правила Администрация киберпространства нацелена на то, что она называет «человекоподобными интерактивными услугами искусственного интеллекта», согласно переводу CNBC документа на китайский язык.

После окончательной доработки меры будут применяться к продуктам или услугам искусственного интеллекта, предлагаемым населению в Китае, которые имитируют человеческую личность и эмоционально привлекают пользователей посредством текста, изображений, аудио или видео. Период общественного обсуждения заканчивается 25 января.

Запланированные Пекином правила станут первой в мире попыткой регулировать ИИ с человеческими или антропоморфными характеристиками, сказал Уинстон Ма, адъюнкт-профессор юридического факультета Нью-Йоркского университета. Последние предложения появились в связи с тем, что китайские компании быстро разработали ИИ-компаньонов и цифровых знаменитостей.

По сравнению с регулированием генеративного искусственного интеллекта в Китае в 2023 году, Ма сказал, что эта версия «подчеркивает скачок от безопасности контента к эмоциональной безопасности».

В проекте правил предлагается следующее:

• Чат-боты с искусственным интеллектом не могут создавать контент, поощряющий самоубийство или членовредительство, а также участвовать в словесном насилии или эмоциональных манипуляциях, наносящих вред психическому здоровью пользователей.
• Если пользователь специально предлагает совершить самоубийство, поставщики технологий должны поручить разговор человеку и немедленно связаться с опекуном пользователя или назначенным лицом.
• Чат-боты с искусственным интеллектом не должны создавать контент, связанный с азартными играми, непристойный или жестокий контент.
• Несовершеннолетние должны иметь согласие опекуна на использование ИИ для эмоционального общения с ограничениями по времени использования.
• Платформы должны иметь возможность определять, является ли пользователь несовершеннолетним, даже если пользователь не раскрывает свой возраст, и в случае сомнений применять настройки для несовершеннолетних, допуская при этом апелляцию.

Дополнительные положения потребуют от поставщиков технологий напоминать пользователям после двух часов непрерывного взаимодействия с искусственным интеллектом и требовать проведения оценок безопасности для чат-ботов с более чем 1 миллионом зарегистрированных пользователей или более 100 000 активных пользователей в месяц.

Документ также поощряет использование человекоподобного ИИ в «культурном распространении и общении с пожилыми людьми».

Minimax наиболее известен во всем мире благодаря своему приложению Talkie AI, которое позволяет пользователям общаться с виртуальными персонажами. Приложение и его китайская версия Xingye принесли более трети выручки компании за первые три квартала года, в среднем более 20 миллионов активных пользователей в месяц в течение этого времени.

Z.ai, также известный как Zhipu, подан под именем «Атлас знаний Технологии«Хотя компания не раскрыла информацию о ежемесячных активных пользователях, она отметила, что ее технология «наделил полномочиями» около 80 миллионов устройства, включая смартфоны, персональные компьютеры и интеллектуальные транспортные средства.

Ни одна из компаний не ответила на запрос CNBC о комментариях относительно того, как предложенные правила могут повлиять на их планы IPO.