В Казахстане принят закон, регулирующий использование искусственного интеллекта, который ставит в приоритет права человека, прозрачность и национальные ценности. Новый документ ограничивает слив конфиденциальной информации в нейросети, запрещает анализ эмоций и вводит обязательную маркировку дипфейков.
Защита прав человека
Депутат Мажилиса Екатерина Смышляева отметила, что искусственный интеллект должен придавать первостепенное значение правам человека. Однако ИИ не будет признаваться субъектом права, и ответственность за все решения по-прежнему будут нести те, кто использует его.
"В законопроекте закреплены основные этические принципы использования искусственного интеллекта, среди которых - приоритет прав человека, безопасность труда и прозрачность", – сказала она.
Для борьбы с дипфейками закон обязывает маркировать синтетический контент в доступной для человека форме. При оказании услуг и продаже товаров с использованием ИИ потребители должны быть предупреждены об этом.
Слив служебной информации
Смышляева также подчеркнула, что одной из главных проблем является слив служебной и конфиденциальной информации в нейросети. В связи с этим использование открытых систем будет строго ограничено требованиями информационной безопасности. Депутат упомянула и о контроле беспилотных автомобилей, которые в будущем должны появиться на казахстанском рынке:
"Эксплуатация систем высокой автономности будет регулироваться только на уровне законов. Уже в ближайшее время, например, такое регулирование потребуется для беспилотного транспорта", – сказала Смышляева.
Запрет на анализ эмоций
Согласно новому закону, каждый человек будет иметь право знать, как работает ИИ, и отказаться от его использования.
"Запрещается система с такими функциями, как управление поведением людей, использование эмоций человека, проведение социальной оценки, сбор персональных данных без согласия", – перечислила Екатерина Смышляева.
ИИ с национальными ценностями
Депутат отметила необходимость уделять особое внимание ИИ-системам, работающим в закрытом контуре, то есть внутри страны, без доступа извне. Это связано с тем, что нейросети становятся популярными среди детей и могут не содержать национальные ценности.
"Сегодня они невероятно популярны у детей и молодёжи. Чаты становятся для них советниками, друзьями и даже единомышленниками. Но при этом такие модели обучены на глобальных, в том числе коммерческих и политизированных данных, где отсутствуют наши национальные ценности и мировоззренческие ориентиры. Это вопрос национальной безопасности нашей страны", – подчеркнула депутат.
Авторское право
Согласно новому закону, произведения, полностью созданные ИИ без участия человека, не будут защищены авторским правом. То есть если человек не вложил свою творческую работу, то и права на такой контент у него не возникает.
Тем не менее, творческие запросы пользователей, такие как оригинальная формулировка задания для ИИ (так называемые "промпты"), могут считаться охраняемыми.
"Использование произведений для обучения модели искусственного интеллекта допускается только в том случае, если автор или правообладатель не наложили запрет в машиночитаемой форме", – сказала депутат.
Напомним, что 18 сентября этого года в Казахстане было создано Министерство искусственного интеллекта и цифрового развития.