Депутаты Мажилиса рассмотрят законопроект об искусственном интеллекте в первом чтении

В среду депутаты Мажилиса Казахстана в первом чтении обсудят законопроект, касающийся искусственного интеллекта, и связанные с ним поправки. Зачем стране нужен закон об ИИ, как он будет функционировать и стоит ли опасаться развития нейросетей? Об этом в интервью рассказала депутат Мажилиса Екатерина Смышляева, руководитель рабочей группы по законопроекту.

- Екатерина Васильевна, почему возникла необходимость в отдельном законе для регулирования ИИ в Казахстане? Может ли страна стать мировым центром ИИ?

- Мы должны соответствовать быстро меняющимся реалиям. Сегодня технологии ИИ активно входят в нашу жизнь, а правового поля для их регулирования еще нет. Казахстан не отстает в этом вопросе – это глобальная ситуация. Приняв закон, мы станем второй юрисдикцией в мире после Евросоюза, где ИИ регулируется отдельным законодательным актом. Необходимость создания такой правовой базы признана на самом высоком уровне. Президент Казахстана на заседании Национального курултая в Бурабае подчеркнул важность создания условий для развития ИИ в стране.

Екатерина Смышляева. Фото: пресс-служба Мажилиса

Чтобы Казахстан стал хабом для ИИ, важно учитывать природу цифрового развития. Дата-центрам нужен холодный климат, доступная электроэнергия и связь. В Казахстане климат благоприятен для таких объектов, что снижает затраты на охлаждение серверов. Географическое положение страны удобно для создания международных хранилищ данных. Проблемы остаются с ценами на электроэнергию и разбалансированностью системы в часы пик, но в этом направлении уже принимаются меры.

Для разработчиков, создающих ИИ-решения, важны экономические условия, налоговые льготы и правила экспорта. Для этого расширяется цифровой технопарк AstanaHub. Для начинающих важным элементом станет Национальная платформа ИИ, которая позволит создавать и тестировать ИИ-продукты в защищенной среде, обеспечивая доступ к вычислительным мощностям и данным для обучения.

Наше общество можно назвать цифровыми оптимистами, что способствует внутреннему спросу. Президент уделяет особое внимание внедрению ИИ в госуправление и экономику, что является частью государственной политики.

- Как закон будет бороться с фейками и дипфейками, созданными ИИ?

- Законопроект об ИИ защищает граждан от фейков и дипфейков на трех уровнях: прозрачность и обязательная маркировка синтетического контента, запрет на создание систем, манипулирующих пользователями, и ответственность операторов ИИ за распространение недостоверного контента. Также обсуждаются предложения по криминализации использования дипфейков.

Мы понимаем, что мошенники будут нарушать законы, а цифровая среда сложна для администрирования. Поэтому важно критически относиться к сетевому контенту и проверять информацию.

- Какие страны вы изучали при разработке законопроекта?

- Изучались подходы ЕС, США, Китая, Сингапура, Канады и Японии. В ЕС принят закон об ИИ, оттуда заимствован принцип классификации систем ИИ по уровню риска. Опыт США полезен в поддержке инноваций, Китай активно внедряет ИИ в госуправление, Сингапур успешно использует маркировку контента, созданного ИИ, а Япония достигла успехов в подготовке кадров в области ИИ.

Мы продолжаем следить за международными тенденциями регулирования ИИ и международными актами в этой сфере.

- Предусматривается ли введение авторских прав на контент, созданный ИИ?

- Это сложный вопрос для законодателей. В ряде стран идут судебные разбирательства по защите произведений, созданных ИИ. Мы придерживаемся варианта, когда правом на продукты, созданные ИИ, обладает владелец системы, и это должно быть учтено в пользовательском соглашении.

Изображение сгенерировано с помощью нейросети Midjourney

- Как система образования будет реагировать на появление ИИ, учитывая, что дети перестали писать рефераты, студенты – дипломные работы?

- Министерство просвещения разрабатывает Этический кодекс использования ИИ в образовании совместно с международными экспертами. В перспективе вопросы регулирования будут отражены в отраслевом законе об образовании. Запреты на использование ИИ в образовании работают слабо, поэтому необходимо перестроить подходы к образованию, чтобы дети умели критически оценивать данные и формулировать задачи.

Использование ИИ вызывает "эйфорию" у детей и взрослых. Чтобы это не разрушило систему образования, необходимо изменить требования к компетенциям детей.

- А вы сами пользуетесь нейросетями?

- Пользуюсь, но пока это просто любопытство. Современные системы неплохо справляются с кратким пересказом больших текстов, что позволяет быстро получать обзорные материалы и делать первичный анализ. В быту мы все пользователи ИИ, начиная с мобильных приложений заказа такси и заканчивая смарт-городами.

- Как закон повлияет на государственные системы, использующие ИИ?

- Регулирование биометрической информации и подходы к системе анализа данных будут распространяться на государственные и частные системы. Закон закрепляет право человека оспорить автоматизированные решения, ограничения на использование поведенческого скоринга и другие методы анализа данных. Использование биометрических данных в госсистемах будет требовать согласия пользователей.

- Будет ли закон регулировать использование ИИ в медицине?

- В медицине будут работать общие правила и законодательство в части ИИ. Системы ИИ, используемые в медицине, будут отнесены к системам высокого риска, подлежащим регулированию как критически важные объекты информационно-коммуникационной инфраструктуры.

Изображение сгенерировано с помощью нейросети Midjourney

- Когда ИИ допустит ошибку, кто понесет ответственность?

- Искусственный интеллект не является субъектом права и не может нести юридическую ответственность. Если владельцем системы является государственный орган, то он несет ответственность за последствия. Разработчик может нести ответственность, если сохраняет контроль над системой или участвует в ее эксплуатации.

ИИ подчиняется общим принципам ответственности за сложные технические системы, как лифты или автомобили.

- Как вы относитесь к идее, что через 10-15 лет половина вашего рабочего места может быть заменена ИИ?

- Часть рабочего места заменить нельзя, но можно автоматизировать некоторые функции. Это освободит время для интеллектуальных, творческих процессов. ИИ не заменит меня на встречах с избирателями, общественниками, экспертами, поскольку ему не хватает эмоционального интеллекта и способности понимать контекст на уровне межличностного взаимодействия.

Для полноценного участия ИИ в законотворчестве предстоит большая работа. Минюст и Минцифры тестируют и обучают модели на базе данных нормативно-правовых актов. Однако для полноценного смыслового участия ИИ должен работать с машиночитаемыми НПА.

Изображение сгенерировано с помощью нейросети Midjourney

- Сможет ли ИИ в будущем искоренить коррупцию?

- ИИ может существенно снизить уровень коррупции, обеспечивая прозрачность государственных процедур за счет автоматизации процессов. Алгоритмы могут проверять тендерные заявки, анализировать финансовые транзакции и выявлять аномалии. ИИ способен анализировать большие массивы данных, выявлять подозрительные связи и предсказывать риски коррупции.

Однако ИИ сам по себе не является решением. Для эффективной борьбы с коррупцией необходимо, чтобы алгоритмы были прозрачными, защищенными от манипуляций и использовались на основе четких правовых норм.

- Какие неожиданные профессии могут появиться в Казахстане с развитием ИИ?

- Появятся уполномоченные по этике ИИ, аудиторы, проверяющие алгоритмы на предмет дискриминации, дизайнеры цифровых личностей, специалисты по обучению моделей ИИ, цифровые юристы, психологи и психотерапевты. ИИ будет интегрироваться в старые профессии, освобождая время для творчества.

Все будущие врачи, педагоги, бухгалтеры и менеджеры должны будут знать и уметь использовать ИИ в своей работе.

Законопроект по вопросам искусственного интеллекта еще не принят в Казахстане. Документ планируют рассмотреть в Мажилисе. Если его одобрят в первом чтении, законопроект начнут готовить ко второму чтению с учетом всех предложений и замечаний. Если закон примут во втором чтении, он поступит на рассмотрение в Сенат, а затем на подпись Президенту.

*Дипфейк (deepfake) - это видео, фото или аудиозапись, созданные с помощью ИИ, чтобы выглядеть как настоящие, но на самом деле подделаны. Создатели дипфейков заменяют лицо или голос человека на лицо или голос другого так, что кажется, будто это реальность. Могут быть использованы как для развлечения, так и для обмана.

**Поведенческий скоринг - способ оценки человека на основе его поведения. Чаще всего используется в банках, онлайн-сервисах и страховых компаниях. Это система, которая наблюдает за действиями человека и выставляет балл, насколько ему можно доверять.