В Атырау +15.6 
Казахстану необходимо развивать национальную экспертизу в сфере искусственного интеллекта параллельно с участием в формировании международных правил безопасности ИИ.
Такое мнение высказал руководитель отдела азиатских исследований КИСИ Айдар Курмашев, комментируя инициативу Президента Касым-Жомарта Токаева изучить американское Соглашение о суперинтеллекте как возможную модель для более широкого международного применения.
По словам эксперта, распространение передовых ИИ-систем ставит перед государствами уже не только технологический, но и практический вопрос: кто должен оценивать риски, контролировать разработчиков и отвечать за последствия возможных сбоев.
Американская модель предполагает четыре уровня контроля: внутренний мониторинг самих систем, отдельную внутреннюю проверку этих механизмов, независимый внешний аудит и надзор со стороны специального комитета совета директоров. При этом соглашение остается добровольным и не предусматривает юридических санкций.
Курмашев считает, что одной из ключевых проблем остается неравенство в доступе к информации. Разработчики знают, как обучались модели, какие испытания они проходили и какие ограничения были выявлены, тогда как у государственных органов такого объема технических данных обычно нет.
Для Казахстана эта проблема становится все более актуальной по мере внедрения ИИ в государственное управление и экономику.
По мнению эксперта, при выборе ИИ-систем заказчик должен понимать как минимум три вещи: какие испытания прошел продукт, где находятся пределы его надежности и кто должен реагировать в случае сбоя.
Единые или сопоставимые международные требования могут облегчить сравнение поставщиков и сделать закупки более прозрачными. Для казахстанских разработчиков такие правила, в свою очередь, могут стать ориентиром при выходе на зарубежные рынки.
При этом международного аудита, по мнению Курмашева, недостаточно. Даже проверенная система должна оцениваться с учетом условий ее использования непосредственно в Казахстане — языка, характера данных, сферы применения и возможных последствий ошибки.
Эксперт считает, что чем активнее ИИ будет использоваться при принятии решений, затрагивающих права граждан, тем выше будет значение собственной национальной экспертизы.
Поэтому Казахстану, по его мнению, нужны специалисты, способные не только применять уже существующие стандарты, но и участвовать в обсуждении того, какими должны быть сами международные правила безопасности искусственного интеллекта.