Искусственный интеллект в Казахстане: кто и когда установит правила игры

Искусственный интеллект (ИИ) всё активнее входит в повседневную жизнь казахстанцев. ИИ-технология уже применяется в образовании, здравоохранении, транспорте, энергетике, производстве и других отраслях, повышая эффективность процессов и сокращая издержки.

Однако вместе с возможностями возникают и риски. Это и неравенство в доступе к технологиям, и сокращение привычных рабочих мест, и угроза цифровому суверенитету стран, и рост зависимости от глобальных IT-гигантов. Всё чаще звучат вопросы о правовом регулировании ИИ, защите персональных данных, прозрачности алгоритмов и соблюдении авторских прав.

Мировое сообщество постепенно формирует подходы к регулированию этой сферы, в частности в ЕС уже принят первый закон об ИИ – AI Act. Он устанавливает принципы этики, прозрачности и безопасности. В Казахстане создан Совет по развитию ИИ и готовится закон, который должен заложить надёжный фундамент для развития технологий в стране.

Кто и как будет регулировать ИИ, получит ли мир специальную категорию авторских прав, связанную с ИИ, и как с этим обстоят дела в Казахстане, выясняла корреспондент Informburo.kz.

Искусственный интеллект – в приоритете госполитики Казахстана

Президент Казахстана Касым-Жомарт Токаев на Евразийском экономическом форуме заявил, что современные вызовы требуют новых подходов к экономическому развитию, в которых ключевую роль играют цифровые технологии. Он подчеркнул, что цифровизация и искусственный интеллект входят в число приоритетов государственной политики Казахстана, а такие инструменты, как электронная коммерция, цифровой документооборот и автоматизированные системы управления и логистики, уже стали важными элементами экономик стран ЕАЭС. Эти технологии способствовали снижению издержек, ускорению товарооборота и упрощению доступа бизнеса к общему рынку.

Токаев считает, что у ЕАЭС есть исторический шанс занять достойное место в этом мировом процессе: возглавить цифровую трансформацию либо, по крайней мере, не допустить отставания. Однако ни одна из стран ЕАЭС не приняла пока закон, регулирующий ИИ.

В мае мажилис одобрил в первом чтении проект закона "Об искусственном интеллекте". Депутат мажилиса Екатерина Смышляева пояснила, что законопроект направлен на обеспечение безопасности граждан при использовании технологий искусственного интеллекта, в том числе на защиту прав и свобод пользователей и их персональных данных.

Она отметила важность гарантии прозрачности и безопасности всех процессов, связанных с применением новой технологии. Кроме того, такой закон должен создать понятные и прозрачные правила игры для разработчиков и инвесторов. Проект будущего закона содержит базовые этические принципы применения ИИ и должен сформировать подходы к защите авторских прав.

Депутат добавила, что документ определяет права и обязанности всех участников отрасли: владельцы ИИ-систем смогут устанавливать условия использования, защищать свои права и управлять рисками, пользователи – получать защиту персональных данных, информацию о работе систем и возможность оспаривать автоматизированные решения. Особое внимание в проекте, по её словам, уделено вопросам безопасности: системы ИИ классифицированы по степени риска от минимального до высокого. Депутаты мажилиса планируют рассмотреть проект закона об ИИ во втором чтении в сентябре 2025 года. 

Казахстану нужно учиться на чужих ошибках 

Даже самые развитые страны пока ещё нащупывают правильные решения, утверждает учёный, PhD в компьютерных технологиях (Computer Science) Нурсултан Маханов.

"AI Act стал первой попыткой комплексного регулирования, но даже европейцы признают, что конкретные вопросы авторского права на ИИ-контент остались за рамками. А когда смотришь на массовые иски издательств против OpenAI и Microsoft, понимаешь, что мы находимся в самом начале формирования новой правовой реальности. Это одновременно и вызов, и возможность для нас", – говорит Маханов.

Он считает, что Казахстану не надо торопиться с решениями в регулировании ИИ, но и затягивать не стоит. Прежде всего можно начать с понимания масштаба задачи.

"В первую очередь я бы создал межведомственную группу, где не только юристы и чиновники, а реальные эксперты – программисты, представители бизнеса, даже философы. Пусть сначала разберутся, что у нас уже есть и что происходит. Параллельно стоит начать образовательную работу. Многие решения принимают люди, которые просто не понимают, как работает ИИ. Это нормально, потому что технология новая, но принимать законы в такой ситуации опасно", – пояснил учёный.

Он добавил, что придерживается эволюционного подхода в изменении законодательства. При этом, по его словам, Казахстану важно не повторять своих же ошибок: сначала долго ничего не делать, потом в панике начать принимать неработающие законы.

"Сначала базовые принципы и определения, потом пилотные проекты в госсекторе, изучение результатов и только после этого детальное регулирование. Думаю, нам повезло, что мы не первые. Можем учиться на чужих ошибках, но при этом не копировать слепо, ведь у нас в Казахстане есть своя специфика", – отметил Маханов.

ИИ уже используется, напомнил спикер. И чем дольше в Казахстане будут делать вид, что можно ещё подождать, тем сложнее будет потом навёрстывать упущенное. "И международная практика формируется на наших глазах, ошибки других очевидны. Если подойти к вопросу системно и без спешки, у Казахстана есть все шансы создать современную и эффективную правовую среду для ИИ", – добавил он.

В целом специалист по компьютерным технологиям не считает, что Казахстан готов к вызовам, которые влечёт за собой использование технологий искусственного интеллекта.

"В республике есть хорошая цифровая база, толковые ИТ-специалисты, государство активно цифровизируется. Но специфические вопросы ИИ – это совсем другой уровень сложности, с которым пока не разобрались", – говорит Маханов.

Он привёл в пример ситуацию с биткоином: криптовалюта была создана в 2009 году, тогда многие начали майнить монеты, электричество в Казахстане было дешёвым. Однако контроль за цифровыми альткоинами и принятие соответствующих законов начались лишь почти через 10 лет.

"С ИИ ситуация такая же. Мы давно используем ИИ в разных сферах, но именно широкое применение увидели с генеративными ИИ, такими как СhatGPT, Claude, Gemini и другие. Вижу проблему в том, что многие руководители, включая государственных, пока воспринимают ИИ как "ещё одну ИТ-технологию", а это не так. ИИ поднимает вопросы этики, справедливости, прозрачности, которые требуют междисциплинарного подхода. Бизнес у нас тоже пока действует по принципу "внедрили – пусть работает". Мало кто задумывается о том, как ИИ принимает решения, какие данные использует, не дискриминирует ли кого-то", – отметил Маханов.

При определении авторского права в работе с ИИ и контентом, который он генерирует, не стоит бросаться в крайности, считает учёный.

"С одной стороны, полный запрет на защиту ИИ-контента может затормозить инновации. А с другой – автоматическая защита всего, что выдаёт ИИ, приведёт к засорению правового поля. Моё мнение – быть практичными. Если человек потратил время на промпты (prompt – запрос к нейросети. – Ред.), творческие усилия, продумал концепцию, настроил систему и отобрал лучшие результаты, то почему бы и нет? Почему его/её труд не должен получить защиту? Но если кто-то просто написал "нарисуй кота" и получил картинку, то это едва ли заслуживает такой же защиты, как работа художника", – обратил внимание Маханов.

Возможным решением он видит разработку своеобразной "градации защиты" в зависимости от творческого вклада человека, при этом отмечая, что оценка такой работы очень субъективна.

"Автор всегда человек. Для меня этот вопрос не стоит. ИИ – это просто инструмент, пусть и очень сложный. Я не вижу принципиальной разницы между фотоаппаратом, который помогает запечатлеть момент, и ИИ, который помогает сгенерировать и воплотить идею. Другое дело, что нам нужно чётко определить критерии: когда человек действительно является автором ИИ-контента, а когда он просто "нажал на кнопку", – сказал учёный.

По его мнению, ключевыми критериями могут стать наличие творческой идеи, осмысленная работа с инструментом и ответственность за результат.

Первый в мире закон об ИИ

В Европейском союзе в 2023 году принят первый в мире всеобъемлющий закон об искусственном интеллекте – AI Act, который вводит жёсткие правила для разработчиков и пользователей ИИ, включая обязательства по обеспечению прозрачности алгоритмов и соблюдению авторских прав. Закон затрагивает как узкоспециализированные, так и универсальные модели вроде ChatGPT или Claude и распространяется на любые компании, работающие в Европе или предоставляющие услуги потребителям ЕС.

Согласно документу компании обязаны публиковать подробную информацию о данных, использованных для обучения ИИ. Это включает описание источников, типов и объёмов данных, а также информацию о том, были ли среди них материалы, защищённые авторским правом. Если такие данные использовались, разработчик должен доказать, что соблюдены все юридические условия.

Особое внимание уделяется прозрачности: компании должны вести техническую документацию об архитектуре моделей, параметрах обучения и вычислительных ресурсах, а при необходимости предоставлять эту информацию регуляторам. Также предусмотрено создание специального кодекса добросовестной практики (Code of Practice. – Ред.), который дополнит законодательство и стандартизирует отчётность. В случае нарушения требований разработчикам грозят штрафы до 35 млн евро, или 7% от их годового оборота.

Европейская комиссия подчёркивает, что такие меры направлены на защиту авторов, пользователей и потребителей контента от недобросовестного использования ИИ, особенно в случаях, когда речь идёт о генерации текстов, изображений, музыки или видео на основе чужих произведений. Закон полностью вступит в силу в 2026 году, но отдельные его положения начнут действовать уже в нынешнем году.

Судиться пока позволить себе могут только корпорации 

В декабре 2023 года The New York Times подала в федеральный суд Манхэттена иск против OpenAI и Microsoft. Это стало одним из первых масштабных случаев, когда крупное медиаобъединение официально обвинило разработчиков искусственного интеллекта в нарушении авторских прав. Газета утверждает, что её статьи были использованы для обучения моделей, таких как ChatGPT и Copilot, без разрешения и компенсации.

В иске говорится, что OpenAI и Microsoft незаконно копировали и использовали миллионы материалов The New York Times, чтобы обучить свои ИИ-системы, которые теперь способны генерировать тексты, конкурирующие с оригинальными материалами издания. Более того, утверждается, что ChatGPT способен дословно воспроизводить фрагменты статей NYT, даже из тех, что находятся за платной подпиской, без ссылки на источник и без соблюдения лицензионных условий.

Корпорация заявляет, что такое использование ставит под угрозу её бизнес-модель, основанную на подписке, и подрывает доверие к её бренду. В иске не указана конкретная сумма ущерба, но, по оценкам юристов, речь может идти о "миллиардных" претензиях.

В свою защиту OpenAI утверждает, что использование публично доступных данных из интернета, включая новостные статьи, подпадает под принцип "добросовестного использования". Компании также подчёркивают, что обучающие датасеты (наборы данных. – Ред.) собираются автоматически, без ручного отбора источников и что они не копируют статьи напрямую, а используют их в обобщённом виде.

OpenAI и Microsoft пытаются добиться отклонения иска, но в апреле 2025 года федеральный судья в Нью-Йорке разрешил делу продолжиться, отказавшись снять ключевые пункты жалобы. Это означает, что спор может дойти до полноценного судебного разбирательства. Параллельно NYT заключила соглашение с Amazon о лицензировании своего контента для обучения ИИ, что может стать примером возможного легального пути взаимодействия медиа и разработчиков.