«Галлюцинации» ИИ не станут оправданием. Какие правила для нейросетей хотят ввести в Кыргызстане

Документ определяет, кто будет отвечать за ошибки алгоритмов

В Кыргызстане на общественное обсуждение вынесли проект Положения об этике искусственного интеллекта. Документ опубликован 28 сентября на Едином портале общественного обсуждения нормативных правовых актов.

В карточке проекта разработчиком указано Министерство цифрового развития и инновационных технологий. При этом в апреле 2026 года ведомство было реорганизовано и присоединено к Управлению делами президента, которому в том числе передали функции в сфере искусственного интеллекта и инновационных технологий.

Одна из ключевых норм проекта касается ответственности за работу ИИ. Искусственный интеллект не предлагается признавать субъектом права. За решения системы, ее ошибки, дискриминационные результаты или причиненный ущерб должны отвечать люди в зависимости от их роли в разработке, владении или использовании системы.

При этом ссылки на самообучение алгоритма, вероятностный характер его работы или так называемые «галлюцинации» ИИ сами по себе не смогут служить основанием для освобождения от ответственности.

Отдельные требования касаются прозрачности использования искусственного интеллекта. Если человек общается с чат-ботом, голосовым помощником или системой автоматизированных звонков, его должны заранее уведомить, что взаимодействие происходит с ИИ.

Тексты, фотографии, аудио и видео, полностью созданные или существенно измененные нейросетью, предлагается маркировать. Обозначение может быть визуальным, звуковым или содержаться в метаданных. Скрывать использование ИИ нельзя будет, если такой материал способен ввести общество в заблуждение, нарушить права граждан, повлиять на избирательные процессы или создать угрозу национальной безопасности.

Отдельное внимание в проекте уделено кыргызскому языку. ИИ-системы, используемые в государственных и муниципальных услугах, образовании, здравоохранении и публичной инфраструктуре, должны обеспечивать корректное взаимодействие на кыргызском языке наравне с официальным. Также предлагается не допускать систематического искажения норм кыргызского языка и стимулировать создание качественных датасетов и текстовых корпусов на кыргызском.

Еще одна норма касается исторических, государственных и культурных деятелей Кыргызстана. Предлагается запретить создание с помощью ИИ заведомо недостоверных материалов, которые порочат их честь, достоинство или деловую репутацию либо умаляют исторические заслуги. Использовать их образы в научных, образовательных, музейных и документальных целях при этом можно будет при сохранении исторической достоверности.

Перед запуском ИИ-систем и после их существенной модернизации предлагается проводить оценку этичности и безопасности. В частности, необходимо будет проверить риски нарушения прав граждан и возможной алгоритмической дискриминации, степень автономности системы, уровень человеческого контроля и определить меры по снижению возможного вреда. Результаты такой оценки будут фиксировать в Декларации об этике ИИ.

Для государственных органов, органов местного самоуправления и систем повышенной опасности такая оценка должна стать обязательной. Для остальных частных систем она будет рекомендательной.

При этом действие положения предлагается распространить только на искусственный интеллект гражданского назначения. ИИ-системы, используемые в обороне, национальной безопасности, правоохранительной и оперативно-розыскной деятельности, под новые правила не попадут.

Владельцам ИИ-систем также рекомендуют обеспечивать защиту от взлома и постороннего вмешательства, соблюдать требования по защите персональных данных, анонимизировать информацию и регулярно проверять работу систем на ошибки.

Сейчас документ проходит общественное обсуждение. После этого проект может быть доработан, а окончательную версию предстоит утвердить Кабинету министров.

Фото www