В Кыргызстане предлагают установить единые этические правила разработки и использования искусственного интеллекта. Проект соответствующего положения 28 сентября вынесли на общественное обсуждение.
Документ разработан для формирования безопасной и прозрачной среды разработки и применения технологий искусственного интеллекта, защиты прав граждан, сохранения национально-культурного наследия и развития ИИ в Кыргызстане.
Проект устанавливает этические принципы, которыми предлагается руководствоваться при разработке и использовании систем искусственного интеллекта. Среди них человекоцентричность, недопущение дискриминации, прозрачность, безопасность, защита персональных данных и развитие технологий на кыргызском языке.
Отдельные требования касаются оценки этичности и безопасности ИИ-систем. Для государственных органов и органов местного самоуправления, а также систем повышенной опасности такая оценка должна быть обязательной. Для остальных систем частного сектора она будет носить рекомендательный характер.
Также проект предусматривает требования к контенту, создаваемому с помощью искусственного интеллекта. В частности, предлагается не допускать генерацию заведомо недостоверного контента, порочащего исторических, государственных и культурных деятелей Кыргызстана либо «умаляющего их исторические заслуги». Для предотвращения искажения исторических фактов предлагается использовать технические ограничения и контекстные фильтры.
При этом действие Положения не будет распространяться на системы ИИ, используемые в сферах обороны, национальной безопасности, охраны правопорядка и оперативно-розыскной деятельности.
Юрист Азат Ибраев из Коалиции «Айкын Санарип» считает правильной саму идею закрепить этические принципы использования искусственного интеллекта. Коалиция поддерживает цели проекта, в том числе защиту граждан от алгоритмической дискриминации, прозрачность и развитие ИИ на кыргызском языке. Однако вопросы вызывает то, каким образом предлагается достичь этих целей.
По словам юриста, действующий Цифровой кодекс уже содержит обязательные правила для систем искусственного интеллекта: оценку опасности, требования к системам повышенной опасности и раскрытие информации о сгенерированном контенте. При этом этические стандарты законодатель сознательно отнес к саморегулированию, к профессиональному объединению владельцев систем ИИ.
«Проект создает параллельный слой правил. Одни требования он дублирует, другие ослабляет: обязательную по закону оценку для частного сектора он делает «рекомендательной». Получается одновременно перерегулирование и правовая неопределенность. Разработчик не понимает, что от него требуется, а гражданин какие у него гарантии», – отметил юрист.
Особую обеспокоенность Коалиции вызывают положения, которые могут затрагивать права человека и свободу выражения мнения.
«Мы предлагаем отказаться от норм, которые через постановление ограничивают свободу выражения. Это запрет генерировать контент, «умаляющий заслуги» государственных деятелей, и обязательные фильтры по «историческим фактам». Такие формулировки открывают дорогу цензуре и защищают должностных лиц от критики и сатиры», – считает юрист.
Коалиция также выступает против полного исключения правоохранительной сферы из-под действия этических стандартов. По мнению юриста, распознавание лиц и применение других систем ИИ правоохранительными органами несут одни из наиболее высоких рисков для прав граждан.
При этом в проекте есть и ценные идеи, в частности принцип человекоцентричности и запрет алгоритмического манипулирования. Однако, по мнению юриста, такие нормы следует закреплять непосредственно в Цифровом кодексе, а не в подзаконном акте.
Кроме того, проект не затрагивает некоторые вопросы, которые, по мнению Коалиции, требуют решения: прозрачность данных, на которых обучаются модели, а также права авторов и СМИ, чьи материалы используются для обучения искусственного интеллекта.
«Наша позиция – не регулировать больше, а регулировать точнее: опираться на уже действующий Цифровой кодекс, не ограничивать права подзаконными актами и не создавать лишней нагрузки для тех, кто развивает технологии в Кыргызстане», – заключил юрист.
