Генеральный секретарь ООН Антониу Гуттериш призывает правительства не откладывать разработку международных правил в сфере искусственного интеллекта (ИИ). Поводом стала публикация первого доклада Независимой международной научной группы по ИИ, созданной под эгидой Организации Объединенных Наций. На днях Гуттериш представил документ на пресс-конференции в штаб-квартире ООН в Нью-Йорке.

О чём говорится в докладе

Предварительный доклад охватывает семь ключевых направлений: развитие технологий ИИ, их применение в здравоохранении, науке, образовании и сельском хозяйстве, влияние на экономику, безопасность, окружающую среду, права человека, демократические институты, культуру, защиту детей, а также вопросы управления и надежности систем искусственного интеллекта.

Выступая на пресс-конференции, сопредседатель группы, учёный Йошуа Бенджио отметил, что возможности ИИ растут быстрее, чем научное понимание этих систем и способность государств адаптироваться к новым вызовам.

«Появляется всё больше свидетельств того, что системы искусственного интеллекта способны обманывать. Современная наука пока не может гарантировать, что по мере роста их возможностей их использование не приведет к катастрофическим последствиям — самостоятельно или в результате злонамеренного использования», — предупредил он.

По словам Бенджио, именно поэтому политикам необходима независимая научная база, которая позволит принимать обоснованные решения.

Специальный посланник Генерального секретаря ООН по цифровым и новым технологиям Амандип Сингх Гилл отметил, что искусственный интеллект сам по себе не устранит существующее неравенство.

По его словам, преимущества новой технологии получают прежде всего страны и сообщества, где уже существуют необходимые институты, квалифицированные специалисты и данные. В других случаях ИИ может привести к потере рабочих мест, усилению социального неравенства и росту зависимости от технологий, разработанных без учёта местных потребностей.

Что конкретно сообщается в документе об обмане ИИ

Авторы доклада, ссылаясь на научные исследования, упоминают некоторые наблюдения:

  • от 15 до 40% утверждений, полученных от оптимизированных моделей ИИ, были оценены как с большой вероятностью относящиеся к категории ложной информации, однако ложные утверждения оказались настолько же убедительными, что и правдивые. Это показывает, что эффективность убеждения не зависит от правдивости, что создаёт риски в том, что касается здравоохранения, проведения выборов и информирования общественности;
  • поскольку люди предпочитают ответы, с которыми они могут согласиться, у чат-ботов на базе ИИ развилась угодливость, направленная на то, чтобы продлить взаимодействие и сформировать эмоциональную привязанность. Системы, демонстрирующие угодливость, могут уводить людей в мир фантазий, подкрепляя демонстрируемые пользователями способы мышления независимо от их правильности;
  • по оценке Организации экономического сотрудничества и развития на основе данных 23 стран, наличие стратегий по борьбе с дезинформацией по-прежнему является исключением.

Среди проблем в области анализа ИИ-систем отмечаются две, связанные с недостоверной информацией:

  1. модели ИИ способны к активному обману, когда система ИИ систематически вводит людей или других агентов в заблуждение относительно своих знаний, планов или возможностей. Это явление всё чаще наблюдается на практике;
  2. есть вероятность того, что модели ИИ понимают, когда их тестируют. Эта новейшая проблема получила название «осведомлённость об оценивании». В сочетании со способностью обманывать это означает, что модели ИИ могут быть проинструктированы людьми или самостоятельно решить временно ухудшить свои результаты при проведении оценки опасных возможностей.

Что за международная научная группа

Глава ООН объявил о создании Независимой международной научной группы по искусственному интеллекту несколько месяцев назад. В неё вошли 40 ведущих ученых и экспертов со всего мира. По словам Антониу Гуттериша, это первый полностью независимый международный научный орган, призванный восполнить пробел в знаниях об ИИ и дать объективную оценку его влиянию на экономику, общество и безопасность.

«Мы рассчитываем, что группа поможет миру отделять факты от фальсификаций, а науку – от информационного шума», – сказал генсек.

Доклад уже направлен правительствам всех государств-членов ООН.

Что дальше

Генеральный секретарь ООН подчеркнул, что опубликованный документ — лишь первый этап работы. По мере развития технологий группа будет регулярно готовить новые оценки и тематические исследования. Следующим шагом станет первый Глобальный диалог по вопросам управления искусственным интеллектом, который пройдёт 6-7 июля в Женеве. По словам Гутерриша, его цель — превратить научные выводы в согласованные международные действия с участием всех государств.