В структуре «ООН-женщины» заявили о том, что технологии искусственного интеллекта воспроизводят старые гендерные стереотипы. Как сообщается в публикации на сайте ООН, ИИ усиливает насилие в интернете, а женщины исключаются из принятия решений, которые будут определять цифровое будущее.
Справка: «ООН женщины» это структура Организации Объединённых Наций, занимающаяся борьбой за гендерное равенство и расширение прав и возможностей женщин. Содействует государствам-членам ООН в их стремлении соответствовать мировым стандартам для достижения гендерного равенства и работает совместно с правительствами стран и гражданским обществом при разработке законов, стратегии политики, программ и услуг с целью обеспечения эффективной реализации этих норм и действенной пользы женщинам и девочкам во всем мире.
О каких гендерных стереотипах идёт речь
В публикации сообщается: исследование 133 систем искусственного интеллекта показало, что в 44% случаев усматривается гендерная предвзятость, а более чем в четверти систем одновременно выявляется и гендерная, и расовая дискриминация.
Крупные языковые модели неоднократно связывали женщин с домом, семьёй и уходом за детьми, тогда как мужчин — с бизнесом, лидерством и карьерным успехом. В некоторых случаях ИИ создавал ответы, представляющие женщин подчинённых мужчинам или как сексуальные объекты.
По данным «ООН-женщины», когда исследователи просили языковые модели продолжить предложение, начинающееся с указания пола человека, примерно каждый пятый ответ содержал сексистские или женоненавистнические элементы. Некоторые ответы даже описывали женщин как собственность или объект.
В чём кроется проблема
В организации отмечают, что такие результаты предсказуемы: модели обучаются на огромных массивах текстов, отражающих десятилетия неравного представления мужчин и женщин.
Эксперт структуры «ООН-женщины» по цифровым технологиям Джаятма Викраманаяке объяснила, что модели ИИ «наследуют предубеждения, которые десятилетиями проявлялись в текстах, написанных людьми о людях — в мире, где женщин относили к дому и семье, а мужчин — к бизнесу и карьере».
По её словам, наиболее тревожит то, что это не технический дефект: «Это серьёзный пробел в государственной политике».
Из 138 стран, включенных в исследование, только 24 упоминают гендерный аспект в национальных стратегиях развития ИИ, и лишь 18 предусматривают конкретные меры по обеспечению гендерного равенства.
Эксперт подчёркивает: проблема не исчезнет сама собой после очередного обновления программного обеспечения. По её мнению, это результат решений, которые снова и снова принимаются при отборе данных для обучения, разработке продуктов и формировании политики.
Что ещё
Женщины уже сегодня сталкиваются с непропорционально высоким уровнем насилия в интернете, а развитие ИИ упрощает создание и распространение некоторых его форм. По данным «ООН-женщины», почти каждая четвёртая опрошенная женщина — правозащитница, активистка или журналистка — сообщила, что подвергалась онлайн-насилию с использованием инструментов ИИ. Часть из опрошенных говорят, что они стали жертвами дипфейков или изменённых фото и видео, либо их личные изображения распространялись без согласия.
Кроме того, женщины остаются недостаточно представлены в отраслях, где разрабатываются такие технологии и, по данным Международной организации труда, составляют лишь 30% мировой рабочей силы в сфере ИИ.
В «ООН-женщины» предупреждают: люди, создающие эти системы, не отражают разнообразие общества, для которого они предназначены. Без более активного участия женщин и других недостаточно представленных групп населения существующие предубеждения рискуют закрепиться в технологиях будущего.
В преддверии Глобального диалога ООН по вопросам управления искусственным интеллектом и саммита «ИИ во благо» (AI for Good), которые пройдут в начале июля в Женеве, в «ООН-женщины» призвали правительства, компании и разработчиков учитывать гендерное равенство уже на этапе проектирования, внедрения и регулирования систем ИИ.
Источник: Factcheck.kz — https://factcheck.kz/articles/ii-vosproizvodit-starye-gendernye-stereotipy-otchet-oon-zhenshhiny
