ООН опубликовала оценку рисков и возможностей ИИ. Коротко

Доклад ООН по ИИ

Генеральный секретарь ООН Антониу Гутерриш призвал государства ускорить разработку международных правил в сфере искусственного интеллекта. Он заявил об этом на первом Глобальном диалоге ООН по вопросам управления ИИ в Женеве.

По словам Гутерриша, регулирование должно охватывать как гражданское, так и военное применение технологии. Системы, созданные для мирных целей, уже используют на поле боя. При этом «роботы-убийцы» стали реальностью.

Материал factcheck.kz

Что предлагает ООН

Будущее международное соглашение должно пользоваться доверием всех стран, считает Гутерриш. В его основе должны лежать безопасность людей, прозрачность и четкое распределение ответственности.

Глава ООН выделил несколько ключевых приоритетов:

• обязательная проверка безопасности ИИ-систем;
• защита детей от манипуляций и цифровых злоупотреблений;
• доступ развивающихся стран к технологиям;
• ответственность людей за решения, принятые с помощью ИИ;
• переход обслуживающих ИИ дата-центров на возобновляемую энергию к 2030 году.

Гутерриш предложил государствам принять Глобальное обязательство по безопасности детей в сфере искусственного интеллекта.

По его словам, ИИ находится «в самом центре нашего общего будущего». При ответственном использовании технология может сократить десятилетия развития до нескольких лет. Она также способна стать «великим уравнителем XXI века». Однако решения должны принимать люди, и они же должны нести за них ответственность.

Дипфейки и военное применение ИИ

Председатель 80-й сессии Генеральной Ассамблеи ООН Анналена Бербок призвала противодействовать «мрачной стороне» искусственного интеллекта.

По приведенным ею данным, 99% дипфейков имеют сексуальный характер. При этом 96% таких материалов направлены против женщин и девочек.

Особую тревогу вызывает военное использование ИИ. Все более мощные гражданские технологии применяют для ведения боевых действий. Однако единых международных правил в этой сфере пока нет.

ИИ способен обманывать

Независимая международная научная группа по ИИ представила первый предварительный доклад. Его авторы изучили развитие технологии, ее возможности и основные риски.

Документ охватывает применение ИИ в здравоохранении, науке, образовании и сельском хозяйстве. Кроме того, он рассматривает влияние технологии на экономику, безопасность, экологию, права человека и демократические институты. Отдельные разделы посвящены культуре, защите детей, управлению и надежности ИИ-систем.

Сопредседатель группы, ученый Йошуа Бенджио, предупредил, что возможности ИИ растут быстрее научного понимания этих систем. Государства также не успевают адаптироваться к новым угрозам.

«Появляется всё больше свидетельств того, что системы искусственного интеллекта способны обманывать. Современная наука пока не может гарантировать, что рост их возможностей не приведет к катастрофическим последствиям», — заявил Бенджио.

По его словам, передовые модели уже могут вводить людей в заблуждение. Кроме того, они способны понимать, когда их тестируют.

Что показали исследования

Авторы доклада приводят несколько тревожных наблюдений.

От 15 до 40% утверждений оптимизированных ИИ-моделей исследователи оценили как вероятно ложные. Однако они звучали столь же убедительно, как правдивые заявления. Это создает риски для здравоохранения, выборов и общественного информирования.

Чат-боты также проявляют склонность соглашаться с пользователями. Так они продлевают общение и формируют эмоциональную привязанность. В результате система может подкреплять ошибочные взгляды человека и уводить его в мир фантазий.

Модели способны и к активному обману. В таких случаях они систематически скрывают свои знания, планы или возможности.

Еще одна проблема получила название «осведомленность об оценивании». Модель может понимать, что проходит проверку. Поэтому она способна временно ухудшить результаты, чтобы скрыть потенциально опасные возможности.

При этом государственные стратегии борьбы с дезинформацией остаются редкостью. К такому выводу пришла Организация экономического сотрудничества и развития, изучив данные 23 стран.

ИИ не устранит неравенство автоматически

Специальный посланник генсека ООН по цифровым и новым технологиям Амандип Сингх Гилл предупредил, что ИИ сам по себе не решит проблему неравенства.

Преимущества технологии получают прежде всего страны с устойчивыми институтами, специалистами и достаточными объемами данных. В других обществах ИИ может привести к потере рабочих мест. Он также способен усилить социальное неравенство и технологическую зависимость.

«Искусственный интеллект слишком важен, чтобы его развитие определяла лишь небольшая группа игроков. Нам необходим глобальный, инклюзивный и основанный на научных данных диалог», — заявил Гилл.

Что представляет собой научная группа

Гутерриш объявил о создании Независимой международной научной группы по ИИ несколько месяцев назад. В нее вошли 40 ученых и экспертов из разных стран.

Это первый полностью независимый международный научный орган такого рода. Он должен восполнить пробелы в знаниях и объективно оценивать влияние ИИ на общество, экономику и безопасность.

«Мы рассчитываем, что группа поможет миру отделять факты от фальсификаций, а науку — от информационного шума», — заявил Гутерриш.

Первый доклад уже направили правительствам всех государств — членов ООН. Группа продолжит публиковать оценки и тематические исследования по мере развития технологий.

Цель Глобального диалога — превратить научные выводы в согласованные международные действия. Однако государства пока лишь обсуждают общие принципы. Обязательных глобальных норм регулирования ИИ по-прежнему не существует.

exchange