Управление искусственным интеллектом уже становится одним из основных направлений не только технологической политики, но и национальной безопасности, цифрового суверенитета и экономического развития. Этот месседж стал одной из главных тем обсуждения на первом Глобальном диалоге ООН по управлению искусственным интеллектом (Global Dialogue on AI Governance), прошедшем в Женеве.
Об этом сообщили в Государственной службе специальной связи и информационной безопасности.
Отмечается, что сотрудники службы также приняли участие в мероприятии, прошедшем 6-7 июля по инициативе ООН и при поддержке Международного союза электросвязи и других международных партнеров.
Как отметил Генеральный секретарь ООН Антониу Гутерриш, скорость развития технологий искусственного интеллекта опережает существующие механизмы управления, и подчеркнул важность усиления международного сотрудничества для управления воздействием систем ИИ на права человека, безопасность и общество.
На сессиях, прошедших в рамках форума, обсуждались вопросы безопасности систем ИИ, кибербезопасности, борьбы с дезинформацией, принципы использования искусственного интеллекта в государственном управлении и формирование надежной экосистемы ИИ.
В частности, на сессии Artificial Insecurity: AI and Cybersecurity в центре внимания находились новые риски кибербезопасности, создаваемые большими языковыми моделями, агентными системами искусственного интеллекта и технологиями генеративного ИИ. Эксперты отметили важность применения принципов security-by-design и trustworthy AI, начиная с самого первого этапа разработки ИИ-решений.
На сессии Information Integrity in the Age of AI обсуждались риски, создаваемые технологиями deepfake, дезинформацией, распространяемой посредством генеративного ИИ, и манипулированием информацией. Отмечалось, что информационная безопасность теперь является вопросом не только техническим, но и вопросом национальной безопасности и общественного доверия.
Наряду с этим, основными направлениями дискуссий стали глобальное управление ИИ, механизмы международного сотрудничества и укрепление потенциала государственных институтов в этой сфере. На панели, организованной компанией Microsoft, был представлен успешный опыт стратегий искусственного интеллекта Сингапура, Объединенных Арабских Эмиратов и Великобритании.
В Госслужбе спецсвязи и информационной безопасности отметили, что участие в мероприятии имело важное значение с точки зрения изучения международного опыта в области безопасного применения искусственного интеллекта, управления ИИ, кибербезопасности и цифровой устойчивости, отслеживания передовых подходов и расширения международного сотрудничества.
