В Китае предупреждения о «конце света» в сфере ИИ воспринимаются либо как «типично западные заявления», либо как уловка, призванная помешать китайским компаниям обойти конкурентов, пишет The New York Times. При этом в Кремниевой долине всерьез обсуждают сценарии «экзистенциального риска» — от бесконтрольных ядерных угроз до войн беспилотников, управляемых искусственным интеллектом.
Газета отмечает, что для западных технологов потеря контроля над ИИ — это гипотетическая угроза человечеству. Для китайских властей и экспертов гипотеза, что технология может оказаться сильнее государства, кажется маловероятной — опыт Китая сформировал уверенность в способности системы подавлять любые дестабилизирующие факторы. Авторы статьи указывают, что «ответ может быть простым»: отключить интернет, ввести блэкаут и привлечь к ответственности виновных в «побеге» ИИ-агента.
«Власти могут мгновенно отключить электросеть всего города, могут забрать у людей телефоны. Они обладают огромной властью в реальном мире. Учитывая такой уровень контроля над людьми, как убедить партию в том, что нечто вроде искусственного интеллекта, живущего в компьютере, представляет собой угрозу?» — заявила она.
Другая интерпретация «апокалиптических прогнозов» в Китае носит более циничный характер, отмечает NYT. В китайских технологических кругах и СМИ преобладает мнение, что предупреждения об «угрозе человечеству» — инструмент американских компаний, призванный замедлить развитие конкурентов в Азии. Подход называют «маркетингом страха».
Цзе Цай, исследователь в области взаимодействия человека и компьютера и безопасности искусственного интеллекта из Университета Цинхуа, отмечает, что в индустрии подобные дискуссии часто игнорируются.
«Мы по-прежнему рассматриваем ИИ как находящийся на очень ранней стадии развития. Основное внимание по-прежнему уделяется возможностям и инновациям», — сказал он.
Разрыв в восприятии угроз ИИ имеет и глубокие культурные корни, отмечает NYT. Западный нарратив о «создании жизни», которая восстает против творца (мотив «Франкенштейна»), кажется китайским исследователям чуждым. Руководитель отдела безопасности ИИ в пекинской консалтинговой компании Concordia Лян Фан, объясняет это спецификой восточной философии.
«Китайская культура подчеркивает «единство неба и человечества» и идею о том, что человек является неотъемлемой частью природы. Все, включая ИИ, происходит из природы. Поэтому технологии рассматриваются скорее как спутники сосуществования, а не как сила, призванная принести разрушение», — пояснила эксперт.
Несмотря на скепсис относительно «конца света», нельзя сказать, что Китай игнорирует безопасность ИИ, — он подходит к ней с позиции государственного управления и предотвращения конкретных проблем, отмечает газета. Вместо обсуждения «судьбы человечества» Пекин фокусируется на кибербезопасности, борьбе с вредоносным кодом и предотвращении использования ИИ для создания биологического оружия.
Власти уже предприняли ряд конкретных шагов — в частности, в КНР разработаны законопроекты о противодействии о киберпреступности, обязывающих компании отслеживать использование моделей. Также введена обязательная маркировка контента, созданного ИИ, и регистрация моделей в госорганах.
