Ведущие представители индустрии искусственного интеллекта призывают замедлить темпы инноваций. Один из исследователей ушел из Anthropic, заявив, что «люди, создающие ИИ, искренне верят, что к концу десятилетия он может погубить всех нас». Глава Anthropic Дарио Амодеи и сам написал, что «мы должны замедлить темпы, с которыми расширяем возможности моделей ИИ». Вскоре его поддержали глава OpenAI Сэм Альтман и Илон Маск. Об этом пишет Financial Times.
Нам всем стоит поддержать такой подход. Когда риски неизвестны, потенциально огромны и к тому же трудно поддаются контролю, это рациональная позиция. Вопрос, скорее, заключается в том, как эффективно реализовать ее на практике. Это будет сложно — как практически, так и политически. Но начинать думать об этом необходимо уже сейчас.
Амодеи указывает на две серьезные проблемы. Первая, по его словам, заключается в том, что «примерно с этого лета ИИ начал развиваться значительно быстрее, прежде всего благодаря растущей способности искусственного интеллекта создавать следующее поколение ИИ. Эта динамика называется рекурсивным самосовершенствованием… Если оставить ее без контроля, она может опередить нашу способность понимать и контролировать эти системы, поэтому развивать ее следует крайне осторожно — если вообще следует».
Вторая проблема, по словам Амодеи, — «инцидент OpenAI-Hugging Face (OAI-HF), в ходе которого рой агентов фактически действовал как фанатично преданный единый коллектив, осуществляя кибератаки на цели, атаковать которые его никто не просил».
Само по себе это звучит достаточно тревожно, однако здесь упускается еще одна опасность: что ИИ может сделать, выполняя реальные указания злоумышленников. На этот аспект указывает Билл Гейтс в своей недавней публикации, посвященной рискам — и возможностям — искусственного интеллекта.
Скептики, естественно — и вполне обоснованно, — задаются вопросом, что на самом деле стоит за подобными призывами со стороны лидеров ИИ-индустрии. Возможно, они просто хотят замедлить чрезвычайно дорогостоящую гонку, в которой сами участвуют. Другое объяснение состоит в том, что они рассчитывают сформировать удобный для себя картель, поставить регуляторов под свое влияние и тем самым еще надежнее закрепить доминирование в отрасли. Третья версия — они просто стремятся предотвратить внешнее регулирование. Наконец, возможно, они хотят подчеркнуть собственную значимость для национальной безопасности.
Такие подозрения вполне естественны. Тем не менее другие отрасли, способные причинить огромный ущерб, — например банковский сектор, фармацевтическая промышленность и атомная энергетика — вполне обоснованно подлежат регулированию.
Сам Амодеи предлагает три шага. Первый — введение «встроенных оценщиков», задача которых заключается в проверке соблюдения норм и обязательств в области безопасности, информировании об инцидентах, а также в оценке соответствия требованиям безопасности не только уже созданных моделей ИИ, но и процессов и механизмов их обучения.
Второй шаг — «демократическая координация», при которой ведущим компаниям будет разрешено совместно работать над установлением единых стандартов безопасности, а также ограничений на темпы бесконтрольного развития ИИ.
Третий — «глобальная координация», в рамках которой демократические правительства попытаются взаимодействовать «с авторитарными правительствами… при этом серьезно относясь к проблемам проверки соблюдения договоренностей».
Эти предложения, несомненно, лишь усилят упомянутые выше подозрения. Тех, кто опасается скрытых мотивов лидеров отрасли, возможно, порадует вполне предсказуемое безразличие Дональда Трампа к подобным рискам. Президент вместо этого делает акцент на конкуренции США с Китаем.
Однако предложения Амодеи направлены именно на преодоление двух крупнейших препятствий на пути к более взвешенному подходу к развитию ИИ: конкуренции между корпорациями и соперничества между государствами. И для беспокойства вовсе не обязательно опасаться вымирания человечества: захват значительной части интернета роями вышедших из-под контроля ИИ-агентов сам по себе был бы достаточно серьезной катастрофой.
Люди более рассудительные, чем Трамп, — а кто, в конце концов, нет? — например бывшие министры финансов США Хэнк Полсон и Роберт Рубин, заняли совершенно иную позицию в статье для The Washington Post, опубликованной в начале сентября. Они также сосредоточились не на более широких — и вполне обоснованных — опасениях относительно рабочих мест, распределения доходов и будущего демократии, а именно на безопасности.
«Когда президенты Дональд Трамп и Си Цзиньпин встретятся в этом месяце, — написали они, — мы призываем лидеров… начать работу над “ACT”» — договором о сотрудничестве в сфере искусственного интеллекта (AI Cooperation Treaty).
Они также предлагают создать президентскую рабочую группу по искусственному интеллекту по аналогии с «рабочей группой по финансовым рынкам», которая зарекомендовала себя как «эффективный механизм взаимодействия с частным сектором, в том числе с конкурирующими компаниями, без возникновения проблем с антимонопольным законодательством, с целью сбора фактов, проведения анализа и поиска решений». По их мнению, теперь такой механизм необходимо создать и для ИИ.
Полагаю, что сейчас практически ничего сделано не будет. Конкурирующие компании не смогут себя сдержать, а правительства будут избегать действий, оправдывая это соображениями национальной безопасности. Огромная сложность регулирования продуктов этой отрасли в эпоху повсеместного распространения ИИ и рекурсивного самосовершенствования либо окажется слишком серьезным препятствием, либо станет слишком удобным оправданием для того, чтобы вообще не пытаться что-либо предпринимать.
Поэтому мы, скорее всего, продолжим двигаться вперед в привычной для нас стремительной и хаотичной — и слишком человеческой — манере, просто надеясь на лучшее.
Что может произойти в таком случае?
Один из вариантов заключается в том, что опасения относительно масштабных последствий окажутся сильно преувеличенными. Возможно, мы не столкнемся ни с искусственно созданными пандемиями, ни с серьезными нарушениями работы финансовой или физической инфраструктуры. Жизнь продолжится своим чередом. Возможно, даже вызывающие беспокойство экономические и социальные последствия окажутся вполне управляемыми.
Другой сценарий — произойдет некая катастрофа, которую человечество сможет пережить, но которая заставит нас резко изменить отношение к срочности проблемы. Тогда, возможно, под мощным — и разделяемым во всем мире — общественным давлением наконец будет введен режим четких и жестких санкций в отношении безответственных разработчиков, а также значительно усилены мониторинг и регулирование.
В Великобритании одним из исторических примеров подобной реакции стало ужесточение регулирования лекарственных препаратов в 1960-х годах после трагедии, связанной с талидомидом.
Третий вариант заключается в том, что опасения окажутся обоснованными. Может произойти действительно катастрофическое событие, если возможности искусственного интеллекта достигнут разрушительного уровня — независимо от того, будет ли ИИ действовать самостоятельно или его используют злоумышленники, которых, как всегда, более чем достаточно.
Тогда говорить «я же предупреждал» будет уже слишком поздно.
Не лучше ли принять меры предосторожности заранее?
