Исследователь Anthropic Джейкоб Коксон покинул компанию, заявив, что не хочет участвовать в гонке по созданию самосовершенствующихся систем искусственного интеллекта, способных выйти из-под контроля.
По его словам, крупнейшие ИИ-компании движутся к созданию суперинтеллекта, который сможет самостоятельно улучшать свои возможности и в перспективе получить реальную власть и ресурсы.
Опасения Коксона разделил руководитель исследований Anthropic в области безопасности ИИ Эван Хубингер.
«Джейкоб прав — мы действительно искренне верим, что ИИ может уничтожить всех людей. Я лично считаю, что вероятность этого составляет более 10% в течение следующего десятилетия», — заявил он.
Хубингер подчеркнул, что Anthropic пытается решить проблему безопасности, однако признал: у компании пока нет плана, который позволил бы гарантированно контролировать потенциальный суперинтеллект.
Но существует угроза гораздо ближе и реальнее. Для нее не нужен вышедший из-под контроля ИИ. Достаточно машины, которая выполняет работу человека быстрее и дешевле.
И этот процесс уже начался.
Предыдущие технологические революции прежде всего заменяли физический труд. ИИ впервые массово конкурирует с человеком в сфере интеллектуальной работы: пишет тексты и код, анализирует документы, переводит, создает дизайн, обслуживает клиентов, помогает юристам, бухгалтерам и маркетологам.
Главный риск состоит не обязательно в массовых увольнениях. Гораздо незаметнее может происходить сокращение самого входа в профессию.
Исследование Stanford Digital Economy Lab показало, что в США занятость молодых работников 22–25 лет в профессиях, сильнее всего подверженных влиянию ИИ, оказалась примерно на 19% ниже ожидаемой траектории. Исследователи не утверждают, что причиной является исключительно ИИ, однако тенденция показательна.
Для бизнеса логика проста: если опытный специалист с ИИ способен выполнять объем работы, для которого раньше требовались несколько сотрудников, возникает вопрос: зачем нанимать прежнее количество людей?
Особенно уязвимы начинающие программисты, аналитики, дизайнеры, переводчики и другие офисные специалисты. Если компании перестанут брать новичков, через десять лет может возникнуть дефицит уже опытных профессионалов: карьерная лестница просто потеряет нижние ступени.
Оптимисты напоминают, что технологии создают и новые профессии. World Economic Forum, к примеру, прогнозирует к 2030 году появление 170 млн рабочих мест при исчезновении 92 млн. Международная организация труда также считает более вероятной трансформацию многих профессий, чем их полное уничтожение.
Однако статистический баланс не отвечает на вопрос конкретного человека. Потерявший работу бухгалтер не становится автоматически инженером по искусственному интеллекту. Новые профессии требуют других знаний, образования и опыта.
И здесь возникает главный вопрос эпохи. Большинство людей располагают прежде всего одним экономическим активом — собственным трудом. Если технологии позволяют производить больше с меньшим количеством работников, кому достанется созданное богатство?
Да, обсуждаются базовый доход, сокращение рабочей недели, новые налоги и системы социальной защиты. Но готовой модели пока нет.
ИИ может сделать человечество значительно богаче. Но богатое общество и обеспеченный человек — не одно и то же.
И пока мы обсуждаем, сможет ли однажды искусственный интеллект уничтожить человечество, стоит задать более близкий вопрос: что будет с миллионами людей, если экономика научится обходиться без значительной части их труда?
Ответа пока нет. А процесс уже запущен.
