Искусственный интеллект (ИИ) может не только вытеснить людей с работы, но и лишить их способности мыслить и принимать решения. Исследователи предупреждают: общество рискует стать зависимым от машин, а государства — всё реже учитывать мнение самих граждан.

Сценарий называют «постепенной утратой человеческой самостоятельности». Он не предполагает, что ИИ обязательно объявит войну людям или захватит власть. Опасность может возникнуть из стремления компаний сократить расходы и автоматизировать больше процессов.

«Я поставил постепенную утрату человеческой самостоятельности на первое место в своём списке угроз», — заявил Джей Чуи, глава Robocurve — компании, оценивающей возможности робототехники на основе ИИ.

По его словам, ИИ может превзойти людей во многих интеллектуальных задачах — от программирования до научных исследований. Роботы смогут эффективнее выполнять и физическую работу. Если машины начнут производить товары быстрее и дешевле, бизнесу будет трудно сохранять рабочие места: конкуренты, перешедшие на автоматизацию, предложат более низкие цены.

Когда это происходит во всех отраслях, человек постепенно теряет экономическую роль и возможность поддерживать навыки, которые обеспечивали ему работу. Чем больше решений передаётся ИИ, тем сложнее людям понимать, проверять и оспаривать их.

Исследовательница ИИ Маргарет Митчелл из Hugging Face предупреждает: если люди перестанут выполнять задачи, переданные ИИ-агентам, они утратят способность справляться с ними. Если система даст сбой, может не оказаться специалиста, который сумеет исправить ситуацию.

Риск касается и политики с безопасностью. Ян Кулвейт, соавтор научной работы об утрате человеческой самостоятельности, отмечает: если решения на поле боя всё чаще будут принимать алгоритмы, государства могут полагаться на ИИ из-за его скорости. Армии, использующие людей, рискуют уступить соперникам, которые автоматизируют процессы.

Кулвейт считает, что в таком мире может ослабнуть демократия. Сегодня государствам нужны граждане: они платят налоги, служат в армии и влияют на власть через выборы. Но если экономику и безопасность обеспечат автоматизированные системы, у властей может стать меньше причин зависеть от населения.

По мнению авторов исследования, остановить процесс будет трудно: экономические, культурные и политические стимулы к автоматизации усиливают друг друга. Поэтому важно отслеживать, какие профессии и задачи передаются алгоритмам и как это влияет на людей.

Митчелл призывает не исключать человека из рабочих процессов: участие специалистов помогает контролировать системы и сохранять компетенции. ИИ можно создавать не как замену человеку, а как инструмент, который дополняет знания и помогает учиться.

Кулвейт предлагает определить сферы, где конкуренция не должна полностью вытеснять людей из принятия решений. Особенно важно сохранить человеческую экспертизу там, где цена ошибки высока, в том числе в военной сфере. Задача — не соревноваться с машинами в скорости, а направить технологии на поддержку человека.

«У организаций будут очень веские экономические и политические причины постепенно отказываться от человеческого труда и передавать всё больше задач роботам и искусственному интеллекту», — предупреждает Чуи. Поэтому последствия автоматизации нужно обсуждать заранее, пока зависимость от неё не стала фатальной.