Сооснователь Microsoft Билл Гейтс на этой неделе дал подробное интервью NBC News, в котором призвал государства вмешаться в регулирование искусственного интеллекта, потому что самоконтроля технологических компаний, по его мнению, уже недостаточно. Вопрос о границах применения ИИ он ставит не впервые. В конце августа он опубликовал эссе «Турбулентная эпоха ИИ уже наступила. Выбор, который мы делаем сейчас, имеет решающее значение». Одна из главных идей Гейтса — Human Reserved: закрепить за человеком отдельные области, даже если ИИ научится выполнять эту работу не хуже.

В пример он приводит уход за пожилыми и образование — сферы, где человеческое участие становится вопросом достоинства и доверия. С этой частью я почти не спорю. Любовь, дружба, семья — не те области, где стоит искать алгоритм эффективнее. Бывают ситуации, когда человек нужен именно потому, что перед нами другой человек. Почти — потому что такое участие само по себе дефицит. У одного пожилого человека есть постоянная сиделка, у другого — никого. Одному ребенку достались хороший учитель и репетитор, другому — переполненный класс. ИИ способен дать миллионам людей хотя бы часть такой поддержки: в пятый раз объяснить тему или напомнить о лекарствах. Если закрепить эти сферы исключительно за человеком, мы оставим их тем, у кого человеческая помощь и так есть.

Дальше Гейтс переносит тот же принцип на рынок труда. И здесь мы забегаем вперед. Я бы назвал Human Reserved заповедником для человека, и сама метафора мне нравится. Мы давно создаем пространства, которые сознательно приспосабливаем под себя. Так устроен современный город: тяжелые производства вынесены за его пределы, внутри остались жилье, парки, рестораны. Но заповедник имеет смысл, когда понятно, что именно мы хотим сохранить и что оно действительно исчезает. Гейтс же предлагает обсуждать заповедник раньше, чем стало ясно, исчезает ли территория.

С профессиями метафора ломается. Профессия — плохой кандидат на охрану: это набор задач, и он постоянно меняется. Возьмем радиолога. В 2016 году Джеффри Хинтон, один из создателей современных нейросетей, советовал перестать учить радиологов: через пять лет алгоритмы будут читать снимки лучше. Прошло десять лет. Алгоритмы действительно работают как второе мнение и помогают врачу сопоставить снимок с огромным массивом накопленного опыта. Радиологов при этом стало больше, и их по-прежнему не хватает: разговор с пациентом, спорные случаи и ответственность за диагноз остались за врачом. Что здесь следовало зарезервировать — профессию целиком или одну из ее задач?

Гейтс уверен, что многие рабочие места исчезнут навсегда. Он пишет о юристах, программистах, медиках, клиентском сервисе и производстве и считает особенно уязвимыми начальные и средние позиции. Но ИИ только начинает встраиваться в работу компаний. По моей оценке, еще год назад успешными оказывались около 10% ИИ-проектов, сейчас — около трети. Рост быстрый, но посмотрите, в чем он измеряется: в отдельных процессах, где технология начала приносить деньги. До штатного расписания эффект пока не добрался.

В 2023 году сам Гейтс, рассуждая о рисках ИИ, писал: «Мы уже проходили через это». Он вспоминал автомобили, персональные компьютеры и интернет: общество не раз училось жить с технологиями, которые поначалу пугали. Три года спустя часть его нового эссе называется «На этот раз всё действительно иначе».

Между этими двумя фразами и находится весь спор. И он гораздо старше нейросетей. В 1964 году авторы доклада «Тройная революция» предупреждали президента США Линдона Джонсона о «кибернетической революции»: компьютеры и автоматические машины дадут почти неограниченную производительность и будут требовать всё меньше человеческого труда. Главным отличием от прежних революций они называли скорость. С тех пор прошло 60 лет, и число работающих американцев выросло в 2,7 раза — с 58 до 159 млн.

Это не значит, что прежние переходы были гладкими — такими они выглядят только в учебниках. Не стало кучеров — появились водители. Но если вы занимались конным спортом, то знаете: умение управлять лошадью никак не помогает сдать экзамен на права. Фонарщик не становился электриком, а телефонистка — инженером связи. Конкретным людям было трудно, и вывод из этого практический: помогать нужно человеку, а охранять профессию бессмысленно. В том, что деньги и силы стоит вкладывать в переобучение, я с Гейтсом согласен.

Бывает и так, что замена не случается вовсе. Банкоматы, на первый взгляд, буквально созданы, чтобы заменить кассира. Но пока они распространялись, число кассиров в США не рухнуло: одному отделению требовалось меньше сотрудников, отделения стали дешевле, и банки открывали их больше. Заметное сокращение пришло значительно позже, вместе с онлайн- и мобильным банкингом.

Гейтс утверждает, что теперь технология пришла в умственный и творческий труд. Но она пришла туда давно. В 1979 году появился Fairlight CMI (цифровой синтезатор): музыкант мог записать любой звук, разложить его по клавиатуре и превратить в материал новой композиции. Хип-хоп, выросший на вертушках, обрел на семплере свое звучание, из семплов родились джангл и трип-хоп, появились и новые профессии вроде битмейкера.

Гейтс говорит и о завтрашних моделях. Он описывает ИИ, который сможет «видеть, слушать, говорить и рассуждать», выполнять физическую работу и действовать почти без ошибок без постоянного контроля человека. Термина AGI в эссе нет, но описан именно он — общий искусственный интеллект, способный решать широкий круг задач на уровне человека или выше.

Такой системы пока нет. У AGI нет ни общепринятого определения, ни единого теста, и никто не знает, приведет ли к нему развитие сегодняшних моделей. Получается, что Human Reserved, новые институты и налоги предлагается вводить сегодня, а главный довод в их пользу относится к технологии, которой еще не существует.

Почему бы не подготовиться заранее? Потому, что у преждевременных мер есть цена. Правила, написанные под несуществующую технологию, будут тормозить существующую. Идея налога на роботов, кстати, появилась у Гейтса еще в 2017 году, задолго до нынешней волны генеративного ИИ. ChatGPT здесь новый пациент для уже выписанного рецепта.

Последний довод Гейтса — беспрецедентная скорость развития ИИ. Модели действительно уже обновляются чуть ли не каждый месяц. Но экономика меняется с той скоростью, с какой перестраиваются компании, однако зрелых кейсов применения генеративного ИИ, если не считать разработку ПО, пока не так много, а финансовый эффект в большинстве из них только предстоит получить. Электричеству понадобилось около 40 лет, чтобы дать заметный рост производительности: мало было поставить мотор вместо паровой машины, пришлось заново планировать заводы. Да и сама скорость зависит от того, когда включить секундомер. Если считать от рождения ИИ как научной области в 1950-х, до обычного дома он добирался почти 70 лет. Граммофон справился за 30–40 — без интернета, смартфонов и Билла Гейтса.

Автор — генеральный директор MWS AI (входит в МТС Web Services)

Позиция редакции может не совпадать с мнением автора