Это – последняя часть беседы с Антоном Казуном.

- Антон Павлович, говоря об утрате некоторых базовых ещё вчера навыков мы должны иметь в виду не только таксистов, но и людей других профессий?

- Если мы предположим, что у нас юристы освободятся от составления типичных документов, то, через пару-тройку лет уже не будет этого навыка у тех юристов, которые выйдут на рынок. Востребованы будут другие навыки.

- И скольких профессий это может коснуться?

- На первый взгляд кажется, что это программирование, программирование систем, связанных с ИИ и так далее. Программисты сами себе создали конкурента. Рутинные задачи из этой сферы уходят, и это создает интересную проблему.

Коммерсант недавно, по-моему, писал про то, что зарплаты IT-специалистов в России за последний год снизились. Стали не нужны на рынках так называемые джуны – самые младшие программисты. Это связывается с разными причинами, но искусственный интеллект, я думаю, тоже сыграл свою роль, потому что какие-то рутинные задачи можно уже решать с его помощью, и не нужна команда из молодых программистов.

- Несколько неожиданный, по-моему, результат.

- Это создает интересную проблему, существующую не только в IT, но и, например, в адвокатуре. Я пару месяцев назад разговаривал с партнером адвокатской фирмы, который размышлял, как искусственный интеллект повлияет на них. Там интересный тезис был: сейчас рутинные задачи в ближайшие годы они отдадут искусственному интеллекту, и это значит, что у студентов, которые только что выпустились, нет никакой возможности получить необходимые навыки и стать партнером.

То же самое, грубо говоря, у IT-специалистов: джуны не нужны, но чтобы стать на следующий уровень, нужно получить навыки на первом уровне. Я не нашел пока название этому феномену нигде, но мне кажется, это будет любопытно поизучать. Что делать с этой проблемой, исчезнувшей первой ступеньки? В науке, на самом деле, то же самое.

То, что делали студенты часто, это предобработка данных, анализ данных, если говорить про количественные исследования в экономике, в социологии. Это тоже сейчас можно сделать с помощью программы, и не нужно сильно много про это знать. В этом смысле научный сотрудник или старший научный сотрудник, вооруженный этим инструментом, может сделать то, для чего раньше ему требовалась команда стажеров. Если говорить про востребованные навыки, то, если мы понимаем ловушку исчезнувшей ступеньки, следующий вопрос – что мы можем посоветовать школьнику, который сейчас в 9-10 классе и думает, чем ему заняться дальше. И там есть разные ответы на этот вопрос.

- Вопрос, каким будет влияние на экономику и какие риски создаст массовое внедрение искусственного интеллекта. Я сразу скажу, недавно писали о том, что был такой момент в Израиле, когда прошла хакерская атака со стороны одной из террористических организаций, и в течение примерно полусуток Израильские больницы не сделали ни одной операции, потому что все подвязано было к компьютерам. То есть такие вещи возможны, если все перевести, что-то переводить на искусственный интеллект, а он может быть подвержен такой атаке.

- Да, это действительно возможно. Но, смотрите, если возвращаться к влиянию на экономику, есть разные прогнозы. Я посмотрел: есть прогноз McKinsey Global Institute, что к 30-му году дополнительно ВВП получит 13 триллионов долларов. Это примерно на 1-2% рост ВВП плюс. Pricewaterhouse Coopers еще больше дает - 15,7 триллионов. В принципе, эффект, видимо, будет достаточно заметный для экономики.

Но надо понимать, что он будет распределен в разных сферах: где-то производительность вырастет очень сильно, а где-то эффект практически не будет, или он даже будет отрицательным. И многое на пути к этому положительному эффекту искусственного интеллекта зависит от того, насколько мы можем преодолеть риски. Безопасность – один из таких серьезных рисков. Причем в случае с искусственным интеллектом это не только безопасность сетей, защита от хакерских атак: тут ничего нового нет. В этом смысле искусственный интеллект сейчас активно используется именно для защиты. Он может автоматически мониторить, что происходит, как-то реагировать на хакерские атаки, помогать. В этом смысле он может эту задачу даже немножко упрощать.

Проблема в том, что обостряется вопрос о приватности, о защите данных. Данные, как уже 20 лет говорят, это новая нефть. У нас сейчас проект «Экономика данных» запустили, то есть вопрос ключевой – это именно данные. Это – пища для искусственного интеллекта, чтобы он развивался, и одновременно то, что надо защищать. И тренды там достаточно серьезные.

Возьмем медицину: понятно, что если люди будут отдавать свои персональные данные искусственному интеллекту, то он будет лучше, более точные советы давать. Но одновременно с этим не все это готовы делать объективно, потому что риск утечки достаточно высок, а есть весьма чувствительные данные.

И в разных других сферах тоже самое: вопрос еще в том, насколько люди обеспокоены приватностью, готовы ли они делиться своими данными. И здесь у нас в рамках того же исследования, которое я упоминал, мы такой вопрос задавали: готовы ли жители России делиться персональными данными с государством или компаниями в случае, если это поможет России в технологической гонке. И готовы у нас только 25% населения. Остальные скорее нет. Это тоже говорит, что есть с чем работать.

С одной стороны, есть непонимание того, как это устроено. С другой стороны, действительно у нас масса утечек. Постоянно очень крупные базы данных пропадают, их потом используют мошенники для социальной инженерии, крадут деньги с аккаунта. Это серьезная проблема. Нельзя сказать, что ее могут быстро решить: это, видимо, та сфера, куда надо инвестировать очень много денег и эти риски закладывать, безусловно.

Как в случае с хакерской атакой, которую вы упомянули в Израиле, или как в случае с падением Windows во всех устройствах, это реально создает проблему, что если у нас система централизована, и зависят от искусственного интеллекта, а люди уже утратили какие-то возможности без этого обойтись. Система оказывается уязвимой, это факт.

А другая проблема – это то, что называется цифровое неравенство. Она пока остро не стоит, но вызывает серьезную обеспокоенность у исследователей, у тех, кто разрабатывает технологии, потому что, с одной стороны, есть неравенство объективное в технологическом развитии разных стран. Это ещё полбеды: между людьми тоже есть неравенство в том, насколько они готовы использовать новые технологии. И поскольку использование ИИ дает большое преимущество на рынке труда, это увеличивает разрыв между частью населения, которое использует технологию и имеет к ней доступ, и частью населения, которое ею не пользуется и не имеет доступа. Причем эта история не столько даже про деньги, сколько про доступность, понятность.

- В общем, как я понимаю, это история про все. Потому что общество делится на две категории. Одни, кто может, а другие, кто, увы.

- Да. Большинство этих технологий, они для стран Африки все еще дороги, но при этом распространяются по такой модели, что лучше продавать 100 миллионам людей продукт за 20 долларов, чем 1 миллиону людей за 2 тысячи долларов. На самом деле, финансовый фактор, который будет составлять разрыв, не столь велик в плане денег: это не суперэлита получит доступ к технологии, это те, у кого совсем нет денег, его не получат.

Это неравенство, которое есть в образовании, в профессиональном развитии. И оно будет расти и увеличиваться.

И ещё одна проблема, про которую я тоже хотел сказать, это этика, конечно. этика принятия решений. Насколько мы можем доверить машине принимать решения? В особенности в сферах, где на карту поставлена жизнь человека, в медицине: можно ли прописывать лекарства или принимать решение об операции на основе того, что подсказал искусственный интеллект. А можно ли, если мы уверены, что он более точный, чем врач-человек? Или же мы доверяем врачу? В принципе, исследования показывают, что люди склонны верить людям, а не технологиям. Даже если люди менее эффективны с точки зрения формальных показателей в определении. Это серьезная проблема.

Или там, допустим, стандартная история про то, что машина с искусственным интеллектом должна кого-то защищать: пассажира или пешехода? При том, что пассажир, допустим, один, а пешеходов много. При этом пассажир же купил машину и заплатил за искусственный интеллект, который в ней стоит. То есть искусственный интеллект, который ведет машину, должен, получается, защитить одного человека, который его купил, но в ущерб пятерым другим. Вот такая проблема вагонетки. И очень странно, что машина может защищать других, а не владельца.

Еще одна история, что в программе искусственного интеллекта есть разные методики принятия решений. И многие из них работают по принципу черного ящика. И так получилось, что именно черные ящики, кажется, вырвались в лидеры продуктивности, и качество прогнозов у них лучше.

Но это значит, что мы не можем объяснить, почему они делают такие прогнозы. Это тоже создает много проблем.

Допустим, судье предлагает некоторые решения, но уверены ли мы в том, что эта модель не обучена на предыдущих решениях, где заложена, например, расовая дискриминация или гендерная дискриминация? Вообще, это прецедентное право получается.

В США уже есть кейсы там серьезно разбирались с историей, когда судья опирался на решение, которое подсказал искусственный интеллект, имел ли он право это делать? Китай сейчас активно экспериментирует с тем, что дает судьям возможность использовать искусственный интеллект, чтобы они могли понять диапазон наказания за некое преступление: какой он должен быть при большом количестве разных факторов. Это дает возможность нагрузку на судей сократить.

В России огромная проблема связана именно с тем, что у судей физически нет времени что-то посмотреть: поток дел слишком большой. С одной стороны, есть какая-то польза от этого, с другой стороны, мы понимаем, что за этим теряется человек. Это очень серьезная проблема, с которой человечеству еще долго придется разбираться.

- Последний вопрос: «Какие исследования о влиянии искусства и интеллекта на экономику сейчас проводятся в НИУ ВШЭ? И каковы предварительные результаты этих исследований?».

- Высшая школа экономики активно сейчас занялась темой искусственного интеллекта. Есть крупные проекты, где изучается влияние ИИ в сфере здравоохранения и в сфере занятости. Одно исследование института, где я работаю, было связано с тем, как население относится к этим технологиям. Понимают ли люди, что это? Готовы ли они принять эти технологии, использовать их? Готовы ли они делиться данными? Что на него влияет?

- И что же влияет?

- Если человек верит, что Россия в этой технологической гонке является либо лидером, либо догоняющим, то человек готов делиться данными. А если считает, что мы безнадежно отстали, то не готов.

- То есть это вопрос веры, оказывается.

- В том числе. У людей очень много связано с тем, как они видят ситуацию.

Мир сейчас еще только в начале пути. если говорить о внедрении искусственного интеллекта. Но этот путь пройти придется, и особенность последних нескольких лет в том, что развитие идет очень быстро. В этом смысле, возможно, нам не придется ждать слишком долго. То есть этот путь будет пройден, возможно, он будет пройден и за 30-40 лет, а за 5 или 10.

Беседовал Владимир Володин.