Наступает время «Железных людей». Часть вторая

Мы продолжаем беседу с Цереном Цереновым о работе возглавляемой им Мастерской инженеров и менеджеров.

- Церен, высказывание о том, что взаимодействие с искусственным интеллектом может привести к остановке развития человека, по-моему, требует дополнительных разъяснений. Разумеется, ситуация, когда человек всё время спрашивает ИИ, а тот всё время отвечает – это явный перебор. Но всё же нужны примеры, что Вы конкретно имеете в виду.

- Если вы безоглядно доверяете ИИ, то не сможете различить, насколько он говорит точно, насколько это соответствует научным фактам, либо он сам информацию придумывает. 

Поэтому, хотя многим людям кажется, что искусственный интеллект даёт только плюсы, нужно помнить: он при этом и достаточно серьёзно забирает у человека, если тот не понимает, как соблюдать технику безопасности, и просто-напросто впоследствии человек становится, по сути дела, его рабом. 

- Не слишком ли пессимистично сказано?

- Почему пессимистично? Ситуация проста: появляется как бы протез – именно такую роль начинает выполнять искусственный интеллект. А потом человек понимает, что он без ИИ вообще ничего сам не может.

- И при этом ИИ может и соврать?

- Конечно, может случиться так называемая галлюцинация: искусственный интеллект спокойно сочиняет, и даже в работе может что-то насочинить. Это сплошь и рядом встречается.

- А как с этим бороться человеку? 

- Об этом мы как раз и рассказываем: как правильно организовать работу, чтобы, во-первых, уменьшить количество такой галлюцинации (полностью убрать её, к сожалению, невозможно). Мы объясняем, что надо относиться к ИИ, как к обычному человеку, потому что человек часто тоже выдает желаемое за действительность. 

Наши ученики должны понять, что и в искусственном интеллекте может быть все то же самое. Поэтому основное, что мы должны сделать, это правильно организовать ему базу знаний, правильно организовать ему контекст, в котором он должен работать. Именно ваш личный контекст, не общий, который знают все модели, которых обучали, а ваш личный, чтобы он знал, как его правильно организовать. Потому что галлюцинации связаны именно с тем, в большей степени, что ИИ думает по поводу вашей конкретной ситуации.

Он, конечно, может придумать что-то и общеизвестное, хотя это реже встречается, но по поводу вашей ситуации он может придумать намного большее, потому что он не знает её полного контекста. И вот если вы будете постоянно развивать соответствующую базу знаний искусственного интеллекта о вас, о ваших проектах, о предпочтениях, он будет меньше галлюцинировать.

Это все равно, что какой-нибудь человек, который только пришел на работу в какую-то компанию, а ему строгий начальник вдруг начинает задавать вопросы: а как вот это, как вот это? Ему надо что-то ответить, но он новичок. И он, не зная полностью всю ситуацию, отвечает, что попало.

- То есть с искусственным интеллектом такое тоже может произойти? 

- Конечно. Именно то же самое с ним и происходит. А для того, чтобы он меньше так галлюцинировал, надо сделать так, чтобы он больше знал о вашем контексте.

Точно так же, как вот этот новичок, когда он погрузится уже в вашу компанию, уже лучше знает, что да как, он уже будет меньше галлюцинировать. Потому что он знает весь контекст: он знает, когда у вас оплаты, когда поставщики должны что-то прислать, какую конкретно продукцию вы производите, какие задержки у вас есть. И он будет намного правильнее давать ответы. А если он этого не знает, смотрите, человек может быть умный, человек может быть толковый, может закончить топовый вуз, но он не знает вот этой конкретики. Он не знает, допустим, что поставщики вчера просто отказались присылать свою продукцию. Понимаете? А начальник его спрашивает, когда что будет. Ну и он как-то что-то ляпнет.

Вот искусственный интеллект делает то же самое. Это не означает, что искусственный интеллект какой-то тупой. Он-то на самом деле абсолютно не тупой. Проблема в том, что он может не знать контекст конкретной ситуации. Поэтому он так же, как и вот этот новичок под нажимом руководителя, просто выдает что-то, что попало. Потому что вы же хотите, чтобы он ответил. Ну и он отвечает. 

А если у вас нет навыков техники безопасности, вы не понимаете, что это так, и можете принять за чистую монету то, что он сказал.

- Да. Честно говоря, я не общаюсь с искусственным интеллектом, но я думал, что это не так опасно. Оказывается, все сложно.

- Ну, с искусственным интеллектом, с одной стороны, есть определенные опасности, и мы не должны их недооценивать. Хотя я, с другой стороны, все-таки сторонник того, что он все-таки дает очень много возможностей.

И в первую очередь дает возможности тем, у кого есть определенное видение мира. Какое-то будущее, какой-то замысел. Особенно тем, кто хочет что-то реализовать, сделать.

И в этом смысле искусственный интеллект для меня – это в какой-то мере великий уравнитель. Раньше для людей, которые хотели бы что-то сделать, им надо было собирать большую команду, какие-то ресурсы финансовые иметь достаточно значительные, чтобы воплотить в жизнь свою идею. Сейчас искусственный интеллект помогает таким людям делать это с наименьшими ресурсами.

Я это хорошо вижу на своём примере: раньше мне, безусловно, нужно было бы для выполнения наших задач держать очень большую команду. Сейчас много можно что сделать с помощью искусственного интеллекта.

Поэтому я как раз привержен мнению, что он дает очень много положительного. Даже с учетом техники безопасности, с учетом того, что нужно правильно понимать, как его задействовать, с учетом того, что мы не всегда понимаем, куда это все дело может привести. Я отдаю себе отчёт, это все тоже объективная реальность. Но, с другой стороны, остановиться – это уже точно тупик.

– Церен, а не кажется, что Вы несколько отошли от простых идей системного мышления? 

– Нет, наоборот. Мне кажется, что наоборот. Мы не только не отошли, мы буквально очень хорошо сейчас показываем, что только системное мышление помогает воплотить в жизнь вот такую связку себя вместе с искусственным человеком и сделать из себя вот такого «железного человека».

- Не слишком ли Вы часто оперируете термином «железный человек». Что он для Вас?

- Что для меня «железный человек»? «Железный человек» для меня – это тот, кто может ставить задачи или цели, как говорится, выше головы. То есть он, по сути дела, сверхчеловек. О человеке, если мы ставим какие-то определенные задачи, говорят даже, что выше головы не прыгнешь.

«Железный человек» – это тот, кто как раз всегда готов именно к этому, который может постоянно прыгать выше головы. И чтобы стать таким «железным человеком», к тому же использующим искусственный интеллект, должно помочь как раз системное мышление. И поэтому я понимаю, что я развиваю себя и также занимаюсь системным мышлением, потому что я становлюсь вот такой частью этого «железного человека».

И именно системное мышление позволяет это сделать наиболее эффективным образом, намного быстрее. И ты становишься с меньшими усилиями, с меньшим временем вот таким «железным человеком». Поэтому мы обоснованно считаем, что сейчас наше время.

- Ну что ж, это хорошо, что Вы ставите такие задачи, делаете такие вещи. По-моему, это очень хорошо. И люди идут к Вам работать.

- Да, я считаю, что вот как раз сейчас есть явное объяснение, как можно применять системное мышление именно в эпоху искусственного интеллекта. 

Почему именно сейчас важно наше человеческое мышление, в век искусственного интеллекта. Обязательно нужно человеческое мышление, более того, оно должно быть очень сильным. И как раз те, кто это сейчас понимают, они очень серьезно достигают положительных эффектов от того, что используют такой симбиоз. Симбиоз искусственного интеллекта и сильного человеческого интеллекта, который ставит задачи, предусматривающие необходимость прыгнуть выше головы. И все это вместе создаёт такую систему, которая может ставить и решать такие вот задачи, первоначально считающиеся за гранью возможного. 

Вот таких людей мы стараемся обучить, воспитать. У нас соответствующее сообщество, такая экосистема развития интеллекта, постепенно двигаемся. Помогаем людям найти какое-то свое призвание. Это даже не столько организация, не столько стартап, а как раз такое сообщество людей, которые создают что-то своё в мире, создают системы и как бы живут в этом сообществе, живут этими смыслами, идеями, пытаются что-то вокруг изменить.

Беседовал Владимир Володин.

*фото сгенерировано ИИ.