Антон Липовский: Ну вот, нам написали: «Искусственный интеллект – всего лишь секретарь. Это просто помощник». Ну, как будто бы уже не просто секретарь. Мария Новикова: Еще пишут: «Пользуюсь ИИ, если надо узнать характеристики смартфона или про вещи, копия или оригинал и откуда вещь: Китай, Киргизстан и так далее». Действительно, очень удачное применение искусственного интеллекта облегчает действительно нам жизнь. Антон Липовский: Да. Мы обещали авторитетного эксперта, и он выходит на связь с нашей студией. Валентин Вячеславович Климов – заместитель директора Института интеллектуальных кибернетических систем Национального исследовательского ядерного университета МИФИ, кандидат технических наук, доцент. Мария Новикова: Валентин Вячеславович, здравствуйте! Антон Липовский: Здравствуйте, Валентин Вячеславович! Валентин Климов: Доброе утро! Антон Липовский: Ну, давайте все-таки мы искусственный интеллект как-то по-другому расшифруем. Это все-таки какой-то большой продвинутый калькулятор? Где сосредоточено огромное число данных, какие-то дата-центры (центры хранения данных), какие-то... Я не знаю, какие?.. Мария Новикова: Сервера. Антон Липовский: Двоичные коды. Двоичные коды – это 10, 01. Как это вообще происходит? Давайте объясним все-таки, что такое искусственный интеллект с технической точки зрения. Валентин Климов: Называть искусственный интеллект калькулятором было бы, конечно, заблуждением. На самом деле это сейчас такой массив информации, большой объем данных, который туда загружен. Уже сейчас практически все ведущие мировые производители искусственного интеллекта, они загрузили туда миллионы, миллиарды гигабайтов информации. Чаще всего текущая версия искусственного интеллекта основана на нейронных сетях. Это некий математический аналог нейронов, которые есть в голове у человека ну и других живых существ, но некоторым образом математически обобщенный и приближенный к этому. На данный момент все-таки число этих нейронов существенно ниже, чем число нейронов в голове у того же человека. Тем не менее искусственный интеллект – то, что сейчас принято им считать, все-таки это по большей части, как вы уже говорили, помощник, ассистент. Такая вещь, которая может снять с нас рутину, упростить какие-то операции, которые могут быть подвергнуты автоматизации. Но пока еще не возник сильный искусственный интеллект. То есть не возникло такое осознанное существо с сознанием, с эмоциями, с эмпатией и так далее. До этого еще там какое-то время должно пройти. Мария Новикова: Валентин Вячеславович! Вот искусственный интеллект в последнее время развивается просто стремительно. И в нашей стране тоже очень большое внимание этому уделяют, в том числе и разрабатывают стратегии и документы. И вот одна из новостей. Разработка и внедрение искусственного интеллекта будет учитывать традиционные русские духовно-нравственные ценности, в том числе права и свободы человека, патриотизм, служение Отечеству и так далее. На ваш взгляд, с помощью каких инструментов это возможно реализовать? И вообще, можно ли воздействовать действительно на развитие искусственного интеллекта? Валентин Климов: Да. В полной мере на самом деле к этому прийти будет сложно. Поскольку на самом деле вот эти духовно-нравственные ценности – это достаточно такая высокая материя, и пока она трудно осознаваема даже для нас самих. Но! Что уже сейчас понятно? То, что нужно учить искусственный интеллект на базе суверенных технологий: на базе собственных компьютеров и процессоров, на базе дата-центров, которые формируем мы сами, то есть российские или русскоязычные, которые присутствуют в нашем пространстве. Потому что искусственный интеллект, грубо говоря, как ребенок. То, что ты в него закладываешь: те примеры, те наборы данных, которые поступают к нему на вход, и также те настройки. Как бы человек пытается смотреть, на чем этот искусственный интеллект, грубо говоря, вырос, какие он ответы дает. Если он дает какие-то некорректные ответы, его можно подправить. Очень важно, чтобы это были именно те наши ценности, те данные, на которых мы принимаем решение, примеры из нашей жизни. Ни для кого не секрет, что по одним и тем же вопросам, если мы будем рассматривать те же большие языковые модели от зарубежных производителей, они на некоторые факты, на которые мы бы ответили по одному, как бы с присущей нашей цивилизации, русскоязычной цивилизации, какие-то ответы. Западная цивилизация, например, если мы говорим про американские нейросети, большие языковые модели, они ответят по-другому. Там есть восточные, с восточными ценностями, произведенные в Китае. У них тоже как бы те данные, которые поступали на вход, эти методы и алгоритмы, которые там использовались, – они имеют отпечаток той цивилизации, которая их произвела. Поэтому здесь, в общем-то, нужно уделять этому внимание. И если этим не заниматься, то может оказаться так, что мы будем пропагандировать зарубежные ценности. Антон Липовский: Хорошо. Вы сказали, что искусственный интеллект – это как ребенок: что заложишь, то он и будет впоследствии выдавать. А до какой степени он? Мы говорим, что искусственный интеллект обучается, причем непрерывно. До какой степени он может обучаться? Что мы можем получить в итоге? Валентин Климов: Ну, смотрите. Я говорю: сейчас пока не достигнуто состояние сильного искусственного интеллекта, который осознал бы, что он существует сам по себе, и задал себе саму программу дальнейшей жизни, и мы, в общем-то, стали для него не нужны. Такого еще нет. До сих пор все-таки это вот такая очень умная, продвинутая, грубо говоря, игрушка, которая все больше и больше воспроизводит функций и интеллектуальных операций, которые присущи человеку: распознавание лиц (вот как здесь показывают на экране), голосовые какие-то сообщения, генерация картинок, решение каких-то математических задач и так далее, и так далее. Сейчас все-таки это применение в различных сферах жизнедеятельности. Их достаточно много. Практически все, которые мы знаем, так или иначе связаны с интеллектуальными операциями, поэтому могут быть в какой-то мере дополнены искусственным интеллектом, интеллектуальными ассистентами, интеллектуальными агентами. То есть существует много различных названий. Вот эти интеллектуальные агенты, они как бы упрощают, ускоряют, помогают человеку находить какие-то ранее незамеченные им особенности. Например, в медицине человек иногда может просмотреть какое-то там, не знаю, опухоль на ранней стадии или что-то в этом духе. А компьютер, скорее всего, не просмотрит. Он не устает. Он, в общем-то, заточен на то, чтобы работать в режиме 24/7. Поэтому как бы мы идем, конечно, к тому, что рано или поздно, скорее всего, появится некоторый там сильный искусственный интеллект. Я думаю, там 10, 20, 30 лет как бы до этого должно пройти, в общем-то. Но пока компьютер не осознал себя отдельным существом. Он не может сам себе задавать программу дальнейшего обучения, не может сам себя там, по большому счету, как бы саморазвивать. Все-таки этой функций занимается до сих пор человек. И вторая важная особенность, что этот человек до сих пор принимает решения. То есть все-таки, какая бы ни была интеллектуальная система в любой сфере деятельности: медицина, образование, даже оборона, решение остается за человеком. То есть ему некоторым образом даются там одно-два или три сценария принятия какого-либо действия. И человек, исходя уже из своего опыта, исходя из своего мастерства, решает окончательно, по какому из путей пойти. Мария Новикова: Есть какие-то сферы, до которых точно не допустят искусственный интеллект, на ваш взгляд? Антон Липовский: И что может наоборот, например, нивелироваться в ближайшее время? Валентин Климов: Смотрите. Давайте начнем с конца. С того, что может нивелироваться. Скажем так, все рутинные профессии, рутинные операции так или иначе будут вытесняться специалистами и решениями по искусственному интеллекту. Ну, например, там такси. Сейчас понятно, что через некоторое время все больше и больше машин будет беспилотными. Можно гадать о том, сколько лет должно до этого пройти. Но это такой закономерный факт, что интеллектуальные решения по управлению автомобилями, они допускают меньше ошибок, могут ездить и взаимодействовать с другими интеллектуальными автомобилями, взаимодействовать с интеллектуальными светофорами, формировать трафик, который едет быстрее, переключает там светофоры и так далее. То есть эта сфера рано или поздно по большей степени вытеснится, соответственно, интеллектуальными машинами и так далее. В определенной степени даже генерация новостей, сборка и анализ информации в таком быстром режиме. Ну, вы, наверное, уже знаете, что во многом бегущие вот эти строчки и бегущие горящие новости, они генерируются интеллектуальными различными решениями. На фондовом рынке торгуют роботы. Они делают это гораздо быстрее, анализируя там сотни новостных заголовков и принимая решения: продавать, покупать и так далее. Это те сферы, где в большей степени уже сейчас там либо вытеснена, либо большое влияние оказывает там система искусственного интеллекта. Я думаю, что из тех сфер, где все равно человек останется, как минимум, это оборона. То есть нельзя полностью довериться Скайнету, который там уничтожит все, что только попадется под руку. Антон Липовский: Медицина. Валентин Климов: А медицина, конечно. Что здесь нельзя заменить все-таки руки врача. Нельзя заменить консилиум докторов, которые все-таки имеют опыт, имеют историю выздоровлений – и позитивную, и негативную. И решение все-таки за человеком: как бы свою жизнь, кому и зачем доверять? Ну вот все простейшие операции – они да, будут заменяться интеллектуальными... Антон Липовский: Да. Ну, это как раз рутина. Рутина. Валентин Вячеславович! Валентин Климов: А рутину, я думаю, всю, которая у нас есть: там бухгалтерия, там какая-то генерация документов, в том числе и юридических, простейших... Антон Липовский: И то бухгалтеров, и то хорошего бухгалтера (мы тоже со специалистом, с финансовым экспертом обсуждали) не заменить. Ну вот, хорошее сообщение из Ленинградской области. У нас просто не так много времени, к сожалению, остается. «Искусственный интеллект таит опасность. Часть молодых людей не умеют анализировать. И если в искусственный интеллект что-то подгрузить плохое, это может остаться в сознании молодежи». С какими? Мы еще даже до суперискусственного интеллекта не дошли, а уже говорим о новых вызовах. Это вот генерация в том числе и депрессивных настроений, так называемых в некоторых странах, которые выражаются в непонятных рекомендациях молодежи, в том числе какие-то суицидальные находили следы в разных странах. С какими вызовами мы сталкиваемся? И как мы будем это все бороть? Валентин Климов: Смотрите. Первый вызов, который уже обозначен был в сообщении, – это то, что мы разучиваемся думать. И, в общем-то, подсядем на эту иглу информационную и интеллектуальную, и будем полностью все рекомендации искусственного интеллекта воспринимать за чистую монету, как правду. И не отделять их от фейков, от так называемых «галлюцинаций», то есть когда он, в общем, не специально, но ошибается. В общем-то, сейчас с тем искусственным интеллектом она действует как там статистически выверенная машина. И она, грубо говоря, подсказывает, как в этой ситуации поступило бы большинство людей среднего уровня рассудка. В общем-то, как показывает история, большинство может ошибаться, во-первых. Большинство может быть непрофессиональным. И точно так же, обобщив всю интеллектуальную мощь вот этого большинства, необязательно будет найдено именно правильное решение. Поэтому надо... Антон Липовский: А как контролировать это? Валентин Климов: Да. Мы должны обладать критическим мышлением. Мы должны сравнивать это исходя из своего опыта. Возможно, проверять на нескольких системах подобного плана. Ну и как бы, в общем-то, решение всегда за нами. Поэтому, в общем-то, чтоб не разучиться думать, нужно постоянно думать. Поэтому вот здесь важно. И если говорить в части суицидальных настроений, то, конечно, нужно и производителям искусственного интеллекта с этим бороться. Ну и не воспринимать эту интеллектуальную машину, которая тебе что-то советует там выйти в окно, ну как бы за чистую монету. Здесь надо просто этому обучать и детей, и взрослых, и наших родителей, и так далее. Не всему доверять все, что происходит вокруг. Мария Новикова: Да. Антон Липовский: Все-таки, наверное, в тех же школах, да? Про что мы сегодня в одной из новостей говорили. Нужно вводить такие, наверное, уже дисциплины какие-то, классные часы, что ли, чтобы работать с искусственным интеллектом. Тем более что в обучение (мы сейчас расскажем тоже об этом, кстати) очень активно внедряется. Спасибо! Валентин Вячеславович Климов с нами был на связи, заместитель директора Института интеллектуальных кибернетических систем Национального исследовательского ядерного университета МИФИ, кандидат технических наук, доцент.