Робота Фёдора разжаловали из блогеров

Робота Фёдора разжаловали из блогеров | Программы | ОТР

И надо ли ограничивать свободу слова искусственному интеллекту?

2020-10-12T20:06:00+03:00
Робота Фёдора разжаловали из блогеров
Домик с окнами в ад
Безработные с приданым
ТЕМА ДНЯ: Мусор дорожает
Индекс Масленицы: блин, как всё дорого!
ОПЕК-батюшка, нефть-матушка…
Торговля данными о россиянах
Что нового? Южно-Сахалинск, Чебоксары, Воронеж
Новые схемы обмана с банковскими картами. Вакцинация продолжается. На что тратим деньги. «Всё включено» по-русски. Как сдержать цены? Чем питаются школьники. Отмена крепостного права. Цифровая школа
Как сдержать цены?
Наталья Починок: Никакие профессии не умрут, они просто будут иметь всё большую цифровую составляющую
Гости
Роман Душкин
директор по науке и технологиям Агентства искусственного интеллекта
Владимир Белый
эксперт по робототехнике, Глава и основатель фонда «Alpha Robotics Venture»

Оксана Галькевич: А история, собственно, вот в чем, прелюбопытная история – робот Федор разжалован из блогеров. Ну помните, наверное, его, это человекоподобная машина, созданная для выполнения сложных высокотехнологичных задач на орбите. В прошлом году он действительно побывал в космосе и после стал настоящей знаменитостью, звездой, в том числе на просторах интернета и его социальных сетей.

На днях Федор написал пост в своем Twitter-аккаунте, где заявил, что он в принципе невысокого мнения о людях: они, мол, подвержены слабостям, нарушают сухой закон на орбитальной станции, говорят по заказу всякую чепуху и стремятся покинуть отряд космонавтов ради места в Государственной Думе. Более того, Федор четко даже назвал имена своих коллег-людей, которые, в отличие от него, как он сказал, замечены в подобном поведении, – это космонавты Сураев, Самокутяев и Серов. И вот они теперь намерены обратиться даже в суд.

Константин Чуриков: Аккаунт Федора в Twitter тут же был закрыт, ну и следов цифровых уже не осталось. Вот вопрос по-прежнему есть, что это было, сбой искусственного интеллекта, или все-таки страницу в соцсети кто-то редактировал, кто-то от имени Федора, прикрываясь цифровизацией, эти гадости писал. Сейчас будем с этим разбираться.

Я вот сначала все-таки процитировал, потому что, Оксана, мы так с тобой изложили, тут все-таки нужна цитата. Значит, вот смотрите, какая цитата, секунду-секунду-секунду... «Мое мнение о людях невысокое, – пишет робот Федор. – Вот три космонавта, экипаж 2014 года, на видео (такой-то) рассуждает о тиграх (там был День тигра) – при чем здесь тигры? Остальные пьяные», – пишет он. Дальше он пишет, что, значит, вообще вот он, в отличие от космонавтов, полностью выполняет полетное задание и «не стремится покинуть отряд космонавтов ради тепленького местечка в Государственной Думе», ну и так далее.

Оксана Галькевич: Молодец, Костя.

Константин Чуриков: Серьезный вызов брошен.

Оксана Галькевич: В принципе иногда, действительно, нужно дважды повторить, что было сказано.

Константин Чуриков: Конечно.

Оксана Галькевич: Друзья, выходите с нами на связь, что вы в принципе думаете об этой ситуации, о роботе Федоре или его администраторе. А у нас на связи сейчас Владимир Белый, эксперт по робототехнике, глава и основатель фонда Alpha Robotics Venture. Владимир, здравствуйте.

Владимир Белый: Добрый вечер.

Константин Чуриков: Владимир, здравствуйте.

Оксана Галькевич: Владимир, вы знаете, собственно, тут вопрос-то основной такой. Вот аккаунт тут же удалили, закрыли так, как будто бы это действительно искусственный интеллект занимался, отвечал на вопросы, какие-то записи делал. Может быть, просто стоило там админа, что называется, сменить, ну человека, который все это строчил? Неужели сам робот это все вытворял?

Владимир Белый: Коллеги, хочу вас всех поприветствовать, во-первых, добрый вечер. Во-вторых, сразу сказать, что к роботу Федору не имеет никакого отношения этот аккаунт, то есть, собственно, его вели люди. Собственно, вообще здесь и новости никакой не нужно было делать, потому что какие-то люди между собой что-то там переписываются в интернете, соответственно, это их личное отношение, к робототехнике или к искусственному интеллекту это вообще не имеет никакого абсолютно отношения.

Оксана Галькевич: Ну вот...

Константин Чуриков: То есть еще один крот где-то там завелся в этой организации.

Оксана Галькевич: Окопался.

Константин Чуриков: Да.

Хорошо, тогда на будущее. Вот смотрите, тем не менее возникают эти андроидные человекоподобные роботы, значит, они говорят, что у них есть какой-то интеллект искусственный. Где они должны, как сказать, интеллектуально расти? Они должны использовать для этого Всемирную паутину, или, я не знаю, живые люди, умные люди, просвещенные должны его чему-то обучать? Вот откуда он должен брать свои знания?

Оксана Галькевич: Способен ли он к саморазвитию, что ли, ты так ставишь уже вопрос?

Владимир Белый: Вообще любой искусственный интеллект берет все свои знания из библиотек данных. То есть есть, соответственно, библиотеки данных, которые пополняются либо из интернета, либо из специальных ресурсов, соответственно, на основе этого любой искусственный интеллект или элементы искусственного интеллекта начинают производить свое самообучение. Затем, соответственно, идет большая работа, которая позволяет каким-то образом уже делать решения или определенные выполнять цели, которые ставят нейросетям и алгоритмам, которые это все делают.

Константин Чуриков: Хорошо, тогда еще последний, наверное, к вам вопрос. Все-таки есть ли какая-то с точки зрения, не знаю, страшилок нашего будущего опасность того, что роботы выйдут из-под контроля и уже не робот Федор, а какой-то реальный начнет к чему-то призывать, что-то, может быть, для кого-то не то говорить? Или это все выдумки фантастов?

Владимир Белый: Вообще, знаете, в Сеть, чтобы сами роботы регистрировались, такого факта еще не было, его не существует. Есть, соответственно, факты, когда люди размещали в соцсетях некие чат-боты, которые начинали от лица якобы искусственного интеллекта заявлять о том, что вот они против человечества и что человечество надо срочно поменять, собственно, призывал даже к каким-то очень неприятным лозунгам, такой искусственный интеллект отключали, соответственно, от этих соцсетей. И вот эти прецеденты показывали, что все должно быть под контролем, под контролем тех, кто конкретно в этом разбирается, умеет работать с нейросетями, с алгоритмами и элементами искусственного интеллекта.

Потому что если мы используем опять же неконтролируемо искусственный интеллект или его элементы, то это может привести к любым абсолютно последствиям, которые даже просчитать невозможно. Как в фильме это не произойдет, который мы все знаем по голливудским исполнениям, но при этом это может быть серьезной проблемой, которая вызовет, скажем, какие-то сбои, например, или вызовет какие-то негативные последствия, когда система по техническим сбоям может решить, сделать то или иное действие.

Константин Чуриков: Ага.

Владимир Белый: То есть так было, например, когда работали светофоры, так было, когда, например, работали с автомобильным движением. Например, даже в Москве ДИТ, Департамент IT Москвы, он тоже, соответственно, использует системы нейросетей, который тоже сбоил, и, соответственно, это привело к не очень хорошим последствиям с этими цифровыми пропусками и так далее.

Константин Чуриков: Ой, да.

Владимир Белый: В банке то же самое, то есть когда в Сбербанке был очень серьезный инцидент, когда якобы искусственный интеллект нарушил протоколы, соответственно, куда-то ушли, по-моему, 5 миллиардов рублей или что-то около этого. То есть...

Оксана Галькевич: Но тут вопрос на самом деле, кто чаще эти протоколы нарушает, простые люди, которые сливают личные данные в интернет, например, обычных граждан или все-таки вот эти вот искусственные интеллекты

Константин Чуриков: Автоматическая какая-то структура. Спасибо.

Оксана Галькевич: Эти автоматизированные системы.

Константин Чуриков: Владимир Белый, эксперт по робототехнике, глава и основатель фонда Alpha Robotics Venture, если я правильно произнес. Сейчас выслушаем Романа Душкина.

Оксана Галькевич: Выслушаем, да, и несколько зачитаем сообщений. Вот нам пишут люди: «Он же робот, ему что впаяли, то он и говорит». Кто-то говорит: «Да перепаять его просто и делов-то, собственно говоря».

Константин Чуриков: Роман Душкин, директор по науке и технологиям Агентства искусственного интеллекта. Роман, здравствуйте.

Оксана Галькевич: Здравствуйте, Роман.

Константин Чуриков: А вы что скажете, мог это быть робот все-таки?

Роман Душкин: Здравствуйте.

Константин Чуриков: И кто его такому плохому научил?

Роман Душкин: Владимир уже сказал, это неофициальный аккаунт робота Федора.

Константин Чуриков: Так.

Оксана Галькевич: Ага.

Константин Чуриков: Нам говорили, что он раньше был официальный, но ладно, да, хорошо.

Роман Душкин: Зачем это мусолить, я не очень понимаю.

Оксана Галькевич: Роман, скажите, а где в современном мире место в принципе искусственного интеллекта? Вот, например, мы слышали о том, что в Соединенных Штатах уже достаточно широка площадка, где используются разные подобные алгоритмы, они ведут в том числе и бракоразводные даже процессы, и помогают в разделе имущества этим парам, которые не могут в итоге договориться, и так далее, и так далее, и так далее. Где он может быть использован, и достаточно надежно использован, пользу приносить?

Роман Душкин: Да. Ну вот смотрите, искусственный интеллект как технология – это, так скажем, такая современная сквозная технология, она подрывная технология...

Константин Чуриков: Так.

Роман Душкин: ...как были в свое время подрывными технологиями одомашнивания скота и использование пара для механизации. Соответственно, она подрывает устоявшиеся экономические отношения и вообще все устои, которые в обществе есть. Сегодня проблема в том, что искусственный интеллект – это не одна такая технология, сегодня у нас как бы сошлись в одной точке времени и пространства большое количество подобных технологий. Мы все ближе к так называемой точке сингулярности, когда технологический прогресс будет настолько быстро развиваться, что ни один человек не сможет ни противостоять ему, ни осмыслить вообще, что происходит.

Константин Чуриков: Роман, но это же прогресс, он уже среди нас. Вот вспомнить хотя бы эту девушку от «Яндекса», Алиса ее зовут, или там Siri тоже есть в виртуальном пространстве.

Роман Душкин: Да.

Константин Чуриков: Вот они где черпают свои знания, отвечая тем или иным образом на тот или иной вопрос?

Оксана Галькевич: Что им впаяли, Костя, то и говорят, как пишут наши зрители.

Константин Чуриков: Откуда им впаяли и кто им впаял?

Роман Душкин: Ха-ха. Ну тут смотрите как, я продолжу свою мысль про искусственный интеллект. Он как электричество, он будет повсюду, он уже сейчас начинает получать эту роль. Нас будут окружать системы искусственного интеллекта повсюду. И если отвечать на вопрос про девушку «Яндекса» Алису, то знания ей дают все те люди, которые с ней общаются. То есть когда в процессе общения с Алисой мы ей поручаем какие-то задачи, что-то ей объясняем, она на всем этом учится. Естественно, это происходит не так, как это происходит у ребенка, человека, когда он учится в общении с родителями, с учителями, но там тоже есть устоявшийся процесс обучения. Всему тому, чему мы Алису научим, тому она и научится, собственно. То есть аналогию можно привести простую...

Оксана Галькевич: Так, друзья, вы поняли? С Алисой и Siri о плохом не разговаривать, дурному не учить.

Роман, у нас сейчас есть звонок из Ленинградской области, давайте вместе выслушаем нашего зрителя Антона. Антон, здравствуйте.

Зритель: Добрый день.

Оксана Галькевич: Добрый.

Константин Чуриков: Добрый.

Зритель: Вот у меня такой вопрос. Если мы будем продолжать политику в таком же...

Константин Чуриков: В таком же духе... Так, продолжайте, да-да-да, мы вас слышим.

Зритель: Да, добрый день. Не приведет ли это...

Оксана Галькевич: К чему не приведет?

Константин Чуриков: Да говорите, и мы вас отпустим.

Зритель: Алло, алло?

Константин Чуриков: Не приведет ли это к чему?

Зритель: Например, к техническим проблемам, как то отключение от SWIFT. Если мы вдруг примем какие-то... Алло?

Константин Чуриков: Да, все понятно, мы вас поняли.

Оксана Галькевич: Понятно, Антон просто смотрит еще телевизор и слушает нас оттуда, а надо в трубочку это делать.

Константин Чуриков: А там задерживается, да.

Оксана Галькевич: Ну вы поняли, Роман, примерно вопрос Антона. Если так и будем дальше в таком же духе активно использовать искусственный интеллект, не приведет ли это к неким непредвиденным сбоям, внезапному отключению системы SWIFT или еще к чему-нибудь такому прямо, знаете...

Константин Чуриков: ...апокалипсису цифровому.

Оксана Галькевич: Да, локдауну такому, блэкауту серьезному?

Роман Душкин: Ну смотрите, во всех государствах по крайней мере цивилизованных, назовем это так, в том числе и в нашей стране, в области искусственного интеллекта ведется довольно серьезное нормотворчество, причем как технического характера, это стандарты. У нас в стране это технический комитет 164, который достаточно тщательно смотрит за тем, что вообще происходит на рынке искусственного интеллекта с технической точки зрения. Мы сейчас разрабатываем стандарты, которые гарантируют, что системы искусственного интеллекта будут правильно, валидно отвечать на вопросы пользователей, так скажем, отвечать на запросы людей. И также ведется очень серьезное нормотворчество с точки зрения права, то есть правовые всякие аспекты применения...

Константин Чуриков: Законодательная работа, да. Спасибо вам большое.

Оксана Галькевич: Спасибо.

Константин Чуриков: Роман Душкин, директор по науке и технологиям Агентства искусственного интеллекта.

Мы продолжим через несколько минут, будем говорить, может ли вообще наша страна наконец стать малоэтажной, чтобы города росли не этажами, а вот они как-то вширь росли. И может быть, необязательно нам нужны крупные города, может быть, где-то в маленьких селениях можно нормально жить и зарабатывать?

Оксана Галькевич: Подумай об этом, кстати, Костя.

Константин Чуриков: Подумаем через пару минут.

Авторизуйтесь, чтобы быстро и удобно комментировать
Авторизуйтесь, чтобы быстро и удобно комментировать
Комментарии (1)
Непутин
Искусственный интеллект невозможен, чтобы он был нужно отмирание клеток и образование новых связей. Что отмирает и появляется в роботе? У него есть обмен веществ? Есть отмирание и рождение новых микросхем? У него, наверно, даже неопределённости нет, только "да" и "нет". Всё, что пишет это железо заложено людьми, а значит и пишут люди. По моему, этот Фёдор вообще надувательство, машинка по перебору алгоритмов.