Робот-гуманоид с искусственным интеллектом атаковал женщину на Весеннем фестивале в Китае. Андроид должен был танцевать, но почему-то начала действовать не по сценарию. С чем это может быть связано и чем грозит человечеству развитие человекоподобных машин с ИИ, ОТР рассказал эксперт Роман Душкин. Он отметил, что восстание машин действительно возможно, но не такое, как мы себе представляем. Недавно в Китае состоялся большой Весенний фестиваль, участие в котором принимали человекоподобные роботы H1 от компании Unitree. Они выступили на мероприятии в качестве артистов. Вместе с людьми андроиды исполнили китайский народный танец Янгэ, передало издание aol.com. Выступление получилось очень зрелищным. Роботы, одетые в красные жилетки с белой меховой оторочкой, выполняли сложные танцевальные элементы, вращали и подбрасывали платки. Все шло хорошо, зрители завороженно наблюдали за действом, стоя за оградой. Но в какой-то момент один из роботов медленно пошел к толпе, а затем сделал быстрый рывок и выпад головой, ударив одну из посетительниц. В происходящее быстро вмешалась охрана, которая оттащила механического дебошира. Видео с инцидентом разошлось по социальным сетям. Роботы H1 управляются с помощью искусственного интеллекта. Они могут имитировать человеческую походку, бегать со скоростью до пяти метров в секунду и переносить грузы до 30 килограммов. До этого случая еще ни разу не появлялось информации об атаках роботов этой модели с ИИ на людей. Важно помнить, что этого робота программировали для мероприятия как танцора. Внимание на это в интервью ОТР обратил генеральный директор «А-Я эксперт», разработчик искусственного интеллекта Роман Душкин. «Я могу предположить, что, если это робот-танцор, то конечно же, в его сценарии поведения нет никаких возможностей по любым действиям с нанесением вреда чему бы то ни было, в том числе людям», — сказал он. Может быть, в скором времени все будет иначе, но пока даже роботы с ИИ работают на сценарном управлении. У них прописаны программы действий, по которым машины танцуют, прыгают или показывают какие-то трюки. Сейчас только начинаются эксперименты, чтобы внедрить в такие устройства нечто большее, чем языковые модели, которые учатся еще и благодаря видеокамерам, датчикам и прочему, пояснил Душкин. «То, что мы видели сейчас на видео — это сбой сценария. Робот подошел к этой ограде, которая зрителя отделяла, и, вероятно, его камеры увидели то ли сетки, то ли лица людей, и запустили в нем сценарий, который заставил его так дернуться. Он же не манипулятором своим человека стукнул, не сделал выпад оружием. Он просто дернулся вперед в наклоне», — сказал собеседник ОТР. Скорее всего, он выполнил одно из па, которому его «обучили». Такие роботы не могут двигаться каким-то образом, не предусмотренным в программе. Элементы написаны в сценарии, но другое дело, что их последовательность может быть не установлена. В таком случае робот выбирает движение в зависимости от ситуации. «Движение, которое мы видим на видео, наверняка было в репертуаре этого робота. Это первая гипотеза. Вторая гипотеза, что у него механизмы из строя вышли по каким-то внешним причинам. Такое тоже может быть. И произошло такое движение. Но это точно не самовольный, сознательный акт нападения на человека. Точно нет», — успокоил разработчик ИИ. Как заметил Роман Душкин, полностью самостоятельно действующих роботов пока нет, но это может измениться. Тем более, что разработки и эксперименты проводятся. Да и нынешняя ситуация, независимо от «мотивов» H1 и причин выпада, довольно опасна — ведь люди могут получить травму. «Как автомобиль является источником угрозы для человека, так и железный робот с металлическими или пластиковыми манипуляторами может стать такой опасностью. Если человек будет его эксплуатировать, отрицая правила безопасности, то в конце концов произойдет какая-то беда», — подчеркнул эксперт. Роман Душкин напомнил, что все требования безопасности пишутся кровью, а те, кто их нарушает, обычно платят здоровьем или жизнью. До восстания машин человечеству еще очень далеко, но оно действительно возможно. Душкин вспомнил словам американского математика и философа Норберта Винера на этот счет. Почти век назад ученый написал, что восстание машин не будет выглядеть так страшно и апокалиптично, как нам рассказывают фантасты и СМИ. В его видении это метафора, которая описывает момент, когда устройства, которые обеспечивают наше благосостояние, выйдут из строя. Человек уже очень сильно зависит от техники. В первую очередь, от той, что обеспечивает электроснабжение, связь, интернет и другие важные функции. Многие могут впасть во фрустрацию, даже если не получится выпить горячий напиток с утра из-за сломанного электрочайника или кофеварки, заметил собеседник ОТР. Восстание машин здесь означает момент, когда все машины начнут отказывать по техническим причинам. «Когда мы окружим себя роботами-андроидами, которые будут делать все, посуду в посудомойку убирать, гладить рубаху, вести машину , потом они начнут массово в негодность приходить и переставать работать, потому что инфраструктура не поддерживается — вот это будет восстание машин», — подчеркнул специалист по ИИ. А вот сценарий, когда машины объединяются и решают, что человечество им мешает, невероятен. Роботы не будут массово расправляться с людьми, убежден Роман Душкин.