Жители разных стран все чаще «общаются» с умершими родственниками с помощью ИИ. Нейросеть исследует цифровой след, который оставили покойные, а затем имитирует их речевые обороты и черты характера в переписке. Некоторые считают, что такие чат-боты опасны для людей, и речь не только об их психике. ОТР расскажет, как работают так называемые «мертвоботы» и в чем их угроза. В британском Центре изучения будущего интеллекта имени Леверзальма исследуют особенности использования «мертвоботов». Сейчас такие чат-боты пользуются популярностью на Западе и в Китае. Они дают близким тех, кого уже нет, ощущение «посмертного присутствия», передали «Известия». ИИ позволяет людям переписываться с копиями умерших родственников и даже обмениваться голосовыми сообщениями, что дает им возможность как бы поддерживать связь с любимыми. Однако такое общение может нанести вред психике пользователей, считают исследователи. К тому же ничто не мешает компаниям и мошенникам интегрировать скрытую рекламу или манипулировать человеком через «мертвоботы». При общении с ИИ пользователи могут поддаться сильным эмоциям и стать из-за этого уязвимыми. Поэтому для подобных чат-ботов нужны четкие протоколы, которые не позволят использовать их в неуважительных целях: для рекламы или постоянного присутствия в социальных сетях, выразил мнение один из ученых Томаш Холланек. В интернете можно найти много платформ, которые за небольшую плату анимируют фотографии умерших людей, отметила профессор Школы коммуникаций НИУ ВШЭ Ольга Пескова. Впервые в мире такую услугу предложила Project December — на сайте компании можно не только «оживить» фото, но и вступить в переписку благодаря запатентованной нейросетевой технологии. Похожий сервис в 2021 году разработал генеалогический сайт MyHeritage. Он создает видеоролики на основе фотографий умерших родственников. Это услуга быстро набрала популярность, но некоторым пользователям не понравился пережитый опыт: они сочли его жутким и безнравственным, рассказала Пескова. Россиянка, переехавшая в Кремниевую долину, в 2017 году анонсировала чат-бот Replika, который должен был работать как виртуальный помощник. Но затем девушка «воскресила» в своей разработке внезапно умершего друга, создав ему «цифровой памятник». С началом пандемии коронавируса число пользователей Replika подскочило до 10 миллионов — с его помощью люди по всему миру переживали изоляцию и скорбь. Сначала к «мертвоботам» относились как к развлечению вроде сервисов по созданию дипфейков, но потом их позиционирование изменилось. Чат-боты стали продвигать как терапевтические платформы, которые помогают взрослым пережить утрату, а детям — «поговорить» с умершими родителями, объяснила профессор. «Мертвоботы» пока не добрались до массового пользователя в России, но в нашей стране проводят похожие эксперименты. Например, с помощью ИИ «оживили» артиста Юрия Никулина: его цифровой двойник «снялся» в семейной комедии. Вполне возможно, что чат-боты доберутся и до отечественных соцсетей, ведь интерес к ИИ растет везде, считает старший преподаватель факультета управления СПбГЭУ, эксперт в области нейросетей Александра Веретено. В том, что «мертвоботы» придут в Россию, не сомневается и главный специалист отдела комплексных систем защиты информации «Газинформсервиса» Дмитрий Овчинников. Но вряд ли они наберут большую популярность, ведь россияне обычно трезво воспринимают смерть и не часто хотят «воскрешать» близких с помощью голосовых записей и прочего, обратил внимание эксперт. Он выразил мнение, что такие чат-боты максимум станут «игрушкой» для состоятельных людей. Открытым остается вопрос безопасности подобных платформ. Поднимаются также этический и нравственный вопросы: детей стоит оградить от чат-ботов, ведь они могут привыкнуть к общению с виртуальными покойниками, подчеркнула Ольга Пескова. Психологическая зависимость угрожает и взрослым: есть риск, что после отказа от «мертвобота» они словно заново переживут утрату близкого. Говоря об этом, Пескова напомнила о психических срывах подростков из-за смерти виртуальных питомцев тамагочи. Если «мертвобот» заблокируют, человек рискует пережить сильную эмоциональную боль и даже получить психическое расстройство. Поэтому тот же Project December сразу предупреждает пользователей, что время общения с чат-ботом ограничено, продолжила Ольга Пескова. Однако переписка и обмен голосовыми сообщениями с ИИ очень затягивает людей: часто цифровой оттиск покойного воссоздают с пугающей точностью. Именно из-за этого идея «воскрешающих» платформ такая неоднозначная. С одной стороны, это инновационный подход к психологической поддержке и сохранению памяти о близких, но с другой, не исключены проблемы этического характера, заметила Веретено. Закон пока никак не ограничивает работу таких сервисов. Более того, пользователи самостоятельно загружают в них данные переписок, подписывая согласие на предоставление информации. А некоторые отправляют туда сведения о себе, чтобы поддержать близких в случае собственной смерти, и тогда создание чат-бота считается последней волей покойного. Разовьются ли технологии по цифровому «воскрешению» до массового использования, пока не ясно. Сейчас их применяют в рамках экспериментов и провокаций. В любом случае перед масштабным запуском необходимо позаботиться о правах пользователей — как живых, так и умерших, заключила Ольга Пескова. Воспользоваться чат-ботами могут и мошенники, которые уже давно научились прикидываться живыми людьми. Жертвам стали приходить видео-сообщения в Telegram от фейковых «родственников».