Вкалывают роботы
https://otr-online.ru/programmy/segodnya-v-rossii/vkalyvayut-roboty-65399.html
Тамара Шорникова: «Вкалывают роботы...», и сразу хочется продолжить всем известное «...а не человек». Так решили назвать тему этой получасовки. Будем говорить о том, как далеко в ближайшее время зайдут новые технологии, где они смогут либо потеснить человека, либо усилить его, либо, скажем прямо, заменить.
Уже с февраля следующего года в пилотном режиме искусственный интеллект будет проверять сочинения по литературе, русскому языку, истории и обществознанию. Авторы разработки говорят о том, что это поможет разгрузить учителей, даже посчитали, на сколько – примерно на 20%. Но сможет ли это адекватно заменить учительскую работу? Сможет ли программа оценить стиль изложения, красоту, в конце концов, оценить содержание? Тут вот говорится, что «снизится человеческий фактор» – а хорошо ли это? Где мы за прогресс, а где, может быть, его нужно и как-то попридержать? Будем обсуждать.
Чего вы боитесь? Поделитесь в прямом эфире: переживаете ли вы, что роботы скоро сменят вас на вашей работе, или уверены за себя? Или ждете, что новые технологии придут и сделают ваш труд лучше или дадут вам новую работу? Пообсуждаем.
У нас в студии Роман Душкин, директор по науке и технологиям «Агентства Искусственного Интеллекта». Роман, здравствуйте.
Роман Душкин: Здравствуйте.
Тамара Шорникова: Часто достаточно появляются такие новости, где нейросеть то помогает, например, врачам на основе каких-то там данных, анализов, жалоб пациента, если не ставит диагнозы, то как минимум предлагает варианты, какие это диагнозы могут быть. Сейчас вот хотят помочь учителям, вот эту вот стопку тетрадок будет теперь нейросеть проверять, видимо, в каком-то электронном виде. Это безусловное благо, прогресс, мы обеими руками «за», или, например, вас это пугает, потому что скоро что тогда останется человеку, если такими темпами?
Роман Душкин: О, хитроумный вопрос. Но, конечно же, мы уже несколько раз проходили («мы» – это человечество) через подобное. Можно вспомнить, допустим, первый этап, механизация ручного труда, когда мы от лошадей перешли к тракторам, собственно, тоже были такие же опасения, что «вот как же так, наших бедных лошадок заменят эти бездушные машины». Но с тех времен, по-моему, выпуск, количество продуктов, которые с гектара происходят, намного выше стало.
Потом прошла волна автоматизации, когда вот какой-то рутинный труд человека на конвейере тоже был заменен гибкими производственными системами, робототехническими системами и т. д.
Сейчас проблема более острая, потому что меняется не ручной труд, а умственный заменяется, не меняется, а заменяется, и при этом это происходит намного в более быстром режиме. И вот это действительно может пугать.
Но я уверен, что за развитием технологий, которые действительно сегодня показывают очень серьезный рывок вперед, общественные отношения будут меняться менее драматическим образом и все это будет внедряться постепенно, с детальной проработкой, как не навредить обществу, людям и т. д. Я уверен, что как ученые, философы, которые занимаются вопросами развития общества и движения в будущее, так и законодатели все сделают для того, чтобы обеспечить плавный переход и не допустить каких-то драматических последствий.
Тамара Шорникова: Поговорим давайте с авторами конкретно этой разработки, чтобы понять, как в целом будет все это представлено, как это все будет выглядеть в действии. У нас на связи Юрий Молодых, директор по технологическим конкурсам Национальной технологической инициативы. Юрий Олегович, здравствуйте. Слышите нас?
Юрий Молодых: Здравствуйте, добрый вечер.
Тамара Шорникова: Добрый вечер, да.
Вот уже анонсировали, с февраля 2023 года, кажется, в пилотном режиме нейросеть сможет помогать учителям проверять сочинения по гуманитарным наукам. Расскажите, как это будет работать? Где этот «пилот» будет внедряться, в каких регионах, в каких школах, может быть, отдельных? И по каким параметрам нейросеть будет проверять сочинения школьников?
Юрий Молодых: Да, давайте я начну с конца. Сочинения школьников нейросеть сейчас может проверять по пяти предметам: русский язык, литература, история, обществознание и английский язык. Соответственно, вот по этим предметам, и она проверяет только по критериям ЕГЭ, т. е. те критерии, те ошибки, которые входят в Единый госэкзамен, она проверять умеет, а остальные нет, потому что это требует дополнительного обучения и дополнительной доработки.
Внедряться система будет начиная со следующего года. Первое время это будет не на базе конкретных школ, а как веб-сервис в интернете, т. е. люди, которые зарегистрируются в системе, в пилотном режиме смогут с ней работать. Ну и первое время она будет работать не как замена учителя, а как инструмент помощи учителю, инструмент для самоподготовки школьника, потому что речь идет об отработке технологии, которая уже есть, но для того, чтобы широко ее разворачивать, необходимо, безусловно, много тестировать и доделывать ее.
Тамара Шорникова: Сейчас критерии проверки – это что? Пунктуационные, орфографические ошибки? Есть ли сейчас речь о том, что нейросеть сможет оценивать раскрытие темы и такие более смысловые характеристики?
Юрий Молодых: Конечно, речь идет не только об орфографии и пунктуации, в общем-то, компьютеры еще до всяких нейросетей, еще в 1990-е гг. начали это делать. Сейчас же речь идет о более сложных ошибках, о речевых, стилистических, о фактических, о логических ошибках, которые во всех предметах оцениваются, везде немножко отличаются критерии, что считается фактической, что считается логической ошибкой, за что снижать оценку, а за что не снижать. Но все эти вещи, вот все, что входит в методику проверки ЕГЭ, оно все оценивается.
Тамара Шорникова: У нас тут шутят телезрители, что «проблемы со связью, а вы про роботов, пока можно не переживать за страну», мол, еще продержимся на своих рабочих местах в том числе.
Еще один буквально вопрос, Юрий Олегович. Вы посчитали, возможно, ваши коллеги, что подобная технология поможет разгрузить учителей, 20% их времени, уходящего как раз на такую рутинную проверку, высвободит для каких-то более творческих задач. По-вашему, все-таки тот самый человеческий фактор, условно, формально, может быть, система подумает, что это какая-то логическая ошибка, учитель подумает, что нет, это какой-то стилистический прием, или, может быть, такая интересная и настолько экстравагантная мысль, что система посчитала ее за ошибку, а на самом деле интересно, умно, емко и т. д.
Вот как вот этот конфликт преодолеть? Не уйдет ли совсем тот самый важный человеческий фактор из работы? Думают об этом разработчики, или они больше как раз по движкам и всему остальному?
Юрий Молодых: Нет, он, конечно... Смотрите, это вопрос уже не самой нейросети, не движка, а вопрос того, как ее внедрять. И когда мы говорим цифру, про 20%, мы, конечно, точно не знаем. Но что мы видим в данных? Мы видим, что в среднем преподаватель, эксперт ЕГЭ тратит по 10–15 минут на проверку одного сочинения, независимо от предмета. Нейросеть проверяет это сочинение за 30 секунд, этого практически всегда хватает, в редких случаях чуть больше.
Но при этом за ней нужно следить, нужно эксперту садиться, брать сочинение, в котором нейросеть нашла ошибки, проглядывать его глазами и в чем-то соглашаться, а в чем-то не соглашаться с нейросетью. С одной стороны, это позволит не исключать человеческий фактор, что очень важно, и вы совершенно правы, есть случаи, не очень частые, но их достаточно, в которых нейросеть не способна оценить адекватно, правильно понять, что же имел в виду школьник. А с другой стороны, вот такая вот валидация экспертом ЕГЭ позволит нейросеть улучшать.
Поэтому я думаю, что через несколько лет она начнет работать существенно лучше и экономить времени тоже будет больше.
Тамара Шорникова: Спасибо. Юрий Молодых, директор по технологическим конкурсам Национальной технологической инициативы.
То есть мы, конечно же, все это время будем нейросеть обучать, чтобы она лучше понимала человеческую мысль и т. д. Есть эксперты, которые считают, что до конца она не сможет понять никогда ее; есть другие эксперты, которые считают, что «лучше вас еще поймет, и в шахматы обыграет, и сочинение лучше вас напишет, и т. д.» и это миф, что что-то такое интеллектуальное будет недоступно еще долго для искусственного интеллекта. Вы на какой стороне?
Роман Душкин: Давайте так. Вот говорить о том, что какое-то технологическое решение на 100% решит какую-то задачу, – ну это очень грубо, потому что даже человек не может решить ту или иную задачу со 100%-й точностью. Вот если мы возьмем эту проблему проверки сочинений ЕГЭ, ведь даже человек, эксперт, который проверяет ЕГЭ, может ошибиться, и это будет негативный человеческий фактор.
И здесь вот решение, которое в принципе должно быть реализовано, оно всегда соотносится как бы с процедурой, не с самими технологическими решениями в виде нейросетевой или другой технологии искусственного интеллекта... Ведь искусственный интеллект – это не только нейросети... Должна быть целая процедура комплексная с кросс-валидацией результатов нейросетевого решения, человеческого решения, вот то, о чем говорил Юрий.
Соответственно, действительно, в процессе этого всего решение будет продолжать обучаться на всех этих тысячах и десятках тысяч примеров и с каждым разом будет повышать свою точность, но никогда не подойдет к 100%-й точности, это вот надо понимать. То есть такой асимптотический рост будет, но так же, как человек, не сможет решать 100%-но такие сложные задачи. Это сложные задачи.
Тамара Шорникова: Сейчас, наверное, с точки зрения ученых побуду маргиналом, но вот такую мысль выскажу. Мы все время думаем, что у нас достаточно такие мудрые работодатели, которые хотят нам лучшего всегда, и поэтому если, например, какая-то программа освободит 20% времени учителя, то это время обязательно у него останется для творческих работ, для философствования и т. д.
А возможно, работодатель подумает: «А зачем мне полную ставку оплачивать учителя, если у меня есть программа, которая за 30 секунд вот это все сделает? А учитель, тогда что там, 2 часа останется, вот за 2 часа и заплачу», – условно. И таким образом важную, какую-то технологичную, умную работу будут делать системы за 30 секунд, за 2 минуты, за 2 часа, неважно, и в оставшееся время за маленькие деньги будут делать люди. Мы превратимся в таких условно интеллектуальных гастарбайтеров в собственной стране, нет?
Роман Душкин: Ну, это вопрос опять к нормативно-правовому регулированию вот этих общественных отношений, которые возникают в эпоху цифровизации.
Я могу привести пример не из области образования, но в области повышения безопасности дорожного движения, например. Вот Москва, гигантский мегаполис, и сегодня в Москве с точки зрения интеллектуализации управления дорожным движением одна из лучших систем в мире, что подтверждается многочисленными рейтингами. И безопасность в т. ч. обеспечивается интеллектуальной видеоаналитикой, которая фиксирует большое количество того, что происходит на дорогах, видеокамеры.
Но всю эту, 150 тысяч видеокамер, условно говоря, стоит и смотрит на дороги Москвы, и все это обслуживается дежурной сменой в количестве до 10 человек. Если пересчитывать на людей, которые должны сидеть и, прошу прощения, пялиться в экраны каждое мгновение времени, чтобы фиксировать все те проблемы, которые на дорогах возникают, то потребовался бы центр, в котором сидело бы несколько десятков тысяч человек одновременно. Но это нереально даже для небольшого города, не говоря уже о Москве.
То есть здесь необходимо искать баланс общественной пользы: мы хотим дать, образно говоря, обезьянью работу, совершенно нечеловеческую работу, вот сидеть, 4 часа пялиться в экран, когда теряется внимание, когда человек просто тупеет, для того чтобы обеспечить безопасность, или это будет выполнять интеллектуальная видеоаналитика и, условно говоря, 10 операторов дежурной смены разбирают сложные ситуации, о которых сигнализирует эта система?
То же самое будет и в области ЕГЭ. Мне сейчас сложно фантазировать, я как бы не очень погружен в конкретную предметную область, но, скорее всего, работодатель в школах, например, это же не просто какая-то коммерческая организация, где владелец сам себе хозяин, что хочет, то и воротит. Образовательная деятельность очень серьезно зарегулирована государственными институтами, там нельзя просто так взять и человека куда-то отправить. Я думаю, будут найдены определенные механизмы правовые, организационно-технические, которые позволят высвобожденное время человека пустить на какие-то более нужные задачи и процессы, процедуры.
Тамара Шорникова: Хорошо. И еще такой разворот по встречной, что называется, – мы уверены в том, что человек, получив это время, действительно потратит его на что-то такое великое, нужное?
Ну вот пример пандемии. Как только она начиналась, это же сейчас мем просто абсолютный, все говорили: отлично, мы такой судьбой оказались заперты в четырех стенах многие, поэтому прямо сейчас это время получить дистанционное новое образование какое-то, это время для творчества, это время для созидания, для какой-то осмысленности, для того, чтобы подумать о жизни, в конце концов. Как многие провели это время? Посмотрели еще пару-тройку сериалов, наверное, ну, может быть, что-то приготовили разок, поиграли в PlayStation и т. д., многие так, что уж там.
Соответственно, сейчас, когда человек будет понимать, что грязную работу и важную работу за него сделает система, условно проверит на те же хотя бы ошибки, не нужно так вчитываться в текст, предельно смотреть, машина не пропустит. Тот же врач, ему подскажет система, какой диагноз здесь наиболее вероятен, соответственно, не нужно вспоминать что-то там из 7 лет обучения и т. д. Не получится ли так, что с каждым разом человек будет «меньше» мозга тратить на выполнение тех или иных задач и меньше каких-то приятных, творческих задач в свободное время выполнять? Ну отупеем просто – может такое быть?
Роман Душкин: Об этом говорят многие современные философы, и это действительно может считаться таким экзистенциальным риском, отупение всего человечества. Но я уверен, что каждый человек является кузнецом своего собственного счастья и своего будущего, и личная самомотивация как раз должна стать во главе угла. Никто за тебя не сделает тебя счастливым, все в твоих руках. И если кто-то провел период пандемии за просмотром глупых сериалов и игре на PlayStation, то другие люди посвятили это время саморазвитию и вышли на новые горизонты. Так же и здесь будет то же самое: ну никто...
Вот есть человек, индивидуум – как его заставить саморазвиваться, если он сам этого не хочет? Я уверен, что никто не будет запрещать саморазвиваться, а вот заставлять... Ну, будут говорить, что «ах, заставляют саморазвиваться, какая автократичная система, у нас теперь цифровой концлагерь» и т. д., все же будет именно так.
Тамара Шорникова: Если говорить о том, где, в какой сфере людей могут освободить от определенной работы, потому что ее успешно выполняет система, это в первую очередь что? Сразу оставляем за скобками, понятно, кассиров, у многих уже сейчас рядом с домом магазины с автоматическими кассами и т. д., ну что-то такое очевидное.
Роман Душкин: Ну, я бы сказал, это пока такая более инновационная штука.
Тамара Шорникова: Но это наглядно, это то, что мы видим каждый день, приходя за продуктами, уже как минимум.
Роман Душкин: Да. Я думаю, что в первую очередь человек будет высвобождаться в местах, где либо цена человеческой ошибки слишком высокая, это безопасность, это в принципе какие-то опасные места для человека, либо вот, как я сказал, места, которые связаны непосредственно с опасностью для человека. Не секрет, что большое число технологических процессов, вообще, в принципе процессов, которые выполняет человек, они связаны с опасностью для жизни: это и транспорт, и какие-то производственные процессы. И сегодня системы интеллектуальной видеоаналитики прекрасно занимаются контролем выполнения правил техники безопасности. И вот это будет внедряться именно в таких областях, которые связаны с безопасностью в первую очередь.
Повторюсь: цена человеческой ошибки слишком высокая, и тогда резонно переложить даже принятие, не поддержку принятия решений, а само принятие решений на системы автоматического принятия решений, контроля, мониторинга и т. д. И более того, во многих случаях это уже есть...
Тамара Шорникова: А мы не много доверяем роботам? Условно, вы сядете в такси, которое будет управляться роботом? Возьмете в аренду такую машину?
Роман Душкин: Да, это хороший вопрос. Если 100% автомобилей будет управляться, они будут автономными, не будет водителей-людей на дорогах, то, несомненно, это будет более безопасная дорожная система, транспортная система, чем сейчас. Потому что я вас уверяю, ВАТСы, высокоавтоматизированные транспортные средства, беспилотники на обычном языке, они не превышают скоростной режим, они не играют в «шашечки» на дорогах, они не садятся за руль пьяными, они всегда включают поворотники, если 100% им поворотники не будут нужны... И они спокойно ездят, довозя пассажира из точки А в точку Б.
Тамара Шорникова: А они чью жизнь будут спасать, пассажира или человека на дороге?
Роман Душкин: Они не занимаются спасением жизни – они занимаются перевозкой.
Тамара Шорникова: Ну, если встанет такой выбор.
Роман Душкин: Таких выборов не будет, я вам гарантирую.
Тамара Шорникова: Хорошо, поговорим с вами об этом через пару-тройку лет, возможно. Сейчас уже тестируют активно такие автомобили...
Что ж, развеивали страхи, пугались и успокаивались в т. ч. с помощью Романа Душкина, директора по науке и технологиям «Агентства Искусственного Интеллекта».
В студии была Тамара Шорникова. Вместе со мной работали переводчики жестового языка Светлана Елисеева и Ольга Иванова.
Это была программа «ОТРажение». Спасибо, что были с нами. До встречи.