Искусственный интеллект в судах

Гости
Натан Будовниц
судебный юрист
Владимир Пирожков
футуролог, директор инжинирингового центра «Кинетика»

Оксана Галькевич: Сейчас у нас новость, в которой нужно разбираться. Разбираться будем вместе, давайте сейчас этим займемся. Звучит она так. В Сколково подготовили концепцию машиночитаемого права. Иными словами, друзья, в судах наряду с юристами к работе в скором времени приступит искусственный интеллект.

Петр Кузнецов: Наконец-то.

Оксана Галькевич: Что бы это было и к чему бы это было? Мы сейчас будем спрашивать об этом экспертов, но ждем также и ваших вопросов, ждем ваших, может быть, каких-то мнений, ответ, может, у кого-то есть. Как, кстати, вы считаете, помощь искусственного интеллекта отразится на работе судов? Может быть, суды станут, не знаю, добрее, справедливее; может быть, наоборот – строже? Может быть, может быть. Звоните, пишите. Мы ждем вашей обратной связи. Телефоны бесплатные у вас указаны на экранах: и телефон прямого эфира, и телефон СМС-портала.

Петр Кузнецов: С нами на связи судебный юрист Натан Будовниц. Здравствуйте, Натан.

Натан Будовниц: Добрый день.

Петр Кузнецов: Скажите, пожалуйста, а может быть, это уже началось? Мы просто не знаем. Может быть, уже в каких-то простых делах это уже (за нас, хотел сказать) за вас делает компьютер, какой-то электронный консультант?

Натан Будовниц: Я бы так это не стал называть. Есть в электронном виде разные помощники, конструкторы, с помощью которых можно создать некий документ правового характера. Т. е. есть некие образцы, куда надо просто вносить соответствующие данные, и будет сформировано более или менее простое заявление или более или менее простой договор. Если мы говорим все-таки о судебной системе, то рассматривают споры по-прежнему судьи, без искусственного интеллекта.

Оксана Галькевич: Натан, т. е. никаких пилотных проектов доселе никогда в нашей судебной системе ни в каком виде не использовалось? Может быть, действительно, где-то как-то уже опробовали в действии эту историю?

Натан Будовниц: Я буду отвечать корректно, в том плане, что лично я с этим не сталкивался. И мне на глаза не попадались описания подобных примеров. Я просто могу чего-то не знать. Но я не сталкивался с этим.

Оксана Галькевич: Но вот вы как юрист, как специалист в своей сфере, когда слышите о том, что будет искусственный интеллект использоваться в судах, – вы себе как это представляете?

Натан Будовниц: Во-первых, я к этому отношусь скептически. Но некоторые категории споров – я могу допустить, что это возможно осуществить. Во-первых, надо понять, действительно, как я это себе представляю, в моем понимании искусственный интеллект будет помогать в рассмотрении более-менее простых судебных споров. К которым я бы отнес споры, например, о расторжении брака, если там нет каких-то дополнительных споров между супругами. И споры по взысканию алиментов, если не нужно устанавливать размеров фиксированной суммы, твердой денежной, а именно в долевом отношении к заработку. Ну и вообще, есть у нас в судебной системе такое понятие, как приказное производство. Это когда судья выносит судебный приказ, где нет спора о праве. Есть ряд документов, которые необходимо предоставлять суду, и суд на основании этих документов выносит судебный приказ. Там очень небольшие сроки: он выносится в течение 5 дней. И мне кажется, вот такие категории споров действительно, может быть, искусственный интеллект потянул бы.

А там, где у нас используются более сложные механизмы, где судье надлежит применять свои внутренние убеждения, оценочные какие-то вещи (доказательства оценивать, оценивать поведение сторон), – мне сложно представить, как с этим будет справляться искусственный интеллект. Но это только время может сказать.

Петр Кузнецов: Натан, СМСки от наших телезрителей из разных регионов одного характера. Я думаю, что вы догадываетесь, какого. Тем не менее, зачитаю некоторые из них. «Скорей бы судейский корпус заменили роботами», – СМС из Пензенской области. «Судов в России давно нет», – убежден наш телезритель из Ленинградской области. «Суды и прокуратура не на стороне народа, а на стороне местной власти», – город Королев. Волгоградская область: «Судьи – самая коррумпированная сфера». И Михаил из Краснодарского края, пенсионер, пишет: «Судьям и прокурорам не верю. Пусть компьютер лучше судит, он хоть взятки не берет». Как вы оцениваете ситуацию сейчас с современной судебной системой? И вот это появление искусственного интеллекта мы можем рассматривать, т. е. связано с чем больше? С перегрузкой судов? (Да, мы знаем, что они завалены). Или все-таки с растущим количеством несправедливых решений, предвзятых, т. е. с недоверием общественности?

Натан Будовниц: Моя точка зрения – все-таки с нагрузкой. Причем эта нагрузка, действительно, если бы судьи были разгружены за счет вот этих споров, которые действительно не требуют личного участия судьи, – это действительно помогло бы. Я только не считаю, что это очень сильно разгрузит аппарат судей. Потому что вот те споры, про которые я сказал, преимущественно эти споры рассматриваются в рамках судебных участков мировых судей. А все остальные споры, более сложные, они рассматриваются именно в районных судах. И там как раз вот я пока не вижу для искусственного интеллекта… хотя, опять же, я могу ошибаться.

Что касается недовольства, скажу такую очевидную вещь. Всегда в споре будет недовольная сторона, потому что решение суда практически всегда выносится в пользу одной стороны. Соответственно, вторая сторона будет однозначно этим недовольна. Это факт.

Петр Кузнецов: И недовольна всегда именно вторая сторона.

Оксана Галькевич: Половина людей, которые так или иначе столкнулись.

Натан Будовниц: Которая, да. Другой вопрос, что можно поговорить, что вторая сторона предполагает, что она здесь не до конца права. Т. е. есть такие, которые идут в суд и понимают, что их сторона здесь не совсем правильно поступает. Не в том плане, что они нехорошие люди, а в том плане, что с точки зрения закона их позиция не совсем верная. Но они все равно делают попытку защитить свой интерес. И если этот интерес не защищается, они понимают, почему. И в этом плане не то чтобы они недовольны – они к этому правильному относятся, что у них, как говорится, не получилось. Вот.

И другой вопрос, когда сторона приходит, заведомо считая, что она права. Есть такая фраза, я ее не очень люблю: «Закон на моей стороне», – так некоторые считают. И когда получают решение не в свою пользу, у них возникает сомнение в том, что судья действительно квалифицированный, или что судья, там, не заинтересован. Сразу вот думают именно таким образом. Потому что как же так – если закон на моей стороне и правда на моей стороне, судья не может вынести другого решения. Это такое вот заблуждение, которое приводит к таким выводам.

Оксана Галькевич: Натан, но вот вы когда перечисляли ту сферу, которой в принципе мог бы заняться искусственный интеллект, вы перечислили какие-то несложные случаи с множеством оговорок на самом деле, да?

Натан Будовниц: Да.

Оксана Галькевич: Т. е. чисто математически, а много ли вообще таких случаев в вашей работе, когда решение может быть вынесено чисто математически? Прав, не прав, там, я не знаю, ударил – виноват, не ударил – значит, жертва. Ну, вот каких-то таких историй. Сильно ли разгрузит этот искусственный интеллект реальные суды?

Натан Будовниц: Я по сути уже на этот вопрос ответил. Я могу лишь повторить, что вот те категории, которые я назвал, они на самом деле, с моей точки зрения, могли бы быть решены искусственным интеллектом. Но, опять же, я считаю, что это не сильно разгрузит. Потому что большинство, да все вот эти дела, их в основном рассматривают именно мировые судьи. А остальные споры, сложные, из любого направления, которое мы берем, из любой правовой отрасли, будь то семейное право, будь то жилищное право, или гражданское право, которое вообще огромное, включает в себя очень много направлений и поднаправлений, – все эти споры в основном рассматриваются именно в районных судах. Потому что там есть спор о праве. Спор о праве – это значит, что обе стороны говорят о том, что их позиция более верная. Они доказывают свою сторону.

Оксана Галькевич: Натан, и там в таких ситуациях важна, так скажем, роль личности в этом деле? Или роль судьи, я имею в виду. Человеческий фактор, вот, вот как раз это.

Петр Кузнецов: Во-во, я как раз об этом, да-да-да.

Натан Будовниц: Да, она важна. Потому что я практически вам готов процитировать одну из норм права процессуального, из Гражданского процессуального кодекса, где сказано, что суд оценивает доказательства по своему внутреннему убеждению, основанному на всестороннем, полном, объективном, непосредственном исследовании имеющихся доказательств. Вот здесь включен вопрос – внутреннее убеждение. Т. е. суд оценивает по внутреннему убеждению эти доказательства. Искусственный интеллект имеет некие алгоритмы. А как он будет оценивать, и не поменяется ли мнение граждан, – я уверен, что не поменяется. Потому что все равно решение будет в пользу одной стороны. Просто будут говорить, что несовершенный алгоритм, что его сделали плохо, лучше бы были судьи. Ну, вот недовольны люди были, будут и будут всегда.

Петр Кузнецов: Ну и, потом, я добавлю, предположу, что и потом все равно даже дело, которое рассмотрит искусственный интеллект, оно будет контролироваться, окончательное слово будет за тем же самым человеком. Т. е., условно говоря, судья все равно будет погружен в этот процесс, чтобы его отслеживать и уже потом проверить за искусственным интеллектом его работу.

Натан Будовниц: Не только. Если предполагается именно такой способ выполнения задуманного алгоритма, что там действительно участвует человек в этом контроле, если да – то соответственно этот контроль предусмотрен.

Петр Кузнецов: Вот.

Натан Будовниц: Если нет, то это просто будет автоматизированный документооборот. Мы подали заявление, получили на выходе судебный акт, который дальше передается для его исполнения. Это может быть без контроля человека, если это искусственный интеллект, правильно?

Петр Кузнецов: Да.

Натан Будовниц: Подали через интернет, получили так же. И дальше отправили на исполнение.

Петр Кузнецов: Но тут возникает другой вопрос: если это будет все-таки с контролем человека, о какой разгрузке судейского корпуса в таком случае идет речь. Ладно, у нас много звонков, много вопросов. Сергея послушаем вместе. Сергей?

Оксана Галькевич: Здравствуйте, Сергей.

Петр Кузнецов: А потом, Натан, у вас будет возможность прокомментировать. Пожалуйста, Сергей. Добрый день.

Зритель: Да, добрый день. Мое мнение такое. Сначала надо провести реформу судебную, сделать суды действительно независимыми, а судей – выбираемыми, а не назначаемыми. А потом уже думать о том, вводить роботы или не вводить.

И второе. Программу роботам будет составлять человек. И все нюансы, которые можно рассмотреть между судьей и гражданином, он учитывать не будет. Все это чушь и лишняя трата денег. А Сколково? – Где их «Планшет»? 10 лет назад разрабатывают. Так и этот робот разрабатывать будут. Вот такое мое мнение.

Оксана Галькевич: Да, спасибо.

Петр Кузнецов: Да. Мнение Галины сразу. Галина?

Оксана Галькевич: Из Саратова, да?

Петр Кузнецов: Да, это Саратов, да, Галина?

Зритель: Да, да. Слушаю.

Оксана Галькевич: Здравствуйте.

Петр Кузнецов: Рады слышать.

Зритель: Здравствуйте.

Петр Кузнецов: Здравствуйте.

Зритель: Я хочу сказать, что, во-первых, нужно институт, наверное, пересмотреть или еще что-то. Туда должны идти только люди, которые хотят действительно работать по-настоящему и вот именно не зависят, т. е., что коррупция там вот эта действительно. У нас в основном там работают все коррупционеры. Потому что так не может быть, что у нас сейчас, тем более, это, как их, идут бизнесы…

Петр Кузнецов: А у вас был какой-то, Галина, простите, печальный опыт…

Оксана Галькевич: Может, я тоже…

Петр Кузнецов: …что вы вот так огульно? Или…

Зритель: Да ну не то что. Я просто уже давно живу на белом свете, понимаете. И вот именно, ну, конечно, приходилось связываться. Ну, так вот просто присутствовала там или еще что-то, вот так это. А так вот на самом деле я уже прожила все-таки 70 лет, и я считаю, что должны только учиться те, которые действительно хотят работать на этом месте.

Оксана Галькевич: Ну, тут не поспоришь, да. Тут каждый должен быть на своем месте, это точно. Спасибо.

Петр Кузнецов: Да. Спасибо, Галина. В общем, Натан, вряд ли даже появление вот искусственного интеллекта во многих сферах судопроизводства приведет к изменению принципа вообще самого формирования судейского корпуса. Вряд ли это что-то изменит?

Натан Будовниц: Ну, во всяком случае, в ближайшем будущем это вот точно. Я согласен с этим утверждением. А что касается далекого будущего, то до него надо дожить.

Оксана Галькевич: Спасибо. Спасибо.

Петр Кузнецов: Спасибо.

Оксана Галькевич: Вот как раз о далеком будущем мы сейчас поговорим со следующим экспертом. А сейчас у нас на связи был Натан Будовниц, судебный юрист.

Петр Кузнецов: Да. Владимир Пирожков теперь на связи. Это футуролог, директор Инжинирингового центра «Кинетика» НИИТУ МИСиС.

Оксана Галькевич: Здравствуйте.

Петр Кузнецов: Здравствуйте, Владимир Вячеславович.

Владимир Пирожков: Да, здравствуйте.

Оксана Галькевич: Владимир Вячеславович, а вы как считаете? Это на составе, на качестве судейского корпуса как-то может измениться, внедрение искусственного интеллекта и новых технологий в делопроизводство?

Владимир Пирожков: Для начала, конечно же, будет сокращение рабочих мест. Видимо, такая задача не ставилась. Это первое. Второе. Если залезть в суть самого искусственного интеллекта, это оптимизация процессов. Это упрощение, скажем так, и сокращение пути от A до B. И, соответственно, если есть такое сокращение и оптимизация, то скорее всего мы получим робота без сердца, который будет просто, скажем так, четко читать законы, которые есть, и по этим законам выносить определенные вердикты. Соответственно, мы получим гораздо более жесткую машину, которая как раз не будет основываться на внутреннем голосе судьи или кто-то там, присяжных. Присяжные вообще отменятся. Потому что это будет система, которая очень быстро решает вопросы. Как, знаете, есть, например, роботы у некоторых банков, которые принимают решение на предмет выдачи кредита.

Петр Кузнецов: Да.

Владимир Пирожков: И если вы, например, разведенная мама с четырьмя детьми, то вряд ли у вас есть шанс получить кредит от Сбербанка, например, или от другого.

Петр Кузнецов: Почему-то меня показывают в момент. Ну…

Оксана Галькевич: Ну, не меня же.

Петр Кузнецов: Владимир, а вот предыдущий эксперт Натан Будовниц, наоборот, сказал, что в судопроизводстве важны внутренние убеждения. Вопрос: может ли искусственный интеллект проникнуть, существовать и делать лучше те сферы, где правда важны и человеческие эмоции, и мышление, и логика человеческие? Или этого никогда не будет?

Владимир Пирожков: Сильно сомневаюсь. Мышление и логика – да, это как раз, скажем, все работы в искусственном интеллекте в основном идут через логику. И вот эти процессы ускоряются и совершенствуются. Соответственно, что связано с логикой и оптимизацией – это искусственный интеллект. Что связано с эмоциями – это как раз человек. Эмоциональный капитал – это как раз будет привилегия человека в будущем, а не искусственного интеллекта.

Оксана Галькевич: Скажите, а почему вот вы решили, что это приведет непременно к сокращению, так скажем, штата? Ведь смотрите, у нас «Государственные услуги» – тоже такой аналог искусственного интеллекта в этой сфере бюрократической. Но тем не менее, мы не можем сказать, что сократился этот штат чиновников, бюрократов.

Владимир Пирожков: Я думаю, что на том участке, где включены, например, МФЦ (многофункциональные центры), там как раз штат сократился. Потому что если раньше это все было, скажем так, на бумаге и эту бумагу нужно было сначала создать, потом перенести, складировать и т. д., то сейчас это все в цифре. И есть операторы, да, но их относительно немного. Относительно тех институтов, которые были раньше. Поэтому это мощная оптимизация. И мы видим ее плоды.

Я думаю, что в судебном деле, скорее всего, где-то, на каких-то участках, наверное, нужны будут. Вот помните, история: ему представили 92 тома или 192 тома его дела, предположим. И – ну, когда у человека есть время ознакомиться со 199, там, томами, как говорится? Вот для этого нужен, наверное, искусственный интеллект, который просеет это дело, оптимизирует и выдаст какой-то предварительный результат для судьи. Например, 93% или, там, 6%, или, там, 28%. А судья потом на основе внутренних убеждений и внутренней логики будет это решать.

Петр Кузнецов: Или проверять. Нам пишет СМС телезритель из Москвы: «Лучше безмозглый робот, чем коррумпированный суд». Вот мне хотелось бы поговорить о том, насколько у нас…

Оксана Галькевич: Крайние категории какие-то.

Петр Кузнецов: …безмозглые роботы. Насколько мы сильны в разработке искусственного интеллекта? Мы узнали в самом начале, что этим занимается Сколково. И второй вопрос, вдогонку сразу: вопрос о безопасности. Насколько мы защищены в плане хранения персональных данных? Потому что так или иначе вот та сфера, которую мы обсуждаем, она связана с хранением персональных данных.

Оксана Галькевич: Хватит ли наших телефонов, наших паспортных данных, да?

Петр Кузнецов: И не используется ли, да, потом все это против нас в суде, как говорится, знаете, в фильмах?

Владимир Пирожков: Я начну со второго вопроса. И да, мы не защищены. Потому что вот только что слили в сеть, по-моему, там триллиард данных из Фейсбука.

Петр Кузнецов: Дом РФ.

Владимир Пирожков: Да. Или Дом РФ, да. Фейсбук тоже, кстати, потерял там…

Петр Кузнецов: Да-да-да.

Владимир Пирожков: Вот. Поэтому – нет, не защищены. И второе… Вот напомните еще первый вопрос, извините.

Петр Кузнецов: Насколько мы сильны в разработке искусственного интеллекта? Вот на этом рынке.

Владимир Пирожков: Относительно сильны. Потому что, скажем так, сейчас во всем мире идет работа над созданием искусственного интеллекта. И, к сожалению, мало выделяется средств на противодействие искусственному интеллекту. Так вот, создание идет активно во всех странах мира. И российское руководство поставило задачу работать над искусственным интеллектом. Выделяются определенные средства и есть определенные институты, которые этим занимаются. Поэтому – да, сильны, относительно. Потому что всегда программисты российские были сильные в мире. Поэтому, смотря какую цель поставить. Если это цель, например, определение, целеполагание какой-нибудь ракеты, это одно. Если цель, например, другая: там, сделать детей счастливее и чтобы обеды были доступнее, – это другое. Ну, и третье уже, соответственно, – судебная система.

Оксана Галькевич: Но и сейчас же важно на самом деле внутренний некий посыл, которым создается та или иная цифровая или другая какая-то система. Вот наше судопроизводство, насколько мы знаем, славится еще и, «к сожалению» (в кавычках, конечно), тем, что очень мало оправдательных приговоров в нашей системе. Вот эта система – она выдаст нам какую статистику на выходе?

Петр Кузнецов: И как ее будут программировать изначально?

Владимир Пирожков: Хороший вопрос. Как она будет запрограммирована, да. Как она будет запрограммирована.

Петр Кузнецов: Вот.

Владимир Пирожков: Потому что программируют ее те люди, которым, скажем так, поручено это делать. А вопрос – поручено кем и за чьи деньги. Это раз. И второе: если эта система будет объективна. Понятие объективности вообще относительно, и понятие добра и зла очень относительно. Поэтому здесь как раз внутренний мир судьи и внутренние убеждения суда – это очень важный момент. Если на откуп отдавать машинам, боюсь, что мы сядем все.

Петр Кузнецов: Да.

Оксана Галькевич: Не хотелось бы.

Петр Кузнецов: Спасибо. Владимир Пирожков, футуролог, был у нас на связи.

Оксана Галькевич: Спасибо, да.

Петр Кузнецов: Был такой фильм хороший очень: «Всегда говори да». Наши телезрители опасаются, что разработчики этой программы введут вот эту строчку: «Всегда говори да». «Виновен? Да. Виновен? Да. Виновен? Да». Вот так будет работать искусственный интеллект в судебной системе России. Это опасения наших телезрителей.

Оксана Галькевич: А было время «да – нет», помнишь?

Петр Кузнецов: Да, вот.

Оксана Галькевич: Меняем тему.

Авторизуйтесь, чтобы быстро и удобно комментировать
Авторизуйтесь, чтобы быстро и удобно комментировать
Комментарии (0)