[МУЗЫКА] [МУЗЫКА] [МУЗЫКА] Уважаемые коллеги, немного фантастики в рамках нашего курса. Вот эту фразу я бы мог произвести и, наверное, был бы прав года три назад, когда тематика, связанная с регулированием искусственного интеллекта, роботов, все то, что мы с удовольствием, наверное, читали в тоннах фантастической литературы, была сплошной экзотикой, в первую очередь встречалась на страницах книг фантастов, ну и минимальным образом можно было встретить эти вопросы на страницах исследований всевозможных футурологов. Сейчас реалии таковы, что это перестало быть фантастикой, это крайне сложная тематика, обсуждение которой только началось, и при этом этой тематике уделяется пристальное внимание государствами, юридическим сообществом как в мире, так и в России. Скажем, когда мы говорим о регулировании робототехники, прекрасный пример реализации государственной политики в этой связи представляет Евросоюз, который создал полтора года назад, даже чуть более, специальную рабочую группу, и в рамках деятельности комитета Европарламента по правовым вопросам буквально недавно, в начале 2017 года представил соответствующий проект отчета, связанного с гражданско-правовым регулированием робототехники. Это очень интересный документ, он рассматривает сферы регулирования робототехники, в первую очередь, через призму гражданского права, предлагает модели, задается вопросами крайне важными для будущего развития, наверное, всего земного шара — как рассматривать умных роботов, искусственный интеллект в современной системе права, которое совершенно для этого не приспособлено, которое стабильно развивалась веками и тысячелетиями и, конечно, совершенно не подразумевает наличия сложных искусственных систем в гражданском обороте. В рамках работы этой комиссии закономерно исследователи обращают внимание на прикладные вопросы, связанные с ответственностью в сфере робототехники. А примеров, когда возникают какие-либо конфликты или проблемы в этой сфере, очень много. Вы, наверное, слышали, что самодвижущиеся машины уже попадают в аварии, скажем, в Соединенных Штатах Америки. Имели место несчастные случае на производстве, когда из-за роботов страдали и даже погибали люди. Несомненно, когда все самодвижущиеся устройства, когда другие виды роботов, например, в сфере медицины наблюдается очевидный прогресс, будут массово использоваться, таких проблем и случаев окажется очень-очень много. И вопрос ответственности разработчиков, производителей, собственников и пользователей всех этих устройств обретает крайне важное значение. Что происходит в этой связи в Российской Федерации? В конце прошлого года по заказу Grishin Robotics — компании, которая активно занимается инвестициями в разработку роботов и которой руководит Дмитрий Гришин, известный деятель в сфере Интернета, юридической фирмой Dentons был разработан первый законопроект о роботах в Российской Федерации. Я имею удовольствие быть в коллективе авторов этого законопроекта, когда мы с моим коллегой Владиславом Архиповым представили, сознаюсь, упрощенную, но с нашей точки зрения заслуживающую внимание модель регулирования указанной сферы. Мы пошли пока по простому пути, когда предложили поправки в гражданское законодательство Российской Федерации. В рамках законопроекта была предложена модель, когда все роботы делились на две части — обычные роботы, назовем их неинтеллектуальные, и роботы-агенты, которые могут действовать самостоятельно и в результате исполнения определенных формальностей, которые были предложены в законопроекте, при определенных условиях могут считаться квазисубъектами в системе права. Это опять-таки сейчас кажется фантастикой, это может и должно обсуждаться критическим образом, но мы подумали о том, что, возможно, в ближайшей перспективе либо позже роботы могут рассматриваться в качестве специальных субъектов права. Это как в сфере юридических лиц. Таковые появились тысячу с лишним лет назад, но это, конечно, определенная фикция и допущение, которая была удобной и остается удобной для целей обеспечения экономических отношений. Никакие юридические лица непосредственно по улицам не ходят, в лесах не гуляют и деньги непосредственно не выдают. За них все это делают люди: сотрудники, собственники, органы управления. И здесь это фикция, которая оказалась выгодной и удобной для человечества и которая была воспринята правом. То же и самое в сфере робототехники: рано или поздно сложные системы начнут действовать целиком самостоятельно. В режиме самообучения они будут взаимодействовать с внешней средой, и будет возникать вопрос: что будет происходить, если эти специальные объекты или квазисубъекты будут участвовать в гражданских сделках; будут в тех или иных обстоятельствах причинять вред? Естественно, наверное, неумышленно, но тем не менее вред здоровью, имуществу. И в этой связи мы предложили модель, связанную с наделением ограниченной правосубъектностью указанные объекты. Причем эти объекты в принципе, в первую очередь, мы рассматриваем в качестве умного движимого имущества. Хотя это тоже спорный вопрос, поскольку в сфере робототехники и искусственного интеллекта существуют сферы, где роботы не имеют материальной оболочки. Применительно к этому законопроекту мы излагаем идеи о том, что модели роботов должны регистрироваться. Почему именно модели, а не все роботы? Поскольку мы ожидаем, что непосредственно роботов будет очень много, но государство должно из-за задачи обеспечения безопасности контролировать модельный ряд указанных объектов. Если этот объект, его модель, прошел соответствующий цикл испытаний, он безопасен, тогда его можно непосредственно включать и вводить в гражданский оборот. Вторым условием, помимо регистрации моделей, для того чтобы соответствующий объект обрел правосубъектность, должно стать публичное заявление обладателя указанного устройства о том, что робот начинает функционировать. После этого нажимается красная кнопка и автономный робот, робот-агент, начинает действовать и участвовать в частности в гражданско-правовых отношениях. Здесь очень много сложных вопросов. Нужно иметь в виду, что, конечно, модели регулирования, поправки в Гражданский кодекс далеко неидеальны. Несомненно, здесь есть вопросы, связанные с административным правом, с правом информационным. Робот — это обязательно информационная система, здесь вопросы обеспечения информационной безопасности всех устройств и систем для робота являются ключевыми. Вспомним массу фантастических рассказов и фильмов о восстаниях машин, о том, что кто-либо проникал в разум робота, влиял, и затем этот робот действовал негативно. Это все на текущий момент проблематика информационной безопасности и обеспечения доступа к информационным системам. Соответственно здесь будет иметь место сорегулирование различными отраслями права указанной сферы. После научной дискуссии, в том числе связанной с законопроектом о роботах, законопроектом Дмитрия Гришина, как его сейчас называют, необходимо определиться с государственной политикой и путями развития регулирования робототехники. Та острая дискуссия, которая сейчас имеет место среди ученых, в целом в системе научного сообщества, говорит о том, что требуется разработка системного законодательства о робототехнике, когда следующим этапом после текущего законопроекта и тех инициатив, которые сейчас предлагаются, необходимо появление специального закона, который бы ввел определение информационных систем, объектов и роботов в целом; провел бы определенную классификацию указанных устройств и систем; совершенно единообразным образом раскрыл бы права и обязанности государства в указанной сфере, поскольку государство должно обеспечивать и гарантировать безопасность соответствующих систем; и затем бы представил на обсуждение для сообщества и бизнеса вопросы, связанные с использованием роботов в различных сферах экономики и человеческой деятельности. Мы уже сейчас имеем соответствующие примеры, когда был наполнен Воздушный кодекс в отношении дронов, когда буквально около года назад появились первые ГОСТы, связанные с робототехникой. Но пока этих примеров и детальности их проработки совершенно недостаточно для тех вызовов и того технического прогресса, которые нас ожидают в ближайшее время. Соответственно необходимо обсуждение и предложения конструкции регулирования и использования роботов в различных сферах от помощи человеку, от медицины до использования роботов в том числе, возможно, и в целях государственной безопасности и обороны. Последнее представляет из себя очень сложную дискуссионную тематику, тем не менее на этом сосредоточены уже законодатели во многих государствах мира. Здесь же потребуется ответить на вопрос, будут ли роботы в каком-то обозримом будущем субъектами права? Несмотря на то, что сейчас эта проблематика — придание роботам определенной правосубъектности — пока что представляется довольно экзотической, тем не менее, исходя их тех темпов развития технологий и появления новых робототехнических решений, несомненно, этот вопрос станет краеугольным для и развития и регулирования робототехники, и на самом деле будет служить предметом очень сложной философской, социальной, социально-психологической дискуссии в мире. Поскольку если мы посмотрим на ту самую фантастику, на те тонны книг, которые я упомянул в начале, действительно, если технологии станут настолько сильными и умными, мы должны для себя решить, и право должно дать ответ, и не только право, но и другие сферы знаний, какова роль человека во взаимодействии с роботами и какова здесь будет задача и роль роботов в развитии человечества. [БЕЗ_ЗВУКА]
