[МУЗЫКА]
[МУЗЫКА]
[МУЗЫКА] Уважаемые коллеги,
немного фантастики в рамках нашего курса.
Вот эту фразу я бы мог произвести и, наверное,
был бы прав года три назад, когда тематика,
связанная с регулированием искусственного интеллекта,
роботов, все то, что мы с удовольствием, наверное,
читали в тоннах фантастической литературы, была сплошной экзотикой,
в первую очередь встречалась на страницах книг фантастов,
ну и минимальным образом можно было встретить эти
вопросы на страницах исследований всевозможных футурологов.
Сейчас реалии таковы, что это перестало быть фантастикой,
это крайне сложная тематика, обсуждение которой только началось,
и при этом этой тематике уделяется пристальное внимание государствами,
юридическим сообществом как в мире, так и в России.
Скажем, когда мы говорим о регулировании робототехники,
прекрасный пример реализации государственной политики в этой
связи представляет Евросоюз, который создал полтора года назад,
даже чуть более, специальную рабочую группу, и в рамках деятельности
комитета Европарламента по правовым вопросам буквально недавно,
в начале 2017 года представил соответствующий проект отчета,
связанного с гражданско-правовым регулированием робототехники.
Это очень интересный документ, он рассматривает сферы регулирования
робототехники, в первую очередь, через призму гражданского права,
предлагает модели, задается вопросами крайне важными для будущего развития,
наверное, всего земного шара — как рассматривать умных роботов,
искусственный интеллект в современной системе права, которое совершенно для
этого не приспособлено, которое стабильно развивалась веками и тысячелетиями и,
конечно, совершенно не подразумевает наличия сложных
искусственных систем в гражданском обороте.
В рамках работы этой комиссии закономерно
исследователи обращают внимание на прикладные вопросы,
связанные с ответственностью в сфере робототехники.
А примеров, когда возникают какие-либо конфликты или проблемы в этой сфере,
очень много.
Вы, наверное, слышали, что самодвижущиеся машины уже попадают в аварии,
скажем, в Соединенных Штатах Америки.
Имели место несчастные случае на производстве,
когда из-за роботов страдали и даже погибали люди.
Несомненно, когда все самодвижущиеся устройства, когда другие виды роботов,
например, в сфере медицины наблюдается очевидный прогресс, будут массово
использоваться, таких проблем и случаев окажется очень-очень много.
И вопрос ответственности разработчиков, производителей,
собственников и пользователей всех этих устройств обретает крайне важное значение.
Что происходит в этой связи в Российской Федерации?
В конце прошлого года по заказу Grishin Robotics — компании,
которая активно занимается инвестициями в разработку роботов и которой руководит
Дмитрий Гришин, известный деятель в сфере Интернета, юридической фирмой
Dentons был разработан первый законопроект о роботах в Российской Федерации.
Я имею удовольствие быть в коллективе авторов этого законопроекта, когда мы с
моим коллегой Владиславом Архиповым представили, сознаюсь, упрощенную, но с
нашей точки зрения заслуживающую внимание модель регулирования указанной сферы.
Мы пошли пока по простому пути,
когда предложили поправки в гражданское законодательство Российской Федерации.
В рамках законопроекта была предложена модель, когда все роботы делились
на две части — обычные роботы, назовем их неинтеллектуальные,
и роботы-агенты, которые могут действовать самостоятельно и в результате исполнения
определенных формальностей, которые были предложены в законопроекте,
при определенных условиях могут считаться квазисубъектами в системе права.
Это опять-таки сейчас кажется фантастикой,
это может и должно обсуждаться критическим образом, но мы подумали о том,
что, возможно, в ближайшей перспективе либо позже роботы
могут рассматриваться в качестве специальных субъектов права.
Это как в сфере юридических лиц.
Таковые появились тысячу с лишним лет назад, но это,
конечно, определенная фикция и допущение, которая была удобной
и остается удобной для целей обеспечения экономических отношений.
Никакие юридические лица непосредственно по улицам не ходят,
в лесах не гуляют и деньги непосредственно не выдают.
За них все это делают люди: сотрудники, собственники, органы управления.
И здесь это фикция, которая оказалась выгодной и удобной
для человечества и которая была воспринята правом.
То же и самое в сфере робототехники: рано или поздно сложные системы начнут
действовать целиком самостоятельно.
В режиме самообучения они будут взаимодействовать с внешней средой,
и будет возникать вопрос: что будет происходить,
если эти специальные объекты или квазисубъекты будут участвовать в
гражданских сделках; будут в тех или иных обстоятельствах причинять вред?
Естественно, наверное, неумышленно, но тем не менее вред здоровью, имуществу.
И в этой связи мы предложили модель,
связанную с наделением ограниченной правосубъектностью указанные объекты.
Причем эти объекты в принципе, в первую очередь,
мы рассматриваем в качестве умного движимого имущества.
Хотя это тоже спорный вопрос, поскольку в сфере робототехники и искусственного
интеллекта существуют сферы, где роботы не имеют материальной оболочки.
Применительно к этому законопроекту мы излагаем идеи о том,
что модели роботов должны регистрироваться.
Почему именно модели, а не все роботы?
Поскольку мы ожидаем, что непосредственно роботов будет очень много,
но государство должно из-за задачи обеспечения безопасности контролировать
модельный ряд указанных объектов.
Если этот объект, его модель, прошел соответствующий цикл испытаний, он
безопасен, тогда его можно непосредственно включать и вводить в гражданский оборот.
Вторым условием, помимо регистрации моделей, для того чтобы соответствующий
объект обрел правосубъектность, должно стать публичное заявление
обладателя указанного устройства о том, что робот начинает функционировать.
После этого нажимается красная кнопка и автономный робот, робот-агент, начинает
действовать и участвовать в частности в гражданско-правовых отношениях.
Здесь очень много сложных вопросов.
Нужно иметь в виду, что, конечно, модели регулирования,
поправки в Гражданский кодекс далеко неидеальны.
Несомненно, здесь есть вопросы,
связанные с административным правом, с правом информационным.
Робот — это обязательно информационная система, здесь вопросы обеспечения
информационной безопасности всех устройств и систем для робота являются ключевыми.
Вспомним массу фантастических рассказов и фильмов о восстаниях машин, о том, что
кто-либо проникал в разум робота, влиял, и затем этот робот действовал негативно.
Это все на текущий момент проблематика информационной безопасности и обеспечения
доступа к информационным системам.
Соответственно здесь будет иметь место сорегулирование различными отраслями права
указанной сферы.
После научной дискуссии, в том числе связанной с законопроектом о роботах,
законопроектом Дмитрия Гришина, как его сейчас называют, необходимо определиться
с государственной политикой и путями развития регулирования робототехники.
Та острая дискуссия, которая сейчас имеет место среди ученых,
в целом в системе научного сообщества, говорит о том,
что требуется разработка системного законодательства о робототехнике,
когда следующим этапом после текущего законопроекта и тех инициатив,
которые сейчас предлагаются, необходимо появление специального закона,
который бы ввел определение информационных систем,
объектов и роботов в целом; провел бы определенную классификацию
указанных устройств и систем; совершенно единообразным образом
раскрыл бы права и обязанности государства в указанной сфере,
поскольку государство должно обеспечивать и гарантировать безопасность
соответствующих систем; и затем бы представил на обсуждение
для сообщества и бизнеса вопросы, связанные с
использованием роботов в различных сферах экономики и человеческой деятельности.
Мы уже сейчас имеем соответствующие примеры, когда был наполнен Воздушный
кодекс в отношении дронов, когда буквально около года
назад появились первые ГОСТы, связанные с робототехникой.
Но пока этих примеров и детальности их проработки совершенно недостаточно для
тех вызовов и того технического прогресса, которые нас ожидают в ближайшее время.
Соответственно необходимо обсуждение и предложения конструкции регулирования
и использования роботов в различных сферах от помощи человеку,
от медицины до использования роботов в том числе,
возможно, и в целях государственной безопасности и обороны.
Последнее представляет из себя очень сложную дискуссионную тематику,
тем не менее на этом сосредоточены уже законодатели во многих государствах мира.
Здесь же потребуется ответить на вопрос,
будут ли роботы в каком-то обозримом будущем субъектами права?
Несмотря на то, что сейчас эта проблематика — придание роботам
определенной правосубъектности — пока что представляется довольно экзотической,
тем не менее, исходя их тех темпов развития технологий и появления новых
робототехнических решений, несомненно, этот вопрос станет
краеугольным для и развития и регулирования робототехники,
и на самом деле будет служить предметом очень сложной философской,
социальной, социально-психологической дискуссии в мире.
Поскольку если мы посмотрим на ту самую фантастику, на те тонны книг,
которые я упомянул в начале, действительно, если технологии
станут настолько сильными и умными, мы должны для себя решить,
и право должно дать ответ, и не только право, но и другие сферы знаний,
какова роль человека во взаимодействии с роботами и какова здесь
будет задача и роль роботов в развитии человечества.
[БЕЗ_ЗВУКА]
Архипов Владислав Владимировичканд. юрид. наук, доцент кафедры теории и истории государства и права СПбГУ
Наумов Виктор Борисовичканд. юрид. наук, доцент кафедры государственного и административного права СПбГУ
