Вычислительное право 2020

Вычислительное
право 2020
ОПРЕДЕЛЕНИЕ, ПРОБЛЕМЫ,
МЕТОДЫ

Встреча Закона и ИТ
Правовое регулирование цифрового мира
(с помощью нецифровых законов)
Цифровая поддержка правовых практик
(с помощью нерегулируемых технологий)
(С) ЕГОР ЧУРИЛОВ. МИНСК 2020 2

Различные аспекты цифровизации: LegalTech
- Автоматизация человекоцентричных процессов
Делопроизводство, доступ к правосудию, законотворчество
- Миграция закона в цифровую форму
Оцифровка бумажных документов, онлайн-каталоги, е-шаблоны
- Построение автономных агентов с правовой функцией
Смарт-контракты, оракулы, джинны, монархи*
*Терминология из «Superintelligence» Ника Бострома

Цифровая поддержка правовых практик
Юридические фирмы
◦ Улучшить качество и, возможно, расширить охват юридических услуг
◦ Снизить затраты за счёт замещения человеко-юристов робо-юристами
◦ Дилемма: глубокая цифровая трансформация или выдавливание с рынка
Корпоративные юристы
◦ Уменьшить риски и стоимость юридических практик,
связанных с существующим нецифровым правом (например, контрактная аналитика)
Предприниматели
◦ Расширить поле возможностей, создав новые сервисы для бизнес-практик,
с новым цифровым правом (например, смарт-контракты)
◦ Снижать стоимость услуг, демпинговать юридические фирмы
Законодатели, государство
◦ Важный аспект технологического суверенитета (а в перспективе – и правового)

КАРТА LEGALTECH ОТ
THE STANFORD LAW SCHOOL
CENTER FOR LEGAL
INFORMATICS
1706 КОМПАНИЙ
В 9-ТИ КАТЕГОРИЯХ
COMPUTATIONAL LAW?
http://techindex.law.stanford.edu

Определение

Одна из величайших аномалий современности
состоит в том, что закон, существующий
в качестве общественного руководства
к действию, превратился в такую тайну,
которая непонятна обществу и едва ли понятна
даже его собственным служителям.
Ли Лёвинджер
основатель юриметрики, 1949

Миссия Вычислительного Права
1. Сделать закон более понятным для людей
2. Переложить часть усилий в понимании и
применении закона на вычислительные машины
3. Стать одной из дисциплин, которая создаёт новый
закон для нового общества

AI in Law
Computational Law
Computational Legal
Computational Legal Studies
Computational Legal Science
Artificial Legal Intelligence

Список от IAAIL в качестве определения
«Подраздел Искусственного Интеллекта, занятый в основном приложениями ИИ в правовой
информатике»
Automated information extraction from legal databases and texts
Conceptual or model-based legal information retrieval
Machine learning and data mining for e-discovery and other legal applications
Automatic legal text classification and summarization
Formal models of legal reasoning
Computational models of argumentation and decision making
Computational models of evidential reasoning
Legal reasoning in multi-agent systems
Executable models of legislation
http://www.iaail.org/?q=page/about

Ещё определения
“Computational Law is that branch of legal informatics concerned with the automation of legal analysis”
Michael Genisereth, prof. @ Stanford University
“AI in Law: Applications of advanced information technology to support tasks in the legal domain”
Michael Bommarito, MSE FE University of Michigan
“Computational Legal Studies: Data Analysis + Formal Models”
Daniel Katz, Associate Professor @ Illinois Tech - Chicago Kent College of Law, founder @ LexPredict
“Computational Law: Expressing Law and Legal Processes as Standard Data Through Interoperable Service Interfaces”
Daniel Greenwood, Lead law.MIT.edu @ MIT
“Computational Law is Law that works as software”
Hans Andersson, Berkeley University

Вычислительное право от dr. Daniel Katz
https://www.slideshare.net/Danielkatz/artificial-intelligence-and-law-a-
primer(С) ЕГОР ЧУРИЛОВ. МИНСК 2020 12

Определение от Stanford logic group (CodeX)
Вычислительное Право –
подход в области автоматизации правовой
аргументации, фокусирующийся на
семантически богатых законах,
правовых положениях,
контрактных условиях и
бизнес-правилами,
в контексте электронной коммуникации.
Computational law is
an approach to automated
legal reasoning focusing on
semantically rich laws,
regulations,
contract terms, and
business rules
in the context of electronically-mediated actions.
Love, Genesereth - "Computational Law" (2005)

«Наука об обществе, которая
включает в себя изучение
правовых материй и их движение
через пространство и время,
вместе с близкими концепциями,
такими как распределение
ресурсов и исковая сила.»
http://legalphysics.org
by the Legal Research team
of the MIT Human Dynamics Lab
http://socialphysics.media.mit.edu
Social Physics, MIT Media Lab
Prof. Alex Pentland
http://hd.media.mit.edu
Human Dynamics, MIT Media Lab
Prof. Alex Pentland

Computational Law Design Challenge
MIT project
Сверхзадача: Переформатировать законодательство, отрефакторить кодексы права и
опубликовать закон как открытый цифровой сервис.
Виртуализация закона на вычислительной платформе:
“Social Physics and Connection Science”
The Model Platform
◦ Репликация суверенной правовой сущности (город, штат, страна)
◦ Игра-симуляция (SimCity), позволяющая просчитывать эффекты правового регулирования в
обществе, экономике, государстве
◦ Данные для модели берутся из реальных городских и государственных источников
◦ Пользовательская игра, поощряющая игровые взаимодействия
Всё пока в зачаточном состоянии.
Презентация Криса Перейра https://www.youtube.com/watch?v=-pboxAUgiUA

“Causing the law to be actionable
is one of the aims of
Computational Legal Science”
Daniel ‘Dazza’ Greenwood
Lead Scientist @ law.MIT.edu
https://www.youtube.com/watch?v=G2_1I9aUwgs
“Сделать закон исполняемым –
одна из задач
Вычислительной Юриспруденции”

Юридический инжиниринг Legal Engineering
Ещё один новый и неустоявшийся термин
“Legal engineering” is a growing field of legal practice, yet there is no clear theoretical definition of
the concept. “ Ritaine C. - Legal Engineering in Comparative Law – An Introduction (2015)
Применение права в инженерии и инженерном менеджменте
◦ Контрактная работа в строительстве
◦ Защита интеллектуальной собственности
◦ Сертификации…
Использование инженерной экспертизы в судебных делах
Автоматизация правовых процессов
◦ Замена катриджей в принтере юр.отдела
То, чем занимается юрист-программист, пишущий на Solidity
◦ Переложение обычных контрактов в смарт-контракты

Вычислительное право
исследовательская дисциплина и группа знаниевых технологий
для поддержки практик права и юриспруденции,
со следующими задачами:
1. представление правого и другого необходимого предметного знания в виде функций,
вычислимых на машине Тьюринга;
2. анализ, алгоритмический вывод, и синтез правового знания;
3. представления результатов вывода в виде, пригодном для использования человеком
или другими машинами.
цель: автоматизированное управление
жизненным циклом исполняемого правового знания
для поддержки общественных практик
(Чурилов)
ОбработкаВвод Вывод

Функции вычислительного права
1. Создавать право: конструировать правила для целесообразного регулирования
общественных отношений в соответствии с нуждами общества.
Робот-законодатель
2. Обслуживать право: поддерживать строгость синтаксиса, непротиворечивость семантик,
структуру представлений, версионность и трассируемость.
Робот-законодержатель
3. Усматривать право: определять возникновение ситуации правового регулирования.
Робот-законосмотритель
4. Вычислять право: определять форму правового регулирования с учётом всех
предпосылок, контекста, процесса.
Робот-законовычислитель
5. Применять право: определять, как необходимая абстрактная правовая норма должна
быть применена в конкретной практической ситуации.
Робот-законоприменитель
(Чурилов)

Краткий
исторический
экскурс

• Коренится в философии правового позитивизма (Legal Formalism):
интересуют формальные нормы, а не моральная справедливость
и традиции обществ.
• 18 век: Characteristica Universalis Лейбница – идеографический язык,
исследования деонтической модальности в логике
• 1948: Lee Loevinger Jurimetrics: The Next Step Forward
Юриметрика - сбор и первичный анализ правовой статистики
• 1956: Layman Allen Symbolic Logic: A Razor-Edged Tool for Drafting and Interpreting Legal
Documents
• 60-70-ые, рассвет AI. Оптимизм и первые попытки создания программ (Lucien Mehl)
• 1972-78: TAXMAN и TAXMAN II – эксперимент по применению ИИ в корпоративном
налоговом праве, L.T. McCarty; LEGOL by R. Stamper – правила для управления
организацией.
• 1980: British Nationality Act записан на Prolog
Краткая история 1/2

• 1987: Leith Gardner An Artificial Intelligence Approach to Legal Reasoning – попытки
определить дисциплину и поле работы
• 1987: 1st International Conference on AI and the Law (Boston)
• 1990-2000-ые: двухгодичные конференции ICAIL, ежегодные Jurix в Европе
• 1996: Nick Szabo Smart Contracts: Building Blocks for Digital Markets
• 2005: Stanford Logic group
• 2010-ые: Приход LegalTech – движение технологического предпринимательства в
области права
• 2014: New Normal: констатация новых вызовов и перспектив юриспруденции в
цифровую эпоху
• 2015: Ethereum
Краткая история 2/2

ЦЕНТРЫ ИССЛЕДОВАТЕЛЬСКОЙ РАБОТЫ
В ОБЛАСТИ ВЫЧИСЛИТЕЛЬНОГО ПРАВА
Сообщите о других центрах!
Обновляется
https://drive.google.com/open?id=1ItWhrVMq1W62b_TAg79KmVdFM7hSzdyK&usp=sharing

Подходы

Великий Предел: данные и алгоритмы
Data-driven Computational Law
• Всё есть данные, закон – тоже данные
• Используем аналитические численные
методы, чтобы делать выводы
Code-driven Computational Law
• Код – это закон, закон – это код
• Перепишем закон как код!
• Пусть код, который мы пишем,
будет законом!
Model-driven Computational Law
• Формальные модели права:
малым охватить многое
• Логический вывод, симуляции

Data-driven

Тоже Computational Legal Studies: посчитать слова в U.S. Code
M.Bommarito, D.Katz “A Mathematical Approach to the Study of the United States Code” (2010)

Вычислительное право и большие данные
 Весь корпус правовой информации – Большие Данные
 Не всё ещё оцифровано
 Корпуса информации, связанной с правом – Очень Большие Данные
 Это – текст, не числа. С текстом всё на порядок сложнее
 Не всё ещё связано
 Большие Данные не являются Большим Знанием
 Вычислительное право работает над тем, чтобы превращать данные в исполнимое
знание

Одна из главных проблем: нужны данные
Качество доступа
◦ Часть правовой информации не доступна вовсе: закрытые соглашения, уставы и пр.
◦ Часть находится в платном доступе – должна быть открыта?
Качество данных
◦ Сканы вместо текста
◦ Разнообразие [древних] форматов файлов
Качество информации
◦ Нерегулярный синтаксис: структуры текста варьируются
◦ Сложная грамматика, языковые конструкции (legalese), на которых буксует NLP
◦ Сложная семантика: пересекаются многие предметные области
Сложное знание

Нужны открытые данные
Открытые источники
Открыты и доступны: за небольшую плату или бесплатно
Безопасные источники
Защищены от подлога и непреднамеренных изменений: хотя бы MD5
Машиночитаемые источники
open data-стандарты представления, никаких PDF
Управляемые источники
Метаинформация, версионность, QoS
Управляемый синтаксис
Идентификация и кодификация структуры: нормативная структура закона,
внутренние ссылки согласованы с URI
Управляемая семантика
мало помалу переходить от текстовой ориентированности к факт-ориентированности и далее
Открытые правовые вычислительные модели, сервисы, фреймворки?

Code-driven

Исполнимый закон: микросимуляции
Mes Aides (Мои Помощники)
Платформа для вычислений законодательных требований:
налоги, пошлины, вычеты…
Правовая онтология, модель данных, Web API,
открытый код и расширяемая архитектура
Assess labor cost (Стоимость рабочей силы)
Расширение для оценки стоимости найма
сотрудника, включая налоги и
налоговые вычеты
Evaluate reforms impact
Симуляция для оценки последствий налоговых
реформ, открытый Python API
https://openfisca.org/

Вычислительное право и смарт-контракты
Две задачи
Реализовывать регулирование правоотношений через смарт-контракты
Оценивать и регулировать операции на блокчейне в
соответствии с правом из некоторой юрисдикции (какой?)

Смарт-контракты: технология и право
С точки зрения технологии – удобный компонент
“Смарт-контракт – это код, который сохраняется в Блокчейне,
запускается транзакциями Блокчейна, а также читает и пишет данные в
базу данных Блокчейна”
G. Greenspan ‘Beware of the Impossible Smart Contract’, Blockchain news 2016,
http://www.theblockchain.com/2016/04/12/beware-of-the-impossible-smart-contract
С точки зрения права - торговый автомат?
Смарт-контракты – «…сдвигают парадигму в сфере контрактной работы:
они позволяют автоматизировать контрактную работу обеих сторон».
А.Савельев - Сontract law 2.0. Smart contracts as the beginning of the end of classic contract law (2016)
Автоматизация двух сторон соглашения означает также,
что две стороны являются юридическими агентами.

Вычислительное право и смарт-контракты
От юридически обязывающего (legally-binding) к технически исполняемому (actionable)
Каждый исполняемый контракт – микрозакон (но с другой нормативностью)
Только данные, которые легко обрабатываются дата-центричными
криптоалгоритмами. Закриптовать строку – ОК. Как закриптовать факт?
Высокая скорость, хорошая масштабируемость
Исполнение контракта гарантируется машиной Ethereum (мы доверяем?)
Синтаксис и семантика контракта – в руках программистов (нам доверяют?)
Цифровые активы
Как защищать права
Как передавать права
Цифровая идентичность
Защита персональных данных
Безопасное использование их
сервисами
Цифровые контракты
Нотариат
Автоматическое выполнение
Исследовательская программа law.MIT.edu

Model-driven

Представление законов в формальном виде:
синтаксис, семантика, языкы
DC Law (MIT) https://github.com/DCCouncil/dc-law-xml
Hammurabi https://github.com/mpoulshock/HammurabiProject/
Wolfram Alpha DSL, last commit July 2017
LegalRuleML (OASIS) – вводится специфичная правовая онтология верхнего уровня
Legalese – DSL для юридических документов
“Solution: Computational Legal”
Lexon – компилируется сразу в смарт-контракты
“The first idea that is championed by Lexon is to have a language that is actually understandable, at
least accessible and readable, to the professionals in the legal domain.” Henning Diedrich, Lexon
creator
Множество академических попыток создания «логических» или «формальных» языков для
записи закона и юридических документов (дескрипционные логики, Causal Calculator С+,
конечные автоматы)

Языковые модели: NLP/NLU/NLG
Plain language: Everyone I'm suing worked together.
Legal language: Plaintiff alleges on information and belief that Defendants, and each of them, are and at
all times herein mentioned were the agents and servants of each other and in doing the things hereinafter
alleged were acting within the scope of such agency and service.
Plain language: The реорlе I'm suing are the landlords.
Legal language: The Defendants are, in some manner, the owners and lessors of the real property where
Plaintiff resides.
GPT-3: языковая модель от OpenAI, 175 млрд параметров
Разбор формулировок, опознание сущностей с
помощью natasha/Slovnet

Синтаксическая модель закона
XML’em all: Estrella Project & LKIF (EU), CEN Metalex (EU), LAMS (UK), JSMS (Australia), SDU BWB
(Netherlands), LexDania (Denmark), CHLexML (Switzerland), eLaw (Austria), NormeinRete (Italy) etc
XML4EP, FORMEX для EUR-LEX (EU, 2014), USLM XML для US Federal Register, Regnet & Regbase Project (USA)

xmLegesExtractor
Инструмент для
превращения текстов
европейских законов в
XML структуры

Вычислительные Онтологии права
computational Legal ontologies
«Онтология – явная спецификация
концептуализации»
“An ontology is an explicit specification of a
conceptualization“
Gruber (1993)
Представление правового знания в виде графа
понятий (онтологии) и набора формальных
утверждений о мире (онтик, фактов),
согласованных с данной онтологией.
Hoekstra R. et al The LKIF Core Ontology of Basic Legal Concepts (2007)

Вычислительные Онтологии права
computational Legal ontologies
«В настоящее время создано более 60 онтологий права…но лишь малая часть из них
вышла за рамки улучшенных прототипов, даже готовых для использования»
G. Sartor “Approaches to Legal Ontologies” (2011)
Логический вывод (inference, reasoning) на онтологиях – популярен, но сейчас
вытесняется Data Driven-подходами, статистическими методами машинного обучения
Онтологический подход часто используется неявно («модель данных»)
Факт-ориентированность
RDF-триплеты
SPARQL
Camilleri J. et al - A CNL for Contract-Oriented Diagrams (2014)

Можно отвечать на вопросы вида
«Какие города соединяются
Транссибирской магистралью или
Трансмонгольской железной
дорогой?»
SPARQL-запрос
http://query.wikidata.org
Это sparql-endpoint для
семантически связанных данных
Wikipedia
Для правовых БД
таких сервисов ещё нет!
Как применяются вычислительные
онтологии?

Логические языки вычислительного права
Логика предикатов
Модальные логики
(темпоральная, деонтическая,
эпистемическая и пр.)
Дескрипционная логика
Теория типов
Теория множеств
μ-calculus
Causal Calculus С+

Машины состояний, конечные автоматы
Flood M., Goodenough O. - Contract as Automaton.
The Computational Representation of Financial Agreements (2017)

Рассуждения на основе прецедентов
Case-Based Reasoning
Процесс решения новых проблем, основываясь на похожих проблемах в прошлом
“CBR cycle” Aamodt A., Plaza E. - Case-Based Reasoning (1994)
1. Получить похожие прецеденты
2. Переиспользовать прецедент, адаптировать под запрос
3. Сверить полученный прецедент с целевым контекстом
4. Сохранить так, чтобы новый прецедент тоже можно было переиспользовать
Существуют огромные базы данных судебных решений
Можно использовать машинное обучение для поиска и адаптации
https://case.law – уже обрабатывают базы данных США
http://juritool.com – поиск кейсов в корпоративных БД
https://ravellaw.com – аналитика судебных решений и поиск аргументации

Агентные подходы в Вычислительном праве
Борьба с высокой сложностью
Необходимость учитывать
межагентные взаимодействия и
внутриагентные состояния (оценки,
интенциональность…)
Репрезентации не только
юридических, но и социальных систем
в единой модели
Агенты, состояния, действия,
сценарии…
Транзакция, мотивация, аффорданс,
диспозиция…
Sileno G. et al - On the Interactional Meaning of Fundamental Legal Concepts (2014)

Reasoning with the Law vs Reasoning about the Law
Reasoning with the Law (причинный вывод, causal reasoning):
юрист производит логический вывод относительно прагматических ситуаций
в соответствии с правилами, описанными в законе
«Парковка автомобилей запрещена с 9 до 18»
◦ Нормализация правил при составлении законов
◦ Дедуктивный вывод с использованием закона, как аксиоматической системы
◦ Использование немонотонных логик для представления структур «правило-исключение» и
правовых иерархий
Reasoning about the Law (нормативный вывод, normative reasoning):
юрист производит логический вывод о применимости, сочетаемости правил, вне
зависимости от их конкретного содержания (аргументация и интерпретативные
рассуждения)
«Статья №230 действует с 1 января и не применяется в сельской местности в силу Статьи №143»
Prakken H., Sartor G. - Law and Logic. a Review from an Argumentation Perspective (2015)

Социальные
аспекты

Недоверие
Как доверять машине?
«не исключено, что общество будет сопротивляться идее, что решения будут выноситься
компьютером на основе априорных определений, сделанных когортой невыборных,
неподотчётных и по существу неизвестных инженеров и юристов, работающих сами по себе»
Nettle G. - Technology and Law (2016)
Как проверять машину?
Explainable AI and Law (XAILA) conference room @ Jurix 2018
Humanized AI (HAI)
IntERMeDIUM: моральный контракт между человеком и машиной.
Intentional, Executable, Reward-based, Moral, Declarative, Inductive, Utilitatian, Machine
van Otterlo M., Atzmueler M. - On Requirements and Design Criteria for Explainability in Legal AI (2018)

Социальный эффект технологий права:
3 типа нормативности
Различные технологии поддержки и реализации права в обществе формируют разные
типы «нормативности»
 Нормативность, управляемая текстом (text-driven)
 Нормативность, управляемая данными (data-driven)
 Нормативность, управляемая кодом (code-driven)
Нормативность – форма, в которой правовые нормы существуют, как регуляторы общественного поведения;
совокупность параметров применения норм: субъект, объект, инструмент, избирательность, ограничения на
обстоятельства и пр.*
Мы уходим от закона-как-речевого-акта к закону-как-статистике и
закону-через-код
Для Вычислительного права – это особые этические проблемы (этика ИИ)
https://www.cohubicol.com/3-types-of-normativity

Открытый закон
«Если коммерческое ПО начинает определять архитектуру Интернета, оно создает своего
рода приватизированный закон, который должен регулироваться, если мы хотим, чтобы
общественные интересы и общественные ценности были учтены»
L. Lessig, Harvard prof of Law. NY Times, 1999
https://www.nytimes.com/1999/12/06/business/technology-digital-commerce-settlement-talks-microsoft-case-hinge-question-are.html
 Как регулировать [частные] вычислительные системы, исполняющие общественный
закон?
 Как регулировать массовые приватные законы внутри общественного? От смарт-
контрактов рано или поздно мы перейдём к смарт-законам (emergent law)
 Как понимать машинную логику принятия решений? Является ли требование
«объяснения» релевантным?

СПАСИБО!
Егор Чурилов | Yehor Churilov
FB, LinkedIn
https://t.me/yehor_churilov
http://anticomplexity.org/

Вычислительное право 2020

More Related Content

Similar to Вычислительное право 2020 (20)

Вычислительное право 2020