ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: исследования и игры, креативность и артистизм, генеративки и постправда, дипфейки и витьюберы

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ:
исследования и игры, креативность и артистизм,
генеративки и постправда, дипфейки и витьюберы
Докладчик: к.т.н., доц. Алексей Незнанов
старший научный сотрудник МЛ ИССА ФКН НИУ ВШЭ
2020-07-06

О докладчике
⚫ Алексей Андреевич Незнанов
⚫ К.т.н., доцент
⚫ Член IEEE
⚫ Доцент департамента анализа данных и искусственного
интеллекта ФКН НИУ ВШЭ (http://cs.hse.ru/ai)
⚫ Старший научный сотрудник международной лаборатории
интеллектуальных систем и структурного анализа ФКН НИУ
ВШЭ (http://cs.hse.ru/ai/issa)
⚫ Консультант «маленького гида по большим данным» на
Постнауке (http://postnauka.ru/author/a_neznanov)
⚫ Автор учебника, учебных пособий, 10 авторских курсов и
более 60 научных публикаций
© 2020, А.А. Незнанов 2

Жизнеутверждающий эпиграф
Компьютер никогда не заменит человека!
Людоедская классика
© А. Соловьев, «Ишкушштвенный Интеллект», 1994

Что же такое ИИ?
✓ Когда появился термин?
✓ Области исследований
✓ ИИ как объект исследования
✓ ИИ слабый и сильный
✓ Основные классы и формы
✓ Знания – явные и неявные, нейросети и онтологии

Искусственный интеллект – начало
⚫ Дартмутский семинар, 1956 год
⚫ «Мы предлагаем исследование искусственного интеллекта сроком в 2 месяца с
участием 10 человек летом 1956 года в Дартмутском колледже (США).
Исследование основано на предположении, что всякий аспект обучения или любое
другое свойство интеллекта может в принципе быть столь точно описано, что машина
сможет его симулировать. Мы попытаемся понять, как обучить машины использовать
естественные языки, формировать абстракции и понятия, решать задачи, сейчас
подвластные только людям, и улучшать самих себя.
Мы считаем, что существенное продвижение в одной или более из этих проблем
вполне возможно, если специально подобранная группа учёных будет работать над
этим в течение лета».
⚫ Дж. Маккарти, М. Минский, К. Шеннон, Г. Саймон,
Н. Рочестер, Р. Соломоноф, …

ИИ – одного лета не хватило…
⚫ International Joint Conference on Artificial Intelligence (с 1969 г.)
⚫ …
⚫ IJCAI-1975 (Тбилиси) – около 120 докладов
⚫ …
⚫ IJCAI-2013 (Beijing) – 413 докладов
⚫ IJCAI-2015 (Buenos Aires) – 571 доклад
⚫ IJCAI-2017 (Melbourne) – 660 докладов
⚫ IJCAI-2018 (Stockholm) – 709 докладов
⚫ при почти одинаковой доли приема в чуть более 20%
⚫ Другие конференции
⚫ Более 200 международных конференций высокого уровня в год!
⚫ Ultimate Guide to Artificial Intelligence and Machine Learning Conferences – Updated November
2018 (http://developer.att.com/blog/ai-conferences)

ИИ – междисциплинарность
⚫ Представления об ИИ непрерывно расширялись
⚫ Wolfgang Bibel, On a Scientific Discipline (Once) Named AI
(IJCAI/ECAI-2018 Special Track on the Evolution of the Contours of AI)
⚫ «…the scientific discipline envisioned by AI’s pioneers today has become
spread over about half a dozen of other disciplines who compete with AI for
harvesting the honors (and profits)…» :
⚫ Neuroscience
⚫ Psychology and cognitive science (CogSci)
⚫ Computer Science (CS)
⚫ Informatics
⚫ …

IJCAI-17 – Список секций (1)
⚫ Классификация (Classification)
⚫ Отбор и построение признаков
(Feature Selection and Construction)
⚫ Майнинг данных (Data Mining)
⚫ Майнинг данных и обучение без учителя (Data Mining and Unsupervised Learning)
⚫ Приближенный вероятностный вывод
(Approximate Probabilistic Inference)
⚫ Зрение и восприятие (Vision and Perception)
⚫ Теории и модели автономных агентов
(Agent Theories and Models)
⚫ Семантика естественного языка (Natural Language Semantics)
⚫ Кооперативные игры (Cooperative Games)
⚫ Временные ряды и потоки данных (Time Series and Data Streams)

⚫ ИИ и проблемы автономности: Безопасность
(AI & Autonomy: Security)
⚫ Автоматическое рассуждение и доказательство теорем (Automated Reasoning
and Theorem Proving)
⚫ Роботы и зрение (Robotics and Vision)
⚫ Некооперативные игры (Noncooperative Games)
⚫ Майнинг данных и персонализация
(Data Mining and Personalization)
⚫ Компьютерные игры (Computer Games)
⚫ Рассуждения по здравому смыслу (Common Sense Reasoning)
⚫ Планирование движения и путей (Motion and Path Planning)
⚫ Марковские процессы решений (Markov Decision Processes)

⚫ Логики описаний и онтологии (Description Logics ad Ontologies)
⚫ Моделирование рассуждений о геометрии, пространстве и времени (Geometric,
Spatial, and Temporal Reasoning)
⚫ Глубинное обучение и обработка естественного языка (Deep Learning and NLP)
⚫ Эвристический поиск (Heuristic Search)
⚫ Алгоритмы планирования (Planning Algorithms)
⚫ Распознавание активности и планов
(Activity and Plan Recognition)
⚫ Вычислительная сложность рассуждений (Computational Complexity of Reasoning)
⚫ Вычислительная биология и электронное здравоохрание
(Computational Biology and eHealth)

⚫ Обучение, основанное на знаниях (Knowledge-Based Learning)
⚫ Программная инженерия, ориентированная на автономных агентов (Agent-
Oriented Software Engineering)
⚫ Программная инженерия, основанная на знаниях
(Knowledge-Based Software Engineering)
⚫ Порождение текстов на естественном языке
(Natural Language Generation)
⚫ Анализ эмоций и майнинг текстов
(Sentiment Analysis and Text Mining)
⚫ Обучение с подкреплением (Reinforcement Learning)
⚫ Персонализация и моделирование пользователя (Personalisation and User
Modelling)
⚫ Модели смены убеждений (Belief Change)

⚫ ИИ и проблемы авторномности: этика и ответственность (AI & Autonomy:
Ethics and Responsibility)
⚫ Ансамблевые методы (Ensemble Methods)
⚫ Немонотонные рассуждения (Non-Monotonic Reasoning)
⚫ Действия, изменения и причинность (Action, Change, and Causality)
⚫ Теория обучения (Learning Theory)
⚫ Извлечение информации (Information Extraction)

IJCAI-2018 – Новые секции
⚫ Обучение онлайн (Online Learning)
⚫ Векторное представление слов (Word Embedding)
⚫ Поиск образов (Image Retrieval)
⚫ Диалог, модели разговоров (Dialogue, Conversation Models)
⚫ Человеческие вычисления и краудсорсинг (Human Computation and
Crowdsourcing)
⚫ О машинах и людях (On Machines and Humans)
⚫ Эволюция ИИ как дисциплины (Evolution of the Contours of AI)
⚫ Причинность (Causality)
⚫ Интерпретируемость (Interpretability)

В общем, известная история …

ИИ – Классификация
⚫ Artificial Intelligence (AI)
⚫ Слабый – решение задач, традиционно требующих креативной деятельности
человека
⚫ Сильный – целеполагание, принятие решений вне зависимости от области
⚫ Тест Тьюринга
⚫ Конкурс на премию Лёбнера – Loebner prize (http://www.aisb.org.uk/events/loebner-prize)
⚫ Управление знаниями
⚫ Эксплицитными (явными) – онтологии + логика
⚫ Имплицитными (наявными) – нейронные сети
⚫ Анализ данных
⚫ Чисел, текстов, изображений, сетей (графов), ...

ИИ – основные области
⚫ Моделирование
⚫ Восприятия
⚫ Обучения
⚫ Представления знаний
⚫ Рассуждения
⚫ Механизмов выбора и действий
⚫ Самые перспективные области (всё время меняются ☺)
⚫ Глубокие нейронные сети в машинном обучении
⚫ Генеративные модели
⚫ Обучение с подкреплением
⚫ Неклассические логики и нетрадиционное представление знаний
⚫ Этика ИИ
⚫ ...

Машинное обучение
⚫ Основные задачи
⚫ Восстановление зависимостей
⚫ Сжатие данных и выявление знаний
⚫ Как имплицитных, так и эксплицитных (в зависимости от метода)
⚫ Классификация (распознавание по образцам)
⚫ Кластеризация (различение)
⚫ Ранжирование (упорядочение и размещение в пространстве)
⚫ ...
⚫ Методы
⚫ Обучение без учителя
⚫ Обучение с учителем (на примерах и с подсказками)
⚫ Обучение с подкреплением (на основе вознаграждений)

Данные и метаданные
⚫ Знания появляются на уровне метаданных [metadata]
⚫ Данные, описывающие другие данные ☺
⚫ Управление метаданными
⚫ Формализация метаданных
⚫ Метаданные для метаданных (бесконечная иерархия)
⚫ Проблема согласования онтик
⚫ Проблема интероперабельности – решается!
⚫ Моделирование
⚫ UML, BPMN, IDEF, …
⚫ Archimate? ...

Метаданные – источники
⚫ Jeffrey Pomerantz, 2015 – Metadata
⚫ (http://www.amazon.com/Metadata-MIT-Press-Essential-Knowledge/dp/0262528517)
⚫ Miguel-Angel Sicilia (Editor), 2013 – Handbook of Metadata,
Semantics And Ontologies
⚫ (http://www.amazon.com/HANDBOOK-METADATA-SEMANTICS-ONTOLOGIES-MIGUEL-
ANGEL/dp/9812836292)

Значимость логики
⚫ 2011 – по сумме двух игр IBM Watson заработал 77 тысяч долларов, более
чем втрое обогнав сильнейших участников Jeopardy – Кена Дженнингса (Ken
Jennings) и Брэда Руттера (Brad Rutter)
⚫ Jeopardy – американский аналог «Своей игры»
⚫ Одна из логических ошибок Watson’a:
⚫ Простой вопрос «назовите аэропорт в Америке,
названный в честь героя 2-й мировой войны»
Watson не смог назвать О’Хара (Чикаго), хотя у него
было знание имени этого аэропорта и знание того,
что О’Хара получил высший орден США за Боевые
Заслуги, но не было заложено знание о том, что:
«получатель Ордена за Боевые Заслуги» есть «герой»

Собственно формализация знания
⚫ Gellish – Domain Dictionaries
and Dictionary Development (http://wiki.gellish.net/doku.php?id=dictionary_extension)
⚫ ...
⚫ Bibsonomy – the easy way to manage scientific publications
and bookmarks (http://www.bibsonomy.org)
⚫ ...
⚫ Elsevier Reference modules (http://www.elsevier.com/solutions/sciencedirect/content/reference-modules)
⚫ ...
⚫ Основы систематизации
⚫ Левенчук А. Системное мышление (http://mybook.ru/author/anatolij-levenchuk-2/sistemnoe-myshlenie-2)
⚫ SEBoK – Systems Engineering Body of Knowledge (http://www.sebokwiki.org)

Контролируемый язык
⚫ Контролируемый язык [Controlled language]
⚫ Однозначность
⚫ Сужение интерпретации
⚫ Удобство интерпретации компьютером
⚫ Точность семантических отношений
⚫ Удобство построения объяснений

Семантические отношения
⚫ Andries van Renssen A.
Taxonomic Dictionary of Relations, 2016 (http://www.lulu.com/shop/andries-van-renssen/taxonomic-
dictionary-of-relations/paperback/product-22534783.html)
⚫ This is a taxonomic dictionary, which means that the defined concepts are arranged in a strict
subtype-supertype hierarchy, also called a taxonomy
⚫ The dictionary defines kinds of relations that are usually not found in conventional dictionaries
⚫ A number of the kinds of relations are also defined in various ISO and non-ISO standards
⚫ Более 5000 отношений!
⚫ Что реализовано в Gellish:
⚫ Gellish Syntax and Contextual Facts
(http://github.com/AndriesSHP/Gellish/blob/master/Data/Gellish%20Syntax%20and%20Contextual%20Facts%20-%20Oct2017.pdf)

Основные семантические отношения в тезаурусах
⚫ Требования представления:
⚫ SKOS-совместимость
⚫ Отношение между классами [class-class]
⚫ “Is-A” (обобщение)
⚫ Пример: <Договор> IS-A <Юридический документ>
⚫ “Part-Of” (агрегация)
⚫ Пример: <Затекстовый библиографический список> PART-OF <Документ>
⚫ Отношения между экземпляром и классом [instance-class]
⚫ “Instance-Of” (инстациирование)
⚫ Пример: <2.2637-2019.вх23> INSTANS-OF <Договор>

Онтологическое моделирование (1)
⚫ Термин «онтология» используется в нескольких различных значениях
1. Наука, изучающую характеристики бытия и сущности
⚫ Так определена ещё Аристотелем – философская дисциплина
2. Средство формального моделирования знаний о некоторой системе или предметной области (в
самом широком смысле)
⚫ Чаще всего используемое в наше время техническими специалистами
⚫ 1993 г. – Т. Грубер определил формальную онтологию как эксплицитную спецификацию
концептуализации
⚫ Это определение на данный момент является лингвистически красивым и наиболее цитируемым
⚫ 1997 г. – В. Борст определила онтологию как формальную спецификацию общей
концептуализации, с дополнительным требованием, чтобы данная концептуализация
выражала общее мнение некоторой группы людей
⚫ 1998 г. – Р. Студер уточнил прагматику термина, предложив понимать онтологию как
формальную, точную спецификацию общей концептуализации, которая может
использоваться как человеком, так и компьютером

Онтологическое моделирование (2)
⚫ Кратко:
⚫ Для рассказа компьютеру и самому себе (человеку)
о предметной области
⚫ Развёрнуто:
⚫ Для уточнения понимания
⚫ Для формализации знаний – онтология по определению эксплицитна!
⚫ Для верификации знания
⚫ Для обнаружения лакун в знаниях
⚫ Для обмена знаниями между людьми и информационными системами
⚫ Для обеспечения фактами процедур логического вывода
⚫ Для выявления знаний более высокого уровня
из массивов низкоуровневого знания
⚫  Онтологии – основа баз знаний

Иллюстрация одного из стеков
⚫ Стандартный стек для
Sematic Web:
⚫ RDF (http://www.w3.org/RDF/)
⚫ OWL (http://www.w3.org/OWL/)
⚫ SPARQL – язык запросов
(http://www.w3.org/TR/sparql11-overview/)
⚫ +++
From Wikipedia, license: CC BY-SA

Общие метаонтологии (пример)
⚫ Онтология единиц измерения [Ontology of units of Measure]
⚫ [#GitHub] HajoRijgersberg/OM (http://github.com/HajoRijgersberg/OM)
⚫ Current version – 2.0

Онтологии в медицине
⚫ Основные метаонтологии:
⚫ Глобальный медицинский тезаурус Unified Medical Language System (UMLS) Metathesaurus
(http://www.nlm.nih.gov/research/umls/quickstart.html)
⚫ Интегратор источников данных и метаонтологий SNOMED Clinical Terms (SNOMED CT) (http://www.snomed.org)
⚫ Medical Subject Headings (MeSH) (http://www.nlm.nih.gov/mesh/meshhome.html)
⚫ Medical Dictionary for Regulatory Activities (MedDRA) (http://www.meddra.org)
⚫ Открытые предметные онтологии:
⚫ Международная классификация болезней и проблем, связанных со здоровьем International Classification of
Diseases (ICD) (http://www.who.int/classifications/icd/en/)
⚫ The Disease Ontology (http://disease-ontology.org)
⚫ Нормализованные названия лекарственных препаратов RxNorm (http://www.nlm.nih.gov/research/umls/rxnorm/index.html)
⚫ RxNav is a browser for several drug information sources, including RxNorm, RxTerms and NDF-RT (http://mor.nlm.nih.gov/RxNav/)
⚫ LOINC is a freely available international standard for tests, measurements, and observations (http://loinc.org)
⚫ Федеральный справочник лабораторных исследований (ФСЛИ). Справочник лабораторных тестов
(http://nsi.rosminzdrav.ru/#!/refbook/1.2.643.5.1.13.13.11.1080)
⚫ Справочник лабораторных тестов и услуг (ЛАТЕУС) (http://spbmiac.ru/ehlektronnoe-zdravookhranenie/informacionno-spravochnye-sistemy/spravochnik-lateus/)
⚫ Hymenoptera Anatomy Ontology Portal (http://api.hymao.org/projects/32/public/site/hymglossary/home/about)
⚫ HL7 Reference Information Model (http://www.hl7.org/implement/standards/rim.cfm)
⚫ …

Имплицитное знание, а также распознавание и
генерация образов
✓ Последствия нейросетевой революции
✓ Задачи распознавания
✓ Генеративные модели
✓ Мир фейков и постправды
✓ Проблемы и решения

Машинное обучение и ИИ
Искусственный интеллект
Машинное обучение
Нейросети
Глубокое обучение

Нейросетевая революция
⚫ Вторая зима искусственного интеллекта
закончилась нейросетевой революцией
⚫ Свёрточные, рекуррентные, ...
⚫ Автоэнкодеры, вариационные автоэнкодеры, ...
⚫ Нейромашины Тьюринга, ...
⚫ The Neural Network Zoo
(http://www.asimovinstitute.org/ neural-network-zoo/)
⚫ Попытка краткого представления и классификации результатов

А распознавание?
⚫ Задачи:
⚫ Выделение сущностей [Exctraction]
⚫ Начальная идентификация [Initial identification]
⚫ Отслеживание [Tracking]
⚫ Повторное распознавание [Reindentification]
⚫ Правда и ложь систем распознавания лиц (http://habr.com/company/recognitor/blog/418127/)
⚫ Быстро развивается, но наталкивается на проблемы:
⚫ Принципиальные (определение идентичности и изменчивости)
⚫ Этические
⚫ Организационные
⚫ Включая обеспечение безопасности
⚫ Технические

Незаметное проникновение
⚫ Сервисы с простым API
⚫ Microsoft Azure Cognitive Services Face
(http://azure.microsoft.com/en-us/services/cognitive-services/face/)
⚫ Face verification, Face detection, Emotion recognition
⚫ Смартфоны и носимые устройства
⚫ Triggs R. Facial recognition technology explained. 2019
(http://www.androidauthority.com/facial-recognition-technology-explained-800421/)

Хакеры и AI
⚫ Можно ли «хакнуть» искусственный интеллект?
⚫ Интересный вопрос!
⚫ Текущее состояние: Smith D.G. How to Hack
an Intelligent Machine. 2018
(http://www.scientificamerican.com/article/
how-to-hack-an-intelligent-machine/)
⚫ Хотя это именно «машинное обучение»
⚫ А может ли один AI
хакнуть другой?
⚫ Кто бы сомневался!
⚫ Legrand J. Artificial Intelligence as Security Solution and Weaponization by Hackers. 2019
(http://www.cisomag.com/hackers-using-ai/)

Другой пример обмана нейросети

Генеративные модели
⚫ GAN (Generative Adversarial Network)
⚫ Иллюстрация: GAN Lab (http://poloclub.github.io/ganlab/)
⚫ Постправда и мир фэйков
⚫ Прорыв за прорывом с 2016 года
⚫ Deep-fake
⚫ Quach K. The eyes don't have it! AI's 'deep-fake' vids surge ahead in realism. 2018
(http://www.theregister.co.uk/2018/09/11/ai_fake_videos/)
⚫ DeepFakes Club (http://www.deepfakes.club)
⚫ Создание anime-персонажей
⚫ MakeGirlMoe (http://make.girls.moe/#/)

GAN Lab interface

Генеративные модели: Влияние на мир постправды
⚫ ‘Deepfake’ videos get weaponised (http://www.nesta.org.uk/feature/ten-predictions-2019/deepfake-
videos-get-weaponised/)
⚫ Deep fakes are fake news on steroids, and we’re unsure how to fight them
(http://www.richardvanhooijdonk.com/en/blog/deep-fakes-are-fake-news-on-steroids-and-were-unsure-
how-to-fight-them/)
⚫ Katja Bego (Data Scientist in the Technology Futures and Explorations teams), предсказание:
2019 will be the year
that a malicious ‘deepfake’ video
sparks a geopolitical incident

Пример работы Deepfake (1) – классика ☺
⚫ Horrifying deepfake video blends Jennifer Lawrence and Steve Buscemi in latest
example of the 'nightmare' technology. 2019-01-14
(http://www.dailymail.co.uk/sciencetech/article-6655231/Horrifying-deepfake-video-blends-Jennifer-Lawrence-Steve-Buscemi.html)

Пример работы Deepfake (2)

Пример работы Deepfake (3) – Дали жив!
⚫ Проект «Dali Lives – Art Meets Artificial Intelligence»
⚫ 2019-05-11 exclusively at The Dali Museum, St. Petersburg, Florida
(http://thedali.org/exhibit/dali-lives/)
⚫ Art meets Artificial Intelligence as museum resurrects Salvador Dalí
(http://www.museumnext.com/article/dali-lives-art-meets-artificial-intelligence/)

Пример работы Deepfake (4)

Развитие технологий Deepfake
⚫ Deepfake 1 → 2 → 3
⚫ Упрощение использования
⚫ AI deepfakes are now as simple as typing whatever you want your subject to say
(http://www.theverge.com/2019/6/10/18659432/deepfake-ai-fakes-tech-edit-video-by-typing-new-words)
⚫ Making deepfake porn could soon be as ‘easy as using Instagram filters’, according to
expert (http://www.thesun.co.uk/tech/9800017/deepfake-porn-soon-easy/)
⚫ Накопление и упрощение администрирования «коллекций лиц» [faceset]
⚫ Анимирование лица по одному изображению.
⚫ Deepfake 3.0 (beta) the bad news: This AI can turn ONE photo of you into a talking head.
(http://www.theregister.co.uk/2019/06/19/deepfake_ai_single_photo/)

Deepfake Artists
⚫ Новый уровень художественных изобразительных средств?
⚫ Художники по фейкам?
⚫ Deepfakes – Seeing is Believing. Or Not? (http://surfshark.com/blog/deepfakes)
⚫ В народ! ZAO – a face Swapping app by momo
⚫ How deepfake app Zao became most-downloaded free app in China, and what's next
(http://economictimes.indiatimes.com/magazines/panache/how-deepfake-app-zao-became-most-downloaded-free-app-in-china-and-whats-
next/articleshow/71096391.cms)
⚫ The world’s top deepfake artist is wrestling with the monster he created
(http://www.technologyreview.com/s/614083/the-worlds-top-deepfake-artist-is-wrestling-with-the-monster-he-
created)
⚫ Hao Li уже знаменит!
⚫ The world’s top deepfake artist: ‘Wow, this is developing more rapidly than I
thought.’ (http://www.technologyreview.com/s/614343/the-worlds-top-deepfake-artist-wow-this-is-developing-
more-rapidly-than-i-thought/)

На всякий случай о Fake News
⚫ В 2018 году освещение «фейковых» новостей выросло на 33% по
сравнению с 2017 годом
⚫ Анализ проводился только по топ-15 новостей!
⚫ 15 781 сообщений -> 20 923 сообщений
⚫ Медиалогия – FAKE NEWS за 2017 и 2018 годы
(http://www.mlg.ru/ratings/research/6438/?fbclid=IwAR2DD95PyvLK8C8dSt1b_4Fc_gzQAsulcxvMS9yEYTSjjSxnaXFzGUp4Ok8)

Как выжить в мире постправды?
⚫ Новый уровень информационной безопасности
⚫ Электронная подпись и удостоверяющие центры для мультимедийных данных
⚫ Специальные режимы работы фото- и видеокамер для согласования сремени и
координат съёмки
⚫ Deepfake-busting apps can spot even a single pixel out of place
(http://www.technologyreview.com/s/612357/deepfake-busting-apps-can-spot-even-a-single-pixel-out-of-place/)
⚫ Надёжные распределённые реестры (развитие блокчейна)
⚫ Hany Farid (computer science professor at Dartmouth College), мнение:
I don’t think we’re ready yet

Проект MakeGirlsMoe
⚫ Создание персонажей аниме с помощью генеративных моделей: Create
Anime Characters with A.I. ! (http://makegirlsmoe.github.io/assets/pdf/technical_report.pdf)

MakeGirlsMoe – интерфейс

MakeGirlsMoe – примеры
⚫ Девушки:

Некоторые достижения ИИ
(ещё совсем слабого ☺)
✓ Индивидуальные решения
✓ Коллективное поведение
✓ Общение
✓ Образование (человеческое)

ИИ – Индивидуальное мастерство (1)
⚫ 1997 – Chess
⚫ IBM Deep Blue
⚫ Матч из 6 партий с Гарри Каспаровым
(чемпион мира по шахматам):

⚫ 2015 – Go
⚫ DeepMind Alpha Go
⚫ Знаменитая игра с Ли Седоль
(9 дан) – 2016, с 9 по 15 марта:

⚫ 2017 – Poker
⚫ Carnegie-Mellon Libratus
⚫ Турнир Texas Hold’em –
выигрыш 1,7 млн. долларов
в течение 20 дней турнира:

⚫ 2019 – Starcraft
⚫ Google's StarCraft II victory shows AI improves via diversity, invention, not reflexes
(http://www.zdnet.com/article/googles-starcraft-ii-victory-shows-ai-improves-via-diversity-invention-not-reflexes/)
⚫ AlphaStar ↔ Team Liquid

ИИ – к коллективному поведению (1)
⚫ 2017 – Dota 2 индивидуальная
⚫ Бот OpenAI победил трёх топовых профессионалов в Dota 2
(http://habr.com/ru/post/405939/)
⚫ 2018 – Dota 2 командная
⚫ OpenAI Five разгромил команду людей в показательном матче Dota 2
(http://habr.com/post/419399/)
⚫ Победит ли OpenAI Five профессиональную команду на The International?
(http://habr.com/post/420505/)
⚫ Пока нет, но всё равно было весело...

⚫ 2019-04-13 – победа над командой OG
⚫ (http://openai.com/blog/openai-five-finals/)
⚫ Победа недостаточно убедительна, теперь обсуждаются тонкие вопросы тактики,
скорости реакции и обзора карты...

⚫ 2019-05-30 – Quake III Arena
⚫ DeemMind Team. Human-level performance in 3D multiplayer games with population-
based reinforcement learning / Science, 364(6443), 2019, pp. 859-865.
⚫ DeepMind – Capture the Flag: the emergence of complex cooperative agents. 2019
(http://deepmind.com/blog/article/capture-the-flag-science)

⚫ Procaccia A. It’s time for AI to outgrow gaming. 2020
(http://www.washingtonpost.com/opinions/2020/03/20/its-time-ai-outgrow-gaming/)
⚫ Бот должен подстраиваться под человека!
⚫ Особенно когда люди и боты играют в одной команде
⚫ We demand an improved AI :: Dota 2 General Discussions
(http://steamcommunity.com/app/570/discussions/0/2261312148309974286/)
⚫ Цитата: I think Dota has to put more focus on developing a smarter AI for the game so
people can have a better chance of gaining real experience playing against BOTS and get
prepared for the real deal

ИИ – совместно с человеком
⚫ GOSU — The World’s First Voice Assistant for Dota 2 that helps gamers to be
victorious (http://gosu.ai/platform/dota/beta)
⚫ Пока «ума» мало,
но быстро развивается!

Обучение с подкреплением
⚫ Reinforcment Learning (RL) – обучим чему угодно «методом тыка»
⚫ Нужнo знать, «что такое хорошо и что такое плохо»!
⚫ OpenAI Spinning Up in Deep RL! – один из лучших туториалов (http://spinningup.openai.com/en/latest/)
⚫ Massively Scaling Reinforcement Learning with SEED RL – как сейчас это делают
(http://ai.googleblog.com/2020/03/massively-scaling-reinforcement.html)

Песочницы для отладки обучения с подкреплением
⚫ Neural MMO: A Massively Multiagent Game Environment
(http://openai.com/blog/neural-mmo/)

ИИ – Переспорить человека (1)
⚫ IBM Debater (http://www.research.ibm.com/artificial-intelligence/project-
debater/index.html)
⚫ Подпроект IBM Watson с 2017 года
⚫ Выступает на уровне чемпионов мира по дебатам
⚫ !!Ужас!! Может отстаивать любую позицию (в меру испорченности пользователя…)
⚫ См. далее про этику ИИ

ИИ – Переспорить человека (2)

Новый уровень синтеза текстов: GPT-2 и далее
⚫ Better Language Models and Their Implications (http://blog.openai.com/better-
language-models/)
⚫ Открытый исходный код упрощённой модели gpt-2 (http://github.com/openai/gpt-2)
⚫ Radford A., Wu J., Child D., Luan D., Amodei D., Sutskever I. Language Models are
Unsupervised Multitask Learners. OpenAI, 2019 (http://d4mucfpksywv.cloudfront.net/better-language-
models/language-models.pdf)
⚫ GPT-2 натренирована предсказывать следующее слово по базе текстов из
сети Интернет объёмом примерно
40 ГБ (8 млн веб-страниц, 1,5 млрд параметров)
⚫ И делает это очень хорошо!

Новый уровень понимания структуры текстов
⚫ 2019 год – «Post-BERT эра»
⚫ Доведение качества решения многих задач до уровня человека и выше!
⚫ Лето 2019 года – тест GLUE Benchmark (http://gluebenchmark.com)
⚫ Facebook RoBERTa: An optimized method for pretraining self-supervised NLP systems
(http://ai.facebook.com/blog/roberta-an-optimized-method-for-pretraining-self-supervised-nlp-systems/)
⚫ Microsoft MT-DNN (http://medium.com/syncedreview/improved-microsoft-mt-dnn-tops-glue-rankings-a22575b63f24)
⚫ XLNet Large (Generalized Autoregressive Pretraining for Language Understanding)
(http://github.com/zihangdai/xlnet)
⚫ Конец 2019 года
⚫ Модель Google T5: Exploring the Limits of Transfer Learning with a Unified Text-to-Text
Transformer. 2019-10-23 (http://arxiv.org/abs/1910.10683)
⚫ T5: Text-To-Text Transfer Transformer (http://github.com/google-research/text-to-text-transfer-transformer)

Результаты и сравнение с человеком (1)

Результаты и сравнение с человеком (2)

ИИ и креативность
✓ Понятие «творца»
✓ Художественный вкус
✓ Стилизация и смена стиля
✓ Генерация контента
✓ Искусственные исполнители
✓ ИИ в GameDev

ИИ – Креативность и артистизм:
Что происходит?
⚫ AI Art Just Got Awesome (http://www.artnome.com/news/2018/3/29/ai-art-just-got-
awesome)
⚫ OBVIOUS (http://obvious-art.com)
⚫ “Computers are useless. They can only give answers.”
Well Picasso (1881 – 1973), it’s a disagreement…

Что происходит? (2)
⚫ Японская коллекция от Obvious Art (http://www.obvious-art.com/ukiyo/)

Инструменты художника (1)

⚫ Ryan Bliss – one of a handful of people on the
planet who makes a living by creating
3D computer wallpaper
⚫ http://ryanbliss.com
⚫ http://digitalblasphemy.com

Unreal Engine for Art
⚫ UE4 (http://www.unrealengine.com)
+
⚫ Quixel (http://quixel.com)
⚫ 2019-11 – now this free Quixel Megascans!

Вариативность (1.1)

World Creator
⚫ World Creator is the world's first real-time Terrain and Landscape Generator
(http://www.world-creator.com)
⚫ Terrain Shape Designer + Terrain Sculpting + Terrain Stamping + Filters + Textures +
Shading + Gradients + Flow maps + Object + …

Deep Dream (1)
⚫ Синтез и обработка изображений
⚫ Google Deep Dream Generator (http://deepdreamgenerator.com)

Deep Dream (2)

Deep Dream (3)

Deep Dream (4)

генерация ландшафтов
⚫ Modified implementation of DCGAN by Robbie Barrat (http://github.com/robbiebarrat/art-DCGAN)
⚫ Ориентирована на генерацию
художественных ландшафтов:
⚫ Заранее обученные модели
⚫ Варианты для абстрактной живописи, портретов и др.

генерация лиц (1)
⚫ 2018 – GAN 2.0: NVIDIA’s Hyperrealistic Face Generator
(http://medium.com/syncedreview/gan-2-0-nvidias-hyperrealistic-face-generator-e3439d33ebaf)

⚫ 2019-02-05 – открытие исходного кода под названием StyleGAN
(http://github.com/NVlabs/stylegan)

⚫ This Person Does Not Exist (http://thispersondoesnotexist.com/)
⚫ Imagined by a GAN (generative adversarial network)
⚫ StyleGAN (Dec 2018) – Karras et al. and Nvidia
⚫ Original GAN (2014) – Goodfellow et al.
⚫ Don't panic. Learn about how it works.
⚫ Help me figure out what was learned here.
⚫ Help this AI continue to dream

Видео –> Аниме (1)
⚫ Cartoon GAN: Generative Adversarial Networks for Photo Cartoonization by
Yang Chen, Yu-Kun Lai, Yong-Jin Liu
(http://openaccess.thecvf.com/content_cvpr_2018/CameraReady/2205.pdf)
⚫ Примеры на Питоне: CartoonGAN-Test-Pytorch-Torch
(http://github.com/Yijunmaverick/CartoonGAN-Test-Pytorch-Torch)

ИИ – «Увеличение» разрешения и прочие улучшения
(1)
⚫ Topaz Gigapixel AI (http://topazlabs.com/gigapixel-ai/)
⚫ [free] Let’s Enhance (http://letsenhance.io)

ИИ – «Увеличение» разрешения и прочие улучшения
(2)
⚫ Ограничения: нестандартные текстуры, текст, ...

Додумай за меня (1)
⚫ GauGAN: Turns Doodles into Stunning, Photorealistic Landscapes
(http://blogs.nvidia.com/blog/2019/03/18/gaugan-photorealistic-landscapes-nvidia-
research/)

Додумай за меня (2)

NVIDIA Research GauGAN
⚫ Попробовать самому (http://nvidia-research-mingyuliu.com/gaugan)

ИИ – Удаление объектов
с изображений
⚫ 2017 – Проект MIT Deep Angel
(http://deepangel.media.mit.edu)
⚫ Erase with AI
⚫ + Detect fakes

Сочинение и аранжировка музыки (1)
⚫ How AI-generated Music is Changing the Way Hits Are Made
(http://www.theverge.com/2018/8/31/17777008/artificial-intelligence-taryn-southern-
amper-music)
⚫ A.I. Songwriting Has Arrived. Don't Panic (http://fortune.com/2018/10/25/artificial-
intelligence-music/)
⚫ 11 Startups Using AI to Compose Music (http://www.nanalyze.com/2018/05/11-
startups-ai-compose-music/)

Сочинение и аранжировка музыки (2)
⚫ Amper Music (http://www.ampermusic.com)
⚫ Amper Score™ enables enterprise teams to compose custom music in seconds and reclaim
the time spent searching through stock music. Whether you need music for a video,
podcast, or another project, Score’s Creative AI quickly makes music that fits the exact
style, length, and structure you want.
⚫ AI.MUSIC (http://www.aimusic.co.uk)
⚫ SYMPAPHONIC – understands the essence of the music being played and takes that
information to find the perfect track for your audio advert
⚫ OSSIA – allows you to be in control of the music you listen to

AIVA (1)
⚫ AIVA (Artificial Intelligence Virtual Artist) (http://www.aiva.ai)
⚫ Пример: On the Edge (Ai-Generated Rock Music by Aiva)
⚫ This track is an original composition that was created by AIVA in the style of Rock Music

AIVA (2)
⚫ AI-generated Rock Music: the Making Of
(http://medium.com/@aivatech/the-making-of-ai-generated-rock-music-with-aiva-9ae0257e6d5c)

Celebrating J.S. Bach’s 334th birthday
with the first AI-powered Google Doodle!
⚫ Coconet: the ML model behind today’s Bach Doodle (http://magenta.tensorflow.org/coconet)
⚫ «Collaborative composition with AI»
⚫ Автогармонизация, аранжировка и создание «с нуля»
⚫ Использован Tensorflow.js, доступна в репозитории Magenta.js
(http://magenta.github.io/magenta-js/music/classes/_coconet_model_.coconet.html)

Яндекс и «неизвестный Скрябин»

Синтез голоса
⚫ Vocaloid – Virtual Singers in Your Computer (http://www.vocaloid.com)

Виртуальные исполнители (1)
⚫ Hatsune Miku – the Japanese Pop Star Hologram
⚫ Голос Vocaloid + Танец Miku Miku Dance (MMD)
⚫ Концерты:
⚫ 2009-08-22 – Animelo Summer Live at Saitama Super Arena
⚫ …
⚫ 2020-01-11 – HATSUNE MIKU EXPO 2020 EUROPE / London

⚫ Hatsune Miku – Развитие:
⚫ 冨田勲 (Исао Томита) написал для
Мику Хацуне Symphony Ihatov
⚫ 2012-11-23, Tokyo Opera City concert hall
(http://columbia.jp/ihatov/concertreport.html)

⚫ Virtual Youtubers (VTubers) – медиа-паразиты или новое искусство?
⚫ The Japan Times – Kizuna Ai, Kaguya Luna and YouTube sensations: virtual stars, but the same old
shtick (http://www.japantimes.co.jp/culture/2019/04/11/films/kizuna-ai-kaguya-luna-youtube-sensations-virtual-stars-
old-shtick/)
⚫ Прочие:
⚫ 天神子兎音 Tenjin Kotone (https://www.youtube.com/channel/UCAr7rLi_Wn09G-XfTA07d4g)
⚫ 獅子神レオナ/レオナちゃんねる LEONA's YELL (http://www.youtube.com/channel/UCB1s_IdO-r0nUkY2mXeti-A)
⚫ ...

ИИ – GameDev: Общее (1)
⚫ Game AI Pro (http://www.gameaipro.com)
⚫ Три (3) выпуска альманаха
⚫ Готовится четвёртый
⚫ Must read!

ИИ – GameDev: Общее (2)
⚫ Millington I., Funge J. Artificial Intelligence for Game.
2nd ed. CRC Press, 2009. 896 p.
(http://www.amazon.com/Artificial-Intelligence-Games-Ian-Millington/dp/0123747317)
⚫ «Библия», но уже 10 лет прошло...

ИИ – GameDev: Возможности (1)
⚫ Ubisoft aims to help machine learning find a place in every stage of game dev
(http://www.gamasutra.com/view/news/336478/Ubisoft_aims_to_help_machine_learning_find_a_place_in_every_stage_of_game_dev.php)
⚫ Лакуны!!!
⚫ Как закрывать?

⚫ How artificial intelligence will revolutionize the way video games are developed
and played (http://www.theverge.com/2019/3/6/18222203/video-game-ai-future-
procedural-generation-deep-learning)
⚫ GDC-2019 – Game AI Summit (http://www.gdconf.com/summit/game-ai)
⚫ AI avatars could be the next generation’s favorite entertainers
(http://thenextweb.com/artificial-intelligence/2019/05/10/ai-avatars-could-be-the-next-generations-favorite-
entertainers/)

⚫ 6 Ways Machine Learning
will be used in Game Development
(http://www.logikk.com/articles/machine-learning-in-
game-development/)
⚫ John Stephenson, 2018-11-29

⚫ EA SEED // Search for Extraordinary Experiences Division (http://www.ea.com/seed)

⚫ 3D loomie™ avatar platform (http://loomai.com)
⚫ Анимированные персонализированные аватары на базе глубокого обучения:

ИИ – GameDev:
Исследования + развлечения + ностальгия (1)
⚫ Open AI Gym Retro – platform for reinforcement learning research on games
(http://openai.com/blog/gym-retro/)
⚫ Используя Libretro API
(http://www.libretro.com)
⚫ Проект 2018-2019 гг.
⚫ Открытый репозиторий:
http://github.com/openai/retro

ИИ – GameDev:

ИИ – GameDev:
⚫ Retro Contest
(http://openai.com/blog/retro-contest/)
⚫ 2018 г.
⚫ Ёжик Соник!
⚫ Победила команда
компании Alibaba (Китай)

ИИ – GameDev: полигон Minecraft
⚫ Shu T., Xiong C., Socher R. Hierarchical and Interpretable Skill Acquisition in
Multi-task Reinforcement Learning. arXiv:1712.07294, 2017
(http://arxiv.org/abs/1712.07294)
⚫ Peng L., Tsuruoka Y. Learning Basic Skills to Survive the First Day in Minecraft
with Life-long Learning. Information processing society of japan, 2018
⚫ …

ИИ в образовании
✓ Зачем?
✓ Онтологическое моделирование
✓ Адаптивное обучение
✓ EdTech как отрасль

Ontology Based Learning (1)
⚫ Ontology Based Learning
⚫ Wilson R. The Role of Ontologies in Teaching and Learning. 2004
(http://pdfs.semanticscholar.org/6ae9/bdb82d2e34989fc3de8b19c902a06ce9ea75.pdf)
⚫ Laroussi M. Ontology in Adaptive Learning Environment. 2012
(http://link.springer.com/chapter/10.1007/978-3-642-30859-8_16)
⚫ Mandula K., et al. Ontology Based Knowledge Representation for Next Generation Mobile
Learning. 2013 (http://ieeexplore.ieee.org/document/6751082)
⚫ Rani M., et al. An ontology-based adaptive personalized e-learning system, assisted by software
agents on cloud storage. 2015 (http://dl.acm.org/citation.cfm?id=2845480)
⚫ Sarwar S., et al. Ontology Based Adaptive, Semantic E-Learning Framework (OASEF). 2016
(http://link.springer.com/chapter/10.1007/978-981-10-0557-2_114)
⚫ [MT] Hokstad T.-E. Ontology based study planning and classification of university subjects. 2015
(http://brage.bibsys.no/xmlui/bitstream/handle/11250/299458/Tor-Erik%20Hokstad.pdf)
⚫ Koutsomitropoulos D.A., et al. A learning object ontology repository to support annotation and
discovery of educational resources using semantic thesauri. 2017
(http://journals.sagepub.com/doi/abs/10.1177/0340035217737559)

⚫ Инструменты
⚫ Формализации образовательных результатов
⚫ Планирования образовательных программ и курсов
⚫ Адаптивного обучения!
⚫ Контроля знаний
⚫ Автоматической генерации заданий!
⚫ Проектной деятельности
⚫ Примеры
⚫ ALEKS – Assessment and LEarning in Knowledge Spaces (http://www.aleks.com/about_aleks)
⚫ Knewton – offers affordable, adaptive course solutions in higher education (http://www.knewton.com)
⚫ Smart Sparrow – create learning experiences as unique as your students
(http://www.smartsparrow.com)

ALEKS

⚫ EdCast (http://www.edcast.com)

⚫ EdCast as AI-Powered Knowledge Cloud
⚫ + MyGuide для работы с тренажёрами внутри корпоративного ПО

Платформа MineCraft для образования
⚫ MineCraft: Education Edition (http://education.minecraft.net)

Иммерсивная составляющая
⚫ A.I. Teaches Minecraft Players About Architecture
(http://www.futurity.org/artificial-intelligence-minecraft-1906842/)
⚫ И обратно – «Players teaching A.I.»!
Erik Andersen created a model in Minecraft of a temple in Bangkok. (Credit: Cornell)

Основные опасности ИИ
✓ Философский ужас
✓ Военный ужас
✓ Экономический ужас
✓ Человек и ИИ
✓ Добро и зло? Лучше дружба!
✓ Вопросы морали и нравственности

Экзистенциальная угроза
⚫ Илон Маск, 2014 год:
«Искусственный интеллект является крупнейшей экзистенциальной
угрозой человечества!»
⚫ Обсуждение подобных страхов:
⚫ The Sorcerer’s Apprentice: Is AI an existential threat to humanity? (http://hackernoon.com/is-ai-an-
existential-threat-to-humanity-54936580aded)

Основные страхи
⚫ Мы все потеряем работу и будем годны только на батарейки
⚫ Сколько профессий исчезнет через 10 лет?
⚫ 20? 30%? 40%?
⚫ Даже художники и музыканты!
⚫ Нас всех убъют, так как и на батарейки мы не годны
⚫ Робототехника

Прямая военная угроза?

Заготовки для терминаторов?

Не издевайтесь над AI!

Лучше так:

Зачем нам терминатор? Он неэффективен.

Злой и незлой ИИ: реальность
⚫ Стивен Хокинг:
⚫ The real risk with AI isn’t malice but competence.
A superintelligent AI will be extremely good at accomplishing its goals, and if
those goals aren’t aligned with ours, we’re in trouble.
You’re probably not an evil ant-hater who steps on ants out of malice, but if
you’re in charge of a hydroelectric green energy project and there’s an anthill in
the region to be flooded, too bad for the ants.
Let’s not place humanity in the position of those ants.
⚫ Дискуссия «Science AMA Series: Stephen Hawking AMA Answers!»
(http://www.reddit.com/r/science/comments/3nyn5i/science_ama_series_stephen_hawking_ama_answers/)

Дружелюбность ИИ
⚫ Почему не «зло» и «добро»?
⚫ По причине неопределённости вне контекста
⚫ MIT Moral Machine (http://moralmachine.mit.edu)
⚫ Оценка ожиданий людей
на примере поведения беспилотного автомобиля
⚫ Э. Юдковский на LessWrong
⚫ Friendly artificial intelligence (http://wiki.lesswrong.com/wiki/Friendly_artificial_intelligence)
⚫ Unfriendly artificial intelligence (http://wiki.lesswrong.com/wiki/Unfriendly_artificial_intelligence)

Этичность ИИ (1)
⚫ Основные вопросы этики «полезного AI»
⚫ Ценности
⚫ Позиции стейкхолдеров
⚫ Соглашения
⚫ Явные и неявные декларации!
⚫ Безопасность и контроль
⚫ Обсуждение:
⚫ Bossmann J. Top 9 ethical issues in artificial intelligence. 2016
(http://www.weforum.org/agenda/2016/10/top-10-ethical-issues-in-artificial-intelligence/)
⚫ Vander Ark T. Let's Talk About AI Ethics; We're On A Deadline. 2018
(http://www.forbes.com/sites/tomvanderark/2018/09/13/ethics-on-a-deadline)
⚫ Nalini B. The Hitchhiker’s Guide to AI Ethic. 2019 (http://towardsdatascience.com/ethics-of-ai-a-
comprehensive-primer-1bfd039124b0)

Этичность ИИ (2)
⚫ Исследовательские центры
⚫ AIArtists.org – Ethical AI Resources –
Ethical AI Organizations (http://aiartists.org/ai-ethics)
⚫ The Institute for Ethical AI & Machine Learning (http://ethical.institute)
⚫  Awesome AI Guidelines (http://github.com/EthicalML/awesome-artificial-intelligence-guidelines)
⚫ The Berkman Klein Center for Internet & Society at Harvard University – Ethics and
Governance of AI (http://cyber.harvard.edu/topics/ethics-and-governance-ai)
⚫ AI Ethics Lab – a Lab for Research + Consulting in AI Ethics (http://aiethicslab.com)

FLI Value Alignment Research Landscape
⚫ http://futureoflife.org/valuealignmentmap/
⚫ Validation: ensuring that the right system specification is provided for the core of the
agent given stakeholders' goals for the system
⚫ Security: applying cyber security paradigms and techniques to AI-specific challenges
⚫ Control: structural methods for operators to maintain control over advanced agents
⚫ Foundations: foundational mathematical or philosophical problems that have bearing
on multiple facets of safety
⚫ Verification: techniques that help prove a system was implemented correctly given a
formal specification
⚫ Ethics: effort to understand what we ought to do and what counts as moral or good
⚫ Governance: the norms and values held by society, which are structured through
various formal and informal processes of decision-making to ensure accountability,
stability, broad participation, and the rule of law

Проект Moral Machine (1)
⚫ MIT – Moral Machine (http://moralmachine.mit.edu)

Проект Moral Machine (2)

Но это ещё не конец?!
⚫ к.т.н., доц. Незнанов Алексей Андреевич
⚫ Старший научный сотрудник международной лаборатории интеллектуальных систем и
структурного анализа ФКН НИУ ВШЭ,
Доцент департамента анализа данных и искусственного интеллекта ФКН НИУ ВШЭ
(School of Data Analysis and Artificial Intelligence,
Faculty of Computer Science, NRU HSE, Moscow, Russia)
⚫ E-mail: aneznanov@hse.ru
⚫ Web-site: http://hse.ru/staff/aneznanov
⚫ SlideShare: http://www.slideshare.net/alexneznanov
⚫ Blog: http://siberianshamanssongs.blogspot.ru (RU)

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: исследования и игры, креативность и артистизм, генеративки и постправда, дипфейки и витьюберы

More Related Content

Similar to ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: исследования и игры, креативность и артистизм, генеративки и постправда, дипфейки и витьюберы (20)

More from Alexey Neznanov (16)

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: исследования и игры, креативность и артистизм, генеративки и постправда, дипфейки и витьюберы