![Обзор некоторых моделей Нейронные сети Самоорганизующиеся карты Кохонена. Статистические модели Скрытые Марковские модели. Synapse [http://www.peltarion.com/products/synapse/] WEBSOM [http://websom.hut.fi/websom/] TreeAge Pro Healthcare [http://www.treeage.com] HTS [http://hts.sp.nitech.ac.jp/]](https://image.slidesharecdn.com/random-101008044545-phpapp01/85/-12-320.jpg)
![Скрытые Марковские модели -Имеется матрица А [NxN] -Имеется матрица В [NxM] Скрытые состояния вероятностей возникновения каждого из наблюдаемых событий на каждом из скрытых состояний. вероятностей переходов между скрытыми состояниями. N M Наблюдаемые состояния Общие сведения](https://image.slidesharecdn.com/random-101008044545-phpapp01/85/-23-320.jpg)
![Скрытые Марковские модели Наиболее вероятная скрытая последовательность погоды ['Sunny', 'Rainy', 'Rainy', 'Sunny', 'Sunny'] Вероятность наблюдения при этом - 4 % Пусть Аня знает, что Ваня сначала гулял , потом ходил за покупками , потом убирался . ['walk', 'shop', 'clean‘,‘walk’,’walk’] пример](https://image.slidesharecdn.com/random-101008044545-phpapp01/85/-24-320.jpg)
![Скрытые Марковские модели Для заданной модели вычислить вероятность появления некоторой наблюдаемой последовательности. 2. Для модели и наблюдаемой последовательности определить наиболее вероятную последовательность скрытых состояний. 3. Для набора наблюдаемых последовательностей требуется скорректировать матрицы переходов некоторой модели, чтобы эти последовательности были наиболее вероятны в ней. Задачи [ алгоритм вперёд-назад ] [ алгоритм Витерби ] [ алгоритм Баума-Уэлша ]](https://image.slidesharecdn.com/random-101008044545-phpapp01/85/-25-320.jpg)
Моделирование поведения сложных динамических систем
- 1. Моделирование поведения сложных динамических систем Докладчик: Юданов А.А. Научный руководитель: Бордаченкова Е.А Москва, 2009
- 2. Постановка задачи Цель – создать систему генерации связного текста на естественном языке по динамически поступающей информации из некоторой системы. То есть, универсальный комментатор для определенного класса компьютерных игр : - игроки управляют агентами в игровом мире. - игровой мир – разнородный объем, содержащий агентов и другие предметы.
- 3. Структура системы Игра генерирует некоторые события Их надо оценить и прокомментировать переводчик Система генерации текста ИГРА Система комментирования
- 4. Структура системы Игра генерирует некоторые события Их надо оценить и прокомментировать Проблема: широкий класс предметных областей вынуждает использовать адаптирующийся к конкретной задаче алгоритм. переводчик Система генерации текста ИГРА Система комментирования
- 5. Структура Игра генерирует некоторые события Их надо оценить и прокомментировать Система работы с моделью Модель Решено было строить модель поведения предметной области. переводчик Система генерации текста ИГРА Система комментирования
- 6. Что такое модель поведения? Внутреннее поведение скрыто Вход Выход Наблюдаемое поведение
- 7. Что такое модель поведения? Внутреннее поведение скрыто Вход модель Выход Выход
- 8. Что такое модель поведения? Оценки качества модели Ошибка обучения – Суммированная по обучающей выборке норма невязки модели Ошибка обобщения – Норма невязки модели на каких-либо новых данных Как измеряют качество модели? Основной целью при обучении является уменьшение ошибки обобщения. Точно смоделировать систему невозможно.
- 9. Адекватно оценивать настоящее Предсказывать будущее Зачем нужна модель поведения? предсказывать следующий выход системы на основе входа и наблюдаемого поведения системы. выход моделируемой системы = выход модели
- 10. Особенности нашей задачи Входные данные системы не должны участвовать как в алгоритмах обучения, так и работы. Обязательна возможность динамического обучения без учителя. Желательно, получать в предсказательном алгоритме распределение вероятностей. Желательно иметь возможность дообучать модель по ходу работы. Чем проще и быстрее работа с моделью – тем лучше.
- 11. Особенности нашей задачи Внутреннее поведение скрыто Вход модель Выход Выход ?
- 12. Обзор некоторых моделей Нейронные сети Самоорганизующиеся карты Кохонена. Статистические модели Скрытые Марковские модели. Synapse [http://www.peltarion.com/products/synapse/] WEBSOM [http://websom.hut.fi/websom/] TreeAge Pro Healthcare [http://www.treeage.com] HTS [http://hts.sp.nitech.ac.jp/]
- 13. Нейронные сети Модель представляет из себя сеть, сплетенную из одинаковых по функциям элементам с помощью синаптических связей. Каждый элемент (нейрон) выполняет одну функцию – обрабатывая определенным образом входные сигналы x 1 ,…,x n генерирует выходной y : y = F(x 1 ,…,x n )
- 14. Карты Кохонена Разновидность нейронных сетей. Топология – регулярная решетка. Каждый нейрон содержит вектор весов и свои координаты на решетке. Обучение итерационное, до достижения определенной погрешности Общие сведения
- 15. Карты Кохонена Отображение набора входных векторов высокой размерности в карту кластеров меньшей размерности, причем, таким образом что близким кластерам на карте отвечают близкие друг к другу входные вектора в исходном пространстве. Задачи - Наглядное упорядочивание многопараметрической информации. - Группировка близких входных сигналов для другой нейросети.
- 16. Карты Кохонена Наглядное упорядочивание многопараметрической информации. - Выявление различий в режимах поведения системы. Задачи - Нахождение взаимосвязей в многопараметрических данных.
- 17. Карты Кохонена Карта Кохонена группирует близкие входные сигналы X, а требуемая функция Y=G(X) строится на основе применения обычной нейросети. Входной слой Слой Кохонена Другая нейросеть Задачи
- 18. Нейронные сети Моделируемая система – игра. Нейронные сети должны получать вход системы, который недоступен. Значит, простой подстановки НС в задачу не получится Можно рассматривать выход системы как вход для НС, т.е. НС читает предыдущий выход и пытается предсказать следующий. Приложение к нашей задаче
- 19. Нейронные сети Внутреннее поведение скрыто Вход Нейросеть Выход Выход ? Вход
- 20. Нейронные сети + Даже малая обучающая выборка не дает большой ошибки обобщения Неэффективная реализация на ПК. Сложный процесс проектирования топологии Плюсы и минусы
- 21. Скрытые Марковские модели Имеет набор скрытых внутренних состояний ( скрытая переменная ) x(t) Имеет набор наблюдаемых состояний (наблюдаемая переменная) y(t) x(t) зависит только от x(t-1) y(t) зависит только от x(t) Общие сведения
- 22. Скрытые Марковские модели На каждом шаге система может перейти в новое скрытое состояние и как-то поменять значение наблюдаемой переменной (сменить наблюдаемое состояние) Время – дискретное. Общие сведения
- 23. Скрытые Марковские модели -Имеется матрица А [NxN] -Имеется матрица В [NxM] Скрытые состояния вероятностей возникновения каждого из наблюдаемых событий на каждом из скрытых состояний. вероятностей переходов между скрытыми состояниями. N M Наблюдаемые состояния Общие сведения
- 24. Скрытые Марковские модели Наиболее вероятная скрытая последовательность погоды ['Sunny', 'Rainy', 'Rainy', 'Sunny', 'Sunny'] Вероятность наблюдения при этом - 4 % Пусть Аня знает, что Ваня сначала гулял , потом ходил за покупками , потом убирался . ['walk', 'shop', 'clean‘,‘walk’,’walk’] пример
- 25. Скрытые Марковские модели Для заданной модели вычислить вероятность появления некоторой наблюдаемой последовательности. 2. Для модели и наблюдаемой последовательности определить наиболее вероятную последовательность скрытых состояний. 3. Для набора наблюдаемых последовательностей требуется скорректировать матрицы переходов некоторой модели, чтобы эти последовательности были наиболее вероятны в ней. Задачи [ алгоритм вперёд-назад ] [ алгоритм Витерби ] [ алгоритм Баума-Уэлша ]
- 26. Скрытые Марковские модели Внутреннее поведение скрыто Вход СММ Выход Выход ? Приложение к нашей задаче
- 27. Скрытые Марковские модели + Имитирует внутреннюю жизнь моделируемой системы. + Простые итерационные алгоритмы обучения. + Простота и быстрота работы. + Соответствие большинству наших требований + Хорошие результаты применения в схожих задачах Не учитывается время, прошедшее между сменой состояний. Зависимость вероятности перехода лишь от текущего состояний. Плюсы и минусы
- 28. Модификации Фильтр Калмана Алгоритм для работы СММ с непрерывными зашумленными наблюдаемыми состояниями. Многоуровневые СММ Строится каскад СММ, где каждый следующий уровень генерирует наблюдаемые последовательности для предыдущего. Иерархические СММ СММ, где каждое состояние может само являться ИСММ Что мы хотим, возможно, применить
- 29. End of file Вопросы? Спасибо за внимание!
Editor's Notes
- #2: Чуть сдвинуть к середине фрейм с Докладчиком и НР, немного увеличить шрифт этой надписи
- #3: Вверху и внизу «дырки» - растащить два абзаца, первый поднять, второй опустить. Точку – пункт списка – убрать. Мне кажется, здесь имеет смысл очертить круг рассматриваемых игр (что не тетрис )
- #4: немного поднять квадрат «игра», шрифт слова «игра» уменьшить; надпись «система комментирования» немного увеличить, выравнивание по центру (рамки)
- #7: Набл поведение – увеличить шрифт
- #10: Увеличить (жирным?) шрифт текста
- #13: поднять первый пункт к заголовку, опустить второй, чтобы уменьшились «дырки» вверху и внизу. Увеличить шрифт примеров систем и ссылок
- #16: Два последних абзаца чуть опустить от «задач»
- #17: Точку и дефис – списки – убрать, шрифт надписи чуть-чуть увеличить (большой контраст с формулировкой задачи)
- #18: В простейшем случае смысл таков: Входной вектор поступает на все нейроны слоя Кохонена, на котором выбирается один победитель. Каждый нейрон слоя Кохонена в свою очередь соединен со всеми входами другой нейросети с весами v . Таким образом во много раз ускоряется процесс обучения нейросети. Формулировку задачи сдвинуть влево, дефис убрать.
- #20: Это пояснение к концу предыдущего слайда. Т.е. нейросеть должна разбираться с выходной последовательностью системы и рассчитывать возможное дальнейшее поведение.
- #21: Снизу большая дыра – опустить всё кроме заголовка слайда.
- #22: По-моему, надо чуть опустить подзаголовок…
- #25: Пример про двух товарищей. P( набл. посл) - суммарная, по всем возможным цепочкам скрытых состояний?
- #26: Задачи для СММ
- #27: То есть мы рассматриваем нашу систему с точки зрения только её выходов, на которых учим СММ, которая должна разобраться в сложном поведении моделируемой системы. Всё равно, выход системы - основа для изменения СММ, то есть формальо – данные. Поставьте вход стрелку в СММ слева.
- #28: Рассказать про С«полу»ММ
- #29: Позволяет работать с непрерывными и зашумленными данными Наглядно представляет собой моделирование сложного поведения с несколькими уровнями абстракции Позволит по смыслу разделить наблюдения за разными объектами
- #30: Конец – расположить ближе к середине слайда.