Mathematics for

Machine Learning
Do we need some math for ML?

Soslan Tabuev
GDG Vladikavkaz
@soslantabuev
План рассказа
● Немного терминологии
● Немного истории
● Задача машинного обучения
● Поговорим о математике
● Перцептрон
● Вопросы
“Just as electricity transformed almost everything
100 years ago, today I actually have a hard time
thinking of an industry that I don’t think AI will
transform in the next several years.”

Andrew Ng
Терминология
Искусственный Artificial Intelligence

интеллект
Machine Learning

способность интеллектуальных
машин выполнять творческие
функции, которые традиционно Deep Learning

считаются прерогативой
человека
Машинное Artificial Intelligence

обучение
Machine Learning

подраздел искусственного
интеллекта, изучающий методы
построения алгоритмов, Deep Learning

способных обучаться на
примерах
Глубокое Artificial Intelligence

обучение
Machine Learning

совокупность методов
машинного обучения,
основанных на искусственных Deep Learning

нейронных сетях
 данные решение
Машинное Программа
обучение
программа учится на данных для
которых ответы известны
данные
правила
Модель ML
ответы

новые Обученная решение

данные
модель
https://vas3k.ru/blog/machine_learning/
https://vas3k.ru/blog/machine_learning/
Кто такой учитель?
История
Тест Тьюринга

Если компьютер может работать

так, что человек не в состоянии
определить, с кем он общается —
с другим человеком или с
машиной, — считается, что он
прошел тест

Alan Mathison Turing (1912 - 1954)

Перцептрон

математическая или
компьютерная модель
восприятия информации мозгом,
предложенная Фрэнком
Розенблаттом в 1957 году и
впервые реализованная в виде
электронной машины «Марк-1» в
1960 году.

Frank Rosenblatt (1928 - 1971)

Checkers-playing

одна из первых
самообучающихся программ в
мире, и является одной из первых
демонстраций базовых понятий
искусственного интеллекта.

Arthur Lee Samuel (1901 - 1990)

Неокогнитрон

иерархическая многослойная
искусственная нейронная сеть,
сверточного типа, производная
от когнитрона и предложенная
Кунихикой Фукусимой

Kunihiko Fukushima
Вехи
● 1974, 1986: алгоритм обратного распространения
ошибки
● 1963, 1995: метод опорных векторов
● 1997: Deep Blue обыгрывает Каспарова в шахматы
● 2000: интернет и поисковые системы дают толчок
развитию сферы
Вехи
● 2006-2009: Netflix Prize - $1,000,000
● 2009-: ImageNet Competition
● 2012+: Deep Learning
● 2016: Alpha Go обыгрывает Ли Седоля в Go
● продолжение следует...
Задача
Задача машинного обучения
● Формулировка проблемы
● Сбор данных
● Исследование и препроцессинг данных
● Выбор модели и ее обучение
● Проверка модели, настройка гиперпараметров
● Внедрение модели
Workera Report

https://www.workera.ai/candidates/report/
https://www.workera.ai/candidates/report/
Математика
Линейная алгебра

-  векторы, векторные
пространства
- операции с векторами и
матрицами
- умножение матриц,
вычислительные проблемы
умножения
- нахождение обратной матрицы
Умножение матриц

3
O(n )
Линейная алгебра

- ранг матрицы
- определители
- решение линейных уравнений
- собственные значения и
собственные вектора
Вещественный
анализ
- Функции одной и нескольких
переменных
- Пределы, непрерывность,
дифференцируемость
- Производные и градиент
- Якобианы и гессианы
Вещественный
анализ
- Нахождение экстремумов
- Свойства выпуклых множеств
- Интегральное исчисление
- Функции активации
Теория
вероятностей
- Основные правила и аксиомы
- Случайные величины
- Математическое ожидание и
дисперсия
- Вероятностные распределения
Теория
вероятностей
- Теорема Байеса
- Центральная предельная
теорема
- Цепи Маркова
Математическая
статистика
- ВСЁ, абсолютно ВСЁ
- описательная статистика
- статистический вывод
- оценка максимального
правдоподобия
Математическая
статистика
- проверка гипотез, оценка
статистической значимости
- Байесовская статистика
- линейная регрессия
Еще математики?

- дискретная математика
- теория графов
- теория информации
- функциональный анализ
- дифференциальные уравнения
- топология...
Где учить
● Google ML Crash Course
● coursera.org
● edx.org
● udacity.com

● https://github.com/ossu/data-science
Где учить
kaggle.com
● конкурсы
● базы данных
● ноутбуки
● ресурсы
● учебные курсы
Перцептрон
Перцептрон
SVM
Использованные материалы
● wikipedia.org
● Geron A., Hands-On Machine Learning with Scikit-Learn, Keras, and Tensorflow
● Intel AI Courses (https://software.intel.com/en-us/ai/courses)
● Машинное обучение для людей https://vas3k.ru/blog/machine_learning/
● https://medium.com/s/story/essential-math-for-data-science-why-and-how-e88271367
fbd
● https://mc.ai/implementing-the-perceptron-algorithm-from-scratch-in-python/
Вопросы?