ML course.
Setup
Наш план
Пары:
лекции - каждую пятницу в 17.10, 1229
практики - раз в две недели очные семинары, в 18.50
защита лаб - после семинара/ онлайн в зуме
Наш план
Оценивание:
домашки - 60 баллов
рубежка - 10 баллов
семинары - 10 баллов
экзамен - 20 баллов
экзамен:
на 5 -- в виде проектного задания
на 4 и 3 -- обычный по билетам
Наш план
Домашек будет около 12 штук
Каждая стоит 100 баллов
Далее нормировка в 60 баллов
Рубежка одна где-то в середине-конце ноября (полупрактическая)
Семинары: будет возможность решать задачи на семинарах и рассказывать их, показывать примеры визуализаций и кода
Lecture 1.
Exploratory
Data Analysis
Функция плотности.
Функция плотности случайной величины ξ:
Повторяем матстат.
Повторяем матстат.
Функция распределения.
Функция распределения случайной величины ξ:
Биномиальное распределение.
Биномиальное распределение - дискретное распределение вероятностей случайной величины X, принимающей целочисленные значения k=0,1,…,n с вероятностями:
Обозначается B(n,p), где:
n - число испытаний
p - вероятность успеха
Часто встречающиеся распределения
Биномиальное распределение.
Функция распределения:
Часто встречающиеся распределения
Распределение Пуассона.
Распределение Пуассона - дискретное распределение вероятностей случайной величины ξ, с параметром λ и функцией распределения:
Обозначается П(λ).
Часто встречающиеся распределения
Распределение Пуассона.
Часто встречающиеся распределения
Равномерное распределение.
Случайная величина ξ имеет равномерное распределение U(a,b) если ее плотность постоянна на [a;b].
Часто встречающиеся распределения
Показательное распределение.
Случайная величина ξ имеет показательное распределение E(α), если ее плотность:
Часто встречающиеся распределения
Нормальное распределение.
Случайная величина ξ имеет нормальное распределение
если ее плотность:
a - среднее
σ - среднеквадратичное отклонение
Часто встречающиеся распределения
log-Нормальное распределение.
Если случайная величина X из нормально распределения, то
из log-нормального распределения.
Часто встречающиеся распределения
Распределение ”хи-квадрат”
Распределение "хи-квадрат" H(n) со степенями свободы n, называется распределение суммы квадратов независимых стандартных нормальных величин:
Часто встречающиеся распределения
Распределение Стьюдента.
Распределением Стьюдента T(k) с k степенями свободы называется распределение случайной величины:
Часто встречающиеся распределения
Распределение Стьюдента.
Часто встречающиеся распределения
Часто встречающиеся распределения
Распределение Фишера.
Распределением Фишера F(n,m) со степенями свободны n и m называется распределение случайной величины:
Характеристики распределений.
Математическое ожидание.
Дискретный случай:
Это взвешенное по вероятности среднее значение случайной величины.
Непрерывный случай:
Взвешивание будем проводить через функцию плотности распределения:
Дисперсия, СКО.
Дисперсия - математическое ожидание квадрата отклонения случайной величины от её математического ожидания.
Дисперсия характеризует разброс случайной величины вокруг ее математического ожидания.
Среднеквадратическое отклонение:
Характеристики распределений.
Мода, медиана, размах.
Медиана – значение, для которого значение функции распределения равно 0.5. То есть получения числа больше или меньше медианы равновероятно.
Мода – самое вероятное значение.
Размах – разность между максимальным и минимальным значением.
Характеристики распределений.
Выборки
Репрезентативность.
Выборка называется репрезентативной, если её распределение совпадает с распределением генеральной совокупности.
Выборки
Генеральная и выборочная совокупности.
Генеральной совокупностью (population) называются все результаты проведенных экспериментов.
Выборочной совокупностью (sample) называются наблюдаемые данные экспериментов.
Выборки
Репрезентативность. Пример.
Генеральная совокупность – вес вообще всех родившихся за последние три года щенков пуделя.
Выборка – опросили 10 заводчиков и собрали информацию о весе их щенков.
Является ли выборка репрезентативной?
Выборки
Характеристики выборок.
Выборочным средним называется величина:
Выборочной дисперсией называется величина:
Исправленной выборочной дисперсией называется величина:
Что делать с датасетом?
Главные шаги препроцессинга
Анализ присутствующих фичей.
Переменные могут быть:
Анализ присутствующих фичей.
К какому типу относятся фичи?
Главные шаги препроцессинга
Анализ распределений переменных.
Главные шаги препроцессинга
Анализ незаполненных значений.
Стратегии работы с NaN:
Всегда ли мы можем удалить/заполнить данные?
Главные шаги препроцессинга
Анализ аутлаеров.
Аутлаеры (выбросы) - группа значений, выделяющаяся из общей выборки.
Главные шаги препроцессинга
Анализ категориальных переменных.
Категориальные переменные - принимают только определенный набор значений. Значения не сравнимы между собой.
Главные шаги препроцессинга
Анализ категориальных переменных.
Методы машинного обучения работают с числовыми значениями.
Как сделать из категориальной переменной числовую?
Почему это плохо?
Главные шаги препроцессинга
Анализ категориальных переменных.
One hot encoding - это метод представления категориальных данных в виде бинарных векторов, где каждая уникальная категория кодируется отдельным разрядом: значение категории обозначается 1 в соответствующем разряде, а все остальные разряды принимают значение 0.
Главные шаги препроцессинга
Анализ порядковых переменных.
Порядковые переменные принимают значения с естественным порядком.
При этом расстояния между значениями часто неизвестны и не всегда равны.
Главные шаги препроцессинга
Ко(т)нец презентации
Далее:
Стат. гипотезы
Теоретический минимум