Скачать "Лекция 3. Классификация, деревья решений. Открытый курс ODS по машинному обучению mlcourse.ai"
%3Aformat(webp)%2Fi.ytimg.com%252Fvi%252FcrerhGu3j-8%252Fhqdefault.jpg&w=1139&q=75)
Подождите немного, мы готовим ссылки для удобного просмотра видео без рекламы и его скачивания.
Похожие ролики из нашего каталога
%3Aformat(webp)%2Fi.ytimg.com%252Fvi_webp%252F4UOIWO8AaqU%252Fmaxresdefault.webp&w=1139&q=75)
%3Aformat(webp)%2Fi.ytimg.com%252Fvi_webp%252F8be9t8gdeu4%252Fmaxresdefault.webp&w=1139&q=75)
%3Aformat(webp)%2Fi.ytimg.com%252Fvi_webp%252FM9Itm95JzL0%252Fmaxresdefault.webp&w=1139&q=75)
%3Aformat(webp)%2Fi.ytimg.com%252Fvi_webp%252FMJxHuxd5b5s%252Fsddefault.webp&w=1139&q=75)
%3Aformat(webp)%2Fi.ytimg.com%252Fvi_webp%252FQBDjB2V_uDM%252Fmaxresdefault.webp&w=1139&q=75)
%3Aformat(webp)%2Fi.ytimg.com%252Fvi_webp%252F_TVnM9dmUSk%252Fmaxresdefault.webp&w=1139&q=75)
%3Aformat(webp)%2Fi.ytimg.com%252Fvi_webp%252FfwWCw_cE5aI%252Fmaxresdefault.webp&w=1139&q=75)
%3Aformat(webp)%2Fi.ytimg.com%252Fvi_webp%252Fu6_b0I4fGgc%252Fmaxresdefault.webp&w=1139&q=75)
%3Aformat(webp)%2Fi.ytimg.com%252Fvi%252Fzl12QDJozos%252Fmaxresdefault.jpg&w=1139&q=75)
Теги видео
Субтитры
Английский
00:00:01
всем привет и давайте я вначале убедись00:00:05
что все меня нормально слышит00:00:07
что со звуком все в порядке давайте кто00:00:12
нить и включить трансляцию и скажет что00:00:14
все окей00:00:15
вперед00:00:38
да хорошо звук есть все ждут поехали так00:00:43
нас 3 занятия и мы наконец то начинаем00:00:45
заниматься машинным обучением мы00:00:48
говорили в начале про анализ данных00:00:50
первичный без всяких картинок00:00:53
просто там сводные таблицы построить там00:00:55
так как данные покрутить и про визуально00:00:58
анализ данных вот все это делалось по00:01:01
сути ради машину обучение конечно бывают00:01:04
разные специфики направления в анализ данных но00:01:07
поскольку нас все-таки машины обучения00:01:09
то вот 1 2 занятие были такие00:01:10
предварительные не стоит недооценивать00:01:14
именно в этот первичный анализ данных на00:01:17
него может уходить00:01:18
огромная куча времени то есть вы в00:01:21
индивидуальных проектов посмотрите вот00:01:23
просто прикиньте сколько у вас процентов00:01:25
времени уходит на той или на тот или00:01:28
иной этап вот и сегодня лекция будет в00:01:31
начале про основы машина обучения потом00:01:35
поговорим про первой базовой модели00:01:37
такие простенькие которые надо00:01:39
попробовать деревья решений и метод ближайших00:01:42
соседей и после перерыва я буду00:01:45
рассказывать про индивидуальные проекты00:01:46
и мы тоже посмотрим на примере ну такой00:01:49
скетч набросок с нашими данными по00:01:52
оттока клиентов вот мы проведем ну там00:01:55
может быть без текста без комментариев00:01:57
особо но в целом набросаем план и00:01:59
обсудим поехали но в принципе мы сейчас00:02:07
не будем формально описывать задачу00:02:09
машина обучения задача the pussycats или00:02:12
регрессе пока на интуитивном уровне00:02:13
немного математики у нас появится в00:02:16
следующий раз сейчас мы представляем что00:02:19
у нас имеются данные и как-то мы с их00:02:23
помощью делаем прогнозы ну давайте00:02:25
сейчас будем обсуждать что это не такая00:02:28
что это не такой магия да не так она00:02:30
блестящий работает все по всему не00:02:32
получится прогнозировать но давайте00:02:34
прежде всего обсудим о чем мы сейчас00:02:36
будем говорить то есть какой каким00:02:37
классом задач сейчас будем заниматься00:02:41
прежде всего для почти любой задачи00:02:44
машины обучения нужно выборка00:02:48
в классической постановке объекты00:02:51
признаки вот я так просто00:02:53
прямоугольником нарисовал давайте00:02:55
договоримся об обозначениях00:02:57
или прописная эта длина выборки links00:03:01
число объектов клиентов что угодно и00:03:05
число признаков д д н вот уже здесь00:03:12
может быть00:03:13
могут быть сложности давайте что это за00:03:15
признаки как с ними работать вдруг это00:03:17
там голый тексты мы не знаем как с ними00:03:19
работать но для начала давайте сейчас представим00:03:23
что вот такая матрица у нас есть00:03:25
по-английски иногда называет дизайн00:03:27
notex00:03:28
вот такая типичная матрица объекте00:03:31
признаки надо тоже понимать что это не00:03:33
исчерпывающие именно вот всегда00:03:37
использовать такую матрицу бывает задача00:03:39
там где на вход подается граф или даже картинка00:03:42
она немного не так выглядит вот эти00:03:43
признаки еще надо получить но в принципе00:03:45
там 90 процента задач скорее всего с00:03:48
которыми вы столкнетесь00:03:49
они будут сводиться к матрице такой00:03:51
объект и признаки тоже тут можно00:03:54
отвлечься сказать а если это матрица там00:03:56
в память не помещается давайте пока00:03:57
предполагать для простоты что она00:03:58
помещается и вот у нас есть такая00:04:00
выборка00:04:01
и дальше такая большая дихотомия всех00:04:05
методов две группы обучения с учителем и00:04:07
без учителя00:04:11
по-английски это сип ливайс и00:04:14
соответственно ансип вас возница очень00:04:21
большая в обучающей выборке00:04:24
в задачах обучение с учителем се00:04:28
укрываясь rolling у нас есть еще метки00:04:31
традиционно вот эту матрицу объект00:04:34
признаки называть x вектор ответов y вот00:04:38
тут нам понимать что это во-первых да00:04:40
уже сильно разделяет задачи на те что вот с этим00:04:43
вектором ответов и без него то есть вот00:04:45
как раз вот это разделение и во-вторых00:04:47
надо понимать что вот эта разметка она00:04:49
как правило такой краеугольный камень00:04:52
раздача она может00:04:53
попросту стоить больших денег либо ее00:04:55
можно может быть сложно получить даже в00:04:58
задача прогнозы от тока мы обсуждали что00:05:00
вот получить этот вектор ответов ушел от00:05:02
нас клиент или нет или там склонен уйти00:05:04
это совсем не так просто проставить00:05:07
единички и нолики ушел или нет это надо00:05:10
договориться как считать об ток коллеги00:05:12
там не так поймут заказчики тем более не00:05:14
так поймет но чем это уже не так просто00:05:16
и методологически и более того это стоит00:05:20
денег то есть алгоритмами машину00:05:22
обучение они как правило чем больше00:05:25
данных мы на них кидаем тем лучше00:05:27
соответственно нам нужны вот эти длинные00:05:29
матрицы00:05:30
объект признаки и вектор меток и когда00:05:34
это исчисляется уже там скажем00:05:35
миллиардами там картинок то вот эта00:05:38
разметкой .00:05:40
кто-то должен делать как правильно как00:05:42
правило это делают асессоры но вот надо00:05:45
понимать что вот этот вектор y который я00:05:48
нарисовал он зачастую не так просто00:05:50
дается тем не менее00:05:52
скорее всего у вас будет задач вот как00:05:54
раз такая у вас будет размеченная00:05:55
выборка и здесь объектом мы будем00:05:59
называть строчку в этой матрице то есть00:06:02
вот в одной строчке у нас скажем00:06:04
какой-то человек или картинка или объект00:06:05
со своими д признаками и соответствующая00:06:08
отметка ну сейчас формулы не буду писать00:06:12
пока вот на таком уровне и эта группа00:06:17
методов обучения с учителем в принципе00:06:22
дальше здесь деление тоже довольно-таки00:06:24
большое но мы рассмотрим 2-а пятки00:06:26
главные группы эта классификация и00:06:29
регрессе00:06:32
мы обсуждать будем по сути только вот00:06:35
эти два семейства00:06:36
то есть сначала мы будем говорить в00:06:38
целом право классификацию и вот сегодня00:06:40
в том числе потом про или грасиа потом00:06:43
дойдем до обучения без учителя задачи00:06:52
классификации у нас множество вот этих00:06:55
меток а на счет на00:06:57
ну то есть попросту число уникальных00:06:58
значения она ограничена если это00:07:03
какой-то ограниченное число скажем там00:07:05
10 12 эта задача много00:07:07
в классификации ну например вот сегодня00:07:09
мы поработаем с картинками простенькими00:07:12
там будет 10 классов что на картинке00:07:15
изображена описано цифр от 0 до 9 часто00:07:20
еще рассматривать отдельно бинар на00:07:22
классификацию когда вот эти метки00:07:24
y они всего лишь там либо но либо 1 ну00:07:27
или другой вариант минус 1 или 1 то есть00:07:31
это задача классификации задач и00:07:33
регрессия когда вектор значениями вот в00:07:36
этом векторе y они вещественные то есть00:07:39
ну пап говоря могут быть любыми вот00:07:42
здесь можно себе уже так фоном00:07:44
представить несколько задачи00:07:45
классификации несколько задач и00:07:46
регрессии но я думаю с этим проблем нет00:07:48
то есть возраст зарплата что угодно там00:07:52
как old & wise сколько нам клиент00:07:54
принесет это все о регрессе а какой там00:07:57
бинарный факт например уйдет от нас00:07:58
клиент или нет это все это будет00:08:01
классика цей но правда зачастую здесь00:08:04
еще в задачи классификации мы00:08:05
заинтересованы в вероятности00:08:07
какого-то события это тоже в принципе00:08:09
называют к ситуации хотя надо понимать00:08:11
что вероятность это уже циферка это от00:08:14
нуля до единицы00:08:15
но ее все таки не называют три грации а00:08:17
вот например если вероятность00:08:18
предсказуемы что клиент от нас уйдет00:08:20
то считаем это все-таки задачи00:08:22
классификации обучении без учителя про00:08:28
это потом но такое колхозное в чем самое00:08:34
простое отличие как это можно понять00:08:35
просто закрываем этот вектор y его нет у00:08:38
нас есть только матрица объекты признаки00:08:40
и вот дальше даже в такой постановке00:08:42
задачи возникает много самых разных интересных00:08:47
под задач кластеризация самое известное00:08:49
но не и в единое это и снижение00:08:51
размерности и поиск выбросов и даже00:08:53
оценка плотности распределения вот по00:08:55
выборке это все будут задачи обучении00:08:57
без учителя сейчас мы предполагаем что00:09:05
такое интуитивное понимание есть что нам00:09:07
в задачи классификации нужно как-то00:09:10
построить функцию которая нам будет00:09:13
отображать из множества вот в этой00:09:17
обучающей выборке в.в.00:09:20
метки ну то есть нас здесь будет задано00:09:25
какая-то реальная бы чаще выборка ну то00:09:28
есть вот здесь я могу написать00:09:30
x и y как пространство но давайте сейчас00:09:33
не увлекаться то есть это я не сильно00:09:35
формально буду писать00:09:36
x это вот конкретная матрица можно00:09:37
представлять матрица нам пай и нам нужно00:09:41
найти отображение из x в y ну вот это я00:09:46
пишу не строго уточнение будут позже00:09:51
понятно что эта функция на должна быть00:09:54
определена не только на самой вот этой00:09:56
матрицы x а где-то и в нее и но в общем00:09:59
то мы представляем что зависимость между00:10:01
входом и выходом это просто некоторые00:10:03
функции в принципе это вот такой00:10:06
основное предположение машины обучения00:10:08
что даст что это будет именно функция ну00:10:11
то есть что одного объекта будет00:10:13
соответствовать ровно 1 метр ну и вдруг00:10:16
у нас клиентам он и уйдет и не уйдет на00:10:19
понятно что это не логично то есть мы00:10:20
предполагаем что все-таки одной строке в00:10:23
этой матрице будет соответствовать ровно00:10:24
одна метка00:10:25
или вероятность то есть это должна быть00:10:28
именно функций и дальше собственный с00:10:32
помощью деревьев решений будем такую00:10:35
функцию строить деревья решений00:10:41
один из самых простых алгоритмов простых00:10:45
и понятных но во многом он похож на то00:10:49
как работает наш мозг вот эту картинку я00:10:52
цапнул там сайта вышки высшей школы00:10:55
экономики не так важно что здесь00:10:58
написано здесь написано простую00:11:00
инструкция для человека что делать в00:11:02
каком случае00:11:03
данном контексте это мы написали статью00:11:07
хотим ее как-то публиковать и нам00:11:09
подсказывают в какой каталог отнести и00:11:12
то там на сайте то есть если это статья00:11:14
в сборнике материалов конференции то вот00:11:16
мы идем сюда это форма глава книги00:11:21
вот нота конструкция чисто математически00:11:24
будет похоже на дерево то здесь есть00:11:29
корень есть промежуточные вершины есть00:11:32
листья00:11:34
вот в дальнейшем у нас деревья00:11:36
классификации так и будут выглядеть то00:11:38
есть мы будем смотреть на какие-то00:11:39
признаки вот здесь везде в этих00:11:41
промежуточных вершинах написано какие-то00:11:43
признаки и метки которые мы будем00:11:47
прогнозировать00:11:48
те элементы из вектора y это будут вот00:11:51
эти классы дан случаев 4 препринт статья00:11:54
книга глава книги и так далее интуиция00:12:04
того как это работает это мы на каждом00:12:07
шаге будем выбирать лучше признак00:12:10
которые вот в данный конкретный момент00:12:11
лучше всего разделяют выборку по00:12:13
целевому классу но давайте представлять00:12:15
себе сценарий00:12:18
оттока клиентов и мы выбираем признак00:12:21
который00:12:22
вот на текущем шаге лучше всего нам00:12:24
разобьет выборку на хороший клиентов и00:12:26
плохих то есть нас давайте я перерисую00:12:33
эту картинку можно в принципе даже00:12:36
отсортировать вектор y вот для для00:12:38
иллюстрации на плохих клиентов и хороших00:12:41
то есть здесь у нас y будут нули это00:12:44
клиент от нас не уходят00:12:46
это хороший клиент но тут главное не00:12:50
перепутать обычно единичка и обозначают00:12:51
то события которые нас больше интересует00:12:54
единичка это тут будет плохой клиент00:12:56
который склонен00:12:58
от нас уйти конечно таких будет намного00:13:01
меньше давайте я как а также тихую и00:13:07
дальше здесь у нас есть какие-то00:13:09
признаки чтобы проиллюстрировать00:13:11
давайте здесь будет пока просто признак00:13:13
возраст и зарплата но и какой бинарный00:13:22
признак давайте это будет пол00:13:29
в самой простой установки деревья00:13:31
решений смотрят на бинарные признаки00:13:33
not pale у нас уже бинарный с ним проще00:13:38
с количественным признаком типа возраста00:13:40
и зарплаты00:13:41
мы сравниваем значение признака с00:13:43
каким-то порогом ну скажем старше ли00:13:45
человек чем 30 лет чем 40 и вот эти00:13:48
пороги перебираем и что мы делаем мы00:13:51
смотрим по очереди прямо на все признаки00:13:53
но в более эффективной реализации не на00:13:55
все но мы смотрим на признак пол и в00:14:00
случае бинарного дерева мы смотрим на00:14:01
случай когда этот признак есть и когда00:14:04
его нету и дальше нам в каждой00:14:09
подвыборки у нас образуется 2 подвыборки00:14:11
когда gender сдавать равно mail мужской00:14:15
вот здесь слева у нас будут мужчины и00:14:17
это получается под выборка только мужчин00:14:21
тоже со своим целевым признаком и справа00:14:25
будет под подвыборке женщин тоже со00:14:27
своим целевым признакам в идеале мы00:14:31
хотели бы какую-то такую magic witcher00:14:35
какой-то супер признак который нам00:14:37
идеально бы разделил людей на хороших и00:14:41
плохих клиентов от чисто по одному00:14:43
признаку в идеале мы хотели бы какую00:14:45
такую картинку ну например что все00:14:47
мужики и оказались плохими клиентами все00:14:49
женщины хорошего такого конечно в00:14:54
реальность не будет реальности как-то00:14:56
будут перемешаны наши метки то есть даже00:14:59
после разделения по какому признаку у00:15:03
нас все еще метки будут перемешаны ну00:15:07
как-то допустим вот так здесь мало00:15:12
плохих справа допустим мало хороших но я00:15:16
может утрирую но допустим вот такая00:15:19
картинка и мы будем проверять все00:15:24
признаки по очереди скажем пол потом00:15:27
возраст будем сравнивать с порогами00:15:29
например возраст больше пяти лет больше00:15:32
шести лет семьи и так далее ну там00:15:35
детали реализацию же какие пороге надо00:15:37
сравнивать но мы будем по очереди00:15:38
перебирать признаки и находить тот00:15:41
признак который00:15:43
лучше всего выборку разделяет после он00:15:44
класс и дальше в принципе это эвристики00:15:51
я сколько ни пытаюсь выяснить и даже00:15:53
александр геноциде к нас прошел и всех00:15:55
кого мог в принципе я не видел работ00:15:57
который бы что-то такое прямо крутое00:16:00
гарантировали ну например гарантировали00:16:02
бы что ошибка обобщения такого критерия00:16:05
вот как здесь определить хороший признак00:16:08
8 по сути нет таких статей которые бы00:16:11
гарантировали что будет обеспечено там00:16:14
хорошие обобщаю способность что вот с00:16:16
помощью такого критерия мы сможем00:16:19
добиться низкой ошибки на новых данных00:16:23
по сути это все эвристики то что мы00:16:25
сейчас будем обсуждать вот как нам00:16:27
определить хороший признак или плохой давайте одной00:16:30
из таких эвристик познакомимся то есть00:16:33
чуть подробнее обсудим но тут благо00:16:38
картинки под отдела есть но может быть00:16:41
пример чисто искусственные именно чтобы00:16:44
познакомиться с00:16:45
с одним таким критериям такие критерии00:16:49
называются критериями информативности00:16:50
они нам покажут собственно насколько наш00:16:52
признак хорош для того чтобы по нему00:16:55
разбить выборку в данном случае на 200:16:57
класса00:16:59
формализация это будет с помощью понятия00:17:02
энтропии и в общем-то понять это может00:17:06
показаться сложным с 1 раза но мы сейчас00:17:09
тут на этих шариках на игрушечных00:17:11
примерчик увидим что ничего такого00:17:13
сильно сложного что здесь получается00:17:17
такое хорошее и понятное приложение вот00:17:19
этого мутного термина энтропию для00:17:23
состояния00:17:25
там н большое для систем с им большое00:17:29
состояниями она определяется таким00:17:31
образом то есть мы суммируем вероятности00:17:35
каждого состояния умноженной на логарифм00:17:37
двоичной это вероятности насчет с миром00:17:40
и берем со знаком минус но тут00:17:43
интересующиеся могут значит почитать00:17:46
почему именно так почему мы хотим вот00:17:48
именно в такой форме энтропию00:17:50
представить почему вообще там появляется00:17:53
логарифм на самом деле довольно простых00:17:56
раз уже можно вывести примерно вот эту формулу00:17:59
самое известное утверждение про энтропию00:18:01
это то что в скорее из физики то что в00:18:05
замке системе энтропия будет не убывать00:18:09
по-житейски если мы не будем производить00:18:12
никакую работу the house будет только00:18:14
возрастать и чтобы уметь уменьшить house00:18:17
понизить энтропию надо будет совершить00:18:19
какую-то работу в общем-то физики там в00:18:23
термодинамике энтропия значит не00:18:27
отрицательно личина она как-то00:18:29
ассоциируется с хаусом чем выше энтропия00:18:31
тем выше фрс здесь под хаусом мы будем00:18:35
понимать на сколько у нас перемешаны00:18:39
объекты по целевому признаку вот сейчас00:18:41
у нас будут будет бинарная классификация00:18:44
иллюстрируется это00:18:45
оранжевыми и синими шариками и мы под00:18:48
энтропии будем понимать то насколько они00:18:49
в группе в своей перемешаны тут понятно00:18:55
да можно параллельно вести аналогии с00:18:57
хорошими и плохими клиентами и что мы их00:18:58
разбиваем по какому признаку здесь в00:19:01
искусстве на примере давайте мы00:19:03
постараемся отделить оранжевые шарики от00:19:06
синих чисто по координате у нас есть00:19:10
один количество признак координата x и00:19:12
мы будем выбирать пороге и строить00:19:14
дерево сейчас увидим что дерево будет мы00:19:17
хотим на самом деле по каким-то00:19:19
признакам типа того что x больше восьми00:19:21
или девяти отделить оранжевые шарики от00:19:24
синих и вот увидим как здесь энтропия00:19:28
нам будет помогать00:19:30
зачем вообще здесь нам понадобится00:19:33
термин энтропия00:19:35
вначале у нас было 900:19:38
жёлтых шариков или синих 9 синих шариков00:19:42
и там 11 жёлтых00:19:44
можно чисто формально вот по приведенной00:19:47
формуле может не особо понимаю что это00:19:48
значит00:19:49
посчитать энтропию посчитали она00:19:51
оказалась примерно единица и это вообще00:19:55
ни о чем не говорит физик чески смысл00:19:57
имеется только разность энтропии в двух00:19:59
состояниях то есть это как потенциал00:20:01
физики ну в принципе тут можно и без00:20:05
аналоги с физикой это обсуждать просто00:20:08
хорошо почитали00:20:09
эту функцию от от разметки по сути наших00:20:13
объектов разметка да это синий шарик или00:20:16
там желтый получили значение денется00:20:20
пока никакой информации от нам не00:20:23
приносят00:20:24
давайте разобьем нашу выборку по00:20:27
признаку координат меньше либо равна 1200:20:30
либо больше здесь уже получаем 200:20:34
под выборки и мы как-то интуитивно00:20:36
понимаем что правая на более00:20:38
упорядоченно то есть вот здесь под00:20:41
хаусом систему мы будем понимать то00:20:43
насколько в данном случае шарики будут00:20:45
перемешаны и мы видим что здесь 6 600:20:51
желтых шариков один синий как то мы00:20:53
понимаем что здесь порядка стало больше00:20:55
а вот в левой группе в принципе они00:20:59
остались еще перемешаны по цветам на00:21:01
шарики и вот это работает в числах touch00:21:05
если посчитать энтропию для левой и00:21:07
правой группы мы получаем 096 в левой00:21:10
группе и примерно 06 в правой а энтропия00:21:15
0 это будет когда у нас ровно одно00:21:18
состояние можно увидеть что если00:21:21
составить состояние всего одно и00:21:22
вероятность его единица то здесь00:21:24
логарифм от единички это будет 0 то есть00:21:26
полный порядок в системе это энтропию 000:21:29
и мы видим что в правой ветки как раз00:21:31
энтропия довольно сильно снизилась ну по00:21:34
крайней мере мы можем сказать что00:21:35
сильнее чем в левой ветки и в итоге00:21:43
критерий над того насколько хорошего вот00:21:46
это разбиение мы взяли пока вот наугад00:21:48
по разделу вот в 12 x меньше либо равна00:21:52
12 или больше прирост информации который00:21:57
вот я сейчас поясню он как раз00:21:59
формализует то вот насколько хороший00:22:01
этот критерий для деления00:22:04
выборки по на две группы прирост00:22:10
информации смотрит на00:22:11
энтропию до разбиения вот это с 0 и00:22:14
вычитает взвешенная энтропию в левой и в00:22:18
правой части то есть мы берем энтропию в00:22:22
левой части00:22:23
в правой и учитываем то как много там00:22:26
объектов берем вот такую вот такой00:22:30
средневзвешенное то есть изначально00:22:31
энтропии мы с весом 1320 вычитаем00:22:34
энтропии в левой части с весом 72000:22:36
энтропию вправо часть потому что в левой00:22:40
части было 13 объектов в правой 7 а в00:22:43
итоге их в сумме 20 почему именно так00:22:46
вот почему взвешенная ну можно00:22:48
сообразить что если не взвешивать на00:22:50
число объектов отщепляет шарики там по00:22:53
одному то это будет неинтересно в итоге00:22:56
всегда лучшим признаком будет тот00:22:59
который шарики собственно по одному00:23:01
цепляет ну то здесь пойдет разбиение по00:23:03
границе 18 потом по 17 скорее всего до00:23:06
сих мы учитываем изменения вот этой00:23:09
энтропии в группе но также учитываем и00:23:11
размер этой группы и получается вот эта00:23:15
величина00:23:16
она будет уже не отрицательно и тут она00:23:19
чем больше тем лучше но опять таки00:23:23
конкретная цифра нам вот 016 вряд ли00:23:25
чем-то скажет но мы зато можем сравнить00:23:28
прирост информации вот таким образом00:23:30
считаемый для признака00:23:32
x меньше либо равна 12 с прочими и00:23:36
проводим чисто аналогию то есть точно00:23:38
также у нас могут хорошие плохие клиенты00:23:41
разбивать разбиваться по возрасту и мы00:23:43
будем сравнивать разные пороги00:23:46
делить нашу выборку на две подгруппы00:23:49
сравняю возраст тридцатью годами с 35 4000:23:52
и так далее и посчитав для каждого00:23:55
прироста информация мы выберем какой вот00:23:58
такой бинарный признака и разбиение00:24:00
будет лучшим по приросту информации и00:24:04
дальше алгоритм работает рекурсивно то00:24:07
есть мы вот эту процедуру поиск признака00:24:11
с лучшим приростом информация мы будем00:24:13
продолжать в каждой подгруппе пока не00:24:16
построиться вот я что такое то есть вот00:24:19
то что мы искали дерево решений которые00:24:22
нам по сути да уже классифицирует цвет00:24:25
шарика желтый там или синий только по00:24:28
координате то шарик ну довольно00:24:33
популярным картинках деревня решений вот00:24:35
для игрушек00:24:37
задачи классификации вот как дерево00:24:40
будет таким образом выглядеть уже более00:24:43
реалистично и прогнозировать выдавать00:24:46
кредит или нет вот мы будем смотреть00:24:48
сначала там на разбиении возраста00:24:51
сравнение возраста с каким-то порогом00:24:53
допустим 40 лет потом на наличие дома и00:24:56
так далее и довольно хорошо работает так00:24:59
интуиция что наверху у нас образуется00:25:01
вот здесь на верху в дереве разбей они00:25:04
проходят по важным признаком то есть в00:25:08
начале выбралась разбиение вот сравнение00:25:10
возраста с сорока годами наверно это00:25:15
признак лучше чем наличие дома то есть00:25:20
раз прирост информация так показал то00:25:23
значит признак важнее будет и деревья00:25:28
решений в общем-то прекрасно00:25:29
интерпретируется потому что их можно вот00:25:31
таким образом нарисовать00:25:33
и дальше диск нам придет новый человек00:25:36
новый клиент допустим ему вот по такой00:25:39
картинки допустимым он там 56 лет у него00:25:42
есть дом то вот мы по дереву прошлись до00:25:45
старше 40 он дома имеется но все пожилой00:25:48
человек там состоятельный моему кредит00:25:50
выдаем в противном случае смотрим еще на00:25:52
какие-то другие признаки сначала это все00:25:58
вручную делали но когда вопрос встает00:26:00
уже все таки по-умному это автоматически00:26:01
делать на основе данных на основе00:26:03
больших выборок то одним из критериев00:26:07
таким вот по которым выбирать признаки00:26:10
будет как раз прирост информации00:26:12
энтропии най но в принципе ведь да что00:26:18
тут порой вообще бояться таких слов00:26:20
энтропия но здесь нам нужно по сути00:26:22
нужно только формула-1 которая нам будет00:26:24
задавать вот эту эвристику насколько у00:26:27
нас хорош признаком00:26:35
но дальше такая небольшая деталь к что00:26:38
мы вообще-то такое глубокое дерево00:26:41
скорее всего строить не будем то есть00:26:44
вот по этой картинке мы построили дерево00:26:47
до той глубины когда у нас уже в каждом00:26:50
листе шарики только одного цвета в реальности00:26:56
же если мы применяем только алгоритму00:27:00
дерево решений то есть классифицируем00:27:02
только одним деревом то здесь где-то уже00:27:06
низко в дереве у нас правило получится00:27:08
слишком частными00:27:09
то есть в приложении там к тому же00:27:13
спаррингу мы сначала будем смотреть на00:27:14
какие-то интересные признаки типа того00:27:16
что сравнили зарплату с 60 тысячами00:27:20
потом посмотрим еще на что то интересно00:27:22
допустим были ли какие-то задолженности00:27:25
в эту клиента или нет и дальше чем ниже00:27:27
в деле чем ниже вот по дереву мы идем00:27:29
тем понятно дело00:27:31
меньше там людей или объектов и тем00:27:35
более частные признаки мы находим для их00:27:38
разбиения то есть дальше здесь пойдет ну00:27:41
что у нас признаках есть скажем человек00:27:45
указал там область свою00:27:47
или там город и мы будем смотреть00:27:48
приехал к нам человек там из саратова00:27:51
или нет либо без также совсем утрировать00:27:54
там какие-то совершенно не важные00:27:55
признаки и случайно так получается что00:27:57
мы на них посмотрели то есть здесь00:28:00
наверху дерева можно сказать что она00:28:02
порождает общие правила которые хорошо работают00:28:04
для всей нашей выборке а внизу уже будут00:28:07
частные правила которые работают только00:28:10
для какой-то там подгруппы людей и вот00:28:15
это мы будем избегать00:28:17
мы будем тормозить вот рост этого дерева00:28:21
то есть где то попросту его00:28:22
останавливать чтобы не начать00:28:25
порождать слишком такие частные правила00:28:28
которые работают только для малой группы00:28:30
людей и здесь я в общих чертах00:28:35
опишу как в машинном обучении подходят к00:28:40
выбору модели к ее настройки и как00:28:43
вообще нам добиться того чтобы на новых00:28:45
данных нашу модель работала хорошо00:28:48
что с деревом понятно что его можно00:28:50
подстроить под имеющийся выборку но00:28:53
существенный вопрос а как оно будет00:28:55
работать на новый да как раз про деревья00:28:58
решений хорошо известно что их можно00:29:00
легко построить так что имеющаяся00:29:04
обучающая выборка будет без ошибок00:29:07
классифицируются00:29:08
пока в каждом листе не будет ровно 100:29:13
объект00:29:14
это мы говорим только про нашу обучающую00:29:16
выборку но мы должны понимать что к нам00:29:19
в будущем приходят новые люди00:29:21
то есть это уже по сути новая выборка00:29:24
людей тестовое и наше дерево наш00:29:26
алгоритм должен давать хороший прогноз и00:29:28
для них поэтому картинку нас на самом00:29:37
деле вот более подробно и у нас есть00:29:41
обучающая выборка большая в коде я чаще00:29:47
буду называть ее x train00:29:51
это то что мы смогли собрать00:29:53
сколько-то д маленькая обычных признаков00:29:57
по которым мы будем прогнозировать и00:29:58
целевой признаком и нам надо как-то00:30:02
модель построить так чтобы оно работало00:30:04
хорошо на какой-то новой выборки пока ее00:30:07
можно даже не рисовать может быть это00:30:09
будет там пару людей но мы себе00:30:11
представляем тоже какую-то большую00:30:13
выборку тестовую который к нам придет в00:30:15
будущем и надо на ней тоже для нее тоже00:30:18
делать хороший прогноз но и чисто00:30:20
физически здесь будет уже целое00:30:21
пространство таких объектов и мы хотим00:30:23
как-то оценивать как модель сработает00:30:25
уже вот в вашем пространстве для этого00:30:28
мы выборку наверно понимаете да в чем00:30:33
здесь проблема00:30:34
мы хотим как-то оценить модель ну00:30:36
допустим сейчас здесь дерево нарисую00:30:38
который обучена по всей выборки и вопрос00:30:41
тогда в том а как вот я проверю это00:30:43
дерево на тестовой выборке то есть я00:30:45
какие-то прогнозы выдам но здесь для00:30:47
теста выборка нас нету нету вот этого00:30:50
целевого признака то есть мы реально не00:30:51
знаем там человек ушел от нас или нет00:30:53
вот это заштрихованный вектор y здесь00:30:56
его нету и как нам проверить модель если00:30:59
там нету ответов я скажу00:31:01
ну да он от нас уйдет а мы правда не00:31:03
знаем вот здесь едят с той выборке00:31:05
поэтому чтобы модель как-то проверить00:31:08
нам ничего не остается как притвориться00:31:11
что часть наших данных00:31:13
это тесто я выборка ну и ее называют00:31:19
отложенный отложено или солдат как00:31:30
правило вот это разбиение проводят в00:31:33
отношениях 70 процентов на 30 есть00:31:37
правда несколько нюансов00:31:39
у нас должна быть достаточно много00:31:41
данных чтобы мы могли вот так взять и 3000:31:43
процентами пожертвовать но если он у нас00:31:48
данных достаточно мы по опыту на самом00:31:51
деле научимся это определять теория00:31:53
недостаточно развита чтобы сказать вот00:31:55
конкретно вашей задачи вам нужно вот00:31:57
столько то скажем гигабайт клиент00:31:58
смотрится по опыту инструмент для этого00:32:02
тоже будет для того чтобы смотреть вот00:32:03
какой объем выборки нам нужен но00:32:05
допустим нас данных достаточно и тогда00:32:08
мы 30 процентов отделим и тогда дерево00:32:14
решение мы будем обучать на 70 процентов00:32:17
данных не на всей выборки только на 70 и00:32:21
на оставшийся 30 мы будем прогнозы00:32:25
проверять но здесь уже все выглядит00:32:28
нормально то есть у нас есть будет00:32:30
обученное дерево оно сделает прогноз для00:32:33
вот это отложенной выборки00:32:34
у нас будет вектор прогнозов вот здесь00:32:40
предсказание до prediction и у нас есть00:32:44
вектор00:32:45
реальных ответов для вот это отложенной00:32:47
выборки но мы просто сам в самом00:32:50
примитивном варианте мы просто проверим00:32:52
вектор ответов00:32:54
ушел от нас человек или нет и вектор00:32:56
прогнозов если ты тоже нули и единички00:32:58
мы просто посчитаем сколько раз мы00:32:59
попали но это будет не только и курсе00:33:02
доля верных ответов сколько раз мы00:33:04
просто угадали с прогнозом но дальше00:33:06
будут метрики и по-сложнее то есть это00:33:12
оценка модели попросту по отложенной00:33:15
выборки зачастую этим пренебрегают00:33:19
сейчас мы поговорим про консультацию это00:33:21
более универсальный метод00:33:22
но вот зачастую уже этого достаточно то00:33:24
есть если у нас данных прямо таки много00:33:28
может быть чисто по вычислительным00:33:31
аспектом может быть нам этого хватит то00:33:34
есть когда данных много великое00:33:38
вероятность того что распределение от00:33:41
всех признаков и целевого и всех их всех00:33:43
обычных признаков что распределение вот00:33:45
в это отложенные выборки совпадают с тем00:33:47
что было в00:33:48
в 70 процентах обучающий потому что00:33:51
смотрите какие здесь могут быть проблемы00:33:52
при таком разбиение но самые дурацкие то00:33:55
по нашей невнимательности что у нас00:33:57
допустим тут были был признак пол00:34:00
сначала шли только мужчины потом только00:34:01
женщинах мы вот так вот взяли разбили и00:34:04
у нас в обучении все женщины в00:34:09
отложенные выборки их нету ну это тупняк00:34:11
это надо избегать то есть посмотреть на00:34:13
данные и в как минимум и в перемешать00:34:15
вот для такого разбиения но проблема00:34:18
могут быть несмотря на эту даже если там00:34:21
перемещаем выборку и потом ее так00:34:22
разделим проблем сером может быть в том00:34:25
что вот это отложенная выборка она по00:34:27
самому распределению отличается немного00:34:30
от обучающим и если мы слишком уж долго00:34:34
будем всякий модели перебирать или их00:34:36
настраивать и в общем-то затачивается00:34:38
под эту выборку мы можем опять таки00:34:41
добиться того что у нас модель хорошо00:34:43
угадывает ответы на вот этот ложной00:34:44
выборки и плохо на других и ну плохо00:34:48
работает на тесто выборки то есть00:34:53
прячься в это зависит от размера вашей00:34:56
выборки метод в общем-то простой но на00:35:02
практике он очень часто применяется00:35:04
допустим если у вас данных 10 гигабайт00:35:06
вы их так перемешали случайным образом00:35:08
поделили у вас скорее всего вот эти семь00:35:11
процентов выборки будут очень похожи на00:35:13
всю большую00:35:14
то есть если там даже какие-то выбросы00:35:17
где-то то это не так сильно сказывается00:35:19
и тогда попросту мы можем доверять00:35:24
проверки00:35:25
на отложенные выборки носом говоря если00:35:28
вот как свопы бить будем работать у нас00:35:30
там будет 10 гигабайт там каких-нить00:35:32
вопросов или там отзывов тогда дамы 300:35:35
гигабайта отделим и это достаточно большая выборка00:35:37
чтобы на ней провериться а 7 гигабайт00:35:39
достаточно большая чтобы на ней хорошо00:35:41
обучить а если с другой стороны у вас00:35:44
там медицинские данные скажем00:35:45
эксперименты привели диагноз поставили00:35:49
там только для 150 человек тогда уже вот00:35:51
нам задуматься если у нас вся выборка00:35:53
это всего лишь 150 человек а если мы 3000:35:55
процентов и так возьмем и вот этих 4500:35:59
человек мы просто делим вдруг они как-то00:36:01
отличаются от других и можем ли мы00:36:03
доверять вот именно этим00:36:05
оценки вот по этим 45 людям потом уже00:36:07
будем к другим техникам прибегать к00:36:12
кросс валидация консультация00:36:16
она как раз главное что делает она00:36:19
нивелирует вот это вот этот эффект от00:36:21
случайности разбиения то есть но я пишу00:36:25
сейчас00:36:26
самую стандартную консультацию сама00:36:29
часто применяемым кей фолд кро00:36:31
соблюдаться это будет разбиение00:36:33
выборки к 1 на качестве давайте я00:36:37
нарисую к равной трем то есть мы три00:36:42
раза нашу выборку разделим на три части00:36:48
первый раз мы будем обучаться на двух00:36:51
третях выборки исходный и делать прогноз для00:36:54
оставшейся трети00:36:55
и в общем то так три раза идея понятна в00:37:02
итоге на каждом шаге мы обучаемся на00:37:03
двух третях наших данных00:37:06
ну а вот в общем случае мы жертвуем00:37:08
долей единиц знака00:37:10
то есть обучаемся на к -1 на к00:37:13
подвыборке и делаем прогноз для00:37:15
оставшихся для оставшихся подвыборки ну00:37:18
фалды очень так все и называют фалды00:37:20
может не очень красиво но тут плюс уже00:37:24
очевиден в том что мы получаем не просто00:37:27
одну цель сколько раз мы угадали на00:37:29
конкретной выборки а хотя бы уже 33 раза00:37:33
они получены на разных под выборках уже00:37:35
вроде как этому можно доверять больше00:37:39
в идеале когда вот эта маленькая равна00:37:44
длине нашей подвыборки il faut00:37:47
вы можете представить что тут происходит00:37:48
у нас эль допустим там десять тысяч00:37:51
десять тысяч раз мы просто выкидываем00:37:53
один объект обучаем модель на 9 1999 и00:37:58
объектах и делаем прогноз только для00:37:59
одного понятно что это вычислительно00:38:02
очень тяжело называется и the left one00:38:06
out оставь 1 лив ван out across00:38:10
валидация и она лучше всего изучено00:38:12
выкинуть какой-то один объект это проще00:38:15
для нее есть всякие технической оценки00:38:18
хотят их недостаточно но понятно что это00:38:20
на практике почти никогда не00:38:22
используется чисто по вычислительным00:38:25
причинам то что это тупо дорого и даже00:38:29
нету однозначно ответа00:38:32
какое к брать как правило к берут 5700:38:37
либо 10 ну так чисто по опыту я сам00:38:43
пятикратную чаще использую статистике00:38:45
чаще любят десятикратно в общем тут00:38:49
никогда не скажу кто прав доить теория00:38:55
тоже изучается но никаких оценок00:38:58
не дает какие-то дает но недостаточно и00:39:02
еще один важный аспект при проведении во00:39:06
такое разбиение хотя бы мы как минимум00:39:10
должны учитывать соотношение целевого00:39:12
класса под класс вот такие такой кросс00:39:17
валидации называемый страте fight00:39:22
гарантирует нам очень простой факт что00:39:24
распределение цель его классов каждой00:39:26
подвыборки такой вот каждая фалда00:39:28
будет одним и тем же это важно когда у00:39:31
нас есть какие-то редкие события00:39:34
ну в принципе это почти всегда важно но00:39:37
представьте что у нас скорее всего как в00:39:39
реальной ситуации у нас00:39:40
ушедших клиентов будет сколько их00:39:43
реально не более там двух процентов00:39:46
может быть даже 100:39:48
если у нас всего лишь один процент00:39:51
объектов положительной там с меткой один00:39:53
то представьте но она может может не00:39:56
повезти что они все окажутся в обучающей00:39:58
части или или всех в проверочный00:40:00
или ну скорее всего будет что то такое00:40:02
что в обучающей части их будет сколько00:40:10
0007 проценты допустим 0 7 процента там00:40:17
плохих клиентов а в отложено их будет00:40:20
полтора процента вот уже это даже не00:40:23
здорово то есть надо быть соблюсти хотя00:40:25
бы вот это соотношение целевого косо в00:40:27
каждой подвыборки и стратифицированные00:40:30
методы как раз это и делает нас дальше в00:40:33
библиотеке который мы будем работать00:40:34
будет метод смотрите fight cave old он00:40:39
называется который как раз это и делает разбивает00:40:42
выборку на качестве учитывая соотношение00:40:45
целевого класса в каждой подвыборки то00:40:47
есть попросту чтобы все подвыборки были00:40:48
похожи друг на друга и на исходную нашу00:40:51
выборку именно по соотношению целевой00:40:53
класс и долгое время в статьях там по00:40:59
статистике использовалась00:41:02
стратифицированные вот и на00:41:03
десятикратная про соблюдаться но вплоть00:41:05
до того что там если00:41:07
консультации какая-то другая00:41:09
используется то в статью могли не00:41:10
принять но на самом деле достаточно00:41:14
будет накид там больших выборках00:41:16
и пятикратный кросс валидации на кегли00:41:20
тоже в соревнованиях по анализ данных00:41:22
очень активно исследуются свойства00:41:24
консультаций как насколько они устойчивы00:41:27
получать или нет но скорее всего00:41:28
пятикратной консолидации вам хватит если00:41:32
это вы даже потяните если у вас если вы00:41:35
локально обрабатываете там скажем 1000:41:37
гигабайт и на них строите модель ну00:41:38
скорее всего вот первый сценарий что вы00:41:41
просто будете использовать отложено00:41:43
выборку и в общем-то не большой ошибкой00:41:48
будет сказать что кросс валидация это00:41:50
практически все машинном обучении то00:41:53
есть это попросту ответ на то как00:41:56
сравнить две модели и как нам00:41:58
гарантировать что наша модель будет00:42:02
работать на но в данных но гарантировать00:42:04
это может быть и громко слова но как нам00:42:06
надеяться все что на новых данных00:42:08
наша модель сработает подход который я00:42:13
чаще всего использую это комбинация этих00:42:15
двух это не только я советует скажем00:42:19
уинн в самом популярном курсе и вообще00:42:21
известный поход это взять и отложен00:42:23
участь и на оставшейся части проводить00:42:25
консультации00:42:26
чаще всего мы будем именно это и делать00:42:30
то есть мы будем оцеплять процентов 3000:42:36
исходной выборки и это будет00:42:40
отложенная часть она оставшийся мы будем00:42:43
проводить кросс валидацию чем это лучше00:42:53
чем просто консолидация или чем просто00:42:55
оценка на отложенной выборки мы здесь00:42:59
вот на этих 70 процентов данных проведя00:43:01
кросс валидацию мы ну на самом деле дал00:43:05
много всего сделаем то есть для чего00:43:07
вообще кро соблюдаться нужно для00:43:11
настройки одной модели даже если мы00:43:14
какую-то конкретную модель выбрали мы ее00:43:17
будем настраивать на консультации вот00:43:19
дерево решений мы сейчас поймём что и00:43:25
строить до максимальной глубины его не00:43:27
будем но попросту слишком частные00:43:30
правила они плохо будут работать на00:43:31
другой выборки вот этот эффект который00:43:34
присущ всем всем всем алгоритмы моя00:43:37
главная проблема в машинном обучении это00:43:39
переобучение00:43:41
она свойство вообще всем алгоритмом00:43:43
сказываться в том что модель обученная00:43:46
на своей выборки будет на ней работает00:43:49
лучше чем на какой то другой то есть так00:43:51
попросту это описать что вот на новой00:43:53
выборки вот бац и хуже модели работает00:43:58
переобучение но когда мы слишком долго00:44:01
настраивались на имеющиеся выборку00:44:03
представьте что у нас00:44:05
выборки сам слишком много людей из00:44:07
москвы и мы может конечно мы под00:44:10
москвичей перри обучились их слишком00:44:11
много00:44:13
в новый выбор выборки которые к нам00:44:15
придет на исключение не так много уже00:44:17
допустим хотя бы по такой причине00:44:18
качественно новой выборки будет хуже и00:44:20
вообще есть тысяча способов перри00:44:24
обучиться в данном случае с деревья00:44:26
решений это будет если мы дерево будем00:44:28
строить до максимальной глубины пока в00:44:30
каждой не будет ровно один клиент00:44:35
ну или объект так вот самое простое что00:44:40
можно сделать чтобы дерево ограничить00:44:42
чтобы она не строилось вот до00:44:44
максимальной глубины это вот так его взять и обрезать не00:44:48
позволить строить его глубже чем на00:44:51
некий параметр mакс df00:44:55
максимальная глубина давайте скажем что00:44:57
максимальная глубина00:44:58
дерево 2 и вот в каждой ветке таких00:45:02
разбиений будет ровно 2 и дальше мы00:45:04
просто не идем вот такие параметры будут00:45:08
называться гипер параметрами но им чуть00:45:12
позже обсудим почему именно гипер зачем00:45:15
такие усложнением но вот такой00:45:18
гипер параметр максимальная глубина00:45:21
дерево как то должен быть подобран00:45:23
мы хотим как-то чтобы дерево было и не00:45:29
слишком глубоким не перри обучалась и не00:45:31
слишком мелким потому что если мы00:45:33
возьмем с другой стороны дерева наоборот00:45:35
слишком мелкая всего лишь по одному00:45:37
порогу скажем возраст больше 17 и00:45:40
разобъем нашу выборку00:45:42
на две части увидим что здесь допустим00:45:46
117 хороших 15 плохих а здесь клиентов у00:45:51
нас 245 хороших и 20 плохих и собственно00:46:00
ну а что а нам это сказала да вроде00:46:02
никакой можно тут и прирост информации00:46:05
посчитать но даже на глаз мы видим что00:46:06
он признак не очень-то хорош мало что00:46:08
нам принес в общем дерево глубины 1000:46:13
всякие там садовые уже налоги пошли00:46:16
пинками их называют им бисерин stamps но00:46:19
дерево попусту если вот здесь00:46:21
максимальная глубина равна 1 это00:46:26
будет слишком мелким делим она будет не00:46:30
до обучена мы еще подробно про это будем00:46:33
говорить но наверное здесь00:46:35
интуитивно понятно что это значит то00:46:37
есть оно не выловил а вот необходимые00:46:39
закономерности в наших данных чтобы00:46:40
хорошо прогнозировать отток скажу и00:46:45
получается что здесь будет некоторый00:46:48
баланс00:46:49
какой бы глубину дерево выбрать так00:46:51
чтобы дерево и нужные зависимости нашла00:46:53
но и не слишком подстроилась под и месяц00:46:57
выборку и вот это все сведется к00:46:59
перебору вот это гипер параметра00:47:02
максимально глубина и тогда вопрос а как00:47:04
нам его выбирать получается нам надо00:47:07
как-то сравнить две модели00:47:09
но допустим дерево глубины 1 и глубины 200:47:12
как мы убедимся что дерево глубины 200:47:14
работает лучше чем деле глубины 1 и вот00:47:19
сейчас почти на все вопросы будет ответ00:47:21
кросс валидация мы на кросс валидации00:47:24
обучим вот получается три раза но в00:47:27
целом в общий случай к 1 обучим дерево00:47:29
глубины один посмотрим как она работает00:47:31
она выдаст какие-то прогнозы мы сравним00:47:36
с ответами и получим скажем что на кросс00:47:39
валидации средняя там доля верных00:47:41
ответов 72 процента так но это просто 7200:47:49
процента я думаю понятно тут какая шла00:47:53
процедура дерево три раза обучалась00:47:54
делала прогноз для оставшейся части мы00:47:56
сравнивали вот тупо нолик с единичками00:47:58
сколько раз мы угадали хороших или00:48:00
плохих клиентов от дерева глубина 17 200:48:02
раза это сделала правильно дерево00:48:04
глубины 2 допустим резкий скачок 82 и мы00:48:10
понимаем что дерево глубины 2 лучше00:48:20
да вопрос был по какому принципу мы00:48:23
выбираем отложенную выборку для начала00:48:27
вам достаточно будет что мы перемешали00:48:31
наши объекты00:48:32
на практике чаще вы делается это мы00:48:35
попросту перемешиваем объекты и00:48:37
учитываем соотношение 7 класса то есть00:48:41
стратифицировать разом то есть мы00:48:43
требуем по сути00:48:44
единственно чтобы здесь вот соотношение00:48:48
не мы сами объекты тоже перемешиваем до00:49:10
давайте мы в перерыве00:49:12
обсудим дай все-таки лекцию не будут00:49:14
дискуссия превращать до вопрос был про00:49:16
то вот каким образом вот эта отложенную00:49:18
выборку отрезать и практические здесь00:49:23
ответа как реально делают это выборка00:49:27
должна быть просто случайный мы можем00:49:29
взять список индексов из него выбрать 3000:49:31
процентов случайных вот там прямо в в00:49:34
нам по и случайный выбор и это будет нашей00:49:37
выборкой если у нас еще00:49:41
допустим там дисбаланс классов какие-то00:49:43
у нас редкие объекты мы еще потребуем00:49:44
чтобы было стратификация что то есть00:49:47
чтобы там доля плохих клиентов было00:49:49
примерно такой же как и в исходный чаще00:49:51
всего делают именно так и вот по канату00:49:57
она отложена что пока мы на нее смотреть00:49:58
не будем мы вот здесь на исходных вот на00:50:01
70 процентов данных мы будем сравнивать00:50:03
деревья разной глубины но ты не допустим00:50:07
мы глубины три дерева построили получили00:50:11
86 процентов правильных ответов00:50:13
а когда глубина 4 то уже качество вдруг00:50:18
упала и стала 76 процентов вот на этом00:50:23
моменте скажется00:50:24
эффект теперь обучение мы еще картинки00:50:29
будем строить и00:50:30
ну как-то00:50:32
жизни это исследовать естественно но00:50:34
здесь мы остановимся на том что дерево00:50:35
глубины 3 сработал лучше всех собственно00:50:40
это мы и делали на кросс валидации00:50:44
выбирали гипер параметр дерево он не00:50:47
только не только этот не только00:50:49
максимальная глубина и тут будут разные00:50:51
алгоритмы у них будут разные вот эти00:50:52
гипер параметры и по большому счету в00:50:56
каждом случае мы будем применять кросс00:50:57
валидацию для выбора00:50:59
гипер параметров второй шаг это выбор00:51:04
самой модели ну может быть сейчас мы00:51:07
обсуждали дерево потому что пока еще00:51:09
только его обсуждали но конечно первично00:51:11
вопрос это какую модель использовать для00:51:14
выбора модели мы будем опять таки00:51:15
использовать кросс валидацию то есть00:51:18
дальше здесь у нас будет вторая модель00:51:20
сейчас мы про нее поговорим гейнер00:51:24
neighbors00:51:26
метод ближайших соседей и дерево решений00:51:29
диссидент рик и у нас выбор вопрос какую00:51:34
из этих двух моделей выбрать и делаем и00:51:37
опять таки это на консультации мы можем00:51:41
их по отдельности заранее уже настроить00:51:44
на консультации да то есть выбрать00:51:45
максимальную глубину для дерева для к00:51:47
там тоже свои00:51:48
гипер параметр будет его тоже выберем и00:51:51
сравнивать00:51:52
уже два алгоритма и тогда видеть что она00:51:54
кросс валидации один из алгоритмов лучше00:51:57
и даже более того когда мы будем00:52:00
добавлять новые признаки мы опять таки00:52:02
будем их проверять на кросс валидации то00:52:05
есть допустим у нас есть новый признак00:52:11
ну условно говоря задач потоком клиентов00:52:16
мы видели что интересный признак был бы00:52:19
число звонков в сервисный центр больше00:52:23
трех вот допустим мы такой признак00:52:26
построили он бинарный получается и мы00:52:31
проверяем помог ли он нам нашей модели00:52:33
или нет вот опять таки мы это все будет00:52:35
сводиться к консолидации00:52:36
то есть любое сравнение моделей она00:52:39
будет именно так происходить мы сравним00:52:41
модель с этим признакам и без него на00:52:44
консультации00:52:46
а вот это отложено выборка она нам нужно00:52:49
собственно в самом конце нато ее00:52:52
называют отложенный потому что вообще-то00:52:55
так на консультации если долго играться00:52:57
мы тоже можем все таки выбрать какие-то00:52:59
модели такие-то гипер параметры что вот00:53:01
они случайным образом хорошо работают00:53:03
именно здесь и тогда отложено выбор к00:53:07
нам дает нашу как бы такую последнюю00:53:10
оценку вот уже после того как мы все00:53:12
настроили все выбрали модель мы00:53:14
последний раз проверяем нашу модель и00:53:16
это будет наша оценка того как модель00:53:19
сработает на новых данных то есть00:53:22
отложенная выбор к нам будет00:53:23
представлять целого вот это пространство00:53:26
новых объектов из которого мог могут00:53:28
прийти вот примеры тестовых объект то00:53:36
есть мы с этим будем сталкиваться что00:53:38
слишком на консультации там заигрываться00:53:40
не стоит слишком много параметров и00:53:42
гипер параметров перебирать и в конце00:53:46
использовать отложенную выборку то есть00:53:49
классический сценарий вот оценке моделей00:53:52
он именно такой но дальше надо же00:53:57
исходить из конкретной постановки задач00:53:59
и пока мы работаем с маленькими00:54:01
доцентами мы так и будем делать потом00:54:03
уже когда размера нам это не позволят00:54:06
уже скорее мы будем просто по отложенной00:54:09
выборки проверять может быть где-то00:54:10
просто пауку раз валидации но скорее00:54:12
просто по отложенной выборки00:54:24
алгоритм поставим дерево вы почитайте00:54:27
сами можете разобраться тут конечно00:54:29
очень много аспектов оптимизационных как00:54:34
как этот алгоритм на практике работают00:54:37
почему-то бинарные деревья используется00:54:39
как повышать эффективность как быстро00:54:41
рассчитывать от этих критериев формате00:54:42
власти давайте я лучше расскажу про00:54:44
основные плюсы деревьев решений00:54:50
бисерин trees но их пожалуй стоит00:54:57
проговорить потому что вообще зачем они00:54:58
нам нужны по большому счету00:55:02
сами по себе были деревья решений почти00:55:05
нигде не применяются может быть очень00:55:09
громкое заявление но то есть что я знаю00:55:12
это скорее все только в медицине и там00:55:14
еще в критерий вот эти разбиения00:55:16
запихивают проверки статистически чтобы00:55:18
ну там какой-то значимость соблюдать но00:55:21
сам все деревья решений слишком уж00:55:23
склонны к00:55:24
переобучению очень легко дерево00:55:27
построить и ну так что если его глубина00:55:30
там чуть выше00:55:31
желаемого то она просто переобучить и00:55:35
под выборку и более того само дерево00:55:42
решений может сильно перестроиться вес00:55:46
мы слегка слегка только поменяем наши00:55:49
данные условно говоря добавим один00:55:51
признак или там выкини в несколько00:55:52
объектов00:55:53
все наше дерево может перестроиться и00:55:55
окажется вот это ну так и интуитивно00:55:58
кажется что хороший модель она наверно00:56:00
стабильная но это и формулах выражается00:56:02
и вообще это так и работает что ну00:56:06
модель не должна так кардинально00:56:07
меняться из-за небольшого изменения во00:56:09
входных данных ну то есть может быть00:56:12
минус что 1 минус что в чистом виде в00:56:20
чистом виде не применяются почти00:56:27
ну ладно я написать не буду так только00:56:29
тезисно ну кажется00:56:34
зачем нам алгоритм который почти не00:56:36
применяется тогда вот симметрично00:56:39
колоссальный плюс то что деревья решений00:56:42
стали основой для алгоритм случайного00:56:46
леса и бустинга то есть пока интуитивно00:56:49
себе представляем что одно дерево00:56:50
довольно плохо работает от в терминах00:56:52
процентов там угаданных ответов а вот00:56:55
если их объединить в если построить на00:56:58
одной и той же в выборке 10500 или 10000:57:01
деревьев и все они будут как ты там00:57:04
немного отличаться между собой то вот00:57:06
уже голосование такое если мы учтем00:57:08
ответы всех деревьев и как-то усредним00:57:10
вот это будет работать уже хорошо и на00:57:13
практике но блага ты и теоретически уже00:57:16
довольно хорошо изучена и на практике00:57:18
когда вы дойдем до случайного леса вот00:57:21
уже через 2 недели на самом деле и00:57:22
допустим га вот эти модели почти всегда00:57:28
они основаны на деревьях решений00:57:29
принципе busting не обязательно но на00:57:32
практике в основе вот под капотом всего00:57:35
этого дела лежат00:57:36
именно деревья решений и именно00:57:40
случайный лес это такой алгоритм который00:57:42
вот мы будем использовать зачастую из00:57:45
коробки особо не настраивай гипер00:57:47
параметры ну довольно впечатлительно00:57:49
сложная такая процедура может быть и00:57:51
грамотно и там вся эта курс предаться но00:57:54
вот случайно лес очень хорош тем что он00:57:56
будет работать прямо вот из коробки но00:58:00
про него поговорим вот для дерись00:58:03
решений это не справедливо то сейчас мы00:58:05
возьмем какой-то параметр00:58:06
там гипер параметр по умолчанию там00:58:08
дерево глубины три или четыре это может00:58:10
весьма и весьма скудно сработать и нам00:58:14
надо будет его настраивать00:58:17
но блага одно дерево обучается очень00:58:20
быстро еще плюсы есть да на удивление00:58:27
вот брать такая простая модель00:58:28
но будут плюсы которые автоматически00:58:30
перенесутся в плюс из леса и бустинга00:58:35
ну почти не чувствительны к выбросам все00:58:39
они буду писать и уж совсем не напишу00:58:43
просто выбросы по-английски all of00:58:47
flowers или аномалии выбрось она здесь00:58:51
не так беспокоит если даже там выборки00:58:55
где-то попался билл гейтс ну условно00:58:57
говоря он просто попадет00:58:58
где-то в дереве под условия сравнение00:59:01
зарплаты с каким-то порогом скажем в00:59:03
50000 налево-направо ну это что у него00:59:06
здесь будет 100 триллионов это не так00:59:09
страшно он просто пойдет по одной из00:59:10
ветвей00:59:11
ну наверно вот по этой то есть выбросы00:59:15
они не будут такой большой проблемой не00:59:18
на этапе построения дерева не на этапе00:59:21
прогнозов и аналогично с00:59:24
масштабированием выборки она для00:59:29
деревьев не нужно вот в линейных моделях00:59:31
будет проблемой то что возраст00:59:35
измеряется в одном диапазоне то есть00:59:38
примерно там до 10 во второй степени00:59:42
а зарплата меняется изменяется там в00:59:44
другом диапазоне ну тут смотрю что брать00:59:47
максимально или какой но скажем до 10 в00:59:49
6 и еще поговорим про то что вот в00:59:52
линейных моделях когда мы будем смотреть00:59:54
вот именно линейной комбинация двух00:59:55
признаков00:59:56
вот этот диапазон он ну как нам будет00:59:59
мешать вот это отличие в диапазонах то01:00:02
есть в линейную комбинацию зарплата01:00:04
будет делать больше вкладка минуту по01:00:07
из-за того что она в большем диапазоне01:00:10
изменяется с деревьями такой проблем не01:00:13
будет то есть в общем-то без всяких01:00:17
проблем у нас в дереве может быть01:00:19
сравнение возраста с каким-то маленьким01:00:21
порогом 6 лет потом сравнение зарплаты с01:00:25
кем-то большим порогом с миллионом и в01:00:28
общем-то они не как друг другу не мешают01:00:30
вот эти различные диапазоны изменения01:00:32
двух признаков и на практике это значит01:00:35
что меньше нужно предобработки нам не01:00:39
стоит особо парится из-за выбросов и01:00:41
масштабирование01:00:42
выборки тоже можно особо не проводить01:00:50
план теперь минус наверно он как-то01:00:55
связан с первым пунктом может быть и как01:00:58
следствие01:00:59
но попросту в чистом виде давайте01:01:01
все-таки сюда допишу01:01:02
допишу плохо работает но действительно01:01:06
то есть в чистом виде дерева01:01:08
именно в терминах вот метрики типа доля01:01:11
верных ответов можно будет видеть что01:01:14
она плохо работает именно по01:01:17
интересующей нас метрики сколько01:01:18
процентов там плохих клиентов оно нашло01:01:25
ну видите это вообще-то это должно01:01:28
волновать там медиков например но если у01:01:31
них datasat из 200 наблюдений и они по01:01:33
нему построили дерево решений01:01:35
который пусть даже там статистические01:01:37
критерии внутри себя проверяет но оно01:01:39
обучено на 200 200 наблюдениях и более01:01:41
того это алгоритм ну который попросту01:01:44
уже работает чем другие во многом то01:01:47
есть до медиков должно волновать01:01:49
или тех кто использует деревья решений в01:01:51
чистом виде но симметрично или не очень01:01:55
симметрично но еще один плюс01:01:57
колоссальные деревьев решений это01:01:59
интерпретируемый это не строгий термин01:02:08
люди в общем то его понимают и01:02:10
интуитивно насколько нам понятен ответ01:02:14
модели то что на практике это может как01:02:17
выглядеть01:02:18
ну и там прогнозируемо так вот скажем я01:02:21
выбрал там нейронной сети для этого они01:02:23
наоборот01:02:24
абсолютно не интерпретируем и они01:02:25
абсолютно но плохо интерпретировано и я01:02:27
построил q это модель мы ее там начали01:02:30
использоваться там в продакшене то есть01:02:31
уже над с той выборке проверяем и она01:02:33
допустим там ошиблась раз два три четыре01:02:37
раза подряд допустим даже так неудачно01:02:39
сложилась и вроде бы мы там на01:02:42
консультации до наших оценках мы видим01:02:43
что алгоритм очень здорово работают там01:02:45
лучше чем те те же деревья решений01:02:47
но в реальной жизни вот как то так01:02:50
получилось что она там пару раз ошиблась01:02:52
и допустим это к большим к неприятным01:02:55
последствиям принесла привело01:02:57
ну конкретно для разработчика непрятно01:02:59
последствия то что пришел босс из и01:03:00
спросил что за хрень ты там разработал01:03:02
до чего она не работает и в общем то все01:03:05
сводится к тому что там случае не01:03:07
иранский мы плохо понимаем ответы модели01:03:10
почему вот именно на основе каких-то01:03:12
признаков мы сделали вывод что клиентам01:03:16
будет плохим у деревьев решений интерпретация просто01:03:20
прозрачно конечно такими-то оговорками01:03:25
но на по игрушечному дереву мы легко01:03:27
можем пройтись вот посмотреть вот эти01:03:29
условия и он показывал возраст больше01:03:31
такого порогов пошли туда сюда на01:03:35
практике же ну во-первых дерево может01:03:38
быть глубоким01:03:40
10-15 условий в нем и как ты уже01:03:43
наверное не так здорово человеку01:03:44
проверять там 15 условий доходить до01:03:46
каких-то тоже признаков01:03:48
то есть в любом случае дерево решений01:03:52
намного более интерпретированы чем очень01:03:54
многие алгоритмы по сути в общем-то это01:03:57
даже самый интерпретируем алгоритм но не01:04:00
всегда это интерпретация нужно то есть01:04:02
тут все-таки нарисую стрелочку что это01:04:04
такая взаимосвязь трейдов такое между01:04:08
качеством модели и интерпретируем а стью01:04:11
по сути это будет01:04:13
глобальный трейдов такой интерпретируем01:04:19
оси и как качество но собственно01:04:24
решаемые задачи классификации или01:04:26
регрессии01:04:30
и дерево решений как простой алгоритм01:04:33
вот он скорее плохо работает но01:04:36
интерпретируемый ну да вопрос был про01:04:46
случайный лес да то что вот у него это01:04:50
это вилка это трудов работает в другую01:04:52
сторону случайный лес будет усреднять01:04:54
там скажем 500 деревьев и уже намного01:04:56
менее будет он интерпретируемым зато01:04:58
качество классификации будет сильно01:05:00
повышаться то есть до вопрос был если01:05:11
интерпретируемые методы на практике01:05:14
реально ли их использует ну да вот если01:05:17
построить одно дерево решений то она01:05:18
будет интерпретируемым мы можем по нему01:05:21
пройтись в других алгоритмах мы под01:05:23
интерпретировать и будем понимать в том01:05:24
числе и другие вещи в том числе и то как01:05:27
они нам ранжируются наши признаки01:05:29
положитесь ну скажем случайный лес будет01:05:32
нам выдавать рейтинг важности признаков01:05:34
который будет по какой-то там эвристики01:05:36
считаться ну попусту01:05:38
например насколько сильно признак нам01:05:41
улучшал вот этот прирост информации или01:05:44
там наоборот снижал энтропию мы можем01:05:46
что-то такое замерить и отранжировать01:05:49
наши признаки по важности тогда мы будем01:05:51
знать вообще какие признаки более или01:05:54
менее важны наши задачи так ну может01:06:04
быть я сейчас они все вспомнил но это в01:06:07
общем то основные признаки01:06:08
основные вот такие плюсы и минусы01:06:10
деревьев решений еще на практике01:06:14
какими-то вы можете сами столкнуться да01:06:20
ну например тут же вспомнил очень01:06:24
быстрый алгоритм пожалуй не буду сейчас01:06:28
мучиться вспоминать точную оценку ну01:06:31
порядка там а большого чего но понимаете01:06:35
что бинарное дерево или там двоичное01:06:40
дерево01:06:42
если мы рассмотрим д маленькая бинарных01:06:45
признаков то она глубины будет примерно01:06:47
логарифм двоичный д а большое но там еще01:06:53
как множители туда войдет конечно же01:06:55
число объектов в нашей выборке01:06:57
конкретный вид этой зависимости я01:07:00
пожалуй не вспомню но на практике01:07:02
деревья решения работают очень быстро01:07:05
одно дерево вот мы будем видеть это01:07:07
конкретно там уже уже сейчас когда будем01:07:11
писать код но то что по сути дерево01:07:13
обучается почти мгновенно наших данных01:07:19
там до скажем 10000 до 20000 объектов но01:07:23
это будет расчет будет на01:07:25
и миллисекунды еще давайте мы поговорим01:07:32
про метод ближайших соседей уже01:07:35
побыстрее и дальше мы их как-то01:07:40
конкретно задачи сравним я тут бежишь01:07:46
соседей в общем-то особняком стоит от01:07:49
всех прочих алгоритмов по сути в нем01:07:52
обучение то и нету у нас есть признака и01:07:56
пространство тут можно себе представлять01:07:59
конкретные наш признаки возраст зарплата01:08:02
и под напрячь фантазию тут у нас будет01:08:05
до мерное пространство то есть какие то01:08:07
еще признаки типа пола и в нашем01:08:11
признаком пространстве как-то выборка01:08:13
будет допустим вот так выглядит плюсами01:08:17
и минусами я отмечаю там хороших и01:08:18
плохих клиентов метод ближайших соседей01:08:24
относится к семейству ленивых алгоритмов01:08:28
лийзи по сути пока тестовый01:08:31
тесто объект к нам не пришел никаких01:08:34
вычислений не требуется ну по крайне01:08:37
мере чисто теоретически как он работает01:08:39
этот метод приходит нам к нам новый01:08:42
объект знаком вопроса его нарисую и мы01:08:46
нашли к нему к ближайших к нему объектов01:08:50
ну допустим это вот эта кучка01:08:55
на 5 ближайших я посмотрел вот я тут01:08:58
дорисую но чаще смотрят чаще это к берут01:09:03
нечетным чтобы как-то было легче01:09:06
ничьи разрулить ну да я чуть более01:09:10
читерские поступлю дорисую плюсик здесь01:09:11
вот и и это наш 5 ближайших объектов из01:09:16
нашей выборки и мы посмотрели как бы так01:09:18
банально посчитали что у нас три01:09:20
отрицательных примера и два01:09:22
положительных и тогда голосованием большинством мы01:09:25
просто сделаем вывод что но метко этого01:09:27
объекта будет минус можно по интереснее01:09:34
сделать можно замерить расстояние и как01:09:39
то взвесить на них ну а брат обычно01:09:42
берут в знаменателе квадрат расстояния и01:09:44
учитывают не только метку объекта но и01:09:47
квадрат вот этого расстояния и в общем01:09:51
то можно голоса01:09:52
примеров как-то по-разному взвешивать01:09:54
туда и произвольной функции можно01:09:56
запихивать и в целом вообще сам метод01:10:02
как и многие другие в машинном обучении01:10:04
он опирается на такую гипотезу01:10:06
компактности01:10:07
мы верим что схожие признаки ведут к01:10:12
схожим меткам ну то есть наверное как то01:10:15
будут кучковаться плохие клиенты и как01:10:19
так кучковаться будет хороший гипотеза01:10:21
компактности конкретно оно связано с01:10:23
нашим предположением что если мы на01:10:25
какой-то эпсилон в этом пространстве01:10:26
признаком отойдем от имеющихся плюса01:10:29
наверно там тоже будет объект положить01:10:32
или то что вот мы на epson сдвинулись01:10:34
наверное это не так кардинально вообще01:10:36
все изменило и наверно вот новый объект01:10:39
то же все-таки будет к тому же классу01:10:41
относиться вот это интуиция который вот01:10:45
я тут нарисовал на на бумажке просто до01:10:49
в 2d вот эта интуиция нас может подводить и01:10:51
сейчас в нейронах тех мы знаем что01:10:55
бывают мы берем там изображение пингвина01:10:58
там наша сеть его хорошо классифицирует01:11:00
понимаю что это пингвин а мы ему пару01:11:02
pixel и pixel и изменили или пикселов01:11:05
и прогноз чего что это бензопила ну то01:11:11
есть мы вроде бы вот на глаз даже не01:11:13
видно никаких отличий то есть просто мы01:11:14
чуть чуть чуть поменяли наш объект вот01:11:16
на это epson сдвинулись но все01:11:18
кардинально поменялась и собственно01:11:21
метод бежать соседей он опять же на01:11:27
практике довольно плохо работает во01:11:29
первых и за проклятие размерности вот01:11:32
как раз того факта что наша интуиция но01:11:36
она нас здесь подводит то есть в 10001:11:38
мерном пространстве там все будет совсем01:11:40
по-другому вот я как-то нарисовалось01:11:42
наверное пространство и там по сути все01:11:46
объекты будут примерно01:11:48
равноудалены друг от друга ну то есть01:11:50
там не будет работать вот это01:11:52
предположение01:11:54
это очень интересна тема такая скорее01:11:55
для кружка математическая представлять01:11:58
себе там как будет он верный шар01:12:00
выглядеть что у него почти весь объем на01:12:02
границе шара и ничего внутри вот но01:12:05
капусты говоря01:12:06
интуиции нас позволит и вот эта гипотеза01:12:09
компактности она довольно плохо работает01:12:10
и метод ближайших соседей01:12:13
это метрический метод он кардинальным01:12:18
образом завязан на метрику то есть то01:12:20
как мы вообще понимаем сходство объектов01:12:24
выбор такой по умолчанию это евклида01:12:26
метрика то есть мы берем один квадратный01:12:29
корень и берем разницу двух объектов там01:12:33
по пресс01:12:34
по первому признаку с квадратом и так01:12:37
далее и так далее да признака номер д-1201:12:45
признак номер до первого объекта 2 и вот01:12:50
я написал формулу там евклидова01:12:51
расстояния это такой выбор по умолчанию01:12:54
и далеко не факт что вообще это хорошая01:12:58
затея далеко не факт что и самой их01:13:01
лидер станем будет отображать вот эту01:13:03
гипотезу компактности чтобы будет он01:13:05
будет эта метрика будет ей следовать01:13:09
дальше давайте я вам картинки покажу то01:13:11
есть где нас может подводить интуиция01:13:14
сейчас к деревьям вернемся давайте тогда01:13:16
уж про метод бежать соседей01:13:27
один момент мы сейчас посмотрим01:13:41
а но тут для канон картинки нет у меня01:13:44
извиняюсь но давайте тогда просто по01:13:46
этой формуле мы сообразим в чем же может01:13:50
быть минус во-первых масштабирование у01:13:53
нас все эти признаки желательно чтоб01:13:55
измерялись в одном масштабе и вот здесь01:13:59
уже весьма справедливо это утверждение01:14:01
что если возраст и зарплата меняются в01:14:04
разном диапазоне то вот в этой евклидову01:14:07
метрику зарплата будет вносить больший01:14:09
вклад вот чисто из за того что она в01:14:12
диапазоне там на четыре порядка больше01:14:14
изменяется то есть нужно будет01:14:17
масштабируем и более того мы видим что01:14:20
вот здесь по крайне мере просто в и01:14:22
freedom в случае клей на метрики все01:14:24
признаки они входят с равным весом то01:14:28
есть вот мы посмотрели квадратов01:14:30
отклонения для возраста для зарплаты и01:14:33
они с одним весом с одинаковым вошли в01:14:37
эту формулу наше расстояние можно это01:14:40
как-то модифицировать то есть смотреть01:14:43
расстояние между двумя объектами как01:14:46
найти в виде ну что мы берем мы берем x101:14:52
x201:14:54
признак номер же с квадратом сюда пихаем01:14:59
какой-нить коэффициент и житий и все это01:15:02
дело суммируем g пробегают получается от01:15:07
единицы до d01:15:08
но из всего этого еще можно потом корень01:15:10
взять не очень красивая рисуя ну ладно01:15:15
вот в принципе тоже евклидова метрика01:15:18
евклида расстояния но мы сюда ещё01:15:22
впихнули свои коэффициенты фи-фи и01:15:27
вот их можно понастраивать они нам будут01:15:29
отвечать за то как раз то насколько01:15:32
признак важен какой коэффициент перед01:15:34
ним поставить но вот правда на кросс01:15:37
валидация это довольно дорогостоящие то01:15:40
все настраивать представьте если у нас01:15:42
100 признаков 100 коэффициентов вот этих01:15:45
fi будет и как то их надо еще01:15:46
настраивать и несмотря на то что метод01:15:49
довольно таки легковесный если вы его01:15:52
вот так вот утяжелить подбирать метрику01:15:53
это может быть уже01:15:55
и не так просто давайте тоже01:16:03
плюсы-минусы01:16:05
методы ближайшая seger спешу перед этим01:16:12
только упомянув что помимо01:16:14
метрики вот этой которые надо выбирать01:16:16
еще собственно к в названии кнн до к01:16:21
ближайшей соседей водка это тоже01:16:23
гипер параметр но метрика она по сути01:16:25
тоже получается гипер параметрам ее01:16:27
выбор и вот здесь интуиция может нас01:16:36
подводить здесь малый к они будут как бы01:16:39
соответствовать более сложные модели это01:16:43
не совсем так но представьте что если мы01:16:45
смотрим только на 1 ближайшего соседа то01:16:49
мы можем скорее всего мы построим01:16:51
какую-то сложную границу представьте в01:16:55
каждой точке мы смотрим только на одно01:16:57
обижаешь соседа и может получиться01:16:58
что-то такое dash с какими-то01:17:00
вкраплениями01:17:01
и эффект будет такой же как от01:17:04
переобучения что мы построили слишком01:17:06
сложно границу в случае кай на01:17:08
переобучение получается уже даже коряво01:17:11
звучит потому что алгоритм по сути не01:17:12
обучается но все равно и наоборот если к01:17:16
взять очень большим там и представьте мы01:17:19
для классификации каждого теста примера01:17:21
мы смотрим на 70 процентов всей выборки01:17:23
мы построим наоборот что то сложно01:17:25
что-то слишком простое ну какой то01:17:27
эллипс хотя там зависимость посложнее и01:17:30
это будет похоже на не до обучения то01:17:34
есть это к много меньше чего-то но не01:17:39
единицы ладно давайте напишу что-то к01:17:40
порядка единицы01:17:41
это к допустим много больше денег01:17:47
получается тоже этот гипер параметр надо01:17:49
настраивать так и в итоге плюсы-минусы01:17:56
это до ближайших соседей ну во-первых01:18:01
опять таки он быстрый01:18:06
опять таки с оговорками если просто01:18:08
евклидова расстояния считать есть всякие01:18:11
алгоритмические уловки01:18:12
уже чисто из прикладных задач там если01:18:17
это все дело если объект хранить там в01:18:19
когда и дереве то можно быстро смотреть01:18:22
на вот эту близость запрос01:18:25
дай-ка мне пять ближайших или всем01:18:27
ближайших с помощью специальной01:18:28
структуры когда дерево это делается01:18:30
весьма быстро и по сути кнн все-таки01:18:33
когда он увидел обучающую выборку он ещё01:18:35
не начал обучаться на кое что он сделал01:18:37
он например впихнул все объекты вот в01:18:40
это когда идею01:18:41
пред обработку он сделал на практикам01:18:43
получается тоже довольно таки быстрым но01:18:47
с другой стороны опять таки оговорка что01:18:49
хорошо он работать может скорее всего01:18:53
при к там порядка 100 или 1000 и уже01:18:57
когда мы на такое число ближайшие соседи01:18:59
каждый рассмотрим это уже все таки не01:19:01
так быстро минусы ему нужно при добра01:19:08
бодка01:19:09
то есть здесь уже большая01:19:10
чувствительность к выбросам и к масштабу01:19:16
вот здесь уже один билл гейтс нам все01:19:18
сильно может испортить но нет 1101:19:23
все-таки вряд ли да то есть это будет01:19:24
какая-то . который сильно удалена от01:19:26
всех других но вряд ли это так повлияет01:19:29
но в целом и выбросы и и масштаб01:19:31
признаков уже будут существенно влиять01:19:34
на качество модели опять-таки01:19:38
относительный плюс interpret01:19:41
интерпретируем оси ну и даже опять или01:19:47
первый раз возьму это в кавычки потому01:19:49
что интерпретировать она вообще а пятки01:19:53
сложно об этом говорить без строгое01:19:55
определение что это такое но как мы01:19:57
понимаем ответы01:19:58
алгоритма крайнон мы там отказали01:20:02
человек в кредите он от нас уйдет потому01:20:04
что он похож вот на 15 своих там соседей01:20:06
ближайших они вот такие-то такие-то01:20:09
на мотиках катаются там да и суицидов01:20:13
интересуется01:20:14
но на практике пятки вот если груши01:20:17
например рисовать то это может быть пока01:20:20
что разумным но на практике это будет01:20:22
выглядеть так что вот мы смотрим на 70001:20:24
ближайших соседей и тогда в общем как01:20:27
интерпретировать01:20:28
будет что-то типа 700 соседей из них там01:20:33
112 оказались плохими когда средняя по01:20:36
выборке вот и семь процентов от 401:20:40
начните уже это не так чтобы01:20:43
действительно работала вот это01:20:45
интерпретировать и01:20:47
да это все в связке идет опять таки01:20:50
довольно таки плохое качество но в01:20:55
сравнении с кем-то более сложными01:20:57
алгоритм и вот это то что это плохое01:21:02
качество сейчас давайте01:21:04
отдельном акцент на донесу мысли что01:21:06
вполне возможно вам этого достаточно то01:21:09
есть вы в реальной задачи вы начнете как01:21:11
раз от этих алгоритмов с деревья решений01:21:15
методы ближайших соседей если линейных01:21:17
моделей о которых мы поговорим потому01:21:19
что вы но вполне возможно что это уже01:21:21
достаточно то есть вы там какой-то супер01:21:25
сложную там не рамку допустим будете01:21:27
полгода разрабатывать не понимать почему01:21:30
там что-то куда-то не сходится ну и01:21:32
возможно что она просто будет там на 301:21:34
процента повышать качество классификации01:21:36
а она таких усилий нет не стоило то есть01:21:40
вначале достаточно проверить на реально01:21:43
задачи как будут простые модели работать01:21:44
ну естественно01:21:46
от простого к сложному вообще это могут01:21:50
быть даже эвристики ну то есть я знаю01:21:52
случай когда01:21:53
но в общем то сложными моделями довольно01:21:56
долго били очень простую эвристику и но01:21:59
она просто работала и как тогда зачем01:22:01
нам эти очень сложные модели иногда01:22:06
работает даже просто здравый смысл01:22:07
но дерево решений в принципе для01:22:09
интерпретировать это и будет тот самый01:22:11
здравый смысл точно как раз будет искать01:22:13
вот такие правила конъюнкции там еще их01:22:18
называют от астмы правило вида если01:22:20
возраст меньше 30 лет и зарплата там01:22:24
меньше 10000 но не дам кредит01:22:26
ну то есть вот это01:22:28
то что нам кажется здравом снова таки01:22:30
интерпретируем и правила логического01:22:31
деревьях как раз и будут строить так что01:22:35
вот да вначале их проверяйте возможно01:22:37
это уже будет работать теперь дате01:22:43
картинки покажу из статьи здесь01:22:50
но мы посмотрим да как до вопроса давать01:23:15
да01:23:16
вопрос был что если вот в случай кнн мы01:23:21
смотрим на ближайший соседей и они ну01:23:24
как говорят назвали плохие объекты и как01:23:26
там понять какое число объектов01:23:29
достаточно для того чтобы отнести к01:23:30
одному или другому классу01:23:33
чтобы было максимально точность процедур01:23:38
это очень простая когда мы к01:23:39
зафиксировали скажем 5 ближайших соседей01:23:41
вот мы их 5 нашли и процедура дальше мы01:23:44
что мы в самом простом случае смотрим на01:23:46
голосовании большинством здесь три01:23:48
отрицательных объекта 2 положительно01:23:51
тогда вопрос сводится к тому как выбрать01:23:54
только водка насколько ближайший соседей смотреть01:23:58
дальше все сводится просто к выбору к на01:24:01
кросса валидации как гипер параметр мы01:24:03
его подбираем да и давайте картинки тоже01:24:12
посмотрим это помогает восприятию01:24:17
сейчас в этой тетрадке про деревья01:24:19
решений и в статье по метод ближайших01:24:22
соседей тоже но допустим нас такая01:24:25
задачка нарисован двухмерное01:24:28
пространство но можно тебе представлять01:24:30
он верно и в общем то из так утрировать01:24:33
то задач классификации сводится к тому01:24:35
как здесь построить хорошую разделяющую01:24:37
поверхность может быть вот такая синяя01:24:39
прямая то есть это будет гипер плоскость01:24:41
наверное это будет недостаточно вот мы01:24:44
здесь ошибаемся желтый сюда залезли01:24:46
красные сюда если мы здесь будем с01:24:48
какой-то сложную кривую ли настроить01:24:50
может быть наоборот слишком и перри01:24:53
усложнили она вот переобучаться обойдет01:24:55
вот эти скажем 2 желтых шарика хотя01:24:57
может быть мы вообще ошиблись с разметки01:24:59
здесь и в общем-то переобучение она01:25:02
будет также иметь это куги01:25:03
геометрической интерпретацию в виде вот01:25:06
сложности той разделяющих границ который01:25:08
мы 2 класс отделяем дерево решений будет01:25:11
строить разделять границы как вот можно01:25:14
сообразить такие что везде игра01:25:19
это будет параллельна одной из координат01:25:21
то есть сравнение признака с порогом нам01:25:24
разбивают пространство на 201:25:26
полупространства ну предположим вот01:25:28
здесь было ось возраст здесь 17 и тогда01:25:32
мы конкретно тут отделяем те кто моложе01:25:36
17 от тех кто старший в друга вместе01:25:39
пошли по другому признаку то есть01:25:41
подругой координате01:25:42
и в итоге дерево решений будет нарезать01:25:44
пространство вот на такие01:25:46
параллелепипеды их не стоит называть но01:25:48
в общем то на такие области с границами01:25:53
параллельными осям дерево решений вот01:25:58
здесь мы нарисовали01:26:00
но мы это еще сделаем уже в виде кода по01:26:04
дереву погуляем посмотрим разберемся как01:26:07
его читать01:26:17
так осуждаться и последняя скажу давайте01:26:20
вот даже чисто геометрические какие мы01:26:22
можем увидеть сложности с деревом01:26:25
решение и с методом ближайших соседей ну01:26:31
вот если такую картинку нарисовать01:26:32
бинарной классика ции где вроде все01:26:34
очевидно и где линейные модели нам легко01:26:37
вот этот коридорчик найдут то есть по01:26:39
диагонали два облака точек01:26:41
разделит ну то есть специально такой01:26:43
искусный примерчик но можно увидеть что01:26:45
это уже сложно для дерева решений дерево01:26:49
решений будет каждый раз границ строить01:26:52
параллельна одной из осей и можно01:26:54
представить что она здесь вот тупо01:26:56
пойдет ступенькой вот так она не01:26:58
сообразит и начнет вот такую сложную01:27:01
границу строить в итоге это скажется в01:27:04
том что дерево будет глубоким то есть01:27:06
ему надо много вот таких вот01:27:08
разбиений а вдруг мы там настраивали01:27:11
гепард параметр указали что дерево01:27:13
должно быть глубины 2 максимум и тогда01:27:16
здесь она ну как вообще продолжать то01:27:18
есть но дерево может какие-то простые01:27:20
вещи такие не выхватывать типа вот01:27:25
линейной комбинации линейной зависимости01:27:27
между признаками01:27:31
случайно лес но он будет строить разные01:27:34
деревья и вот даже вот в таком01:27:35
игрушечном примерчик и он нас не особо01:27:37
спасет то есть будут куча куча таких01:27:40
ступенек а не может быть немного01:27:41
по-разному построиться но даже у нас нам01:27:43
здесь не поможет понятно что пример01:27:47
игрушечный но скажем так проблему он01:27:50
поднимает01:27:55
методом ближайших соседей вот01:27:58
подобная картинка но он в принципе здесь01:28:01
мед обижаешься сидеть справляется то01:28:05
есть да он построил может быть там не01:28:07
прямую но везде в каждой точке он01:28:09
сообразил где больше красных точек где01:28:12
желтых и правильно пространством в этой01:28:15
точке раскрасил ну как правильно ну01:28:17
похоже на истиную зависимость которая01:28:20
там в данном случае01:28:21
прямая01:28:23
и в той ситуации давайте симметричный01:28:31
случай она под него картинки нету я01:28:35
небольшой скетч нарисую ну представьте01:28:38
что у нас опять таки01:28:40
и грустная ситуация которая поднимет там01:28:41
проблему метрических методов у нас есть01:28:45
целевой признак отток клиентов допустим01:28:48
нолики и единички и допустим у нас есть01:28:52
первый признак но который это почти01:28:55
идеально там совпадает ли вы но просто01:28:58
некая magic фичер если уж совсем01:29:00
утрировать можно сюда переписать что это01:29:03
попросту равно целевому признаку ну01:29:06
понятно кана не будет но признак01:29:08
какой-то очень крутой допустим я тут01:29:11
только на нолик поправлю он уже один01:29:13
этот признак очень здорово целевой01:29:15
прогнозирует и дальше еще скажем 10001:29:19
приз01:29:20
еще 99 признаков и это просто шум ну01:29:26
просто взяли нормальное распределение01:29:27
какое-то и конкретно числе не буду01:29:32
писать но здесь у нас попросту шум во01:29:34
всех этих столбцах01:29:37
вот здесь дерево решение справится на01:29:39
ура считаем прирост информации по01:29:43
каждому признаку сразу на первом шаге01:29:44
увидели что вот по этому признаку01:29:46
прирост информации огромный то есть там01:29:49
очень тропе почти нулевая будет и по01:29:51
остальным шумовым признаком но там бог01:29:54
ничего красиво не будет это все скажется01:29:56
в числах на приросте информации и дерево01:29:59
решений в данном случае будет выглядеть01:30:01
просто как пенек если f101:30:05
ну по сути зависит а если f1 to y в01:30:09
противном случае y равно нулю то есть01:30:13
такой искусный примерчик для дерева01:30:14
решения и он очень прост а вот метод01:30:16
ближайшие соседи он пострадает от такого01:30:19
большого числа шумовых признаков то01:30:21
здесь везде будет считаться по крайней01:30:23
мере если мы остановимся только на01:30:25
евклида метрики по умолчанию то да у нас01:30:29
здесь будет разница между двумя01:30:32
объектами по первому признаку01:30:36
квадрат этой разности и дальше к нему01:30:38
добавить куча мусора который нам01:30:39
картинку то испортите и метод ближайших01:30:42
соседей вот с таким простым пример чекам01:30:44
не справится так и последняя такая01:30:55
коряво картинка потом практике перейдем01:30:58
в целом алгоритмы классификации довольно01:31:02
хорошо можно поделить на 3 семейства01:31:08
метрические методы это метод ближайших01:31:13
соседей но и не только здесь будут в общем так01:31:17
мы можем как-то поменять метрику01:31:19
сходство и и все от это изменится ну01:31:24
например тут появится еще такая штука01:31:26
как ядра мы про них подробно не будем01:31:29
говорить но по сути все что поменялось01:31:30
это только то как мы определяем сходство01:31:32
двух объектов вот это можно сделать01:31:34
довольно красиво математичка01:31:37
но допустим мы можем сравнить какие-то01:31:41
сложные структуры на входе какие-то01:31:43
графы помеченные графы ну вот что-то01:31:46
сложные рисую мы попросту можем ответить01:31:50
на вопрос как нам считать сходство этих01:31:52
двух объектов например по общему числу01:31:54
под графов я как-то сложным образом01:31:56
задам вот эту функцию расстояние между01:31:59
объектами и тогда я могу это пацан01:32:02
подсунуть попросту даже в кнр и это даже01:32:05
действительно работает то есть01:32:07
токсичность изучают на входе граф01:32:10
молекулярный на выходе его свойства там01:32:12
бинарным допустим токсичен нетоксичен01:32:14
я попросту расстояния задаю как-то уже01:32:18
может быть сложно неким ведром но поскольку это я01:32:21
расставил по сути только01:32:23
задал то это будет метрический метод все01:32:27
это вообще большое семейство метрический01:32:30
плюс вот я дрова методы потом будет01:32:34
целое семейство методов но на жаргоне01:32:37
деревянные но в общем-то основанный на01:32:39
деревьях деревья плюс ну можно попросту01:32:45
написать плюс busting и случайный лес но01:32:48
на самом деле деревьев тоже куча-куча01:32:50
самых разных это тоже отдельное01:32:53
семейство01:32:54
и линейные методы мы будем говорить про01:33:00
плюсы и минусы всех трех семейств но01:33:04
первое что можно посоветовать это взять01:33:06
из каждого семейства по представителю01:33:08
метод ближайших соседей дерево решений и01:33:11
там для классификации это логистическая01:33:13
регрессия про который будем говорить и01:33:15
все три01:33:16
попробовать на наших данных у них всех01:33:19
свои требования к входным данным вот01:33:21
масштабирование там выбросы01:33:23
они все хороши там по-разному в разных01:33:26
условиях как мы видели и увидим но как01:33:29
минимум можно их все проверить вот01:33:32
логистической регрессии уже в общем01:33:33
большом числе там очень часто в боевых01:33:36
систем их уже применяется но и деревья01:33:39
решений внутри лесов и бустинга конечно01:33:43
же тоже давайте перерыв на этом сделаем01:33:49
и потом перейдем к практике и к01:33:51
обсуждению проектов01:45:54
так коллеги продолжим сейчас давайте в01:45:59
то что мы обсудили01:46:00
сделаем в ходе познакомимся с01:46:03
библиотекой со kettler01:46:04
одно из самых популярных питон библиотек01:46:07
машины обучения и конкретно посмотрим01:46:10
реализацию деревьев решений методы01:46:13
ближайших соседей и сравним их на01:46:15
каком-то наборе данных статья можно01:46:18
посмотреть как это для цифр делается01:46:19
сейчас все таки я выберу01:46:22
побыстрее вариант на данных по оттоку мы01:46:26
посмотрим какое дерево построиться чуть01:46:29
его настроим и собственно что она01:46:32
прогнозирует но и мы pandas изучали01:46:37
отнюдь не зря то есть мы все пред01:46:40
обработка пока у нас будет в панда сито01:46:43
есть также точно мы из леса и файликов01:46:46
пока будем наши данные считывать нам01:46:52
понадобится pandas мы что то возможно01:47:00
будем рисовать01:47:01
тогда я импортируем и понадобится01:47:05
библиотека из колес этот сокращенно есть01:47:08
от socket лет из-за гитлер01:47:13
3 мы импортируем где сезон 3 классе есть01:47:19
еще регрессор01:47:20
сейчас мы не обсуждали но в статье01:47:21
рассматривается как работает дерево01:47:23
решений и для регрессии дальше все01:47:30
больше то знакома01:47:32
первичная часть когда мы сочетаем данные01:47:34
можем немного на них посмотреть вот01:47:37
сейчас дойдем до построение дерева01:47:40
но как раз обсудим от это разбиение01:47:42
выборки на чем собственно дерево01:47:43
обучать данные мы считываем целиком черн01:47:51
минимальная предобработки нам01:47:53
понадобится01:47:56
пока мы штат вообще выкинем потом мы01:47:59
будем обсуждать как работать с01:48:00
категориальными признаками и мы01:48:03
международный роуминг и голосовой 8 mile01:48:10
план давайте войск mail план мой вообще01:48:12
выкинем так все признак мы там еще01:48:17
видели что начисление у нас лишние01:48:19
признаки ну ладно сейчас давайте не01:48:20
увлекаться привет обработкой давайте01:48:24
самый минимум сделаю при предобработки01:48:26
вот вся kettler на чтобы обучать модели01:48:30
нам нужно их все перевести и в числа то01:48:33
есть мы отдельно поговорим про текст и01:48:35
что с ними делать сейчас давайте все01:48:38
признаки оставим числовыми то есть мы01:48:43
выкинем признаки штат голосовые01:48:51
сообщения от01:48:52
подключены причина или или нет и можно01:48:55
что то еще но то что у нас тут признаки01:49:00
пропорциональны скажем начисления01:49:03
вечерний и там проговорены минуту01:49:06
вечерника очень для деревьев решений это01:49:08
не так страшно что при знаки дублируются01:49:13
так мы удалим вот два признака указываем01:49:16
что это именно с столбцы и указываем что01:49:19
исходный dataframe должен поменяться01:49:21
in place i равно труп и у нас останется01:49:24
еще хороший признак подключение01:49:27
международной роуминга вот его мы01:49:28
переведем известного в один или ноль по01:49:34
разным от можно делать но допустим я01:49:36
сделаю вот так с помощью map и я передаю01:49:43
словарь который с превращает в один но у01:49:54
превращают в 001:49:57
тут конечно может возникнуть вопрос а01:49:59
что если там попадется что-то еще не01:50:01
есть на какой-то третий вариант но01:50:04
сейчас мы знаем что его не будет вообще01:50:06
для этого тоже конечно в том же сайте01:50:08
черных специальные методы есть и в общем01:50:13
то сейчас если посмотреть допустим на01:50:16
инфо то мы увидим что все признаки уже01:50:20
численные и булевые признак у нас01:50:24
целевой charm01:50:26
но чем остальные уже от строков01:50:28
признаков мы избавились дальше что01:50:32
стандартно делают это выделяют целевой01:50:35
признак y ног y это просто популярное01:50:39
обозначение это наш целевой01:50:41
чарр его мы приведем к типу int01:50:45
это в принципе не обязательно но пусть01:50:47
тоже там будут нули и единички и тогда01:50:52
матрица x это будет все остальное мы01:51:00
признак черн просто выкинем вот эта01:51:02
целевой размерности проверим x y везде01:51:14
под 3333 объекта и в матрицы x у нас 1701:51:18
признаков дальше мы их хотим разбить на01:51:25
две подвыборки вот те самые 70 процентов01:51:28
и 30 давайте так и будет это делает01:51:32
метод01:51:34
из с колен модал selection вот это01:51:37
вообще большая-большая модуль всяких01:51:41
корнем отдал selection в том числе здесь01:51:44
метод v-train тест сплит но01:51:47
действительно он в каком смысле помогает01:51:49
в выборе модели модал selection01:51:51
потому что вот помощью это сплита мы01:51:53
посмотрим что где лучше работает деревья01:51:59
решение посмотрим метод ближайших01:52:00
соседей и дерево решений настроим тренд01:52:05
с сплит когда видите новый метод можете01:52:07
вот так вот посмотреть его документацию01:52:10
сейчас понятно неохота давайте покажу01:52:13
как он работает он берет наши два01:52:18
объекта достаточно и один на мой сразу01:52:20
сплитить будем и матрицу x и вектор01:52:23
ответов y и берет он аргумент каков01:52:27
будет размер в тестовой выборке ну01:52:30
точнее это доля 30 процентов по01:52:35
умолчанию он как раз шов лет но01:52:38
поскольку это можно сделать разными01:52:39
способами здесь для воспроизводимости01:52:42
лучше зафиксировать брендом стоит это01:52:44
тот самый сид если два раза выполнил этот кусок01:52:48
кода он нам гарантировать что попросту01:52:50
разбиение пройдет одинаково и вернет он01:52:54
4 объекта он матрицу x r забьет на две01:52:56
части и вектор y тоже разобьет на два01:53:02
вектора01:53:12
дальше можно и у них посмотреть на01:53:14
размерность но одна треть от трех сот01:53:20
3338 здесь будет 1000 объектов в от01:53:24
ложной часть 1000 вот я ее назвал01:53:27
вылитый шин и 2333 вот на этом будем01:53:30
обучаться и давайте создадим первый наш01:53:38
объект вот этот бисерин track is fair01:53:40
можно его назвать первое дерево это01:53:44
будет попросту 10 жена 3 класс fair01:53:47
конструктор то есть создаем экземпляр ну01:53:51
правда здесь есть место тоже случайности01:53:54
вот на практике возможны в общем это не01:54:00
не настолько детерминированный алгоритм01:54:02
как в теории выглядит ирэн нам стоит01:54:03
лучше тоже для воспроизводимости01:54:05
фиксировать когда признаков много мы01:54:08
будем смотреть не на все признаки оно01:54:10
какое-то подмножество01:54:11
то есть вот здесь случайность ну кажется01:54:15
еще там случайность в том как пропуске01:54:17
обрабатывать нашим брендом стоит лучше01:54:20
фиксировать01:54:22
пока мы просто создали экземплярах еще01:54:24
никакого обучения не происходило и01:54:29
давайте мы посмотрим на качество на01:54:32
консультации вот как это дерево будет01:54:34
работать на нашей части обучающей01:54:37
выборке вот на 70 процентов01:54:39
отсюда же из modules легче нам01:54:41
пригодится функция crosswalk score то01:54:47
есть качество на кросс валидации и вот01:54:51
как раз она нам вернет давайте посмотрим01:54:54
что вернет как раз качество какие доли01:55:00
верных ответов мы получили на01:55:01
консолидации смотрите она берет эстимейт01:55:06
это наша модель01:55:07
мы сюда дерево передадим передадим01:55:10
выборку x и y скоренко это как мы01:55:15
оценивать модель бы это по умолчанию01:55:17
долю верных ответов cevita кросс01:55:19
валидация то есть тупая вот это к01:55:22
сколько файлов01:55:24
это можно распараллелить по процессам01:55:26
давайте здесь укажем только что мы01:55:30
используем первое вот это наше дерево и01:55:34
консультацию будем проводить вот на01:55:36
выборке x train y train вот на этих 70 процентов01:55:40
кросс валидация пусть пятикратный будет01:55:44
выполняю все это делается очень быстро01:55:47
получил пять чисел и вы понимаете уже01:55:51
что произошло пять раз вот это дерево01:55:54
обучилась на 80 процентов данных и цифры01:55:58
которые мы получили это доля верных01:56:00
ответов на 20 процентов данных и пять01:56:03
раз эти 20 процентов выборки01:56:05
разные на пять цифр смотреть не всегда01:56:13
удобно хотя желательно желательно01:56:16
проверить что у нас цифры примерно такие01:56:19
одинаковые что у нас нигде ни на какой01:56:20
из подвыборок нету какого-то резкого01:56:22
провала если этот провал есть то что то там с01:56:25
данными01:56:26
не так это либо выбросы очень там надо01:56:29
уже скорее глазами смотреть почему там01:56:30
качество проседает но это редко01:56:33
случается как правило вот картина01:56:36
примерно такая будет но обычно я еще в01:56:40
самом начале импортирую нам пай и тогда01:56:45
считаю просто среднюю долю верных01:56:46
ответов на консультации то есть здесь01:56:49
попросту среднее можно округлить еще но01:56:54
ладно мы видим что номер медиана нам01:56:58
здесь не обязательно нас такого разброса01:57:00
уж нету здесь медиана будет но по сути01:57:02
такая же как среднее и в принципе если01:57:08
так одной цифры охарактеризовать как01:57:10
модель сработала то пожалуй это будет01:57:12
именно среднее качество на кросс01:57:14
валидации но это мы пока не настраивали01:57:18
параметры теперь можно посмотреть на01:57:21
этот класс что там по умолчанию по01:57:25
умолчанию критерий немного другой джинни01:57:31
это типа прироста информации только01:57:33
немного по-другому считается тоже за ним01:57:35
своей идее есть максимально глубина ведь01:57:38
она по умолчанию не ограничивается то01:57:40
есть дерево это построено до01:57:42
максимальной глубины ну и возможно мы01:57:46
модель нашу сможем улучшить тут есть еще01:57:49
самые разные аргументы именно класса01:57:55
бисерин track 8 по мере необходимости01:57:58
какие-то из них будут преграждать01:58:03
хорошо давайте теперь посмотрим на этот01:58:08
бюджет соседей это из с колен neighbors01:58:11
мы импортируем01:58:13
кей neighbors сквозь файл и тоже создаем01:58:18
экземпляр класса кнн давайте посмотрим01:58:25
какие гипер параметр какие аргументы он01:58:27
нам предлагают здесь прежде всего это01:58:30
число ближайших соседей и можно задать01:58:33
vesa вот по умолчанию все ближайшие соседи01:58:37
голосуют с одинаковым весом и дальше уже01:58:40
не так важно дальше можно в принципе по01:58:46
умолчанию оставлять аргументы01:58:48
давайте сделаем то же самое то есть01:58:50
посчитаем среднюю долю верных ответов на01:58:53
консультации уже для канон да но здесь01:58:59
это будет быстро так давайте дамы01:59:02
экземпляры все-таки созданием first01:59:06
first н.н.01:59:07
но и мы увидим 0 8 6 то есть вроде бы01:59:14
сильно ниже процент но сразу так01:59:17
заявлять что метод бежать соседи здесь01:59:20
будет хуже дерево это еще рано по01:59:23
хорошим нам надо настроить на01:59:25
консультации и то и другое и гипер01:59:28
параметры дерева и гипер параметры01:59:30
метода ближайших соседей ну тогда уже01:59:33
сказать убедиться что действительно01:59:36
дерево здесь работал лучше давайте мы01:59:40
подберем сначала гипер параметры дерево01:59:44
решений максимальную глубину01:59:48
то есть тут я напишу что мы настраиваем01:59:55
максимальную глубину для дерева так и02:00:04
горячей клавиши я не знаю для того чтобы02:00:06
сменить тип клетки один момент хорошо02:00:13
значит у нас задача теперь настроить02:00:15
параметры то есть как-то сравнить02:00:17
несколько моделей выбрать лучшую02:00:20
и в модели в мы будем менять только вы02:00:21
максимально глубину ну благо вручную это02:00:26
не обязательно делать хотя мы тоже будем02:00:29
строить такие графики то есть чисто в02:00:31
цикле по перебирали глубину дерева и02:00:33
построили как вот качество менялась это02:00:36
тоже будет полезно но пока давайте02:00:38
воспользуемся более менее автоматическим02:00:41
средством горит все семьи будет делать02:00:47
довольно таки тупой поиска по решетке02:00:49
горит эта решетка search значит мы ищем02:00:52
хороший гипер параметры sea view the02:00:54
cross валидация решетка на нас все02:00:59
представить и несколько параметров гипер02:01:02
параметров у каждого перебираем02:01:03
несколько значений все комбинации это02:01:05
будет декартова произведения то есть это02:01:06
можно нарисовать решетки она может быть02:01:08
верной но эта решетка и мы вот так вот02:01:11
тупо идем по всем сочетанием всех02:01:14
гипер параметров считаем качественно02:01:16
консультации и можете догадаться что это02:01:19
в реальности весьма тяжеловесно сейчас02:01:22
мы это сделаем мы создадим объект02:01:27
говорить о что давайте посмотрим что он02:01:31
принимает он принимает модель которую мы02:01:35
будем настраивать парам upgrade это02:01:38
сейчас мы создадим это словарик в02:01:40
котором мы скажем какие значения02:01:41
перебирать и дальше тоже параметры кросс02:01:47
валидации распараллелить это дело можно02:01:50
но сейчас главное я укажу что имеет02:01:56
смысл передать в грехе частями02:01:58
мы зададим словарик02:02:02
параметр в дерево которое мы перебираем02:02:04
мы перебирать будем только максимальную02:02:06
глубину и скажем что будем это делать в02:02:10
диапазоне но дальше опыт здравый смысл02:02:13
все такое в каком диапазоне лучше эту02:02:15
глубину перебирать случае дерева и вот02:02:19
сейчас такой не большой выборке это02:02:21
будет все очень быстро и можно себе02:02:24
позволить по перебирать в диапазоне от одного02:02:28
скажем до десяти и раньше там включается02:02:34
или правая граница кажется что нет ну да02:02:36
это до 10 вот то есть мы создали такой02:02:41
словарик если бы мы здесь перебирали еще02:02:44
какой-то02:02:46
гипер параметр мы тоже его указали до02:02:52
перебирать гречку будет все сочетания в02:02:56
данном случае это всего лишь как цикл по02:02:59
максимально глубине02:03:01
но если мы сюда передадим еще вот это02:03:05
сейчас давать более осмысленная что02:03:07
стоит перебирать максимальное число02:03:09
признаков по которому делать сплит02:03:11
то есть когда признаков много не факт02:03:14
что нам стоит перебирать все все все02:03:16
давайте возьмем там скажем 05 07 или02:03:22
единицу и вот в таком случае уже вот02:03:25
будет декарта президент действительно02:03:27
решетка то есть все сочетания02:03:29
10 вот этих глубин и 3 сочетание02:03:31
параметр здесь будет уже 30 сочетание02:03:35
параметров02:03:36
здесь будет просто единиц ну хотя02:03:43
давайте так и оставим не так02:03:46
принципиально02:03:49
наиболее понятным средством борьбы вот02:03:52
здесь переобучение будет максимальная02:03:54
глубина дерева и тогда мы создадим02:03:58
экземпляр02:04:00
3y давайте я назову перебор по решетке02:04:04
для дерева мы в него передадим02:04:05
прямо-таки объект вот first three02:04:07
словарь параметров по которым он будет02:04:10
гулять параметры консультация пусть02:04:12
пятикратно есть02:04:14
есть лучше уже раз параллели типа02:04:16
процесса по процессорам но минус один02:04:21
это задействовать все ядра в моем случае02:04:23
81 будет за действия ускорение будет02:04:26
конечно не восемь раз то есть там с02:04:28
питоном все печально но раза в 2 с02:04:31
половиной можно надеяться и я создаю вот этот02:04:35
объект пока ничего не произошло02:04:38
впечатление начинаются тогда когда я02:04:40
перед передам туда данные и в soccer02:04:43
довольно общий такой интерфейс методы02:04:46
fit i predict они для очень большого02:04:48
класса объектов реализованы в том числе02:04:51
и для вот это поиска по решетке то есть02:04:55
я ему передаю02:04:56
теперь выборку x train y train и вот02:05:01
теперь когда я запущу пойдет кросс02:05:04
валидация здесь уже в реальном случае02:05:08
лучше время замерять как быстро это02:05:11
выполняется можно здесь параметрам verbo02:05:13
us поиграться то есть чтобы он больше02:05:14
печатал во время выполнения вот но в02:05:19
случае с деревом это все будет очень02:05:20
быстро вот меньше чем за секунду он02:05:25
перебрал вот эти 30 сочетание параметров02:05:27
для дерева вот тут он много всего пишут02:05:32
ну да что он не слушается если точку ,02:05:34
он все равно это печатает ну ладно02:05:36
хорошо и что у нас появилась у нас02:05:39
появился вот этот обученный объект 3y он02:05:42
провел кросс валидацию и теперь у него02:05:46
что то лучше нора появилась если02:05:49
написать by и нажать tab тонн подскажет02:05:54
что там появилось лучше появилась лучшее02:05:58
сочетание параметров лучшие качества на02:06:00
кросс валидация яндекс не знал что такое02:06:03
и без tasty метро это будет лучше модель02:06:07
то есть это дерево решение которое02:06:08
обычно уже на всей выборки с лучшими02:06:10
параметрами посмотрим на лучшее качество02:06:13
на консультацию же она почти 9402:06:16
процентов ползет и лучшее сочетание02:06:19
параметров сейчас мы увидим конкретно02:06:24
максимальную глубину и02:06:28
а летом число признаков которые02:06:29
использовать до глубина дерева 602:06:32
максимально число признаков лучшим02:06:35
оказалось 07 тут еще можно конечно это02:06:39
все дело нарисовать можно даже китай02:06:41
птичка качество от этого зависела можно02:06:42
преследовать насколько дерево там02:06:44
чувствительна к гипер параметрам но как02:06:46
правило мы в реале боевая задача не02:06:48
будем так что этим играться это02:06:50
увлекательно но мы скорее прикладную02:06:52
задачу что вот то есть но хотя бы мы02:06:55
видим что 94 процента на консультацию02:06:57
это уже отличается 1 из 1 102:07:00
и давайте то же самое проделаем для кнн02:07:05
вдруг он там02:07:07
выстрелит то есть вдруг02:07:09
5 ближайший сосед было прям совсем плохо02:07:12
и вдруг на сотни ближайшие соседи он там02:07:13
стрелял в принципе мы будем делать то же02:07:17
самое давайте даже скопирую так клетки02:07:22
можно прямо все выделить и скопировать и02:07:24
все вставить ну копипаста это конечно не02:07:27
очень здорово но давайте я где надо02:07:31
сообщил что менять мы теперь создаем02:07:33
объект02:07:35
кнр grid это тоже будет греть о тебе и02:07:41
передаем ему вот тот самый конец и сюда02:07:49
передадим список параметров которые мы02:07:52
меняем уже у кайли02:07:54
а здесь будем менять только число02:07:59
ближайших соседей называется аргумент02:08:04
and members и мы его поменяем в02:08:08
диапазоне но это хорошего просто на02:08:11
самом деле может оказаться что хорошо02:08:14
работает и метод 1 ближайший соседа или02:08:16
2 может оказаться что наоборот крайне за02:08:20
другая то есть но в начале когда вы не02:08:22
знать какие диапазоны перебирать лучше02:08:24
взять широкий диапазон понятно что мы02:08:27
сейчас не захотим уже с шагом от 1 до02:08:29
10002:08:30
сто раз консультаций проводить может02:08:32
быть и захотим а может быть это и долго02:08:34
будет давайте мы посмотрим на какие-то02:08:36
маленькие значения параметров и на02:08:40
большие02:08:42
тут давайте я обычный раньше и еще я от02:08:47
50 до 100 прогуляюсь с шагом 1002:08:50
мне кажется в третьем питоне это точно02:08:54
не помню на всякий случай лучше явно к02:08:55
списку это приведем и тогда мы передадим02:09:01
сюда и параметры кнн консультант пусть02:09:05
тоже будет пятикратно вот здесь он не02:09:11
буду прогнозировать02:09:12
насколько долго но на более менее уже02:09:16
нет не игрушечной выборки канада здесь02:09:19
может работать уже быстрее наоборот02:09:20
дольше то есть с большим числом02:09:22
ближайших соседей уже это будет не02:09:24
настолько быстро как хотелось бы но дать02:09:26
посмотрим так soria не тут меня теперь02:09:32
мы обучаем cain and greet ну уже пять02:09:43
секунд он обучался давайте теперь тоже02:09:45
самое у него посмотрим лучшее сочетание02:09:48
гипер параметров и лучше качество но вот02:09:52
здесь как раз таки не очень приятная02:09:54
ситуация когда мы получили что лучше02:09:56
значение 4 она где-то на границе того02:10:00
что мы перебирали ну здесь можно02:10:02
запустить на самом деле второй поиск и02:10:05
при параметров смотрите от чего я хочу02:10:09
предостеречь что мы вот сейчас по02:10:11
перебирали депре параметры вот здесь02:10:13
число соседей от одного до четырех и02:10:15
потом большие значения02:10:17
а может быть мы здесь в промежутке02:10:19
упустили что-то может быть оптимально02:10:21
там 10 15 вот здесь можно02:10:23
скорректировать но в данном случае мы02:10:25
можем просто еще раз прогнать грязь но02:10:31
вообще лучше это расписать как именно 202:10:34
грехе что мы увидели что первый нам02:10:36
выдал вот такое значение на границе и02:10:39
давайте тогда мы еще переберём от 5 до02:10:43
30 с шагом 5 вот и даже пока мы02:10:50
закомментируем тут будем считать что мы02:10:51
знаем что там ловить нечего02:10:54
так лист да винчи02:11:07
давно и здесь получили в районе 10 уже02:11:10
это намного лучше это где-то посреди02:11:13
перебираем его диапазона еще дальше в02:11:16
принципе если помучиться можно в районе02:11:18
10 по перебирать а вдруг 9 лучше но мы02:11:21
сделаем сейчас вывод уже что здесь на02:11:22
этих данных02:11:24
лучше работают дерево решений до уже02:11:28
проверили сказали что 9 соседи лучше чем02:11:31
10 но это уже частности хорошо мы дерево02:11:34
тогда выбираем между как минимум между02:11:39
деревом и методом ближайшие семьи мы02:11:41
здесь возьмем дерево тогда давайте для02:11:45
него посчитаем оценку на отложенные02:11:46
выборки недаром мы ее отложили то есть у02:11:50
нас есть объект 3 grid в принципе в нём02:11:55
сидит как раз вот эта и страстеметр02:11:56
лучше дерево все это как раз таки одессе02:11:59
внутри crossfire с лучшими параметрами02:12:02
глубина 6 70 процентов признаков02:12:05
используется и более того это дерево уже02:12:07
обучена на всей выборки на консультации02:12:10
смотрите там было 2333 объектом и02:12:14
пятикратную консультацию проводили это02:12:16
на 08 надо множить еще то есть плюс02:12:18
минус на двух тысячах 1900 объектов но02:12:21
здесь уже он обучился на всех 233302:12:25
объектов и собственный готов делать02:12:29
прогноз для отложены выборки прогноз02:12:32
делается методом predict и сюда передаем02:12:38
выборку02:12:39
в данном случае вот отложен вылет я ее02:12:42
назвал expelled на себя просто выполню02:12:44
то ведь это будет список из нулей и02:12:47
единиц этот наш прогноз можно его02:12:50
назвать02:12:51
прогноз дерево на отложенной выборки и02:12:56
теперь мне интересно тогда качества как02:13:02
все-таки дерево работает на отложено02:13:04
выборки но в случае доля верных ответов02:13:10
кажется это можно делать даже вот так02:13:12
или нет лучше лучше явно метрика который02:13:17
нас интересует02:13:19
да забыл y02:13:22
да действительно чтоб оценить нам нужен02:13:24
ещё y да и над ложным и 93 6 процента02:13:30
получаем вообще лучше явно импортировать02:13:33
из скалярных metrics лучше явно показать02:13:36
какую метрику мы считаем или ну да в02:13:38
методе скоро это тоже аргумента можно02:13:40
передать но если нам нужно именно02:13:43
метрика мало ли мы там ее поменяем лучше02:13:46
явно им и красив скоро импортировать это02:13:49
и есть доля верных ответов02:13:51
и тогда мы почитаем вдоль верных ответов02:13:53
между реальными метками на отложенные02:13:56
выборки и нашими прогнозами и вот те же02:14:02
самые диас 36 процентов получаем от02:14:05
ложной выборки чуть ниже чем на02:14:07
консультации но благо02:14:10
кажется что не сильно то есть там в02:14:12
пределах погрешности настройки02:14:14
параметров можно сказать что мы на новой02:14:18
выборки для новых клиентов которые к нам02:14:21
придут вот желательно из этого02:14:22
распределения то чтобы там сильно что-то02:14:24
не поменялось нежелательно обязательно02:14:27
на самом деле вот нам ожидаем вот такое02:14:29
качество модели что будет угадывать вот02:14:33
столько хорошо это или нет самый02:14:40
примитивный bass line с которым надо02:14:42
сравнивать вообще на на здравый смысл02:14:44
это посмотреть на долю на долю хороших02:14:47
клиентов в от ложной выборки то есть нас02:14:53
в 85 процентов в клиент вообще в нашей02:14:55
выборке хорошие получаться если так уж02:15:00
совсем примитивные bass line сделают02:15:02
модель который всегда прогнозирует что02:15:04
клиент хороший у нее будет вот такая02:15:07
доля верных ответов 85 процентов но надо02:15:10
хотя бы вот на этом такой сцене течет02:15:14
сделать что хотя бы превышает вот такой02:15:15
бой знаем но мы видим что с запасом02:15:20
дальше на практике еще берутся какие-то02:15:22
экспертные правила которые нам это02:15:24
человек занимающийся током вот он нам02:15:26
сказал вот смотри сюда сюда тоже это02:15:28
будет там два логических правила их02:15:30
можно вручную зашить это будет в листики02:15:32
посмотреть как они работают на пример02:15:34
такой в статье я приводил что если мы не02:15:38
знаю машинном обучении данные покрутим02:15:40
по верхнему картинки построим но немного02:15:42
мы эту цифру повысим но возможно не так02:15:44
сильно скажем до 87 процентов но дерево02:15:47
решений нам качество повышает но02:15:49
все-таки02:15:50
значительно давайте теперь собственно02:15:58
последнее что перед практикой мы сделаем02:16:00
это это дерево02:16:02
нарисую тут я скажу из кто-то виндой02:16:08
сейчас будет страдать с отрисовкой02:16:09
деревьев но я в общем потом помогу там02:16:12
могут быть проблемы давайте я напишу02:16:16
дерево у себя посмотрим как она выглядит02:16:19
для прессовки деревьев оттуда же из02:16:22
скалярно 302:16:24
я импортирую вот такой метод экспорт02:16:28
графику то есть попросту soccer он сам02:16:30
деревне рисует он их экспортирует формат02:16:34
dot и дальше граф визам их можно02:16:36
открывать02:16:39
работает это вот таким образом я беру02:16:43
где у нас лучше а дерево сидит она сидит02:16:46
у нас вот здесь без тасс тиммейтов02:16:50
давайте посмотрим что у него вообще есть02:16:54
да он подсказывает как-то перевести в02:16:56
тот формат и он берет дерево решений02:16:58
файлик на выходе может его ограничить по02:17:01
глубине и признаки мы тоже можем02:17:04
подписать еще как-то там раскрасить02:17:07
можно field02:17:08
давайте я возьму наше дерево файлик на02:17:13
выходе это будет скажем целиком 3 и это02:17:19
будет тот файл02:17:27
фичер02:17:28
фича names в дереве конечно хорошо бы02:17:34
смотреть не на индексы признаков а чтобы02:17:36
они были подписаны красиво вот для там02:17:38
мы передаем вечерний мтс но с ними все02:17:41
просто они у нас сидели все ли просто02:17:46
до в исходной матрицы x это по сути то у02:17:50
нас дат фрейм у нас есть название02:17:53
признаков вот их-то мы и передаем но еще02:17:59
сами вершины можно будет по раскрашивать02:18:03
это вот ещё один аргумент и все что он02:18:06
сделал он перевел это дерево в некий02:18:09
формат dot но его дальше можно02:18:11
софтиной открыть graphviz она02:18:13
довольно-таки тяжеловесно можно с02:18:16
расширением пойдут его перевести формат02:18:18
картинок уже png02:18:20
ну то есть смотрите если есть тут02:18:23
отображу все что нас есть вот здесь02:18:25
появился этот файлик появился или нет ну02:18:33
да вот он лежит целиком 3 dot теперь я02:18:36
его перевожу но одно заклинание вроде02:18:39
как я вы даже запомнила вроде нет но вот02:18:41
он подсказывает как в png формат02:18:42
переводить это правда если установлена02:18:45
пойдут утилитка короче в визуализация02:18:47
деревьев питон ару проигрывает то есть02:18:50
это не так юзер френдли но привыкнуть к02:18:53
этому можно команды в терминале то есть02:18:57
я начинаю простительно знака и вот этот02:19:01
файлик он мне переведет в png формат и02:19:08
вот картинку нас появилась дальше я ее02:19:12
отображаю02:19:19
отображать можно есть средства мира и02:19:21
python но точно the html тег для этого02:19:24
тоже легко запомнить им же сердце и вот02:19:28
этот файлик мы рисуем не файлика02:19:33
картинку мы просто отображаем в тетрадке02:19:39
красиво или нет не очень наверное у png02:19:46
у нас рядом лежит02:19:47
это смотрите дерево на консультации мы02:19:50
его построили глубины 6 как раз для02:19:53
этого здесь еще есть аргумент mакс df02:19:55
именно в визуализации да то есть это уже02:19:57
готовое дерево он просто его нарисует02:20:02
нарисует не полностью так можно сам png02:20:12
файлик открыть давайте я все-таки02:20:17
что сейчас сделаю я обучу дерево глубины02:20:24
3 вот мы на него посмотрим явно задам02:20:31
максимально глубину 3 и можно прямо так02:20:33
вот в виде pipeline а его сразу обучить02:20:39
можно даже посмотреть как оно сработает02:20:42
на отложенной выборки сработает она чуть02:20:51
хуже около 90 процентов будет но давайте02:20:53
на него посмотрим на вот это второе02:20:56
дерево и вот сюда его передам давайте02:21:02
попусту на двоечка я поменял02:21:16
do not02:21:18
но это уже можно смотреть поэтому дерево02:21:22
уже можно прогуляться что она нам рисует02:21:27
во-первых первый признак по которым02:21:29
прошло разбиение02:21:30
начисление дневных total дейч02:21:35
дневные начисления сравняться с порогом02:21:38
45 у.е.02:21:39
но видимо баксы вначале у нас было две02:21:43
тысячи триста тридцать три объекта02:21:44
соотношение класса была 1983 350 350 это02:21:49
плохих клиентов 1983 хороших сама клетка02:21:54
оранжевая по преобладанию вот именно02:21:56
хороший клиент в начале джинни был 002502:22:03
50 g не отдельно не обсуждали это тоже02:22:06
такой же точно02:22:08
информационных критерий не такой уж02:22:10
точно идея его точно такая же выбирать02:22:12
хорош признаки это же 0 говорит о02:22:16
порядке и в положительно значения02:22:18
беспорядки на то есть мы это величина02:22:21
будем уменьшать в принципе вот на02:22:24
практике даже не надо перебирать джинни02:22:27
или02:22:28
или прирост информация то есть по02:22:30
умолчанию g не достаточно хорошо02:22:33
работает и на консультации там02:22:35
перебирать либо джинни либо что то еще02:22:37
можно это и не делать вот его видим у02:22:41
нас пошел сплит по первому признаку02:22:44
дальше там подключились другие признаки02:22:48
вот как раз звонки в колл-центр тоже был02:22:51
хорошим вот он сравниться с порогом и02:22:53
так далее потом мы придем уже в листья в02:22:57
листьях он нам пишет соотношение классов02:22:59
там тоже тоже тоже джинни и число02:23:03
примеров вот скажем синяя вершинка здесь02:23:06
видите мы довольно хорошо выделили02:23:08
плохих клиентов то есть тут 9 хороших и02:23:11
67 плохих то есть придет новый человек02:23:15
если у него мало дневных начислений02:23:20
если он много звонит в колл-центр да еще02:23:25
и на самом деле это проверка пошла по02:23:29
тому же при02:23:30
признаку мы это проверяли что они по02:23:33
сути одно и то же минут приговоренные02:23:35
днем и начисления это уже джонни здесь02:23:39
вот в этой подгруппе когда мы02:23:42
раз отделили 2 отделили то вот в этой02:23:44
подгруппе джинни вот такой вот домашнее02:23:48
задание как раз будет анапа регрессии02:23:51
правда в статье посмотрите как дерево02:23:54
решений для регрессе адаптируются но кто02:23:57
захочет посмотрите предыдущую версию02:23:59
этого 3 домашнее задание там вот02:24:00
детально разбираться как дерево решение02:24:02
строится на игрушечном примере и как там02:24:05
работают жене и прироста информации вот02:24:07
и здесь получаем уже да мы выделили лист02:24:10
вот при таких условиях у нас видеть02:24:13
намного чаще клиенты плохие02:24:24
так и я еще вам обещал02:24:28
проекты наверное зря обещал полчаса как02:24:32
раз на практику давайте в общих чертах02:24:36
только опишу02:24:38
проект у нас примерно до 8 ноября но там02:24:42
лежит делаю решим чтобы все дедлайны02:24:45
пришлись на один день но зная вот pandas02:24:50
и визуализацию может сделать первые02:24:52
четыре пункта это вы сначала описывается02:24:54
описывать свою задачу во первых что вы02:24:57
решаете проект заточен под классификацию02:25:00
ли регрессию но дать я буду02:25:01
коментировать на примере вот как раз02:25:02
оттока клиентов02:25:03
тут вы описываете что задача только02:25:05
клиентов она важна там как бизнес-задач02:25:07
а вот мы получили какие-то данные если02:25:10
это ваше собственное вы можете описать02:25:11
как вы их получили как что сам02:25:15
интересный коктейлей признак считается02:25:16
вот именно отток и ну желательно на02:25:20
хорошем русском там описать что за02:25:22
признаками стоит то есть не просто тоске02:25:24
глаз к постели там признаки так на02:25:26
английском и оставили желательно все02:25:28
таки расписать что за ними стоит какой02:25:30
смысл может быть даже ваше предположение02:25:32
что должно сработать02:25:33
что вам там сосед эксперт сказал что02:25:36
должно сработать вот дальше вы это02:25:38
смотрите первичный анализ признаков то02:25:40
что мы делали с пандусом seabourn02:25:42
matplotlib поторопился на первичный02:25:47
анализ а потом просто спада сам02:25:48
первичный визуальный это уже картинки02:25:50
может быть это вместе будет перемешано02:25:52
но вы строите картинки причем не просто02:25:55
так а который возможно вам помогут вы02:25:58
должны иметь какой-то интуицию что вас02:26:00
должно сработать если у вас признаков02:26:04
много чуть-чуть подождите когда будем02:26:06
обсуждать там случайно лес оценка02:26:08
важности признаков вот сюда лучше02:26:10
вставить чтобы понять вообще на какие02:26:12
признаки лучше обращать внимание не02:26:14
только за счет интуиции но и за счет02:26:15
модели которые как-то признаки от02:26:17
ранжирует по важности самое интересно02:26:21
пожалуй это вот все что вы нашли02:26:23
закономерности вот эти инсайты02:26:24
особенности как вот мыс для данных по02:26:27
току рисовали картинки вот видели некий02:26:31
инсайты насчет числа звонков в02:26:32
колл-центр вот это подмечать и02:26:34
описывайте довольно интересно потом это02:26:37
с работой или нет то есть вот первые четыре пункта02:26:40
можно условно назвать02:26:42
анализ данных то что дальше это пойдет02:26:45
машины обучение привет привет обработка02:26:47
то есть как мы подготовим данные к02:26:49
обучению модели тут смотрите может быть02:26:52
много всего борьба с выбросами02:26:54
заполнения пропусков масштабирования02:26:56
если она нужна вот про все это еще будем02:26:58
говорить02:26:59
создание признаков кросс валидация вот02:27:02
подбор но на самом деле гипер параметров02:27:04
и дальше мы еще поговорим про то как нам02:27:10
определиться с размером до цвета и вот02:27:13
та самая консультация которую мы делаем02:27:16
ее можно тоже результаты нарисовать но02:27:18
как-то мозгу приятие если картинка02:27:20
нарисована понять какие-то выводы делать02:27:23
затем прогноз для тестов выборки если02:27:27
это соревнования бегал то у вас там02:27:28
будет лидер борт публично и вот тогда02:27:31
желательно послать значит посылку02:27:36
каталоге извините но в общем сказать как02:27:39
ваш подход сработал в конкретном02:27:41
соревнования и конечно же оценка модели02:27:44
то есть вы02:27:47
желательно если это все таки какой то02:27:49
более менее реальная задача то скажите02:27:51
как вы оцениваете модель мы конечно же02:27:54
про еще будем говорить02:27:55
хороша ли вот метрика то доля верных02:27:57
ответов или нам надо на что-то еще02:27:59
смотреть ну и какие то выводы и в целом02:28:03
смотрите если вы прям совсем ничего не02:28:06
знаете за какие бы данный вам взяться02:28:08
можно взять проект элис это где02:28:13
идентификации пользователей по ученым02:28:16
веб-сайтом на самом деле там конкретно02:28:17
задачи классификации дано в пасе02:28:20
посещенные сайты 10 штук там за полчаса02:28:22
и надо понять это элис никто или кто-то02:28:25
другой там бинарная классификации можете его02:28:28
взять то есть он такой пошаговый по02:28:30
пунктам прямо все из боитесь творчество02:28:33
вам туда02:28:34
но не на самом деле правда хорош потому02:28:37
что действительно задача интересной02:28:38
получилось и он уже довольно хорошо02:28:39
проработан он там со специализацией02:28:43
яндекса и физтеха02:28:44
собственная же дел поэтому неудивительно02:28:46
вот и ну там действительно можно по02:28:52
сравнивать уже довольно интересной02:28:53
модели и признаки там хорошо работают и02:28:56
более того она идет соревнованием вторая02:29:00
ситуация допустим вы его уже прошли и02:29:02
по-честному не будете эти баллы это02:29:03
набивать но если вы этот проект уже02:29:05
приходили вот элис и все-таки хотите02:29:07
индивидуальный проект02:29:09
если вы не знаете все же за какие данные02:29:11
взяться мы вам подскажем это и по 4 еще02:29:14
и есть такой популярный это пегов просто02:29:17
громадный пул любых доцентов по сути это02:29:21
еще напишем и ну предпочтительный02:29:27
вариант если у вас есть какая-то своя02:29:28
задача ко мне уже подходили с советами02:29:31
но прямо действительно интересные боевые02:29:33
задачи там например видео про тегировать02:29:36
предсказать метку там для видео по02:29:39
текстам у описанию но если у вас что-то02:29:40
есть насущная то желательно аккуратно02:29:44
соблюсти этот трейдов 8 между интересом02:29:48
проекта и сроками ну потому что02:29:50
объективно говоря маловато меньше двух02:29:52
месяцев и все таки лучше взять что то02:29:54
такое что вы успеете02:29:57
то есть вообще-то в боевом проекте можно02:29:59
за это время и данный и не подготовить02:30:01
то есть тут все таки лучше02:30:02
ориентироваться на то что этот проект02:30:04
такой который больше с методологии02:30:06
знакомит и взять ну скажем под выборку02:30:08
ваших данных или там просто доцент02:30:11
какой-то похожий на другой и очень-то не02:30:14
мучиться не страдать там big data но все02:30:17
таки что то хотя бы покрутить что такое02:30:19
локально считается тут будут некоторые02:30:23
операции такие вычислительно затратные02:30:25
но тогда советую всё-таки брать там02:30:27
данных ну там скажем долл до гигабайта с02:30:31
мегабайтами все-таки возиться в общем02:30:34
канале все-таки я это писал вопросы02:30:39
будут спрашивать и мы еще подробнее это02:30:42
все опишем02:30:43
и сейчас дайте перейдем к практике тут и02:30:50
и мне все-таки надо прокомментировать02:30:53
потому что там пара моментов применяются02:30:55
таких которые мы не обсуждали это не02:30:58
очень педагогично на тех сейчас02:30:59
прокомментирую набор данных с титаником02:31:02
делать мы будем в общем-то тоже самое ну02:31:04
просто что позже вы попробовали дерево02:31:06
обучить может быть даже его нарисовать02:31:08
настроить параметры но здесь у нас02:31:11
некоторые признаки категориальные мы их02:31:14
перевели техникой ваншот encoding ем мы02:31:18
еще обсудим подробно но вещь в общем-то02:31:22
понятна и в кратце прокомментирую у нас02:31:25
есть признак например и embark такой02:31:28
типичный категориальный город в котором02:31:30
человек сиона титаник 3 значение 302:31:34
лидеры по сути secu и с02:31:36
сам саутгемптон шербур ее квинстаун02:31:42
тут все-таки вкратце лучше02:31:45
порисовать прокомментировать почему02:31:47
плохо было бы взять их просто перевести02:31:49
в числа нас есть признак дать его даже02:31:54
сити назову три значения02:31:57
уникальных и в общем-то вопрос как это02:32:02
подать алгоритму и вот так взять02:32:04
перекодировать с в единичку и в двойку02:32:07
это плохая идея мы внесли порядок в наш02:32:12
признак а это порядка не было нас вдруг02:32:15
оказалось что поскольку двойка между02:32:18
единицей тройкой так как бы у нас02:32:20
получилось что си02:32:21
оказалось тоже между с и кью02:32:25
мы некий порядок внесли это плохо сразу02:32:30
ли это означает что это не будет02:32:32
работать нет в принципе модель как-то02:32:33
будет работать но понятно что здесь мы02:32:35
как-то жертвуем здравым смыслом техника02:32:38
в pandas который называется get to miss02:32:42
более популярна она называется в бан ход02:32:45
including это создать по одному признаку02:32:49
категориальном у вот в данном случае три02:32:52
бинарных то есть первый это02:32:56
город south bend он второй город шербур02:33:01
и квинстаун02:33:02
так ну ладно пусть грязно то есть02:33:05
попросту сити равно все с и пью по02:33:09
отдельности ну кто знаком с линейным02:33:14
моделями тут возразит что надо нам не02:33:16
три признака 202:33:17
это мы еще обсудим техника ван холт02:33:19
encoding чисто берет коллить в02:33:22
количестве равном уникальному числу02:33:24
уникальных значений признака вот столько02:33:26
же признаков мой новых и строим и они02:33:28
все будут бинарные то есть если это02:33:31
шербур то будет в строке единичка а02:33:34
рядом два нолика02:33:36
вот эта техника one hot including02:33:39
который мы применяем здесь для некоторых02:33:42
признаков доцент титаник и все это02:33:49
вместе будет объединяться вот нос02:33:56
предлагается в общем то сделать то же02:33:58
самое дерево построить настроить если02:34:01
успеете еще02:34:02
нарисуйте как делать посылки накидал02:34:06
можете сами разобраться я потом тоже02:34:09
покажу в данном случае tsarina не очень02:34:12
интересно с него все начинают но она02:34:14
хреново честно говоря то есть там02:34:16
распределение trainee теста не одинаковы02:34:20
ну и вообще 900 объектов это мало о чем02:34:24
говорит то есть не надо делать далеко02:34:26
идущие выводы то что там посылка в этом02:34:29
одной модели будет лучше чем другой02:34:30
когда у нас там всего 900 объектов в02:34:32
данном случает маловато хорошо тогда на02:34:39
этом всем и трансляцию заканчиваемОписание:
For lectures in English, check out this playlist https://www.youtube.com/watch?v=QKTuw4PNOsU&list=PLVlY_7IJCMJeRfZ68eVfEcu-UcN9BbwiX Это видео совпадает с https://www.youtube.com/watch?v=p9Hny3Cs6rk&index=3&list=PLVlY_7IJCMJdgcCtQfzj5j8OVB_Y0GJCl только звук улучшен (Denis Cera, Oleg Butko) На 3-ей лекции мы обсудим основы машинного обучения, поговорим про один из самых популярных видов задач – про задачи классификации, обсудим деревья решений, а также подход к выбору моделей и их оценке на основе кросс-валидации. Сайт курса https://mlcourse.ai/ О курсе на Хабре https://habr.com/en/companies/vk/articles/344044/ 3-ья тема на Хабре https://habr.com/en/companies/ods/articles/322534/ Jupyter-notebooks в репозитории курса https://github.com/Yorko/mlcourse.ai/tree/main/jupyter_russian/topic03_decision_trees_knn Демо-версия задания https://nbviewer.org/github/Yorko/mlcourse.ai/blob/main/jupyter_russian/assignments_demo/assignment03_decision_trees.ipynb При организационной поддержке Mail.Ru Group.
Готовим варианты загрузки
* — Если видео проигрывается в новой вкладке, перейдите в неё, а затем кликните по видео правой кнопкой мыши и выберите пункт "Сохранить видео как..."
** — Ссылка предназначенная для онлайн воспроизведения в специализированных плеерах
Вопросы о скачивании видео
Как можно скачать видео "Лекция 3. Классификация, деревья решений. Открытый курс ODS по машинному обучению mlcourse.ai"?
Сайт http://unidownloader.com/ — лучший способ скачать видео или отдельно аудиодорожку, если хочется обойтись без установки программ и расширений. Расширение UDL Helper — удобная кнопка, которая органично встраивается на сайты YouTube, Instagram и OK.ru для быстрого скачивания контента.
Программа UDL Client (для Windows) — самое мощное решение, поддерживающее более 900 сайтов, социальных сетей и видеохостингов, а также любое качество видео, которое доступно в источнике.
UDL Lite — представляет собой удобный доступ к сайту с мобильного устройства. С его помощью вы можете легко скачивать видео прямо на смартфон.
Какой формат видео "Лекция 3. Классификация, деревья решений. Открытый курс ODS по машинному обучению mlcourse.ai" выбрать?
Наилучшее качество имеют форматы FullHD (1080p), 2K (1440p), 4K (2160p) и 8K (4320p). Чем больше разрешение вашего экрана, тем выше должно быть качество видео. Однако следует учесть и другие факторы: скорость скачивания, количество свободного места, а также производительность устройства при воспроизведении.
Почему компьютер зависает при загрузке видео "Лекция 3. Классификация, деревья решений. Открытый курс ODS по машинному обучению mlcourse.ai"?
Полностью зависать браузер/компьютер не должен! Если это произошло, просьба сообщить об этом, указав ссылку на видео. Иногда видео нельзя скачать напрямую в подходящем формате, поэтому мы добавили возможность конвертации файла в нужный формат. В отдельных случаях этот процесс может активно использовать ресурсы компьютера.
Как скачать видео "Лекция 3. Классификация, деревья решений. Открытый курс ODS по машинному обучению mlcourse.ai" на телефон?
Вы можете скачать видео на свой смартфон с помощью сайта или pwa-приложения UDL Lite. Также есть возможность отправить ссылку на скачивание через QR-код с помощью расширения UDL Helper.
Как скачать аудиодорожку (музыку) в MP3 "Лекция 3. Классификация, деревья решений. Открытый курс ODS по машинному обучению mlcourse.ai"?
Самый удобный способ — воспользоваться программой UDL Client, которая поддерживает конвертацию видео в формат MP3. В некоторых случаях MP3 можно скачать и через расширение UDL Helper.
Как сохранить кадр из видео "Лекция 3. Классификация, деревья решений. Открытый курс ODS по машинному обучению mlcourse.ai"?
Эта функция доступна в расширении UDL Helper. Убедитесь, что в настройках отмечен пункт «Отображать кнопку сохранения скриншота из видео». В правом нижнем углу плеера левее иконки «Настройки» должна появиться иконка камеры, по нажатию на которую текущий кадр из видео будет сохранён на ваш компьютер в формате JPEG.
Сколько это всё стоит?
Нисколько. Наши сервисы абсолютно бесплатны для всех пользователей. Здесь нет PRO подписок, нет ограничений на количество или максимальную длину скачиваемого видео.