https://agasiev.com/tags/machine-learning/ Telegram: @aagasiev Артём Агасиев ru E2 (v3576; Aegea) Артём Агасиев Telegram: @aagasiev 85 https://agasiev.com/all/shpargalka-po-otlichiyam-ansamblevyh-metodov-v-klassifikacii/ Mon, 19 Jul 2021 16:34:29 +0300 Артём Агасиев https://agasiev.com/all/shpargalka-po-otlichiyam-ansamblevyh-metodov-v-klassifikacii/ <p>Раньше, бывало, забывал в чем отличия каждого из популярных ансамблевых методов, так что решил написать об этом краткую справку. Может, кому-то пригодится.</p> <p><b>Стекинг</b></p> <p>Берем наши данные целиком и учим на них несколько моделей с разными алгоритмами. Ответы по каждому примеру собираем и подаем на вход финальному решающему алгоритму.</p> <p>Пример из жизни: Спрашиваем всех своих знакомых, какой из двух автомобилей лучше купить.</p> <p>Плюсы: Очень просто реализовать.<br /> Минусы: Хуже качество, если сравнивать с бэггингом и бустингом.</p> <p><b>Бэггинг</b></p> <p>Много раз берем случайные выборки из наших данных и обучаем на них несколько моделей с одним и тем же алгоритмом. Ответы по каждому примеру собираем и подаем на вход финальному решающему алгоритму.</p> <p>Пример из жизни: Разные трейдеры, рекомендуют покупать или продавать какую-то конкретную акцию в зависимости от подмножества знаний о всем рынке, которыми они обладают в данный момент.</p> <p>Плюсы: Очень легко параллелится, быстро работает.<br /> Минусы: Качество классификации хуже, чем у бустинга.</p> <p><b>Бустинг</b></p> <p>Берем случайную выборку из данных и обучаем одну модель на одном алгоритме. На следующем шаге, в случайную выборку добавляем примеры, на которых предыдущая модель ошибалась больше всего и обучаем еще одну модель на том же самом алгоритме и т. д.</p> <p>Пример из жизни: Похоже на то, как мы учим билеты к экзамену. Сначала все подряд, потом все больше внимания уделяя тем, на которые часто даем неверные ответы.</p> <p>Плюсы: Высокое качество классификации.<br /> Минусы: Медленно работает. т. к. если не заморачиваться, по умолчанию не параллелится.</p>