Что такое bias-variance tradeoff? Погружение в свёрточные нейронные сети. Часть 5.

Рет қаралды 2,779

5 жыл бұрын

⚡⚡⚡ Введение в свёрточные нейронные сети (Convolutional Neural Networks)
Вводная часть к 5 главе курса.
- Что такое bias?
- Что такое variance?
- Что такое bias-variance tradeoff?
- 4 этапа "развития" обучающей модели (от необученной модели до переобученной)
- Почем именно компромисс и между чем?
- Что занимает 90% времени специалиста по машинному обучению?
💡 Меня интересуют следующие темы, а значит про них ты здесь и найдёшь больше всего информации:
- Технологии (разработка, программное обеспечение, МЛ, ИИ)
- Дизайн (железный, мобайл)
- Обучение (структура обучения, формат подачи информации, значимое и не значимое в обучении)
- Спорт (мото, ролики, бег, плавание)
- Финансы / экономика
- Переговоры (продажи, холодные звонки)
- Рекрутинг (тесты, прогнозирование, срезы, поиск)
Подписывайся 🎯, смотри еженедельно видео и включайся в обсуждения!
💥Вконтакте: ashmig
💥Facebook: / yatsukoyin
💥 Telegram: t.me/ashmig
💥Email: shmig@ojok.ru
#tensorflow #python #js #javascript #intro #machine #learning #ai #ии #машинное #обучение #глубокое #обучение

Пікірлер: 1

@rpisarev 5 жыл бұрын

Видимо у меня как раз и есть это запоминание шума. Неделю пытаюсь обычить нейронныю сеть для прохождения Fashion-MNIST. При разных формах и гиперпараметрах сами тренировочные и тестовые данные проходим хорошо, добивался до 97/91 процентов. Но если взять реальный ботинок или рубашку, ресайзнуть до 28х28 и попытаться скармливать "отлично работающей" сети, то результаты удручают: она либо везде сумку видет, либо не может отличить футболку от ботинка. Отсюда вопрос: я слишком много требую или это сказывается так называемое переобучение (overfitting), когда нейронная сеть просто запоминает все из тренировочной сети и не может найти в новых данных разученных паттернов? Ниже приведу ссылки на свои колабы: colab.research.google.com/drive/1lnEcNVMvloOovwXCpyjPxbv8lXcRMDFl#scrollTo=bjqcMlWHJlid - тренировка и экспорт моделей colab.research.google.com/drive/1aOlD6zLz4eqhbtIKwQ9nZ9CXnxxReuqq#scrollTo=CAZYOeCB-CVP - импорт натренированных моделей и загрузка "живых" примеров И вот что делать совершенно не понятно. Наверное надо упростить сетку до минимума (