Выделение залесенных территорий �на основе радиолокационных данных дистанционного зондирования
Созонтова Анна Александровна
Группа НС224
Курс «Нейронные сети и их применение в научных исследованиях»
Актуальность
Леса – половина территории России
Инвентаризация в лесном хозяйстве
Оценка углерода в лесах для исследований �изменения климата
Выделение залесенных территорий на основе радиолокационных ДДЗ
ИКИ РАН
greenpeace.ru
Радиолокационные снимки
Независимы от облачности
Чувствительны к структуре объектов
Выделение залесенных территорий на основе радиолокационных ДДЗ
Оптика VS Радар
Выделение залесенных территорий на основе радиолокационных ДДЗ
Также результаты полевых работ, метеоданные…
Оптический снимок Sentinel-2 MSI
Радиолокационный снимок Sentinel-1 SAR
Используемые материалы
Открытый
Открытый
Источник: Google.Maps
Якутск
Предварительная обработка
Выделение залесенных территорий на основе радиолокационных ДДЗ
Пример
Выделение залесенных территорий на основе радиолокационных ДДЗ
Визуальное дешифрирование оптического снимка
Соответствующая маска леса
Снимок Sentinel-2 MSI
Маска леса для обучения
Выделение залесенных территорий на основе радиолокационных ДДЗ
Должно быть осмысленным из-за существенных различий в двух преобладающих ландшафтах (междуречье и долина реки Лены)
✓
×
Разбиение на тренировочные, валидационные и тестовые данные
Выделение залесенных территорий на основе радиолокационных ДДЗ
Результат обучения �со Standard Scaler
Результат обучения �с Robust Scaler
Нормализация данных
Особенность данных —�спекл-шум �(~ salt-and-pepper)
Сети, обученные по данным, нормированным при помощи Standard Scaler, лучше обрабатывали шум
Выделение залесенных территорий на основе радиолокационных ДДЗ
U-Net �(сегментация)
CNN �(классификация)
Модели
Random Forest (классификация)
ai.msu
ai.msu
ai.msu
Random Forest: библиотека Scikit-learn
Нейронные сети: фреймворк PyTorch
Random Forest
Модель из библиотеки Scikit-learn
Чтобы модель помещалась в память, были ограничены количество и глубина деревьев
Выделение залесенных территорий на основе радиолокационных ДДЗ
n_estimators=200
max_depth=25
CNN
Была написана простая трехслойная модель
Функция активации: ReLU
Выходные слои: линейный слой с 1 классом и сигмоида
Функция потерь: бинарная кросс-энтропия BCELoss
Алгоритм оптимизации: Adam
Была протестирована с разным размером патча
Аугментация: шум
Выделение залесенных территорий на основе радиолокационных ДДЗ
Архитектура модели
CNN
Долго учится! От 1 часа на 10 эпох
И чем больше патч, тем дольше
Выделение залесенных территорий на основе радиолокационных ДДЗ
ResNet
Была сделана ResNet c 7 слоями, чтобы снизить переобучение на патчах малого размера
Выходные слои: линейный слой с 1 классом и сигмоида
Функция потерь: бинарная кросс-энтропия BCELoss
Алгоритм оптимизации: Adam
Аугментация: шум
Выделение залесенных территорий на основе радиолокационных ДДЗ
Архитектура модели
ResNet
Долго учится!
В зависимости от размера патча �от 1 часа на 10 эпох
Все равно склонна к переобучению
Выделение залесенных территорий на основе радиолокационных ДДЗ
U-Net
Оригинальная U-Net
Патчи 256×256
Функция потерь: BinaryDiceLoss()
Алгоритм оптимизации: Adam
Аугментация больше в виду уменьшения объема выборки из-за увеличения патча:
Выделение залесенных территорий на основе радиолокационных ДДЗ
Архитектура сети, PyTorch Hub
U-Net
Обучение значительно быстрее: 500 эпох за 20 минут
Выделение залесенных территорий на основе радиолокационных ДДЗ
Выделение залесенных территорий на основе радиолокационных ДДЗ
Больше патч — лучше предсказание
Оценка моделей CNN с разным размером патча
| Доля леса (Δ с ориги-налом), % | Matthew coefficient correlation | ROC_AUC | Balanced accuracy | Intersec-tion over Union |
7×7 | 73 (+6) | 0,64 | 0,80 | 0,80 | 0,80 |
9×9 | 73 (+6) | 0,66 | 0,81 | 0,81 | 0,81 |
11×11 | 73 (+6) | 0,67 | 0,81 | 0,81 | 0,81 |
15×15 | 71 (+4) | 0,67 | 0,82 | 0,82 | 0,81 |
Выделение залесенных территорий на основе радиолокационных ДДЗ
Нейронные сети — схожий результат
Лучше всех U-Net
Хуже всех Random Forest
Оценка всех моделей
| Доля леса (Δ с ориги-налом), % | Matthew coefficient correlation | ROC_AUC | Balanced accuracy | Intersec-tion over Union |
CNN 15×15 | 71 (+4) | 0,67 | 0,82 | 0,82 | 0,81 |
ResNet-7 | 70 (+3) | 0,66 | 0,82 | 0,82 | 0,81 |
U-Net | 70 (+3) | 0,70 | 0,83 | 0,83 | 0,83 |
RF | 67 (0) | 0,38 | 0,69 | 0,69 | 0,66 |
Выделение залесенных территорий на основе радиолокационных ДДЗ
Победитель — U-Net
Оригинальная маска
Предсказанная маска
Разница
Синий — преувеличение площади леса,
Красный — преуменьшение
Выделение залесенных территорий на основе радиолокационных ДДЗ
Артефакт
U-Net
Если долго смотреть на маску, местами становится видна сетка патчей
Выделение залесенных территорий на основе радиолокационных ДДЗ
CNN
Больше всех преувеличивает площадь леса
Оригинальная маска
Предсказанная маска
Выделение залесенных территорий на основе радиолокационных ДДЗ
ResNet
Классификация образует полосы �(в крупном масштабе)
Выделение залесенных территорий на основе радиолокационных ДДЗ
Артефакт (где-то мы это уже видели)
Random Forest
Ожидаемо не справляется с шумом �и поэтому уступает остальным моделям
Выделение залесенных территорий на основе радиолокационных ДДЗ
CNN
Непройденное испытание 1
Оригинал
Все модели преувеличивают лес �в одном месте. Что с ним не так?
ResNet
U-Net
Random Forest
Выделение залесенных территорий на основе радиолокационных ДДЗ
Непройденное испытание 1
Sentinel-2 MSI: �участок другого цвета…
Гарь: обгорелые стволы воспринимаются как растительный покров
Google.Maps: стволы!
Sentinel-1 SAR �(R – VV, G – VH, B – VV/VH)
Выделение залесенных территорий на основе радиолокационных ДДЗ
Непройденное испытание 2
Sentinel-2 MSI
Вытянутые нелесные объекты выделяются не очень хорошо
Оригинальная маска
Sentinel-1 SAR �(R – VV, G – VH, B – VV/VH)
Маска (U-Net)
Выделение залесенных территорий на основе радиолокационных ДДЗ
Заключение