人工智慧應用於災後大範圍建物與道路損壞評估
林偲妘 博士
國立臺灣大學土木工程學系 副教授
www.aiengineer.tw
大綱
2
www.aiengineer.tw
災後應變流程
3
www.aiengineer.tw
應用深度學習於道路及建物災損辨識
4
輔助並優化災害應變流程
災害
應變
透過 航遙測影像 及 公開災害評估資料,訓練 AI模型 以模擬人類執行建物毀損程度、可通行路網判釋
災前
整備
當災害發生時,利用AI模型
可通行、毀損道路辨識
建物災損分級
應變
階段
復原
階段
速度、效率
補足因通訊斷聯、道路中斷、安全性等問題,無法執行人為勘災造成的資訊不完全
應變
階段
資訊獲得完整性
www.aiengineer.tw
資料類型與挑戰
5
www.aiengineer.tw
多來源之資料類型
6
資料類型 | 光學影像 | 合成孔徑雷達 | 航遙測飛機 | UAV | 建物與災害事件參數 |
圖例 | | | | | |
解析度 | ~0.5m | ~0.35 m | ~0.3 | ~0.05 | – |
影像範圍 | 375 m x 375 m | 150 m x 180 m | 225 m x 225 m | 37.5 m x 37.5 m | – |
|
|
|
|
|
|
www.aiengineer.tw
災害資料之類別不平衡
7
災後道路及建物損壞影像在破壞類別的樣本數量差異過大,導致模型偏向學習數量多的樣本,而對少數類別有著較差的預測。團隊之解決方案如下:
採樣技術 (Up/down sampling technique)
考慮類別距離之損失函數 Ordinal Class Distance Penalty Loss, OCDPL
以xBD資料分佈為例
Tsai, F.-J. and Lin, S.-Y.* (2023) A Class Distance Penalty Deep Learning Method for Post-disaster Building Damage Assessment. KSCE Journal of Civil Engineering. )
www.aiengineer.tw
道路阻斷範圍辨識
8
www.aiengineer.tw
大範圍道路阻斷範圍辨識與分析
9
災後遙測影像(須為正射影像)
模型判識破壞位置結果
2145m
1640m
透過災後正射影像及AI影像辨識技術快速掌握道路損壞位置及範圍
損壞位置
道路
2010海地地震:
發生日期: 2010.01.12
影像拍攝時間: 2010.01.15
影像來源: Worldview-1 satellite (解析度: 0.5 m)
www.aiengineer.tw
使用基於範例之GAN 模型產生災後合成影像
10
Context of Real Damage Road
Feature of damaged road in studied region
Simulated post-disaster image
Selected exemplar reference
Input mask
(green box 🡪 damage sections)
Pre-disaster image
1
2
3
www.aiengineer.tw
大範圍道路阻斷模型訓練流程
11
訓練資料集準備
生成模擬之災後資料集
道路損壞辨識模型訓練
模型一: 道路提取模型
模型二: 災損辨識模型
訓練
預測結果(路網+災損位置)
測試
災害影響路段地圖
投影至地圖
以災前後遙測影像作為輸入
損壞位置判釋結果
模型一
模型二
www.aiengineer.tw
整合數值路網圖
應用模型進行衛星影像之房屋及道路損壞標示、並投影至地圖及數值路網圖,判釋災點並進行後續救災路線路線規劃(+強調災害分級)
12
以 2008 莫拉克風災 小林村示範
回傳各路段對應之破壞狀況及路段資訊(如路名、路長、ROADID)
www.aiengineer.tw
應用案例 (一) - 20220918花蓮地震
以高寮大橋展示
災後遙測影像
損壞位置
道路
AI模型損壞判識
後處理計算破壞路段
投影至地圖並進行分級
影像資訊:
發生日期: 2022.09.18
影像拍攝時間: 2022.09.21
影像來源: 農航所航攝影像_原始影像�(解析度: 0.25 m)
經本團隊人工校正,但仍有些許誤差
臺灣數值路網圖(國家地震工程研究中心)
可通行
服務減損
交通阻斷
其他
www.aiengineer.tw
應用案例 (二) - 2009莫拉克風災
高雄小林村
14
災後遙測影像
AI模型損壞判識
後處理計算破壞路段
投影至地圖並進行分級
損壞位置
道路
可通行
服務減損
交通阻斷
其他
影像資訊:
發生日期: 2008.08.06-08.09
影像拍攝時間: 2008.09.07
影像來源: 農航所航攝影像_原始影像�(解析度: 0.25 m)
經本團隊人工校正,但仍有些許誤差
www.aiengineer.tw
應用案例 (二) - 2009莫拉克風災
高雄小林村
15
災後遙測影像
投影至地圖並進行分級
可通行
服務減損
交通阻斷
其他
影像資訊:
發生日期: 2008.08.06-08.09
影像拍攝時間: 2008.09.07
影像來源: 農航所航攝影像_原始影像�(解析度: 0.25 m)
經本團隊人工校正,但仍有些許誤差
road net | |
Recall_loc | 0.778 |
precision_loc | 1.000 |
F1_loc | 0.875 |
overall | |
Recall_overall | 0.651 |
precision_overall | 0.688 |
F1_overall | 0.655 |
damage | |
Recall_dam | 0.681 |
precision_dam | 0.800 |
F1_dam | 0.736 |
人工識別結果
www.aiengineer.tw
應用案例 (三) – 20240403 花蓮地震
花蓮市區及山區
16
影像資訊:
發生日期: 2024.04.03
影像拍攝時間: 2024.04.30&04.03
影像來源: 農航所航攝影像_原始影像�(解析度: 0.25 m)
經本團隊人工校正,但仍有些許誤差
www.aiengineer.tw
大範圍建物損壞辨識
17
www.aiengineer.tw
運用堆疊集成技術於小範圍之建物損壞辨識與分析
18
UAV 影像
YOLOv8
單棟建物影像
MobileNetv3
Bbox | no | minor | major | destroyed | Pred | GT |
(x,y,w,h) | 0.1 | 0.5 | 0.4 | 0.2 | 2 (minor) | 3 (major) |
Pred |
1 (severe) |
no | minor | major | destroyed | Pred |
0.1 | 0.5 | 0.6 | 0.2 | 3 (major) |
模型一:物件偵測模型
模型二:影像分類模型
結果輸出
單棟建物結果輸出
訓練資料搜集
資料前處理
模型一:物件偵測模型
模型二:影像分類模型
訓練
預測結果
測試
模型三:元學習模型
Meta Learner
模型三:元學習模型
以災後 UAV 影像作為輸入
www.aiengineer.tw
應用案例-颶風災害
19
| Baseline (YOLO v8) | Meta Learner (NN) | ||||
Class | P | R | F1 | P | R | F1 |
All | 0.48 | 0.53 | 0.49 | 0.58 | 0.59 | 0.59 |
No damage | 0.89 | 0.92 | 0.90 | 0.91 | 0.88 | 0.90 |
Minor | 0.32 | 0.18 | 0.23 | 0.32 | 0.40 | 0.36 |
Major | 0.22 | 0.28 | 0.24 | 0.39 | 0.41 | 0.40 |
Destroyed | 0.49 | 0.75 | 0.59 | 0.70 | 0.67 | 0.69 |
ISBDA 資料集取自美國三場嚴重颶風災害,影像由 10 個不同的幀(frames)中取得,共有 1,025 張影像
哈維颶風
(Hurricane Harvey)
邁可颶風
(Hurricane Michael )
佛羅倫斯颶風
(Hurricane Florence)
T: Ground truth
Y: YOLO v8
M: Meta learner
www.aiengineer.tw
大範圍之建物損壞辨識與分析(一)- 多模態模型
20
深度學習模型
(災前災後影像)
機器學習模型
(建物與災害事件參數)
以災前後衛星影像及建物與災害事件參數資料作為輸入
災損分級
www.aiengineer.tw
應用案例-地震災害
21
Case No. : C050
Height: 9
Floor area: 608.33
Materials: Mud_mortar_stone
Intensity: 0.72
Damage: 3
Final Prediction
模型 | 訓練資料 | 微調資料 | 測試資料 |
參數模型 | Data-2015 Nepal Earthquake(2) | Data-2010 Haiti Earthquake, Data-2015 Nepal Earthquake(1) | Data-Paired �Dataset 1 |
影像模型 | xBD Dataset | Img-2010 Haiti Earthquake (1), Img-2023 Turkey Earthquake | Img-Paired�Dataset 1 |
多模態模型 | Multi-Paired�Dataset 1 | X | Multi-Paired�Dataset 1 |
Fusion | Combine Model | Precision | Recall | F1 Score |
concatenation | XGBoost | 0.555 | 0.542 | 0.539 |
addition | KNN | 0.583 | 0.566 | 0.555 |
Metadata Model | 0.370 | 0.373 | 0.368 | |
Image Model | 0.434 | 0.374 | 0.348 | |
多模態模型
單模態模型
www.aiengineer.tw
大範圍之建物損壞辨識與分析(二) - 進行中
22
Transformer Encoder
UperNet Decoder
(B, Nopt, D)
(B, NSAR, D)
(B, NMeta, D)
Tokenizer
Input
Output
以災後光學、SAR影像及建物參數資料作為輸入
訓練資料集
搜集及前處理
端對端深度學習模型
訓練
預測結果
(災損位置+等級)
測試
實務上影像取得之困境:
增加多來源資料:合成孔徑雷達(SAR)
www.aiengineer.tw
初步應用成果-2010海地地震
2010 年 1 月 12 日 海地地震(Mw 7.0)
光學影像(Optical image)
合成孔徑雷達影像(SAR image)
結合光學與 SAR 的結果
光學影像
合成孔徑雷達影像
Final OA (%) | Final mIoU (%) | IoU per class (%) | |||
Background | Intact | Damaged | Destroyed | ||
92.04 | 47.88 | 92.30 | 58.65 | 10.48 | 38.20 |
www.aiengineer.tw
小結
24
本團隊結合多來源資料與人工智慧技術,進行災後大範圍影像辨識與分析,判讀受損道路與建築情形,協助快速掌握整體災情,確保救災資源配置的效率與即時性。此項技術不僅強化救災行動的決策支持能力,更大幅提升整體應變速度,可為未來防救災體系提供關鍵且穩固的技術支援。
www.aiengineer.tw
研究團隊
25
呂紹銘 博士生陳蓮安 碩士生
郭文妮 碩士生
蔡昉容 研究助理�
Publications:
林偲妘 副教授
www.aiengineer.tw
謝謝聆聽!
www.aiengineer.tw
應用案例 (一) - 20220918花蓮地震
以高寮大橋展示
27
影像資訊:
發生日期: 2022.09.18
影像拍攝時間: 2022.09.21
影像來源: 農航所航攝影像_原始影像�(解析度: 0.25 m)
經本團隊人工校正,但仍有些許誤差
www.aiengineer.tw
應用案例-花蓮地震
28
2024
20220918花蓮地震
臺灣數值路網圖(國家地震工程研究中心)
災後遙測影像
AI模型損壞判識
後處理計算破壞路段
投影至地圖並進行分級
天王星大樓
影像資訊:
發生日期: 2022.09.18
影像拍攝時間: 2022.09.21
影像來源: 農航所航攝影像_原始影像 (解析度: 0.25 m)
經本團隊人工校正,仍有些許誤差
影像資訊:
發生日期: 2024.04.03
影像拍攝時間: 2024.04.30&04.03
影像來源: 農航所航攝影像_原始影像 (解析度: 0.25 m)
經本團隊人工校正,仍有些許誤差
www.aiengineer.tw