What Uncertainties Do We Need in Bayesian Deep Learning for Computer Vision?

# What Uncertainties Do We Need in Bayesian Deep Learning for Computer Vision?

* 定义了 Aleatoric Uncertainty 和 Epistemic Uncertainty，并刷新了当时 Segmentation 的 Benchmark。 引用 1200+。
* (看论文的图感觉有点眼熟，但是搜坚果云没找到，还是拿来讲一下)

# Main Idea

* ![title](https://leanote.com/api/file/getImage?fileId=5fc6838fab644126e7000521)
* `Aleatoric Uncertainty` 定义为数据本身的不确定性，来源于数据收集标注等时候的误差，无限量数据下无法消除。 估算方式可以使用模型本身置信度（如 BNN 等）。
* 假设模型输出分布是高斯的，则估算方式（这里 $sigma(x_i)$ 是数据本身的 Uncertainty，可以理解为同样数据反复采集得到不同结果之间的差异性）：
* ![title](https://leanote.com/api/file/getImage?fileId=5fc6858bab644126e7000525)
* `Epistemic Uncertainty` 定义为模型训练时候带来的误差，无限量数据下可以消除。估算方式可以使用不同模型在同一个地方预测的方差来估算（如 MC Dropout）。
* 估算方式:
* ![title](https://leanote.com/api/file/getImage?fileId=5fc68549ab644128db00062b)

* 实际训练的时候：
* ![title](https://leanote.com/api/file/getImage?fileId=5fc68bb0ab644128db00062f)

# Results

* ![title](https://leanote.com/api/file/getImage?fileId=5fc68c29ab644128db000630)
* ![title](https://leanote.com/api/file/getImage?fileId=5fc68c61ab644126e7000528)
* ![title](https://leanote.com/api/file/getImage?fileId=5fc68cb3ab644126e7000529)

# Inspirations

* 这篇文章告诉我们该如何讲好一个故事和给新概念取个好名字的重要性，本质上是 Ensemble + 用样本难易度调整样本权重。
* 到底如何去 Reweight 不同难度的样本才是合适的呢？为什么这样一个 Reweight 能 work 呢？ 本质上是改变了什么？
* 用 Uncertainty 做加权用于 segmentation 蒸馏？（到底该正着加还是反着加？）

wuvin

导航

最近发表

友情链接