A comparative evaluation of outlier detection algorithms: Experiments and analyses

# A comparative evaluation of outlier detection algorithms: Experiments and analyses

* Cites: 161
* Conference: Pattern Recognition

# Outlier detection methods

* 这些方法侧重于 General 的 Outlier detection。
* 只关注检测出 OOD 样本，将模型本身的任务与 OOD Detection分隔开来。

## Probabilistic methods

* Gaussian Mixture Model： 使用多个高斯分布来估计输入分布，是种参数估计的方法。
* Dirichlet Process Mixture Model： 一种贝叶斯非参估计的方法，输入用指数分布族逼近。需要训练。
* Kernel density estimators: 基于一个 kernel function 来估计输入的分布。
* Probabilistic principal component analysis： 对输入空间做PCA，然后使用  log-likelihood 估计样本点是分布内的概率。

## Distance-based methods

* Mahalanobis distance： 适用于由多个高斯分布组成的多变量分布。模型参数包括数据的均值和逆 covariance matrix。

## Neighbor-based methods

* Local outlier factor： 基于欧氏距离计算 k 近邻，由此估计是否在分布内。
* Angle-Based Outlier Detection： 使用输入数据的角度和方差而非距离来估计 Outliers.
* Subspace outlier detection: 根据 k 近邻 把数据聚成很多个小类，根据输入对于每个类中所有点距离的方差来判断 In Out.

## Information theory

* 使用 KL Divergence 估计数据和输入的分布差异，然后由此估计信息量来做判断。

## Neural networks

* Grow When Required (GWR) network： 基于自组织映射（SOMs）学习出一个最优网络结构来拟合数据分布。

## Domain-based methods

* One-class SVM: 在 kernel 对应的高维空间中学习一个分界线来区分正常数据和离群数据。“The boundary is fitted to the input data by maximizing the margin between the data and the origin in the high-dimensional space”（区分原点和训练数据？）

##  Isolation methods

* Isolation forest： 注重于区分异常点而非拟合正常点分布。使用随机森林来对打一个异常分数。每次随机选择一个维度来分叉区分异常点和正常点。如果一个点距离树根很近，那么就认为这是一个异常点（容易区分）。

# Results

* 然后这篇文章跑了一个大的 benchmark 来测试以上方法。数据集是作者自己造的一个具有多样性的基于特定分布的数据。
* ![title](https://leanote.com/api/file/getImage?fileId=5fc92c16ab64416b310825fd)
* ![title](https://leanote.com/api/file/getImage?fileId=5fc92af7ab64416b310808fe)
* ![title](https://leanote.com/api/file/getImage?fileId=5fc92b19ab64416d32080c32)

# Comments

* 看完感觉应该去看看和深度学习任务相结合的OOD算法。脱离任务做OOD，确实除了高斯拟合下分布之类的事情，就没啥好做的了。

wuvin

导航

最近发表

友情链接