20210522论文总结

* 总结一下在近期看到的有新意的论文以及从中得到的 Idea。

## DVC: An End-to-end Deep Video Compression Framework

* 对于一些现在 NN 难以处理，依旧需要划分多 Stage 的任务（如Speech），可以把每一部分做成NN，然后尝试把中间部分可导，最后串起来。
* 使 quant 可导： 把 quant 视为 noise 训练的时候加 noise, inference 替代为 quant。
* 使 Entropy Encoding 长度可导：推导一个连续情况下的下届作为训练目标，得到一个类似于 CE 的东西来用于训练。

## EagleEye: Fast Sub-net Evaluation for Efficient Neural Network Pruning

* 对于所有需要 搜索+评估NN 的过程，减少评估NN的finetune代价，增加搜索效率，就能发一篇不错的paper。
* 毕竟 2xtime random search 好于很多策略。

## Deep Generative Prior

* 很有启发的一个方向，甚至可能是今后图像复原任务的主流方法。
* 可以尝试应用到 Style Transfer。
* 尝试固定部分权重，看看 GAN 生成空间会变成什么样。
* 可能适用于图像和视频的压缩（这样和使用 auto encoder 有哪些区别？）。
* finetune 得到的权重空间会遗忘以前多少信息？和Life Long Learning 有啥关系？

## Training Interpretable Convolutional Neural Networks by Differentiating Class-specific Filters

* Label-aware sparsity。 全新的权重稀疏方式，可能做到硬件友好的同时，避免 Channel pruning 的 downside。似乎总 weight 并不会减少，但是 flops 可以变少。

## SeFa - Closed-Form Factorization of Latent Semantics in GANs

* 找到与图像关联的特征空间，实现更高效的编码压缩。
* 任意图片衍生版本的快速可控生成。
* 在特征空间加一个维度，固定其他维度，训练拟合某一类图片，从而使得这个维度对应这一类图片多出来的特征。
* GAN网络输入与之前只有相当小差异的时候，该如何加速推理。
* 把一个短视频（2s左右）变成对应的 GAN 空间变化。这样可能可以更好完成插帧、预测等任务。

wuvin

导航

最近发表

友情链接