『论文笔记』Mitigating Neural Network Overconfidence with Logit Normalization
Information
- Title: Mitigating Neural Network Overconfidence with Logit Normalization
- Author: Hongxin Wei, Renchunzi Xie, Hao Cheng, Lei Feng, Bo An, Yixuan Li
- Institution: 新加坡南洋理工大学,南京大学,重庆大学
- Year: 2022
- Journal: ICML
- Source: Arxiv, GitHub
- Cite: Hongxin Wei, Renchunzi Xie, Hao Cheng, Lei Feng, Bo An, Yixuan Li Proceedings of the 39th International Conference on Machine Learning, PMLR 162:23631-23644, 2022.
- Idea: 提出了通过归一化 logit 的范数来使模型给出更保守的预测,使得 ID 数据更具有可分性。
『LeetCode』2600 K 件物品的最大和
『LeetCode』2679 矩阵中的和
『阅读』如何阅读一本书
『LeetCode』2490 回环句
研究生涯展望
调色板
『Python基础』matplotlib中的colormap
简介
matplotlib 是 Python 中常用的绘图库。本文主要介绍 matplotlib 中的 colormap,即颜色映射。在绘图函数中通常将 colormap 的名称字符串传入 cmap 参数,即可使用该 colormap。下面展示一下 matplotlib 中的 colormap 及其对应的名称。
『论文笔记』Global Filter Networks for Image Classification
Information
- Title: Global Filter Networks for Image Classification
- Author: Yongming Rao, Wenliang Zhao
- Institution: 清华大学
- Year: 2021
- Journal: NeurIPS
- Source: NeurIPS, Arxiv, Project Page, Github, OpenReview
- Cite: Rao Y, Zhao W, Zhu Z, et al. Global filter networks for image classification[J]. Advances in neural information processing systems, 2021, 34: 980-993.
- Idea: 提出了一种全局滤波网络,由傅里叶变换和可学习的一组滤波器代替 self-attention,更高效