橦言无忌

一个不想改变世界的程序媛

前言

chatGPT该怎么用?怎么写指令会得到更符合自己预期的反馈呢?

研究研究~

阅读全文 »

前言

科研论文写作中,研究现状是不可避免的一个环节,能整理我们对这个知识领域的了解程度,形成相应的知识框架。后面准备一篇相应的英文研究现状模板。。。

科研论文之—国内外研究现状

阅读全文 »

前言

KL散度和交叉熵都可以用来作为模型的loss函数,但二者的使用场景不一样。在这里引申一下模型loss的含义:“通过样本来计算模型分布与目标分布间的差异。”,这就是KL散度的作用。但有时候我们的目标分布会是常数,也就是这个分布是已知且不变的,例如分类任务,这个时候我们就会使用交叉熵来衡量模型的预测分布与实际分布之间的差异。

CNN模型中常用的交叉熵对比数学中的KL散度概念~

调参的背后是无尽的数学理论啊~

阅读全文 »

前言

残差连接,让深层神经网络能够正常训练而不至于陷入梯度消失困境的有力武器,Kaiming He的又一神作之一。

理解残差连接的由来和贡献,以及后续还有什么优化方向

阅读全文 »

前言

数值方法和DNN的交叉学科所包含的知识,可以逐步补充完整的~

作者
Sebastian Kinnewig, Leon Kolditz, Julian Roth, Thomas Wick

参考链接
https://www.ifam.uni-hannover.de/en/wick/
https://www.ifam.uni-hannover.de/en/

文章百度云链接
https://pan.baidu.com/s/1YU0E964JNArGj80lc1BPEg
提取码: r9hx

多多补充~

阅读全文 »
// 代码折叠