博客配套视频链接: https://space.bilibili.com/383551518?spm_id_from=333.1007.0.0 b 站直接看
配套 github 链接：https://github.com/nickchen121/shui-water--paper
配套博客链接：https://www.cnblogs.com/nickchen121/p/16470443.html
多头默认 8 头（改改参数性能就好了的）
我用 16 头，然后性能好了，我能发篇论文吗？
bs，32，64
一定不行
比如有人用 elmo 做了词向量，然后我用 bert 做词向量去做下游任务
如果你是第一个，大概率可以，（水一篇水刊水文）
然后就编故事：这个领域有了什么问题，然后我用 bert 解决了这个问题（AI偏应用的领域，交叉学科）
千万不能是：bert 好，我用 bert
我用自己的电脑跑，原模型性能变差了，我自己改进后，性能好，但是没有原模型好
原模型： 50
我拿自己电脑跑（原模型）：48（保留这个模型）
我做了个改进，我自己电脑跑我的代码：49
毫无问题
性能好就可以了吗？
最重要的是：你加去的东西，能够编个故事
新兴领域：50，你做的对这个领域有贡献，别人能够借鉴，或者说你能编个好故事
老领域：99%，99.2%
论文
最重要的一点，编故事
这个领域有什么问题，我通过这个解决了
而不是我用了这个模块， 性能变好了
搞代码的时候：我用了这个模块，性能变好了
一定要有继承