论文阅读 BERT GPT - transformer在NLP领域的延伸
- 开发
- 30
-
不会写的很详细,只是为了帮助我理解在CV领域transformer的拓展
1 摘要
1.1 BERT - 核心
双向 编码器 加上mask做完形填空超大模型无监督预训练 需要整个模型作为pretrain weight到下游任务做fintune
1.2 GPT - 核心
自回归 解码器 无需训练 只需Prompt
2 模型架构
2.1 概览
![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/26eda88e5b774af896850c219b0beabf.png)
![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/11f24178d1d5467cb33b718484e6f652.png)
3 区别
3.1 finetune和prompt
BERT需要全部参数进行训练
GPT不需要训练即可完成下游任务
![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/9d140fb5626249b28d793c387eedc98d.png)
3.2 transformer及训练
BERT使用双向的编码器
![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/23d9f2b891364c9c9ab185d848ce22bd.png)
GPT使用自回归的解码器
![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/2e5cd11ce1b04218976913bb78fbc2d5.png)
总结
总结个毛
原文地址:https://blog.csdn.net/highoooo/article/details/135487425
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。
本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若转载,请注明出处:https://www.suanlizi.com/kf/1745085598504456192.html
如若内容造成侵权/违法违规/事实不符,请联系《酸梨子》网邮箱:1419361763@qq.com进行投诉反馈,一经查实,立即删除!