nlp与cv的发展

  • 开发
  • 38

在这里插入图片描述

  • Transformer的出现,促进了更高容量模型的建立,为大模型的出现奠定基础. 🧐
  • 大模型通常具有十亿个以上参数(仅供参考) 😮
  • 左边的蓝色是CV领域、右下绿色是NLP、右上蓝色是多模态😃
  • 基础模型(Foundational Models)首次由Bommasani等人在《Stanford Institute for Human-Centered AI》中引入,定义为“通过自监督或半监督方式在大规模数据上训练的模型,可以适应其它多个下游任务”
  • 综述《On the Opportunities and Risk of Foundation Models》,深度剖析当时大规模预训练模型面临的机遇和挑战,文中将大模型统一命名为Foundation Models （？🤔）
  • 在深度学习中，通常将模型分为三个部分：backbone、neck 和 head
  • 深度学习中常用的Backbone:AlexNet、ResNet、VGG（好像有点过时😶，现在cv里的backbone可能是vit和swin-t😶)
  • 未完待续

————————
最近要写糊弄期末作业（视觉大模型综述和大模型发展史）
画了个图，记录一下枯燥的水字数和水页数的过程
——— 2023.12.16

阅读全部

相关推荐

  3. 自然语言处理（NLP）技术的发展与应用：从基础到前沿

    2023-12-17 05:02:05       15 阅读

  4. 自然语言处理（NLP）的发展

    2023-12-17 05:02:05       39 阅读

  5. 白话NLP技术的演进发展

    2023-12-17 05:02:05       14 阅读

  8. 自然语言处理（NLP）领域的应用和发展历程

    2023-12-17 05:02:05       29 阅读

  9. CI/CD与容器编排的结合

    2023-12-17 05:02:05       11 阅读

最近更新

  4. TCP协议是安全的吗?

    2023-12-17 05:02:05       16 阅读

  12. 阿里云服务器执行yum，一直下载docker-ce-stable失败

    2023-12-17 05:02:05       16 阅读

  13. 【Python教程】压缩PDF文件大小

    2023-12-17 05:02:05       15 阅读

  18. 通过文章id递归查询所有评论（xml）

    2023-12-17 05:02:05       18 阅读

热门阅读

  3. Axure的交互以及情形的介绍

    2023-12-17 05:02:05       41 阅读
  6. QT作业3

    QT作业3

    2023-12-17 05:02:05      35 阅读

  8. rpc和http的区别，使⽤场景

    2023-12-17 05:02:05       40 阅读

  15. AR游戏开发

    2023-12-17 05:02:05       38 阅读

  16. 【Linux应用编程笔记】输入设备

    2023-12-17 05:02:05       40 阅读

  17. Python学习笔记第七十六天（OpenCV视频应用）

    2023-12-17 05:02:05       36 阅读

  24. 第十七章 ： Spring Boot 集成RabbitMQ（一）

    2023-12-17 05:02:05       33 阅读

  25. 求一个数组中的最大子序列和。

    2023-12-17 05:02:05       34 阅读

  27. python之画动态图 gif效果图

    2023-12-17 05:02:05       37 阅读

  29. 【PostgreSQL】从零开始:（十）PostgreSQL-Createdb命令创建数据库

    2023-12-17 05:02:05       30 阅读