AI 大模型时代的奠基石-transformer模型
Transformer及其变体的出现为大模型的研究和实践提供了基础的模型支持,并持续性地在处理复杂序列任务中发挥着关键作用。
1.自然语言处理任务介绍
自然语言处理(NLP)是通过计算机对自然语言文本进行理解、分析和处理的一系列任务,按照不同方向的常见的可以细分程如下几种任务:
- 文本分类:输入是一段文本,输出是该文本的类别
- 命名实体识别:输入是一段文本,输出是该文本中的某些关键要素或者信息
- 机器翻译:输入是一段语言文本,输出是 另一种语言文本
- 文本摘要:输入是一段较长文本,输出是对该文本的一段精简表达文本
- 多轮对话交互