Github 2024-03-21 开源项目日报 Top10

根据Github Trendings的统计,今日(2024-03-21统计)共有10个项目上榜。根据开发语言中项目的数量,汇总情况如下:

开发语言 项目数量
Python项目 4
非开发语言项目 2
TypeScript项目 1
JavaScript项目 1
Batchfile项目 1
Jupyter Notebook项目 1

Grok-1开放权重模型

  • 创建周期:3 天
  • 开发语言:Python
  • 协议类型:Apache License 2.0
  • Star数量:34982 个
  • Fork数量:5643 次
  • 关注人数:34982 人
  • 贡献人数:6 人
  • Open Issues数量:50 个
  • Github地址:https://github.com/xai-org/grok-1.git

Grok-1存储库包含用于加载和运行Grok-1开放权重模型的JAX示例代码,该模型具有314B参数的大尺寸。该模型设计采用了8个专家的混合(MoE)架构,64个层,48个用于查询的注意头,8个用于键/值,以及其他附加功能,如旋转嵌入(RoPE)和支持激活分片和8位量化。代码和相关的Grok-1权重在此版本中受Apa

相关推荐

  1. Github 2024-03-21 开源项目日报 Top10

    2024-03-25 13:32:03       31 阅读
  2. Github 2024-04-21 开源项目日报 Top10

    2024-03-25 13:32:03       37 阅读
  3. Github 2024-03-20 开源项目日报 Top10

    2024-03-25 13:32:03       42 阅读
  4. Github 2024-03-23 开源项目日报 Top10

    2024-03-25 13:32:03       34 阅读
  5. Github 2024-03-24 开源项目日报Top10

    2024-03-25 13:32:03       38 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-03-25 13:32:03       94 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-03-25 13:32:03       100 阅读
  3. 在Django里面运行非项目文件

    2024-03-25 13:32:03       82 阅读
  4. Python语言-面向对象

    2024-03-25 13:32:03       91 阅读

热门阅读

  1. 计算方法(第3版)——学习笔记(一)

    2024-03-25 13:32:03       34 阅读
  2. Python之关键字传参(**kwargs)妙处

    2024-03-25 13:32:03       26 阅读
  3. 说一下你对dom驱动和数据驱动的理解

    2024-03-25 13:32:03       45 阅读
  4. 移位补位(1)

    2024-03-25 13:32:03       42 阅读
  5. 多线程(9)Thread类和Runnable接口

    2024-03-25 13:32:03       42 阅读
  6. 茄子科技前端实习面经

    2024-03-25 13:32:03       45 阅读
  7. 24计算机考研调剂 | 广西科技大学

    2024-03-25 13:32:03       35 阅读
  8. kingbaseESV8常用ksql命令

    2024-03-25 13:32:03       36 阅读