Torch 加速

loss.item()

1. 费时

loss.backward()
loss_item = loss.item()  # todo loss.item() 这个比较费时间  0.2743 秒

2. 省时

loss_item = loss.item()   #todo 把它 移到 loss.backward() 前面,这个操作只需要 0.00027 秒
loss.backward()

Index

d_inv[torch.isinf(d_inv)] = 0.0  # todo 这个超级费时间 大约 0.04秒

Top-k 替换 argsort

torch.argsort(pc1_sampling_confidence, dim=-1, descending=True)[:, :64] # 费时
torch.topk(pc1_sampling_confidence, 64, dim=-1) # 省时

申明对象

torch.arange(B, dtype=torch.long, device="cuda") # 省时
torch.arange(B, dtype=torch.long).to("cuda")  # 费时

A.to("cuda") 与 A.cuda() 是一样的时间

相关推荐

  1. Torch 加速

    2023-12-28 02:52:02       50 阅读
  2. torch.bmm

    2023-12-28 02:52:02       51 阅读
  3. torch学习】torch.utils.data

    2023-12-28 02:52:02       38 阅读
  4. torch.nn.NLLLOSS vs torch.nn.CrossEntropyLoss

    2023-12-28 02:52:02       60 阅读
  5. torch.matmul和torch.bmm区别

    2023-12-28 02:52:02       67 阅读
  6. Pytorch:torch.stack 和 torch.as_tensor

    2023-12-28 02:52:02       39 阅读
  7. Pytorch基础:torch.expand() 和 torch.repeat()

    2023-12-28 02:52:02       37 阅读
  8. Pytorch:torch.optim详解

    2023-12-28 02:52:02       51 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2023-12-28 02:52:02       98 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2023-12-28 02:52:02       106 阅读
  3. 在Django里面运行非项目文件

    2023-12-28 02:52:02       87 阅读
  4. Python语言-面向对象

    2023-12-28 02:52:02       96 阅读

热门阅读

  1. 路由的介绍

    2023-12-28 02:52:02       54 阅读
  2. CentOs7安装 Kafka

    2023-12-28 02:52:02       57 阅读
  3. 面向对象程序设计(泛型)

    2023-12-28 02:52:02       57 阅读
  4. 【vscode插件】之插件图标设置

    2023-12-28 02:52:02       67 阅读
  5. C/C++ const

    2023-12-28 02:52:02       62 阅读
  6. Linux Ubuntu安装nodejs

    2023-12-28 02:52:02       54 阅读
  7. arm day7

    arm day7

    2023-12-28 02:52:02      56 阅读