关于with torch.no_grad:的一些小问题

with torch.no_grad:是截断梯度记录的,新生成的数据的都不记录梯度,但是今天产生了一点小疑惑,如果存在多层函数嵌入,是不是函数内所有的数据都不记录梯度,验证了一下,确实是的。

import torch
x = torch.randn(10, 5, requires_grad = True)
y = torch.randn(10, 5, requires_grad = True)
z = torch.randn(10, 5, requires_grad = True)
def add(x,y,z):
    w = x + y + z
    print(w.requires_grad)
    print(w.grad_fn)
def add2(x,y,z):
    add(x,y,z)
with torch.no_grad():
    add2(x,y,z)
    
add2(x,y,z)
“”“
输出:
False
None
True
<AddBackward0 object at 0x00000250371BED68>
”“”

相关推荐

  1. 关于Mybatis一个问题

    2023-12-21 06:28:02       57 阅读
  2. 关于with torch.no_grad:一些问题

    2023-12-21 06:28:02       59 阅读
  3. 关于缓存一些问题

    2023-12-21 06:28:02       39 阅读
  4. 关于C++一些知识点

    2023-12-21 06:28:02       48 阅读
  5. 关于jupyter一些笔记

    2023-12-21 06:28:02       46 阅读
  6. 关于查找问题一些感悟

    2023-12-21 06:28:02       48 阅读
  7. 关于人员管理问题讨论

    2023-12-21 06:28:02       38 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2023-12-21 06:28:02       94 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2023-12-21 06:28:02       100 阅读
  3. 在Django里面运行非项目文件

    2023-12-21 06:28:02       82 阅读
  4. Python语言-面向对象

    2023-12-21 06:28:02       91 阅读

热门阅读

  1. 对相机位姿 导出 Tum 格式的位姿

    2023-12-21 06:28:02       56 阅读
  2. .env.development是什么

    2023-12-21 06:28:02       61 阅读
  3. vue中的内置指令和自定义指令

    2023-12-21 06:28:02       61 阅读
  4. Flink系列之:Upsert Kafka SQL 连接器

    2023-12-21 06:28:02       61 阅读
  5. 【随想】每日两题Day.21

    2023-12-21 06:28:02       51 阅读
  6. Stable-diffusion WebUI API调用方法

    2023-12-21 06:28:02       70 阅读
  7. 【WeLink群消息机器人webhook介绍】

    2023-12-21 06:28:02       66 阅读
  8. H-ui前端框架 —— layer.js

    2023-12-21 06:28:02       65 阅读
  9. 《Spring Cloud Gateway 技术要点》

    2023-12-21 06:28:02       62 阅读
  10. 医美人脸关键点坐标检测

    2023-12-21 06:28:02       61 阅读