【人工智能】逻辑回归(一)

目录

一、在Jupyter Notebook中新建Python运行环境,以单元格为单位运行代码,解释每行代码的含义,分析运行结果。

1. 测试运行代码版.ipynb

1.1 导入数据集

1.2 初始化列表

1.3 可视化

1.4 对数据进行处理

1.5 定义sigmoid 函数

1.6 使用逻辑回归的损失函数

1.7 定义梯度下降函数 gradAscent

1.8 迭代更新θ参数,同时计算并记录每次迭代的损失值

1.9 训练模型并输出θ参数向量 ws

1.10 绘制分类结果如下

1.11 绘制损失函数的曲线图

2 测试运行代码版.ipynb

2.1 导入数据集

2.2 训练线性逻辑回归模型

2.3 画出散点图和线性逻辑回归的决策边界

二、梯度下降算法和Sklearn库都可以用来实现线性逻辑回归模型,二者有各自的优缺点。

1. 梯度下降算法的优缺点

2. Sklearn库的优缺点


一、在Jupyter Notebook中新建Python运行环境,以单元格为单位运行代码,解释每行代码的含义,分析运行结果。

1. 测试运行代码版.ipynb

1.1 导入数据集

1.2 初始化列表

1.3 可视化

1.4 对数据进行处理

给X添加一列全为1的数据:通过 np.ones((len(x_data),1)) 创建了一个形状为(样本数量, 1) 的全为1的矩阵,作为一列新的特征数据。然后使用 np.concatenate() 函数将原始特征数据 x_data 和新的特征数据连接起来,axis=1 表示按列进行连接,最终得到新的特征数据 X_data。

1.5 定义sigmoid 函数

该函数将输入的值 x 映射到 [0,1] 范围内

1.6 使用逻辑回归的损失函数

根据预测的概率值和实际标签值计算损失。

1.7 定义梯度下降函数 gradAscent

用于更新θ参数以最小化损失函数。在每次迭代中,根据学习率和损失函数的梯度更新θ参数   

1.8 迭代更新θ参数,同时计算并记录每次迭代的损失值

最终返回更新后的θ参数和损失列表。

1.9 训练模型并输出θ参数向量 ws

1.10 绘制分类结果如下

1.11 绘制损失函数的曲线图

2 测试运行代码版.ipynb

2.1 导入数据集

之后到画图的步骤和1一样。

2.2 训练线性逻辑回归模型

2.3 画出散点图和线性逻辑回归的决策边界

得到准确率如下:

二、梯度下降算法和Sklearn库都可以用来实现线性逻辑回归模型,二者有各自的优缺点。

1. 梯度下降算法的优缺点

优点

(1)梯度下降算法是一种通用的优化算法,可以应用到多种模型的优化中;

(2)能方便地处理非线性模型的优化问题;

(3)梯度下降算法是数据驱动的方法,更适用于数据量较大或特征较多的情况。

缺点

(1)需要多次迭代才能收敛,并且要求步长设置合理,否则可能会得到局部最优解

(2)梯度下降算法通常需要手动选择学习率和迭代次数参数

2. Sklearn库的优缺点

优点

(1)Sklearn库已经封装了训练流程,只需要输入数据即可完成训练;

(2)提供了大量的模型评估指标和工具函数,方便模型的评估和调参;

(3)还提供了并行处理、特征选择等功能,可以进一步提升模型效果

缺点

(1)Sklearn库是一种黑箱方法不能深入理解模型的内部原理

(2)适用于标准的机器学习问题,但对于特殊需求或非标准数据集可能需要自己实现算法。

相关推荐

  1. 人工智能底层自行实现篇3——逻辑回归(下)

    2024-07-14 16:24:02       23 阅读
  2. 人工智能底层自行实现篇3——逻辑回归(上)

    2024-07-14 16:24:02       32 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-07-14 16:24:02       66 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-07-14 16:24:02       70 阅读
  3. 在Django里面运行非项目文件

    2024-07-14 16:24:02       57 阅读
  4. Python语言-面向对象

    2024-07-14 16:24:02       68 阅读

热门阅读

  1. UDP怎么实现可靠传输

    2024-07-14 16:24:02       27 阅读
  2. Unity3D开发之传送带实现

    2024-07-14 16:24:02       24 阅读
  3. Python:Scrapyd设置服务器账号密码basic authentication

    2024-07-14 16:24:02       23 阅读
  4. Python爬虫-爬取三国演义文本数据-bs4

    2024-07-14 16:24:02       23 阅读
  5. CSS 单位中 px、em 和 rem 的区别?

    2024-07-14 16:24:02       20 阅读
  6. LeetCode 第406场周赛个人题解

    2024-07-14 16:24:02       17 阅读
  7. 刷题2路2线

    2024-07-14 16:24:02       18 阅读
  8. 代码随想录:图论_01基础

    2024-07-14 16:24:02       24 阅读
  9. nng协议分析之互斥锁pthread_mutexattr_settype函数

    2024-07-14 16:24:02       22 阅读
  10. 34. AdaGrad算法

    2024-07-14 16:24:02       25 阅读
  11. jQuery标签定位方法

    2024-07-14 16:24:02       26 阅读
  12. LruCache、Glide和SmartRefreshLayout使用总结

    2024-07-14 16:24:02       27 阅读
  13. [NeetCode 150] Merge K Sorted Linked Lists

    2024-07-14 16:24:02       26 阅读
  14. AWS S3 基本概念

    2024-07-14 16:24:02       24 阅读
  15. 大型土木工程项目灾害防御规划与风险评估系统

    2024-07-14 16:24:02       21 阅读