机器学习基础（三）监督学习的进阶探索

除此之外，常用的损失函数还有：平均绝对误差 (MAE)：也用于回归任务，衡量模型预测值与真实值的绝对差异，对异常值不敏感；对数损失 (Log Loss)：用于二元分类任务，评估模型的概率估计与真实标签之间的关系；希望风险损失 (Hinge Loss)：用于支持向量机的二元分类任务，最大化分类边界的间隔。

分类与回归的深入应用

分类任务的实际案例很丰富，例如，电子邮件分类器通过学习标记为垃圾邮件和非垃圾邮件的电子邮件的特征，来预测新邮件的类别。而回归任务的实际案例，如房价预测，模型通过学习房屋的特征如面积、位置等数据和历史价格数据，来预测新房屋的市场价值。

在实际应用中，选择分类或回归方法取决于问题的性质：回归适用于连续数值预测，如股票价格，而分类适用于二元或多类别分类，如垃圾邮件检测。正确选择方法有助于模型更准确地满足任务需求，提高预测结果的可信度。

线性回归实战案例:房价预测

线性回归是一个基本的预测模型，适用于预测与多个变量有线性关系的输出。在房价预测的例子中，开发者将看到如何将这个理论应用于实际数据。

延续上一节关于房价预测的讨论，本节将更深入地探讨如何使用房屋的特征（如面积、位置和房龄）来预测其市场价格。本节案例展示了如何从实际数据中提取特征，以及这些特征如何影响预测结果。

这个代码示例展示了如何使用标准的Python库来加载数据、划分数据集、训练线性回归模型以及评估模型效果。图表中展示了模型预测价格与实际价格之间的关系，从而直观地评估模型性能。线性回归房价预测代码如下：

import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression
import matplotlib.pyplot as plt
# 加载数据
data = pd.read_csv('housing_data.csv')
X = data[['size', 'location', 'age']]
y = data['price']

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3,random_state=42)

# 创建线性回归模型并训练
model = LinearRegression()
model.fit(X_train, y_train)

# 预测和评估
y_pred = model.predict(X_test)
plt.scatter(y_test, y_pred)
plt.xlabel("Actual Prices")
plt.ylabel("Predicted Prices")
plt.title("Actual Prices vs Predicted Prices")
plt.show()

首先，通过pd.read_csv('housing_data.csv')加载名为'housing_data.csv'的数据集。数据集包括了各个房屋的特征，如尺寸、地理位置、房龄等，以及相应的价格信息；其次，从数据集中选择了三个特征：'size'（房屋尺寸）、'location'（地理位置）和'age'（房龄），以及一个目标列'price'（房价）。这些特征将被用于训练和测试模型。

使用train_test_split函数将数据集划分为训练集和测试集，其中测试集占总数据的30%。这个步骤是为了在模型训练完成后，能够用独立的数据来评估模型的性能，以检验其泛化能力。创建一个线性回归模型，通过model = LinearRegression()实例化，并使用训练集数据进行训练，即model.fit(X_train, y_train)。在训练过程中，模型将学习如何根据给定的特征来预测房价。使用训练好的模型对测试集进行预测，将预测结果存储在y_pred中。这一步骤将生成模型对每个测试样本的房价预测值。

最后，通过使用plt.scatter()和matplotlib库，创建一个散点图，将实际房价（y_test）与模型预测的房价（y_pred）进行可视化比较。这个图表有助于直观地了解模型的性能，以及模型是否能够准确地预测房价。如果点在一条对角线上分布，表示模型的预测与实际值非常接近，而点的偏离则代表了预测误差。

决策树的构建与应用

决策树通过一系列规则对数据进行分类。例如，使用决策树对患者数据进行分类，预测疾病类型，代码如下：

from sklearn.tree import DecisionTreeClassifier
from sklearn.metrics import accuracy_score

# 加载数据
# 假设data是Pandas DataFrame，包含特征和标签
X = data.drop('disease', axis=1)
y = data['disease']

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3)

# 创建决策树模型并训练
tree_model = DecisionTreeClassifier()
tree_model.fit(X_train, y_train)

# 进行预测和评估
y_pred = tree_model.predict(X_test)
print("Accuracy:", accuracy_score(y_test, y_pred)

这段代码使用了Scikit-Learn库中的决策树分类器（DecisionTreeClassifier）来构建一个疾病预测模型。首先，从Pandas DataFrame中加载数据，将特征存储在X中，将标签存储在y中。然后，使用train_test_split函数将数据集分成训练集和测试集，其中测试集占总数据的30%。接下来，通过DecisionTreeClassifier()创建一个决策树模型，并使用训练集对其进行训练。最后，使用训练好的模型对测试集进行预测，计算模型的准确性（Accuracy）作为评估指标，并将结果打印出来。

支持向量机(SVM)的高效应用

SVM通过找到最佳超平面来区分不同类别的数据。在文本分类或图像识别等高维数据中应用SVM。使用支持向量机（SVM）进行分类任务的基本步骤代码如下：

import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.svm import SVC
from sklearn.metrics import accuracy_score
# 假设data是含有特征和标签的DataFrame
# 请确保data已经被正确加载和准备好
# 分离特征和标签
X = data.drop('label', axis=1)
y = data['label']
# 数据划分
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
# 创建SVM模型并训练
svm_model = SVC(kernel='linear')
svm_model.fit(X_train, y_train)
# 预测和评估
y_pred = svm_model.predict(X_test)
print("Accuracy:", accuracy_score(y_test, y_pred))

这段代码演示了使用Scikit-Learn中的SVM分类器构建分类模型的过程。首先，从DataFrame中提取特征和标签，然后将数据集分为训练集和测试集。接着，创建SVM模型，使用线性核函数进行训练，并对测试集进行预测。最后，计算并打印出模型的准确性，以评估模型性能。这段代码涵盖了典型的机器学习任务步骤。

股票市场预测实战

金融领域中，股票市场预测一直是一个富有挑战性的课题，因为它受到多种不可预测因素的影响，如政治事件、经济数据发布、公司业绩报告以及市场情绪等。然而，借助监督学习的方法，我们可以通过分析历史股票价格数据和相关因素，构建模型来预测未来的股票走势

应用概述

使用历史数据来预测股票市场的未来趋势是一个典型的监督学习应用场景，其中涉及到复杂的数据分析和特征工程。我们首先需要收集历史股票价格数据，这些数据通常包括开盘价、最高价、最低价、收盘价以及成交量等。此外，还可以包括一些宏观经济指标、公司财报数据等，以提供更全面的分析视角。可以从数据文件夹下stock_market_data.csv获得模拟数据集。

数据加载

分析历史股价数据，包括开盘价、收盘价、最高价、最低价以及交易量等。从数据文件夹下stock_market_data.csv加载数据集，使用Pandas库的read_csv()函数读取CSV文件，代码如下：

 import pandas as pd    #导入Pandas模块
 # 加载股票市场数据
 stock_data = pd.read_csv('stock_market_data.csv')  #加载数据集
 print(stock_data.head())   #打印数据集的前5行

特征工程

从原始数据中提取有用的特征，例如移动平均线、相对强弱指数（RSI）等技术指标。提取特征数据的代码如下：

 # 计算简单移动平均线（SMA）和相对强弱指数（RSI）
 stock_data['SMA'] = stock_data['Close'].rolling(window=15).mean()
 stock_data['RSI'] = compute_RSI(stock_data['Close'], 14) 
 # 假设compute_RSI是一个计算RSI的函数

模型选择

讨论不同的预测模型，如线性回归、时间序列分析（如ARIMA模型）和机器学习方法（如随机森林和神经网络）。由于股票价格预测是一个时间序列问题，我们选择使用线性回归模型作为起始点。这是一个简单但有效的模型，适合初步尝试和基线建立。代码如下：

from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_squared_error

# 使用开盘价、高、低、交易量以及计算的SMA和RSI作为特征
X = stock_data[['Open', 'High', 'Low', 'Volume', 'SMA', 'RSI']]
y = stock_data['Close']

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2,random_state=0)

# 创建线性回归模型
model = LinearRegression()
model.fit(X_train, y_train)

# 进行预测
y_pred = model.predict(X_test)

这段代码利用Scikit-Learn库中的线性回归模型，使用开盘价、最高价、最低价、交易量、SMA和RSI等多个特征，构建了一个股票价格预测模型。它将数据分为训练集和测试集，通过线性回归模型对训练集进行训练，并使用该模型对测试集进行预测，最终可用于评估模型的性能表现

性能评估

使用诸如均方误差（MSE）、绝对平均误差（MAE）等指标来评估模型的准确性。在这个例子中，我们使用均方误差（MSE）作为评估指标。它可以衡量预测值与实际股价之间的平均差异。

 mse = mean_squared_error(y_test, y_pred)
 print(f'Mean Squared Error: {mse}')

下一节我们将进行非监督学习的进阶探索

机器学习基础（四）非监督学习的进阶探索-CSDN博客非监督学习像一位探险家，挖掘未标记数据的未知领域。它不依赖预先定义的类别或标签，而是试图揭示数据自身的结构和关系。这种学习方式在处理复杂数据集时尤其有价值，因为它能发现人类可能未曾预见的模式和联系。https://blog.csdn.net/qq_52213943/article/details/136188233?spm=1001.2014.3001.5502-----------------

以上，欢迎点赞收藏、评论区交流

机器学习基础（三）监督学习的进阶探索

监督学习

数据集的构成与模型学习

损失函数的选择与应用