类别朴素贝叶斯CategoricalNB和西瓜数据集

1 CategoricalNB原理以及用法

（1）具体原理
具体原理可看：贝叶斯分类器原理
sklearn之CategoricalNB对条件概率的原理如下：
$$P(x_i=k|y)=\frac{N_{y,k}+\alpha }{N_y+\alpha n_i}$$
其中：

• $N_{y,k}$是在类别y下特征$x_i$取值为k的样本数。
• $N_y$ 是类别y下的总样本数。
• $\alpha$是平滑参数，用来避免零概率，如果我们将$\alpha$设置为1，则这个平滑叫做拉普拉斯平滑，如果$\alpha$小于1，则我们把它叫做利德斯通平滑。
• $n_i$是特征$x_i$的可能取值的数量。

（2）CategoricalNB用法
之后会有详细例子，现在先看用法

class sklearn.naive_bayes.CategoricalNB(*, alpha=1.0, fit_prior=True, class_prior=None)

参数说明：

属性说明：

方法说明：

对于X矩阵和y矩阵的要求如下：

2 数据集

2.1 西瓜数据集

要对下述的数据集转换成特征矩阵X和标签类别y，则需要认识两种编码

2.2 LabelEncoder

class sklearn.preprocessing.LabelEncoder

• 对目标标签进行编码，其值介于0和n_classes-1之间。
• 该转换器应用于编码目标值，即y，而不是输入X。

常用方法：

对于y矩阵的要求如下：

2.3 OrdinalEncoder

class sklearn.preprocessing.OrdinalEncoder(*, categories='auto', dtype=<class 'numpy.float64'>)

• 将分类特征编码为整数数组。
• 该转换器的输入应为整数或字符串之类的数组，表示分类（离散）特征所采用的值。要素将转换为序数整数。这将导致每个要素的一列整数（0到n_categories-1）。

参数说明如下：

常用方法有：

对X矩阵的要求如下：

3 代码实现

import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import LabelEncoder, OrdinalEncoder
from sklearn.naive_bayes import CategoricalNB

# 第一步:创建数据集
data = {
    '色泽': ['青绿', '乌黑', '乌黑', '青绿', '浅白', '青绿', '乌黑', '乌黑', '乌黑', '青绿', '浅白', '浅白', '青绿', '浅白', '乌黑', '浅白', '青绿'],
    '根蒂': ['蜷缩', '蜷缩', '蜷缩', '蜷缩', '蜷缩', '稍蜷', '稍蜷', '稍蜷', '稍蜷', '硬挺', '硬挺', '蜷缩', '稍蜷', '稍蜷', '稍蜷', '蜷缩', '蜷缩'],
    '敲击': ['浊响', '沉闷', '浊响', '沉闷', '浊响', '浊响', '浊响', '浊响', '沉闷', '清脆', '清脆', '浊响', '浊响', '沉闷', '浊响', '浊响', '沉闷'],
    '纹理': ['清晰', '清晰', '清晰', '清晰', '清晰', '清晰', '稍糊', '清晰', '稍糊', '清晰', '模糊', '模糊', '稍糊', '稍糊', '清晰', '模糊', '稍糊'],
    '脐部': ['凹陷', '凹陷', '凹陷', '凹陷', '凹陷', '稍凹', '稍凹', '稍凹', '稍凹', '平坦', '平坦', '平坦', '凹陷', '凹陷', '稍凹', '平坦', '稍凹'],
    '触感': ['硬滑', '硬滑', '硬滑', '硬滑', '硬滑', '软粘', '软粘', '硬滑', '硬滑', '软粘', '硬滑', '软粘', '硬滑', '硬滑', '软粘', '硬滑', '硬滑'],
    '好坏': ['好瓜', '好瓜', '好瓜', '好瓜', '好瓜', '好瓜', '好瓜', '好瓜', '坏瓜', '坏瓜', '坏瓜', '坏瓜', '坏瓜', '坏瓜', '坏瓜', '坏瓜', '坏瓜']
}

df = pd.DataFrame(data)

# 第二步：编码

# 标签编码
label_encoder = LabelEncoder()
df['好坏'] = label_encoder.fit_transform(df['好坏'])

# 对分类特征进行Ordinal编码
ordinal_encoder = OrdinalEncoder()
categorical_features = df.columns[:-1]  # 除最后一列“好坏”之外的所有列
df[categorical_features] = ordinal_encoder.fit_transform(df[categorical_features])

# 确定特征X和标签y
X = df.drop('好坏', axis=1)
y = df['好坏']


# 第三步：划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)

# 第四步：训练模型
model = CategoricalNB()
model.fit(X_train, y_train)

# 输出预测概率
probabilities = model.predict_proba(X_test)
print("Probabilities:\n", probabilities)
print('精确度:', model.score(X_test, y_test))

首先看一下X矩阵和y矩阵，如图所示：
X矩阵

y矩阵

代码准确率结果如下：