|
|
# 开始使用Python和Scikit学习回归模型
|
|
|
|
|
|
|
|
|
|
|
|
> 作者[Tomomi Imura](https://www.twitter.com/girlie_mac)
|
|
|
|
|
|
## [课前测](https://jolly-sea-0a877260f.azurestaticapps.net/quiz/9/)
|
|
|
## 介绍
|
|
|
|
|
|
在这四节课中，你将了解如何构建回归模型。我们将很快讨论这些是什么。但在你做任何事情之前，请确保你有合适的工具来开始这个过程！
|
|
|
|
|
|
在本课中，你将学习如何：
|
|
|
|
|
|
- 为本地机器学习任务配置你的计算机。
|
|
|
- 使用Jupyter notebooks。
|
|
|
- 使用Scikit-learn，包括安装。
|
|
|
- 通过动手练习探索线性回归。
|
|
|
|
|
|
## 安装和配置
|
|
|
|
|
|
[](https://youtu.be/7EXd4_ttIuw "在 Visual Studio Code中使用 Python")
|
|
|
|
|
|
> 🎥 单击上图观看视频：在VS Code中使用Python。
|
|
|
|
|
|
1. **安装 Python**。确保你的计算机上安装了[Python](https://www.python.org/downloads/)。你将在许多数据科学和机器学习任务中使用 Python。大多数计算机系统已经安装了Python。也有一些有用的[Python编码包](https://code.visualstudio.com/learn/educations/installers?WT.mc_id=academic-15963-cxa)可用于简化某些用户的设置。
|
|
|
|
|
|
然而，Python的某些用法需要一个版本的软件，而其他用法则需要另一个不同的版本。 因此，在[虚拟环境](https://docs.python.org/3/library/venv.html)中工作很有用。
|
|
|
|
|
|
2. **安装 Visual Studio Code**。确保你的计算机上安装了Visual Studio Code。按照这些说明[安装 Visual Studio Code](https://code.visualstudio.com/)进行基本安装。在本课程中，你将在Visual Studio Code中使用Python，因此你可能想复习如何[配置 Visual Studio Code](https://docs.microsoft.com/learn/modules/python-install-vscode?WT.mc_id=academic-15963-cxa)用于Python开发。
|
|
|
|
|
|
> 通过学习这一系列的 [学习模块](https://docs.microsoft.com/users/jenlooper-2911/collections/mp1pagggd5qrq7?WT.mc_id=academic-15963-cxa)熟悉Python
|
|
|
|
|
|
3. **按照[这些说明]安装Scikit learn**(https://scikit-learn.org/stable/install.html)。由于你需要确保使用Python3，因此建议你使用虚拟环境。注意，如果你是在M1 Mac上安装这个库，在上面链接的页面上有特别的说明。
|
|
|
|
|
|
4. **安装Jupyter Notebook**。你需要[安装Jupyter包](https://pypi.org/project/jupyter/)。
|
|
|
|
|
|
## 你的ML工作环境
|
|
|
|
|
|
你将使用**notebooks**开发Python代码并创建机器学习模型。这种类型的文件是数据科学家的常用工具，可以通过后缀或扩展名`.ipynb`来识别它们。
|
|
|
|
|
|
Notebooks是一个交互式环境，允许开发人员编写代码并添加注释并围绕代码编写文档，这对于实验或面向研究的项目非常有帮助。
|
|
|
|
|
|
### 练习 - 使用notebook
|
|
|
|
|
|
1. 在Visual Studio Code中打开_notebook.ipynb_。
|
|
|
|
|
|
Jupyter服务器将以python3+启动。你会发现notebook可以“运行”的区域、代码块。你可以通过选择看起来像播放按钮的图标来运行代码块。
|
|
|
|
|
|
2. 选择`md`图标并添加一点markdown，输入文字**#Welcome to your notebook**。
|
|
|
|
|
|
接下来，添加一些Python代码。
|
|
|
|
|
|
1. 在代码块中输入**print("hello notebook")**。
|
|
|
|
|
|
2. 选择箭头运行代码。
|
|
|
|
|
|
你应该看到打印的语句：
|
|
|
|
|
|
```output
|
|
|
hello notebook
|
|
|
```
|
|
|
|
|
|
|
|
|
|
|
|
你可以为你的代码添加注释，以便notebook可以自描述。
|
|
|
|
|
|
✅ 想一想web开发人员的工作环境与数据科学家的工作环境有多大的不同。
|
|
|
|
|
|
## 启动并运行Scikit-learn
|
|
|
|
|
|
现在Python已在你的本地环境中设置好，并且你对Jupyter notebook感到满意，让我们同样熟悉Scikit-learn（在“science”中发音为“sci”）。 Scikit-learn提供了[大量的API](https://scikit-learn.org/stable/modules/classes.html#api-ref)来帮助你执行ML任务。
|
|
|
|
|
|
根据他们的[网站](https://scikit-learn.org/stable/getting_started.html)，“Scikit-learn是一个开源机器学习库，支持有监督和无监督学习。它还提供了各种模型拟合工具、数据预处理、模型选择和评估以及许多其他实用程序。”
|
|
|
|
|
|
在本课程中，你将使用Scikit-learn和其他工具来构建机器学习模型，以执行我们所谓的“传统机器学习”任务。我们特意避免了神经网络和深度学习，因为它们在我们即将推出的“面向初学者的人工智能”课程中得到了更好的介绍。
|
|
|
|
|
|
Scikit-learn使构建模型和评估它们的使用变得简单。它主要侧重于使用数字数据，并包含几个现成的数据集用作学习工具。它还包括供学生尝试的预建模型。让我们探索加载预先打包的数据和使用内置的estimator first ML模型和Scikit-learn以及一些基本数据的过程。
|
|
|
|
|
|
## 练习 - 你的第一个Scikit-learn notebook
|
|
|
|
|
|
> 本教程的灵感来自Scikit-learn网站上的[线性回归示例](https://scikit-learn.org/stable/auto_examples/linear_model/plot_ols.html#sphx-glr-auto-examples-linear-model-plot-ols-py)。
|
|
|
|
|
|
在与本课程相关的_notebook.ipynb_文件中，通过点击“垃圾桶”图标清除所有单元格。
|
|
|
|
|
|
在本节中，你将使用一个关于糖尿病的小数据集，该数据集内置于Scikit-learn中以用于学习目的。想象一下，你想为糖尿病患者测试一种治疗方法。机器学习模型可能会帮助你根据变量组合确定哪些患者对治疗反应更好。即使是非常基本的回归模型，在可视化时，也可能会显示有助于组织理论临床试验的变量信息。
|
|
|
|
|
|
✅ 回归方法有很多种，你选择哪一种取决于你正在寻找的答案。如果你想预测给定年龄的人的可能身高，你可以使用线性回归，因为你正在寻找**数值**。如果你有兴趣了解某种菜肴是否应被视为素食主义者，那么你正在寻找**类别分配**，以便使用逻辑回归。稍后你将了解有关逻辑回归的更多信息。想一想你可以对数据提出的一些问题，以及这些方法中的哪一个更合适。
|
|
|
|
|
|
让我们开始这项任务。
|
|
|
|
|
|
### 导入库
|
|
|
|
|
|
对于此任务，我们将导入一些库：
|
|
|
|
|
|
- **matplotlib**。这是一个有用的[绘图工具](https://matplotlib.org/)，我们将使用它来创建线图。
|
|
|
- **numpy**。 [numpy](https://numpy.org/doc/stable/user/whatisnumpy.html)是一个有用的库，用于在Python中处理数字数据。
|
|
|
- **sklearn**。这是Scikit-learn库。
|
|
|
|
|
|
导入一些库来帮助你完成任务。
|
|
|
|
|
|
1. 通过输入以下代码添加导入：
|
|
|
|
|
|
```python
|
|
|
import matplotlib.pyplot as plt
|
|
|
import numpy as np
|
|
|
from sklearn import datasets, linear_model, model_selection
|
|
|
```
|
|
|
|
|
|
在上面的代码中，你正在导入`matplottlib`、`numpy`，你正在从`sklearn`导入`datasets`、`linear_model`和`model_selection`。 `model_selection`用于将数据拆分为训练集和测试集。
|
|
|
|
|
|
### 糖尿病数据集
|
|
|
|
|
|
内置的[糖尿病数据集](https://scikit-learn.org/stable/datasets/toy_dataset.html#diabetes-dataset)包含442个围绕糖尿病的数据样本，具有10个特征变量，其中包括：
|
|
|
|
|
|
age：岁数
|
|
|
bmi：体重指数
|
|
|
bp：平均血压
|
|
|
s1 tc：T细胞（一种白细胞）
|
|
|
|
|
|
✅ 该数据集包括“性别”的概念，作为对糖尿病研究很重要的特征变量。许多医学数据集包括这种类型的二元分类。想一想诸如此类的分类如何将人群的某些部分排除在治疗之外。
|
|
|
|
|
|
现在，加载X和y数据。
|
|
|
|
|
|
> 🎓 请记住，这是监督学习，我们需要一个命名为“y”的目标。
|
|
|
|
|
|
在新的代码单元中，通过调用`load_diabetes()`加载糖尿病数据集。输入`return_X_y=True`表示`X`将是一个数据矩阵，而`y`将是回归目标。
|
|
|
|
|
|
1. 添加一些打印命令来显示数据矩阵的形状及其第一个元素：
|
|
|
|
|
|
```python
|
|
|
X, y = datasets.load_diabetes(return_X_y=True)
|
|
|
print(X.shape)
|
|
|
print(X[0])
|
|
|
```
|
|
|
|
|
|
作为响应返回的是一个元组。你正在做的是将元组的前两个值分别分配给`X`和`y`。了解更多 [关于元组](https://wikipedia.org/wiki/Tuple)。
|
|
|
|
|
|
你可以看到这个数据有442个项目，组成了10个元素的数组：
|
|
|
|
|
|
```text
|
|
|
(442, 10)
|
|
|
[ 0.03807591 0.05068012 0.06169621 0.02187235 -0.0442235 -0.03482076
|
|
|
-0.04340085 -0.00259226 0.01990842 -0.01764613]
|
|
|
```
|
|
|
|
|
|
✅ 稍微思考一下数据和回归目标之间的关系。线性回归预测特征X和目标变量y之间的关系。你能在文档中找到糖尿病数据集的[目标](https://scikit-learn.org/stable/datasets/toy_dataset.html#diabetes-dataset)吗？鉴于该目标，该数据集展示了什么？
|
|
|
|
|
|
2. 接下来，通过使用numpy的`newaxis`函数将其排列到一个新数组中来选择要绘制的该数据集的一部分。我们将使用线性回归根据它确定的模式在此数据中的值之间生成一条线。
|
|
|
|
|
|
```python
|
|
|
X = X[:, np.newaxis, 2]
|
|
|
```
|
|
|
|
|
|
✅ 随时打印数据以检查其形状。
|
|
|
|
|
|
3. 现在你已准备好绘制数据，你可以查看机器是否可以帮助确定此数据集中数字之间的逻辑分割。为此你需要将数据(X)和目标(y)拆分为测试集和训练集。Scikit-learn有一个简单的方法来做到这一点；你可以在给定点拆分测试数据。
|
|
|
|
|
|
```python
|
|
|
X_train, X_test, y_train, y_test = model_selection.train_test_split(X, y, test_size=0.33)
|
|
|
```
|
|
|
|
|
|
4. 现在你已准备好训练你的模型！加载线性回归模型并使用`model.fit()`使用X和y训练集对其进行训练：
|
|
|
|
|
|
```python
|
|
|
model = linear_model.LinearRegression()
|
|
|
model.fit(X_train, y_train)
|
|
|
```
|
|
|
|
|
|
✅ `model.fit()`是一个你会在许多机器学习库（例如 TensorFlow）中看到的函数
|
|
|
|
|
|
5. 然后，使用函数`predict()`，使用测试数据创建预测。这将用于绘制数据组之间的线
|
|
|
|
|
|
```python
|
|
|
y_pred = model.predict(X_test)
|
|
|
```
|
|
|
|
|
|
6. 现在是时候在图中显示数据了。Matplotlib是完成此任务的非常有用的工具。创建所有X和y测试数据的散点图，并使用预测在模型的数据分组之间最合适的位置画一条线。
|
|
|
|
|
|
```python
|
|
|
plt.scatter(X_test, y_test, color='black')
|
|
|
plt.plot(X_test, y_pred, color='blue', linewidth=3)
|
|
|
plt.show()
|
|
|
```
|
|
|
|
|
|
|
|
|
|
|
|
✅ 想一想这里发生了什么。一条直线穿过许多小数据点，但它到底在做什么？你能看到你应该如何使用这条线来预测一个新的、未见过的数据点对应的y轴值吗？尝试用语言描述该模型的实际用途。
|
|
|
|
|
|
恭喜，你构建了第一个线性回归模型，使用它创建了预测，并将其显示在绘图中！
|
|
|
|
|
|
---
|
|
|
## 🚀挑战
|
|
|
|
|
|
从这个数据集中绘制一个不同的变量。提示：编辑这一行：`X = X[:, np.newaxis, 2]`。鉴于此数据集的目标，你能够发现糖尿病作为一种疾病的进展情况吗？
|
|
|
## [课后测](https://jolly-sea-0a877260f.azurestaticapps.net/quiz/10/)
|
|
|
|
|
|
## 复习与自学
|
|
|
|
|
|
在本教程中，你使用了简单线性回归，而不是单变量或多元线性回归。阅读一些关于这些方法之间差异的信息，或查看[此视频](https://www.coursera.org/lecture/quantifying-relationships-regression-models/linear-vs-nonlinear-categorical-variables-ai2Ef)
|
|
|
|
|
|
阅读有关回归概念的更多信息，并思考这种技术可以回答哪些类型的问题。用这个[教程](https://docs.microsoft.com/learn/modules/train-evaluate-regression-models?WT.mc_id=academic-15963-cxa)加深你的理解。
|
|
|
|
|
|
## 任务
|
|
|
|
|
|
[不同的数据集](../assignment.md)
|
