From 6fbfaf3a64023b64023122e3c3f760d30cf794fb Mon Sep 17 00:00:00 2001
From: benjas <909336740@qq.com>
Date: Mon, 28 Dec 2020 16:55:32 +0800
Subject: [PATCH] Add comment of Introduction

---
 ...ºç­‘能æº�利用率预测-checkpoint.ipynb | 144 +++++++++++++++---
 ...2_建模_建筑能�利用率预测.ipynb | 144 +++++++++++++++---
 2 files changed, 246 insertions(+), 42 deletions(-)

diff --git a/机器学习竞赛实战_优胜解决方案/建筑能�利用率预测/.ipynb_checkpoints/2_建模_建筑能�利用率预测-checkpoint.ipynb b/机器学习竞赛实战_优胜解决方案/建筑能�利用率预测/.ipynb_checkpoints/2_建模_建筑能�利用率预测-checkpoint.ipynb
index 5e87960..22062fc 100644
--- a/机器学习竞赛实战_优胜解决方案/建筑能�利用率预测/.ipynb_checkpoints/2_建模_建筑能�利用率预测-checkpoint.ipynb
+++ b/机器学习竞赛实战_优胜解决方案/建筑能�利用率预测/.ipynb_checkpoints/2_建模_建筑能�利用率预测-checkpoint.ipynb
@@ -1238,15 +1238,34 @@
    "cell_type": "markdown",
    "metadata": {},
    "source": [
-    "### 调�"
+    "## 模型优化——超�数调优\n",
+    "\n",
+    "**在机器学习中，优化模型�味�为一个特定的问题找到一组最佳的超�数。**\n",
+    "\n",
+    "* 模型超�数被认为是机器学习算法的最佳�数，由数�科学家在训练�对其进行调整。例如�机林中的树数，或K近邻回归中使用的邻居数。\n",
+    "* 模型�数是模型在训练过程中学习到的，例如线性回归中的��。\n",
+    "\n",
+    "**[调整模型超�数](http://scikit-learn.org/stable/modules/grid_search.html)控制模型中欠拟�与过拟�的平衡。**\n",
+    "\n",
+    "* 我们�以�试通过建立一个更��的模型�纠正欠拟�，例如在�机森林中使用更多的树，或者在神�网络中使用更多的层。欠拟�的模型具有很高的�差，当我们的模型没有足够的能力（自由度）�学习特�和目标之间的关系时，就会出现这�情况。\n",
+    "* 我们�以�试通过�制模型的��性和应用正则化�纠正过度拟�。这�能�味��少多项�回归的次数，或者在神�网络中�少网络层次等。过度拟�的模型具有很高的方差，并且实际上已�记�了训练集。欠拟�和过拟�都会导致测试集的泛化性能较差。"
    ]
   },
   {
    "cell_type": "markdown",
    "metadata": {},
    "source": [
-    "### Cross Validation\n",
-    "<img src=\"data/kfold_cv.png\" width=\"70%\">"
+    "### 基于�机�索和交�验�的�数调优\n",
+    "\n",
+    "* �机�索指的是我们选择超�数进行评估的方法：定义一系列选项，然��机选择组�进行�试。这与网格�索形�对比，网格�索评估我们指定的�个组�。一般�说，当我们对最佳模型超�数的知识有�时，�机�索会更好，我们�以使用�机�索缩�选项范围，然�使用网格�索�选择范围更有�的选项。\n",
+    "\n",
+    "* 交�验�是用�评估超�数性能的方法。我们使用K-Fold交�验�，而�是将训练集分��独的训练集和验�集，从而�少我们�以使用的训练数��。这�味�将训练数�分�K个折�，然��过一个迭代过程，我们首先对K-1个折�进行训练，然�在第K个折�上评估性能。我们��这个过程K次，所以最终我们将在训练数�中的�个例�上进行测试，关键是我们�测试的�个迭代都是在我们没有训练的数�上进行的。在K次交�验�结�时，我们将K次迭代的平�误差作为最终的性能度�，对所有的训练数�进行训练。然�，我们记录的性能用于比较超�数的��组�。\n",
+    "\n",
+    "使用k=5进行k折交�验�的图片如下所示：\n",
+    "\n",
+    "<img src=\"data/kfold_cv.png\" width=\"70%\">\n",
+    "\n",
+    "我们将实现�机�索和交�验�，以选择最佳的超�数的GBDT回归。我们首先定义一个网格，然�形�一个迭代过程：从网格中�机抽�一组超�数，使用4折交�验�评估超�数，然�选择性能最好的超�数。"
    ]
   },
   {
@@ -1283,6 +1302,27 @@
     "                       'max_features': max_features}  "
    ]
   },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "我们选择了6个��的超�数�调节GBDT回归。这些都会以��的方�影�模型，而这些方�很难��确定，�找到针对特定问题的最佳组�，唯一的方法就是测试它们��了解超�数，建议查看[Scikit Learn文档](https://scikit-learn.org/stable/modules/generated/sklearn.ensemble.GradientBoostingRegressor.html#sklearn.ensemble.GradientBoostingRegressor)。现在，��知�我们正在努力寻找超�数的最佳组�，因为没有�论告诉我们哪一个最有效，我们�需�评估它们，就��行一个实验一样�\n",
+    "\n",
+    "我们创建�机�索对象，并传入以下�数：\n",
+    "\n",
+    "* `estimator`:所选的模型\n",
+    "* `param_distributions`:我们定义的�数分布\n",
+    "* `cv`: 用于k-fold交�验�的折�数\n",
+    "* `n_iter`:��试的��组�的数�\n",
+    "* `scoring`：评估使用的指标\n",
+    "* `n_jobs`：并行�行的内核数（-1将使用所有�用的）\n",
+    "* `verbose`：显示�数信�（1显示有�数�）\n",
+    "* `return_train_score`：返回�个交�验�折�的训练分数\n",
+    "* `random_state`：使用的固定的�机数��数，以便�次拆分的数�相�\n",
+    "\n",
+    "�机�索对象的训练方法与任何其他scikit学习模型的方法相�。训练�，我们�以比较所有��的超�数组�，找出性能最好的一个。"
+   ]
+  },
   {
    "cell_type": "markdown",
    "metadata": {},
@@ -1790,7 +1830,7 @@
     }
    ],
    "source": [
-    "# 获�所有cv结果并按测试性能排�\n",
+    "# Get all of the cv results and sort by the test performance\n",
     "random_results = pd.DataFrame(random_cv.cv_results_).sort_values('mean_test_score', ascending = False)\n",
     "\n",
     "random_results.head(10)"
@@ -1824,6 +1864,25 @@
     "random_cv.best_estimator_"
    ]
   },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "最佳GBDT模型具有以下超�数：\n",
+    "* `loss = lad`\n",
+    "* `n_estimators = 500`\n",
+    "* `max_depth = 5`\n",
+    "* `min_samples_leaf = 6`\n",
+    "* `min_samples_split = 6`\n",
+    "* `max_features = None` \n",
+    "\n",
+    "使用�机�索是缩��能的超�数范围的好方法。最�，我们�知�哪�组�最有效，现在缩�了选择范围。\n",
+    "\n",
+    "我们�以使用�机�索的结果�其左�值加入到网格�索，以找到超�数中比�机�索的效果最好的那些。\n",
+    "\n",
+    "在这里，我们使用的网格�索�测试n_estimators（树的个数），然�绘制训练和测试性能图，以了解增加树的数�对我们的模型有什么作用。"
+   ]
+  },
   {
    "cell_type": "markdown",
    "metadata": {},
@@ -1839,7 +1898,7 @@
    "metadata": {},
    "outputs": [],
    "source": [
-    "# 创建一系列�评估的树\n",
+    "# Create a range of trees to evaluate\n",
     "trees_grid = {'n_estimators': [100, 150, 200, 250, 300, 350, 400, 450, 500, 550, 600, 650, 700, 750, 800]}\n",
     "\n",
     "model = GradientBoostingRegressor(loss = 'lad', max_depth = 5,\n",
@@ -1848,14 +1907,10 @@
     "                                  max_features = None,\n",
     "                                  random_state = 42)\n",
     "\n",
-    "# 使用树的范围和�机森林模型的网格�索对象\n",
-    "grid_search = GridSearchCV(estimator = model, \n",
-    "                           param_grid=trees_grid, \n",
-    "                           cv = 4, \n",
-    "                           scoring = 'neg_mean_absolute_error', \n",
-    "                           verbose = 1,\n",
-    "                           n_jobs = -1, \n",
-    "                           return_train_score = True)\n"
+    "# Grid Search Object using the trees range and the random forest model\n",
+    "grid_search = GridSearchCV(estimator = model, param_grid=trees_grid, cv = 4, \n",
+    "                           scoring = 'neg_mean_absolute_error', verbose = 1,\n",
+    "                           n_jobs = -1, return_train_score = True)"
    ]
   },
   {
@@ -1936,10 +1991,10 @@
     }
    ],
    "source": [
-    "# 将结果导入数�框\n",
+    "# Get the results into a dataframe\n",
     "results = pd.DataFrame(grid_search.cv_results_)\n",
     "\n",
-    "# 绘制训练误差和测试误差与树木数�的关系图\n",
+    "# Plot the training and testing error vs number of trees\n",
     "figsize(8, 8)\n",
     "plt.style.use('fivethirtyeight')\n",
     "plt.plot(results['param_n_estimators'], -1 * results['mean_test_score'], label = 'Testing Error')\n",
@@ -2160,7 +2215,20 @@
    "cell_type": "markdown",
    "metadata": {},
    "source": [
-    "### 测试模型"
+    "从上�看出，我们的模型是过度拟��训练误差显著低于测试误差，说明该模型对训练数�的学习效果很好，但�能推广到测试数�中。��树木数�的增加，过度拟�的数�也会增加。测试误差和训练误差��树数的增加而��，但训练误差的��速度较快。\n",
+    "\n",
+    "在训练误差和测试误差之间总是有差异的（训练误差总是较低的），但是如果有显著的差异，我们希望通过获得更多的训练数�或通过超�数调整或正则化��低模型的��性��试�少过拟�。对于GBDT回归模型，一些选项包括�少树的数���少�棵树的最大深度以�增加�节点中的最�样本数。如果想进一步研究GBDT�以了解[该文章](http://blog.kaggle.com/2017/01/23/a-kaggle-master-explains-gradient-boosting/)。目�，我们将使用性能最好的模型，并接�它�能会过拟�。"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "### 在测试集上评估模型\n",
+    "\n",
+    "我们使用超�数调整的最佳模型在测试集上进行预测。此�，我们的模型从未�过测试集，因此性能应该是一个很好的指标，表明如果在生产中部署模型，它将如何执行。\n",
+    "\n",
+    "为了进行比较，我们比较默认模型�最优模型的性能。"
    ]
   },
   {
@@ -2188,10 +2256,10 @@
     }
    ],
    "source": [
-    "# 默认模型\n",
+    "# Default model\n",
     "default_model = GradientBoostingRegressor(random_state = 42)\n",
     "\n",
-    "# 选择最佳模型\n",
+    "# Select the best model\n",
     "final_model = grid_search.best_estimator_\n",
     "\n",
     "final_model"
@@ -2260,7 +2328,7 @@
    "cell_type": "markdown",
    "metadata": {},
    "source": [
-    "对比测试结果，训练时间近似，模型得到差�多10%的��。"
+    "对比测试结果，训练时间近似，模型得到差�多10%的��。�明我们的优化是有效的。"
    ]
   },
   {
@@ -2291,6 +2359,15 @@
     "plt.title('Test Values and Predictions');"
    ]
   },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "预测值和真实值近乎密度线较拟�。\n",
+    "\n",
+    "下�的诊断图是残差直方图。�想情况下，我们希望残差是正�分布的，这�味�模型在两个方�（高和低）上都是错误的。"
+   ]
+  },
   {
    "cell_type": "code",
    "execution_count": 34,
@@ -2310,16 +2387,41 @@
    "source": [
     "figsize = (6, 6)\n",
     "\n",
-    "# 计算残差\n",
+    "# Calculate the residuals \n",
     "residuals = final_pred - y_test\n",
     "\n",
-    "# 绘制残差分布直方图\n",
+    "# Plot the residuals in a histogram\n",
     "plt.hist(residuals, color = 'red', bins = 20,\n",
     "         edgecolor = 'black')\n",
     "plt.xlabel('Error'); plt.ylabel('Count')\n",
     "plt.title('Distribution of Residuals');"
    ]
   },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "残差接近正常分布，低端有几个明显的离群点。这表明模型的预测值有远低于真实值的错误。"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "## 总结\n",
+    "在这第一部分中，我们执行了机器学习�程中的几个关键：\n",
+    "\n",
+    "* 建立基础模型，比较多�模型性能指标\n",
+    "* 模型超�数调�，针对问题进行优化\n",
+    "* 在测试集上评估最佳模型\n",
+    "\n",
+    "结果表明，机器学习�以应用于我们的问题，最终的模型能够预测建筑物的能�之星的得分在9.1分以内。我们还看到，超�数调整能够改善模型的性能，尽管在时间投入方��付出相当大的代价。这是一个很好的�醒，正确的特性工程和收集更多的数�（如果�能的�）比微调模型有更大的回报。我们还观察到�行时与精度的�衡，这是我们在设计机器学习模型时必须考虑的许多因素之一。\n",
+    "\n",
+    "我们知�我们的模型是准确的，但是我们知�它为什么会�出这样的预测�？机器学习过程的下一步是至关��的：试图�解模型是如何�出预测的。实现高精度是很好的，但是如果我们能够弄清楚为什么模型能够准确地预测，那么我们就�以利用这些信��更好地�解问题。例如，该模型�赖哪些特��推断能�之星分数？是��以使用此模型进行特�选择，并实现更易于解释的简�模型？\n",
+    "\n",
+    "在最�的notebook中，我们将�试回答这些问题，并从项目中得出最终结论。"
+   ]
+  },
   {
    "cell_type": "code",
    "execution_count": null,
diff --git a/机器学习竞赛实战_优胜解决方案/建筑能�利用率预测/2_建模_建筑能�利用率预测.ipynb b/机器学习竞赛实战_优胜解决方案/建筑能�利用率预测/2_建模_建筑能�利用率预测.ipynb
index 5e87960..22062fc 100644
--- a/机器学习竞赛实战_优胜解决方案/建筑能�利用率预测/2_建模_建筑能�利用率预测.ipynb
+++ b/机器学习竞赛实战_优胜解决方案/建筑能�利用率预测/2_建模_建筑能�利用率预测.ipynb
@@ -1238,15 +1238,34 @@
    "cell_type": "markdown",
    "metadata": {},
    "source": [
-    "### 调�"
+    "## 模型优化——超�数调优\n",
+    "\n",
+    "**在机器学习中，优化模型�味�为一个特定的问题找到一组最佳的超�数。**\n",
+    "\n",
+    "* 模型超�数被认为是机器学习算法的最佳�数，由数�科学家在训练�对其进行调整。例如�机林中的树数，或K近邻回归中使用的邻居数。\n",
+    "* 模型�数是模型在训练过程中学习到的，例如线性回归中的��。\n",
+    "\n",
+    "**[调整模型超�数](http://scikit-learn.org/stable/modules/grid_search.html)控制模型中欠拟�与过拟�的平衡。**\n",
+    "\n",
+    "* 我们�以�试通过建立一个更��的模型�纠正欠拟�，例如在�机森林中使用更多的树，或者在神�网络中使用更多的层。欠拟�的模型具有很高的�差，当我们的模型没有足够的能力（自由度）�学习特�和目标之间的关系时，就会出现这�情况。\n",
+    "* 我们�以�试通过�制模型的��性和应用正则化�纠正过度拟�。这�能�味��少多项�回归的次数，或者在神�网络中�少网络层次等。过度拟�的模型具有很高的方差，并且实际上已�记�了训练集。欠拟�和过拟�都会导致测试集的泛化性能较差。"
    ]
   },
   {
    "cell_type": "markdown",
    "metadata": {},
    "source": [
-    "### Cross Validation\n",
-    "<img src=\"data/kfold_cv.png\" width=\"70%\">"
+    "### 基于�机�索和交�验�的�数调优\n",
+    "\n",
+    "* �机�索指的是我们选择超�数进行评估的方法：定义一系列选项，然��机选择组�进行�试。这与网格�索形�对比，网格�索评估我们指定的�个组�。一般�说，当我们对最佳模型超�数的知识有�时，�机�索会更好，我们�以使用�机�索缩�选项范围，然�使用网格�索�选择范围更有�的选项。\n",
+    "\n",
+    "* 交�验�是用�评估超�数性能的方法。我们使用K-Fold交�验�，而�是将训练集分��独的训练集和验�集，从而�少我们�以使用的训练数��。这�味�将训练数�分�K个折�，然��过一个迭代过程，我们首先对K-1个折�进行训练，然�在第K个折�上评估性能。我们��这个过程K次，所以最终我们将在训练数�中的�个例�上进行测试，关键是我们�测试的�个迭代都是在我们没有训练的数�上进行的。在K次交�验�结�时，我们将K次迭代的平�误差作为最终的性能度�，对所有的训练数�进行训练。然�，我们记录的性能用于比较超�数的��组�。\n",
+    "\n",
+    "使用k=5进行k折交�验�的图片如下所示：\n",
+    "\n",
+    "<img src=\"data/kfold_cv.png\" width=\"70%\">\n",
+    "\n",
+    "我们将实现�机�索和交�验�，以选择最佳的超�数的GBDT回归。我们首先定义一个网格，然�形�一个迭代过程：从网格中�机抽�一组超�数，使用4折交�验�评估超�数，然�选择性能最好的超�数。"
    ]
   },
   {
@@ -1283,6 +1302,27 @@
     "                       'max_features': max_features}  "
    ]
   },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "我们选择了6个��的超�数�调节GBDT回归。这些都会以��的方�影�模型，而这些方�很难��确定，�找到针对特定问题的最佳组�，唯一的方法就是测试它们��了解超�数，建议查看[Scikit Learn文档](https://scikit-learn.org/stable/modules/generated/sklearn.ensemble.GradientBoostingRegressor.html#sklearn.ensemble.GradientBoostingRegressor)。现在，��知�我们正在努力寻找超�数的最佳组�，因为没有�论告诉我们哪一个最有效，我们�需�评估它们，就��行一个实验一样�\n",
+    "\n",
+    "我们创建�机�索对象，并传入以下�数：\n",
+    "\n",
+    "* `estimator`:所选的模型\n",
+    "* `param_distributions`:我们定义的�数分布\n",
+    "* `cv`: 用于k-fold交�验�的折�数\n",
+    "* `n_iter`:��试的��组�的数�\n",
+    "* `scoring`：评估使用的指标\n",
+    "* `n_jobs`：并行�行的内核数（-1将使用所有�用的）\n",
+    "* `verbose`：显示�数信�（1显示有�数�）\n",
+    "* `return_train_score`：返回�个交�验�折�的训练分数\n",
+    "* `random_state`：使用的固定的�机数��数，以便�次拆分的数�相�\n",
+    "\n",
+    "�机�索对象的训练方法与任何其他scikit学习模型的方法相�。训练�，我们�以比较所有��的超�数组�，找出性能最好的一个。"
+   ]
+  },
   {
    "cell_type": "markdown",
    "metadata": {},
@@ -1790,7 +1830,7 @@
     }
    ],
    "source": [
-    "# 获�所有cv结果并按测试性能排�\n",
+    "# Get all of the cv results and sort by the test performance\n",
     "random_results = pd.DataFrame(random_cv.cv_results_).sort_values('mean_test_score', ascending = False)\n",
     "\n",
     "random_results.head(10)"
@@ -1824,6 +1864,25 @@
     "random_cv.best_estimator_"
    ]
   },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "最佳GBDT模型具有以下超�数：\n",
+    "* `loss = lad`\n",
+    "* `n_estimators = 500`\n",
+    "* `max_depth = 5`\n",
+    "* `min_samples_leaf = 6`\n",
+    "* `min_samples_split = 6`\n",
+    "* `max_features = None` \n",
+    "\n",
+    "使用�机�索是缩��能的超�数范围的好方法。最�，我们�知�哪�组�最有效，现在缩�了选择范围。\n",
+    "\n",
+    "我们�以使用�机�索的结果�其左�值加入到网格�索，以找到超�数中比�机�索的效果最好的那些。\n",
+    "\n",
+    "在这里，我们使用的网格�索�测试n_estimators（树的个数），然�绘制训练和测试性能图，以了解增加树的数�对我们的模型有什么作用。"
+   ]
+  },
   {
    "cell_type": "markdown",
    "metadata": {},
@@ -1839,7 +1898,7 @@
    "metadata": {},
    "outputs": [],
    "source": [
-    "# 创建一系列�评估的树\n",
+    "# Create a range of trees to evaluate\n",
     "trees_grid = {'n_estimators': [100, 150, 200, 250, 300, 350, 400, 450, 500, 550, 600, 650, 700, 750, 800]}\n",
     "\n",
     "model = GradientBoostingRegressor(loss = 'lad', max_depth = 5,\n",
@@ -1848,14 +1907,10 @@
     "                                  max_features = None,\n",
     "                                  random_state = 42)\n",
     "\n",
-    "# 使用树的范围和�机森林模型的网格�索对象\n",
-    "grid_search = GridSearchCV(estimator = model, \n",
-    "                           param_grid=trees_grid, \n",
-    "                           cv = 4, \n",
-    "                           scoring = 'neg_mean_absolute_error', \n",
-    "                           verbose = 1,\n",
-    "                           n_jobs = -1, \n",
-    "                           return_train_score = True)\n"
+    "# Grid Search Object using the trees range and the random forest model\n",
+    "grid_search = GridSearchCV(estimator = model, param_grid=trees_grid, cv = 4, \n",
+    "                           scoring = 'neg_mean_absolute_error', verbose = 1,\n",
+    "                           n_jobs = -1, return_train_score = True)"
    ]
   },
   {
@@ -1936,10 +1991,10 @@
     }
    ],
    "source": [
-    "# 将结果导入数�框\n",
+    "# Get the results into a dataframe\n",
     "results = pd.DataFrame(grid_search.cv_results_)\n",
     "\n",
-    "# 绘制训练误差和测试误差与树木数�的关系图\n",
+    "# Plot the training and testing error vs number of trees\n",
     "figsize(8, 8)\n",
     "plt.style.use('fivethirtyeight')\n",
     "plt.plot(results['param_n_estimators'], -1 * results['mean_test_score'], label = 'Testing Error')\n",
@@ -2160,7 +2215,20 @@
    "cell_type": "markdown",
    "metadata": {},
    "source": [
-    "### 测试模型"
+    "从上�看出，我们的模型是过度拟��训练误差显著低于测试误差，说明该模型对训练数�的学习效果很好，但�能推广到测试数�中。��树木数�的增加，过度拟�的数�也会增加。测试误差和训练误差��树数的增加而��，但训练误差的��速度较快。\n",
+    "\n",
+    "在训练误差和测试误差之间总是有差异的（训练误差总是较低的），但是如果有显著的差异，我们希望通过获得更多的训练数�或通过超�数调整或正则化��低模型的��性��试�少过拟�。对于GBDT回归模型，一些选项包括�少树的数���少�棵树的最大深度以�增加�节点中的最�样本数。如果想进一步研究GBDT�以了解[该文章](http://blog.kaggle.com/2017/01/23/a-kaggle-master-explains-gradient-boosting/)。目�，我们将使用性能最好的模型，并接�它�能会过拟�。"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "### 在测试集上评估模型\n",
+    "\n",
+    "我们使用超�数调整的最佳模型在测试集上进行预测。此�，我们的模型从未�过测试集，因此性能应该是一个很好的指标，表明如果在生产中部署模型，它将如何执行。\n",
+    "\n",
+    "为了进行比较，我们比较默认模型�最优模型的性能。"
    ]
   },
   {
@@ -2188,10 +2256,10 @@
     }
    ],
    "source": [
-    "# 默认模型\n",
+    "# Default model\n",
     "default_model = GradientBoostingRegressor(random_state = 42)\n",
     "\n",
-    "# 选择最佳模型\n",
+    "# Select the best model\n",
     "final_model = grid_search.best_estimator_\n",
     "\n",
     "final_model"
@@ -2260,7 +2328,7 @@
    "cell_type": "markdown",
    "metadata": {},
    "source": [
-    "对比测试结果，训练时间近似，模型得到差�多10%的��。"
+    "对比测试结果，训练时间近似，模型得到差�多10%的��。�明我们的优化是有效的。"
    ]
   },
   {
@@ -2291,6 +2359,15 @@
     "plt.title('Test Values and Predictions');"
    ]
   },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "预测值和真实值近乎密度线较拟�。\n",
+    "\n",
+    "下�的诊断图是残差直方图。�想情况下，我们希望残差是正�分布的，这�味�模型在两个方�（高和低）上都是错误的。"
+   ]
+  },
   {
    "cell_type": "code",
    "execution_count": 34,
@@ -2310,16 +2387,41 @@
    "source": [
     "figsize = (6, 6)\n",
     "\n",
-    "# 计算残差\n",
+    "# Calculate the residuals \n",
     "residuals = final_pred - y_test\n",
     "\n",
-    "# 绘制残差分布直方图\n",
+    "# Plot the residuals in a histogram\n",
     "plt.hist(residuals, color = 'red', bins = 20,\n",
     "         edgecolor = 'black')\n",
     "plt.xlabel('Error'); plt.ylabel('Count')\n",
     "plt.title('Distribution of Residuals');"
    ]
   },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "残差接近正常分布，低端有几个明显的离群点。这表明模型的预测值有远低于真实值的错误。"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "## 总结\n",
+    "在这第一部分中，我们执行了机器学习�程中的几个关键：\n",
+    "\n",
+    "* 建立基础模型，比较多�模型性能指标\n",
+    "* 模型超�数调�，针对问题进行优化\n",
+    "* 在测试集上评估最佳模型\n",
+    "\n",
+    "结果表明，机器学习�以应用于我们的问题，最终的模型能够预测建筑物的能�之星的得分在9.1分以内。我们还看到，超�数调整能够改善模型的性能，尽管在时间投入方��付出相当大的代价。这是一个很好的�醒，正确的特性工程和收集更多的数�（如果�能的�）比微调模型有更大的回报。我们还观察到�行时与精度的�衡，这是我们在设计机器学习模型时必须考虑的许多因素之一。\n",
+    "\n",
+    "我们知�我们的模型是准确的，但是我们知�它为什么会�出这样的预测�？机器学习过程的下一步是至关��的：试图�解模型是如何�出预测的。实现高精度是很好的，但是如果我们能够弄清楚为什么模型能够准确地预测，那么我们就�以利用这些信��更好地�解问题。例如，该模型�赖哪些特��推断能�之星分数？是��以使用此模型进行特�选择，并实现更易于解释的简�模型？\n",
+    "\n",
+    "在最�的notebook中，我们将�试回答这些问题，并从项目中得出最终结论。"
+   ]
+  },
   {
    "cell_type": "code",
    "execution_count": null,