History

co-op-translator[bot] 2dd42e7b67 🌐 Update translations via Co-op Translator (#537 ) Co-authored-by: leestott <leestott@users.noreply.github.com>		4 weeks ago
..
README.md	🌐 Update translations via Co-op Translator (#537 )	4 weeks ago
assignment.md	🌐 Update translations via Co-op Translator (#537 )	4 weeks ago
single-board-computer.md	🌐 Update translations via Co-op Translator (#537 )	4 weeks ago
vm-iotedge.md	🌐 Update translations via Co-op Translator (#537 )	4 weeks ago
wio-terminal.md	🌐 Update translations via Co-op Translator (#537 )	4 weeks ago

README.md

Unescape Escape

在邊緣設備上運行水果檢測器

手繪筆記由 Nitya Narasimhan 提供。點擊圖片查看更大版本。

這段影片概述了如何在物聯網設備上運行圖像分類器，這是本課程的主題。

課前測驗

簡介

在上一課中，你使用了圖像分類器來分類成熟和未成熟的水果，將物聯網設備上的相機捕獲的圖像通過網際網路發送到雲端服務。這些操作需要時間、成本，並且根據所使用的圖像數據類型，可能會涉及隱私問題。

在本課中，你將學習如何在邊緣設備上運行機器學習（ML）模型——即在運行於你自己網路上的物聯網設備上，而不是在雲端。你將了解邊緣計算與雲端計算的優缺點，如何將 AI 模型部署到邊緣設備，以及如何從物聯網設備訪問它。

本課將涵蓋以下內容：

邊緣計算

邊緣計算是指在盡可能靠近數據生成位置的地方處理物聯網數據。與其將處理放在雲端，不如將其移動到雲的邊緣——即你的內部網路。

到目前為止的課程中，你的設備一直在收集數據並將其發送到雲端進行分析，運行無伺服器函數或 AI 模型。

邊緣計算將部分雲端服務移到與物聯網設備相同網路上的計算機上，僅在需要時與雲端通信。例如，你可以在邊緣設備上運行 AI 模型來分析水果的成熟度，並僅將分析結果（如成熟水果與未成熟水果的數量）發送回雲端。

✅ 思考一下你迄今為止構建的物聯網應用程序。哪些部分可以移動到邊緣？

優點

邊緣計算的優點包括：

速度 - 邊緣計算非常適合處理時間敏感的數據，因為操作是在與設備相同的網路上完成的，而不是通過網際網路進行調用。這使得速度更快，因為內部網路的運行速度通常比網際網路連接快得多，數據傳輸的距離也更短。

💁 儘管網際網路連接使用光纖電纜，數據可以以光速傳輸，但數據在全球範圍內傳輸到雲端提供商仍需要時間。例如，從歐洲向美國的雲端服務發送數據，僅橫跨大西洋的光纖電纜就需要至少 28 毫秒，這還不包括數據到達光纖電纜的時間、電信號與光信號的轉換時間，以及從光纖電纜到雲端提供商的時間。

邊緣計算還需要更少的網路流量，減少了因網際網路連接的有限頻寬擁堵而導致數據減速的風險。
遠程可訪問性 - 邊緣計算在連接有限或無法連接的情況下仍然有效，或者當連接成本過高而無法持續使用時。例如，在基礎設施有限的人道主義災區或發展中國家工作時。
成本更低 - 在邊緣設備上執行數據收集、存儲、分析和觸發操作可以減少雲端服務的使用，從而降低物聯網應用程序的總體成本。最近出現了許多專為邊緣計算設計的設備，例如 NVIDIA 的 Jetson Nano，這些設備可以使用 GPU 硬體以不到 100 美元的價格運行 AI 工作負載。
隱私和安全性 - 使用邊緣計算，數據保留在你的網路上，不會上傳到雲端。這對於敏感和個人可識別的信息尤為重要，因為數據在分析後不需要存儲，這大大降低了數據洩露的風險。例如醫療數據和安全攝像頭錄像。
處理不安全設備 - 如果你有已知存在安全漏洞的設備，不希望它們直接連接到你的網路或網際網路，那麼你可以將它們連接到一個單獨的網路，該網路連接到一個網關 IoT Edge 設備。這個邊緣設備還可以連接到更廣泛的網路或網際網路，並管理數據的流入和流出。
支持不兼容設備 - 如果你有無法連接到 IoT Hub 的設備，例如只能使用 HTTP 連接的設備或只能通過藍牙連接的設備，你可以使用 IoT 邊緣設備作為網關設備，將消息轉發到 IoT Hub。

✅ 做一些研究：邊緣計算還可能有哪些其他優點？

缺點

邊緣計算也有缺點，在某些情況下雲端可能是更好的選擇：

規模和靈活性 - 雲端計算可以根據網路和數據需求實時調整，增加或減少伺服器和其他資源。增加更多邊緣計算機則需要手動添加更多設備。
可靠性和彈性 - 雲端計算通常提供多個伺服器，甚至分佈在多個地點，以實現冗餘和災難恢復。在邊緣實現相同級別的冗餘需要大量投資和配置工作。
維護 - 雲端服務提供商提供系統維護和更新。

✅ 做一些研究：邊緣計算還可能有哪些其他缺點？

這些缺點實際上是使用雲端的優點的反面——你需要自己構建和管理這些設備，而不是依賴雲端提供商的專業知識和規模。

一些風險可以通過邊緣計算的特性來減輕。例如，如果你有一個在工廠中運行的邊緣設備，從機器收集數據，你不需要考慮某些災難恢復場景。如果工廠停電，那麼你不需要備份邊緣設備，因為生成數據的機器也會因停電而停止運行。

對於物聯網系統，你通常需要雲端和邊緣計算的結合，根據系統、客戶和維護者的需求來利用每種服務。

Azure IoT Edge

Azure IoT Edge 是一項服務，可以幫助你將工作負載從雲端移動到邊緣。你可以將設備設置為邊緣設備，並從雲端向該邊緣設備部署代碼。這使你能夠結合雲端和邊緣的功能。

🎓 工作負載 是指執行某種工作的任何服務，例如 AI 模型、應用程序或無伺服器函數。

例如，你可以在雲端訓練一個圖像分類器，然後從雲端將其部署到邊緣設備。你的物聯網設備隨後將圖像發送到邊緣設備進行分類，而不是通過網際網路發送圖像。如果需要部署模型的新版本，你可以在雲端訓練它，並使用 IoT Edge 將新版本更新到邊緣設備。

🎓 部署到 IoT Edge 的軟體被稱為模組。默認情況下，IoT Edge 運行與 IoT Hub 通信的模組，例如 edgeAgent 和 edgeHub 模組。當你部署圖像分類器時，它會作為一個額外的模組進行部署。

IoT Edge 集成在 IoT Hub 中，因此你可以使用與管理物聯網設備相同的服務來管理邊緣設備，並具有相同的安全級別。

IoT Edge 從容器運行代碼——這些是與計算機上的其他應用程序隔離運行的自包含應用程序。運行容器時，它就像一台在你的計算機內部運行的獨立計算機，擁有自己的軟體、服務和應用程序。大多數情況下，容器無法訪問計算機上的任何內容，除非你選擇與容器共享某些內容（例如文件夾）。容器通過一個開放的端口暴露服務，你可以連接到該端口或將其暴露到網路。

例如，你可以有一個在端口 80（默認 HTTP 端口）上運行網站的容器，然後你可以將其從計算機的端口 80 暴露出來。

✅ 做一些研究：閱讀有關容器和 Docker 或 Moby 等服務的資料。

你可以使用 Custom Vision 下載圖像分類器並將其作為容器部署，無論是直接運行在設備上還是通過 IoT Edge 部署。一旦它們在容器中運行，你可以使用與雲端版本相同的 REST API 訪問它們，但端點指向運行容器的邊緣設備。

註冊 IoT Edge 設備

要使用 IoT Edge 設備，必須在 IoT Hub 中註冊它。

任務 - 註冊 IoT Edge 設備

在 fruit-quality-detector 資源組中創建一個 IoT Hub。給它一個基於 fruit-quality-detector 的唯一名稱。

在你的 IoT Hub 中註冊一個名為 fruit-quality-detector-edge 的 IoT Edge 設備。執行此操作的命令與註冊非邊緣設備的命令類似，只需添加 --edge-enabled 標誌。

az iot hub device-identity create --edge-enabled \
                                  --device-id fruit-quality-detector-edge \
                                  --hub-name <hub_name>

將 <hub_name> 替換為你的 IoT Hub 的名稱。

使用以下命令獲取設備的連接字串：

az iot hub device-identity connection-string show --device-id fruit-quality-detector-edge \
                                                  --output table \
                                                  --hub-name <hub_name>

將 <hub_name> 替換為你的 IoT Hub 的名稱。

複製輸出中顯示的連接字串。

設置 IoT Edge 設備

在你的 IoT Hub 中創建邊緣設備註冊後，你可以設置邊緣設備。

任務 - 安裝並啟動 IoT Edge 運行時

IoT Edge 運行時僅運行 Linux 容器。 它可以在 Linux 上運行，也可以在 Windows 上使用 Linux 虛擬機。

如果你使用 Raspberry Pi 作為物聯網設備，那麼它運行的是受支持的 Linux 版本，可以承載 IoT Edge 運行時。按照 Microsoft Docs 上的 Azure IoT Edge for Linux 安裝指南安裝 IoT Edge 並設置連接字串。

💁 請記住，Raspberry Pi OS 是 Debian Linux 的一個變體。
如果你沒有使用 Raspberry Pi，但有一台 Linux 計算機，你可以運行 IoT Edge 運行時。按照 Microsoft Docs 上的 Azure IoT Edge for Linux 安裝指南安裝 IoT Edge 並設置連接字串。
如果你使用的是 Windows，你可以通過在 Linux 虛擬機中安裝 IoT Edge 運行時，按照 Microsoft Docs 上的快速入門指南中的相關部分進行操作。當你到達 部署模組 部分時可以停止。
如果你使用的是 macOS，你可以在雲端創建一個虛擬機（VM）作為你的 IoT Edge 設備。這些是你可以在雲端創建並通過網際網路訪問的計算機。你可以創建一個安裝了 IoT Edge 的 Linux VM。按照創建運行 IoT Edge 的虛擬機指南獲取相關指導。

導出模型

要在邊緣運行分類器，需要從 Custom Vision 導出它。Custom Vision 可以生成兩種類型的模型——標準模型和緊湊型模型。緊湊型模型使用各種技術減小模型的大小，使其足夠小以便下載並部署到物聯網設備上。

當你創建圖像分類器時，你使用了 Food 域，這是針對食品圖像訓練優化的模型版本。在 Custom Vision 中，你可以更改專案的域，使用你的訓練數據來訓練具有新域的新模型。Custom Vision 支援的所有域都提供標準和緊湊型版本。

任務 - 使用 Food（緊湊型）域訓練模型

開啟 CustomVision.ai 的 Custom Vision 入口網站，並登入（如果尚未開啟）。然後打開你的 fruit-quality-detector 專案。
選擇 Settings 按鈕（⚙ 圖示）。
在 Domains 清單中，選擇 Food (compact)。
在 Export Capabilities 下，確認選擇了 Basic platforms (Tensorflow, CoreML, ONNX, ...)。
在設定頁面的底部，選擇 Save Changes。
使用 Train 按鈕重新訓練模型，選擇 Quick training。

任務 - 匯出你的模型

模型訓練完成後，需要將其匯出為容器。

選擇 Performance 標籤，找到使用 compact domain 訓練的最新迭代版本。
點擊頂部的 Export 按鈕。
選擇 DockerFile，然後選擇與你的邊緣設備匹配的版本：
- 如果你在 Linux 電腦、Windows 電腦或虛擬機上運行 IoT Edge，選擇 Linux 版本。
- 如果你在 Raspberry Pi 上運行 IoT Edge，選擇 ARM (Raspberry Pi 3) 版本。

🎓 Docker 是管理容器最受歡迎的工具之一，而 DockerFile 是一組用於設置容器的指令。

選擇 Export 讓 Custom Vision 創建相關文件，然後點擊 Download 下載它們為壓縮檔案。
將文件保存到你的電腦，然後解壓縮該資料夾。

為部署準備容器

下載模型後，需要將其構建為容器，然後推送到容器註冊表——一個可以存儲容器的線上位置。IoT Edge 可以從註冊表下載容器並推送到你的設備。

本課程中使用的容器註冊表是 Azure Container Registry。這不是免費服務，因此為了節省費用，請確保在完成後清理你的專案。

💁 你可以在 Azure Container Registry 價格頁面查看使用 Azure Container Registry 的費用。

任務 - 安裝 Docker

要構建和部署分類器，你可能需要安裝 Docker。

只有當你計劃從與安裝 IoT Edge 的設備不同的設備構建容器時，才需要這樣做——安裝 IoT Edge 的過程中已經為你安裝了 Docker。

如果你在與 IoT Edge 設備不同的設備上構建 Docker 容器，請按照 Docker 安裝頁面的指示安裝 Docker Desktop 或 Docker 引擎。安裝後確保其正在運行。

任務 - 創建容器註冊表資源

從終端或命令提示符運行以下命令以創建 Azure Container Registry 資源：
```
az acr create --resource-group fruit-quality-detector \
              --sku Basic \
              --name <Container registry name>
```
將 <Container registry name> 替換為容器註冊表的唯一名稱，只能使用字母和數字。可以基於 fruitqualitydetector 命名。此名稱將成為訪問容器註冊表的 URL 的一部分，因此需要全域唯一。
使用以下命令登入 Azure Container Registry：
```
az acr login --name <Container registry name>
```
將 <Container registry name> 替換為你用於容器註冊表的名稱。
將容器註冊表設置為管理模式，以便生成密碼，使用以下命令：
```
az acr update --admin-enabled true \
             --name <Container registry name>
```
將 <Container registry name> 替換為你用於容器註冊表的名稱。

使用以下命令生成容器註冊表的密碼：

 az acr credential renew --password-name password \
                         --output table \
                         --name <Container registry name>

將 <Container registry name> 替換為你用於容器註冊表的名稱。

複製 PASSWORD 的值，稍後會用到。

任務 - 構建你的容器

從 Custom Vision 下載的內容是一個 DockerFile，包含如何構建容器的指令，以及將在容器內運行的應用程式代碼，用於託管你的 Custom Vision 模型和一個 REST API。你可以使用 Docker 從 DockerFile 構建一個標記的容器，然後將其推送到容器註冊表。

🎓 容器會被賦予一個標籤，定義其名稱和版本。當需要更新容器時，可以使用相同的標籤但較新的版本進行構建。

打開終端或命令提示符，導航到從 Custom Vision 下載的解壓縮模型。

運行以下命令來構建和標記映像：

docker build --platform <platform> -t <Container registry name>.azurecr.io/classifier:v1 .

將 <platform> 替換為此容器將運行的平台。如果你在 Raspberry Pi 上運行 IoT Edge，設置為 linux/armhf，否則設置為 linux/amd64。

💁 如果你在運行 IoT Edge 的設備上運行此命令，例如在 Raspberry Pi 上運行，可以省略 --platform <platform> 部分，因為它默認為當前平台。

將 <Container registry name> 替換為你用於容器註冊表的名稱。

💁 如果你在 Linux 或 Raspberry Pi OS 上運行，可能需要使用 sudo 運行此命令。

Docker 將構建映像，配置所需的所有軟件。映像將被標記為 classifier:v1。

➜  d4ccc45da0bb478bad287128e1274c3c.DockerFile.Linux docker build --platform linux/amd64 -t  fruitqualitydetectorjimb.azurecr.io/classifier:v1 .
[+] Building 102.4s (11/11) FINISHED
 => [internal] load build definition from Dockerfile
 => => transferring dockerfile: 131B
 => [internal] load .dockerignore
 => => transferring context: 2B
 => [internal] load metadata for docker.io/library/python:3.7-slim
 => [internal] load build context
 => => transferring context: 905B
 => [1/6] FROM docker.io/library/python:3.7-slim@sha256:b21b91c9618e951a8cbca5b696424fa5e820800a88b7e7afd66bba0441a764d6
 => => resolve docker.io/library/python:3.7-slim@sha256:b21b91c9618e951a8cbca5b696424fa5e820800a88b7e7afd66bba0441a764d6
 => => sha256:b4d181a07f8025e00e0cb28f1cc14613da2ce26450b80c54aea537fa93cf3bda 27.15MB / 27.15MB
 => => sha256:de8ecf497b753094723ccf9cea8a46076e7cb845f333df99a6f4f397c93c6ea9 2.77MB / 2.77MB
 => => sha256:707b80804672b7c5d8f21e37c8396f319151e1298d976186b4f3b76ead9f10c8 10.06MB / 10.06MB
 => => sha256:b21b91c9618e951a8cbca5b696424fa5e820800a88b7e7afd66bba0441a764d6 1.86kB / 1.86kB
 => => sha256:44073386687709c437586676b572ff45128ff1f1570153c2f727140d4a9accad 1.37kB / 1.37kB
 => => sha256:3d94f0f2ca798607808b771a7766f47ae62a26f820e871dd488baeccc69838d1 8.31kB / 8.31kB
 => => sha256:283715715396fd56d0e90355125fd4ec57b4f0773f306fcd5fa353b998beeb41 233B / 233B
 => => sha256:8353afd48f6b84c3603ea49d204bdcf2a1daada15f5d6cad9cc916e186610a9f 2.64MB / 2.64MB
 => => extracting sha256:b4d181a07f8025e00e0cb28f1cc14613da2ce26450b80c54aea537fa93cf3bda
 => => extracting sha256:de8ecf497b753094723ccf9cea8a46076e7cb845f333df99a6f4f397c93c6ea9
 => => extracting sha256:707b80804672b7c5d8f21e37c8396f319151e1298d976186b4f3b76ead9f10c8
 => => extracting sha256:283715715396fd56d0e90355125fd4ec57b4f0773f306fcd5fa353b998beeb41
 => => extracting sha256:8353afd48f6b84c3603ea49d204bdcf2a1daada15f5d6cad9cc916e186610a9f
 => [2/6] RUN pip install -U pip
 => [3/6] RUN pip install --no-cache-dir numpy~=1.17.5 tensorflow~=2.0.2 flask~=1.1.2 pillow~=7.2.0
 => [4/6] RUN pip install --no-cache-dir mscviplib==2.200731.16
 => [5/6] COPY app /app
 => [6/6] WORKDIR /app
 => exporting to image
 => => exporting layers
 => => writing image sha256:1846b6f134431f78507ba7c079358ed66d944c0e185ab53428276bd822400386
 => => naming to fruitqualitydetectorjimb.azurecr.io/classifier:v1

任務 - 將容器推送到容器註冊表

使用以下命令將容器推送到容器註冊表：

docker push <Container registry name>.azurecr.io/classifier:v1

將 <Container registry name> 替換為你用於容器註冊表的名稱。

💁 如果你在 Linux 上運行，可能需要使用 sudo 運行此命令。

容器將被推送到容器註冊表。

➜  d4ccc45da0bb478bad287128e1274c3c.DockerFile.Linux docker push fruitqualitydetectorjimb.azurecr.io/classifier:v1
The push refers to repository [fruitqualitydetectorjimb.azurecr.io/classifier]
5f70bf18a086: Pushed 
8a1ba9294a22: Pushed 
56cf27184a76: Pushed 
b32154f3f5dd: Pushed 
36103e9a3104: Pushed 
e2abb3cacca0: Pushed 
4213fd357bbe: Pushed 
7ea163ba4dce: Pushed 
537313a13d90: Pushed 
764055ebc9a7: Pushed 
v1: digest: sha256:ea7894652e610de83a5a9e429618e763b8904284253f4fa0c9f65f0df3a5ded8 size: 2423

為了驗證推送，可以使用以下命令列出註冊表中的容器：

az acr repository list --output table \
                       --name <Container registry name>

將 <Container registry name> 替換為你用於容器註冊表的名稱。

➜  d4ccc45da0bb478bad287128e1274c3c.DockerFile.Linux az acr repository list --name fruitqualitydetectorjimb --output table
Result
----------
classifier

你將在輸出中看到你的分類器。

部署你的容器

現在可以將容器部署到你的 IoT Edge 設備。要部署，你需要定義一個部署清單——一個列出將部署到邊緣設備的模組的 JSON 文件。

任務 - 創建部署清單

在電腦上某處創建一個名為 deployment.json 的新文件。

在此文件中添加以下內容：

{
    "content": {
        "modulesContent": {
            "$edgeAgent": {
                "properties.desired": {
                    "schemaVersion": "1.1",
                    "runtime": {
                        "type": "docker",
                        "settings": {
                            "minDockerVersion": "v1.25",
                            "loggingOptions": "",
                            "registryCredentials": {
                                "ClassifierRegistry": {
                                    "username": "<Container registry name>",
                                    "password": "<Container registry password>",
                                    "address": "<Container registry name>.azurecr.io"
                                  }
                            }
                        }
                    },
                    "systemModules": {
                        "edgeAgent": {
                            "type": "docker",
                            "settings": {
                                "image": "mcr.microsoft.com/azureiotedge-agent:1.1",
                                "createOptions": "{}"
                            }
                        },
                        "edgeHub": {
                            "type": "docker",
                            "status": "running",
                            "restartPolicy": "always",
                            "settings": {
                                "image": "mcr.microsoft.com/azureiotedge-hub:1.1",
                                "createOptions": "{\"HostConfig\":{\"PortBindings\":{\"5671/tcp\":[{\"HostPort\":\"5671\"}],\"8883/tcp\":[{\"HostPort\":\"8883\"}],\"443/tcp\":[{\"HostPort\":\"443\"}]}}}"
                            }
                        }
                    },
                    "modules": {
                        "ImageClassifier": {
                            "version": "1.0",
                            "type": "docker",
                            "status": "running",
                            "restartPolicy": "always",
                            "settings": {
                                "image": "<Container registry name>.azurecr.io/classifier:v1",
                                "createOptions": "{\"ExposedPorts\": {\"80/tcp\": {}},\"HostConfig\": {\"PortBindings\": {\"80/tcp\": [{\"HostPort\": \"80\"}]}}}"
                            }
                        }
                    }
                }
            },
            "$edgeHub": {
                "properties.desired": {
                    "schemaVersion": "1.1",
                    "routes": {
                        "upstream": "FROM /messages/* INTO $upstream"
                    },
                    "storeAndForwardConfiguration": {
                        "timeToLiveSecs": 7200
                    }
                }
            }
        }
    }
}

💁 你可以在 code-deployment/deployment 資料夾中找到此文件。

將三個 <Container registry name> 替換為你用於容器註冊表的名稱。一個在 ImageClassifier 模組部分，另外兩個在 registryCredentials 部分。

將 registryCredentials 部分中的 <Container registry password> 替換為你的容器註冊表密碼。

從包含部署清單的資料夾運行以下命令：

az iot edge set-modules --device-id fruit-quality-detector-edge \
                        --content deployment.json \
                        --hub-name <hub_name>

將 <hub_name> 替換為你的 IoT Hub 的名稱。

圖像分類器模組將被部署到你的邊緣設備。

任務 - 驗證分類器是否正在運行

連接到 IoT Edge 設備：
- 如果你使用 Raspberry Pi 運行 IoT Edge，通過終端使用 ssh 連接，或者通過 VS Code 的遠程 SSH 會話連接。
- 如果你在 Windows 上的 Linux 容器中運行 IoT Edge，按照驗證成功配置指南的步驟連接到 IoT Edge 設備。
- 如果你在虛擬機上運行 IoT Edge，可以使用創建虛擬機時設置的 adminUsername 和 password，以及 IP 地址或 DNS 名稱通過 SSH 進行連接：
```
ssh <adminUsername>@<IP address>
```
  或：
```
ssh <adminUsername>@<DNS Name>
```
  當提示時輸入你的密碼。

連接後，運行以下命令以獲取 IoT Edge 模組列表：

iotedge list

💁 你可能需要使用 sudo 運行此命令。

你將看到正在運行的模組：

jim@fruit-quality-detector-jimb:~$ iotedge list
NAME             STATUS           DESCRIPTION      CONFIG
ImageClassifier  running          Up 42 minutes    fruitqualitydetectorjimb.azurecr.io/classifier:v1
edgeAgent        running          Up 42 minutes    mcr.microsoft.com/azureiotedge-agent:1.1
edgeHub          running          Up 42 minutes    mcr.microsoft.com/azureiotedge-hub:1.1

使用以下命令檢查圖像分類器模組的日誌：

iotedge logs ImageClassifier

💁 你可能需要使用 sudo 運行此命令。

jim@fruit-quality-detector-jimb:~$ iotedge logs ImageClassifier
2021-07-05 20:30:15.387144: I tensorflow/core/platform/cpu_feature_guard.cc:142] Your CPU supports instructions that this TensorFlow binary was not compiled to use: AVX2 FMA
2021-07-05 20:30:15.392185: I tensorflow/core/platform/profile_utils/cpu_utils.cc:94] CPU Frequency: 2394450000 Hz
2021-07-05 20:30:15.392712: I tensorflow/compiler/xla/service/service.cc:168] XLA service 0x55ed9ac83470 executing computations on platform Host. Devices:
2021-07-05 20:30:15.392806: I tensorflow/compiler/xla/service/service.cc:175]   StreamExecutor device (0): Host, Default Version
Loading model...Success!
Loading labels...2 found. Success!
 * Serving Flask app "app" (lazy loading)
 * Environment: production
   WARNING: This is a development server. Do not use it in a production deployment.
   Use a production WSGI server instead.
 * Debug mode: off
 * Running on http://0.0.0.0:80/ (Press CTRL+C to quit)

任務 - 測試圖像分類器

你可以使用 CURL 測試圖像分類器，使用運行 IoT Edge 代理的電腦的 IP 地址或主機名。找到 IP 地址：
- 如果你在運行 IoT Edge 的同一台機器上，可以使用 localhost 作為主機名。
- 如果你使用虛擬機，可以使用虛擬機的 IP 地址或 DNS 名稱。
- 否則，你可以獲取運行 IoT Edge 的機器的 IP 地址：
  - 在 Windows 10 上，請參考查找你的 IP 地址指南。
  - 在 macOS 上，請參考如何在 Mac 上查找 IP 地址指南。
  - 在 Linux 上，請參考如何在 Linux 中查找 IP 地址指南中的查找私有 IP 地址部分。

你可以使用本地文件運行以下 curl 命令測試容器：

curl --location \
     --request POST 'http://<IP address or name>/image' \
     --header 'Content-Type: image/png' \
     --data-binary '@<file_Name>'

將 <IP address or name> 替換為運行 IoT Edge 的電腦的 IP 地址或主機名。將 <file_Name> 替換為要測試的文件名稱。

你將在輸出中看到預測結果：

{
    "created": "2021-07-05T21:44:39.573181",
    "id": "",
    "iteration": "",
    "predictions": [
        {
            "boundingBox": null,
            "probability": 0.9995615482330322,
            "tagId": "",
            "tagName": "ripe"
        },
        {
            "boundingBox": null,
            "probability": 0.0004384400090202689,
            "tagId": "",
            "tagName": "unripe"
        }
    ],
    "project": ""
}

💁 這裡不需要提供預測金鑰，因為這不是使用 Azure 資源。相反，安全性將基於內部網絡的內部安全需求進行配置，而不是依賴公共端點和 API 金鑰。

使用你的 IoT Edge 設備

現在你的圖像分類器已部署到 IoT Edge 設備，你可以從 IoT 設備使用它。

任務 - 使用你的 IoT Edge 設備

按照相關指南使用 IoT Edge 分類器進行圖像分類：

模型重新訓練

在 IoT Edge 上運行圖像分類器的一個缺點是它們不會連接到你的 Custom Vision 專案。如果你查看 Custom Vision 的 Predictions 標籤，將看不到使用基於 Edge 的分類器分類的圖像。

這是預期行為——圖像不會被發送到雲端進行分類，因此它們不會在雲端可用。使用 IoT Edge 的一個優勢是隱私，確保圖像不會離開你的網絡，另一個優勢是可以離線工作，因此不依賴於設備無法連接網絡時上傳圖像。缺點是改進你的模型——你需要實現另一種方式來存儲圖像，這些圖像可以手動重新分類以改進和重新訓練圖像分類器。

✅ 思考如何上傳圖像以重新訓練分類器。

🚀 挑戰

在邊緣設備上運行 AI 模型可能比在雲端更快——網絡跳躍更短。但也可能更慢，因為運行模型的硬件可能不如雲端強大。

進行一些計時，並比較調用邊緣設備是否比調用雲端更快或更慢？思考解釋差異或缺乏差異的原因。研究如何使用專用硬件在邊緣上更快地運行 AI 模型。

課後測驗

回顧與自學

閱讀更多關於容器的內容，請參考 Wikipedia 上的作業系統級虛擬化頁面。
閱讀更多有關邊緣計算的內容，重點探討5G如何幫助擴展邊緣計算，請參考NetworkWorld上的文章「什麼是邊緣計算及其重要性？」
透過觀看Microsoft Channel9上的Learn Live節目「學習如何在邊緣上的預建AI服務中使用Azure IoT Edge進行語言檢測」，了解更多在IoT Edge上運行AI服務的知識

作業

在邊緣上運行其他服務

免責聲明：
本文件使用 AI 翻譯服務 Co-op Translator 進行翻譯。我們致力於提供準確的翻譯，但請注意，自動翻譯可能包含錯誤或不準確之處。應以原始語言的文件作為權威來源。對於關鍵資訊，建議尋求專業人工翻譯。我們對因使用此翻譯而引起的任何誤解或誤讀概不負責。

README.md Unescape Escape

在邊緣設備上運行水果檢測器

課前測驗

簡介

邊緣計算

優點

缺點

Azure IoT Edge

註冊 IoT Edge 設備

任務 - 註冊 IoT Edge 設備

設置 IoT Edge 設備

任務 - 安裝並啟動 IoT Edge 運行時

導出模型

任務 - 使用 Food（緊湊型）域訓練模型

任務 - 匯出你的模型

為部署準備容器

任務 - 安裝 Docker

任務 - 創建容器註冊表資源

任務 - 構建你的容器

任務 - 將容器推送到容器註冊表

部署你的容器

任務 - 創建部署清單

任務 - 驗證分類器是否正在運行

任務 - 測試圖像分類器

使用你的 IoT Edge 設備

任務 - 使用你的 IoT Edge 設備

模型重新訓練

🚀 挑戰

課後測驗

回顧與自學

作業

README.md

Unescape Escape