co-op-translator[bot]
2dd42e7b67
|
4 weeks ago | |
|---|---|---|
| .. | ||
| README.md | 4 weeks ago | |
| assignment.md | 4 weeks ago | |
README.md
理解語言
手繪筆記由 Nitya Narasimhan 提供。點擊圖片查看更大的版本。
課前測驗
簡介
在上一課中，你已經將語音轉換為文字。若要將其用於編程智能計時器，你的程式碼需要理解所說的內容。你可以假設使用者會說固定的短語，例如「設置一個3分鐘的計時器」，並解析該表達式以獲取計時器的時間，但這樣的方式對使用者來說並不友好。如果使用者說「設置一個計時器，時間為3分鐘」，你或我能理解他們的意思，但你的程式碼無法理解，因為它只會期待固定的短語。
這就是語言理解的作用所在，利用人工智慧模型來解釋文字並返回所需的細節。例如，它能夠理解「設置一個3分鐘的計時器」和「設置一個計時器，時間為3分鐘」都表示需要一個3分鐘的計時器。
在本課中，你將學習語言理解模型，如何創建、訓練並在程式碼中使用它們。
本課將涵蓋：
語言理解
人類已經使用語言進行溝通數十萬年。我們通過文字、聲音或行動進行交流並理解所說的內容，不僅理解文字、聲音或行動的含義，還理解它們的上下文。我們能理解真誠和諷刺，讓相同的文字因語氣不同而表達不同的意思。
✅ 想想你最近的一些對話。有多少對話因需要上下文而難以讓電腦理解？
語言理解，也稱為自然語言理解，是人工智慧的一個領域，屬於自然語言處理（NLP），主要研究閱讀理解，試圖理解文字或句子的細節。如果你使用過像 Alexa 或 Siri 這樣的語音助手，那麼你已經使用過語言理解服務。這些服務是幕後的人工智慧技術，能將「Alexa，播放 Taylor Swift 的最新專輯」轉化為我女兒在客廳裡隨著她最喜歡的音樂跳舞。
💁 儘管電腦技術已經取得了巨大進步，但在真正理解文字方面仍有很長的路要走。當我們提到電腦的語言理解時，並不是指像人類交流那樣高級，而是指從一些文字中提取關鍵細節。
作為人類，我們幾乎不需要思考就能理解語言。如果我請另一個人「播放 Taylor Swift 的最新專輯」，他們會本能地知道我的意思。對於電腦來說，這就困難得多。它需要將語音轉換為文字，並解析以下信息：
- 需要播放音樂
- 音樂是由歌手 Taylor Swift 演唱的
- 具體的音樂是一整張專輯，包含多首按順序排列的曲目
- Taylor Swift 有很多專輯，因此需要按時間順序排列，最新發行的專輯是所需的
✅ 想想你在提出請求時說過的一些句子，例如點咖啡或請家人幫忙遞東西。試著將這些句子分解成電腦需要提取的信息。
語言理解模型是人工智慧模型，訓練用於從語言中提取特定細節，並通過遷移學習針對特定任務進行訓練，就像你使用少量圖片訓練自定義視覺模型一樣。你可以使用模型，然後用你希望理解的文字進行訓練。
創建語言理解模型
你可以使用 LUIS（Language Understanding Intelligent Service），這是 Microsoft 的一項語言理解服務，屬於 Cognitive Services。
任務 - 創建編輯資源
要使用 LUIS，你需要創建一個編輯資源。
-
使用以下命令在你的
smart-timer資源組中創建一個編輯資源：az cognitiveservices account create --name smart-timer-luis-authoring \ --resource-group smart-timer \ --kind LUIS.Authoring \ --sku F0 \ --yes \ --location <location>將
<location>替換為創建資源組時使用的位置。⚠️ LUIS 並非在所有地區都可用，如果你收到以下錯誤：
InvalidApiSetId: The account type 'LUIS.Authoring' is either invalid or unavailable in given region.請選擇其他地區。
這將創建一個免費層的 LUIS 編輯資源。
任務 - 創建語言理解應用
-
在瀏覽器中打開 LUIS 入口網站 luis.ai，並使用你在 Azure 上使用的相同帳戶登錄。
-
按照對話框中的指示選擇你的 Azure 訂閱，然後選擇剛剛創建的
smart-timer-luis-authoring資源。 -
從 Conversation apps 列表中，選擇 New app 按鈕以創建新應用。將新應用命名為
smart-timer，並將 Culture 設置為你的語言。💁 預測資源字段可以創建一個單獨的資源用於預測，但免費的編輯資源每月允許 1,000 次預測，足夠用於開發，因此可以留空。
-
閱讀創建應用後出現的指南，了解訓練語言理解模型所需的步驟。完成後關閉該指南。
意圖和實體
語言理解基於 意圖 和 實體。意圖是文字的目的，例如播放音樂、設置計時器或訂購食物。實體是意圖所指的內容，例如專輯、計時器的時間或食物的種類。模型解釋的每個句子應至少有一個意圖，並且可以選擇性地包含一個或多個實體。
一些例子：
| 句子 | 意圖 | 實體 |
|---|---|---|
| 「播放 Taylor Swift 的最新專輯」 | 播放音樂 | Taylor Swift 的最新專輯 |
| 「設置一個3分鐘的計時器」 | 設置計時器 | 3分鐘 |
| 「取消我的計時器」 | 取消計時器 | 無 |
| 「訂購3個大號菠蘿披薩和一份凱撒沙拉」 | 訂購食物 | 3個大號菠蘿披薩，凱撒沙拉 |
✅ 回想你之前想到的句子，這些句子的意圖和實體會是什麼？
要訓練 LUIS，首先需要設置實體。這些可以是固定的術語列表，也可以從文字中學習。例如，你可以提供菜單上的固定食物列表，並為每個詞提供變體（或同義詞），例如 egg plant 和 aubergine 作為 aubergine 的變體。LUIS 也有一些預設的實體可以使用，例如數字和地點。
對於設置計時器，你可以使用預設的數字實體來表示時間，並創建另一個實體來表示單位，例如分鐘和秒。每個單位可以有多個變體以涵蓋單數和複數形式，例如 minute 和 minutes。
設置好實體後，你需要創建意圖。意圖是根據你提供的示例句子（稱為語句）由模型學習的。例如，對於 設置計時器 意圖，你可以提供以下句子：
設置一個1秒的計時器設置一個計時器，時間為1分12秒設置一個3分鐘的計時器設置一個9分30秒的計時器
然後告訴 LUIS 這些句子的哪些部分對應於實體：
句子 設置一個計時器，時間為1分12秒 的意圖是 設置計時器。它還有兩個實體，每個實體有兩個值：
| 時間 | 單位 | |
|---|---|---|
| 1 分鐘 | 1 | 分鐘 |
| 12 秒 | 12 | 秒 |
要訓練一個好的模型，你需要提供多種不同的示例句子，以涵蓋人們可能用來表達相同意思的多種方式。
💁 與任何人工智慧模型一樣，訓練時使用的數據越多且越準確，模型效果越好。
✅ 想想你可能用來表達相同意思的不同方式，並期望人類能理解。
任務 - 向語言理解模型添加實體
對於計時器，你需要添加兩個實體——一個表示時間單位（分鐘或秒），另一個表示分鐘或秒的數量。
你可以在 Microsoft Docs 的 快速入門：在 LUIS 入口網站中構建應用 文檔中找到使用 LUIS 入口網站的指導。
-
在 LUIS 入口網站中，選擇 Entities 標籤，並通過選擇 Add prebuilt entity 按鈕添加 number 預設實體，然後從列表中選擇 number。
-
使用 Create 按鈕創建一個新的實體來表示時間單位。將實體命名為
time unit，並將類型設置為 List。在 Normalized values 列表中添加minute和second的值，並在 synonyms 列表中添加單數和複數形式的變體。每添加一個同義詞後按return鍵將其添加到列表中。標準化值 同義詞 minute minute, minutes second second, seconds
任務 - 向語言理解模型添加意圖
-
在 Intents 標籤中，選擇 Create 按鈕以創建新意圖。將此意圖命名為
set timer。 -
在示例中，輸入使用分鐘、秒以及分鐘和秒組合設置計時器的不同方式。示例可以包括：
設置一個1秒的計時器設置一個4分鐘的計時器設置一個四分鐘六秒的計時器設置一個9分30秒的計時器設置一個計時器，時間為1分12秒設置一個計時器，時間為3分鐘設置一個計時器，時間為3分1秒設置一個計時器，時間為三分一秒設置一個計時器，時間為1分1秒設置一個計時器，時間為30秒設置一個計時器，時間為1秒
混合使用數字的文字形式和數字形式，讓模型學會處理兩者。
-
當你輸入每個示例時，LUIS 會開始檢測實體，並將找到的實體用下劃線標記並標籤。
任務 - 訓練和測試模型
-
配置好實體和意圖後，可以使用頂部菜單中的 Train 按鈕訓練模型。選擇此按鈕，模型應在幾秒鐘內完成訓練。訓練期間按鈕會變灰，完成後會重新啟用。
-
從頂部菜單中選擇 Test 按鈕以測試語言理解模型。輸入文字，例如
設置一個計時器，時間為5分4秒，然後按回車鍵。句子會出現在你輸入文字的文本框下方，下面會顯示 top intent，即以最高概率檢測到的意圖。這應該是set timer。意圖名稱後面會顯示檢測到的意圖正確的概率。 -
選擇 Inspect 選項以查看結果的詳細信息。你會看到最高分的意圖及其百分比概率，以及檢測到的實體列表。
-
完成測試後，關閉 Test 面板。
任務 - 發佈模型
要從程式碼中使用此模型，你需要發佈它。從 LUIS 發佈時，可以選擇發佈到測試環境或正式環境。本課中，測試環境即可。
-
在 LUIS 入口網站中，選擇頂部菜單中的 Publish 按鈕。
-
確保選擇了 Staging slot，然後選擇 Done。發佈應用後會顯示通知。
-
你可以使用 curl 測試此模型。要構建 curl 命令，你需要三個值——端點、應用程式 ID（App ID）和 API 密鑰。這些可以從頂部菜單中選擇 MANAGE 標籤後的 Settings 部分中獲取。
- 從 Settings 部分中複製 App ID
-
從 Azure 資源 區域中選擇 Authoring Resource，並複製 Primary Key 和 Endpoint URL
-
在命令提示符或終端中執行以下 curl 命令：
curl "<endpoint url>/luis/prediction/v3.0/apps/<app id>/slots/staging/predict" \ --request GET \ --get \ --data "subscription-key=<primary key>" \ --data "verbose=false" \ --data "show-all-intents=true" \ --data-urlencode "query=<sentence>"將
<endpoint url>替換為 Azure 資源 區域中的 Endpoint URL。將
<app id>替換為 設定 區域中的 App ID。將
<primary key>替換為 Azure 資源 區域中的 Primary Key。將
<sentence>替換為您想測試的句子。 -
此呼叫的輸出將是一個 JSON 文件，詳細說明查詢、最高意圖以及按類型劃分的實體列表。
{ "query": "set a timer for 45 minutes and 12 seconds", "prediction": { "topIntent": "set timer", "intents": { "set timer": { "score": 0.97031575 }, "None": { "score": 0.02205793 } }, "entities": { "number": [ 45, 12 ], "time-unit": [ [ "minute" ], [ "second" ] ] } } }上述 JSON 是使用
set a timer for 45 minutes and 12 seconds查詢的結果：set timer是最高意圖，機率為 97%。- 偵測到兩個 number 實體，分別是
45和12。 - 偵測到兩個 time-unit 實體，分別是
minute和second。
使用語言理解模型
一旦發佈後，LUIS 模型可以從程式碼中呼叫。在之前的課程中，您已使用 IoT Hub 處理與雲端服務的通訊，發送遙測數據並接收指令。這種方式非常非同步——一旦遙測數據發送出去，您的程式碼不會等待回應，如果雲端服務無法使用，您也不會知道。
對於智慧計時器，我們希望能立即獲得回應，這樣我們可以告訴使用者計時器已設置，或者提醒他們雲端服務無法使用。為此，我們的 IoT 裝置將直接呼叫一個網路端點，而不是依賴 IoT Hub。
與其從 IoT 裝置直接呼叫 LUIS，您可以使用無伺服器程式碼搭配不同類型的觸發器——例如 HTTP 觸發器。這允許您的函數應用程式監聽 REST 請求並回應它們。此函數將成為您的裝置可以呼叫的 REST 端點。
💁 雖然您可以直接從 IoT 裝置呼叫 LUIS，但使用無伺服器程式碼會更好。這樣當您想更改呼叫的 LUIS 應用程式時，例如訓練了一個更好的模型或用不同語言訓練模型時，您只需更新雲端程式碼，而不需要重新部署到可能成千上萬甚至數百萬的 IoT 裝置。
任務 - 建立無伺服器函數應用程式
-
建立一個名為
smart-timer-trigger的 Azure Functions 應用程式，並在 VS Code 中開啟它。 -
使用以下命令在 VS Code 終端中為此應用程式新增一個名為
speech-trigger的 HTTP 觸發器：func new --name text-to-timer --template "HTTP trigger"這將建立一個名為
text-to-timer的 HTTP 觸發器。 -
執行函數應用程式以測試 HTTP 觸發器。執行後，您將在輸出中看到列出的端點：
Functions: text-to-timer: [GET,POST] http://localhost:7071/api/text-to-timer在瀏覽器中載入 http://localhost:7071/api/text-to-timer URL 進行測試。
This HTTP triggered function executed successfully. Pass a name in the query string or in the request body for a personalized response.
任務 - 使用語言理解模型
-
LUIS 的 SDK 可透過 Pip 套件獲得。將以下行新增到
requirements.txt文件中以新增對此套件的依賴：azure-cognitiveservices-language-luis -
確保 VS Code 終端已啟用虛擬環境，並執行以下命令以安裝 Pip 套件：
pip install -r requirements.txt💁 如果出現錯誤，您可能需要使用以下命令升級 pip：
pip install --upgrade pip -
在 MANAGE 標籤的 LUIS 入口網站中，為您的 LUIS API Key、Endpoint URL 和 App ID 新增新條目到
local.settings.json文件中："LUIS_KEY": "<primary key>", "LUIS_ENDPOINT_URL": "<endpoint url>", "LUIS_APP_ID": "<app id>"將
<endpoint url>替換為 MANAGE 標籤中 Azure 資源 區域的 Endpoint URL。這將是https://<location>.api.cognitive.microsoft.com/。將
<app id>替換為 MANAGE 標籤中 設定 區域的 App ID。將
<primary key>替換為 MANAGE 標籤中 Azure 資源 區域的 Primary Key。 -
將以下匯入新增到
__init__.py文件中：import json import os from azure.cognitiveservices.language.luis.runtime import LUISRuntimeClient from msrest.authentication import CognitiveServicesCredentials這將匯入一些系統庫以及與 LUIS 互動的庫。
-
刪除
main方法的內容，並新增以下程式碼：luis_key = os.environ['LUIS_KEY'] endpoint_url = os.environ['LUIS_ENDPOINT_URL'] app_id = os.environ['LUIS_APP_ID'] credentials = CognitiveServicesCredentials(luis_key) client = LUISRuntimeClient(endpoint=endpoint_url, credentials=credentials)這將載入您在
local.settings.json文件中為 LUIS 應用程式新增的值，使用您的 API 金鑰建立憑證物件，然後建立一個 LUIS 客戶端物件以與您的 LUIS 應用程式互動。 -
此 HTTP 觸發器將以 JSON 格式傳遞要理解的文字，文字位於名為
text的屬性中。以下程式碼從 HTTP 請求的主體中提取該值，並將其記錄到控制台。將此程式碼新增到main函數中：req_body = req.get_json() text = req_body['text'] logging.info(f'Request - {text}') -
可以透過發送預測請求來向 LUIS 請求預測——一個包含要預測文字的 JSON 文件。使用以下程式碼建立此請求：
prediction_request = { 'query' : text } -
然後可以使用應用程式發佈到的 staging 插槽將此請求發送到 LUIS：
prediction_response = client.prediction.get_slot_prediction(app_id, 'Staging', prediction_request) -
預測回應包含最高意圖——具有最高預測分數的意圖，以及實體。如果最高意圖是
set timer，則可以讀取實體以獲取計時器所需的時間：if prediction_response.prediction.top_intent == 'set timer': numbers = prediction_response.prediction.entities['number'] time_units = prediction_response.prediction.entities['time unit'] total_seconds = 0number實體將是一個數字陣列。例如，如果您說 "Set a four minute 17 second timer."，則number陣列將包含兩個整數——4 和 17。time unit實體將是一個字串陣列的陣列，每個時間單位作為陣列中的一個字串。例如，如果您說 "Set a four minute 17 second timer."，則time unit陣列將包含兩個單值陣列——['minute']和['second']。"Set a four minute 17 second timer." 的這些實體的 JSON 版本為：
{ "number": [4, 17], "time unit": [ ["minute"], ["second"] ] }此程式碼還定義了一個計時器總時間（以秒為單位）的計數。這將由實體的值填充。
-
實體之間沒有連結，但我們可以對它們做一些假設。它們將按照說出的順序排列，因此可以使用陣列中的位置來確定哪個數字對應於哪個時間單位。例如：
- "Set a 30 second timer" - 這將有一個數字
30和一個時間單位second，因此單個數字將匹配單個時間單位。 - "Set a 2 minute and 30 second timer" - 這將有兩個數字
2和30，以及兩個時間單位minute和second，因此第一個數字將對應於第一個時間單位（2 分鐘），第二個數字對應於第二個時間單位（30 秒）。
以下程式碼獲取
number實體中的項目數，並使用該數量從每個陣列中提取第一個項目，然後是第二個，依此類推。將此程式碼新增到if區塊內。for i in range(0, len(numbers)): number = numbers[i] time_unit = time_units[i][0]對於 "Set a four minute 17 second timer."，此程式碼將迴圈兩次，給出以下值：
迴圈次數 numbertime_unit0 4 minute 1 17 second - "Set a 30 second timer" - 這將有一個數字
-
在此迴圈內，使用數字和時間單位計算計時器的總時間，為每分鐘新增 60 秒，並為每秒新增相應的秒數。
if time_unit == 'minute': total_seconds += number * 60 else: total_seconds += number -
在此實體迴圈之外，記錄計時器的總時間：
logging.info(f'Timer required for {total_seconds} seconds') -
計時器的秒數需要作為 HTTP 回應從函數返回。在
if區塊的末尾新增以下程式碼：payload = { 'seconds': total_seconds } return func.HttpResponse(json.dumps(payload), status_code=200)此程式碼建立一個包含計時器總秒數的有效負載，將其轉換為 JSON 字串，並以狀態碼 200（表示呼叫成功）作為 HTTP 結果返回。
-
最後，在
if區塊之外，處理未識別意圖的情況，返回錯誤碼：return func.HttpResponse(status_code=404)404 是 未找到 的狀態碼。
-
執行函數應用程式並使用 curl 測試。
curl --request POST 'http://localhost:7071/api/text-to-timer' \ --header 'Content-Type: application/json' \ --include \ --data '{"text":"<text>"}'將
<text>替換為您的請求文字，例如set a 2 minutes 27 second timer。您將在函數應用程式的輸出中看到以下內容：
Functions: text-to-timer: [GET,POST] http://localhost:7071/api/text-to-timer For detailed output, run func with --verbose flag. [2021-06-26T19:45:14.502Z] Worker process started and initialized. [2021-06-26T19:45:19.338Z] Host lock lease acquired by instance ID '000000000000000000000000951CAE4E'. [2021-06-26T19:45:52.059Z] Executing 'Functions.text-to-timer' (Reason='This function was programmatically called via the host APIs.', Id=f68bfb90-30e4-47a5-99da-126b66218e81) [2021-06-26T19:45:53.577Z] Timer required for 147 seconds [2021-06-26T19:45:53.746Z] Executed 'Functions.text-to-timer' (Succeeded, Id=f68bfb90-30e4-47a5-99da-126b66218e81, Duration=1750ms)curl 的呼叫將返回以下內容：
HTTP/1.1 200 OK Date: Tue, 29 Jun 2021 01:14:11 GMT Content-Type: text/plain; charset=utf-8 Server: Kestrel Transfer-Encoding: chunked {"seconds": 147}計時器的秒數位於
"seconds"值中。
💁 您可以在 code/functions 資料夾中找到此程式碼。
任務 - 讓您的函數可供 IoT 裝置使用
-
為了讓您的 IoT 裝置呼叫您的 REST 端點，它需要知道 URL。當您之前訪問它時，您使用了
localhost，這是訪問本地機器上 REST 端點的快捷方式。要讓您的 IoT 裝置能夠訪問，您需要將其發佈到雲端，或者獲取您的 IP 地址以在本地訪問。⚠️ 如果您使用的是 Wio Terminal，建議在本地執行函數應用程式，因為可能存在依賴庫的問題，導致您無法像之前那樣部署函數應用程式。如果您希望部署到雲端，稍後的課程將提供相關資訊。
-
發佈函數應用程式 - 按照之前課程中的指示將函數應用程式發佈到雲端。發佈後，URL 將是
https://<APP_NAME>.azurewebsites.net/api/text-to-timer，其中<APP_NAME>是您的函數應用程式名稱。確保也發佈您的本地設定。使用 HTTP 觸發器時，預設情況下它們會使用函數應用程式金鑰進行保護。要獲取此金鑰，執行以下命令：
az functionapp keys list --resource-group smart-timer \ --name <APP_NAME>從
functionKeys區段中複製default條目的值。{ "functionKeys": { "default": "sQO1LQaeK9N1qYD6SXeb/TctCmwQEkToLJU6Dw8TthNeUH8VA45hlA==" }, "masterKey": "RSKOAIlyvvQEQt9dfpabJT018scaLpQu9p1poHIMCxx5LYrIQZyQ/g==", "systemKeys": {} }此金鑰需要作為查詢參數新增到 URL 中，因此最終的 URL 將是
https://<APP_NAME>.azurewebsites.net/api/text-to-timer?code=<FUNCTION_KEY>，其中<APP_NAME>是您的函數應用程式名稱，<FUNCTION_KEY>是您的預設函數金鑰。💁 您可以使用
function.json文件中的authlevel設定更改 HTTP 觸發器的授權類型。您可以在 Microsoft Docs 上的 Azure Functions HTTP 觸發器文件的配置部分 中閱讀更多相關資訊。 -
在本地執行函數應用程式，並使用 IP 地址訪問 - 您可以獲取電腦在本地網路上的 IP 地址，並使用該地址構建 URL。
找到您的 IP 地址：
- 在 Windows 10 上，請參考 查找您的 IP 地址指南。
- 在 macOS 上，請參考 如何在 Mac 上查找 IP 地址指南。
- 在 Linux 上，請參考 如何在 Linux 中查找 IP 地址指南 中的查找私人 IP 地址部分。
一旦獲取到您的 IP 地址，您將能夠通過
http://
-
:7071/api/text-to-timer，其中 <IP_ADDRESS>是您的 IP 位址，例如http://192.168.1.10:7071/api/text-to-timer`。
> 💁 請注意這裡使用的是 7071 埠，因此在 IP 位址後需要加上 `:7071`。
> 💁 這僅在您的 IoT 裝置與電腦位於同一網路時才會有效。
- 使用 curl 測試該端點。
🚀 挑戰
有許多方式可以請求相同的事情，例如設定一個計時器。試著想出不同的方式來完成這件事，並將它們作為範例加入您的 LUIS 應用程式中。測試這些範例，看看您的模型能多好地處理多種請求計時器的方式。
課後測驗
回顧與自學
- 在 Microsoft Docs 的 Language Understanding (LUIS) 文件頁面 閱讀更多關於 LUIS 及其功能的資訊
- 在 維基百科的自然語言理解頁面 閱讀更多關於語言理解的資訊
- 在 Microsoft Docs 的 Azure Functions HTTP 觸發器文件頁面 閱讀更多關於 HTTP 觸發器的資訊
作業
免責聲明：
本文件使用 AI 翻譯服務 Co-op Translator 進行翻譯。我們致力於提供準確的翻譯，但請注意，自動翻譯可能包含錯誤或不準確之處。應以原始語言的文件作為權威來源。對於關鍵資訊，建議尋求專業人工翻譯。我們對因使用此翻譯而產生的任何誤解或錯誤解讀概不負責。