You can not select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
IoT-For-Beginners/translations/tw/5-retail/lessons/2-check-stock-device/wio-terminal-count-stock.md

7.7 KiB

從您的 IoT 裝置計算庫存 - Wio Terminal

結合預測結果及其邊界框可以用來計算影像中的庫存。

計算庫存

4罐番茄醬,每罐周圍都有邊界框

在上圖中,邊界框有些許重疊。如果這種重疊更大,則邊界框可能表示同一個物件。為了正確計算物件數量,您需要忽略具有顯著重疊的框。

任務 - 忽略重疊計算庫存

  1. 如果尚未開啟您的 stock-counter 專案,請將其打開。

  2. processPredictions 函數上方,新增以下程式碼:

    const float overlap_threshold = 0.20f;
    

    此程式碼定義了邊界框被視為同一物件之前允許的重疊百分比。0.20 表示 20% 的重疊。

  3. 在此程式碼下方,並在 processPredictions 函數上方,新增以下程式碼以計算兩個矩形之間的重疊:

    struct Point {
        float x, y;
    };
    
    struct Rect {
        Point topLeft, bottomRight;
    };
    
    float area(Rect rect)
    {
        return abs(rect.bottomRight.x - rect.topLeft.x) * abs(rect.bottomRight.y - rect.topLeft.y);
    }
    
    float overlappingArea(Rect rect1, Rect rect2)
    {
        float left = max(rect1.topLeft.x, rect2.topLeft.x);
        float right = min(rect1.bottomRight.x, rect2.bottomRight.x);
        float top = max(rect1.topLeft.y, rect2.topLeft.y);
        float bottom = min(rect1.bottomRight.y, rect2.bottomRight.y);
    
    
        if ( right > left && bottom > top )
        {
            return (right-left)*(bottom-top);
        }
    
        return 0.0f;
    }
    

    此程式碼定義了一個 Point 結構來儲存影像上的點,以及一個 Rect 結構來使用左上角和右下角座標定義矩形。接著定義了一個 area 函數,該函數使用左上角和右下角座標計算矩形的面積。

    接著定義了一個 overlappingArea 函數,該函數計算兩個矩形的重疊面積。如果它們不重疊,則返回 0。

  4. overlappingArea 函數下方,宣告一個函數以將邊界框轉換為 Rect

    Rect rectFromBoundingBox(JsonVariant prediction)
    {
        JsonObject bounding_box = prediction["boundingBox"].as<JsonObject>();
    
        float left = bounding_box["left"].as<float>();
        float top = bounding_box["top"].as<float>();
        float width = bounding_box["width"].as<float>();
        float height = bounding_box["height"].as<float>();
    
        Point topLeft = {left, top};
        Point bottomRight = {left + width, top + height};
    
        return {topLeft, bottomRight};
    }
    

    此函數從物件檢測器的預測中提取邊界框,並使用邊界框上的值定義矩形。右側是由左側加上寬度計算得出。底部是由頂部加上高度計算得出。

  5. 需要將預測結果彼此比較,如果兩個預測結果的重疊超過閾值,則需要刪除其中一個。重疊閾值是一個百分比,因此需要乘以最小邊界框的大小,以檢查重疊是否超過邊界框的給定百分比,而不是整個影像的百分比。首先,刪除 processPredictions 函數的內容。

  6. 在空的 processPredictions 函數中新增以下程式碼:

    std::vector<JsonVariant> passed_predictions;
    
    for (int i = 0; i < predictions.size(); ++i)
    {
        Rect prediction_1_rect = rectFromBoundingBox(predictions[i]);
        float prediction_1_area = area(prediction_1_rect);
        bool passed = true;
    
        for (int j = i + 1; j < predictions.size(); ++j)
        {
            Rect prediction_2_rect = rectFromBoundingBox(predictions[j]);
            float prediction_2_area = area(prediction_2_rect);
    
            float overlap = overlappingArea(prediction_1_rect, prediction_2_rect);
            float smallest_area = min(prediction_1_area, prediction_2_area);
    
            if (overlap > (overlap_threshold * smallest_area))
            {
                passed = false;
                break;
            }
        }
    
        if (passed)
        {
            passed_predictions.push_back(predictions[i]);
        }
    }
    

    此程式碼宣告了一個向量,用於儲存不重疊的預測結果。接著迴圈遍歷所有預測結果,從邊界框建立一個 Rect

    接著此程式碼迴圈遍歷剩餘的預測結果,從當前預測結果之後的那一個開始。這樣可以避免重複比較預測結果——一旦 1 和 2 已經比較過,就不需要再比較 2 和 1只需比較 2 和 3、4 等。

    對於每一對預測結果,計算重疊面積。接著將其與最小邊界框的面積進行比較——如果重疊超過最小邊界框的閾值百分比,則該預測結果被標記為未通過。如果在比較所有重疊後,該預測結果通過檢查,則將其新增到 passed_predictions 集合中。

    💁 這是一種非常簡單的方式來移除重疊,只移除重疊對中的第一個。在生產環境的程式碼中,您可能需要加入更多邏輯,例如考慮多個物件之間的重疊,或者一個邊界框是否被另一個邊界框包含。

  7. 在此之後,新增以下程式碼以將通過的預測結果的詳細資訊發送到序列監視器:

    for(JsonVariant prediction : passed_predictions)
    {
        String boundingBox = prediction["boundingBox"].as<String>();
        String tag = prediction["tagName"].as<String>();
        float probability = prediction["probability"].as<float>();
    
        char buff[32];
        sprintf(buff, "%s:\t%.2f%%\t%s", tag.c_str(), probability * 100.0, boundingBox.c_str());
        Serial.println(buff);
    }
    

    此程式碼迴圈遍歷通過的預測結果,並將其詳細資訊列印到序列監視器。

  8. 在此下方,新增程式碼以將計算出的物件數量列印到序列監視器:

    Serial.print("Counted ");
    Serial.print(passed_predictions.size());
    Serial.println(" stock items.");
    

    然後可以將此資訊發送到 IoT 服務,以在庫存水平低時發出警報。

  9. 上傳並執行您的程式碼。將相機對準架子上的物件,並按下 C 按鈕。嘗試調整 overlap_threshold 值,查看預測結果被忽略的情況。

    Connecting to WiFi..
    Connected!
    Image captured
    Image read to buffer with length 17416
    tomato paste:   35.84%  {"left":0.395631,"top":0.215897,"width":0.180768,"height":0.359364}
    tomato paste:   35.87%  {"left":0.378554,"top":0.583012,"width":0.14824,"height":0.359382}
    tomato paste:   34.11%  {"left":0.699024,"top":0.592617,"width":0.124411,"height":0.350456}
    tomato paste:   35.16%  {"left":0.513006,"top":0.647853,"width":0.187472,"height":0.325817}
    Counted 4 stock items.
    

💁 您可以在 code-count/wio-terminal 資料夾中找到此程式碼。

😀 您的庫存計數程式成功了!

免責聲明
本文件使用 AI 翻譯服務 Co-op Translator 進行翻譯。雖然我們致力於提供準確的翻譯,但請注意,自動翻譯可能包含錯誤或不準確之處。原始文件的母語版本應被視為權威來源。對於關鍵資訊,建議使用專業人工翻譯。我們對因使用此翻譯而引起的任何誤解或錯誤解釋不承擔責任。