免費 Chrome 擴充功能 — 裝置上的剪裁

裝置上剪切模型看到的內容

設備上的剪切模型看不到人類意義上的人、鞋子、寵物或椅子。它接收影像的數位表示,並逐像素估計哪些區域可能屬於主要主題。它有用的輸出是一個遮罩:可以成為結果的透明通道的灰階圖。

這種差異解釋了自動剪切的速度及其局限性。這個模型可以使用訓練期間學到的視覺模式,但它不知道你的意圖。靠近中心的尖銳物體可能看起來很重要;淡淡的玻璃邊緣或鬆散的一縷頭髮可能看起來像背景。

從圖像檔案到模型輸入

您首先選擇的檔案必須被解碼。壓縮照片不會直接以檔案位元組塊傳遞到模型中。瀏覽器將其轉換為具有寬度、高度和顏色值的像素。

然後推理管道準備模型大小的輸入。根據型號和運行時間,準備工作可以包括:

確切的維度和標準化規則屬於模型實現。重要的實用點是,推理通常是根據準備好的表示進行的,而不是根據原始大小的每個來源像素進行的。

Easy Background Remover 使用裝置上的分段模型在瀏覽器中執行此推理步驟。模型檔案可能需要在第一次剪切之前下載,但影像處理路徑被設計為在模型準備好後保留在本地。模型下載是資產請求;這與上傳所選照片進行遠端推理不是一回事。

輸出是一個類似置信度的掩碼

對於輸出中的每個位置,模型都會產生一個值,該值可以解釋為更像主題或更像背景。將其描繪為灰階圖像很有用:

瀏覽器將該輸出轉換為工作 alpha 蒙版。然後可以將原始色彩像素合成在棋盤、實心填滿、漸層或其他影像上。透明導出將遮罩儲存為 Alpha,而不是將棋盤繪製到檔案中。

軟價值觀很重要。如果每個蒙版值立即強制為純黑色或純白色,頭髮、毛皮、織物纖維、運動模糊和散焦邊緣將變得不自然地堅硬。部分 Alpha 可以保持更平滑的過渡。它還可以暴露舊背景的彩色條紋,這就是為什麼結果仍然值得目視檢查。

哪些視覺證據對模型有幫助

分割模型可以同時利用多個線索。強而有力的線索通常包括:

這些線索都不能保證。深色夾克搭配深色牆壁提供了微弱的邊界對比。間隙狹窄的椅子可能包含與物體相似的背景區域。有圖案的背景可以與實際主題競爭注意力。

該模型正在根據可用像素進行最佳估計。它無法恢復影像從未捕捉的細節。

模型不知道什麼

當存在多個主體時,模型不會自動知道您打算保留哪個物件。它不知道透明的水杯在商業上很重要,不知道為了真實而應該留下陰影,也不知道一條小帶子屬於一個包。

它也不會接收模糊來源的隱藏高解析度版本。壓縮塊、高光剪切、運動模糊和非常小的細節限制了可用的證據。增加預覽縮放會使螢幕上的像素變大;它不會產生缺少的資訊。

這就是為什麼「人工智慧偵測到它」和「邊緣已準備好發布」是不同的說法。檢測開始編輯。審核完畢。

為什麼薄而透明的細節很難

薄的物體佔據很少的像素。當調整影像大小以進行推理時,單像素線或髮絲可能會與周圍的背景進行平均。透明物體之所以困難還有另一個原因:它們可見的顏色部分是舊背景。對於理解該物體的人來說,邊界可能是清楚的,但像素圖案仍然是模糊的。

柔和的陰影故意營造出一種模糊感。它們的外緣逐漸消失,沒有一個客觀正確的界限。保持完整的陰影在相似的背景上可能看起來很自然,但在明亮的新填充物上看起來很髒。移除它可能會使主體看起來漂浮。

這些都是判斷問題,也是模型問題。

模型遮罩、工作遮罩與匯出遮罩

它有助於區分三個階段:

  1. 模型遮罩: 推理返回的自動估計。
  2. 工作遮罩: 任何「新增」或「擦除」細化後在編輯器中顯示的遮罩。
  3. 匯出遮罩: 下載或複製目前結果時所應用的工作遮罩。

在 Easy Background Remover 中,畫筆細化會編輯工作遮罩。匯出使用目前編輯的結果,而不是默默地回到未更改的自動蒙版。這使模型可以處理廣泛的分離,同時您可以根據意圖糾正細節。

顯示的預覽可以縮放以適合編輯器。此顯示器尺寸並不能可靠地衡量面罩的內部細節。請閱讀蒙版解析度與預覽尺寸 以了解差異。

本地推理還有一個設定步驟

在設備上運行模型需要模型權重和相容的瀏覽器運行時。權重比普通介面程式碼大得多,因此在每次編輯器啟動時加載所有內容將是浪費。第一個會話可以下載並快取模型;以後的普通會話通常可以重複使用它。

為什麼第一次運行會下載模型 解釋了該邊界,而沒有將模型資源下載與照片上傳混淆。繁重的推理也會遠離主介面執行緒;請參閱 Web Worker 影像處理基礎。

判斷結果的實用方法

不要只檢查主體的中心。檢查證據最薄弱的面具:

如果最終目的地未知,請在淺色和深色背景下查看結果。淺色光暈在白色上會消失,在黑色上會變得明顯。然後僅細化影響預期用途的區域。

當自動分割被視為強大的第一遍而不是完美理解的陳述時,它是最有用的。若要嘗試完整的本地剪下和細化流程,請參閱入門。