裝置上嘅剪裁模型會睇到啲咩
裝置上嘅剪裁模型唔會喺人類嘅意義上睇到人、鞋、寵物或者椅子。佢會接收圖像嘅數字表示,並逐像素估計,邊啲區域好可能屬於主要主體。佢嘅有用輸出係一個蒙版:一個灰度圖,可以成為結果嘅透明度通道。
呢個分別解釋咗自動剪輯嘅速度同埋佢哋嘅極限。個模型可以用喺訓練期間學到嘅視覺模式,但係佢唔知你嘅意圖。中心附近嘅鋒利物體可能睇落好重要;淡淡嘅玻璃邊或者鬆散嘅頭髮可能會好似背景噉。
由圖像檔案到模型輸入
你揀嘅檔案要先解碼。壓縮相片唔會直接以檔案字节嘅形式傳入模型。瀏覽器會將佢變成有闊度、高度同顏色值嘅像素。
然後推斷管道會準備一個模型大小嘅輸入。視乎模型同運行時間而定,準備可以包括:
- 將解碼圖像嘅大小調整到模型預期嘅尺寸;
- 將紅色、綠色同藍色嘅值排列成數字通道;
- 縮放或者標準化嗰啲值;
- 將佢哋包裝成張量,即係推斷跑時間所用嘅陣列格式。
確切嘅維度同正規化規則屬於模型實現。重要嘅實際點係,推斷通常係由一個準備好嘅表示進行,而唔係由每個原始大小嘅源像素進行。
Easy Background Remover 喺瀏覽器入面用裝置上嘅劃分模型執行呢個推斷步驟。模型檔案可能需要喺第一次剪裁之前下載,但係圖像處理路徑係設計咗喺模型準備好之後保持本地。模型下載係一個資產要求;呢個同上載所選相片嚟遠端推斷唔係一樣嘢。
輸出係一個好似自信噉嘅面具
對於輸出中嘅每個位置,模型都會產生一個值,可以解釋為更似主體或者更似背景。將呢個圖像化成灰度圖像係有用嘅:
- 白色嘅意思係保留呢個區域;
- 黑色係指移除呢個區域;
- 灰色係指邊緣附近嘅部分覆蓋或唔確定性。
瀏覽器會將嗰個輸出轉換成正常運作嘅 alpha 掩碼。然後,原始顏色像素可以喺棋盤、實體填充、漸變或者其他圖片上面合成。透明匯出會將個蒙版儲存為 alpha ,而唔係將棋盤畫入檔案入面。
軟價值觀係重要嘅。如果每個面具值都即刻被迫變成純黑色或者白色,頭髮、毛皮、布料纖維、動作模糊同埋離焦嘅邊緣都會變得唔自然咁硬。部分 alpha 可以保持更順暢嘅過渡。佢亦都可以露出舊背景嘅顏色邊緣,呢個就係點解個結果仍然值得目視檢查。
有咩視覺證據可以幫到個模型
分割模型可以一次過借鑑多過一個線索。強烈嘅線索通常包括:
- 主體同背景之間嘅對比;
- 圍繞一個主導物件嘅連續界線;
- 熟悉嘅形狀、質地同位置嘅組合;
- 深度訊號,例如焦點差異;
- 視覺上屬於一齊嘅地區。
呢啲線索都唔係保證。深色外套對住深色牆提供弱嘅邊界對比。一張有窄間隙嘅椅子可能包含類似物體嘅背景區域。有圖案嘅背景可以同實際嘅主體競爭注意力。
個模型會根據可用嘅像素作出最佳估計。佢恢復唔到圖片從來冇捕捉過嘅細節。
個模特兒唔知嘅嘢
當有幾個受試者喺度嗰陣,個模型唔會自動知道你想保留邊個物件。佢唔知道透明飲杯係商業上重要,陰影應該留低嚟保持現實感,或者一條細嘅帶子係屬於個袋。
佢亦都唔會接收到隱藏嘅高解像度版本嘅模糊來源。壓縮塊、剪輯亮點、動態模糊同埋非常細嘅細節限制咗可用嘅證據。增加預覽縮放會令到螢幕上嘅像素變大;佢唔會產生缺失嘅資料。
呢個就係點解「 AI 偵測到」同「邊緣已經準備好發佈」係唔同嘅聲稱。偵測開始編輯。評論完咗佢。
點解薄同透明嘅細節好難
薄物體佔用少啲像素。當為咗推斷而調整圖片大細嗰陣,一條一像素嘅電線或者髮絲可以同佢周圍嘅背景平均。透明物體難嘅原因有另一個:佢哋嘅可見顏色部分係舊背景。對於一個明白物件嘅人嚟講,界線可能係清楚嘅,而像素模式仍然係曖昧嘅。
柔和嘅陰影會造成一種有意嘅曖昧。佢哋嘅外邊會逐漸褪色,而且冇單一客觀正確嘅截止值。保持全陰影可能喺類似嘅背景上睇落自然,但係喺明亮嘅新填充下睇落好污糟。移除佢可能會令到個拍攝對象好似浮動咁。
呢啲同模型問題一樣係判斷問題。
模型口罩、工作口罩同出口口罩
佢有助分開三個階段:
- ** 模型掩碼: ** 由推斷返回嘅自動估計值。
- ** 工作蒙版: ** 任何新增或擦除細化之後喺編輯器入面顯示嘅蒙版。
- ** 匯出蒙版: ** 當下載或者複製當前結果嗰陣套用嘅工作蒙版。
喺 Easy Background Remover 入面,筆刷細化會編輯工作蒙版。匯出會用當前嘅編輯結果,而唔係靜音返去未掂過嘅自動遮罩。噉樣,模型就可以處理廣泛嘅分離,同時你可以更正視乎意圖而定嘅細節。
顯示嘅預覽可能會縮放嚟適合編輯器。呢個顯示尺寸唔係口罩內部細節嘅可靠衡量標準。請睇[蒙版解像度同預覽大小]( _ _ MDLINK0 _ _ )嚟分辨。
本地推斷仍然有一個設定步驟
喺裝置上面執行模型需要模型權重同埋兼容嘅瀏覽器執行時間。權重比普通介面代碼大好多,所以喺每次編輯器啟動嗰陣載入所有嘢都會好浪費。第一個工作階段可能會下載同緩存個模型;遲啲普通嘅會議通常都可以重用佢。
【點解第一次執行會下載模型】( __ MDLINK1 _ _ )解釋咗呢個界線,而唔會將模型資產下載同相片上載混淆。重推斷亦都係離開主介面索引;請參閱[網絡工作者圖像處理基礎]( _ _ MDLINK2 _ _ )。
一個實際嘅方法去判斷結果
唔好淨係檢查被攝物嘅中心。喺證據最弱嘅地方檢查口罩:
- 頭髮、毛皮、鬍鬚同布料纖維;
- 眼鏡、帶子、電線同埋窄嘅間隙;
- 低對比度嘅邊緣;
- 半透明材料;
- 接觸陰影;
- 可能會保留舊背景顏色嘅角落。
如果最終目的地未知,可以喺淺色同深色背景上面睇返個結果。淡色嘅光晕可以喺白色上面消失,而喺黑色上面就變得明顯。然後只係細化影響預期用途嘅區域。
當將自動分割當成一個強大嘅第一關,而唔係完美理解嘅聲明嗰陣,自動分割係最有用嘅。如果要試下完整嘅本地剪輯同細化流程,請睇[開始]( __ MDLINK3 _ _ )。