|
|
BackgroundMattingV2 是华盛顿大学几位研究员提出的一种实时、高分辨率的背景替换技术，能保留头发细节，效果惊人，是基于 Python 实现的。在 4K 分辨率下，该技术的运行速度为 30fps，在现代 GPU 上，高清的运行速度为 60fps。该技术是基于背景抠图，其中一帧额外的背景被捕获并用于恢复前景蒙版和前景层。
# u7 ?* y6 S& X' O( D2 k' S
% k8 ], b5 Z3 o# K# ^
项目源码地址：
+ P8 b: e7 l8 Thttps://github.com/PeterL1n/BackgroundMattingV21 j8 R) Y( B& A' y
项目依赖库：
0 V5 M# h: c( K& g kornia==0.4.1/ j/ z, H# L6 }4 T2 b
tensorboard==2.3.0" P7 m) `% q, `2 q0 }5 j' L
torchvision==0.8.1
& {5 ^( o2 F# F6 l( Q tqdm==4.51.00 G, ?' U4 g, h& P8 `5 s9 r
opencv-python==4.4.0.44
1 e Z, _6 n. F0 d, Z onnxruntime==1.6.0
6 p" F$ p: V* i* h. _开发者提供的一些文件资源（国内需木弟子）：
% }) M& {7 X5 I1、下载模型/权重文件* Q. p6 w; ~/ \4 @" s- Y+ h! m8 H
https://drive.google.com/drive/folders/1cbetlrKREitIgjnIikG1HdM4x72FtgBh?usp=sharing
4 y7 e& B4 m% f. g) t* l- x2、用于练习的视频和图片文件: K# G4 D) m& |2 S
HD视频：& U$ k- a# Q2 ^4 c/ a
https://drive.google.com/drive/folders/1j3BMrRFhFpfzJAe6P2WDtfanoeSCLPiq
" Z6 |7 B* h r3 F7 Y4K视频和图片：( ?; p0 O; m. n
https://drive.google.com/drive/folders/16H6Vz3294J-DEzauw06j4IUARRqYGgRD?usp=sharing
3 h" m, o$ W4 i/ q1 n. M项目demo脚本介绍:6 i# O6 v$ V+ n5 E: b. h5 N
inference_images.py：用于图片中的背景替换，用法如下：1 C9 f3 d& }& w2 ]7 h# F1 t
python inference_images.py
; ~3 h, } U2 [, S3 d3 l' J--model-type mattingrefine
1 p# T+ h" \ P1 ~--model-backbone resnet505 f2 f+ C! u1 ~* Z( i
--model-backbone-scale 0.25
4 @! O+ k( u4 }; _. t. k--model-refine-mode sampling
) `5 `& X) N/ R--model-refine-sample-pixels 80000
) a* t: I: A/ |--model-checkpoint "PATH_TO_CHECKPOINT"
$ S. a3 K5 v2 @ G--images-src "PATH_TO_IMAGES_SRC_DIR"
; W! P/ c5 }( m- |# I0 |9 u* s# ^( }--images-bgr "PATH_TO_IMAGES_BGR_DIR"- P6 L8 X% X- ?5 |2 ]6 ]0 |
--output-dir "PATH_TO_OUTPUT_DIR"% {8 N. i% }3 `' |; `- j
--output-type com fgr pha! ]( [# K" m1 G6 O+ l8 }
inference_video.py: 用于视频中的背景替换，用法如下：! |; F4 A' y) q% N& q+ F" [9 M) F
python inference_video.py % x: f+ }$ I( y( W0 k1 y6 ]& o
--model-type mattingrefine
* p& v3 g4 B8 J) ~+ E; i--model-backbone resnet50
, B. p% ~% A0 c$ Q$ _4 [: v--model-backbone-scale 0.25 " _& u! x X+ ~( b& u3 U& O
--model-refine-mode sampling 1 @/ Q5 A# v1 i3 R6 w. l
--model-refine-sample-pixels 80000
, c. m0 a2 y R" ]! p! p& x1 V( x--model-checkpoint "PATH_TO_CHECKPOINT" U4 r( H9 T5 e% W& f5 h
--video-src "PATH_TO_VIDEO_SRC"
( N8 X/ z( V6 Z: g--video-bgr "PATH_TO_VIDEO_BGR" 2 x4 W {/ l5 D/ D, _
--video-resize 1920 1080
4 b% H+ x, B" x9 q--output-dir "PATH_TO_OUTPUT_DIR"
' l0 k9 T. u3 {0 q2 l; Z9 x1 {9 ]--output-type com fgr pha err ref" l4 n7 T, v7 |4 N+ y& q/ f* u1 ~; |
inference_webcam.py：用于使用网络摄像头下的交互式背景替换，用法如下：
' Y7 U# k" l& D s0 V( m- dpython inference_webcam.py , [5 C2 Z; {- m# e' A
--model-type mattingrefine 8 U6 c- w% q: W
--model-backbone resnet50 8 c# F/ |0 {& V8 R% U" K8 N
--model-checkpoint "PATH_TO_CHECKPOINT"
) N9 Q* ~; V+ q. n; O; i( b: _--resolution 1280 720
/ T& U' T: ~5 g+ s3 l( T虚拟摄像机
0 h* u5 R5 o5 M* W3 C% ~ 开发者提供了一个应用插件，通过他们的模型将网络摄像头视频输送到一个虚拟摄像头。该插件仅适用于Linux系统，可以在Zoom视频会议软件中使用。更多详情请查看:
) H; b1 ~' i5 |0 r; V( jhttps://github.com/andreyryabtsev/BGMv2-webcam-plugin-linux" }" I V' d6 N% Y3 d
在Google Colab上体验/ i, G/ C% n- y# w0 f+ e
另外，开发者还提供了Google Colab的体验地址（国内需要木弟子），可以体验替换图片和视频中的背景。
5 Y5 Q, k' X6 Z- U; L3 i1、图片背景替换体验地址：
% W: U, T" f: R8 S( G8 H% A4 Phttps://colab.research.google.com/drive/1cTxFq1YuoJ5QPqaTcnskwlHDolnjBkB9?usp=sharing
" ?) w, @% ~3 |# ]8 a% V2、视频背景替换体验地址：! q- Z+ H$ [( b! P
https://colab.research.google.com/drive/1Y9zWfULc8-DDTSsCH-pX6Utw8skiJG5s?usp=sharing/ j+ B8 {# h* I' v" N) E1 z
附上开发者提供的项目演示视频：; w/ J' {$ @( C
2 b- ]- s: e' n$ X2 ~0 m |
|
|手机版|小黑屋|paopaomj.COM
( 
渝ICP备18007172号|
渝公网安备50010502503914号 )
发表于 2021-1-11 15:08:16