【轉(zhuǎn)載】 GPUImage原理

GPUImage原理

GPUImage是一個開元的基于GPU的圖片或視頻的處理框架,其本身內(nèi)置了多達120多種常見的濾鏡效果,并且支持照相機和攝像機的實時濾鏡,并且能夠自定義圖像濾鏡。

美顏的基本概念

OpenGL ES:開源嵌入式系統(tǒng)圖形的處理框架,一套圖形與硬件接口,創(chuàng)造了軟件與圖形加速間靈活強大的底層交互接口。用于把處理好的圖片顯示到屏幕上。

GPU:(圖形處理單元)手機或者電腦用于圖像處理和渲染的硬件。

GPU工作原理:CPU指定顯示器工作,顯示控制器根據(jù)CPU的控制到指定的地方去取數(shù)據(jù)和指令,目前的數(shù)據(jù)一般是從顯存里取,如果顯存里存不下,則從內(nèi)存里取,內(nèi)存也放不下,則從硬盤里取。

濾鏡處理的原理:就是把靜態(tài)圖片或者視頻的每一幀進行圖形變化后在顯示到屏幕上,其本質(zhì)就是像素點的坐標(biāo)和顏色的變化。

OpenGL ES程序處理圖片的步驟:

1.初始化OpenGL ES 環(huán)境,編譯、鏈接頂點著色器和片元著色器。

2.緩存頂點、紋理坐標(biāo)數(shù)據(jù),傳送圖像數(shù)據(jù)到GPU

3.繪制圖元到特定的幀緩存;

4.在幀緩存去除繪制的圖像。

GPUImage基本概念

GPUImage是采用鏈式方法來處理畫面,通過addTarget方法添加對象到鏈中,處理完一個target,就會吧上一個環(huán)節(jié)處理好的圖像數(shù)據(jù)傳遞到下一個target處理,成為GPUImage處理鏈。

GPUImage的四大輸入基礎(chǔ)類,都可以作為響應(yīng)鏈的起點,這些基礎(chǔ)類會把圖像作為紋理傳給OpenGL ES處理,然后把紋理傳遞給響應(yīng)鏈的下一個target對象。

GPUImage的處理環(huán)節(jié)

source(視頻,圖片源)->filter(濾鏡)->final target(處理后的視頻、圖片)

source:

GPUImageVideoCamera 攝像頭-用于實時拍攝視頻

GPUImageStillCamera 攝像頭-用于實時拍攝照片

GPUImagePicture 用于處理已經(jīng)拍攝好的圖片

GPUImageMovie 用于處理已經(jīng)拍攝好的視頻

filter

GPUImageFilter:就是用來接收源圖像,通過自定義的頂點,片元著色器來渲染新的圖像,并在繪制完成后通知響應(yīng)鏈的下一個對象。

GPUImageFramebuffer:就是用來管理紋理緩存的格式與讀寫幀緩存的buffer。

GPUImage的filter:GPUImageFilter類或者子類,這個類繼承自GPUImageOutput,遵循GPUImageInput協(xié)議,既可以流進數(shù)據(jù),又可以流出GPUImage的final target: GPUImageView,GPUImageMovieWriter最終輸入目標(biāo),顯示圖片或者視頻。

解析

GPUImageVideoCamera

GPUImageVideoCamera是GPUImageOutput的子類,提供來自攝像頭的圖像數(shù)據(jù)作為源數(shù)據(jù),一般是響應(yīng)鏈的源頭。

1.視頻圖像采集:AVCaptureSession

GPUImage使用AVFoundation框架來獲取視頻。AVCaptureSession類從AV輸入設(shè)備的采集數(shù)據(jù)到指定的輸出。

2.顏色空間:YUV

YUV是被歐洲電視系統(tǒng)索采用的一種顏色編碼方法。采用YUV色彩空間的重要性是它的亮度信號Y和色度信號U、V是分離的。如果只有Y信號分量而沒有U、V分量,那么這樣表示的圖像就是黑白灰度圖像,彩色電視采用YUV空間正式為了用亮度信號Y解決彩色電視機與黑白電視機的兼容問題,使黑白電視機也能接收彩色電視信號。

YUV主要用于優(yōu)化彩色視頻信號的傳輸,使其向后相容老式黑白電視。與RGB視頻信號傳輸相比,它最大的優(yōu)點在于只需占用極少的頻寬。

GPUImage中的YUV

GLProgram *yuvConversionProgram:將YUV顏色空間轉(zhuǎn)換成RGB顏色空間的GLSL。
CVPixelBufferGetPlaneCount:返回緩沖區(qū)的平面數(shù)。

CVOpenGLESTextureCacheCreateTextureFromImage():
創(chuàng)建兩個紋理luminanceTextureRef(亮度紋理)和chrominanceTextureRef(色度紋理)。
convertYUVToRGBOutput():把YUV顏色空間的紋理轉(zhuǎn)換成RGB顏色空間的紋理。

頂點著色器-通用kGPUImageVertexShaderString

片元著色器:

1.kGPUImageYUVFullRangeConversionForLAFragmentShaderString

  1. kGPUImageYUVVideoRangeConversionForLAFragmentShaderString

紋理繪制

  1. glActiveTexture(GL_TEXTURE1);

  2. glGenTextures(1, &_texture);

  3. glBindTexture(GL_TEXTURE_2D, _texture);

GPUImageView是響應(yīng)鏈的終點,用于顯示GPUImage圖像

1.填充模式

GPUImageFillModeType fillMode圖像的填充模式。

sizeInPixels 像素區(qū)域的大小

recalculateViewGeometry 重新計算圖像頂點位置數(shù)據(jù)

AVMakeRectWithAspectRatioInsideRece 在保證寬高比不變的前提下,得到一個盡可能大的矩形。

28 #import ``"GPUImageBrightnessFilter.h" //亮度

29 #import ``"GPUImageExposureFilter.h" //曝光

30 #import ``"GPUImageContrastFilter.h" //對比度

31 #import ``"GPUImageSaturationFilter.h" //飽和度

32 #import ``"GPUImageGammaFilter.h" //伽馬線

33 #import ``"GPUImageColorInvertFilter.h" //反色

34 #import ``"GPUImageSepiaFilter.h" //褐色(懷舊)

35 #import ``"GPUImageLevelsFilter.h" //色階

36 #import ``"GPUImageGrayscaleFilter.h" //灰度

37 #import ``"GPUImageHistogramFilter.h" //色彩直方圖,顯示在圖片上

38 #import ``"GPUImageHistogramGenerator.h" //色彩直方圖

39 #import ``"GPUImageRGBFilter.h" //RGB

40 #import ``"GPUImageToneCurveFilter.h" //色調(diào)曲線

41 #import ``"GPUImageMonochromeFilter.h" //單色

42 #import ``"GPUImageOpacityFilter.h" //不透明度

43 #import ``"GPUImageHighlightShadowFilter.h" //提亮陰影

44 #import ``"GPUImageFalseColorFilter.h" //色彩替換(替換亮部和暗部色彩)

45 #import ``"GPUImageHueFilter.h" //色度

46 #import ``"GPUImageChromaKeyFilter.h" //色度鍵

47 #import ``"GPUImageWhiteBalanceFilter.h" //白平橫

48 #import ``"GPUImageAverageColor.h" //像素平均色值

49 #import ``"GPUImageSolidColorGenerator.h" //純色

50 #import ``"GPUImageLuminosity.h" //亮度平均

51 #import ``"GPUImageAverageLuminanceThresholdFilter.h" //像素色值亮度平均,圖像黑白(有類似漫畫效果)

52

53 #import ``"GPUImageLookupFilter.h" //lookup 色彩調(diào)整

54 #import ``"GPUImageAmatorkaFilter.h" //Amatorka lookup

55 #import ``"GPUImageMissEtikateFilter.h" //MissEtikate lookup

56 #import ``"GPUImageSoftEleganceFilter.h" //SoftElegance lookup

61 #pragma mark - 圖像處理 Handle Image

62

63 #import ``"GPUImageCrosshairGenerator.h"    //十字

64 #import ``"GPUImageLineGenerator.h"    //線條

65

66 #import ``"GPUImageTransformFilter.h"    //形狀變化

67 #import ``"GPUImageCropFilter.h"      //剪裁

68 #import ``"GPUImageSharpenFilter.h"      //銳化

69 #import ``"GPUImageUnsharpMaskFilter.h"    //反遮罩銳化

70

71 #import ``"GPUImageFastBlurFilter.h"      //模糊

72 #import ``"GPUImageGaussianBlurFilter.h"    //高斯模糊

73 #import ``"GPUImageGaussianSelectiveBlurFilter.h" //高斯模糊,選擇部分清晰

74 #import ``"GPUImageBoxBlurFilter.h"      //盒狀模糊

75 #import ``"GPUImageTiltShiftFilter.h"    //條紋模糊,中間清晰,上下兩端模糊

76 #import ``"GPUImageMedianFilter.h"      //中間值,有種稍微模糊邊緣的效果

77 #import ``"GPUImageBilateralFilter.h"    //雙邊模糊

78 #import ``"GPUImageErosionFilter.h"    //侵蝕邊緣模糊,變黑白

79 #import ``"GPUImageRGBErosionFilter.h"    //RGB侵蝕邊緣模糊,有色彩

80 #import ``"GPUImageDilationFilter.h"    //擴展邊緣模糊,變黑白

81 #import ``"GPUImageRGBDilationFilter.h"    //RGB擴展邊緣模糊,有色彩

82 #import ``"GPUImageOpeningFilter.h"    //黑白色調(diào)模糊

83 #import ``"GPUImageRGBOpeningFilter.h"    //彩色模糊

84 #import ``"GPUImageClosingFilter.h"     //黑白色調(diào)模糊,暗色會被提亮

85 #import ``"GPUImageRGBClosingFilter.h"    //彩色模糊,暗色會被提亮

86 #import ``"GPUImageLanczosResamplingFilter.h" //Lanczos重取樣,模糊效果

87 #import ``"GPUImageNonMaximumSuppressionFilter.h" //非最大抑制,只顯示亮度最高的像素,其他為黑

88 #import ``"GPUImageThresholdedNonMaximumSuppressionFilter.h" //與上相比,像素丟失更多

89

90 #import ``"GPUImageSobelEdgeDetectionFilter.h" //Sobel邊緣檢測算法(白邊,黑內(nèi)容,有點漫畫的反色效果)

91 #import ``"GPUImageCannyEdgeDetectionFilter.h" //Canny邊緣檢測算法(比上更強烈的黑白對比度)

92 #import ``"GPUImageThresholdEdgeDetectionFilter.h" //閾值邊緣檢測(效果與上差別不大)

93 #import ``"GPUImagePrewittEdgeDetectionFilter.h" //普瑞維特(Prewitt)邊緣檢測(效果與Sobel差不多,貌似更平滑)

94 #import ``"GPUImageXYDerivativeFilter.h" //XYDerivative邊緣檢測,畫面以藍色為主,綠色為邊緣,帶彩色

95 #import ``"GPUImageHarrisCornerDetectionFilter.h" //Harris角點檢測,會有綠色小十字顯示在圖片角點處

96 #import ``"GPUImageNobleCornerDetectionFilter.h" //Noble角點檢測,檢測點更多

97 #import ``"GPUImageShiTomasiFeatureDetectionFilter.h" //ShiTomasi角點檢測,與上差別不大

98 #import ``"GPUImageMotionDetector.h"      //動作檢測

99 #import ``"GPUImageHoughTransformLineDetector.h" //線條檢測

100 #import ``"GPUImageParallelCoordinateLineTransformFilter.h" //平行線檢測

101

102 #import ``"GPUImageLocalBinaryPatternFilter.h" //圖像黑白化,并有大量噪點

103

104 #import ``"GPUImageLowPassFilter.h" //用于圖像加亮

105 #import ``"GPUImageHighPassFilter.h" //圖像低于某值時顯示為黑

107

108 #pragma mark - 視覺效果 Visual Effect

109

110 #import ``"GPUImageSketchFilter.h" //素描

111 #import ``"GPUImageThresholdSketchFilter.h" //閥值素描,形成有噪點的素描

112 #import ``"GPUImageToonFilter.h" //卡通效果(黑色粗線描邊)

113 #import ``"GPUImageSmoothToonFilter.h" //相比上面的效果更細膩,上面是粗曠的畫風(fēng)

114 #import ``"GPUImageKuwaharaFilter.h" //桑原(Kuwahara)濾波,水粉畫的模糊效果;處理時間比較長,慎用

115

116 #import ``"GPUImageMosaicFilter.h" //黑白馬賽克

117 #import ``"GPUImagePixellateFilter.h" //像素化

118 #import ``"GPUImagePolarPixellateFilter.h" //同心圓像素化

119 #import ``"GPUImageCrosshatchFilter.h" //交叉線陰影,形成黑白網(wǎng)狀畫面

120 #import ``"GPUImageColorPackingFilter.h" //色彩丟失,模糊(類似監(jiān)控攝像效果)

121

122 #import ``"GPUImageVignetteFilter.h" //暈影,形成黑色圓形邊緣,突出中間圖像的效果

123 #import ``"GPUImageSwirlFilter.h" //漩渦,中間形成卷曲的畫面

124 #import ``"GPUImageBulgeDistortionFilter.h" //凸起失真,魚眼效果

125 #import ``"GPUImagePinchDistortionFilter.h" //收縮失真,凹面鏡

126 #import ``"GPUImageStretchDistortionFilter.h" //伸展失真,哈哈鏡

127 #import ``"GPUImageGlassSphereFilter.h" //水晶球效果

128 #import ``"GPUImageSphereRefractionFilter.h" //球形折射,圖形倒立

129

130 #import ``"GPUImagePosterizeFilter.h" //色調(diào)分離,形成噪點效果

131 #import ``"GPUImageCGAColorspaceFilter.h" //CGA色彩濾鏡,形成黑、淺藍、紫色塊的畫面

132 #import ``"GPUImagePerlinNoiseFilter.h" //柏林噪點,花邊噪點

133 #import ``"GPUImage3x3ConvolutionFilter.h" //3x3卷積,高亮大色塊變黑,加亮邊緣、線條等

134 #import ``"GPUImageEmbossFilter.h" //浮雕效果,帶有點3d的感覺

135 #import ``"GPUImagePolkaDotFilter.h" //像素圓點花樣

136 #import ``"GPUImageHalftoneFilter.h" //點染,圖像黑白化,由黑點構(gòu)成原圖的大致圖形

137

138

139 #pragma mark - 混合模式 Blend

140

141 #import ``"GPUImageMultiplyBlendFilter.h" //通常用于創(chuàng)建陰影和深度效果

142 #import ``"GPUImageNormalBlendFilter.h" //正常

143 #import ``"GPUImageAlphaBlendFilter.h" //透明混合,通常用于在背景上應(yīng)用前景的透明度

144 #import ``"GPUImageDissolveBlendFilter.h" //溶解

145 #import ``"GPUImageOverlayBlendFilter.h" //疊加,通常用于創(chuàng)建陰影效果

146 #import ``"GPUImageDarkenBlendFilter.h" //加深混合,通常用于重疊類型

147 #import ``"GPUImageLightenBlendFilter.h" //減淡混合,通常用于重疊類型

148 #import ``"GPUImageSourceOverBlendFilter.h" //源混合

149 #import ``"GPUImageColorBurnBlendFilter.h" //色彩加深混合

150 #import ``"GPUImageColorDodgeBlendFilter.h" //色彩減淡混合

151 #import ``"GPUImageScreenBlendFilter.h" //屏幕包裹,通常用于創(chuàng)建亮點和鏡頭眩光

152 #import ``"GPUImageExclusionBlendFilter.h" //排除混合

153 #import ``"GPUImageDifferenceBlendFilter.h" //差異混合,通常用于創(chuàng)建更多變動的顏色

154 #import ``"GPUImageSubtractBlendFilter.h" //差值混合,通常用于創(chuàng)建兩個圖像之間的動畫變暗模糊效果

155 #import ``"GPUImageHardLightBlendFilter.h" //強光混合,通常用于創(chuàng)建陰影效果

156 #import ``"GPUImageSoftLightBlendFilter.h" //柔光混合

157 #import ``"GPUImageChromaKeyBlendFilter.h" //色度鍵混合

158 #import ``"GPUImageMaskFilter.h"    //遮罩混合

159 #import ``"GPUImageHazeFilter.h"    //朦朧加暗

160 #import ``"GPUImageLuminanceThresholdFilter.h" //亮度閾

161 #import ``"GPUImageAdaptiveThresholdFilter.h" //自適應(yīng)閾值

162 #import ``"GPUImageAddBlendFilter.h" //通常用于創(chuàng)建兩個圖像之間的動畫變亮模糊效果

163 #import ``"GPUImageDivideBlendFilter.h" //通常用于創(chuàng)建兩個圖像之間的動畫變暗模糊效果

164

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • https://www.cnblogs.com/zcw-ios/articles/3709424.htmlhttp...
    肖旭暉閱讀 1,259評論 0 1
  • GPUImage的簡單使用 GPUImage 是一個開源的圖像處理庫,提供了非常多的濾鏡效果來加工圖片。GPUIm...
    困惑困惑困惑閱讀 482評論 0 1
  • GPUImage框架地址: [https://github.com/BradLarson/GPUImage] 對G...
    生活騙子閱讀 152評論 0 0
  • 前處理: 美顏算法,視頻的模糊效果, 水印等都是在這個環(huán)節(jié)做. 目前iOS端最著名開源框架的毫無疑問就是GPUIm...
    GeekPwn_S閱讀 965評論 0 2
  • 近幾年,隨著直播、小視頻的崛起,對視頻圖片濾鏡處理要求也越來越高了。對做濾鏡我們首先想到就是OpenGL...
    bugLife丶閱讀 727評論 0 1

友情鏈接更多精彩內(nèi)容