关于铅笔画算法

图像铅笔画算法，属于一直是非真实感绘制领域(Non-Photorealistic Rendering,NPR)中很热门的一个课题，但是计算机也很难模拟出像人一样真实的画质，这也显得CG师们的重要性。本文是基于香港中文大学Cewu Lu等人所做的工作《Combining Sketch and Tone for Pencil Drawing Production》，描述计算机生成铅笔画的艺术。本人才疏学浅，描述如有错误，还望指点。

算法概述

作者基于对日常生活中的人手绘铅笔画的观察，可以分为两个步骤，第一步勾勒出物体的大致轮廓；第二步是对物体进行色调渲染，即用铅笔反复轻轻的划。

也就是说铅笔画是由结构（Structure）和色调（Tone）组成。

算法步骤如下

产生笔画结构（Stroke Structure Generation ）
色调渲染（Tone Rendering）
笔画结构图与色调渲染图融合得到最终图像

框架图

详细步骤

笔画结构的产生

通过对图像求其梯度得到，得到轮廓。

G = ((\partial x I) 2 + (\partial y I) 2) 1 2 (1)

然后检测轮廓中每一点的方向，公式（2），沿着该方向进行扩展（3）。这里，作者是对得到的梯度图G进行8个方向的卷积，响应最大的卷积的方向为视为该点的方向。

C i (p) = {G (p) 0 i f a r g m a x i {ψ i \otimes G} (p) = i o t h e r w i s e (2)

得到每个点的方向后，再对梯度图进行8个方向的卷积，将8个方向的响应叠加在一起，可得到图像的笔画结构

S = \sum i = 1 8 ψ i \otimes C i (3)

色调渲染

人手绘的铅笔画的直方图往往如下

作者解释道，这是因为铅笔画有高光(bright layer)，中间调(mid-tone)，阴影(dark layer)三部分组成，如下图所示。

分别用拉布拉斯分布，均匀分布，高斯分布函数来模拟。其表达式如下

P 1 (v) = ⎧ ⎩ ⎨ 1 σ b e - 1 - v σ b 0 i f v \leq 1 o t h e r w i s e （ 4 ）

P 2 (v) = ⎧ ⎩ ⎨ 1 u b - u a 0 i f u a \leq v \leq u b o t h e r w i s e （ 5 ）

P 3 (v) = 1 2 π σ d - - - - \sqrt e - ( v - μ d ) 2 2 σ 2 d （ 6 ）

然后再对这3个函数调节不同的权重，用最大似然估计权重的值。

P (v) = 1 Z [ω 1 P 1 (v) + ω 2 P 2 (v) + ω 3 P 3 (v)] （ 7 ）

最后一步就是纹理渲染，即模拟人反复用铅笔描的过程。

这一步看起来比较抽象，但也简单，就是一个gamma矫正的过程，gamma值越高图像越黑，如图所示。
gamma矫正的示例代码：

I = imread('texture.jpg');
I = rgb2gray(I);
I02 = ((double(I)/255).^0.2);
I04 = ((double(I)/255).^0.4);
I06 = ((double(I)/255).^0.6);
I08 = ((double(I)/255).^0.8);
I12 = ((double(I)/255).^1.2);
I14 = ((double(I)/255).^1.4);
I16 = ((double(I)/255).^1.6);
I18 = ((double(I)/255).^1.8);
I20 = ((double(I)/255).^2.0);

这里未知的就是区域渲染次数

β ，或者说深度。

这可以由一个最优化问题解决。

β * = arg min β {∥ β \circ log (P) - log (J) ∥ 22 + λ ∥ \nabla β ∥ 22} （ 8 ）

我们可令

∥∇β∥ 2 2 =∥D x β∥ 2 2 +∥ ∥ D y β∥ ∥ 2 2 ，其中

D x ，

D y 代表水平和竖直方向上的梯度算子，那么该最优化

β 满足下列条件

(β \circ l o g (P) - l o g (J)) T \circ l o g (P) + λ (β T D x T D x + β T D y T D y) = 0

进一步，两边取转置

(β \circ l o g (P) \circ l o g (P) - l o g (J) \circ l o g (P)) + λ (D x T D x + D y T D y) β = 0

由此可解的

[λ (D x T D x + D y T D y) + l o g (P) T l o g (P)] \cdot β = l o g (P) T l o g (J)

转换形式

[d i a g (l o g (P) \circ l o g (P)) + λ (D x T D x + D y T D y)] β = l o g (J) \circ l o g (P)

由于

[diag(log(P)∘log(P))+λ(D x T D x +D y T D y )] 对称正定，该大规模方程组，可以使用共轭梯度法（CG）求解

β 。

纹理图 P
色调图 J
β 图层
纹理渲染图层

至此，该算法讲解已算完结了。更多内容可以看原始论文。

代码

产生笔画结构代码

function S = GenStroke(im, ks, dirNum)
% ==============================================
%   Compute the Stroke Structure 'S'
%   S = GenStroke(im, ks, dirNum) caculates the direction angle of pixels in  
%  "im", with kernel size "ks", and number of directions "dirNum".
%  
%   Paras:
%   @im        : input image ranging value from 0 to 1.
%   @ks        : kernel size.
%   @dirNum    : number of directions.
%
%           
%   Example
%   ==========
%   im = im2double(imread('npar12_pencil2.bmp'));
%   Iruv = rgb2ycbcr(im);
%   S= GenStroke(Iruv(:,:,1),ks,dirNum);
%   figure, imshow(S)
%
%
%   ==========
%   The code is created based on the method described in
%   "Combining Sketch and Tone for Pencil Drawing Production" Cewu Lu, Li Xu, Jiaya Jia 
%   International Symposium on Non-Photorealistic Animation and Rendering (NPAR 2012), June, 2012

%  image gradients
    [H, W, sc] = size(im);
    if sc == 3
        im = rgb2gray(im);
    end
    imX = [abs(im(:,1:(end-1)) - im(:,2:end)),zeros(H,1)];
    imY = [abs(im(1:(end-1),:) - im(2:end,:));zeros(1,W)];  
    imEdge = imX + imY;

% convolution kernel with horizontal direction 
    kerRef = zeros(ks*2+1);
    kerRef(ks+1,:) = 1;

% classification 
    response = zeros(H,W,dirNum);
    for n = 1 : dirNum
        ker = imrotate(kerRef, (n-1)*180/dirNum, 'bilinear', 'crop');
        response(:,:,n) = conv2(imEdge, ker, 'same');
    end

    [~ , index] = max(response,[], 3); 

 % create the sketch
    C = zeros(H, W, dirNum);
    for n=1:dirNum
        C(:,:,n) = imEdge .* (index == n);
    end

    Spn = zeros(H, W, dirNum);
    for n=1:dirNum
        ker = imrotate(kerRef, (n-1)*180/dirNum, 'bilinear', 'crop');
        Spn(:,:,n) = conv2(C(:,:,n), ker, 'same');
    end

    Sp = sum(Spn, 3);
    Sp = (Sp - min(Sp(:))) / (max(Sp(:)) - min(Sp(:)));
    S = 1 - Sp;

纹理传输代码

 function T = texturetransfer(P,J)
 % ==============================================
%   Texture Rendering
%   T = texturetransfer(P,J) pencil texture transfer from P to 
J 
%  
%   Paras:
%   @P        : tonal texture value from 0 to 1.
%   @J        : pencil tone image value for 0 to 1. 
%
%           
%   Example
%   ==========
%   P = im2double(rgb2gray(imread('TonalTexture.jpg')));
%   J = im2double(rgb2gray(imread('PencilTone.jpg'))); 
%   T = texturetransfer(P,J);
%   figure,imshow(T); title('T');


lambda =0.2;

[r,c,~] = size(P);
k = r*c;

% Transform to log domain
logP = log(P + eps);
logP = logP(:);
logJ = log(J + eps);
logJ = logJ(:);

dx = ones(k,1);
dx = dx(:);

dy = ones(k,1);
dy = dy(:);

B(:,1) = dx;
B(:,2) = dy;
d = [-r,-1];
A = spdiags(B,d,k,k);

e = padarray(dx, r,'post'); e = e(r+1:end);
w = padarray(dx, r,'pre');  w = w(1:end-r);
s = padarray(dy, 1,'post'); s = s(2:end);
n = padarray(dy, 1,'pre');  n = n(1:end-1);

D = -(e+w+s+n);
A = lambda*(A + A' + spdiags(D,0,k,k)) + spdiags(logP.*logP,0,k,k);
b = logJ.*logP;

%Solve 
beta = pcg(A,b,1e-6,60);
beta = reshape(beta,r,c);
beta = (beta - min(beta(:))) / (max(beta(:)) - min(beta(:))) * 4;
figure,imshow(beta./max(beta(:)));
T = (P).^beta;