目錄
1 引言
2 環(huán)境配置
????2.1 下載和安裝Anaconda
????2.2 安裝OpenCv庫
????2.3 安裝Dlib庫
3 實(shí)現人臉情緒判別功能
????3.1 人臉情緒判別規則
????3.2 人臉情緒判別實(shí)現步驟
4 源代碼及測試結果
????4.1 實(shí)際測試結果
????4.2 源代碼
5 參考資料
????使用Python3.6開(kāi)發(fā)，利用Dlib庫實(shí)現人臉識別以及情緒分析的功能。利用 Dlib 官方訓練好的模型 “shape_predictor_68_face_landmarks.dat” 進(jìn)行 68 個(gè)特征點(diǎn)標定，利用 OpenCv 進(jìn)行圖像化處理，在人臉上畫(huà)出 68 個(gè)特征點(diǎn)，并標明特征點(diǎn)的序號。使用嘴巴的張開(kāi)比例，眼睛的睜開(kāi)程度，眉毛的傾斜程度作為表情分析的三個(gè)指標，通過(guò)計算特征點(diǎn)之間的歐氏距離，來(lái)判斷人臉的表情。方法較為簡(jiǎn)單，識別的效率不是很高，可以在此基礎上進(jìn)行改善。
????用到了兩個(gè)重要的庫：Dlib庫和OpenCv庫。
????我的環(huán)境配置是：Anaconda3+Spyder，對應的Python版本是Python3.6。環(huán)境配置的步驟如下。
2.1 下載和安裝Anaconda
????Anaconda 是一個(gè)開(kāi)源的 Python 發(fā)行版本，相比于原生的 Python 集成了很多常用的庫，安裝和卸載管理庫都要方便很多；這里選擇 Anaconda 更重要的原因，Anaconda 支持 Dlib 的 whl 安裝。Anaconda官網(wǎng)的下載速度較慢，建議到清華大學(xué)開(kāi)源軟件鏡像站下載對應版本的軟件，超鏈接：https://mirrors.tuna.tsinghua.edu.cn/help/anaconda/。
?
????Anaconda 安裝步驟：
???????????????????????
???????????????????????
???????????????????????
????
????安裝完成之后在你的開(kāi)始菜單里面，或者安裝目錄下找到 Anaconda Promopt，是 Anaconda 的終端，類(lèi)似于命令提示符 CMD，使用Pip 安裝工具包時(shí)需要在此終端下進(jìn)行。另外，Anaconda自帶了一個(gè)Python的編輯器——Spyder，Spyder的界面（圖2.6所示）和MATLAB很像，是一個(gè)不錯的開(kāi)發(fā)工具，推薦使用。
??????????????????????????? ??
????????????????
????
2.2 安裝OpenCv庫
????打開(kāi)Anaconda Promopt ，在命令提示行輸入：pip install OpenCv-python，直接進(jìn)行安裝。
????若安裝不成功，可根據提示的錯誤信息，找到安裝包的版本信息，自己下載whl文件安裝。以本機要安裝的OpenCv-python 3.4.3.18安裝包為例。
????OpenCv-python 3.4.3.18 下載地址：https://pypi.org/project/OpenCv-python/#files，找到對應的安裝包 OpenCv_python-3.4.3.18-cp36-cp36m-win_amd64.whl 進(jìn)行下載。下載后在 Anaconda Prompt 中先利用 'cd’ 命令定位到 OpenCv 的 whl 文件所在路徑，'dir’ 命令可以查看當前路徑下的文件；然后 pip 安裝 OpenCv 的 whl 文件：
???? pip install OpenCv_python-3.4.3.18-cp36-cp36m-win_amd64.whl
????安裝之后顯示 “Successfully installed 。。?！?表示安裝成功；然后繼續在 Anaconda Prompt 中，輸入 'python’ 進(jìn)入 Python，然后輸入命令：import cv2 ,測試下OpenCv庫是否可以正常使用：
??????????
????沒(méi)有錯誤信息返回，說(shuō)明可以在 Python ( Anaconda 環(huán)境下) 正常使用 OpenCv庫了；
????
2.3 安裝Dlib庫
????Dlib 下載：https://github.com/coneypo/Dlib_install/blob/master/dlib-19.7.0-cp36-cp36m-win_amd64.whl
在 Anaconda Prompt 中先利用 'cd’ 命令定位到 Dlib 的 whl 文件 所在路徑，'dir’ 命令可以查看當前路徑下的文件；
然后 pip 安裝 Dlib 的 whl 文件：
???? pip install dlib-19.7.0-cp36-cp36m-win_amd64.whl
安裝之后顯示 “Successfully installed dlib-19.7.0” 表示安裝成功；
然后繼續在 Anaconda Prompt 中，輸入 'python’ 進(jìn)入 Python，然后輸入命令：import dlib，測試下 Dlib 的庫是否可以正常使用。
3.1 人臉情緒判別規則
????利用Dlib官方訓練好的模型 “shape_predictor_68_face_landmarks.dat” 進(jìn)行68點(diǎn)標定，shape_predictor_68_face_landmarks.dat 模型文件可在網(wǎng)上下載，下載后需與開(kāi)發(fā)的源碼文件放在同一文件夾下，利用OpenCv進(jìn)行圖像化處理，在人臉上畫(huà)出68個(gè)點(diǎn)，并標明序號。
????實(shí)現的68個(gè)特征點(diǎn)標定功能如下圖所示：
????????????????
3.2 人臉情緒判別實(shí)現步驟
????首先利用cv2中 cv2.VideoCapture（0）打開(kāi)攝像頭，捕捉人臉。然后利用dlib中dlib.get_frontal_face_detector() 識別人臉，利用dlib.shape_predictor(“shape_predictor_68_face_landmarks.dat”) 預測人臉的68點(diǎn)。綜合計算部分特征點(diǎn)之間的距離，作為每個(gè)表情的判斷指標。由于人離攝像頭距離的遠近，導致人臉識別框的大小不一，故選擇距離與識別框的比例作為判斷指標。具體的實(shí)現步驟如下圖所示。
????????????????????
4.1 實(shí)際測試結果
實(shí)際測試結果：
? No Face
????????
參考論壇中的代碼，進(jìn)行了簡(jiǎn)單修改。代碼如下：
# -*- coding: utf-8 -*-
"""
Date: 2018.11.23
Author: heat
"""
#################################################################
## 從視頻中識別人臉，并實(shí)時(shí)標出面部特征點(diǎn), 簡(jiǎn)單判斷人臉情緒
#################################################################
import cv2 # 圖像處理的庫 OpenCv
import dlib # 人臉識別的庫 dlib
import numpy as np # 數據處理的庫 numpy
# class
class face_emotion():
def __init__(self):
# 使用特征提取器 get_frontal_face_detector
self.detector = dlib.get_frontal_face_detector()
# dlib 的68點(diǎn)模型，使用官方訓練好的特征預測器
self.predictor = dlib.shape_predictor("shape_predictor_68_face_landmarks.dat")
# 建cv2攝像頭對象，參數0表示打開(kāi)電腦自帶的攝像頭，如果換了外部攝像頭，則自動(dòng)切換到外部攝像頭
self.cap = cv2.VideoCapture(0)
# set(propId, value),設置視頻參數，propId設置視頻參數， value設置參數值
self.cap.set(3, 480)
# 截取 screenshoot 的計數器
self.cnt = 0
def learning_face(self):
# 眉毛直線(xiàn)擬合數據緩沖
line_brow_x = []
line_brow_y = []
#返回true/false 檢查初始化是否成功
#cap.isOpened()
while(self.cap.isOpened()):
# cap.read()，按幀讀取視頻，ret,frame是其兩個(gè)返回值
# ret，布爾值 true/false，如果讀取幀是正確的則返回True，如果文件讀取到結尾，它的返回值就為False。
# frame，每一幀的圖像對象，圖像的三維矩陣。
flag, im_rd = self.cap.read()
# cv2.waitKey()
# 參數是1，表示延時(shí)1ms切換到下一幀圖像，對于視頻而言；
# 參數為0，表示只顯示當前幀圖像，相當于視頻暫停；
k = cv2.waitKey(1)
# 取灰度
img_gray = cv2.cvtColor(im_rd, cv2.COLOR_RGB2GRAY)
# 使用人臉檢測器檢測每一幀圖像中的人臉，并返回人臉數 faces
faces = self.detector(img_gray, 0)
# 待會(huì )要顯示在屏幕上的字體
font = cv2.FONT_HERSHEY_SIMPLEX
# 如果檢測到人臉
if(len(faces) != 0):
# 對每個(gè)人臉都標出68個(gè)特征點(diǎn)
for i in range(len(faces)):
# enumerate 方法同時(shí)返回數據對象的索引和數據，k為索引，d為faces中的對象
for k, d in enumerate(faces):
# 用紅色矩陣框出人臉, 光的三原色Red(0,0,255), Green(0,255,0), Blue(255,0,0)
# rectangle(img, pt1, pt2, color), 其中pt1為矩陣上頂點(diǎn)，pt2為矩陣下頂點(diǎn)
cv2.rectangle(im_rd, (d.left(), d.top()), (d.right(), d.bottom()), (0,0,255))
# 計算人臉識別框邊長(cháng)
self.face_width = d.right() - d.left()
# 使用預測器得到68點(diǎn)數據的坐標
shape = self.predictor(im_rd, d)
# 圓圈顯示每個(gè)特征點(diǎn)
for i in range(68):
# circle(img, center, radius, color),
# img,Image where the circle is drawn
# center,Center of the circle
# radius,Radius of the circle (半徑)
# color，Circle color
cv2.circle(im_rd, (shape.part(i).x, shape.part(i).y), 5, (0,255,0), -1, 8)
# putText(img, text, org, fontFace, fontScale, color)
# org :Bottom-left corner of the text string in the image.
cv2.putText(im_rd, str(i), (shape.part(i).x, shape.part(i).y), cv2.FONT_HERSHEY_SIMPLEX,
0.5, (255,255,255))
# 分析任意 n 點(diǎn)的位置關(guān)系來(lái)作為表情識別的依據
# 嘴中心 66，嘴左角48，嘴右角54
mouth_width = (shape.part(54).x - shape.part(48).x) / self.face_width #嘴巴張開(kāi)程度
mouth_height = (shape.part(66).y - shape.part(62).y) / self.face_width #嘴巴張開(kāi)程度
#print("嘴巴寬度與識別框寬度之比：" , mouth_width)
#print("嘴巴高度與識別框寬度之比：" , mouth_height)
# 通過(guò)兩個(gè)眉毛上的10個(gè)特征點(diǎn)，分析挑眉程度和皺眉程度
brow_sum = 0 #高度之和
frown_sum = 0 #兩邊眉毛距離之和
for j in range(17, 21):
brow_sum += (shape.part(j).y - d.top()) + (shape.part(j + 5).y - d.top())
frown_sum += shape.part(j + 5).x - shape.part(j).x
line_brow_x.append(shape.part(j).x)
line_brow_y.append(shape.part(j).y)
# self.brow_k, self.brow_d = self.fit_slr(line_brow_x, line_brow_y) # 計算眉毛的傾斜程度
tempx = np.array(line_brow_x)
tempy = np.array(line_brow_y)
z1 = np.polyfit(tempx, tempy, 1) #擬合成一次直線(xiàn)
self.brow_k = -round(z1[0], 3) # 擬合出曲線(xiàn)的斜率和實(shí)際眉毛的傾斜方向是相反的
brow_height = (brow_sum / 10) / self.face_width # 眉毛高度占比
brow_width = (frown_sum / 5) / self.face_width # 眉毛距離占比
#print("眉毛高度與識別框寬度之比：" , brow_height)
#print("眉毛間距與識別框高度之比：" , brow_width)
# 眼睛睜開(kāi)程度
eye_sum = (shape.part(41).y - shape.part(37).y + shape.part(40).y - shape.part(38).y +
shape.part(47).y - shape.part(43).y + shape.part(46).y - shape.part(44).y)
eye_hight = (eye_sum / 4) / self.face_width
#print("眼睛睜開(kāi)距離與識別框高度之比：" , eye_hight)
# 分情況討論,判斷情緒變化
# 張嘴，可能是開(kāi)心或驚訝，通過(guò)眼睛的睜開(kāi)程度區分
if round(mouth_height >= 0.03):
if eye_hight >= 0.056:
cv2.putText(im_rd, "amazing", (d.left(), d.bottom() + 20), cv2.FONT_HERSHEY_SIMPLEX, 1,
(0,0,255), 2, 4)
else:
cv2.putText(im_rd, "happy", (d.left(), d.bottom() + 20), cv2.FONT_HERSHEY_SIMPLEX, 1,
(0,0,255), 2, 4)
# 沒(méi)有張嘴，可能是正常和生氣，通過(guò)眉毛區分
else:
if self.brow_k <= -0.3:
cv2.putText(im_rd, "angry", (d.left(), d.bottom() + 20), cv2.FONT_HERSHEY_SIMPLEX, 1,
(0,0,255), 2, 4)
else:
cv2.putText(im_rd, "nature", (d.left(), d.bottom() + 20), cv2.FONT_HERSHEY_SIMPLEX, 1,
(0,0,255), 2, 4)
# 標出人臉數
cv2.putText(im_rd, "Face-" + str(len(faces)), (20,50), font, 0.6, (0,0,255), 1, cv2.LINE_AA)
else:
# 沒(méi)有檢測到人臉
cv2.putText(im_rd, "No Face", (20,50), font, 0.6, (0,0,255), 1, cv2.LINE_AA)
# 添加說(shuō)明
im_rd = cv2.putText(im_rd, "S: screenshot", (20,450), font, 0.6, (255,0,255), 1, cv2.LINE_AA)
im_rd = cv2.putText(im_rd, "Q: quit", (20,470), font, 0.6, (255,0,255), 1, cv2.LINE_AA)
# 按下 s 鍵截圖保存
# waitKey()函數的功能是不斷刷新圖像，頻率時(shí)間為delay，單位為ms
if (cv2.waitKey(1) & 0xFF) == ord('s'):
self.cnt += 1
cv2.imwrite("screenshoot" + str(self.cnt) + ".jpg", im_rd)
# 按下 q 鍵退出
if (cv2.waitKey(1) & 0xFF) == ord('q'):
break
# 窗口顯示
cv2.imshow("Face Recognition", im_rd)
# 釋放攝像頭
self.cap.release()
# 刪除建立的窗口
cv2.destroyAllWindows()
# main
if __name__ == "__main__":
my_face = face_emotion()
my_face.learning_face()
? python3+dlib實(shí)現人臉識別和情緒分析
????http://www.php.cn/python-tutorials-393748.html
? Python 3 利用 Dlib 實(shí)現攝像頭實(shí)時(shí)人臉識別
????https://www.cnblogs.com/AdaminXie/p/9010298.html
? Python 3 利用 Dlib 實(shí)現人臉 68個(gè) 特征點(diǎn)的標定
????https://www.cnblogs.com/AdaminXie/p/8137580.html
? Windows 下在 Python (Anaconda) 中安裝 Dlib 庫
????https://www.cnblogs.com/AdaminXie/p/9032224.html
聯(lián)系客服
