用keras作CNN卷积网络书本分类(书本、非书本)

 

本文介绍如何使用keras作图片分类(2分类与多分类,其实就一个参数的区别。。。呵呵) 

先来看看解决的问题:从一堆图片中分出是不是书本,也就是最终给图片标签上:“书本“、“非书本”,简单吧。

先来看看网络模型,用到了卷积和全连接层,最后套上SOFTMAX算出各自概率,输出ONE-HOT码,主要部件就是这些,下面的nb_classes就是用来控制分类数的,本文是2分类:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
from keras.models import Sequential 
from keras.layers.core import Dense, Dropout, Activation, Flatten 
from keras.layers.convolutional import Convolution2D, MaxPooling2D 
from keras.optimizers import SGD 
 
 
def Net_model(nb_classes, lr=0.001,decay=1e-6,momentum=0.9): 
    model = Sequential() 
    model.add(Convolution2D(filters=10, kernel_size=(5,5),
                            padding='valid'
                            input_shape=(2002003))) 
    model.add(Activation('tanh')) 
    model.add(MaxPooling2D(pool_size=(22))) 
   
    model.add(Convolution2D(filters=20, kernel_size=(10,10)))
    model.add(Activation('tanh')) 
    model.add(MaxPooling2D(pool_size=(22))) 
    model.add(Dropout(0.25)) 
   
    model.add(Flatten()) 
    model.add(Dense(1000))
    model.add(Activation('tanh')) 
    model.add(Dropout(0.5)) 
    model.add(Dense(nb_classes)) 
    model.add(Activation('softmax')) 
   
    sgd = SGD(lr=lr, decay=decay, momentum=momentum, nesterov=True
    model.compile(loss='categorical_crossentropy', optimizer=sgd) 
       
    return model 

上面的input_shape=(200, 200, 3)代表图片像素大小为宽高为200,200,并且包含RGB 3通道的图片,不是灰度图片(只要1个通道)

也就是说送入此网络的图片宽高必须200*200*3;如果不是这个shape就需要resize到这个shape

下面来看看训练程序,首先肯定是要收集些照片,书本、非书本的照片,我是分别放在了0文件夹和1文件夹下了,再带个验证用途的文件夹validate:

  

训练程序涉及到几个地方:照片文件的读取、模型加载训练与保存、可视化训练过程中的损失函数value

照片文件的读取

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
import cv2
import os
import numpy as np
import keras
 
def loadImages():
    imageList=[]
    labelList=[]
 
    rootdir="d:\\books\\0"
    list =os.listdir(rootdir)
    for item in list:
        path=os.path.join(rootdir,item)
        if(os.path.isfile(path)):
            f=cv2.imread(path)
            f=cv2.resize(f, (200200))#resize到网络input的shape
            imageList.append(f)
            labelList.append(0)#类别0
 
    rootdir="d:\\books\\1"
    list =os.listdir(rootdir)
    for item in list:
        path=os.path.join(rootdir,item)
        if(os.path.isfile(path)):
            f=cv2.imread(path)
            f=cv2.resize(f, (200200))#resize到网络input的shape
            imageList.append(f)
            labelList.append(1)#类别1
 
    return np.asarray(imageList), keras.utils.to_categorical(labelList, 2)

关于(200,200)这个shape怎么得来的,只是几月前开始玩opencv时随便写了个数值,后来想利用那些图片,就适应到这个shape了

keras.utils.to_categorical函数类似numpy.onehot、tf.one_hot这些,只是one hot的keras封装

模型加载训练与保存

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
nb_classes = 2 
nb_epoch = 30
nb_step = 6
batch_size = 3
 
x,y=loadImages()
 
from keras.preprocessing.image import ImageDataGenerator
dataGenerator=ImageDataGenerator()
dataGenerator.fit(x)
data_generator=dataGenerator.flow(x, y, batch_size, True)#generator函数,用来生成批处理数据(从loadImages中)
 
model=NetModule.Net_model(nb_classes=nb_classes, lr=0.0001#加载网络模型
 
history=model.fit_generator(data_generator, epochs=nb_epoch, steps_per_epoch=nb_step, shuffle=True)#训练网络,并且返回每次epoch的损失value
 
model.save_weights('D:\\Documents\\Visual Studio 2017\\Projects\\ConsoleApp9\\PythonApplication1\\书本识别\\trained_model_weights.h5')#保存权重
print("DONE, model saved in path-->D:\\Documents\\Visual Studio 2017\\Projects\\ConsoleApp9\\PythonApplication1\\书本识别\\trained_model_weights.h5")

ImageDataGenerator构造函数有很多参数,主要用来提升数据质量,比如要不要标准化数字

lr=0.001这个参数要看经验,大了会导致不收敛,训练的时候经常由于这个参数的问题导致重复训练,这在没有GPU的情况下很是痛苦。。痛苦。。。痛苦。。。

model.save_weights是保存权重,但是不保存网络模型 ,对应的是model.load_weights方法

model.save是保存网络+权重,只是。。。。此例中用save_weights保存的h5文件是125M,但用save方法保存后,h5文件就增大为280M了。。。

上面2个save方法都能finetune,只是灵活度不一样。

可视化训练过程中的损失函数value

1
2
3
4
import matplotlib.pyplot as plt
 
plt.plot(history.history['loss'])
plt.show()

  

貌似没啥好补充的。。。

AND。。。。看看预测部分吧,这部分加载图片、加载模型,似乎都和训练部分雷同:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
def loadImages():
    imageList=[]
 
    rootdir="d:\\books\\validate"
    list =os.listdir(rootdir)
    for item in list:
        path=os.path.join(rootdir,item)
        if(os.path.isfile(path)):
            f=cv2.imread(path)
            f=cv2.resize(f, (200200))
            imageList.append(f)
 
    return np.asarray(imageList)
 
x=loadImages()
 
 
x=np.asarray(x)
 
model=NetModule.Net_model(nb_classes=2, lr=0.0001)
model.load_weights('D:\\Documents\\Visual Studio 2017\\Projects\\ConsoleApp9\\PythonApplication1\\书本识别\\trained_model_weights.h5')
 
print(model.predict(x))
print(model.predict_classes(x))
y=convert2label(model.predict_classes(x))
print(y)

predict的返回其实是softmax层返回的概率数值,是<=1的float

predict_classes返回的是经过one-hot处理后的数值,此时只有0、1两种数值(最大的value会被返回称为1,其他都为0)  

convert2label:

1
2
3
4
5
6
7
8
def convert2label(vector):
    string_array=[]
    for in vector:
        if v==1:
            string_array.append('BOOK')
        else:
            string_array.append('NOT BOOK')
    return string_array

这个函数是用来把0、1转换成文本的,小插曲:

本来这里是中文的“书本”、“非书本”,后来和女儿一起调试时发现都显示成了问号,应该是中文字符问题,就改成了英文显示,和女儿一起写代码是种乐趣啊!

本来只是显示文本,感觉太无聊了,因此加上了opencv显示图片+分类文本的代码段:

1
2
3
4
5
for in range(len(x)):
    cv2.putText(x[i], y[i], (50,50), cv2.FONT_HERSHEY_SIMPLEX, 12552)
    cv2.imshow('image'+str(i), x[i])
 
cv2.waitKey(-1)

  

 OK, 2018年继续学习,继续科学信仰。

01-07 03:19