在inference阶段,整个模型会load到GPU上,进行端到端的计算,通常只会给你输出一个最终结果。

如果想要获取模型的中间层输出,则需要在计算前标定目标层位置(通过forward返回),或者把模型在那层截断(当作一个小模型)输出。本文介绍2种获取模型中间层输出结果的方法:

1. 标定目标层位置

def forward(self, x):
    layer1_out = self.layer1(x)
    layer2_out = self.layer2(layer1_out)
    out = self.final_layer(layer2_out)
    return out #, layer2_out

如果想看第二层的输出结果,只需在return的时候把layer2_out返回即可。

2. 把模型在某层截断

class MyModel:
    def __init__(self, xxx):
        self.backbone = net1()
        self.head = net2()
    def forward(self, x):
        out = self.head(net1(x))
        return out

if __name__=='__main__':
    model = MyModel()
    x = cv2.imread('xxx')
    mid_out = model.backbone(x)
    print(mid_out.size())
09-14 07:13