[Caffe] Faster R-CNN을 학습하던 중 발생한 문제 및 해결

이전글 : [Caffe] Faster R-CNN을 이용하기. 환경설정. 셋팅 (object detection)

r-cnn 세팅이 끝났으면 내가 원하는 task에 맞게 새로 학습을 할 필요가 있겠지.

개인 데이터로 학습을 시도하다 만난 문제점에 대한 정리.

1. assert (boxes[:, 2] >= boxes[:, 0]).all() AssertionError

ROI 영역의 설정이 잘못되어 발생하는 문제. 애초에 ROI 설정을 잘 해주도록 하고 그럼에도 발생하는 경우
http://stackoverflow.com/questions/31005463/how-to-train-new-fast-rcnn-imageset 여기를 참고하여

for b in range(len(boxes)):

            if boxes[b][2] < boxes[b][0]:

                boxes[b][0] = 0

assert (boxes[:, 2] >= boxes[:, 0]).all()

위와같이 코드를 수정하면 문제가 발생하지 않는다.

2. slice indices must be integers or none or have an __index__ method 

이 경우 numpy 버전이 문제가 된다.

최신버전(1.12) 에서는 index로 float 값 사용이 불가능하다고 한다. 1.12 버전을 지우고 하위버전을 설치하자

pip uninstall numpy

pip install numpy==1.11.2

3. rpn layer loss 가 nan 이 뜰 경우

다양한 이유가 존재하겠지만 학습에 사용되는 영상의 ratio 가 클 경우에도 발생한다.

너무 길다란 이미지는 리사이징 하던 학습셋에서 제거하던 해서 문제를 해결하자.