안녕하세요 닥터고블린 입니다.
말씀해 주신 내용으로 정확하게 어떤 세팅을 하셨는지 알 수는 없지만 캡쳐 보드로 넘어오는 영상 소스는 따로 프로그램만 캡쳐 할
 수 없습니다.
다만 키보드 alt를 누르며 소스의 자르고 싶은 면을 드래그하시면 그 부분만 잘립니다. 이걸 이용해 게임 부분만 확대하시면 해결될 거라고 생각이 됩니다.

감사합니다.