안녕하세요, 닥터고블린입니다.
방송이 안되신다는 것인가요? 게임상에서 QHD가 안되신다는 것인가요? 질문이 이해가 되지 않습니다.

그런데 게임컴과 송출컴 모니터 모델은 동일한가요? 동일모델이 아닐 경우 그런 오류가 발생할 수 있고,
방송프로그램에서 해상도 지원을 하지 않아서 그런 것일 수도 있고, 해상도 문제는 여러 원인이 있어, 쉽게 답변드리기가 어렵네요.
일단 잘 되던 것이 DP선 교체 후 안되는 것 같다는 생각이 드신다면 DP선 재교체, 재포맷 해보시는 것도 방법입니다.

게임컴 모니터 dell사 2560x1440 (144hz)
송출모니터 벤큐1920x1440( 120hz)          모델입니다


방송은 잘됩니다

다중디스플레이 확장상태로 배그를돌리면 QHD 2560해상도가 잘돌아갑니다

하지만 방송을 키기위해 다중디스플레이복제로 변경하게되면 배그해상도가 1920으로 강제하향조정 되버립니다




이전 이런문제가 없었을때와 다른부분이

본체모니터 DP선을  강원전자 DP선으로 교체
송출모니터 DVI선을  강원전자 DP선 교체
포맷 이정도인데

이것이 문제가될수있나요??

네, 원래 사용에 문제가 없었는데, 변경 후 문제가 생긴 부분이기 때문에 케이블 문제일 수도, 포맷 문제일 수도 있습니다.
그러나 아시다시피, 컴퓨터는 워낙 문제원인들이 다양하기 때문에 그것이 문제라고 확신할 순 없습니다. 그래서 저희도 정확한 해결책을 안내드릴 수 없구요.

일반적으로 모니터 사양은 같아야 합니다. 원인이 무엇이든 송출모니터와 게임컴 모니터의 사양이 다르기 때문에 발생하는 문제인 것 같습니다.
그래도 예전에는 해상도 문제 없이 잘 되셨다고 하시니, 번거로우시겠지만 케이블도 다시 원래대로 돌려보고, 재포맷 후 확인해보세요.