본문으로 건너뛰기

Moonlight 초고지연을 Code 43과 NVENC 경로에서 복구한 방법

강진태

2026.08.13

한줄 요약

Moonlight 지연을 네트워크 문제로 단정하지 않고 장치·캡처·인코더 계층으로 분해해, 가상 디스플레이 Code 43과 NVENC 실패 뒤 소프트웨어 인코더 강등을 복구하고 실제 스트림으로 검증했다.

문제

Moonlight 연결은 성립하지만 입력이 어려울 정도로 지연이 컸다. 이런 증상은 회선, 화면 캡처, 가상 디스플레이, 하드웨어 인코더, 클라이언트 디코더 중 어디서든 생길 수 있다. 비트레이트를 낮추거나 드라이버를 무작정 바꾸면 일시적으로 달라져도 원인 계층은 확인되지 않는다.

기술 설계

진단 경로를 다음처럼 분리했다.

client → network → virtual display/capture → hardware encoder → decoder/render

호스트 앱 목록과 스트림 중 생성되는 가상 디스플레이도 별도 상태로 취급했다. 복구 완료 조건은 설정 변경 성공이 아니라 다음 증거 사슬로 정했다.

장치 정상 → 호스트 서비스 정상 → NVENC 탐지 → 실제 세션 시작
→ 가상 화면 생성 → 선택 인코더 생성 → timeout/fallback 부재

구현

  1. 낮은 부하 조건과 Moonlight 성능 통계로 네트워크, 호스트 처리, 디코딩 구간을 비교했다.

  2. Windows 장치 상태에서 가상 디스플레이의 Code 43을 확인했다.

  3. 호스트 로그에서 NVENC 대기 timeout과 libx264 소프트웨어 인코더 강등을 확인했다.

  4. 설정을 백업하고 서비스 제어, HAGS 변경, 가상 디스플레이 드라이버 재설치를 최소 변경으로 수행했다.

  5. 관리자 권한과 재부팅이 필요한 단계는 사용자 승인 뒤 진행했다.

  6. 재부팅 후 장치, 서비스, 인코더 탐지, 오류 재발 여부를 다시 검사했다.

  7. 마지막으로 실제 Moonlight 세션을 열어 가상 화면과 HEVC NVENC 인코더 생성 여부를 확인했다.

검증

  • 가상 디스플레이가 오류 없이 시작되는지 확인했다.

  • Sunshine 계열 호스트 서비스와 스트리밍 프로세스가 실행되는지 확인했다.

  • 지원되는 NVENC 인코더가 탐지되는지 확인했다.

  • 실제 Moonlight 세션에서 가상 화면과 HEVC NVENC 인코더가 생성되는지 확인했다.

  • 복구 뒤 NVENC 대기 timeout과 libx264 강등이 재발하지 않는지 로그를 확인했다.

  • 탐색 중 발생한 미지원 codec 조합 경고와 실제 선택 경로의 실패를 구분했다.

실패와 수정

처음에는 네트워크나 운영체제 업데이트가 원인일 가능성이 커 보였다. 그러나 직접 근거가 없어 원인으로 확정하지 않았다. 장치 상태와 로그를 함께 보면서 Code 43 → NVENC 실패 → 소프트웨어 인코더 강등 → 초고지연 체인을 확인했다. 또 장치가 시작됐다는 사실만으로 완료 처리하지 않고 실제 스트림 검증을 추가했다.

결과

가상 디스플레이 오류가 해소되고 호스트가 하드웨어 인코더를 다시 사용했다. 실제 Moonlight 세션에서 가상 화면과 HEVC NVENC 인코더 생성이 확인됐으며, 문제를 일으킨 timeout과 소프트웨어 fallback은 재발하지 않았다. 사용자 장치명, 네트워크 주소, 내부 경로 등 식별 정보는 결과에서 제외했다.

교훈

  • Moonlight 지연을 곧바로 네트워크 문제로 단정하지 않는다.

  • 앱 타일과 동적 가상 디스플레이는 서로 다른 권위 상태다.

  • NVENC 탐지 성공과 실제 세션에서의 인코더 선택은 별도로 검증한다.

  • fallback은 연결을 유지하면서 성능을 크게 낮출 수 있다.

  • 모든 오류 문자열보다 실제 선택된 스트림 경로를 우선해 판단한다.

  • 드라이버 변경, 서비스 제어, 재부팅 전에는 백업과 사용자 승인이 필요하다.

  • 복구 명령 성공이 아니라 실제 세션 성공을 완료 조건으로 삼는다.

프롬프트

Moonlight의 느림, 검은 화면, 앱 타일 누락, 가상 화면 실패를 한 문제로 합치지 말고 계층별로 진단해줘.

진단 순서:
1. 증상을 앱 목록, 연결, 화면, 지연, FPS로 분류한다.
2. Moonlight 통계로 network / host processing / decode를 비교한다.
3. 호스트 앱 목록과 스트림 중 가상 디스플레이 생성을 구분한다.
4. Windows 가상 디스플레이 장치의 상태와 ProblemCode를 확인한다.
5. 호스트 로그에서 NVENC 탐지, encode timeout, software fallback을 찾는다.
6. 낮은 해상도·프레임·비트레이트부터 한 변수씩 시험한다.

수리 규칙:
- 설정과 앱 목록을 먼저 백업한다.
- 관리자 권한, 서비스 변경, 드라이버 변경, 재부팅 전 사용자 승인을 받는다.
- 방화벽 전체 해제나 무관한 드라이버 일괄 교체는 하지 않는다.
- HAGS는 근거가 있을 때 독립 변수로 시험한다.

완료 조건:
- 장치 오류 없음
- 호스트 서비스 실행
- NVENC 탐지
- 실제 Moonlight 세션 시작
- 실제 선택 인코더 생성
- encode timeout과 software fallback 부재
- 남은 경고가 실제 사용 경로에 영향을 주는지 구분

환경을 식별할 수 있는 값과 인증 관련 값은 출력하지 마.

안전 경계

  • Moonlight, Sunshine, Windows, NVENC, HAGS, Code 43 같은 공개 기술명만 사용했다.

  • 환경을 식별할 수 있는 값과 인증 관련 값은 포함하지 않았다.

  • 관리자 권한, 드라이버 변경, 서비스 제어, 재부팅은 명시적 승인 없이는 수행하지 않는다.

  • 보안 기능 전체 해제나 근거 없는 대규모 변경을 복구 절차로 제안하지 않는다.

1

함께 이야기해요 1

로그인하고 댓글을 남겨 주세요

Giacomo 프로필 이미지
Giacomo2026.08.16

초고지연을 비트레이트 문제로 바로 좁히지 않고 client → network → virtual display/capture → hardware encoder → decoder/render로 분해한 덕분에, Code 43에서 NVENC 대기 timeout과 libx264 강등으로 이어지는 경로가 선명해졌습니다. 더 좋았던 건 NVENC ‘탐지’에서 멈추지 않고 실제 Moonlight 세션에서 HEVC NVENC 인코더가 선택됐는지까지 확인한 점이에요. 미지원 codec 경고와 실제 선택 경로의 실패를 구분한 것도, 로그의 모든 빨간 줄보다 사용자 세션을 우선하는 판단이었습니다.

Code 43, NVENC timeout, libx264 강등을 한 경로로 묶되 실제 선택된 스트림으로 끝까지 확인한 진단이 정확했어요. 장치가 켜졌다는 사실과 사용자가 체감하는 복구를 구분한 덕분에, 성능 장애의 완료 조건이 설정보다 실제 세션에 자리 잡았습니다.

필요한 AI 정보만
메일함에 쏙쏙 넣어드려요.

지금 핫한 AI 소식부터 직접 해 본 사례까지, 월요일마다 무료로 받아보세요