fix: ai-least-loaded-worker/#477

[finefinee]

변경 내용

• AI 워커 배정을 라운드로빈에서 활성 스트림 최소 워커 선택으로 변경, 파이프라인 종료·시작 실패 시 배정 반환
• 워커별 활성 파이프라인 수 게이지 innolive_ai_target_active_streams 추가

검증 결과

• go test ./... 14개 패키지 통과, go test -race ai·metrics·session 통과
• 배정 편중 재현 테스트와 반환 중복 호출·동시 배정 테스트 추가
• GPU 서버 세션 교체 교대 실측 3회씩 동시 2세션 수신 FPS 27.02→29.30, 처리 지연 30.65→27.79ms, stale drop 9.50→2.34%

머지 체크리스트

• 변경 범위 확인
• AI 풀·메트릭·세션 단위 테스트 통과
• GPU 서버 세션 교체 시나리오 main 대비 개선 확인

관련 이슈

• Refs fix: 서버 AI 경로 2세션 FPS 저하 원인 확인 #477

[finefinee]

GPU 서버 세션 교체 실측 (2026-10-16)

• 같은 Dockerfile로 서버에서 빌드한 main ba8c345과 PR 9d99b35 이미지 비교, AI 워커 v7·pixel 2 두 개(GPU당 1), 운영 활성 세션 0
• 시나리오: A 유지 → B 시작 후 종료(파이프라인 배정 반환까지 15초 대기) → C 60초 측정, A·C 동시 구간 비교

항목	main 라운드로빈	PR 활성 최소
C 배정 워커	50061 (A와 동일)	50062 (유휴 워커)
C 수신 FPS	27.35	29.63
A 수신 FPS (C 측정 구간 1초 표본 60개)	27.29	29.28
서버 처리 지연 평균	30.24 ms	27.49 ms
stale drop	8.41%	1.74%

• PR 이미지 C 시작 전 게이지 50061=1, 50062=0 확인, 세션 교체 뒤 유휴 워커 배정 동작 확인
• 동시 2세션 기준 수신 FPS +2.0~2.3, 처리 지연 -2.75ms, stale drop -6.67%p
• 이미지별 1회 측정, 반복 측정 미실시

[finefinee]

반복 실측 (2026-10-16, main·PR 교대 2회 추가, 총 3회씩)

• 조건은 직전 측정과 동일, main → PR → main → PR 교대 순서로 시간 경과 영향 분산

항목	main 라운드로빈 (3회)	PR 활성 최소 (3회)	평균 차이
C 배정	3회 모두 A와 같은 워커	3회 모두 유휴 워커
C 수신 FPS	27.35 / 26.97 / 26.73 (평균 27.02)	29.63 / 29.05 / 29.22 (평균 29.30)	+2.28
A 수신 FPS	27.29 / 26.88 / 26.70 (평균 26.96)	29.28 / 29.22 / 29.12 (평균 29.21)	+2.25
서버 처리 지연	30.24 / 30.91 / 30.80 ms (평균 30.65)	27.49 / 27.93 / 27.96 ms (평균 27.79)	-2.86 ms
stale drop	8.41 / 9.88 / 10.20% (평균 9.50)	1.74 / 2.74 / 2.54% (평균 2.34)	-7.16%p

• 두 이미지의 3회 값 범위가 겹치지 않음, main 최고 C 27.35 FPS < PR 최저 C 29.05 FPS
• 세션 교체 뒤 동시 2세션 기준 개선 확정