AI 심사평 재학습과 판단의 획일화

AI 여러 개가 같은 평가를 내리면 안심하기 쉽다. 하지만 의견이 같다는 사실만으로 같은 문제를 독립적으로 확인했다고 볼 수는 없다. 비슷한 자료로 배운 판단을 반복했을 가능성도 살펴야 한다.

9월 17일 공개된 연구는 Llama 3.1 8B 기반 심사 모델에 공식 심사평과 AI 생성 심사평을 섞어 추가 학습했다. 생성 심사평을 넣은 조건에서 평점 분포가 좁아지고 내용의 다양성이 줄었다. 한 모델 계열·한 분야·한 차례 추가 학습을 다룬 미심사 논문이다. 논문과 제출 이력

이 연구를 읽을 때 가장 조심할 점은 판단이 비슷해진 것과 판단이 틀린 것을 구분하는 일이다. 두 현상을 섞으면 AI 심사의 위험도, 개선 방법도 잘못 설명하게 된다.

심사를 돕는 것과 심사평을 다시 학습하는 것

사람이 쓴 심사평의 표현을 AI로 다듬는 일, AI에게 새 심사평을 받는 일, 그 심사평으로 다음 모델을 학습시키는 일은 개입하는 단계가 다르다.

이번 연구가 다룬 것은 마지막 단계다. 모델 두 개가 대화하며 합의하는 실험으로 읽으면 안 된다. 논문은 공식 심사평도 순수한 인간 작성물이나 정답으로 보장하지 않는다. 실험 구성과 제한점

실무에서 기록을 남길 때도 이 구분이 필요하다. ‘AI 검토를 거쳤다’는 문장에는 누가 무엇을 했는지가 거의 들어 있지 않다. 어떤 모델이 초안을 만들었는지, 다른 모델은 원자료를 읽었는지, 첫 모델의 의견부터 읽었는지까지 알아야 검토 방식을 비교할 수 있다.

평균이 같아도 분포는 달라진다

평점 다섯 개씩을 직접 만들어 계산했다. 논문 수치가 아니며 모델을 실행해 얻은 점수도 아니다.

설명용 집합	평점	평균	표준편차
A	2, 4, 6, 8, 10	6	약 2.83
B	5, 6, 6, 6, 7	6	약 0.63

표준편차는 점수들이 평균에서 얼마나 떨어져 있는지 나타낸다. 여기서는 각 집합 전체를 대상으로, 평균에서 떨어진 거리의 제곱을 더해 개수로 나눈 뒤 제곱근을 구했다. B의 평균은 A와 같지만 점수는 가운데에 모여 있다. 평균만 남기면 이 차이가 사라진다.

그렇다고 B가 더 나쁜 평가라고 결론 내릴 수는 없다. 실제 평가 대상의 적절한 점수가 6 근처였다면 B가 더 잘 맞았을 수도 있다. 반대로 대상의 차이가 컸다면 B가 중요한 차이를 놓쳤을 수도 있다. 점수의 분포만으로는 어느 쪽인지 결정할 근거가 없다.

이 예제가 보여주는 것은 다양성과 정확성을 따로 측정해야 한다는 점이다. ‘여러 답이 나왔으니 좋다’거나 ‘모두 동의했으니 맞다’는 규칙은 둘 다 부족하다.

문장의 차이와 지적 내용의 차이

문장 표현이 다르다고 검토 관점까지 다른 것은 아니다. “검증 자료가 부족하다”와 “추가 근거가 필요하다”는 서로 다른 문장으로 같은 말을 할 수 있다.

반대로 표현이 비슷해도 다른 오류를 가리킬 수 있다. “시간 범위가 맞지 않는다”는 지적이 한쪽에서는 데이터 수집 기간을, 다른 쪽에서는 평가 기간을 뜻할 수 있다. 그래서 문장을 숫자 벡터로 바꾸어 거리를 재는 방법만으로는 유효한 지적이 몇 종류인지 확정하기 어렵다.

검토 결과를 실제 작업에 쓰려면 다음과 같이 지적을 쪼개는 편이 유용하다. 아래 표는 논문에서 가져온 결과가 아니라, 글·코드 검토에 적용할 수 있도록 작성한 기록안이다.

기록할 항목	구체적인 예
검토한 주장	새 기능이 저장된 값을 유지한다
지적한 문제	새로고침 뒤 값이 초기화된다
문제의 근거	같은 입력에서 재현한 실행 결과
다른 검토와의 관계	같은 오류의 재확인인지, 별도 오류인지
수정 뒤 확인	같은 입력으로 다시 실행한 결과

이 기록에서는 의견의 개수보다 서로 다른 오류를 몇 개 확인했는지가 중요하다. 같은 오류를 두 번 재현한 것도 가치가 있지만, 두 종류의 문제를 발견했다고 세지는 않는다.

TrustReviewer의 수정 위치

연구진이 공개한 TrustReviewer는 학습 자료를 고르는 단계와 답변을 생성하는 단계를 나눠 다룬다. 저장소에는 생성 중 모델 내부 표현에 벡터를 더하는 실행 코드와 설정이 있다. 이것은 사용자 프롬프트에 “다양하게 평가해”를 넣는 것과 구현 위치가 다르다. 확인한 저장소 버전

벡터를 더한다는 말은 문장을 직접 교체한다는 뜻이 아니다. 모델이 다음 단어를 계산하는 중간 숫자 표현에 방향과 크기가 정해진 조정을 넣는 방식이다. 손잡이를 돌려 생성 경향에 영향을 주는 비유는 가능하지만, 정답 쪽으로 움직인다고 보장하는 장치로 이해하면 안 된다.

공개 코드의 평가 항목에는 공식 평점과 같은 값을 냈는지, 공식 평점의 평균에서 얼마나 떨어졌는지가 포함된다. 이 기준으로 좋은 점수를 얻는 것과 심사평의 지적이 사실인지는 별도 확인이 필요하다. 평가 코드

예를 들어 공식 평가가 4점과 8점으로 갈린 경우, 어느 하나와 일치하는 답과 평균인 6점에 가까운 답은 다른 기준에서 유리하다. 어떤 지표를 고르는지가 ‘개선’의 의미를 바꾼다. 이때 필요한 것은 지표 하나를 더 붙이는 일보다, 평가가 해결하려는 질문을 먼저 정하는 일이다.

독립 검토에 남길 근거

이 연구가 지금 쓰는 AI 검토 방식의 효과를 입증해 주지는 않는다. 다만 검토 결과를 모을 때 무엇을 구분할지 정하는 데 참고할 수 있다.

내가 제안하는 비교는 같은 원자료와 평가 기준을 주되, 첫 검토를 끝낼 때까지 다른 검토자의 결론을 보이지 않는 방식이다. 그 뒤 결론이 같은지보다 인용한 근거와 실제로 찾은 오류를 비교한다. 이는 아직 실행하지 않은 비교안이다.

이미 AI 개발팀의 교차 검증에서 다룬 실행 검사는 여전히 필요하다. 코드가 틀렸다는 의견 세 개보다, 실패를 재현하는 입력 하나가 수정 방향을 더 분명하게 만들 수 있다. 반대로 재현되지 않은 지적은 검토자가 많다는 이유만으로 확정된 오류가 되지 않는다.

검토를 완료로 표시할 때 남길 것은 찬성표 수가 아니다. 어떤 주장을 확인했고, 어떤 근거로 수정했으며, 무엇은 확인하지 못했는지가 남아야 한다.

자료 확인·설명용 계산: 2026년 9월 21일. 평점 그림은 직접 만든 데이터다. TrustReviewer 학습·추론과 논문의 성능 재측정은 하지 않았다.