연구에 맞는 감독 인터페이스를 찾으세요.

저자들은 정렬된 구간 안의 학습 신호 배분과 정렬되지 않은 토큰의 초기 정책 제약이 모두 중요하다고 주장하며, 수학·과학·코드 벤치마크의 개선을 보고합니다.

평가한 모델 쌍에서 정확히 정렬된 위치의 top-16 감독은 전체 공유 어휘 OPD와 비슷한 정확도를 얻지만, 불일치 구간의 추가 MSE는 정확도를 낮춥니다. 논문은 감독 범위보다 신뢰성을 강조합니다.

논문은 유효한 완성 후보 집합의 총확률 감독이 토큰 정렬을 보완하며, 추가 생성이나 어휘 변경 없이 수학·코드·과학 추론을 개선한다고 주장합니다.

저자들은 교사를 학생 어휘와 토큰 위치에 적응시켜 전체 차원의 출력 분포로 감독하며, 여섯 추론 과제의 성능 개선을 보고합니다.

논문은 모델 계열 간 차이가 교사의 능력 향상 신호를 가리며, 같은 계열 내 우도 변화를 전달하면 평가한 학생 계열의 추론 성능이 개선된다고 주장합니다.

논문은 고확률 앵커와 잔여 정규화로 교차 토크나이저 정렬 잡음을 줄이며, 단일·다중 교사의 off-policy 증류에서 추론 성능 개선을 보고합니다.

저자들은 SFT·중요 단계 OPD·RLVR·모델 병합을 결합한 전체 과정으로 신뢰할 수 있는 추론과 장기 실행 능력을 갖춘 소형 금융 에이전트를 구축했다고 보고합니다.

저자들은 정확한 텍스트 구간 정렬과 학생 기준 모델 제약으로 긴 문맥 교사의 추론 능력을 짧은 문맥 학생에게 안정적으로 이전한다고 보고합니다.

논문은 교사 확률 질량을 보존하는 바이트 정렬 목표를 학생 어휘 위에 구성하며, 수학·프로그래밍 벤치마크의 개선을 보고합니다.

논문은 방법별 모듈을 공통 verl 백엔드와 분리해, 다양한 OPD 설정을 각자의 목적함수를 유지하며 하나의 실행 프레임워크에서 다룰 수 있음을 보여줍니다.

논문은 디코딩한 텍스트의 대응으로 서로 다른 모델 계열에 토큰 단위 OPD 신호를 전달하며, 평가한 기준 방법보다 높은 계산 효율을 보고합니다.

저자들은 은닉 상태 감독이 출력 헤드의 제약을 피한다고 주장하며, 고정된 저랭크 투영을 통한 서로 다른 구조·토크나이저 간 지식 이전을 보고합니다.

논문은 응답 구간의 의미 검증으로 교사 logits 없이 신뢰할 수 있는 OPD 신호를 얻으며, 텍스트만 제공하는 비공개 교사도 활용할 수 있다고 주장합니다.

저자들은 응답의 앞부분만 생성하고 감독해도 전체 응답 OPD보다 높은 성능과 GPU 효율, 학습 안정성을 얻을 수 있다고 보고합니다.

논문은 두 토크나이저가 모두 표현할 수 있는 짧은 후속 문자열로 정확한 매칭에서 잃는 감독을 복원하며, 평가한 이종 모델 쌍의 수학·코드 성능이 개선된다고 주장합니다.

저자들은 프롬프트별 평가 기준이 교사 logits를 대체할 수 있다고 주장하며, 평가한 설정의 성능과 표본 효율 개선을 보고합니다.

저자들은 교사 피드백을 선택적으로 배분하면 부정적 전이와 엔트로피 붕괴를 줄일 수 있다고 주장하며, 서로 다른 어휘를 포함한 실험의 표본 효율 개선을 보고합니다.

저자들은 교사 추론과 학생 학습에 별도 백엔드를 사용해 분산 증류를 가속하며, on-policy·off-policy·교차 토크나이저 방법을 지원한다고 보고합니다.

저자들은 교사의 언어 점수로 좋은 학생 경로를 유지하고 약한 구간만 교체하며, 텍스트 교사를 활용한 추론 성능과 학습 효율 개선을 보고합니다.

논문은 교사의 텍스트만으로 적응형 판별기를 학습해 블랙박스 OPD를 수행하며, 응답 시퀀스 모방보다 나은 결과를 보고합니다.

공식 문서는 TRL의 실험적 trainer에서 디코딩 텍스트 정렬, 확률 병합, 혼합 ULD 손실로 교차 토크나이저 증류를 수행하는 기능을 설명합니다.

논문은 하나의 초안 모델을 서로 다른 어휘의 대상 모델에 온라인으로 적응시키고, 혼합 증류와 적응형 초안 생성으로 추측 디코딩을 가속한다고 주장합니다.

저자들은 예측 헤드 공유와 이중 공간 투영으로 서로 다른 어휘 간 증류를 제안하며, 지시 수행·수학·코드 생성의 개선을 보고합니다.