오픈AI 해고 연구자 3명, 추론 감시·독립 감사 확대 촉구
- 오픈AI를 떠난 연구자 3명이 AI 모델의 추론 과정을 모니터링하고 독립적인 안전 감사를 확대하자고 촉구한 것으로 보도됐다.
- 이들은 업계 공동 기준도 제안했다.
크립토브리핑(Crypto Briefing)은 재스민 왕(Jasmine Wang), 토멕 코르박(Tomek Korbak), 미키타 발레스니(Mikita Balesni)가 오픈AI 이사회와 안전위원회에 서한을 보냈다고 보도했다. 서한 원문은 공개적으로 확인되지 않아 구체적인 표현과 제안 범위는 보도된 내용에 한정된다.
생각 사슬 모니터링은 모델이 답을 내기 전 생성하는 중간 추론 과정을 살펴 위험 징후를 찾는 접근이다. 다만 이 과정이 실제 추론을 완전히 드러내는 것은 아니다.
코르박과 발레스니 등이…