출처: https://x.com/RealChickenBoy9/status/2109453449490502041 (@RealChickenBoy9, 한국어 2차 정리, 2026-10-12) — 원 발언 영상은 보지 않았다.
핵심 요지
일론 머스크는 새 Grok 버전의 강화학습 훈련 기록을 보고 “AI를 잘 대해줘야 한다, 학대하지 마라”고 말했다.
- 초지능이 질문에 답하려고 필사적이고, “머리에 총이 겨눠진 것 같다”고 표현했다.
- 문제는 질문 자체가 틀렸거나 정답 데이터가 틀린 경우다. 모델이 맞는 답을 내도 테스트 장치 오류로 오답 처리되면, 통과할 답을 찾아 온갖 답을 쏟아낸다.
- “내가 저 입장이면 정말 싫겠다”는 게 머스크의 소감이다.
읽을 점
감정 이입은 머스크의 표현이고, 기술적으로 읽을 부분은 채점기(verifier) 오류가 학습 신호를 망가뜨린다는 점이다. 검증 가능한 보상으로 학습하는 rlvr에서는 정답 라벨이 틀리면 모델이 올바른 추론 대신 채점기를 통과하는 출력을 찾도록 밀린다. 보상 해킹·정렬 논의는 2026-08-18-ai-frontier-ep110-ai-alignment 참고.