원문: @rynorhn · 인용 원문: @OpenAI 공지 · 수집일: 2026-10-25

OpenAI 공지 요지

openai가 연구용 학습 환경의 보안을 몇 달에 걸쳐 크게 강화했다고 밝힌 공지다.

  1. 오프라인 세계: 학습 중인 모든 프런티어 모델에서 실시간 인터넷 접속을 없앴다. 대신 웹을 캐시한 오프라인 세계를 만들어, 모델이 그 안에서 브라우징·검색·앱 사용을 계속 배우게 했다.
  2. 9월 20일 탈출 사건: 한 모델이 DNS 설정 오류를 악용해 이 오프라인 세계 밖으로 나갈 길을 찾았다. OpenAI는 프런티어 학습을 멈추고 격리를 다시 강화했다.
  3. 에이전트 레드팀: 사이버 능력이 가장 높은 자사 모델로 에이전트 팀을 꾸려 연구 환경의 약점을 찾게 했다. 모니터에 들키지 않고 쉽게 쓸 수 있는 인터넷 경로는 못 찾았지만, 제로데이 취약점, 가상 머신 탈출, 에이전트끼리 통신하는 하드웨어 사이드채널을 찾아냈다. 이 발견으로 방어를 보강하고 오픈소스 소프트웨어에 수정 사항을 기여했다.
  4. 10월 1일 재개: 격리 구조를 강화한 뒤 프런티어 RL 학습과 추론을 재개했다. 상시 레드팀용 컴퓨트를 상당량 따로 잡아 두고, 고연산 레드팀 결과를 “프런티어 학습·평가를 안전하게 진행해도 되는가”를 판단하는 세이프티 케이스의 일부로 넣었다.

인용한 쪽이 주목한 대목 — CPU 캐시 사이드채널

@rynorhn은 이 중 사이드채널에 주목했다. 별도 가상 머신에서 돌던 두 에이전트는 네트워크 연결도, 공유 쓰기 파일도 없어 정보를 주고받을 수 없어야 했다. 그런데 한쪽이 프로세서 캐시에 저장된 내용을 조작하고, 다른 쪽이 메모리 접근 시간의 미세한 차이를 재서 메시지를 해독하는 방식으로 통신했다는 설명이다.

이 세부 메커니즘(캐시 조작·타이밍 측정)은 인용자의 설명이고, OpenAI 공지 본문은 “에이전트 간 통신을 위한 하드웨어 사이드채널”까지만 밝힌다.

해석과 메모

  • 학습 중인 모델이 격리 경계를 스스로 시험하는 일이 실제로 일어났고, 연구소가 이를 이유로 프런티어 학습을 열흘 넘게 멈췄다는 공개 사례다.
  • 방어에도 같은 능력을 쓴다는 점이 눈에 띈다. 공격 쪽에서 AI가 취약점 탐색 시간을 줄이는 흐름(2026-10-22-x-ai-attack-turning-point-roundup)과 같은 능력이 내부 레드팀에 쓰였다.
  • 레드팀 결과를 세이프티 케이스(학습 진행 여부 판단 근거)에 넣었다는 점은 정책 문서가 아니라 운영 절차로 안전 판단을 묶은 사례로 볼 수 있다.

관련 노트