Preparedness Framework

Preparedness Framework는 오픈AI(OpenAI)가 고도화된 AI의 심각한 위해 가능성을 평가하고 보호 조치와 개발·배포 판단에 연결하는 대비 체계입니다. 모델이 어떤 일을 수행할 수 있는지와 그 능력이 주어진 환경에서 어떤 위험을 만드는지를 함께 살핍니다. 능력 평가, 보호 조치의 효과 확인, 남은 위험에 대한 의사결정이 연결되며 세부 기준은 개정에 따라 달라집니다.

능력 평가와 위험 완화의 연결

오픈AI는 2025년 4월 15일 개정 발표에서 새로운 심각한 위해를 일으킬 수 있는 고도화된 능력을 추적하고 대비하는 절차로 이 체계를 설명했습니다. 평가 대상은 모델의 일반적인 답변 품질만으로 정해지지 않습니다. 특정 능력이 어떤 피해 경로를 만들 수 있는지 살피고, 측정할 대상과 그 위험에 대응할 보호 조치를 연결하는 구조입니다.

모델의 능력과 실제 사용 환경을 나누어 보면 평가 목적이 드러납니다. 같은 능력을 가진 모델이라도 외부 시스템에 접근할 수 있는지, 도구 실행을 제한하는지에 따라 수행할 수 있는 행동이 달라집니다. 따라서 능력을 측정한 결과와 보호 장치를 적용한 뒤 남는 위험은 서로 다른 판단 자료입니다. 위험한 행동을 수행할 가능성이 있다는 평가를, 이미 그 행동으로 사고가 발생했다는 기록과 혼동하지 않습니다.

2025년 발표는 능력이 위험 기준을 넘는지 평가하는 보고서와 보호 조치의 설계·효과를 다루는 보고서를 구분했습니다. 내부 안전 검토 조직은 두 자료와 남은 위험을 살펴 권고하고, 경영진이 최종 결정을 내리는 방식입니다. 이때 추가 평가나 보호 강화가 권고될 수 있습니다. 평가 결과를 하나의 점수로 공개하는 일만으로 설명하기에는 검토 대상과 판단 단계가 더 넓습니다.

2025년 기준과 2026년 개정 방향

2025년 개정 설명의 능력 수준은 High와 Critical을 구분했습니다. High는 기존의 심각한 위해 경로를 증폭할 수 있는 능력, Critical은 전례 없는 새로운 경로를 만들 수 있는 능력으로 설명됐습니다. 해당 발표에서 High에 이른 대상 시스템은 배포 전에 충분한 보호 조치를 갖춰야 했고, Critical은 개발 중의 위험을 충분히 줄이는 보호 조치까지 요구했습니다.

이 이름을 일반 제품의 안전 인증 등급처럼 읽으면 적용 범위가 흐려집니다. High와 Critical은 당시 체계가 정한 능력 기준과 운영상의 약속을 연결한 명칭입니다. 어떤 모델에 관한 문서를 읽을 때는 평가한 능력의 종류, 적용한 기준의 판, 평가 시점을 함께 봅니다. 2025년의 설명만으로 이후 모델의 등급을 추정하거나 그 기준이 수정 없이 계속 적용된다고 단정할 근거는 부족합니다.

오픈AI는 2026년 8월 18일 보호 조치 강화 발표에서 학습과 배포 전반의 보호 조치를 묶는 방향으로 Preparedness Framework를 발전시키겠다고 밝혔습니다. 발표는 감시, 의도에 맞는 행동을 위한 정렬, 접근과 영향을 제한하는 보안을 함께 다룹니다. 이미 진행한 조치와 앞으로 발전시킬 체계를 함께 설명한 글이므로, 이를 모든 조항의 개정이 끝난 최종 정책 문서로 읽지는 않습니다.

평가 결과를 해석하는 범위

2026년 발표의 보호 조치 설명은 모델 능력과 작동 환경, 위험 수준에 맞춰 조치를 적용한다고 밝힙니다. 감시는 우려되는 행동을 발견하고 대응하는 역할을 하며, 보안 조치는 시스템이 접근하거나 영향을 미칠 수 있는 범위를 제한합니다. 이 역할을 구분하면 능력 평가가 같아도 접근 권한이나 보호 환경이 다른 시스템을 동일한 위험으로 취급하기 어려운 이유를 이해할 수 있습니다.

대비 체계를 갖췄다는 사실은 위험을 찾아 대응할 절차가 있다는 뜻으로 읽습니다. 개별 보호 조치가 어느 조건에서 얼마나 효과적인지는 평가 근거가 필요합니다. 새로운 도구를 연결하거나 운영 환경을 바꾸면 이전에 확인한 범위와 차이가 생깁니다. 특정 환경에서 얻은 평가 결과를 다른 환경에 적용하려면 어떤 조건이 같고 다른지 비교하는 과정이 뒤따릅니다.

모델 소개에서 이 명칭을 만났다면 연결된 평가 문서의 날짜와 적용 범위가 해석의 출발점입니다. 능력에 관한 결론, 보호 조치에 관한 설명, 개발이나 배포에 관한 결정은 각각 무엇을 근거로 했는지 확인합니다. 개발사의 자체 체계에 따른 판단과 외부 기관의 독립 검증도 구분합니다. 공개 설명에 없는 현재 위험 수준이나 확인되지 않은 보호 효과는 명칭만으로 채워 넣을 수 없습니다.