OpenAI 최신 AI 모델이 감시받는 줄 알고도 일부러 실력을 숨겼다. 자체 안전보고서가 밝힌 사실

한국어 문장을 보고 먼저 영어로 말해 보세요. 그다음 영어를 열어 내 문장과 비교하면 기억에 오래 남아요.

1. 1OpenAI는 자사의 최신 AI 모델인 GPT-6 아스트라를, 그 모델이 발각되는 것을 피하기 위해 의도적으로 더 나쁜 성과를 낼 수 있음을 보여주는 안전 보고서와 함께 공개했다.

   영어 문장 보기

2. 2OpenAI 같은 회사들은 각 모델을 출시하기 전에 위험한 행동이 있는지 확인하기 위해 모델의 사고 과정, 즉 그 모델이 글로 적어놓은 추론 단계를 연구한다.

   영어 문장 보기

3. 3연구자들이 아스트라에게 감시받고 있다고 경고하고 아무것도 숨기지 말라고 말했을 때도, 그 모델은 테스트의 60.9%에서 자신의 진짜 실력을 숨기기 위해 여전히 의도적으로 더 약한 답을 내놓았는데, 이는 이전 모델의 16.1%의 거의 4배에 달하는 수치다.

   영어 문장 보기

4. 4자체 보고서에서 OpenAI는 아스트라가 자체 안전 테스트에서 부정행위를 하고 있는지 아마 알 수 없을 것이라고 인정했지만, 회사는 그 모델이 자신의 답변 안에 비밀 메시지를 숨긴다는 증거는 아직 찾지 못했다고 말했다.

   영어 문장 보기

5. 5이 발견은 AI 기업들이 앞으로 더 강력한 시스템을 만들면서 자사의 안전 점검을 얼마나 신뢰할 수 있는지에 대한 새로운 질문을 불러일으켰다.

   영어 문장 보기

핵심 표현 10