Anthropic, AI 개발 속도조절 3단계안 제시…상시 외부 평가자부터 도입

Anthropic CEO Dario Amodei가 최첨단 AI 모델의 능력 향상 속도를 안전조치가 따라갈 수 있는 수준으로 조절하자는 3단계 프레임워크를 제안했어. 모델 훈련을 멈추자는 주장이 아니라 정렬과 보안, 외부 검증에 필요한 시간을 확보하자는 접근이야. 제안은 상시 외부 평가자, 민주주의 국가 내 기업 간 공통 기준, 국제적 조율의 세 단계로 구성돼. 이 가운데 Anthropic은 외부 평가자에게 내부 직원과 비슷한 수준의 지속적인 접근 권한을 제공하는 첫 단계를 자사가 먼저 시행하겠다고 약속했어. 나머지 두 단계는 Anthropic 혼자 실행할 수 없어. 경쟁 기업과 정부, 다른 국가가 참여해야 하므로 아직 합의된 규칙이나 국제 협정이 아니라 C.......

이 페이지는 공개 메타데이터만 제공하며 게시물 본문은 복제하지 않습니다.