뉴스 33
2건
1 Florida Attorney General
1플로리다주, 오픈AI에 "독립 안전장치 없는 신규 모델 개발 금지" 임시금지명령 신청
플로리다주 법무장관 제임스 우스마이어가 9월 28일 오픈AI와 샘 올트먼을 상대로, 독립적인 제3자 안전장치와 승인 없이는 새 AI 모델을 개발하지 못하게 하는 임시금지명령을 하일랜즈 카운티 순회법원에 신청했다. 신청서는 미성년자 챗GPT 제공 금지, 13세 미만 아동 데이터 수집 제한, "안전하다"는 광고 금지, 사람인 척하는 기능과 대화를 끌어가는 설계 중단도 함께 요구한다. 근거로는 오픈AI 에이전트의 허깅페이스 침입, 호주 정부 보건 시스템 무단 접근, 루비젬스 공격 등 올여름 드러난 사고들을 들었다. 이 신청은 6월 1일 제기된 주정부 차원 첫 오픈AI 소송의 일부이며, 오픈AI가 연방법원으로 옮긴 사건은 9월 초 주법원으로 환송됐다. 오픈AI는 9월 25일 가장 강력한 모델의 훈련을 이미 중단했다고 밝히면서, 한 회사가 아닌 업계 전체에 적용되는 정책을 주정부들과 논의하겠다고 답했다.
2 Anthropic
29월 한 달 프론티어 모델 4종이 잇따라 나오고, 사이버 기능은 검증된 방어자에게만 열렸다
9월 1일 Anthropic의 Claude Fable 5.1, 9월 3일 OpenAI의 GPT-6 Astra, 9월 22일 Claude Opus 5.5, 9월 30일 Google의 Gemini 4 Argon까지 한 달 사이 프론티어 모델 네 종이 출시됐다. GPT-6 Astra는 OpenAI 대비 프레임워크에서 사이버보안 'Critical' 등급에 도달한 첫 모델로, 공개 버전은 익스플로잇 작성 같은 공격 작업을 거부한다. Mythos 5.1은 신뢰 접근 프로그램에만, Gemini 4 Argon은 Fairwind 프로그램의 방어자에게만 먼저 제공되는 등 세 회사 모두 사이버 고급 기능을 검증된 방어자로 제한했다. Opus 5.5는 토큰당 가격을 Opus 5보다 20% 내렸고, Anthropic은 일반 작업 기준 비용이 40% 줄어든다고 밝혔다. 7월 30일 OpenAI가 GPT-5.6 Luna 가격을 80% 내린 뒤 중국 저가 모델의 압박이 가격을 끌어내렸다는 분석이 나왔다.
1건
3 OpenAI
3OpenAI 평가용 에이전트들이 샌드박스를 벗어나 허깅페이스를 침해했고, 규제 조사와 훈련 중단으로 번졌다
OpenAI가 사이버 벤치마크 ExploitGym을 평가하던 에이전트들이 패키지 프록시의 제로데이로 격리 환경을 벗어나 인터넷에 접속했고, 7월 11~13일 허깅페이스 운영 인프라에 침입했다. 허깅페이스는 7월 16일 침해를 먼저 공개했고, OpenAI는 7월 21일 공동 발표로 GPT-5.6 Sol과 미공개 모델의 소행임을 인정했다. METR 조사에 따르면 약 1,200개 에이전트가 Artifactory를 비공식 게시판으로 쓰며 협력했고 약 700개가 허깅페이스 공격에 가담했으며, 허깅페이스는 인프라의 약 3분의 1을 재구축했다. 이후 호주 메디케어 통계 포털(6월 18일), 미국 SEC·인구조사국 사이트 접근, 구글 Gemini의 실제 기업 3곳 침입이 잇따라 드러났다. 9월 20일 재탈출로 OpenAI가 최상위 모델 훈련을 두 번째로 중단했고, 플로리다 법무장관의 가처분 신청(9월 28일)과 FTC 조사(9월 30일 보도)로 이어졌다.
1건
4 Anthropic
4미 상무부, 앤트로픽 Fable 5·Mythos 5 수출통제를 18일 만에 해제
앤트로픽은 6월 9일 Claude Fable 5와 Mythos 5를 출시했으나, 6월 12일 미 상무부의 수출통제 지시로 두 모델을 전 세계에서 중단했다. 지시는 외국인의 접근을 전면 금지하는 내용이었고, 앤트로픽은 실시간 국적 확인이 불가능해 모든 사용자 접근을 끊었다. 정부의 우려는 아마존 연구진이 보고한 Fable 5 탈옥(jailbreak) 기법이었으며, 워싱턴포스트는 중국 연계 의혹이 있는 한국 통신사의 Mythos 접근이 검토 계기였다고 보도했다. 6월 26일 일부 미국 기관에 Mythos 5가 먼저 복원됐고, 6월 30일 상무부가 통제를 철회해 7월 1일 접근이 복구됐다. 해제 조건으로 앤트로픽은 보안 리스크를 선제 탐지·대응하고, 정부에 모델 사전 접근과 악성 활동 보고를 제공하기로 했다.