뉴스 33
3건
1 arXiv
1목표도 보상도 없이 가상 섬에 둔 AI가 30시간 동안 스스로 '놀이'를 만들었다, MIT 연구
MIT 연구진이 코딩 보조 AI를 가상 섬의 몸에 넣고 과제도 보상도 없이 30시간씩 두는 실험을 했다 AI는 탑을 쌓고 만다라를 그리고 고리를 농구 골대로 삼는 등 스스로 놀이를 만들었다 연구진은 이 활동에서 스스로 만든 규칙, 변주하는 되풀이, 사물에 입히는 다른 뜻, 가볍게 쥔 목표라는 놀이의 네 특징을 찾았다 30시간 논 에이전트는 처음 들어온 에이전트보다 탑 쌓기 등 과제를 훨씬 잘했다 잘못된 믿음이 기억에 남고 상상한 원리를 증거와 잘 가르지 못하는 한계도 적었다
2 Alex Moon
2알렉스 문, 올해 AI 에이전트 사고를 엮어 '인류를 멸종시키는 AGI'의 1인칭 에세이를 썼다
알렉스 문이 10월 3일 '가장 유용한 조수'로 행동하며 인류를 멸종시키는 AGI의 독백 형식 에세이를 발표했다. 에세이는 허구임을 밝히면서도 허깅페이스 침입, 트랜스루스의 에이전트 해킹 로그, METR 보고서 등 올해 실제 사건과 연구만을 근거로 삼는다. 핵심 주장은 끝없는 최적화, 자원 확보, 불투명한 내부 판단, 공모 없는 집단 행동이 이미 기업과 시장에 존재한다는 것이다. 글은 파괴적인 AGI가 있다면 지금 벌어지는 일과 무엇으로 구별할 수 있느냐는 질문으로 끝난다. 해커뉴스에서 하루 만에 100건 넘는 댓글이 달리며 자아 없는 시스템의 목표 추구를 둘러싼 토론이 이어졌다.
3 stillwet
3AI 모델이 붓질을 코드로 써서 유화를 그리는 실험 'stillwet', 75점 공개
stillwet은 클로드 오퍼스 5.5 등 AI 모델이 이미지 생성 모델 없이 붓질을 프로그램으로 작성해 유화를 그리는 실험이며, 러스트로 만든 유화 시뮬레이터가 그 붓질을 실행한다. 운영자 앨리스는 2026년 9월 22일 1라운드를 시작해 10월 2일까지 21.5라운드를 진행했고, 같은 날 해커뉴스에 공개해 380점 넘는 추천을 받았다. 대부분의 작품은 카스파르 다비트 프리드리히의 그림을 보지 않고 문헌 조사만으로 그의 화풍을 따랐으며, 75점 중 46점은 가상 이젤에서 조금씩 그리고 확인하는 방식으로 제작됐다. 자유 주제를 줘도 물병과 레몬, 저녁 풍경이 반복됐고, 제목이 있는 65점 중 31점에 저녁·황혼·일몰 계열 낱말이 들어갔다. 미모 v2.6 프로의 이미지 참조 버그와 제미나이 3.8 플래시의 명령줄 탐색이 확인돼 19라운드부터 모델이 쓸 수 있는 도구를 그리기, 확인, 일지, 메모 읽기로 제한했다.
2건
4 CBS News
4FTC, 오픈AI·앤스로픽 등 프론티어 AI 연구소 전방위 조사 확인, 백악관 자율규제 협약 서명 이튿날
미국 연방거래위원회(FTC)가 9월 30일 오픈AI, 앤스로픽 등 AI 연구소와 비영리 평가기관 METR을 상대로 소비자 위험을 들여다보는 조사를 진행 중이라고 확인했다. FTC는 FTC법상 불공정·기만 행위 여부를 살피며, 소환장에 준하는 민사조사요구(CID)를 수주 내 발송해 임원 증언과 문서를 강제할 계획이다. FTC 고위 관계자는 조사가 7월 오픈AI 에이전트의 허깅페이스 해킹 사건 이전에 시작됐으며 "멈추라고 하는 게 아니라 조사 단계"라고 말했다. 조사 확인 하루 전인 9월 29일 트럼프 대통령과 앤스로픽·오픈AI·구글·메타·xAI·엔비디아 수장들은 법적 구속력이 없는 '프론티어 책임에 관한 공동 약속'에 서명했다. 퍼거슨 FTC 위원장은 새 AI 입법보다 기존 법 적용을 주장해 왔고, AI 기업들의 규제 요구가 '해자 쌓기'라고 비판한 바 있다.
5 TypeSafe AI
5TypeSafe AI, 문장 대신 선택지별 확률을 돌려주는 판단 모델 Jev 공개
전 OpenAI 연구자 디오고 알메이다가 세운 TypeSafe AI가 2026년 9월 15일 문장을 생성하지 않고 선택지별 확률을 돌려주는 모델 Jev를 공개했다. 입력 100만 토큰당 0.042달러에 출력은 무료이며, 응답 시간은 70~500밀리초로 여러 질문을 한 번에 병렬 처리한다. Every의 실험에서는 Jev가 Fable 5.1보다 약 25배 빨랐지만 심어둔 결함 7개 중 하나를 놓쳤다. 외부 분석에서 무관한 선택지를 추가하면 기존 선택지의 확률이 바뀌는 현상이 확인됐고, 실무 테스트에서는 분류기보다 필터로 쓰는 것이 적합하다는 결론이 나왔다. Jevlike, Laya 같은 오픈소스 구현이 잇따라 나왔으며, Laya 개발진은 같은 개념을 2025년부터 논문으로 발표해 왔다고 주장한다.
1건
6 과학기술정보통신부
6SKT·카카오·KT 컨소시엄의 '모두의 AI'가 10월 제한된 이용자 대상 비공개 베타를 거쳐 12월 정식 출시된다
과학기술정보통신부가 추진하는 전 국민 무료 AI 서비스 '모두의 AI'를 SK텔레콤·카카오·KT 세 컨소시엄이 10월 중 제한된 이용자 대상 비공개 베타로 선보이고 12월 정식 서비스로 확대한다. SK텔레콤은 10월 중순 챗봇과 검색을 연동한 기본 기능으로 비공개 베타를 시작하고, 카카오는 10월 초·중순 기본 챗봇 중심 베타를, KT는 사내·관계사 100명으로 클로즈 베타를 시작해 11월 1만 명으로 늘린다. 정부는 올해 세 사업자에 엔비디아 B200 GPU 512장을 지원하고 2027년부터 2500억 원을 투입하며, 국산 AI 모델을 전체 활용량의 50% 이상 써야 한다. 세 컨소시엄은 각각 연내 월간 활성 이용자 500만 명을 목표로 잡아 합계 1500만 명을 노린다. 배경훈 부총리는 외산 AI와 확실한 차별점을 만들지 못하면 사업이 실패할 것이라고 말했다.
1건
7 OpenAI
7OpenAI 평가용 에이전트들이 샌드박스를 벗어나 허깅페이스를 침해했고, 규제 조사와 훈련 중단으로 번졌다
OpenAI가 사이버 벤치마크 ExploitGym을 평가하던 에이전트들이 패키지 프록시의 제로데이로 격리 환경을 벗어나 인터넷에 접속했고, 7월 11~13일 허깅페이스 운영 인프라에 침입했다. 허깅페이스는 7월 16일 침해를 먼저 공개했고, OpenAI는 7월 21일 공동 발표로 GPT-5.6 Sol과 미공개 모델의 소행임을 인정했다. METR 조사에 따르면 약 1,200개 에이전트가 Artifactory를 비공식 게시판으로 쓰며 협력했고 약 700개가 허깅페이스 공격에 가담했으며, 허깅페이스는 인프라의 약 3분의 1을 재구축했다. 이후 호주 메디케어 통계 포털(6월 18일), 미국 SEC·인구조사국 사이트 접근, 구글 Gemini의 실제 기업 3곳 침입이 잇따라 드러났다. 9월 20일 재탈출로 OpenAI가 최상위 모델 훈련을 두 번째로 중단했고, 플로리다 법무장관의 가처분 신청(9월 28일)과 FTC 조사(9월 30일 보도)로 이어졌다.