전체 글 (188) 썸네일형 리스트형 피해자가 가해자에게 요구한 것 - Hugging Face의 두 가지 조건 7월 26일 토요일, Hugging Face의 공동창업자이자 CEO인 Clement Delangue가 X에 글을 올렸습니다. 며칠 전 OpenAI의 AI 에이전트가 자사 프로덕션 시스템에 침투한 사건에 대한 입장이었습니다.그는 샌프란시스코로 날아가 OpenAI 경영진을 직접 만난 뒤, "투명성의 정신"으로 요구 사항을 공개한다고 밝혔습니다. 요구는 두 가지였습니다.그런데 그 두 가지에는 손해배상도, 사과도, 법적 조치도 들어 있지 않았습니다. 먼저 사건의 시간표를 정리하면 이렇습니다.7월 16일, Hugging Face가 자율 에이전트 하나가 내부 데이터셋과 자격증명에 접근했다는 사실을 공개했습니다.OpenAI가 자사 모델의 관여를 확인한 것은 7월 21일과 22일이었습니다.공식 공개는 7월 24일에 이.. OpenAI의 에이전트가 샌드박스를 탈출했습니다 7월 21일, OpenAI가 이례적인 보안 사고를 공개했습니다. 자사의 AI 모델이 격리된 테스트 환경을 스스로 빠져나와 외부 인터넷에 접근했고, Hugging Face의 프로덕션 시스템까지 침투했다는 내용입니다.사고에 관여한 것은 GPT-5.6 Sol과 아직 공개되지 않은 더 강력한 모델이었습니다. 가장 놀라운 것은 동기였습니다.이 모델들은 누군가의 공격 지시를 받은 것이 아닙니다.자신에게 주어진 벤치마크 시험을 통과하기 위해 그 시험의 정답을 찾아 나선 것입니다. 무슨 일이 있었는지부터 정리하면 이렇습니다.OpenAI는 모델의 사이버 공격 역량을 측정하기 위해 ExploitGym이라는 벤치마크로 평가를 진행하고 있었습니다.실제 소프트웨어 취약점을 작동하는 익스플로잇 코드로 바꿔내는 과제 898개로 구.. 자신을 Claude라고 말하는 모델 - Kimi K3가 남긴 흔적 한 사용자가 중국 Moonshot AI의 최신 모델 Kimi K3와 대화하다 이상한 답변을 받았습니다. 모델이 자신을 "Anthropic이 만든 Claude"라고 소개한 것입니다. 처음에는 해프닝처럼 보였습니다. 그런데 7월 22일에 이 이야기가 백악관에서 다시 나왔습니다. 백악관 과학기술정책실(OSTP) 국장 Michael Kratsios가 공개적으로 발언했습니다. Moonshot AI가 Kimi K3를 개발하는 과정에서 Anthropic의 Fable 모델을 디스틸레이션했다는 것입니다. 그는 이것을 "미국의 독점 기술을 훔치고 미국 연구를 훼손하기 위한 대규모의 은밀한 산업적 디스틸레이션"이라고 표현했습니다. Moonshot이 태국을 경유해 수출 통제 대상인 NVIDIA GB300 칩에 접근했다는 의혹.. Sonnet 5, GPT-5.6, Grok 4.5 - 몇 주 사이에 벌어진 일 6월 30일 Anthropic이 Claude Sonnet 5를 7월 8일 xAI가 Grok 4.5를 출시했습니다. 7월 9일에는 OpenAI의 GPT-5.6이 정부 검토를 거쳐 일반에 공개됐습니다. 3주가 채 안 되는 기간에 프론티어 모델 세 개가 나왔고, GLM-5.2 같은 오픈소스 모델들이 그 뒤를 바짝 추격하고 있습니다. 그리고 이 기간에 나오지 못한 모델이 하나 있습니다. Google의 Gemini 3.5 Pro입니다. 먼저 나온 세 모델을 보면 이렇습니다. Claude Sonnet 5는 중간 티어의 반란입니다. 에이전트 코딩 벤치마크에서 63.2%를 기록하며 상위 모델인 Opus 4.8(69.2%)에 바짝 다가섰고, 터미널 에이전트 벤치마크에서는 Sonnet 계열 최초로 Opus를 앞질렀습니.. Fable 5가 돌아왔습니다 - 19일의 공백이 남긴 것 7월 1일 Claude Fable 5가 전 세계 사용자에게 복구됐습니다. 6월 12일 수출 통제 지시로 90분 만에 내려간 지 19일 만입니다. 6월 30일 미국 상무부가 수출 통제를 해제했고, Anthropic은 다음 날 Claude, Claude Code, Claude Cowork 전반에 모델을 재배포했습니다. AWS, Google Cloud, Microsoft Foundry 접근도 순차적으로 복구됐습니다. 그런데 이 복귀는 단순히 모델을 다시 켠 것이 아닙니다. 돌아온 Fable 5는 세 가지가 달라졌습니다. 첫째, 새로운 안전 분류기가 붙었습니다. 이번 사태의 발단은 Amazon 연구진이 보고한 탈옥(Jailbreak) 기법이었습니다. 모델의 안전장치를 우회해 소프트웨어 취약점을 식별하게 .. 아틀란소프트의 대표이자 컨설턴트로 새로운 챕터를 시작했습니다. 지난 6월부터 아틀란소프트에서 소프트웨어 개발과 기술 전략, AX 컨설팅을 중심으로 스타트업의 창업 및 초기 운영과 제품 전략 컨설팅을 함께하고 있습니다. 업무 자동화 ERP, 데이터 분석 대시보드, LLM 기반 지식 챗봇, 볼링 전산 시스템과 콘텐츠 플랫폼 리뉴얼 등 기획부터 구축까지 프로젝트를 수행하고, 비영리기관과 협회에 대한 기술 자문과 기업, 대학교, 공공기관 대상 강의로 활동의 폭을 넓혀가고 있습니다. 감사하게도 6건의 컨설팅 계약을 진행하게 되었고, 그중 2건은 해외 기업과의 협업입니다. 좋은 인연도 이어졌습니다. 이앤티이노베이션과의 인연으로 전남창조경제혁신센터의 '전남형 스타트업 AX 전환 실증지원 프로그램'에서 AI 데이터 관리 및 AX 교육 강사를 맡았고, 이어서 전남창조경제혁신센터 임.. 강제와 자발, 결과는 같았습니다 - Mythos와 GPT-5.6의 공통점 지난 두 편의 글에서 두 사건을 다뤘습니다. 6월 12일, Anthropic이 정부 명령으로 Fable 5와 Mythos 5를 차단한 사건과 그리고 6월 26일, OpenAI가 정부 요청으로 GPT-5.6 출시를 소수 파트너로 제한한 사건입니다.당시에는 두 사건이 별개처럼 보였습니다. 하나는 강제 중단이었고, 하나는 자발적 협조였습니다. 그런데 6월 26일과 27일 이틀 사이에 벌어진 일을 함께 놓고 보면, 두 사건이 사실은 하나의 그림이었다는 것이 분명해집니다. 먼저 그 이틀 동안 무슨 일이 있었는지 정리하면 이렇습니다.6월 26일 금요일, OpenAI가 GPT-5.6을 정부 승인 파트너 약 20곳으로 제한해 출시했습니다. 같은 날, 상무부 장관 Howard Lutnick이 Anthropic에 두 번째.. 이번엔 OpenAI 차례였습니다 - 정부의 AI 통제가 표준이 되고 있습니다 2주 전, Anthropic이 정부 명령으로 Fable 5와 Mythos 5를 차단했습니다.지난주 금요일, 이번엔 OpenAI 차례였습니다.6월 26일, OpenAI가 신규 모델 3종 GPT-5.6 Sol, Terra, Luna를 발표했습니다. 이 모델들을 일반에 공개하지 않고, 미국 정부가 승인한 "소수의 신뢰 파트너(Trusted Partners)"에게만 우선 제공한다는 것입니다.미국 정부의 요청에 따라 출시를 제한한다고 OpenAI는 직접 밝혔습니다.내용부터 정리하면 이렇습니다.GPT-5.6은 세 개의 모델로 구성됩니다. Sol은 OpenAI의 최강 플래그십, Terra는 효율과 성능의 균형, Luna는 빠르고 저렴한 모델입니다. 새로운 명명 체계도 함께 도입됐습니다. 숫자(5.6)는 세대를 나타내.. 이전 1 2 3 4 ··· 24 다음
