모델 (7) 썸네일형 리스트형 에이전트 시대의 보안은 모델이 아니라 권한의 문제입니다 - 10월 21일 나쁜 보안의 하루 10월 21일 하루에 보안 뉴스가 쏟아졌습니다.PHP, Node.js, GitLab이 같은 날 긴급 보안 패치를 냈고 LiteLLM과 Railway는 침해를 공지했습니다.TechCrunch는 "인터넷이 매우 나쁜 보안의 하루를 보내고 있다"고 썼습니다.성격은 제각각이지만 굵직한 사건마다 AI가 있었습니다. PHP의 치명적인 결함을 AI가 찾아냈습니다.인증 없이 원격 코드를 실행할 수 있는 CVSS 9.2짜리 취약점 두 건이었습니다.보안업체 Calif의 연구원이 지난 8월 GPT-5.6 Sol로 찾아냈고 Wiz가 독립적으로 같은 결함을 찾았습니다.Wiz는 10년 넘게 잠복해 있던 결함을 연구원 한 명이 AI와 함께 일주일 만에 익스플로잇으로 만들었다고 설명했습니다.약 두 달의 비공개 조율 끝에 공개를 앞두.. 에이전트 네 개가 27시간 동안 한 팀으로 일했습니다 - Minecraft를 끝낸 Gemini 4 Argon 10월 15일 arXiv에 구글 딥마인드 논문 하나가 올라왔습니다. 사람의 개입 없이 27시간만에 Gemini 4 Argon 에이전트 네 개를 활용하여 Minecraft 서바이벌 월드에서 엔더 드래곤을 처치하고 엔딩까지 클리어했습니다.에이전트에는 엔더 드래곤을 처치하라는 목표 하나만 주었습니다. 세부적인 역할도, 공략도, 게임 전용 도구도 주지 않았습니다. 결과는 27시간 14분 만의 클리어였습니다. 에이전트들은 2,783개의 프로그램을 직접 짜서 돌렸고 605번 죽었습니다. 연구진은 사람이 만든 게임 전용 도구 없이 AI 에이전트가 Minecraft를 처음부터 끝까지 자율로 완료한 첫 사례라고 밝혔습니다. 에이전트는 화면을 보지 않았습니다. Mineflayer라는 오픈소스 라이브러리로 짧은 JavaSc.. 에이전트는 문제를 풀 줄 알지만 시간을 쓸 줄은 모릅니다 "앞으로 1시간 동안 이 코드를 계속 테스트하면서 완성도를 끝까지 끌어올려 줘." 에이전트에게 이런 지시를 내리면 무슨 일이 일어날까요.보통 위처럼 요청 시 에이전트가 1시간 내내 결과물을 다듬을 것으로 기대하고 요청합니다.10월 7일 arXiv에 올라온 논문 하나가 그 기대를 실험으로 확인했습니다. 독일 튀빙겐 AI 센터 연구진이 발표한 논문 "AgentTime: Can Agents Estimate and Control Their Own Runtime?"입니다.코딩, 컴퓨터 사용, 에이전트 업무, 자동화 연구 등 18개 벤치마크에서 뽑은 222개 과제를 기반으로 에이전트가 요청받은 시간만큼 일할 수 있는지, 자기 작업 시간을 예측할 수 있는지, 끝난 뒤 얼마나 걸렸는지 이해하고 있는지를 측정했습니다.C.. Harvey가 보여준 AI 서비스 기업의 원가 구조 9월 21일 Bloomberg가 법률 AI 기업 Harvey의 실적을 보도했습니다. 올해 초 약 50%였던 매출총이익률이 6월에는 -50%가 됐다는 내용입니다.기업가치 156억 달러로 평가받는 법률 버티컬 AI의 대표 기업입니다.그 회사가 몇 달 만에 매출 1달러를 만들 때마다 1.50달러의 원가가 발생하는 상태가 되었습니다. 그 동안 무슨 일이 있었는지는 다음과 같습니다.Harvey는 좌석 기반 정액제로 고객에게 변호사 한 명당 정해진 금액을 받습니다.그런데 OpenAI와 Anthropic에 내는 모델 비용은 종량제로 사용한 만큼 나갑니다.3월 AI 에이전트를 업데이트하자 고객 사용량이 급증했고, 올해 토큰 사용량은 20배까지 늘었습니다.고객이 더 많이 써도 좌석당 매출은 크게 달라지지 않는 상황에서 .. Sonnet 5, GPT-5.6, Grok 4.5 - 몇 주 사이에 벌어진 일 6월 30일 Anthropic이 Claude Sonnet 5를 7월 8일 xAI가 Grok 4.5를 출시했습니다. 7월 9일에는 OpenAI의 GPT-5.6이 정부 검토를 거쳐 일반에 공개됐습니다. 3주가 채 안 되는 기간에 프론티어 모델 세 개가 나왔고, GLM-5.2 같은 오픈소스 모델들이 그 뒤를 바짝 추격하고 있습니다. 그리고 이 기간에 나오지 못한 모델이 하나 있습니다. Google의 Gemini 3.5 Pro입니다. 먼저 나온 세 모델을 보면 이렇습니다. Claude Sonnet 5는 중간 티어의 반란입니다. 에이전트 코딩 벤치마크에서 63.2%를 기록하며 상위 모델인 Opus 4.8(69.2%)에 바짝 다가섰고, 터미널 에이전트 벤치마크에서는 Sonnet 계열 최초로 Opus를 앞질렀습니.. Fable 5가 돌아왔습니다 - 19일의 공백이 남긴 것 7월 1일 Claude Fable 5가 전 세계 사용자에게 복구됐습니다. 6월 12일 수출 통제 지시로 90분 만에 내려간 지 19일 만입니다. 6월 30일 미국 상무부가 수출 통제를 해제했고, Anthropic은 다음 날 Claude, Claude Code, Claude Cowork 전반에 모델을 재배포했습니다. AWS, Google Cloud, Microsoft Foundry 접근도 순차적으로 복구됐습니다. 그런데 이 복귀는 단순히 모델을 다시 켠 것이 아닙니다. 돌아온 Fable 5는 세 가지가 달라졌습니다. 첫째, 새로운 안전 분류기가 붙었습니다. 이번 사태의 발단은 Amazon 연구진이 보고한 탈옥(Jailbreak) 기법이었습니다. 모델의 안전장치를 우회해 소프트웨어 취약점을 식별하게 .. Anthropic이 스스로 "전례 없는 위험"이라고 쓴 모델 Mythos 3월 26일, Fortune이 Anthropic의 내부 문서를 보도했습니다. Anthropic의 콘텐츠 관리 시스템(CMS) 설정 오류로 약 3,000개의 미공개 내부 자료가 공개 데이터 저장소에 노출됐습니다. 그 안에는 아직 발표되지 않은 신규 모델의 드래프트 블로그 포스트가 포함되어 있었습니다. 케임브리지 대학교 보안 연구자와 LayerX Security의 AI 보안 연구자가 이것을 발견했고, Fortune이 내용을 검토해 보도했습니다. 모델의 이름은 Claude Mythos으로 Anthropic은 이것을 "지금까지 우리가 만든 가장 강력한 모델"이라고 표현했습니다. 유출된 문서에 담긴 내용은 이렇습니다. Anthropic은 기존 Opus, Sonnet, Haiku 세 단계 위에 'Capybar.. 이전 1 다음