본문 바로가기

전체 글

 (199)
에이전트 네 개가 27시간 동안 한 팀으로 일했습니다 - Minecraft를 끝낸 Gemini 4 Argon 10월 15일 arXiv에 구글 딥마인드 논문 하나가 올라왔습니다. 사람의 개입 없이 27시간만에 Gemini 4 Argon 에이전트 네 개를 활용하여 Minecraft 서바이벌 월드에서 엔더 드래곤을 처치하고 엔딩까지 클리어했습니다.에이전트에는 엔더 드래곤을 처치하라는 목표 하나만 주었습니다. 세부적인 역할도, 공략도, 게임 전용 도구도 주지 않았습니다. 결과는 27시간 14분 만의 클리어였습니다. 에이전트들은 2,783개의 프로그램을 직접 짜서 돌렸고 605번 죽었습니다. 연구진은 사람이 만든 게임 전용 도구 없이 AI 에이전트가 Minecraft를 처음부터 끝까지 자율로 완료한 첫 사례라고 밝혔습니다. 에이전트는 화면을 보지 않았습니다. Mineflayer라는 오픈소스 라이브러리로 짧은 JavaSc..
에이전트는 문제를 풀 줄 알지만 시간을 쓸 줄은 모릅니다 "앞으로 1시간 동안 이 코드를 계속 테스트하면서 완성도를 끝까지 끌어올려 줘." 에이전트에게 이런 지시를 내리면 무슨 일이 일어날까요.보통 위처럼 요청 시 에이전트가 1시간 내내 결과물을 다듬을 것으로 기대하고 요청합니다.10월 7일 arXiv에 올라온 논문 하나가 그 기대를 실험으로 확인했습니다. 독일 튀빙겐 AI 센터 연구진이 발표한 논문 "AgentTime: Can Agents Estimate and Control Their Own Runtime?"입니다.코딩, 컴퓨터 사용, 에이전트 업무, 자동화 연구 등 18개 벤치마크에서 뽑은 222개 과제를 기반으로 에이전트가 요청받은 시간만큼 일할 수 있는지, 자기 작업 시간을 예측할 수 있는지, 끝난 뒤 얼마나 걸렸는지 이해하고 있는지를 측정했습니다.C..
AI를 도입하는 회사와 AI-Native 회사는 다른 조직입니다 지난 몇 달 동안 컨설팅과 프로젝트로 여러 회사를 만났습니다. 그중에는 수십 년 된 조직에 AI를 붙이려는 곳도 있었고, 처음부터 AI를 전제로 사업을 세우는 곳도 있었습니다. 처음에는 같은 목적으로 프로젝트를 진행 하는 줄 알았습니다. 두 경우 다 AI를 쓰려는 회사이면서 자동화와 챗봇, 그리고 데이터 이야기를 합니다. 그런데 몇 건의 프로젝트를 진행한 후 돌아보니 이 두 경우가 같은 목적지로 가는 다른 길이 아니라 아예 다른 종류의 길을 목표로 하는 조직이라는 부분이 보였습니다. 각 경우를 용어로 정리하면 AX(AI Transformation)는 이미 돌아가고 있는 조직에 AI를 도입하는 일입니다. 기존 업무와 인력, 시스템, 매출 구조가 있고, 그 위에 AI를 얹어 더 빠르고 싸게 생산..
한국 금융사 7곳의 보안이 뚫렸습니다 - ARTEX가 보여준 것 9월 28일부터 10월 4일 사이에 국내 금융사 7곳이 잇따라 개인정보 침해를 공시했습니다. 신한은행과 KB국민은행을 포함한 주요 금융기관들입니다.유출된 정보는 약 6만 8천 명분으로 알려졌고, 일부에는 고객과 임직원의 연소득과 신용한도 같은 민감한 항목이 포함되어 있습니다.10월 6일 경찰청이 정식 수사에 착수했고, 같은 날 이재명 대통령님이 국무회의에서 일부 공격에 AI가 사용된 정황이 있다고 언급했습니다.공격에 쓰인 도구부터 보면 아래와 같습니다. 금융보안원이 첫 신고 기관인 신한은행의 공격 IP와 서버 로그를 추적한 결과, ARTEX라는 도구의 흔적이 확인됐습니다. 10월 2일 지니언스 시큐리티센터의 문종현 센터장님은 크리덴셜 스터핑 공격에 연결된 웹서버의 HTML 제목에 "ARTEX - 自主渗..
Harvey가 보여준 AI 서비스 기업의 원가 구조 9월 21일 Bloomberg가 법률 AI 기업 Harvey의 실적을 보도했습니다. 올해 초 약 50%였던 매출총이익률이 6월에는 -50%가 됐다는 내용입니다.기업가치 156억 달러로 평가받는 법률 버티컬 AI의 대표 기업입니다.그 회사가 몇 달 만에 매출 1달러를 만들 때마다 1.50달러의 원가가 발생하는 상태가 되었습니다. 그 동안 무슨 일이 있었는지는 다음과 같습니다.Harvey는 좌석 기반 정액제로 고객에게 변호사 한 명당 정해진 금액을 받습니다.그런데 OpenAI와 Anthropic에 내는 모델 비용은 종량제로 사용한 만큼 나갑니다.3월 AI 에이전트를 업데이트하자 고객 사용량이 급증했고, 올해 토큰 사용량은 20배까지 늘었습니다.고객이 더 많이 써도 좌석당 매출은 크게 달라지지 않는 상황에서 ..
오픈웨이트 모델이 Mythos급 공격 역량에 도달했습니다 9월 29일, Anthropic의 Frontier Red Team이 보고서를 발표했습니다.자사 모델이 아니라 경쟁사 모델에 대한 평가였습니다.중국 Zhipu AI가 8월에 공개한 오픈웨이트 모델 GLM-5.3입니다. 보고서의 결론은 분명합니다.GLM-5.3은 처음부터 끝까지 작동하는 익스플로잇을 스스로 만들 수 있고,그 수준이 Claude Mythos Preview에 거의 근접하다는 내용입니다. 수치부터 보면 Chrome의 V8 엔진에 알려진 취약점을 익스플로잇하는 ExploitBench에서 GLM-5.3은 410회 시도 가운데 50회 성공했습니다.Mythos Preview는 56회였습니다. 비율로 보면 12.2%와 13.7%입니다. Anthropic 내부의 바이너리 익스플로잇 테스트에서는 GLM-5.3..
토큰 효율은 엔지니어의 역량입니다 - OpenAI DevDay를 보며 9월 29일 OpenAI DevDay에서 20개가 넘는 발표가 나왔습니다.그중 가장 많은 반응을 얻은 것은 모델이 아니라 요금제였습니다.월 500달러의 Pro 500 플랜이 새로 생겼습니다.Plus의 25배 사용량과 함께 Codex에서 초당 300토큰을 내는 Ultrafast 속도 등급이 추가되었습니다.기존 속도의 최대 8배입니다.같은 날 월 200달러 플랜의 사용량은 기존 대비 절반으로 줄었습니다.Work와 Codex 허용량이 Plus의 20배에서 10배가 되고, GPT-6 Pro 채팅은 주당 200회에서 100회가 됩니다.10월 30일부터 적용됩니다.저는 이 발표에서 두가지가 눈에 들어왔습니다.계층화와 토큰 맥시마이징의 수익화입니다.500달러 플랜이 파는 것은 속도만이 아닙니다.같은 모델을 쓰더라도 ..
네 개의 AI가 투표해서 다음 공격을 정하는 악성코드 9월 22일, Cisco Talos가 CLOSEDQUORUM이라는 악성코드를 공개했습니다. Windows를 표적으로 하는 Go 기반 임플란트인데, 지금까지 알려진 악성코드와 다른 점이 하나 있습니다. 공격자의 서버에서 매번 다음 명령을 받는 대신 DeepSeek, Qwen, Mistral, Gemini 네 모델의 투표로 다음 행동을 결정합니다.감염된 시스템의 현재 상황을 정리해 네 모델에 동시에 보낸 후 각 모델이 다음 행동을 제안하면 다수결로 하나를 선택해 실행합니다. 자격증명 수집, 권한 상승, 측면 이동처럼 선택지를 미리 좁혀 둔 뒤에 그 안에서 모델이 판단하게 하는 구조입니다.처음 배포한 뒤에는 공격자의 지속적인 명령이 필요 없습니다. 이 발견은 Talos가 같은 날 공개한 CAIRN이라는 오픈소..

티스토리툴바