본문 바로가기

LLM

(4)
에이전트 네 개가 27시간 동안 한 팀으로 일했습니다 - Minecraft를 끝낸 Gemini 4 Argon 10월 15일 arXiv에 구글 딥마인드 논문 하나가 올라왔습니다. 사람의 개입 없이 27시간만에 Gemini 4 Argon 에이전트 네 개를 활용하여 Minecraft 서바이벌 월드에서 엔더 드래곤을 처치하고 엔딩까지 클리어했습니다.에이전트에는 엔더 드래곤을 처치하라는 목표 하나만 주었습니다. 세부적인 역할도, 공략도, 게임 전용 도구도 주지 않았습니다. 결과는 27시간 14분 만의 클리어였습니다. 에이전트들은 2,783개의 프로그램을 직접 짜서 돌렸고 605번 죽었습니다. 연구진은 사람이 만든 게임 전용 도구 없이 AI 에이전트가 Minecraft를 처음부터 끝까지 자율로 완료한 첫 사례라고 밝혔습니다. 에이전트는 화면을 보지 않았습니다. Mineflayer라는 오픈소스 라이브러리로 짧은 JavaSc..
에이전트는 문제를 풀 줄 알지만 시간을 쓸 줄은 모릅니다 "앞으로 1시간 동안 이 코드를 계속 테스트하면서 완성도를 끝까지 끌어올려 줘." 에이전트에게 이런 지시를 내리면 무슨 일이 일어날까요.보통 위처럼 요청 시 에이전트가 1시간 내내 결과물을 다듬을 것으로 기대하고 요청합니다.10월 7일 arXiv에 올라온 논문 하나가 그 기대를 실험으로 확인했습니다. 독일 튀빙겐 AI 센터 연구진이 발표한 논문 "AgentTime: Can Agents Estimate and Control Their Own Runtime?"입니다.코딩, 컴퓨터 사용, 에이전트 업무, 자동화 연구 등 18개 벤치마크에서 뽑은 222개 과제를 기반으로 에이전트가 요청받은 시간만큼 일할 수 있는지, 자기 작업 시간을 예측할 수 있는지, 끝난 뒤 얼마나 걸렸는지 이해하고 있는지를 측정했습니다.C..
LLM마다 답변이 다른 이유는 사전학습과 사후학습에 있습니다. Claude, GPT, Gemini를 함께 쓰다 보면 같은 질문에도 답변의 결이 다릅니다. 처음엔 단순히 모델 성능 차이라고 생각할 수 있습니다.하지만 모델을 사용할수록 그 차이가 어디서 오는지 알 수 있습니다. 사전학습과 사후학습의 차이입니다. 사전학습(Pre-training)은 모델이 방대한 데이터를 통해 언어와 지식을 학습하는 단계입니다.사후학습(Post-training)은 그 위에서 모델이 어떻게 대답해야 하는지, 어떤 방식으로 사람과 상호작용해야 하는지를 조정하는 단계입니다.같은 규모의 사전학습을 거쳤더라도 사후학습의 방향에 따라 모델의 성격과 응답 방식이 달라집니다. GPT는 범용성이 강합니다. 다양한 태스크에 고르게 대응하도록 사후학습이 설계된 느낌입니다.특정 영역에서 두드러지기보다 어디서든..
추론 모델은 대답이 아닌 정답을 찾는다. 2024년 9월, OpenAI가 o1-preview 모델을 출시했습니다. 당시 많은 개발자들이 이 모델을 단순히 더 똑똑한 모델 정도로 받아들였습니다. 돌이켜보면 그 시점이 AI 모델의 패러다임이 바뀐 분기점이었습니다. 기존 LLM은 입력에 대해 가장 그럴듯한 다음 토큰을 예측합니다. 빠르고 효율적이지만 구조적으로 "그럴듯한 답"을 찾도록 설계된 것입니다.하지만 o1-preview는 달랐습니다. 응답 전에 내부적으로 추론 과정을 거칩니다. 틀린 경로를 되짚어 보고, 다른 전략을 시도하고, 스스로 오류를 인식합니다. 이를 Test-time Compute라고 합니다. 학습이 아닌 추론 시점에 연산을 더 투입해서 품질을 높이는 방식입니다. 기존 모델이 "이 질문에 대답은 무엇인가"를 찾는다면, 추론 모델은 "..