인퍼런스 (2) 썸네일형 리스트형 AI가 생각하는 과정을 보여준다는 것의 의미 OpenAI가 지난 3월 5일 GPT-5.4 Thinking을 출시하면서 한 가지 흥미로운 기능을 추가했습니다. 필요한 경우 응답을 시작하기 전에, 모델이 먼저 자신의 계획을 보여줍니다."이 문제를 어떻게 접근할지, 어떤 순서로 처리할지"를 먼저 펼쳐 놓고, 사용자가 확인한 뒤 실행하는 방식입니다.중간에 방향이 잘못됐다 싶으면, 실행 도중에도 수정할 수 있습니다. 응답을 처음부터 다시 받을 필요가 없습니다.이 기능을 사전 계획 제시(Upfront Thinking Plan)라고 부릅니다. 저는 이것이 단순한 UX 개선이 아니라고 생각합니다.얼마 전 쓴 글에서 Anthropic의 인터럽트 기반 스티어링을 소개했습니다. AI 에이전트가 모든 것을 혼자 처리하는 대신, 특정 시점에 멈추고 사람의 판단을 기다리도.. 추론 모델은 대답이 아닌 정답을 찾는다. 2024년 9월, OpenAI가 o1-preview 모델을 출시했습니다. 당시 많은 개발자들이 이 모델을 단순히 더 똑똑한 모델 정도로 받아들였습니다. 돌이켜보면 그 시점이 AI 모델의 패러다임이 바뀐 분기점이었습니다. 기존 LLM은 입력에 대해 가장 그럴듯한 다음 토큰을 예측합니다. 빠르고 효율적이지만 구조적으로 "그럴듯한 답"을 찾도록 설계된 것입니다.하지만 o1-preview는 달랐습니다. 응답 전에 내부적으로 추론 과정을 거칩니다. 틀린 경로를 되짚어 보고, 다른 전략을 시도하고, 스스로 오류를 인식합니다. 이를 Test-time Compute라고 합니다. 학습이 아닌 추론 시점에 연산을 더 투입해서 품질을 높이는 방식입니다. 기존 모델이 "이 질문에 대답은 무엇인가"를 찾는다면, 추론 모델은 ".. 이전 1 다음