추론모드 (1) 썸네일형 리스트형 추론 모델은 대답이 아닌 정답을 찾는다. 2024년 9월, OpenAI가 o1-preview 모델을 출시했습니다. 당시 많은 개발자들이 이 모델을 단순히 더 똑똑한 모델 정도로 받아들였습니다. 돌이켜보면 그 시점이 AI 모델의 패러다임이 바뀐 분기점이었습니다. 기존 LLM은 입력에 대해 가장 그럴듯한 다음 토큰을 예측합니다. 빠르고 효율적이지만 구조적으로 "그럴듯한 답"을 찾도록 설계된 것입니다.하지만 o1-preview는 달랐습니다. 응답 전에 내부적으로 추론 과정을 거칩니다. 틀린 경로를 되짚어 보고, 다른 전략을 시도하고, 스스로 오류를 인식합니다. 이를 Test-time Compute라고 합니다. 학습이 아닌 추론 시점에 연산을 더 투입해서 품질을 높이는 방식입니다. 기존 모델이 "이 질문에 대답은 무엇인가"를 찾는다면, 추론 모델은 ".. 이전 1 다음