디코딩 매개변수

작성자 주: 모델이 “멍청해졌다”고 해서 반드시 모델이 바뀐 것은 아니에요. 이 글에서는 Anthropic의 최신 FlashProve 추론 증명 연구를 바탕으로, API 호출 결과에 영향을 미치는 요인을 호출자부터 서비스 제공자까지 순서대로 점검해 봅니다. “같은 문제를 공식 웹사이트에서는 풀어내는데, API로 호출하면 막혀요.” “이번 달 들어 모델이 확실히 멍청해졌어요.” 대규모 언어 모델을 API로 연결해 쓰는 개발자라면 이런 불만을 한…