태그

#LLM2

LLM이 하던 일, 누가 가져가고 있을까?

아마존은 사내 티켓 분류에서 LLM을 빼고 결정 모델을 넣었습니다. 호출 시간은 78%, 정가 기준 비용은 약 98% 줄었다고 합니다. 무엇을 바꿨고 어떻게 갈아탔는지 살펴보고, LLM이 하던 일이 어디로 옮겨 가고 있는지 짚어 봅니다.

정우성7분기술의사결정 AI

LLM도 잠을 자야 한다고요?

배포된 LLM은 새로 배운 것을 오래 간직하지 못합니다. 다시 학습하면 예전 것을 잊고, 문맥에만 두면 세션이 끝날 때 사라집니다. 구글 리서치가 내놓은 Sleep 프레임워크가 이 문제를 어떻게 풀려 하는지 살펴봅니다.

정우성7분기술지속 학습