Filed under

AI 기술

💡

AI 기술

RAG는 느리다 — 481KB로 AI 지식을 바꾸는 DMOA

1. 도입: 왜 긴 문서 넣으면 ChatGPT가 느려질까? ChatGPT에 100페이지 PDF 던져보면 답변 오기까지 숨 참게 된다. 이유는 간단하다 — 문서가 들어오면 기존 Key-Value 캐시가 싹 무효화되고, 처음부터 다시 계산해야 하니까. 고속도로 달리다 갑자기 브레이크

Continue reading

AI 기술

AI 에이전트, ERP를 대체할 수 있을까?

모듈마다 AI 에이전트를 붙이면, ERP는 사라질까? 최근 obsidian vault에 적어둔 메모 하나가 머릿속을 떠나지 않았다. "AI 에이전트를 ERP 모듈 별로 만든다면, 역으로 ERP가 필요할까? 진정한 MSA(micro system architecture) 설계가 되는 것이 아닐까?

Continue reading