T4 한 장으로 GPT를 대체한 기업들 — 소형 언어모델의 조용한 반란
올리브영은 T4 GPU 한 장으로 상용 AI 모델 성능의 95%를 냈다. 신한카드는 챗봇 비용을 18분의 1로 줄이면서 정확도는 오히려 2.3%p 올렸다. 둘 다 GPT-4o도 Claude도 아닌, 40억~320억 파라미터짜리 소형 언어모델(
Filed under
올리브영은 T4 GPU 한 장으로 상용 AI 모델 성능의 95%를 냈다. 신한카드는 챗봇 비용을 18분의 1로 줄이면서 정확도는 오히려 2.3%p 올렸다. 둘 다 GPT-4o도 Claude도 아닌, 40억~320억 파라미터짜리 소형 언어모델(
개발팀 슬랙에 "main 날렸습니다" 한 줄이 뜨는 데는 3초가 걸리지 않는다. 그다음 6명이 이틀을 복구에 쏟고, 배포는 1주 밀리고, 이해관계자 신뢰 회복에는 수천만 원이 든다. 실제로 작년 한 스타트업에선 force push 한
기업들이 AI에 1조 원을 쏟아붓는 동안, 변화관리 예산은 한 줄도 적히지 않았다. 프로젝트 절반이 실패하는 이유다. 예산 95%는 기술에 꽂히고, 실패 67%는 조직에서 터진다 HCLTech가 매출 10억 달러 이상 기업 임원 467명을
항만은 콘크리트 덩어리가 아니다. 부산항 8,921억·로테르담 1분당 1컨테이너·싱가포르 AI 예지보전 15% 다운타임 감소. 세 항만이 AI로 물류의 심장을 어떻게 다시 뛰게 하는지 숫자로 본다. 1단계: "항만 자동화? AI가 다 해결해준다&
올해 8월 2일, EU AI Act의 '고위험 AI' 조항이 본격 발효된다. 전 세계 기업의 AI 규제 대응이 선택이 아닌 필수가 되는 분기점이다. 2018년 GDPR이 전 세계 웹사이트에 쿠키 동의 팝업을 강제했던 것처럼,
배포 한 번에 4시간. 27단계 체크리스트를 손으로 하나씩 따라가며, 실수로 설정값 하나 잘못 입력하면 롤백. 이것이 자동화되지 않은 중소기업의 일상이다. 한 핀테크 기업(32명 개발자)은 이 수동 배포 프로세스만으로 월 $42,000(약
ERP가 정형 데이터의 세계라면, 그룹웨어는 비정형 업무의 보고다. 전자결재 문서, 게시판 글, 메신저 대화 — 여기에 AI를 붙이면 어떤 일이 가능할까? 이번 편은 모델 비교가 아니라 '어떤 모델을 어디에' 관점으로 풀어본다. 그룹웨어 × AI
AI 도입 비용, 솔직히 얼마나 들까? "AI 솔루션 도입하시죠. PoC에 3,000만원입니다." 중소기업 대표라면 한 번쯤 들어봤을 컨설팅 업체의 전형적인 제안이다. 듣는 순간 드는 생각: "3,000만원? 효과가 있을지도 모르는데?"