2024 AI
그리고, 엔지니어가 보는 �2025 AI 산업
동동
Introduce
“내 삶에서 혁신적인 기술 데모는 딱 2개: GUI 와 ChatGPT”
2024
“특이점 근방, 이 쪽 편인지 저 쪽 편인지는 잘 모르겠음”
2023
2024
“Is it?!”
출처 : COATUE CAPITAL
2024
“들어간 자본?"
“VC 들의 투자 금액?"
2. APPLICATION �- SERVICE (RETAIL, SNS etc)
3. ENTERPRISE AI
- SaaS model / MLOps
4. Infrastructure for AI�- Semi / Cloud
5. Others
- SMR / Robotics / 양자컴퓨터 / AI 반도체(NPU)
모델에서 가장 중요한 것은 2가지
훈련
(Training)
추론�(Inference)
비공개 모델 vs 오픈 소스 모델 Overview
| 비공개 모델 | 오픈소스 모델 |
1. 초기 비용(도입 비용) | - 구독형/사용량 기반 과금 � (API, 엔터프라이즈 계약 등) - 일부 고급 기능 사용 시 라이선스 비용 高 - 인프라 구축 비용이 낮은 경우도 있음 | - 모델 자체는 무료(오픈 라이선스) - 자체 서버에 모델을 호스팅할 경우, GPU/인프라 비용 발생 |
2. 운영 비용(유지 보수 비용) | - 벤더가 대부분 유지 보수 제공 � ⇒ 운영관리 부담 ↓ - API 사용료(트래픽 증가 시 비용 상승) | - 직접 모델 관리·업데이트 필요 ⇒ 유지보수 및 운영 부담 ↑ |
3. 성능(모델 정확도·품질) | - 대규모 자본 및 전문 인력을 투입한 SOTA (최신 논문 기반) 모델이 많음 - 벤더들끼리 싸우면서 경쟁력 | - 공개된 연구 및 대형 회사의 도움으로 개발 - 최첨단 모델(예: Llama 2, Stable Diffusion 등)도 많지만, 검증 벤치마크에서 일부 상용 모델 대비 부족할 수도 있음 (데이터도 부족) |
4. 커스터마이징 / 확장성 | - 일부 Custom API(파인튜닝 등) 제공하지만, 내부 모델 수정은 제한적 - 벤더 정책에 종속됨 | - 모델 소스코드 접근 가능 � ⇒ 파인튜닝, 모델 구조 변경 등 자유도 ↑ - 기업 특화 기능이나 특정 도메인에 맞는 확장 용이 |
5. 보안 / 데이터 프라이버시 | - 벤더의 보안정책에 따름 - 데이터가 제3자 서버에 저장되거나 전송될 수도 있음 | - 직접 서버와 모델을 운용 가능 ⇒ 내부 데이터 통제 가능 |
2024 Model Summary
1. 범용 모델(chatGPT 4o, Claude sonnet) 의 막강한 성장
2. SLM (gemeni-mini, chatGPT-4o mini) 등의 엄청난 성장
3. 멀티 모달(Multimodal)에서도 엄청나게 성장
- 동영상(Sora, google Veo2, Bytedance), 게임, 오디오..
4. 오픈소스 모델에서도 대부분 비공개 모델 수준까지 따라옴
5. 중국 vs 미국의 싸움
chatGPT 이후 모델의 정점이라 할 정도로, AI 모델의 한해
Model Challenge (2025)
더 나은 결과�(scaling!! , multimodal)
모델의 효율성을 개선�(SLM, 비용 줄이기, 자원 줄이기)
우와, 짱이야!!
그렇다면 그다음은?
1. scaling law 의 끝
- 데이터 이제 어떻게?
2. AGI?
- multimodal
- 추론형 고도화�
3. 이 모델들로 뭐할껀가요?
⇒ Agent (Application)
4. 현업에서의 문제
2. APPLICATION �- SERVICE (RETAIL, SNS etc)
3. ENTERPRISE AI
- SaaS model
4. Infrastructure for AI�Semi / Cloud / MLops
5. Others
- SMR / Robotics / 양자컴퓨터 / AI 반도체(NPU)
Application / Service
“product (2024) - vertical AI”
“코딩”
“마케팅”
“Customer Support”
“Professionals(Law, Medical etc)”
“Early Adopter”
=> 기존 업무에 AI 생산성 증대, �인턴 대체
Application / Service - Agent(2025)
Agent?
�사용자를 대신해 특정 목표를 달성하기 위해 작업을 수행하는 소프트웨어나 자동 프로세스
Application / Service - Vertical AI (2025)
특정 분야 기반으로 vertical AI 강화
(법률, 헬스케어, 의료)
harvey
woebot
carecall
Application / Service - Consumer AI
weights.gg
컨텐츠 생성 영역에서의 확장
⇒ 서브컬처 시장에서 먼저 뜨고 있음
Application / Service - Challenge
“No network effect”
“No UX design”
“May Be”�
“No Success Strategy”
2. APPLICATION �- SERVICE (RETAIL, SNS etc)
3. ENTERPRISE AI
- SaaS model / MLOps
4. Infrastructure for AI�- Semi / Cloud
5. Others
- SMR / Robotics / 양자컴퓨터 / AI 반도체(NPU)
Enterprise AI (기존의 SaaS 시장)
“적당한 성공가능성이 가장 높은 시장이자, 지금 가장 핫한 시장”
Digital
Transformation
MLops
Enterprise AI - Digital Transformation
1단계
2단계
3단계
생산성 도구의 대체
Office -> �Canva, Slack
�CRM -> Salesforce��기존 인턴들을 대체
전체 플로우를
AI 와 함께 Co-working 하며 인력 대체
�(30-100%)
기존 SW 와 인건비 모두 대체
외주서비스 모두 대체
Enterprise AI - Digital Transformation
Glean
SalesForce
Enterprise AI - MLops
DataLake
RAG
Data Quality
Enterprise (2025) - Challenge
“AI제품이 그렇게
바이럴 되지 않는다면”
“May Be”�
“SaaS를 그렇게
대체 할 수 없다면”
2. APPLICATION �- SERVICE (RETAIL, SNS etc)
3. ENTERPRISE AI
- SaaS model / MLOps
4. Infrastructure for AI�- Semi / Cloud
5. Others
- SMR / Robotics / 양자컴퓨터 / AI 반도체(NPU)
Semi / Cloud (Infra)
2. APPLICATION �- SERVICE (RETAIL, SNS etc)
3. ENTERPRISE AI
- SaaS model / MLOps
4. Infrastructure for AI�- Semi / Cloud
5. Others
- SMR / Robotics / 양자컴퓨터 / AI 반도체(NPU)
Others - SMR / military
“팔란티어/OpenAI 의 시장”
“테라파워” vs “CNNC”
Others - ROBOTICS
Others - AI 반도체
감사합니다
동동