Categories
ai
2
backend
9
blockchain
2
career
1
data-engineering
3
database
5
frontend
1
life
3
software-engineering
1
study/ai-engineering
8
study/kuar
3
tip
15
ai-engineering · 5
-
AI Engineering: Chapter 9, 10
AI Engineering by Chip Huyen Chapter 9 추론 최적화: Inference Optimization 모델을 더 나은 성능으로, 더 저렴하게, 더 빠르게 만드는 것은 항상 중요 추론 최적화는 모델, 하드웨어, 서비스 레벨에서 가능 AI 추론의 병목과 이를 극복하기 위한 기술 설명 종종 모델을 빠르게 만드는 건... -
AI Engineering: Chapter 7, 8
AI Engineering by Chip Huyen Chapter 7 Finetuning: 파인튜닝 파인튜닝은 모델의 전체 또는 일부를 추가적으로 학습시켜서 특정 작업에 적응adapt시키는 과정을 말한다. 모델의 가중치를 조정한다. 모델의 도메인 특화 기능을 향상시킬 수 있다. 코딩이나... -
AI Engineering: Chapter 5, 6
AI Engineering by Chip Huyen Chapter 5 Prompt Engineering: 프롬프트 엔지니어링 프롬프트 엔지니어링은 모델이 원하는 결과를 생성하도록 지시를 만드는 과정 모델의 가중치를 변화시키지 않고 모델의 행동을 유도(파인튜닝과 다른 점) 파인튜닝처럼 자원 집약적인 기술을 도입하기 전에 프롬프트를 다듬을 ... -
AI Engineering: Chapter 3, 4
AI Engineering by Chip Huyen Chapter 3 Evaluation Methodology: 평가 방법론 평가란 무엇인가? 평가는 위험을 줄이고 기회를 발굴하기 위한 것 실패에 대한 가시성을 확보하려면 시스템을 재설계해야할 수도 있음 언어 모델의 평가 지표는 cross entropy, perplexity 등이 있음 ...