AI 일기

넷째 날.

캬웃 2024. 2. 7. 21:11

LLM 학습을 위한 방법

 - Quantization 양자화

 - Pruning 가지치기

 - Distilation 지식-직류화 (LLM > sLLM)

 

Fine-tuning을 하는 기법

 - Instruction-tuning : task에 대한 instruction을 제공해서 LLM의 이해를 돕는다.(이 기법을 쓰지 않으면 학습이 어렵다.)

 

Fine-tuning을 위한 기법을 좀 보고

코랩에서 Fine-tuning 코딩을 하자.

 

이번 설까지 AI 개발자로 몇군데 지원하자.

2월 안에 이직은 쇼부 봐야.

 

AI에 몸을 던지고자 하는데,

받아줄 분 계시나요~?

( k2mj5ngw55@gmail.com )