🦜카부캠 앵무말(Parrotalk) : GPT 파인 튜닝

이야 내 블로그 카카오 사내게시판에 올라갓대!

gray 멘토님이 말해주심

이럴 줄 알았으면 좀 말투 덜 유치하게 쓸걸

---

🦜 GPT 파인 튜닝

openAI 파인 튜닝 공식 가이드라인

https://platform.openai.com/docs/guides/fine-tuning

 

 

데이터 세트 준비

50-100개 사이 예제로 먼저 테스트해보기

AI-Hub

훈련과 시험 분할 - Train and test splits

데이터 서식 확인

데이터 세트를 컴파일한 후 미세 조정 작업을 생성하기 전에 데이터 형식을 확인하는 것이 중요

잠재적인 오류를 찾고, 토큰 수를 검토하고, 미세 조정 작업 비용을 추정하는 데 사용할 수 있는 간단한 파이썬 스크립트

Data preparation and analysis for chat model fine-tuning | OpenAI Cookbook

비용

(base training cost per 1M input tokens ÷ 1M) × number of tokens in the input file × number of epochs trained

모델 학습

from openai import OpenAI
client = OpenAI()

client.fine_tuning.jobs.create(
  training_file="file-abc123",
  model="gpt-4o-mini-2024-07-18"
)

from openai import OpenAI
client = OpenAI()

# List 10 fine-tuning jobs
client.fine_tuning.jobs.list(limit=10)

# Retrieve the state of a fine-tune
client.fine_tuning.jobs.retrieve("ftjob-abc123")

# Cancel a job
client.fine_tuning.jobs.cancel("ftjob-abc123")

# List up to 10 events from a fine-tuning job
client.fine_tuning.jobs.list_events(fine_tuning_job_id="ftjob-abc123", limit=10)

# Delete a fine-tuned model (must be an owner of the org the model was created in)
client.models.delete("ft:gpt-3.5-turbo:acemeco:suffix:abc123")

모델 사용

from openai import OpenAI
client = OpenAI()

completion = client.chat.completions.create(
  model="ft:gpt-4o-mini:my-org:custom_suffix:id",
  messages=[
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": "Hello!"}
  ]
)
print(completion.choices[0].message)

 

데이터 세트 준비 ➡ 파일 검증 ➡  모델 학습 ➡ 모델 사용