하드웨어 환경

• 디바이스: MacBook (M1 Max 32GB)
• 프레임워크:
  • MLX 0.27.0
  • MLX-LM 0.26.2
• 파인튜닝 방식: LoRA (Low-Rank Adaptation)

🤖 선정 모델

모델 정보

• 모델명: LGAI-EXAONE/EXAONE-4.0-1.2B
• 개발사: LG AI Research
• 출시일: 2025년 7월 15일
• 파라미터: 1.2B (12억 개)
• 유형: Hybrid Reasoning Language Model

선정 이유

1. 최적화된 온디바이스 성능

• 1.2B 크기로 M1 Max 32GB 환경에서 효율적 운용
• MLX 프레임워크와 뛰어난 호환성
• 메모리 효율적인 추론 및 학습 가능

2. 최신 아키텍처 적용

• QK-Reorder-Norm 기술로 향상된 다운스트림 성능
• Post-LN scheme 적용으로 안정적인 학습