ETC (1) 썸네일형 리스트형 [Google MLB Gemma Sprint] software engineering 지식에 최적화 된 커뮤니티 서비스 구현하기 목표 : AI 답변이 생성되는 커뮤니티 사이트를 구현하는데, 단순히 API를 가져와서 사용하지 않고 더 깊은 CS지식을 가진 모델을 구축하여 사용하고자 한다. 과정Gemma2 Fine tuning with software engineering interview qa dataset커뮤니티 서비스 구현 및 파인 튜닝한 모델 이식1. Unsloth를 사용한 Gemma2 Fine tuningcolab을 사용하여 fine-tuning 하고자 했지만, 모델을 가져오니 RAM 메모리가 가득차서 세션이 종료되는 문제가 발생했다. 이를 해결하기 위해, 파인튜닝을 효율적으로 할 수 있도록 메모리를 60% 절약해주는 unsloth를 사용하였다. unsloth를 설치하는데 CUDA , PyTorch, Python 버전이 계속.. 이전 1 다음
