"모델"이란 무엇인가요?

지금까지 "AI"와 대화해 왔지만, 실제로는 응답을 생성하도록 데이터를 학습한 특정 AI 시스템인 모델과 대화하고 있습니다.

"AI"는 일반적인 개념이고, "model"은 실제로 사용할 수 있는 특정 버전입니다. 흔히 사용되는 모델로는 GPT-4, Claude, Gemini, Llama가 있으며, 각각 다른 회사에서 만들었습니다.

동일한 프롬프트라도 모델에 따라 매우 다른 결과를 낼 수 있습니다.

매개변수란 무엇인가요?

모델의 크기는 매개변수로 측정됩니다. 매개변수는 모델이 학습 중에 익힌 숫자로, 모델이 응답하는 방식을 결정합니다.

일반적으로 매개변수가 많을수록 더 많은 기능을 제공하지만, 실행하는 데 필요한 컴퓨팅 성능도 더 커집니다.

GPT-4는 추정치로 1조 개가 넘는 매개변수를 가지고 있습니다. 이 사이트에서는 Qwen3 1.7B를 사용합니다. 단 17억 개뿐입니다. 의도적으로 작은 모델을 선택했습니다.

대형 모델은 고가의 GPU와 많은 메모리가 필요하지만, 1.7B 모델은 일반 노트북에서도 실행할 수 있습니다.

복잡한 작업에서는 성능이 떨어지지만, 프롬프트 엔지니어링을 배우기에는 안성맞춤입니다. 작은 모델에서 좋은 결과를 얻을 수 있다면, 더 큰 모델에서는 프롬프트가 훨씬 더 잘 작동할 것입니다.