"모델"이란 무엇인가요?

지금까지 "AI"와 대화해 왔지만, 실제로는 응답을 생성하도록 데이터로 학습된 특정 AI 시스템인 모델과 대화하고 있는 것입니다.

"AI"는 일반적인 개념이고, "model"은 실제로 사용할 수 있는 특정 버전입니다. 대표적인 예로 GPT-4, Claude, Gemini, Llama가 있으며, 각각 서로 다른 회사에서 개발했습니다.

동일한 프롬프트라도 모델에 따라 결과가 매우 다를 수 있습니다.

매개변수란 무엇인가요?

모델의 크기는 매개변수로 측정됩니다. 매개변수는 학습 중에 모델이 학습한 숫자로, 모델이 응답하는 방식을 결정합니다.

일반적으로 매개변수가 많을수록 기능은 향상되지만, 실행하는 데 더 많은 컴퓨팅 성능이 필요합니다.

GPT-4에는 1조 개가 넘는 매개변수가 있는 것으로 추정됩니다. 이 사이트에서는 Qwen3 0.6B를 사용하며, 이는 고작 6억 개입니다. 이는 의도적으로 작게 설정된 것입니다.

대규모 모델에는 고가의 GPU와 많은 메모리가 필요하지만, 0.6B 모델은 일반 노트북에서 실행할 수 있습니다.

복잡한 작업에서는 성능이 떨어진다는 절충점이 있지만, 프롬프트 엔지니어링을 배우는 데는 완벽합니다. 작은 모델에서 좋은 결과를 얻을 수 있다면, 더 큰 모델에서는 프롬프트가 훨씬 더 잘 작동할 것입니다.