[프롬프트 엔지니어링] 1장. 생성형 AI, 진짜 똑똑한 걸까?

Dotori.ai 2025. 5. 30. 19:03

📘 1장. 생성형 AI, 진짜 똑똑한 걸까?

💬 “요즘 AI 진짜 똑똑하던데? 블로그 글도 척척 써주고, 이메일도 대신 써준다니까?”

맞아요. 그런데... AI가 정말 ‘이해’해서 글을 쓰는 걸까요? 아니면 그럴듯하게 ‘흉내’를 내는 걸까요?

많은 사람들이 처음 GPT를 접했을 때, 이렇게 생각합니다.
“와, 이건 거의 사람처럼 대답하잖아? 이 정도면 사고하는 거 아냐?”

하지만 진실은 다릅니다. GPT는 사람처럼 이해하고 사고해서 대답하는 게 아니라, 그럴싸한 단어를 ‘예측’하는 계산기에 불과합니다.

예를 들어, 여러분이 이렇게 입력했다고 해볼게요.

“나는 오늘 아침에 커피를…”

GPT는 그 다음에 이어질 단어로 “마셨다”, “샀다”, “끓였다” 등을 떠올립니다. 그리고 그중 가장 확률이 높은 단어를 선택하죠. 이 과정을 계속 반복해 문장을 만들어냅니다.

정리하면, GPT는:

즉, AI는 실제로 무엇을 말하고 있는지 ‘이해’하는 것이 아니라, 그럴듯한 흐름을 만들어내는 데 집중하는 겁니다.

조금 더 기술적으로 말하면 GPT는 텍스트를 ‘토큰’이라는 단위로 분해하고, 각 토큰 다음에 올 토큰을 확률적으로 예측합니다.

“오늘 날씨가 너무” → [‘좋다’, ‘나쁘다’, ‘덥다’, ‘춥다’] 중 확률이 가장 높은 단어 선택
“좋다”고 예측했다면 → 다음 단어는 [‘그래서’, ‘기분이’, ‘산책을’] 중 선택…

이런 식으로 예측을 반복하며 문장을 만들어냅니다.
AI는 일종의 ‘다음 말을 잘 맞히는 게임’을 하고 있는 셈이죠.

그런데 이게 문제를 일으키기도 합니다.
AI는 말은 자연스럽게 하지만, 때로는 완전히 틀린 내용을 매우 진지하게 말하기도 하거든요.

이걸 “환각(hallucination)”이라고 부릅니다.
GPT는 실제로 존재하지 않는 정보도, 문맥에 어울린다고 생각되면 생성해버립니다.

예를 들어 이런 프롬프트를 줬을 때:

🧪 프롬프트: “정약용의 증기기관차 발명에 대해 설명해줘”

GPT의 대답은?

“조선 후기 실학자 정약용은 1800년대 초 증기기관차를 개발하여 산업혁명에 기여했다...”

😱 말은 그럴듯하지만, 완전한 허구입니다.
정약용은 실학자이지, 기관차와는 아무런 관련이 없어요.
이처럼 GPT는 “진실보다 말이 자연스러운 것”을 더 우선시합니다.

결과적으로, GPT는 언뜻 보면 '지식인'처럼 보이지만, 실제로는 ‘패턴 인식기’에 가깝습니다.
지식과 이해보다는 확률과 문장 완성도가 핵심인 모델이죠.

이쯤 되면, 이런 의문이 생깁니다.

“그럼 GPT를 믿을 수 없는 건가요?”

그렇지는 않습니다.

정답을 묻는 데 쓰면 위험하지만, 생각을 확장하거나 반복작업을 줄이는 데는 아주 유용하죠.

💡 GPT 활용 예시:

이럴 때 GPT는 정말 빠르고 유용한 ‘AI 비서’처럼 일해줍니다.

초안용으로 활용하자
GPT가 제공하는 내용은 ‘완성본’이 아닌 ‘초안’입니다. 거기서부터 수정하고 다듬어야 합니다.
팩트는 반드시 검토하자
출처가 있는 데이터나 통계는 직접 확인하고 보강하세요.
프롬프트를 구체적으로 쓰자
“설명해줘”보다는
“초등학생도 이해할 수 있게 예시를 들어 설명해줘” 같은 방식이 훨씬 좋은 결과를 만듭니다.