AI 시작하기: ‘적당히 좋은 프롬프팅’ 가이드

게시일: 2025년 12월 1일 | 원문 작성일: 2024년 11월 24일 | 저자: Ethan Mollick (UPenn Wharton) | 원문 보기

• • •

1. AI 활용의 역설: 왜 사람들은 AI를 제대로 못 쓸까

최신 AI의 능력은 이미 검증되었어요. 그런데 왜 많은 사람들이 AI를 쓰고도 별다른 효과를 못 느끼는 걸까요?

최근 연구가 이 역설을 잘 보여줘요. 의사들에게 GPT-4를 써서 진단을 내리게 했는데요:

• 놀라운 결과: GPT-4 단독 진단 성적이 의사 단독 진단보다 더 좋았어요
• 이상한 결과: 그런데 AI를 보조로 쓴 의사들의 성적은 AI 없이 일한 의사들과 똑같았어요

왜 이런 일이 생겼을까요?

• 알고리즘 혐오(Algorithmic Aversion): 기계의 권고가 내 판단과 다르면 본능적으로 무시하려는 경향
• 잘못된 사용 방식: 대부분의 의사들이 AI를 검색엔진처럼 썼어요. “간경변이 암의 위험 요소인가요?” 같은 단편적 질문만 던진 거죠. 환자의 전체 병력을 주고 종합 분석을 요청한 사람은 극소수였어요.

흔히 빠지는 함정들

이런 ‘검색엔진식 사용’은 널리 퍼진 문제예요:

• AI를 사실 데이터베이스로 취급: 구글에 물어보듯 사실 질문을 해요. 하지만 LLM은 구글이 아니고, 일관되거나 신뢰할 만한 답을 주지 않아요.
• 뻔한 결과물에 실망: 모호한 요청을 주고는 결과물이 generic하다고 불평해요
• 프롬프트 마비: 깜빡이는 커서 앞에서 뭘 물어봐야 할지 몰라 멍하니 있게 돼요

• • •

2. 초보자에게 ‘프롬프트 엔지니어링’은 오히려 독

이런 문제의 해결책으로 “프롬프트 엔지니어링을 배우세요”라는 조언이 많아요. 하지만 초보자에게는 이게 역효과일 수 있어요.

복잡한 프롬프팅이 필요 없는 이유

• 시작 자체를 막는다: 복잡한 기법을 먼저 배워야 한다고 하면, 기술 배경이 없는 사람은 그냥 포기해 버려요
• 아직 정립되지 않은 ‘과학’: 연구자들조차 좋은 프롬프팅의 기초에 대해 아직 논쟁 중이에요. AI 모델은 띄어쓰기 같은 사소한 변화에도 민감하게 반응하고, 심지어 “12월에 더 게을러진다” 같은 이상한 행동도 보여요
• 점점 덜 중요해지고 있다: 최신 연구에 따르면 더 크고 새로운 AI 모델일수록 특정 프롬프팅 기법에 덜 민감해요. 그리고 프롬프트를 자동으로 개선해주는 도구들도 나오고 있죠

프롬프트 엔지니어링이 필요한 경우

물론 정식 프롬프트 엔지니어링이 중요한 경우도 있어요:

• 다른 사람들이 쓸 프롬프트를 만들 때
• 대규모로 배포할 때
• 정확성이 절대적으로 중요한 상황

하지만 개인이 일회성 작업에 AI를 ‘공동 지능(co-intelligence)‘으로 쓸 때는 훨씬 덜 중요해요.

• • •

3. ‘적당히 좋은 프롬프팅’ 프레임워크

AI 활용 능력을 키우는 가장 효과적인 방법은 이론 공부가 아니라 실제 사용이에요.

새로운 비유: 잊어버리지만 인내심 있는 동료

검색엔진 비유를 버리고, 이렇게 생각하세요:

이 비유에는 인간적인 측면 두 가지와 비인간적인 측면 두 가지가 있어요:

• • •

4. 실전 전략: 작업 완수를 위한 프롬프팅

AI로 구체적인 결과물을 만들어내는 방법이에요.

자신의 전문 분야에서 시작하세요

AI를 처음 쓴다면 본인이 전문가인 분야의 작업부터 해보세요. 왜냐하면:

• 결과물의 품질을 빠르게 판단할 수 있어요
• 환각(hallucination) — 그럴듯하지만 틀린 정보 — 를 쉽게 발견할 수 있어요

명시적이고 상세하게

모호한 프롬프트 vs 좋은 프롬프트:

• ❌ “원격 학습의 장단점에 대한 보고서 작성해줘”
• ✅ “미국 중서부 지역 대학에 적합한 원격 학습의 장단점 보고서를 작성해줘. 경영대 학장이 새로운 원격 학습 프로그램에 예산을 배정하도록 설득하는 게 목표야”

대화로 진행하세요

한 번 명령하고 끝나는 게 아니에요:

• 피드백을 주세요
• 개선을 요청하세요
• AI에게 불명확한 점이 있으면 질문하라고 하세요

환각 관리하기

환각은 리스크지만 관리 가능해요:

• 프롬프트에 이런 문구를 넣으세요: “확실하지 않거나 정보가 부족하면 ‘답변하기 위한 정보가 충분하지 않습니다’라고 말해줘”
• AI에게 각 답변에 대한 신뢰도 수준을 같이 보고하라고 하세요

• • •

5. 실전 전략: 사고 파트너로서의 프롬프팅

AI를 조언자, 창작 파트너, 또는 생각 정리 도구로 쓰는 방법이에요.

목적

조언을 구하거나, 브레인스토밍하거나, AI를 “러버덕(rubber duck)“으로 쓰는 거예요. 프로그래머들이 문제를 해결할 때 오리 인형에 설명하면서 자기 생각을 정리하는 것처럼요.

방법

• 자연스럽고 자유로운 대화가 핵심이에요
• 모바일 앱의 음성 모델을 쓰면 가장 쉬워요 (ChatGPT의 음성 모드가 현재 최고 수준)

활용 예시

• 한 양자물리학자는 AI를 호기심 많은 파트너로 삼아, AI가 물리학 전문가가 아닌데도 자신의 아이디어를 깊이 생각하도록 밀어붙이는 데 활용했어요
• AI는 실행 능력이 있는 사용자에게 훌륭한 전략적, 창업적 조언을 줄 수 있어요

주의사항

연구에 따르면 AI와 대화하면 외로움이 줄어들 수 있다고 해요. 하지만 친교나 테라피 목적으로 AI를 쓰는 건 신중해야 해요. 아직 그 영향과 리스크가 완전히 이해되지 않았거든요.

• • •

6. 결론: AI 직관을 키우는 길

AI를 이해하고 효과적으로 활용하는 길은 생각보다 단순하고 실용적이에요.

핵심 행동 지침:

• 10시간을 투자하세요: 자신에게 의미 있는 작업에 AI를 써보세요
• 완벽을 추구하지 마세요: 그냥 시작하고, 직접 경험하면서 배우세요
• 반복하세요: 초반의 좌절감이든 놀라움이든, 경험이 쌓이면 자연스럽게 조절돼요

이 투자가 쌓이면 AI가 어떻게 자신의 일과 삶에 맞는지에 대한 직관이 생겨요. 이론이나 기법이 아니라, 직접 경험에서 오는 감각이죠.