프롬프트 엔지니어링의 시대

1. 프롬프트 엔지니어링은 어떻게 시작됐나

2022년 11월 30일, OpenAI가 ChatGPT를 공개했습니다. 검색창이 아니라 채팅창에 자연어로 무엇이든 부탁할 수 있다는 사실에 사람들이 열광했고, 출시 두 달 만에 월간 사용자 1억 명을 넘기며 당시 가장 빠르게 성장한 소비자 앱이 되었습니다.

그런데 며칠만 써 본 사람들은 곧 이상한 점을 알아챘습니다. 누구는 ChatGPT로 멋진 마케팅 카피를 뽑아내는데, 누구는 평범한 답만 받았습니다. 같은 모델인데 왜 결과가 다를까. 답은 단순했습니다. 질문을 쓰는 방식이 달랐기 때문이었습니다.

이 발견이 곧 직업으로 이어집니다. 2023년 한 해 동안 "프롬프트 엔지니어"라는 새로운 직무가 미국 일부 기업에서 연봉 20만 달러 이상을 제시하며 채용되었고, "프롬프트"라는 단어는 옥스퍼드 사전이 뽑은 2023년 올해의 단어 최종 4선에 올랐습니다(최종 우승은 "rizz"가 가져갔습니다).

1.1 프롬프트 엔지니어링이란

프롬프트 엔지니어링은 AI 모델에 던지는 입력 텍스트(프롬프트)를 전략적으로 설계해서 원하는 결과를 받아내는 기술입니다. 표현이 어렵지만, 한 줄로 줄이면 "AI에게 잘 물어보는 법"입니다.

LLM은 다음에 올 단어를 확률적으로 골라내는 방식으로 답을 만들기 때문에, 질문이 모호하면 답도 모호해지고, 질문이 구체적이면 답도 구체적으로 나옵니다. 그래서 같은 모델이라도 입력을 어떻게 짜느냐에 따라 결과가 크게 달라집니다. 프롬프트 엔지니어링은 이 폭을 의도적으로 활용하는 작업입니다.

위에 나온 다섯 가지가 가장 자주 쓰이는 기법인데, 자세한 사용법은 3장에서 하나씩 다룹니다. 지금은 "이런 종류의 기법들이 있다"는 정도만 머리에 넣고 가셔도 충분합니다.

1.2 왜 폭발적으로 성장했는가

프롬프트 엔지니어링이 빠르게 커진 데에는 분명한 이유가 있었습니다.

진입 장벽이 없습니다. 코드를 한 줄도 몰라도 자연어만으로 시작할 수 있습니다.
효과가 즉시 보입니다. 프롬프트를 한 문장만 바꿔도 답이 달라지는 게 눈에 보입니다.
분야를 가리지 않습니다. 글쓰기, 분석, 코딩, 디자인 어디든 적용할 수 있는 범용 기술입니다.

이 세 가지 때문에 마케터, 디자이너, 변호사, 학생까지 모두가 "내 분야의 프롬프트"를 모으기 시작했고, 프롬프트 예시를 공유하는 사이트와 책이 폭증했습니다.

1.3 프롬프트만으로는 안 되는 일들

그러나 시간이 지나면서 한계가 드러났습니다. 아무리 질문을 잘 다듬어도 모델 혼자 해결할 수 없는 영역이 있었습니다.

구체적으로는 이런 식입니다.

우리 회사의 어제 매출은 모델이 알 수 없습니다. 학습 시점 이후의 정보이기 때문입니다.
1만 줄짜리 사내 코드 전체를 한 번에 프롬프트에 붙여 넣을 수는 없습니다. 길이 제한이 있습니다.
데이터베이스를 직접 조회하거나 우리 회사 API를 호출하지 못합니다. 모델은 텍스트만 입력받고 출력합니다.
"고객사 명단을 분석해서 보고서를 만들고, 그걸 CRM에 업로드해줘" 같은 다단계 작업은 한 번의 대화로 끝낼 수 없습니다.

이 한계들이 결국 다음 시대를 불러왔습니다.

2. "프롬프트 엔지니어"가 사라진다는 이야기

2025년 들어 흥미로운 변화가 있었습니다. 2025년 5월, Fortune은 "This six-figure role was predicted to be the next big thing, it's already obsolete thanks to AI"라는 제목의 기사를 실었습니다. Microsoft가 31개국 31,000명 근로자를 대상으로 한 조사에서, 기업이 새로 채용을 고려하는 직무 중 "프롬프트 엔지니어"가 꼴찌에서 두 번째로 밀려난 것입니다.

이게 무슨 뜻일까요. 프롬프트 자체가 쓸모없어진 것은 아닙니다. 다음 두 가지가 동시에 일어났을 뿐입니다.

모델이 똑똑해지면서 기본 기법이 모델 안에 내재화됐습니다. "단계별로 생각해 봐" 같은 트릭을 굳이 안 써도 최신 모델은 이미 그렇게 답합니다.
프롬프트 한 줄을 잘 쓰는 능력은 모든 직무에 기본 소양으로 흡수됐습니다. 별도 직책으로 둘 만큼의 희소 기술이 아니게 된 것입니다.

다시 말해, "프롬프트 엔지니어"라는 이름표는 옅어졌지만, 프롬프트를 잘 짜는 일은 오히려 모두에게 요구되는 기본기가 됐습니다. 그리고 더 큰 일은, 업계의 관심이 자연스럽게 다음 질문으로 옮겨갔다는 점입니다.

3. "무엇을 물어볼까"에서 "무엇을 같이 보여줄까"로

질문을 잘하는 것만으로 부족하다면 다음에 해야 할 일은 분명합니다. 모델에게 필요한 정보를 같이 챙겨주는 것입니다. 사내 위키, 어제 매출 데이터, 회사 정책 문서 같은 것들을 모델 옆에 두고 함께 보여주는 작업입니다. 업계는 이걸 "컨텍스트 엔지니어링"이라고 부르기 시작했습니다.

프롬프트 엔지니어링은 사라지지 않습니다. 더 큰 그림인 컨텍스트 엔지니어링의 한 조각으로 들어가 계속 작동합니다. 이어서 이 흐름이 어떻게 시작됐는지 한 번 따라가 보겠습니다.