ChatGPT를 처음 열었을 때 아마 이렇게 쳤을 것이다. “마케팅 전략 알려줘”, “엑셀 VLOOKUP 오류 해결”, “자기소개서 잘 쓰는 법”. 그리고 돌아온 건 어디서 본 듯한 답변. 항목이 다섯 개, 소제목이 가지런히 붙은 교과서 같은 구성. ‘이거 네이버 검색이랑 다를 게 없잖아’는 생각이 드는 순간 창을 닫게 된다.
이 경험이 하루에도 몇 번 반복되면 결국 “ChatGPT는 별로다”라는 결론이 남는다. 그런데 그 결론은 도구가 아니라 사용 방식에서 나온 것이다. ChatGPT는 검색엔진처럼 작동하지 않는다. 그걸 모르고 쓰면 아무리 많이 써도 같은 실망이 반복된다.
검색 습관을 그대로 가져오면 생기는 일
구글이나 네이버에서 잘 통하는 방식이 있다. 짧고 정확한 키워드다. “자소서 예시”, “파이썬 설치 오류”, “내일 서울 날씨”. 검색엔진은 그 키워드로 이미 존재하는 웹페이지를 찾아준다. 키워드가 구체적일수록 원하는 페이지에 빠르게 도달한다. 그래서 우리는 짧게 치는 습관이 몸에 배어 있다.
ChatGPT에 똑같이 하면 어떻게 되나. 짧은 단어 몇 개가 들어오면 AI는 내 상황을 알 방법이 없다. 신입인지 경력자인지, 어느 업종인지, 분량은 얼마나 필요한지 — 단서가 하나도 없다. 그러면 AI는 가장 안전한 선택을 한다. 모든 상황에 어느 정도 해당할 수 있는 일반론을 쏟아내는 것이다.
검색엔진은 답을 찾는다. ChatGPT는 답을 만든다. 이 두 가지는 구조가 다르다. 그 차이를 이해하지 못하면 ChatGPT에서 항상 검색엔진보다 못한 결과를 받는다.
ChatGPT가 실제로 하는 일 — 찾기가 아니라 만들기
ChatGPT의 작동 방식은 하나로 요약된다. 지금까지 나눈 대화 내용을 읽고, 그다음에 올 말이 무엇인지 예측해서 새로운 텍스트를 만들어낸다. 웹에서 정보를 가져오는 것이 아니라, 입력된 맥락을 바탕으로 생성한다.
여기서 두 가지 원칙이 나온다. 첫째, 내가 준 정보가 많을수록 예측이 정확해진다. 둘째, 대화를 이어갈수록 맥락이 쌓여 답이 점점 구체화된다. 처음 한 번 물어보고 끝내는 방식은 이 구조와 맞지 않는다.
구글에서 답이 안 나오면 새 탭을 열고 키워드를 바꿔 재검색한다. ChatGPT에서 답이 부족하면 같은 창 안에서 대화를 이어가면 된다. “이 부분을 더 자세히”, “내 상황은 이렇게 달라”, “다른 방식으로 써줘”. 검색 탭을 새로 여는 것이 아니라, 대화로 파고드는 것이 이 도구의 사용법이다.
초보자가 가장 많이 빠지는 착각 다섯 가지
ChatGPT를 처음 쓰는 사람이 공통적으로 겪는 패턴이 있다. 이 착각들을 한 번 짚어두면 같은 실수를 반복하지 않는다.
| 흔한 착각 | 실제 |
|---|---|
| 짧게 물어야 AI가 잘 이해한다 | 배경과 조건을 길게 줄수록 답이 구체적으로 바뀐다 |
| 오늘 뉴스도 알고 있다 | 학습 데이터에 종료 시점이 있다. 실시간 웹 검색은 별도 기능으로 작동한다(공식 페이지 기준 확인 필요) |
| 첫 번째 답변이 최선이다 | 첫 답은 시작점이다. 대화를 이어가면 답이 정교해진다 |
| 틀린 답을 줬으니 고장난 것이다 | 확률적으로 답을 만들기 때문에 틀릴 수 있다. 중요한 내용은 반드시 직접 검증한다 |
| 한 번 나쁜 경험 = 못 쓰는 도구 | 도구가 아니라 접근법의 문제다. 방식을 바꾸면 결과가 달라진다 |
네 번째 착각 — “그럴듯한데 틀렸다” — 는 단순한 실수가 아니라 AI의 구조적 특성이다. 왜 이런 일이 생기고 어떻게 대응해야 하는지는 다음 편에서 집중적으로 다룬다.
지금 당장 결과가 달라지는 요청 방식
개념을 알았으면 바로 써볼 차례다. 아래 두 가지 프롬프트를 복사해서 지금 하는 업무에 그대로 붙여넣으면 된다. 첫 번째는 처음 질문할 때, 두 번째는 답변이 부족하게 느껴질 때 쓴다.
나는 [상황 또는 역할]이야.
지금 [해야 할 일]을 해야 하는데 [막히는 부분]이 있어.
조건:
- 분량: [예: 3문장 이내 / A4 반 장 분량]
- 형식: [예: 번호 목록 / 이메일 형식 / 표]
- 말투: [예: 격식체 / 친근하게]
이 조건에 맞춰 [원하는 결과물]을 만들어줘.
─── 사용 예시 ───
나는 입사 3개월 차 신입 직원이야.
오늘 팀장님께 이번 주 업무 진행 상황을 5분 안에 구두로 보고해야 하는데,
핵심만 짧게 정리하는 게 어려워.
조건:
- 분량: 4문장 이내
- 형식: 완료 사항 → 진행 중 → 다음 주 계획 순서
- 말투: 격식체
이번 주 진행한 업무: [여기에 내용 입력]
이 내용을 보고 형식에 맞게 정리해줘.
방금 답변에서 [마음에 드는 부분]은 좋아.
그런데 [아쉬운 부분]이 내 상황과 맞지 않아.
내 실제 상황은 이렇게 달라:
- [조건 1]
- [조건 2]
[특정 부분]만 이 조건을 반영해서 다시 써줘.
─── 사용 예시 ───
방금 준 보고 멘트에서 결과를 요약한 부분은 좋아.
그런데 "성공적으로 완료했습니다"라는 표현이 너무 강하게 느껴져.
우리 팀 분위기는 성과를 크게 드러내기보다 조심스럽게 전달하는 편이거든.
같은 내용인데 더 차분하고 겸손한 말투로 마지막 문장만 다시 써줘.
Before → “자기소개서 잘 쓰는 법”
결과: 성장 배경·직무 역량·포부의 3단 구성. 어느 지원자에게나 해당하는 일반 프레임.
After → “나는 B2B 영업을 3년 했고 이번에 고객 성공팀으로 이직 지원 중이야. 영업 경험을 강점으로 살리되 CS에 맞는 태도를 보여주는 첫 단락을 써줘. 400자 이내, 경어체.”
결과: 내 경력과 직군에 맞게 조정된 구체적인 초안. 수정 없이 바로 편집해서 쓸 수 있는 수준.
자주 묻는 질문
Q. ChatGPT를 처음 쓰는데 어디서부터 시작해야 하나요?
지금 반복하는 업무 하나를 골라 위의 맥락 주기 템플릿에 넣어보는 것부터 시작하면 된다. 처음부터 완벽한 프롬프트를 쓸 필요 없다. 첫 답변이 부족하면 “이 부분을 더 구체적으로”로 이어가는 경험을 두세 번 반복하면 자연스럽게 감이 잡힌다.
Q. ChatGPT와 구글은 각각 언제 쓰는 게 맞나요?
실시간 정보가 필요할 때는 구글이 적합하다. 오늘 날씨, 최신 법 개정 내용, 특정 가게 영업시간처럼 현재 상태를 확인해야 하는 경우다. 초안 작성, 내용 정리, 아이디어 도출, 설명 듣기처럼 맥락을 바탕으로 뭔가를 만들어야 할 때는 ChatGPT가 강하다. 둘은 대체 관계가 아니라 병행해서 쓰는 도구다.
Q. 한국어로 물어봐도 되나요, 영어가 더 좋은가요?
한국어로 질문해도 충분한 답변이 나온다. 영어 학습 데이터 양이 더 많긴 하지만, 일반 업무용 질문에서 체감 차이는 크지 않다. 한국어로 조건과 맥락을 정확하게 전달하는 것이, 영어에 익숙하지 않은 상태로 어색하게 쓰는 것보다 결과가 좋다.
이 한 가지만 바꿔도 달라진다
ChatGPT를 더 잘 쓰기 위해 어떤 설치나 설정도 필요 없다. 질문할 때 내 상황, 목적, 원하는 형식을 한 줄씩 더 써주는 것. 그리고 답이 부족하면 대화를 끊지 않고 이어가는 것. 그게 전부다.
검색창에 키워드를 던지는 방식에서 벗어나, 사정을 아는 대화 상대에게 맥락을 주며 부탁하는 방식으로 바꾸는 것. 이 전환이 ChatGPT 활용의 첫 번째 습관이다.
그런데 맥락을 충분히 줬는데도 AI가 틀릴 수 있다. 그것도 자신 있는 말투로, 그럴듯하게. 이게 왜 생기고 어떻게 걸러야 하는지는 다음 편 — AI가 그럴듯하게 틀리는 이유 — 환각과 한계 이해하기에서 다룬다.