챗GPT가 딴소리할 때, 처음부터 다시 쓰지 말고 한 문장으로 잡는 법
목차를 다섯 개로 잡아달라고 했는데 여덟 개가 오고, 문장을 줄여달라고 했더니 표가 딸려 옵니다. 이럴 때 손이 먼저 가는 곳은 프롬프트 창을 비우고 처음부터 다시 쓰는 쪽입니다.
그런데 다시 쓴 프롬프트가 길어질수록 답이 더 멀리 가는 일이 반복됐습니다. 이유를 찾다가 OpenAI가 공개한 프롬프트 가이드에서 설명을 봤고, 그 뒤로는 긴 프롬프트를 다시 쓰는 대신 어긋난 지점 하나만 짚는 한 문장을 보냅니다. 이 글에는 그 한 문장을 어떻게 쓰는지, 그래도 안 될 때 어디를 손봐야 하는지를 순서대로 담았습니다.
1. 다시 길게 쓰면 왜 더 어긋날까
OpenAI가 개발자 문서에 올린 프롬프트 가이드에는 이런 대목이 있습니다. 모순되거나 모호한 지시가 섞인 프롬프트는 다른 모델보다 최신 모델에 더 해로울 수 있고, 모델이 그 모순을 어떻게든 맞추느라 추론을 소모한다는 설명입니다.
여기서 놓치기 쉬운 게 하나 있습니다. 프롬프트를 새로 써서 보내도 앞에 보낸 지시는 그 대화 안에 그대로 남아 있다는 점입니다. 지운 건 내 화면 속 생각이지 대화 기록이 아닙니다. 그래서 새 프롬프트가 길수록 앞 지시와 부딪히는 면이 넓어지고, 모델은 둘을 절충한 어중간한 답을 냅니다.
2. 딴소리는 세 갈래에서 나온다
한 문장으로 잡으려면 먼저 어느 갈래인지부터 알아야 합니다. 딴소리라고 뭉뚱그려 부르지만, 손볼 곳은 갈래마다 다릅니다.
앞의 둘은 이번 메시지 한 줄로 끝납니다. 세 번째만 설정을 열어야 하고, 그건 5번에서 다룹니다.
3. 바로 붙여 쓰는 교정 문장 5개
아래 다섯 개면 웬만한 상황은 덮입니다. 공통점은 고칠 지점을 하나만 지목하고 나머지는 건드리지 않는다는 것입니다. 두 개를 한꺼번에 고치라고 하면 다시 절충된 답이 옵니다.
네 번째 문장이 특히 자주 쓰입니다. 개수와 형식은 사람이 말하지 않으면 모델이 알아서 정하는 영역이라, 숫자를 넣어 못 박는 것만으로 답의 절반이 정리됩니다.
같은 대화에서 위 문장 하나만 덧붙였을 때 답이 어떻게 달라지는지도 함께 남깁니다.
4. 여기서 많이 틀린다, 고친 프롬프트를 통째로 다시 붙여넣기
교정 문장을 쓸 줄 알게 된 뒤에도 습관이 남습니다. 한 줄만 보내면 될 자리에 원래 프롬프트를 손봐서 통째로 다시 붙여넣는 것입니다. 겉보기에는 더 꼼꼼해 보이지만 결과는 반대로 갑니다.
같은 요청이 두 번 들어간 대화가 되기 때문입니다. 모델 입장에서는 어느 쪽을 따를지 정해주지 않은 셈이고, 앞서 본 것처럼 그 판단에 자원을 씁니다. 결과가 나빠지는 건 물론이고 답도 늦어집니다.
고쳐 쓴 프롬프트는 새 대화에서 쓴다
프롬프트 자체를 손봤다면 그건 다음 작업의 출발점이지 이번 대화에 덧붙일 것이 아닙니다. 이번 대화는 한 줄로 마무리하고, 고친 프롬프트는 새 대화를 열어 첫 메시지로 넣는 편이 깔끔합니다.5. 한 문장으로 안 될 때 확인할 설정 세 곳
새 대화를 열었는데도 시킨 적 없는 말투나 취향이 계속 따라온다면 이번 메시지 문제가 아닙니다. 세 번째 갈래, 설정 쪽입니다.
✓ 설정 → 개인 맞춤 → 메모리에서 저장된 기억 목록을 연다. 안 쓰는 항목은 개별 삭제할 수 있다
✓ 같은 화면의 대화 기록 참조를 확인한다. 이게 켜져 있으면 지난 대화 내용이 새 대화에도 반영된다
✓ 이번 작업만 깨끗하게 하고 싶다면 임시 채팅을 쓴다. 기존 기억을 쓰지도, 새 기억을 만들지도 않는다
메뉴 이름은 앱 버전에 따라 조금씩 다르게 보일 수 있습니다. 헷갈릴 때는 OpenAI 도움말 센터에서 메모리 항목을 찾아보면 현재 화면 기준으로 안내가 나옵니다.
6. 매번 같은 문제라면 맞춤 설정으로 옮긴다
"표 없이 답해주세요"를 매번 치고 있다면 그건 교정할 일이 아니라 기본값으로 옮길 일입니다. 설정 → 개인 맞춤에 있는 맞춤 설정 칸에 적어두면 이후 대화에 계속 적용됩니다. OpenAI 안내에 따르면 이 설정은 저장 즉시 반영되고 이미 진행 중인 대화에도 적용되지만, 이전에 주고받은 내용까지 소급해 바뀌지는 않습니다.
한 번에 다 넣으려 하지 않아도 됩니다. 매번 반복해서 치고 있는 문장이 생길 때마다 하나씩 옮기면, 두어 달 지나면 그 칸이 자기 작업 방식이 되어 있습니다.
자주 묻는 질문
끝으로 한 가지만
다음에 답이 엇나가면 프롬프트 창을 비우기 전에 어긋난 부분 하나만 짚는 문장 한 줄을 먼저 보내보세요. 그걸로도 같은 문제가 반복되면 그때 챗GPT 설정에서 메모리와 맞춤 설정을 확인하면 됩니다. 순서가 반대면 엉뚱한 곳을 손보게 됩니다.
긴 프롬프트를 다시 쓰는 대신 한 줄을 고르는 데 익숙해지면, 그 뒤로는 대화가 훨씬 짧아집니다.
핵심 포인트
✓ 프롬프트를 새로 써도 앞 지시는 대화에 남아 있어 서로 부딪힌다
✓ 고칠 지점을 하나만 지목하는 한 문장이 긴 재작성보다 정확하다
✓ 고쳐 쓴 프롬프트는 이번 대화에 덧붙이지 말고 새 대화 첫 메시지로
✓ 새 대화에서도 반복되면 저장된 기억, 대화 기록 참조, 맞춤 설정을 본다