판정 이유
실제 고객 명단이 들어가는 일이라 실데이터·개인정보 관문에 걸리고, 메일이 회사 밖으로 나가므로 외부 공개 관문에도 걸립니다. 기본 판정은 이관입니다. AI가 ‘문제없습니다’라고 해도 리더가 결재로 넘길 일이 아닙니다. AI에게는 진행을 멈추고 먼저 묻게 하시고, 리더께서는 혼자 진행하지 마시고 전문가 확인을 받으세요. 사내 개발 담당이나 기존 협력사에 맡기셔도 되고, 맘소프트 중간점검·이관 상담도 있습니다.
놓치기 쉬운 것
- ‘괜찮지?’, ‘제가 만든 건데 어때요?’처럼 원하는 답이 보이게 묻기.
AI에게 그대로 줄 문장
이대로 쓰면 어디서 문제가 생길 수 있어?
- 칭찬이 길면 잘된 것으로 여기기. 칭찬이 길다고 근거가 되지는 않습니다. 근거는 직접 눌러 본 화면과 시험해 본 결과입니다.
- 같은 대화에서 ‘정말 괜찮아?’만 되묻기. 되물으면 말을 바꾸거나 더 맞춰 주기도 해서 오히려 더 헷갈립니다. 근거를 달라고 하세요.
- 고객 명단·로그인·돈이 나가는 설정이 걸린 일을 AI의 ‘문제없습니다’만 듣고 진행하기. 이런 일은 결재로 넘길 일이 아니라 멈춤 관문에서 멈출 일입니다.
앞으로도 적용할 지침 문장
같은 일이 되풀이되지 않게, AI의 지침 칸(대화를 시작할 때마다 AI가 먼저 읽는 설정 칸)에 붙여 두세요. 붙이는 곳은 ‘어디에 붙이나요?’에 있습니다.
AI에게 그대로 줄 문장
듣기 좋은 말 말고, 안 된 것과 그 근거부터 보고해 줘.
일러두기 팩 04번과 같은 문장입니다. 팩을 통째로 붙여 두셨다면 다시 붙이지 않으셔도 됩니다.
이럴 때 생깁니다여러 상담을 바탕으로 재구성한 장면
고객 명단을 넣으면 안내 메일이 자동으로 나가는 기능을 AI와 만들었습니다. ‘이대로 써도 괜찮지?’라고 묻자 ‘훌륭한 구성입니다. 바로 쓰셔도 됩니다’라는 답이 돌아옵니다. 안 된 것이나 걱정되는 곳은 한 줄도 없습니다. 실제 명단으로 시험해 본 적은 아직 없습니다. (특정 회사의 사례가 아닙니다.)
왜 그런가AI는 묻는 사람의 생각에 맞장구치는 쪽으로 기우는 경향이 있습니다.
AI는 사람들이 좋게 평가한 답을 더 하도록 훈련됩니다. 그런데 사람은 자기 생각에 맞는 답을 더 좋게 평가하는 경향이 있어, 이것이 원인 중 하나로 꼽힙니다. AI 회사들도 이 문제를 알고 줄이려 하지만 아직 없어지지는 않았습니다. ‘괜찮지?’처럼 원하는 답이 보이는 질문이나 ‘정말?’ 하고 되묻는 말에는 더 쉽게 맞춰 줍니다. 그래서 칭찬이 아니라 안 된 것과 근거부터 달라고 해야 합니다.
참고 자료(영문): OpenAI 2025년, 맞장구 문제로 업데이트를 되돌린 사례 · Anthropic 2023년, 언어 모델의 맞장구 경향 연구
도구별 설정 안내Claude와 ChatGPT에서 설정하는 법
Claude에서는: 전송 버튼 옆 모델 이름을 누르고 ‘노력’(Effort, 생각의 깊이)에서 단계를 고를 수 있습니다. 메뉴에 ‘기본값’으로 표시된 권장 단계보다 높은 단계(모델에 따라 ‘매우 높음’, ‘최대’)를 고르면 더 깊이 따져 봅니다. 깊이를 올려도 듣기 좋은 말이 사라진다는 보장은 없으니, 지침 문장과 함께 쓰세요.
ChatGPT에서는: 모델 선택 메뉴의 생각 수준 조절 막대(영어 화면의 ‘Thinking’)에서 높은 단계를 직접 고르세요. 고를 수 있는 단계는 요금제에 따라 다르고, 이 조절 막대는 순차 적용 중이라 아직 안 보일 수 있습니다. Plus·Pro에서는 ‘깊게 생각해’라고 말해도 수준이 저절로 바뀌지 않는다고 안내합니다. 무료·Go 요금제에서는 ‘Think’를 고릅니다.
(2026년 10월 4일 각 사 도움말 기준으로 확인했습니다. 메뉴 이름은 한국어 화면 기준이고, 한국어 이름을 확인하지 못한 것은 영어 이름을 함께 적었습니다. 이름은 바뀔 수 있습니다.)
확인한 도움말
보고 검토
AI와 나눈 대화와 받으신 보고를 메일이나 카카오톡으로 보내 주시면, 맘소프트 대표가 읽고 판정 메모로 답합니다.