과제를 내기 전에 AI 탐지기에 글을 넣어 봤다가 AI 작성률이 높게 나와 당황했다는 이야기가 꽤 많습니다. 내가 쓴 문장인데도 숫자가 높게 나오면, 도구가 틀린 건지 내 글이 이상한 건지부터 헷갈리죠.
많은 사람이 탐지기 숫자를 판정문처럼 받아들입니다. 그런데 이 도구를 만든 회사들이 공식 안내에 적어 둔 문장을 읽어 보면 이야기가 조금 달라요. 아라레가 자료를 모으다 가장 의외였던 건, 도구 회사 스스로가 결과를 최종 판정으로 쓰지 말라고 적어 두었다는 점이었습니다.
이 글은 탐지 결과를 어떻게 받아들이면 되는지, 과제나 업무에 AI를 쓸 때 무엇을 확인하면 되는지를 공식 문구 위주로 짚어 봅니다. 탐지기를 피해 가는 방법은 다루지 않습니다.
1. AI 탐지기가 AI라고 하면 정말 AI가 쓴 글일까
예시 화면 — 실제 서비스 화면이 아닙니다
AI 탐지기는 글을 읽고 누가 썼는지 알아내는 기계가 아닙니다. 문장이 얼마나 예측 가능한 흐름으로 이어지는지, 표현이 얼마나 고르게 반복되는지 같은 패턴을 보고 AI가 썼을 가능성을 숫자로 추정합니다. 그래서 결과 화면에 뜨는 건 사실 확인이 아니라 확률에 가까운 값이에요.
이 차이를 가장 분명하게 보여준 사례가 OpenAI입니다. 챗GPT를 만든 회사가 2023년 1월 AI 글 판별 도구를 내놓았는데, 공개한 수치가 AI 글 적중 26%, 사람 글 오판 9%였습니다. 그리고 2023년 7월 20일, 낮은 정확도를 이유로 이 도구를 내렸다.
AI를 가장 잘 아는 회사도 판별을 포기한 셈이죠.
흔히 이렇게 받아들인다
AI 작성률 80%가 나왔으니 이 글은 AI가 쓴 글이다. 숫자가 높을수록 증거가 확실하다.
도구 회사가 적어 둔 내용은 다르다
결과는 문장 패턴을 보고 낸 추정치다. 사람 글을 AI로, AI 글을 사람 글로 잘못 볼 수 있어 단독 근거로 쓰지 말라고 안내한다.
다른 탐지 도구들이 더 나아졌다고 홍보하는 건 사실이고, 실제로 정확도를 높이려는 노력도 계속되고 있습니다. 다만 어느 도구든 오탐 가능성을 0으로 만들었다고 밝힌 곳은 찾지 못했어요. 결과를 볼 때는 숫자 하나보다 그 숫자가 어떤 조건에서 나왔는지를 같이 보는 게 맞습니다.
2. AI 판별 도구 회사들은 스스로 어떤 한계를 적어 두었나
탐지 결과를 들고 고민할 때 가장 먼저 읽어 볼 곳은 도구 회사의 공식 안내입니다. 마케팅 문구 옆에 한계를 적어 둔 문장이 생각보다 또렷하게 들어 있어요. 해외에서 많이 쓰는 GPTZero와 Turnitin, 국내 대학에서 쓰는 카피킬러의 GPT킬러까지 모아 보면 아래와 같습니다.
Turnitin 안내는 교사에게 사람의 판단과 기관 규정을 함께 적용하라고 적고 있습니다. 탐지기는 대화를 시작할 계기로 쓰라는 뜻에 가깝다. GPTZero 역시 처벌의 근거로 쓰지 말라는 문장을 첫 화면에 두고 있어요.
국내 GPT킬러는 대학 표절검사 서비스와 함께 안내되는 경우가 많아 학생들이 가장 자주 만나는 이름입니다. 소개 페이지에서 정확도 한계 문구를 찾지 못했다고 해서 한계가 없다는 뜻은 아니니, 학교에서 결과를 받았다면 그 결과를 어떤 기준으로 활용하는지 학교 안내를 함께 확인하는 게 좋습니다.
3. 사람이 쓴 글도 AI 글 탐지에 걸린다
여기서 가장 많이 억울한 일이 생깁니다.
2023년 스탠퍼드 대학 연구진(Liang 외)이 학술지 Patterns에 발표한 연구가 있습니다. 비원어민이 쓴 토플(TOEFL) 영어 에세이 91편을 널리 쓰이는 GPT 탐지기 7종에 넣었더니, 절반이 넘는 에세이가 AI 글로 잘못 분류됐어요. 한 탐지기는 거의 98%를 AI로 판정했습니다. 반면 미국 중학교 2학년 학생들이 쓴 에세이는 90% 넘게 사람 글로 제대로 분류됐습니다.
연구진이 짚은 이유는 어휘의 폭입니다. 외국어로 글을 쓰면 익숙한 단어와 정형화된 문장을 주로 쓰게 되는데, 탐지기는 이런 예측 가능한 문장을 AI의 특징으로 읽는 경향이 있었다. 문장을 잘 못 써서가 아니라 조심스럽게 써서 걸린 셈이에요.
같은 논문은 탐지기가 간단한 조작에도 쉽게 흔들린다고 지적합니다. 한쪽에서는 사람을 AI로 보고, 다른 쪽에서는 AI 글을 놓칠 수 있다는 뜻이라 결과 하나로 결론을 내리기 어려운 이유가 여기서 다시 확인됩니다.
오탐이 잘 생기는 글의 공통점
외국어로 쓴 글처럼 어휘 폭이 좁은 글, 정해진 형식을 따르는 짧은 글, 표·목록 위주 문서는 도구 회사 스스로 판정이 흔들린다고 적어 둔 영역입니다. 이런 글에서 나온 높은 수치는 한 번 더 의심하고 봐야 합니다.한국어 글이라고 이 문제에서 자유로운지는 공개된 연구로 확인하지 못했습니다. 다만 자기소개서처럼 틀이 정해진 글, 보고서처럼 정형화된 문장이 많은 글은 누가 써도 문장이 비슷해지기 쉽죠. 이런 글에서 높은 수치가 나왔다면 당황하기 전에 작성 과정을 보여줄 자료가 있는지부터 떠올려 보세요.
4. AI를 쓴 글은 구글 검색에서 불이익을 받을까
블로그나 회사 홈페이지에 글을 올리는 사람이라면 검색 쪽도 궁금할 거예요. Google 검색 센터는 2023년 2월 블로그 글에서, 콘텐츠를 어떤 방식으로 만들었는지보다 품질이 우수한지에 보상을 준다고 밝혔습니다. AI나 자동화를 올바르게 쓰는 건 가이드라인 위반이 아니라는 문답도 함께 실려 있어요.
선은 따로 있습니다. 검색 순위를 조작하는 것이 주목적인 자동 생성 콘텐츠는 스팸 정책 위반이라고 같은 글에 적혀 있다. 결국 구글이 보는 건 AI를 썼느냐가 아니라, 그 글이 읽는 사람에게 쓸모가 있느냐입니다.
그러니 검색 노출 때문에 AI 탐지기 점수를 낮추려고 애쓸 필요는 크지 않아요. 경험과 확인한 근거를 더하고, 틀린 내용을 걸러내는 쪽이 같은 시간을 훨씬 알차게 쓰는 방법입니다.
5. AI 기본법 표시 의무는 개인 이용자에게도 걸릴까
2026년 1월 22일부터 시행된 인공지능기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)에는 생성형 AI 결과물에 AI로 만들었다는 표시를 하도록 한 조항이 있습니다. 이 소식이 알려지면서 AI로 쓴 과제나 글에도 표시를 안 하면 법 위반이냐는 질문이 늘었어요.
대한민국 정책브리핑의 안내는 이 부분을 나눠서 설명합니다. 생성형 AI 서비스를 제공하고 운영하는 인공지능 사업자에게는 표시 의무가 있고, 서비스를 활용해 콘텐츠를 직접 만드는 이용자에게는 표시 의무가 없다는 내용입니다. 챗GPT나 제미나이로 영상과 이미지를 만들어 쓰는 방송사·언론사도 표시 의무 대상이 아니라는 예시까지 들고 있어요.
생성형 AI 서비스를 제공·운영하는 사업자라면 → 결과물이 AI로 만들어졌다는 표시 의무 대상
챗GPT·제미나이 같은 서비스를 써서 콘텐츠를 만드는 이용자라면 → 정책브리핑 안내 기준으로 표시 의무 없음
학교·회사·공모전에 제출하는 사람이라면 → 법과 별개로 제출처 규정이 정한 공개 기준을 따른다
여기서 헷갈리기 쉬운 게 있습니다. 법에 표시 의무가 없다는 것과, 제출처가 공개를 요구하지 않는다는 것은 다른 이야기예요. 학교의 학칙이나 회사의 보안·보고 규정은 법과 별개로 움직입니다. 법 조문 원문이 궁금하면 국가법령정보센터에서 법령 이름으로 찾아볼 수 있고, 세부 기준은 시행령과 정부 안내가 바뀔 수 있으니 공식 발표를 함께 확인하는 게 안전합니다.
6. 탐지기 우회보다 과제·업무에서 먼저 챙길 3가지
탐지 점수를 낮춰 준다는 이른바 휴머나이저 도구나 문장 바꾸기 요령이 많이 돌아다닙니다. 이 글에서 그 방법을 소개하지 않는 이유는 분명해요. 점수를 낮추려는 행동은 AI를 쓴 사실을 감추는 쪽으로 읽히고, 제출처 규정에 따라서는 AI 사용 자체보다 사용 사실을 숨긴 쪽이 더 무겁게 다뤄질 수 있습니다.
게다가 탐지기는 앞에서 본 것처럼 결과가 흔들리는 도구입니다. 흔들리는 숫자를 맞추느라 문장을 비트는 동안 글의 질은 오히려 떨어지기 쉽죠.
대신 설명할 수 있는 상태를 만들어 두는 편이 훨씬 든든합니다.
- 사용 범위 확인 — 강의계획서·과제 공지·사내 AI 사용 지침에서 아이디어 구상, 자료 요약, 문장 다듬기 중 어디까지 허용되는지 본다
- 사용 사실 밝히기 — 어떤 도구를 어느 단계에 썼는지 한두 줄로 적는다. 제출처가 정한 양식이 있으면 그 양식을 따른다
- 작성 과정 기록 남기기 — 초안 파일, 문서의 버전 기록, 참고한 자료 목록, AI와 나눈 대화를 지우지 않고 보관한다
세 가지 중 가장 늦게 챙기기 쉬운 건 기록입니다. 탐지 결과를 두고 이야기할 자리가 생겼을 때, 초안에서 완성본까지 어떻게 바뀌었는지를 보여줄 수 있으면 숫자보다 훨씬 설득력 있는 근거가 돼요.
그래서 지금 할 일은 하나입니다. 제출하기 전에 그 과제나 업무의 AI 사용 기준을 확인하고, 작성 과정 기록을 지우지 말고 남겨 두세요. AI 기본법이 나에게 어떤 의무를 거는지 궁금하면 정책브리핑에서 인공지능기본법 안내 기사를 찾아 읽어 보면 됩니다.
자주 묻는 질문
탐지기 숫자는 대화를 시작하는 신호 정도로 두고, 내 글이 어떻게 만들어졌는지 설명할 준비를 해 두면 결과가 어떻게 나와도 덜 흔들립니다.
AI 탐지기가 내놓는 건 추정이고, 초안 파일 하나가 그보다 많은 걸 말해 줍니다.
'🤔AI 저작권·약관' 카테고리의 다른 글
| AI 구독 해지한 뒤에도 결과물을 계속 쓰려면 볼 조항 두 곳 (0) | 2026.10.04 |
|---|---|
| AI 이미지 상업적 이용, 블로그와 수익 글에 쓰기 전에 약관에서 볼 곳 (0) | 2026.09.29 |
| AI 나이 제한, 아이 계정으로 그냥 쓰게 해도 되는 줄 알았는데 (0) | 2026.09.18 |
| AI 영상 유튜브 수익창출 어디까지 허용될까 (0) | 2026.09.15 |
| AI에 회사 자료 넣어도 될까? 챗GPT·제미나이·클로드 학습 설정 확인법 (0) | 2026.09.03 |
