최근 법조계와 공공기관을 뒤흔들고 있는 'AI 환각(Hallucination)' 사태는 더 이상 먼 나라 이야기가 아닙니다.
전문가인 노무사와 경찰마저 AI가 만들어낸 가짜 판례에 속아 넘어가면서, 실무 현장의 신뢰도가 크게 위협받고 있습니다.
검색을 통해 확인한 더 자세한 사건 내막과 함께, 인사/노무 전문가로서 주의해야 할 점을 정리해 드립니다. 🔍
⚖️ "존재하지 않는 판례가 10건이나?" 울산 노무사 사건의 전말
지난 9월, 울산지방노동위원회에 부당해고 구제신청을 낸 전상우 씨는 사측 노무사가 제출한 답변서를 보고 경악했습니다.
인용된 판례 10건이 전부 가짜였기 때문입니다.
- 사건의 발단: 노무사는 AI를 활용해 판례를 검색하고 이를 답변서에 그대로 인용했습니다.
- 들통난 계기: 전 씨가 대법원 판례 검색 시스템에서 해당 번호들을 대조해 본 결과, 단 한 건도 원문을 찾을 수 없었습니다. 법원 행정처로부터 "챗GPT 등이 만든 가짜 사건"이라는 확인을 받고서야 노무사는 사실을 시인했습니다.
- 노무사의 변명: "사실관계를 조작한 것은 아니며, AI가 찾아준 판례를 검증 없이 썼을 뿐 고의는 아니다"라고 주장하고 있으나, 고용노동부에 노무사법 위반으로 민원이 제기된 상태입니다.
🚔 경찰도 예외는 아니다? 용인동부경찰서 '가짜 법리' 사건
이런 일은 노동위원회뿐만 아니라 경찰 수사 현장에서도 발생했습니다.
- 용인동부서 사례: 한 경찰관이 아동복지법 위반 사건의 '불송치 결정문'을 작성하며 챗GPT를 사용했습니다.
- 가짜 법리 인용: AI는 "일시적 언행만으로는 해를 끼친다고 보기 어렵다"는 식의 대법원 판례를 그럴듯하게 만들어냈고, 담당 경찰관은 이를 검증 없이 결정문에 포함해 사건을 종결지으려 했습니다.
- 국정감사 도마 위: 지난 10월 국정감사에서 "경찰이 존재하지도 않는 법리로 사건을 종결했다"는 매서운 질타를 받으며 공권력의 AI 활용 가이드라인 부재가 큰 문제로 떠올랐습니다.
🧠 왜 이런 일이 벌어질까? 'AI 환각'의 원인
전문가들은 생성형 AI(ChatGPT, Gemini 등)의 설계 목적을 이해해야 한다고 경고합니다.
- 유려한 문장 생성이 우선: AI는 사실 여부를 검토하기보다, 앞뒤 문맥에 맞는 가장 그럴듯한 답변을 만드는 데 최적화되어 있습니다.
- 데이터의 공백: 법률 판례는 저작권이나 보안 문제로 최신 데이터가 AI 학습에 완벽히 반영되지 않는 경우가 많습니다. 이때 AI는 부족한 정보를 '그럴싸한 거짓말'로 채우게 됩니다.
- 전문가의 안일함: 바쁜 실무 속에서 AI를 '검색 도구'로 착각하고, 답변 내용을 재검증하지 않는 태도가 화를 키우고 있습니다.
📋 인사/노무 담당자가 꼭 기억해야 할 3계명
특히 재무나 HR 업무를 담당하시는 분들은 보고서나 답변서 작성 시 AI를 활용할 때 다음 사항을 반드시 지켜야 합니다.
- 판례 번호는 반드시 직접 조회: AI가 준 판례 번호는 반드시 [대법원 종합법률정보] 사이트에서 원문을 대조하세요.
- AI 활용 여부 명기 검토: 현재 정부는 AI 생성 문서를 사용할 경우 이를 표기하도록 하는 '인공지능기본법' 시행령을 준비 중입니다. 사전에 내부 가이드라인을 세우는 것이 안전합니다.
- 최종 책임은 '사람'에게: AI가 쓴 글에 법적 문제가 발생할 경우, "AI가 그렇게 알려줬다"는 변명은 법정에서 통하지 않습니다. 모든 법적 책임은 제출자 본인에게 있습니다.
🏁 마치며
AI는 훌륭한 비서가 될 수 있지만, 결코 책임까지 대신 지는 파트너는 아닙니다.
편리함 뒤에 숨은 '환각'의 위험성을 인지하고, 중요한 문서일수록 사람의 눈으로 한 번 더 확인하는 과정이 필요합니다.
이 내용이 유익하셨다면 공감과 댓글 부탁드립니다! 여러분은 실무에서 AI를 어떻게 검증하고 계신가요? 😊
#AI환각 #인공지능환각 #가짜판례 #노무사AI #경찰AI #챗GPT주의사항 #법률AI #인사노무실무 #HR테크 #디지털윤리 #2025이슈
'HR 外' 카테고리의 다른 글
| 48회 ADsP 시험후기 – 공부부터 시험장까지 리얼 후기 (0) | 2026.02.08 |
|---|---|
| 독자 AI 파운데이션 모델 1차 평가 결과, 인사(HR)가 주목해야 할 포인트 (0) | 2026.01.15 |
| 팀이 주도적으로 움직이지 않는 진짜 원인, 리더의 말습관 (0) | 2025.12.24 |
| 성공을 성공이라 부르는 순간, 진부해진다 (6) | 2025.07.21 |
| “이건 뭐야?” 하지 않게 만드는 비법— 자산 라벨링, 어렵지 않아요! (2) | 2025.07.10 |
