최근 의뢰인으로부터 판례를 찾고 싶은데 검색으로는 찾기 어렵다면서 판례를 찾아줄 수 있냐는 부탁을 받은 일이 있었습니다. 판례번호를 전달받아 제가 알고 있는 모든 판례 검색 사이트에서 검색을 해보았지만 찾을 수 없었고, 답답한 마음에 동료 변호사에게 도움을 청하니 “그거 AI가 만들어낸 판례 아니에요?”라는 답이 돌아왔습니다. 의뢰인에게 다시 확인해보니, AI가 특정 판례를 인용하여 답변을 해주었는데 막상 해당 판례를 직접 확인하려고 해도 찾을 수가 없었다는 것입니다. 결국 저는 AI가 존재하지 않는 판례를 만들어내 답변을 한 것 같다는 안타까운 소식을 전할 수밖에 없었습니다.

위 사건이 있고 난 후 며칠 동안이나 고민했던 사안을 AI에 직접 질의해보니, 제가 그토록 찾고 싶었던 판례를 인용하여 답을 해주더군요. 반신반의하는 마음으로 판례 검색 사이트에서 판례번호를 검색했고, 실제 존재하는 판례인 것으로 확인되어 기쁜 마음으로 클릭을 했습니다. 하지만 결국 검색된 판례는 AI가 인용한 내용과는 전혀 관련이 없는 다른 사건의 판례였습니다.

이처럼 실제 사실이 아니거나 없는 정보를 사실인 것처럼 AI가 답변하는 현상을 ‘환각(hallucination)’이라고 합니다. AI에게 법률 관련 질의를 할 경우 실제로 존재하지 않는 판례를 마치 존재하는 것처럼 꾸며내 답변하거나, 실제 존재하는 판례라도 그 취지나 뉘앙스를 잘못 인용해 전혀 다른 결론에 이르는 경우를 자주 발견할 수 있습니다. 만약 AI가 만들어낸 가짜 판례를 법원에 제출하는 준비서면이나 의견서에 기재할 경우 어떤 문제가 발생할 수 있을까요?

먼저 미국에서는 최근 변호사가 존재하지 않는 판례를 인용하거나 제출하는 일이 지속적으로 발생하고 있고, 이에 따라 가짜 판례를 인용한 유타주의 한 변호사에게는 유타의 법률재단에 1,000달러를 기부하라는 명령이 내려졌다고 합니다. 한국에서도 최근 아동학대 사건에서 수사기관이 실제 존재하지 않는 판례를 인용하여 아동학대 혐의가 인정되지 않는다면서 불송치 결정을 내린 사건이 보도된 바 있습니다. 형사 재판에서도 변호사가 실제 존재하지 않는 판례를 인용하여 의견서를 제출했다가, 이후 해당 판례에 관한 주장을 철회하는 상황까지 발생했다고 합니다.

법률전문가인 변호사나 수사기관에서도 AI 환각으로 인한 실수가 지속적으로 발생하고 있는 만큼, 당사자자가 직접 소송을 수행하면서 AI가 작성한 의견이 검수 없이 그대로 법원에 제출되는 상황을 앞으로는 더욱 자주 마주하게 될 것 같습니다. 변호사가 아닌 당사자가 직접 소송을 수행하면서 가짜 판례를 인용할 경우, 환각 현상에 따른 착각에 기인한 것인 한 그 자체로 별도의 법적 문제가 발생할 가능성은 낮습니다. 그러나 민사소송법 제1조 제2항에 따라 모든 소송 수행 당사자들은 신의에 따라 성실하게 소송을 수행할 의무를 부담하는데, 법률적인 이슈에 관하여 AI의 도움을 받는 것 자체는 문제되지 않지만, 적어도 AI의 의견이 적절한지 교차 검증하려는 노력이 필요합니다.

AI를 통한 정보 수집이 일상화된 지금 법률 문제 또한 AI를 활용하지 않을 이유가 없습니다. 실제로 AI는 문서 요약이나 판례 검색 등에서는 사람이 낼 수 없는 효율을 보여주기도 합니다. 다만, 소송 사건이 아니라 법무 검토에 AI를 활용하는 경우에도 환각 현상이 발생할 수 있고, 이로 인해 잘못된 의사결정이 내려질 위험도 존재합니다. 기업이 맞닥뜨리는 다양한 법률 이슈는 그 당부를 판단할 선례가 없거나 아직 법령으로 명확히 규율되지 않는 새로운 영역에 속하는 경우가 많습니다. 따라서 법무 검토에 AI를 활용할 때에는 AI가 제시한 근거의 적절성을 반드시 확인하고, 필요하다면 전문가의 검토를 거치시기 바랍니다.

최앤리 법률사무소 전한슬 변호사