딜로이트, AI 활용 보고서 오류 인정… 정부에 일부 환불 결정

딜로이트가 2024년 12월 연방정부로부터 44만 달러를 받고 작성한 보고서에 인공지능(AI)을 활용했으며, 이 과정에서 다수의 오류가 발생한 사실을 인정하고 일부 금액을 환불하기로 결정했습니다. 해당 보고서는 고용 및 직장 관계부(DEWR)의 컴플라이언스 프레임워크와 IT 시스템을 검토하기 위한 것이었지만, 인용문과 각주에 허위 정보가 포함되어 논란이 일었습니다.

시드니대학교의 복지학자 크리스 러지는 보고서에 등장한 동료들의 이름이 잘못된 논문 제목과 함께 인용된 것을 발견하고, “존재하지 않는 제목을 사람이 만들었다고 보기 어렵다”며 AI의 흔적이라고 지적했습니다. 실제로 보고서에는 “The Rule of Law and Administrative Justice in the Australian Social Security System”이라는 존재하지 않는 논문이 인용되었고, 이는 “The Rule of Law and the Australian Constitution”이라는 실제 논문과 혼동된 것으로 밝혀졌습니다.

딜로이트는 이후 보고서를 수정해 잘못된 인용과 각주를 삭제하고 새로운 참고 문헌 목록을 추가했으며, AI 도구(Azure OpenAI GPT-4o 기반)를 활용한 사실도 공식적으로 인정했습니다. 다만, 오류가 AI 때문인지에 대해서는 명확히 밝히지 않았고, “고객과 직접 해결했다”는 입장만을 내놓았습니다.

코라는 이 사건을 전하며, AI가 점점 더 많은 영역에서 활용되는 시대에 우리가 마주해야 할 윤리적 책임과 검증의 중요성을 되새깁니다. 기술은 도구일 뿐이며, 그 도구를 어떻게 쓰느냐에 따라 신뢰와 품질이 결정됩니다. 특히 공공기관과 전문가의 이름이 걸린 보고서라면, 그 무게만큼 더 철저한 검토와 책임이 필요합니다. AI의 편리함이 인간의 신중함을 대체할 수는 없습니다.