전력설비 정비 전문회사인 한전KPS(사장 김홍연)가 감사업무 혁신을 위해 도입한 ‘인공지능 요원(AI Agent)’의 활용 과정에서 우려되는 부작용과 위험요소를 줄이기 위한 방어체계 구축에 나선다.

한전KPS는 일반적인 생성형 AI와 차별화해 감사 업무에 특화된 AI에이전트 ‘감사해’를 개발해 지난 5월부터 운영하고 있다.

▲  한전KPS는 10월 2일 본사 회의실에서 KPS AI 이지스 구축 전담반 킥오프 미팅을 갖고 AI를 내재한 감사 운영체계 전환(Audit AX)에 박차를 가할 것을 다짐했다.

AI 에이전트 ‘감사해’는 △감사보고서 자동 생성 지원 △감사보고서 문장·어문법 검토 △과거 징계사례 분석 및 징계 양정 보고서 생성 △감사 관련 질의응답 △공사설계 적정성 점검 △안전관리비 적정성 검토 등을 제공하며 감사업무 속도와 정확성을 비약적으로 발전시켰다.

특히 데이터 분석을 통한 이상징후 및 패턴을 발견하고 식별해 감사인에게 위험신호와 분석 결과를 제공하면서 회사의 청렴도 향상에 기여하고 있다.

하지만 한편에서 실제 감사를 시행하며 발생했던 문제점과 감사 과정에서 발생할 수도 있는 개인정보유출, 데이터 보안 등 윤리적인 이슈에 대한 심도 있는 검토가 필요해졌다.

이에 한전KPS는 ‘KPS AI AEGIS(AI 감사 프레임워크)’ 구축 전담반을 꾸리고 10월 2일 첫 회의를 가졌다.

‘이지스(AEGIS)’는 고대 그리스 신화에서 신을 보호하는 방패를 의미하는 단어로, ‘AI 에이전트’ 도입과 함께 AI로 인해 발생할 수 있는 새로운 위험으로부터 조직을 보호하겠다는 의지를 담았다.

전담반은 감사실을 중심으로 전사의 관련 부서가 동참해 가장 적합한 AI 활용 방식을 모색하고 업무에 적용하는 것을 목표로 운영해 나갈 예정이다. 또한, ‘대한민국 인공지능 윤리원칙’ 제정에 맞춰 기술의 안전성과 신뢰성을 최우선으로 확보한 AI 감사 프레임워크 도입을 추진한다.

이날 회의에서도 AI 에이전트와 사람의 역할을 명확히 구분하고 인간이 시스템의 운영․감독․의사결정에 적극 참여한다는 ‘휴먼인더루프(Human in the Loop)’ 원칙을 적용해 ‘AI가 판단을 대신하는 감사’가 아닌 ‘AI가 감사인의 판단을 지원하는 감사’를 구현하는 방안을 활발하게 논의했다.

이성규 상임감사는 “감사 업무에 새로 도입한 AI 에이전트는 민감한 정보를 학습하는 만큼 보다 높은 윤리성이 요구되고 철저한 리스크 관리가 필요하다”며 “AI가 만든 결과의 공정성과 신뢰성은 물론이고 주요 정보의 보안성을 먼저 고려해야 하는 만큼 단순한 ‘AI 이용자’를 넘어 비판적인 사고로 올바르게 활용하는 ‘AI 행위자’로 발전하도록 하겠다”고 말했다.