오디 Beta AI 거버넌스 및 운영 정책

1. 시스템 목적 및 활용 범위 제한 Intended Use

• 공식 판단 대체 금지 : 오디의 답변은 학습 참고자료로 활용되어야 하며, 공식적인 심사 판단, 부적합 판정 또는 인증 결론의 근거로 사용될 수 없습니다.
• 중요 결정의 인적 개입 : AI 출력 결과만으로 조직의 품질·환경·안전보건 리스크에 대한 최종 의사결정을 내려서는 안 되며, 반드시 적격성을 갖춘 인원의 검토를 거쳐야 합니다.

2. 현재 가동 중인 통제 체계 Current Controls

국제AI교육원은 현재 베타 운영 단계의 한계를 인식하고 있으며, 가동 가능한 범위 내에서 수동 검토 및 개선 중심의 Human Oversight를 적용하고 있습니다.

• 수동 검토 및 보정 : 오류 가능성이 있는 답변은 강사 및 운영진이 검토하고 보정합니다.
• 피드백 기반 개선 : 사용자 의견은 교육 콘텐츠 및 프롬프트 개선 검토 자료로 활용됩니다.
• 데이터 입력 제한 안내 : 개인정보, 민감정보 및 실제 기업 기밀정보 입력을 제한하도록 안내합니다.

3. AI 한계 및 환각(Hallucination) 위험 최소화 원칙 Risk Mitigation

ODI는 생성형 AI의 특성상 부정확하거나 불완전한 정보를 생성할 가능성이 있음을 인식하고 있으며, 이를 관리하기 위해 다음의 리스크 통제 원칙을 적용합니다.

• Evidence 중심 접근 및 추가 확인 : 정보가 불충분하거나 불확실한 경우, 단정적인 결론보다 근거(Evidence) 중심의 질문과 상황 확인을 우선하도록 프로세스를 운영합니다.
• 외부 모델 의존성 명시 : ODI는 자체 파운데이션 AI 모델을 개발하지 않으며, 모델 레벨의 기술적 통제는 서비스 제공자의 운영 환경에 의존함을 인정합니다. 따라서 기술적 한계를 관리적 안전망으로 보완합니다.
• 인간 감독(Human Oversight) 연계 : 환각 위험으로 인한 오류를 방지하기 위해 중요한 심사 판단, 인증 관련 의사결정 및 공식 보고서 초안은 반드시 사람의 검토를 거쳐야 합니다.