인공지능 윤리 및 거버넌스 프레임워크

성능이 뛰어난 모델도 차별, 개인정보 침해, 허위 정보, 안전성 실패라는 실제 위험을 초래할 수 있습니다. 인공지능 거버넌스는 인공지능 시스템이 수명 주기 전체에서 법을 준수하고 공정하며 책임성을 갖도록 하는 정책, 절차, 문서화의 체계입니다.

EU 인공지능법은 위험에 따라 인공지능 시스템을 분류하고 그 위험에 비례하는 의무를 부과하는 획기적인 규정입니다. 이 법은 네 단계의 위험 피라미드를 사용합니다.

가장 높은 단계인 허용 불가 위험 시스템은 전면적으로 금지됩니다. 예를 들어 정부의 사회적 점수 평가와 취약점을 악용하는 조작적 시스템이 해당합니다. 이러한 시스템은 어떤 안전장치가 있더라도 배포할 수 없습니다.

고위험 시스템(의료 기기, 채용, 신용 평가, 핵심 기반 시설)은 허용되지만 엄격하게 규제됩니다. 시장에 출시되기 전에 위험 관리, 고품질 데이터, 기록, 인간의 감독, 적합성 평가가 필요합니다.

하위 단계에는 더 가벼운 의무가 적용됩니다.

• 제한적 위험(챗봇, 딥페이크)은 투명성이 필요합니다. 예를 들어 사용자가 인공지능과 상호작용하고 있음을 알려야 합니다
• 최소 위험(스팸 필터, 게임 인공지능)은 사실상 의무가 없습니다

EU 인공지능법의 피라미드는 위에서 아래로 허용 불가(금지), 높음(엄격한 요구 사항), 제한적(투명성 의무), 최소(자유로운 사용) 단계로 구성됩니다. 일상적으로 사용하는 인공지능의 대부분은 아래쪽 두 단계에 해당합니다.

모델 카드는 모델과 함께 공개되는 짧고 표준화된 문서입니다. 모델의 용도와 사용해서는 안 되는 분야를 설명하여, 이후에 모델을 사용하는 팀이 정보에 근거해 결정할 수 있도록 합니다. 인공지능의 영양 성분 표시와 같은 역할을 합니다.

용도 섹션에는 주요 목적, 대상 사용자, 그리고 명시적으로 범위에서 제외되는 사용 사례가 설명됩니다. 이를 통해 영어 트윗으로 학습한 감정 분석 모델을 법률 계약서에 적용하는 등의 오용을 방지할 수 있습니다.

성능 섹션에는 가능하면 하위 집단별로 구분한 지표와 사용한 평가 데이터가 보고됩니다. 세분화된 지표를 통해 모델이 모든 사람에게 잘 작동하는지, 아니면 다수 집단에만 잘 작동하는지 확인할 수 있습니다.

주의 사항 및 한계 섹션에는 알려진 실패 유형, 편향, 그리고 자원이 부족한 언어나 분포 밖 입력처럼 모델의 성능이 저하되는 조건이 나열됩니다. 솔직한 주의 사항은 신뢰를 높이고 피해를 방지합니다.

팀은 출시 전에 검토하는 책임 있는 인공지능 점검표를 사용하여 거버넌스를 실제 업무에 적용합니다.

• 학습 데이터는 대표성을 갖추고 있으며 동의를 받았습니까?
• 집단별 공정성을 측정했습니까?
• 중대한 의사 결정에 인간의 감독이 이루어집니까?
• 영향을 받는 사용자에게 설명을 제공할 수 있습니까?
• 모델 카드가 공개되어 있고 모니터링 계획이 마련되어 있습니까?

거버넌스 지식을 확인해 보세요.

인공지능 윤리와 거버넌스를 학습하셨습니다:

• EU 인공지능법의 위험 피라미드: 허용되지 않음(금지), 높음(엄격), 제한적(투명성), 최소(자유)
• 모델 카드는 의도된 사용, 성능(세분화된 분석), 주의 사항을 문서화합니다
• 책임 있는 인공지능 체크리스트는 원칙을 출시 전 점검 기준으로 전환합니다