공정성, 편향, 현실 세계의 피해

인공지능은 방대한 양의 인간이 만든 텍스트와 이미지에서 학습하며, 인류의 기록에는 불공정함, 고정관념, 맹점이 포함되어 있습니다. 따라서 인공지능은 악의가 있어서가 아니라 입력받은 내용을 그대로 반영하기 때문에 이러한 패턴을 흡수하고 반복할 수 있습니다. 이를 이해하면 인공지능을 더 공정하게 사용하고, 문제가 발생했을 때 알아차리는 데 도움이 됩니다.

편향은 구체적인 방식으로 나타납니다. 이미지 생성기에게 “CEO”를 보여 달라고 하면 특정 성별이나 인종의 사람만 주로 보여 줄 수 있습니다. 이력서 선별 도구는 특정 이름을 더 선호할 수 있습니다. 번역기는 의사는 남성이고 간호사는 여성이라고 가정할 수 있습니다. 이는 가상의 상황이 아닙니다. 각각 실제 시스템에서 발생했고 실제 사람들에게 영향을 주었습니다.

편향된 인공지능이 채용, 대출, 치안 또는 의료에 관한 결정의 배경에 놓이면 피해는 추상적인 것이 아닙니다. 겉으로는 중립적으로 보이지만 일부 집단을 은밀하게 선호하는 시스템 때문에 사람들이 일자리, 대출 또는 공정한 대우를 받지 못할 수 있습니다. “컴퓨터가 그렇게 말했다”는 분위기는 불공정한 결정을 객관적인 것처럼 느끼게 하며, 그 결정에 이의를 제기하기 더 어렵게 만들 수 있습니다.

대부분은 학습 데이터를 통해 들어옵니다. 과거의 데이터가 과거의 차별을 반영한다면 인공지능은 그것을 반복하는 법을 배웁니다. 누가 시스템을 만들었고 무엇을 검사했는지를 통해서도 편향이 들어올 수 있습니다. 기계가 불공정해지기로 결정하는 것이 아니라, 결함이 있는 데이터의 패턴을 충실히 복사하는 것입니다. 쓰레기가 들어가면 편향이 나옵니다.

인공지능 시스템을 직접 만들지 않더라도 그 출력 결과를 사용할 수 있습니다. 인공지능에게 지원자를 선별하거나, 업무 평가서를 작성하거나, 사람을 판단하도록 요청하면 인공지능의 편향은 여러분의 결정이 됩니다. 주의를 기울이세요. 이 출력 결과가 누군가를 부당하게 불리하게 만들지는 않나요? 사람들의 기회나 존엄성에 영향을 미치는 일에는 인간의 검토를 추가하세요.

인공지능의 출력 결과가 더 공정해지도록 유도할 수 있습니다. “다양한 사람들의 예를 보여 주세요.”, “서로 다른 문화의 관점을 포함해 주세요.”, “고정관념을 피하세요.”처럼 요청해 보세요. 사람이나 역할을 생성할 때는 다양성을 명시적으로 요청하세요. 데이터에서 다수 집단의 패턴으로 치우치는 경우가 많은 기본값을 그대로 받아들이지 마세요.

공정성이라는 기준으로 인공지능의 출력 결과를 읽어 보세요. 특정 직업의 성별을 가정했나요? 어떤 집단을 좁고 진부한 표현으로 묘사했나요? 특정 관점을 완전히 빠뜨렸나요? 고정관념을 지적하면 바로잡을 수 있습니다. “그런 표현은 고정관념에 의존하고 있습니다. 공정하게 다시 작성해 주세요.”라고 말해 보세요. 여러분은 편향을 세상에 내보내지 않는 편집자입니다.

인공지능을 사용해 입사 지원자의 순위를 매긴다고 생각해 보세요. 과거의 채용이 한쪽으로 치우쳐 있었다면 인공지능은 비슷한 이력을 가진 지원자의 순위를 조용히 높이고 다른 지원자에게 불이익을 줄 수 있습니다. 뛰어난 지원자라도 마찬가지입니다. 인공지능에 맹목적으로 의존하면 불공정할 수 있으며, 많은 지역에서는 불법일 수도 있습니다. 인공지능은 지원자 선별을 도울 수 있지만, 사람들의 생계를 좌우하는 결정은 인간이 책임져야 합니다.

개발자들은 편향을 줄이기 위해 적극적으로 노력하고 있으며 도구는 시간이 지나면서 개선되고 있습니다. 여러분의 역할은 절망하는 것이 아니라 현실적으로 주의를 기울이는 것입니다. 인공지능의 큰 이점은 활용하되 공정성에 영향을 미치는 출력 결과는 비판적으로 살펴보세요. 주의 깊은 사용자는 편향된 결과를 받아들이지 않는 것만으로도 인공지능을 더 안전하게 만듭니다.

인공지능 도구가 명백하게 편향되거나 해로운 출력 결과를 내는 것을 발견하면 신고하세요. 대부분의 플랫폼에는 의견 보내기 버튼이 있습니다. 여러분의 신고는 많은 사람에게 영향을 미치는 패턴을 개발자가 고치는 데 도움이 됩니다. 공정성을 엔지니어들만이 아니라 모두의 일로 여기는 것이 이러한 시스템을 개선하는 방법입니다.

인공지능은 학습 데이터에서 인간의 편향을 반영하며, 사람에 관한 결정의 배경에 놓일 때 이러한 편향은 실제 피해를 일으킵니다. 자신의 사용을 주의 깊게 살피고, 입력 지시문에서 다양성을 요청하며, 고정관념을 찾아내고, 중대한 결정은 인간이 맡도록 하며, 문제를 신고하세요. 인공지능의 편향을 이어 전달하지 않는 것만으로도 더 공정한 인공지능을 만드는 데 기여할 수 있습니다.

어떤 직무에 지원한 사람들의 순위를 매기는 데 인공지능 도구를 활용하려고 합니다.

인공지능은 결함이 있는 학습 데이터에서 인간의 편향을 반영하며, 이러한 편향이 사람에 관한 결정을 이끌 때 실제 피해를 일으킵니다. 사용할 때 주의를 기울이고, 다양성을 요청하며, 고정관념을 찾아내고, 중대한 결정은 인간이 맡도록 하며, 문제를 신고하세요. 편향을 이어 전달하지 않으면 더 공정한 인공지능을 만드는 데 기여할 수 있습니다.