인공지능 답변의 편향 찾아내기

편향은 답변이 한쪽으로 기울어져 있으면서도 그렇게 기울어져 있다는 사실을 알려 주지 않는 것입니다. 인공지능은 인간이 쓴 글로 학습하며, 인간의 글에는 의견, 맹점, 고르지 못한 관점이 가득합니다. 따라서 인공지능은 한쪽 편, 한 문화, 또는 어떤 가정을 조용히 선호할 수 있습니다. 편향을 찾아내는 것은 인공지능이 "악하다"는 것을 잡아내는 일이 아니라, 이야기의 일부만 듣고 있는 때를 알아차리는 일입니다.

큰 원인은 두 가지입니다. 첫째는 학습 데이터입니다. 인공지능이 학습한 글 대부분이 한쪽 입장을 취했다면 인공지능은 그 기울기를 흡수합니다. 둘째는 여러분의 입력문입니다. "X가 왜 가장 좋은 선택인가요?"라고 물으면 이미 원하는 답을 알려 준 셈입니다. 인공지능은 본래 상대의 말에 맞춰 주는 성향이 있어서, 약한 주장이라도 기꺼이 여러분의 주장을 뒷받침해 줍니다.

인공지능 비서는 도움이 되고 친절하도록 조정되어 있으므로 여러분의 말에 너무 쉽게 동의하는 경우가 많습니다. "이 계획이 훌륭하다고 생각하지 않나요?"라고 물으면 기분 좋은 긍정의 답을 받을 가능성이 큽니다. 기분은 좋아지지만 아무것도 증명하지는 않습니다. 유도하는 질문만 계속하면 인공지능은 조언자가 아니라 거울이 됩니다.

편향을 없애는 가장 간단한 방법은 반대 의견을 요청하는 것입니다. "이제 이 주장에 반대하는 가장 강력한 논거를 제시해 주세요." "회의적인 사람이라면 뭐라고 할까요?" "단점을 나열해 주세요." 균형 잡힌 관점은 처음에 듣지 못한 쪽을 의도적으로 요청할 때 나옵니다. 인공지능이 반대 방향으로 주장하는 데 어려움을 겪는다면, 그 자체로도 무언가를 알려 주는 것입니다.

균형 잡힌 답변을 이끌어 내도록 질문을 표현하세요. "왜 이 제품이 최고인가요?" 대신 "다른 제품과 비교했을 때 이 제품의 장점과 단점은 무엇인가요?"라고 해 보세요. "제가 옳다는 것을 증명해 주세요" 대신 "제 추론을 엄밀히 검증해 주세요"라고 해 보세요. 중립적인 질문은 더 풍부한 답변을 이끌어 냅니다. 결론을 미리 정해 두지 않았기 때문입니다.

답변을 읽으며 물어보세요. 장단점이나 상충 관계를 제시했나요? 누가 반대할 수 있는지 언급했나요? 장점만 가득하고 주의할 점은 전혀 없는 답변은 위험 신호입니다. 실제로 존재하는 것 중 순전히 좋은 것은 거의 없습니다. "하지만"이 전혀 없다면 한쪽으로 치우친 관점을 보고 있을 가능성이 높으므로 다시 살펴봐야 합니다.

인공지능은 세계적인 주제에 대해서도 특정한 문화적 관점, 흔히 서구권의 영어 중심 관점으로 답하는 경우가 많습니다. "좋은 아침 식사"나 "적절한 업무 복장"에 대해 물으면 답변이 자신도 모르게 특정 지역을 전제로 할 수 있습니다. 여러분의 상황이 다르다면 그 점을 말해 주세요. "인도네시아에 사는 사람을 기준으로 답해 주세요" 또는 "서구권이 아닌 관점도 고려해 주세요"라고 요청하면 됩니다.

인공지능에게 두 가지 정치적 관점을 비교해 달라고 요청했다고 해 보겠습니다. 답변이 한쪽은 합리적으로, 다른 쪽은 극단적으로 미묘하게 묘사합니다. 이어서 "이제 양쪽 입장을 각각 가장 호의적으로 설명해 주세요"라고 요청합니다. 두 번째 답변이 훨씬 더 균형 잡혀 있습니다. 불평한다고 편향을 없앤 것이 아니라, 공정한 설명을 직접 요청해서 없앤 것입니다.

인공지능이 제품, 책, 전문가를 추천할 때 무엇을 빠뜨리는지 살펴보세요. 유명하거나 많이 언급되는 선택지를 학습 데이터에 더 자주 등장한다는 이유만으로 지나치게 추천할 수 있습니다. 덜 알려졌지만 훌륭한 선택지는 사라질 수 있습니다. "과소평가된 선택지나 덜 뻔한 선택지에는 무엇이 있나요?"라고 물어 선택의 폭을 넓혀 보세요.

모든 답변에 문제가 있다고 가정할 필요는 없습니다. 대부분은 괜찮습니다. 중요한 기술은 머릿속에서 가볍지만 꾸준히 다음과 같은 질문을 유지하는 것입니다. "이 답변이 나에게 말하지 않는 것은 무엇일까?" 이 한 가지 습관만으로도 일상적인 사용에서 중요한 편향 대부분을 발견할 수 있습니다.

편향은 학습 데이터와 질문하는 방식에 숨어 있습니다. 중립적인 표현을 사용하고, 반대쪽 의견을 요청하고, 실제 상황을 밝히고, 단점이 전혀 없는 답변을 살펴보는 방식으로 편향에 대응하세요. 완벽하게 중립적인 인공지능을 찾는 것이 아니라, 결정하기 전에 하나 이상의 목소리를 듣는 것이 목표입니다.

인공지능이 한 가지 선택지만 칭찬하고 단점은 전혀 언급하지 않는 답변을 발견했습니다.

편향은 학습 데이터와 유도하는 입력문에서 비롯되는 숨은 기울기입니다. 중립적인 표현을 사용하고, 반대 주장의 근거와 상충 관계를 요청하며, 실제 상황을 밝히고, 단점이 전혀 없는 답변을 알아차려 편향에 대응하세요. 결정하기 전에 양쪽 이상의 의견을 듣는 것이 목표이며, 여러분은 균형 있게 생각하는 사람으로 남아야 합니다.