인공지능을 절대 전적으로 신뢰해서는 안 되는 작업

인공지능은 많은 일에 훌륭하지만, 확신에 찬 오답이 심각한 피해를 줄 수 있는 영역도 있습니다. 이러한 고위험 영역에서 인공지능은 기껏해야 보조 수단일 뿐, 최종 판단을 맡길 수는 없습니다.

어디에서 선을 그어야 하는지 알면 드물지만 큰 대가를 치르는 실수를 막을 수 있습니다. 어떤 결정은 반드시 자격을 갖춘 사람에게 맡겨야 합니다.

인공지능은 질환이나 용어를 쉬운 말로 설명할 수 있어 실제로 유용합니다. 하지만 진단이나 치료를 위해 의사를 대신해서는 절대 안 됩니다.

인공지능은 여러분을 직접 진찰할 수 없고, 전체 병력을 알지도 못하며, 건강에 영향을 주는 내용에 대해 확신에 차서 틀릴 수 있습니다. 이해를 돕고 질문을 준비하는 데 사용한 다음, 실제 의료 전문가를 만나십시오.

계약, 권리, 법률 자문은 위험과 세부 사항이 너무 중요하므로 챗봇을 믿어서는 안 됩니다. 법률은 지역마다 다르고 시간이 지나면서 바뀌며, 인공지능은 규정이나 판례를 지어낼 수 있습니다.

쉬운 말로 된 개괄적인 설명을 듣는 데는 괜찮지만, 구속력이 있거나 심각한 문제라면 자격을 갖춘 변호사와 상담하십시오. 잘못된 법률적 판단은 매우 큰 비용을 초래할 수 있습니다.

인공지능은 금융의 기초를 가르치고 예산 초안 작성을 도울 수 있습니다. 하지만 투자, 세금, 또는 중대한 금융 결정을 내릴 때는 인공지능에만 의존하지 마십시오.

인공지능은 여러분의 전체 상황을 알지 못하고, 시장을 예측할 수도 없으며, 규정에 관한 내용이 오래되었을 수 있습니다. 큰 금액이 걸린 결정을 내릴 때는 여러분의 구체적인 사정을 아는 전문가에게 조언을 구하십시오.

틀렸을 때 피해를 일으킬 수 있는 내용이라면 무엇이든 극도로 주의해야 합니다. 복용량, 전기 작업, 구조 관련 질문, 응급 조치 등이 이에 해당합니다.

이런 영역에서 확신에 찬 오답은 단순히 불편한 정도가 아니라 위험합니다. 안전이 직결된 정보는 매번 공식 출처나 자격을 갖춘 전문가를 통해 확인하십시오. 생명이나 안전이 걸린 상황에서 인공지능을 유일한 안내자로 삼지 마십시오.

누군가 인공지능에게 약을 얼마나 복용해야 하는지 묻고 확인도 하지 않은 채 답변을 따릅니다. 인공지능이 복용량을 지어냈다면 결과는 심각할 수 있습니다.

올바른 방법은 인공지능을 사용해 약을 이해한 다음, 복용량은 약사나 공식 설명서로 확인하는 것입니다. 원칙은 이렇습니다. 인공지능은 맥락을 파악하는 데 사용하고, 결정은 전문가에게 맡기십시오.

공통점은 결과입니다. 잘못된 답변으로 돈, 건강, 법적 문제가 발생하거나 안전이 위협받을 수 있다면 인간 전문가에게 확인해야 한다는 신호입니다.

중요도가 낮은 작업, 아이디어 발상, 초안 작성, 가벼운 사실 확인은 인공지능을 활용하기에 안성맞춤입니다. 위험 영역은 실수를 되돌리기 어려운 모든 곳입니다.

함정은 인공지능이 안전한 조언을 할 때와 위험한 조언을 할 때 똑같이 확신에 차서 말한다는 것입니다. 그런 권위적인 말투에 방심하면 믿어서는 안 되는 상황에서도 인공지능을 믿게 될 수 있습니다.

스스로에게 상기하십시오. 확신은 능력이 아닙니다. 고위험 영역에서는 매끄럽고 단정적인 답변일수록 의심을 더 많이 해야지, 덜 해서는 안 됩니다.

그렇다고 이런 영역에서 인공지능을 완전히 피해야 한다는 뜻은 아닙니다. 인공지능은 전문 용어를 설명하고, 물어볼 질문을 찾아내며, 준비를 돕는 훌륭한 첫 단계가 될 수 있습니다.

규칙은 결정이 어디에서 내려져야 하는지에 관한 것입니다. 인공지능은 정보를 제공할 수 있지만, 정말 중요한 일은 자격을 갖춘 사람이 결정해야 합니다. 이렇게 역할을 나누면 안전을 지키면서도 시간을 절약할 수 있습니다.

한 가지 원칙을 기억하십시오. 제가 틀렸을 때 건강, 돈, 법적 지위, 또는 안전에 심각한 피해가 생길 수 있다면 인공지능이 최종 결정을 내리게 하지 않습니다.

이 한 문장으로 위험 영역을 모두 다룰 수 있습니다. 그 밖의 영역에서는 인공지능의 속도와 도움을 누리십시오. 위험이 큰 영역에서는 믿을 수 있는 사람의 도움을 받으십시오.

최근에 인공지능에게 물어볼 법했던 질문을 하나 떠올려 보십시오. 중요도가 낮은 질문인지, 아니면 건강, 돈, 법률, 안전과 관련된 질문인지 분류해 보십시오.

질문이 선의 어느 쪽에 해당하는지 알아차리는 연습을 하십시오. 인공지능으로 충분한 때와 그렇지 않은 때를 아는 감각을 기르는 것이 효율성과 안전을 모두 지켜 줍니다.

어디에서 선을 그어야 하는지 확인해 보겠습니다.

어떤 영역에서는 사람의 판단이 필요합니다. 의료, 법률, 중대한 금융, 안전이 직결된 결정이 이에 해당합니다. 인공지능은 설명하고 준비하는 데는 괜찮지만, 실수를 되돌리기 어려운 상황에서 최종 결정을 맡겨서는 안 됩니다.

확신에 찬 말투는 능력을 의미하지 않으므로, 고위험 영역의 답변일수록 더 의심해야 합니다. 원칙은 이렇습니다. 틀렸을 때 건강, 돈, 법적 지위, 또는 안전에 심각한 피해가 생길 수 있다면 인공지능이 결정하게 하지 마십시오.