만날 사람
요약정보
AI의 성능보다 먼저 물어야 할 ‘신뢰’의 조건
시험·평가·표준은 기술 혁신을 막는 규제가 아닌 도전의 기반
“기술은 인간의 판단과 주도성을 지켜주는 방향으로 발전해야 한다”
기술은 인간을 더 아름답게 만드는가
인지과학자 김상균 교수가 말하는 AI 시대의 신뢰
AI는 질문에 답하고, 업무를 돕고, 사람의 선택까지 대신한다. 우리는 작동 원리를 충분히 이해하지 못하면서도 빠르고 편리하다는 이유로 AI를 일상 깊숙이 받아들이고 있다. 그러나 기술이 내놓은 결과를 어디까지 믿어야 하는지, 잘못된 판단이 피해로 이어졌을 때 누가 책임져야 하는지는 여전히 분명하지 않다. 인지과학자 김상균 교수는 AI 시대의 신뢰가 기술의 성능만으로 완성되는 것은 아니라고 말한다. 시험과 평가, 표준과 사회적 안전장치가 함께 마련돼야 하며, 무엇보다 기술이 인간의 판단과 주도성을 지켜주는 방향으로 발전해야 한다는 것이다.
AI 시대, 우리는 이해하지 못하는 기술을 사용하고 있다
AI는 이미 누구나 사용하는 일상적인 도구가 됐다. 정보 검색과 문서 작성뿐 아니라 자녀교육, 진로, 인간관계와 같은 개인적인 고민까지 AI에 묻는다. 문제는 사람들이 AI를 적극적으로 사용하면서도 그 결과를 완전히 믿지는 못한다는 점이다.
김상균 교수는 이러한 상황이 기존 기술에서는 보기 어려웠던 매우 특이한 현상이라고 설명한다.
“지금까지 인류가 사용한 기술은 대부분 작동 원리를 어느 정도 이해한 상태에서 활용했습니다. 그런데 AI는 돌아가기는 하지만 왜 그런 결과가 나왔는지를 명확하게 설명하기 어렵습니다. 내용을 알 수 없으니 믿기 어렵지만, 너무 편리하고 쓸 만하니 모두가 사용하고 있는 것이죠.”
기존 기술에도 오차와 예외는 있었다. 인간이 만든 제품이나 시스템 가운데 완벽한 것은 없기 때문이다. 다만 과거에는 오차가 발생하는 조건과 범위를 어느 정도 예상할 수 있었고, 사회적으로 수용 가능한 수준인지 판단할 수 있었다. 반면 AI는 같은 질문에도 다른 답을 내놓고, 어떤 입력이 결과에 어떻게 영향을 미쳤는지 설명하기 어려운 경우가 많다.
특히 AI가 금융, 의료, 채용처럼 사람의 기회와 권리, 안전에 영향을 미치는 판단에 활용되면서 ‘설명 가능성’의 중요성은 더욱 커지고 있다.
“AI가 신용평가를 해 열 명 가운데 세 명의 대출을 거절했다면, 왜 그 세 명은 탈락했고 나머지는 통과했는지 설명할 수 있어야 합니다. 기존 방식은 자산이나 연체 기록에 따라 결과가 어떻게 계산됐는지 보여줄 수 있었지만, AI는 결과에 이르는 논리와 과정을 명확히 설명하기 어려운 경우가 많습니다.”
그는 AI가 무엇이든 해결할 수 있는 범용 기술이라는 기대에서 한발 물러날 필요가 있다고 강조한다. 의료나 법률처럼 적용 범위가 명확한 전문 AI는 성능과 설명 가능성을 비교적 구체적으로 검증할 수 있다. 그러나 범용 AI에 업무부터 생활 고민까지 모두 맡길 경우, 답변할 수 있다는 사실이 곧 신뢰할 수 있다는 의미로 받아들여질 위험이 있다.
신뢰는 기술만으로 완성되지 않는다
자율주행차와 의료 AI, 로봇처럼 사람의 생명과 안전에 직접 연결되는 기술에는 더욱 엄격한 기준이 필요하다. 그렇다고 기술의 오류를 완전히 없애는 것이 가능할까. 김상균 교수는 어떤 기술도 100% 완벽할 수는 없다고 말한다.
자동차와 비행기, 선박은 사고 가능성이 있음에도 널리 사용된다. 사람들이 이러한 기술을 받아들일 수 있는 것은 성능이 개선됐기 때문만은 아니다. 사고가 발생했을 때 책임과 피해를 나누는 보험과 법·제도 같은 사회적 장치가 함께 발전했기 때문이다.
“앞으로도 기술이 모든 위험을 완벽하게 없애지는 못할 겁니다. 중요한 것은 기술을 통해 얻는 편익에 비해 오류로 생기는 손실을 사회가 감당할 수 있느냐는 문제입니다. 기술의 빈자리를 책임과 보상, 제도 같은 사회적 장치가 함께 채워야 합니다.”
자율주행차의 사고율이 인간 운전자보다 낮더라도 사고 가능성이 완전히 사라지는 것은 아니다. 사고가 발생했을 때 운전자와 제조사, 소프트웨어 개발사 가운데 누가 책임져야 하는지, 피해는 어떻게 보상해야 하는지가 함께 정리돼야 비로소 사회가 기술을 신뢰하고 사용할 수 있다.
AI 시대에는 시험·평가의 방식도 달라져야 한다. 기존 제품은 내부 구조와 작동 원리를 확인하면서 성능을 평가할 수 있었다. 그러나 AI는 작동 원리를 완전히 설명하기 어려운 상태에서 결과의 안전성과 신뢰성을 검증해야 한다.
“특정 지역에서 자율주행차 1만 대가 사고 없이 운행했다고 해서 백만 대가 움직이는 환경에서도 안전하다고 단정하기는 어렵습니다. AI는 이용자와 환경, 입력 데이터에 따라 결과가 달라질 수 있기 때문에 시험 환경이 더 다양해져야 하고, 테스트의 전체적인 양도 크게 늘어나야 합니다.”
시험과 평가는 제품 개발이 끝난 뒤 한 번 거치는 절차에 머물러서도 안 된다. 초기 설계 단계부터 가상환경과 디지털 트윈 등을 활용해 반복적으로 시험하고, 실제 현장에서 수집한 데이터도 다시 평가와 개발 과정에 반영해야 한다.
특히 기술과 제품의 출시 속도가 빨라진 만큼 사후 모니터링의 역할도 중요해진다. 출시 전에 모든 위험을 완벽히 확인하기 어렵다면, 시장에서 실제로 사용되는 과정까지 살피며 문제가 발견될 때마다 기준과 평가 방식을 보완해야 한다는 것이다.
표준 역시 신뢰의 중요한 기반이다. 표준을 혁신을 제한하는 규제로 보는 시각도 있지만, 김 교수는 오히려 표준이 있기 때문에 기업과 소비자가 새로운 기술에 도전할 수 있다고 말한다.
“표준은 단순한 규격이 아니라 ‘이 정도를 충족하면 서로 믿고 사용할 수 있다’는 가이드라인입니다. 기업은 그 기준을 믿고 제품을 만들고, 소비자는 안심하고 사용하며, 사회는 필요한 제도를 설계할 수 있습니다. 표준은 혁신의 반대편이 아니라 새로운 도전을 가능하게 하는 출발점입니다.”
표준은 한 번 정해진 뒤 고정되는 것도 아니다. 산업계의 시도와 사회적 요구를 반영하며 지속적으로 보완돼야 한다. 시험인증기관 역시 제품이 기준을 통과했는지만 확인하는 데 그치지 않고, 기술이 시장에서 어떤 영향을 미치는지 관찰하며 평가체계를 발전시켜야 한다.
기술의 마지막 기준은 인간이어야 한다
믿을 수 있는 기술 생태계를 만들기 위해 기업과 연구자, 시험인증기관이 가져야 할 관점은 무엇일까. 김상균 교수의 답은 기술적 성능보다 더 근본적인 질문에서 시작된다.
“새로운 기술을 볼 때는 먼저 ‘이 기술이 왜 존재해야 하는가’를 물어봐야 합니다.”
공학은 이전에 없던 것을 만들고, 더 높은 효율을 구현한다. 그러나 기술적인 효율이 높아졌다는 사실이 인간과 사회에 반드시 좋은 결과를 가져오는 것은 아니다. 당장의 편리함이 장기적으로 인간관계와 정신건강, 사회의 구조에 어떤 영향을 미칠지는 별개의 문제다.
AI챗봇과 돌봄인형 로봇이 외로운 사람이나 돌봄이 필요한 이들에게 도움을 줄 수 있다. 그러나 인간과의 관계를 기술이 대신하는 환경이 5년, 10년 뒤 개인과 사회를 더 건강하게 만들지는 계속해서 살펴야 한다. 기술의 단기적인 효용만이 아니라, 그것이 인간의 삶 전체에 미칠 결과를 함께 봐야 한다는 의미다.
김 교수는 기술이 인간의 선택지를 넓혀주는 것처럼 보이지만, 오히려 인간을 수동적으로 만들 수도 있다고 지적한다. 수많은 콘텐츠 가운데 자유롭게 선택한다고 생각하지만 실제로는 플랫폼이 추천한 영상과 프로그램만 반복해서 소비하고, AI가 제시한 판단을 그대로 받아들이는 일이 늘어나고 있기 때문이다.
그는 이를 동물행동학의 ‘본능 표류’와 연결해 설명한다. 동물을 반복적으로 훈련해도 어느 순간 학습된 행동을 벗어나 본능적인 행동이 다시 나타나듯, 기술 시대의 인간에게도 본래 지켜야 할 본능이 무엇인지 질문해야 한다는 것이다.
“인간은 스스로 나아가고 판단하고 만들어가는 존재라고 믿고 싶습니다. AI가 모든 것을 결정하고 사람은 그 결과를 받아들이기만 한다면, 기술이 좋아질수록 인간은 더 수동적인 존재가 될 수 있습니다. 기술은 인간을 훈련하거나 주도성을 빼앗는 것이 아니라, 인간이 스스로 판단하도록 뒤에서 도와줘야 합니다.”
김상균 교수는 인류가 만들어온 기술과 문화, 예술의 궁극적인 목적을 ‘인간을 더 아름다운 존재로 만드는 것’이라고 말한다. 여기서 아름답다는 것은 외적인 의미가 아니다. 스스로 생각하고 판단하며, 타인과 더 나은 관계를 맺고 자신의 삶을 주도하는 존재가 되는 것을 뜻한다.
“새로운 기술을 마주할 때마다 ‘이 기술이 인간을 정말 더 아름답게 만드는가’를 한 번쯤 질문했으면 합니다. 기술은 인간을 대신하는 것이 아니라 인간의 판단과 주도성을 지켜주는 방향으로 발전해야 합니다.”
기술의 발전을 멈출 수는 없다. 그러나 어떤 기술을 만들고, 어떤 기준으로 검증하며, 어디까지 맡길지는 인간이 결정해야 한다. AI 시대의 신뢰는 성능이 뛰어난 기술 하나만으로 완성되지 않는다. 시험과 평가, 표준과 책임체계, 그리고 자신의 판단을 포기하지 않는 인간이 함께할 때 비로소 만들어진다.
