협력의 기술
AI를 넘어 신뢰를 설계하다
씽크포비엘 박지환 대표
요약정보
‘AI 신뢰성’ 분야를 개척해 온 전문기업
데이터 충실도 진단 도구 ‘RE:IN’부터 컨설팅·교육·표준까지
‘신뢰할 수 있는 AI’의 산업 기준 마련
AI가 산업과 일상 곳곳으로 빠르게 스며들고 있다. 이제 중요한 질문은 ‘AI가 무엇을 할 수 있는가’를 넘어 ‘이 AI를 정말 믿고 사용해도 되는가’로 향한다. 2008년 설립된 씽크포비엘은 일찍부터 이 질문에 주목해 온 기업이다. AI 신뢰성 컨설팅과 평가, 데이터 충실도 진단, 전문인력 양성, 국제표준과 국제협력까지. AI가 실제 현장에서 안전하고 책임 있게 쓰일 수 있는 조건을 만들며 ‘잘 작동하는 AI’를 넘어 ‘믿고 쓸 수 있는 AI’의 기준을 세워가고 있다.
‘잘하는 AI’보다 ‘믿을 수 있는 AI’
씽크포비엘의 출발점은 소프트웨어다. 오랜 기간 SW공학과 품질 분야에서 경험을 쌓으며 400여 기업을 대상으로 R&D 컨설팅을 수행했다. 여기서 얻은 경험은 분명했다. 기술은 만드는 것만으로 완성되지 않는다는 사실이다. 실제 환경에서 지속적으로 사용할 수 있어야 하고, 문제가 생겼을 때 원인을 확인하고 관리할 수 있어야 한다.
AI 시대가 열리면서 이 문제는 더욱 중요해졌다. 박지환 대표는 AI의 성능이 시간이 흐르면 점차 상향평준화되고, 결국 경쟁력은 ‘이 AI를 실제로 사용해도 되는가를 설명하고 증명하는 능력’에서 갈릴 것이라고 내다봤다. 이에 10여 년 전부터 데이터 편향과 충실도를 연구하기 시작했고, 위험관리와 인간감독, 운영 보증 등 AI 신뢰성 전반으로 영역을 넓혀 왔다.
AI 신뢰성은 단순히 정확도가 높거나 보안에 문제가 없다는 뜻이 아니다. 기획 단계의 영향평가와 위험관리부터 개발 과정의 데이터 충실도와 편향, 모델의 견고성, 시스템 단계의 인간감독과 안전모드, 실제 운영 이후의 모니터링과 재평가까지 AI의 전 생애주기를 살펴야 한다. 보안이나 성능시험, 인증 역시 중요한 요소지만, 각각의 요소가 하나의 거버넌스 안에서 유기적으로 연결돼야 비로소 신뢰성을 이야기할 수 있다는 설명이다.
씽크포비엘은 이를 위해 개발 가이드 제작과 컨설팅, 전문 교육, 데이터 편향 진단은 물론 피지컬 AI·제조·공공·경찰·국방 등 다양한 영역으로 전문성을 확장하고 있다. AI 발주와 개발 과정에서는 영향 분석과 위험 평가, 완화 계획, 조달 요구사항과 인수 기준을 제시하고, 교육과 진단 도구까지 연결한다.
“AI가 얼마나 정확한지, 성능이 얼마나 좋은지만 봐서는 충분하지 않습니다. 결국 중요한 것은 이 AI를 실제 현장에서 사용해도 되는지를 설명하고 증명하는 것입니다.”
AI가 마주할 세상을 데이터에 담다
씽크포비엘이 AI 신뢰성을 이야기할 때 특히 강조하는 개념이 ‘데이터 충실도(Data Fidelity)’다. 데이터 품질과 비슷해 보이지만 질문 자체가 다르다. 데이터 품질이 ‘담긴 데이터가 제대로 되어 있는가’를 살핀다면, 데이터 충실도는 ‘AI가 마주할 현실이 데이터에 제대로 담겨 있는가’를 묻는다.
박 대표는 이를 색연필에 비유한다. 백만 자루의 색연필이 있어도 모두 비슷한 색이라면 세상을 제대로 그릴 수 없다. 연필이 잘 깎여 있고 상태가 좋은지를 살피는 것이 데이터 품질이라면, 세상을 표현하는 데 필요한 색을 충분히 갖췄는지를 확인하는 것이 데이터 충실도다.
AI 데이터도 마찬가지다. 오류가 없고 형식이 잘 정리됐다고 해서 현실을 제대로 학습할 수 있는 것은 아니다. 균일성, 대표성, 다양성, 비편향성, 충분성 등을 살펴 실제 세계의 여러 조건을 고르게 담고 있는지 확인해야 한다. 씽크포비엘은 AI가 실제로 동작할 세계를 ‘기대 공간(Expected Space)’, 데이터로 확보한 세계를 ‘관측 공간(Observed Space)’으로 보고 두 공간이 얼마나 일치하는지를 살핀다.
이를 실제 현장에서 활용하기 위해 자체 개발한 도구가 ‘RE:IN(리인)’이다. 전문가가 AI의 기대 공간과 중요한 맥락을 정의하면 데이터의 중복·누락·편향과 공간 커버리지를 분석해 무엇이 지나치게 많고 무엇이 부족한지를 정량화하고 시각화한다. 여러 통계 도구를 따로 활용하거나 평가자의 경험에 의존하던 방식보다 반복 측정이 쉽고, 같은 기준으로 개선 전후를 비교할 수 있다는 것도 장점이다.
실제 공공기관의 바이오 의료 X-선, 스마트 축산, 차량 주행, 자율주행 데이터 등을 대상으로 진행한 시범 검증에서는 데이터 중복률이 95%를 넘는 사례들이 확인되기도 했다. 데이터의 ‘양’만으로 AI 학습의 충분성을 판단하기 어려운 이유다.
데이터 충실도가 부족하면 영향은 학습 단계에 머물지 않는다. 실제 환경에서의 성능과 일반화가 떨어지고 특정 패턴에 대한 편향과 취약성이 커질 수 있다. 어떤 데이터로 왜 학습했는지 설명하기도 어려워지고, 운영 이후 드리프트 점검이나 재학습 판단, 검증·인증 대응에도 한계가 생긴다. 결국 데이터 충실도는 AI를 개발하기 위한 조건이면서 동시에 신뢰성을 증명하기 위한 근거가 되는 셈이다.
“시험문제가 실제 세상을 제대로 담지 못했다면 그 시험에서 100점을 받았다고 해서 안전하다고 말하기 어렵습니다. AI도 마찬가지입니다.”
KTL과 함께 ‘AI 신뢰의 기준’을 만들다
씽크포비엘이 바라보는 AI 신뢰성은 한 기업의 기술만으로 완성되는 영역이 아니다. 좋은 기술을 만드는 기업과 객관적으로 검증하는 시험·평가기관, 전문인력과 표준, 이를 이해하고 선택하는 시장이 함께 움직여야 한다.
KTL과의 협력도 여기서 시작됐다. AI 신뢰성을 연구하는 과정에서 세미나와 표준, 시험·평가 분야의 교류가 이어졌고, 사업과 연구를 함께 추진하면서 협력 관계가 구체화됐다. 현장에서 실제로 작동하는 신뢰성 기술을 만드는 씽크포비엘과 이를 객관적이고 공적인 시험·평가로 연결하는 KTL의 역할이 맞닿은 것이다.
박 대표는 두 기관의 관계를 ‘과외 선생과 시험기관’에 빗댄다. 기술기업은 기업이 부족한 부분을 진단하고 역량을 높일 방법을 제공한다. 시험인증기관은 그렇게 확보한 역량이 객관적인 기준을 충족하는지 독립적으로 확인한다. 역할은 분명하게 나뉘어야 하지만, 두 영역이 제대로 연결될수록 기업은 개발 단계부터 신뢰성을 준비하고 시험과 인증 역시 산업 현장에서 더욱 실질적인 가치를 가질 수 있다는 것이다.
씽크포비엘은 기술 개발에서 한 걸음 더 나아가 사람과 생태계에도 공을 들이고 있다. AI 신뢰성 전문가 교육과 민간자격 CTAP(Certified Trustworthy AI Professional)을 개발했고, 대학·기업·기관을 대상으로 교육을 이어왔다. AI 모델의 성능만 겨루는 것이 아니라 ‘왜 이 AI를 신뢰할 수 있는지 증거(Evidence)를 통해 설명하는 과정’을 경험하는 AI 신뢰성 해커톤 ‘TRAITHON’도 운영하고 있다.
목표는 분명하다. 이미 만들어진 기준을 따라가는 기업이 아니라 시장이 사용하는 기준을 만드는 기업으로 성장하는 것이다. 앞으로 국내 적용 사례를 충분히 확보하고 KTL과 같은 시험·평가기관, 해외 파트너와 함께 객관적인 검증과 국제표준 정합성을 높여 데이터 충실도와 AI 신뢰성 방법론을 해외로 확산할 계획이다.
KTL과의 협력 역시 단순히 하나의 기술을 시험하고 인증하는 데 머물지 않는다. 기업이 인증 직전에 신뢰성을 점검하는 것이 아니라 개발 단계부터 데이터와 시스템을 살피고 보완하는 환경을 만드는 것. 그렇게 축적된 기술과 시험·평가 체계가 국내 산업의 AI 신뢰성을 높이고, 나아가 해외에서도 참고할 수 있는 기준으로 자리 잡는 것이 두 기관이 그리고 있는 미래다.
“시장을 따라가는 것보다 시장의 기준을 만드는 쪽이 오래 갑니다. 앞으로 AI가 만들어 갈 시장에서 KTL과 함께 한국이 그 기준을 만드는 좋은 위치에 서기를 기대합니다.”