[아웃소싱타임스 김민수 기자] 최근 인공지능(AI) 기술에 대한 관심이 증가하면서 일부 기업들이 AI 기술을 실제로 사용하지 않으면서도 마치 광범위하게 활용하고 있는 것처럼 홍보하는 'AI 워싱(AI Washing)' 현상이 확산되고 있다. 

이러한 행위는 기업의 신뢰성을 위협하고 있으며, 투자자와 소비자들에게 과도한 기대감을 불러일으켜 부정적인 결과를 초래할 수 있다.

최근 KB금융경영연구소가 발표한 '너도나도 AI? 말로만 AI 외치는 ‘AI 워싱’ 주의보' 자료에서 이같이 주장하며 이에 대한 방지책이 시급하다고 주장했다.

■AI 워싱의 개념
AI 워싱은 기업이 AI 기술을 실제로 사용하지 않으면서도 마치 혁신적인 AI 기술을 활용하는 것처럼 홍보하는 행위를 뜻한다. 이는 환경친화적이지 않은 기업이 친환경적인 것처럼 홍보하는 그린워싱(Greenwashing)과 유사하다. 

AI 워싱을 통해 기업들은 투자자들에게 더 매력적인 투자 대상으로 인식되어 자본을 유치하고, 기술 선도적인 이미지를 구축하려 하고 있다.

■AI 워싱의 부작용
AI 워싱은 단순한 마케팅 전략이 아니라 기업의 자원 배분을 저해하고, 소비자 신뢰를 저하시킬 수 있는 심각한 문제로 이어지고 있다. 투자자들은 실제로 혁신적인 AI 기술을 보유한 기업 대신 AI 워싱을 하는 기업에 자본을 집중시킬 가능성이 크다. 

이로 인해 진정한 기술 혁신이 지연되고, 산업 전반에 부정적인 영향을 미칠 수 있다. 소비자들도 AI 워싱에 속아 과도한 기대감을 갖게 되며, 결과적으로 기술 자체에 대한 신뢰가 하락할 위험이 있다.

■AI 워싱 사례
대표적인 AI 워싱 사례로는 아마존의 무인 매장 '아마존고(Amazon Go)'가 있다. 아마존고는 고객이 매장을 나갈 때 자동으로 결제가 이루어지는 시스템으로 홍보되었으며, 딥러닝 기반의 AI 기술이 고객의 구매 행태를 추적해 자동 결제를 처리하는 것으로 알려졌다. 

그러나 실제로는 인도에 있는 약 1,000명의 직원들이 카메라를 통해 수동으로 고객의 결제 정보를 검토하는 방식으로 운영되고 있음이 밝혀졌다. 이로 인해 아마존은 자사의 AI 기술 홍보가 실제와 다르다는 비판을 받았다. 

아마존 측은 이를 인정하면서도, 직원들이 AI가 생성한 데이터를 보완하고 있다는 점을 강조하며 AI 시스템의 일부로 인도 직원들이 참여하고 있다고 주장했다.

또 다른 사례로는 '준코(Joonko)'가 있다. 채용 스타트업 준코는 AI 기반으로 기업에 적합한 지원자를 추천한다고 홍보하면서 최소 2,100만 달러의 투자 자금을 유치했으나, 실제로는 AI 기술이 사용되지 않았음이 밝혀져 미국 증권거래위원회(SEC)와 법무부로부터 기소되었다. 

준코의 창업자 일릿 라즈(Ilit Raz)는 투자자들을 속이기 위해 위조된 금융 기록과 계약서를 제출했으며, 이 과정에서 허위 정보와 과장된 성과를 이용해 기업 가치를 부풀렸다는 비난을 받았다.

또한, '델피아(Delphia)'와 '글로벌프레딕션스(Global Predictions)'도 AI 워싱의 대표적 사례로 지목된다. 이들 투자자문사들은 AI를 이용해 투자 예측을 제공한다고 홍보했지만, 실제로는 AI 기술이 사용되지 않았음이 드러났다. 

델피아는 AI를 사용한 예측 기술을 보유하고 있지 않았음에도 불구하고, AI를 강조하며 고객들에게 잘못된 정보를 제공한 혐의로 기소되었다. 글로벌프레딕션스는 AI를 사용해 금융 예측을 제공한다고 주장했으나, 실제로는 가상의 데이터를 사용하여 성과를 부풀린 것으로 밝혀졌다. 이로 인해 두 회사는 각각 22만 5천 달러와 17만 5천 달러의 벌금을 부과받았다.

또한, '오토메이터스 AI(Automators AI)'는 AI 기술을 활용해 온라인 스토어의 매출을 증가시킬 수 있다고 허위 정보를 유포해 2,200만 달러의 투자를 유치했으나, 실제로는 AI 기술이 전혀 사용되지 않은 것으로 밝혀졌다. 미국 연방거래위원회(FTC)는 이 회사의 설립자들에게 영구적인 사업 기회 박탈과 함께 투자자들에게 배상을 명령했다.

'오랄비(Oral-B)'와 '코카콜라'도 AI 워싱 논란에 휘말렸다. 오랄비는 고가의 전동칫솔을 출시하며 AI가 사용자의 칫솔질 습관을 분석해 맞춤형 피드백을 제공한다고 홍보했으나, 소비자들은 이 기술이 실제로 AI로 운영되는지 의문을 제기했다. 

코카콜라도 AI를 사용해 새로운 음료를 개발했다고 주장했지만, AI가 구체적으로 어떻게 제품 개발에 기여했는지에 대한 명확한 설명을 내놓지 않아 업계의 비판을 받았다.

이처럼 다양한 산업에서 AI 워싱이 빈번하게 발생하고 있으며, 이로 인해 소비자와 투자자들의 신뢰가 흔들리고 있다.

■대응 방안
AI 워싱의 확산을 막기 위해서는 정부의 규제 강화와 기업의 투명한 AI 사용이 필수적이다. 기업들은 실제로 사용한 AI 기술에 대한 투명한 정보를 제공하고, 허위 광고를 지양해야 한다. 

또한 소비자와 투자자들은 AI 기술에 대한 비판적인 태도를 가져야 하며, AI 기술이 실제로 어떻게 사용되고 있는지에 대한 구체적인 설명을 요구해야 한다.

KB금융연구소 송원호 책임연구원은 "AI 기술이 발전함에 따라 이를 악용하는 AI 워싱 기업들이 늘어나고 있다"고 지적하며, "정부는 AI 워싱을 막기 위한 규제를 강화하고, 기업은 AI 기술의 실제 사용 여부에 대해 투명한 정보를 제공해야 한다"고 강조했다.

결국, AI 워싱은 기업의 단기적인 이익 추구가 장기적인 신뢰 저하로 이어질 수 있는 심각한 문제이다. 이를 방지하기 위해서는 기업들이 AI 기술의 투명성을 높이고, 소비자와 투자자들이 비판적인 시각을 유지하는 것이 중요하다.

김민수 기자 m4187@hanmail.net 다른기사 보기