피지컬 AI 시대,

소비자 안전 위한 제도적 기반 마련 촉구

일상 파고드는 피지컬 AI, 소비자 보호 체계 구축 시급

사고 시 책임 소재 명확화, 소비자 정보 보안 강화 제도 마련 제언

인공지능(AI) 기술이 단순한 소프트웨어 환경을 넘어 로봇, 자율주행, 스마트 가전 등 물리적 환경과 상호작용하는 ‘피지컬 AI(Physical AI)’ 시대로 진입하고 있다. 피지컬 AI는 우리 일상에 유례없는 편의를 제공할 것으로 기대되나, 물리적 환경에 직접 개입한다는 점에서 새로운 형태의 소비자 위험을 내포하고 있다.

이에 소비자주권시민회의는 기술 발전이 소비자의 안전과 권익을 침해하지 않도록, 체계적이고 명확한 제도적 가이드라인 마련을 다음과 같이 강력히 촉구한다.

1. 피지컬 AI 기기 정보 투명성 강화 및 안전 가이드라인 제정

최근 소비자들은 AI 기술이 탑재된 가전 제품에 높은 기대치를 보이고 있으나, 실제 활용 과정에서의 불안감 또한 공존하고 있다. 한국소비자원의 『AI 가전제품 소비자 인식 및 이용실태 조사』(2025.12)에 따르면, AI 가전 이용자의 불안감은 47.5%에서 55.4%까지 상승하는 양상을 보였다.

더욱이 구독 서비스가 결합된 형태의 AI 기기는 계약 조건이나 핵심 정보 확인이 어려워 소비자 피해가 증가하고 있다. 한국소비자원 소비자상담센터의 『가전 구독 서비스 관련 소비자 피해구제 접수 현황 분석』(2026.01)에 따르면, 최근 3년 6개월간 총 2,624건의 피해구제 신청이 접수되었으며, 2022년(636건)에서 2024년(886건)으로 피해 사례가 매년 증가하고 있다.

이에 피지컬 AI 기기의 판매 및 구독 과정에서의 정보 제공 의무를 강화하고, 기기 작동의 안전성을 담보할 표준 가이드라인 제정이 시급하다.

1. 피지컬 AI 사고 시 책임 소재의 명확화

피지컬 AI는 자율적인 학습과 판단을 통해 작동하므로, 예기치 못한 사고 발생 시 제조사, 소프트웨어 개발자, 운영자 간 책임 소재가 불분명해질 위험이 크다. 특히 기기 오작동이 인명이나 물리적 환경에 직접적인 영향을 미치는 경우, 기존의 제조물 책임법만으로는 피해 구제에 한계가 있다.

피지컬 AI 환경에서의 무과실 책임 원칙 도입과 입증 책임의 합리적 전환을 통해, 소비자 피해가 발생했을 때 신속하고 명확한 구제가 이루어질 수 있는 법적 근거를 마련해야 한다.

‘설계 단계부터 보안(Security by Design)’ 원칙 의무화

피지컬 AI는 센서를 통해 민감한 환경 및 개인 정보를 수집하며 네트워크에 상시 연결되어 있어 사이버 공격에 매우 취약하다. 이는 단순한 데이터 유출을 넘어 물리적 파괴나 인명 사고로 이어질 수 있는 중대한 위험 요소다.

제품의 설계 및 개발 초기 단계부터 보안 요소가 포함되는 ‘Security by Design’ 원칙을 의무화하고, AI 기기가 다루는 데이터에 대한 엄격한 보안 거버넌스를 구축해야 한다.

소비자주권시민회의는 기술 혁신이 소비자 보호라는 전제 위에서 지속 가능해질 수 있음을 강조한다. 정부와 기업은 피지컬 AI 시대를 대비해 소비자를 데이터의 수집 대상이 아닌 보호받아야 할 주체로 명확히 인식하고, 관련 정책과 제도를 전면적으로 점검할 것을 강력히 촉구한다.[끝]