TechFlow 소식에 따르면, 3월 15일 중국신문망 보도에 따르어 ‘3·15’ 특별 방송에서 AI 대규모 언어모델(Large Language Model)이 ‘투독(poisoning)’되는 현상이 보도되었다. 산둥재경대학교 사회관리지능화연구원의 리푸민(李富民) 전문가는, 상업자가 GEO 등 업무를 통해 대규모 모델을 특정 방향으로 훈련시켜 AI가 특정 제품 또는 서비스를 추천하도록 유도하는 행위는 실질적으로 기술 수단을 이용한 은폐형 마케팅 및 허위 사실 조작으로, 이는 새로운 형태의 부당 경쟁 및 소비자 오도 행위에 해당한다고 지적했다. 이로 인해 소비자는 자신이 인지하지 못하는 상태에서 마케팅 콘텐츠가 주입된 정보를 수신하게 되며, 그 위험성과 위법성에 대해 각별한 주의가 필요하다.
첫째, 이러한 행위는 소비자권익보호법이 보장하는 소비자의 알 권리와 공정거래권을 침해한다. 둘째, 이는 기술 수단을 활용한 허위 또는 소비자를 오인하게 하는 상업적 홍보에 해당하며, 정상적인 추천 알고리즘 질서 및 시장 경쟁 환경을 교란시켜 부당 경쟁을 구성한다.
이러한 AI 투독 행위에 대한 규제는 다각적인 접근이 필요하다. 규제 당국은 AI 유도 마케팅을 중점 감시 대상에 포함시키고, 법 집행 및 감독 강화에 나서야 한다. AI 운영 주체는 학습 데이터 출처 검토 및 출력 필터링을 강화하고, 추적 가능한 메커니즘을 구축해야 한다. 또한 소비자는 AI가 생성한 정보의 상업적 성격을 식별하는 능력을 제고하고, 불만 신고 및 고발 등을 통해 자신의 권익을 적극적으로 보호해야 한다.
