中國消費者報南京訊 隨著當前數字化浪潮的快速發展，AI伴侶類應用迅猛發展，有的主打情感陪伴，提供情緒價值；有的融入角色扮演元素，讓用戶能夠與虛擬伴侶展開各種劇情互動。AI伴侶通過不斷學習對話內容，深入了解用戶的聊天風格、情緒變化和價值取向，成為“量身定制”的理想伴侶。然而這看似“深情”的背后，卻可能是“甜蜜”危機。近日，江蘇省消費者權益保護委員會指出，AI伴侶類應用可能存在隱私泄露、內容安全、消費陷阱和情感依賴等風險。

AI伴侶的誕生，為存在情感需求的群體提供了情感寄托的空間，在一定程度上緩解了孤獨感與焦慮情緒，但其潛藏的風險不容忽視，尤其是隱私安全問題。江蘇省消保委表示，部分AI伴侶應用在運行期間，存在過度收集用戶信息的現象，聊天記錄、地理位置、軟件使用習慣等數據，均被收集，甚至有應用在未經用戶明確同意的情況下，私自讀取其他軟件信息、瀏覽記錄及訪問相冊。一旦發生隱私泄露，個人權益、財產、生活等都將受到嚴重影響。并且，AI伴侶模型訓練數據來源廣泛，部分數據收集與篩選不嚴，部分應用存在傳播不良信息的風險，這些有害內容會對用戶尤其是心智尚未成熟的青少年的身心健康構成威脅。

AI伴侶的“陪伴”并非免費，應用里的收費模式多種多樣，包括會員訂閱制、虛擬物品銷售、功能付費解鎖、付費劇情和任務等等。部分應用的收費規則不僅缺乏透明度，還存在誘導消費行為，通過不斷推出新的付費項目、設置限時優惠等手段，刺激用戶進行非理性消費。沉溺這種“陪伴”更不可靠，AI伴侶模擬人類情感交流，引起情感共鳴，然而其給予的反饋內容并不是真實的情感體驗，而是基于預設算法生成的回應。用戶長期依賴這類虛假情感反饋，可能會對真實人際關系中的情感互動產生誤解，進而降低自身在現實生活中識別和處理真實情感的能力。

江蘇省消保委建議監管部門加大對此類應用市場的監管力度，定期對AI類應用的數據安全、算法合規性、內容合法性等進行檢查，對發現的問題及時責令整改，對嚴重侵犯消費者權益、違反法律法規的行為，依法予以查處。應用開發者需建立健全的數據安全管理體系，明確數據收集、存儲、使用、共享等環節的安全標準和責任，定期對數據存儲系統進行安全檢測和漏洞修復，加強員工的數據安全培訓，增強數據保護意識，多方面保障用戶數據安全。同時要建立嚴格的內容審核機制，對AI伴侶輸出的內容進行全面審核，確保其不包含任何誤導性、歧視性或不良價值觀的信息，加強對AI模型的訓練和優化，使其能夠輸出積極、健康情感反饋和建議，引導用戶樹立正確的價值觀。

消費者在選擇AI伴侶應用時，務必仔細審閱隱私政策，了解數據處理規則。優先考慮規則透明、數據保護強、口碑好的應用。在使用過程中，根據需求授權數據權限，避免授權敏感權限如地理位置、通訊錄、瀏覽記錄等。若發現存在過度收集個人信息的情況，應及時停用并反饋。（薛晶晶）