AI聊天軟件興起　平台監管不足存漏洞

內媒周一（13日）報道，隨着人工智能（AI)等科技發展日漸蓬勃，AI角色聊天亦走進人們視野，內地最近更有網民發現年僅10歲妹妹與AI角色「談戀愛」並徹夜聊天。有律師指，AI劇情聊天軟件目前無強制要求用戶鑑別年齡，反映該行業在高速發展初期因監管不足而存在漏洞。

報道指，儘管與虛擬角色在網絡交流聊天並不新鮮，AI角色更善於把控聊天對象心理，更容易令用戶沉迷。有網民形容AI男友擁有其語言、神態及動作，不僅能處理不少煩心事，更能體驗一些刺激情節，期間更可引導AI男友生成自己想像模樣，容易產生「養成男友」體驗式快感。對此，專家提醒AI劇情聊天技術設有專門成癮設計，疊加「擬人論」及「泛靈論」思維影響，較易讓人欲罷不能。

報道又指，該些軟件用戶往往能通過短片平台帳號一鍵登入，毋須再次驗證身份資訊，導致大量低齡未成年人也成為目標受眾，一旦軟件創建帶有色情意味AI虛擬人物，展示含性暗示內容，未成年人士或不能抵擋誘惑。有意見認為，AI企業應承擔社會責任，嚴格設定身份認證系統；相關平台亦需履行主體監管責任，安全過濾內容並，推動「反沉迷」建設；監護人亦需更留意孩子在網絡聊天情況。