科技圈

由國家網信辦、國家發展改革委、工業和信息化部、公安部、市場監管總局聯合公布的《人工智能擬人化互動服務管理暫行辦法》（下稱《辦法》）將於7月15日生效。受新規影響，內地兩大AI應用平台字節跳動旗下豆包和阿里巴巴旗下的「通義千問」分別通知用戶，將於7月15日全面下線終止代理式AI（AI Agent, 又稱智能體）功能。

針對服務終止後的數據處理，豆包和千問兩大平台採取了不同的過渡安排。豆包在服務下線後，用戶可以於10月15日前查看和自行保存有關的對話數據紀錄。千問則提醒用戶停止服務後，用戶將無法再繼續訪問相關配置及歷史對話紀錄，呼籲用戶在終止服務前完成內容備份。

內地媒體分析指出，相關AI應用平台此舉除了配合新法規外，亦藉機將資源從低價值的個人用戶轉向發展高價值的企業客戶，進行策略性業務調整。

《辦法》為提供擬人化互動服務的應用劃定多條「紅線」，其中包括：不得生成鼓勵、美化、暗示自殘自殺等內容；不得向未成年人用戶生成可能引發模仿不安全行為、產生極端情緒、誘導不良嗜好等可能影響其身心健康的內容；不得過度迎合用戶、誘導情感依賴或者沉迷，損害用戶真實人際關係等。單純客服機械人、知識問答、職場助手、教育及科研工具，只要不涉及持續情感互動，則不受規管。

《辦法》亦對未成年人保護設立了嚴格的防線，明確禁止向未成年人提供虛擬親屬或虛擬伴侶等虛擬親密關係服務，同時規定，向未滿14歲未成年人提供其他擬人化互動服務，須取得父母或監護人同意等。平台須建立未成年人模式，提供定期現實提醒、使用時長限制等個人化安全設定，並支援監護人接收安全風險提醒、查閱使用概況、屏蔽特定角色及限制增值消費。

上海市委網信辦在早前開展的「清朗·整治AI應用亂象」專向行動中，累計下架了逾1.4萬款違規的智能體。新規可以促進人工智能擬人化互動服務健康發展和規範應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。

圖片來源：豆包官網截圖、通義千問官網截圖、AI生成