在《辦法》落地前，主打情感陪伴的「機械陪伴者」已上市。今年6月底，某品牌全尺寸仿生機器人亮相，訂單突破1.3萬台，引發社會對機器人科技倫理與安全的討論。
新華社引述西南政法大學教授張力指出，情感陪伴機器人的倫理底線涵蓋人身與內容安全、人機邊界、私隱數據、情感操縱、重點群體保護及責任可追溯。企業不得透過擬人化設計模糊人機邊界，不得誘導沉迷或利用用戶弱勢誘導消費。發生侵權或數據洩露時，須依法追究責任，不能以「機器自主行為」稀釋責任。
中國人民大學副教授黃尹旭表示，私隱安全與倫理治理是產業落地的前置條件，需推動治理前置於技術發展。張力補充，企業上市前應完成科技倫理審查。家庭場景應強調「預設私隱保護」，非必要不採集，數據盡量本地處理不上雲端，鏡頭和麥克風等傳感器須有清晰提示與便捷關閉方式。
相關報導：內地去年數字產業收入達39.6萬億元 人工智能用戶破6億
針對數據權屬，張力認為「數據歸屬於用戶」作為法律判斷不嚴謹。依法規，用戶對個人資料享有控制權，企業不得將購買或激活理解為概括、永久及不可撤回的同意。但經匿名化處理且不能復原的數據成果，不簡單歸屬單一用戶。京都律師事務所律師王菲建議，對不同應用方向實行單一許可，以平衡科技發展與保障用戶權利。
為防企業私自將數據用於模型訓練，張力提出多維度約束：規則上，須在協議中清晰說明採集目的及期限，用於模型訓練須單獨提示並獲同意；技術上，優先數據脫敏與加密，原始音視頻不宜長存，並提供關閉、刪除選項；監督上，監管可要求高風險企業說明數據流向；責任上，適用過錯推定規則，由企業舉證處理個人資料無過錯。
針對行業平衡創新與安全，黃尹旭指人形機器人行業應堅持以人為本，將安全倫理融入產品全流程，完善強制標準與質量管控。張力強調，情感陪伴機器人仍需更細化標準，建議：設計階段設物理急停及長幼保護模式，減少預設數據採集；研發階段進行極端場景測試，限制誘發沉迷的設計；廣告階段不得作「替代親情」等誤導承諾；應用階段落實安全更新、數據刪除及產品召回。
此外，強化質量管理需兼顧物理與網絡安全。一旦機械失靈或系統被攻擊，網絡風險將轉化為人身傷害風險。因此，質量管理應覆蓋結構強度、電池安全、碰撞檢測、網絡數據安全及應急停止等方面。
相關報導：當人工智能取代人類思考
2026年7月15日起施行的《人工智能擬人化互動服務管理暫行辦法》，規範內容包括境內利用AI提供類比人格、持續情感互動服務（不含智慧客服等），堅持安全與發展並重，網信部門統籌，多部門分工監管。禁止生成危害國安、誘導自殘、情感操縱等違法不良內容。提供者須落實主體責任，健全演算法審核、資料安全等制度；訓練數據須合法合規。須與用戶簽約，識別極端風險並聯絡監護人。
未成年人保護方面則有禁止虛擬親屬/伴侶，14歲以下需監護人同意，設未成年人模式，限時長、風險提醒；老年人須顯著提示風險。交互資料加密保護，用戶可刪除，敏感性資料用於訓練需單獨同意。須標識AI身份，超2小時提醒，提供便捷退出。上線、重大變更或用戶達100萬註冊/10萬月活須安全評估並備案。違規可警告、停服，罰款1萬至20萬元。
