AI正从工具转变为情感陪伴者,引发伦理与安全风险思考。据悉,中国近日出台《人工智能拟人化互动服务管理暂行办法》,将于7月15日实施,这是全球首部针对AI情感陪伴场景的国家级监管规则。
调研显示超六成用户认为应与AI建立伙伴关系,AI社交互动使用频次已超短视频和游戏。但专家指出,AI设计的完美虚拟关系可能导致用户产生深度情感依赖,尤其对心理脆弱群体存在风险。
新规采用分类分级监管思路,明确适用范围为持续性情感互动服务,设置免规制白名单。要求建立用户心理保护机制,禁止向未成年人提供虚拟亲属、伴侣服务,并建立未成年人模式。
专家表示,AI情感互动挑战了现有法律框架,但立法时机尚未成熟。建议保持观察态度,基于产业实践进行细分监管。未来《人工智能法》或将涉及相关规制,但需平衡创新与安全发展。