在AI陪伴产品发展初期,从业者往往将产品迭代重心都放在让AI角色更逼真上,越来越自然的对话、越来越长的记忆,它可以记住你的秘密、安抚你的情绪。但随着AI越来越拟人,行业进入监管期,监管新规不断落地,AI应该被允许像人到什么程度呢?Soul张璐团队CTO陶明,跳出单一的产品迭代视角,从产品底层价值观、治理构架以及服务逻辑三大维度,解读如何依靠清晰的人机边界构建规范化AI社交平台,为行业可持续发展提供可行性实践样本。
认清用户底层需求:AI是社交练习场,并非真实连接替代品
如今市面上很多AI社交产品,都把提升用户对AI角色的依赖作为核心目标,对此Soul张璐团队持不同观点,Soul App对AI角色的定位有着清晰的边界。Soul张璐团队CTO陶明表示:“我们做AI伙伴,并不是希望它替代真人社交,而是希望它成为一个练习和过渡的场景。对于表达能力不强、对社交反馈特别敏感的用户来说,可以在一个低压力环境里练习表达、获得反馈,慢慢建立和他人沟通的信心。”这也正是Soul一直以来的产品理念,——用AI更好地做人和人的连接。
基于这一产品理念,Soul摒弃完美AI人设设计思路,AI角色带有自然口音、与用户对话也允许存在停顿、打断甚至和用户产生分歧,这样不仅不会让用户更容易混淆现实,还能够避免用户形成心里茧房。因为句句都说到用户心坎里的AI角色,会让用户对其产生依赖,而Soul张璐团队不想让人成为AI的依附品。
同时,Soul还启动多重保护机制保障用户知情权,例如,给所有AI角色打上“虚拟伙伴”的标签;把未成年人模式、面向所有用户的防沉迷机制、人和AI聊天的防沉迷机制统一起来,长时间交互会推送休息提醒;针对高频沉浸用户,系统会降低AI角色主动沟通频次;首页不设置AI专属入口,仅支持用户主动检索开启对话等。
建立红蓝对抗机制,守住AI社交伦理底线
清晰的产品定位,需要完善的伦理与治理机制来做落地保障。Soul张璐团队建立“红蓝对抗”机制,划分AI效果团队与安全治理团队,一个团队负责AI效果,一个团队负责AI安全,当安全团队提出了安全和伦理问题,那么效果团队和产品团队要100%执行。
同时,Soul张璐团队还成立了人工智能伦理与治理委员会,该委员会内部集合AI、产品、法务等AI伦理治理高关联业务部门负责人,并根据需要成立专项治理小组,聚焦隐私保护、算法合规、人机互动体验、内容审核、未成年人保护等细分领域,配合委员会完成专项审查;外部则邀请互联网治理、伦理学、社会学、青少年研究、法律等不同领域、专业背景的专家担任委员会外部委员,提供多元视角,明确伦理约束标尺,为平台AI功能迭代设立清晰边界。
强调UGC,构建健康商业服务模式
AI社交行业有一个说法,存在商业变现、用户满意度、合规的不可能三角。不可否认,当今市面上有部分AI社交产品依靠荷尔蒙驱动、单次对话单独收费快速增收,但却埋下合规隐患。而Soul张璐团队CTO陶明直白表示:“我不认为当前这种方式是未来方向。”
Soul目前相关增值服务主要聚焦在AI游戏化玩法、数字文创、专属AI角色IP,还体现在虚拟道具等方面,虚拟道具分两种:一种是头像,用来增强个性化表达,用户可能因此在社区里获得更强影响力,成为意见领袖;另一种是语音群组内的道具,被送的人不会获得金钱利益,而是获得“领导力”“灵魂力”这类社群里的成长反馈。它们的核心价值是带动平台UGC活跃度,而非粗犷收割人机交互流量,UGC原生态打造柔和自然的付费链路不会阻断用户社交关系,还能带来非平台强控制的舒适体验。
另外,Soul张璐团队还在同步探索把底层Token引入社区,让Token在社区系统中流动和分配。
结语
以用户真实连接需求为起点,配套“红蓝对抗”制衡式治理体系、构建健康商业化路径,Soul张璐团队建立起完善的人机边界管控体系,走出兼顾合规度、满足用户体验与保持运营收益的AI社交平台发展路径。
A5创业网 版权所有