虚拟特许经营:人工智能时代出租声音与面孔的风险
授权自己的面部和声音来创建智能分身似乎是未来的生意。然而,如果没有一份严密的合同,“虚拟特许经营”就会变成生物识别盗窃。通过SAG-AFTRA工会的合同模板、FTC关于欺诈的警告以及欧洲《人工智能法案》严格的透明度义务,我们分析为何出售数字克隆而不限制渠道、期限和撤销权,并不等同于放大自己的劳动成果,而是将自身身份的关
出租自己的声音和面孔,让它们代替我们工作,这似乎是数字可扩展性的巅峰。这种“虚拟特许经营”确实可能转变为一个真实的身份许可市场,但前提是协议基础的同意必须是具体的、可撤销的、可追踪的且获得适当报酬的。没有这些铁一般的保障,商业承诺就会沦为对生物识别数据的赤裸裸的侵占和非法冒充。
SAG-AFTRA模式:声音不是资产,是身份
SAG-AFTRA工会提供了最具体且已经过集体谈判的身份特许经营规范模式。关于所谓“数字复制品”的既定规则明确涵盖形象和声音,要求在发布任何包含声音复制品的录音之前,必须获得明确的同意、关于预期用途的具体细节以及最低报酬的保障。
2024年与广告商签署的一项协议确立了一个基本原则先例:演员可以自主为自己的声音复制品定价。该合同规定最低报酬等于音频广告的工会费率,最重要的是,强制品牌必须为每一条使用复制品的广告获得明确同意。事实上,这是一项有针对性的使用许可,而非通用的、永久的转让。基本原则是,知情同意和报酬必须延伸至已故成员的复制品,且任何使用姓名或可识别特征来生成“合成表演者”的行为都需要正式授权。
客户服务与《人工智能法案》的壁垒
用于辅助和客户服务的AI增强虚拟形象如今已成为一个成熟的研究领域。然而,将关系委托给一张合成面孔会带来精确的商业和心理风险。基于一家国际电信公司真实数据的研究表明,聊天机器人的拟人化会降低客户满意度、恶化对公司的评价,并在用户已经愤怒时削弱购买意愿。
欧洲《人工智能法案》对这些动态进行了规范。第50条对与人类互动的聊天机器人、AI代理和虚拟形象施加了严格的透明度义务:供应商必须告知用户其正在与AI互动。此外,使用深度伪造技术的人有义务在首次展示时通过可见或可听的标签揭示其合成性质。在员工保护方面,第5条明确禁止在工作场所和教育环境中使用AI系统推断人的情绪,除非有特定的医疗或安全例外。
生物识别盗窃与克隆
缺乏严格的合同框架为剥削和欺诈打开了大门。美国联邦贸易委员会(FTC)已就声音克隆造成的危害发出专门警告,指出声音的侵占可能严重损害行业专业人士的声誉和收入。商业系统经常使用未经授权的真实声音作为训练数据。如今,只需收集一段简短的公开音频片段就能克隆人类声音,并将其用于电话诈骗活动以勒索金钱或个人信息。赋能虚拟特许经营的同一技术使非法冒充变得极其更加可信和可扩展。
面对一份合同时,核心问题从来不是“我能卖掉我的声音吗?”,而是“我是在授予一项有限许可,还是在出售一个他人可以无限复制的自己?”。一份转让自身生物识别特征的严肃合同必须细致区分语言、国家、渠道、期限、上下文、调用次数、广告用途、绝对禁止用于敏感内容以及撤销权。
如果你的声音可以授权开门、向客户销售产品或请求支付授权,那么在没有严格边界的情况下出租它并不意味着开创特许经营。这实际上意味着把家里的钥匙交给一个陌生人。
参考文献与来源
- Artificial Intelligence Resources — SAG-AFTRA [2468, 2471]
- Hollywood union strikes deal for advertisers to replicate actors’ voices with AI — Reuters [2467]
- Keeping the Workforce Human in the Age of A.I. — SAG-AFTRA [2469]
- Transparency obligations under Article 50 of the AI Act — 欧盟委员会 [2463]
- Article 5: Prohibited AI practices — 欧盟委员会 [1486, 1858]
- Preventing the Harms of AI-enabled Voice Cloning / Fighting back against harmful voice cloning — FTC [2449, 2451, 2455]
- Blame the Bot: Anthropomorphism and Anger in Customer–Chatbot Interactions — Journal of Marketing [2476]
- AI-powered avatar assistants: a systematic literature review — Journal of Ambient Intelligence and Humanized Computing [2472]
本文由La Bussola dell’IA编辑部撰写