lida

在小程序中上传一张照片，“一键换脸”生成一段以自己为“主角”的新视频；培养一位自己喜爱的歌手的AI版，然后指挥它去唱歌；用言语简单描述自己希望看到的画面，自动生成一幅精美画作……曾经离我们很遥远的AI，如今正迅速进入到大众生活中。 这两日，随着“AI换脸”惹官司、“AI孙燕姿”引发版权争议等一连串热点事件的持续发酵，AI技术被推至舆论的风口浪尖。随着AI技术应用场景的日益丰富，其所带来的一系列法律风险也引发各方关注和担忧。在拥抱新技术的同时，一个问题不容回避：如何避免人工智能技术被滥用，让AI更好地造福于民？ 你AI了我，还一笑而过？ 林华（化名）是一名拥有几十万粉丝的短视频博主，日常喜欢在账号上发布一些国风造型短视频。2021年6月，她通过账号发布了一段短视频，视频中她以古风妆容、汉服造型出镜。但没过多久，她就在“AI视频换脸”微信小程序中发现含有该短视频中外部形象的视频要素合成模板。一般用户通过付费成为小程序会员后，上传个人照片，就可以将视频模板中的人脸替换为照片中的脸，生成一段新视频。林华以侵犯肖像权为由，将小程序的运营公司诉至南京江北新区法院。 法院审理认为，换脸后的新视频中，人物的面部特征发生变化，但对比原视频素材，仍能通过未被修改的衣着服饰、肢体动作及相应的场景细节识别出该身体形象对应的主体系原告。因此，无论是对于原视频中对应的身体形象，抑或是案涉视频要素模板和“AI换脸”后视频中对应的身体形象，原告均享有肖像权。被告未经原告同意，擅自将含有原告肖像的视频存储在小程序中作为可供用户选择使用的合成视频要素模板，系利用AI信息技术手段编造或者伪造他人肖像的行为，侵害了原告的肖像权。法院一审判决被告书面赔礼道歉并赔偿经济损失。 记者检索发现，由“AI换脸”引发的肖像权纠纷并非个例。去年12月，杭州互联网法院公布了一起同类案件。最终，法院判决被告App开发者向“被换脸者”赔礼道歉并赔偿损失共计5000元。 省法院民一庭法官秦岸东列举了“AI换脸”可能带来的三种法律风险：未经权利人同意进行换脸，可能侵害当事人的肖像权；如果AI换脸图片、视频涉及不雅行为，进行恶意丑化，可能侵害他人的名誉权；制作者未获授权制作AI换脸图片、视频，歪曲篡改原作品的主旨并提供给公众，可能侵害著作权人的信息网络传播权、保护作品完整权。“可以预见的是，随着技术的普及，应用门槛的降低，案件数量会不断增加。” 无独有偶，音乐领域也因为AI的介入掀起波澜——连日来，B站的年轻人们乐此不疲地收听由“AI孙燕姿”翻唱的周杰伦《半岛铁盒》，指挥“AI Ladygaga”翻唱韩红的《天路》，尝试让“AI张学友”唱陈奕迅的《孤勇者》等等。在某平台上，“AI孙燕姿”翻唱《发如雪》的浏览量已超过百万。记者注意到，不少这类翻唱歌曲的创作者大多会列出免责声明，声称创作仅出于兴趣，不以此盈利。 省法院民三庭庭长汤茂仁分析认为，根据著作权法相关规定，以个人学习、研究或者欣赏为目的，使用他人已经发表的作品等合理使用情形下，可以不经著作权人或表演者同意，也不需要支付报酬。但是，利用明星音质进行AI模型训练做成仿真歌唱者演唱的音视频后，将其上传到网络平台依然可能构成侵权。“未经授权将此类AI歌曲上传至网络平台，势必会产生相当的流量和收益，同时会影响或损害歌曲版权人或原表演者对著作权或表演者权及其产生的收益，降低他们创作或表演的热情，涉嫌侵犯著作权法保护的著作权和表演者权，对整个行业也将带来极大冲击。” 低技术门槛催生应用乱象 从“一键换脸”到“AI歌手”，AI技术的应用场景越来越丰富，甚至呈现出泛滥趋势。 记者在微信搜索框输入“AI换脸”，搜索出的相关小程序多达80余个。排在置顶位置的小程序“换脸AI”，显示最近有1000余人使用过。点击进入小程序界面后，记者分别上传两张模板图片：变更前的模板图、需变更的人脸图。图片提交完成后不到1分钟，就免费生成了新图片。记者又尝试了另外5款“AI换脸”小程序，除了自定义图片换脸，还有表情包换脸、变年龄换脸、变性别换脸、照片修复翻新等。这些小程序中只有在首次进入界面时有弹窗提醒“使用者需严格遵守相关法律法规”，其余均无任何提示。 记者多次尝试发现，只要用户上传的人脸图像为无遮挡的正脸照，经过AI生成图片或视频的“换脸”效果都较为逼真，肉眼很难分辨是否经过技术处理。其中“换脸”视频只在生成界面有“视频由AI技术合成”“该内容仅供娱乐”字样水印，下载保存在手机相册后视频上并无任何水印，而“换脸”照片则是全程无水印。 在艺术圈名声大噪的“AI绘画”，玩法也是五花八门。在抖音平台的“AI绘画”功能中，共有多达55种特效模式可供选择。 而要“创作”一个AI歌手，门槛同样低得惊人。在某平台上随手搜索“AI歌手教程”，就能收获一系列手把手教学的“贴心服务”。具体的操作是将目标歌手的声音（从几分钟到几小时不等）灌入A程序提取纯净的人声，然后灌入B程序训练AI，AI完成对音色的1∶1克隆后，再植入到C程序，经过一系列处理后，就能被拿去“翻唱”其他歌曲了。 之所以能变得如此便捷，离不开DeepFaceLab、So-vits-svc这两大开源项目。国内某顶尖通讯公司程序员王柯（化名）告诉记者，目前市面上看到的绝大多数“AI换脸”程序主要由DeepFaceLab制作。其本质是一种将深度学习与计算机视觉相结合的合成技术，可以将一个人的面部特征转移到另一个人的面部，产生逼真的换脸效果。 所谓开源项目，即软件开发者公开其软件源代码，并允许其他人免费查看、修改和再分发这些代码的软件项目。得益于一批批程序员们对项目的不断升级和修补，复杂的AI软件如今变成一个普通人也容易上手的AI工具。“一台电脑，下载一个工具包，没有任何编程基础的小白也能轻松制作一个‘AI换脸’小程序。”王柯说，与“换脸”相比，声音模型对数据采集的要求更为苛刻，需要至少1个小时以上的原始素材，而且声音越优质、越干净，效果越好，“孙燕姿、周杰伦这些歌手的声音，市面上素材多、音质特点明显，更容易成为AI学习的对象。” 防止技术“作恶”，关键管住用技术的人 尽管目前由AI引发的司法案例还不是太多，但眼花缭乱的应用已经在给法律、监管甚至伦理出难题。 秦岸东说，如果越来越多经过AI“深度伪造”的视听证据进入诉讼，将会大大增加法院审查视听证据真实性的难度。他告诉记者，以往对视听证据真实性的认定，法院一般会在证据存在肉眼可见的瑕疵或者当事人有初步证据证明可能存在伪造、变造等情形下，启动司法鉴定程序鉴别真伪。AI的介入，将导致司法机关不得不更加频繁地启动司法鉴定，此举无疑将增加诉讼的时间成本和经济成本，“在AI‘深度伪造’泛滥情况下，法官甚至可能不敢采信视听证据，导致当事人的合法权利得不到保障。” 技术滥用引发的各种争议，也让从事AI技术研发的南京航空航天大学计算机学院副教授梁栋感到担忧：“当‘AI换脸’、虚拟人像等深度合成行为变得普及，一些不法之徒很可能利用AI做出违背伦理、触犯法律的事情，危害社会公共利益乃至国家安全。” “技术是中立的，AI发展本身无可厚非，但发展技术的同时，如何规避相关风险，值得我们思考。”在梁栋看来，用技术手段加强对技术的监管，是一个思路。“这就好比计算机杀毒软件需要不断更新升级一样，随着‘AI换脸’技术仿真精度日益提升，我们的‘识别’能力也要不断升级，研发更为高级的‘换脸’检测技术。” 防止有人用技术作恶，关键是管住使用技术的人，把技术关进制度的笼子。去年年底，国家网信办、工信部、公安部联合发布《互联网信息服务深度合成管理规定》，要求平台对于用户利用App生成的新内容要留有备案，以技术手段清晰标注该内容是智能生成的作品。今年4月11日，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》，提出不得利用生成内容损害他人形象、名誉以及知识产权等其他合法权益。 东南大学法学院副研究员徐珉川分析，这两个制度思路基本一致，即主要规制内容的生成行为，重点明确了网络服务提供商的责任。“这样的治理方案，偏向于一种应对形势快速发展的回应型规制措施，还不能覆盖到生成式人工智能从研发、应用再到消费领域等各个阶段的实践，只是事前预防性先上一个‘紧箍咒’。”他认为，合理看待AI技术可能带来的法律风险，首先要合理区分看待研发阶段、应用阶段的不同情况。如果在技术研发端过早进行较强的规制，可能会束缚住技术发展的“手脚”；但在技术应用阶段，特别是对于一些技术滥用行为，仍有加强规制的迫切性和必要性。他分析，整治当下“AI孙燕姿”“AI绘画”“AI换脸”等应用存在的乱象，应当明确网络平台承担的责任边界，“平台是内容传播流通的关键节点，应当由其加强对技术滥用行为的审查和管理。” 秦岸东持类似观点：“在网络时代，其非法使用造成的大规模传播可能对民事主体人格权造成极大伤害。”他建议，要进一步加强人格权司法保护，特别是网络服务提供者要承担相应的义务。比如，网络服务提供者如果未按照避风港规则在接到通知后采取必要措施，应对损害的扩大部分承担连带责任。 在徐珉川看来，随着人工智能的技术发展，生成式人工智能的研发、运用，特别是成果的海量生成、广泛传播将带来很多新问题，这些问题横跨多个领域，不仅仅涉及到著作权，还牵涉不正当竞争、市场监管、互联网服务管理等一系列制度性的设计和安排。“从数字法治的整体治理效果的角度看，学界、实务界、行政部门都要综合考虑各类法律法规的系统性协同治理。” 新华日报·交汇点记者顾敏陈月飞王慧陈珺璐华夏 编辑: 倪方方

转自：荔枝新闻 如今，在世面上流行的AI“换脸”软件上，用户可以通过上传照片，秒变成视频里的主人公，这种新技术得到了不少年轻人的喜爱。然而，娱乐的背后潜藏着的是法律上的风险，一不小心，可能就成了侵权者。近日，太仓市人民法院就审结了一起因“AI”换脸引发的侵权纠纷。 　　一家公司开发运营某APP软件，在该软件中，该公司将网络上受欢迎的含有他人人脸的视频上传为模板供用户换脸使用，如用户想解锁全部视频模板以及高清无水印导出视频，必须付费购买其会员。该软件的会员能够自行创设换脸图片，形成除脸部特征不同之外其他内容与原视频相同的视频。小王是短视频平台创作者，发布的短视频作品拥有数万点赞，拥有150万粉丝。小王在该公司开发运营的某APP软件上发现自己的原创视频被传为模板。小王认为该公司在未经其授权同意的情况下，在APP首页上传以其肖像为原内容的视频作品提供给用户换脸使用而非法牟利，侵害了其肖像权。为此，起诉到法院。 　　法院经审理后认为，小王在短视频平台发布的视频资料中含有其人脸信息，该视频资料中的肖像权应受到法律的保护，被告公司不得未经同意以营利为目的使用含有小王肖像的视频。后在法院的组织下，被告公司对小王表示歉意，并愿意赔偿小王的经济损失，小王对此表示接受，最终双方达成和解。 　　法官表示，《民法典》第一千零一十九条规定：“任何组织或者个人不得以丑化、污损或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。”“AI换脸”技术是机器学习过程和能力的一种革新，技术本身中立，但是不能滥用技术挑战法律和公序良俗的底线。公民一旦发现自己的肖像被盗用或被换脸，应当第一时间通过截图、证据保全等方式保留证据，以便后续维权使用；同时向网络平台运营商投诉，要求下架侵权图片或视频，避免损失进一步扩大。 　　（《零距离》记者/孙艳 编辑/赵梦琰） 来源：荔枝网 海量资讯、精准解读，尽在新浪财经APP

　　财联社 　　当地时间周四，微软总裁布拉德·史密斯、首席法务官Hossein Nowbar联合发布声明称，进一步扩大对用户使用微软Copilot服务的知识产权纠纷支持承诺。 （来源：微软博客） 　　人工智能巨头在声明中表示，虽然微软Copilot这样的变革性工具为更多可能性打开了大门，但一些用户也在担忧，他们使用生成式AI产生的作品可能会带来知识产权侵权的风险。考虑到近期作家、艺术家团队公开对大模型如何使用他们的作品提出公开质疑，有这样的担忧也在情理之中。 　　所以，微软也在周四更新了Copilot的版权承诺，为客户们提供了一个明确的答案：如果你因版权问题受到质疑，微软将承担可能涉及的法律风险。 　　具体来说，如果微软的商业用户因为使用Copilot或者微软AIGC服务产生的作品被控侵犯版权，只要客户使用了产品中内置的安全措施和内容过滤器（这项功能旨在降低AI返回潜在问题内容的可能性），微软将为客户出庭辩护，并支付任何不利判决引发的赔偿或和解费用。 　　微软强调，过去二十年里公司一直在为商业用户进行版权官司的辩护，这一点在AI时代并不会改变。用户使用Copilots是向微软付过钱的，所以因此造成的版权纠纷，公司应当将此视为自己的问题，而不是推给客户自己去解决。 　　微软表示，新的Copilot版权承诺扩展了现有的版权赔偿覆盖范围，特别是针对付费版本的微软商业Copilot服务和Bing Chat企业版，包括将AIGC引入Word、Excel、PowerPoint等的Microsoft 365 Copilot，以及面向程序员群体的GitHub Copilot。目前GitHub的AI助手售价为每月19美元，而365 Copilot仍处于内测状态。 　　除了微软外，版权巨头Adobe也在今年6月承诺，为使用“萤火虫”AI的商业用户提供知识产权纠纷的保障。 　　对于最新进展，伦敦大学学院（UCL）的知识产权法教授Ilanah Fhima解读称，此举打开了市场，如果企业知道自己能够得到这样的保障，这将消除企业启用AI的障碍之一。 　　但AIGC的法律拉扯仍在早期阶段 　　由于AIGC功能本身的不可预知性，以及法律法规和判例的缺乏，AI在知识产权领域的责任框架可以说并不清晰。 　　目前微软也在面临多项与AIGC有关的诉讼。举例而言，有程序员起诉微软GitHub蓄意违反开源软件开发的规则，另外还有一个匿名组织正在谋求对微软和OpenAI发起集体诉讼，指控他们“偷窃”大量个人数据，用于开发AI并牟利。 　　令情况更加复杂的是，美国高院在今年5月裁决支持一名摄影师指控视觉艺术家安迪·沃霍尔的案件，原告的诉求正是安迪·沃霍尔依据他拍摄的音乐家普林斯，所创作的肖像画侵犯版权。虽然这件事情发生在上世纪80年代，但这个案例无疑会令AIGC社区惊出一身冷汗。 （照片与安迪·沃霍尔，来源：法庭文件） 　　不过Fhima教授也表示，技术发展符合公众利益，同时严格的版权权利并不总是得到执行，因此微软承担的可能是事先经过精确计算的风险。 现在送您60元福利红包，直接提现不套路~~~快来参与活动吧！ 海量资讯、精准解读，尽在新浪财经APP 责任编辑：周唯