焦点热议:AI造假乱象频出 坚守底线是关键

(相关资料图)

原标题：AI造假乱象频出 坚守底线是关键

AI技术的发展是今年上半年的科技热点，但也有人打起了AI的歪主意。5月4日，微博平台上一名博主利用AI技术合成假视频，称缅甸邮轮上存在器官移植手术室。视频一经放出就引来了一大波流量，一度冲上微博热搜榜。随后，微博社区观察员官方账号@围脖侠 对上述消息进行辟谣并对造谣用户禁言，并请广大用户以官方新闻报道为准，切勿轻信各类通过拼凑网络素材、由AI合成的搬运视频。

这类AI造假乱象近年来多有发生，给人们带来诸多担忧。但AI技术终究只是工具，用好了利人，乱用了害人。归根结底，坚守底线才是使用AI技术的关键。

随着技术的飞速发展，AI合成作品越来越接近真实，不少不法分子利用AI技术造假博取流量，谋取利益。今年3月28日，广东广州一女子在地铁上的照片被AI“一键脱衣”，造谣图在网络广泛传播，对当事人的工作与生活造成了极大影响。4月7日，浙江杭州检察机关曝光了一个“女神群”，此群利用换脸技术将女星照片合成到淫秽视频当中，再进行贩卖，传播。这些行为在道德上毫无底线，在法律上严重侵害了被害人的肖像权、名誉权等，是对他人的不尊重，也是对法律底线的挑战。

类似的造假在各行各业中都有出现。4月15日，德国杂志《Die Aktuelle》利用AI技术生成了所谓的对“车王”迈克尔·舒马赫的“专访”，但最终被证实采访视频是由AI合成。在引起广泛争议后，该杂志出版商已向这位传奇人物致歉，杂志主编也火速被“炒”。

同样，AI技术在绘画界的运用也极为广泛，其中也不乏造假乱象。AI绘图本质上是把目前网络上已有的图片融合拼接起来合成一张新的图片，并不能算得上真正意义上的绘画。但由于其“方便快捷”，就有人使用AI技术，售卖无版权的AI图片。通过收集其他画师的作品来为自己生成新的图片，并用于商业用途，这是对客户的不尊重，也给相关画师带来了版权上的困扰。

技术发展的势头是不可阻挡的，技术本身无对错，但其应用不该突破底线，应当在正当、合法的领域合理使用。在使用AI技术时，我们都应恪守本心、坚守底线，使其在正道上发展，让AI技术真正利人、利己、利社会。（岳凯 李子羿）

关键词：