美亚柏科发布AIGC鉴真工作站 防范生成式AI滥用风险|环球微头条
5月16日，美亚柏科（300188）公告发布了一则投资者关系活动记录表。记录表显示，在AI监管产品方面，公司已经发布了AI-3300“慧眼”视频图像鉴真工作站，可以对深度合成伪造的视频图像、AIGC生成视频图像进行监测鉴定。公司推出的AIGC检测平台支持AIGC生成文本的检测识别。
(资料图片)
随着AIGC内容大量涌现，相关应用在提升人们生产效率的同时，也有不法分子利用其生成虚假内容，扰乱社会运行的正常秩序，比如美亚柏科在投资者关系活动记录表中提到的，中国广东某地利用AI人工智能技术炮制虚假不实信息非法获利的案件。
美亚柏科AI安全首席科学家金辉曾在民生AI峰会上的发言中表示，AIGC生成式人工智能的内容确实让人很难辨别真假，造成很多虚假的新闻，让人颠覆了眼见为实的认知。犯罪分子也会利用生成式人工智能进行新型网络犯罪手段的诈骗，这都对人工智能安全带来一定的挑战。
对此，萨摩耶云科技集团首席经济学家郑磊在接受《证券日报》记者采访时表示：“为了避免这种情况的发生，必须研发相应的逆向鉴别技术和产品，作为人们日常防范这类违法犯罪活动的辅助工具，也为司法机关提供了执法证据和依据。”
此前，谷歌CEO桑达尔·皮查伊也曾表示，随着人们不断投入能力越来越强大的模型，谷歌也在深入研究AI应当肩负的责任，这包括让用户拥有可识别生成式内容的工具。
浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员盘和林在接受《证券日报》记者采访时表示：“此类工具未来在B端和G端有一定应用场景，尤其是当前生成式AI大行其道之时，图像鉴真将在未来成为刚需。”
美亚柏科表示，后续将持续围绕包括反生成式AI在内的AI安全及监管领域进行研究，并根据业务需要适时布局相关产品。
顶象技术安全专家田际云向《证券日报》记者介绍：“按照安全行业的说法，反生成式AI就是防范生成式AI滥用带来的风险。”
郑磊表示，反生成式AI依靠AIGC的逆向工程原理开发的人工智能产品，本身也属于人工智能，相当于对生成式AI输出的结果进行逆向解码，给出鉴别判断，或恢复到之前的原形状态。由于生成式AI输出的结果与人类制作的内容高度相似，如果不用逆向技术手段，难以和人类生成的内容区分开。在一些应用场景中，需要进行这样的鉴别，因此是有现实需要的。
盘和林认为，生成式AI能以假乱真，反生成式AI可以去伪存真，未来自觉标注AI生成将是免责和防伪的关键，而反生成式AI则是技术上的重要补充。
“对于AI监管，我们需要从多个方面入手，包括数据集获取的安全合规性、人工智能模型的可解释性和透明性、人工智能生成内容的识别和审核、建立相关的监管机制和法律法规。”中国移动（600941）通信联合会元宇宙产业委执行主任于佳宁在接受《证券日报》记者采访时表示，“美亚柏科在反生成式AI产品的研发和应用方面的布局和探索是非常值得肯定的，希望更多的企业和机构加入AI监管和安全方面的研究应用中，加强对AI滥用和AI作恶的打击力度，形成人机合作、共同治理的良好局面。”
标签：
