【企业关注】技术的发展历来就是双刃剑
。。
 　　特别是在算力、、算法、、、数据三要素大幅提升的前提下
，
，生成式人工智能逐步迈进3.0时代，
，
，，在文化、
、、、教育、、、、娱乐
、、、媒体、
、设计、、、科研、、、广告等多个业务场景产生深远的影响。。。。
 　　与此同时，，，，生成式人工智能带来的技术滥用、、、虚假信息传播、、、
、个人信息权益被侵害、
、、
、数据泄露或偏见歧视等安全问题也越来越凸显。
。
 　　特别是，，，，不久前，，，，3·15曝光的“AI换脸”诈骗成为关注的焦点
，，技术的发展和普及模糊了真实和虚拟的界限，
，也滋生了不少破坏AI安全性和伦理性的因素。。
 　　在虚与实、
、真与伪之间，，
，，AI技术将走向何方？？
 　　技术成熟
 　　追本溯源，
，，生成式人工智能技术的不断进步，，
，，也意味着深度伪造相关技术也越来越成熟。。。。
 　　据了解，
，深度伪造技术被称作“生成式对抗网络”(GAN)的机器学习模型将图片或视频合成并叠加到源图片或视频。。
 　　近年来，，，
，由于深度伪造开源技术的开源流通与国内外各大应用程序的发行，，，深度伪造的技术门槛越来越低，，，也使得AI换脸
、、、拟声等技术广泛应用。。。
 　　与此同时，，深度伪造制作的原材料是个人音频、
、图片、、
、视频，，
，这些数据越多，，，训练出的视频也就越逼真、、越难以鉴别。。
 　　辨别真伪
 　　此前，，央视 315 晚会在其保留项目“信息安全实验室”中，，，，穿插了一段对“AI诈骗”的科普，，，通过3个真实案件详细揭示了AI换脸、
、AI换声诈骗的手法，
，，引发了广泛关注
。。。
。
 　　而据长期关注AI安全的瑞莱智慧的不完全统计，，AI诈骗案件数量在近年来快速增长，，仅2023年一年在全国已发生至少16起
。。。。
 　　众所周知，，，AI发展的三驾马车“算法、、算力、、、
、数据”，，，数据尤为重要，，
，其安全性则是重中之重。。。
 　　随着人工智能技术的广泛应用，，诈骗的精准性、、迷惑性和隐蔽性都在增加。。。这为公安、
、、检察等执法机关在侦查、、收集电子证据以及认定和处理案件方面带来了新的挑战和困难
。。。。
 　　由于深度合成内容越发逼真
，，，，采用技术手段进行鉴别的解决方案也随之出现。。。据业内人士介绍，，
，常用的方法包括基于伪造内容数据集完成对模型检测器的训练、、基于帧间不一致性实现对伪造内容的判别等。
。
。
 　　因而，，深度伪造技术越来越成熟的同时，，，，也需要不断加强反深度伪造技术的迭代更新，
，
，，更需要监管层面的不断约束，，助力更安全可信的AI技术环境的发展
。。。。
 　　技术监管
 　　在AI技术赋能千行百业的同时，，暴露的个人隐私安全
、、、、信息安全等层出不穷
。
。。
 　　为此，，，监管层面也陆续推出了不少应对策略。。
 　　2023年7月，，国家网信办联合国家发展改革委、、、教育部、、、科技部
、
、工业和信息化部
、
、、
、公安部、、
、广电总局发布《生成式人工智能服务管理暂行办法》中指出，，服务提供者应当对图片、、、视频等生成内容进行标识。。。。
 　　目前，，
，如抖音、、、B站等视频平台都已上线了相关提示功能，，在有AI参与制作的视频内容下都出现了“疑似AI生成”的提示。。
 　　2024年2月
，，，，全国网络安全标准化技术委员会发布了技术文件TC260-003《生成式人工智能服务安全基本要求》，，提出了服务提供者需遵循的安全基本要求，
，包括语料安全
、、、、模型安全
、、、安全措施、、、安全评估等，，
，，并给出了适用范围。
。
 　　总体而言
，
，，《基本要求》的发布将有助于建立更安全
、、、透明和有序的生成式人工智能服务生态系统。。。。
 　　结语：
 　　不久前，，
，，看到一个消息，，
，AI还原朝元图百年前的色彩，
，不仅还原了八百年前的数据真相，
，，也修复了朝元图近千年来所遭遇的变色、、
、、褪色、、、破损、、、、裂纹、、污染等。。。。
 　　在古法修复壁画的技艺面临后继无人的窘境之下，，AI 技术可以短时间内完成任务，
，体现了科技对文化遗产的守护和传承。。。。
 　　综上来看，
，，，AI技术的双刃剑效应凸显，，在助力于文化、、教育
、、、、科研等领域的深度赋能之外，
，，，也滋生了不少罪恶的温床。。。。
 　　总结来说
，，，，AI换脸技术在为我们带来便利的同时，，，
，也引发了一系列伦理问题。
。。为了确保技术的健康发展，，需要加大监管力度，，，，对AI技术的研发和应用进行严格的审查和监督，，确保技术的健康发展。。
。同时，，，可以研发更加先进的AI识别技术，，对生成的虚假信息进行实时检测和过滤等等。。。