【
政策法规】2024年2月29日,,信安标委正式发布《生成式人工智能服务安全基本要求》(以下简称“《基本要求》”)。。。
《基本要求》规定了生成式人工智能服务在安全方面的基本要求,,,包括语料安全、、、、模型安全、、、、安全措施、、、安全评估等,,,,并给出了适用范围。。。适用于服务提供者开展安全评估、、、提高安全水平,,,,也可为相关主管部门评判生成式人工智能服务安全水平提供参考。。
其中,,,,语料安全,,通俗一点讲就是大模型训练所引用的的数据,,,,《基本要求》对这种训练语料来源的安全性提出了可操作的指引。。比如,,语料内容中含违法不良信息超过5%的,,,不应采集该来源语料等。。

对于其他模型安全、、、安全措施、、安全评估等内容,,这里不做过多阐述。。总体而言,,《基本要求》的发布将有助于建立更安全、、透明和有序的生成式人工智能服务生态系统。。。
另外,,,,有市场人士表示,,《基本要求》的发布在某种意义上是呼应2月15日美巨头OpenAI发布首个视频生成模型“Sora”。。毕竟对比2023年ChatGPT推出之后,,,市场对生成式人工智能技术的兴趣激增,,,,各种不合规的现象不间断涌现。。。。
至于目前生成式人工智能生态现状、、、发展趋势如何???看如下简要介绍!!!
产业成新质生产力?? 众所周知,,,当前生成式AI行业正处于快速发展阶段,,,,目前在教育、、娱乐、、、、媒体、、、设计、、、、科研、、、、广告等多个行业都产生深远影响,,,并逐步渗透至商业决策、、产品开发、、、、客户服务等诸多业务场景。。。。
在市场规模方面,,据彭博社预计,,,全球生成式人工智能的市场规模将在2032年扩大至1.3万亿美元。。。。国内方面,,,据工信部旗下赛迪研究院消息,,,预计2023年我国生成式人工智能市场规模将突破10万亿元,,,,到2035年将突破30万亿元。。。。
鉴于这广阔的市场,,,,为促进生成式人工智能健康发展和规范应用,,,,2023年8月15正式实施由国家发展和改革委员会、、教育部、、、、科学技术部、、、、工业和信息化部等七部门公布《生成式人工智能服务管理暂行办法》。。
此次再发布《基本要求》,,无疑是为生成式人工智能行业健康发展增添新的护航神器,,,,作为近期生成式人工智能领域最重磅的一个文件,,将推动行业应用加速落地。。。。
另外,,,在今年“两会”期间,,,多位人大代表与政协委员热议生成式AI,,,,关注人才培养、、场景落地、、、产业生态等问题。。
并认为当前生成式AI发展迅速,,,,应用场景不断拓展,,,,有望成为新质生产力。。。。建议加强顶层设计,,,,推动产学研合作,,构建开放共享的产业生态。。。。
在产业生态方面,,,国内生成式AI产业生态图谱主要包括基础设施层、、算法模型层、、平台层、、、、场景应用层、、、、服务层等部分。。。。
其中,,,基础设施层:包括 AI芯片、、、计算、、、存储、、网络、、安全、、、、基础设施软件等;算法模型层:包括通用、、、、面向行业的生成式AI大模型及模型库;平台层:包括大模型构建和编排、、应用开发部署、、、、数据管理软件及工具;场景应用层:面向生产效率提升、、业务、、行业搭建的应用,,例如文本生成、、、、图像生成、、、、音频生成、、、、视频生成、、、、数字人等。。。。服务层:跨越业务、、IT 和运营技术 (OT) 领域提供服务。。。。
挑战方面,,,生成式AI的快速发展也将带来新的挑战。。例如,,,,如何保护用户隐私、、、如何确保模型的安全性、、、如何制定合理的法规等。。。这些挑战将影响生成式AI行业的未来发展,,,,需要有针对性地进行深入思考和认真研究,,,并采取一系列迅速有效的举措,,,,以保障安全有效地应用生成AI。。。。
总体而言,,随着技术的进步和应用领域的拓展,,,生成式AI将进一步智能化和个性化,,为各个行业带来效率的提升和业务的创新。。。。
安企积极推出生成式人工智能产品 前面提到,,生成式AI技术的不断突破,,,将为各个行业带来效率的提升和业务的创新。。安防作为AI落地应用的******落脚点更是如此,,,,这也是目前市场的普遍共识。。
为紧跟市场发展的脚步,,截止今日安防知名厂商已推出自己的大模型,,,,例如海康威视的观澜、、、大华股份的星汉、、、宇视科技的梧桐等。。。。
据了解,,海康威视观澜大模型,,,现已进入多模态阶段,,,支持视觉、、、、语音、、文本等融合训练处理。。。。“观澜”大模型具备三层架构,,,分为最底层、、、、中间层、、、、最顶层,,分别对应基础类大模型(通用大模型)、、行业大模型(面向金融、、、交通、、、、能源、、工业等)和场景模型(用户模型)。。。。
为了支持大模型研发,,,,公司自建部署业内一流的数据中心,,,,构建千卡并行训练能力,,面对安防场景训练百亿级参数。。。截至23年上半年,,公司AI开放平台服务中小微企业超2万家,,,,生成模型超8万个,,,落地项目超1.4万个。。。
大华股份星汉大模型,,,,是以视觉为核心,,,融合多模态能力,,,,构建面向行业的大模型。。目前已经在城市治理和电力行业应用落地,,,未来将不断拓宽大模型行业应用场景,,帮助构建视频数据产业价值,,,,助推数字经济发展。。。以自研星汉大模型为底座,,公司未来将持续巩固在智慧物联领域的核心优势,,随各应用商业化落地快速发展。。
宇视科技梧桐大模型,,,,以通用大模型+行业场景+训练调优为架构,,集计算机视觉行业、、、、自然语言处理行业等于一身,,,能够充分满足多样化的任务和场景需求。。目前,,,,“梧桐”大模型第一阶段的落地成果,,,AI长尾算法训练平台、、边缘AI推理训练一体机,,交互式数据治理、、、数据驾驶舱、、、VR展厅等得到高效应用。。未来,,“梧桐”也将在AI文旅等视频内容商业化运营的新赛道发挥新价值,,,与合作伙伴携手共筑AIoT新生态产品底座,,共享差异化和增值点的红利。。。
值得注意的是,,,
安防企业要想构建生成式AI应用,,大体上可分为这几个步骤:找准场景、、选择模型、、、、模型适配和模型调整、、、、应用开发和部署。。。。也就是说,,,未来随着生成式AI的持续发展,,安防产业链各细分企业要想融合利用生成式AI技术,,或许可从公司聚焦的场景优先入手,,,从而助力安防+AI 稳健前行。。。。
综上所述,,,生成式AI行业市场现状良好,,,,竞争格局多元,,,,未来前景广阔。。。作为一个处在快速发展阶段的新兴行业,,,,生成式AI将持续为各个行业带来巨大的商业价值和社会价值。。