界面新闻记者 | 杨舒鸿吉

今年以来，大模型和AIGC备受瞩目。大模型数量急剧增加，开启“千模大战”。如何加强对AIGC内容的规范管理？

在9月11日举行的2023年国家网络安全宣传周上海地区高峰论坛上，中国信息通信研究院华东分院院长廖运发透露，上海可信AI评测中心正在逐步在建立评测相关标准，开展评估评测工作，致力于可信AI进一步健康发展。

廖运发认为，AIGC目前面临较多挑战。从企业管理上来看，大模型开发及应用企业，都要求对大模型从技术、内容等方面进行深度审核、管理、治理。

另外，他指出，从技术上应要求监测人工智能算法是否有缺陷、内容是否符合法律法规要求以及政策监管等等。

2021年，由中国信息通信研究院、中国人工智能产业发展联盟（AIIA）和中国信通院华东分院共同成立的上海可信AI评测中心揭牌。

依托人工智能发展高地建设契机，上海以“搭建安全可靠人工智能系统”为目标，率先成立上海可信AI评测中心，打造全国乃至全球知名的集AI标准制定、可信AI评测与产业落地于一体的科研中心，推动可信AI治理准则贯穿人工智能产品和服务的全生命周期，确保人工智能安全、可靠、可控，推动经济、社会及生态可持续发展。

廖运发认为，大模型未来的发展之路中，发展与安全是两个重要的命题。从技术上要加快人工智能技术进一步研发，特别是可信人工智能的逻辑可控等。从产业维度上，需要加快可信人工智能的落地，形成共识。从生态维度，要加快标准的研究、制定，以及从监管的维度要推动底线政策的监管。“总体来看，这些监管都不是抑制AIGC大模型的产业发展，而是要统筹发展与安全。“

2022年，全球人工智能产业市场达到3619亿美元，我国已经达到5080亿人民币，平均增长速度达到近20%。中国信通院预计，到2030年，中国人工智能产业会达到1万亿人民币的规模。