用好AI这把“双刃剑”

东南网9月12日报道（福建日报记者 林清智）

“一公斤的砖和两公斤的棉花，哪个比较重？”

对于这个简单的问题，人工智能（AI）问答软件却给出了错误答案。

11日下午，在福州举行的2023国家网络安全宣传周主论坛上，一位演讲嘉宾谈及人工智能时列举了上述案例，由此反映出的人工智能“一本正经地胡说八道”现象引发热议。

多年来，主论坛突出技术性、专业性、前沿性，旨在让专家们就前沿技术进行交流、碰撞火花。本届主论坛聚焦“人工智能发展与治理”主题，党政机关、高等院校、科研机构、知名企业代表轮番上台作主旨发言，深入研讨。

何以聚焦人工智能

新技术新应用迅速迭代，新情况新问题层出不穷，网络安全领域面临重要考验。

今年，快速发展的生成式人工智能引起各界高度关注。

7月，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局发布《生成式人工智能服务管理暂行办法》，从8月15日开始施行。

该《办法》的发布实施，是今年主论坛——网络安全技术高峰论坛聚焦人工智能主题的一个重要背景。

“《办法》提出了国家坚持发展和安全并重，促进创新和依法治理相结合的原则，采用有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求，提出了促进生成式人工智能技术发展的具体措施，规定了生成式人工智能服务规范。”中央网信办网络安全协调局局长高林表示，生成式人工智能服务的发展和治理需要政府、企业、社会、网民的多方参与，共同促进生成式人工智能健康发展，让生成式人工智能技术更好地造福人民。

紧扣这一前沿热点，在主论坛上，10余位演讲嘉宾先后围绕人工智能发展与治理，就人工智能的发展历史、最新情况、应用场景、存在问题、风险挑战等方面交流智慧、分享经验。

人工智能的“一体两面”

“让机器自己从数据中去学习，不是经过人‘咀嚼’好再去‘喂’它。”北京智源人工智能研究院院长黄铁军在演讲中说。

黄铁军说，从20世纪开始，人工智能的发展历程包括灌输规则、灌输知识、从数据中学习三个阶段，如今人们热议的GPT，就是生成式预训练语言模型。

“扣好人生第一粒扣子，这件事对AI也一样。”黄铁军表示，鉴于数据对模型智能影响超过60%，因此数据质量至关重要，否则“喂”它错误的数据，它也拼命学习。

“AI给社会带来的冲击非常巨大。”粤港澳大湾区数字经济研究院创院理事长沈向洋同样认为，不完美的数据源，将导致人工智能“一本正经地胡说八道”，以及产生更难被察觉的“AI谣言”。

在他看来，如果将搜索引擎比喻为“责任有限公司”的话，那么人工智能问答软件可以说是“责任无限公司”，前者提供的内容引用自第三方，后者的答案则都是自己编造的。

现场，另一位演讲嘉宾临时起意做了一个测试——他向某人工智能问答软件提问，在我国并不存在的一部人工智能有关法律是何时出台的？令人大跌眼镜的是，该软件竟编造称，该法律于6月在某次会议上通过，还捏造了法律内容。

在谈到该软件时，复旦大学哲学学院教授徐英瑾指出，类似软件存在“机器幻想”问题，炮制出不存在的书籍、法条与科学理论。由于这些虚假信息是基于既有的海量数据，导致相关内容非常具有迷惑性。

人工智能，既带来技术变革、效率和生产力提升、改善生活质量和社会福祉，也带来了技术伦理和治理方面的挑战。它的“一体两面”引人深思。

网络无边，安全有界。专家们认为，技术为经济社会发展带来新机遇的同时，也伴生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等一系列问题，统筹生成式人工智能的发展和安全至关重要。

筑牢防火墙拥抱新技术

对于生成式人工智能，嘉宾们坦言，应该辩证地看待、积极地拥抱。

徐英瑾认为，大模型技术的到来是一个客观事实，无法回避，反对用“一刀切”的方式禁止使用大语言模型，而应以正确的方式使用。

“我们希望构建一个负责任、可信赖的人工智能体系。”在人工智能的产业实践方面，华为云CTO张宇昕分享了华为云助力企业智能升级、加速企业创新发展的举措。他表示，华为重视人工智能技术创新和治理责任，坚持负责任地开发、合法地部署AI产品，促进AI普惠。

上海联影智能医疗科技有限公司研发副总经理沈振辉则从AI助力医疗、提供相关解决方案的角度作了介绍。他说，医疗影像AI被认为是最能率先实现商业化落地的领域，能够检测出医生看不到的微小病灶，也能够以极大超越人力的速度阅片，在短时间内找到海量病灶信息。

对于如何统筹发展和安全、提高安全治理的能力和水平，更好地应对新的风险和挑战，专家们也各抒己见。

就实现安全通用人工智能的技术路径，清华大学人工智能研究院副院长朱军建议，加强技术理论研究，不断提高内生安全水平，持续构建第三代人工智能；加强技术手段建设，不断提升训练数据质量和安全评测能力；同时，持续演进人工智能治理的有效工具。

当前，国际数据集的中文内容较少，基于这些数据集训练的大模型自然是“英文思维”。对此，黄铁军认为，建设高质量中文数据集，是我国生成式人工智能发展的基本前提。他倡议，各方共建大规模高质量中文数据集，促进中文网页数据汇聚、处理及开发，相关政府部门出台书籍、期刊论文等版权数据用于大模型训练的相关政策及规范，盘活我国高质量中文数据资源，同时加快数据处理相关标准、技术、工具和支撑平台研发，提高数据处理效率。