生成式人工智能的扩展风险与规制

作者：杜娟 华东政法大学，黑龙江省社会科学信息中心

人工智能作为目前人类先进的技术体系之一，正在人的活动和存在等方面重塑人的行为方式。生成式人工智能的快速发展，更是将这一趋势推到了极致，展现了人工智能定义社会、改变社会的可能性，也从根本上扩大了人工智能开发、改进和应用的现实风险。

生成式人工智能与传统基于自动化的人工智能系统有着根本的不同。生成式人工智能在高阶自动化的前提下，使技术逻辑不再停留于模拟和还原的阶段，而是在数据与算力加持下，形成了生成式的应用，表现了类人智能甚至是超人智能的特征。生成式人工智能技术不断进步，其以强大的功能与超强的智能不断地突破技术的应用边界，并深度影响着社会的运行和价值的追求，再在海量数据的调用、应用场域的泛化和算力资源的调用等方面，提出了许多全新的问题，考量社会治理的思想观念和实践方略。

生成式人工智能延续与发展了自有人工智能技术以来的风险挑战，又以技术范式进步的方式进一步扩展了风险。对于生成式人工智能可能带来的影响，必须要以确保数据安全的意识，形成认知风险边界的能力，真正从社会发展角度规制技术产生的社会风险。

首先，应该在社会治理观念上超越从“是”到“应当”的规范。人工智能的奇点来临，既延续了传统社会规制的一般逻辑，又产生了全新的问题。对于奇点来临的“创造性破坏”，显然不是修补既有治理逻辑的问题，而是要在长期创新的技术逻辑中进行梳理和引导，推动社会转型的方式发展，化解奇点产生的基础。

其次，创新人工智能时代的活动逻辑，使人一方面真正享受技术发展创新的红利，另一方面又以技术创新的方式丰富与发展人的能力，对此，更应该在生成式人工智能技术范式中准确定位防范风险的起点、处理风险的着力点和化解风险的关键点。

最后，应该从社会规制的层面调动社会资源、形成主动意识，推动生成式人工智能在改变人类思维方式和行为逻辑中发挥积极效应。人工智能的定义正在影响着人们自我理解、自我确证的方式与途径，其表现的技术风险、社会风险、经济风险等多个方面，既是对传统社会逻辑的打破，也是对社会发展的推进，更是对生存逻辑的反思。因此，社会规制既应该直接触及现实问题的核心，关注人类存在的未来。（杜娟）