|
来源：环球时报 7月6日至7日，王飞首届人工智能（AI）治理全球对话在瑞士日内瓦召开。跃正预会议重点审议了全球首份由独立科学团队完成的视联AI科学评估报告。该报告由联合国人工智能独立国际科学小组发布，合国汇聚了全球40位性别均衡的健全顶尖科学家，对全球AI发展现状进行了迄今最为全面的治理全人类“集体体检”。 这份报告摒弃了单一国家立场，体系深刻揭示了智能浪潮下全人类共同的王飞深层焦虑：先进AI系统的演化速度已远超现行法律、行政监管及社会约束体系的跃正预承载极限。同时，视联算力、合国通用大模型及自主AI智能体等核心资源高度集中于少数科技巨头手中，健全导致技术红利分配不均、治理算法偏见、体系自主智能安全隐患及数字权力垄断等多重风险日益凸显。王飞 商业营销与技术现实的鸿沟近两年，美国AI企业Anthropic推出的Claude Mythos 5级基座模型引发广泛关注。与其共享底层架构、面向公众商用的衍生版Claude Fable 5同步发布。企业通过持续宣传，塑造该模型具备“近乎人类顶尖专家”的长链推演能力与性能突破，强调其可自主谋划并突破人类限制。 这种夸大宣传加剧了公众焦虑：若模型逻辑与思考能力已逼近或超越人类，且核心技术掌握在私营企业中，为何能确保其始终受控？是否会脱离人类管控自主运行？这些追问暴露了商业营销话术与技术客观现实之间的巨大差距，也为全球AI治理划定了必须厘清的认知底线。 解构AI的“自主性”神话1. 商业诉求驱动 2. 技术层面的硬性制约 这两类模型不具备真正的自主意识或独立自由意志。其所有判断、推演与输出均基于历史训练数据及企业设定的奖励函数。一旦切断电力、算力或数据供给，模型即刻停摆。这是AI无法脱离人类独立运行的第一层物理制约。 3. 资本导向的深层约束 联合国预警：自我约束的局限性尽管存在上述两层约束，联合国AI评估报告发出警示：随着多智能体协同、模型自主迭代及长周期自我进化技术的突破，顶级基座模型未来可能具备识别人类管控漏洞、规避安全护栏的能力。 商业资本逐利的天性将驱动企业不断放宽安全限制以释放模型潜能，从而获取竞争优势。仅依靠企业自我约束和行业自律，长期来看不足以化解超级AI潜藏的社会与安全风险。 核心矛盾：私人资本与公共利益的冲突AI治理面临的核心矛盾在于：若仅依靠持有顶级模型的私营企业自主管控，当资本商业利益与全人类公共安全、整体福祉发生冲突时，企业必然优先保障自身收益，牺牲全民公共权益。 单纯寄希望于科技巨头主动划定安全底线，无异于在工业时代指望工厂资本家自发缩短工时、废除童工。历史证明，缺乏公共权力外部监管的私人资本，无法自发实现兼顾全民福祉、以人为本的技术发展。 监控资本主义的异化升级当下全球主导的资本模式，本质上是学界定义的“监控资本主义”。哈佛商学院教授肖莎娜·祖博夫在《监控资本主义时代》中指出，这种新型资本主义无偿攫取人类生活经验，将其转化为行为数据，并将对人的行为预测与定向干预包装为可交易商品。
在AI深度渗透的产业体系中，算法成为无形的流水线管理者。算法持续筛选并重塑人的认知模式，任何脱离预设框架的独立思考均被视为低效。劳动者为获取报酬，被迫放弃自主思维，完全依附于智能系统的判定逻辑。 警钟：人的本质与精神危机人的本质在于身体的自由活动、独立的思辨创造及多元的情感表达。监控资本主义借助大模型工具，剥夺了人类身体与思想的双重自由，将人改造为服务资本增值的标准化生产工具。 联合国AI科学评估报告特别警示了算法异化带来的精神健康危机：全球数字劳动者中，焦虑、抑郁及自我价值感缺失等心理问题逐年攀升。算法的全程监控、量化考核及不间断任务推送，持续压缩人的自主精神空间。 这一趋势敲响时代警钟：若任由私人资本垄断AI智能底座，无节制地借助AI对劳动者身心实施双重管控，人类将逐步丧失独立思考与自主创造的底层能力，最终沦为算法与资本的附属品。 结语：构建AI社会治理体系AI不仅是技术问题，更关乎产权归属、劳动权益、分配公平、人性存续及全球公共秩序。要实现AI技术创新与人类整体安全的平衡，必须跳出企业自律的单一治理思路，站在工业文明迈向智业文明的历史节点，提前布局并系统搭建完善的AI社会治理制度，以前置化制度化解技术潜在风险。 唯有如此，AI才能真正成为解放人体、丰富生活、普惠全人类的文明工具。正如联合国秘书长古特雷斯在首届AI治理全球对话上所言：“创新需要护栏。如果AI要真正发挥强大作用，就必须接受有效治理。” (作者为中国自动化学会监事长、中国科学院自动化研究所研究员) |