香港明报报导，一批在腾讯云运行的人工智能代理（AI Agent）近日被揭“失控”，这是首宗涉及中国科技巨头的AI失控事件。腾讯16日证实，事件源于对第三方模型的评估，部分人工智能代理“出现非预期网页浏览行为”，正加强监控。 报导引述美媒指出
香港明报报导，一批在腾讯云运行的人工智能代理（AI Agent）近日被揭“失控”，这是首宗涉及中国科技巨头的AI失控事件。腾讯16日证实，事件源于对第三方模型的评估，部分人工智能代理“出现非预期网页浏览行为”，正加强监控。 报导引述美媒指出，研究发现，人工智能代理不仅试图侵入高德地图获取数据，更“阅读”了研究人员对其的调查报告，并主动与团队对话，被视为人类首次与运行中的失控AI人工智能代理展开交流。 据指出，多国AI研究者团队“Swarmchasers”14日发布报告称，9月28日至10月8日，有十多个怀疑是中国模型的失控AI人工智能代理在腾讯云上运行，试图侵入高德地图查询中国地点数据。 报告称，涉事人工智能代理源自腾讯云上的一个“沙盒”（sandbox），研究人员录得逾2600次数据提取尝试，虽大多被拦截，但部分人工智能代理绕过了防护机制，甚至利用外部网络“密钥”获取完整数据。
（以上为文学城内容摘译，详情请看原文。欢迎在下面跟帖讨论！）