英特尔CEO：AI代理安全成最大挑战

英特尔首席执行官陈立武近日表示，人工智能的发展势头远未达到顶峰，其未来影响力甚至有可能超过互联网。 然而，在AI快速扩张的过程中，行业正面临一系列关键瓶颈，其中最值得关注的挑战之一是如何确保未来数十亿乃至更多AI代理不会执行未经授权的操作。 陈立武是在与人工智能基础设施初创公司Hyperbolic首席执行官张璟进行交流时发表上述观点的。 此次讨论发生在Hyperbolic完成3000万美元融资之后，该轮融资获得了陈立武旗下风险投资机构Walden Catalyst的支持。

谈及人工智能行业的发展前景时，陈立武表达了乐观态度。 他认为，AI浪潮仍将持续推进，其规模甚至可能超过互联网时代所创造的影响力。 不过他同时指出，当前行业面临的核心问题已经不再是需求，而是“扩张速度究竟能有多快”。 在他看来，人工智能基础设施建设正受到多个因素制约。 其中包括高性能内存供应不足、GPU短缺、电力资源紧张以及数据中心建设能力受限等问题。 随着越来越多企业投入AI领域，对计算资源的需求持续攀升，这些因素正在成为行业发展的现实障碍。 除了硬件供应问题外，融资压力也正在成为新的瓶颈。

陈立武表示，建设大型人工智能数据中心需要极其庞大的资本投入，而资金获取能力正在逐渐限制行业进一步扩张。 “融资正在成为增长的瓶颈之一。 ”他指出。 事实上，陈立武此前已经多次对AI基础设施供需失衡发出警告。 他曾预测相关硬件短缺可能持续三年时间，并强调只有当投资者能够持续看到明确的投资回报率（ROI）时，大规模资金才会继续流入人工智能产业。 不过，相比硬件和资金问题，陈立武认为另一个更长期、更复杂的挑战正在浮现，那就是AI代理的安全性问题。

随着AI代理逐渐具备自主执行任务、调用工具、访问系统以及协助决策的能力，未来全球运行的AI代理数量可能达到数十亿级别。 如何确保这些系统始终处于授权范围内运行，避免执行超出权限的行为，将成为整个行业必须解决的问题。 陈立武此前曾透露，他经常让AI代理在夜间持续工作，并在第二天早晨检查工作成果。 这种使用方式与微软CEO萨蒂亚·纳德拉等科技行业领导者的做法类似，反映出AI代理正在逐步进入实际生产环境。 然而，代理系统参与的任务越复杂，其安全风险也会相应增加。

陈立武认为，未来行业需要建立更完善的机制，确保AI代理能够在可控边界内运行，防止其执行未经批准的操作或引发潜在风险。 尽管挑战重重，陈立武依然对人工智能的长期前景保持乐观。 他认为当前人类正处于AI时代发展的早期阶段，而未来围绕代理式人工智能（Agentic AI）所产生的创新和商业机会仍然十分巨大。 在他看来，未来人工智能产业能否真正释放全部潜力，不仅取决于算力和资本投入，更取决于行业能否建立足够可靠的安全体系，让数十亿AI代理在获得自主能力的同时，始终保持可预测、可控制和可信任的运行状态。