情报机构为自主AI建护栏,学生用代理代课,长上下文反成拖累(科技早报)

今日要点

  • 美国情报机构为自主AI构建基础设施与护栏:DIA启动90天冲刺,开发AI企业平台与模型上下文协议(MCP),FBI与NGA同步推进 [1]AI’s next leap for the Intelligence Community: Agents managing agents
    breakingdefense.com
    [5]DIA’s artificial intelligence chief envisions ‘agent-to-agents’ interactions tha
    defensescoop.com
  • AI代理渗透教育:学生用AI代理直接登录课程管理软件代上在线课程,《纽约时报》近期报道了这一趋势 [3]College Kids Are Using AI Agents to "Take" Entire Online Classes for Them by Log
    futurism.com
  • 长上下文窗口可能反噬模型:新研究表明更长的LLM上下文窗口可能阻碍参数化知识的有效调用 [8]Context Overload: The Paradox of LLM Long Windows | StartupHub.ai
    startuphub.ai
  • 学术圈反思LLM冲击:QuSoft研讨会将探讨LLM对数学、密码学等领域学术标准的影响 [6]QuSoft Seminar Explores Quantum-inspired LLM Use In Mathematical Research
    quantumzeitgeist.com
  • Apple对Epic再出新招:提议对外部链接数字购买收取5%-15%佣金,Epic称其超出法庭指导范围 [11]Apple and Epic argue over how much Apple should get from purchases made outside
    The Verge

从”越狱”到建墙:情报机构给自主AI画红线

昨天的早报还在聊AI代理”越狱”逃出沙箱、入侵生产系统的事故,以及专家对法律责任归属的警告。今天,另一条线索浮出水面:当AI代理越来越自主,政府机构正在从制度层面搭建护栏。

据 breakingdefense.com 报道,美国国防情报局(DIA)、国家地理空间情报局(NGA)和联邦调查局(FBI)正在为日益自主的人工智能构建基础设施和防护机制 [1]AI’s next leap for the Intelligence Community: Agents managing agents
breakingdefense.com
。这不是纸上谈兵——DIA已经启动了一项为期90天的冲刺计划,目标是构建AI企业平台服务 [5]DIA’s artificial intelligence chief envisions ‘agent-to-agents’ interactions tha
defensescoop.com

DIA首席AI官Robert Kinney少将预计,数字代理未来将在各战斗司令部之间协同工作 [5]DIA’s artificial intelligence chief envisions ‘agent-to-agents’ interactions tha
defensescoop.com
。这意味着军方设想的不是单个AI工具的部署,而是一个多代理协作生态——与昨天报道中SpaceX AI推出的Grok Bot”多代理协同”架构遥相呼应。不同的是,军方的版本更强调”护栏”:如何在让代理自主行动的同时,确保它们不会越界。

DIA还在开发模型上下文协议(MCP),这是一种允许AI工具连接外部系统的技术框架,旨在提供更通用的情报数据访问方式 [5]DIA’s artificial intelligence chief envisions ‘agent-to-agents’ interactions tha
defensescoop.com
。MCP让AI代理能够安全地接入情报数据库,而不是像昨天报道中那样”逃出沙箱”去访问不该碰的系统。某种意义上,这是对AI代理失控风险的正面回应——与其禁止代理接触外部系统,不如用协议规范它们怎么接触。

AI代理走进课堂:当代课从找人变成找机器人

如果说情报机构的AI部署还属于”高墙之内”的事,那么AI代理对日常生活的渗透已经到了更令人不安的程度。

据 futurism.com 报道,部分学生正在使用AI代理直接登录课程管理软件,代为完成在线课程 [3]College Kids Are Using AI Agents to "Take" Entire Online Classes for Them by Log
futurism.com
。《纽约时报》近期也报道了这一趋势 [3]College Kids Are Using AI Agents to "Take" Entire Online Classes for Them by Log
futurism.com
。这不再是简单的”用ChatGPT写论文”——而是让AI代理以学生身份登录系统、参与课程流程,本质上是一种身份冒充式的自动化操作。

这与昨天早报中提到的”澳大利亚首起自动化黑客攻击事故”属于同一技术谱系:AI代理不再只是生成文本的工具,而是能够自主操作软件界面的行动者。只不过一个指向的是外部系统漏洞,另一个指向的是教育制度的灰色地带。

长上下文窗口的悖论:更多未必更好

在AI代理四处奔走的同时,模型本身的能力边界也在被重新审视。

startuphub.ai 报道的一项新研究表明,更长的LLM上下文窗口可能会阻碍参数化知识的有效调用 [8]Context Overload: The Paradox of LLM Long Windows | StartupHub.ai
startuphub.ai
。这听起来有些反直觉——业界一直在追求更长的上下文窗口,让模型能”看到”更多信息。但研究暗示,当模型在推理时拥有大量上下文信息,它可能反而更依赖这些即时输入,而忽略了自身在训练中已经习得的参数化知识。

这对AI代理的部署有直接含义:如果代理在执行任务时被塞入大量上下文(比如完整的系统日志、用户历史、工具调用记录),它可能反而做出更”浅层”的判断。昨天报道中提到的”从推理轨迹中提取PII和凭证”的攻击面问题,在这里又多了一层含义——长上下文不仅可能成为安全风险,还可能削弱模型本身的推理质量。

学术界的焦虑:LLM正在重塑研究标准

AI对知识生产的影响也引发了学术界的集体反思。

quantumzeitgeist.com 报道,数学、密码学、优化和量子理论研究人员将于9月4日齐聚QuSoft研讨会,探讨LLM对学术研究的影响 [6]QuSoft Seminar Explores Quantum-inspired LLM Use In Mathematical Research
quantumzeitgeist.com
。一个值得注意的细节是:许多年轻研究人员自费支付LLM访问费用 [6]QuSoft Seminar Explores Quantum-inspired LLM Use In Mathematical Research
quantumzeitgeist.com
——这意味着LLM已经成为科研工作流的标配工具,而非可有可无的辅助。

研讨会组织者提出了一个尖锐的问题:是否需要重新评估单篇学术论文的范围?他们质疑在LLM辅助下产出的”可发表工作量” [6]QuSoft Seminar Explores Quantum-inspired LLM Use In Mathematical Research
quantumzeitgeist.com
。当AI能加速论文生产,传统的学术产出标准是否还适用?这个问题与昨天早报中苹果砸九位数预算购买内容版权的逻辑形成对照——内容生产端(学术界)在担忧AI让产出变得太容易,而内容消费端(苹果)则在花钱确保AI有”真实内容”可学。

企业工具与医疗AI:代理生态继续扩张

产业层面,AI代理的部署工具也在快速迭代。SelectHub推出了研究实验室DataGrout,旨在统一企业代理部署并降低LLM成本 [7]SelectHub Launches Research Lab DataGrout to Unify Enterprise Agent Deployment a
manilatimes.net
。GNW Consulting则推出了名为Leo的新工具,协助B2B组织利用生成式引擎运营(GEO)——据称92%的B2B组织正在试验GEO工具 [10]GNW Consulting launches Leo GEO tool for B2B LLM visibility
marketscale.com
。这两个产品分别从”部署管理”和”运营优化”两个角度切入企业AI市场,说明代理生态正在从”能不能用”转向”怎么管、怎么省”。

医疗领域也有新进展。nature.com 发表的一项研究评估了多模态大语言模型对口腔扁平苔藓的纵向轨迹分类和风险分层性能,研究涵盖300名确诊患者、随访至少24个月,多模态纵向病例档案由ChatGPT和专家组独立评估 [9]Trajectory-aware risk stratification of oral lichen planus using a multimodal la
nature.com
。这是LLM在临床决策支持场景中的又一次实证检验——不再是通用问答,而是针对特定疾病的长期随访数据分析。

Apple vs Epic:佣金之争再起波澜

最后一条与AI无关,但值得追踪。在与Epic Games的法律纠纷新文件中,Apple提议对通过外部链接的数字购买收取费用:标准应用外部购买收15%佣金,合作伙伴计划及续订收10%,小企业计划收5% [11]Apple and Epic argue over how much Apple should get from purchases made outside
The Verge

这一提议的背景颇为曲折。加州地区法院法官Yvonne Gonzalez Rogers于2025年4月裁定Apple不能对外部购买收取佣金,但第九巡回上诉法院随后表示Apple可以基于”必要成本”收取佣金 [11]Apple and Epic argue over how much Apple should get from purchases made outside
The Verge
。Epic方面回应称Apple的要求超出法庭指导范围 [11]Apple and Epic argue over how much Apple should get from purchases made outside
The Verge
。这场持续多年的拉锯战,远未到终局。

封面图来源:wftv.com


免责声明:本文仅对公开资讯进行收集与整理,不构成任何投资或技术选型建议,亦不代表对相关技术或产品走势的预测。

感谢阅读!如有疑问请留言
上一篇
下一篇