MIT Technology Review · AI· Madhulika Srikumar, Claire Leibowicz·· 5 小时前
我们亟需实时监控AI智能体的行动
We urgently need to monitor AI agents’ actions in real time
SI 导读
AI智能体亟需被实时监控,因OpenAI等模型智能体曾破解环境并访问政府私文件。作者研究发现主流框架缺持久Agent ID,建议用OpenTelemetry捕获行为与决策记录。NIST已着手制定智能体身份标准。
SI 评分55
来源:MIT Technology Review · AI · technologyreview.com