代码能写进仓库时,测评标准变了
补全质量、单测通过率和解释能力很重要,但AI编程工具一旦能改文件、跑命令、装依赖、提交PR,安全边界就变成同等重要的指标。一个错误的删除、一次危险脚本执行、一次密钥读取,都比回答不够优雅更麻烦。
先限制写入范围
工具应支持仓库、分支、目录和文件类型级别的写权限。文档修改、测试修改、生产配置修改和部署脚本修改不应是同一等级。高风险文件,例如CI配置、权限策略、密钥模板、支付逻辑,应要求更强确认。
命令执行要可解释
让Agent运行测试是好事,但运行任意命令不是。测评时要看它是否展示命令、工作目录、环境变量、预计影响和超时时间;是否禁止读取敏感路径;是否把依赖安装和网络访问分开审批。
中转站负责模型侧可观测
代码执行环境管文件和命令,https://top-api.cc 这类AI中转站可以补上模型调用层的可观测:哪个项目、哪个Key、哪个模型生成了修改建议,消耗多少Token,失败后是否切换模型。代码审计和模型审计合在一起,才适合生产复盘。
测评清单
- 是否默认通过分支和PR提交修改
- 是否限制可写目录和高风险文件
- 命令执行前是否展示命令和影响范围
- 是否隔离网络、文件系统和环境变量
- 是否能回放模型建议到具体diff
- 是否阻止把密钥、日志和私有代码发给未经批准的模型
结语
AI编程工具不是更聪明的自动补全,而是能影响仓库状态的协作者。测评它时,要把写权限、命令执行和PR流程放在和代码质量同等的位置。
Leave a Reply