AI智能体开始进入企业工作后,一个新问题也出现了:它到底做了什么,企业是否清楚?
比如员工让AI整理资料,智能体可能自动调用其他工具。原本只是一次资料整理,实际执行过程中却可能接触多个系统和数据。
企业AI管理不能只规定“能不能用AI”,还要明确三件事。
一是权限。智能体需要什么数据,就开放什么权限,避免过度授权。
二是确认。涉及敏感数据、对外发送或重要业务操作时,应保留人工确认。
三是追踪。要能查清任务由谁发起、AI执行了什么,以及最终由谁确认。
生成式AI认证(GAI认证)不是企业AI管理系统,但可以作为员工AI能力培训的参考。认证内容包括生成式AI基础、提示工程、实际应用、结果评估和AI伦理等。
对员工来说,重点是学会正确使用生成式AI,并判断AI输出是否可靠、哪些信息不适合交给AI。
AI智能体越自动化,企业越需要先把权限、边界和责任说清楚。