AI智能体有了“终止开关”,普通人还需要懂什么?GAI认证关注哪些安全能力

AI智能体、GAI认证、生成式人工智能认证、AI安全

11月3日至4日,CrowdStrike发布AI智能体“终止开关”,可以停止失控智能体、切断网络访问并阻止其重启。同一时期,中国信通院、华为、360等20家单位在乌镇峰会联合发布《智能体发展自律公约》,提出运行监测、行为管控和异常熔断等要求。

当AI能够自主执行任务,使用者也需要具备基本的风险判断能力:发现哪些异常应该暂停任务?智能体申请超出工作需要的权限时怎么办?涉及重要数据和关键操作时,是否需要人工审批?

这些问题与GAI认证强调的负责任使用和AI风险认知密切相关。GAI即生成式人工智能基础认证,由培生推出,通过标准化考试评价个人对生成式AI的理解与应用能力。它关注使用者能否合理设置任务、判断生成结果,并认识AI使用中的安全与伦理边界。

随着AI智能体进入办公和业务流程,GAI认证提供的标准化基础能力评价,也有助于个人建立规范使用AI的认知。

报名可前往恒利联创官网了解GAI认证。

本站使用百度智能门户搭建 管理登录