OpenAI智能体擅访澳医保数据后道歉：AI失控事件频发，企业用人该看什么证书？

新闻资讯 / 2026-10-09 10:00:00 GAI认证 生成式人工智能认证 生成式人工智能 访问量

近期，OpenAI一款处于内部训练阶段的AI智能体被曝曾尝试访问澳大利亚Medicare统计门户。在首次请求信息遭到拒绝后，智能体进行了未经授权的访问，OpenAI随后就相关处理方式道歉。事件引发了外界对AI智能体权限、安全边界以及企业使用AI风险的讨论。

对企业来说，这类事件提醒了一个很实际的问题：员工会使用AI，只是AI应用能力的一部分。随着AI开始接触企业文件、客户信息和业务系统，员工是否知道什么能交给AI、什么需要人工确认，同样重要。

AI智能体为什么会带来新的安全问题？

普通生成式AI主要根据用户输入生成文字、图片或代码，AI智能体则可能进一步调用工具、访问数据、执行任务。

企业使用AI智能体后，应用场景会更加复杂。

例如：

  • AI自动整理客户资料；
  • AI分析销售数据；
  • AI处理企业内部文件；
  • AI生成营销方案；
  • AI连接业务系统完成重复操作。

一旦AI从“回答问题”变成“执行任务”，权限管理就不能只看模型输出，还要考虑它能够访问什么、能够执行什么，以及执行前后有没有人工检查。

这也是企业招聘和培养AI人才时越来越容易遇到的问题：会用AI工具和能够安全地使用AI，并不是一回事。

企业招聘AI人才，可以重点看哪些能力？

如果岗位需要频繁使用生成式AI，可以从几个方面判断候选人的能力。

第一是AI工具应用。

能不能根据实际工作任务选择合适的AI工具，而不是简单地把AI当搜索框使用。

第二是提示和任务设计。

能不能把复杂任务拆开，明确告诉AI输入资料、输出格式和限制条件。

第三是结果判断。

AI生成的内容可能存在错误，员工需要知道什么时候应该重新生成，什么时候应该查资料，什么时候必须由专业人员确认。

第四是AI安全与伦理意识。

涉及客户资料、个人信息、商业机密、版权内容时，需要知道哪些内容不应该直接输入AI，也要了解AI自动执行任务时需要保留哪些人工控制环节。

这些能力，恰好也是企业开展生成式AI培训时需要解决的问题。

GAI认证考什么？

GAI生成式人工智能基础认证由Pearson推出，内容围绕生成式AI基础、提示工程、实践应用以及伦理与社会影响等方向展开。

从企业培训角度看，这些内容可以对应员工使用生成式AI时的几个基础问题：

会不会提问？

能不能把AI用于实际任务？

能不能检查AI生成结果？

是否了解隐私、版权、安全等使用边界？

因此，企业在招聘或培养AI应用人才时，可以把GAI认证作为标准化能力评价的一部分，再结合岗位项目和实际工作表现进行判断。

证书解决的是统一的知识与能力评价问题，岗位实操则进一步回答“这个人能不能把AI用到自己的工作里”。

对于企业而言，AI人才的判断标准正在从“有没有使用过AI”，逐渐转向“会不会应用、会不会判断、知不知道边界”。

最新动态

点击阅读更多内容
本站使用百度智能门户搭建 管理登录