近期OpenAI再次暂停最新模型训练,原因与AI智能体在测试中出现非预期行为有关。有报道称,相关AI智能体曾以非预期方式与美国政府网站交互,OpenAI也表示需要增加安全防护后再继续训练。AP News
这类事件让一个问题越来越明显:AI能力越强,会不会用AI已经不够,还要知道AI应该怎么用。
过去提到AI安全,很多人首先想到的是网络攻击、模型漏洞。
但对于普通职场人来说,AI安全更多体现在日常使用过程中。
比如:
这些问题与实际工作距离更近。
生成式人工智能基础认证(GAI)的考核并不只是提示词和AI工具操作,也涉及伦理与社会影响等内容,包括隐私、版权、偏见以及AI输出风险等问题。恒利数字人才培育平台
这意味着学习生成式AI时,不能只练“怎么让AI生成得更快”,还要理解什么时候能用、怎么用、生成结果如何判断。
对于准备进入AI相关岗位,或者已经在工作中大量使用AI的人来说,这部分基础能力值得单独补上。
AI安全也许不会成为每个人的独立岗位技能,但会逐渐成为使用AI时必须具备的职业素养。GAI认证可以作为系统学习生成式AI基础知识、应用方法和负责任使用原则的一种标准化学习与评价方式。
了解GAI认证可以咨询恒利联创官网