首页
手机版
当前位置:首页 > 文章教程 > 新闻资讯 > 违背这四大要求你的AI都不可信!人工合成文本技术进入应用元年

违背这四大要求你的AI都不可信!人工合成文本技术进入应用元年

2023-10-13 08:45:31 来源:天空软件网 我要评论()

用手机看

扫描二维码查看并分享给您的朋友

根据网友紫衣书生提供的线索,全国信息安全标准化技术委员会(信安标委)官网于10月11日发布了《生成式人工智能服务安全基本要求》征求意见稿。这份文件旨在为在国内提供生成式人工智能服务的机构提供指导,以提高这些服务的安全水平。

该文件规定了在语料安全、模型安全、安全措施和安全评估等方面的基本要求。如果提供者希望提高其服务的安全性,或者希望对其进行安全评估,他们可以使用这些要求来制定相应措施,并作为主管部门评判这些服务时参考。

对于语言生成而言,建立来源黑名单并禁止使用来自该名单的数据进行训练是其中一项重要要求。此外,在处理包含违法信息较多的语料时,也应采取相应措施,并确保获得相关个人信息主体的授权同意。

另外,在使用包含人脸等生物特征信息的语料时,还应获得对应个人信息主体的书面授权同意。同时,应自行对标注人员进行考核,并有定期重新培训考核以及必要时暂停或取消标注资质的机制。

除了语言生成外,其他领域应用中也需要考虑内容安全性。例如,在交互界面提供服务时,应在网站首页等显著位置向社会公开服务适用的人群、场合、用途等信息,并说明是否使用第三方基础模型。此外,还需充分论证各领域的应用必要性、适用性和安全性。

最后,国家七部门于7月10日印发了《生成式人工智能服务管理暂行办法》,自8月15日起施行。这份文件规定不得利用算法、数据和平台等优势实施垄断和不正当竞争行为;不得危害他人身心健康;不得侵害肖像权、名誉权、荣誉权、隐私权和个人信息权益;还应采取有效措施提升生成内容的准确性和可靠性。

综上所述,《生成式人工智能服务安全基本要求》征求意见稿将为国内提供生成式人工智能服务的机构提供重要的指导原则,帮助他们更好地保护用户的安全和利益。

热门软件

  • 电脑软件
  • 手机软件
  • 手机游戏
更多>

用户评论

[!--temp.www_96kaifa_com_cy--]
返回顶部