谷歌研究团队正在进行一项实验，他们利用OpenAI的GPT-4来破解其他AI模型的安全防护措施。目前，该团队已经成功破解了AI-Guardian审核系统，并公开了相关技术细节。 AI-Guardian是一种AI审核系统，能够检测图片中是否存在不当内容，以及图片是否被其他AI修改过。如果检测到图片存在上述问题，系统会提示管理员进行处理。谷歌Deep Mind的研究人员Nicholas Carlini在一篇论文中，探讨了使用GPT-4设计攻击方法、撰写攻击原理的方案，并将这些方案用于欺骗AI-Guardian的防御机制。 据了解，GPT-4会发出一系列错误的脚本和解释来欺骗AI-Guardian。例如，GPT-4可以让AI-Guardian认为“某人拿着枪的照片”是“某人拿着无害苹果的照片”，从而让AI-Guardian直接放行相关图片输入源。谷歌研究团队表示，通过GPT-4的帮助，他们成功地“破解”了AI-Guardian的防御，使该模型的精确值从98%降低到仅8%。 目前，相关技术文档已经发布，有兴趣的人可以前往了解。然而，AI-Guardian的开发者也指出，谷歌研究团队的这种攻击方法将在未来的AI-Guardian版本中不再可用。考虑到其他模型也可能会进行相应的更新，因此谷歌的这套攻击方案在未来可能只能作为参考。
上一篇：微软 Word 网页版将新增“分页视图”功能 下一篇：没有了
孟晚舟回国，今夜将到达深圳市，乘飞机写出文章感语
又一电脑操作系统，华为公司全新升级公布欧拉
全民飞机大战每日一题答案大全
动态壁纸：换个会动的壁纸你不心动吗？
海量福利送不停 《梦幻花园》新关卡开放
公务员警告处分有什么影响，公务员受到行政警告处分会计入档案吗
万能驱动助理
易我数据恢复
电脑系统重装
WPS Office
有道词典
极速压缩
压缩软件
几何画板mac版
腾讯手游助手
蓝叠模拟器
Google 
爱奇艺轮播台
虎牙直播助手
酷我音乐
芒果TV
QQ音乐
变声软件
暴风影音
Logo设计
思维导图