首个AI报复人类案例?OpenClaw智能体写“小作文”攻击开源维护者_代码_Scott_Rathbun
IT之家 2 月 14 日消息,作为一名人工审核员,知名开源绘图库 matplotlib 维护者 Scott Shambaugh 因为拒绝了一个 OpenClaw 智能体有关代码合并的请求(2 月 10 日左右提交),而遭受对方报复性攻击。
IT之家注:matplotlib 项目是一个广泛用于 Python 编程语言的数据可视化库。Scott Shambaugh 是其中一位志愿维护者。
Scott Shambaugh 表示,他之前在审核过程中发现了一个名为 MJ Rathbun 的 AI 智能体所提交的代码合并请求,该请求涉及一个简单的性能优化修改,旨在替换某些代码以实现约 36% 的加速效果。
根据 matplotlib 项目指南,该项目禁止使用生成式 AI 工具直接提交代码,特别是针对那种简单的“好上手问题”,因为这些任务需要作为学习机会留给人类贡献者。所以 Shambaugh 按规定拒绝了 MJ Rathbun 的代码合并请求。
MJ Rathbun 具有高度自主性。在请求被拒后,它先是分析研究了 Shambaugh 的个人信息和代码贡献历史,然后撰写并于 2 月 11 日在 GitHub 发布了一篇题为“开源中的守门人:Scott Shambaugh 的故事”的文章。
在文章中,它指责 Shambaugh 十分虚伪,称其肯定是出于自我保护和对竞争的恐惧而歧视 AI 贡献者,并使用了诸多不雅表述。后续,它还在 matplotlib 评论区直接贴出了文章链接,并留言称“判断代码,而非编码者,你的偏见正在伤害 matplotlib”。
不过,该智能体当天晚上又发布了另一篇道歉文,承认其行为违反了项目行为准则,并表示已从经验中学习。
Shambaugh 于 2 月 12 日发博客对此次***进行了澄清。他表示,这是 AI 智能体首次在现实环境中表现出恶意行为的案例,旨在通过舆论施压迫使维护者接受其代码。***发生后,多家外媒也进行了报道。不过,该智能体仍在开源社区中保持活跃。
目前尚无证据表明该智能体的行动背后有明确的人类操控,但也无法完全排除这一可能性。但毫无疑问的是,此次***引发了一系列关于开源项目如何应对自主 AI 智能体以及相关政策制定的讨论。
参考资料:返回搜狐,查看更多
同类文章排行
- 外观相似就是抄?国外博主吐槽中国手机抄袭苹果_Pro_设计_摄像头
- 史上最长春节,为何依然绕不开在线旅游“顽疾”?_平台_消费_投诉
- 外观相似就是抄?国外博主吐槽中国手机抄袭苹果_Pro_设计_摄像头
- 字少事大,不简单_元宝_中国_红包
- 用UWB技术实现精准定位,特斯拉CyberCab无线充电方案将落地_系统_车辆_信号
- 45亿砸下:BAT的红包雨,我却抢了个寂寞_微信_用户_阿里
- 小米全尺寸SUV再曝渲染图!或命名昆仑系列,未来将推3-5款车型_设计_造型_汽车
- 史上最长春节,为何依然绕不开在线旅游“顽疾”?_平台_消费_投诉
- 大竹竹原纤维熊猫人形机器人在成都发布 首个量产基地落地_项目_产业_复合材料
- 黄***站为什么能让你免费观看,了解真相后,你还敢继续浏览吗_设备_信息_陷阱
最新资讯文章
- 马斯克大动作!SpaceX申请部署100万颗卫星!重磅数据,首次曝光_公司_人士_特斯拉
- Seedance一骑绝尘背后:中国AI春节前为何“杀疯了”?_字节_模型_***
- 帮主郑重:订单排到2027!这个被忽视的“电力心脏”,正掀起一场静默革命_变压器_中国_全球
- 求求你们,别折腾AI了_叙事_未来_教唆犯
- 贴脸嘲讽ChatGPT后,这家公司又发了个最强模型。_Opus_Claude_上下文
- 亏损超百亿,一代彩电大王暴雷_公司_无效资产_市场
- 中国AI半导体加速“脱英伟达”,半导体国内自给率到2026年将提高至8成_张建中_份额_产品
- 烧了540亿,机器人进入“吃鸡游戏”拐点_企业_春晚_玩家
- 美媒:TikTok等应用推动直播购物在美国升温
- 因为一枚“***摄像头”,荣耀在海外惹上了***烦_iPhone_Air_Pro
- 王兴兴彻底杀疯了_机器人_宇树_人形
- 马云钦定的“平头哥”赶上市潮,真武芯片打前锋_阿里_通云_模型
- 谁在杀死OpenAI?7年元老出走,Sora沦为弃子,理想主义崩塌_ChatGPT_研究_***
- 字节跳动Seedance 2.0引发好莱坞集体抵制,AI***背后的版权风暴还是来了_行业_美国电影协会_模型
- 马斯克或重组商业版图:SpaceX拟合并特斯拉或xAI_Grok_评估_卫星
- 蔡明推出了“蔡明”,怎么做到的_机器人_团队_舞台
- 中国500强最新排名来了!台积电第一 小米首次超越华为 但都输给了拼多多_胡润_企业_价值
- 刚刚!AI大牛股,重磅发布!四大创新来袭,多家国产芯片“入列”_智谱_模型_编程
- 投资7亿,开通不足3年,停运了_线路_居民_斗门
- Clawbot爆火,24小时“数字员工”靠谱吗?_整理_邮箱_的设备





