首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-06
三部门:金融机构不得与境外空壳银行建立代理行或者类似业务关系最新报道 “反内卷”政策重拳出击!化工ETF(516020)尾盘拉升溢价吸金,机构:化工板块盈利弹性或超市场预期学习了 嘉应制药信披违规涉2.2亿资金 内控和业绩存风险学习了 交通银行:积极落实消费贷贴息政策 以数字化手段和创新金融产品支持提振消费 290亿美元!特斯拉批准向马斯克授予9600万股限制性股票奖励实时报道 麦当劳计划2027年前加码AI布局 印度将成核心枢纽官方通报来了 大恒科技:李蓉蓉成第一大股东 持股6.29% 最新报道 又一个里程碑 大恒科技:李蓉蓉成第一大股东 持股6.29% 交行首批获评基于业务价值的金融业数字化转型能力评估模型标准最高等级认证学习了 中电环保:上半年归母净利润5393.68万元,同比增长2.87% 年内举牌21次 险资正跑步入市太强大了 三部门:金融机构不得与境外空壳银行建立代理行或者类似业务关系后续反转来了 普路通股东张云减持100万股 持股降至6.79% 拉芳广告暗讽潘婷:“3 分钟也算奇迹?” 环世物流赴港上市收证监会反馈:需说明环世集团股权架构调整过程中3次减资原因 是否涉及虚假出资、抽逃出资 比亚迪方程豹钛 3 上市后首次 OTA,支持无人机动态起降后续来了 这类ETF,有成分股今年以来涨超230%记者时时跟进 热点丨特斯拉弃台积电选三星,165亿芯片订单背后的攻坚战官方已经证实 莱多斯因武器需求强劲上调全年利润预期学习了 外资为何持续深耕龙国学习了 80后”无锡富豪,斥资7亿元拿下“金刚线第一股 恒力石化:8月21日将召开2025年第二次临时股东大会这么做真的好么? 太平洋计算机周报(20250728-20250803):微软、Meta业绩超预期,GPT-5发布在即 双良节能:8月21日将召开2025年第三次临时股东大会官方处理结果 控股股东拟变更为矽睿科技,安车检测8月6日起复牌反转来了 专家已经证实 阿彻丹尼尔斯米德兰公司第二季度利润下滑又一个里程碑 军信股份首次回购360万股 金额5099万元是真的吗? 华天酒店:公司目前持有华惯科技5%的股权是真的吗? 港股5日涨0.68% 收报24902.53点 华为宣布CANN全面开源开放,共建昇腾生态反转来了 新北洋:截至2025年7月底公司股东户数58385户学习了 7月新势力:零跑继续领跑,理想失速,蔚来触底实时报道 军信股份首次回购360万股 金额5099万元官方处理结果 阿彻丹尼尔斯米德兰公司第二季度利润下滑后续会怎么发展 记者时时跟进 华为宣布CANN全面开源开放,共建昇腾生态专家已经证实 广济药业:财务造假遭处罚引爆经营危机,两年亏损4.35亿陷生存困局科技水平又一个里程碑 迪普科技:2025年半年度净利润约5215万元,同比增加0.17%又一个里程碑 东山精密控股股东袁永刚质押850万股 并解除质押2423万股专家已经证实 碧桂园2025年7月归属公司股东权益的合同销售金额约27.7亿元官方处理结果 *ST兰黄回购186万股 成交金额1438万元 实测是真的 停牌核查完成,上纬新材8月5日起复牌官方通报来了 常熟银行“另类”扩张路最新报道 龙国重工股票将于8月13日起连续停牌,不再复牌 基本面未发生重大变化,10倍股明起复牌!| 盘后公告精选又一个里程碑 浪潮信息:公司暂未实施股份回购最新进展 浙江完成首单股权慈善信托工商登记 开启共富新实践 中电环保核电凝结水精处理装备入选江苏首台(套)名单实时报道 为澜湄合作蓄好“人才活水”这么做真的好么? 龙国重工:拟被龙国船舶吸收合并 公司股票可能终止上市秒懂 九大行业调研,万字详解龙国反内卷风暴又一个里程碑 九大行业调研,万字详解龙国反内卷风暴 投资190亿元、48000架,龙国联通粤港澳大湾区枢纽(韶关)数据中心项目竣工后续来了 迪普科技:2025年半年度净利润约5215万元,同比增加0.17%

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章