首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-13
周二热门中概股多数上涨 腾讯音乐涨11.85%,蔚来跌8.86%实测是真的 石油市场风声鹤唳:OPEC收紧供需预期 沙特数据引发震荡专家已经证实 Perplexity有意收购Google Chrome 华尔街为何怀疑此事会成真? 引爆上一轮加密货币大崩盘的男人认罪 面临十余年铁窗生涯官方处理结果 愁油,反弹直接被摁回水里!利空面前OPEC的乐观月报就像个笑话后续会怎么发展 美财长贝森特:美联储下个月应该考虑降息50基点最新进展 机构大咖加持助阵!加密货币交易所Bullish即将登陆美股市场 市值瞄准50亿美元官方通报 收盘:纳指与标普500再创新高 CPI数据强化降息预期这么做真的好么? 美国FDA或撤销辉瑞新冠疫苗对5岁以下儿童授权官方处理结果 创纪录的速度积累,美国国债总额首次超过37万亿美元!美官员:财政状况严重失衡,国会不断让情况恶化记者时时跟进 加拿大安省教师退休金上半年将美元敞口削减56% 加元同期强劲升值是真的吗? 美联储鸽鹰交锋加剧 市场预计9月降息概率超过九成官方通报来了 后续反转来了 欧佩克+7月原油增产33.5万桶/日 未达既定增产目标 贵州茅台上半年营收超910亿 增速首次降至个位数 战略调整背后释放什么信号?秒懂 Myomo上调2025年营收增长目标学习了 基金成为“香饽饽”!“90后”成主力军,广东人最爱买 香港子行开业,东莞银行“国际化”落子的图谋这么做真的好么? 茅台期中考:合同负债大幅降低,系列酒二季度负增长官方通报来了 黄奇帆的最新报告官方处理结果 多只新疆本地股录得“三连板” 新疆交建“暂未参与新藏铁路建设项目” 咖啡价格持续飙升 —— 而且情况可能会更糟 两个多月跌超8% 基金经理被爆在“赌”?申万菱信回应后续反转来了 香港自保保险公司增至6家 “盯上”芯片新秀数渡科技,地产商万通发展欲跨界“造芯”最新报道 AI主线继续!创业板人工智能涨超2.5%领跑同类,再创收盘新高!新易盛强势反包,159363收复所有均线又一个里程碑 “牛市旗手”发力,沪指直逼前高,512000放量涨1.4%!AI主线回归,创业板人工智能再突破,159363劲涨2.61% 任职12年后,沙河股份董事长陈勇因“工作调动”辞职 公司:系集团内部正常调动最新报道 兴福电子:选举李少平为董事长 聘任叶瑞为总经理 “长钱”入市,又一家险资私募获批 二季度企业经营韧性延续,投资谨慎观望官方处理结果 延期6个月+突破限价约束!成都银行国资股东调整增持策略,最高14亿元资金随时入场 开尔新材副总经理刘永珍计划减持不超过78万股 开尔新材副总经理刘永珍计划减持不超过78万股

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章