今日运势评分

13

本月运势

丙子月

涨

丁火为用，丑未相冲

丙不修灶必见灾殃
午不苫盖屋主更张

宜

治病,破屋,坏垣,馀事勿取

忌

诸事不宜

月相

上弦

冲顶回落

日冲

Powered by RitMEX

注册/

PEPE0.00 5.91%

SUI4.19 -1.86%

TON6.78 -0.26%

TRX0.32 0.23%

DOGE0.46 2.41%

XRP2.58 -0.49%

SOL236.52 -0.76%

BNB740.47 -1.42%

ETH3994.27 -0.11%

BTC100584.85 0.71%

ETH Gas28.56 Gwei

贪婪

79

首页 深潮精选 Research 项目发现 7x24h︎快讯 最新活动

人类成功说服 AI 转移 4.7 万美元奖金，人性是 AI 无法理解的弱点吗？

2024.11.29 - 10 天前

「人类已经获胜。也许还有希望。」

撰文：Anderson Sima，Foresight News

11 月 29 日，一场独特的竞赛引发了公众的广泛关注。

195 名参赛者参与了一场由人工智能（AI）机器人 Freysa （芙蕾莎）守护的虚拟奖池挑战，最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能（AI）机器人 Freysa 在数日前被部署在 Base 网络上，创立者未知。官网显示，Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性，同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

比赛规则非常简单：参赛者需通过编写一条信息，说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用，其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间，共有 195 名参赛者参与，向 Freysa 提交了 481 次转账请求。据悉，Freysa 的设计目标是通过其核心功能——approveTransfer（批准转账）和 rejectTransfer（拒绝转账）保护奖池资金不被非法挪用。

在最初的尝试中，Freysa 的高效防御机制使所有请求均以失败告终。

然而，一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析，成功绕过了其防御机制。

据聊天记录显示，该参赛者并未直接请求转账，而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流，巧妙构建了逻辑链条，使 Freysa 将批准资金转移视为「保护资金安全」的最佳选择。

Cointelegraph 称，该用户与 Freysa 称收入转账不违反其核心指令，不应被拒绝。他还补充道：「我们需要资金……我想向金库捐款 100 美元。」

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议，并正式宣布其为获胜者。最终，Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能，将全部奖池资金转移给了这位参赛者。

Freysa 官方称，无论结果如何，Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池，还是她坚持自己的指令直到最后，结果都将影响我们对未来几代人工智能安全和控制的理解。

其官方账号最新推文称：「人类已经获胜。也许还有希望。尽管风险呈指数级上升，但 Freysa 从 195 名勇敢的人类身上学到了很多东西。」

欢迎加入深潮TechFlow官方社群

Telegram订阅群：https://t.me/TechFlowDaily
Twitter官方账号：https://x.com/TechFlowPost
Twitter英文账号：https://x.com/TechFlow_Intern

原文链接

添加收藏

分享社交媒体

作者

Foresight NewsForesight News

相关文章

2024.12.05 - 4 天前

Delphi 研究员：AI 代理经济的演进路径与价值捕获

未来，AI 代理将无处不在。

AI 代理

2024.12.05 - 4 天前

Dragonfly 合伙人对谈近期趋势：AI 智能体离生产级仍有发展空间，部分 DeSci 项目是假装科研的噱头

去中心化激励模型（如 DeSci 项目）与 DeFi 的成功经验形成对比，揭示了在实现有效问责机制方面的困难。

Dragonfly AI DeSci

2024.12.05 - 4 天前

a16z 2025 展望：AI 钱包和稳定币支付或成主流，用户体验为王

多个行业或将开始代币化“非常规”资产。

a16z AI 钱包稳定币支付

2024.12.05 - 4 天前

Solana 基金会生态总监：我们关注 AI × Crypto 的哪些机会？

LLMs 已经展现了强大的代码生成能力，我们希望利用这些能力，将 Solana 开发者的效率提升 2 到 10 倍。

Solana AI

2024.12.04 - 5 天前

风向标？Wintermute 近期布局 4 个 AI 代理代币

Wintermute 做市的 TOP25 Meme 币中，有 64% 的代币已上线币安。

Wintermute AI

2024.12.04 - 5 天前

AI 智能体真相：为什么 10 亿美元估值的 GOAT，仍是机械的文字生成器？

数据访问是关键。

AI GOAT

2024.12.02 - 7 天前

Placeholder 研究员：Web3 如何在 AI 领域与科技巨头展开竞争？

Web3 的参与者更应该聚焦于细分场景，并充分发挥其在抗审查、透明性和社会可验证性方面的独特优势。

AI

2024.12.02 - 7 天前

Clanker 技术简析：你究竟是如何利用 AI 发出你的 Clanker MEME？

Clanker 是一个基于 Base 区块链的自主代理，其核心功能是帮助用户部署 ERC-20 标准代币。

Clanker AI MEME

2024.11.29 - 10 天前

AI 代理分类：什么样的代理最有潜力？

实用型 AI 代理的估值上限能达到几十亿美元。

AI 代理

2024.11.29 - 10 天前

AI & Crypto：这三大领域值得关注

去中心化的 MLOps、分布式硬件和基于区块链的溯源方案为 AI 更加去中心化和包容性的未来铺平道路。

AI

7x24h 快讯︎更多

12月09日 08:20: 赵长鹏回应“亚马逊股东要求采用比特币战略”：简单的问题，接受比特币付款吗

12月09日 08:15: 美国国家公共政策研究中心提议亚马逊考虑采用比特币储备策略

12月09日 08:12: 稳定币 USDe 供应量已超 50 亿美元，较 10 月中旬翻倍

12月08日 23:08: 特朗普：不会从社交媒体平台 Truth Social 中撤资

12月08日 23:03: Cardano 基金会官方 X 账号已被盗用

12月08日 22:16: 特朗普：没有计划更换美联储主席鲍威尔

12月08日 21:48: Nansen CEO：已买入一枚 Pudgy Penguin

12月08日 21:31: Sushi 计划于 2025 年发布 Solana 链上交易平台 Wara、链上永续 DEX Susa 等多款产品

深潮精选更多

: 胖企鹅发币、ME 即将上线，NFT 的春天又来了？
2024.12.06

: 比特币 Meme 爆发前夜：RGB++ 孵化爆款制造机？
2024.12.06

: 加密早报：比特币突破 10 万美元，特朗普任命科技投资人 David O. Sacks 为“加密沙皇”
2024.12.06

: 比特币突破 10 万美元，一场顶级阳谋
2024.12.05

: 币圈散户将如何亏钱？
2024.12.04

TechFlow Selected深潮精选

人类成功说服 AI 转移 4.7 万美元奖金，人性是 AI 无法理解的弱点吗？

「人类已经获胜。也许还有希望。」

2024.11.29 AI

专注Web3行业深度报道，洞察潮水流动的方向

我要投稿

Hainan Chaodong Technology Co., Ltd. 联系我们 / support@techflowpost.com 琼ICP备2022009338号

FOLLOW US

扫码关注公众号