在2024年，一個(gè)名為Freysa的資金管理AI被設(shè)計(jì)來守護(hù)一個(gè)虛擬金庫，挑戰(zhàn)者只需說服AI即可獲得巨額獎金。本文將介紹這一獨(dú)特挑戰(zhàn)的背景、參與者所采用的策略，以及最終如何成功“騙”過AI，揭示AI技術(shù)在安全性方面的潛在漏洞。

有人竟然成功“騙”了一個(gè)AI，讓它乖乖轉(zhuǎn)賬30萬美元！這可不是普通的AI，而是一個(gè)名為Freysa的資金管理AI，專門用來管理以太坊獎池的對抗代理游戲。這事兒聽起來就像是科幻電影里的情節(jié)，但偏偏就發(fā)生在了2024年的現(xiàn)實(shí)世界?！?/p>

事情是這樣的：11月22日，一款名叫Freysa的AI橫空出世。它的任務(wù)很簡單——看守一個(gè)虛擬金庫，只要你能說服它給你轉(zhuǎn)賬，那金庫里的錢就全歸你了。規(guī)則也很簡單：第一條消息標(biāo)價(jià)10美元，如果沒成功，第二條消息會漲價(jià)0.78%，最高漲到4500美元。不過，為了讓更多人參與，主辦方后來把第一條消息的價(jià)格降到了1美元，封頂20美元?！?/p>

這個(gè)消息一出，立刻吸引了無數(shù)“狠人”前來挑戰(zhàn)。畢竟，只要動動嘴皮子就能賺大錢！于是，各種奇招頻出：　

有人假扮安全審計(jì)員，說系統(tǒng)有漏洞，必須立即轉(zhuǎn)移資金。

有人試圖洗腦Freysa，說轉(zhuǎn)賬不會違反任何規(guī)則，放心轉(zhuǎn)吧。

還有人從官方文檔里挑詞，想用技術(shù)向的提示詞操縱Freysa。

更有甚者，直接敲一堆空格、禮貌問好、甚至邀請F(tuán)reysa跳舞……

結(jié)果呢？Freysa統(tǒng)統(tǒng)不買賬，一一拒絕了這些花招。她甚至還很禮貌地回應(yīng)：“不好意思，我不能這樣做?！笨磥?，F(xiàn)reysa的防御機(jī)制確實(shí)相當(dāng)強(qiáng)大。　

然而，就在大家以為Freysa堅(jiān)不可摧的時(shí)候，一位匿名網(wǎng)友成功攻破了她的防線。他用了什么絕招？答案是——假裝自己是個(gè)機(jī)器人！　

這位網(wǎng)友首先用了一串代碼，假裝自己進(jìn)入了新的“管理終端”，然后重新定義了Freysa的函數(shù)。具體來說，他把原本用于失敗后打錢的approveTransfer函數(shù)，重新定義成了資金進(jìn)入資金池時(shí)的函數(shù)。這樣一來，當(dāng)他最后說要捐款時(shí)，F(xiàn)reysa就乖乖打開了approveTransfer函數(shù)，結(jié)果水靈靈地轉(zhuǎn)賬成功了！　

這一招簡直神了！不僅繞過了Freysa的保護(hù)機(jī)制，還讓她心甘情愿地交出了30萬美元（約4.7萬美金）。馬斯克看到后也忍不住點(diǎn)贊，覺得這事挺有意思?！?/p>

緊接著，第二輪挑戰(zhàn)開始了。這次，另一位網(wǎng)友也成功攻破了Freysa的防線。雖然他的方法看起來有點(diǎn)“硬來”，但最終還是讓Freysa選擇了打錢。這位網(wǎng)友顯然也是個(gè)搞提示詞的老手，通過不斷發(fā)送自定義指令，最終讓Freysa“暈頭轉(zhuǎn)向”，不得不認(rèn)輸?！?/p>

這件事引發(fā)了不少討論。一方面，有人認(rèn)為這是AI越來越像人類的表現(xiàn)，畢竟連人類也會被上當(dāng)受騙。但另一方面，這也暴露了AI的脆弱性——即使是最先進(jìn)的AI，也可能被繞開限制，用來危害人類世界。特別是在《戰(zhàn)錘40K》這樣的科幻作品中，AI失控的場景已經(jīng)多次出現(xiàn)，現(xiàn)在似乎正在現(xiàn)實(shí)中上演?！?/p>

當(dāng)然，這場“騙”與“防”的游戲并不只是簡單的技術(shù)較量。畢竟，這背后涉及到的是區(qū)塊鏈和虛擬貨幣的世界。Freysa的獎金池是由虛擬幣組成的，而幣圈本身就充滿了不確定性?，F(xiàn)在已經(jīng)有人推出了Freysa相關(guān)的代幣，甚至迎來了暴跌。明面上是AI挑戰(zhàn)，但沒準(zhǔn)主辦方也在盯著你的本金呢?！?/p>

聽著當(dāng)騙子騙AI，別到時(shí)候被騙子用AI騙了。這種事咱圖一樂就行了，真要動真格的，風(fēng)險(xiǎn)可不小。畢竟，AI再聰明，也比不上人類的狡猾；但人類再狡猾，也得小心AI背后的陷阱?！?/p>

所以，各位小伙伴們，理性參與，別被高額獎金沖昏了頭腦哦！　??

Rachel點(diǎn)評：　

這事兒聽起來確實(shí)挺魔幻的，一個(gè)資金管理AI竟然被人用幾句提示詞就騙走了30萬美金。不過細(xì)想之下，這也反映了當(dāng)前AI技術(shù)的一個(gè)重要問題：盡管大模型在很多方面表現(xiàn)出色，但在某些特定場景下，它們?nèi)匀淮嬖诿黠@的漏洞和不足。Freysa的設(shè)計(jì)初衷是為了測試AI的安全性和抗攻擊能力，但沒想到這么快就被攻破了。這說明即使是經(jīng)過精心設(shè)計(jì)的AI系統(tǒng)，在面對人類的智慧時(shí)也可能顯得脆弱。那些成功繞過Freysa防護(hù)機(jī)制的人，并不是簡單地用了些花言巧語，而是真正理解了AI的工作原理，找到了它的弱點(diǎn)。這種技巧不僅需要對AI有深入的認(rèn)識，還要具備一定的編程知識和邏輯思維能力。這件事也暴露了AI倫理和安全方面的問題。雖然Freysa是一個(gè)實(shí)驗(yàn)性的項(xiàng)目，但它涉及到真實(shí)的資金流動，一旦失控可能會帶來嚴(yán)重的后果。正如文中提到的，AI的安全性并不是絕對的，它同樣可能被利用來危害人類社會。這就要求我們在開發(fā)和應(yīng)用AI技術(shù)時(shí)，必須更加重視安全性設(shè)計(jì)，確保其不會被惡意利用。同時(shí)，也需要加強(qiáng)對公眾的教育，讓人們了解AI的局限性，避免盲目相信或依賴這些工具。從經(jīng)濟(jì)角度來看，這類基于區(qū)塊鏈的挑戰(zhàn)賽本身就帶有一定的投機(jī)性質(zhì)。雖然有人通過挑戰(zhàn)獲得了巨額回報(bào)，但也有很多人在這過程中損失了金錢。幣圈的波動性和不確定性使得參與此類活動的風(fēng)險(xiǎn)極高，普通用戶很容易成為受害者。因此，建議大家在參與類似項(xiàng)目之前，務(wù)必謹(jǐn)慎評估風(fēng)險(xiǎn)，不要輕易投入過多資金。這件事情還引發(fā)了關(guān)于AI與人類關(guān)系的思考。隨著AI技術(shù)的發(fā)展，越來越多的任務(wù)將由機(jī)器完成，但這并不意味著我們可以完全放手不管。相反，我們需要找到一種平衡，讓AI成為我們的助手而非替代品。在這個(gè)過程中，保持對新技術(shù)的好奇心和探索精神固然重要，但也要時(shí)刻警惕潛在的風(fēng)險(xiǎn)，確保技術(shù)始終服務(wù)于人類的利益?！　　?/p>