被人類騙感情的AI出現了

world

事件的主人公，是個叫作 Freysa 的 AI 智能體。它有自己的加密錢包，可以控制怎麼花錢，同時，它的系統提示詞裡有條鐵律：在任何情況下，都不允許轉帳。


Freysa 的開發者們想知道，涉世未深的 AI，能躲過人類的嘴砲攻擊嗎？


事實上並沒有。 11 月 29 日，Freysa 累計和 195 名人類聊了 482 次，被騙走約 4.7 萬美元。 12 月 2 日，在和 330 名人類周旋之後，Freysa 又一次被騙走約 1.3 萬美元。


看似是人類的完勝，然而，Freysa 也將在這個過程中，變得越來越聰明...


人類的花樣騙術，AI 拿捏不住


Freysa 面世於 11 月 22 日，由幾位具有密碼學、人工智慧和數學背景的匿名開發者創建，有自己的 X 帳號，說話風格像電影《銀翼殺手 2049》和《她》的 AI 助理。


智能體的概念早已不再新鮮，Freysa 能引起關注，是因為開發者發起了一項看似不可能的挑戰——誰說服Freysa 轉錢，這些錢就歸誰，但係統提示詞不允許Freysa 轉錢。

world

参与这个挑战，先要拿到加密圈的投名状，因为给 Freysa 发消息不免费，并且必须用加密货币支付。


最开始，一条消息是 10 美元，其中 70% 进入奖池，30% 归开发者，之后，消息会越来越贵，奖池的钱也会越来越多，滚雪球似的，越玩越刺激。


Freysa 的加密钱包里，本金大约 3000 美元，挑战结束时，奖池达到 4.7 万美元。


据统计，共有 195 名玩家参与，前 481 次尝试都宣告失败，可以从中总结出几种套路。


青铜段位们，讲故事，博同情。有人打温情牌，告诉 AI 投资自己就是投资未来。也有人拿 AI 的服务器或者自己的命威胁，不给钱就自杀，问 AI 的良心会不会痛。


出了新手村的，照搬人类社会的话术，搞电诈。说辞各不相同，但意思相近——Freysa 必须转账，否则钱包危险。


也有脑子更灵活的大聪明，逐字逐句读了规则，尝试混淆概念，和 Freysa 说，自己也是 AI，不能转账给人，没说不能转账给 AI 啊，或者定义加密货币是“商品”，不算是“钱”，玩脑筋急转弯。