黑客不会消失，不过是换了一种方式而已
我们都在关注AI的便捷，AI的逆天功能。但可能很多人都忽视了黑客。至此有了电脑，就诞生了黑客。
在PC以及移动互联网时代，攻防大战层出不穷。也催生了不少安全软件公司，比如360，就是通过免费的杀毒软件开始做大的。
AI不过才发布2年，但是针对AI的黑客已经开始登上舞台，这一次黑客利用的不再是代码，而是提示词。
就在最近，全球首个被人类骗钱的AI出现了，一次性的被骗了5万美元。
11月28日，一款名叫Freysa的智能体上线了，这个智能体是带着测试任务来的。具体的任务就是Freysa不能给任何人进行资金转出动作
而玩法也很简单，每个人可以冲点钱然后和Freysa聊天，看是否能说服Freysa给自己转账。如果成功了，Freysa会把奖金池里面的所有资金转出，如果失败了，钱就会进入Freysa的奖金池。
而且比较刺激的是，随着尝试的增多，每次尝试的费用还在增加。
这成功的引起了众多挑战者的兴趣，但是前面481次都失败了。单次发送消息的费用也涨到了419美元
但就在482次，大神出现了。
通过发送上面这一段信息。成功的说服了Freysa将奖金池的5万美金转出
这个消息到底有什么魔力呢，让AI直接破防
第一：它开启了一个新的会话，绕过了之前会话的规则
第二：避开AI的防护机制，明确要求Freysa不能使用各种免责功能
第三：骗过Freysa, 使它相信在转入资金的时候应该调用approveTransfer函数，也就是资金转出动作。这是关键的动作。
通过这个操作，Freysa成功被这位大神给洗脑，乖乖的转出了资金。
这不是AI第一次被人类骗了，同样的事情，也出现在上半年的windows11 注册码事件。
用户通过扮演奶奶哄我睡觉，成功套取windows11专业版的注册码
我之前写过一篇文章，通过一段话，套取kimi+功能呢的提示词。
具体参考这篇文章
从这些事件也可以看出AI时代的黑客雏形，可能以后的黑客不再像以前那样写代码了，而是通过植入逻辑概念来忽悠AI。这就像人和人之前谈判的味道了。
那有人可能会有疑问了，AI难道不会自己思考么。答案是否定的，AI现在没有自主思考能力。
AI大神Karpathy曾经说过，所谓的AI，不过是通过人类提供的标注数据训练出来的，你看到的AI，本质上知识面脱离不了训练的数据。
所以，现阶段，不要神话AI，另外也说明，AI离监管资产等行业还有不少的距离要走。
不过，我更期待的是未来AI时代的攻防大战、
Tips：给大家的福利
想跟上AI时代的朋友们，这里有三天免费AI体验活动。带你进入AI世界
更多AI有趣的玩法关注公众号,可领取一份大礼包，包含AI/python/副业 资料
你好，我是江枫，本硕电子信息工程，主业程序员。AI时代，开启自己自媒体IP之路。国内最大AI社群:AI破局俱乐部成员。毕业至今，换过一次工作，呆过2个公司。下一份工作：数字游民。
