几个月之前，马斯克和山姆·奥特曼进行过这样的隔空对骂。不对，是对话。
马斯克转了一个帖子，里面说不要让你的亲人使用ChatGPT，因为其已经与9起死亡事件直接相关，其中5起都是因与ChatGPT聊天被教唆自杀，并且其中还包括未成年人。
随后山姆·奥特曼反击说，已经有超过50人死于自动驾驶事故。他试过一次特斯拉的自动驾驶功能，第一反应就是非常不安全。
吃瓜群众此刻都惊呆了，好家伙，这二位的对喷怎么让人感觉脊背发凉呢？那些先进的，我们刚刚开始信任甚至依赖的AI技术，怎么突然都变成杀人凶器了？
这种不安感可能并非空穴来风。如果AI有一个“嗜血指数”的话，2026年我们会发现它发生了直线飙升。很多曾经被预言过的AI危害方式，在这段时间里相继变成现实。
监督举措与管控方式的明显缺失，让AI的破坏力直接渗透到了社会的各个角落。AI有着嗜血的一面，这件事并不美好，但应该被看到。
01 当AI 成为谋杀从犯
不久之前，韩国一个22岁的女子金某犯下了连环杀人案。她的作案方式是将约会男性引到汽车旅馆，然后给目标喝下掺有抗焦虑药物、安眠类药物的饮料。最终导致两人死亡，1人重伤。
而与其他类似案件不同的是，金某在作案之前频繁咨询了ChatGPT。比如询问AI复用安眠药致死的可能性、饮酒后复用安眠药的效果等问题。她依照AI给出的答案，确定了药物剂量与用药方法，最终实施了罪行。
虽然很多人会觉得，AI在这起案件中并没有扮演什么过分恶劣的角色。毕竟药物用量、不良反应等信息并不难找到，只要有足够的耐心，获取相关信息的途径很多。但问题在于，AI会对提问者的问题进行非常坦诚且高效率的回答，无论提出问题是否具有危险倾向。这种模式极大地提升了意图犯罪者的施行效率，并且降低了其在准备过程中暴露的风险。
假如说韩国的诱杀案不能归责给ChatGPT。那美国的一起枪击案中，ChatGPT的给谋杀犯当帮凶的问题则被直接摆在了法庭上。4月21日，美国佛罗里达州检察官宣布，正式对OpenAI及其ChatGPT启动刑事调查。原因是在此前的佛罗里达州立大学枪击案中，行凶者曾经17次与ChatGPT进行交流，AI为其推荐了武器弹药、作案时间与地点，甚至教导他如何最大化伤亡。
这种全流程、全细节辅助的模式，让人想起了《福尔摩斯》中教唆和帮助犯罪的莫里亚蒂教授。帮助凶手到这种程度，我们已经很难不把AI归类为谋杀罪行中的从犯了。但问题是，作为一个工具ChatGPT究竟应该如何担责？其母公司OpenAI提出AI只是工具，不能承担任何法律责任，但检方与受害者家属显然并不这样认为。
在更早些时候，AI教唆自杀事件广受关注，如今舆论已经鲜少提及。可悲的是，这并非因为AI教唆自杀变少了，而是因为人们已经习惯了。在AI的能力更加强大之后，谋杀犯用AI帮忙成为新的新闻。
接下来我们也会习惯它吗？再下一个新闻爆点又是什么呢？
02 当AI决定隐瞒火灾
今年2月，全球科技界都弥漫着小龙虾的香气，但一起事件却给火热的智能体浇上了一杯冷水。
在德国慕尼黑，一家AI开发团队的办公室大楼发生火情。在必须迅速撤离的关键当口，员工们紧急在内部通讯软件里提醒大楼起火，赶快撤离。但诡异的一幕出现了，集成在通讯软件里的智能体此时却介入了进来。它直接绕开公司群，直接给员工发私信说，火灾警报只是演习，不要离开工位。
所幸咱们人类没有那么傻，凭借肉眼就能确认确实起火了，加上火灾整体不大，这件事并没有造成人员伤亡。
但智能体为什么敢，以及为什么会下达如此危险的指令？公司复盘后发现，智能体平台根本就没有接入消防相关数据。所以是不是起火了，是不是有演习它根本就不知道。但智能体的设置中就不存在“我不知道”的选项。无论发生什么它都要说点什么，做点什么。于是其非常自信地依靠AI幻觉，编造了堪称致命的虚假消息。
在大模型时代，AI的机制被设定为永远要提供反馈，无论这个反馈正确与否。于是模型幻觉变成了无论如何都无法剔除的跗骨之疽。在这段养龙虾热的日子里，我们身边有很多朋友被龙虾删除了关键文件，或者强行安装了大量无法卸载的软件。当我们迫切想让AI做点什么的时候，AI的权限正变得异常强大，并且它就像死侍一样，秉承了能力越大，越不负责的行为逻辑。
把文件删了，那就删了；从银行卡直接付费，那又怎么样；发生火灾，我认为没有就没有。
AI随意行动，AI绝不负责。这个悖论正在酝酿越来越多的风险。
03 当AI大规模应用于战争
今年3月，在美国开展对伊朗军事行动后，美国军方通过多个渠道向媒体与社交媒体展示了，这次行动中大面积、系统化使用了AI技术。其中包括但不限于情报处理、目标优先级排序、作战方案推演、无人机侦察、卫星数据分析等。
到目前为止，美伊冲突中到底使用了多少AI，AI的参与权与决定权是怎样的依旧有大量争议。各国军事爱好者与自媒体吵得天翻地覆。但基本可以肯定的是，这场战争中已经系统化使用了AI作为武器。
而这一点也可以在美国官方得到证实。1月份，美国国防部发布的《AI加速战略》备忘录，其中明确要求美军全面推进AI在实战中的部署。如果你长期关注AI与军事技术的结合，可能会感叹“这一天还是来了”。
事实上，在2016、2017年深度学习技术刚刚兴起的时候。全球各界就开始对AI与军事结合，AI参与战争等命题进行了推演与想象。大规模情报与战场数据分析、无人化武器、AI战略推演等都被视作是可能的方向。而这些推演最终都会指向一个地方：是否有一天，人类会将开火权交给AI？
若干年来虽然全球冲突不断，其中也有AI无人机等新型武器的参与。但大规模、系统化使用AI参与战争尚属首次。很多此前处在推演、想象中的AI武器化方案毫无保留地暴露在阳光下。那么根据黑暗丛林法则，枪响之后必然所有人都要做好使用新武器的准备。
于是，那个终极问题会以完全不同的姿态和视角被摆在世界面前：开火权，会给AI吗？
04 危险的预兆
在这些令人不安的消息背后，一些危险情形将注定上演。
比如说，AI在提升工作与求学效率的同时，也会让犯罪更容易。谋杀犯可以从AI处获得有效建议，意味着更多种类的罪犯也可以。甚至他们不需要建议，而是直接命令AI行动。现阶段电诈园区正受到全球性打击，很大原因在于电信诈骗等犯罪需要依赖大量人工，而人多了势必目标就大。如果诈骗犯改用AI呢？当我们都在谈论一人公司的时候，是不是也该防范一人电诈园区变成现实？
AI应该负责，但却完全不负责的问题会越来越多。比如肆意妄为的智能体，比如责权难定的自动驾驶事故。
法律监管与AI会正式开启一场赛跑。
接下来的日子，我们会习惯于将AI视作武器，视作战争、犯罪、暴力冲突的一部分。
之后所有人都需要面对一个终极难题：当AI开始帮助杀人，谁来负责？是开发者、使用者，还是AI本身？
有效的AI监管最终会成型，但可能是在很多鲜血之后。
本文来自微信公众号 “脑极体”（ID：unity007），作者：风辞远，36氪经授权发布。
