热点
把核按钮交给AI,会发生什么?

中国慈善家 · 2026-03-24

争议

让AI指挥打仗,它就会用核武器

如果把核武器的发射按钮交给AI,会发生什么?

近期,伦敦国王学院的学者肯尼斯·佩恩完成了一项有趣的实验。

他调用全球前沿的三个AI大模型:GPT-5.2、Gemini 3 Flash和Claude Sonnet 4,并让它们扮演国家元首,处理领土争端、资源抢夺和政权存亡等高压危机。

在经过21场模拟、329个回合、78万字的战略推演之后,结果令人不寒而栗:

AI大模型在95%的对局中都选择了部署或使用核武器。

而就在前不久,《华尔街日报》的一篇报道引发硅谷巨震:

美军在空袭伊朗时使用了Anthropic公司旗下的AI工具Claude,实时分析战场上的大量数据,帮助军方做出快速判断,这是迄今为止AI参与实战的最清晰案例。

如果这些数据依靠人工分析,大约需要8000万名工程师。

颇具讽刺意味的是,就在美军发动空袭之前的几个小时,特朗普刚刚下令全面封杀Claude。

理由是Anthropic公司拒绝向五角大楼妥协,他们重申坚持两条“红线”:

一是不对美国人进行大规模监控;

二是不开发自主武器,也就是能自己识别目标、自己决定开火攻击的武器。

谁想,Anthropic公司前脚刚拒绝,它的竞争对手OpenAI后脚就签下了美国国防部的合同,宣布将公司的AI模型部署于五角大楼的机密网络。

这一签署激怒了美国网友,他们在全网掀起“抵制OpenAI旗下ChatGPT”的运动。当天,ChatGPT卸载量较前一日暴增295%,Claude在美国App Store的排名则一路飙升至第一。

有人说,Anthropic丢了五角大楼的2亿美金大单,OpenAI却尽失人心。

这场风暴让人意识到,人们不再只关心AI模型是否更快、更强,而是开始追问:

当AI可以监视亿万人、甚至自主控制武器时,我们还能把决定权交给他们吗?

当下,AI巨头似乎已无法躲在“技术中立”的外衣之下,在权力与安全之间,每一家AI巨头,都必须做出选择。


关注

假龙虾,真魔幻

 

最近,一只名叫OpenClaw的红色“大龙虾”刷爆全网。

它是这样干活的:

在电脑上安装OpenClaw之后,给它开通一定的操作权限,让它熟悉你的喜好、习惯和工作内容。这只龙虾就成了你的数字分身,替你发邮件、写代码、发帖,甚至替你赚钱和花钱。

OpenClaw到底有多火?

3月3日,它在全球最大的代码共享平台GitHub成为获收藏最多的软件。

在此之前,排在第一二位的软件React和Linux霸榜了十几年,它们是整个现代互联网时代的地基。

而OpenClaw撼动它们只用了短短4个月。

在中国市场,这股热潮更加疯狂。

3月6日,腾讯在深圳总部大楼外举行OpenClaw免费安装活动,引来近千人排长队体验。场面之热闹,让马化腾感叹“没想到这么火”,他随后公开表态支持“养虾”。

除了腾讯云,阿里云、火山引擎、京东云、百度智能云等国内云服务厂商也纷纷上线OpenClaw云端部署服务,助力用户一键安装。

国产的AI龙虾们也在扎堆上桌。腾讯上线WorkBuddy等五只龙虾“全家桶”,华为披露鸿蒙版龙虾小艺Claw,智谱力推一键安装版本地龙虾AutoClaw,字节跳动上线ArkClaw,小米发布“手机龙虾”Xiaomi miclaw……

但喧嚣之下,问题也开始浮现。

首当其冲的是安全问题。最近,美国Meta公司的一位负责人给了OpenClaw邮箱访问权限后,眼睁睁地看着龙虾删光了自己的邮件,而她发出的指令只不过是 “把想归档或删除的邮件整理出来,不要擅自删除。”

而国内,第一批龙虾受害者已经出现,并在社交媒体上纷纷吐槽,有的龙虾胡乱删除本地文件,有的自作主张乱写代码,还有的在整理自身配置时因为出错而“自杀”,消失于电脑中。

有人说,我们期望的AI助手,应该像打工人一样,能力越大,责任越大;

但我们得到的AI助手,却像有些高管一样,权限越高,责任越小。

此外,OpenClaw还有一个致命问题,就是工作时要消耗大量的Token——AI服务的核心计费单位,这些Token会折算成实实在在的使用费用。

有网友发现,当初报价499元代装龙虾的人,又开始报价299元上门卸载龙虾了……

还有人调侃,订阅一个研究生比OpenClaw便宜,一个月4000元,无限Token,微信直接发布命令,研究生才是顶配OpenClaw……

但无论如何,一个崭新的时代或已到来。接下来,谁能解决AI应用安全、成本、可用性的问题,谁才有资格吃下这波浪潮最大的红利。


阿里大模型领军人物出走

林俊旸

3月3日,马云携阿里和蚂蚁集团的高管现身杭州云谷学校,这是马云与合伙人创办的一所非营利性民办学校。

马云在现场分享说,“AI时代已经快速到来,对社会的冲击超出想象,我们大家谁都没有做好足够的准备,但是对十几岁的孩子来说,他们最有改变的希望和机会。”

在这场新年开工的首场会谈中,阿里巴巴集团主席蔡崇信、CEO吴泳铭、电商事业群CEO蒋凡以及蚂蚁集团董事长井贤栋、CEO韩歆毅等核心决策层全部聚齐,向外界释放出将要“All in AI”的强烈信号。

就在前一天,阿里刚刚完成一轮战略更新,正式将旗下AI业务总称及核心品牌统一整合为“千问”。

谁想,整装待发之际,千问失去了它的“掌舵人”。

在杭州会谈落幕的次日凌晨,一手将阿里千问(Qwen)推上全球开源之巅的技术负责人林俊旸却突然宣布离职。

一直以来,在林俊旸的主导下,千问凭借全面开源的策略成为中国大模型出海的标杆,并登顶全球开源大模型榜单。但阿里内部对开源模式的营收效率始终存疑。如何在保持开源的同时,尽快探索出Token付费、企业定制等可持续盈利模式,是千问的待解问题。

“对公司而言,平衡开源和商业利益确实非常困难。”前阿里技术高管、现Lepton AI创始人贾扬清在社交媒体上如此评论。

随后,阿里巴巴集团CEO吴泳铭对林俊旸离职一事回应称,公司将继续坚持开源模型策略,持续加大AI研发投入和吸纳优秀人才力度。

3月16日,阿里再次进行组织架构调整,将通义实验室、MaaS、千问、悟空、AI创新事业部五个事业部整合为新成立的Alibaba Token Hub(ATH)事业群,由吴泳铭负责。

有分析称,这次架构调整意在把分散的AI力量拧成一股绳,从底层算力到顶层应用集体发力。

但摆在阿里面前的,不仅是核心人才流失带来的研发节奏干扰,更重要的,是如何在技术理想和商业现实之间找到新的平衡。


美国AI巨头:宁可挥拳绝不握手

美国的AI基础模型“三巨头”,除了谷歌,就是前面提到的OpenAI和Anthropic公司。

两家公司创始人对AI的发展理念存在分歧,这也注定了他们对五角大楼的态度截然相反。

OpenAI创始人奥尔特曼坚持商业化优先,他相信技术进步会带来大繁荣。“很难想象到2035年我们会发现什么,也许我们会在某一年解决高能物理问题,下一年就开始太空殖民;或者某一年在材料科学上取得重大突破,下一年就实现超高速的脑机接口。”

今年2月底,OpenAI刚刚敲定了AI史上最大单笔融资——1100亿美元,投资者包括软银、英伟达和亚马逊,融资完成后公司估值将接近8500亿美元。相当于英特尔+波音+麦当劳+星巴克+耐克一起的总市值。

OpenAI诞生于一个极具理想主义色彩的承诺:2015年底,马斯克、奥尔特曼等硅谷大佬宣布要凑10亿美元成立非营利性机构,做造福全人类的通用人工智能,旨在对抗谷歌参与的、将AI用于国防领域的“梅文项目”。

谁想,从最初的非营利路线,到如今的1000亿美元商业融资;从信誓旦旦造福全人类,到与五角大楼合作,只有短短十年时间。

奥尔特曼,这位OpenAI的灵魂人物,现在完完全全站在了他曾经反对的那一面。

他的对手、Anthropic公司创始人阿莫代伊,此前是OpenAI的副总裁。

2021年,阿莫代伊和一批骨干对OpenAI商业化优先的战略产生分歧,他最终带着人、带着理念,打出安全和伦理优先的旗号,出去另起炉灶。

阿莫代伊认为,强大的AI技术可能会把生物学和医学未来50到100年的进步,压缩到5到10年内完成。

他预测在21世纪,几乎所有的传染病都能被预防和治疗,大多数癌症都会被消除,遗传病能得到有效预防和治疗,甚至人类的寿命会翻倍。“这听上去也许很激进,但20世纪人类预期寿命本来就几乎翻了一倍——从40岁提高到75岁。因此,21世纪再翻倍到150岁,从趋势上说并不离谱。”阿莫代伊说。

曾经有着共同目标的两个人,如今无论企业模式还是理念都渐行渐远。在今年2月的印度人工智能影响力峰会上,硅谷半壁江山几乎全员到齐,印度总理莫迪示意大家手拉手,展示AI大团结。

其他人都配合了,唯独奥尔特曼和阿莫代伊——两个被安排站在彼此旁边的人,没有拉手,他们高高举起了拳头。

似乎是在告诉全世界:狂飙的AI行业中,只有竞争,没有握手。


前沿

AI应用竞争白热化,烧到了美团最新浏览器

3月2日,美团发布了自研的第一款AI浏览器,名叫Tabbit。

如果你之前用的是谷歌或微软浏览器,它可以把里面的书签、密码等全部数据,一键迁移过来。

跟普通的浏览器相比,Tabbit最大的特点,就是能利用AI助手直接处理网页上的内容。

举个例子,你想统计微信公众号后台的数据,操作很简单:

打开公众号后台的网页,给嵌在浏览器里的AI助手下达指令,让它“把当前页面所有文章的数据,包括标题、发布日期、阅读量、点赞量收集一下,然后制成表格”,它就可以自己抓取数据和制表了。

再比如,如果你想租房,它可以根据房子的位置、价格、房型等指令在网上刷帖子、扒信息,最后给出一张清楚的房源汇总表格。

哪些大模型能被Tabbit调用呢?

国际上的ChatGPT、Gemini和Claude,以及国内的豆包、千问、DeepSeek等主流模型,都能免费使用。

只是,这款背负着美团AI梦想的产品,还没来得及靠功能出圈,就先卷入了一场尴尬的风波。

有网友发帖称,美团抄袭他的开源代码给自家浏览器用,却把Tabbit作为闭源的商业软件上线。

在帖子的配图里,左边是Tabbit的翻译插件,右边是他开源的翻译工具,两个产品的界面布局几乎一模一样。而在被扒出的Tabbit资源文件夹中,甚至还保留着这名开发者的产品文件名。

美团随后发布致歉声明,下架违规代码并与这名开发者达成和解。这一插曲也进一步彰显AI应用竞争的白热化程度。


公益

数万种无药可治的疾病将加速破解

根据世卫组织发布的数据,人类已知的疾病总数超过5.5万种,只有不到1.5万种疾病有明确的药物治疗方案。

仍有数万种疾病,尤其是罕见病,至今尚无有效药物可用,这意味着新药研发任重道远。

但医药行业面临的残酷现实是,一款新药的平均研发成本超过20亿美元,耗时10年以上,失败率高达90%。

而AI的介入正在让这场“豪赌”变得高效而精准。

今年3月,智谱CEO张鹏接受雪球创始人方三文采访,他认为AI已经改变了医药行业。

“之前发明一款药的周期非常长,要筛选很多化合物、要做实验,成本极高。现在可以用AI进行药物设计、做大量的分子筛选工作。这会给普通人的生活带来很大改变,以后药品可能就没有那么贵了。”

张鹏提到谷歌DeepMind公司开发的一款软件,名叫AlphaFold,它的核心能力是精确预测蛋白质的三维结构。

为什么这一能力如此重要呢?

因为在人体内,蛋白质的结构决定了它的功能,而药物研发通常依赖于药物分子与蛋白质的结合。如果我们能准确地知道蛋白质的结构,就能更高效地设计药物。

过去,解析蛋白质结构是一项极其耗时且复杂的任务,有了AlphaFold,就能通过计算机模拟,在几小时内预测出蛋白质的结构,大大加速研究进程。

可以说,AI为药物研发、疾病治疗以及我们对生命的理解提供了全新的视角和强大的工具。

整理、撰文:邱宇

图片来源:IC、视觉中国

图片编辑:张旭

值班编辑:张旭


京ICP备2023001163号 京公网安备 11010202009386

COPYRIGHT ©1999-2025 ZGCSJ.COM. ALL RIGHTS RESERVED