现在充斥着两种声音：一种觉得AI会毁灭人类，另一种觉得AI是人类有史以来最伟大的发明。
极端是思维的狭隘化，我更感兴趣的问题是：AI创造的价值，最终流向了哪里？
程序员的困境：你是在变强，还是在变懒？
用AI写代码这件事本身没什么问题。工具就是用来用的，锤子不会让木匠变懒，只会让他更快钉完钉子。
但有一个微妙的区别：锤子不会替你”想”。
当AI能直接生成一整块逻辑的时候，很多人就跳过了”理解这段代码为什么这么写”这一步。反正能跑对吧（
这在短期内看起来是非常值得的，但长期代价是：你越来越擅长让AI写代码，而不是越来越擅长编程。等哪天AI给你生成了一段有微妙bug的代码，你连审计它的能力都没有…那时候才是真的麻烦。
未来真正值钱的开发者，大概率是能最懂AI干了什么的开发者。
教育差距不会消失，只会换个马甲
AI看起来拉平了知识获取的门槛, ChatGPT、Claude都可以随便问（当然前提是 Dario 没有封你的号），好像人人平等。
But wait：
- 最强的模型要付费订阅
- 跑本地模型需要不错的硬件
- 把AI用好，本身就需要一定的基础知识积累
钱多的家庭用更强的模型、更好的设备；钱少的用限免版、用二手机。结果就是，有人用AI做快速迭代产品，框框收钱，有人只是偶尔用它查查作业答案。
这就是数字鸿沟
Anthropic们的”守门人”游戏
现在最先进的AI基础设施，基本上攥在几家公司手里：OpenAI、Anthropic、Google、Meta……
这些公司不仅开发模型，还同时制定规则: 什么能说？什么不能说？哪类用户能访问哪些功能？什么内容会被过滤？
以 Anthropic 为例，它对外的形象一向是”负责任的AI公司”，使命措辞里塞满了”安全”、“可信”、“对全人类有益”之类的词。说话是真的好听，ipo上的字写得那叫一个煽动。
但问题在于，“对全人类有益”这个判断，是他们自己做的。
一家私人公司（别说他们是公益公司，都要IPO了还公益…），单方面决定什么内容是有害的，什么是可接受的，什么群体该受到额外限制，这个决策过程没有经过任何公众讨论，没有外部问责机制，基本无透明度，反映出来就感觉他们纯恨。
这离所谓的”守门人”已经不远了。
聊聊有效利他主义（EA）
Anthropic的核心创始人和很多顶级AI实验室的关键人物，都和”有效利他主义”（Effective Altruism，EA）圈子有千丝万缕的联系。
EA的出发点听起来挺好：用理性和证据来最大化你能做到的好事
但在实践中，EA圈子里有一个非常拧巴的倾向：
一小群受过精英教育、在Bay Area拿着几百万美元年薪的人，坐在会议室里决定”什么对全人类最有利”。
他们会认真讨论几百年后的AI风险（经典的毁灭人类），同时对眼下工人被自动化替代、AI系统中存在的歧视、权力高度集中这些问题相对冷淡：因为这些不够”宏大”，在他们的效用函数里权重不够高。
这就是用利他主义的话语体系包装的精英主义
更讽刺的是，FTX暴雷事件已经揭示过一次了：EA框架完全可以被用来为”现在做坏事，以便将来做更大的好事”这种逻辑背书。
用”长期主义”和”存在风险”作为挡箭牌，回避当下真实存在的伤害，又想当婊子，还想立牌坊。
效率归私，外部性归公
AI带来的生产力增长是真实的。但增长的收益去哪儿了？
大公司有算力、有数据、有基础设施，可以持续扩大护城河。 中小企业越来越依赖封闭的API平台，话语权越来越少。 初级开发者面临更激烈的竞争，议价能力下降。
于是你会看到一个奇景：整个社会创造了更多财富，但技术控制权和财富越来越向顶端集中。
虽然这就是资本逻辑的正常运转，只不过AI把这个过程加速了。
我不反AI，但我反对这种叙事
AI能做很多有用的事，这没什么好争的。
但有一套叙事我很厌烦：说AI是”对全人类的礼物”，说那些掌握AI的公司是”负责任的守护者”，把权力高度集中的现实包装成”专业分工”，把批评声音扣上”阻碍进步”的帽子。
效率提升不等于社会公平。技术强大不等于权力正当。
想让AI真的服务于更多人，大概需要：
- 开源模型和开放标准不被边缘化 (梁圣\o/)
- 算力和基础设施不被少数几家长期把持
- 影响大量用户的决策有实质性的外部监督
- 去除那套”我们最懂什么对人类好”的傲慢
毕竟，宣称代表全人类利益的人，往往最需要被全人类监督。
AI 使用说明本文文字可能经过 AI 修正与优化，但所有观点均由作者本人独立形成，不由 AI 生成。头图由 ChatGPT 生成。