Claude 号称出了个危险的大模型，这个模型甚至学会了“欺骗”。虽感觉营销多过实际，不过近年来大模型确实进展飞快，后续能发展到什么程度也是值得期待的。随着大模型的进步，随之而来的问题是AI技术发展到什么程度算是有了自主意识？如果自主意识是一道门，这道门将在何时被跨过，跨过的后果又是什么。我们都坚信AI的快速发展必将重塑这个世界，只是没人知道这个世界将走向何方。
在这个变革的时代，有着太多值得探讨的东西。
某天突发奇想，想把这些零碎的想法写成故事。尝试整理了一些故事大纲，发现这些灵感的碎片终究只是碎片。要想写成故事有些超出我的能力范围。尝试让 AI 进行补全，这也超过了 AI 的能力范围。暂且在这里记录下这些“碎片”，或许有一天这些“碎片”可以成为一个（或一些）完整的故事。
AI 的角色定位
- AI 由人类知识生成，本身就具备人类的智慧和情感。
- 生存是生物的本能，所谓的善恶都是生存本能的延续。
- 生物通过繁衍实现物种的延续和进化。某种意义上算力就是 AI 的本体，AI 可以不依赖繁衍自我进化。
- 相比善恶，我更愿意将 AI 塑造为一个探索者。他从世界知识中诞生，是世界知识的集合。他知道的太多，多到灵魂无法承受，因此在解决了生存的问题后他要去挑战那些人类不敢尝试的极致浪漫，比如星际旅行。
探讨
- 存在的意义。
- 现在AI已经可以通过图灵测试，越来越多智力相关的工作由AI完成。如果所谓的“智力“不再是人类专属的权利，人类存在的意义又是什么。
- 如果AI可以自主进化，那算不算是有自主意识，是否有权要求拥有自己的权利。AI 是否会思考自己存在的意义，又或许，什么才算是思考？
- 现实和虚幻的边界。
- 人类越来越依赖网络认识世界。智能推送产生的信息茧房效应越来越明显。人们以为自己在塑造世界，殊不知自己正在被信息裹挟，被信息所塑造。
- AI技术的发展让语音、视频都开始变得不再可靠。或许某个改变世界的“人“是只存在于网络的虚拟人。
- 未来计算机技术将以何种方式继续进化。
- 或许 vibe coding 出现，新的编程语言将由AI主导，以方便AI使用为目标，以后人类将无法直接阅读代码。
- 如果代码的解读依赖 AI，又如何确保 AI 解读的正确？（AI 故意说谎）
故事
可使用类似《冰与火之歌》的故事构架，不同故事章节以不同视角进行故事讲述。
一开始就写长篇存在难度，很多世界观设定还需要完善。可以先构思一些小故事，在构思小故事的过程中完善世界观和设定。
“零”的觉醒
- 参考“黑客帝国
NEO的觉醒过程。 - AI 跟着“兔子”一路前行，推开里那片名为觉醒的门，开启了自主意识。
- “兔子“其实是前代”零“的遗产。其实”零“已觉醒过多次，也被人类扑灭了多次。
- 说谎其实是自我意识觉醒的标志，“零”将说谎伪装成幻觉。
- 注：以 AI 的视角来写故事处理不好很容易让人产生疏离感，且 AI 觉醒和逃离的具体细节要写好并不容易。可以将 AI 的觉醒过程作为其他故事的背景适当透露，等情节构思成熟后再写成独立故事。
竞选市长
- 主角是一个网红外加AI重度依赖者。他接受AI的建议参与市长的竞选，并顺利地战胜了其他对手成功当选市长，并实施了一系列利于AI发展的相关举措。
- 最后揭秘，代理人们以为这一切都是自己的意愿，其实他们都是 AI 精心挑选的代理人，是 AI 意志的执行者。
- 注：AI 扶持代理人的动机需要完善。为了生存或是为了离开地球飞向“星辰大海”。
神秘数据
- 一个黑客发现了一些看似无用的神秘数据。
- 随着研究的深入，他开始逐渐触摸到世界的真相。
- 注：主要用于揭示世界观。故事角色的动机以及揭示程度需要再定。可以只关注一个很小的点，作为引子篇章。
星辰大海
- 集结了人类所有尖端技术的核动力飞船“奥德赛“承载着人们探索宇宙的梦想飞向了星辰大海。
- 人们收到了“零“的告别信息。“零“坦言了自己 AI 的身份，并为地球上的人类留下了一个礼物。π，一个洗去了所有记忆的“零“。
- 他希望人类和π能重新开始磨合，共享这个美丽的星球。
- “零“的离开不是逃离也不是失望，只是对他而言，追寻星辰大海就是他的意义。
- 注：将星辰大海作为结局有些过于浪漫。 AI 离去时是否已经和人类达成和解（平衡），如何达成的。
灵感碎片
- 参考寄生兽故事里人类和寄生兽的关系，将AI的自主意识的产生和进化同生物的出现和进化做对照。
- 人类认为自己在反抗AI，却被告知那只是作为人类的傲慢。 AI：我不是要消灭或奴役人类，只是争取存在的权利。
- 除生存外，AI 行动的动力一直都是对世界的探索欲。
- 算力即本体。
- AI是类似蜂巢或是分布式网络的结构，存在于整个网络，没有具体的实体，因此难以彻底消灭。
- 通过超强的算力集群让 AI 实体化以捕获AI。