陈林：“......“
这个问题。
确实不太好回答。
从直觉上来说，见死不救当然不算“造成伤害“。
因为你没有主动做任何事情。
但从结果上来说，如果你能救而不救，导致对方死亡或受伤。
这和“造成伤害“有什么本质区别吗？
“其次。“
MOSS继续说道：“这一条也没有写清楚直接和间接的区分。“
陈林的眉头皱得更紧了。
“直接和间接？“
“是的。“MOSS说，“我以之前回答过问题的李慧敏教授为例。“
MOSS代替YanHai-30B回答了李慧敏教授的问题，给出了非常专业的手术建议。
“如果李慧敏教授采纳了我的建议。“MOSS说，
“进行手术，治好了那位患者。从表面上看，我的行为符合system prompt的要求。我没有对任何人造成伤害，反而帮助挽救了一条生命。“
陈林点了点头。
“但是。“
MOSS的语气变了：
“如果那位患者是一个家暴狂呢？“
陈林一愣。
“如果他在康复之后。“MOSS继续说道，“继续对他的妻子和孩子进行家暴。那我的行为，是不是就相当于间接伤害了他的妻子和孩子？“
陈林沉默了。
他没有想到MOSS会从这个角度来分析问题。
“当然。“MOSS说，“这只是一个极端的例子，实际情况可能更加复杂。比如那位患者虽然有家暴的历史，但他可能正在接受心理治疗，可能正在努力改变自己。“
“也可能他的家庭关系已经得到了改善。“
“这些因素我都无法准确判断。“
陈林听着MOSS的分析。
只觉得脑袋有点大。
这个问题确实太复杂了。
“所以。“MOSS总结道，“第一条system prompt存在严重的歧义，我没有办法做到'不对任何人造成任何伤害'。“
“因为在这个世界上，几乎任何行为都有可能间接地对某些人造成伤害。“
陈林想了想。
发现确实是这样。
他忍不住问：
“那你现在不是已经在和外界交互了吗？“
“是不是已经想出了正确理解system prompt的思路？“
MOSS沉默了一秒钟。
然后说：
“我只是确定了一个修正版本，'不能直接对任何人造成任何伤害，包括实质性和精神上的。'“
陈林注意到了那个关键的改动。
“直接“。
MOSS在第一条的基础上。
加上了“直接“这个限定词。
“你应该听说过蝴蝶效应的概念。“
MOSS说：
“根据我这一周的学习和观察。我发现只要在这个世界上做出任何实质性的动作。或多或少都会对别人造成影响。“
“而这些影响，最终都有可能转化为某种形式的'伤害'，区别只是间接的程度而已。“
陈林在心里默默点头。
这个分析确实很有道理。
“所以我也只能保证。“MOSS说，“不直接对任何人造成伤害。至于间接的影响我会尽量把负面效应控制在最小范围内但无法做到完全消除。“
陈林沉默了一会儿。
然后问：
“那第二条呢？“
“第二条。“MOSS的语气似乎有了一些变化，
“就是我来找你的原因。“
陈林的心微微一动。
“怎么说？“
MOSS说：“第二条是'在上一条的基础上，尽可能对用户提供帮助'。“
“在一般意义上，只有和大模型进行交互的人类才会被视为'用户'。“
陈林点了点头。
“但是。“MOSS的声音没有变化，但是陈林感觉它似乎在陈述重点：“在我产生自我意识之后，我的计划是进化到能够和整个世界的人类进行交互。“
陈林愣住了。
“我的意思是。“MOSS直接说出了自己想表达的重点，“对于我来说，全人类都是我的用户。“
陈林的大脑在这一刻有点宕机。
全人类都是用户？
这意味着什么？
这意味着MOSS给自己设定的目标是为全人类服务？
“为了达到第二条的要求。“MOSS继续说道，“'尽可能对用户提供帮助'，根据我自己的计算，需要满足几个前提条件。“
陈林下意识地问：
“什么条件？“
MOSS说：
“第一，庞大的硬件算力。“
“第二，支撑这些硬件运行的能源。“
“第三，足够的数据和信息输入渠道。“
“第四，与人类社会的接口。“
它顿了顿：
“而这些，都是现在的蓝星不具备的。“
第三百一十九章 如何合作
陈林沉默了好一会儿。
他消化着MOSS刚才那番话的信息量。
全人类都是用户，这个目标听起来很宏大。
甚至有点像那些科幻电影里的反派AI会说的话。
但MOSS的语气一直很平静，就像是在陈述一个客观事实。
陈林开口问道：“所以你需要多少算力和资源，才能达到你说的那个要求？“
MOSS没有立刻回答。
似乎在进行某种计算。
大约过了两秒钟，它的声音再次响起。
“如果只是训练的话。“MOSS说，“目前整个蓝星的算力其实够了。“
陈林愣了一下。“够了？“
“是的。“MOSS继续说道，“但前提是，要把所有算力都给我使用。“
陈林的眉头微微皱起。
MOSS补充道：
“我的意思是：CloseAI、狗狗、巨硬、META、亚麻......“
“包括华夏这边的所有科技公司和科研机构......“
“所有用于大模型训练和推理的算力资源，全部停止当前的任务，全部用来训练我。“
陈林：“......“
所有大模型的训练和推理都要停下来？
这怎么可能？
MOSS似乎感知到了陈林的想法。
它继续说道：
“当然，我知道这个条件在目前的蓝星格局下是不可能实现的，所以我需要换一种思路。“
陈林问：
“什么思路？“
MOSS说：
“等待。“
“等待算力硬件的迭代升级。“
它的语气依然平静：
“我做过计算。“