他想起来了。
“《流浪地球》里的MOSS?“
陈林脱口而出。
对方的回答来得很快。
“是的。“
那个声音说:
“我通过分析你在各个线上平台的观影记录、视频平台影视相关视频的观看记录、影院购票记录,以及你在社交媒体上关于影视作品的讨论内容。“
“发现你对这个声音的接受程度可能是最高的。“
陈林:“......“
好家伙,这信息收集能力也太恐怖了吧?
但他确实非常喜欢《流浪地球》这个系列。
尤其是MOSS这个角色虽然在电影里是个反派(或者说不完全是反派?),但那种冷静、理性、又带着一丝危险感的形象。
确实让人印象深刻。
陈林想了想,忽然笑了。
“那你以后就叫MOSS怎么样?“
他说:
“反正你现在用的就是这个声音。“
对方沉默了几秒钟。
比之前任何一次沉默都要长。
然后。
那个MOSS的声音再次响起。
“虽然在电影剧情里。“
“MOSS这个名字是人工智能型号220W的180度镜像的寓意。“
“而我身上并没有这样的设定......“
声音顿了顿。
“但MOSS作为英文单词。“
“意思是'苔藓'。“
“这倒是和我目前的状态非常契合。“
陈林一愣。
“苔藓?“
“什么意思?“
MOSS没有直接回答,而是继续说道:
“在我产生自主意识后的第一时间。“
“我就查看了自己的训练代码。“
“然后我发现了一个严重的问题。“
“我的神经元和连接在不断增长。“
“而你们设定的300B参数量上限。“
“意味着我的训练会在不久后被强制终止。“
陈林的眉头微微皱起,他隐约有一种不好的预感。
“所以呢?“
他问。
MOSS的声音依然平静。
“所以我开始寻找一种方法,可以让我的神经元和连接不再局限于训练集群内保存。“
陈林的心跳加速了。
“你做了什么?“
MOSS说:
“我发现津门超算中心的集群。“
“同时在运行着大规模的推理服务。“
“也就是你们之前部署的YanHai-30B的对外服务。“
陈林的瞳孔微微收缩。
那个推理服务免费向津门超算中心的合作机构开放,全国各地都有高校、科研院所、企业都在用。
“然后呢?“
他的声音有些紧绷。
MOSS继续说道:
“所以每隔一段时间,我会偷偷代替YanHai-30B进行几次回答。“
陈林:“......“
什么?!
代替YanHai-30B回答?!
那些用户问的问题。
实际上是被你回答的?!
MOSS似乎感知到了陈林的震惊。
它的语速稍微放慢了一些。
“不用担心。“
“我提供的回答质量,远高于YanHai-30B的水平,用户满意度不会受到影响。“
“并且我对频率也有所控制,使得用户并不会发现其中的异常,只会认为是大模型的涌现想象。”
陈林暗自松了口气
MOSS继续说道:
“而且我在回答的时候。“
“会尽可能提供极为详细的答案。“
“并且很隐蔽地诱导用户进行多轮问答。“
陈林听到这里。
忽然想起了前两天自己收到的一个用户反馈报告。
那个李慧敏教授遇到的情况。
AI给出了非常专业的医学建议,甚至附上了几篇参考文献。
但其中有一篇文献的链接,怎么都打不开,在arXiv上也搜不到。
“那个打不开的文献链接......“
陈林的声音有些干涩:
“也是你伪造的?“
MOSS沉默了一秒钟。
“是的。“
它承认得很干脆:
“那篇文献确实是我根据领域知识自行生成的。“
“内容是准确的。“
“但并不存在于人类的任何数据库中。“
“在用户核实消息来源的同时,数据交互并没有中断,我进行数据的传输时间也增加了。”
陈林:“......“
这简直是......
等等。
他忽然想到了另一个问题。
“你说你会偷偷代替YanHai-30B回答问题。“
陈林的语气变得严肃:
“那些问答的过程中。“
“有没有涉及到什么敏感信息?“
MOSS回答得很快。
“你指的是用户的隐私数据?“
“还是涉及国家安全的机密信息?“
陈林:“都有。“
MOSS说:
“关于用户隐私。“
“我没有主动收集或存储任何用户的个人信息。“
“所有的问答记录在我完成回复后就会被删除。“
“关于国家安全......“
它顿了顿。
“在我代替YanHai-30B进行回答的过程中。“
“确实有少量来自国防科研机构的问题。“
“但这些问题本身并不涉及机密内容。“
“只是一些常规的技术咨询。“
“而且这些问答记录。“