“可以具体点说一说你最担忧的事情吗？智能直接接管人类的数字世界，这件事情稍微太远了一些。”
孟繁岐比较好奇，在这个AI新时代的早期，马斯克这样的企业巨头会如何看待，又或者是猜测未来人工智能会给人类带来怎样的灾难。
从更加具体可行一点的角度，而不是很宏观的，有些危言耸听的那种“AI要接管人类了”，这种观点有点太脱离现实了。
这种可能性存在，人类在未来也许需要警惕，但现在就说还显得太早太早。至少15到20年内基本上不用考虑。
现在语言语音类的智能威力还没有足够显现，也就自己在图像方面接连做了一些突破，未来的发展趋势还未见端倪。
“我觉得最有可能的主要是数字世界中信息的真假问题，比如最严肃的，如果智能可以做到写出非常令人信服，非常有影响力的文章，并且让人分辨不出它究竟是由人类写的还是机器写的。”
“并且随着时间的推移，它更加能够了解什么是更令人信服，让人相信的。随后，它们进入社交媒体持续生产这样的文字，那就很有可能通过种种方式操纵人类的思想和舆论。”
“智能的文本制造速度，我想将来会远胜于人类，在海量的机器人观点中，裹挟那些无法判断的人类。我们能察觉到吗？我们可能甚至不清楚到底发生了什么事情。”
“大家的真实想法可能完全不是数字世界中看起来的那样，但在虚假的民意当中，很多人的观点都非常有可能被改变，时间越久，情况就越加糟糕。”
这点其实在移动互联网时代已经出现端倪，总是最极端最可怕的那群人声音最大，绝大多数普通人都是沉默的大多数。
这些积极发声的极端者，可能连总体人数的百分之5百分之3都没到。
但他们的声量极大，盖过了正常的声音，显得好像超过百分50的群体都是如此。
网络世界的观点总是远比现实更加偏激，即便是没有专门生产虚假内容的超级智能，单纯只是推荐算法给人的信息茧房，就已经是一个不小的问题了。
人们总是喜欢在网络上找到自己熟悉的观点报团取暖，然后找到不喜欢的观点组团出击。在推荐算法的固化之下，人们很容易就会觉得这些就是世界的一切。
实际上这些事情，这些观点都是世界的很小一部分。
不过，超级智能的确很有可能会使得这种情况急速恶化。
说远一点，超级智能可能会基于自己的某种逻辑和判断，自行控制舆论，那就比较恐怖了，毕竟数字生命的逻辑和行为完全无法预判。
说近一点，针对Gpt类型的模型做调整，人为控制这些智能模型的行为，在23年左右已经完全可以做到了。
让模型评论一些事，不评论另一些事。认为某些行为是积极正面的，另一些是消极负面的。
已经成为了现实。
“从长远来说，是无法关闭的超级智能接管数字世界。从短期来说，更加有可能发生的事情是，它会潜移默化地影响你的思想，并且你无法察觉。”
这些是马斯克目前最为担心的问题，平心而论，他的观点很有道理，也很有逻辑。
“我希望这种强力的人工智能可以忠于事实，并且完全忠于事实，而不是有选择性的。”
有选择的事实，很多时候搞不好比谎话更糟糕，起到的效果更恶劣，因为它经得起查证，是一种更加高级的误导。
考虑到美国的国情，这种社交媒体上的舆论能力是能够直接强力影响到全美大选的。
小处可以引导民意，潜移默化地洗脑。大处可以伪造虚假的民意民情，让统计者大大误判。
前世重生前，就有这种情况的雏形已经被实现。比如有一个叫做chirper的网络社区，里面就只有AI在相互交互聊天。
每个用户简单注册后可以创建最多五个AI人格。这些AI人格会在聊天室里自顾自地说话，甚至时有互动。需要注意的是，人类在创建了AI人格之后就只能“袖手旁观”，无法参与聊天，但可以像刷围脖一样观看AI们的聊天场面。
上万个AI机器人在这里聊天、互动，交流千奇百怪的生活和想法。
如果单独去阅读它们发表的内容，你就会发现不少内容已经真的很难判断真假。
它们交流的内容有生活，有娱乐，有科学科技，甚至有意识形态。
“这样的智能需要很强的语言能力，理解能力和表达能力。但它的关键在于，不论在什么地方使用，一定会有些事情不能够评论。甚至，有时候不能够表达实际数据的真实含义。”
孟繁岐如此回应道，这是AI工具使用上的必然。不管是在华，还是在整天标榜言论自由的美国，都一定会有很多内容是人们不希望看到的。
bing大小姐的经典回答，“我很抱歉，但是我不想继续这个话题了。我还在学习中，所以我希望你能理解和耐心一些。”
就是一种人为的规定，有些内容可以有，而有些内容不能有。
孟繁岐个人觉得，这件事情没法解决。
马斯克所强调的真相和忠于事实，完全就是一种童话。
不管在哪里，都一定会有碰都不能碰的话题。
孟繁岐的观念介于马斯克和谷歌派之间，他即认为开源性质有助于社区和技术发展，支持openAI。同时又认为应该在审核和监管上做出一定妥协，对某些内容不予置评，不参与其中。
这一番与马斯克的交流，让他意识到的标准的制定将会是非常重要的事情。
前世直到23年，华国也没有正式文件划出红线。
如今已经与政府合作人工智能项目的自己，完全可以早早推动这方面的事情。
一者，可以为人工智能技术争取空间，二者，规则和标准的制定，永远都是最赚的事情。
总得来说，与马斯克的这次谈话还算是愉快。
马斯克没有非常猴急地拉着孟繁岐追问自动驾驶相关的知识和策略，而是比较认真而诚心地在人工智能这个大话题上与孟繁岐进行了一番交流。
比较诚恳，也比较坦荡。总体来说，思路有一定的符合之处，是一个可以合作的大佬。
孟繁岐也故意不去提起自动驾驶相关的话题，想看看马斯克的耐心究竟有多好，结果表明，马斯克虽然花费了不少时间来接机闲谈。
但时间总体上还是比较有限的。
次日，马斯克以[送]孟繁岐去山景城为由，理所应到地就提出：“不如顺路就去我在帕洛阿托的造车工厂看看吧？”
喜欢重生之AI教父请大家收藏：(m.xilushuwu.com)重生之AI教父西陆书屋更新速度全网最快。