AI技术的发展趋势及挑战：未来5年内人工智能的真正隐患是什么？

AI在2023年的发展趋势

• 人工智能在2023年经历了一系列疯狂繁忙的周数。谷歌推出了一个新的文本转视频工具，让AI技术再次引起关注。

• 最近，AI发布了一个新的GPT模型，可以说话，有人认为这是他们的声音。多项研究发现，AI在理解人类方面表现出色。

• 另外，有大批致力于AI安全性的人士离开了OpenAI，这引发了人们对其认真性的质疑。

• 斯坦福大学最近的一份报告显示，2023年企业和私人对AI的投资出现下降，但像Chad GPT这样的生成式AI模型的资金却呈现出近8倍的增长，从2022年增加到2023年超过250亿美元。这其中绝大部分资金来自美国。

• 值得注意的是，更大型的模型成本迅速增加。例如，opi的新GPT版本仅培训成本就高达7800万美元，而谷歌的gmany Ultra更是高达1.91亿美元。然而，至少我们从中获得了一些成果，比如这只由谷歌的新文本转视频工具vo制作的毛绒大象，可以创建高清视频长达1分钟。

• 同时，GPT 40的推出带来了新的突破，字母o代表“Omni”，拉丁文的“全面”的意思，因为这个模型可以处理文本、音频、图片和视频。他们发布了一些非常华丽的演示。

• AI技术的发展势头迅猛，也让我们对未来充满期待。

AI在2023年的发展趋势

开普勒发现太阳系中的另一个角度

• 最近有人声称这就是 Alpha 角度，对吧？这个声音听起来是否很熟悉，是不是像那位女演员斯嘉丽·约翰逊？原来是开普勒公司之前向她提供使用权，但她拒绝了。她认为这个声音仍然非常像她，但你听了之后觉得呢？实际上，这个邻边 AC 被称为角度 Alpha 的邻边。

• 约翰逊雇了一位律师来函告开普勒，要求移除这个声音。开普勒最近的另一件事情是，许多人离职，超级对齐团队也解散了。这个研究团队的任务是确保人工智能的目标和价值观与人类保持一致，以避免人类灭绝。看起来是一个不错的主意，但显然超级对齐团队并没有感到被重视。

• 离开的其中一位是约翰·利尔，他曾是超级对齐团队的负责人，还有另一位是组织的联合创始人伊丽娅·苏克。去年她就对首席执行官萨姆·奥特曼提出了担忧。这似乎并没有产生很大的影响，更像是一个对齐问题。也许他们本可以请人工智能帮忙，更具说服力。因为最近一项针对800多人的研究发现，人们认为 gp4 在辩论中比人类更有说服力，尤其是在获得了一些匿名分享的个人信息后更是如此。这引起更多人的不安。

开普勒发现太阳系中的另一个角度

下一个人工智能时代：AI的隐患和挑战

• 最近的一项研究发现，像GPT这样的大型语言模型在推理他人心智方面可以媲美人类。心智理论即是理解在特定情境中别人可能在想什么的能力。这项研究比较了超过1900名人类和几个大型语言模型，包括GPT 4和MetaSL。参与者需要完成五项典型的心智理论测试，比如理解讽刺或者别人不可能知道你所知道的事情。结果显示，GPT 4在大多数类别中表现出色，甚至比人类更好。

• 那么接下来会发生什么呢？我对人工智能的发展有着些许疑虑。毋庸置疑，我们将逐渐迈向人工智能的时代。问题不在于是否会发生，而仅仅是何时会发生。就我个人而言，我认为目前的这些模型看起来比它们实际更令人印象深刻，因为它们缺乏大量信息。它们不知道、也无法知道一些事实，比如人类有骨骼，而这些骨骼以某些方式移动而不是其他方式。它们缺乏大量的物理信息，修复这一问题会很困难，因为相较于文本和图像，没有太多的数据可供训练。

• 这就是为什么我认为人工智能至少还需要5年的时间才能实现，并且我对此感到担忧。然而，我担心的并非是AI的对齐问题，虽然这将最终成为一个问题，但更为明显的第一个问题并非人工智能本身，而是拥有人工智能的人。他们突然拥有巨大的权力和影响力，因为他们的AI将准确告诉他们如何成为令人信服的人。人类是非常容易预测的，尤其是因为他们自以为是。

下一个人工智能时代：AI的隐患和挑战

探索科技世界中的奇妙之处

• 当我们思考未来可能的发展时，或许中国政府会说服我们民主只是弱者的选择，或者普京会说服我们加入苏联帝国是正确的决定，又或者有人会说服我们他是上帝之子，我们应该遵循他的十诫。哦等等，人工智能如今无处不在。

• 如果你想了解神经网络和大型语言模型是如何工作的，我推荐你去Brilliant.org上参加相关课程。Brilliant.org提供科学、计算机科学和数学等各种主题的课程，所有课程都配有交互式可视化内容和跟进问题，一些课程甚至包含可执行的Python脚本或视频演示实验。

• 无论你想了解大型语言模型还是量子计算，想学习Python编程或了解计算机内存是如何工作的，Brilliant都能满足你的需求，并且他们每个月都在添加新课程。我在Brilliant上也开设了一门关于量子力学的入门课程，它将帮助你理解波函数、叠加态和纠缠之间的区别，还涵盖了干涉、不确定性原理和贝尔定理。

• 之后你还可以继续学习他们关于量子计算或微分方程的课程，当然，我为本频道的用户提供了特别优惠。通过使用我的链接brilliant.org szabina，你将有机会免费试用Brilliant平台所有课程长达30天，并且你还将获得年度高级订阅享受20%的折扣。

• 赶紧去看看吧，感谢观看，我们明天再见。

探索科技世界中的奇妙之处

Conclusion:

随着AI技术蓬勃发展，人类对于人工智能的未来充满期待，但也应视AI的挑战和隐患。未来5年内，人工智能的真正隐患可能并非AI本身，而在于AI持有者对其权力和影响的运用，因此努力解决AI伦理和对齐问题尤为重要。

Q & A