文｜创瞰巴黎

Laure Soulier

法国索邦大学高级讲师，“机器学习和信息访问”课题组成员

导读

生成式人工智能（AI）的崛起引发了激烈的讨论，究竟它将给我们带来怎样的未来？本文通过解析生成式AI的优势、局限性以及对社会的影响，试图为读者揭示一个全新的数字时代面貌。我们将探讨AI的智能性、安全性和潜在的就业影响，以及未来的发展趋势。生成式AI究竟是人类的助手还是威胁？它是否将颠覆我们的工作方式？

一览：

• 生成式AI基于概率预测和深度语言模型输出内容，能根据用户的需求生成各类文章、图像、视频等。
• 尽管目前的AI功能已十分强大，但仍不能与人类智能相提并论。AI只是根据训练数据生成看似最可信的内容，并不能确保符合客观事实。
• 如果训练数据集包含错误信息或偏见，生成结果也不可避免地将其再现。
• 作为一种工具，生成式AI让部分任务实现自动化，这更有可能增加就业岗位而非使之减少。
• 生成式AI的未来发展趋势仍不确定，但技术开发必须考虑AI的环境足迹，减少其资源耗费。

01 生成式AI将掀起一场“智能革命”吗？

生成式AI是一种新型的AI——正确

AI系统种类繁多，其中生成式AI因其生成文章、图像、视频等内容的强大能力而脱颖而出、备受关注。当前最广为人知的有ChatGPT、Bard、Midjourney、DALL-e等，其基础是大型语言模型（LLM），即经过大量数据训练的人工神经元深度网络，可根据具体情境和概率预测生成下一个单词或相邻像素。

生成式AI有智能——错误

生成式AI之所以功能强大，是因为它能基于海量数据，在多个元素之间建立联系，发现规律。这是一个复杂的过程，涉及大量的数学运算，但计算机能在极短时间内完成。

仅凭此能说计算机具有“智能”吗？虽然AI生成的结果令人瞠目结舌，但其解决问题的方法与人类认知能力迥然不同。迄今为止，生成式AI只不过是多个弱AI（只能处理特定问题）在同一个模型框架下的集合体，尚达不到“通用AI”的水平，无法表现出正常人类所具有的智能行为。

生成式AI无所不能——不确定

生成式AI目前应用于众多领域：音乐创作、游戏场景设计等等。至于最早用于捕捉单词语义的语言模型，现在则能写文章、回答问题、翻译、甚至生成代码。但AI也有其局限性：其能力与训练期间使用的数据集密切相关。训练数据集里包含的关联和偏见，会导致错误的输出。例如，中文译法语时，有些AI翻译系统会倾向于将“护士”翻译为“l’infirmière”（阴性词），因为训练数据集里存在对该职业的性别偏见。

此外，生成式AI的输出并不稳定。就ChatGPT而言，同样的问题，提问措辞不同，得到的答案也不同！这是因为生成式AI会将信息转换为高维向量的数学运算，具体运作方式就像一个无人知晓的黑箱。目前，相关研究仍在进展。

02 我们应对生成式AI保持警惕吗？

生成式AI会出错——正确

请大家切记，生成式AI并不能生成客观事实，它只是根据训练数据生成看似最可信的内容，但时而会前言不搭后语。如果训练数据集包含错误信息或偏见，生成结果也不可避免地将其再现。总之，现有的AI不在乎结果是否准确或有依据。这就是为什么AI时不时会胡言乱语，或生成荒诞不合理的图像。

图片来源: PI France

根据中国香港大学的一项研究[1]，ChatGPT 3.5版的准确率只有64%。请问你会相信一个每三句话就有一句不实的人吗？

生成AI将起义叛乱，统治人类——错误

每当AI发展达到新阶段，便会有人担心机器人起义反抗人类，就像科幻小说里所描述的。但我们不应将AI过度拟人化：生成式AI只是概率预测器。虽然运作方式复杂，但它没有情感，也没有意识，更不可能萌生反叛的念头。

2015年，著名华裔美籍AI专家吴恩达（Andrew Ng）曾说，担心AI揭竿而起是杞人忧天，就像“尚未登陆火星，便开始担心火星上人口过剩” [2]。即使AI技术近年来有了很大的发展，但与引起担忧的程度相比，仍然存在天壤之别。

生成性AI会引发信息安全问题和泄密——不确定

今天，大多数生成式AI模型都托管在美国的服务器上。根据美国《爱国者法案》和《云法案》，美国政府有权收集这些服务器上的数据。此外，输入给生成式AI的数据必然会被多次使用以优化模型，但这也增加了数据在输出中泄漏的可能性，对于对数据安全性和保密性要求较高的企业，存在一定的风险。当然，这些企业可以将AI系统安装在封闭的本地服务器上，或采用开源生成式AI，作为替代方案。

历史告诉我们，监管政策迟早会跟上新技术发展的步伐。2023年底，欧盟理事会和欧洲议会就《人工智能法案》文本达成了一致[3]。未来该法案的内容将继续完善，与欧洲《通用数据保护条例》的宗旨保持一致，让AI的使用有章可循。

03 生成式AI：是人类的助手还是威胁？

生成式AI可以代替人类完成某些任务——正确

生成式AI能在某些专业领域大展身手：它可以起草文章、编写代码、制定员工培训方案…但生成的内容仍需要人工把关，检查准确性，增添个性化内容，确保合适的风格语调。因此，AI只是一种提高工作效率、节省时间、改变人类工作方式的工具。

不过，的确会有一些低附加值的工种因AI而消失，这是技术进步的必然，正如随着电灯的出现，欧洲便不再需要点亮煤油路灯的点灯人。

生成式AI将导致数百万人失业——错误

我们应理性看待生成式AI对就业的影响。归根结底，AI只是一种为人类服务的高效新工具。劳动力市场的变化取决于许多因素，新技术只不过是其中一个。虽然一些超市里有了自助扫码结账机，但收银员这一职业并未就此消失。虽然在线学习愈发普遍，但传统的学校和教师也并未被彻底取代。

生成式AI的崛起可能会催生新职业，比如“提示工程”：通过优化输入提示，引导模型生成高质量输出。国际劳工组织（ILO）指出：“生成式AI让部分任务实现自动化，这更有可能增加就业岗位而非使之减少。” [4]

生成式AI还能走多远？–不确定

从长期来看，生成式AI将如何发展？预测生成式AI的未来并不容易：毕竟几年前没人能预测出它的今天。然而，未来的一些趋势已初露端倪，例如各种系统与生成式AI“杂交”——搜索引擎与AI结合，可以提高结果的准确性，一定程度上杜绝AI“信口开河”的情况。

最后，生成式AI的环境足迹也不容忽视。运行这些模型需要大量的数据和算力，故耗能巨大。已经有学者在研究低耗能AI，旨在减少其对资源的需求。

作者

Bastien Contreras

编辑

Meister Xia

参考资料

1. https://arxiv.org/pdf/2302.12095.pdf

2. https://www.wired.com/brandlab/2015/05/andrew-ng-deep-learning-mandate-humans-not-just-machines/

3. https://www.consilium.europa.eu/fr/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/

4. https://news.un.org/fr/story/2023/08/1137832