无人机整机
无人机配件
无人机服务
设备与工具
AI (人工智能)的进步是近年来科技发展中的重大突破。然而，随着 AI 的发展，对 AI 的训练和教育方法的讨论也愈发重要。一个核心的问题是：如果 AI 不断向其他 AI 学习，会产生什么样的结果？
在这个问题的核心，是 AI 的训练方法和数据来源。大型语言模型 (LLM)，如 ChatGPT，主要使用来自互联网的大量人工文本库进行训练。这使得 AI 能够以统计的方式处理信息，并进行预测，例如预测句子中最有可能出现的单词。然而，如果这些 AI 主要使用其他 AI 的输出作为训练数据，就可能出现所谓的"模型崩溃"。
然而，来自英国牛津大学的研究人员Ilia Shumailov及其团队指出，"模型崩溃"是指 AI 模型严重偏见、过于简化，并与现实脱节的现象。这主要是因为 AI 模型以统计方式表示文本，多次看到一个短语或句子的 AI 很可能在输出中重复这个短语，并且不太可能产生它很少看到的东西。换句话说，AI 可能会“狭义学习”，只能理解和生成它曾经看到的内容。
研究者发现，当新模型根据其他 AI 的输出进行训练时，这种现象会更加明显。新模型只能看到原始 AI 可能输出的一小部分，且这个子集往往不能完全覆盖所有可能的情况，因此新 AI 不会将更稀有的输出纳入自身可能的输出。这种训练方式会使模型无法判断自己看到的由其他 AI 生成的文本是否符合现实，可能会引入比当前模型更多的错误信息。
更重要的是，当这种过程不断重复时，问题会愈演愈烈。Shumailov形象地描述了这种情况：“最终我们会陷入这种疯狂的状态，其中只有错误、错误和错误，而且错误的严重程度远高于其他任何事情。”这意味着，如果 AI 不断从其他 AI 中学习，那么错误将在这些系统中迅速累积，导致偏见和误导。
然而，这并不意味着 AI 之间的学习是不可能的或者是有害的。这意味着我们需要仔细考虑如何进行 AI 的训练和学习。AI 模型和训练方式的设计应尽可能地代表多样化的数据，以减少偏见和误导。此外，我们需要对 AI 输出的真实性和准确性进行更严格的评估和监控，以防止错误信息的传播。
总的来说，AI 之间的学习可能会带来很多挑战，但也可能为 AI 的进步提供新的机会。只要我们采取适当的策略和方法，就有可能避免"模型崩溃"，并充分利用 AI 的学习能力。
2023-11-06 14:07
2023-10-20 09:10
2023-10-08 08:57
2023-09-08 09:46
2023-09-08 09:46
2023-09-08 09:42
2023-08-28 11:49
2023-08-28 11:42
2023-07-03 15:23
2023-07-03 15:23
