
第二个关于语言模型历史的出版物。第一个讨论了由父亲罗伯特·莫里斯(Robert Morris)教授创建的Typo.c。
我第一次与语言模型会面
当我被要求计划并在索菲(Sophie)上进行大赦国际实验室会议时,我曾在大学任教,并认真对待我的未来职业,这是每天最先进的语言模式。
它是由鲍勃罗(Bobrow),布朗(Brown),伯顿(Burton)和德·克莱尔(de Kleer)创建的,并在与美国海军的合同中,当时他们在博尔特(Bolt),贝拉尼克(Beranek)和纽曼(Newman)。
准备工作是使用自然语言界面与海洋新兵进行交谈,他们学习如何探索错误并修复电子设备。批准了使用当天最受欢迎的电子模拟(称为Spice)实施的能源的计划并访问模拟能源。
它可以处理骆驼的插入句子,例如“输入可靠的错误”,“电阻R4上的电压是什么”,“我认为问题是其在晶体管Q5中钦佩的基础,等等。
它将以从针对较低主题的香料模型中恢复的测量做出响应。 “ p12的电压为+0.4伏”
如果您表达假设,他会说
“您声称失败是Q5中基金会的基础。让我们看看这是否合理…
我测量P12点的电压为0.4伏。如果您是对的,那么这项工作将是14.1伏。
[… and it proceeds to completely destroy my methodology … 😀 ]
实际错误是…”
在20世纪,索菲仍然是人工智能
在2001年之前,除了我的其他帖子中提到的一些例外,所有语言模型都是真实的模型。我们使用了单词和语法规则,一代模具等。语言模型是由同性恋者程序员创建的。我们将尝试简化理解我们可以在系统中编程的规则语言的问题。如果我们知道这个问题有多困难,我们可能会更早投降。
我们需要记住,当时可用的计算机很小 – 对于任何人来说,它们都非常小(无模型),这使我们进入了20世纪的LLM。
我假装在知识上说是医生,当前的大型语言模型实际上不是模型。它们是以前存储为模型和模式模式的经验的群体。因此,它们是全面的,不是减少或科学的。如果这是新闻,欢迎您阅读更多帖子。
索菲(Sophie)在模型模型上。实际上,她从他那里做得很好。 ELISA等系统已经存在了几年,但是它们使用了琐碎的语言模型,因为大多数对话都是用户继续手册的手册。我们仍然可以看到对当前LLM的影响。
在索菲(Sophie)中,这辆车是校正电源的InterLISP计划,但其主要搜索是如何提高对话以及供认和正确分析的句子的数量到一个新的水平。我们注意到,他们选择处理的语言的领域非常狭窄 – 如何探索电源。不是这个 大的 语言模型。没有机器学习,这就是我们当时可以处理的语言的所有复杂性,因为应该将整个语言效率设计和实施到一定程度上。
ATNC
他们已经开发了ATNC-用于增强过渡的软件转换程序 – 可以对对话状态状态状态的高级别描述(类似于BNF),其中当前的“含义”是状态方案中的一个结,您可以在接收新输入时转向其他情况,例如对问题请求的答案。当时,这是一种先进的翻译技术,他们将其应用于自然语言。
几十年后,我提出了这个工作主题。在许多链接中,自然语言理解系统是为对公司等季度报告的分析而编写的,我使用了antlr-是著名的代码,它产生了我经历过自然语言应用的Java-Symbol,而不是收集编程语言。这是一个令人惊讶的强大食谱。该公司已开始,我们出售了该技术包裹在Webap Feding Cloud中。
但是总共吗?
我们怎么知道该系统是LLM,减少还是总计?
综合系统
他们学习。这意味着他们正在通过实践来改善
他们猜测。他们不能保证正确的结果。
他们在问题领域很强大
知道同一字段不是编程电压的一部分。
还原系统
他们在第一次尝试中正确地得到了
他们面对变化或其他领域是脆弱的
它需要外部理解问题的问题
更改需要重新编程的任何内容。
例如:LLM可以在不进行重新编程的情况下学习英语或中文,但是如果我们想要法语版本的Elisa或Sophie(使用NLP快捷方式),则程序员将必须在此系统中执行许多程序,字典和规则级别。
在不理解问题的领域(例如导弹)的情况下,并了解什么f = ma(物理模型),您将不知道如何使用此模型。再生需要对问题领域的外部理解,因为人类受到人类的约束。
LLM不是模型,因为它们不包含我们可以以有意义的方式提取的任何东西。甚至没有规则。缩短检查并不透明,因为这些模型将是我们可以通过这些工具发现的一切,我声称LLM可以在没有任何模型的情况下获得它们。难以思考是一个想法,直接从缺乏模型到头脑。
在示例中的第一次尝试中,它在第一次尝试中进行了正确讨论