首页 » 新闻 » 算概率并意识到在这个问题的肯

算概率并意识到在这个问题的肯

基于这一属性过程,他们会回答:“当然,我想要一个苹果。” 相比之下,语言模型会回答“你想要一个苹果吗?”这个问题,并知道这句话与肯定或否定的答案相关。它还会计定答案的上下文中,应该包含“胃口”和“谢谢”等词。最终结果可能是“是的,听起来很开胃,非常感谢”,甚至可能是“当然不是,傻瓜。我是一台计算机,我不吃东西。

数据的力量 考虑到可能的

单词数量及其相互关系几乎是无限的,我们需要两样 意大利资源 东西来训练能够创建类似人类对话的语言模型。首先,就像孩子一样,计算机需要学习单词及其连接方式。其次,我们需要处理语言非常复杂的特性的处理能力。模型的极限取决于它所运行的硬件。 2020 年,总部位于旧金山的人工智能实验室OpenAI 发布了 GPT-3,引起了全球投资者和计算机科学家的关注。

顾名思义这是他们的语

言转换模型的第三个版本,它比之前的任何版本 与智能家居设备的集成 都要好得多。 GPT-3 是地球上最先进的语言模型之一。它使用来自网站、维基百科和书籍的数百万个句子进行训练。最终结果是一个语言模型,其大小前所未有,包括 2,048 个标记长度的上下文和 1750 亿个参数——这使其成为最大的语言模型之一,需要 800 GB 的存储空间。

以任何标准来看

都是绝对巨大的。 大数据解决了人工智能的最大障碍之一:拥有 联合王国数据 足够的数据来准确训练模型。如果没有 Common Crawl,GPT-3 就不会有今天的成就。Common Crawl 是一家提供 PB 级网络数据的非营利组织。它是一个庞大的档案库,拥有数百万个网页,可供全球数据科学家免费使用。 这种连接性,加上过去几十年计算机能力的迅猛增长,在人工智能领域,尤其是自然语言处理领域,创造了一场革命。

 

滚动至顶部