好的，第四周了，我有一些好消息。
我有一些好消息。
好消息是，距离大家都想要的服装周只剩下一周的时间了
成为。
另一个好消息是，本周真的很短、很快、很尖锐，呃，是的，
呃，这肯定会比过去两周容易一些。
因此，请为有趣的快速欢乐周和破烂周做好准备。
不要跳过这周，因为它又快又有趣。
我们很快就会找到豚草。
好的。
让我们开始吧。
所以今天我们将讨论本课程中最重要的问题，
这是最好的 LM，您将在今天结束时回答这个问题。
您已经可以做的就是使用前端模型和聊天完成 API 自信地进行编码，
构建多模式 AI 助手，并使用拥抱脸 Transformers 库构建解决方案，两者
在管道级别以及分词器和模型级别。
好的。
让我们快速讨论一下我们是如何走到今天这一步的。
你开始了。
哦，就在几周前，我们介绍了 Check Completions API 的基础知识。
我们介绍了前端模型、API 的调用多模态的工具。
然后上周我们真的开始拥抱脸了。
本周选择模型并生成代码。
下周就是服装周。
我有没有提到下周是服装周？
我可能已经提到下周是服装周。
我们将在下周这样做。
这将会非常棒。
然后下周我们就出发了。
过去三周确实是激烈的微调、前沿模型、传统数据科学和
建模，然后微调开源模型。
这是非常重要的一周，然后是结局。
一个巨大的人工智能，一个美丽的产品。
要做的事情有很多，最后你将能够插上成功的旗帜，并说你已经完成了
掌握LM工程。
这给我们带来了当前的问题，哪个是最好的模型？
LM最好选什么？
我知道你一直想知道这个问题，当然，答案是这是不可接受的
问题。
这是一个不太恰当的问题。
没有最好的LM。
正确的问题是，考虑到您正在尝试的问题，当前任务的正确模型是什么
要解决这个问题，哪个模型是最好的？
在回答这个问题时，我们将讨论一个完整的策略，
了解如何确保选择正确的产品。
当然，首先要了解您的需求。
一旦您了解了我们稍后将介绍的要求，您就可以查看模型
有两种方式。
看两个方面。
其中之一只是有关模型的基本信息。
第二是深入研究基准。
当我说看基础知识时，我指的是它有多少个参数？
上下文窗口是什么，它要多少钱，许可证是什么，诸如此类的东西。
您首先使用它来开发您想要更详细地查看的候选模型集，
那些你能负担得起的，那些你可以足够快地构建的，所有这些东西。
完成此操作后，接下来要做的就是查看基准测试和基准测试
是已发布的指标，其中根据不同的事物评估模型，例如有多好
他们擅长编码吗？他们理解语言、推理这些基准的能力如何？
你可以在排行榜上查看它们，这是一种对不同的排名进行排名的表格
针对不同标准的模型。
还有一些模特们面对面的竞技场，这是一些有趣的地方。
我们将在接下来的几天内研究所有这些。
但首先，让我们深入了解基础知识。
那么我说的“看基础”是什么意思呢？
嗯，首先，你想看看你正在考虑的模型，然后说它们是否开放
源代码还是闭源付费模型？
它们是聊天模型还是推理模型还是混合模型？
现在您已经很清楚这意味着什么了。
以及优点和缺点。
但可以肯定的是，推理模型并不总是更好。
推理模型通常在基准测试中表现更好。
他们的智力通常表现得更好，因为他们可以把事情想得很清楚。
这是您可以扩展的两种方式之一。
但它们往往速度较慢。
他们往往不太擅长生成创意内容。
因此推理模型也肯定存在局限性。
还有混合模型，可以选择是聊天还是推理
视情况而定。
而且通常这是一个不错的选择。
但有时您不需要混合模型，因为您只需要聊天模型。
这就是一个决定。
当然，还有模型的发布日期。
最近多久了？
其知识何时断绝？
时间是什么时候？
直到训练完成为止？
这将告诉您哪些信息是其训练集中已经知道的信息，而无需
需要任何推理时间技术。
换句话说，如果它的培训一直持续到今年 7 月，那么将其纳入其培训、知识中
已经将是事实。
在那之前，它将立即了解所有这些信息。
你可以直接问这个问题，但如果你想了解更多最新信息，
您需要将其添加到提示中。
当你问它问题时，你需要用这些信息武装它，以便它配备
通过提示或工具来回答它。
当我说推理时间技术时，这就是我的意思。
您需要想出一些方法，将专业知识注入到模型中。
好的。
当然，还有参数的数量，这些参数可以让您了解其功能
关于，关于如何，呃，在训练期间它能够吸收多少信息。
我们，我们经历了较大模型中有多少参数的时间线。
当然，我确实指出，有时过度关注参数的数量可能是错误的，
因为最近几天，人们在将更多的东西融入到更小的模型方面做得很好。
但根据经验，通常越大越好。
更多参数意味着更智能。
然后训练令牌就是使用了多少数据来训练这个模型。
当然，更多的数据意味着它拥有更多的知识。
呃，这就是要寻找的东西。
还有上下文窗口，你知道这个。
嗯，这当然是模型必须回顾来自
对话。
这不仅仅是最近的提示。
它不仅仅响应当前的提示。
它必须适合您发送的第一条消息、回复、下一条消息、对该消息的回复，所有内容
这是在之前的对话、之前的消息的记忆中，作为这次对话的一部分，
直到并包括模型生成的当前响应，一切都必须适合上下文
窗户。
是的，我知道你明白这一点。
所以这是另一件事要寻找。
通常，您可以通过查看型号卡来获取所有这些信息，该卡
像 OpenAI 这样的每个提供商都会发布其模型。
所以你可以通过谷歌来查找型号卡。
但也有一些排行榜列出了这些信息，以便您可以进行比较。
然后还有一些关于模型的其他基本事实，您想知道这些事实以便能够进行比较
他们。
其中一些在型号卡上不可用。
你必须查一下它们。
当然，其中之一就是成本。
运行这个模型需要多少钱？
这里有两种可能的成本。
这可能是 API 成本。
如果您像云一样使用云上的前沿模型，或者如果您在本地运行它，那么
有一种感觉，如果我运行本地模型，那么它是免费的。
从某种程度上来说确实如此。
但请记住，您仍然需要以某种方式为计算付费。
如果它在您的计算机上运行，​​它将会严重影响您的计算机。
如果您在公司的服务器上运行它，它仍然需要付费。
所以你必须考虑它计算的运行时间。
进行任何您需要进行的额外培训都是需要付费的。
因此，如果您假设要采用这个模型，并且需要对其进行更多训练，如下所示
我们将在第七周完成，这会很棒，然后你需要考虑到该成本。
如果您要构建类似于我们下周要做的 Rag 的东西，或者围绕它构建产品
那么您需要了解构建成本。
这就是你需要解决的问题。
然后与构建成本密切相关的是上市时间，当然是多长时间
会带您构建您需要构建的产品吗？
你可能会说，这和模型有什么关系？
嗯，这些事情都是相关的，因为如果你使用一些简单的东西，比如你使用
GPT 5 或 Claude 5 就可以了，然后你就知道了，你已经领先了，金额
你要做的构建相对较轻。
您可以非常快速地推出使用此类顶级前沿模型的产品。
但是，如果您尝试使用自己的开源模型，或者想要使用较小的模型，
更便宜的型号，您的运行时间成本会更低。
但是您需要花费更多时间进行构建和实验并弄清楚如何获得
您需要更小、更便宜的型号来获得业务性能，这会影响时间
推向市场。
所以这绝对是一个因素。
越大、越贵的型号，你应该能够更快地卖出去。
速率限制是一个因素。
所以有的就开放一些一些前沿的模式。
某些闭源模型对调用它们的频率有限制。
因此，您需要确保您了解它们。
呃，通常如果您愿意支付更多费用，那么您可以有更高的费率限制。
所以通常有机会在那里花更多的钱。
但即使是开放式人工智能也不总是有局限性，即使你花到了顶级，也有一些
限制。
尽管我想在某个时候有人打电话给我，如果您可以达成一项企业协议，
你希望的。
尽管如此，您仍然需要了解限制是什么，然后是速度。
加快模型响应的速度。
不同的模型具有非常非常不同的速度特性，我们稍后会看到。
但对于双子座来说，闪光灯的速度非常快。
GPT 5 nano 相当快。
GPT 四一纳米确实很快，能够对这些事情有这样的看法真是太好了。
当然，是的，有一些排行榜可以比较这些模型，这样您就可以快速选择适合的模型
将具有您需要的性能特征。
与速度密切相关的是延迟。
呃，或者人们有时会谈论第一个令牌的平均时间。
尤其是，呃，突出的是，推理模型往往会先思考
开始回应。
因此，直到它开始带回您可能会流式传输到 UI 上的响应为止的时间。
这已经变得越来越重要。
因此人们需要同时考虑速度和延迟，或者同时考虑第一个令牌的时间
在考虑模型是否适合其业务目的时，经常会忘记许可证
关于，但特别是当您使用开源模型时，不同的模型确实有不同的
许可证。
您需要了解其中一些是非常宽松的，您可以将它们用于任何目的。
其中一些在您使用它来获取商业收益的能力方面受到限制。
所以有一些收入上限，呃，然后其中一些，比如元需要你签署
各种协议，正如你所发现的，呃，这限制了你利用它们进行邪恶的能力
诸如此类的事情。
而且，我认为也许是为了与元竞争。
呃，但是，当然，这就是你让律师参与进来的地方，并且你确保无论有什么许可证
与适合您的业务目标的模型相关联。