成本估算

• chatGPT单次搜索成本： 预计 0.010美元/次 。 若采用2-Stage Search Summarizer 补足当前的时效、准确问题的话，成本上升至 0.066美元/次
• 服务器在线推理成本： 约为0.0035美元/1000词
• 服务器单次训练成本：140万美元/次 ，一次训练14.8天。

成本发展趋势（工程挑战）

• 数据是LLM性能的新瓶颈：与增加高质量训练数据集的大小相比，增加模型参数的数量能获得的边际收益越来越小。
• LLM的成本可能会显著下降：自GPT-3发布的两年半时间里，与GPT-3性能相当的模型的训练和推理成本下降了约80%

Google与Bing的成本收益分析

• Google预计其年均搜索量将达2.1万亿次，与搜索相关的收入将达约1000亿美元，平均每次搜索的收入为0.048美元。
• 考虑已知可行优化改进后，在搜索中融入高性能LLM的成本大约占据当前查询收入的15%
• 谷歌目前的搜索收入为1000亿美元，将高性能LLM纳入搜索会使谷歌的盈利能力减少一百多亿美元。
  BING 的市场份额较低，如果微软能够成功地从谷歌手中夺取搜索市场份额，那么即使现有查询成本更高，微软仍然能够获得极高的利润。

数据来源原文： https://sunyan.substack.com/p/the-economics-of-large-language-models
释文： https://zhuanlan.zhihu.com/p/604427788

译者序

该文是对CRF算法的介绍，介绍清晰、浅显，不对初学者设置过多的理解障碍。而且文章最后提到的学习资料，我看过部份，值得推荐。
原文链接：http://blog.echen.me/2012/01/03/introduction-to-conditional-random-fields/

正文序

想象一下，你有 Justin Bieber 一天生活中的一连串快照，你想在这些照片上面打上活动内容的标签（吃睡、睡觉、开车等）。你会怎么做？

一种方式是忽略这些快照的本质，建立一个图片分类器。举个例子，事先给定一个月的打标快照，你可能会了学到在早上6点拍的较暗的照片很可能是在睡觉，有很多明亮颜色的照片，很可以是关于跳舞，照片中有车那应该是在开车等等。

然而，忽略顺序关联，你会丢失很多信息。例如，如果你看到一张嘴张的特写照片，那它应该打标成吃饭还是唱歌呢？如果上一张 Justin Bieber 的照片中他在吃饭或者做菜，那当前这张照片很可能是他在吃饭；但如果上一张照片中 Justin Bieber 在唱歌或者跳舞，那这张很可能是在说他也在唱歌。

因此，为了提高我们打标的准确率，我们应该结合参考相近照片，这正是条件随机场（condition random field）所做的事情

- 更多 -