【引子】读论文Toolformer: Language Models Can Teach Themselves to Use Tools，https://arxiv.org/pdf/2302.04761.pdf，再阅读了几篇关于Toolformer的网络热文，于是“无知者无畏”，开始自不量力地试图解读Toolformer。大语言模型（LLM）在利用有限的文本数据解决新任务方面表现出令人难以置信的优...
...继续阅读
(75)
【引子】“The Last CPU”（https://doi.org/10.1145/3458336.3465291），ACM上的这一篇论文非常有趣，核心思想是如果计算机的体系结构中没有了CPU，那么，操作系统又会是怎样的呢？......不敢私藏，分享给大家。失去了，才可能知道珍惜，试图减压的时候不妨去读一点论文，呵呵。CPU的设计目的很单一，对存储的内存执行逻辑操作。协处理器（如IO通道处理器...
...继续阅读
(75)
“Life is short，You need python”！老码农很喜欢python的优雅，然而，在生产环境中，Python这样的没有优先考虑性能构建优化的动态语言特性可能是危险的，因此，流行的高性能库如TensorFlow 或PyTorch 主要使用python作为一个接口语言，用于与优化后的C/C++库进行交互。Python 程序的性能优化有很多方法，从编译器视角来看，高性能可以通过嵌入到...
...继续阅读
(70)
这是一个AI赋能的时代，而机器学习则是实现AI的一种重要技术手段。那么，是否存在一个通用的通用的机器学习系统架构呢？在老码农的认知范围内，Anything is nothing，对系统架构而言尤其如此。但是，如果适用于大多数机器学习驱动的系统或用例，构建一个可扩展的、可靠的机器学习系统架构还是可能的。从机器学习生命周期的角度来看，这个所谓的通用架构涵盖了关键的机器学习阶段，从开发机器学习模型，到部...
...继续阅读
(70)
SDX是Software Defined X 的缩写，即软件定义范式，强调的是软件的意义及系统的融合。我们可能需要特别关注物理系统和网络空间之间的关键边界、运营技术（OT）和信息技术（IT）之间的关键边界技术，在这些边界上，需要充分展开具有挑战性的文化和技术融合。数字转型的成功在很大程度上取决于这个复杂的融合过程。数字转型的主要目标之一是将人类和“智能”应用到管理、优化和控制接触物理世界的系统。这...
...继续阅读
(61)
生态系统（Ecosystem）原本是一个生物学术语，意思是由一些生命体相互依存、相互制约而形成的大系统，就像我们学生时代在生物学课堂上学到的那样。隐喻无处不在，人们把这个术语移植到了 IT 领域中来，比如我们常说的“软件生态系统”，实际上，这个问题涉及到所谓“巨型系统”、“复杂系统”、“异构系统”等等，那么——什么是软件生态系统呢？如何评估和构建软件生态系统呢？如何评估软件生态系统的健康性呢？软件...
...继续阅读
(60)
知识诅咒（Curse of Knowledge），是指我们掌握了某知识，就很难体会没有它的感觉，不理解获得知识以前的状态及还未获得该知识的人，从而产生沟通障碍。计算机体系结构正在消亡 (Architecture is dying)？其背后可能是对传统的冯·诺伊曼体系结构在应对多样化应用时局限的无奈，以及对摩尔定律的放缓甚至终结的担心。那么，计算机体系结构又将面对怎样的未来呢？1. 关于计算机体系结...
...继续阅读
(71)