wireless_com
发表于
2023-10-22 20:23:09

《语音优先》智能语音技术驱动的交互界面设计与语音机器人设计（译者序）...

“言为心声,语为心境”，语言与对话是我们沟通与协作的重要方式。而智能语音技术是一种基于人工智能和自然语言处理技术的语音交互技术。它可以通过语音识别技术将用户的语音指令转换为文本，然后通过自然语言处理技术对文本进行分析和理解，最终生成相应的响应或执行相应的操作。虽然智能语音技术由来已久，但直到亚马逊Echo智能音箱的诞生才再一次引发了业界对智能语音技术的广泛关注，因为这样的智能音箱带给了人们一种叫作... ...继续阅读 (80)

wireless_com
发表于
2023-10-22 20:23:09

《语音优先》智能语音技术驱动的交互界面设计与语音机器人设计（译者序）...

wireless_com
发表于
2023-10-22 20:23:09

《语音优先》智能语音技术驱动的交互界面设计与语音机器人设计（译者序）...

wireless_com
发表于
2023-10-22 20:23:09

《语音优先》智能语音技术驱动的交互界面设计与语音机器人设计（译者序）...

wireless_com
发表于
2023-10-15 20:24:01

基于大模型（LLM）的Agent 应用开发

目前，业界一般认为基于大模型的应用集中在两个方向上：RAG 和 Agent，无论哪一种应用，设计、实现和优化能够充分利用大模型(LLM)潜力的应用都需要大量的努力和专业知识。随着开发人员开始创建日益复杂的LLM应用程序，开发流程不可避免地变得更加复杂。这种流程的潜在设计空间可能是巨大而复杂的，《如何构建基于大模型的App》一文给出了一种探索中的大模型应用开发基础框架，基本可以适用于RAG 和Age... ...继续阅读 (78)

wireless_com
发表于
2023-10-11 22:22:35

解读提示工程（Prompt Engineering）

提示工程（Prompt Engineering），也称为上下文提示，是一种通过不更新模型的权重/参数来引导LLM行为朝着特定结果的方法。这是与AI有效交流所需结果的过程。提示工程可以用于各种任务，从回答问题到算术推理乃至各种应用领域，理解提示工程，能够帮助我们了解LLM的限制和能力。为了理解提示工程，先要澄清什么是Prompt。1.什么是PromptPrompt提示是什么呢？Prompt提示是模型... ...继续阅读 (81)

wireless_com
发表于
2023-10-06 20:23:53

解读大模型（LLM）的token

当人们谈论大型语言模型的大小时，参数会让我们了解神经网络的结构有多复杂，而token的大小会让我们知道有多少数据用于训练参数。正像陆奇博士所说的那样，大型语言模型为从文本生成到问题回答的各种任务提供了令人印象深刻的能力，不仅彻底改变了自然语言处理(NLP)领域，而且作为基础模型会改变整个软件生态。这些模型的一个经常被忽视的关键点是“token”的作用，即模型处理的各个信息单元。大型语言模型(LLM... ...继续阅读 (97)

wireless_com
发表于
2023-09-28 08:36:29

解读LangChain

随着OpenAI在2020年发布了开创性的GPT-3，我们见证了LLM的普及度稳步攀升，如今还在逐渐升温发酵。这些强大的人工智能模型为自然语言处理应用带来了新的可能性，使开发人员能够创建更为复杂、类似于人类交互的聊天机器人、问答系统、摘要工具等产品。LangChain作为一个多功能框架应运而生，旨在帮助开发人员充分发挥LLMs在各种应用中的潜力。基于“链式”不同组件的核心概念，LangChain简... ...继续阅读 (93)

wireless_com
发表于
2023-09-24 20:23:06

如何构建基于大模型的App

ChatGPT 的出现让大模型再一次成为业界的关注热点，然而，并不是每个组织都要去训练及生成大模型的，而且各个组织的技术积累和计算资源也不太允许这样去做。更多的时候，我们还是基于大模型开发业务应用。所谓智能原生（AI Native），往往是指那些没有大模型就无法成立的应用，那是一些新的业务机会和挑战。很多时候，我们还只是Applied AI，即通过AI 尤其是大模型为应用赋能。不论是AI 原... ...继续阅读 (102)

wireless_com
发表于
2023-09-17 20:23:39

可信而可靠，关于Rust 的学习

最早接触到Rust是在几年前的一次技术大会上，黄东旭说TiKV 是用Rust 语言编写的，引起了我的一些兴趣，但只是保持关注而已。我一直认为每一种编程语言都有着各自的典型应用领域，也有着各自的编程范式，没有最好的编程语言（参见《PHP是最好的编程语言吗？》），但存在最适合当前的问题领域的编程语言。个人认为，所谓全栈工程师，至少要掌握4种编程语言——C/C++，Java， JavaScrip... ...继续阅读 (107)

wireless_com
发表于
2023-09-10 20:23:09

支持事务的分布式NoSQL——FoundationDB

【引子】周末阅读时光，一篇好的论文（https://cacm.acm.org/magazines/2023/6/273229-foundationdb-a-distributed-key-value-store/fulltext），开阔了眼界，支持事务语义的NoSQL应该放到软件系统架构备选方案之中。FoundationDB是一个开源的事务性键值存储系统，是最早将NoSQL架构的灵活性和可扩展性与... ...继续阅读 (78)

wireless_com
发表于
2023-09-04 21:36:23

Qcon2023: 大模型时代的技术人成长（简）

我目前致力于操作系统相关的研发，公司的目标是打造物联网时代的智能原生操作系统。如何实现操作系统的AI Native 呢？带着这样的疑问我参加了Qcon2023 北京站的大会。与Qcon 2022 北京站不同的是，身份变了，上次是分享者，这次是出品人，出品的专题是——大模型时代的技术人成长。在大模型时代，技术人如何成长呢？划分为3个话题：大模型时代的特点是什么？对个人提出了哪些新的要求... ...继续阅读 (82)

wireless_com
发表于
2023-08-27 20:23:43

一文读懂互联网的架构本质

【引子】谈到互联网，很多人脑海中会出现各种各样的术语和服务，但是互联网是如何设计并构建的呢？作为一个网络，互联网的架构本质是什么？石头兄弟和我曾经一起译过一本《计算机网络问题与解决方案》的巨著，但真正仔细阅读并从中有所收获的朋友并不多。最近，石头兄弟推荐了另一篇文章https://cacm.acm.org/magazines/2023/2/268956-extracting-the-essent... ...继续阅读 (92)

wireless_com
发表于
2023-08-20 20:23:14

老码农的运行时漫谈

写程序离不开运行时，但是有很多伙伴却并没有搞清楚运行时到底是什么。运行时的概念之所以容易被混淆，是因为运行时有两层不同的含义：run time 和 runtime，先贤们在翻译的时候可能忽略了中间的空格，导致运行时一词代表了两种含义：运行时期和运行环境/系统。运行时期（Run time）在计算机科学中代表一个程序从开始执行到终止执行的运作时期，与之相对的其他时期包括：设计时期（design tim... ...继续阅读 (106)

wireless_com
发表于
2023-08-13 20:23:17

穿上App外衣，保持Web灵魂——PWA温故

穿上App的外衣，保持Web的灵魂——PWA早在2015年，设计师弗朗西斯·贝里曼和Google Chrome的工程师亚历克斯·罗素提出“PWA（渐进式网络应用程序）”概念，将网络之长与应用之长相结合，其核心目标就是提升 Web App 的性能，改善 Web App以媲美Native的流畅体验。1. 什么是PWAPWA 不是一个框架或工具集，而是一个概念，是开发人员需要在应用程序中实现的一组功能... ...继续阅读 (101)

wireless_com
发表于
2023-08-10 12:12:59

与持续架构之父Murat Erder 有约！ | SECon

8月11-12日SECon全球软件工程创新峰会即将在上海龙之梦大酒店盛大开幕，届时将有来自国内外60+一线技术专家、行业精英在SECon全球软件工程创新峰会上，分享他们的最新研究技术，展示他们的优秀成果。无论你是热爱编程的开发者，还是关心软件开发流程的管理者，这个峰会都将为你带来启发和思考。最受人瞩目的开幕式将于8月11日北京时间上午8:50准时开始，届时线上线下同步直播，无法来现场的小伙伴抓紧点... ...继续阅读 (93)

wireless_com
发表于
2023-08-06 20:23:59

浅析数据工程

目前数字化转型对于市场来说并不是一个新鲜事物，从技术视角来看，尽管大模型的涌现带来人们的更多关注，但人工智能与大数据相关技术仍处于创新阶段，各行业正在寻找和探索价值场景与新兴技术融合的平衡点，希望在新兴技术的加持下能够在激烈的竞争中占据有利位置。数据，数据数据是新一代技术革命下的生产要素，掌握了生产要素与生产要素的加工方式就是掌握了数字经济下的价值密码，这已经是业界的基本共识。企业想要更好地管理数... ...继续阅读 (92)

wireless_com
发表于
2023-07-30 18:52:17

隐私保护之隐私信息检索

【引子】用户的隐私保护涉及多个方面，用户行为的隐私保护更是一个难点。周末读了一篇论文，https://cacm.acm.org/magazines/2010/4/81501-private-information-retrieval/fulltext，涉及了很多数学上的方法和概念，很是费劲，隐私信息检索会过犹不及么？企业这么做的动力在哪里呢？互联网的普及意味着有大量的在线数据和检索信息不可或缺的资... ...继续阅读 (92)

wireless_com
发表于
2023-07-23 20:23:36

隐私计算之TEE的双操作系统支撑

在关于隐私计算的系列文字中，《从隐私到隐私计算》一文提到了实现隐私计算的三种主要技术路径，包括：多方安全加密、联邦学习和可信执行环境。其中，在《隐私计算中可信执行环境的一知半解》中，可信执行环境（TEE）也有两种主流的实现方式，即物理隔离TrustZone 和虚拟化隔离。那么，如何实现TrustZone的可信执行环境来支持隐私计算呢？1. 关于TrustZoneTrustZone技术是ARM公司开... ...继续阅读 (85)

wireless_com
发表于
2023-07-16 20:23:10

老码农的管理拙见

【引子】尽管自己从业了20多年，也曾管理过从几个人到几百人的团队，但个人非常不愿意或者不敢讨论团队管理的问题，因为管理是以结果为导向的，具有后验的特征，而且管理中面对的最大复杂性是人，每个人都是不同的个体，同样的成功经验换了一个环境就可能会失败，因此，有关管理的讨论往往是案例分析，就个案进行讨论，或者会到“人性”、“坐而论道”上来。然而，“大道易得，小术难求”。今年的春季窗口，几个年轻的朋友得... ...继续阅读 (89)

wireless_com
发表于
2023-07-09 20:23:58

操作系统的可扩展访问控制

访问控制是操作系统安全的基石，当前的操作系统已部署了很多访问控制的模型：Unix和Windows NT多用户安全；SELinux中的类型执行；反恶意软件产品；Apple OS X，Apple iOS和Google Android中的应用沙盒；以及面向应用程序的系统如FreeBSD中的Capsicum等。这种多样性是一种惊人的结果。本质是本地化安全，将操作系统安全模型适应于本地或产品特定要求。这一转... ...继续阅读 (104)

wireless_com
发表于
2023-07-02 20:23:41

全栈必备：系统架构设计的10个思维实验

软件系统的架构设计经验很难获得。即便工作多年，能够完成系统架构设计的机会也很有限。如何提高自己的系统架构设计能力呢？不断实践当然不可或缺，思维实验或许也是一种有效的方式。一般地，在深入架构设计之前，充分理解问题及其需求是至关重要的。花点时间澄清任何模棱两可的地方，并确保自己对系统的范围和目标有一个清晰的理解。对问题的澄清不要犹豫，用自己的话重申问题，以确认你的理解。在确定解决方案之前，采取分步骤的... ...继续阅读 (91)

wireless_com
发表于
2023-06-29 21:21:42

论文学习笔记：增强学习应用于OS调度

【引子】周末，读了一篇同事推荐的论文《STUN: Reinforcement-Learning-Based Optimization of Kernel Scheduler Parameters for Static Workload Performance》，很有启发，遂加入个人思考编译成文。从小型物联网设备到大型服务器，Linux在各个领域中都得到了广泛应用。计算吞吐量对于使用数百万个线程来模... ...继续阅读 (110)

wireless_com
发表于
2023-06-24 20:23:02

LLM的工程实践思考

陆奇博士的主题演讲《新范式新时代新机会》非常震撼人心。我远程参加了深圳站和北京站两场演讲，深受感触。虽然了解大模型的机制和原理以了解新的范式非常重要，但是“行胜于言”，基于大模型的众多应用都需要工程技术才能落地。然而，工程技术的重要性往往被忽视，认为只要有资源就可以实现。实际上，这可能是对技术本身缺少了敬畏。那么，LLM在工程实践中会涉及哪些问题和挑战呢？1. 从机器学习实践到大模型的工程实践... ...继续阅读 (83)

wireless_com
发表于
2023-06-18 20:23:30

神经网络中的损失函数

在《神经网络中常见的激活函数》一文中对激活函数进行了回顾，下图是激活函数的一个子集——而在神经网络领域中的另一类重要的函数就是损失函数，那么，什么是损失函数呢？损失函数是将随机事件或其有关随机变量的取值映射为非负实数以表示该随机事件的“风险”或“损失”的函数，用于衡量预测值与实际值的偏离程度。在机器学习中，损失函数是代价函数的一部分，而代价函数是目标函数的一种类型。在应用中，损失函数通常作为学习准... ...继续阅读 (95)

wireless_com
发表于
2023-06-11 22:03:49

操作系统性能提升之内核锁优化

性能为王，系统的性能提升是每一个工程师的追求。目前，性能优化主要集中在消除系统软件堆栈中的低效率上或绕过高开销的系统操作。例如，内核旁路通过在用户空间中移动多个操作来实现这个目标，还有就是为某些类别的应用程序重构底层操作系统.在许多领域中，专有化似乎是追求更好性能的答案，集中在应用程序和内核，甚至是在不同的内核子系统之间。特别地，专有化可以构建应用程序向系统请求某些功能的上下文。虽然，应用程序专有... ...继续阅读 (86)

wireless_com
发表于
2023-06-08 20:23:20

关于操作系统调度器的三篇论文

【引子】没有忘记，目前从事的是DingOS 操作系统相关工作，没有因为LLM 而迷失。LLM 会成为基础设施，LLM 会为操作系统赋能，但是操作系统的价值是客观存在的，除非，计算机体系结构发生了翻天覆地的变化。在任何多路复用资源的系统中，计算在哪里运行以及何时运行的调度问题都可能是最基本的问题。然而，就像计算机中许多其他重要问题一样（例如数据库中的查询优化），调度器的研究像钟摆一样，时而活跃，时而... ...继续阅读 (93)

wireless_com
发表于
2023-06-07 08:18:50

解读大模型的微调

在快速发展的人工智能领域中，有效地利用大型语言模型（LLM）变得越来越重要。然而，有许多不同的方式可以使用大型语言模型，这可能会让我们感到困惑。实际上，可以使用预训练的大型语言模型进行新任务的上下文学习并进行微调。那么，什么是上下文学习？又如何对大模型进行微调呢？1. 上下文学习与索引自从GPT-2和GPT-3出现以来，可以发现在预训练的通用文本语料库上的生成式大型语言模型（LLM）具备了上下文学... ...继续阅读 (80)

wireless_com
发表于
2023-06-04 20:23:24

《神奇的连接组》读后

人类大脑被戏称为“三磅的宇宙”，或许可以从科学上解释关于“意识”的问题，大脑的神经科学可能是人类科学的最终前沿。任何真正先进的科技，看起来都与魔法无异。要解释大脑如何运转，单凭基因无法解释大脑为什么这样工作，连接组是由先天的基因和后天的经历共同塑造的，进而试图解释大脑的运行机制。大脑的连接结构，使我们成为我们，同时，我们也在影响着大脑的连接结构。也就是说，对大脑而言，“你是你的所有神经元的活动，你... ...继续阅读 (75)

wireless_com
发表于
2023-05-28 20:23:35

浅析多模态机器学习

GPT-4的发布给ChatGPT带来了又一次飞跃，ChatGPT不仅支持文字输入，还能看得懂图片、甚至是漫画、梗图，以GPT-4为代表的多模态大模型非常强大。多模态大模型就是指模型可以处理多种结构/类型的数据，例如GPT-4，它既可以处理你输入的文本，也可以处理你上传的图片。那么，多模态到底意味着什么呢？1. 什么是多模态？人类有五种基本感官:触觉、视觉、听觉、嗅觉和味觉。与每一种感觉相关的感觉器... ...继续阅读 (80)