无论是远程办公需要访问公司内网资源，还是想要在外出时轻松管理家中的设备，甚至只是想绕过NAT限制直接连接到另一台主机，异地组网都是一个理想的解决方案。本文将介绍一种不需要域名、无需备案的方法来建立自己的私有网络，特别适合国内环境下的技术爱好者和专业人士。1 异地组网的目的与好处想象这样一个场景：李华是一名开发者，他在家里有一台NAS用于娱乐，公司有一台性能强劲的PC作为开发环境，同时在云端租了一台服务器用于部署项目。他经常需要在星巴克充当气氛组或是出差时工作，使用的是一台环保的MacBook。如果没有异地组网，李华每次在外工作或访问家里的电脑，可能需要设置复杂的端口转发规则，担心家庭网络的安全性，还得记住不断变化的家庭IP地址。而想要在本地直接调试部署在云服务器上的应用，又必须开放服务器端口，增加了安全风险。通过建立异地组网，李华只需要登录到私有网络，就像所有设备都在同一个局域网内一样。他可以从咖啡厅直接访问到NAS、开发环境，在笔记本上进行开发，然后无缝地部署到云服务器上。整个过程安全、高效，无需担心复杂的网络配置和安全风险。异地组网为我们带来了多方面的好处：首先是便捷访问，无论身处何地，都能像在本地网络一样访问远程设备和服务；其次是保障了数据安全，通过加密通道传输数据，有效避免敏感信息在公共网络中泄露；同时，它能突破各种网络限制，绕过NAT、防火墙等障碍，实现真正的点对点连接； ...继续阅读

通过 Docker 在闲置笔记本上运行 OpenWRT 作为旁路由，充分利用旧设备，提升家庭网络的可定制性和功能性。本文详细介绍了从零开始配置 Docker 环境、创建 macvlan 网络、运行 OpenWRT 容器，并进行网络配置的全过程。无论是去广告、科学上网，还是流量监控和 VPN 服务，都可以通过旁路由轻松实现。适合有一定 Linux 基础的用户，帮助你将闲置设备变身为强大的网络工具。过年回家总想着折腾点什么，于是就瞄上了早已退休的19年拯救者。相信很多家庭都有闲置的笔记本电脑，性能尚可却一直闲置。如果希望充分利用这些设备，可以考虑将其改造成“旁路由”（又称“透明网关”或“旁挂路由”），将某些网络功能（如去广告、流量监控、VPN 等）卸载到这台机器上进行处理。但是，这么强大的一个X86平台，重新刷一个Openwrt系统太大材小用了，已经装了Ubuntu的它还可以有更多用处（All in BOOM）。如果不想大动硬件也不想重装系统，Docker 技术可以派上用场。通过在闲置笔记本上运行一个 OpenWRT 容器，就可以以旁路由的方式接管或旁路处理局域网的流量。本文将介绍从零开始完成一套基本环境配置，包括：检查和配置网络接口创建 Docker macvlan 网络拉取并运行 OpenWRT 镜像进入容器进行简单网络配置1 环境与思路1.1 闲置笔记本电脑需要一台可以正常联网的 ...继续阅读

深入了解专家混合模型 (MoE) 的架构与工作原理，探索Mixtral 8X7B、DBRX 和 Deepseek-v2等热门MoE模型的应用与优势。通过Python实现MoE模型，并评估其在逻辑推理、摘要和实体提取等任务中的表现。专家混合模型 (MoE) 这个概念在大型语言模型 (LLMs) 领域火了很久了。它不仅让模型的效率和可扩展性有了质的飞跃，还为处理复杂任务提供了新的思路。简单来说，MoE 模型就是把一个大模型拆分成多个小模型，每个小模型专注于特定的任务或数据类型。这样一来，模型在处理任务时，只需要激活相关的“专家”，而不需要整个模型都参与，从而大大节省了计算资源。在本文中你将：搞懂 MoE模型的基本架构和工作原理了解几个热门的MoE模型，比如Mixtral 8X7B、DBRX 和 Deepseek-v2通过Python代码在Google Colab上实现MoE模型评估一个典型的MoE模型在逻辑推理、摘要和实体提取等任务上的表现了解MoE模型在自然语言处理和代码生成等复杂任务中的优势和挑战1 什么是专家混合模型 (MoE)？现在的深度学习模型大多基于人工神经网络，这些网络由多个层组成，每一层包含很多“神经元”。每个神经元处理输入数据，进行简单的数学运算（比如激活函数），然后把结果传递给下一层。更高级的模型，比如 Transformer，引入了自注意力机制，能够捕捉数据中的复 ...继续阅读 (8)

支持向量机（SVM）是机器学习中的经典算法。本文聚焦于SVM中的公式推导，如间隔距离公式的详细推理，以及原问题与对偶问题公式化阐述。深入探讨优化问题，包括构建拉格朗日函数来处理约束优化问题，利用KKT条件求解最优解的过程。同时涉及多项式核函数与高斯核函数公式特性。间隔距离推理在支持向量机（SVM）中，正超平面和负超平面的式分别为： $$ \vec{w} \cdot \vec{x} + b = 1 \quad \text{(正超平面)} $$ $$ \vec{w} \cdot \vec{x} + b = -1 \quad \text{(负超平面)} $$ 其中$\vec{w}=(w_1, w_2)$是权重向量，$b$是偏置项，$\vec{x}=(x_1, x_2)$是数据点。假设$\vec{x_m}$是正超平面上的点，$\vec{x_n}$是负超平面上的点，则有： $$ w_1 x_{1m} + w_2 x_{2m} + b = 1 \quad \text{(1)} $$ $$ w_1 x_{1n} + w_2 x_{2n} + b = -1 \quad \text{(2)} $$用式(1)减去式(2)，得到： $$ w_1 (x_{1m} - x_{1n}) + w_2 (x_{2m} - x_{2n}) = 2 $$ 写成向量形式： $$ \vec{w} \cdot (\vec{ ...继续阅读 (15)

VLDB 2024 是数据管理和数据库领域的顶级国际会议，涵盖数据管理、数据库架构、图数据管理、数据隐私与安全、数据挖掘、机器学习、人工智能与数据库系统研究等领域。今年的会议于8月26日至30日在中国广州举行，汇集了全球的研究人员和企业。会议内容丰富，包括250多场研究报告、11场主题演讲、多个教程和workshop，为与会者提供了广泛的学习和交流机会。 最近去了趟广州，参加了 VLDB 2024，体验了完整的学术会议流程。旅途中也遇到了不少有趣的事情，想着写一篇博客分享一下。 注意 本文是旅游向分享，内容包含在广州的见闻以及学术会议流程介绍，不包含对具体报告内容和方向的介绍，请放心食用。 此次行程为期6天，行程安排如下。其中前5天在琶洲岛广交会展馆附近，主要是参加会议以及珠江夜游；最后一天为特种兵打卡式旅游，西侧从沙面岛开始，途径十三行博物馆，走到圣心大教堂，东侧为黄埔军校纪念馆。 Day 0：给现充来点小小的广州震撼 下午3点，从广州南站坐地铁到琶洲站。还没出站就意识到事情有点不太对劲，地铁里挤满了Coser。好巧不巧，缺德地图选了个保利世贸馆的出口，这下可捅了二刺螈的老窝：从地铁出口到场馆地下，从保利世贸馆到广交会展馆，琶洲岛上挤 ...继续阅读 (19)

我们估计人类产生的的公共文本存量约为 300 万亿个token。如果趋势持续，语言模型将在 2026 年至 2032 年之间完全耗尽这一存量，或者如果过度训练，甚至会更早。 ——Epoch AI在2006年，时任伊利诺伊大学教授的李飞飞（现为斯坦福大学教授）看到了互联网改变人工智能（AI）研究的潜力。语言学领域的研究已经识别出了8万个“名词同义词集”，即描述同一类事物的同义词集合。李飞飞推测，互联网上的数十亿张图片中，一定包含了这些同义词集的无数实例。如果能够收集足够多的这些图片，就可以创建一个超越以往任何AI训练资源的庞大数据库。她说“很多人关注模型，我们应该关注数据”。于是，ImageNet项目诞生了。互联网不仅提供了图片，还为图像标注提供了资源。通过搜索引擎找到如猫、狗、椅子等的图片后，亚马逊的众包平台Mechanical Turk上的人对这些图片进行人工检查和标注。最终，构建了一个包含数百万经过校验的图片的数据库。正是使用了部分ImageNet数据训练的AlexNet在2012年展示了“深度学习”的巨大潜力，开启了上一个AI周期，也催生了依赖于大量标注数据的行业。数据驱动的AI时代在这一轮AI周期中，AI的发展延伸到了大型语言模型（LLM），这些模型的训练也依赖于互联网数据，但方式有所不同。计算机视觉领域（CV）的经典训练任务是预测一张图片的内容（图片分类任务），但LLM训 ...继续阅读 (34)

本文详解微调、提示词和思维链技术的应用场景，并以生成博客文章为例，提供准备数据、微调模型和评估结果的具体步骤。通过在线接口微调OpenAI最新发布的GPT-4o-mini模型，其性能接近GPT-4，价格仅为GPT-3.5的一半。 ...继续阅读 (39)

AI Agent智能体四类设计模式：通用人工智能必经之路 如果把使用AI完成任务比喻成写作文，那么非智能体（Agent）的方式就是让AI从头到尾一次写完，不准修改，而Agent的方式则允许AI多次反复修改，并且在修改的过程中还可以借助工具、与外界合作交流。Agent，在2024年看来，是实现通用人工智能(AGI)的道路之一。 基础模型推动了生成式人工智能的发展，让AI Agent可以自动地帮用户完成任务。近一年来，各类Agent层出不穷。受吴恩达在红衫AI峰会的演讲启发，本文通过结合近一年内发表的论文和L ...继续阅读 (60)

RAG系统的成功在很大程度上取决于其高效地获取和处理海量信息的能力。向量数据库又在其中发挥了不可替代的作用，并构成了RAG系统的核心。向量数据库专门用于存储和管理高维向量数据，它们能把文本、图像、音频甚至视频转换为向量并存储（这一点将在后文中详细阐述）。RAG系统最终能实现的效果就取决于这些底层向量数据库的表现。 在众多向量数据库和向量库中，每个都有自己的一些特点，选择一个适合自己应用场景的也需要经过评估。本文中将深入探讨选择向量数据库用于RAG时需要考虑的关键因素，包括开源可用性、CRUD（增删 ...继续阅读 (46)

在构建AI应用时，会遇到“AI并未见到过任务中数据的问题”。比如对于企业来说，AI无法掌握每个客户的资料；对于个人来说，AI对一些个人信息、隐私信息不甚了解。即使AI能力很强（理想的世界模型也不例外），缺少具体任务的数据后，就失去了”具体问题具体分析“的能力。 什么是RAG 通过检索外部资料来提高生成式AI模型的准确性和可靠性，就是检索增强生成技术（Retrieval-Augmented Generation）。如果把大语言模型(LLM)完成任务的过程比作考试，那么有RAG的大模型就相当于是开卷考试， ...继续阅读 (41)

标准输出（stdout）与标准错误（stderr）这两个概念虽然简单，但在日志记录、错误处理和数据流管理中扮演着核心角色。本文将探讨stdout和stderr的区别和应用，尤其是在Python环境中如何有效地使用它们。 标准输出（stdout）与标准错误（stderr） 在大多数操作系统中，标准输出和标准错误是进程的两个主要输出流。它们提供了一种机制，使得进程可以将信息和错误消息发送到终端或文件。虽然这两个流在物理上可能相同（例如，都显示在同一终端界面上），但它们在逻辑上用于不同的目的： 标准输出（s ...继续阅读 (54)

背景 当需要分享或分析网页内容时，长截图是一种非常实用的形式，它能够完整地展示页面。然而，处理这些长截图时，如何保持其信息的完整性和可读性，同时方便进行后续操作，一直是一个挑战。比如目前（2024年初）市面上主流的AI图像模型，仍然不能处理很大、很复杂的图片，如果强行把一张长截图输入模型，就会导致模型输出的性能变差（很多细节无法被识别到）。为了解决这个问题，我开发了一款基于OpenCV的工具，旨在简化长截图的处理过程，同时保持其内容的完整性和可读性。 这个项目已在我的Github开源：https:/ ...继续阅读 (48)

GPT为首的语言模型彻底改变了爬虫的写法。以前可能对每个网站的爬虫都需要进行特殊的配置或处理（每个网站都有自己独特的结构），才能提取到想要的信息。但通过GPT，一个爬虫提取所有网站上自己想要的信息，就不是不可能。为此我写了一个在爬取过程中使用gpt提取信息的通用爬虫，并开源在了Github上。 介绍 GPT-Web-Crawler 是一个基于python和puppeteer的网络爬虫，可以爬取网页并从网页中提取内容（包括网页的标题，url，关键词，描述，所有文本内容，所有图片和截图）。它使用起来非常简单，只需要几行代码就可以用来 ...继续阅读 (56)

绪论 物联网的定义 技术理解 物联网是指物体的信息通过智能感应装置，经过传输网络，到达指定的信息处理中心，最终实现物与物、人与物之间的自动化信息交互与处理的智能网络。 应用理解 物联网是指把世界上所有的物体都耳到一个网络中，形成物联网，然后’物联网’又与现有的“互联网“结合，实现人类社会与物理系统的整合，达到更加精细和动态的去管理生产和生活。 通俗理解 将 RFID 射频识别和 WSN 无线传感器网络结合为用户提供生产生活的监控、指挥调度、远程数据采集和测量、远程诊断等方面的服务。 物联网的特征 全面感知 利 ...继续阅读 (42)

前言 Aurora主题是由@三钻开发的Hexo主题。主题大气美观，但作为面向大众的设计，仍有一些小众的需求未能被满足。因此我就按照自己的需求进行了魔改，也就是Aurora-s。需要注意的是： 在我修改的内容里，有一部分修改的一些提示文字无法被自定义，比如加载动画下方的提示文字 修改版本的Aurora-s基于AuroraV2.5.2，会尽力跟进原版更新内容，但不能保证完全采纳 Aurora在美观性上几乎是无可挑剔的，但在功能性上仍有欠缺，比如阅读体验上。上图是在笔记本的小屏幕上截取的原版页面，可以看到组件 ...继续阅读 (47)

Webhook Webhook是一种基于HTTP的回调函数，可在两个应用编程接口（API）之间实现轻量级的事件驱动通信。客户端向服务器API提供唯一URL，并指定它想要知道的事件。设置webhook后，客户端不再需要轮询服务器；发生指定的事件时，服务器会自动将相关的有效负载发送到客户端的Webhook URL。 Webhook可以是实现自动化的重要一环，而且实现简单（仅一次http请求，可以嵌到任何地方)，国内飞书、钉钉和企业微信等都支持Webhook推送消息。 以上是好处，那么坏处就是http请求的参数不统一，就 ...继续阅读 (49)

声明：本文非原创，原地址是github上yuezih的King-of-Pigeon仓库，但目前作者已经删除了该仓库。原作者删库跑路的原因是自己组里的鸽子飞跑了，这里还是倡导大家谨慎鸽老师。 King of Pigeon：计算机保研文书实用模板 --- ### What's New 2022/10/27 Overhauled and removed some useless content. 2022/04/08 Added Resume (or CV) template and Festival Wishes templates. 2022/03/15 Some updates to meet 100 stars! 2022/03/14 We published a Python package with the Python Package Index, try pip install pigeonking && pigeonking! 2022/03/14 Reimplemented the code with Github Copilot. 2021/11/07 Added How to Breakup Without Just Cause template. 2021/09/17 Added Recommendation Letter Request and Recomme ...继续阅读 (55)