对于图的基础认识和问题描述，进而给出基本的图遍历求解问题的思路0x01 对于图的基本认识对于数据结构的存储无非就是“增删改查”，所以对于图（Graph）的认识也可以从这个角度出发。不过与基本的数组和链表不同的是，数组作为顺序存储、链表作为链接存储更多的是代表计算机存储的一种方式，是更为适合计算理解而对人类不友好的；图作为一个存在日常生活中的数据结构，可以很容易的被人理解，但是往往在计算机存储中存在困难。所以对于图的理解可以从图的本身，以及从图对应的计算机存储方式入手，之后再给出图中一些经典问题。1.1 图的本身含义图（Graph）作为一种描述节点（Vertex or node）和节点之间连接的边（Edge）的抽象数据结构，在现实场景中存在很多的应用，比如说具体的交通网络流量、水管布设、计算机网络流量、电路图等等，在抽象中包括人与人之间的社交关系、车与车之间的安全关系等等。同时我们可以节点根据连接边的数量可以增加几个重要的特征：度（Degree），其中出度表示多少边是从节点发出的，入度表示多少边是从节点接受的；通路（Path）表示有m+1顶点和m条边组成的序列首尾相同的通路则为环路（Cycle），同时特殊的环路包括欧拉环路、哈密尔顿环路根据对节点和边我们可以对图进行简单的分类：根据边是否有权可以将其分为有权图（Weighted graph）和无权图。这里的区别是图中的边是代表固定的连 ...继续阅读 (21)

堆栈 Stack是一种线性表数据，只允许在表的一端进行插入（push）和删除（pop）操作。堆栈的好处在于操作时间为线性的。因此可以极大的提供效率。最基本的题目是《T20 有效的大括号》，而在其中更加复杂的是单调栈：单调栈（Monotone stack）：一种特殊的栈，在先进先出的基础上，要求从top到bottom的元素是单调的（单调递增 or 单调递减）0x01 理解单调栈维护一个单调栈的过程如图：单调栈可以解决的问题包括：寻找左侧第一个比当前元素大的元素寻找左侧第一个比当前元素小的元素寻找右侧第一个比当前元素大的元素寻找右侧第一个从当前元素小的元素单调栈思路模版1234567stack = []fornum in nums:whilestackandrule(stack[-1],num):# rule should be definedstack.pop()stack.push(gen(num))# gen should be related to the num0x02 单调解决问题2.1T901 股票价格跨度典型的单调栈记录中值下标123456789101112131415classStockSpanner:def__init__(self):self.stack = []self.index = [0]self.record =0defnext(self, price:i ...继续阅读 (33)

回顾说明是基于树的集成学习，同时给出基本的随机森林和Adaboost解释，以及GBDT的两种工程实现XGboost和lightGBM的介绍，并用实际的Kaggle例子解释使用。0x01 树（Tree）与集成学习（Ensemble learning）1.1 什么是决策树在之前的文章已经提到过决策树CART与手撕代码，决策树是一类基于分治思想的非参数的机器学习方法。通过自上而下的树形拆分对数据进行分类，作为一类最简单的最基础的监督学习模型可以被用于分类和回归问题。决策的过程分为特征选择树的构造树的建枝，为了避免过拟合所谓构造准则是在选择分支的时候如何确定规则取值？我们可以使用某种不纯度（Impurity）度量方式，来比较分支前的集合和分支之后子集度量之和来选择不纯度下降最大的特征作为区分。ID3最大信息增益倾向于选择取值多的特征；对样本缺失值敏感离散，分类C4.5最大信息增益比对于ID3的正则化，避免选择取值多的特征离散连续，分类CARTGini或者最小平方差最终形成二叉树离散连续，分类和回归1.2 什么是集成学习在之前的学习理论 — 集成学习中我们介绍了我们可以尝试训练不同的模型并将他们共同输出来得到最终的结果，潜在的假设在于集成多个训练的结果可以达到超过原有单个模型的效果。其中集中方式主要分为：使用算法训练得到不同的模型将不同模型输出的结果通过平均、投票或者学习（Stacking） ...继续阅读 (30)

重新回顾二分查找必要的细节0x01 算法想法二分查找（Binary search algorithm），是在数组章节第一次体会到算法精神的算法。其基本思想是：先确定待查元素的范围，之后以某种方式缩小范围，直到到达某种条件为支。很while其基本的算法思想是“减而治之”，和分而治之类似，但是更加的巧妙的是在于如何减小问题的规模或者排除问题。二分查找算法流程为：每次查找从数组的中间元素开始，如果中奖元素正好是要查找的元素，则搜索过程结束如果中间元素大于或者小于特定元素，那么选择对应的左边或者右边查找如果为空则说明找不到0x02 魔鬼细节想法并不困难，以最基本的方式从一个升序的数组中查找某一元素：12345678910111213# arr = [1,2,3,4,5,6,7,8]# target = 3left =0right =len(arr)-1whileleft<=right:mid = left+(right-left)//2ifarr[mid]>target:right = mid-1ifarr[mid]target:right = midifarr[mid] ...继续阅读 (28)

这次详细介绍一下transformer框架，以及潜在的想法。在我心中这个是和Alexnet一样的文章。主要从基于RNN的encoder-decoder缺陷中引入attention，并从并行的角度完全引入attention。在第二章介绍attention的机制，在第三章介绍相关的论文细节。在第四章介绍基于torch的实现过程。参考了很多文章！0x01 从RNN到Attention的Encoder- Decoder结构在这里还没有介绍Attention之前，请把它看作是一种计算权重的方式！第二章会详细介绍，这里不了解attention不会本章的理解。在时序信息处理中RNN、GRU、LSTM均体现出卓越的优势，通过隐藏状态可以捕获之前的信息，通过时间迁移（Time shift）来不断的预测下一个时间，通过时间梯度反向传播来弥补其中梯度的传播。同时在RNN系列的基础上，Encoder-Decoder架构完善了序列生成的模型框架，在DNA预测、机器翻译转录中取得非常好的效果。那么什么是Encoder-Decoder框架呢？最基本、最原始的形式沐神在《动手学深度学习》中已经给出但是如果直接从基本知识跳跃到《Attention is all you need》论文中会发现存在一个GAP，因为在Transformer提出之前，已经有Attention应用在编码器-解码器框架之中，我们会发现上述编码 ...继续阅读 (22)

相比较MLP和CNN，RNN结构仿佛尤其的神秘。相比较更加直观的可视化，实现端到端的输出，包含隐藏状态（Hidden state）的时序建模方式对于RNN代码的理解真是尤其的困难。虽然Torch为我们提供封装好函数，但是我更加希望去探索其封装借口背后的结构，来提高自己的理解能力。0x01 缘起相比较MLP和CNN，RNN结构仿佛尤其的神秘。相比较更加直观的可视化，实现端到端的输出，包含隐藏状态（Hidden state）的时序建模方式对于RNN代码的理解真是尤其的困难。虽然Torch为我们提供封装好函数，但是我更加希望去探索其封装借口背后的结构，来提高自己的理解能力。0x02 数学公式对于神经网络的计算方式可以考虑层层递进，包括单个神经元的前向传播、单个神经元的反向梯度下降、批量梯度下降。由此来理解它是如何使用的、如何学习的以及如何更好的工程化学习。2.1 基本思想RNN、LSTM、GRU等等这类循环神经网络更多的是参考如何应用在序列的数据中，参考沐神的解释，这一类网络结构的特点优势包括：跨时间权重共享时间平移不对称适用不同长度这里有点太晦涩了。当我们以时间序列预测（Time series forecasting）的方式来理解一个问题，我们如何从t的状态来预测t+1，经过分析我们会知道t+1状态并不完全取决于t。比如同一支股票在相同的价格均会存在下跌和上涨的状态，因此我们会希望另外 ...继续阅读 (28)

阅读Python的matplotlib的Python 绘图教程0x00 Basic settingWhat is matplotlib?Matplotlib is a comprehensive library for creating static, animated, interactive visualization in Python. We can as follows:创建高质量的图片创建可以交互的、放大、拖动、更新的图片定制化风格和尺寸导出为不同的格式在Jupyter notebook或其他应用中使用丰富的第三方库在使用中图片可以按照A4比例来进行设置，同时设置对应的字体和颜色1234567mm = 1/25.4# plt.figure(figsize=(10*mm,20*mm)plt.rcParams['font.family']="Times New Roman"mpl.rcParams['xtick.labelsize'] = 10mpl.rcParams['ytick.labelsize'] = 10plt.rcParams['mathtext.fontset']='cm'plt.style.use('tableau-colorblind10' ...继续阅读 (16)

openAI的gym中提供了很多封装好的环境，在此基础上我们可以使用其来跑通深度强化学习的代码，但是更多的时候我们希望调用算法来解决一个实际问题，因此尝试为定制化的问题转换成为MDP六元组《变量、状态、动作、奖励、状态转移、终止条件》后编程为可以交互的环境即可。本文介绍学习gymnasium和stable- baseline3的学习思路并手动实现一个MyCar的环境。0x01 巨人的肩膀 ：调库根据MDP过程，环境和智能体两个抽象类主要需要包括几个API操作：环境：参数设置（init），初始化环境（reset），状态更新（step），关闭（closed），显示（render）智能体：深度学习参数（net），学习行为（learn），生成行为（predict）所以抽象来看1234567891011121314importgymnasiumasgymimportstable_baselines3assb3env = gym.make('[env_name]',render_mode='human')# 定义好参数，已经学习agent = sb3.load('[saved_model_dir]')observation,info = env.reset(seed=42)terminated = falsewhilenottermi ...继续阅读 (14)

根据CS188《Intro to AI》来对搜索策略进行一定的总结0x01 智能体在人工智能中，核心问题是创建一个理性的智能体(Rational agent)，是一个实体通过一些系列的动作(Actions)来实现目标或者是喜好(Goal or perferences),它存在于环境中（Environment），智能体通过传感器（sensors）获取信息并驱动自己的动作（Actuators）。Reflex agent：仅仅根据现有来选择动作Planning agent：根据一系列的动作来确定现有状态下的动作定义一个任务通常会用到PEAS（评价指标，环境，动作，传感器）Performance Measure：指的是智能体需要提高的衡量指标Environment：总结影响智能体的因素Actions and Sensors：说明智能体如何对环境造成改变，同时如何获取信息特定的我们确定几类不同特征的任务：部分观察的任务(Partially observable environments) 或者 完全观察(Fully observation)随机过程(Stochastic) 或者 确定过程（Deterministic）多智能体环境（multi-agent）静态环境（static）或者动态环境（Dynamic）0x02 搜索问题定义搜索问题包括以下几个部分：State 在所给案例中的所有状态Ac ...继续阅读 (19)

比赛的基本信息在之前的任务一中已经有所介绍，属于文本领域（Natural language processing，NLP）的分类任务，之前的方法是采用的是“抽取特征+分类器”的方式来实现的。这样的方法范式通常需要手动构造许多特征，并且需要较适应的分类器来训练，其中主要的困难点在于（1）手工构造的特征是否有效 （2）如何保证机器学习模型训练中的偏差-方差权衡。但是随着Attention范式的爆火，自动抽取文本特征成为困难，所以在Baseline中我们可以尝试使用BERT（Bidirectional encoder representations from transformers）来自动构造特征，但是和计算机视觉（Computer vision，CV）类似端到端（End-to-end）的思维总是很诱人，所以尝试利用“input+prompt”对训练集进行修改，同时对训练好的大模型进行微调（Fine-tuning）成为一种新的范式。本文将借助本次项目中提供的Topline代码（深度学习）进行解读。目录设计Kaggle大神开源了一本《approaching any machine learning problem》其中并不是介绍机器学习的各种数学原理，而更多的是从开发的角度、代码文件设计来介绍常见配置。感觉很像是Project profile，在讨论如何将Dirty work更好的组织起 ...继续阅读 (24)

摘要0x01 问题描述通过机器学习的方式对论文摘要等信息的理解，来判断该论文是否属于医学领域的文献。数据集中包括publicdata-train,publicdata-test,trainB,数据集中包含标题、作者、摘要和关键词模型：可以采用task1基于文本提取的TF-IDF+LR分类的机器学习方式；也可以task2采用基于Bert大模型微调的方式评价：最终的评价标准采用F1-score来进行分析123456789101112# input：Inflammatory Breast Cancer: What to Know About This Unique, Aggressive Breast Cancer.，[Arjun Menta, Tamer M Fouad, Anthony Lucci, Huong Le-Petross, Michael C Stauder, Wendy A Woodward, Naoto T Ueno, Bora Lim]，Inflammatory breast cancer (IBC)isa rare form of breast cancer that accountsforonly2% to4% ofallbreast cancer cases. Despite its low incidence, IBC contributes to7% to ...继续阅读 (25)

在研究生使用半年的Macbook Air（2020M1）之后由于存储、屏幕等原因，转向具有诸多优点的MacbookPro14（2021），在深度磨合半年之后介绍这台设备的优点。从工业设计、外部接口、硬件配置、屏幕素质介绍使用感受，并从文件处理、知识管理、系统工具、娱乐角度介绍软件资源，最后给出文件管理和待办管理的工作流。本文主要介绍2021款MacBook Pro 14inch, 具体的参数规格0x01 使用感受一下从工业设计、外部接口、硬件配置、屏幕素质角度介绍使用感受。从工业设计角度，外观上虽然失去了Macbook Air楔形设计的优美，但是坚实的底座和方正的设计会让人觉得它很踏实。但是真的很重，相比Air的重真的需要加一个档次的心理准备。另外这次的键盘相比air更重，按键也更大，特别是非常大的esc键，非常舒服。从外部接口来看尤其是 3thunderbolt4+MagSafe3+headphone jack +HDMI+SDXC 真是非常实用，所以直接抛弃贝尔金七合一的拓展坞。HDMI在外出接投影仪的时候真的非常好用，SD卡在导出相机照片的时候非常方便。美中不足的有两点：一是没有USB-A接口，在日常使用移动硬盘和连接安卓手机不方便 二是HDMI和SD卡的速度有一定的限制。观点1：外设永远没有自带方便从硬件配置角度，后续我会详细结合软件操作来介绍。这里总的体验感受是M1pro ...继续阅读 (22)

原文地址《Introducing Tensor Board.dev: a new way to share your ML experiment results》Tensorboard作为tensorflow的可视化组件，通常为研究者和工程师提供可视化和理解机器学习的实验结果。它可以被用来Tracking experiment metrics(记录实验指标)Visualizing models(可视化模型)Profiling ML programs(分析机器学习运行过程)Visualizing hyperparameter tuning experiments(可视化超参数调节实验)除了可以简单的可视化模型，Tensorboard也可以多端合作。你可能想分享超参变动对结果的影响、解释一个复杂的训练过程和从失败中获取帮助我们之前加过人们尝试分享TensorBoard的截图来实现，但是截图并不是可交互的并且没有展示所有的细节。在Google，研究人员和工程师往往通过tensorboard 可视化结果给团队成员来讨论观点。我们的目标是为更广泛的社区提供这个能力这也是为什么我们开发tensorboard.dev：一项托管服务（目前正在预览中），使您能够轻松地免费托管、跟踪和共享您的ML实验。只需上传您的TensorBoard日志，即可收到一个每个人都可以查看的链接，无需安装或设置。If ...继续阅读 (20)

最近看了Python的PEP8，其中对于代码规范的要求是注释主要选择英文，本次项目的进行中也在竭力的进行，但是发现效果并不是很好，如果为了别人的代码可读性的标准而导致自己的代码低效，这个显然是不可取的。never mind，本章主要介绍CNN届的Hello world————手写数字识别。自己从无到有的敲一下。项目介绍MNIST(modifed national institute of standard and technology) is the “Hello world” dataset of computer vision. Since its release in 1999, this classic dataset of handwritten images has served as the basis for benchmarking classficiation algorithms. As new machine learning techniques emerge, MNIST remains a reliable resource for resource for researchers and leaaners alike.In this competition, your goal is to correctly identify digits from ...继续阅读 (17)

在学习Torch之际，正好结合沐神的《动手学深度学习》和CS229中的局部线性回归讲义实践一下！终于跑通了第一个属于自己的代码！！0x01 什么是线性回归？在之前的CS229中，线性回归（Linear regression）作为机器学习的Hello world，让我们了解到学习模型（supervised learning algorithm）会包括几个部分：数据集（dataset）假设（hypothesis）损失函数（loss function）优化方法（optimization method）详细可见cs229-01线性模型0x02 什么是局部线性回归？也就是给梯度一个权重0x03 从零开始的代码实现在了解算法的基础上，如何使用代码构建出来是另外一个方面。两者可以是互补的！参照Tensorflow2.0 八股文的描述，我们将深度学习网络构建的过程也可以分为几个典型的步骤：构建dataset根据dataset生成不同的dataloader，方便后续批量梯度下降(batch gradient descent)建立Model（根据hypothesis）选择损失函数 loss function优化器选择超参数的设置 lr、epoch、batchsize学习过程，批量梯度下降评价指标，对于regression的分析常见的包括MSE、MAPE等等3.1 定义数据集12345678910111 ...继续阅读 (14)

一直使用圈x作为我的代理软件，但是出现了一些问题，现在想总结一些圈x使用的方法。0x01 Overview圈X的功能有哪些？Proxy server，导入订阅连接，可以使用代理访问网站 [server local] [server remote]Filter rules,设置对应的策略组和分流规则，对应[proxy] [filter_remote] [filter_local]Rewriter rule，重写规则和MITM解密，主要用来去广告和重定向[rewrite] [mitm]0x02 Proxy server使用添加节点和订阅链接的方式有三种，一般使用2就足够了～通过Quantumult X 界面添加节点。setting->external proxy->add通过Quantumult X 界面添加订阅。setting->external proxy->resources手动修改配置文件添加节点，在配置文件中的[server_local]部分，setting->proxy file–> edit1234#trojan 节点写法trojan=example.com:443, password=pwd, over-tls=true, tls-verification=false, fast-open=false, udp-relay=false, tag=节点名称#vmess 节 ...继续阅读 (23)

Torch官方文档中最关键的类torch.tensor，最重要的机制autograd，这里对常见的API进行总结Pytorch 基本教程从组成元素上来看学习Torch主要需要熟悉以下几个概念，个人总结以下几个概念什么是Tensor？这个是深度学习框架计算的源泉，参考NumPy的array和Pandas的Dataframe。我们对于基本变量的操作主要分为如何创建？如何生成？如何复制？如何运算？如何索引？如何删除？等等操作数据的预处理，如何通过读取数据来构建自己的dataset、dataloader，并对数据进行一定的transform、随机抽取等等深度的八股：网路结构Net、优化器选择Optim、损失函数的选择Loss等等训练函数和测试函数。如何在epoch训练、如何打印loss、如何计算summary等等123456789101112131415161718importtorchimportnumpy as np# 生成torch通常可以包括以下几点# 1. 利用内置的函数 empty.ones.rand.randn.randint randperm linspace等等# 2. 利用现有的数据，list、numpy.array、tensor等# 3. 通过运算broadcasting,cat,join等x=torch.empty(5,3)x_numpy=np.zeros((5,3 ...继续阅读 (16)

作为一枚INFJ，经常会对效率工具进行反思。今天看了一本和知识管理联系不大的《如何有效阅读一本书》，然后对自己现有的知识管理系统中备忘录+日历+提醒事项，配合ShortCut快速输入、Cubox聚集、Notion整理的一套系统进行整理和反思。给出三个核心的观点。0x01 现有工具使用流程对于现代互联网的工具的感受是，它无处不在，但是在光鲜亮丽的覆盖率之下反而更加暴露了各种信息交换不流畅的问题。你在Apple日历中设置的事项很难在安卓手机上看到，你在推特发的推文很难被同步到你的备忘录，你在豆瓣收藏的书籍也不会出现在亚马逊的购物中，你在PDF中做出的批注也难导出到你的Notion中…为了解决这些信息交流的问题，我们往往需要确定自己的工作流Workflow。通过自身的控制来更好的使用工具。当然当一个高效的工具出现的时候你也会开心的，比如看到Warp代替iTerm，时代毕竟是在发展的。电子工具的用途主要有三个：1. GTD日程管理、2. 信息收集、3. 信息处理graphclassDef someclass fill:#f96A[GTD : Get thing done]:::someclassC(Calendar:Event)R(Reminder:ToDo Schedule)N(Notes)C-->AR-->AN-->AN-->CN-->RB[知识收集 Cubox]:::someclas ...继续阅读 (18)