实现依然基于accord.net framework1. 二维数组作为输入和一元输出数组2. 执行回归，得到回归的方差和，以及回归方程（ax+by+c）的各个系数实现代码 public class MultiRegressionDemo { public static void Execute() { // 2 dimensions MultipleLinearRegression target = new MultipleLinearRegression(2, true); double[][] inputs = { new double[] { 1, 8 }, new double[] { 2, 29 }, new double[] { 3, 2 }, new double[] { 0, 1 }, new double[] { 5, 6 }, new double[] { 4, 7 }, new doubl ...继续阅读 (78)

1. 给定输入点和输出点数组2. 进行线性拟合，计算方差和3. 打印回归线方程实现代码：    public class SimpleLinearDemo { public static void Execute() { double[] inputs = { 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11 }; double[] outputs = { 6, 9.5, 13, 15, 16.5, 17.5, 18.5, 19, 19.5, 19.7, 19.8 }; double[] logx = Matrix.Log(inputs); var lr = new SimpleLinearRegression(); double error = lr.Regress(logx, outputs); Console.WriteLine("the ‘generalized least squares’ value is {0}", error); string result = lr.ToSt ...继续阅读 (60)

为什么要修改ISOLATION LEVEL，因为默认的SQL使用的ISOLATION级别是Read Commited，会产生共享锁，会影响性能，有时与update竞争甚至产生死锁。不过，并不是所有的query都需要把isolation level改为read uncommitted，因为会带来dirty read。可通过以下3种方式添加nolocksql query :SELECT xxx FROM table XXX nolock .Sql statement :SET TRANSACTION ISOLATION LEVEL { READ UNCOMMITTED | READ COMMITTED | REPEATABLE READ | SNAPSHOT | SERIALIZABLE } [ ; ]https://msdn.microsoft.com/en-sg/library/ms173763.aspxFor Entity framework :using (var t = new TransactionScope(TransactionScopeOption.Required, new TransactionOptions { IsolationLevel = System.Transactions.Is ...继续阅读 (23)

二元逻辑回归可用于向量的概率预测，是一种分类算法。迭代方式可选择最小二乘法或梯度下降。迭代之后会得到每个特征的系数。公式（对于有N个特征的向量,其中w[i]为权）：f(x) = 1/(1+ e^[-(w0+w1*x1+w2*x2+...+wn*xn)])例如有两个特征w1和w2（最小二乘后可得到，以及w0），即可使用公式来计算，在x1和x2的条件下，概率为多少。实现代码 （C# with accord.net）： public class LogisticRegressionDemo { public static void Execute() { double[][] input = { new double[] { 55, 0 }, new double[] { 28, 0 }, new double[] { 65, 1 }, new double[] { 46, 0 }, new double[] { 86, 1 }, new double[] { 56, 1 }, ...继续阅读 (35)

与K-MEANS一样，KNN也是用于聚类（clustering）的算法，属于非监管学习。具体思路为：1.初始化学习样本，即向量集合2.指定每个向量集合所属的分类，例如a,b,c3.对于新来的向量v，指定邻居数K，找到距离v最近的K个邻居，设为集合s4.对于s中的每个向量，找出分类数最大的那个（例如K=5，3向量分在了a，1个在b，1个在c），则v的分类为a。图例实现（c#）1.安装 accord framework 的nuget2.实例代码   public class Vector { public double[] Features { get; set; } public Vector(double[] features) { Features = features; } public override string ToString() { return "(" + string.Join(",", Features) + ")"; } } public class KNNDemo { ...继续阅读 (64)

算法过程：1. 根据测试数据创建向量2. 初始化K组，以及每组的中心向量3. 计算每个向量到每组中心向量的距离，更新向量所属的组4. 更新组的中心向量5. 如果向量的组有更新（上次计算和本次计算的组不同），重复过程3和4，直到向量的组稳定位置图例：1. 初始化一些向量（红色圆圈）和两个分组，中心向量以绿色标识2. 计算每个向量到中心向量的距离，更新向量所属的组（选择最小距离）图13. 更新组的中心向量，重新计算每个向量到中心向量的距离，重新分组图24. 迭代步骤3，由于向量的组没有更新，因此图2为最终的结果代码实现（C#）：  public class Vector { public double[] Features { get; set; } public Guid Id { get; private set; } public Guid PreGroupId { get; set; } public Guid CurrentGroupId { get; set; } public Vector(double[] features) { Features = features; PreGroupId = ...继续阅读 (23)

最小二乘法：设方程f(x,y)为损失函数，分别对x和y求偏导数，联立可求得回归直线方程。得到的是一个全局最优解。梯度下降法：对于线性不可分情况，需要使用梯度下降（或上升）求极值。大致步骤为：对于起始点x，求导得到d(x)。x需要移动的方向为的反方向，移动距离为定长len * (d(x))，因此这个步骤为x=x-len*(d(x))。对比移动前后的函数值y，最够接近（设误差为0.00001）时，此时的y可以看做是最值。迭代，直到y的差值小于误差为止。实现代码 （C#）：void Main() { var Fx = new Func<double,double>((double d)=>{ return d * d - d + 4; }); var deviation = 0.00001; var len = 0.5; var x=0.0; var y0= Fx(x); var y1=0.0; while (true) { x -= len * Calculus(Fx, x); y1 = Fx(x); if (Math.Abs(y1-y0)<deviation) { break; ...继续阅读 (16)

异常数据点检测：One-class SVMPCA-based anomaly detection聚类：K-means预测值：数据分类是排序的：Ordinal regression预测事件次数：Poisson regression预测分布：Fast forest quantile regression快速训练，线性模型：Linear regression线性模型，小数据集：Bayesian linear regression精确，但训练时间长：Neural network regression精确，快速训练：Decision forest regression精确，快速学习，占用多内存：Boosted decision tree regression预测两个分类（二元分类）：大于100个特征，线性模型：Two-class SVM快速训练，线性模型：Two-class averaged perceptron快速训练，线性模型：Two-class logistic regression快速训练，线性模型：Two-class Bayes point machine精确，快速训练：Two-class decision forest精确，快速训练，占用多内存：Two-class boosted decision tree精确，占用内存少：Two-class decision jungle大于1 ...继续阅读 (67)

1. 下载测试数据https://data.gov.sg/dataset/domestic-exports-by-area1.1 将数据中的na替换为02. 上传测试数据3. 实现模型学习创建1个experiment3.1 将测试数据dataset拖到右边3.2 将数据分为测试数据和验证数据两组，比例：2:83.3 选择分类算法，这里选择二元逻辑回归3.4 训练模型，选择预测的列，这里选择'area'3.5 生成模型3.6 运行模型4. 创建webservice->predictive web service4.1 点击 'setup webservice'4.2 点运行4.3 点击 'deploy webservice'4.4 测试4.4.1 预测2020年出口100000的国家可以看到service预测结果为amarican ...继续阅读 (37)

1. 下载测试数据https://data.gov.sg/dataset/licensed-food-establishments-food-factories2. 上传data set3. 创建experiment4. 学习过程4.1 将测试数据拖到右边4.2 split data ，分配学习数据与验证数据的分配比例，本例选择2:84.3 选择算法，这里选择线性回归，最小二乘法。4.4 训练模型4.5 score模型4.6 evaluate 模型，选择要预测的列名，对本例而言是工厂总数4.7 点击run5. 发布web service5.1 点击，setup webservice->predictive web service5.2 点击run5.3 deploy webservice5.4 然后会看到service已经创建好，点击test5.5 输入测试参数进行测试。例如输入年份2020可以看到service预测的结果是1317家工厂。 ...继续阅读 (50)

共享组件为了多个应用之间共享DLL。会需要创建共享组件。 签名的组件要注册在GAC中，并且引用它的DLL也要被签名。签名的组件名称由四个部分组成：public key, file name, version number , culture identity. 其中public key是被哈希过的（并取最后八位数），由称为public key token。示例DLLAssemblyRef #1 (23000001) ------------------------------------------------------- Token: 0x23000001 Public Key or Token: b7 7a 5c 56 19 34 e0 89 ...签名的public key嵌入在manifest文件中。当包含manifest文件的PE文件被创建之后，PE文件的内容也会相应被哈希。默认情况下，签名使用的是SHA-1算法。编译过程中查找目录的顺序DLL所在目录包含CLR DLL的目录使用/libcompiler switch 指定的目录使用LIB 环境变量指定的目录GAC在安装.NET时，核心DLL被分别拷贝在了GAC子目录和编译器/CLR目录中分别一份。这样在运行时GAC中也能方便访问到.NET核心组件。每当组件被注册在GAC时，GAC ...继续阅读 (48)

使用AweSocket 收发消息public Form1() { InitializeComponent(); CheckForIllegalCrossThreadCalls = false; } private void ListenInBlockIOMode() { Task.Run(() => { var listenSocket = AweSock.TcpListen(_listeningPort); while (true) { var client = AweSock.TcpAccept(listenSocket); var inBuf = AwesomeSockets.Buffers.Buffer.New(); var received = AweSock.ReceiveMessage(client, inBuf); ...继续阅读 (45)

1.安装packageinstall.packages("RODBC")2.初始化连接dbhandle <- odbcDriverConnect('driver={SQL Server};server=.\\SQLEXPRESS;database=SDC;trusted_connection=true')3.查询res = sqlQuery(dbhandle, "select * from SDC_FACILITY") ...继续阅读 (42)

1.绘制茎叶图1.1使用测试数据faithfulattach(faithful)1.2对eruptions做summarysummary(eruptions) Min. 1st Qu. Median Mean 3rd Qu. Max. 1.600 2.163 4.000 3.488 4.454 5.1001.3得到eruptions数据的五数（最小值，第1,2,3分位数，最大值）fivenum(eruptions) [1] 1.6000 2.1585 4.0000 4.4585 5.10001.4绘制茎叶图stem(eruptions) 16 | 070355555588 18 | 000022233333335577777777888822335777888 20 | 00002223378800035778 22 | 0002335578023578 24 | 00228 26 | 23 28 | 080 30 | 7 32 | 2337 34 | 250077 36 | 0000823577 38 | 2333335582225577 40 | 0000003357788888002233555577778 42 | 0333555577880023333355557777 ...继续阅读 (34)

设 a = c(1:10)fivenum(a) 1.0 3.0 5.5 8.0 10.0此函数会返回：最小值第一分位数，排序后第25%个数第二分位数（中位数），排序后第50%个数第三分位数，排序后第75%个数最大值对于每一个分位数（设第X%个数），如果是整数，则取X%+下一位数字的平均值；如果不为整数，则取第X%数字对应的下一个整数。例如对于向量a，最小值=1第一分位数=第25%个数=2.5。因为2.5不为整数，因此第一分位数=2.5的下一个整数=3第二分位数=中位数=第50%个数=5。因为5为整数，因此中位数=(5+6)/2=5.5第三分位数=第75%个数=7.5因为7.5不为整数，因此第三分位数为7.5的下一个整数=8最大值=10 ...继续阅读 (33)

生成 4行5列的数组，逐列逐行赋值x = array(1:20, dim= c(4,5))根据已知向量生成二维数组i = array(c(1:3,3:1,4:6,5:7), dim=c(3,4))也可以调整行列顺序 （3行4列变为4行3列）i = array (c(1:3,3:1,4:6,7:9), dim=c(4,3))数组a元素作为索引值操作数组bi为一个二维数组，x[i]为x[i[1,1]],x[i[1,2]]...x[i[1,n]]...x[i[2,1]],x[i[2,2]]...x[i[n,n]]，例如x[i] = 0 操作，就是将数组i中的元素取出为i[m,n]，为x[i[m,n]]一一赋值，m∈[1,行数],n∈[1,列数]。创建3*4矩阵，初始化每个元素为0b = matrix(0,3,4)向矩阵最后添加一列b = cbind(b,1:3)向矩阵最后添加一行a = matrix(c(1:9),3,3)a = rbind(a,c(9,9,9))将一个数组强制转换成简单向量vec=as.vector(a)或者vec=c(a)矩阵（向量）相乘crossprod(1:5,2:6)创建表格table(c(1:4), c(2:5))基于数据向量与维度创建数组z=array(c(1,2,3), dim=c(2,3,4))基于数据向量<1,2,3>创建4组，3列两行的表 ...继续阅读 (23)

使用factor对数据分组a = c('a','b','c','a','b','b','a')af = factor(a)table(a)设向量b为向量a对应的一组数据，以及a的分组，求每组数据的平均值b = c(1,2,3,4,5,6,7)avg <- tapply(b,a,mean)计算过程为：a,b,c对应与b中的总和/ (a,b,c 出现的次数)avg(a) = (1+4+7)/3 = 4avg(b) = (2+5+6)/3 = 4.3avg(c) = (3)/1 = 1现求每组数据的方差(调用var函数)，注意在R中var函数是经过贝塞尔修正过的（即除以n-1而不是n）。v = tapply(b,a,var)求值过程：a : 1,4,7 ; mean(a) = 4b : 2,5,6 ; mean(b) = 13/3c : 3 ; mean(c) = 3var (a) : [(1-4)^2 + (4-4)^2 + (7-4) ^ 2] / 2 = 9var (b) : [(2-13/3)^2 + (5-13/3) ^ 2 + (6-13/3) ^ 2] / 2 = 5.4289+ 0.4489+2.7889 = 4.33var (c) : (3-3)/0 = NA ...继续阅读 (15)

向量基本操作向量赋值x <- c(1,2,3)assign("y", c(2,3,4))c(3,4,5) -> za <- c(x,y,z)向量运算v <- 2*x + y + 1均值mean(x)向量长度length(x)求x的方差var(x)生成序列seq (-5, 5, by=.2) -> s3s4 <- seq(length=20, from = -2, by= .2)重复向量x5次s5 <- rep(x, times=5)重新向量x中的每个元素5次s6 <- rep(x, each=5)序列+编号labs <- paste(c("X"), 1:5, sep="")取非空数据x[3] = NAx[!is.na(x)]基于已知向量+条件创建新向量(x+1)[(!is.na(x)) & x>0] -> z取向量元素x[1:3]基于已知向量+重复规则向量+重复次数生成新向量c("x","y")[rep(c(1,2,2,1), times=4)]将x的元素copy到y，除了前两个元素y <- x[-(1:2)]赋值向量列名称fruit <- c(5, 10, 1, 20)names(fruit) & ...继续阅读 (15)

特征向量对于一个给定的线性变换A，它的特征向量（eigenvector，也譯固有向量或本征向量）v 经过这个线性变换[1]之后，得到的新向量仍然与原来的v 保持在同一條直線上，但其长度或方向也许會改变。即Av=λv特征空间特征空间(eigenspace)是具有相同特征值的特征向量与一个同维数的零向量的集合。假设空间一组函数的集合，这组集合中的函数都能将输入空间映射到输出空间，但是映射的准确性却大不相同。分布函数非降性；有界性；右连续性。分布密度函数是一个描述这个随机变量的输出值，在某个确定的取值点附近的可能性的函数。累积分布函数随机变量在某一区域内，密度函数的积分值。损失函数损失函数是指一种将一个事件（在一个样本空间中的一个元素）映射到一个表达与其事件相关的经济成本或机会成本的实数上的一种函数。风险函数损失函数的期望值。经验风险最小化训练数据的误差。残差实际观察值与估计值（拟合值）之间的差拟合所谓拟合是指已知某函数的若干离散函数值{f1,f2,…,fn}，通过调整该函数中若干待定系数f(λ1, λ2,…,λn)，使得该函数与已知点集的差别(最小二乘意义)最小。过拟合为了得到一致假设而使假设变得过度复杂称为过拟合。避免过拟合是分类器设计中的一个核心任务。通常采用增大数据量和测试样本集的方法对分类器性能进行评价。正则化正则化就是对最小化经验误差函数上加约束，这样的约束可以解释为先验知识 ...继续阅读 (32)

有时在应用中需要获取当前的系统状态，如果闲置一段时间将锁屏或自动登出。代码示例internal struct LASTINPUTINFO { public uint cbSize; public uint dwTime; } [DllImport("User32.dll")] public static extern bool LockWorkStation(); [DllImport("User32.dll")] private static extern bool GetLastInputInfo(ref LASTINPUTINFO Dummy); [DllImport("Kernel32.dll")] private static extern uint GetLastError(); public static uint GetIdleTime() { LASTINPUTINFO LastUserAction = new LASTINPUTINFO(); La ...继续阅读 (26)

1. 安装nuget-install package DoddleReport-install package DoddleReport.iTextSharp2. 实例代码static void Main(string[] args) { var query = GetAll(); var report = new Report(query.ToReportSource()); report.TextFields.Title = "Graduate Student Report"; report.TextFields.SubTitle = "sample header"; report.TextFields.Footer = "sample footer"; report.TextFields.Header = string.Format(@" Report Generated: {0} Total Students: {1}", DateTime.Now, 100); report.RenderHin ...继续阅读 (30)

在win7里面默认是II7，部署时会出现错误：HTTP Error 500.21 - Internal Server ErrorHandler "SimpleHandlerFactory-Integrated" has a bad module "ManagedPipelineHandler" in its module list1.解决方案 ，打开command2.进入path ： C:\Windows\Microsoft.NET\Framework\v4.0.303193.运行：aspnet_regiis.exe -i ...继续阅读 (115)

1. create event hub on azure2. create a prj , event hub sender, install nuget pkg - azure service bus3. check connection string4. sender sample codestatic void Main(string[] args) { Console.WriteLine("Press Ctrl-C to stop the sender process"); Console.WriteLine("Press Enter to start now"); Console.ReadLine(); SendingRandomMessages(); } static string eventHubName = "get from event hub connection information"; static string connectionString = "get from event hub connection informa ...继续阅读 (71)

1. create a send grid account2. remember the username/password of the send grid account3. install sendgrid nuget pkg4. get keymanage ->it will redirect you to manage portalcreate a new api key:4. sample code of console applicationusing System; using System.Net.Mail; using SendGrid; namespace SendGridAzureSample { class Program { static void Main(string[] args) { SendGridMessage myMessage = new SendGridMessage(); myMessage.AddTo("send_to"); myMessage.From = new MailAddress("from_email", "Display name" ...继续阅读 (109)

1. 创建azure hadoop，记住创建时填的管理员密码2. 创建可能需要10-15分钟。创建好了之后，去dashboard选择创建好的hadoop—>选中cluster3.登录azure hdinsight，输入刚才填的管理员密码，用户名是admin。 进入hive editor页面，使用测试数据进行查询4. 进入Job History，选中一个job，可以查看job output这些job output可用于BI工具的输入。 ...继续阅读 (14)

1. 检查服务器->Add Or Remove Windows Features -> IIS 是否安装了Asp.Net 3.5 和Asp.net 4.52. 检查初始页面是否存在3. 检查Application pool的.net版本4. web config -> 中添加<system.webServer> <handlers> <remove name="ExtensionlessUrlHandler-Integrated-4.0"/> <add name="ExtensionlessUrlHandler-Integrated-4.0" path="*." verb="*" type="System.Web.Handlers.TransferRequestHandler" preCondition="integratedMode,runtimeVersionv4.0"/> </handlers> <validation validateIntegratedModeConfiguration="false"/> </s ...继续阅读 (29)

1. 安装nugetXamarin.FormsXLabs.Forms2. MainActivity.cs  (Android)public class MainActivity : XFormsApplicationDroid { /// <summary> /// Called when [create]. /// </summary> /// <param name="bundle">The bundle.</param> protected override void OnCreate(Bundle bundle) { base.OnCreate(bundle); if (!Resolver.IsSet) { this.SetIoc(); } else { var app = Resolver.Resolve<IXFormsApp>() as IXFormsApp<XForm ...继续阅读 (15)

0. 安装autofac的nuget1. 准备测试接口和类class BallGame : IPlay { public void Do() { Console.WriteLine("ball game"); Console.Read(); } } class ComputerGame : IPlay { public void Do() { Console.WriteLine("computer game."); Console.Read(); } } interface IPlay { void Do(); }2. 编写autofac模块class PlayModule : Module { protected override void Load(ContainerBuilder builder) { builder.RegisterType(typeof(ComputerGame)).As(typ ...继续阅读 (29)

二元聚类二元逻辑回归多元逻辑回归二元决策树 多元决策树二元决策森林二元提升决策树贝叶斯分类器 二元局部深层向量机二元SVM二元平均感知器二元神经网络多元神经网络回归分析线性回归贝叶斯线性回归决策树回归决策森林回归提升决策树回归快速森林分位回归泊松回归序数回归神经网络回归异常检测一元SVM基于PCA的异常检测K-Means ...继续阅读 (18)

1. menu item model public class MasterPageItem { public string Title { get; set; } public string IconSource { get; set; } public Type TargetType { get; set; } }2. MasterPage 的view<?xml version="1.0" encoding="UTF-8"?> <ContentPage xmlns="http://xamarin.com/schemas/2014/forms" xmlns:x="http://schemas.microsoft.com/winfx/2009/xaml" x:Class="PurpleHeart.MasterPage" Title="Menu" Padding="0,40,0,0"> <ContentPage.Content> <StackLayout VerticalOptions="FillAndExpand&qu ...继续阅读 (105)