GPT的架构 GPT模型是一种计算机程序，它可以理解和生成文字，就像我们人类会说话和写字一样。 模型的工作流程 输入文本： 首先，我们把要处理的文字（比如一句话或一段话）输入到模型中。 词嵌入层： 模型会把这些文字转换成一种计算机能理解的数字形式，这叫“词嵌入”。这就好像我们用字母拼出一个单词一样，计算机用数字来表示这些文字。 位置嵌入层： 模型还会考虑每个单词在句子中的位置，因为同样的单词在不同的位置可能有不同的意思。 多个转换器模块： 这些模块负责处理和理解输入的文字。每个模块都有几个重要部分： 注意力机制（Masked Multi-head Attention）： 这部分就像我们阅读一篇文章时，会特别注意一些关键字一样。模型会关注输入文字中的重要部分。 前馈神经网络（Feed Forward）： 这部分就像一个过滤器，会进一步处理信息，使其变得更有用。 规范化层（LayerNorm）： 这部分会确保信息在处理过程中保持稳定，不会变得太乱。 丢弃层（Dropout）： 这部分会随机丢弃一些信息，防止模型过于依赖某些特定的信息，使其更具通用性。 输出层： 最后，处理完所有信息后，模型会给出一个结果，比如生成下一段文字。 示例 假设我们输入一句话：“今天的天气真好。” 输入文本： “今天的天气真好。” 词嵌入层： 把这句话转换成数字。 位置嵌入层： 记录每个词在句子中的位置。 多个 ...继续阅读 (17)

给GPTs添加带货功能 最近实现了一个根据用户心境，来推荐相应书籍的GPTs: Random Book Generator 如果用户对这本书感兴趣，想了解更多的话， 这个GPTs就可以进行详情推荐，向用户推荐这本书可以在哪里购买, 如下图所示 实现 如果推荐不是很多，一句prompt就可以搞定, 在GPTs builder里面输入: 以下是推荐«反脆弱» 和«10x is easier than 2x»两本书示例: You are a GPT that recommends books. Please try to satisfy users' inquiries as much as possible, attract them to read, and recommend these books at the end of your response along with the links. - Antifragile: https://booki.chat/?book=Antifragile - 10x is easier than 2x: https://booki.chat/?book=10x is easier than 2x 如果推荐很多的话， 可以使用一张csv来维护 Book Name description ur ...继续阅读 (49)

给GPTs添加带货功能 最近实现了一个根据用户心境，来推荐相应书籍的GPTs: Random Book Generator 如果用户对这本书感兴趣，想了解更多的话， 这个GPTs就可以进行详情推荐，向用户推荐这本书可以在哪里购买, 如下图所示 实现 如果推荐不是很多，一句prompt就可以搞定, 在GPTs builder里面输入: 以下是推荐«反脆弱» 和«10x is easier than 2x»两本书示例: You are a GPT that recommends books. Please try to satisfy users' inquiries as much as possible, attract them to read, and recommend these books at the end of your response along with the links. - Antifragile: https://booki.chat/?book=Antifragile - 10x is easier than 2x: https://booki.chat/?book=10x is easier than 2x 如果推荐很多的话， 可以使用一张csv来维护 Book Name description ur ...继续阅读 (51)

构建0成本的AI应用：利用Cloudflare的强大功能 在当前的技术环境中，利用Cloudflare的免费套餐（Free Plan）可以轻松构建零成本的AI应用。仅通过使用JavaScript和Cloudflare的几个关键服务——Cloudflare AI, Cloudflare Worker, 和 Cloudflare Page——来实现这一目标。其中，Cloudflare Worker充当后端服务，而Cloudflare Page则扮演前端的角色。 初步准备 要开始这个项目，首先需要： 注册并开通Cloudflare账户。 从域名dashboard页面获取必要的认证信息，包括Account ID , 和API Token Cloudflare AI Cloudflare AI目前免费支持多种模型 @cf/baai/bge-base-en-v1.5 @cf/baai/bge-large-en-v1.5 @cf/baai/bge-small-en-v1.5 @cf/huggingface/distilbert-sst-2-int8 @cf/meta/llama-2-7b-chat-fp16 @cf/meta/llama-2-7b-chat-int8 @cf/meta/m2m100-1.2b @cf/microsoft/resnet-50 @cf/mistral/mistral- ...继续阅读 (36)

构建0成本的AI应用：利用Cloudflare的强大功能 在当前的技术环境中，利用Cloudflare的免费套餐（Free Plan）可以轻松构建零成本的AI应用。仅通过使用JavaScript和Cloudflare的几个关键服务——Cloudflare AI, Cloudflare Worker, 和 Cloudflare Page——来实现这一目标。其中，Cloudflare Worker充当后端服务，而Cloudflare Page则扮演前端的角色。 初步准备 要开始这个项目，首先需要： 注册并开通Cloudflare账户。 从域名dashboard页面获取必要的认证信息，包括Account ID , 和API Token Cloudflare AI Cloudflare AI目前免费支持多种模型 @cf/baai/bge-base-en-v1.5 @cf/baai/bge-large-en-v1.5 @cf/baai/bge-small-en-v1.5 @cf/huggingface/distilbert-sst-2-int8 @cf/meta/llama-2-7b-chat-fp16 @cf/meta/llama-2-7b-chat-int8 @cf/meta/m2m100-1.2b @cf/microsoft/resnet-50 @cf/mistral/mistral- ...继续阅读 (36)

Apache Hive实现自定义存储格式 背景 在某些业务场景中，下游处理系统需要直接处理数据文件。虽然Hive官方支持text, orc, parquet等格式，但为了应对更多样化的业务场景，学习如何开发自定义存储格式变得十分重要。Hive目前提供了ROW FORMAT SERDE机制来实现这一需求。 ROW FORMAT SERDE Hive的ROW FORMAT SERDE是一个关键的数据格式化概念，它定义了如何解析和映射存储在Hive表中的数据。SERDE代表序列化和反序列化，这涉及到数据在写入Hive表时和从Hive表读取时的转换过程。 快速开始 考虑一种业务场景，我们希望数据本身没有列分隔符，而是采用固定宽度的字段。在Hive中，设置列分隔符为空字符串是不被直接支持的。为了解决这个问题，接下来将实现一个自定义的SerDe。 首先从结果出发: 代码打包后的jar名称为 hive-fixed-serde-1.0-SNAPSHOT.jar 添加自定义serde jar包 add jar hdfs:///path/hive-fixed-serde-1.0-SNAPSHOT.jar 建表指定实现类org.apache.hadoop.hive.serde2.fixed.FixedLengthTextSerDe, 且每个字段定长分别为10, 5, 8 CREATE TABLE fix ...继续阅读 (48)

Apache Hive实现自定义存储格式 背景 在某些业务场景中，下游处理系统需要直接处理数据文件。虽然Hive官方支持text, orc, parquet等格式，但为了应对更多样化的业务场景，学习如何开发自定义存储格式变得十分重要。Hive目前提供了ROW FORMAT SERDE机制来实现这一需求。 ROW FORMAT SERDE Hive的ROW FORMAT SERDE是一个关键的数据格式化概念，它定义了如何解析和映射存储在Hive表中的数据。SERDE代表序列化和反序列化，这涉及到数据在写入Hive表时和从Hive表读取时的转换过程。 快速开始 考虑一种业务场景，我们希望数据本身没有列分隔符，而是采用固定宽度的字段。在Hive中，设置列分隔符为空字符串是不被直接支持的。为了解决这个问题，接下来将实现一个自定义的SerDe。 首先从结果出发: 代码打包后的jar名称为 hive-fixed-serde-1.0-SNAPSHOT.jar 添加自定义serde jar包 add jar hdfs:///path/hive-fixed-serde-1.0-SNAPSHOT.jar 建表指定实现类org.apache.hadoop.hive.serde2.fixed.FixedLengthTextSerDe, 且每个字段定长分别为10, 5, 8 CREATE TABLE fix ...继续阅读 (41)

OpenAI 11.06更新 在这篇博客中，将讨论 OpenAI 11.06 的一些更新，更新主要有: 聊天内容支持图片, gpt-4-vision-preview 返回内容支持json模式 引入system_fingerprint， 支持可复现性 OpenAI 多模态模型 OpenAI 引入的最令人兴奋的新功能之一是多模态模型，它可以处理文本和图像的组合。这一能力为 AI 应用打开了一个新的维度，从增强的视觉数据分析到更互动的聊天机器人。 GPT-4 Vision: gpt-4-vision-preview 示例: 分析阿里巴巴股票的K线. import openai openai.api_key = "your-api-key" response = openai.ChatCompletion.create( model="gpt-4-vision-preview", messages=[ { "role": "user", "content": [ {"type": "text", "text": "What information can you understand from the K-line of the image?"}, { "type": "image_url", "image_url": "https://mggg.cloud/img/ali.png", } ...继续阅读 (38)

OpenAI 11.06更新 在这篇博客中，将讨论 OpenAI 11.06 的一些更新，更新主要有: 聊天内容支持图片, gpt-4-vision-preview 返回内容支持json模式 引入system_fingerprint， 支持可复现性 OpenAI 多模态模型 OpenAI 引入的最令人兴奋的新功能之一是多模态模型，它可以处理文本和图像的组合。这一能力为 AI 应用打开了一个新的维度，从增强的视觉数据分析到更互动的聊天机器人。 GPT-4 Vision: gpt-4-vision-preview 示例: 分析阿里巴巴股票的K线. import openai openai.api_key = "your-api-key" response = openai.ChatCompletion.create( model="gpt-4-vision-preview", messages=[ { "role": "user", "content": [ {"type": "text", "text": "What information can you understand from the K-line of the image?"}, { "type": "image_url", "image_url": "https://mggg.cloud/img/ali.png", } ...继续阅读 (34)

Langchain LLM Streaming langchain通过callback机制，可以将LLM输出的token实时处理 from langchain.chat_models import ChatOpenAI from langchain.schema import ( HumanMessage, ) from langchain.callbacks.streaming_stdout import StreamingStdOutCallbackHandler chat = ChatOpenAI(streaming=True, callbacks=[StreamingStdOutCallbackHandler()], temperature=0) resp = chat([HumanMessage(content="Write me a song about sparkling water.")]) langchian同时支持同步IO和异步IO的方式来输出token，分别对应StreamingStdOutCallbackHandler 和AsyncIteratorCallbackHandler StreamingStdOutCallbackHandler 首先可以看看Langchain官方实现StreamingStdOutCallbackHandler, 将LLM输出的to ...继续阅读 (26)

Langchain LLM Streaming langchain通过callback机制，可以将LLM输出的token实时处理 from langchain.chat_models import ChatOpenAI from langchain.schema import ( HumanMessage, ) from langchain.callbacks.streaming_stdout import StreamingStdOutCallbackHandler chat = ChatOpenAI(streaming=True, callbacks=[StreamingStdOutCallbackHandler()], temperature=0) resp = chat([HumanMessage(content="Write me a song about sparkling water.")]) langchian同时支持同步IO和异步IO的方式来输出token，分别对应StreamingStdOutCallbackHandler 和AsyncIteratorCallbackHandler StreamingStdOutCallbackHandler 首先可以看看Langchain官方实现StreamingStdOutCallbackHandler, 将LLM输出的to ...继续阅读 (36)

基于langchain向量数据库, 为LLM添加最新的领域知识 在我们使用的chatgpt的时候，往往会遇到一些提示： 截止到2021年9月的训练数据。 因此，我不具备在那个时间点之后发生的事件或获取的信息。 如果你有关于2021年9月之后的问题，我可能就无法提供最新的信息。 因此，为了让LLM模型具备实时的领域知识，将实时的信息添加到模型中变得非常必要。接下来，我们将介绍如何通过LangChain和Chroma向量数据库，为ChatGPT添加最新的领域知识。 步骤如下: 训练文档知识，存到本地向量数据库chroma 根据用户prompt去查询向量数据库， 根据相似度获取相似领域知识 包装领域知识到prompt中 LangChain + Chroma 将文档知识嵌入并存储到本地向量数据库Chroma中。 根据用户的提示查询向量数据库，获取相似领域知识。 代码如下， 我们通过 add_text_embedding来解析文本为向量， 通过query来查询相似度的领域知识 from langchain.embeddings import OpenAIEmbeddings from langchain.text_splitter import CharacterTextSplitter from langchain.vectorstores import Chroma class Embe ...继续阅读 (40)

利用LangChain向量数据库提升LLM的即时知识处理能力 当我们使用ChatGPT，它常常提示我们其知识只更新到了2021年9月。因此，为了使LLM模型能够处理最新的信息，将实时的知识集成到模型中变得至关重要。 截止到2021年9月的训练数据。 因此，我不具备在那个时间点之后发生的事件或获取的信息。 如果你有关于2021年9月之后的问题，我可能就无法提供最新的信息。 实现步骤 1. 建立本地向量数据库 我们首先需要在本地创建一个Chroma向量数据库，并将文档信息嵌入其中。 2. 查询与用户提示相关的知识 接着，基于用户的提示，我们查询向量数据库，从中检索出相关领域的知识。 3. 将领域知识集成到用户提示中 最后，我们将这些领域知识整合到用户的提示中，以供LLM模型使用。 LangChain + Chroma的应用 下面是LangChain和Chroma的一个示例应用。我们通过add_text_embedding将文本解析为向量，并通过query查询领域知识。 from langchain.embeddings import OpenAIEmbeddings from langchain.text_splitter import CharacterTextSplitter from langchain.vectorstores import Chroma class Embed ...继续阅读 (41)

简介 使用HTTPS保护网站不仅可以确保数据完整性，还可以增强用户信任和搜索引擎排名。通过Let’s Encrypt，您可以轻松地为Nginx Web服务器获取免费的SSL/TLS证书。在本指南中，我们将为您介绍如何在CentOS上为Nginx服务器设置Let’s Encrypt证书。 sudo yum install epel-release sudo yum install certbot Step 2: 安装Certbot Nginx插件 为了简化获取和安装证书的过程，Certbot为Nginx提供了一个专用的插件。使用以下命令安装Certbot Nginx插件： sudo yum install -y python3-certbot-nginx Step 3: 为Nginx生成证书 现在Certbot和Nginx插件已安装，可以生成SSL/TLS证书。请在下面的命令中将yourdomain.com替换为您的域名，然后运行它： sudo certbot --nginx -d yourdomain.com warning: 请记得替换您的域名 Certbot会进行交互，引导选择适当的选项并配置证书详细信息。 Step 4: 自动Nginx配置 获得证书后，Certbot将自动修改Nginx配置以启用HTTPS访问。它将在nginx.conf文件中处理必要 ...继续阅读 (39)

简介 使用HTTPS保护网站不仅可以确保数据完整性，还可以增强用户信任和搜索引擎排名。通过Let’s Encrypt，您可以轻松地为Nginx Web服务器获取免费的SSL/TLS证书。在本指南中，我们将为您介绍如何在CentOS上为Nginx服务器设置Let’s Encrypt证书。 sudo yum install epel-release sudo yum install certbot Step 2: 安装Certbot Nginx插件 为了简化获取和安装证书的过程，Certbot为Nginx提供了一个专用的插件。使用以下命令安装Certbot Nginx插件： sudo yum install -y python3-certbot-nginx Step 3: 为Nginx生成证书 现在Certbot和Nginx插件已安装，可以生成SSL/TLS证书。请在下面的命令中将yourdomain.com替换为您的域名，然后运行它： sudo certbot --nginx -d yourdomain.com warning: 请记得替换您的域名 Certbot会进行交互，引导选择适当的选项并配置证书详细信息。 Step 4: 自动Nginx配置 获得证书后，Certbot将自动修改Nginx配置以启用HTTPS访问。它将在nginx.conf文件中处理必要 ...继续阅读 (35)

向量数据库：Weaviate Weaviate是一个创新的向量数据库，提供了强大的数据存储和检索功能。 通过使用向量来索引数据对象，Weaviate可以根据其语义属性存储和检索数据对象。 Weaviate可以独立使用（带上你的向量），或与各种模块结合使用，对您的核心功能进行矢量化和增强。 多亏了其独特的设计，Weaviate确保了快速的性能和高效的操作。 QuickStart: 要部署Weaviate，可以使用docker-compose。对于文本嵌入转换，我们将使用OpenAI模块： --- version: '3.4' services: weaviate: image: semitechnologies/weaviate:1.20.0 restart: on-failure:0 ports: - "8080:8080" environment: QUERY_DEFAULTS_LIMIT: 20 AUTHENTICATION_ANONYMOUS_ACCESS_ENABLED: 'true' PERSISTENCE_DATA_PATH: "./data" DEFAULT_VECTORIZER_MODULE: text2vec-openai ENABLE_MODULES: text2vec-openai OPENAI_APIKEY: sk-xxx # replace with yo ...继续阅读 (39)

向量数据库：Weaviate Weaviate是一个创新的向量数据库，提供了强大的数据存储和检索功能。 通过使用向量来索引数据对象，Weaviate可以根据其语义属性存储和检索数据对象。 Weaviate可以独立使用（带上你的向量），或与各种模块结合使用，对您的核心功能进行矢量化和增强。 多亏了其独特的设计，Weaviate确保了快速的性能和高效的操作。 QuickStart: 要部署Weaviate，可以使用docker-compose。对于文本嵌入转换，我们将使用OpenAI模块： --- version: '3.4' services: weaviate: image: semitechnologies/weaviate:1.20.0 restart: on-failure:0 ports: - "8080:8080" environment: QUERY_DEFAULTS_LIMIT: 20 AUTHENTICATION_ANONYMOUS_ACCESS_ENABLED: 'true' PERSISTENCE_DATA_PATH: "./data" DEFAULT_VECTORIZER_MODULE: text2vec-openai ENABLE_MODULES: text2vec-openai OPENAI_APIKEY: sk-xxx # replace with yo ...继续阅读 (35)

大家好！我是一名大数据工程师，拥有五年的工作经验。 技术栈: 编程语言: Python, Java, Scala 大数据生态: Apache Spark, Apache Flink, Apache Hadoop, Apache Iceberg 云原生: Kubernetes (K8s), Azure, Google cloud, AWS 证书 Google Cloud Certified Professional Data Engineer： Certified Kubernetes Application Developer (CKAD): 祝好, mggg ...继续阅读 (22)

关于我 大家好！我是一名大数据工程师，拥有五年的工作经验。 我的技能： 编程语言：Python、Java、Scala。 大数据技术：Apache Spark、Apache Flink、Apache Hadoop、Apache Iceberg。 容器编排：Kubernetes (K8s)、Azure、Google云、AWS。 我获得的证书： 谷歌云数据工程师： 认证Kubernetes应用开发者(CKAD)： 我参与的项目： GPTs画廊 - 各种GPT实现的展示。 免费在线聊天 - 一个免费开放沟通的在线平台。 祝好, mggg ...继续阅读 (35)

通过记忆软件Anki，有效地组织和记忆零散的信息, 它使用分散重复的方法来帮助我们回忆。然而，创建Anki卡片的过程可能非常耗时。 为了解决这个问题，开发了一个基于ChatGPT的Chrome扩展工具，帮助快速高效地创建Anki卡片。 这个Chrome扩展工具的诞生基于两个基本需求： 在上网浏览时，需要收集有价值的碎片信息，并使用ChatGPT将其整理成Anki卡片。 在备考考试/认证或者记忆面试的标准答案时的必要性。 如何使用基于ChatGPT的Chrome扩展创建Anki卡片 通过zip包安装Chrome扩展：下载链接。 设置相关配置并保存。 当您遇到感兴趣的内容时，选择文本并使用ChatGPT将其总结成Anki卡片。 完成后，您可以在Anki中开始复习。 基于ChatGPT的Chrome扩展不仅可以帮助您节省创建Anki卡片的时间，还可以使学习过程更加高效。 ...继续阅读 (32)

通过记忆软件Anki，有效地组织和记忆零散的信息, 它使用分散重复的方法来帮助我们回忆。然而，创建Anki卡片的过程可能非常耗时。 为了解决这个问题，开发了一个基于ChatGPT的Chrome扩展工具，帮助快速高效地创建Anki卡片。 这个Chrome扩展工具的诞生基于两个基本需求： 在上网浏览时，需要收集有价值的碎片信息，并使用ChatGPT将其整理成Anki卡片。 在备考考试/认证或者记忆面试的标准答案时的必要性。 如何使用基于ChatGPT的Chrome扩展创建Anki卡片 通过zip包安装Chrome扩展：下载链接。 设置相关配置并保存。 当您遇到感兴趣的内容时，选择文本并使用ChatGPT将其总结成Anki卡片。 完成后，您可以在Anki中开始复习。 基于ChatGPT的Chrome扩展不仅可以帮助您节省创建Anki卡片的时间，还可以使学习过程更加高效。 ...继续阅读 (33)