IT博客汇
  • 首页
  • 精华
  • 技术
  • 设计
  • 资讯
  • 扯淡
  • 权利声明
  • 登录 注册

    用NAS搭建一站式的AI解决方案,商用级项目—Chat Nio

    panda发表于 2024-03-20 13:47:28
    love 0

    AI在24年越来越完善了,但目前大部分都是在使用文字聊天项目,而扩展下去也就是GPT项目。但目前市面上的AI其实已经很多了,例如我们常用到的dell-3绘图、MJ绘图以及国内比较出名的文心一言、讯飞星火、遵义千问等等。将这一系列AI集成到一个项目,同时拥有不错的用户管理、支付机制以及完善的前后台管理,便能形成一个 完全可商用的AI集成项目,也就是我们网上经常看到的别人网站上需要付费购买那种,而今天我们也可以用NAS来搭建这样一个项目。

    功能介绍

    Chat Nio作为一个一站式的AI解决服务项目 ,能使用的模型很多,从传统的文字到绘图一共涉及52个模型可供选择使用。同时这些模型都不需要一一去配置,只需要设置好上游地址(项目原地址)后直接同步上游的设置即可。同时上游有新增模型后,也方便我们及时更新。

    模型同步

    除此之外,Chat Nio拥有完善的后台管理。在后台界面,可以看到有用户管理、模型市场、公告通知、渠道设置、价格设定、订阅管理、系统设置等一系列设置项。完善的体系使你完全可以将该网站用于商用,你可以设置好自己的定价体系,对接好支付平台。

    后台

    除此之外,在AI的使用上,Chat Nio也还不错。和其他的AI项目一样,也拥有预设的设定,通过预设可以快速的根据自己需求来获得内容。

    预设

    除了预设,Chat Nio在我看来强大的一点是支持联网搜索内容以及上传内容解析。不过文件解析服务以及联网搜索服务需要自部署对接好。

    联网与上传文件服务

    在你所有设置好之后,我们在聊天窗口打开模型市场就能看到你选择的模型,同时你设置的定价以及图标等等都会展示。个人觉得界面UI还是蛮不错的。

    模型选择

    最后,我这边尝试一下MJ的绘图,看看效果吧。

    画一只熊猫

    部署过程

    项目的部署其实很简单,毕竟作者给到了完整的中文文档。如果我们使用docker部署mysql与redis服务,那么就需要根据官方的docker-compose文件修改(需要映射的文件夹需要一一对应新建好)。例子如下:

    version: '3'
    services:
      mysql:
        image: mysql:latest
        container_name: db
        restart: always
        environment:
          MYSQL_ROOT_PASSWORD: root
          MYSQL_DATABASE: chatnio
          MYSQL_USER: chatnio
          MYSQL_PASSWORD: chatnio123456!
        expose:
          - "3306"
        volumes:
            - ./db:/var/lib/mysql
        networks:
          - chatnio-network
    
      redis:
        image: redis:latest
        container_name: redis
        restart: always
        expose:
          - "6379"
        volumes:
          - ./redis:/data
        networks:
          - chatnio-network
    
      chatnio:
          image: programzmh/chatnio
          container_name: chatnio
          restart: always
          ports:
              - "8000:8094"
          depends_on:
              - mysql
              - redis
          links:
              - mysql
              - redis
          ulimits:
            nofile:
              soft: 65535
              hard: 65535
          environment:
              MYSQL_HOST: mysql
              MYSQL_USER: chatnio
              MYSQL_PASSWORD: chatnio123456!
              MYSQL_DATABASE: chatnio
              REDIS_HOST: redis
              REDIS_PORT: 6379
              REDIS_PASSWORD: ""
              REDIS_DB: 0
              SERVE_STATIC: "true"
          volumes:
            - ./config:/config
            - ./logs:/logs
            - ./storage:/storage
          networks:
            - chatnio-network
    
    networks:
      chatnio-network:
        driver: bridge

    如果我们使用NAS内置的sql服务,那么就不需要去部署,这时候就可以删掉其中的mysql去群晖自带的sql中新建数据库命名为chatnio。随后我们命令行启动项目:docker-compose up -d。

    启动项目

    这时候咱们只是常规的部署项目,如果需要文档解析以及联网搜索,我们还需要部署chatnio-blob-service以及duckduckgo-api,并在部署好项目之后获取到API填入chatnio系统设置中。

    文件解析

    联网搜索

    此时项目就部署完成了,默认的用户名与密码为root/chatnio123456。这时候只需要设置好对应的模型以及渠道就可以了。这里chatnio的渠道设置可以去项目原地址购买他的服务,然后同步到你这里,也可以自行填写你自己的KEY使用。

    多渠道

    渠道设置

    渠道设置中的密钥便是你要使用的智能模型的KEY,而接入点则是中转地址。例如我们常用的GPT在国内无法使用,就需要用到接入点来中转服务。

    写在最后

    有粉丝已经用这一套程序搭建好了完整的商用流程,项目不错,且作者更新狂魔。从上周我使用时还不能在mj模型下使用中文,现在已经可以了,同时也修复了很多问题。且有问题的issues反馈特别及时,为作者点赞。

    以上便是本期的全部内容了,如果你觉得还算有趣或者对你有所帮助,不妨点赞收藏,最后也希望能得到你的关注,咱们下期见!
    三连



沪ICP备19023445号-2号
友情链接