秦国识积

转载自csdn https://blog.csdn.net/2301_81940605/article/details/145543310 本文重点介绍大模型意图识别能力在智能电视核心链路中的落地过程和思考，对比了基础模型、RAG 、以及 7b 模型微调三种方案的优缺点。 业务背景 今年是智能电视行业在 AI 领域发力的元年，各厂家纷纷在自家电视 OS 中融入大模型能力，某国产品牌厂家更是提出了 “可见即可说” 的概念，希望借助 AI 大模型强大的自然语言处理以及逻辑推理能力，在电视端提升用户体验以及创造新的业务增长场景。 通过下面这个视频可以先对整体交互有个概念： 用户不再是简单的发出系统指令，而是可能会问出更具有个性化需求的问题，比如以下几个典型的问题： 1介绍一下李白``帮我播放两个男人在天台决斗的电影``打开右下角那个电视剧``我想听一个小朋友不好好吃饭就会肚子疼的故事``深圳最近有哪些新闻？``夏洛特烦恼这部电影中夏洛这个角色是不是沈腾演的？``电影战狼3的上映时间是什么时候？ 基于传统 NLP 算法的智能电视交互痛点 智能电视的概念其实在十几年前就已经提出了，经过许多 ...

一、RAG 基础概念1. 什么是 RAG？ 定义：检索增强生成（Retrieval-Augmented Generation）通过结合外部知识检索与生成模型，提升回答的准确性和事实性，解决大模型幻觉问题。 核心流程： 检索：从外部知识库（如向量数据库、知识图谱）中查找相关文档； 生成：将检索结果作为上下文输入生成模型（如 GPT-4），生成最终回答。 2. 为什么需要 RAG？ 大模型的局限性：知识更新滞后、专业领域知识不足、易产生 “幻觉”。 RAG 的优势：动态知识注入、可解释性强、降低训练成本。 二、RAG 的工作流程 整体流程图 （图片来源 RAG 流程） 待查找的资料（内部文档、数据库等资料）存入向量数据库 在数据库中查询最符合问题的资料 将资料和问题，一起交给大模型生成答案 召回符合用户预期的资料内容，合并问题，一起交给大模型，生成合理的答案。 详细解释 非结构化加载 上传的文档类型有 docs、PDF、数据库、xlsx 等，需要借助不同的文档加载器，将内部的内容提取出来 数据切片 在向量化的时候，输入的 token 数 ...

前文提到了怎么部署一个gitlab平台以及配套的runner，下面就应用这套来进行一个项目实战，部署官方的SpringBoot示例 首先新建一个仓库，然后选择模板，选择SpringBoot模板 设置一些基本信息，可以随便填，仓库选择私人或者内部 然后进入仓库页面确定创建成功 接下来需要用idea拉取代码，有两种方式，如果安装gitlab插件的话，可以使用访问令牌登录之后，直接选择有权限的仓库直接拉取到本地 如果没装gitlab插件，也可以在项目界面直接点击克隆链接，在idea输入也可 idea这边创建新项目选择来自版本控制 这里就会遇到前文提到的为什么要在docker设置里写好ip，如果没写ip这里点复制git地址的时候，ip那里会是一串代码（docker镜像id），不过如果按照我的教程走的就应该不会遇到了 如果提示需要登录，那就输入root账号和密码，如果提示输入邮箱和用户名，这俩可以随便填 ok在输入一些信息之后，代码应该已经克隆到本地了 这个代码在本地可以直接跑，输入localhost:8080即可 如果要使用CICD来跑的话，还需要更改一些设置 首先打开项目里的pom ...

持续集成的工作原理是将小的代码块推送到Git仓库中托管的应用程序代码库中，并且每次推送时，都要运行一系列脚本来构建、测试和验证代码更改，然后再将其合并到主分支中。 持续交付和部署相当于更进一步的CI，可以在每次推送到仓库默认分支的同时将应用程序部署到生产环境。 这些方法使得可以在开发周期的早期发现bugs和errors，从而确保部署到生产环境的所有代码都符合为应用程序建立的代码标准。 本文主要介绍如何使用Ubuntu服务器来部署属于自己团队的专属GitLab平台以及使用GitLab CI/CD流水线实现自动打包并部署 为了照顾对linux不熟悉的用户，本文主要使用宝塔面板来进行操作，尽量避免使用命令行等，争取全部可视化，下面介绍主要流程 前期准备 一台Ubuntu服务器（最基本的） 安装宝塔面板，有一键安装脚本 wget -O install.sh https://download.bt.cn/install/install-ubuntu_6.0.sh && sudo bash install.sh 12f2c1d72 安装docker（目前国内可能访问不了，只能自 ...

文章摘要：学习 Protobuf 时整理，主要介绍 Protobuf 特性、proto 语法以及 Protobuf 编码方式 前言Protocol Buffers（Protobuf）Protocol Buffers 是一种跨语言、跨平台、可扩展的数据格式（序列化方式），与 Json、XML 相比，Protocol Buffers 的性能更高（占用空间更少，序列化和反序列化速度更快）。 Protobuf 的优秀特性 跨语言：Protobuf 支持多种变成语言，统一使用 Protobuf 定义数据结构，然后使用 Protoc 生成不同语言的序列化和反序列化代码。 跨平台：Protobuf 是平台无关的，不依赖特定的系统架构，可以在不同操作系统和硬件平台运行。 向后兼容：proto3 中所有字段都是可选的，如果没有赋值，序列化时不会被包含，反序列化时会被初始化为默认值。 高性能：Protobuf 使用二进制存储，并且采用变长整数以及字段编号，使得其序列化后占用空间更少，并且序列化和反序列化速度更快。 安全性：没有结构描述文件，则无法解析实际内容，安全性更高。 Proto ...

1. 函数式编程函数式编程近几年炒的火热，其实函数式编程其实很早就有了，支持该范式的语言有大名鼎鼎的C、JavaScript、PHP等，那为什么又进行了一波高潮呢，我们来探究一下。首先了解一下什么是函数式编程： 函数式编程（英语：functional programming）或称函数程序设计、泛函编程，是一种编程范式，它将电脑运算视为函数运算，并且避免使用程序状态以及易变对象。其中，λ演算为该语言最重要的基础。而且，λ演算的函数可以接受函数作为输入参数和输出返回值。——维基百科 简而言之，函数式是一种编程范式，同时函数式也是一种以函数为核心的编程思维方式。面向对象思想需要关注用什么对象完成什么事情，而函数式编程思想就类似于我们数学中的函数，它主要关注的是对数据进行了什么操作。 函数式编程的优点 代码简洁，开发快速 接近自然语言，易于理解 易于并发编程 为什么学函数式编程 能够看懂公司里的代码 大数量下处理集合效率高 代码可读性高 消灭嵌套地狱 请看下面一段代码，查询未成年作家的评分在70以上的书籍，作家和书籍可能出现重复，需要进行去重。 123456 ...

省流版RPC是一套方法论描述，HTTP是一种7层网络协议。这两个东西其实完全是正交的，没有啥可比性。RPC没有明确的协议标准，可以基于http，也可以基于tcp/udp。正因为缺少标准才有涌现出GRPC、thrift，dubbo多种版本框架，各个框架都是基于自己的理解去实现的。 背景从第一次接触 RPC 后，这个疑惑就一直萦绕在我脑海中，但纵观整个编程史，大家都在心照不宣的使用 RPC，就好像本该如此。于是在好奇心的驱使下去搜了搜这个问题，才算是搞懂了这个问题。 然而答案却让我傻了眼，RPC 比 HTTP 更早出世！这让我大为震惊，由于入坑编程开始第一个接触的就是 HTTP 协议，且在往后的开发中不停的与 HTTP 在打交道，因此一个错误的观点就先入为主了 —HTTP 比 RPC 更早诞生。好了，现在问题演变为《既生 RPC 何生 HTTP》，这就得从大家熟背于心的八股文 —TCP 开始讲起。 TCPTCP 协议，大白话来解释就是两台服务器想要进行通信，就得用到的一个玩意。 大概过程就是两台服务器会经过一个三次握手的过程来建立一个可靠的连接，然后双方就可以基于这个连接来互相发送消息。那 ...

1.事务介绍: 一般是指要做的或所做的事情。 在计算机 术语 中是指访问并可能更新数据库中各种 数据项 的一个程序 执行单元 (unit) 2.数据库事务具有ACID四大特性。 ACID是以下4个词的缩写： 原子性(atomicity) ：事务最小工作单元，要么全成功，要么全失败 。 一致性(consistency)： 事务开始和结束后，数据库的完整性不会被破坏 。 隔离性(isolation) ：不同事务之间互不影响，四种隔离级别为RU（读未提交）、RC（读已提交）、RR（可重复读）、SERIALIZABLE （串行化）。 持久性(durability) ：事务提交后，对数据的修改是永久性的，即使系统故障也不会丢失 。 3.隔离级别: 四种隔离级别分别为: 　　1）未提交读（READ UNCOMMITTED/RU） 如果一个事务读到了另一个未提交事务修改过的数据，那么这种 隔离级别 就称之为 未提交读 会产生脏读的情况 　　2) 已提交读（READ COMMITTED/RC） 不可重复读：一个事务因读取到另一个事务已提交的update。导致对同一条记录读取两次以上的结果不 ...

1、java 的基本数据类型/有哪些？Java 的基本数据类型包括以下八种： boolean： 用于存储逻辑值，只能存储 true 和 false。 byte： 用于存储字节数据，占用 8 位（一个字节）内存空间。 short： 用于存储较短整数，占用 16 位（两个字节）内存空间。 int： 用于存储整数，占用 32 位（四个字节）内存空间。 long： 用于存储长整数，占用 64 位（八个字节）内存空间。 float： 用于存储单精度浮点数，占用 32 位（四个字节）内存空间。 double： 用于存储双精度浮点数，占用 64 位（八个字节）内存空间。 char： 用于存储单个字符，占用 16 位（两个字节）内存空间，采用 Unicode 编码。 2、java 为什么要有包装类型？主要原因包括以下几点： 处理基本数据类型的 null 值：基本数据类型（如 int，double 等）不能直接赋值为 null，而包装类型（如 Integer、Double）可以表示 null 值，这对于某些业务逻辑和数据处理来说非常有用。 提供额外功能：包装类型 ...

概述背景谷粒商城中有许多需要保存图片的场景，正规做法是在数据库中保存图片地址，文件则保存在对象存储服务（OSS）中，官方视频教学的是使用阿里云的OSS，这样还可以搭配spring boot cloud alibaba使用，但是本人希望能自己部署的环境尽量自己部署，查询后找到了minIO这款工具，可以实现OSS的大部分功能，使用docker部署也非常方便，这样的话就需要重构很多前后端代码 分析问题本来个人想要做成前端把文件传到后端，后端再上传到minIO图床，这套流程个人很熟悉。但是教程中使用的是签名直传的方案，想来少了一段文件传输的流程也确实速度更快也更稳定，这在minIO里也可以实现，只是需要一些技巧 签名直传方案的原理是，前端向后端发送请求，携带文件名参数，后端返回给前端一个直传地址，前端直接请求该地址即可上传文件，这样保证了既不会需要在前端填写图床信息（通过返回参数获得），还可以直接由前端上传文件 在el-upload中填入action参数是官方做法，这样该组件会自己调用封装好的post方法请求这个参数地址来直传文件 minIO这个软件给的api里，直传地址只能通过put请 ...