项目描述：项目介绍：针对通用大模型在垂直领域易产生幻觉，且缺乏动态执行能力的问题，基于FastAPI 与LangChain从零搭建具备“感知-决策-执行”全链路闭环的私有化AI 助手。 智能体架构与动态执行（Agent &ReAct）： 基于ReAct 范式构建核心推理引擎，赋予模型复杂逻辑拆解能力； 集成Code Interpreter（代码解释器），使Agent 能够根据自然语言指令，自主编写并运行Python代码处理高门槛的科研与工程任务（例如：对特定的多通道生物医学图像如HeLa 细胞的DAPI、MitoTracker 荧光染色数据进行自动化量化统计与出图）。 高精度私域知识检索（RAG）： 搭建FAISS 向量数据库，采用RecursiveCharacterTextSplitter 进行精细化文档切片，并结合自定义的Embeddiing策略，大幅降低了模型在专业文献问答中的幻觉。 全栈工程化与高并发优化： 后端基于FastAPI 提供标准接口，采用Async Streaming异步流式输出机制和Server-Sent Events （SSE） 协议，支持多轮并发对话记忆，将首字响应时间控制在300ms 内。 项目成果： 成功打通大模型外挂知识库与代码执行工具的闭环，在构建的垂直测试集上，复杂长文本的问答准确率提升至85%，显著提升了垂直领域的数据处理效率。

项目描述：项目介绍：针对传统工业质检“只检不诊”的痛点，在团队YOLO视觉检测系统的基础上，独立负责开发智能诊断模块，构建“视觉感知-数据追溯-方案生成”的完整闭环。 工业级混合RAG架构设计： 1. 知识库构建：采用BGE-Large 模型对海量PCB工艺规范与维修手册进行向量化，结合Recursive Character策略进行精细切片，并存入FAISS 向量数据库； 2. SQL +向量动态检索（核心亮点）：独创性地设计了结构化与非结构化混合检索Pipeline。系统实时聚合SQLite 追溯库中最近50 批次的结构化检测数据，通过算法提取高频缺陷特征作为动态Query，进而检索本地知识库。 大模型驱动的自动化决策：将混合检索结果作为Context 注入Prompt 模板，驱动LLM根据实时产线数据，自动化生成具备高度针对性的维修整改方案与工艺优化建议。 全链路流式响应与后端重构： 深度整合LangChain的stream模式，实现了长文本诊断报告的逐字流式输出，将大模型生成的首字响应延迟（TTFT） 大幅降低了60%，极大地提升了人机交互的实时性。 项目成果：成功为纯视觉检测系统赋予了“认知与诊断”能力，生成的维修指导方案采纳率达到90%，为RAG架构在工业垂类场景的落地提供了可靠的数据基座与工程范式。

项目描述：架构复现与解耦：脱离 torch.nn 高级封装，仅用 PyTorch 基础算子从零复现标准 Transformer。手动实现位置编码、FFN 及残差连接，模块化核心超参数，打通并验证全链路张量数据流。 张量重塑与并行优化：弃用低效循环，利用 view/transpose 将多头注意力转化为 Batch 维度的并行矩阵乘法；利用 contiguous() 处理 stride 变化，规避内存碎片陷阱，提升运算效率。 算子推导与数值稳定：手推 Scaled Dot-Product Attention，实现精确的缩放因子以解决高维向量带来的 Softmax 饱和问题，保障交叉熵损失与反向传播的稳定收敛。 自回归掩码实现：针对解码生成任务，基于 torch.tril 与极小值 masked_fill 构建下三角因果掩码（Look-ahead Mask），从物理算子层面杜绝数据穿越