lanyunVol. 2026
Issue No.10 · Hefei
Vol. 2026 — No.10 大模型应用工程师 · 独立开发者 合肥 --:-- GMT+8

Building AI that actually ships.

把大模型,做成真正落地的产品。

我是 lanyun,一名大模型应用工程师,曾任算法组长。工作中把 LLM 做进了招投标文档审查和智能座舱语音交互;业余独立开发并运营 AI 科技情报平台「天眼」。比起模型分数,我更在意系统的边界、成本与可靠性——让 AI 在生产环境里长期跑得住。

GitHub @lanyun1103 · 天眼 tianyanx.com

COVER STORY
tianyanx.com
天眼首页截图:通晓过去,预知未来
Fig. 1 — 天眼 TianYan 首页p. 01 →
10亿+
AI 审查平台日均 token
78节点
LangGraph 招标审查 Agent
1,400+
天眼追踪的信息源
550期
天眼已出版日报
01
Cover Story · 封面故事

天眼 TianYan

一个人做完的产品:从信源采集、AI 管线,到支付、部署与增长。

通晓过去,预知未来。

帮中文科技投资者更早看到重要变化,并更快理解市场分歧。天眼从 X、RSS、Telegram、科技媒体和研究信源持续追踪,用事件快报、日报和深度研究,把全网噪音压成5 分钟能读完的判断。

访问 tianyanx.com MCP 文档
tianyanx.com · 首页
天眼首页:24 小时最值得关注的科技事件与信任证明
Fig. 2 — 24 小时最值得关注的 1 个科技事件
tianyanx.com/daily
天眼早报页面
Fig. 3 — 天眼早报:单期汇总上千条推文与数百篇文章
把全网噪音,压成你 5 分钟能读完的判断。 — 天眼的产品定位
i.

事件快报

突发检测 → 事件聚类,重大变化第一时间推送到邮件与 Bark。

ii.

天眼早报

每天 4 版日报与 Speed Read 速读,按主题、日期筛选。

iii.

投资信号

Bullish / Bearish / Neutral 情绪标注,追踪市场分歧。

iv.

深度研究

溯源、深度与市场三类研究,覆盖美股、A 股与全市场。

v.

新词与专题

捕捉新出现的概念并解读商业机会;用户可自建专题持续追踪。

vi.

MCP Server

16 个只读工具,让 Claude 等 AI Agent 直接调用天眼情报。

系统架构

Fig. 4 — Architecture
A · SOURCES信源1,400+ 信息源
X · RSS · 11 个平台
B · INGEST采集调度Celery 分层爬取
按账号质量 2h–48h
C · AI PIPELINEAI 管线预总结 → 事件聚类 → 研究
多模型分档与兜底
D · STORAGE双库分离内容库只读
用户库经 REST 抽象
E · DELIVERY交付Web · RSS · 邮件
推送 · MCP
No.决策取舍 / 理由效果
  1. D1

    一份代码,部署两个站

    按区域环境变量切换,不分叉代码;代价是两站账号不互通。

    换域名、支付、MCP 地址只改配置

  2. D2

    内容库与用户库分离

    采集端写、读者端只读;用户数据经 REST 抽象,留在本区。

    自建 PG 替换云端服务,业务代码零改动

  3. D3

    增量预处理,而不是整点批跑

    每采集 200 条先做一次 AI 预总结,把 LLM 调用摊到全天。

    避开整点超时,每天稳定出 4 版日报

  4. D4

    把 MCP 当作一等交付渠道

    每位用户独立 API Key,握手即鉴权,按用户滑动窗口限流。

    AI Agent 可直接调用 16 个情报工具

Sources · 信源

XArXivRSSTelegramWeChatGitHubYouTubeBloomberg TechB站排行榜Dev.toGoogle TrendsHacker NewsHuggingFace PapersProduct HuntStack Overflow新浪财经NewslettersPodcasts

Pricing · 定价
¥0Free · 日报、快讯、RSS 与邮件订阅
¥29 / 31 天Pro · 全文搜索、投资信号、深度研究、MCP;7 天免费试用
02
Selected Work · 作品索引

做过的产品 2023 — 2025

和伙伴一起做过的 AI 产品。合作项目写清了我负责的部分;点开每一行看细节。

No.项目一句话角色年份
  • 文生视频 / 图生视频,中英多语言站点,上过 Product Hunt
  • 负责文章系统前后台、无限滚动与页面元数据
  • Sitemap / RSS 等 SEO 基础建设

Next.js · Prisma · NextAuth · next-intl

  • 浮动工具栏划词收藏,页面高亮持久化
  • 基于 XPath 的原文精准定位与回跳
  • 侧边栏、收藏夹、二维码识别与 WebDAV 同步

Plasmo · Chrome MV3 · React · IndexedDB

  • Web 端:PDF 阅读器、多语言、Serverless 后端
  • 小程序后端:微信登录、稍后读、关键词订阅
  • PDFInsight:论文 PDF 结构化解析与正文抽取

Nuxt 3 · NestJS · Express · Prisma · PyMuPDF

  • 抓取 X 关注网络与推文,按话题聚类打标
  • 每个话题生成 LLM 日报,验证了「信息流 + 日报」这条路
  • Flask 控制 API + Next.js 看板,之后演进为天眼

Python · Flask · SQLite · Next.js · GitHub ↗

  • 医生、患者双角色对话,注入专科知识
  • 把医院网页数据清洗成微调语料
  • Vue 早期演示 → Next.js 正式版

Next.js · OpenAI · Vue 3

  • 支持 B 站、YouTube、公众号与 X 链接
  • 负责 YouTube / X 解析与代理支持
  • 部署在阿里云函数计算

FastAPI · Selenium · Docker

03
Systems · 系统与架构决策

系统与取舍 Trade-offs

每个系统只讲三件事:它是什么、长什么样、关键处我做了什么取舍。这些决策都沉淀在 ADR 与设计文档里。

2026 — Now

智能座舱 AIOS · 语音 Agent 平台

语音主链路 · 双脑智能体 · 能力中间件

System 01 · Java 25 · Python · WebSocket

车机语音交互主链路

从车机长连接到云端双脑:网关负责接入与意图仲裁,交互脑实时对话,任务脑在后台推理执行,结果在安全窗口内回灌。

2层路由仲裁
2脑交互与推理分离
1,100+自动化测试
IN车机长连接连续语音
+ 终态消息
ROUTER两层路由仲裁本地快路径
∥ 小模型 Guard
TALK交互脑S2S ∥ 级联
只对话,不等待
LEDGER任务台账唯一状态持有者
一句话一条道
THINK任务脑ReAct 多轮
∥ 单轮快链路
DELIVER安全窗口回灌不抢话
幂等投递
  1. D1

    快慢双路径路由

    指令走本地规则;其余请求与小模型 Guard 并行,Guard 失败一律转复杂链路。

    快路径零模型耗时,任务诉求不会误入闲聊

  2. D2

    交互与推理拆成双脑

    交互脑只管对话,复杂指令作为任务非阻塞派发给后台任务脑;同进程异步队列协作,Redis 兜底,不拆微服务。

    推理再久也不占对话,进程崩溃后任务可恢复

  3. D3

    删掉代际计数,只认响应完整性

    被打断的响应里的工具调用不落地;已完整的响应照常建任务,下一轮由交互脑结合任务与历史裁决修订或新建。

    半截指令不会变成任务,追加需求不误杀旧任务

  4. D4

    回灌必须经过安全窗口

    结果、澄清、授权在用户说话或播报时排队;短时间内的多条合并成一次播报,客户端开始播放才算送达。

    不抢话、不重播,紧急内容插播后自动接回原话

  5. D5

    一句话一条执行道

    同一句话派生的任务串行执行,前后两句、不同车辆之间并行;任务脑只上报事件,状态只由台账改写。

    同句任务不乱序,跨句互不阻塞

  6. D6

    每个会话一条串行发送队列

    多个回调线程并发写同一连接,会让下行帧交错。

    下行严格有序,打断时旧轮一定先结束

System 02 · Spring Boot 3 · MCP · 创建者

AIOS 基础能力服务

把 ASR / TTS、意图理解、标签分类统一封装成 WebSocket、REST 与 MCP 接口,调用方不感知供应商。

5篇架构决策记录 ADR
3种接口形态一套实现
CALLERS端侧 / 主链路 / AgentWS · REST · MCP
GATE接入层协议校验 · 热开关 · 并发闸门
CAPABILITY能力模块语音 · 意图 · 标签分类
SPI引擎抽象ASR / TTS / NLU 接口
PROVIDERS供应商实现配置选择,热更新
  1. D1

    引擎抽象为 SPI,配置选供应商

    供应商细节只留在实现内,会话管理只依赖接口。

    换供应商 = 新写实现 + 改配置,主干零改动

  2. D2

    状态单一归属,拒绝双写

    语音风格状态归主链路,本服务每轮只取不可变快照。

    去掉一项存储依赖,故障域更小

  3. D3

    MCP 与 REST 共用同一业务实现

    不复制业务逻辑;共享并发闸门,可单独热关。

    新增 Agent 接入不影响原有接口

可配置 Agent Workflow

类 Dify / Coze 的 DAG 工作流演示版:配置与执行分离,嵌套层数受限以防 Agent 互相调用死循环。

全链路可观测

trace 贯穿端侧、主链路与各 Agent,跨服务问题可以按一次请求追到底。

决策可追溯

命名、拆分、状态归属都以 ADR 记录取舍,新人能看懂每个「为什么」。

2024 — 2026

招投标 AI 平台

算法组长 · 审查、生成与业务平台

System 03 · Python · FastAPI · LangGraph

AI 招标文件审查

解析招标文件,按基础性、一致性、合规性等维度多模型审查,再把问题精确定位到原文坐标。

78节点LangGraph 审查 Agent
87%审查准确率
10亿+日均 token
API接口与编排业务服务
GRAPHLangGraph 决策层只承载复杂流程
ABILITY解析与分析PDF 解析 · 多维审查
LLM POOL模型资源池路由 · 限流 · 冷却 · 缓存
ANCHOR问题 + 坐标锚点原文高亮 / 回调
  1. D1

    把模型当作不可靠的资源池

    统一入口按能力分组路由多渠道,每渠道令牌桶集中限流。

    限流或故障时自动冷却换渠道,单点不拖垮审查

  2. D2

    为前缀缓存设计路由

    长提示词复用,优先走支持缓存的渠道;不可用时降级而非失败。

    降本,但不牺牲可用性

  3. D3

    LangGraph 只用在值得的地方

    仅全局状态、有环或节点复用时用图;线性流程保持普通服务。

    复杂度可控,新功能首版可提前上线

System 04 · Java 21 · 虚拟线程

AI 招标文件生成

以范本为结构、项目需求为事实来源逐章生成;需求变更时,只对文档做最小化的精确替换。

11组并行字段抽取
TEMPLATE范本解析章节目录提取
EXTRACT分组并行抽取项目字段
GENERATE逐章并发生成虚拟线程
VERIFY篡改检测确定性修复
DIFF最小替换变更只改差异处
  1. D1

    放弃检索,直接按章生成

    范本本身就是结构,去掉占位符映射层,AI 直接用真实字段。

    链路更短,各章并发生成

  2. D2

    模型负责理解,规则负责精确

    字段被改写时用正则确定性修复,而不是寄希望于重试。

    金额、时间等关键字段与需求严格一致

  3. D3

    变更先 diff,只做最小替换

    模型只产出「旧 → 新」替换对,并校验每个变更都被覆盖。

    改动最小、可审计

System 05 · Java · Redis

审查业务平台

审查任务的创建、分布式排队限流、按租户档位路由到 AI 审查服务,并处理回调与报告。

CREATE创建任务事务内写入
QUEUE分布式队列提交后入队 · 共享额度
EXEC异步执行锁外派发
REVIEWAI 审查服务携带租户档位
CALLBACK回调释放超时任务定时回收
  1. D1

    事务提交之后才入队

    异步线程读不到未提交的数据;回滚也不该留下任务。

    消除竞态,没有孤儿任务

  2. D2

    锁内只改状态,重活移到锁外

    临界区压到最短,令牌校验后安全解锁。

    不再抢锁失败,下游负载可控

  3. D3

    租户档位驱动,而不是分叉代码

    按租户解析审查档位并全链路透传,未命中回落默认。

    新租户接入只需改配置

能力开放平台

从零搭建后端:对接 RAGFlow,按采购需求自动生成技术参数。

GraphRAG 智能问答

意图识别准确率 99.12%。

同款商品比价

NER + LLM 抽取品牌、型号、规格,Kafka 流式写入 ClickHouse。

04
Capabilities · 能力

从模型到上线 end to end

A · LLM / Agent

Orchestration

多流程编排、RAG / GraphRAG、MCP、多模型路由与缓存。

LangGraph · LangChain · MCP
Spring AI · FunASR

B · 后端

Systems

Python 与 Java 双栈;高并发、流式与长连接服务。

FastAPI · Flask · Celery
Spring Boot 3 · WebSocket · gRPC

C · 前端

Interface

产品级 Web 前端,浏览器插件与小程序。

Next.js · React 19 · TypeScript
Tailwind · Vue 3 · Plasmo

D · 数据与运维

Operations

从数据管线到部署运维,独立上线与长期维护。

MySQL · PostgreSQL · Redis
ClickHouse · Kafka · Docker

05
Side tools

顺手为自己造的小工具。

i.
memos-webhook

Memos 笔记 Webhook:把裸链接改写成带网页标题的 Markdown 链接。

GitHub ↗
ii.
auto-crawl

Koa + Puppeteer 的推特内容抓取服务,支持 Cookie 登录与图片下载。

GitHub ↗
iii.
本地语音转写

基于 FunASR Paraformer,带 VAD、标点恢复与说话人分离。

Python
iv.
多模型投票

3 个 LLM 并行作答、裁判模型决断,用于法律知识题库自动答题与评分。

Python
Correspondence · 来信

Let's talk.

一起做点有意思的东西。

大模型应用、AI Agent、RAG 工程化与产品合作,都欢迎来信。