写前端这么多年,组件化一直是靠框架来做的——Vue 的 .vue 文件、React 的 JSX。但浏览器原生其实一直在推 Web Components 这套标准,包括 Custom Elements、Shadow DOM、HTML Templates。以前是兼容性不行加上用起来太原始,基本没人用。最近又看了一下,发现现在主流浏览器全都支持了,加上 Lit 这类轻量库的加持,感觉可用度比以前好了不少。花了几天配置与实践,记录一下。
用 AI Agent 做逆向工程:rea 工具链初探
上周在 GitHub 上刷到了一个仓库 morluto/rea,定位是「用 Agent 逆向分析任何东西,从 App 行为一路打到原生二进制」。标题看着挺唬人,但 stars 数已经快速爬到很多,还有 Ghidra、MCP、Claude Code 等关键词——感觉不像纯噱头,花了一下午研究了一下,顺便整理成这篇。
用 Vercel AI SDK 给网站接上大模型对话
之前配置与实践 RAG、跑本地模型啥的都是自己玩,最近想在正经项目里加一个 AI 对话功能。自己从零写流式响应、处理 SSE 什么的还是挺麻烦的,后来发现 Vercel 出了个 AI SDK,把跟大模型交互的繁琐工作都封装好了,前后端都有对应的工具函数。试了一下,确实省了不少事。
Prompt Caching 落地实践:让多轮 AI 交互的首字延迟与成本都降下来
今年团队把内部的技术文档库、工单排障系统和低代码平台全面接入了大模型做智能助手。初期跑 Demo 时大家都很兴奋,但真放到测试环境让大几十号人高频用起来,两个最现实的问题立刻浮上水面:首字等待时间(TTFT)太长,以及调用账单以惊人的速度消耗。
为了保证模型对复杂业务逻辑的遵从度,我们的 System Prompt 往往写得极长,里面塞了详细的角色设定、输出格式约束、安全边界,再加上十几个 Function Calling 的 JSON Schema 定义和几个 Few-Shot 样本,光静态的前置上下文就占了 4,000 到 8,000 个 token。用户哪怕只是输入一句“你好”或者在多轮对话里追问一个细节,服务端每次都要把几千个 token 的前置序列送去完整 Prefill 一遍。
前阵子主流模型提供商(Anthropic Claude、OpenAI、DeepSeek 等)和推理框架陆续推行了 Prompt Caching(提示词缓存 / 前缀缓存)。我们在客户端与中间网关做了一轮针对性的改造,把多轮交互的上下文缓存命中率拉到了 85% 以上。借着这篇笔记,把背后的机制、踩坑细节和数据做个记录。
用 Ollama + DeepSeek 建立一个本地免费大模型助手
前阵子 DeepSeek 开源把圈子引起了广泛关注,连不懂技术的朋友都在问怎么搞。我自己的普通电脑虽然没有顶级显卡,但也想凑个热闹。花费时间一圈发现,用 Ollama 在本地跑个小参数量的版本体验最好,基本没有太多心智负担,断网了也能用,还不用担心自己的代码被传到网上当训练料。
这里简单记录一下怎么用 Ollama 把模型跑起来,顺带建立一个前端小 Demo 调一下。