• 欢迎关注我的微信公众号“ Falost ” 右边扫描关注 --->>

标签:SQLite FTS5

AI / 大模型

多模态 RAG 最小可用原型(五):成本与部署——零 token 的活全留在本地,一条 compose 跑在 4 核机器上,1000 次请求 2.53 元

多模态 RAG 最小可用原型(五):成本与部署——零 token 的活全留在本地,一条 compose 跑在 4 核机器上,1000 次请求 2.53 元
上篇(四)结尾我留了一句:没有延迟和成本维度,这正好是下一篇要补的。这篇就补这一块,也是这个系列的最后一篇。 前四篇一直在解决”答得对不对”:(一)把散落的脚本收成一个能跑的项目,(二)把结构通道拆成独立模块,(三)把 clarify 收成一条 ask()...

神棍 2周前 (10-27) 88℃ 0评论 0喜欢

AI / 大模型

多模态 RAG 最小可用原型(四):把评测收成一条命令——Recall@k / MRR / nDCG@k 手写实现,121 题按题型出报表

多模态 RAG 最小可用原型(四):把评测收成一条命令——Recall@k / MRR / nDCG@k 手写实现,121 题按题型出报表
上篇(三)我把 clarify 改成了一道选择题:活动表进会话、viewport 自动注入,六种问法收成一条 ask()。改完那版我自己用着挺顺,但心里没底——那几天我的“评测”是:改一处代码,手动点三遍,凭记忆判断“好像比之前好”。 这不是评测,是手感。手感有两个毛病:换个问法...

神棍 2周前 (10-24) 149℃ 0评论 0喜欢

AI / 大模型

多模态 RAG 最小可用原型(二):结构通道拆成独立模块——五态返回先钉死,六种问法有四种不用模型

多模态 RAG 最小可用原型(二):结构通道拆成独立模块——五态返回先钉死,六种问法有四种不用模型
上一篇我把散落的脚本收成一个项目骨架:截图进去、问句出来,三层表加两个 FTS 索引,端到端跑通了。但跑通和能用是两件事。当时结构通道的逻辑全塞在 ask() 里,取到格子返回字符串,取不到也返回字符串——调用方根本分不清「这一格是空的」和「这张表我压根没有」。transcrib...

神棍 3周前 (10-18) 116℃ 0评论 0喜欢

AI / 大模型

多模态 RAG 最小可用原型(一):把散落的脚本收成一个能跑的项目——截图进、问句出,三层表 + 双通道 + 澄清

多模态 RAG 最小可用原型(一):把散落的脚本收成一个能跑的项目——截图进、问句出,三层表 + 双通道 + 澄清
上篇收官,我把多模态这一路的结论收成三条:数据先体检、结构进结构库、检索干不了的事别硬塞。结尾说了下篇起新系列。这篇就是新系列的第一篇。 为什么要另起一个系列?因为前面那十条,每一项都是各自独立的脚本——转写一个文件、出题一个文件、跑检索一个文件、算指标又一个文件,参数和口径散在...

神棍 3周前 (10-15) 148℃ 0评论 0喜欢

AI / 大模型

多模态 RAG 实测(八):jieba 预分词把页面 top-10 从 0.8070 干到 0.6404——砍掉单字查询词才捞回 0.8246

多模态 RAG 实测(八):jieba 预分词把页面 top-10 从 0.8070 干到 0.6404——砍掉单字查询词才捞回 0.8246
上篇(七)结尾我给自己挖了个坑:真实语料上 unicode61 把页面 top-10 抬到 0.8070,但我复盘时觉得它赢得很可疑——OCR 转写文本里恰好保留了换行,把中文断成一小段一小段,unicode61 才”切得动”。我说这是运气不是方案,下篇要...

神棍 1个月前 (10-03) 305℃ 0评论 0喜欢

AI / 大模型

多模态 RAG 实测(七):四字段加权搬回 247 页真实语料——页面 top-10 从 0.5702 到 0.8070,但功劳不在字段加权

多模态 RAG 实测(七):四字段加权搬回 247 页真实语料——页面 top-10 从 0.5702 到 0.8070,但功劳不在字段加权
上篇(六)我在合成语料上把“页面检索拆字段”钉死了:正文列单独打分 R@5 只有 0.3444,四字段拼起来 0.6556,再叠加权到 0.6889,权重给 2~3 就够。结尾我说要搬回真实那 247 页跑回归,看 Gold 页进 top-10 能不能从 0.5702 抬上去。 ...

神棍 1个月前 (09-30) 194℃ 0评论 0喜欢