guanweilu
-
Getty Images AI:商业图库巨头做 AIGC,为什么强调版权清洁
2023 年 1 月,Getty Images 把 Stability AI 告上了伦敦高等法院。当时 The Verge 的报道写得很克制,但内容一点不克制:Getty 指控 S…
-
OpenAI Swarm 的实验性质:一个教学框架能学到什么——Handoff 和 Routines 的设计思想
你可能会问:OpenAI 为什么会把一个连自己都标着“实验性”“不适合生产”的多 Agent 框架公开发布?更奇怪的是,这个叫 Swarm 的项目,核心 Python 代码不过几百…
-
8-bit Adam:把优化器状态也量化了,显存再砍一半
训练一个 10B 参数的模型,你最心疼的是什么? 显卡。花十几万买来的 80GB 显存,一大半不是被模型本身吃掉的,而是被一堆看不见的东西吃掉的。 我最早也以为,训练时显存的大头是…
-
RAG 的三大死穴:检索不准、内容冲突、上下文塞不下——分别怎么解决
我最早做 RAG 的时候,犯过一个特别蠢的错。那时我觉得,RAG 不就是把文档切开、embedding、存进向量库,然后用户提问时检索 top-k 拼进 prompt 吗?结果第一…
-
沙箱化(Sandboxing)大模型:限制 AI 的能力范围,让它只能在安全环境里操作
假如你正在让 ChatGPT 写一段 Python 代码来处理你的 Excel 表格。它说需要运行一下才能验证结果,你点了“运行代码”按钮。机器嗡嗡响了几秒,返回一张干净的结果表。…
-
Gemini 1.5 Flash 的多模态效率:比 Pro 快多少,效果差多少
一个让我坐不住的对比 有一个问题我摸索了很久:Gemini 1.5 Pro 和 Flash 名字像,定位却完全不同。最开始我以为 Flash 只是把 Pro 的“脑子”换小一号,速…
-
Canva AI 的图像生成:面向非设计师的 AI 工具,技术取舍有什么不同
我第一次用 Canva 的 AI 生图时,内心毫无波澜。输入“一只戴宇航员头盔的猫,商业插画风格”,等了五秒,出来四张图。一张脸歪了,一张背景像坏掉的马赛克,剩下两张勉强能放进PP…
-
Camel AI 的角色扮演框架:用 Inception Prompting 让两个 Agent 自主对话
你有没有想过,把两个AI放在同一个对话框里,让它们自己讨论一个问题,会发生什么?我最早以为,这跟让两个朋友聊天差不多——聊着聊着就跑题了。但有一篇来自KAIST等机构的论文 《Ca…
-
ZeRO-Offload:把优化器状态卸载到 CPU 内存,用时间换空间的极致操作
我第一次算训练 7.5B 模型的显存时,对着数字发了好半天呆:模型参数是 FP16,15GB;但加上 Adam 优化器之后,要求 120GB。差了 8 倍。到底谁才是显存大户?答案…
-
RAG(检索增强生成)是什么?给大模型配一个外挂知识库
你问 ChatGPT 昨天发布的新手机怎么样,它礼貌地回你:"我的知识截止日期是 2024 年。"你换了个问题,问它你们公司的报销流程是什么——这明明写在内部文…