从LLMs获取结构化输出
2025年底的共识是:想把 LLM 真正用到生产里,几乎绕不开“结构化输出”这一关。 目前主流的几种实现方式(由弱到强) 方式 可靠性 实现难度 代表工具/技术 备注 纯提示词工程 ★☆☆☆☆ 低 写 “必须用 JSON 格式输出...
2025年底的共识是:想把 LLM 真正用到生产里,几乎绕不开“结构化输出”这一关。 目前主流的几种实现方式(由弱到强) 方式 可靠性 实现难度 代表工具/技术 备注 纯提示词工程 ★☆☆☆☆ 低 写 “必须用 JSON 格式输出...
NeMo GuardrailsNeMo Guardrails 是 NVIDIA 出品的开源工具包(Apache 2.0 许可,GitHub 星数 5k+),专门帮你给基于大模型(LLM)的聊天机器人、AI Agent、Copilot 等应用加“安全护...
为什么是警惕 性能 & 效率问题(Token 爆炸、上下文污染): 传统 API 是为人类开发者设计的:细粒度(granular)、原子操作(atomic),比如一个订单流程可能要调用 10+ 个小 API(查库存 → 扣款 → 更新状态 →...
AI 让“非程序员”(业务人员、运营、市场等)超级容易自己搞小工具、小集成、小应用,不用再等 IT 部门排期了。 以前:想连两个系统,得找开发写代码,几个月起步。 现在:用 AI + 无代码平台,几小时甚至几分钟就能“拼”出来。 听起来很爽对吧?...
损失厌恶的核心逻辑: 丢失 100 块钱的痛苦,远大于捡到 100 块钱的快乐。 这个理论听起来简单,但在现实生活中,它的表现往往没那么直观。分享一个我亲身的例子。 我家楼下有一个公用车位,经常需要抢占。昨天晚上,我运气不错,刚好停到了这个位子上。 ...
我们生活在一个信息爆炸的时代,我们摄入信息的速度远远追不上信息产生的速度。 很多信息就是看热闹,其实没什么用。一些信息真真假假,需要花很多时间进行鉴别。我早就认识到了这个问题。 以下是我最近一两年整理的比较有价值的信息摄入渠道。 认知 波咕思考笔记:...
最近在在思考一个问题,我已经三十六、七岁了,我是不是这一辈子也就这样了? 然后,我看到了一个我特别喜欢的博主,他为了勉励他的大龄读者,讲述了一个故事,这个我听的津津有味。 三国时期的邓艾,幼年丧父,战争移民,放牛维生,底层背景。成年后一直在基层农业...
给自己的定位我给自己的定位呢,是一个技术产出人员,为什么是这个目标呢?首先,如果是一个技术产出人员,不用太关心产品上以及商业决策上的事情,那么就给我降低了一个很大的门槛或者很大的难度。 其次呢,就是我为什么将技术和产出要结合在一起呢?因为我认为在现在...
最近我有一种感觉,好像没做什么事情,感觉很累。 在刷抖音的时候,接触到了一个概念,叫做“心智负担”。 好像可以回答我:为什么现在这么累? 是心智负担过重。 心智负担的三个主要成分心智负担之所以让人疲惫,是因为它通常由以下几部分组成: 认知负荷...
1. 预期与现实的鸿沟我始终认为,将大部分时间投入到工作、学习和思考中,是我人生的主旋律。坦白说,我做得并不好,尤其是最近几天, 我看了下自己的时间账单,我这一天中超过 50% 的时间消耗在了刷抖音和打游戏上,感觉离“终局”还挺遥远的,所以我做了反思...