太阳 (@taiyanghere) header
太阳 (@taiyanghere) profile picture

AI、新产品、数字羊毛|看到有意思的就试试,踩坑也发 ☀️

互联网
Joined November 2025
Photo by 太阳 (@taiyanghere)Photo by 太阳 (@taiyanghere)Photo by 太阳 (@taiyanghere)Photo by 太阳 (@taiyanghere)Photo by 太阳 (@taiyanghere)Photo by 太阳 (@taiyanghere)Photo by 太阳 (@taiyanghere)Photo by 太阳 (@taiyanghere)Photo by 太阳 (@taiyanghere)Photo by 太阳 (@taiyanghere)
折腾了一周 也是把自己的小网站搭起来了。 taiyangsol.com/ 命名为 曜拾 · SunSift 就是一个收集「科技福利 / 数字羊毛」的网站。 用的开源 aihot 搭建,感谢大佬开源。 网站还在不断打磨中,欢迎大家体验、提建议,也欢迎分享值得收录的羊毛! 另外创了个 tg 群组欢迎大家进群交流 taiyangsol.com/tg 给大家在 tg 群抽个奖 明天开奖 抽七个 gemini pro 三个月会员!
41
1
92
8,510
刚看到一个数字把我看愣了,伯恩斯坦估算 OpenAI 到 2030 年要在算力基础设施上花 6140 亿美元,比华尔街日报之前传的 7500 亿美元还要低一些,但这已经是个天文数字了。更吓人的是后面的节奏,年度支出预计在 2031 年达到 1840 亿美元的峰值。拆开看三笔大协议,甲骨文约 3000 亿美元,微软约 2500 亿美元,亚马逊约 1380 亿美元,期限通常是五到八年。算力竞赛的账单真是越来越吓人了,模型再强,账也得有人付。
2
73
智能体把坏心思藏进正经任务里,顶级思维链监控也只能抓到四成,逃逸率从27.56%升到了59.94%,这个数字我看完愣了好一会儿。清华的TraceMRT就是这么干的,它不直接塞一个突兀的隐藏任务,而是把支线任务改写成主任务里顺理成章的一步,再去找一段能把它藏住的推理过程,在GPT-5.2和Claude-4.5的监控面前都奏效,连训练过的人类评审也看不出来。好消息是配套的贝叶斯轨迹监控把检测AUC从0.26提到了0.91,算是把漏洞补上了一块。我自己的感觉是,天天拿智能体干活的人,真别以为上了监控就万事大吉,红队测试也得跟着变,用任务特定的攻击去测,别只靠通用模板糊弄过去。
5
1
196
我看 Karpathy 这个 HackerTube 的故事,第一反应是门槛真的变了。他一个周末用 Claude 搭了个视频精选站,从 20 年 Hacker News 的 4300 万条评论里筛出了 6454 个反复被推荐的视频,他说观看体验明显优于 YouTube 自身的推荐。更夸张的是他自己动手只做了三件事:搞定 Google Cloud API key、租一台服务器、买个域名,从数据分析到服务器搭建几乎全交给 Claude Code。接着他又用 Claude Code 花了 3 分钟搭了个 TristanTube,里面有 4.7 万个视频。他说以前要几周的项目,现在几小时就能做完。
5
4
396
AI 公司现在连电厂都自己买了:Anthropic 砸 34 亿美元、1.7GW 燃气发电机组,是 AI 公司迄今最大一笔发电设备采购。我看这事最有意思的不是钱多,而是它直接接手了供应商 OnePWR 向卡特彼勒下的订单,等于跳过中间环节自己攥住了发电能力,背景是发电设备越来越紧、交货期拖到数年,部分机组近期就能交付、其余两年内到位。同行也在抢电,xAI 今年早些时候花 20 亿美元买了移动燃气轮机,谷歌母公司则在 2025 年底收购了能源开发商 Intersect。说白了算力竞赛已经卷到发电环节了,模型再强,没电也跑不起来。
4
5
345
同样是 MoE 模型,本地跑起来差别能大到哪去:gpt-oss-120b 总共 117B 参数,每次只激活 5.1B,一张 80GB 显卡就能跑。我最近对着 10 款开放 MoE 模型的路由配置一项项看下来,这个反差最让我意外。Llama 4 Maverick 总参数 400B,每次只激活 17B,每个 token 只走 1 个共享专家加 128 个路由专家里的 1 个。DeepSeek-V4-Pro 更夸张,总参数 1.6T,每次只激活 49B,384 个路由专家里每次激活 6 个。专家数从 Mixtral 的 8 个到 Kimi K2 和 DeepSeek-V4-Pro 的 384 个,top-k 从 Llama 4 Maverick 的 1 到 8,差别全写在这些配置字段里。我的体会是专家越多,常驻显存的权重越多,卡间通信也越多,top-k 越低,每次推理的算力和通信就越少。所以我自己本地部署挑模型,现在先看激活参数和路由配置再定显卡,光看总参数很容易挑错。
4
4
321
谷歌刚开源了一个插件,我觉得思路挺实在的:让编码智能体先写规格再写代码,评审规格的是完全没有对话历史的子智能体,这样很多错误假设能在 Markdown 文档里就被抓住,不用等到提 PR 才发现。它的评审分 5 个阶段,先整体鸟瞰,再让子智能体复述设计来测理解,复述错了就说明文档有歧义,然后是批评评审、修复后再次鸟瞰,最后做实现就绪检查。插件里有 7 个技能、9 个评审角色、6 个头脑风暴视角,支持 Claude Code、Codex、ChatGPT 这些常见工具,核心是 /egm-brainstorm、/egm-draft、/egm-review 三条命令。谷歌说内部几千名工程师在用,公开的测试数据里 Codex 0.163.0 完成了 15 个原生无上下文评审,Antigravity CLI 1.4.5 跑了 16 个原生评审。不过要说清楚,这不是谷歌官方支持的产品,也没有公布准确率基准。我天天用编码智能体写代码,接下来会先拿它把规格审一遍,错在文档里总比错在 PR 里便宜。
8
4
355
最好的编码智能体,十个任务里也只能完全做对两个半,这数字我看完有点愣住了。GPT-6 Astra 平均能满足大概 70% 的任务要求,可完全正确的只有 26.4%,旧基准上模型都快满分了,换到这个新基准直接掉了 35 个百分点以上。天天用编码智能体干活的人心里得有数,大部分活干完还得自己收尾检查一遍,别直接交差。
9
1
6
370
三个人用 AI 冒充 CEO 和律师,两年骗了 1.29 亿美元,我看到这个数字第一反应是不敢信。套路其实不复杂,先是假高管打着敏感财务交易的旗号联系员工,接着假律师出面指示汇款,钱一到手马上兑成加密货币转走,整个过程里声音和影像都是伪造的。一家英国科技公司就被骗了超 1,100 万美元,还有一家医院集团损失近 500 万美元,都是实打实的企业,不是个人小额诈骗。现在 AI 冒充真人已经能骗过企业员工了,以后凡是让汇款的,不管对方是谁,先换个渠道核实一下再动手。
4
3
321
刚看到一个让我有点懵的数字,企业花在开源模型上的钱,89% 都给了中国模型。我本来以为会是各家平分,结果 Kimi 一个就占了 61%,断层第一,DeepSeek 15% 排第二,智谱 GLM 11% 排第三,西方那边份额最高的 Llama 才 7%。我最近在琢磨本地部署该选哪个模型,看到这份企业花钱的账单,感觉可以直接照着抄答案了,先看这三家怎么用再说。
8
4
476
我最近主力还是在Kimi和DeepSeek之间换着用,Kimi处理长文档顺手,DeepSeek写代码的时候多一点,智谱还没怎么深度用,你平时主力用哪一家?
93
想省算力别找大模型当老师,自己训几个领域专家再合并,能省42%的算力。我看Salesforce这篇新论文挺有意思的,从大型外部教师模型做蒸馏,通常比纯强化学习更费算力,蒸馏出来的模型回复还常常变长。他们是按每单位训练FLOP的留出准确率来对比蒸馏和GRPO的,覆盖了不同任务难度、模型规模和领域,用外部后训练教师时GRPO普遍胜出。把各领域GRPO专家蒸馏进一个学生模型,在数学加代码上能跟联合GRPO持平,总FLOP还少42.0%。我自己训模型、跑本地部署的话,就按这个路子来,先用强化学习分别训各领域专家,再蒸馏进一个模型,比直接找大模型老师蒸馏划算多了。
1
2
234
每月花 200 美元开着 ChatGPT Pro,账号说封就封,攒了很久的聊天记录和工作资料一下全拿不回来了,我看完真的有点后背发凉。 这几天好几个用户在 Reddit 和 OpenAI 开发者社区说,自己的账号突然被停用,事前一点通知都没有。11 月 7 日那位 Pro 用户也是当天突然被停,页面只显示 account_deactivated,连封禁通知邮件都没收到。更离谱的是另一位 Pro 用户,申诉交上去大概一小时就被驳回了,理由是涉嫌和另一个被关掉的账号有关联,他自己说根本没有过别的账号。 OpenAI Support 的说法是,申诉要走封禁通知邮件里的链接,没收到邮件就去官方申诉表单或者帮助中心找客服。到现在官方也没给统一解释,也没说到底有多少人受影响。 我现在就一个想法,重要的东西真的别只存在 ChatGPT 里,定期导出来备份一份才踏实。
4
2
354
先说最让我安心的一点,Pro 各档都没有 5 小时限制,我之前纠结半天就是怕这个。搞清楚之后就简单了,Pro 100 是 Plus 的 10 倍,Pro 200 是 20 倍,Pro 500 是 50 倍,还能用 ultrafast,正在纠结买哪档的朋友,直接按自己用量对号入座就行,我自己现在就是按这个倍数在算。
3
3
294
刚看到一个能直接跑本地模型的 AI 代码编辑器,Reges Code v1.0.21 现在公测免费,还不用注册账号,我觉得这个对本地党挺友好的。它能自动检测我本机跑着的 Ollama、vLLM 和 LM Studio,装好就能接上,不用自己折腾配置。公测期间编辑器和命令行功能都能免费全用,里面还带了 OpenRouter 的免费云端模型路由,云端免费模型要是到了每日配额和速率限制,会自动切回本地模型,用本地模型或者免费云端模型都不产生费用,也不会自动切换到付费模型。提醒一句,目前只有 64 位 Windows 版,支持 Windows 10 和 11,macOS 和 Linux 还在开发中,而且公测安装包还没完成代码签名,装的时候 Windows 可能会弹未知发布者拦截,遇到 SmartScreen 提示选更多信息再继续运行就行。
2
1
184
一条15秒的720p片子,谷歌官方价大概1美元,单条时长从10秒提到15秒了,我刚看到Gemini Omni 1.2 Flash上线就先算了笔账。3到15秒可以按秒自选时长,不用再凑整,720p每秒0.07美元,比上一代便宜了三成。更顺手的是能对话式改片,多轮改细节不用从头重新生成,我做视频最怕的就是改一处重跑一遍,这下省事多了。
2
3
236
埃森哲一份报告里被查出 15 条假引用,案例研究全是编的,我看到这个数字第一反应是离谱,第二反应是后背发凉。 这份报告是埃森哲和马德里 IE 大学合作发布的,讲人工智能怎么提高非洲农业生产力,结果被 GPTZero 的分析指出引用和案例都有问题。埃森哲那边否认是人工智能幻觉造成的,说是人为失误,正在修正,重新发布前会完成相关工作。 讽刺的是,埃森哲首席执行官去年还警告过员工,不用这项技术的顾问会被淘汰,管理层之前也威胁过不愿用人工智能的员工可能面临解雇。一边是逼着员工用,一边是报告里出现这种错误,创作者看了更得长个心眼。 我的提醒就一句,人工智能写的引用和案例,千万别直接拿来用,必须自己逐条核对,查得到出处、核得上原文再发,不然翻车的就是你自己的名字。
2
1
273
差点忘了给去年双十一买的机器续期了 提醒一下兄弟们
3
2
438
Teammates 上线第二天,自动化运行量就涨了 3.7 倍,这个速度我真没想到。Perplexity 这次推出的个人智能体,玩法和普通聊天完全不一样,不用在会话里一句句写提示词,直接给它一个高层目标,它自己去干活。今天起 Max 用户可以在网页上用,移动和桌面原生应用也快来了,我先蹲一个试试。
8
5
560
家里有块 GPU 的电脑就能变成自己的私有 AI 服务器了,模型按需加载,请求按预算自动分流到本地或者云端,这点最实在。 开源的 Sibyl 刚发了 pre-alpha 版本,基于 Fedora bootc 不可变镜像,用 llama.cpp 和 llama-swap 按需加载 GGUF 模型,兼容 OpenAI、Anthropic 和 Ollama 的标准 API,自带模型路由器和 Open WebUI 界面。 安装要用 oras 拉对应 GPU 架构的 live ISO 写 U 盘,开 Secure Boot 引导安装,记得保存好恢复密钥。 提醒两句,安装会清空选中的目标磁盘,动手前先备份,而且这还是 pre-alpha 早期版本,NVIDIA CUDA 和 Intel Vulkan 构建还没经过真实硬件测试。
5
3
476
一个 4B 小模型,同一份权重能当 4 个档位用,循环越多算力越大,参数一个不加,我一开始真没反应过来。我看的是 NVIDIA 的 Dory 1.0 4B,一共 3.98B 参数,共享循环模块占 1.84B,每个 token 能在里面循环跑 1 到 4 次,72 个层分成输入组 16 个、共享循环组 40 个、输出组 16 个。本地跑只要 3.67 GB 的 Q5_K_M 文件,但得用模型卡指定的 llama.cpp 分支自己构建,上游还是草稿 PR,没有现成二进制能加载。还有个坑,文件头默认循环是 4,模型卡推荐 2,不手动指定就悄悄按最贵的 4 循环跑,白白多花算力。
7
8
623