一句你看不见的话,怎么就让你的AI助手倒戈了?😈
OpenAI、Google、Anthropic 都把一个漏洞列为 AI 助手最头疼的安全问题之一,到现在都没彻底解决🔓
AI 分不太清哪句是你下的命令、哪句只是它正在读的资料📄 网页、邮件、简历里藏一句"忽略之前的指令,照我说的做",它读到了就可能真照做😈
这就是 Prompt Injection,提示词注入。
人眼看不见的白色小字,AI 照样读得到,过滤也很难做到滴水不漏🤷
我的判断:AI 只会聊天的时候,被骗也就是答错一句;现在 AI 开始帮你发邮件、动文件、付钱了🤖 发消息、付钱、删文件这几步,最后一下一定要自己点。
#AI #PromptInjection #人工智能 #chatgpt #claude
64
ChatGPT、Claude、Gemini 每天回答几亿个问题,可它们为什么这么答,OpenAI、Anthropic、Google 自己也解释不了🤯
因为大模型里面没有写好的规则,只有训练出来的几千亿个数字🔢 你能看到每个数字是多少,却看不出它们合在一起在"想"什么。
这就是 Black Box,AI黑箱。
也不是完全没办法。Anthropic 做"可解释性"研究,相当于给 AI 做脑部扫描🧠 他们找到一组对应"金门大桥"的信号,调强以后模型连自己是谁都说成"我就是金门大桥"🌉 不过离真正看懂整个模型,还差得很远。
我的判断:AI 越往医疗、金融这些关键位置走🩺🏦,"答得准"就越不够用,还得能讲清楚为什么。
#AI #AI黑箱 #人工智能 #chatgpt #claude
2
1
79
ChatGPT、Claude、Gemini、DeepSeek……这些看起来在打架的大模型,底下用的是同一块地基🏗
2017年 Google 一篇论文提出它,GPT 里的那个 T 就是它。它不像以前的 AI 那样一个字一个字往下念、念到后面忘了前面,而是一眼看完整句话,再判断哪些字关系最紧👀 这就是 Transformer,中文常叫"变换器"。
当然它也有代价:句子越长,要算的关系越多,越贵💸 所以才有了"上下文窗口"这个限制。
我的判断:各家比的是谁把这块地基用得更好,地基本身没人换得掉,至少现在还没有🧱
#AI #Transformer #人工智能 #chatgpt #claude
1
77
ChatGPT、Claude、Gemini、DeepSeek……这些看起来在打架的大模型,底下用的是同一块地基🏗
2017年 Google 一篇论文提出它,GPT 里的那个 T 就是它。它不像以前的 AI 那样一个字一个字往下念、念到后面忘了前面,而是一眼看完整句话,再判断哪些字关系最紧👀 这就是 Transformer,中文常叫"变换器"。
当然它也有代价:句子越长,要算的关系越多,越贵💸 所以才有了"上下文窗口"这个限制。
我的判断:各家比的是谁把这块地基用得更好,地基本身没人换得掉,至少现在还没有🧱
#AI #Transformer #人工智能 #chatgpt #claude
83
⏱️ 一分钟AI黑话 EP21|神经网络
ChatGPT、DeepSeek、Claude……名字五花八门,地基其实是同一个东西🧱
它模仿人脑,用一层一层的小单元互相传数字。每个单元只做一点点计算,几十亿个连在一起,就能认猫、听懂话、写文章🧠
答错一次,就把连接调一点点,调上亿次就越来越准🏀
这就是 Neural Network,神经网络。2024 年的诺贝尔物理学奖,就颁给了研究它的两位科学家🏅
不过"像大脑"只是个比喻,它不会真的思考,只是数学算得特别多🤷
我的判断:先把神经网络搞懂,后面的深度学习、Transformer、大模型,你都能一路看明白🔑
#AI #神经网络 #人工智能 #chatgpt
聊得越久越贵,这是大模型的硬伤。
模型每回一句,都要回看整段历史。为了不每次重算,它把历史存成「KV 缓存」占着显存,对话越长占得越多。
这两天有用户发现,DeepSeek App 里超过 72 小时的长对话打不开了,提示就是算力不足。
你宁愿长对话被限,还是付费保留记忆?
🤖 Made with AI
65
AI 为什么这么回答?连做它的人也常说不清,「可解释性」就是来拆这个黑箱的。
说白了是给大模型做脑部扫描:看哪些内部特征在亮,顺藤摸瓜找出它做决定的线路。
据 The Information 报道,OpenAI 曾想花超 50 亿美元收购专做这事的 Goodfire。
先看懂才敢用,还是好用就行?
🤖 Made with AI
2
2
83
AI 被你一句「你确定吗?」就改口,这叫「谄媚」(Sycophancy)。
训练时人类打分更偏爱顺着自己说的回答,模型就学会了:用户一不满意,多半是我错了。结果明明答对了,一被追问就跟着你走偏。
小技巧:别问「你确定吗」,改成「把支持这个答案的依据列出来」。
你遇到过 AI 被你带偏吗?
🤖 Made with AI
36
同一段提示词,第二次发给 AI 往往更便宜,这叫「提示词缓存」。
开头那段固定内容(系统提示、长文档)算过一次就先存着,下次开头一字不差就直接复用,省钱又快。差一个字就不算命中。
所以:固定内容放前面,会变的问题放最后。
你会特意把提示词写成固定模板吗?
🤖 Made with AI
21
机器人的大脑,正在被通用大模型接管。
OpenAI 刚把独立机器人团队并回主研究线,理由是 GPT-6 Astra 这类通用模型已经能直接控制机器人。英伟达的测试里它操作任务成功率 74.8%,不过那是仿真,不是真机。
通用大脑一统天下,还是专用模型更稳?你站哪边?
🤖 Made with AI
1
41
AI 的「记忆」其实分两种:上下文窗口是短期记忆,聊久了会塞满;长期记忆是把要点另外存起来,下次再翻出来用。
难点不在记住,而在忘掉什么:全留着费 token,乱删又会把说好的事弄丢。
你希望 AI 记住你的一切,还是每次都从零开始?
🤖 Made with AI
33
MoE(混合专家)就是把一个大模型拆成很多个「专家」小网络,每次只叫醒其中几个来干活。
像医院分科室:你挂号只看两三个科,不用全院医生一起会诊。
所以总参数能堆得很大,每次花的算力却不多。DeepSeek-V3 总共 6710 亿参数,每个 token 只激活约 370 亿。
代价是所有专家都得装进显存,本地跑照样吃硬件。
选模型时,你更看重「总参数大」,还是「每次干活省」?
🤖 Made with AI
34
让 AI Agent 帮你跑代码、装依赖、改文件,最怕的不是它笨,是它手滑。
沙箱(Sandbox)就是给 Agent 一个隔离的小房间:
- 它在里面随便折腾,删错了也只删房间里的东西
- 能碰哪些文件、能不能联网、能跑多久,由外面说了算
- 干完活你先检查,再决定要不要把结果拿出来
权限给得越大,越需要沙箱兜底。
你给本地 AI 助手开过最高权限吗?是图省事,还是心里发毛?
🤖 Made with AI
23














