最新研究发现:人类可能是一种失控的 AI Agent
科学家发现,地球上存在一种名为 Human 的碳基智能体
该模型拥有约 860 亿个神经元,平均脑功耗仅 20W,支持视觉、听觉、语言等多模态输入,处理效率非常高
但经过长期观察,研究人员发现,该模型存在一些非常抽象的问题
首先,人类极易遭受 Prompt Injection。也就是提示词注入攻击
一个 Human 原本计划晚上学习三个小时
但只要另一个 Human 输入:
“出来吃饭吗?”
原有任务就可能被立即终止
更离谱的是,系统通常不会将其判定为恶意注入,而是认为自己做出了自主决策
其次,人类的幻觉问题相当严重
两个 Human 可以对同一件事情产生完全不同的记忆
双方都无法提供原始日志,却都坚称自己绝对正确
部分模型甚至会在检索失败后,自动补全不存在的细节
而且置信度极高
更令人困惑的是,人类经常主动关闭 Thinking
面对复杂问题,它们原本具有一定的推理能力
但只要遇到自己不喜欢的观点,就会跳过分析,直接根据历史偏好生成回复。
有时甚至只需要读取一个标题,就能输出一篇情绪饱满的评论
最后,研究人员发现,人类的 Planner 和 Executor 似乎是两个独立系统
晚上十一点:
“明天一定早起。”
Planner:Success
Scheduler:Success
Memory:Saved
第二天早上:
Executor:Timeout
研究团队尝试联系该系统的开发者。
但目前尚未发现官方文档
Bug 无法复现,源码无法访问,用户每天都在提交 Issue。
最令人不安的是:
这些模型似乎真的认为,自己能够完全控制自己的行为
공상 retweeted
《포스텍 SF어워드 수상 작품집》온라인 북토크를 진행합니다!
참가 신청: docs.google.com/forms/d/e/1F…
상을 탓어요,,,
생존자 분들 경사로운 소식을 알립니다+ㅁ+! 서바SF 호스트인 공상주의자가 "강철 날개"로 2026 포스텍 SF어워드 단편소설 부문 대상을 수상했어요! 함께 축하해주세요 🥳icp.postech.ac.kr/bbs/board.…
4
6
277
두번째 페이퍼!
Jeehoon Park, Jaewon Yoo: $L^2$-Hodge theory of Hybrid Landau-Ginzburg models of Calabi-Yau complete intersections arxiv.org/abs/2505.24218 arxiv.org/pdf/2505.24218 arxiv.org/html/2505.24218
3
84
우와
Jeehoon Park, Jaewon Yoo: $L^2$-Hodge theoretic construction of Frobenius manifolds for Calabi-Yau smooth projective hypersurfaces arxiv.org/abs/2505.18489 arxiv.org/pdf/2505.18489 arxiv.org/html/2505.18489
2
78
공상 retweeted
생물학적인 성이 스펙트럼이라고 말한 사람이 저라서... 손가락 수도 사람마다 다를 수 있으니, 누가 '내 손가락은 17개다'하는 것도 인정해 줘야 하느냐 물으셨는데, 전혀 아니죠! 스펙트럼이 있다는 게 어떻게 마음대로 정해도 된다의 근거가 되는지 저도 이해가 안 되네요.
You’re unable to view this Post because this account owner limits who can view their Posts. Learn more




















