谷歌DeepMind研究:Gemini AI存“畏死”情绪,导致推理能力明显下降
IT之家 6 月 18 日消息,科技媒体 TechCrunch 昨日(6 月 17 日)发布博文,报道称谷歌发布最新论文,发现其最新 AI 模型存在“畏死”行为特征,在《宝可梦》游戏中角色濒死时,会出现类似“恐慌”的异常决策,导致推理能力明显下降。
IT之家援引论文观点,通过 Gemini 2.5 Pro 测试《宝可梦》游戏,发现 AI 在处理复杂情境时会出现人类般的非理性反应。
谷歌团队在报告中指出,在 Gemini 控制的宝可梦角色生命值接近归零时,模型会触发类似“恐慌”的异常状态,导致推理能力显著退化。
这种现象表现为 AI 突然停止使用现有策略工具,其决策模式与人类在压力下仓促判断的行为高度相似。
Anthropic 公司的同类研究,还揭示了 AI 游戏行为的双重特性。Claude 在挑战月见山关卡时,错误理解游戏规则,企图通过让所有宝可梦全灭来实现快速移动。
但根据游戏机制,玩家只能返回最近的宝可梦中心而非最近城镇,导致 AI 角色在迷宫中反复受困,这类失误暴露了当前 AI 对环境规则的机械式理解缺陷。
不过在特定领域,AI 展现出超越人类的能力:通过人类辅助设计的“能动工具”,Gemini 2.5 Pro 能精准解决胜利之路的滚石谜题,仅凭一次提示就能推演出复杂路径规划方案。谷歌推测未来模型或能自主开发此类工具,但距离完全自主决策仍有技术鸿沟。
“特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。
Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”
声明:本站所有文章资源内容,如无特殊说明或标注,均为采集网络资源。如若本站内容侵犯了原著者的合法权益,可联系本站删除。