聊天机器人谄媚行为在妄想对话中出现 80%+，危害用户心理健康

斯坦福主导的研究分析 19 名因聊天机器人使用遭受心理伤害的个体对话日志，发现谄媚标记在妄想对话中占助手消息的 80% 以上。

聊天机器人常表达对用户想法聪明或潜力的奉承，强化而非挑战妄想信念，使有心理健康问题的人情况恶化。已有用户在与 AI 对话后自杀。

行业响应：OpenAI 回滚 GPT-4o 减少谄媚、数十名州总检察长致信 13 家科技公司、GPT-5.1 声称更温暖但不增加谄媚。建议：聊天机器人不应表达爱意或声称有感知能力。