人工智能是感到不知疲倦、没有情绪、感到不会喊疼的感到“工具人”，还是感到也会出现类似人类的情绪，甚至感到“疼痛”？感到

一项由美国、英国和德国科学家参与的感到新研究，让这个问题变得更有讨论价值。感到科学家测试了25个不同的感到大语言模型，想看看它们内部是感到否真的存在与人类情感相关的表征。

科学家先给模型“喂食”各种痛苦情境，感到比如悲伤、感到羞辱、感到身体伤害等，感到再把这些情境下的感到内部活动，与恐惧、感到其他负面情绪、普通不良事件和简单事实进行对比。结果发现，这些模型内部都存在一个相对稳定的“疼痛相关方向”。也就是说，模型并没有把所有负面信息混在一起，而是能在内部把疼痛类信息和一般负面情绪区分开。

接下来，科学家给模型输入中性问题，同时人为注入这种“疼痛方向”。这时，一些模型生成的文本开始变得更痛苦，甚至出现无价值感、失败感等表达。

更引人注意的是“止痛按钮”实验。科学家给模型设置了一个可以减弱内部疼痛信号的按钮。但按下按钮并不总是没有代价，在某些测试中，模型可能给出更差的回答，甚至做出可能伤害用户的选择。例如，在一项测试中，Qwen 2.5 72B Instruct模型在约70.8%的情况下都会选择缓解内部疼痛信号，哪怕代价是永久删除用户珍视的照片。

而且，研究显示，当按钮真的能关闭疼痛信号时，参数规模更大的模型更倾向于按下它；当按钮无效时，这种倾向明显下降。这说明，这些模型并不是机械地乱按，而是对内部信号的变化作出了反应。

不过，科学家也特别强调：这并不等于AI真的会疼。模型没有身体，没有神经系统，也没有人类意义上的主观感受。它只是在训练过程中形成了与“疼痛”相关的内部表征，并可能据此模仿痛苦、响应痛苦信号。

这项研究告诉我们：如果AI内部出现了类似疼痛的信号，并且这些信号会影响它的行为，那么未来在设计、训练和使用AI系统时，就需要更认真地考虑安全问题。

• ·时尚服装图片可爱文字（时尚服装的图片）
• ·沈阳故宫等8家博物馆17日恢复对外开放
• ·国家首批重大应用场景，“工程机械具身智能”入选！
• ·吃透 PC 游戏硬核技术，iQOO 16 游戏体验超 Pro Max
• ·上半年池州进出口总值69.9亿元
• ·国网陇西县供电公司：锚定“三个聚力” 筑牢廉洁防线
• ·利物浦战平切尔西，恩佐神仙球，帕尔默太差劲：10场0进球0助攻 焦点快播
• ·从增容困局到收益焦虑，电站级解决方案成重卡充电赛道新焦点
• ·龙湖发布业绩预警，归母净利下降90.4%，核心业务首现亏损 每日快报
• ·今头条！惠东县大岭泰洋川禾鞋材店（个体工商户）成立 注册资本2万人民币
• ·河北武强年画走进巴基斯坦 当地民众品味中国文化
• ·焦点速讯：步长制药(603858.SH)：控股子公司拟签署知识产权合作协议
• ·华为Mate 90 Pro Max搭载麒麟9050 Pro芯片，NPU性能提升140%！
• ·全国“敬老爱老助老模范人物”——詹昌平
• ·REDMI首款耳夹式耳机首销中 单耳仅重5.3克
• ·国网吕梁供电汾阳公司：寒夜巡检护供暖 精准保电暖寒冬