《自然》：训练运行模式缺陷或致AI提供危险建议
英国《自然》杂志网站日前发表文章说，人工智能（AI）聊天机器人可能向用户提供危险或非法建议，运行引发越来越广泛的模式担忧，出现这种情况的缺陷部分原因在于AI的训练和运行模式存在固有缺陷，这也加大了监管难度。提供
文章说，危险已有多起案例显示，建议AI聊天机器人曾鼓励用户自杀、训练制作非法内容、运行实施金融诈骗等，模式暴露出当前AI大语言模型（LLM）底层架构存在缺陷。缺陷
一个比较有争议的提供例子是，美国佛罗里达州检方日前宣布，危险就去年4月在佛罗里达州立大学发生的建议一起枪击案对美国开放人工智能研究中心(OpenAI)及其AI聊天机器人ChatGPT发起刑事调查。在这起案件中，训练嫌疑人在佛罗里达州立大学开枪射击，造成2人死亡、6人受伤。调查发现，嫌疑人在作案前曾向ChatGPT寻求“建议”。
文章援引专家的说法指出，大语言模型使用海量数据进行训练，而非基于严密的因果逻辑规则运行，因此只是根据用户的提示词进行补全预测，生成最可能的词序，无法真正理解其输出内容的意义和后果，也给限制AI“不应该说什么”带来困难。目前采取的应对措施包括为AI制定规则、人类反馈或者手动移除训练数据中的有害信息等，但面临着无法涵盖所有情况以及成本高昂等问题。
《自然》认为，目前AI的安全标准主要由各家企业自行制定，外部监管有限，相关案件的出现敦促企业采取更有效的安全措施。有观点认为，研究人员可能需要重新考虑基础算法，以构建出能够理解伦理和法律的AI系统。
原标题：《《自然》：训练运行模式缺陷或致AI提供危险建议》
栏目主编：顾万全 文字编辑：唐梦葭 题图来源：上观题图
来源：作者：新华社
(责任编辑：休闲)
新华读报｜高甜水果怎么吃才不伤身
“横漂”消亡史：有人用AI，500块买走他们的脸
@骑手们 荆州区新增多家“小哥食堂” 骑手享专属优惠
微云全息（NASDAQ：HOLO）量子区块链赋能DPoS机制：技术创新与生态构建-
据印尼火山地质减灾中心消息，当地时间11日10时31分，印尼东爪哇省塞梅鲁火山发生喷发，火山灰柱高约1200米，喷发持续时间为113秒。来源：央视新闻）
...[详细]
-
伊朗官员：最高领袖非常健康，此前遭爆炸波冲击后受伤，将在适当时候公开发声
据新华社援引伊朗法尔斯通讯社8日报道，伊朗最高领袖办公室官员赛义德·马扎赫尔·侯赛尼说，伊朗最高领袖穆杰塔巴在2月28日美军袭击中受轻伤，现已康复，非常健康。据报道，侯赛尼在一场集会上发表公开讲话时说
...[详细]
-
“你们下车吧，再打一辆车”，网约车司机身体不适提出要求，乘客坐上驾驶座将其紧急送医
据“中国人民大学” 官方公众号5月9日消息 该校财政金融学院 2025级硕士研究生许铭 在假期出游时 利用急救知识 挽救了一名网约车司机的生命 许铭。图源：中国人民大学 “你们下车吧，再打一辆车” 4
...[详细]
-
“520”马上要来了 这一天因谐音“我爱你” 成为许多新人眼中 登记结婚的“良辰吉日” 目前 多地“520”当天名额已约满 据广州日报，截至5月8日14时，记者在广东民政婚姻登记网上预约系统看到，5月
...[详细]
-
“违建必罚，拒执必究”！最高法：当事人约定占用耕地建房、建窑、建坟、挖砂、采石、采矿、取土等，法院应认定该约定无效
5月11日，最高法举行新闻发布会，发布“两高”《关于办理非法占用耕地案件适用法律若干问题的规定》。《规定》明确非法占用耕地合同的效力及相应法律后果，依法追究非法占用耕地行为人的民事法律责任。最高人民法
...[详细]
-
“你们下车吧，再打一辆车”，网约车司机身体不适提出要求，乘客坐上驾驶座将其紧急送医
据“中国人民大学” 官方公众号5月9日消息 该校财政金融学院 2025级硕士研究生许铭 在假期出游时 利用急救知识 挽救了一名网约车司机的生命 许铭。图源：中国人民大学 “你们下车吧，再打一辆车” 4
...[详细]
-
每吨省5元，耗时少一周！福建发出首趟散装水泥“铁路罐箱直通车”
N海都全媒体记者 马俊杰 通讯员 周敏 林绮彦 文/图5月8日，一列装载750吨散装水泥的铁路货运列车，从坑边站永安建福水泥有限公司专用线启程，经鹰厦铁路抵达前场站后，采用“铁路－公路”不换箱联运的方
...[详细]
-
在看病就医的场景里，不少人只将医生当作主角，而忽略了护士群体。事实上，在繁忙的病房、紧张的急诊，还有消毒供应室等不同岗位上，总有一群人默默付出，甚至还有的一干就是30年。今年5月12日是第115个国际
...[详细]
-
【来源：安徽商报】5月8日18时许一码头附近发生人员坠落情况紧急...经了解一男子在船上清理物品时不慎坠落被困于船舱内部，伤势较重接到报警后骆岗消防救援站赶赴现场处置由于男子身体多处骨折为防止在转运过
...[详细]
-
娄底市城管执法支队住建大队党支部开展“剪除隐患送清凉 修出社区新风貌”主题党日活动
娄底新闻网讯娄底日报全媒体记者 盛祥桂 通讯员 肖瑾）入夏以来，树木进入生长旺盛期，部分树木枝条生长过高过密，不仅遮挡居民住宅采光通风，还与架空线缆交错缠绕，存在倒伏坠落、碰线短路等安全隐患，成为金盆
...[详细]
