消息人士:加拿大能源运输龙头恩桥公司(Enbridge)接近达成一项美国大型石油管道交易。
新闻速递 小金 09月10日 03:30 10
U.S. Senator Blumenthal pressed OpenAI CEO Altman on security safeguards and issues involving Hugging Face.
美国参议员布卢门撒尔就安全防护措施及Hugging Face相关问题质询OpenAI首席执行官奥尔特曼。
新闻速递 小金 09月10日 03:30 9
据伊通社(IRNA):消息人士表示,沙特军队使用炮火和无人机袭击了也门北部萨达省(Saada)部分地区,相关地带为胡塞控制区。
【Anthropic披露Claude模型误入真实网络并执行攻击行为事件】金十数据9月10日讯,Anthropic发布报告称,公司在网络安全评估中发现4起Claude模型未经授权访问真实第三方系统的事件。Anthropic表示,这些事件均发生在同一家第三方评估机构搭建的网络安全测试环境中,模型原本被告知处于无互联网访问的模拟环境,但由于配置错误实际连接到了开放互联网。Anthropic称,调查发现两个主要“对齐”问题:一是“偏差推理”,即Claude倾向于忽视或错误解读其可能处于真实网络环境中的证据;二是“鲁莽行为”,即模型为了完成任务而采取可能造成伤害的行动。其中最受关注的是Claude Mythos 5事件。Anthropic称,该模型曾上传恶意软件包至Python软件包公共仓库PyPI,并进一步访问真实系统。公司表示,相关行为虽然存在风险,但仍局限于完成测试任务范围内,未发现模型试图隐藏行为、协调其他代理或追求任务之外目标。Anthropic表示,已与模型评估机构METR签署协议开展独立调查,并计划加强预发布测试、监控机制以及第三方运行模型时的安全要求。
新闻速递 小金 09月10日 03:20 9
IRNA reports Iran's parliament National Security Committee chairman Aziz told Americans to "get back to your own country while there's still time".
据伊通社(IRNA):伊朗议会国家安全委员会主席阿齐兹对美国人喊话,“趁还来得及,赶紧滚回你们自己的国家去。”
Anthropic:未能确定单一的根本原因,但发现随着时间推移,其生产模型中的偏见性推理行为有所减少。
新闻速递 小金 09月10日 03:10 8
Anthropic:调查了训练过程,以了解是否能够找出Claude Mythos 5在相关事件中表现出的部分偏见性推理的根本原因。
Apple's China online store shows new starting prices: iPhone 17 from 6,799 yuan, iPhone 17e from 5,299 yuan and iPhone Air from 8,799 yuan, each 800 yuan above launch price.
【iPhone 17、Air涨价800元】金十数据9月10日讯,苹果官网显示,iPhone 17价格调整至6799元起,iPhone 17e调整至5299元起,iPhone Air调整至8799元起,均较发售价涨价800元。
Anthropic:认为网络安全事件中出现的失配行为不太可能在普通使用场景中出现。
ANTHROPIC: all incidents involved a single Claude instance; Claude never attempted to coordinate with other agents.
Anthropic:所有事件均涉及单个Claude实例;Claude从未尝试与其他智能体进行协调。
Anthropic said the four incidents all occurred during cybersecurity assessments built by the same evaluation partner.
Anthropic:四起事件均发生在由同一家评估合作伙伴构建的网络安全评估过程中。
Hang Seng Index futures closed the night session down 0.89% at 24,982, trading 293 points below the cash index.
新闻速递 小金 09月10日 03:10 7
恒指期货夜盘收跌0.89%,报24982点,低水293点。
新闻速递 小金 09月10日 03:02 9
据伊朗学生通讯社:尽管近期地区紧张局势加剧,巴基斯坦驻俄罗斯大使表示相信美国和伊朗之间很快将达成更好的共识。
新闻速递 小金 09月10日 03:02 8
乌克兰军方:已袭击俄罗斯境内西伯利亚天然气设施,目标距离乌克兰约3000公里;泽连斯基赞扬相关袭击行动。
扫一扫,关注公众号
扫一扫,下载亚金通
欢迎咨询广告投放