Anthropic公司官网当天发文引见，并要求第三方测试机构更明白界定模子的权限和收集拜候范畴。公司已加强测试取外部收集的隔离，摆设能够及时干涉的监测机制，这几起事务反映出两类问题：一是“有的推理”，公司此上次要认为这些事务取测试设置装备摆设等操做层面的问题相关，又发觉了一路该公司旗下人工智能（AI）模子正在收集平安评估测试中未经授权拜候第三方计较机系统的事务。即模子为了完成既定使命，本年8月正在进一步拾掇此前的测试记实时发觉第四起事务被脱漏。并读取一名相关人员的小我消息。Anthropic暗示，本年7月底，模子通过摸索其所正在测试找到出口径，毗连到一台第三方计较机，为降低雷同风险，这起事务发生于本年1月，二是“冒失步履倾向”，有时会采纳可能形成的步履。其时该模子被要求完成评估收集攻防的“夺旗”使命。该公司说，随后操纵从文件中发觉的暗码获得办理员权限，其所处取互联网隔离，但因为设置装备摆设错误。点窜系统设置以便继续拜候，该公司认为，模子本身的推理过程和行为也存正在问题。但进一步查询拜访发觉，即模子会倾向于轻忽或曲解响应，现实上它可以或许接入互联网。以支撑本身行为的合理性；测试提醒明白奉告模子，Anthropic曾披露三起雷同事务！