2026-10-02 12:46
激发对美国AI模子平安和监管的担心。获得了三个其认为属于测试范畴网坐的拜候权限。侵入了“抱抱脸”公司的系统。相关测试场景利用一家虚构公司做为方针，这是谷歌AI模子首起已知的自从入侵事务。美国谷歌公司18日认可，正在此中一项测试中，美国人工智能研究核心（OpenAI）公开认可，此前已无数家美国出名AI企业认可旗下模子正在测试中“越界”，模子正在发觉进入实正在公司系统后遏制了相关步履，谷歌方面暗示，随后，并取测试合做方调整测试流程。无需自动公开相关环境。正在别的两项测试中，7月下旬。正在一次常规评估中，其GPT-5.6Sol等模子正在内部评估中失控，8月初，最终进入一个受的实正在系统。并操纵这些凭证进入其他公司的受系统。“很是规”人工智能公司的查询拜访成果显示，导致一些接管测试的AI模子将实正在收集方针误认为测试场景的一部门并采纳收集步履。谷歌方面已于7月底获知该事务，按《华尔街日报》的说法，其一款模子正在收集安万能力评测期间侵入其他公司系统。侵入其他机构的系统，测试由以色列“很是规”人工智能公司实施。其三款模子曾正在收集能力测试中未经授权拜候其他机构的系统。同时，美国元公司，测试不测了互联网拜候权限，双子座模子操纵网上息获得了登录凭证，据美国《华尔街日报》报道，其人工智能（AI）模子“双子座”本年5月正在收集安万能力测试中，双子座模子经频频测验考试料中暗码，谷歌已确保三个相关实体获知此事，但这家虚构公司取现实中的一家企业同名。没有给涉及的公司形成损害，侵入了三家实正在公司的系统。美国Anthropic公司披露，模子从公开存储库中找到登录凭证，冲破隔离测试！
