炒股交易市场 “AI 教父”辛顿参与联署公开信：科技巨头应保证第三方评估人员工作无干预、受保护

　　IT之家9月18日消息，据《商业内幕》今天(18日)晚间报道，由多家监督组织组成的AI评估机构论坛发布了一封公开信，为第三方风险评估划出一套最低条件，认为Anthropic和OpenAI等AI实验室只有满足特定的要求，才能与外部评估机构开展更有效的合作。

　　公开信获得数十名AI领域人士联署，包括“AI教父”计算机科学先驱杰弗里.辛顿和斯图尔特.罗素。

　　本周，网络上对AI风险的担忧迅速升温。Anthropic CEO达里奥.阿莫迪和OpenAI CEO萨姆.奥尔特曼此前都承诺向第三方评估人员开放公司内部资源并评估AI风险，获得与员工同等级别的信息访问权限。

　　AI评估机构论坛的公开信正是对此作出回应。“要具备公信力，驻场第三方评估人员必须保持科学客观性、透明度和独立性，并得到充分保护，免受被评估企业干预。”

　　IT之家获悉，论坛认为，第三方评估人员不仅应获准公开透明地开展工作，还应能够直接与公司董事会及其他拥有特殊监督权限的机构沟通，不受企业过滤或限制，并有权公开发布评估结果。

　　这些评估人员还应受到保护，避免因评估工作遭到AI实验室报复，同时获得与企业内部评估人员相同的系统、数据、工具和实体场所访问权限。

　　公开信还主张，每家AI实验室都应引入观点和专业背景不同的评估人员，以覆盖生物科学风险、AI失控风险等多种风险领域。

　　本周早些时候，其他科技行业领袖也加入了这场讨论。微软CEO萨提亚.纳德拉称炒股交易市场，公司欢迎让第三方评估人员直接进驻AI企业开展评估的构想。