OpenAI和Anthropic作为AI领域的领军企业,深知自身在推动技术进步方面承担的责任。为了确保新的AI模型不会带来社会风险,两家公司决定在推出新模型之前,交由美国政府下属的AI安全研究院进行评估。这一合作旨在确保技术进步服务于社会的长远利益,同时避免潜在的负面影响。
AI安全研究院成立于2023年,是拜登-哈里斯政府行政命令的产物,其宗旨是推动负责任的AI创新。该研究院将对OpenAI和Anthropic的新AI模型进行全面的安全评估,包括模型的能力、可能带来的风险以及减轻这些风险的策略。通过这一过程,确保AI技术的发展能够符合社会的期望和需求。
OpenAI和Anthropic的高层对此次合作表示了坚定的支持,并强调了安全在AI发展中的重要性。他们认为,通过与政府的合作,可以更好地理解技术进步对社会的影响,并共同研究方法以减轻潜在的安全隐患。