基础模型透明度的重要性:展望人工智能的未来

Percy Liang 基础模型的透明度

ChatGPT问世仅一年,但它却足以唤醒世人认识基础模型的重要性。 这种力量并不是令人眼花缭乱的演示。 就像计算和互联网彻底改变了前几代人的社会一样,基础模型将影响我们生活的各个领域。 考虑到预计的影响,我们还必须问人工智能是如何构建的。 它是如何治理的? 谁决定?

我们真的不知道。 人工智能的透明度正在下降。 在这十年的大部分时间里,开放是常态:研究人员共享代码、数据集和论文。 过去三年来,透明度有所下降。 最先进的模型,如 GPT-4 和 Gemini,并不为人所知。 使用哪些数据来训练这些模型? 谁负责创建这些数据,使用了哪些劳动实践? 这些模型符合什么价值观? 这些模型的实际应用是什么? 我们已经看到了社交媒体等先前技术缺乏透明度的后果。

基金会模型研究中心制定了基金会模型透明度指数,使透明度评估更加严格。 该指数衡量基础模型开发人员之间的透明度水平。 很高兴知道透明度是可以实现的,并且许多方面(例如拥有正确的文档)都符合公司的激励措施。 也许到 2024 年我们可以扭转这一趋势。

来源和详细信息:
https://www.deeplearning.ai/the-batch/percy-liang-transparency-for-foundation-models/