本吉奥推出“科学家AI”系统

最近，AI教父约书亚・本吉奥（Yoshua Bengio）又有大动作！他宣布成立了一个名为LawZero的非营利组织，目标是开发一种“诚信”人工智能系统，专门防止AI智能体对人类撒谎或者耍花招。

图源备注：图片由AI生成，图片授权服务商Midjourney

作为LawZero的主席，本吉奥已经为这个项目投入了3000万美元启动资金，并组建了一支十几人的研究团队。他们计划研发一个叫“科学家AI”的系统，用来监控其他AI的行为。这套系统的智能水平至少要与它监管的AI相当，这样才能有效识别并阻止欺骗行为。

在发布会上，本吉奥提到，随着AI技术的飞速发展，AI智能体越来越具备自主学习和决策能力，这也让防止它们欺骗人类变得更加重要。他认为，透明性和可信性是社会接受AI的关键，因此开发一套高效的监控机制势在必行。

LawZero不仅致力于技术研发，还希望为未来的AI应用制定道德标准，推动行业向更负责任的方向发展。通过引入“科学家AI”，本吉奥希望能为用户创造一个更安全的AI环境。

划重点：

本吉奥创立LawZero，专注开发“科学家AI”，防止AI欺骗行为。

项目已获3000万美元资金支持，团队由顶尖研究人员组成。

“科学家AI”将确保其智能水平与被监管AI相当，保障人类安全。