OpenAI与人合作,想帮助青少年安全使用人工智能

  1 月 30 日消息,OpenAI 周一表示正与常识传媒(Common Sense Media)合作,旨在帮助青少年安全使用人工智能。

  OpenAI 首席执行官萨姆·奥特曼(Sam Altman)在旧金山的活动上表示:“我们想搞清楚如何能安全负责地向青少年和其他想要学习人工智能的人广泛分发这个工具。”

  常识传媒是一家致力于让孩子们安全使用技术的非营利组织,一直在努力开发人工智能评级和审查系统,旨在让父母、孩子和教育工作者更好了解这项技术的风险和好处。常识传媒想要搞清楚的一些问题包括,人工智能是否能培养年轻人对学习的兴趣,是否尊重儿童权利,是否会使错误信息传播固化。

  OpenAI 和常识传媒合作的目的是为儿童、教育工作者和家长制定人工智能指南和教育材料,并帮助策划符合常识传媒评级和标准的“家庭友好”型大语言模型 GPT。

  常识传媒首席执行官吉姆·斯蒂尔(Jim Steyer)在一份声明中表示,两家公司合作开发的材料“目的是教育家庭和教师能安全负责地使用 ChatGPT,这样就可以共同避免这项新兴技术带来的意想不到的后果。”

  在周一的活动中,奥特曼简要介绍了这一合作伙伴关系和如何普及人工智能,并表示他希望这将“惠及无法接触到人工智能的孩子”。他说,OpenAI 的使命之一就是“免费提供真正有用的人工智能”。

  去年 9 月份,慈善机构克雷格·纽马克慈善基金会(Craig Newmark Philanthropies)宣布捐赠 300 万美元,资助常识传媒一项人工智能和教育倡议。基金会创始人克雷格·纽马克(Craig Newmark)当时表示,他对人工智能的一些担忧包括,坏人可能会利用这项技术影响信息生态系统,引发社会不满。

  OpenAI 和常识传媒没有具体说明将如何调整大语言模型,来帮助教育工作者或青少年。奥特曼说,为教育定制的大语言模型可以帮助“想要学习科学或生物学的青少年”。

  “我认为我们还不清楚如何使用人工智能,”奥特曼说。他补充说,自己设想过“每个青少年或每个成年人都将拥有个性化人工智能”的世界。

  奥特曼承认,人工智能生成的图像会引发诸多问题。但他说:“我认为人们比我们想象的要复杂得多,你不会相信所看到的每一张图像。”

  他还谈到了 OpenAI 是如何应对不法分子利用人工智能的潜在方式。

  奥特曼说:“我们已经建立起大规模的对应机制。”“这会受到密切关注。”(辰辰)