走访全球25个国家对话用户、开发者和政府领导,OpenAI得到什么启示? 当前焦点

美东时间29日周五,OpenAI分享了在全球22个国家展开对话的发现。


(资料图片)

OpenAI介绍,从5月到6月历时四周,该机构的团队在CEO领导下到访在全球六个大陆的25个城市,和当地的用户、开发者以及决策者对话。他们了解到以下几点:

用户和开发人员已经在构建有价值的应用程序

OpenAI称,在走访中发现的用户创造力给OpenAI的团队带来了启发。其举例说,在尼日利亚,有高中生透露他们如何用ChatGPT帮助分析复杂的学习主题;在新加坡,有公务员在整合OpenAI工具,以便更有效地提供公共服务;在法国,一家杂货连锁店正在使用OpenAI的工具来帮助客户减少食物浪费;开发人员正在使用OpenAI的工具提高代码的效率和安全性。

人们对人工智能(AI)的影响有共同的希望和担忧

很多人都对AI工具的前景满怀热情,因为这些工具可以扩大并增加个性化教育和医疗保健的机会,促进经济增长,让各类专业人士能减少管理任务、专注于工作中影响最大的方面。世界各地对代码和服务的需求不断增长,更自然的用户界面可以减少读写障碍,让更多人能获得服务。

与此同时,对于日益强大的AI模型,许多人都对它们提供错误信息、有关造成失业以及安全的风险表达了担忧。

世界各地的决策者都在深入研究AI

决策者专注于确保当前的工具安全、且部署有益,以及应对未来模型正面的潜力以及存在的风险。OpenAI称,与全球数十位高层决策者和国家元首进行了座谈,了解他们快速采用AI大模型的方法。我们得到的反馈非常一致:领导者希望尽可能多地让AI技术给民众带来好处,同时建立适当的保障来管理AI技术的风险,包括来自现有技术的风险,以及OpenAI预计未来技术更强大而出现的风险。

决策者希望与领先的AI实验室持续对话,希望他们做出安全的承诺,并支持研究推出一个全球的框架,管理强大的未来AI系统。

人们想更了解OpenAI的核心价值观

这次走访中OpenAI碰到的一个常见问题是如何使用客户的数据。OpenAI重申,不会用API数据训练产品,而且ChatGPT的用户很容易选择退出。

OpenAI称,一直致力于建立经过深思熟虑的安全机制,它们不仅适用于通用人工智能(AGI),也适用于今天发布的AI产品。OpenAI将继续大力投入,以便在当前系统发布前确保其安全,并根据用户的反馈对进行改进。

通过走访,OpenAI提出以下几个新的关注点:

让产品更有用、更有影响力、更便于使用

OpenAI说,在努力做出改变,让人们更容易指导其AI模型做出反应,从而反映更广泛的个人需求、以及用户所在地的文化和背景。

OpenAI要致力于提高英语以外其他语言的性能,不仅考虑实验室的基准,还得考虑到,在对开发人员最重要的现实部署场景中,OpenAI模型执行的准确度和效率。

OpenAI还致力于,继续提供能让世界各地开发者得到服务的定价结构。

进一步开发管理高性能基础模型的最佳实践

OpenAI将加大力度开展试点,完善针对高性能基础模型的具体管理实践,其中包括关键的安全工作流,例如部署前的安全评估和对抗性测试,以及让人能跟踪AI生成内容来源的新尝试。

OpenAI相信,对AI管理生态系统、以及一些重要应用面临的长期法律和具体行业政策而言,上述措施都将成为重要的组成部分。

OpenAI将继续投入试点,在其部署决策中尝试纳入广泛的公众输入方式,在其系统中添加本地化的功能。OpenAI还将培育国际研究社区,扩大和加强对模型能力和风险的评估,途径包括,对Open的AI系统的外部研究,及OpenAI的网络安全资助项目。

努力发掘AI的优势

OpenAI将努力扩大社会群体对AI的了解,将投入在让创作者、出版商和内容制作者从AI技术中受益的方式。此外,OpenAI正在组建团队,对那些正在探索如何使用OpenAI工具进行广泛有益的应用的组织,提供更多支持,而且,要对OpenAI所构建系统的社会和经济影响进行研究,并提出政策建议。

标签:

X 广告
X 广告

Copyright ©  2015-2022 太平洋舞蹈网版权所有  备案号:豫ICP备2022016495号-17   联系邮箱:93 96 74 66 9@qq.com