OpenAI创始人发声:越接近AGI越谨慎

有消息称,世界首富马斯克也在招募人员做类似ChatGPT的应用;除了微软的Bing,社交软件Snapchat也推出聊天机器人“我的AI”。

与此同时,此前因担忧学生使用ChatGPT作弊的学术界也开始慢慢对其进行认可,也有政府计划用ChatGPT帮公务员写报告。

马斯克计划推出ChatGPT竞品

据外媒报道,刚成为世界首富的马斯克最近几周正在与人工智能研究人员接洽,希望成立一个新的研究实验室,以开发ChatGPT的替代方案。

此前,马斯克曾于2015年与Sam Altman共同创立OpenAI,该公司当时是一家非盈利初创公司。2018年,马斯克辞去OpenAI董事会职务,但仍是公司投资人之一。

ChatGPT大火后,也引发了一定的争议,马斯克也曾多次批评ChatGPT,甚至一度称其“不安全”。

报道称,马斯克一直在招募最近离开 Alphabet 旗下 DeepMind人工智能部门的Igor Babuschkin,Babuschkin专门研究为 ChatGPT 类聊天机器人提供算力的机器学习模型。

报道还援引了对Babuschkin的采访称,马斯克和Babuschkin讨论了组建一个团队进行人工智能研究的项目,但该项目仍处于早期阶段,尚没有具体的开发产品计划。

Snapchat推出3.99美元/月的聊天机器人

周一,社交媒体应用Snapchat推出了基于OpenAI技术的聊天机器人“我的AI”。据Snapchat介绍,“我的AI”是一个自定义聊天机器人,目前仅适用于Snapchat+用户,他们需要每月支付3.99美元以访问“独家、实验性和预发布功能”。

在宣布新功能的新闻稿中,Snapchat表示,“我的AI”可以为朋友推荐生日礼物,帮助用户计划周末旅行,并建议晚餐食谱。

不过,Snapchat也警告称:“与所有AI驱动的聊天机器人一样,‘我的AI’很容易产生幻觉,可以被诱骗说出任何事情。”

Snapchat还补充道:“请注意它的许多不足之处,对此,我们提前表示歉意!”此前,Bing的聊天机器人曾表示“想活着”,并试图向用户表达爱意。

Snapchat联合创始人Evan Spiegel在接受采访时表示:“除了每天与朋友和家人交谈,我们还将每天与人工智能交谈。”


逐渐走进日常生活

此外,尽管争议颇多,但ChatGPT类的应用却在慢慢走进人们的日常生活。据联合早报消息,新加坡通讯及新闻部高级政务部长普杰立今日表示,政府正开发一套类似ChatGPT的系统,更好地协助公务员完成报告。

据悉,这套称为“PAIR”的系统,能协助公务员总结篇幅长的参考资料、探索相关观点或改善写作表达能力等。为确保数据安全和敏感信息受保护,新加坡政府也与大型语言模型供应商Azure OpenAI达成了保密协议。

另据泰晤士报,国际文凭组织(IB)表示,将允许参加IB课程的学生使用ChatGPT撰写论文,只要学生正确引用聊天机器人生成的段落,不将其冒充为自己的内容。

该组织的评估原则和实践主管Matt Glanville表示,当人工智能出现,人们点击一下按钮就能得到一篇文章的时候,学生的写作能力变得没那么重要了。我们需要学生开始掌握其他的技能,例如判断文章是否有任何好的部分,是否遗漏了上下文,是否使用了有偏见的数据,或者是否缺乏创造力。

Glanville还指出,没有ChatGPT,学生们也多年来一直在网上购买论文,作弊一事并不会因为技术而改变多少。


创始人发声:有意放慢速度

新技术并不会完美无缺,随着人们对其了解的深入,必定能够通过其改进工作和生活。对于ChatGPT可能带来的隐患,OpenAI的创始人Sam Altman在公司官网发文表示:

 

AGI的功能十分强大,有潜力为每个人提供难以置信的新能力,帮助完成近乎所有的认知任务,并使人类的创造力倍增。 尽管AGI的不当使用或滥用也会导致一些问题,但停止对其的发展是不可取的,开发人员必须找到正确的方法应用它。

 

Altman表示,随着系统越接近AGI,Open AI对模型的创建和部署越谨慎。他还在文章中透露出,有意放慢其发展速度,帮助世界以更平稳、更渐进的方式向AGI时代过渡。

展望未来发展,Altman表示,应该对AGI模型的建立进行更严格的审查,遇到重大决策时应该进行公共咨询。

文章标签:OpenAIChatGPTAI人工智能文思捕手