侵权投诉
技术:
GPU/CPU 传感器 基础元器件 网络通信 显示 交互技术 电源管理 材料 操作系统 APP 云技术 大数据 人工智能 制造 其它
应用:
可穿戴设备 智能家居 VR/AR 机器人 无人机 手机数码 汽车 平衡车/自行车 医疗健康 运动设备 美颜塑身 早教/玩具 安防监控 智能照明 其它
当前位置:

OFweek智能硬件网

人工智能

正文

马斯克创建OpenAI研究方向为何会遭到质疑?

导读: 马斯克与孵化器 Y Combinator总裁阿尔特曼联合创立的非营利性人工智能研究公司OpenAI一直背负着双重使命:一方面确保人工智能(AI)技术不会伤害人类,另一方面尽可能确保这项技术获得的利益分配更广泛、更均衡。

  这是一个很独特的专业视角。

马斯克与孵化器 Y Combinator总裁阿尔特曼联合创立的非营利性人工智能研究公司OpenAI一直背负着双重使命:

一方面确保人工智能(AI)技术不会伤害人类,另一方面尽可能确保这项技术获得的利益分配更广泛、更均衡。

这个组织建立的初衷是美好的,其一向坚持的“以负责的态度来开发AI技术”也的确非常重要。但是,其关注领域却一直在被业内人士所诟病——过于狭窄,不够实用。

例如,TechCrunch的知名记者 Michael Schmidt就指出,尽管 OpenAI 一直在强调“强化学习”(Reinforcement Learning)的作用。但实际上,“强化学习”是一种最不常用的AI技术,它既不会直接威胁人们和企业的安全,也不会直接为我们带来价值。

与之相反,OpenAI应该改进那些已经应用更加广泛的AI技术形式,因为它们已经对人类构成了重大威胁(监督学习)或是给人类带来了令人震惊的好处(机器智能)。

马斯克创建OpenAI的意图的确令人钦佩 但研究方向为何会遭到质疑?

因此,Michael Schmidt从专业角度,对强化学习(Reinforcement Learning)、监督学习(Supervised Learning)以及机器智能(Machine Intelligence)做了一番比较。(见解仅代表Michael Schmidt个人观点)

OpenAI认为,AI技术上存在某些完全不受控制的威胁是难以避免的。这种观点很正确。譬如,牛津大学教授Nick Bostrom著名的思维试验——“回形针最大化”(Paper-Clip Maximizer)就是一个很好的例子。

而OpenAI优先考虑的“强化学习”技术是一种机器学习算法,可应用于聊天机器人、电子游戏机等等。但有趣的是,强化学习算法通常不从数据入手,相反,该算法试图控制像机器人那样的智能体,而这样的智能体完完全全是基于它可以采取的一系列动作及其当前的状态。

值得注意的是,“强化学习”技术存在一些不足之处:它至少还需要20-30年才能真正地成熟起来,并且也不能立即用于解决大多数的商业问题。

也就是说,人们和企业并不一定非得需要聊天机器人或互动式的智能体,他们往往偏重于在他们可以分析的数据基础上获得更多数据,并专注于挖掘数据的意义与价值。

但分析师指出,从长远角度来看,强化学习最有可能塑造有感知的机器人,这项技术在未来几年里都会受到“监测”,但不该是目前高度优先考虑的技术。

监督学习带来的危机

目前,人们正在使用的一种人工智能技术可能会对社会构成更直接的威胁:标准监督学习。

但请注意,我们不考虑将人类改造成“回形针”或“灭绝人类的终结者式机器人”那些过于科幻的场景,我们只着眼于当下。

“监督学习”涉及到机器学习,需要使用过去的数据进行预测,很多时候其利用的方程式又长又复杂,以至于看起来阐述模糊,晦涩难懂。

当前许多站在机器学习与数据分析领域“最前沿”的企业都在利用“监督学习”或“黑箱建模”。随着监督学习技术日益成熟,其在业务流程中的地位变得愈发不可动摇,但也带来了一些潜在的问题。

监督学习极易受到“数据过度拟合”的影响。因此,为了涵盖并说明每个变量与历史数据点,用于解释系统工作原理的分析模型便得到了过分精细的调整,调整后便得到一个模型。但由于过去的数据主要基于样本,并不能反映出该系统更大的趋势或“规则”,因此,该模型并不能很好得推广到新的情境中。

因此,你可能最终得到的是一个只能应用于过去情况,而不适用于理解新的情况的模型。例如,如果你用监督学习算法来自动进行金融资产交易,假设这里会包含一些大萧条时期的数据。

这种情况下,算法就可能“意识”到,随着新咖啡连锁店的开业,市场可能将发生崩盘。

1  2  下一页>  
声明: 本文由入驻OFweek公众平台的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

我来说两句

(共0条评论,0人参与)

请输入评论

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码: