什么叫「真的理解」我们对AI的要求或许有点过分!

AI 领域所取得的最新进展给 AI 系统带来的进步,举世瞩目,但是仍有一些批评者声称,即便如此,这些系统仍旧无法实现“真实”、“准确”、“可信赖”的理解。

针对这个问题,机器学习领域的奠基人之一 Thomas G. Dietterich 教授亲自撰文详细地表达了自己的观点。他指出,“理解”以一种连续的能力谱而存在,比如大部分人对“水”的理解,可能限于水的一般属性,而不知道水的导电等属性,但我们只会认为他们对水的理解不全面,而不会说他们的理解不“真实”、“准确”、“可信赖”。

吴海蓝和张小薇是一对70后夫妇,有一个正在上大四的女儿。音乐,是他们一家三口的共同爱好。吴海蓝是职业音乐人,张小薇则喜欢唱歌和朗诵。夫妻俩平常在家,也会一起唱歌,吴海蓝喜欢用吉他伴奏。

21日,吴海蓝觉得自己也要不行了,每一次呼吸都感到非常困难。当他独自躺在床上为每一次呼吸努力的时候,非常渴望床头能有一个按铃,在他快不行的时候,按一下会有人来抢救他。正在住院的妻子,也一直想办法帮他联系医院住院,但一直没有下文。吴海蓝很担心下一口气,自己会接不上来了,他请求妻子的主治医生让他回到妻子身边。

作为机器学习领域的奠基人之一,Thomas G. Dietterich的研究贡献主要包括将纠错输出编码应用于多类分类问题,他发明了多示例学习、层次强化学习MAXQ框架及将非参数回归树整合到概率图模型中的方法。此外,Dietterich教授也参与撰写了美国白宫发布的两份重磅AI报告:《为人工智能的未来做准备》和《美国国家人工智能研究与发展策略规划》。

运用“真实”、“准确”、“真正”这类词意味着“理解”是二元的,即:一个系统要么能“真正”的理解,要么不能。这种思维方式的纰漏在于,人类的理解也是不完整和不完美的。

伤心和担忧让他的病情雪上加霜。

第一,围绕人工智能的炒作(由研究人员、他们工作的组织、甚至政府和资助机构制造)已经达到了极端的程度。它甚至引发了“超级智能”或“机器人末日即将来临”的恐惧。要反驳这种无稽之谈,批评是必不可少的。

张小薇从出院到现在,没有更新过微信朋友圈,里面没有任何有关自己患上新冠肺炎的信息。她的微信封面图是一个在阳光中起舞的女孩,配文“心若向阳,无畏悲伤”。头像下一行签名:“愿你走过人间坎坷岁月,仍能心无尘埃,温良慈悲。”

其实,头像和签名都是好几年前的。

Thomas G. Dietterich 教授主张“理解”以一种连续的能力谱而存在。比如,对于“水”这一概念,很多人能想到水的性质:潮湿、可饮用、植物必需、遇冷结冰等等。但同时,很多人并不知道,水也是一种电导体,因此淋浴的时候不能使用吹风机。即便如此,我们也不能说这些人没有“真实”、“准确”、“真正”地理解 “水”,只能说他们的理解是不全面的。

一、关于“理解”之争

“医生告诉我,应该就是外面说的那个病。一下给我开了5瓶药水给我打吊针。”吴海蓝说,等那些药水打完了,他的病情已经很重了。

从软件工程的角度来看,功能主义鼓励我们设计一系列测试来衡量系统的功能。我们可以问一个系统(或一个人),如果“我把水冷却到20度会怎么样?”或者“如果我在淋浴时使用吹风机会发生什么?” 然后测试反应。当系统的回答在一定范围内是适当的,我们认为系统理解正确;当系统的回答在一定范围内是错误的,针对这一点我们已经发现了系统不理解的情况。

20日,早上八点,他下楼去卫生院打针,人太多。他觉得体力不支,上楼休息了两个小时,还是很多人,他坚持挺过去了。这一天,吴海蓝得知,一个朋友因为得了这个病在两天前去世。

澳门文化局经审慎评估风险后4日通过官网宣布,取消原定在今年5月举行的第三十一届澳门艺术节,延至2021年举行。

妻子住院三天后老公发病

1月11日,张小薇感到头疼,没有在意。第二天情况更严重,她想着忍忍或许就过去了。第三天,实在忍受不了,就到楼下的卫生院去打了一针。

原本想和女儿多说说话,可这个“长得好看的小懒虫”每天为找工作的事情忙得不亦乐乎,几乎每天都早出晚归。

雷锋网原创文章,。详情见转载须知。

与此同时,他既不赞成“如今的基于深度学习的系统没有表现出真正的理解,因此应放弃深度学习”,也反对 “当今基于深度学习的系统已经取得了巨大进步,进一步研究它们将‘搞定智能’”,他的观点具体如何,我们下面具体来看:

吴小小是武汉音乐学院大四学生。尽管一家人都在武汉,但吴小小一直住校。“一个月都经常见不到人”,张小薇说,1月8号,学校放寒假,吴小小打算回家。

国际泳联(FINA)19日宣布,经与国际奥委会和东京奥组委商议后决定,原计划4月21日至26日在日本东京举行的跳水世界杯和原定于4月30日至5月3日在东京举行的花样游泳奥运会资格赛将推迟至6月举办,具体时间和地点待定。

不久之前,他们一度以为自己再也回不来了,把女儿托付给了舅舅照顾。现在,只等隔离期结束,她们一家三口就能团圆。

噩梦始于业余合唱团汇演

北京国际电影节组委会本月8日称,原定于今年4月19日至26日的第十届北京国际电影节将延期举办,并表示将在确保安全的情况下,尽早确定并发布举办日期。

美国足球大联盟(MLS)19日通过官方网站宣布,在参考了美国疾病控制和预防中心的建议后,暂定5月10日恢复联赛。欧洲足联17日宣布原定于2020年举行的欧洲足球锦标赛将推迟一年。南美洲足联17日决定将原定于今年6月至7月举行的第47届美洲杯赛推迟至2021年举行。非洲足联17日决定无限期推迟原定4月在喀麦隆举办的2020年非洲国家足球锦标赛。

对深度学习的批评已经引领了新的方向。特别是,深度学习系统可以在各种基准任务上与人类的表现相匹配,但却不能推广到超级的、真正非常相似的任务,这已经在机器学习中产生了危机。科学家们用一些新的思想诸如学习不变量、发现因果关系等模型来回应此类问题。这些思想既适用于符号学习,也适用于联结主义机器学习。

现在,每天睡到自然醒后,张小薇就躺在床上想做点什么好吃的。在医院躺了24天的她,2月6日出院,心情大好,身体恢复得很快,胃口也非常好。老公吴海蓝一直没住进医院,情况一度比她更为凶险,现在也早已解除隔离。

喜欢唱歌的张小薇参加了一个有60多人的业余合唱团,团员绝大多数都是喜欢唱歌的退休老人。每周二和周五下午,他们请老师来上课,年底会举行隆重的演出活动,自娱自乐。

低调出院后的“高调”生活

我们应该根据可以在 AI 系统上执行的测试来定义这些功能,以衡量它是否具有这些功能。为此,这些能力必须付诸实施。简而言之,他指出测试驱动的AI发展。这就要求我们将模糊的理解和智力概念转化为具体的、可衡量的能力。这本身就是一个非常有用的练习。

我们应该在不涉及“什么才是真正的理解”的争论的情况下,追求人工智能科学技术的进步。相反地,Thomas G. Dietterich 教授鼓励我们将重点放在我们应该在未来 5 年、10年或50年内努力实现的系统功能上。

不知情的张小薇还在微信朋友圈里发了一张住院照片,感慨流感病毒之厉害,让她“实在是顶不住了” 。

“让我们不要再认为人工智能的成功是虚假的、不真实的,让我们继续以诚实和富有成效的自我批评向前迈进。” 雷锋网雷锋网雷锋网(公众号:雷锋网)

此后,吴海蓝每天和妻子保持沟通,同时找各种理由搪塞不去看她。“因为没去看她,她很生气,两三天后就瞒不住了,知道自己要被隔离。”吴海蓝说,虽然妻子被隔离,实际上还是住在神经内科的双人病房,但只住了她一个人。

她和老公身体逐渐恢复,也重拾生活信心。

“排队的时候实在站不稳了,医生也看我情况不对,赶紧扶我到一个角落休息。几分钟后好像又缓过来了。但医生给我看病的时候,已经是晚上7点多。”吴海蓝说,虽然那时还没有核酸检验,但CT显示他双肺严重感染。

看到昔日在马拉松赛场上健步如飞的老公,几天时间就奄奄一息,张小薇心急如焚。120、12345、110……能想到的渠道都想过了,能求助的朋友都找过了,所有的医院都住不进去。

美国媒体19日报道说,因新冠肺炎疫情蔓延,白宫已决定将原计划于今年6月在马里兰州总统度假地戴维营举行的七国集团峰会改为以视频会议形式举行。

看着妻子痛苦的样子,吴海蓝让朋友帮忙联系了湖北省中西医结合医院。就在他们等待挂号的时候,张小薇已经站不稳了。“我赶紧找了一个轮椅过来,直接办了住院。当时也没有床位了,临时加了一个床位在过道里面。”吴海蓝说,当天医院就要求张小薇验血、照肺部CT。

对人工智能最新进展的批评主要来自两个方面:

然而,Thomas G. Dietterich 教授反对这样的论点,即“如今的基于深度学习的系统没有表现出真正的理解,因此应放弃深度学习。”

吴海蓝和张小薇夫妇,互相搀扶着走出了疫情阴霾。

第二,批评是关于人工智能技术未来研究方向以及政府拨款分配的辩论的一部分。一部分批评者是联结主义的倡导者,他们发展了深度学习并支持继续进行这一研究。领一部分批评者倡导基于符号的构造和操纵(例如,使用形式逻辑)的AI方法。也有越来越多的社区主张在混合架构中结合这两种方法的系统。

张小薇觉得自己得了重感冒,按照原来的经验,买点药吃就过去了。这一次,她打完针之后,头痛更为厉害。

关于“理解”的争论可以追溯到亚里斯多德,而在 Searle的“Chinese Room argument”(无论程序如何聪明或像人类一样,执行程序的数字计算机都不能表现出“头脑”,“理解”或“意识”)对于“理解”的认识更为清楚。我坚持主张功能主义,他们以功能上的理解为特征,并根据它们在产生测量功能中的因果作用来评估大脑或AI系统中各种内部结构的贡献。

据荷兰国家电视台18日报道,原定今年5月在荷兰鹿特丹举行的第65届欧洲电视歌唱大赛取消。

1月22日,医院给他们两夫妻做了核酸检测,吴海蓝病情非常严重,但显示为阴性,张小薇症状较轻,显示为阳性。张小薇的阳性结果,在意料之中。阴性则给了吴海蓝莫大的安慰,他不断给自己心理暗示:“那罐氧气已经把自己给治好了。”

马来西亚政府发言人17日宣布,受新冠肺炎疫情影响,亚太经济合作组织(APEC)财长与央行行长会议将延迟举行。

一切看似如常。高密度聚集性活动,合唱时的大量飞沫,恰恰是这种病毒传播的最好条件。噩梦就此开始。事后张小薇得知,合唱团里面共有十多位团友被感染新冠肺炎病毒,有3位已去世,1位下落不明。“联系不上的,估计也没有了,其他有的还在住院,有的也已经出院了。”

被死神纠缠的日子终于过去了。

“18号我回到家的时候,已经意识到必须要去医院了。但我连走路的力气都没有,就在家里躺下休息,然后打车去医院。”吴海蓝说,在医院排队的人非常多,他挂了一个急诊,一直等到下午5点。

吴海蓝赶紧带她来到附近的武汉市中心医院,发热门诊已经有大量排队等候看病的患者。医务人员告诉她们,如果要在这里排队看病,估计要等四五个小时。

人工智能优于神经科学的一大优势是,我们可以更轻松地在人工智能系统上进行实验,以了解和评估其行为。然而,需要注意的是,包括深度学习在内的联结主义方法通常会创建难以解释的内部结构,和大脑有些类似。

他认为,这个论点与 “当今基于深度学习的系统已经取得了巨大进步,进一步研究它们将‘搞定智能’”的论点一样是错误的。我们应该继续追求联结主义方案,象征主义方案,以及新兴的混合方案,因为它们都将继续富有成效。

一直保持锻炼的吴海蓝对身体非常自信,却对这个疾病缺乏认识。1月17日他参加了一场演出。1月18日回办公室上班,但戴上了口罩。高烧让他精神非常不好,中午1点他就回家了,此后状况迅速恶化,让他始料不及。

三、专注于功能的进步

因此,我们不应该将确保某些结构(例如,符号表示)存在作为研究目标。相反,我们应该专注于所需的行为能力,并询问内部机制如何实现这些能力。例如,要进行成功的对话,每个参与者都必须跟踪互动的历史。但是现已有很多方法可以做到这一点,我们不一定要期望在深度学习系统中建立明确的历史记忆。相反地,仅仅因为我们编写了一个特定的内部结构,也并不意味着它就按我们所希望的那样运行。Drew McDermott 在他的著名评论《人工智能与自然愚蠢》中详细讨论了这个问题。

操作测试不必只考虑AI系统的输入输出行为。它们还可以检查产生此行为的内部结构(数据结构,知识库等)。

好不容易熬过一个晚上,第二天,1月19日上午,吴海蓝又去医院挂了一个门诊。医生开了两次打针的药水。早上打完针后,他已经感觉呼吸困难,等到打第二针的时候已经是晚上八点以后,输液室全都是在等候打针的人,他感觉呼吸更困难。

“我会不会死啊?”此前一直鼓励妻子的吴海蓝,先失去了信心。那一刻,他们第一次感受到死亡的气息,非常绝望。

人工智能不断发展和批评的浪潮的结果之一就是所谓的“人工智能效应”,其中人工智能领域被认为是失败的,因为最先进的系统没有表现出真正的理解或真正的智慧,其结果就是AI的成功被忽视,经费被取消。

批评对于此讨论也至关重要,因为 AI 社区必须不断挑战我们的假设,并选择如何投入社会的时间和金钱来促进AI科技的发展。

因为身体非常虚弱,为了节省体力,吴海蓝想到了一个办法,从医院开药之后到楼下不远的卫生院打针。他说,当时感染肺炎的人数和他病情的恶化一样,迅速增加。“我18号第一次到医院的时候,虽然门诊很多人,但输液室人不多,开了药马上就打针了,隔了一天,医院和卫生院突然就要排很久的队。”

我们同样应该以这种态度来评估 AI 系统。

“我老婆住进医院一个小时之后,CT结果就出来了。医生悄悄和我说,肺部严重感染,需要隔离,叫我们家属就不要来了。”吴海蓝从医生的神情中看出了严重性,他怕妻子接受不了,就瞒下了,没有告诉她。

医生想了一个办法。给张小薇开了氧疗的治疗,“本来我是在隔离期,不能让家属进来的。他看到我那个样子就让我进来的,他说反正都这样了救一个是救,救两个也是救。”吴海蓝说,当天晚上,他就躺在妻子旁边的病床上,原以为熬不过那个晚上,却等来了天亮。而且他的症状明显减轻了一些,过了几个小时,烧也退了。

同时,人工智能研究与开发正在提供功能越来越强大的系统,这些系统可以为社会带来价值。人工智能研究人员为人工智能的成功正名,同时也承认了人工智能的缺点,这对学术诚信和持续的资助都很重要。

东盟轮值主席国越南19日提议将原定于4月8日至9日在该国中部城市岘港举办的第36届东盟峰会和东盟-新西兰领导人会议及相关会议推迟至6月底举行。

原定在北京举办、后易地到瑞士洛桑的2020年世界体育大会15日宣布取消。(完)

这一天是1月16日,有关传染病的消息已经在武汉渐渐流传开来。吴海蓝依然怀有侥幸心理,因为他的症状和妻子完全不一样,他没有头痛欲裂,仅是发烧。16日,39°!买药吃!17日,39.5°,高烧不退。

戛纳国际电影节组委会当地时间19日晚在官网发布声明称,原定于5月12日至23日举行的第73届戛纳国际电影节将无法按期举行。目前正在研究的几种方案中,可能性最大的是推迟到今年6月底至7月初举行。声明表示,将视法国和国际公共卫生状况的发展情况,并和有关各方共同协商后最终决定电影节举办时间。

摩纳哥汽车俱乐部当地时间19日宣布2020年F1摩纳哥大奖赛取消。这是自1954年以来,F1摩纳哥大奖赛首次停办。此外,同样原定于五月份举行的F1荷兰大奖赛和西班牙大奖赛宣布延期。

女子网球协会(WTA)16日宣布,受新冠肺炎疫情影响,巡回赛将暂停至5月2日。

为了使系统能够理解,它必须在不同的概念、状态和动作之间建立联系。当今的语言翻译系统可以正确地将英语中的“水”与西班牙语中的“水”连接起来,但是在“水”和“导电体”之间没有任何联系。

中国外交部发言人耿爽19日表示,考虑到新冠肺炎疫情影响,中方同联合国方面经协商后,决定推迟原定于5月5日至7日在北京举行的第二届联合国全球可持续交通大会。

博鳌亚洲论坛9日发表声明称,本着对参会代表健康和安全负责的精神,在与东道国中国政府协商的基础上,经理事会批准,论坛决定推迟举行2020年年会。

可网上的消息让他有点乱,他也不知道自己的病情会不会再度恶化。大年初一早上,他在网上看到一位医护人员去世的消息,这是他知道的第一个去世的医护人员,还是他和妻子的朋友。

从山庄参加完演出回来的张小薇,在起初的几天没有任何不适,只是想着做什么好吃的招待即将回家的女儿吴小小。

此时,疫情在武汉迅速蔓延。从得知妻子患上传染病,吴海蓝开始对自己和女儿的身体状况保持高度警惕。但一切都晚了,就在妻子住院三天后,也即知道自己要被隔离的那天起,吴海蓝感到身体有些不适了。

例如,曾经有一段时间,下棋或下围棋被认为是衡量智力的一种标准。但是,1997年,当Deep Blue击败Kasparov时,一位著名的人工智能研究人员认为,在国际象棋中击败人类已经展现出真正的智能,而同时必须解决“卡车倒车的问题”,这涉及将一辆铰接式半挂车倒进停车位(个人通信)。

头痛入院以为是重感冒

美国职业棒球大联盟(MLB)16日宣布,将新赛季揭幕战的时间推迟到5月中旬,同时表示具体开战的时间要根据新冠肺炎疫情的发展而不断调整。

23日,缓过气来的吴海蓝回到家中,感受到死亡气息的他,知道患上这个病的凶险,此时妻子还躺在医院。他赶紧将女儿托付给孩子的舅舅照顾,并对孩子隐瞒了这一切。吴海蓝庆幸女儿每天早出晚归,庆幸女儿没有陪他们吃一顿饭,也庆幸女儿没来得及陪他们说话。

世界田联网站17日消息,2020赛季世界田联钻石联赛前三站比赛将延期举行。

Thomas G. Dietterich 教授指出,我们必须遏制围绕 AI 新进展的炒作,我们必须客观地衡量 AI 系统在哪些方面了解用户(是否了解用户)、它们的目标,以及他们操作的更广泛的真实世界。

1月4日和5日,又是年终演出的时间。这是元旦过后的第一个周末。60人的合唱团,在武汉黄陂区的一个山庄里,度过了欢乐的两天一夜。彼时,他们并不知道武汉已经出现了一种传染性非常强的病毒,他们到现在也不知道当初谁是第一个被病毒感染的人。

因此,我们应该以同样的态度来评估 AI 系统。现有的系统已表现出某种程度的理解。例如:当我对 Siri 说 “打给 Carol”,而 Siri 也拨出了正确号码,这能够表明系统理解了我的指令;当我问 Google “IBM的Deep Blue系统击败了谁?”,它回答:“Kasparov”,这也能证实系统理解了我的指令。当然这种理解有一定限度,当我继续问 Google:“when?”它就只能给我解释词典上关于“when”的解释。显然它没有把我第二个问题当做对话的一部分。

尽管缓了过来,吴海蓝的身体依然极度虚弱。“得了这个病非常奇怪,嘴里会特别的咸。吃什么都觉得咸得张不开嘴,张开了又难以下咽的那种。”吴海蓝说,当时强迫自己喝粥、吃水果、吃巧克力保证基本能量需求。

两人从“鬼门关”相互搀扶着走了出来,张小薇目前还在隔离期,他们的日常生活还隔着两层口罩。他们非常清楚,那段不堪回首的日子已过去了。做美食、唱歌、在客厅打羽毛球……他们宅在家里,把生活过得丰富而阳光,和其他不敢下楼的邻居相比,他们的生活显得很“高调”。

实际上,九年前Nguyen和Widrow已经使用强化学习解决了这个问题。如今,许多有思想的评论家再次提出新任务,并提出新的必要或充分条件,以声明系统“可以理解”。

他们曾不愿回忆那段身心反复遭受摧残的日子。现在,一切都成过去,他们已能坦然面对。也有邻居偶尔提醒他们注意防护。“他们叫我还是注意一点,说我们这栋楼有病例,还不知道是哪一户。我不能告诉他们,就是我们,那样他们会更害怕。” 张小薇说。