米兰官方网页版-米兰MiLan(中国)







  • 咨询热线:021-80392549

    米兰官方网页版-米兰MiLan(中国) QQ在线(xiàn) 米兰官方网页版-米兰MiLan(中国) 企业微信
    米兰官方网页版-米兰MiLan(中国)
    米兰官方网页版-米兰MiLan(中国) 资讯 > 人工智能 > 正文

    聚焦AI治理(lǐ)|人类能否掌控能力强大的(de)通用(yòng)人工(gōng)智能?

    2021/01/20澎(péng)湃新闻816

    “通(tōng)用人(rén)工智(zhì)能可能无(wú)法被治理,因(yīn)为传统的(de)责(zé)任(rèn)分配(pèi)和(hé)惩罚执行方法并不适用。”


    近(jìn)日(rì),美国路易斯维尔大学教授罗曼·扬波(bō)尔(ěr)斯(sī)基(Roman Yampolskiy)就人(rén)工(gōng)智能治理问题接受了(le)澎湃新闻(www.thepaper.cn)记者(zhě)专(zhuān)访。


    他认为(wéi),在某些重要方(fāng)面,我们(men)无法治(zhì)理比人类更聪(cōng)明(míng)的人工智能。“一(yī)个能(néng)力强大、富有创造力且不受控制(zhì)的通用人(rén)工智能(néng)最(zuì)终可能会隐(yǐn)式甚至明确地(dì)控制管理此类智能软件的一些(xiē)机构和个人。”


    罗曼(màn)·扬(yáng)波尔(ěr)斯基是美国路易斯(sī)维(wéi)尔(ěr)大学网络(luò)安全实验室的创始人和主任,著有《人(rén)工超级智能(néng):未来(lái)的(de)方法(fǎ)》等书籍。他的主要研究兴趣有人工(gōng)智能安(ān)全、模式识别、生(shēng)物行为识(shí)别等。扬波尔斯基曾(céng)受邀出席2020年首届清华大学人(rén)工智能(néng)合作与治(zhì)理(lǐ)国际论(lùn)坛。




    通往通用人工智(zhì)能(néng)的(de)尝试

    通(tōng)用人工智能( Artificial general intelligence,简称AGI),有时也被称作强(qiáng)人工智能,它所(suǒ)描述的(de)机(jī)器智(zhì)能可以理解或学习人类所能完成的任何智力任务。


    多智能体系统教父、牛津大学计算机(jī)科学(xué)系主任Michael Wooldridge在接(jiē)受澎湃新(xīn)闻(www.thepaper.cn)采访时表(biǎo)示,如果我们能构建具(jù)有人类全部能力和智力的(de)程序,那我们就将实现(xiàn)通用人工智能(néng)。但(dàn)当前,“我们连(lián)通(tōng)用人工(gōng)智能的皮毛都还没有(yǒu)碰到”。


    关于人(rén)工通用(yòng)智能能否(fǒu)实(shí)现、何时(shí)实现的问题,业内有不同(tóng)的观点。部(bù)分人工智能(néng)学者认为,人工通(tōng)用智能的概念并不严肃(sù),在(zài)实践中基本不(bú)可(kě)能(néng)实现(xiàn)。另一些人则十(shí)分看(kàn)好(hǎo)人工通用智能的发(fā)展,认为它有可能(néng)塑造人类的发展轨(guǐ)迹。


    例(lì)如(rú),图灵奖得主拉吉·雷(léi)迪(dí)(Raj Reddy)认为(wéi),研究通用用途的人工智能毫无用处。“用(yòng)AI能开(kāi)发出的(de)东西是无穷无(wú)尽的,但研究人员(yuán)应(yīng)专注研究(jiū)如何(hé)用AI增强人的(de)能力,而不只是增强AI的能力(lì)”。 清(qīng)华大学类脑(nǎo)计算中心主任施路(lù)平(píng)则表(biǎo)示,从未来发展(zhǎn)的角度看(kàn),人工通用智能是一个(gè)必然的趋(qū)势。


    尽管学界(jiè)对是否应发展通用人工智能存(cún)在分(fèn)歧(qí),科研公司和高校(xiào)已经开(kāi)始相关尝试,通用人工(gōng)智能的伦理问题(tí)也日渐显(xiǎn)现(xiàn)。


    2019年7月(yuè),微(wēi)软宣(xuān)布向非营利性人(rén)工智(zhì)能(néng)研究公司OpenAI投资10亿美元研(yán)发人(rén)工(gōng)通(tōng)用智(zhì)能(néng)。2019年8月,清华(huá)大学在学术期刊《自然》发表《面向人工通用(yòng)智能的异构天机芯片架构(gòu)》研究。2021年1月,谷歌(gē)和微(wēi)软相继在一份权威自然(rán)语言理(lǐ)解榜单中表现超越人类,微软宣称这“标志(zhì)着(zhe)迈向通用人工智(zhì)能的重要(yào)里程碑。”


    政(zhèng)府的(de)监管(guǎn)尝(cháng)试可(kě)能(néng)是徒劳(láo)

    在(zài)采访中,扬波尔斯(sī)基介绍,为(wéi)了使未来的人工智能造福于全人类,针对人工智能的治理计(jì)划试图(tú)通过建立监管框(kuàng)架和行业标准等方式,使人工智能可以被各国政府、国际组织和跨(kuà)国公(gōng)司控制。


    但他指出,直接治理人工智能是没有意义(yì)的,“‘人(rén)工智能(néng)治理’这个(gè)术语暗示(shì)的是,通过规定允(yǔn)许(xǔ)开发(fā)什么样(yàng)产品和服务以及如何开(kāi)发,来(lái)管理人工智能(néng)研究员和创(chuàng)造者”。


    他认(rèn)为,无论对从(cóng)事人工智能(néng)研究的科学家和工程师实(shí)施何(hé)种管理,都取决于创(chuàng)建(jiàn)人工通(tōng)用智能(AGI)的难度(dù)。


    “如果创造通用人工智能所必需的计算资(zī)源(yuán)和数据收集工作,在资金(jīn)和人力资(zī)本方面与美国的曼哈顿计划(美国研制原子弹(dàn)的计划)相(xiàng)当(dāng),那么各国政(zhèng)府就(jiù)有许多‘胡(hú)萝卜加大棒’,可(kě)以(yǐ)用来指导研究(jiū)人员,并按(àn)照自己的规范塑造未来的人工智(zhì)能。”


    但另一(yī)种情况下,他分(fèn)析道,如果(guǒ)有更有效的(de)方法(fǎ)来创造第一个通用人工(gōng)智能,那么政府的监管尝试可能是徒劳的。“例如,一个青少年在车(chē)库里用一台价值仅1000美元(yuán)的笔记(jì)本(běn)电脑创(chuàng)造出第一个(gè)通用人工智能。虽然(rán)可能性很小,但这种情况也需要考(kǎo)虑。”


    总而言之,“历(lì)史上,很(hěn)多对软(ruǎn)件治理的尝试,例如垃圾邮(yóu)件、计算机病毒和深度伪造技术(Deepfake)等,都只取(qǔ)得了非常(cháng)有限的成(chéng)功。而作为一个独立代理(lǐ),通用人(rén)工智能可能无法被治理,因为传统的责任分配和惩罚执行方法(fǎ)并不适用。”


    扬波尔斯基认(rèn)为(wéi),即使遇到第一种(zhǒng)情况,即创造(zào)通(tōng)用人工智能需要密(mì)集的资(zī)源,我们(men)仍然(rán)对人工智能的可预(yù)测性、可解释(shì)性和可控制性存在一些既定的技(jì)术限(xiàn)制。“至(zhì)少需要(yào)这三种能力(lì)才能够部分(fèn)实现对人工智能的(de)成功监管,这(zhè)也就意(yì)味着,在某些重要(yào)方面,我们无法治理比人类更聪明的(de)人工智能。”


          “最后,即使(shǐ)AI治理(lǐ)是可(kě)以实现的,那些负责人也可能不愿意为AI的(de)失(shī)败承担个人责任。因此,一个能力(lì)强大、富有创(chuàng)造力且不受控制(zhì)的通用人工智能(néng)最终(zhōng)可能(néng)会隐式甚至明(míng)确地控制(zhì)管理此类(lèi)智能软件的一(yī)些机构和个人。”

    关键词:




    AI人工智能网声(shēng)明:

    凡资讯来源注明为其他媒体来源(yuán)的信息,均(jun1)为转载(zǎi)自其(qí)他媒体,并(bìng)不代表本网站(zhàn)赞同(tóng)其(qí)观点,也不代表本网站对其真实性负责。您若(ruò)对该文章内容有(yǒu)任何疑(yí)问(wèn)或质疑,请立即与网站(www.fartooclub.huaibei.xinxiang.zz.pingliang.ww38.viennacitytours.com)联系,本网站将迅(xùn)速(sù)给您回(huí)应(yīng)并(bìng)做处理。


    联系(xì)电话(huà):021-31666777   新闻、技术文章(zhāng)投稿QQ:3267146135   投稿(gǎo)邮箱:syy@gongboshi.com

    精选资(zī)讯更多

    相(xiàng)关资讯更多(duō)

    热(rè)门(mén)搜索

    工博(bó)士(shì)人工智能(néng)网
    米兰官方网页版-米兰MiLan(中国)
    扫描二维码(mǎ)关注微信
    扫码(mǎ)反(fǎn)馈

    扫一扫(sǎo),反馈当前页面(miàn)

    咨询反馈(kuì)
    扫(sǎo)码关注

    微信公(gōng)众号

    返回(huí)顶部

    米兰官方网页版-米兰MiLan(中国)

    米兰官方网页版-米兰MiLan(中国)