未来我们有可能爱上我们的机器人吗Q应该选择用隐U换安全q是拒绝一切R入生zȝ技术？未来?x)出现大规模自主性的AI杀伤武器吗Q?/span>
AI时代到来前，除了(jin)技术的q步Q这些问题正被越来越多的提v。针Ҏ(gu)Q清华大学AI研究院张钚w士和清华大学唐杰教授联合发v「AI Time」science debateQ希望用辩论的Ş式，探讨人工和hcL来之间的矛盾Q探索h工智能领域的未来?/span>
5月底Q以安全和u理ؓ(f)主题的首ơ活动在清华U技园D办。活动邀(g)请到?jin)清华大学AI研究院张钚w士、中国h民大学高瓴AI学院院长文荣和搜狐|品技术ȝ杨田Q他们对于上q这些问题给Z(jin)_ֽ的讨论?/span>
׃人工Q?/span>
讨论从电(sh)影《her》开始，q讲述一个h与h工智能相q故事。男主角西奥多偶然接触到最新的人工pȝOS1——萨DQ她拥有qh的声U，温柔体脓(chung)而又q默风趣。西奥多与萨D逐渐从h机友谊发展出?jin)一D不被世俗理解的奇异爱情?/span>
当h工智能越来越q步Q它可能?x)生出自己的意识，甚至与hcd展出感情吗？2018q_(d)一副h工智能画出的肖像L卖出?3.25万美元的高h(hun)Q机械算法背后是否有灵魂存在QAI是否已经能够自己创作、欣赏美Q?/span>
几位学者都认ؓ(f)Q目前还不需要担?j)这个问题，电(sh)?jing)只是U故事Qh工智能生情感与意志的未来距L们还很遥q。科qȝh工智能定义ؓ(f)可以帮助乃至取代人类思考的工具Q但事实上我们仍处在人工的初U阶Dc(din)“现在的人工q局限于完成指定dQ而要从感情上或者自我意识上做到《Her》那P目前技术还很难实现。”文l荣教授解释?/span>
人机相爱的故事探讨的本质q是爱，什么叫做爱Q什么叫做美Q这其实是哲学问题。但探讨q些对于人工的发展无疑是有必要的Q张钚w士提出，哲学应该走在U技的前面。如果我们对于自q大脑?jin)解都不够充分，怎么L仿hcȝ大脑从而创造h工智能呢Q?/span>
杨田博士认ؓ(f)作ؓ(f)q些人工的训l者，我们本n其实也不知道情感I竟是怎样表达的，该如何传递，现在的h工智能应用实际上是在用一个最优化的问题去D一个个cMq样的问题的现实表达?/span>
痴迷的追?/span>
理想与现实的差距q不能阻挠我们的热情Q虽然距Mh工智能的成熟遥遥无期Q但无数的研I者都在这条道路上孜孜不倦地向前攻进Q时d备着敲响W四ơ工业革命的钟声。现在h工智能研I处于爆发期Q?月发布的《中国新一代h工智能发展报?019》显C各国h工智能战略布局q一步升U，人工正在从少数大国关注走向全球布局的新格局?/span>
教会(x)机器思考的x让我们着qP让我们ؓ(f)之求索，人工会(x)改变什么？它的未来在哪里？
张钹院士表示q前来_(d)人工目前虽然发展q速，但是只能做到在某个方面超qhQ它全面过人是不可能的。AI可以下象，可以打游戏，但是都是在特定的限制Q大量的学习(fn)Q反复的训练之下Q它的背后还是h在v作用。我们采取哲学里的行Z义流z定义Q如果这个机器表现出来的行ؓ(f)跟h一P我们p为它?yu)具有智能。所以我们现在做的还是在努力让机器学?x)模仿hc行为?/span>
文荣教授提出我们今天所有的讨论都基于我们对于h工智能的理解Q什么是人工Qؓ(f)什么他写的E序叫做h工智能，我的׃？文教授给的定义是Q从输入和输Z斚w来判断：(x)如果E序的输出结果是定可预的Q就不是人工Q如果输出是模糊的，是带有不定性的Q可以由_ֺ来衡量，比如识别95%Q就是h工智能。也是说如果程序能够应付输入环境的多样性、变化性，同时输出l果q得到比较高的精度，是人工。“不_的东ѝ对l果有很强的容忍性的场合是将来h工智能会(x)成功的地斏V?/span>
杨田博士表示Q就目前对h工智能的定义来说Q它可以把很多东襉K做得挺好Q比如，对话、语韛_成。但通过囄试q得很。就现在来说Q语音相关的技术以?qing)自动驾驶方面的技术其实有很多d际应用很q?/span>
正如蒸汽机刚刚发明，听见轰隆巨响而不觉自己正在窥见一Z大的革命的工业革命时代的Z一P我们也许正在见证未来Q正在开启一个伟大的新时代?/span>
忧：(x)隐私与安全孰d?/span>
面对隐私与安全的抉择Q美国与中国各执一端??4日，国旧金q事会(x)通过一条新o(h)Q决定禁止该?jng)所有单位用h脸识别技术，包括警察局{政府部门，成ؓ(f)全球首个推出识别o(h)的城?jng)?/span>
与此同时Q中国发展出完备的天眼系l，通过应用人工、视频图像处理等多种专业技术，能在W一旉对h怿息进行捕捉和匚w。教室里有摄像头对准学生Q时L捉学生的一举一动；q马路不心(j)闯了(jin)U灯Q你的照片会(x)立即与n份信息匹配，出现在\边的大屏q上…?/span>
识别可以被用于抓捕罪犯、保障安全，在教室安装摄像头也可以保护学生，避免U黄蓝幼儿园事gcM的?zhn)剧。但q项技术也有极强的侵入性，有一双眼睛在时刻注视着你，获取你的信息Q而你永远不知道这些信息会(x)被用于做什么?/span>
张钹院士谈到Q不同的做法背后折射?jin)中西方不同的h(hun)DQ在个h利益和公共利益冲H的时候，中国选择公共利益Q西方强调个人利益。如何^衡公共利益和个h利益Q是一个非怸肃、需要认真研I的问题。隐U与安全我们都不能轻易割舍，q谁能做到更好的^衡?/span>
文荣教授也认ؓ(f)中西方目前的做法都过于极端，目前有些数据的搜集是完全没有必要的。西方因于强调隐U保护，对大数据人工产业的发展造成很大的媄(jing)响，但是中国也不应该Ua(b)Z(jin)发展人工产业而忽略隐U保护?/span>
杨田博士认ؓ(f)Q现在的C会(x)我们或多或少都从个性化推荐获得?jin)便利，q其实就是通过向系l出卖隐U而换来的。摄像头的存在确实v到改善治安环境的作用。中国有句古话“D头三有明”，q去U学q没有那么发辄时候，大家怿自己的一举一动有在上面看着Q从而约束自׃做坏事。现在，我们不相信神?jin)，发现自己没有U束Q这其实l所有h带来损害。这U情况下Q这些技术手DvC(jin)威慑作用Q技术成Z(jin)新时代的?/span>
现在的边界在于，如果选择安全Q我们要如何保证数据不会(x)被滥用？很多事情Ҏ(gu)界Q如何守住我们的边界Q是非常值得慎重思考的?/span>
惧：(x)未来的AI武器
人工武器是具有指挥高效化Q打ȝ化Q操作自动化Q行为智能化{特点的武器Q它可以有意识地L、L别需要打ȝ目标Q具有L别自然语a的能力，是一U会(x)思考的武器pȝ?/span>
文荣教授表C，我们对AI的恐惧主要来自于对它自主性的x，对它可能q人控制的恐惧?/span>
最q一D|_(d)很多知名人士都对人工武器表示?jin)抵Ӟ认?f)机器人有朝一日将?x)控制hcR但是这U说法其实ƈ不合理，臛_在短期内不合理。张Ҏ(gu)授说Qhcȝ意志才是战争的根本，机器只是被操控的工具。战争不发展到什么程度，最后都是按照hcȝ意志q行的。危险在人，而不在机器。所谓无人机Q背后也是有人在C操控?/span>
也许人工武器的问题，不在于它们将?x)控制世界，而在于它们非常容易被重新~程Q因此Q何h都能够以低得惊h的预，制作Z台滥杀无辜的高效机器。机器的杀伤力是巨大的Q杨田博士提问的Q我们能够允许在没有l过人类审判的情况下让武器去消灭一个h吗？
文荣教授认为，应该对AI武器q行分Q和自动NcM。根据智能体面对环境多样性或者变化性时的处理程度来定。分U是帮助我们更好地理解现在的人工所处的阶段和接下来要做的事情的一个途径?/span>
AITime׃关注h工智能发展的青年人创办，旨在发扬U学思L_Q邀(g)请各界h士对人工理论、算法、场景、应用的本质问题q行探烦(ch)Q展开辩论Q碰撞思想Q打造h工智能知识分享的{源地和聚集地?/span>
清华校友M(x)服务?/span>
清华校友M(x)订阅?/span>