近期，我經(jīng)常被問到這樣一個(gè)問題：為了引領(lǐng)未來人工智能的發(fā)展，中國人工智能人才培養(yǎng)需要做哪些準(zhǔn)備？這也是“院士專家企業(yè)一席談”論壇所要探討的主題——構(gòu)建人工智能高層次人才培養(yǎng)新體系和開放合作新平臺(tái)、探索人工智能倫理治理新模式。

人工智能領(lǐng)域的人才應(yīng)該對社會(huì)負(fù)責(zé)任

(資料圖)

談到人才培養(yǎng)，2018年我在中國科學(xué)院大學(xué)開設(shè)《人工智能哲學(xué)與倫理》課程時(shí)，就引發(fā)了爭議。爭議之一是為什么要在工科院系講授人文科學(xué)的內(nèi)容，爭議之二是人文學(xué)科為什么要關(guān)注未來技術(shù)的發(fā)展。如今，人工智能的發(fā)展已經(jīng)給社會(huì)帶來了深刻影響，那時(shí)候的爭議現(xiàn)在看來已經(jīng)不再是爭議。

有些人認(rèn)為，人工智能是中立的，人工智能的善惡由如何使用人工智能決定。這就需要了解人工智能的能力來自哪里。它的能力主要來自人工智能學(xué)習(xí)的人類大規(guī)模數(shù)據(jù)，數(shù)據(jù)中有能幫我們解決問題的關(guān)鍵線索和事實(shí)，也有人類社會(huì)中的偏見、歧視、敵對和仇恨。人工智能在沒有倫理安全、道德框架約束時(shí)，學(xué)習(xí)人類數(shù)據(jù)的同時(shí)也學(xué)習(xí)了人性的弱點(diǎn)，人工智能向人類提供服務(wù)時(shí)，也潛移默化地隱含了偏見等。

在這樣的前提下，人工智能的倫理和安全以及相關(guān)的社會(huì)問題就不是一道選擇題，而是內(nèi)嵌在人工智能研究和產(chǎn)業(yè)中的一個(gè)與生俱來的基因。因此，未來人工智能領(lǐng)域的人才應(yīng)該是對社會(huì)負(fù)責(zé)任的。

國際視野下探索中國人工智能走向何方

2019年初，全球多個(gè)國家的學(xué)術(shù)團(tuán)體制定了人工智能發(fā)展的原則。在2018—2019年開展人工智能學(xué)術(shù)交流時(shí)，大家經(jīng)常會(huì)問一個(gè)問題——中國的人工智能走向何方？

2019年6月，我國新一代人工智能治理專業(yè)委員會(huì)制定并發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了人工智能治理的框架和行動(dòng)指南。

人工智能是社會(huì)性的，是要作為賦能技術(shù)聯(lián)結(jié)不同國家和不同文化的。我覺得，人工智能的發(fā)展要從人類自身出發(fā)，當(dāng)代人工智能發(fā)展的動(dòng)機(jī)就是人類提出的愿景，這個(gè)動(dòng)機(jī)主要在于人類自己，我們發(fā)展人工智能的技術(shù)、服務(wù)和應(yīng)用，需要人來負(fù)責(zé)，這點(diǎn)非常重要。

另外，人工智能應(yīng)該是可持續(xù)發(fā)展的，人工智能技術(shù)不僅要有商業(yè)潛能，更關(guān)鍵的是要推進(jìn)社會(huì)和生態(tài)的可持續(xù)發(fā)展以及全人類的進(jìn)步。未來，人工智能要賦能全球可持續(xù)發(fā)展，不僅需要關(guān)注一些具有大經(jīng)濟(jì)效益的方向，而且要在政府的引導(dǎo)下、在學(xué)術(shù)界的倡議下、在具有長遠(yuǎn)目標(biāo)的企業(yè)的推動(dòng)下，推進(jìn)那些對中國的發(fā)展、全球的發(fā)展非常重要的議題。雖然有些方向近期內(nèi)可能沒有明確的商業(yè)動(dòng)機(jī)，但我覺得這正是政產(chǎn)學(xué)研協(xié)作和長期布局的方向。

重塑人工智能人才培養(yǎng)體系迎接中國機(jī)遇

從目前人工智能的發(fā)展來看，每一次突破背后都經(jīng)歷了少數(shù)人說服多數(shù)人的過程。如果希望未來人工智能的發(fā)展迎來“中國時(shí)刻”，我們現(xiàn)在必須有高端的學(xué)術(shù)機(jī)構(gòu)、布局長遠(yuǎn)的企業(yè)，簡言之，現(xiàn)在就去布局10年甚至10年以上的、少數(shù)人從事的研究，做好準(zhǔn)備迎接中國機(jī)遇的到來。

在此之前，我們還會(huì)面臨挑戰(zhàn)。比如，開展小眾布局可能會(huì)引起大多數(shù)人的反對，這樣的布局在5年甚至是10年內(nèi)不會(huì)取得確定性的突破。

與此相反的觀點(diǎn)不絕于耳，畢竟我國的人工智能產(chǎn)業(yè)創(chuàng)新與全世界處于引領(lǐng)地位的國家相比還有很大差別。我們很少大規(guī)模、持續(xù)地投入，而是在其他國家人工智能取得突破時(shí)，再快速地做放大器，長此以往，就沒有機(jī)會(huì)成為創(chuàng)新源頭，這也是我國人工智能高端人才培養(yǎng)必須解決的問題。

當(dāng)然，我國不乏優(yōu)秀的人工智能初創(chuàng)企業(yè)，但這些企業(yè)首先要關(guān)注生存問題，可能沒有時(shí)間去考慮太多長遠(yuǎn)的問題。我覺得這就需要政產(chǎn)學(xué)研協(xié)作，進(jìn)行長遠(yuǎn)的布局。

總體而言，人工智能是一個(gè)科學(xué)問題、一個(gè)技術(shù)問題、一個(gè)社會(huì)問題、一個(gè)人文問題。人工智能有科學(xué)的屬性，需要確立科學(xué)的體系，但人工智能科學(xué)的體系不僅與自然科學(xué)有關(guān)，還與人文科學(xué)、社會(huì)科學(xué)密切相關(guān)。以前我們經(jīng)常討論人工智能潛在的風(fēng)險(xiǎn)是什么，如今很多潛在風(fēng)險(xiǎn)已經(jīng)快速轉(zhuǎn)為實(shí)存風(fēng)險(xiǎn)。

因此，人工智能人才培養(yǎng)體系需要重塑，未來人工智能高端人才不僅是智能信息處理系統(tǒng)方面的專家，還應(yīng)該精通數(shù)學(xué)、物理、心理學(xué)、神經(jīng)科學(xué)、發(fā)育生物學(xué)、演化生物學(xué)、人類學(xué)等，核心是研究自然與人工智能的原理與計(jì)算本質(zhì)。另外，在社會(huì)層面，人工智能人才的培養(yǎng)還需要增加人工智能與生命科學(xué)哲學(xué)、人工智能的倫理與治理、人工智能與社會(huì)等方面內(nèi)容。

技術(shù)可以不同方式對人類社會(huì)產(chǎn)生影響，可能是積極的，也可能是消極的。人工智能技術(shù)、人工智能科學(xué)發(fā)展的方式，不應(yīng)該由技術(shù)的高度、科學(xué)的高度作最終的決定，因?yàn)槿斯ぶ悄懿粌H僅關(guān)乎科學(xué)，還關(guān)乎我們的社會(huì)，關(guān)乎人類的未來。

（曾毅，作者系中國科學(xué)院自動(dòng)化研究所研究員，中國科學(xué)報(bào)記者沈春蕾據(jù)其在“院士專家企業(yè)一席談”論壇上的演講整理）