國(guó)外IBM沃森的醫(yī)療人工智能產(chǎn)品做出了錯(cuò)誤診斷和不安全藥物教訓(xùn)，杭州動(dòng)物園發(fā)生的中國(guó)人臉識(shí)別第一案案例...近年來，人工智能監(jiān)管已經(jīng)成為其發(fā)展道路上不可忽視的關(guān)鍵問題。

四月十二日，AI可信專題論壇在上海舉行，專家們就人工智能是否可信這個(gè)關(guān)鍵問題進(jìn)行了深入探討。中國(guó)科學(xué)院院士何積豐指出：技術(shù)的發(fā)展永遠(yuǎn)是一把雙刃劍，它在方便人類社會(huì)的同時(shí)，也帶來了新的安全問題和風(fēng)險(xiǎn)。

JD.COM集團(tuán)技術(shù)委員會(huì)主席、JD.COM人工智能研究術(shù)委員會(huì)主席、JD.COM人工智能研究院院長(zhǎng)周博文指出，由于真實(shí)世界環(huán)境開放、邊界和規(guī)則模糊、數(shù)據(jù)噪聲大、人工智能模型的一些結(jié)果難以信任等問題層出不窮。例如，智能攝像頭將公交車上的廣告人物識(shí)別為闖紅燈、人工智能寫作軟件創(chuàng)作核材料被盜的假新聞、人工智能揚(yáng)聲器建議用戶自殺等。這些人工智能暴露的問題已經(jīng)逐漸與人們的生活息息相關(guān)。

復(fù)旦大學(xué)計(jì)算機(jī)學(xué)院院長(zhǎng)姜育剛指出，應(yīng)采用技術(shù)+規(guī)則雙輪驅(qū)動(dòng)算法進(jìn)行治理。一方面，研究更符合規(guī)則的人工智能算法，的人工智能算法，開發(fā)評(píng)估技術(shù)，以衡量現(xiàn)有人工智能算法的合規(guī)性；另一方面，通過規(guī)則自頂向下的限制，促進(jìn)其健康發(fā)展。

清華大學(xué)人工智能國(guó)際管理研究院副院長(zhǎng)梁在介紹會(huì)議上發(fā)表的《人工智能管理框架與實(shí)施路徑》報(bào)告內(nèi)容時(shí)，目前人工智能管理的挑戰(zhàn)主要集中在三個(gè)方面:數(shù)據(jù)、算法、平臺(tái)等新興管理對(duì)象的出現(xiàn)增加了追究責(zé)任的難度人工智能技術(shù)的發(fā)展和應(yīng)用場(chǎng)景的擴(kuò)大，潛在的重大技術(shù)、經(jīng)濟(jì)和道德風(fēng)險(xiǎn)開始沖擊人類社會(huì)現(xiàn)存的價(jià)值體系和競(jìng)爭(zhēng)結(jié)構(gòu)現(xiàn)存的法律、監(jiān)督制度提供的缺陷和世界范圍內(nèi)靈活有效管理機(jī)制的缺失問題進(jìn)一步強(qiáng)調(diào)。

在治理過程中，除了應(yīng)對(duì)上述挑戰(zhàn)帶來的風(fēng)險(xiǎn)外，還要實(shí)現(xiàn)發(fā)展與治理的平衡，既要避免規(guī)范不足造成的社會(huì)問題，又要避免過度監(jiān)管阻礙技術(shù)發(fā)展。

成都融和實(shí)業(yè)排隊(duì)叫號(hào)系統(tǒng)廠家()是一家集研發(fā)、生產(chǎn)、營(yíng)銷、服務(wù)于一體的高新技術(shù)企業(yè).主營(yíng)智能排隊(duì)叫號(hào)系統(tǒng)、醫(yī)院分診系統(tǒng)、排隊(duì)機(jī)、叫號(hào)機(jī)、評(píng)價(jià)器(好差評(píng)系統(tǒng))、呼叫器、多媒體查詢及信息發(fā)布配套系統(tǒng)等,公司產(chǎn)品已廣泛應(yīng)用于不動(dòng)產(chǎn)登記、智慧醫(yī)療、智慧稅務(wù)、智慧政務(wù)、智慧金融、智慧通訊、智慧服務(wù)大廳、智慧機(jī)關(guān)單位等服務(wù)窗口行業(yè).咨詢電話：028-87438905。