沒有倫理規(guī)范 AI就沒底線
日期：2023-11-10 來源：深圳特區(qū)報
■ 深圳特區(qū)報特派記者 何濤 發(fā)自烏鎮(zhèn)
騰訊混元大模型、百度文心大模型、訊飛星火認知大模型……在2023世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會上，一批大模型亮相。在與這些大模型產(chǎn)品的互動中，人們對人工智能充滿了驚喜與好奇。目前人工智能發(fā)展水平到底如何，人工智能創(chuàng)造了哪些機會，又帶來了什么挑戰(zhàn)？9日，一場關于人工智能賦能產(chǎn)業(yè)發(fā)展的論壇在峰會期間舉行，讓人們對這些問題有了更加深入的思考。
人類在模擬仿真方面達到更新境界
目前人工智能的發(fā)展狀況如何？昨日，中國工程院院士、北京航空航天大學教授趙沁平帶來了“創(chuàng)新虛擬現(xiàn)實2.0 發(fā)展互聯(lián)網(wǎng)3.0”的主題演講。他表示，模擬仿真現(xiàn)實世界為人類所用，自古以來就是人類追求的一個目標。隨著計算機技術特別是高性能計算和人機交互技術的發(fā)展，人類在模擬仿真方面達到了更新的境界。
趙沁平稱，經(jīng)過幾十年的發(fā)展，虛擬現(xiàn)實技術在許多領域都得到了很好應用，特別是在航空航天、裝備制造、公共安全、醫(yī)療衛(wèi)生和教育培訓等方面，推動了相關行業(yè)的升級換代，同時也帶來了新的大眾生活體驗和大眾消費。
趙沁平舉例說，汽車廠造了一輛車，為了實現(xiàn)安全性，要對幾十輛甚至上百輛車進行破壞性試驗。有了工業(yè)軟件以后，就可以先通過技術平臺進行破壞性試驗，然后再進行實物試驗，這樣可以大大降低成本并縮短時間。
大模型越來越具備工業(yè)大生產(chǎn)特征
論壇上，百度AI技術生態(tài)總經(jīng)理馬艷軍稱，人工智能是驅(qū)動第四次工業(yè)革命的核心力量。他的觀點得到一些參會者的認同。
百度首席技術官王海峰表示，縱觀人類的每一次工業(yè)革命，其核心技術都有一些相似的特點。首先這些技術都有非常強的通用性，可以應用于各行各業(yè)，同時都具備很強的標準化、自動化和模塊化的工業(yè)大生產(chǎn)特征，這樣才可以迅速應用于各行各業(yè)，推動社會進步。
王海峰稱，人工智能的核心技術是深度學習和大模型，已越來越具備標準化、自動化、模塊化的工業(yè)大生產(chǎn)特征。大模型已經(jīng)是非常完整的一個平臺，包括豐富的模型庫以及開發(fā)套件和工具組件等。因為標準化的基礎大模型生產(chǎn)過程涉及到龐大的算力、大規(guī)模的數(shù)據(jù)以及非常復雜的算法，盡管很不容易，但一旦開發(fā)好后，在各行各業(yè)應用就變得很輕松，只需要將少量的場景數(shù)據(jù)進行總結(jié)分析和調(diào)適就可，全流程都能實現(xiàn)高度自動化。
王海峰介紹，在文心和飛槳的共同努力下，已經(jīng)有8萬多開發(fā)者在這個平臺上進行開發(fā)，同時平臺也已經(jīng)服務了22萬家企業(yè)，在平臺上建構(gòu)了80萬個模型。
構(gòu)建風險和安全檢測框架非常關鍵
人工智能會否帶來安全挑戰(zhàn)，也成為論壇的焦點話題之一。中國科學院自動化研究所人工智能倫理與治理研究中心主任曾毅表示，人工智能有非常大的潛在價值，現(xiàn)在生成式人工智能的信息處理和預測速度比人要快很多，我們應該發(fā)揮它的長處，但要十分關注它帶來的挑戰(zhàn)。“它仍然會犯很多人不會犯的錯誤，所以它仍然是一個看似智能的信息處理工具，與人類的智慧還有非常大的距離。”
人工智能能發(fā)展出自我創(chuàng)造能力嗎？曾毅稱，人們十分關注機器是否能夠思考，哲學家講我思故我在，如果要讓機器思考，除非機器擁有自我意識，但是現(xiàn)在的人工智能是沒有自我的，所以也就失去了思考的根基。真正的理解能力必須基于自我感知和自我體驗，現(xiàn)在可以做出來看似有理解能力的信息處理工具，但這跟真正的理解還是有很大的差別。創(chuàng)造更是這樣，如果沒有自我的感受和理解，創(chuàng)造也就成了無源之水。我們現(xiàn)在看到的看似能夠創(chuàng)造的工具，其實是一種組合優(yōu)化，這與真正的創(chuàng)造還有很大的距離。
曾毅稱，人工智能是一個信息處理和分析工具，我們不希望人工智能無所不在，在生成式人工智能大模型可以進行認知升級，它的智能能力可以進行擴展，而我們對于它的風險防范捉襟見肘的時候，我們確實應該適度使用，保持穩(wěn)健的發(fā)展。人工智能向來不是中立的，沒有倫理安全框架的人工智能就是沒有底線的。如何構(gòu)建強大的風險和安全檢測框架，這非常關鍵。