人與人工智能機器融合的難點!

日期:2020/07/03   IAE 報導

“我小時候讀過很多科幻小說。其中一個最常見的主題是“人與機器”,它經常以機器人的形式變得自我意識和威脅人類。這一主題也成為了《終結者》和《黑客帝國 》等好萊塢電影的主要內容…比爾.蓋茨。

 

人工智能並不創造新事物,它只能執行我們本身了解如何去做的事情。 當前,隨著人工智能越來越不能滿足人們的期望和胃口,人機交互所帶來的智能融合漸漸走上了前台。 但是,無論國內外的軍用還是民用,人機融合智能都還差強人意,那麼,人機融合智能的難點究竟在什麼地方呢? 眾所周知,智能不是大腦的產物,而是人機環境系統交互的生態產物,既包括客觀的數據,也包括主觀的信息和知識,如果說“美”是主客觀結合的產物,那麼智能也應該是 主客觀融合的結果。 其中包括各種的高、中、低元素,是一種既開放又封閉、既彌散又聚合的動態組織體系架構。 智能是圍繞價值、意義而衍生出來的,是由事實所觸發的價值而生成的,數據是一種相對的客觀存在,只有被價值化成信息後才可能被凝煉出相關情境下的知識,並 進而同化順應出許多能夠解決實際困難的適應方法和有效手段。 與人工智能不同的是,真實的智能一般不是情境的,也不是場景的,而是環境的,更準確地說人機環境的“可久可大”,情境和場景相對比較小而且穿透性 較差,很難產生出滿意解和最優解,這也是為什麼人工智能會有意外出現且不好解釋的原因:不會主動刻畫場景和情境之外的事、物,現在人工智能的基本思路 都是訓練一堆算法,然後各自綁定場景。

 

其實,單純用數據、信息、知識都是很難驅動出真實的智能的,智能是一種簡單的適應性變化從“是”到“應”(休謨之問)。 人產生出的智能常常是情智(算計),機產生出的往往是理智(計算),人機融合生成的智能一般包括是情智+理智,是一種特殊的計算+算計(簡化為: 計算計)。 從某種意義上說,人工智能是一種事實智能,而人類智能則是一種價值智慧。 當然,事實有不同程度的事實,價值也有不同程度的價值。 真實往往是程度不同的事實與大小不同的價值混合而成。 絕大多數偶然性事實的降臨常常來自非情境、非場景和非邏輯的價值穿越。 人之所以能夠把握方向,原因在於透析事實之後的動態價值,能夠確定一個事物、事實在特定情境任務下的主觀價值而不僅僅是客觀顯著性,所以是有機的,機器則不然,沒有主觀, 是沒有價值與風險責任的計算過程,是無機的。 諸如平常簡單的二選一,在關鍵時刻也常常重如泰山,所以僅有價值還不夠,還需要承擔後果的勇氣和膽量。 主觀判斷和情感價值至關重要,所以博弈的最終決定權不能交給機器。 任何一個事物或事實都有多面性,簡化而言,不妨稱之為兩面性,是和非,或者1和0,但這一事物/事實會隨著關聯的發展而發生價值性的變化,或快 或慢,或短或長,人類的作用就是恰如其分地把這事物/事實的價值性與客觀發展狀態同步嵌入、與勢具進,而不是像機器一樣刻舟求劍式地打標籤。 更有意思的是,事物/事實的這種兩面性(或多面性)帶有天然的自反性,而且在特定的任務情境下會被觸發實施,是會變成非,0會生出1,這也是 不確定性產生的根源之一。 人有自我本我超我,不斷強化主觀偏好(自我),而機器沒有自我本我超我之分,總是相對客觀地感知世界,人自然不能與機器容易地達成共識。 同樣對於一個事物或事實,機器的標籤不會個性化彈性的變化,更不會延展成長變化,而人會。

 

機器的數據信息知識標籤不會生長,而人類的數據信息知識概念卻會變化,如一寸光陰一寸金中的一和寸是可變的,執子之手與子偕老也與本意大相徑庭。 人是很複雜的,機器卻使之簡單化,一旦標籤,從此固定,沒有隨機應變,沒有是非之心。 人可以讓數據不枯燥的方法就是賦予價值形成信息,如315打假日,23喬丹,658小區公交;讓信息不乏味的手段就是凝煉出意義生成知識,如1+1=2,一寸光陰一寸 金;讓知識不萎靡的途徑就是演化為生生不息的智能……經典物理中的光子有波粒二象性,量子物理中的量子既有疊加態又有糾纏態;生理中的DNA是 由兩條反向平行的多核苷酸鏈相互纏繞形成一個雙螺旋結構;心理中的事實與價值這兩條關係鏈路也是一種虛實二象、疊加、糾纏、螺旋結構吧! 所有的類比都有著某種“神性”的表象穿透和本質湧現,物理、生理、心理的這種類比也不意外,仔細想想,智能實質上就是心理(意識)、生理(神經)、 物理(環境)三者之間的相互影響相互作用之產物,簡單稱之為人物(機)環境系統。 一般而言,人工智能就是用符號/行為/聯結主義進行客觀事實的形式化表徵、推理和計算,很少涉及價值性、責任性因果關係判斷和決策,而深度態勢感知中的深度就是指事實 、價值與責任的融合(也即實與虛的互補)。 態、勢涉及客觀事實性的數據及信息/知識中的客觀部分(如突顯性、時、空參數等),簡單稱之為事實鏈,而感、知涉及主觀價值性的參數部分(如期望 、努力程度等),不妨稱之為價值鏈,深度態勢感知就是由事實鏈、價值鏈與責任鏈交織糾纏在一起的“三螺旋”結構,進而能夠實現有效的判斷和準確的決策功能。

 

另外,人側重於主觀價值把控算計,機偏向客觀事實過程計算,也是一種“雙螺旋”結構。 如何實現這兩種“雙螺旋”結構之間“鹼基對(時空)”的恰當匹配,仍將是各國都沒有解決的難題,那麼如何表徵這些參數? 如何搭建起這個模型呢? 心理學家卡尼曼(Kahneman)認為,人有兩個自我:經驗自我和記憶自我,經驗自我負責動作和決策,記憶自我負責解讀反思。 同樣,人有兩個智能:事實智能和價值智能,事實智能負責客觀和理性,價值智能負責主觀和感性。 簡言之,真正的智能,不會發生在你的手機裡,而是存在於你的生活中……人會活學活用,是活智活能,充滿了易和辯證! 既合又分,既彌又聚,具體情況具體分析,何時何處何方式統籌兼顧! 也許人智能中的表徵不需要完美的定義就行,如白馬非馬(在輸入表徵中,白馬非馬是一個事實:白馬確實不是馬;白馬非馬也不是一個事實:白馬確實也是馬,這是 一個價值問題。白馬非馬是人類智能的一個重要表徵,它反映了機器智能很難表徵的一種表徵:事實自反性表徵。),裡面可以有事實、價值和責任,抑或其中的不同組合 變化,而機器只有數據、公式,並且機器沒有目的,人的所有行為都是有目的的,這個目的性就是價值/責任,目的性可以分為遠中近,價值程度也有大中小,甚至責任也有 大中小,人的自主和否定常常涉及責任和價值,而不僅僅限於事實。

更進一步說,一個概念可以有三個坐標軸判定,一個是事實軸,涉及時、空、屬性、物理、邏輯等客觀現實方面,一個價值軸,涉及個性化的心理、藝術、關係、倫理、非 邏輯等主觀可能方面,一個責任軸,涉及共性化的心理、藝術、關係、倫理、非邏輯等主觀可能方面。 其內涵外延常常在這三個坐標軸決定的坐標系中變化彌聚,從而構成了璀璨多彩的智能世界和眼花繚亂的意(向)形(式)情境。  分類是人類認識世界的一種基本方法。 對事物的劃分,是概念發生的起點,是一切思維的前提。 科學技術體系的建立,就是從分類這個起點開始建立起來的。 但大家只重視事實分類,而忽略了價值和責任分類,尤其是三者的混合分類。 概念除了能指、所指外,還有一種動指,即一種隨機動態不確定的指向,就像小孩子說的那樣“冰激凌的心情”、“不高興的高興”,隨時可以讓概念間 的界限變得可有可無,並且可以任意穿越。  《易》即辯證法:知幾(苗頭、兆頭)即普遍聯繫,趣(抓住時機)即對立統一,變通(隨機應變)即變化發展。 道是西方的自然秩序。 真實交互中,常常會有狀態碰撞、趨勢碰撞、感覺碰撞、知覺碰撞發生,對於人機融合智能的深度態勢感知而言,態、勢、感、知、事實和價值、責任是動態聯繫在一起 的。 從觀察表徵、調整推理到判斷決策、實施行動各個階段,人的智能裡面不但充斥著反事實性,還混合了不少的反價值性、反責任性,同時人的類比還可以解決機器解決不了 的各種非映射關係。 在深度態勢感知中,勢就是方向和速度,方向更為重要;態就是程度和大小,程度稍微領先;知就是本質和聯繫,本質尤為突出;感就是現象和屬性,現像大於屬性;深度就是人 機環境的融合和交互,融合在一起的交互。 態勢感知的困難在於態、勢的混雜性與感、知的混雜性,更困難的是態、勢、感、知的混雜性。 有真有假,還有真假,有虛有實,還有虛實……評價深度態勢感知好壞的標準之一就是做人、機、環、態、勢、感、知輔助線的能力,做的 好,迎刃而解,做不好,南轅北轍。

 

人機之間,自主智能與它主智能之間的區別表面上是同化與順應,實際上是同化與順應的轉換程度和效率。 自主性簡單地說就是“應該”,側重於是一個價值性的問題。 皮亞傑研究兒童心理學時認為,孩子的發展是與外界環境相互作用下不斷發生的。 孩子的發展不是簡單的外界不斷刺激的過程,它必須憑藉孩子現有的內部結構。 孩子的活動與外部的刺激具有同等重要的地位。 隨著兒童年齡的增長,其認知發展涉及到圖式、同化、順應和平衡四個關鍵詞。
 兒童的圖式、同化、順應和平衡一開始是基於客觀事實的,例如生理需求的吃喝拉撒眠等;隨著不斷的成長,逐漸形成了價值性的圖式、同化、順應和平衡,例如 愛恨情仇慮等;再後來,又衍生出責任性的圖式、同化、順應和平衡,例如禮義廉恥勇等。

 

  1、同化:是指學習個體對刺激輸入的過濾或改變過程。 也就是說個體在感受刺激時,把它們納入頭腦中原有的圖式之內,使其成為自身的一部分,以加強和豐富主體的動作。 例:原來我會用鍋煮魚肉,需要20分鐘。 現在買了牛肉,我自然想到用鍋煮,如果成功了,就是技能同化了。

  2、順應:是指外部環境發生變化,而原有認知結構無法同化新環境提供的信息時所引起的兒童認知結構發生重組與改造的過程,即個體的認知結構因外部刺激的影響 而發生改變的過程。 就是個體改變自己的動作以適應客觀變化。 例:現在市場上沒有肉,只有菜,我也用20分鐘來煮,菜熟透,吃完口感不好。 於是,只好煮了10分鐘。 因為我順應了菜的加工方式。

  3、平衡:是指學習者個體通過自我調節機制,不斷地通過同化與順應兩種方式,使認知發展從一個平衡狀態向另一個平衡狀態過渡的過程。 例:原來會煮肉,是平衡的狀態。 突然出現了菜,從不會加工,到能成功吃上菜,又到了一個新的平衡狀態。 而這個過程,就是平衡的過程。

  4、圖式:是一種結構和組織,它們在相同或類似的環境中,會由於重複而引起遷移或概括。 最初的基本能力來自先天的遺傳,以後在適應環境的過程中,不斷變化、豐富和發展,形成了本質不同的認知圖式(結構)。 例:肉和菜我都會煮了,也會煮小米粥了,我根據經驗還出版了一本《舌尖上的中國》的美食食譜。 這是一個互相影響的、不斷變化的發展過程。 孩子和新人機系統的發展是充斥著同化、順應,再達到平衡,就是圖式體係不斷改變和發展的過程。 人機之間也是如此。 即使是剛出生的嬰兒和新人機系統,也有自己簡單的圖式系統。 我們不能忽略孩子或人機原有的圖式系統,而一味地強調外在的環境讓孩子學習。 只有讓孩子和新人機系統自己去親身體驗,強調孩子和新人機系統自己的動作運動和活動才會有效果。 比如自己抓取物體等動作。 只有當孩子和新人機系統憑藉現有的結構,即圖式體系,即孩子和新人機系統的動作——不斷地抓取物體才能引起改變,達到同化的過程。 在此基礎上,孩子和新人機系統更可能去拿其他的物體進行嘗試,這是同化的泛化。 而孩子自身內部結構也因為這個過程發生了改變,以適應現實,就是順應。  DARPA的“深綠(Deep Green)”指控系統在這方面做的就不好,所以沒有得到期望的應用效果。 整個系統所揭示的人機融合智能和態勢感知機理相對模糊、機制較為混亂,由此而產生的智能只描述了事實性計算,缺失了人的情感性、價值性和責任性,人、機系統 的同化、順應不平衡,人機圖式體系的變化方向和發展過程不一致。


 任何人機系統不協調的實質問題在於如何把握“變”和“好”,而不是“快”和“演”。 否則人不是人,機不是機,環境不是環境,各自的優點都沒有發揮出來,該變的時候不變,不該變的時候亂變……,另外人機融合的方式、時機、功能等應該 是恰如其分的“好”,不早不晚、不快不慢,才能發揮出各自的優點,實現最優匹配,在開放的真實環境下,由此而產生的智能程度和主動效力才能最大。  人機融合智能現在的一個趨勢就是軟件硬件化,硬件軟件化,機件人性化,人不斷地機械化,其實這不一定是一個好的現象,人應該做人的事情,機做機的事情。 它的融合的核心在這兒強調一句話,就是所有的人機融合裡面一定要有範圍,任何智能都不是任何地方,任何時間多麼智能,它都有局限性,包括人本身也是,人本身都有 局限性,所以怎樣找到那個範圍非常重要(遍歷當前的諸多學科,很難令人相信利用已有的數理、物理、生理、心理、管理……能夠研究好人機融合智能中的“恰好”。)  。


 在自然科學中,人們常用數學方程式來描述一些現象。 若以時間(T)作為變量,認知操作x的變化即等於當時機體的狀態(S)和外界的刺激(R)的函數。  S指的是機體的生理心理狀態,大腦裡的存儲等。 當外界刺激作用處於某種特定狀態的機體時便產生結果,發生變化,即:T—T+I,        ^ x=f(S,R)認知科學認為:計算機的工作原理也是一樣的,在 規定的時間裡,計算機存儲的記憶相當於機體的狀態;計算機輸入相當於給機體施加的某種刺激。 當給計算機某種輸入時計算機便進行操作,其內部發生變化,從而得到結果。 計算機的操作過程可以看作是每一個單位時間內其狀態的變化。 可以用計算機程序模擬人的策略水平,用計算機語言模擬人的初級信息加工過程,用計算機硬件模擬人的生理過程(中樞神經系統、神經元、大腦的活動)。 事實上,人的心理結構與生理、物理結構是不同的,它不但受自於機體本身,同時又是適應環境的結果。 故,在T—T+I, ^ x=f(S,R)中,^x=f(S,R)中的人與機的R不同,人的R不但涉及外界刺激r,還有內在 刺激r',所以是^x=f(S,r,r',r"),在深度態勢感知的算計+計算系統中,外界刺激r可以看作內態刺激,內在刺激r'可以看作 內態刺激,內在刺激r”可以看作勢刺激。 也許,感可以看作態刺激,知可以看作勢刺激。  當前,人機融合智能化平台,人在環是必須的,人在環中就是一個系統的直接部分,既監又控;人在環上就是一個系統的間接部分,主監管控;人在 環外的智能係統已算失控。 如何研究人機環境系統並使之工程化呢? 首先要研究人,包括人的感和知;其次,要研究機以及如何把這些感知功能遷移到機器(裝備)和機制(管理)中去;再次,要研究環境,包括在各種環境中所 產生出的狀態和趨勢(簡稱為態勢);對這三者的研究不一定是順序的,也可以倒序、插序、混序、融序等等,以前主要研究人的態勢感知能力,現在隨 著人工智能技術的發展,又開始研究機器(裝備)和機制(管理)的態勢感知功能,未來的發展趨勢是研究兩者如何實現結合的問題,既人機融合智能中的深度態勢感知問題, 這也是研究人在環的關鍵問題。  就像人們認識世界往往從巫術、神話開始一樣,認知科學一開始也是從一個“錯誤”的類比開始的:計算機根本上就不像人。 所謂符號就是模式(pattern),任何一個模式,只要它能和其它模式相區別,它就是一個符號。 計算機,無論是電子的還是量子的,都是人為定義且達成共識的“物理符號系統”,即其強調所研究的對像是一個具體的物質系統。 而對於人類而言,其研究和運用的是一個彈性且個性化的“心理符號系統”,其強調所研究的對像是一個抽象的價值意義系統。


 對於學習而言,人們常常誤以為人的學習是規範規則化的學習,其實這是一個誤區,人類真正的學習不完全是整體性系統性展開的,而是學習過程中滲透了大量的個性化 靈活性的隱喻和類比,把一些零散破碎的其它有關/無關知識、方法巧妙地貫穿粘合起那些所謂的標準化知識學習過程中,結果是,教育家們自覺不自覺地運用倒序的方式告訴學生 們,本學科及其書本上的知識是系統的完整的,那些獲取這些系統知識之發現過程後面的隱性認識方法卻被忽略省卻了……而這些未被說明的部分恰恰就是真正的學習, 同時也是機器學習所無法企及的部分。 相比之下,人類的學習可能是無表徵或弱表徵學習——一種理解性學習,而機器學習是一種“非理解性”表徵學習。 學習可以使人更好、更坦然地升維處理未知,但對機卻不盡然。 人的學習中除了態(如動作序列、文字數字多少等)外還有勢(發展變化趨勢),具有俯視的連鎖效應;機器學習中無論是深度學習、強化學習還是其它學習,都少了從 勢到態的凌駕,只有從態到勢的亦步亦趨,其中少了許多試探性的刺激—選擇—調整。 對人的學習而言,即使對同一概念的表示(用詞)往往有不同的主觀和客觀成分,如何能盡量達成共識。 這也許涉及事實與價值的比例問題。 人際交流的語言是能指與所指混合的複合雙向通道,而目前的人機交互只能指向單一通道,這就導致了當前的智能傳播還沒有出現弦外之音和言外之意。 也許在不遠的未來,人機智能傳播會在能指和所指之間形成一種“能所+所指”的折中交互方式,以利於聯繫人與機的智能傳播體係發展。 機器學習常常有名無實,而人可以有名有實,還可以無名有實、無名無實。 打破事實時空域的是價值域,引導價值域走勢的責任性,進而形成了一條區別、比例、決策鏈。 人的智慧表現在:動態的表徵+動態的推理+動態的規劃+動態的實施,其中的動態既基於事實和價值,也基於責任和義務。 機的智能則不然。

 

未來智能平台的快速發展面臨的一個關鍵是人機環境系統的協調發展,這裡的“人”涉及設計者、製造者、管理者、營銷者、消費者、維護者等;這裡的“機”不 但是指智能裝備中的軟件、硬件,還將涉及產業鏈中各環節之間銜接的機制機理;這裡的“環境”涉及諸多領域的“政用產學研商”合作協同環境;通過人、機、 環境三者之間態、勢、感、知的相互作用,實現精準發力、數據整合等新型AI+的應用。 所以:

 研究複雜最好從簡單開始,
 研究事實最好從價值開始,
 研究群體最好從單一開始,
 研究組織最好從網絡開始,
 ……
 研究表徵最好從彌聚開始,
 研究決策最好從個性開始,
 研究人機最好從邊界開始,
 研究未知最好從已知開始,
 研究模型最好從類比開始,
 研究內容最好從形式開始,
 研究意識最好從物質開始,
 ……
 研究智能最​​好從區分開始,
 研究指揮最好從控制開始,研究算法最好從數據開始,研究開始最好從結束開始,
 ……
 反之,也成立如何實現人機融合智能中深度態勢感知功能與能力的有機結合程度是衡量該系統好壞的主要指標。 能力主要是產生意圖,功能側重於實現意圖,一個主動,一個被動。 意圖不是靠(拍)腦門產生出來的,是人機環境相互交互湧現出來的,所以這是一個既“复”又“雜”的複雜性問題,也許會涉及到分工與協同的一些基本問題。 研究複雜性問題最好的辦法就是從簡單出發,比如研究人、機的“學習”,最好就是從娃娃抓起,孩子們學習語言比較快,除了大腦發育的原因,另外一個重要的可能是 TA們所有的概念、知識形成與客觀事實形像等有關,無論東西,天地縱橫,無法無天,想的很少,稀有琢磨、不管因果、無緣無故就形成了價值意義,比較容易形成指數級連鎖反應, 孩子們這種“主動犯錯誤”的方式,也許是獲得創造性思維能力的一個重要途徑;而成人學語言困難出來大腦發育之外,往往從價值意義到客觀事實形像有關等,社會習俗,個人習慣 ,環境約束,邊界條件,瞻前顧後、左思右想、不敢不願不應犯錯誤的這種先入為主的因果方式往往制約著各種關聯級索的爆發湧現。  人機融合在本質上是聯繫事實與價值變動的一種形式與方法,它不僅從來不是、而且永遠不可能是靜止不變的。 借用生物學上的一個術語,可把人機融合過程的“不斷從內部革新工效結構,即不斷地破壞舊的和不斷創造新的結構”這種過程,稱作為“結構突變”。 人類的模式識別與機器的模式識別根本不同,人的模式不僅是狀態上的,而且是趨勢性的“得意忘形”。 如果說,機器的模式識別是事實性的實構體,那麼人類的模式識別則是事實性與價值性混合的虛實體。


 那麼如何建立起研發者、使用者與系統之間的信任關係將會變得越來越重要,目前人機融合的解決辦法有兩個:第一個是讓人參與到系統的訓練過程中( 這裡涉及到人何時、何地、何方式有效參與到系統中的問題),第二點是盡可能的多分配決策的任務給人來完成(這裡涉及到如何篩選出適合人的決策任務及 其防止“投射效應”程度的問題)。 儘管已經有人做過實驗證明了這兩點可以增加人對機器/系統的信任程度,但該結論是否具有廣泛性? 需要更深入分析和研究。  若真有天堂,天堂應該是圖書館的模樣。