在美國聯邦政府下轄的眾多部門與機構當中,美國能源部在對科學、技術及創新的關注方面可謂一枝獨秀。很多人可能都對能源部旗下極具突破性的實驗室、世界一流的研究機構以及擁有頂尖學術成果的傳奇員工們有所耳聞。自第二次世界大戰以來,美國能源部一直挺立在科學與技術領域的一切開創性與變革性努力的最前沿。除了對原子能的開發與利用,能源部還提出人類基因組計劃倡議,并在其他創新、高性能計算等研究型工作當中發揮著重要作用。
▲ 圖:美國能源部AI與技術辦公室主任Cheryl Ingstad
事實上,美國能源部在物理科學方面的研究遠超任何其他美國聯邦機構,包括通過勞倫斯-伯克利國家實驗室、橡樹嶺國家實驗室、阿貢國家實驗室、艾姆斯實驗室、布魯克海文國家實驗室、洛斯阿拉莫斯國家實驗室、桑迪亞國家實驗室、勞倫斯·利弗莫爾國家實驗室、SLAC國家加速器實驗室以及其他數十個機構等,都為美國在計算、物理、化學、材料科學等多個領域的研究提供了超過40%的資金。就在不久之前,能源部還運行著全球性能最強大的兩臺超級計算機:Summit與Sierra。
憑借一系列研究、計算與資金實力,能源部也率先推動對AI及其應用在各個行業中的相關研究。今年早些時候,Cheryl Ingstad被任命為能源部AI與技術辦公室主任。在本文中,她將分享她的部分見解。
問:人們可能不太了解,能源部與AI其實有著密不可分的悠久歷史。您能簡單介紹一下嗎?
Cheryl: 憑借著近80年的創新經驗、無與倫比的研發基礎設施以及對于加速科學發現的強烈訴求,我認為能源部以及我們下轄的17所國家實驗室已經成為美國乃至世界范圍內最強大的創新孵化場。
我們在AI方面的探索經歷可以追溯到上世紀七十到八十年代,當時主要是利用基于規則的早期機器學習方法操作大型實驗設施(例如粒子加速器)并分析大規模數據集。
從1990年到2010年這二十年間,各實驗室進行了大量工作,將新興機器學習用于處理可能造成嚴重后果的各類國家安全挑戰,例如網絡安全與核不擴散原則等。在此期間,能源部也著手擴展自有超級計算機上的學習系統。
可以說,我們的部門一直在機器學習與人工智能領域持續投入,并在數十年中持續與私營部門及學術界保持著密切合作。憑借著豐富的經驗與無與倫比的計算能力,能源部建立起無可替代的優勢地位,推動聯邦政府致力于發展、促進并實現人工智能技術做出的種種承諾。
問:能源部一直在以多種先進方式使用AI與ML技術。您能否分享一些關于AI應用的具體案例?
Cheryl: 目前,能源部及其國家實驗室正領導超過600個不同的AI項目,旨在加強我們在能源、網絡以及國家安全方面的核心使命,同時加速科學發現。
我們使用AI技術推動精準的地下能源勘探,這不僅帶來了產量提升,同時也減少了對環境的破壞性影響。人工智能正幫助我們提高電網的可靠性與彈性,為美國的經濟乃至國家安全奠定了基礎。我們還使用AI增強關鍵基礎設施的網絡攻擊防護水平??梢哉f在各個方面,能源部都在著力運用AI這項突破性的技術。
但AI的影響遠遠超越了能源部傳統認知中的核心任務范疇,我們的實驗室也正在使用AI技術提高農作物產量、幫助預測地震等地質活動、加速新藥開發并改善各類致命疾病的診斷與治療方法。最近能源部憑借著全球最快的超級計算機之一Summit的強大功能,配合自身在科學與AI方面的專業知識,為對抗COVID-19疫情貢獻了自己的力量。
問:作為能源部人工智能與技術辦公室(AITO)的第一任主管,您是如何對能源部的AI技術進行開發、交付與管理規劃的?
Cheryl: 首先,作為第一任美國政府民用AI技術部門的領導者,我要榮幸地宣布,能源部AI與技術辦公室的成立對于AI發展具有重大意義。我們正面對一場巨大的變革,而AI將成為決定勝敗的關鍵所在。
之前我已經提到,在龐大的能源部當中,存在著數百個前景光明的技術項目。但在此之前,這些項目都是孤立存在,彼此之間缺乏協調與戰略規劃。
正因為如此,去年8月,前任能源部長Perry才決定成立AITO以作為能源部AI工作的樞紐,著力評估、調協并推動能源部在AI這一關鍵領域的發展與進步。
AITO的目標非常簡單:組織能源部內的各類AI活動(包括研發、應用、政策乃至基礎設施工作),明確指定可加快項目成功的資源。最重要的是,對各項目進行調整,保證其如同激光一樣彼此聚焦以建立起統一的AI技術力量。
作為主管,我的首要任務是將AITO打造成能源部AI轉型道路上的推動力。這種轉變絕非易事,其中必然會出現需要克服的挫折、障礙與挑戰。但我堅信,通過合作,我們可以利用AI技術增強美國的能源、經濟乃至國家安全,并給整個國家帶來積極而持久的影響。
問:您認為公共部門在AI技術發展方面擁有哪些獨特的機會?
Cheryl: AI技術最令人興奮的一點,就是其實際應用所帶來的潛在收益幾乎無窮無盡,完全取決于大家的想象力。在新任能源部長Brouillette的引導下,能源部各計劃辦公室與實驗室正在同AITO開展合作,確定從運營到采購的整體流程。正如部長所言,我們能源部必須以身作則,率先展示AI技術的強大優勢。
例如,很多人不知道美國能源部其實擁有并運營著國內一部分電網,約有10%的美國民眾依靠這部分電網獲得可靠且價格合理的電力資源。為此,我們擁有的一大實際機遇,就是開發AI解決方案以改善服務體驗并幫助客戶進一步降低能源使用成本。
在機構間協作方面,能源部正與多家機構聯手,研究如何將AI技術應用于更多重要任務當中——我們的近期目標是幫助納稅人更好地管理資金,同時增強聯邦政府向全體美國民眾提供的服務。
更具體地講,我們還有機會在政府數據集的安全存儲、管理與分析方面有所貢獻。聯邦政府下轄的各個機構都會產生規模龐大,但目前仍未得到充分利用的數據。美國能源部擁有安全的飛地基礎設施、強大的原始計算能力以及廣泛的科學專業知識,完全能夠充當這些數據集的交換平臺與策劃方,保證美國政府能夠運用AI之力應對國家發展所必須解決的各類嚴峻挑戰。
問:那么,公共部門在AI領域又面對著哪些獨特的挑戰?
Cheryl: 與其他突破性技術一樣,AI技術也給我們帶來了不少當前及未來需要逐步解決的難題。
首先就是,AI支持型決策能否得到驗證、值得依賴且保證不存在人為偏見。要解決這個問題,就需要在數據安全性、道德倫理以及隱私合理性等方面加以關注。
另外,公共部門需要認真考慮AI發展給勞動力市場帶來的沖擊。具體來講,我們不僅要意識到以往眾多只能由人工完成的任務,未來都將由AI接手并實現全面自動化,此外我們還需要幫助民眾為AI普及之后出現的新型工作崗位做好準備。再有,隨著各民族國家及非國家組織在AI能力方面的進步,對抗性AI正越來越多地成為人們關注的議題。
這些擔憂不無道理,AI這一突破性技術也確實可能帶來負面影響。而相關挑戰的答案,要求我們在努力開發技術本身之余,充分發揮創新觀念與想象力。
問:能源部如何努力讓自有數據為AI/ML應用做好準備?
Cheryl: 這是個好問題。如您所知,數據可以說是AI項目成功的關鍵性前提。AI項目的最終表現,完全取決于我們為其提供怎樣的數據。以此為基礎,能源部的高層領導一直在通過數據治理委員會充分利用我們已經擁有的大量遺留數據,并保證對后續收集到的數據進行及時整理、標記與保護。只有這樣,我們才有可能建立起及時且可驗證的AI解決方案。
我們的一大核心目標,就是將關鍵數據集以更廣泛、更輕松的方式交付給實驗室的研究人員。我們希望減少各領域專家在數據采集與數據管理方面耗費的時間,將寶貴精力真正投入到AI的成功應用當中。
問:能源部擁有全球最強大的超級計算機,那么它們是如何應用于AI項目的?
Cheryl: 目前,能源部對于計算能力以及創新發現的追求,確實達到了無與倫比的程度。
我們擁有全球速度最快、性能最強的三臺超級計算機中的兩臺,而且能源部很快將部署三臺下一代百億億次超級計算機,這將幫助我們以更加驚人的速度處理海量數據。
在迫切需要AI洞見時(例如聯邦政府在面對COVID-19疫情時),能源部的超級計算機能夠在幾小時甚至幾分鐘之內,完成其他系統需要數周乃至數月才能完成的計算任務。
事實上,能源部也是COVID-19高性能計算聯盟的主要合作伙伴之一。參與各方利用AI技術分析大量數據,希望從中發現關于冠狀病毒的新穎見解。
問:AI技術對于能源部未來的發展愿景又有著怎樣的重要作用?
Cheryl: 我堅信,如同一百多年前出現的電力一樣,AI技術也將給我們的日常生活帶來巨大的變化。Brouillette部長也意識到了這一點,他的愿景是通過加快技術的研究、開發、交付與應用,將能源部轉變為美國政府當中民用AI領域的牽頭機構。
如今,AI技術已經在美國能源部的眾多關鍵任務領域發揮作用包括美國的能源可靠性、環境管理、核安全、國家情報與科學發現等等。它還在改變著我們應對自然災害的方式,幫助我們保護關鍵基礎設施、為情報機構提供信息支持,甚至改變著我們檢測及應對惡意網絡威脅的具體方式。
能源部還負責制定對于國家擁有重大影響的安全決策。在各個關鍵領域建立安全且可信賴的AI解決方案,自然也要求能源部突破當前我們對于AI前沿的認知邊界。
問:能源部對于AI應用層面的道德規范與負責任態度又有著怎樣的看法?
Cheryl: 正如總統在《人工智能行政令》中所明確指出,美國在AI的開發與應用方面必須處于領先地位,我們需要借此保證隨著AI技術在日常生活中的普及,其同時也能體現美國對于傳統價值觀以及各項基本權利的尊重。
美國有權利、也有義務引領AI技術發展,并與私營部門、學術界以及志同道合的盟友們建立合作關系,共同塑造出更美好的未來AI發展態勢。
問:能源部打算如何幫助勞動力市場為AI時代的到來做好準備?
Cheryl: AI正在創造全新的職業道路,同時改變著每個人的生活。為此,我們經濟體系中的各個部門都在以不同的角度努力應對這一挑戰。在能源部,我們一方面增強現有員工的AI能力,同時也在為未來需求吸納更多人才,希望借此保證能源部能夠充分利用這項技術優化并完成各項意義深遠的基本任務。
為此,我們已經開始組織在線培訓課程與教育研討會,希望提高聯邦政府雇員的整體技術水平。在教育計劃的制定中,我們結合了來自各實驗室、私營部門以及高等教育合作伙伴的意見,幫助非專業人士了解AI的奧秘、鼓勵員工以創造性方式思考AI解決方案如何幫助其高效處理工作,同時也引導他們積極解決由AI技術帶來的一系列道德、法律與社會問題。
對于能源部來說,要真正為AI的全面普及做好準備,首先需要由AI技術專家對AI技術進行設計、開發與標準化調整。為此,我們通過各國家實驗室內部的實習機會、獎學金計劃、研究經費、交流通道以及客座教授計劃等制定起多項平等戰略,借此培養、招募并保留具備強大專業知識的廣泛AI人才。
但除了能源部,我認為我們需要在國家層面發起一項與STEM類似的綜合性教育計劃,激發人們對于AI相關課程的興趣。此外,我們還應制定適當的分段式課程,保證未來的勞動力在教育過程中充分了解AI這一具有突破性的技術成果。
問:能源部如何在AI探索中引入行業及私營部門的力量?
Cheryl: 我們辦公室最近剛剛發布了第一項信息征集令(RFI),要求AI社區就最重要的AI技術與應用方式提出自己的看法,探討這些技術與應用方式如何保證美國能夠在未來十年中保持AI領先地位。我期待看到業界的回復,也希望他們的真知灼見與專業知識能夠在不久的未來成為攻克AI挑戰的重要武器。
問:在未來幾年中,您自己最期待看到哪些AI技術突破?
Cheryl: 我最期待看到如何開發并組合多種AI技術,例如將神經網絡、自然語言處理以及稀疏數據結合起來,借此創造出能夠改變國家安全、企業、行業乃至醫療保健領域的突破性解決方案。在醫療保健方面,我認為AI將迸發出幾乎無窮無盡的診療與護理潛能。
好文章,需要你的鼓勵
想象一下,你有一個非常聰明的朋友,他知道很多知識,但每當需要使用計算器、搜索引擎或查詢最新天氣時,卻變得像個笨手笨腳的孩子。這正是當前大語言模型(簡稱LLMs,如ChatGPT這類AI系統)面臨的尷尬處境。
想象一下,你擁有一個聰明的助手,它知道很多知識,但在面對需要使用計算器、搜索引擎或查詢最新信息時卻顯得笨手笨腳。這正是當前大語言模型(LLMs)面臨的困境。雖然這些模型已經通過監督微調(SFT)學會了使用工具的基本能力,但它們常常在面對復雜或不熟悉的場景時表現不佳。
想象你正在和一個智能助手聊天。如果你直接要求它提供有害信息,它很可能會禮貌拒絕。但如果你通過一系列看似無害的對話,逐步引導它走向你的真實目標呢?這就是當前AI安全領域面臨的一個嚴峻挑戰——多輪對話中的安全漏洞。
想象你在使用一個非常聰明的AI助手完成一項復雜任務,比如解決一道數學難題。你可能注意到這個助手會花很長時間"思考",一步一步寫下大量推理過程,最后才給出答案。雖然這種詳細的思考過程確實幫助AI做出了更準確的判斷,但同時也帶來了一個明顯的問題:它太"啰嗦"了,消耗了大量的計算資源和時間。