4 月 25 日，在由涂鴉智能聯(lián)合知名財(cái)經(jīng)媒體《新財(cái)富》、人工智能領(lǐng)域知名媒體《全球智能化商業(yè)》共同舉辦的「全球智能化商業(yè)峰會(huì)」上，斯坦福大學(xué)榮譽(yù)教授、新西蘭皇家學(xué)會(huì)榮譽(yù)成員、世界級(jí)算法專家 Michael Saunders 進(jìn)行了以「基於約束優(yōu)化的算法：通用軟件的益處」為主題的演講。
Michael Saunders 曾任斯坦福大學(xué)管理科學(xué)與工程系教授。目前，他是斯坦福大學(xué)榮譽(yù)教授、數(shù)學(xué)家、世界級(jí)算法專家，工業(yè)與應(yīng)用數(shù)學(xué)學(xué)會(huì)會(huì)士，新西蘭皇家學(xué)會(huì)榮譽(yù)成員，斯坦福大學(xué)發(fā)明名人堂成員。
Michael Saunders 教授師從科學(xué)計(jì)算之父 Gene Golub，于 1972 年獲得了斯坦福大學(xué)計(jì)算機(jī)科學(xué)博士學(xué)位，作為計(jì)算機(jī)領(lǐng)域的「大咖」，他曾獲數(shù)學(xué)程式設(shè)計(jì)學(xué)會(huì)「William Orchard-Hays 獎(jiǎng)」及工業(yè)與應(yīng)用數(shù)學(xué)學(xué)會(huì)「暹羅線性代數(shù)獎(jiǎng)」。據(jù)了解，目前其用于矩陣方程式和優(yōu)化問(wèn)題的數(shù)學(xué)算法在全球被廣泛使用。Michael Saunders 教授曾為通用電氣、波音公司等提供咨詢服務(wù)。
Michael Saunders 教授的研究領(lǐng)域包括人工智能、大規(guī)模科學(xué)計(jì)算、大數(shù)據(jù)分析、系統(tǒng)優(yōu)化、稀疏矩陣解法、軟件工程、AIoT 等。
在他看來(lái)，互聯(lián)互通一直都是 AIoT 產(chǎn)業(yè)的優(yōu)化難題，例如此次會(huì)議的主辦方涂鴉智能也推出了類似技術(shù)希望解決信息孤島的問(wèn)題，Saunders 教授在此領(lǐng)域貢獻(xiàn)突出。
以下是此次 Michael Saunders 教授的演講和專訪紀(jì)要，雷鋒網(wǎng) AI 科技評(píng)論做了不改變?cè)獾恼恚?/p>
大家好！謝謝今天來(lái)現(xiàn)場(chǎng)的各位嘉賓，我很高興來(lái)到中國(guó)。不好意思，我是新西蘭人，我會(huì)說(shuō)一點(diǎn)法語(yǔ)，一點(diǎn)西班牙語(yǔ)和一點(diǎn)英語(yǔ)，但是中文要難得多。
今天我想要和大家講的是「約束優(yōu)化」，在這之前，我想先談一下為什么我會(huì)去斯坦福大學(xué)并參與計(jì)算機(jī)相關(guān)的科研，并談?wù)勱P(guān)于約束優(yōu)化的歷史。
從新西蘭到斯坦福，專注于「約束優(yōu)化」
1972 年，我取得了在斯坦福大學(xué)的博士學(xué)位，我返回新西蘭并以為我會(huì)就此永遠(yuǎn)待在新西蘭，但斯坦福大學(xué)教授 George Dantzig，線性代數(shù)之父，他開(kāi)始了系統(tǒng)優(yōu)化實(shí)驗(yàn)室（SOL）計(jì)劃，并且邀請(qǐng)我回到斯坦福。
在我參與系統(tǒng)優(yōu)化實(shí)驗(yàn)室之時(shí)，Dantzig 教授負(fù)責(zé)建立經(jīng)濟(jì)和能量模型，而我則專注于非線性目標(biāo)函數(shù)，并且研發(fā) MINOS 優(yōu)化軟件的初始版本，以解決這些模型的問(wèn)題。
當(dāng)時(shí)，斯坦福大學(xué)教授 George Dantzig 提出了一種新的算法優(yōu)化——即「約束優(yōu)化」。這是一個(gè)很難的研究課題，它是在一系列約束條件下，尋找一組參數(shù)值，使某個(gè)或某一組函數(shù)的目標(biāo)值達(dá)到最優(yōu)。「約束優(yōu)化」本質(zhì)上是一個(gè)線性代數(shù)問(wèn)題，通過(guò)軟件來(lái)實(shí)現(xiàn)優(yōu)化分析。
到了 1980 年代，我又延伸了 MINOS 用以處理一些非線性約束條件，并且我們開(kāi)發(fā)了其他的約束優(yōu)化軟件用于通用電氣和 NASA。
在 1990 年，我們的軟件被用于溫室效應(yīng)模型，以及航太的優(yōu)化問(wèn)題，例如飛機(jī)和太空船的軌道優(yōu)化。
我有一個(gè)做航空器的雙胞胎兄弟大衛(wèi)，他從 1975 年起，就在 NASA 的艾姆斯研究中心（Ames
Research Center）工作，他利用了我們的優(yōu)化軟件設(shè)計(jì)超音速飛機(jī)、新型的太空梭和太空
艙，雖然當(dāng)中有些項(xiàng)目后來(lái)被取消了。
當(dāng)然，我們的算法優(yōu)化也用在了其它很多領(lǐng)域。比如，控制機(jī)器人的運(yùn)行軌跡；還有醫(yī)療領(lǐng)域，我們可以瞄準(zhǔn) X 光光束，幫助醫(yī)生進(jìn)行放射治療。
優(yōu)化對(duì)航空應(yīng)用至關(guān)重要
我們的軟件被用于很多 NASA 很多航空項(xiàng)目，比如：
- 航空器的外觀要如何設(shè)計(jì)才能減少阻力。
- 如果有一臺(tái)攔截機(jī)要從海平面一直爬升到兩萬(wàn)米的高空，我們會(huì)盡我們所能地減少其爬升的所需時(shí)間，這就是所謂的軌道優(yōu)化。
- 單級(jí)入軌火箭（single-stage-to-orbit，或簡(jiǎn)寫(xiě)為 SSTO）麥克唐納-道格拉斯 DC-Y，當(dāng)它進(jìn)入軌道上時(shí)，它以類似于太空梭俯沖的姿勢(shì)重新進(jìn)入大氣層，但在短短幾秒鐘之內(nèi)，它又需要旋轉(zhuǎn)并且以其尾部著地降落。我們優(yōu)化了旋轉(zhuǎn)落地的部分，讓其用最少的燃料落地，這也是軌道優(yōu)化的一種。
- 為了宇航員的生命健康，他們?cè)陲w機(jī)上最好不要受到超過(guò) 3G 的重力加速度，那么應(yīng)該從距離地面多少距離開(kāi)始旋轉(zhuǎn)？
以上問(wèn)題都離不開(kāi)優(yōu)化。
在 2010 年，我參與設(shè)計(jì)了有阿波羅 2.0 之稱的宇宙飛船獵戶座（Orion），獵戶座和阿波羅的外形相似，但體型大得多。大衛(wèi)優(yōu)化了獵戶座的防熱罩的曲度，他發(fā)現(xiàn) 50 年前，阿波羅的設(shè)計(jì)師選擇的外形就是一個(gè)最優(yōu)化的形狀。
最近，我們的優(yōu)化還被用于世界上最大的飛機(jī)」Stratolaunch」, 它于 2019 年 4 月 13 日在加利福尼亞州完成首飛。Stratolanuch 配備有兩個(gè)機(jī)身，和六個(gè)波音 747 引擎，它的機(jī)翼展開(kāi)比一個(gè)足球場(chǎng)的長(zhǎng)度還長(zhǎng)，它可以載著一個(gè)火箭或者是小型的太空船到 11000 米的高空，并且將其發(fā)射到軌道上。大衛(wèi)改善過(guò)后的優(yōu)化結(jié)果顯示，Stratolaunch 如果在 2500 公里的距離就開(kāi)始降落程序，那會(huì)有點(diǎn)過(guò)早。
優(yōu)化軟件和應(yīng)用相輔相成
算法優(yōu)化幫助我們做了很多解決方案。
在 20 年前，我們使用 PDCO 軟件來(lái)做信號(hào)分析（基追蹤降噪，BPDN），我們現(xiàn)在使用同樣的軟件做不同的應(yīng)用：分析低頻核磁共振信號(hào)，用以分析某些東西的組成，例如橄欖油或者是生物柴油，我們既有的軟件找到了新的應(yīng)用方式。
有時(shí)，新的應(yīng)用會(huì)引領(lǐng)我們創(chuàng)造新的算法。例如系統(tǒng)生物學(xué)里頭的多維度模型問(wèn)題沒(méi)辦法以現(xiàn)有的軟件解決，我們就使用了雙精度型和三重精度型版本的優(yōu)化 MINOS 軟件，開(kāi)發(fā)了 DQQ 程序。
我們還開(kāi)發(fā)了 NCL 算法來(lái)解決稅法模型，此前，這是無(wú)法通過(guò)既有的軟件去解決的。NCL 解決了一系列很大但容易解決的優(yōu)化問(wèn)題。令人意外地，我們發(fā)現(xiàn)如何通過(guò)內(nèi)部方法促進(jìn)優(yōu)化，來(lái)」熱啟動(dòng)」(warm start）每一個(gè)大難題。熱啟動(dòng)通常是無(wú)法通過(guò)內(nèi)部方法實(shí)現(xiàn)的。因此，全新的高難度應(yīng)用促使我們催生了新的通用軟件，這是個(gè)非常有趣的過(guò)程。
總結(jié)一下我的演講主題，當(dāng)我們?cè)O(shè)計(jì)一個(gè)優(yōu)化軟件時(shí)，我們總是希望打造一個(gè)「萬(wàn)用型」的軟件，讓其能夠物盡其用。但老實(shí)說(shuō)，我們永遠(yuǎn)不知道，是什么樣的人在使用我們的軟件，有時(shí)候，軟件會(huì)幫助科學(xué)家發(fā)現(xiàn)針對(duì)新興應(yīng)用的優(yōu)化解決方案，這帶給我們立即的成就感。但有時(shí)候則正好相反，是新興的應(yīng)用迫使我們用新的方式結(jié)合既有的軟件去設(shè)計(jì)新的算法。
在未來(lái)，我們會(huì)看到很多像自動(dòng)駕駛車(chē)這樣的應(yīng)用，而自動(dòng)駕駛安全的重要性和太空船的發(fā)射及降落不相上下。優(yōu)化系統(tǒng)在未來(lái)的醫(yī)療領(lǐng)域也將大放異彩，它可以使精準(zhǔn)醫(yī)療成真，它已經(jīng)讓放射療法變得更精準(zhǔn)快速了。
（完）
在演講之后，雷鋒網(wǎng)(公眾號(hào)：雷鋒網(wǎng)) AI 科技評(píng)論對(duì) Michael Saunders 教授做了一次專訪。
雷鋒網(wǎng)：今天很高興有這個(gè)機(jī)會(huì)來(lái)采訪您！第一個(gè)問(wèn)題，您能不能談一談您自己是如何結(jié)合研究與業(yè)界的應(yīng)用，您參與過(guò)哪些具體的案例？
Michael Saunders：我的應(yīng)用案例在我的演講中提了很多，其中有一些很重要的案例，比如在藥物治療、制造、航空航天、系統(tǒng)生物學(xué)和核磁共振等方面。就像我之前說(shuō)的，我們不知道有誰(shuí)會(huì)用我們的軟件，但通用型的軟件本來(lái)就會(huì)鼓勵(lì)更多的新興應(yīng)用誕生。我最喜歡的事情就是別人敲我的門(mén)說(shuō)，「教授，我有個(gè)優(yōu)化問(wèn)題，請(qǐng)問(wèn)你可以幫忙嗎？。」我希望大家敲我的門(mén)。
雷鋒網(wǎng)：您是如何看待人工智能、IoT 與系統(tǒng)優(yōu)化之間的關(guān)系？
Michael Saunders：人工智能涵蓋了許多層面，包括數(shù)學(xué)和計(jì)算機(jī)科學(xué)，求解具有大規(guī)模變量方程的極小值問(wèn)題通常是優(yōu)化領(lǐng)域的代表性案例。
經(jīng)典的 SVM 方法解決的是更為復(fù)雜的問(wèn)題，我們已經(jīng)證明了我們的 PDCO 解決方案是一個(gè)比現(xiàn)有的方法更能規(guī)模化應(yīng)用的解方。
物聯(lián)網(wǎng)包括了感測(cè)器，我們用優(yōu)化方法研究了無(wú)線感測(cè)器網(wǎng)絡(luò)（Wireless Sensor Network），用以偵測(cè)感測(cè)器在哪里。每個(gè)感測(cè)器都能自主偵測(cè)它和其他臨近感測(cè)器的距離，舉例來(lái)說(shuō)，我們可以從一個(gè)直升機(jī)上面把感測(cè)器丟入森林中，讓其自動(dòng)感測(cè)是否有森林大火發(fā)生，其中只有寥寥數(shù)個(gè)感測(cè)器需要知道具體位置。
雷鋒網(wǎng)：千百個(gè) Sensor 之間的互聯(lián)是嗎？
Michael Saunders：我的 PhD 學(xué)生 Holly Jin，在她的博士論文中，她可以精準(zhǔn)地定位數(shù)千個(gè)感測(cè)器，這對(duì)于大型的森林來(lái)說(shuō)很重要。同樣地，如果消防員或礦工佩戴感測(cè)器在身上，同樣的優(yōu)化方法也可以用于森林大火或倒塌的礦坑中搜索他們的位置。
雷鋒網(wǎng)：現(xiàn)在人工智能技術(shù)在中國(guó)特別火熱，作為這方面的專家，您覺(jué)得人工智能技術(shù)未來(lái)突破點(diǎn)在哪里，這一技術(shù)的走向如何？
Michael Saunders：這是一個(gè)很好的問(wèn)題，人工智能技術(shù)已經(jīng)發(fā)展很久了，1967 年，當(dāng)我還在斯坦福大學(xué)念 PhD 的時(shí)候，人工智能就已經(jīng)是一個(gè)計(jì)算機(jī)科學(xué)的研究主題了，如果 AI 是泡沫的話，泡沫早就破掉了。
自動(dòng)駕駛車(chē)對(duì)于未來(lái)的人工智能研究領(lǐng)域來(lái)說(shuō)，是一個(gè)很大的挑戰(zhàn)，特斯拉創(chuàng)始人馬斯克期待特斯拉自動(dòng)車(chē)在今年底就可以自己在路上跑，并且車(chē)子還可以在行程之余去接送其他乘客為車(chē)主賺錢(qián)。我們不清楚這個(gè)愿景是否能實(shí)現(xiàn)，特斯拉聲稱他們有一個(gè)芯片的運(yùn)算速度是其他芯片的二十一倍，這是一個(gè)很了不起的進(jìn)展，這讓我們離未來(lái)的 AI 又更近了一步。
雷鋒網(wǎng)：主要是芯片優(yōu)化？
Michael Saunders：剛才我們問(wèn)題就是說(shuō)，未來(lái)的 AI 應(yīng)用方向，一個(gè)是自動(dòng)駕駛，這是一個(gè)非常大的方向，會(huì)徹底改變我們的生活方式。我看好自動(dòng)駕駛的未來(lái)。
觀眾提問(wèn)：現(xiàn)在機(jī)器學(xué)習(xí)有兩種方式，一個(gè)是監(jiān)督式的，一個(gè)是非監(jiān)督式的，您認(rèn)為哪一種比較有發(fā)展?jié)摿Γ?/strong>
Michael Saunders：機(jī)器學(xué)習(xí)的方式有三種：監(jiān)督學(xué)習(xí)，非監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)。我認(rèn)為監(jiān)督式學(xué)習(xí)和非監(jiān)督式學(xué)習(xí)都是很重要的，研究者們永遠(yuǎn)都在試著改善它們所使用的方法，我認(rèn)為在未來(lái)，這兩種形態(tài)的學(xué)習(xí)方式都會(huì)持續(xù)進(jìn)化。
來(lái)源 | 雷鋒網(wǎng)
作者 | 王雪佩
