在最近 MIT 科技評論的專(zhuān)訪(fǎng)中，DeepMind 聯(lián)創(chuàng )，Inlfection AI 創(chuàng )始人表示，他們已經(jīng)將 AI 毒性去除，生成式 AI 只是過(guò)渡，未來(lái) AI 將獲得像人一樣的自由。

　　DeepMind 的聯(lián)合創(chuàng )始人，Inflection AI 的創(chuàng )始人，Mustafa Suleyman 接受了 MIT 科技評論對他進(jìn)行了一次線(xiàn)上專(zhuān)訪(fǎng)，在專(zhuān)訪(fǎng)中，他拋出觀(guān)點(diǎn)：

　　現階段的生成式 AI 只是一個(gè)技術(shù)階段，接下來(lái)會(huì )進(jìn)入交互式 AI 的時(shí)代：AI 將會(huì )成為能夠根據每個(gè)用戶(hù)的不同任務(wù)需求去調用其他軟件和人來(lái)完成工作的機器人。

　　他創(chuàng )辦的公司——Inflection AI 的目標，不僅僅是一個(gè)聊天助手，而是想要通過(guò) AI 讓世界上的絕大多數人獲得更加平等的資源和信息。

　　最后，他還呼吁政府要積極的對 AI 進(jìn)行監管，并認為將 AI 在現有制度下進(jìn)行監管不難實(shí)現。

　　也許與 Suleyman 有相似看法的人并不少，但與大多數人不同的是，是一個(gè)估值數十億美元的公司——Inflection AI 的領(lǐng)導者。

　　這個(gè)公司擁有來(lái)自 DeepMind、Meta 和 OpenAI 的頂級人才，并且通過(guò)與英偉達的合作擁有全球最大的專(zhuān)業(yè) AI 硬件算力儲備。

　　我們正處于 AI 技術(shù)的三波浪潮中的第二波

　　在 Sulyman 看來(lái)，第一波 AI 浪潮是關(guān)于分類(lèi)(Classification)的。深度學(xué)習表明，人類(lèi)可以訓練計算機對各種類(lèi)型的輸入數據進(jìn)行分類(lèi)：圖像、視頻、音頻、語(yǔ)言。

　　現在處于第二波浪潮，生成式 AI 之中，輸入數據并生成新數據。

　　第三波浪潮將是交互式 AI。他一直認為對話(huà)是未來(lái)的交互界面。用戶(hù)不僅僅是點(diǎn)擊按鈕和鍵入文字，用戶(hù)還會(huì )與 AI 進(jìn)行直接的對話(huà)。

　　這些 AI 將能夠自主采取行動(dòng)。只需要給它一個(gè)一般性的、終局的目標，AI 將使用所有工具來(lái)實(shí)現這個(gè)目標。

　　它們會(huì )與其他人對話(huà)，與其他 AI 對話(huà)。這就是他將要用 Pi 來(lái)實(shí)現的東西。

　　這是技術(shù)能力的巨大升級。這是技術(shù)史上一個(gè)影響非常、非常深遠的時(shí)刻，他認為許多人都低估了技術(shù)的潛力。

　　AI 技術(shù)現在依然還是靜態(tài)的。它基本上是按照你告訴它的方式去做事。

　　但技術(shù)將變得有生命力。如果用戶(hù)給予 AI 充分的自由，AI 就能去利用這種自由去采取行動(dòng)。

　　這確實(shí)是人類(lèi)歷史上一個(gè)質(zhì)的飛躍，我們正在創(chuàng )建具有這種智能體能力的工具。

　　人類(lèi)將始終是主導者。人類(lèi)需要確定 AI 不能越過(guò)邊界的限制，并確保這些邊界從實(shí)際代碼到與其他 AI 或人類(lèi)的互動(dòng)，再到創(chuàng )造技術(shù)的公司的動(dòng)機和激勵，都能提供可證明的安全性。

　　早年經(jīng)歷對自己價(jià)值觀(guān)和創(chuàng )業(yè)的影響

　　當被問(wèn)到他與眾不同的職業(yè)經(jīng)歷和傳統的「硅谷風(fēng)」截然不同，而這些經(jīng)歷對于他在硅谷創(chuàng )業(yè)有什么影響時(shí)，Suleyma 回答道：

　　他一直對權力、政治等方面很感興趣。他覺(jué)得人類(lèi)基本原則是妥協(xié)的產(chǎn)物。依靠的是不同的、相互沖突的力量之間持續不斷的協(xié)商才能達成的一種動(dòng)態(tài)平衡。

　　雖然人類(lèi)在不斷地解決問(wèn)題——但是人類(lèi)依然會(huì )被自身的偏見(jiàn)和認知盲區所限制。

　　民間組織、地方政府、中央政府、國際組織等等——都會(huì )受到自身的限制而沒(méi)有辦法高效的，不犯錯的運作。

　　想象一下，如果人類(lèi)不會(huì )犯錯誤，將會(huì )出現什么情況?

　　他覺(jué)得人類(lèi)有可能構建出真正反映自身利益的 AI，并最終更一致、更公平地代表所有人做出更好的利弊權衡。

　　(1984 年，Sulyman 出生于倫敦北部，父親是敘利亞人，母親是英國人。他在貧困中長(cháng)大，16 歲時(shí)，父母分居，兩人都移居國外，留下他和弟弟自謀生路。

　　Sulyman 上的是伊麗莎白女王學(xué)校(Barnet 的一所男子文法學(xué)校)。大概在那個(gè)時(shí)候，他通過(guò)他最好的朋友，認識了 DeepMind 的聯(lián)合創(chuàng )始人 Demis Hassabis。Sulyman 說(shuō)，他和 Demis Hassabis 經(jīng)常討論他們將如何影響世界。

　　后來(lái)他被牛津大學(xué)錄取，學(xué)習哲學(xué)和神學(xué)，但一年后就退學(xué)了。

　　之后與他的大學(xué)朋友 Mohammed Mamdani 一起創(chuàng )辦了穆斯林青年幫助熱線(xiàn)，這是一項電話(huà)咨詢(xún)服務(wù)。該組織后來(lái)成為英國最大的穆斯林心理健康支持服務(wù)機構。

　　隨后，Sulyman 在倫敦市長(cháng) Ken Livingstone 手下?lián)稳藱嗾吖賳T，之后創(chuàng )辦了 Reos Partners，這是一家「系統性變革」咨詢(xún)公司，利用解決沖突的方法來(lái)解決社會(huì )問(wèn)題。

　　作為一名談判代表和調解人，Suleyman 曾為聯(lián)合國、荷蘭政府和世界自然基金會(huì )等一系列的客戶(hù)工作。)

　　Suleyma 說(shuō)，離開(kāi) DeepMind 后，他已經(jīng)財務(wù)自由了。不需要去創(chuàng )業(yè)或者寫(xiě)書(shū)賺錢(qián)來(lái)養活自己。

　　錢(qián)從來(lái)都不是工作的動(dòng)力。錢(qián)是工作的副產(chǎn)品。

　　對他來(lái)說(shuō)，工作的目標從來(lái)沒(méi)有變過(guò)，就是如何讓世界變得更好，以及如何以一種健康、令人滿(mǎn)意的方式推動(dòng)世界前進(jìn)。

　　即使在 2009 年那時(shí)，當他開(kāi)始考慮進(jìn)入科技行業(yè)時(shí)，他就看到了 AI 技術(shù)代表了一種在世界上提供服務(wù)的公平和準確的方式。

　　(Suleyman 與 Hasabiss 共同創(chuàng )立了人工智能公司 DeepMind Technologies，擔任首席產(chǎn)品官。DeepMind 于 2014 年被谷歌收購，他成為 DeepMind 人工智能的負責人。

　　2022 年 1 月，Suleyman 離開(kāi)谷歌，加入 Greylock Partners，擔任風(fēng)險合伙人。

　　2022 年 3 月，Suleyman 與 Greylock 的 Reid Hoffman 共同創(chuàng )立了 AI 實(shí)驗室 Inflection AI。

　　該公司成立的目標是利用「人工智能幫助人類(lèi)與計算機對話(huà)」，從谷歌和 Meta 等公司招募了前員工，并在第一輪融資中籌集了 2.25 億美元。

　　隨后在今年 7 月，得到了來(lái)自微軟、英偉達、比爾·蓋茨和 LinkedIn 創(chuàng )始人 Reid Hoffman 的 15 億美元投資。

　　Inflection AI 拿到融資之后，馬上就購買(mǎi)了價(jià)值 13 億美元的英偉達 H100 GPU，搭建了世界上最大的 GPU 集群之一。

　　今年早些時(shí)候，他發(fā)布了一款名為 Pi 的 ChatGPT 競品。他還與作家和研究員 Michael Bhaskar 合著(zhù)了一本關(guān)于 AI 未來(lái)的書(shū)，名為《即將到來(lái)的浪潮：技術(shù)、權力和 21 世紀最大的困境》。)

　　如何看待技術(shù)的負面影響

　　他認為過(guò)于糾結于誰(shuí)是樂(lè )觀(guān)主義還是悲觀(guān)主義沒(méi)有太大的意義。這是有偏見(jiàn)的看待事物的方式。他只想冷靜地分析利益和挑戰。

　　站在他的立場(chǎng)上，可以非常清晰地看到，隨著(zhù)大型語(yǔ)言模型規模的進(jìn)一步提升，它們變得更易控制。

　　所以?xún)赡昵?，當時(shí)的觀(guān)點(diǎn)——他當時(shí)就認為是錯誤的——是「哦，它們只會(huì )產(chǎn)生有毒的、反芻的、有偏見(jiàn)的、種族主義的內容?！?/p>

　　但是這些情況都只是暫時(shí)的。人們忽視了技術(shù)不斷地進(jìn)展，沒(méi)有真正理解技術(shù)向前發(fā)展的軌跡。

　　現在 Pi 這樣的模型，非常的可控。Inflection AI 可以不讓 Pi 產(chǎn)生種族主義、同性戀歧視、性別歧視——任何形式的有毒內容。

　　能讓它拒絕教用戶(hù)制造生物或化學(xué)武器，或者鼓勵用戶(hù)去砸鄰居的窗戶(hù)。

　　至于如何實(shí)現，Suleyma 不想透露過(guò)多的技術(shù)細節，但是他說(shuō)，請放心大膽地去實(shí)驗!Pi 已經(jīng)上線(xiàn)了，用戶(hù)可以嘗試所有可能的攻擊方式。

　　針對 Pi 的任何越獄、提示黑客攻擊或任何事情都不起作用。這就是一個(gè)客觀(guān)事實(shí)。

　　Inflection AI 有世界上最強大的團隊，在過(guò)去三四年里創(chuàng )造了所有最大的語(yǔ)言模型。

　　這是一個(gè)非常出色的團隊，在一個(gè)非常高效的環(huán)境中工作，擁有大量的計算資源。

　　他們一開(kāi)始就把安全作為第一優(yōu)先事項，因此，Pi 沒(méi)有像其他公司的模型那樣那么「火辣」。

　　看看 Character.ai。(Character 是一個(gè)聊天機器人，用戶(hù)可以為其設計不同的「角色」，并在線(xiàn)分享給其他人聊天。做鏈接) 它的功能主要用來(lái)創(chuàng )造天馬行空的角色，但是 Inflection AI 一開(kāi)始就覺(jué)得這不是一個(gè)好的方向——他們不會(huì )做這樣的功能。

　　Pi 會(huì )非常尊重你。如果你開(kāi)始抱怨你社區的移民搶了你的工作，Pi 不會(huì )指責你，不會(huì )對你指手畫(huà)腳。

　　Pi 會(huì )關(guān)心地詢(xún)問(wèn)并給你提供語(yǔ)言和心理上的支持。它會(huì )試圖了解用戶(hù)這種情緒從何而來(lái)，并溫和地鼓勵你去同情別人。這些都是我思考了 20 年的價(jià)值觀(guān)。

　　但被問(wèn)到如果開(kāi)源這些技術(shù)能讓世界變得更好的話(huà)，為什么不開(kāi)源。

　　Sulyman 強調，自己畢竟在經(jīng)營(yíng)公司，得掙錢(qián)養活大家，之前買(mǎi)了英偉達 13 億的 GPU，得賺錢(qián)滿(mǎn)足投資者對回報的要求。

　　現在開(kāi)源生態(tài)系統正在蓬勃發(fā)展，做得相當不錯，開(kāi)源社區也發(fā)現類(lèi)似的方法。Suleyman 只假設他們最多領(lǐng)先六個(gè)月。

　　AI 監管如何有效進(jìn)行

　　對他而言，開(kāi)發(fā) AI 遞歸自我改進(jìn)的技術(shù)需要被監管起來(lái)，小型 AI 在沒(méi)有你的監督下去更新自己的代碼是危險的，也許這甚至應該是一個(gè)需要許可的行為。

　　或許需要像處理炭疽或核材料一樣，有專(zhuān)門(mén)的機制來(lái)監管這種行為。

　　他還認為，對于 AI 的恐懼是完全沒(méi)有必要的。AI 監管完全可以落腳在現在的監管框架之內。AI 只是治理體系的另一個(gè)組成部分。

　　人類(lèi)在規范超復雜事物方面做得非常出色。以聯(lián)邦航空管理局為例：我們都已經(jīng)習慣乘坐這些鋁制管道在四萬(wàn)英尺的高空飛行，而這是有史以來(lái)最安全的交通方式之一。這就是監管成功的例子。