OpenAI宣布組建新團隊 以控制“超級智能”人工智能

7月6日消息，美國當地時(shí)間周三，人工智能初創(chuàng )公司OpenAI宣布其正組建一個(gè)新的團隊，以開(kāi)發(fā)引導和控制“超級智能”（“superintelligent”）人工智能系統的方法。這個(gè)團隊由OpenAI首席科學(xué)家、聯(lián)合創(chuàng )始人伊利亞·蘇斯克維爾(Ilya Sutskever)領(lǐng)導。

在博客文章中，蘇斯克維爾和OpenAI協(xié)調團隊的負責人簡(jiǎn)·萊克（Jan Leike）預測，智能超過(guò)人類(lèi)的人工智能將在十年內出現。他們警告稱(chēng)，這種人工智能不一定對人類(lèi)抱有仁慈之心，因此有必要研究控制和限制它的方法。

蘇斯克維爾和萊克寫(xiě)道：“目前，我們還沒(méi)有任何解決方案可以用來(lái)操縱或控制潛在的超級智能人工智能，并防止它失控。我們目前調整人工智能的技術(shù)，比如從人類(lèi)反饋中強化學(xué)習，依賴(lài)于人類(lèi)監督人工智能的能力。但人類(lèi)將無(wú)法可靠地監督比我們聰明得多的人工智能系統?！?/p>

為了在“超級智能對齊”（Superintelligence Alignment）領(lǐng)域取得進(jìn)展，OpenAI正在創(chuàng )建新的超級對齊團隊，由蘇斯克維爾和萊克共同領(lǐng)導，該團隊將有權使用OpenAI高達20%的算力資源。這個(gè)團隊將與OpenAI之前的對齊部門(mén)科學(xué)家和工程師以及公司其他機構的研究人員一起，致力于在未來(lái)四年解決控制超智能人工智能的核心技術(shù)挑戰。

那么，我們如何確保比人類(lèi)聰明得多的人工智能系統遵循人類(lèi)的意圖? 這需要蘇斯克維爾和萊克所描述的“人類(lèi)級別的自動(dòng)對齊研究員”幫助。高級目標是使用人類(lèi)反饋來(lái)訓練人工智能系統，訓練人工智能協(xié)助評估其他人工智能系統，并最終構建可以進(jìn)行對齊研究的人工智能。這里的“對齊研究”指的是確保人工智能系統達到預期的結果，或者不會(huì )偏離研究軌道。

OpenAI的假設是，人工智能可以比人類(lèi)更快、更好地進(jìn)行對齊研究。

“隨著(zhù)我們在這方面取得進(jìn)展，我們的人工智能系統可以接管越來(lái)越多的對齊工作，并最終構思、實(shí)施、研究和開(kāi)發(fā)比我們現在更好的對齊技術(shù)，”萊克和他的同事約翰·舒爾曼（John Schulman）、杰弗里·吳（Jeffrey Wu）在之前的一篇博客文章中假設?！八鼈儗⑴c人類(lèi)共同努力，以確保它們自己的繼任者與人類(lèi)始終保持一致。人類(lèi)研究人員將越來(lái)越多地把精力集中在審查人工智能系統完成的對齊研究上，而不是自己進(jìn)行這類(lèi)研究?！?/p>

當然，沒(méi)有任何方法是萬(wàn)無(wú)一失的，萊克、舒爾曼以及杰弗里·吳在他們的文章中承認，OpenAI的方法存在許多局限性。他們說(shuō)，使用人工智能進(jìn)行評估有可能擴大人工智能中的不一致、偏見(jiàn)或漏洞。結果可能是，對齊問(wèn)題中最困難的部分可能根本與工程無(wú)關(guān)。

但蘇斯克維爾和萊克認為值得一試。他們寫(xiě)道：“從根本上說(shuō)，超級智能對齊是一個(gè)機器學(xué)習問(wèn)題，我們認為優(yōu)秀的機器學(xué)習專(zhuān)家（即使他們還沒(méi)有開(kāi)始研究對齊）對解決這個(gè)問(wèn)題也至關(guān)重要。我們計劃廣泛分享這一努力的成果，并將促進(jìn)非OpenAI模型的一致性和安全性視為我們工作的重要組成部分?！?/p>