(資料圖)

OpenAI，ChatGPT的開發(fā)商，近日表示將投入大量資源創(chuàng)建研究團(tuán)隊(duì)，旨在確保其開發(fā)的人工智能對(duì)人類的安全。公司聯(lián)合創(chuàng)始人指出，超級(jí)智能的巨大力量或?qū)?dǎo)致人類被剝奪權(quán)力，甚至人類滅絕，而當(dāng)前我們還沒有一個(gè)有效的解決方案來操縱或控制潛在的超智能人工智能，防止其失控。他進(jìn)一步預(yù)測(cè)，比人類更聰明的超智能人工智能可能在未來十年內(nèi)出現(xiàn)。 聯(lián)合創(chuàng)始人強(qiáng)調(diào)，人類需要研究比目前更好的技術(shù)來控制超級(jí)人工智能，而這就是所謂的“對(duì)齊研究”，這門重點(diǎn)研究確保人工智能對(duì)人類有益的科學(xué)。他們的研究團(tuán)隊(duì)將會(huì)創(chuàng)建一個(gè)“人類水平”的AI對(duì)齊研究者，OpenAI將使用20%的計(jì)算能力來解決這個(gè)問題，進(jìn)一步借助大量的計(jì)算能力進(jìn)行擴(kuò)展。 然而，這個(gè)計(jì)劃也受到了一些專家的質(zhì)疑，他們認(rèn)為該計(jì)劃的設(shè)計(jì)存在根本性的缺陷。即最初的人類水平的人工智能可能在解決其安全問題之前就已經(jīng)失控，從而導(dǎo)致嚴(yán)重的破壞。 值得注意的是，人工智能的潛在威脅已經(jīng)成為了研究人員和公眾最關(guān)心的問題。今年4月，一群人工智能行業(yè)領(lǐng)袖和專家簽署了一封公開信，呼吁暫停六個(gè)月開發(fā)比OpenAI的GPT-4更強(qiáng)大的系統(tǒng)，他們認(rèn)為這種超級(jí)人工智能對(duì)社會(huì)存在潛在風(fēng)險(xiǎn)。

關(guān)鍵詞：