物理學獎得主欣頓:AI安全是重中之重
来源:Ta Kung Pao (大公报) 发布日期:2024-10-13
圖:諾貝爾物理學獎得主、「AI教父」欣頓。路透社 【大公報訊】綜合《華爾街日報》、《金融時報》報道:《金融時報》評論稱,人工智能(AI)獲得諾貝爾物理學獎和化學獎青睞,恰好也體現了人工智能的前景和潛在隱患。摘得物理學獎的「AI教父」欣頓多次公開發出AI安全警告,提醒人們未來要更認真地對待AI安全問題,否則AI將對人類構成威脅。 今年76歲的欣頓去年離開了谷歌,他說自己不打算再做研究。相反,他打算倡導開展人工系統安全方面的工作。從去年開始,欣頓在不同場合多次公開表達對AI潛在風險的擔憂。他在去年接受《紐約時報》採訪時表示:「看看五年前的情況,再看看現在。對比一下前後差異,並請對外宣傳。這太可怕了。」 欣頓曾與其他AI研究人員一起呼籲OpenAI、Meta和谷歌等公司在AI安全性上投入更多資源,但AI界一些人認為他誇大了AI的風險,反而會減緩AI技術進步。欣頓10月8日接受諾貝爾獎採訪時重申,「我認為我們正處在歷史的分岔點上,在未來幾年裏,我們需要弄清楚是否有辦法應對這一(AI)威脅。」 10月9日,欣頓呼籲對人工智能安全進行更多的研究,「當我們得到比我們更聰明的東西時,沒有人真正知道我們是否能夠控制它們。」欣頓認為,OpenAI創辦人兼CEO阿爾特曼對利潤的關注超過了對安全的關注,這很不幸。他還說,自己學生蘇茨克沃(Ilya Sutskever)去年在OpenAI管理層的「宮鬥」大戲中把阿爾特曼炒掉,做得好。蘇茨克沃曾擔任OpenAI首席科學家,今年5月宣布離職,稱未來專注於打造安全的「超級AI」。