「AI教父」憂AI反客為主
来源:Ta Kung Pao (大公报) 发布日期:2024-10-10
【大公報訊】綜合BBC、《紐約時報》報道:2024年諾貝爾理學獎得主之一的欣頓雖有「AI教父」之稱,但多次公開表達對AI技術潛L險的擔憂。他2013年加入谷歌,但去年宣布辭職,便「由地談論AI的風險」。 去年51日,欣頓證實己已辭去谷歌副總裁的職位。他警告說,AI系統學習速度驚人,會變到來越危險,「目前它們不比們聰明,但認為很快就會」。他認為,短內,生成式AI可能引發糦訊狂潮。去年530日,包括欣頓內的350多名AI領域的行業高管、專家和教史菭I利組織人工智能安全中心(CAIS)的網站上發表聯署公開信,信中說:「減輕AI帶來的滅絕風險,應該與流行病和核戰爭等其他社會規模的風險一,成為全球優先事項。」CAIS列出幾種AI可能引發的災難,包括AI被用來製造生化武器、AI生成的錯誤信息壞社會穩定等。 今年3,欣頓重申對AI的擔憂。他說,AI的危險之處於其可能採用對人類有害的手段來實現被設定的目標,並AI之間還可能出現競爭。「面對通過競爭變得笖明的AI,們人類將會落後。很多人主張,要防止AI失控,只要關掉電源開關即可。但超越人類智慧的AI可用語言操縱們,或許會試圖說服們不要關掉開關。」