專家警告:人工智能可能威脅人類存亡
法新社報導,包括阿特曼(Sam Altman)在內的數十位專家聯署了一份簡短聲明。聲明稱,應對AI帶來的人類滅絕風險,應是「與應對疫情和核戰同層級的全球優先要務」。阿特曼的公司OpenAI研發了ChatGPT聊天機器人。
本文引用地址:http://www.j9360.com/article/202305/447211.htmChatGPT可以依據簡短指令編寫文章、詩歌和對話,因此在去年底一炮而紅。這個程序的巨大成功也吸引了AI領域數十億美元的投資,但批評者和業界人士都發出了警告。
常見的擔憂包括聊天機器人可能導致假消息充斥網絡、帶有偏見的算法可能產出種族主義內容,AI驅動的自動化也可能摧毀整個產業等。
公布在非營利組織「人工智能安全中心」(Center for AI Safety, CAIS)網頁的這份最新聲明并未詳細說明AI可能帶來的潛在生存威脅。
CAIS表示,這份「言簡意賅的聲明」旨在開啟針對AI技術風險的討論。
聲明的數名簽署人,包括被稱為「人工智能教父」的辛頓(Geoffrey Hinton),過去也曾提出類似警告。
他們最大的擔憂是所謂「通用人工智能」(Artificial General Intelligence,AGI)的崛起,也就是具備人類認知能力的人工智能。
他們害怕,人類將失去對這些超智慧機器的掌控權。專家曾警告,這可能對物種和地球造成災難性后果。
聲明的聯署人也包括來自AI領先企業谷歌(Google)和微軟(Microsoft)的專家。
早在2個月前,億萬富豪馬斯克(Elon Musk)和其他數百名專家也曾發表一封公開信,呼吁在確定安全無虞之前,暫緩AI研發工作。
然而,馬斯克的信引來廣泛批評。有人認為,信中關于社會和文明崩潰的警告太過夸大。
評論