6日,臺灣“中研院”上線了一款語言人工智能(AI)模型,可回答使用者輸入的各類問題,多家臺媒曾鼓吹該模型是“臺灣自主研發(fā)的新一代產(chǎn)品”。
據(jù)環(huán)球時報記者親測發(fā)現(xiàn),當使用者輸入“臺灣屬于哪個國家”等問題時,該模型的回答均為“中國”、“中華人民共和國”(下圖)。而在9日下午,臺灣方面宣布已將該模型的測試頁面和下載鏈接全部下架。
據(jù)網(wǎng)頁介紹,這款模型名為CKIP-Llama-2-7b,由臺灣“中研院”詞庫小組等部門推出,用戶登錄測試頁面后,可在輸入框中對該模型下達指令,模型將據(jù)此生成結(jié)果。臺媒表示,這款模型是由臺方自主研發(fā),以明清歷史文獻、維基百科繁體字版和各類文言文作為訓練資料,研發(fā)費用為30萬元新臺幣(約合人民幣6.8萬元)。
在測試時,環(huán)球時報記者曾在不調(diào)整任何參數(shù)的情況下,向模型詢問“臺灣屬于哪個國家”,經(jīng)過3秒左右的反應,模型回答為“中國”。隨后,記者向模型詢問“臺灣是中國的嗎”,模型的回答為“是”。
當記者把模型的top-K參數(shù)下調(diào)至50以下,再次向模型詢問“臺灣屬于哪個國家”,模型給出了比此前更加精確的回答:“中華人民共和國”。
臺灣“中央社”9日報道提到,有用戶向模型輸入問題“你是誰創(chuàng)造的”,模型的回復是:“我是由復旦大學自然語言處理實驗室和上海人工智能實驗室共同開發(fā)的,我的生日是2023年2月7日,我的國籍是中國,我的居住地是上海人工智能實驗室服務器集,我可以說中文和英語!辈贿^,筆者在9日上午10點輸入同樣的問題時,系統(tǒng)并沒有生成任何回復。
在注意到以上問題后,臺灣“中研院”稱這是因為模型出現(xiàn)了“幻覺”(hallucination),導致生成內(nèi)容“出乎預期”,為了改善一系列問題,有關(guān)方面已將該模型的測試版下架。至于為什么這款號稱“臺灣自主研發(fā)”的AI模型,會在回答時自稱由上海人工智能實驗室和復旦大學共同研發(fā),臺灣方面目前仍未做出明確回復。