日本政府出臺(tái)人工智能草案 要求AI大模型運(yùn)營(yíng)商降低幻覺(jué)率

日本政府12日公布人工智能（AI）利用指針草案，核心內(nèi)容包括：要求企業(yè)積極公開(kāi)信息、防止高度仿真的“深度偽造”圖像等不當(dāng)內(nèi)容擴(kuò)散，并呼吁公眾正確理解AI特性及其潛在風(fēng)險(xiǎn)，如偏見(jiàn)與犯罪用途。

該指針依據(jù)9月正式施行的《人工智能法》，總結(jié)公民與企業(yè)在使用AI時(shí)的基本注意事項(xiàng)，雖無(wú)法律約束力，但緩解了社會(huì)對(duì)生成式AI的擔(dān)憂。

草案要求研究機(jī)構(gòu)與開(kāi)發(fā)企業(yè)制定并公開(kāi)訓(xùn)練數(shù)據(jù)收集方針，以降低隱私侵權(quán)或數(shù)據(jù)偏頗導(dǎo)致的模型輸出風(fēng)險(xiǎn)。文件指出，應(yīng)加強(qiáng)防止AI生成虛構(gòu)或錯(cuò)誤信息（即“幻覺(jué)”現(xiàn)象）的努力，因?yàn)榇祟?lèi)問(wèn)題可能對(duì)社會(huì)與商業(yè)造成廣泛影響。

同時(shí)，政府呼吁公眾提升AI素養(yǎng)。AI法第15條明確提出，應(yīng)推動(dòng)人工智能相關(guān)教育與學(xué)習(xí)，使國(guó)民廣泛理解與掌握相關(guān)技術(shù)。

《人工智能法》已于2025年5月28日通過(guò)國(guó)會(huì)，6月4日部分施行，9月1日全面生效。日本政府計(jì)劃在年底前匯總《基礎(chǔ)AI計(jì)劃》草案，并于2026年初發(fā)布具體行動(dòng)方案。

日本此次指針旨在構(gòu)建“與人工智能共存的社會(huì)”，確保人工智能的發(fā)展兼顧透明性與安全性。