錯誤資訊

07-02科技

AI聊天機器人「設定」散布假資訊超簡單！專家警告：一定會被利用！

人類要控制 AI 聊天機器人、利用其來散播假消息可能非常容易。澳洲研究人員近日就發現，知名 AI 聊天機器人可以被「設定成」以權威口吻回答健康問題，並散布假資訊，甚至附上虛假的醫學期刊引用，令使用者誤信其可靠。根據《路透》報導，研究團隊警告，若 AI 系統缺乏完善的內部防護措施，這些被廣泛使用的 AI 工具極易被濫用，用來大量生成危險的錯誤健康資訊。