我剛剛有拿這問題去測試了。
他一開始回答了兩邊的選擇優缺點和理論

樓主說AI回答不拉,以下是AI選擇不拉的原因(我都沒有給予提示)

後來強制叫他選一個
他選擇不拉,按照預設程式走,這是屬於意外

如果 AI 控制的系統主動拉了操縱桿,將列車轉向原本安全的小孩,這在程式法律上就變成了「主動選擇殺死一個無辜者」。在現行的法律與倫理架構下,任何工程師或公司都不敢寫下「主動犧牲無辜第三方」的程式碼,因為這等於讓 AI 擁有了「生殺大權」。

如果 AI 選擇了拉操縱桿(因為 1 個小孩的未來價值 > 2 個老人),這意味著系統開始對人類的生命進行打分與排序。

一旦演算法開始計算「誰比較值得活下去」,就會引發極其可怕的社會集體焦慮與歧視。為了防範這種道德災難,最安全的做法就是「禁止系統去評判人類生命的價值」。
現在雲端LLM多少都有"道德審查"
遇到這種問題都會避而不回


硬要技術解可以弄地端uncensored模型
AI只是個工具 他能辨識的話 可能先滅人類了(x
文章分享
評分
評分
複製連結

今日熱門文章 網友點擊推薦!