#AI 安全
標籤「AI 安全」的文章，共 4 篇。
- 一人公司工作流＋學習系列AI 代理會不會闖禍？AI 代理會動手做事，也就可能闖禍。R-Judge 測試模型能不能看出風險，結果是：看得出來，不代表判斷得對。
- 一人公司工作流＋學習系列AI 的回答裡能藏暗號嗎？可以。AI 每次選字都有好幾個候選，選哪一個就能代表 0 或 1。本篇用白話講 GPT-2 隱寫的原理、和水印的差別與風險。
- 一人公司工作流＋學習系列AI 為什麼會被話術騙？越獄是用特殊包裝讓 AI 說出本來會拒絕的內容。本篇講它為何會發生、研究者怎麼系統化測試，以及開發者該怎麼防。
- 一人公司工作流＋學習系列怎麼知道一段文字是不是 AI 寫的？模型產生文字時可以偷偷留下統計上的記號，再用演算法檢查。但翻譯、改寫會讓記號變淡，水印不是萬能的 AI 偵測器。