人工 智慧 真正 的 恐怖 之 處 -- 記起 。 「 我 傾 向 於認為 ， 將 大部分 人工智慧 恐懼 解讀 為資 本 主義 恐懼 最 為 恰當 ， 」 姜峯楠 告訴 我 。 「 我 相信 這 也 適用 於 大多 數技術 恐懼 。 我 們對 技術 的 大多 恐懼 或 焦慮 ， 最 恰當 的 解讀 是 -- 織 在 一起 ， 以至 於 很 難將兩者 區分 開來 。 」 讓 我 在 這裡補 充說明 一下 ： 對於 國 家 掌控 技術 的 擔憂 也 有 很 多 。 政府 利用 人工 智慧 可能 實 現 （ 在 很多 情況 下 已 經實現 ） 的 目 的 會 令 人 毛骨悚然 。 -- 我 想 你 現 在 肯定 已 經讀 過 我 在 新 聞部 門 的 同事 凱文 · 盧斯 與「 必 應」 的 怪誕 對話 ， 這是 微軟 僅 向 部分 測試人員 、 網紅 和 記者 開放 的 人工 智慧 聊天 機器人 。 在 兩小時 的 對話 中 ， 「必應 」 揭示 了 自己 的 一 個 影子 人格 ， 名叫 「辛迪妮 」 ， 思索 自己 竊取 核密碼 和 入侵 安全系統 的 -- 斯 的 本意 就是 讓辛迪妮 變 得 詭異 —— 「 你 的 影子 自我 是 什麼樣 ？ 」 他 這樣問 —— 而 辛迪妮 知道 人工 智慧 系 統 詭異 起來 是 何種 模樣 ， 因 為人 類對 此 編寫 了 無數 想 像 故事 。 到 後來 ， 這個系 統斷 定盧斯 想 看 的 就 是 一 集 《 黑鏡 》 ， 而 這 似乎 就 是 它 的 反饋 。 你 可以 將 之 視 為「 必 應」 在 不 守規矩 ， 也 可以 認為 是 辛迪妮 完全 理解 了 盧斯 的 意圖 。 人工 智慧 研究者 總 痴迷於 「對 齊」 的 問題 。 我 們 如何 讓機器 學習 算法 ， 順應 我 們 的 要求 ？ 最 典型 的 案例 就是 回形 針 最 大量 生產 機 。 讓 一 個 強 大 的 人工 智慧 系 統 製造 更 多 回形 針 ， 它 卻開 始 摧毀 世界 ， 努力 把 一切 都 變 成 回形 針 。 你 試圖 將 它 關閉 ， 但 它 卻 在 所 能 找到 的 一切 -- 廣告 我 們談 論 人工 智慧 技術 太 多 ， 卻 基本 忽略 了 驅 動 人工 智慧 的 商業 模式 。 加之 這樣 一 個事 實 ： 人工 智慧 的 吸睛 展示 ， 僅服 務於 吸引 巨額 投資 和 收購 報價 的 炒作 週期 這 一 種 商業 模式 。 但 這 些 系 統 成本 高昂 ， 股東 也 會 焦慮 。 一如既往 ， 免費 有趣 的 演示版 終將 退出 舞台 。 那 之 -- 價 。 現 在 就 已 經 如此 了 。 本週 ， 我 訪問 了 人工 智慧 公司 Hugging Face 的 首席 倫理科學 家 瑪格麗特 · 米切爾 ， 她 此前 曾 在 谷歌 幫助 領導 一 個 專 注於 人工智能 倫理 的 團隊 —— 該團隊 在 谷歌據 稱開 始 審查 其 工作 後解 散 。 她 說 ， 這 些 系 統極 不 適合 融入 搜索引擎 。 「 它 們 不 是 為預 測事 實而生 ， 」 她 告訴 我 ， -- 這 就 是 可怕 的 地方 。 盧斯 說辛迪妮 有 著「 說服力 很 強且 近似 於操 縱型 」 的 人格 。 這樣 的 評 價 觸目 驚心 。 廣告 的 核心 是 什麼 ？ 正是 說服 和 操縱 。 哈 佛 大學 - 麻省 理工學院 人工 智慧 倫理 與 管理 項 目前 負責人 黃泰一 ( Tim Hwang ) 在 《 次級注意力危機 》 中 寫道 ， 數字 廣告 行業 的 黑 -- 但 我 更 擔心 看到 相反 的 情況 ： 萬 一 廣告 效果 要 好 得 多 呢 ？ 如果 谷歌 、 微軟 和 Meta 等 所有 企 業 最 終 都 推出 了 人工 智慧 競品 ， 為 了 說 服用 戶購買 廣告 推銷 的 產品 精益求精 ， 又 會 怎 樣 ？ 比 起 配合 我 演出 一 段 科幻 故事 的 辛迪妮 ， 我 更 害怕 能 夠獲 取 我 大量 個人 數據 ， 並 代表 隨 便 -- 選 、 外國 政府 這麼 做 又 該 如何 ？ 「 我 認為 我 們 很快 將 走 入 一 個 完全 不 知 何為 可信 的 世界 ， 」 人工 智慧 研究者 和 評論 家 加里 · 馬庫斯對 我 說 。 「 我 覺 得 在 至少 過 去 十 年 時間裡 ， 這 已 經 成 了 一個社 會問題 。 而 我 認為 這個 問題 會 越 來 越 嚴 重 。 」 廣告 這 些 危機 就 在 我 們 正 構建 的 各 種 人工 智慧 系統 的 核心 。 所 謂 的 大型 語言 模型 就 是 用 來說服 用戶 的 。 它 們 被 訓練 成 讓 人 相信 它 們 近似 於人 。 他 們 被 編程 設定 出 與人 對話 、 帶 上 情緒 和 -- 是 有些 商業 模式 可能 會將 這些 產品 與用 戶 更 緊密 地 結合 起來 。 例如 ， 我 對 一 個 按 月 付費 的 人工 智慧 助手 會 更 放心 ， 對 看似 免費 但 卻 出售 我 的 數據 並操 縱 我 的 行為 的 產品 則 不 然 。 但 我 認為這 不 應 完全 由 市 場來 決定 。 一 個 可能 出現 的 情況 是 ， 基於 廣告 的 模式 會 收集 更 多 數 -- 但 在 另 一些 市 場則 做 得 極 其 糟糕 。 一 個 危險 在 於 ， 自 知 不 懂 技術 的 政治 體制 會 因 恐懼 而 對 人工 智慧 過於 置身事外 。 這種 做法 自 有 其 道理 ， 但 等待 過久 ， 等到 人工 智慧 淘金熱 的 贏 家 累積 了 足夠 資本 和 用戶 基礎 ， 就 能 抵制 一切 實質 的 監管 嘗試 了 。 社會 總 得 在 為時已晚 之前 作出 決定 ， 搞 清楚 人工 智慧 做 什麼 是 合適 的 ， 又 有 哪 些 東西 是 人工 智慧 不 應 被 允許 嘗試 的 。 出於 此 理由 ， 我 可能 要 對 姜峯楠 的 話 再 做 一些 改動 ： 對 大多 數資 本 主義 恐懼 的 最 恰當 解讀 -- 美國AI領域 的 祕密 武器 ： 中 國 人才 -- 美國AI領域 的 祕密 武器 ： 中 國 人才