神譯局是36氪旗下編譯團隊，關(guān)注科技、商業(yè)、職場、生活等領(lǐng)域，重點介紹國外的新技術(shù)、新觀點、新風向。

編者按：微軟公司正加速推進人工智能產(chǎn)品，引領(lǐng) AI 潮流，最新發(fā)布了全面接入 GPT-4 版的 Office 全家桶，但此舉是明智的嗎？在大規(guī)模面向全球用戶推出人工智能產(chǎn)品方面應(yīng)該考慮哪些問題？而就在微軟 Office 進行全面 AI 升級之前，他們卻解雇了人工智能（AI）部門的整個社會道德倫理團隊，不再設(shè)立專門的團隊來確保 AI 原則和產(chǎn)品設(shè)計緊密相關(guān)。本文來自翻譯，希望能對你有所啟示。

(資料圖)

I.

綜合外媒報道，微軟正在推進今年 1 月宣布的裁員 1 萬人計劃，解雇了整個 AI 社會道德倫理團隊。

微軟的員工表示，此舉導(dǎo)致微軟沒有一個專門的團隊來負責將人工智能原則與產(chǎn)品設(shè)計緊密結(jié)合，而目前該公司正在引領(lǐng) AI 發(fā)展潮流，讓人工智能工具成為主流。

微軟仍然保持著一個專門負責人工智能的團隊，負責制定規(guī)則和制度來更好地管理公司的人工智能計劃。該公司表示，盡管最近在推進萬人裁員計劃，但其對應(yīng)人工智能責任工作方面的整體投資仍在增加。

對于此次裁員，該公司在一份聲明中強調(diào)，將會繼續(xù)投資和開發(fā)負責任的人工智能：“微軟一直致力于安全、負責任地開發(fā)人工智能產(chǎn)品和用戶體驗，并通過人員配置、梳理流程和建立良好的合作伙伴關(guān)系來實現(xiàn)這一目標。微軟 Office of Responsible AI 團隊在過去 6 年時間內(nèi)快速擴充人員，和其它微軟部門同事們共同致力于 AI 人工智能項目落地。微軟感謝 Office of Responsible AI 所作出的巨大貢獻，并將繼續(xù)推進負責任的人工智能發(fā)展?！?/p>

員工表示，Office of Responsible AI 在確保公司人工智能原則在產(chǎn)品設(shè)計中得到實際體現(xiàn)方面發(fā)揮了關(guān)鍵作用。

“人們看到 Office of Responsible AI 提出的原則，會說，‘我不知道這是如何應(yīng)用的，’”一名前員工表示。“我們的工作就是向他們展示，并在沒有規(guī)則的領(lǐng)域建立規(guī)則?！?/p>

近年來，該團隊設(shè)計了一款名為“判斷召喚”（Judgment Call）的角色扮演游戲，幫助設(shè)計師預(yù)見人工智能可能帶來的潛在危害，并在產(chǎn)品開發(fā)過程中進行充分討論。這是團隊公開發(fā)布的“負責任創(chuàng)新工具包”（responsible innovation toolkit）的一部分。

最近，該團隊一直在努力識別微軟在其整套產(chǎn)品中采用 OpenAI 技術(shù)所帶來的風險。

AI 社會道德團隊在 2020 年達到最大規(guī)模，當時大約有 30 名員工，其中包括工程師、設(shè)計師和哲學家。10 月，作為重組的一部分，該團隊被裁減至約 7 人。

在重組后的一次團隊會議上，人工智能公司副總裁約翰·蒙哥馬利（John Montgomery）告訴員工，公司領(lǐng)導(dǎo)已經(jīng)下達指示，要迅速推動產(chǎn)品面向市場。根據(jù)媒體獲得的會議音頻，他說：“微軟首席技術(shù)官凱文·斯科特（Kevin Scott）和首席執(zhí)行官薩蒂亞（Satya Nadella）的壓力非常大，他們要把這些最新的開放式 AI 模型和后續(xù)模型以非常快的速度推向客戶手中?！?/p>

蒙哥馬利說，因為公司面臨這種產(chǎn)品發(fā)布的壓力，團隊的大部分成員將被分配到其他部門幫忙。

AI 社會道德團隊的一些成員進行了反擊，其中一位員工在電話中說：“我大膽地要求你重新考慮這個決定，這個團隊一直深切關(guān)注的是產(chǎn)品如何影響社會以及產(chǎn)品所產(chǎn)生的負面影響，這些影響非常重要?！?/p>

蒙哥馬利拒絕了，“我能重新考慮嗎？我想我不會的，”他說。“因為不幸的是，兩種選擇所面對的壓力是一樣的。你沒有站在我的角度思考問題，也許你應(yīng)該對此心存感激。”

不過，在向員工解答時，蒙哥馬利表示，這支團隊不會被辭退。

他說：“這并不是說這個團隊日后會消失，相反它是在進化和成長?！?/strong>“它正朝著將更多精力放在構(gòu)建服務(wù)和軟件的各個產(chǎn)品團隊的方向發(fā)展，這確實意味著某些中心正在下放其能力和責任?！?/p>

AI 社會道德團隊的大多數(shù)成員都被調(diào)到了微軟的其他部門。剩下的成員表示，規(guī)模縮小以后，很難實施他們雄心勃勃的計劃。

大約五個月后，也就是 3 月 6 日，剩下的員工被告知在北美時間上午 11：30 參加 Zoom 電話會議，聽取蒙哥馬利的“重要業(yè)務(wù)更新會議”。在會議期間，他們被告知 AI 社會道德倫理團隊最終被解散了。

一名員工表示，此舉會給用戶體驗和人工智能產(chǎn)品的整體設(shè)計帶來損失。他解釋說：“最糟糕的是，我們這樣做讓公司和使用產(chǎn)品的人都面臨風險?！?/p>

這場沖突凸顯了科技巨頭之間持續(xù)存在的緊張關(guān)系，這些巨頭建立了多個部門，致力于讓自己的產(chǎn)品更具社會責任感。在最好的情況下，它們可以幫助產(chǎn)品團隊預(yù)測潛在的技術(shù)風險，并在發(fā)布之前能夠完全解決這些風險。

但他們也有責任在組織內(nèi)部說“不”或“讓產(chǎn)品開發(fā)速度降低一點”，AI 道德社會團隊會強調(diào)可能會給公司帶來法律麻煩的風險，而通常這些是公司開發(fā)部門不想聽的事情，由此產(chǎn)生的摩擦有時會引起公眾的關(guān)注。

2020 年，谷歌解雇了人工智能道德倫理研究員蒂姆尼特·格布魯（Timnit Gebru），因為她發(fā)表了一篇在人工智能語言模型中存在偏見的危險的論文，該模型在兩年后迅速流行起來。由此引發(fā)的憤怒導(dǎo)致該部門多名高層領(lǐng)導(dǎo)離職，并降低了該公司在人工智能道德倫理問題上的可信度。

AI 社會道德倫理團隊的成員表示，他們通常會盡力支持產(chǎn)品開發(fā)。但他們也說，隨著微軟開始專注于比競爭對手更快地推出人工智能產(chǎn)品，該公司的領(lǐng)導(dǎo)層對團隊擅長的長期思考不那么重視了。

這是一個值得仔細審視的事情。一方面，微軟現(xiàn)在可能有一個千載難逢的機會，可以在搜索、生產(chǎn)力軟件、云計算和其他巨頭競爭的領(lǐng)域?qū)雀璁a(chǎn)生重大威脅。當微軟重新推出人工智能必應(yīng)產(chǎn)品時，該公司告訴投資者，在搜索領(lǐng)域，它每從谷歌那里奪走 1% 的市場份額，就會帶來 20 億美元的年收入。

這種潛力有力地解釋了微軟迄今為止已向 OpenAI 投資 110 億美元的原因，目前微軟正在加緊將這家初創(chuàng)公司的技術(shù)整合到其商業(yè)帝國的每個角落。它似乎取得了一些初步的成功：該公司上周表示，必應(yīng)現(xiàn)在有 1 億日活躍用戶，其中三分之一是在使用 OpenAI 的技術(shù)重新推出搜索引擎后新增的。

另一方面，參與人工智能開發(fā)的每個人都默認，這項技術(shù)會帶來巨大的、可能存在的風險，無論是已知的還是未知的?？萍季揞^們努力發(fā)出信號，表明他們正在認真對待這些風險，即使在社會道德倫理團隊被解散之后，僅微軟就仍有三個不同的團隊在這個問題上開展工作。但考慮到利害關(guān)系，對專注于道德團隊的任何削減似乎都值得注意。

II.

道德和社會團隊被淘汰之際，其剩下的員工正將注意力集中在他們可能面臨的最大挑戰(zhàn)上：預(yù)測當微軟向全球受眾發(fā)布 OpenAI 支持的工具時會發(fā)生什么。

去年，該團隊寫了一份備忘錄，詳細介紹了 Bing Image Creator 相關(guān)的品牌風險。Bing Image Creator 使用 OpenAI 的 DALL-E 系統(tǒng)根據(jù)文本提示創(chuàng)建圖像。去年 10 月，這款圖像工具在少數(shù)幾個國家推出，成為微軟與 OpenAI 首次公開合作的項目之一。

雖然文本轉(zhuǎn)圖像技術(shù)已經(jīng)被證明非常受歡迎，但微軟的研究人員正確地預(yù)測到，任何人都可以輕松地復(fù)制他們的風格，這也可能威脅到藝術(shù)家的生計。

研究人員在備忘錄中寫道：“在測試必應(yīng) Image Creator 時，我們發(fā)現(xiàn)，只要輸入藝術(shù)家的名字和媒介（繪畫、印刷品、攝影或雕塑），生成的圖像就幾乎不可能與原作區(qū)分開?！?/p>

他們補充說：“藝術(shù)家及其財務(wù)利益相關(guān)者的品牌受損風險，以及可能面臨的藝術(shù)家投訴和公眾的負面反應(yīng)對微軟造成的負面公關(guān)風險是值得引起重視的，足以在損害微軟品牌之前要求糾正。”

此外，去年 OpenAI 更新了服務(wù)條款，賦予用戶“使用 DALL-E 創(chuàng)建的圖像的完全所有權(quán)”。此舉讓微軟的道德與社會團隊感到擔憂。

他們在備忘錄中寫道：“如果人工智能圖像生成器復(fù)制了作品圖像，那么允許在線用戶對生成的圖像擁有完全所有權(quán)，在道德上是可疑的?！?/p>

微軟研究人員制定了一系列應(yīng)對策略，包括阻止必應(yīng) Image Creator 用戶使用在世藝術(shù)家的名字作為“提示”，以及創(chuàng)建一個市場出售藝術(shù)家的作品，如果有人搜索他們的名字，這些作品就會顯示出來。

員工們表示，這兩種策略都沒有實施，但 Bing Image Creator 還是進入了測試階段。

微軟表示，該產(chǎn)品在發(fā)布前進行了修改，以解決文件中提出的問題，并督促社會道德倫理團隊進行了額外完善。

但有關(guān)這項技術(shù)的法律問題仍未解決。2023 年 2 月，蓋蒂圖片公司（（Getty Images））對 AI 藝術(shù)生成器 Stable Diffusion 的制造商 Stability AI 提起訴訟。蓋蒂指責這家人工智能初創(chuàng)公司不當使用 1200 多萬張圖像。

這些指控與微軟自己的人工智能倫理學家提出的擔憂相呼應(yīng)。“可能很少有藝術(shù)家會同意讓他們的作品被用來測試，而且很多人可能還不知道生成技術(shù)是如何在幾秒鐘內(nèi)讓他們的作品產(chǎn)生變化的，”員工們?nèi)ツ陮懙馈?/p>

譯者：Araon_