人工智慧改善我們生活的潛力每天都在變得越來越明顯。不幸的是，事實恰恰相反……
當你讀到
一篇科學論文
中的“不過度危言聳聽”這個詞
時，你可能會有點
……
驚慌失措。這不是科學文獻中通常遇到的短語
——
它不僅僅是一個危言聳聽的詞。然而，有時這種警報似乎是完全合理的。科學家在提醒我們，其他人注意他們研究更令人不安的影響時履行了他們的道德職責。
在過去的幾年裡，研究藥理學家們開發了一種人工智慧驅動的工具，以幫助他們發現新藥的能力。他們的人工智慧能夠綜合滲透已知的化學結構，將這些新結構與類似的化合物相匹配，並使用這些匹配來估計其作為一種治療的潛在有效性。這些工具意味著藥物研究人員可以更快（而且更便宜地）從概念轉移到準備測試的藥物。
在錯誤的劑量下，所有藥物都可能成為毒藥。但是，如果你從一種令人難以置信的強效毒藥開始，並使用人工智慧來改善它呢？
在我們展望這個危險的未來之前，讓我們回顧一下過去
——
古老的過去。在過去和我們的未來之間，我們真正感受到了涵蓋天堂和地獄之間大部分可能性的弧線。
令人驚訝的是，在
15
世紀發明可移動字型之前，很少有文字以接近完整的形式存在。雖然一軍團僧侶和文士花了許多年的時間煞費苦心地複製在西羅馬帝國崩潰和動盪的中世紀中倖存下來的少數文字的手稿副本，但其中大部分涉及複製同樣少數文字，即教規的核心：聖經、教父、亞里士多德、西塞羅、荷馬、維吉爾
——
以及其他一些文字。沒有什麼比著名的亞歷山大圖書館（擁有數以萬計的紙紗草手稿）那樣倖存下來。當有重大發現時
——
例如在庫姆蘭的一個洞穴中發現的手稿，後來被稱為死海古卷
——
它極大地增加了我們對古代過去的理解。
即使是最好的人類記憶也有侷限性；計算機資料庫需要透過更廣泛的體驗來增加記憶體。
即使是這些奇妙的發現也是可悲的不完整。熵起作用，而昆蟲、蠕蟲和天氣做大部分其餘的工作，碎片掉出來。兩千年來，訊息被擾亂，即使在最好的情況下，也很少見到完整性。
因此，我們古老的過去主要由碎片組成：紙紗草紙碎片、粘土板的一個角落、磨損以完全透明的羊皮紙，或被侵蝕的石頭銘文。我們透過玻璃黑暗地看待過去，並盡最大努力理解它。
這種感覺已成為那些研究古代世界的考古學家、人類學家和語言學家的核心（也是最複雜的）任務之一。他們可能會發現一個不完整的、自然的銘文，然後搜尋自己的記憶，尋找類似的銘文，因為類似的銘文可以引導他們理解另一個不完整的銘文。但即使是最好的人類記憶也有侷限性；需要計算機資料庫才能在更廣泛的體驗中乘以記憶體。
加利福尼亞州的帕卡德人文研究所建立了古代銘文資料庫
——
古希臘語中遠超過
300
萬個字元
——
並使其可以搜尋。研究人員可以
輸入
他們手頭
的銘文片段
，該服務將以它識別為匹配的任何銘文進行響應。這比最好的記憶更好，也有很大的幫助。但這只是開始。
這次恢復的銘文記錄了一項關於雅典衛城的法令，日期為公元前
485/4
年。
有
一種人工智慧，該人工智慧
“
讀取
”
數百萬個程式碼示例來建立
Github
的
CoPilot
——
這是一個幫助程式設計師編寫程式碼的工具，在他們需要的時候只提供所需的程式碼片段。它的工作原理雖不完美，但它加速了計算機程式的編寫和準確性。
古代銘文領域也發生了非常相似的事情。總部位於倫敦的谷歌
DeepMind AI
實驗室消化了帕卡德人文研究所資料庫中
35，000
多塊古希臘銘文，並建立了一個模型，該模型盡最大努力填補空白
——
缺少的銘文片段。這個被稱為
伊薩卡
的程式根據它擁有的大量樣本進行假設，並提供了自己最好的猜測，即紙紗草紙丟失的部分（或粘土或石頭等）最初可能拼寫了什麼。
伊薩卡遠非完美。正如
《
自然》
雜誌
的
一篇論文
所詳述的那樣，它只在大約三分之二的時間裡做出了正確的猜測。這比研究人員自己工作要好得多，研究人員在大約四分之一的時間裡才做對。但事實證明，當兩者合作時
——
當伊薩卡和一名研究人員合作時，研究人員使用伊薩卡的建議來指導他們自己填補空白的努力
——
這比單獨行動都要好，近四分之三的時間都是正確的。
這種夥伴關係
——
類似於
GitHub Copilot
推動的
“
配對程式設計
”——
告訴我們，人工智慧在為人類專家服務時最能達到頂峰。
兩者一起做得更好
。
DeepMind
已經發布了伊薩卡背後的所有程式碼，因此其他研究人員可以以他們的工作為基礎。他們甚至共享了一個可公開訪問的版本，這樣你也可以自己解碼自己的古希臘語片段。
DeepMind
團隊承諾，他們很快就會有其他古代語言的版本，包括阿卡德語（古美索不達米亞語）到德謨（古埃及）、希伯來語，甚至瑪雅語。運氣好的話，我們很快就能理解更多古人寫的東西。
現在，一場戰爭正在進行。戰爭是科學和技術進步的非凡加速器：第二次世界大戰以騎兵衝鋒開始，以蘑菇雲結束。八十年後，我們的武器發生了變化。各國在網路空間進行隱形戰鬥，每個人都試圖破壞他人的指揮、控制和通訊系統
——
或者乾脆播下混亂和虛假資訊。
我們的電腦越來越擅長填補空白。它們在工作中發揮著重要作用。
在《
自然機器智慧》
的文章中
有這樣的描述，
從一個假設開始
——
如果你從
VX
神經毒氣開始，
VX
神經毒氣可能是已知最毒的物質：人工智慧能改善它嗎？
答案是：當然可以
“
在我們的內部伺服器啟動後不到六小時內，我們的模型產生了
40，000
個分子，這些分子得分超出了我們期望的閾值。在此過程中，人工智慧不僅設計了
VX
，還設計了許多其他已知的化學戰劑，我們透過與公共化學資料庫中的結構進行視覺確認來識別。許多新分子的設計看起來同樣合理
”
。
人工智慧不僅重新發明了
VX
，並
“
發明
”
了更潛在的致命神經毒劑
——
其中一些是已知的，還有許多其他尚未發現的神經毒劑。它只用了六個小時就完成了這一切。
擁有藥物的化學結構與手頭的工作化合物不同，更不用說部署在武器中的東西了。幸運的是，潛力和實現之間存在巨大差距。但是，由於如此迅速和毫不費力地提供瞭如此多的潛力，透過巧妙地重新定向已經廣泛使用的工具，加速了幾乎令人難以置信的結果，這座橋已經被跨越了。這種產生無限供應明顯可怕的武器的工具已經存在，已經可用。
有一件事已經很清楚了：這一發現將會在許多學科中重複。現在法律的制定需要與時俱進。這也是確保這些非常強大的工具能夠安全、負責任地使用的唯一長期解決方案。
拓展閱讀：人工智慧（AI）和道德倫理的標準在哪裡？
DNA測序界的吉尼斯世界紀錄（最快用時僅5小時）
巨頭籠罩下的 Web 3.0時代的思考
影片欣賞：你被大資料殺過熟嗎？
人類血液中的微塑膠成分