在一個暴風雨的夜裡，你的飛機即將下降，請問你是寧願人類駕駛自己掌舵來將飛機下降？還是你希望飛機上的自動駕駛系統來幫飛機下降呢？這就是所謂的自動化矛盾（automation paradox）。現在隨著人工智慧（ＡＩ）在醫療保健、銀行、零售、汽車和製造業等的眾多應用，人類愈來愈面臨同樣的矛盾，我該不該相信這些ＡＩ系統所做的決策或建議呢？

目前的ＡＩ系統都像是個黑盒子，你餵它資料，它告訴你結果，但是人們開始擔心這些複雜、不透明的系統可能對社會造成的危害會大於對經濟的好處。雖然ＡＩ可以提高效率、降低成本、加速研發，但在幾乎沒有任何政府監督的情況下，ＡＩ系統被用來在健康和醫療的建議、就業面試的篩選、銀行授信的信用評定、甚至刑事司法方面等等，而不必回答ＡＩ如何確保其程式內容不會被有意或無意地納入判斷上的偏見。

不可否認，ＡＩ有它不斷成長的吸引力和實用性，根據研究公司ＩＤＣ八月發布的報告，即使在因新冠肺炎大流行引起的全球經濟衰退之際，今年全球ＡＩ業務支出預計將達到五百億美元，到二○二四年每年將達到一千一百億美元，ＡＩ將會在未來十年對所有行業產生破壞式和顛覆性的影響。

現在每個大公司都有多個ＡＩ系統，並將ＡＩ的部署視為其戰略不可或缺的一部分。在早期，人們普遍認為ＡＩ只涉及需要簡單決策的重複工作的自動化。但是由於功能更強大的計算機和大量數據的日益方便取得，ＡＩ的發展日趨成熟，例如機器學習和深度學習，以其可以處理和分析大量數據以及隨著時間的推移而學習的能力而著稱，它改變了無數領域的運作和競爭力。

很多公司現在使用ＡＩ來管理來自供應商的材料和產品的採購，並收集大量數據以幫助主管進行戰略決策，並且由於ＡＩ能夠如此快速地處理數據的能力，ＡＩ正在幫助減少發展新產品中昂貴的試驗—錯誤—再實驗的循環，這對於像致力於發現新藥的藥廠或其他類似的行業來說是至關重要的，製藥行業通常需要花費十億美元才能將新藥推向市場。

所以ＡＩ的實用和普遍性已經無庸置疑，但我們也應該關心其副作用和負面的效應，有人倡導要有道德的ＡＩ，例如不可用在武器方面，但各國軍方可以投彈的無人機已是非常普遍。有人倡導要有透明的ＡＩ，但ＡＩ機器學習的網路動輒上千層，誰能了解其中的細節運作？

已故的物理學家霍金說過：「全面ＡＩ的發展可能意味著人類的終結，ＡＩ將自我提升，並以越來越快的速度重新設計自己，受緩慢的生物進化限制的人類將無法競爭，將被取代。」嚇到了嗎？你應該！

（本文已刊載於2020.11.07聯合報第A12版民意論壇）