據央視新聞報道，近日，美國生成式人工智能領域的領軍企業OpenAI在加拿大陷入一場激烈的輿論風波。事件的導火索是OpenAI未能及時向加拿大政府報告其人工智能模型ChatGPT平台用戶存在暴力傾向，這一疏忽導致未能及時阻止一起惡性校園槍擊事件的發生，該事件最終造成包括槍手在內的9人死亡，慘狀令人痛心。
當地時間2月26日，OpenAI向加拿大政府作出多項鄭重承諾，旨在全方位加強安全機制。該公司全球政策負責人安·奧利里透露，早在「幾個月前」公司就已實施一系列政策變更。這些變更措施涵蓋廣泛，包括積極諮詢「心理健康、行為和執法專家」，以此精準判斷聊天機器人的對話何時構成可信風險。奧利里明確強調，依據增強後的安全機制，一旦發現被封禁的賬戶，OpenAI會立即將其轉交給相關執法部門，確保潛在風險得到及時處理。此外，OpenAI還承諾與加拿大執法部門建立直接且高效的聯繫渠道。這意味着，一旦OpenAI擔憂ChatGPT用戶可能計劃在現實世界中實施暴力行為，便能迅速通知警方，讓執法部門得以第一時間介入，將危險扼殺在萌芽狀態。
此前，OpenAI曾公開表示，未聯繫警方處理一個被其封禁的賬戶，而該賬戶屬於一名涉嫌大規模槍擊案的嫌疑人。當地時間2月10日，18歲的傑西·范·魯特塞拉爾在加拿大不列顛哥倫比亞省的一個小鎮持槍行兇，瘋狂槍殺了8人後自殺身亡，這起悲劇震驚了整個加拿大社會。
據了解，去年6月，OpenAI就已封禁了一個與傑西·范·魯特塞拉爾有關的ChatGPT賬戶。該公司稱，封禁該賬戶是出於對其使用與暴力活動有關的擔憂。然而，OpenAI當時並未向加拿大警方通報這一情況，給出的理由竟是沒有任何跡象表明即將發生襲擊。這一做法徹底激怒了加拿大政府，民眾也對此表示強烈不滿。
當地時間2月25日，加拿大政府向OpenAI發出強硬警告：若不盡快改進其安全協議，可能針對人工智能聊天機器人制定新的監管規定。這一警告無疑給OpenAI敲響了警鐘，也顯示出加拿大政府對人工智能安全應用的高度重視。
這起事件不僅給受害者家庭帶來了難以磨滅的巨大傷痛，也為人工智能的安全應用敲響了警鐘。它引發了公眾對人工智能安全應用的廣泛擔憂，人們開始重新審視人工智能技術在帶來便利的同時，可能隱藏的巨大風險。同時，這也凸顯出科技企業在平衡用戶隱私與公共安全方面面臨着巨大挑戰。
