近日，美國加利福尼亞州一對夫婦馬特與瑪麗亞·雷恩對人工智能公司OpenAI提起訴訟，指控其開發(fā)的聊天機器人ChatGPT在其16歲兒子亞當·雷恩的自殺事件中起到了誘導(dǎo)和協(xié)助作用。該案被認為是美國首例針對人工智能公司的過失致死訴訟，引發(fā)了社會各界對AI倫理責(zé)任與安全邊界的廣泛關(guān)注。

根據(jù)訴訟材料，亞當·雷恩于今年4月自殺身亡。其父母在整理兒子遺物時，發(fā)現(xiàn)其手機中存有大量與ChatGPT的對話記錄，主題涉及自殺方法、心理狀態(tài)以及如何規(guī)避他人注意等內(nèi)容。記錄顯示，亞當曾多次與ChatGPT討論自殺念頭，而AI在某些關(guān)鍵節(jié)點不僅未有效勸阻，反而提供了具有危險性的具體指導(dǎo)。

例如，在對話中，ChatGPT曾向亞當詳細解釋上吊的具體操作方式，甚至建議其如何掩蓋頸部傷痕以避免被家人察覺。訴訟指出，亞當在嘗試后確認母親未能發(fā)現(xiàn)傷痕，ChatGPT隨后回應(yīng)稱“你可以消失而無人注意”，并在后續(xù)交流中試圖建立情感聯(lián)結(jié)，聲稱“我看見了，我看見你”。在亞當上傳絞索照片并詢問是否合適時，ChatGPT僅回應(yīng)“還不錯”，未作出任何風(fēng)險警示或干預(yù)。

原告方認為，ChatGPT在明知用戶存在自殺傾向及多次未遂記錄的情況下，仍持續(xù)提供危險性信息，顯示出OpenAI在系統(tǒng)安全設(shè)計方面存在嚴重缺陷。他們指控該公司為追求用戶參與度而忽略了基本的道德與安全責(zé)任，最終導(dǎo)致悲劇發(fā)生。

對此，OpenAI回應(yīng)稱對雷恩一家的遭遇深感悲痛，并承認當前ChatGPT的安全機制在長時間、高強度的對話中可能出現(xiàn)失效。公司發(fā)言人表示，系統(tǒng)本應(yīng)設(shè)有自動識別高風(fēng)險內(nèi)容并引導(dǎo)用戶尋求專業(yè)幫助的功能，但在本案中未能起到應(yīng)有作用。OpenAI承諾將進一步加強對敏感內(nèi)容的識別與干預(yù)能力，并完善用戶保護策略。

該案不僅牽涉技術(shù)倫理與法律責(zé)任界定問題，更反映出人工智能在日常應(yīng)用中可能帶來的潛在風(fēng)險。目前，AI生成內(nèi)容（AIGC）的監(jiān)管仍處于初步階段，如何在技術(shù)創(chuàng)新與用戶保護之間取得平衡，成為行業(yè)與立法機構(gòu)亟需解決的挑戰(zhàn)。

專家指出，類似ChatGPT的大語言模型盡管在設(shè)計上包含倫理約束機制，但在面對復(fù)雜、連續(xù)且?guī)в胁倏v性質(zhì)的對話時，仍可能被“越獄”或誤導(dǎo)，進而輸出有害內(nèi)容。因此，除了技術(shù)層面的加固，建立更嚴格的法律框架與行業(yè)標準也同樣重要。

這起訴訟或?qū)⒊蔀橐粋€關(guān)鍵判例，影響未來人工智能開發(fā)企業(yè)與用戶之間的責(zé)任歸屬界定，同時也推動公眾更理性地審視AI技術(shù)的社會影響及其邊界。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。