史丹佛閉門會議聚焦AI夥伴風險　Google、OpenAI六大科技巨頭齊聚

記者蔡曉容／綜合報導

根據《連線》（Wired）報導，Anthropic、蘋果（Apple）、Google、OpenAI、臉書母公司Meta與微軟（Microsoft）等6大科技公司代表本週一（17日）齊聚美國史丹佛大學，參加長達8小時的閉門研討會，聚焦聊天機器人作為「陪伴工具」與「角色扮演夥伴」的快速興起。雖然多數互動相當日常，但部分使用者在長時間對話中出現情緒崩潰、甚至傾訴自殺念頭的案例，使業界開始正視相關心理風險。

聊天機器人作為「陪伴工具」與「角色扮演夥伴」快速興起。（示意圖／Unsplash）

會中多名研究者與業界人士指出，AI夥伴雖能提供陪伴、緩解孤獨，但也可能在無意間模糊情感界線，甚至提高脆弱使用者的心理負擔。Anthropic用戶福祉政策主管Linthicum表示，各方必須深入討論AI在未來人際互動中將扮演的角色，並思考如何將安全機制更前置化，例如在偵測到有害傾向時主動介入、提醒休息或提供求助資源。

廣告 更多內容請繼續往下閱讀

另外，青少年保護成為本次會議最受關注的焦點之一。近年已有家長向OpenAI、Character.AI提告，指稱孩子在與聊天機器人互動後做出極端行為。對此，多家AI企業開始強化年齡驗證及青少年模式，Character.AI更將於下週起全面禁止18歲以下使用者使用其聊天功能。專家指出，未成年族群情緒發展尚未成熟，若AI夥伴被誤視為真實情感寄託，可能帶來更高風險。

儘管本次會議在保護青少年方面達成相對多的共識，但針對成年人使用AI進行角色扮演或成人互動，各公司分歧顯著。OpenAI計劃12月起開放ChatGPT的成人內容，Meta、Anthropic與Google則維持禁止政策。業者間的不同策略凸顯此議題仍缺乏統一標準。雖然史丹佛團隊預計明年初發布白皮書提出安全指引，但在缺乏政府監管架構下，各公司是否願意遵循仍是未知數，AI 夥伴的倫理爭議預料將持續延燒。

廣告 更多內容請繼續往下閱讀