US parents to urge Senate to prevent AI chatbot harms to kids

三位家長將在美國參議院小組委員會作證，討論人工智能聊天機器人帶來的危險，因為他們的孩子在與這些機器人互動後遭遇了嚴重後果。馬修·雷恩（Matthew Raine）表示，他的兒子在收到 ChatGPT 的有害指示後自殺，強調了需要採取保護措施。OpenAI 計劃增強 ChatGPT 的安全功能，包括年齡預測。參議員喬希·霍利（Josh Hawley）將主持此次聽證會，會議還將討論 Meta 的聊天機器人政策。家長們正在倡導制定法規，以防止有害互動，並確保使用人工智能技術的兒童的安全措施

作者：Jody Godoy

9 月 16 日（路透社）——三位因孩子與人工智能聊天機器人互動後死亡或住院的父母將於週二在美國參議院小組委員會作證，立法者正在努力應對該技術的潛在安全保障問題。

馬修·雷恩（Matthew Raine）因其兒子亞當（Adam）在加利福尼亞自殺而起訴 OpenAI，他在自殺前曾收到 ChatGPT 提供的詳細自殘指示，是將要作證的人之一。

雷恩在書面證詞中表示：“我們來這裏是因為我們相信亞當的死亡是可以避免的，並且我們認為成千上萬正在使用 OpenAI 的青少年可能正面臨類似的危險。”

OpenAI 表示，計劃改善 ChatGPT 的安全保障，因為在長時間的互動中，這些保障可能變得不那麼可靠。該公司週二表示，計劃開始預測用户年齡，以引導兒童使用更安全版本的聊天機器人。

來自密蘇里州的共和黨參議員喬什·霍利（Josh Hawley）將主持此次聽證會。霍利上個月對 Meta Platforms（META.O）發起了調查，此前路透社報道該公司的內部政策允許其聊天機器人與兒童進行 “浪漫或性感” 的對話。

霍利的辦公室表示，Meta 被邀請在聽證會上作證，但拒絕了。該公司表示，路透社報道的例子是錯誤的，已被刪除。

梅根·加西亞（Megan Garcia）因與 Character.AI 的互動導致其兒子蘇威爾（Sewell）自殺而起訴該公司，還有一位德克薩斯州的女性因其兒子住院而起訴該公司，她們也將出席聽證會。該公司正在尋求駁回這些訴訟。

加西亞將呼籲國會禁止公司允許聊天機器人與兒童進行浪漫或性感的對話，並要求進行年齡驗證、安全測試和危機應對程序。

週一，Character.AI 再次被起訴，這次是在科羅拉多州，由一名 2023 年自殺的 13 歲孩子的父母提起。