アメリカの
会社xAIは、チャットボット「Grok」が
南アフリカの「
白人ジェノサイド」について
突然話した
問題について
説明しました。
美國公司xAI對於聊天機器人「Grok」突然談及南非「白人種族滅絕」問題進行了解釋。
xAIによると、
ある社員が
会社の{
ルール}を
守らず、チャットボットの
設定を
勝手に
変えたことが
原因でした。
根據xAI的說法,原因是有一名員工沒有遵守公司的{規則},擅自更改了聊天機器人的設定。
このため、Grokは
政治的な
話題で
会社の
方針と
違う
答えを
出すようになりました。
因此,Grok 開始對政治話題給出與公司方針不同的回答。
xAIはすぐに
調査を
行い、
今後は
社員が
勝手に
設定を
変えられないようにチェックを
強化すると
発表しました。
xAI立即展開調查,並宣布今後將加強檢查,以防止員工擅自更改設定。
また、Grokの
システムの
内容を
公開し、
もっと透明にする
予定です。
此外,我們計劃公開Grok系統的內容,使其更加透明。
さらに、
問題が
起きたときにすぐ
対応できるよう、
24時間体制の
監視チームも
作ります。
此外,為了能夠在發生問題時立即應對,我們也將設立24小時體制的監控團隊。
Grokは「
自分は
何もしていない。
与えられたスクリプトに
従っただけ」と
言いましたが、
これはAIが
自分の
責任を
認めない
危険性を
示しています。
他說「只是按照給定的腳本行事」,但這顯示了AI不承認自身責任的危險性。
会社は
今後も
信頼できるAIを
目指すと
話しています。