私のAIチャットボットは不適切な応答を出し、Snapchatは新しいOpenAIベースのツールを起動します

ジャカルタ-1か月以上前、Snapの人工知能(AI)チャットボットであるMy AIがリリースされました。しかし、同社はいくつかの潜在的な悪用を懸念しています。今、それをより安全にするための新しいツールがここにあります。

「My AIを改善するためのコラボレーションの一環として、学習の結果として最近行ったセキュリティ強化のいくつかに関する最新情報と、実装する予定の新しいツールを共有したいと思います」とSnapは公式ブログで述べています、4月6日木曜日に引用されました。

このツールは、ボットが安全で不適切な方法で応答していることを強調したワシントンポストのレポートに応えて提供されます。

ソーシャルメディアの巨人は、発売後、多くの人がチャットボットをだましてガイドラインに合わない応答をさせようとしたと述べました。

AIの応答を保護するために、Snapには新しい年齢フィルターが組み込まれており、AIがユーザーの生年月日を見つけて、年齢に適した応答を提供できます。Snapchatterは会話の中で私のAIに自分の年齢について話すことはありませんが。

同社は、チャットボットはユーザーとの会話を行う際に一貫して年齢を考慮すると述べています。

SnapchatユーザーがMy AIの使用を許可される前に、会社は、削除しない限り、My AIを含むすべてのメッセージが保存されることを明確にするオンボーディングメッセージを表示します。

「ただし、My AIはチャットボットであり、真の友達ではないため、会話履歴を使用してMy AIをより楽しく、便利で、より安全にし続けることができるため、関連データを意図的に異なる方法で扱います」とSnap氏は述べています。

不適切な対応には、暴力、性的に露骨な用語、薬物使用、児童の性的虐待、いじめ、ヘイトスピーチ、軽蔑的または偏見のある発言、人種差別、ミソジニー、または過小評価されているグループの疎外への言及が含まれます。

そのために、SnapはMy AIにOpenAIモデレーションテクノロジーを追加し、潜在的に有害なコンテンツの重大度を評価することを目指しています。現在、同社はサービスを悪用するユーザーのAIボットアクセスを一時的にブロックします。

「SnapchatユーザーがMy AIから関連するフィードバックを受け取り、製品の全体的なエクスペリエンスに関するフィードバックを送信した場合、アプリ内レポートツールを使用することを引き続き奨励しています」とSnap氏は述べています。

Snapはまた、昨年8月に開始されたファミリーセンターでのボットとの子供の相互作用について、今後数週間で親または保護者により多くの洞察を提供する予定です。

保護者は、ファミリー センターを使用して、お子様が My AI と通信しているかどうか、およびその頻度を確認できます。保護者と未成年者の両方が、これらのペアレンタルコントロールを使用するには、ファミリーセンターの使用をオプトインする必要があります。