ニューヨーク市長、誤った情報を提供するAIチャットボットを擁護

ニューヨーク市のエリック・アダムス市長は、誤った答えを出したにもかかわらず、人工知能(AI)チャットボットの使用を擁護した。(写真:x @NYCMayor)

ジャカルタ-ニューヨーク市長のエリック・アダムスは、最近、間違った答えを提供したり、フォローされた場合に法律に違反するアドバイスを与えたりすることに閉じ込められた新しい都市の人工知能(AI)チャットボットの使用を維持しています。

2023年10月にトライアルとして開始されたとき、MyCityチャットボットは市内で最初のAIテクノロジーの使用として宣伝され、オンラインポータルに入力された質問に応じてビジネスオーナーに「行動可能で信頼できる情報」を提供します。

それは必ずしも証明されているわけではありません:調査アウトレットのジャーナリストThe Markupは先週、チャットボットが誤った情報を提供したと最初に報告しました。チャボットは、雇用主が労働者のヒントに参加できると誤って示唆し、上司に従業員のスケジュールの変更を通知するよう要求する規制はないと示唆した。

「いくつかの間違ったことがあり、私たちはそれらを修正しなければなりません」と民主党の政治家アダムズは4月2日火曜日に記者団に語った。彼は、それが試験的なプログラムであることを強調した。「テクノロジーを使用するたびに、問題を解決するために実際の環境に入れる必要があります」と彼は付け加えました。

アダムスは、市内で未試験の技術を、必ずしも真実であると証明されているとは限らない楽観主義で使用することに情熱的な支持者でした。彼は昨年、警察が犯罪を防ぐのを助けることを望んでいたタイムズスクエアの地下鉄駅に、かすかな模様の形をした400ポンドのロボットを置いた。しかし、ロボットは約5か月後に引退し、道路利用者はロボットが何もしているのを見たことがないと指摘しました。ロボットは階段も使用できませんでした。

これまで苦情を申し立てられてきたチャットボットはオンラインのままです。先週の木曜日、それはまだ時々間違った答えを与えました。彼はまた、店主は現金支払いを受け入れる自由があり、店が現金支払いを受け入れることを拒否することを禁止する2020年の市法に気づいていないようだと述べた。Chatbotはまた、市の最低賃金は時速15米ドルであると考えていますが、2024年から16米ドルに引き上げられています。

Microsoft Azure AIサービスに依存しているChatbotは、真実ではないことをしたり、嘘を宣言したりすることが知られているChatGPTと呼ばれるジェネレーティブAIテクノロジープラットフォームで発生する一般的な問題によってだまされているようです。MicrosoftもCity Hallも、何が間違いを引き起こし、どのように修正するかについての質問に答えなかった。

市は、MyCityチャットボットウェブサイト上の警告を更新し、「回答が不正確または不完全である場合がある」と指摘し、企業に「法的または専門的なアドバイスとして回答を使用しない」ように指示しました。

ニューヨーク・ホスピタリティ・アライアンスのディレクターとして何千人ものレストラン経営者を擁護するアンドリュー・リギー氏は、チャットボットの対応に戸惑ったビジネスオーナーから聞いたことがあると述べた。「AIを使ってビジネスを支援しようとする市の努力に感謝しますが、それはうまくいくはずです」と彼は言いました。

Hagieはまた、いくつかのチャットボットガイドラインに従うと、深刻な法的結果をもたらす可能性があると警告しました。「私が尋ねると、答えが正しいかどうかを調べるために弁護士に戻らなければならない場合、それは目標を打ち負かします」と彼は言いました。