AnthropicのCEO:AIモデルは人間よりも幻覚的ではない

ジャカルタ - 人工知能(AI)モデルの開発においてテクノロジー企業が直面する多くの課題があり、その1つは幻覚です。しかし、この問題はそれほど致命的ではありません。

TechCrunchが報じたAnthropicのCEO、Dario Amodei氏は、今日のAIモデルは幻覚を抱いたり、答えを作り出すことができることを認めた。しかし、人間の能力と比較すると、AIモデルの幻覚は低いレベルにあります。

この声明は、AmodeiがAIモデルの幻覚について尋ねられたときに行われました。Amodeiによると、AI幻覚は、人工知能(AGI)、人間レベルの能力以上のAIシステムの開発において、企業にとって制限ではありません。

「それは本当にあなたがそれをどのように測定するかに依存しますが、AIモデルは人間よりも幻覚が少ないかもしれませんが、彼らはより驚くべき方法で幻覚をとります」とAmodeiは5月23日金曜日に引用しました。

AmodeiはAIの開発について楽観的であるようです。アンストロピックのリーダーはまた、幻覚的なシステムなどの障害についてもあまり考えていませんでした。アンストロピックは、障害を見つける代わりに、AIモデルが着実に進歩しています。

「誰もが常に、できること(AIモデル)を妨げる障壁を探しています」とAmodei氏は言います。「これらのことはまったく見えません。そのような(障壁)はありません。」

彼らのAI開発に対するアンソロピックな楽観主義は、昨年から見られました。広く流通している論文で、アモデイは、2026年頃にAGIをより迅速に提示できると信じています。

AIの幻覚に関するアンストロピックリーダーの反応は、少なからぬテクノロジー企業のリーダーがこの問題に悩まされているため、非常に興味深いものです。実際、GoogleのCEOであるDeepMind Demis Hassabisは、幻覚がAGIの達成の障害であることを認めています。

Demis氏によると、今日利用可能なAIモデルにはまだ多くの欠点があります。その理由は、AIモデルは、特に質問に明確に答える際に、依然として多くの間違いを犯しているからです。