castique : Les modèles d'IA sont plus vulnérables que les humains
ARTA – Les entreprises technologiques sont confrontées à de nombreux défis dans le développement de modèles d’intelligence artificielle (IA), dont l’un est l’halucination. Cependant, ce problème ne s’avère pas être aussi mortel.
d’Antropic, PDG Dario Amodei, a reconnu que les modèles d’IA d’aujourd’hui peuvent être halusinés ou écrire des réponses. Cependant, par rapport aux capacités humaines, l’halusinance sur les modèles d’IA est à un niveau inférieur.
, ceci est fait lorsque Amodei a été interrogé sur les halucinations de son modèle d’IA. Selon Amodei, l’halucination de l’IA n’est pas une limitation pour l’entreprise au développement du sens général de l’intelligence (AGI), d’un système d’IA avec des capacités équivalentes à l’être humain, ou encore plus.
« Cela dépend vraiment de la façon dont vous le mesurez, mais je soupçonne que les modèles d’IA sont peut-être moins halusqués que les humains, mais ils sont halusqués de manière plus étonnante », a déclaré Amodei, cité vendredi 23 mai.
Amodei semblait optimiste quant au développement de leurIA. Le leader anthropic ne pense pas non plus à des obstacles tels que des systèmes halucinés. Au lieu de trouver des obstacles, Anthropic voit en fait des progrès stables dans son modèle d’IA.
« Tout le monde est toujours à la recherche d’obstacles qui empêchent ce qui peut être fait », a déclaré Amodei. « Ces choses ne sont pas visibles du tout. Il n’y a rien de tel. »
, l'optimisme anthroptique pour le développement de leur AI est observé depuis l'année dernière. Dans un document largement diffusé, Amodei estime qu'ils pourront présenter l'AGI plus rapidement, à savoir vers 2026.
ronyme : La réponse des dirigeants d’Anthropic à l’affaire de l’IA est assez intéressante car pas mal de dirigeants d’entreprises technologiques sont perturbés par le problème. En fait, le PDG de Google, Depis Hassabis, a admis que les hallucinations sont un obstacle à la réalisation d’AGA.
Selon Demis, les modèles d’IA disponibles aujourd’hui ont encore de nombreuses lacunes. La raison en est que les modèles d’IA commettent encore de nombreuses erreurs, en particulier en répondant à des questions claires.