Le maire de New York défend le chat boot qui ne donne pas d'informations

JAKARTA - Le maire de New York, Eric Adams, a défendu l’utilisation du nouveau chat boot d’intelligence artificielle (IA) de la ville qui a récemment été piégé pour donner de mauvaises réponses ou donnant des suggestions qui, si elles étaient suivies, viraient à la loi.

Lorsqu’il a été lancé en essai en octobre 2023, le chat boot de MyCity a été promu comme la première utilisation de la technologie d’IA dans toute la ville, ce qui fournira aux propriétaires d’affaires des « informations faisables et fiables » en réponse aux questions posées dans les portails en ligne.

Cela n’est pas toujours prouvé : les journalistes du point d’enquête The Markup ont d’abord rapporté la semaine dernière que le chat boot avait donné de la désinformation. Chabot a de mal suggéré que les employeurs pouvaient participer aux conseils de leurs employés, et qu’il n’y avait pas de réglementation qui exigeait que le patron en notifierait les modifications d’horaire des employés.

« Il y a quelque chose de mal, et nous devons les améliorer », a déclaré Adams, un politicien démocrate, aux journalistes mardi 2 avril. Il a souligné qu’il s’agissait d’un programme d’essai. « Chaque fois que vous utilisez la technologie, vous devez la mettre dans un environnement réel pour résoudre ses problèmes », a-t-il ajouté.

Adams est devenu un partisan enthousiaste à l’utilisation de technologies non testées dans la ville avec un optimisme qui n’est pas toujours prouvé correct. Il a placé un robot de 400 livres avec une forme d’épide désordonnée à la gare de métro Times Square l’année dernière, ce qu’il espérait aider la police à prévenir le crime. Mais le robot a pris sa retraite environ cinq mois plus tard, où les usagers de la route ont noté que le robot n’avait jamais été vu faire quoi que ce soit. Le robot ne pouvait pas non plus utiliser les escaliers.

Pendant ce temps, le chat boot désigné reste en ligne. Jeudi dernier donne encore parfois de mauvaises réponses. Il a également déclaré que le propriétaire du magasin libre de ne pas accepter de paiements en espèces ne semblait pas être conscient des lois de la ville de 2020 qui interdisaient aux magasins de refuser de paiements en espèces. Le chat boot pense toujours que le salaire minimum de la ville est de 15 dollars américains par heure, bien qu’il soit passé à 16 dollars américains à partir de 2024.

Le chat boot, qui dépend du service d’IA de Microsoft Azure, semble être réduit au silence par un problème général sur une plate-forme de technologie génératrice d’IA appelée ChatGPT, qui est parfois connue pour faire quelque chose de faux ou de mensonges. Ni Microsoft ni City Hall n’ont répondu à la question de ce qui cause l’erreur ni de comment les corriger.

Le gouvernement de la ville a mis à jour l’avertissement sur le site web de chat boot MyCity, notant que « sa réponse peut parfois être imprécis ou incomplète » et dit aux entreprises de « ne pas utiliser sa réponse comme conseillage juridique ou professionnel ».

Andrew Rigie, qui défend des milliers de propriétaires de restaurants en tant que directeur de l’Alliance Hospitality de NYC, a déclaré qu’il avait entendu parler de propriétaires d’entreprises confus par la réponse du chatbot. « J’apprécie les efforts de la ville pour utiliser l’IA pour aider les entreprises, mais cela devrait fonctionner », a-t-il déclaré.

Rigie a également averti que donner quelques lignes directrices pour chat par chat peut avoir de graves conséquences juridiques. « Si quand je me demande et puis je dois retourner à mon avocat pour savoir si la réponse est correcte, elle vaincra son objectif », a-t-il déclaré.