JAKARTA - Anthropic a averti le monde qu'il devait avoir la possibilité de ralentir, voire de suspendre temporairement, le développement de l'IA avancée. La raison est que le rythme de l'IA est de plus en plus rapide, tandis que l'homme n'est pas nécessairement en mesure de le rattraper.
Découvert par l’agence Anadolu Agency, dimanche 7 juin, la société d’IA californienne a déclaré une cóordination mondiale pour ouvrir des opportunités de pause dans le développement de l’IA de pointe. Cette mesure, selon Anthropic, ne peut être prise que si d’autres grands développeurs d’IA participent et si leur conformité peut être examinée.
« Nous croyons qu’il est bon pour le monde d’avoir la possibilité de ralentir ou d’arrêter temporairement le développement de l’IA de pointe, afin que les structures sociales et la recherche d’alignement puissent suivre les progrès de cette technologie », a écrit Anthropic dans son rapport.
L'IA avancée est le système d'IA le plus avancé qui est à l'avant-garde du développement de la technologie. Alors que l'alignement de l'IA signifie des efforts pour s'assurer que l'IA fonctionne toujours conformément aux objectifs et aux valeurs souhaités par les humains.
Anthropic estime que l'interruption du développement ne peut pas être émise seule. Il doit y avoir un certain nombre de laboratoires importants dans plusieurs pays qui sont d'accord pour s'arrêter sous les mêmes conditions. Ils doivent aussi pouvoir s'assurer que les autres participants s'arrêtent vraiment, et non de continuer de développer en secret.
L’entreprise a déclaré que le rôle de l’humain dans le développement de l’IA s’était réduit. L’IA accomplit de plus en plus de tâches autrefois effectuées par des ingénieurs et des chercheurs.
« Les preuves montrent que le rôle de l’homme se rétrécit à chaque étape du processus de développement de l’IA », écrit le rapport.
Anthropic estime également que lorsque le code artificiel de l'IA sera équivalent au code artificiel de l'homme, les humains pourront cesser d'écrire du code et jouer uniquement le rôle de révisionneurs.
Selon un rapport de l’Agence Anadolu, plus de 80% des codes qui entrent dans la base de code de production Anthropic sont maintenant écrits par Claude, l’assistant IA de l’entreprise. Les ingénieurs d’Anthropic ont également produit un code en moyenne huit fois plus par trimestre que la période 2021-2025.
Anthropic a mis en garde contre le fait que la surveillance humaine pourrait devenir une nouvelle faille. Parce que les humains ne sont pas nécessairement capables d'examiner le code aussi vite que l'IA le fait.
« En gros : le travail de faire quelque chose - c'est-à-dire écrire du code, exécuter des expériences, produire des résultats - ne prend presque plus de temps humain », a déclaré la société.
Cette tendance, selon Anthropic, peut conduire à une auto-amélioration récursive. Ce terme signifie une condition dans laquelle l'IA est capable de concevoir et de développer sa propre version suivante.
D'un côté, cette capacité peut accélérer les progrès de la science et de la technologie. Mais d'un autre côté, Anthropic met en garde contre des risques plus graves. C'est-à-dire que les humains peuvent perdre le contrôle sur les systèmes d'IA.
« La fenêtre pour enquêter sur ces questions ensemble est ouverte maintenant », a déclaré Anthropic. La société a exhorté les décideurs, les chercheurs et les groupes de la société civile à discuter de la gouvernance de l’IA.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
