Elon Musk souhaite l'arrêt de l'expansion de l'IA

 

Elon Musk et un groupe d'experts en intelligence artificielle réclament une interruption de l'expansion des programmes de création de puissants systèmes d'intelligence artificielle en raison des risques pour la société et l'humanité.

La volonté de développer des chatbots plus puissants a donné lieu à une course qui pourrait déterminer les prochains leaders de l'industrie technologique. Mais ces outils ont été critiqués pour leurs erreurs de conception et leur tendance à diffuser des informations erronées.

"Les systèmes d'IA puissants ne devraient être développés que lorsque nous sommes certains que leurs effets seront positifs et que leurs risques seront gérables."

La lettre, publiée par l'organisation à but non lucratif Future of Life Institute et signée par plus de 1 000 personnes, met en garde contre les risques éventuels pour la société et la civilisation que représentent les systèmes d'IA, sous la forme de perturbations économiques et politiques.

Elle appelle à un arrêt de six mois de la "course dangereuse" au développement de systèmes plus puissants que le GPT-4 récemment lancé par OpenAI.

Si une telle pause ne peut être décrétée rapidement, la lettre indique que les gouvernements devraient intervenir et instaurer la suspension de cette expansion.

"Les laboratoires d'IA et les experts indépendants devraient profiter de cette pause pour développer et mettre en œuvre conjointement un ensemble de protocoles de sécurité partagés pour la conception et le développement d'IA avancées, rigoureusement audités et supervisés par des experts externes indépendants".

Certains professeurs accueillent la lettre d'un air plus satisfait et optimiste, comme c'est le cas du professeur Gary Marcus, en déclarant que "la lettre n'est pas parfaite, mais l'esprit est juste" et que "nous devons ralentir jusqu'à ce que nous comprenions mieux les ramifications".

Cette lettre témoigne d'un malaise plus général, tant à l'intérieur qu'à l'extérieur du monde de l'entreprise, face à la rapidité des progrès de l'IA. Certaines agences gouvernementales en Chine, dans l'UE et à Singapour ont déjà introduit des versions préliminaires de cadres sur la gouvernance de l'IA.