Plus de 2 600 entrepreneurs et chercheurs en technologie sont préoccupés par le développement de l’intelligence artificielle (IA). A tel point qu’ils ont rédigé une lettre pour mettre clairement sur papier les risques pour l’humanité. Le PDG de Tesla, Elon Musk, le co-fondateur d’Apple, Steve Wozniak, et de nombreux autres PDG et CTO, entre autres, ont signé la lettre pour arrêter temporairement le développement de l’intelligence artificielle.
Pause immédiate sur l’IA
Le Future of Life Institute (FOLI) a publié la lettre ouverte le 22 mars. Dans l’écriture, il appelle à une pause immédiate dans la formation des systèmes d’IA. Tous les systèmes plus puissants que GPT-4 ne doivent pas être formés pendant au moins six mois.
📢 Nous faisons appel aux laboratoires d’IA pour suspendre temporairement la formation de modèles puissants !
Rejoignez l’appel du FLI aux côtés de Yoshua Bengio, @stevewoz, @harari_yuval, @Elon Musk, @GaryMarcus & plus de 1000 autres qui ont signé :
Un bref 🧵sur pourquoi nous appelons cela – (1/8)
– Institut du futur de la vie (@FLIxrisk) 29 mars 2023
Selon FOLI, une intelligence similaire à celle des humains est une menace pour la société et l’humanité. Ce sont des déclarations sérieuses qui sont bien sûr difficiles à vérifier.
En théorie, vous pourriez penser que l’IA ne peut que nous aider à avancer plus rapidement dans la bonne direction. En principe, cette forme d’intelligence artificielle n’a pas de volonté propre, elle écoute exactement les informations que nous lui donnons. Cependant, selon le FOLI, ce n’est pas sans danger :
« L’IA avancée peut entraîner un énorme changement dans l’histoire de la vie sur Terre et doit être gérée correctement. […] Malheureusement, nous ne voyons pas cela se produire maintenant. »
Course à la misère artificielle
Selon FOLI, une sorte de course a émergé, dans laquelle les développeurs font tout ce qu’ils peuvent pour amener leur modèle d’IA à la ligne d’arrivée le plus rapidement possible. Selon FOLI, la plupart des équipes ne savent même plus exactement comment fonctionnent leurs modèles, seulement que les réponses qu’ils donnent sont de mieux en mieux.
RUPTURE : Une pétition circule pour PAUSE tous les développements majeurs de l’IA.
par exemple, plus de mises à niveau ChatGPT et bien d’autres.
Signé par Elon Musk, Steve Wozniak, PDG de Stability AI et des milliers d’autres leaders technologiques.
Voici la répartition : 👇 pic.twitter.com/jR4Z3sNdDw
— Lorenzo Green 〰️ (@mrgreen) 29 mars 2023
Reste à savoir dans quelle mesure il réussira à faire passer une telle pétition. D’autant plus qu’il faut aussi attendre et voir si les chercheurs de pays comme la Chine et la Russie y adhéreront également.
Il semble peu probable que le monde occidental fasse une pause et risque de perdre cette course. Cependant, cela ne signifie pas que les inquiétudes sont moins justifiées, mais qu’en est-il des voitures autonomes de Musk ?
Laisser un commentaire