Openai : sam altman promet plus de transparence dans la quête de l'AGI
Dans un essai publié sur son blog personnel, Sam Altman, le PDG d’OpenAI, a exposé la vision de son entreprise pour garantir que “chacun sur Terre” puisse tirer parti de l’intelligence générale artificielle (AGI) afin d’atteindre ses objectifs et d’élargir sa créativité. Cette démarche inclut des idées audacieuses, comme l’attribution d’un “budget de calcul” à chaque utilisateur, visant à garantir une distribution équitable des bénéfices de l’AGI.
Altman souligne que l’impact historique des progrès technologiques montre que des indicateurs tels que la santé et la prospérité économique s’améliorent généralement à long terme. Cependant, il met en garde contre le risque d’inégalités croissantes et appelle à l’innovation pour y remédier. “Le déséquilibre entre le capital et le travail pourrait facilement se produire, nécessitant une intervention précoce,” écrit-il.
L’AGI, définie par Altman comme un système capable de résoudre des problèmes complexes à un niveau humain dans divers domaines, est à portée de main. Toutefois, il reconnaît que son arrivée pourrait entraîner des pertes d’emplois massives dans de nombreux secteurs. Il insiste sur le besoin de supervision humaine pour éviter de telles perturbations, tout en affirmant que les systèmes AGI “n’auront pas les plus grandes idées nouvelles” et que leur efficacité variera.
Altman envisage un avenir où des millions de systèmes d’IA hyperscalaires pourraient aborder des problèmes dans tous les domaines du travail intellectuel. Bien que cela nécessitera des investissements considérables, il note que le coût d’utilisation de l’IA diminue d’environ 10 % chaque année, rendant cette technologie de plus en plus accessible.
Actuellement, OpenAI négocie un financement colossal de 40 milliards de dollars, après avoir récemment levé 6,6 milliards de dollars. La société s’engage également à investir jusqu’à 500 milliards de dollars dans des centres de données, en collaboration avec des partenaires tels qu’Oracle Corp.
Altman admet que la création d’un système d’AGI nécessitera des décisions cruciales et des limitations en matière de sécurité, qui pourraient ne pas être populaires. Bien qu’OpenAI ait précédemment promis d’assister des projets alignés sur ses valeurs pour le développement de l’AGI, l’entreprise se restructure actuellement en une organisation à but lucratif, visant 100 milliards de dollars de revenus annuels d’ici 2029.
Dans cette optique, Altman affirme que la mission d’OpenAI se concentre davantage sur “l’autonomisation individuelle”, tout en s’assurant que ces systèmes ne seront pas utilisés par des gouvernements autoritaires pour contrôler leurs populations. Cette approche nécessite une plus grande transparence concernant les systèmes d’IA d’OpenAI. Altman a admit qu’OpenAI a été “du mauvais côté de l’histoire” en matière d’open source.
“Nous devrons donner aux gens plus de contrôle sur la technologie que nous ne l’avons fait par le passé, y compris en partageant davantage de codes, tout en équilibrant la sécurité et l’autonomisation individuelle, ce qui nécessitera des compromis,” conclut Altman.
