Le prix exorbitant de la transition vers l’IA
Dans quelques années nous vivrons dans un monde « AI native » : l’ensemble de l’espace informationnel sera animé par des agents, par exemple des agents « consommateurs » achèteront des billets de train ou des victuailles à des agents « vendeurs ». Dans les entreprises, des processus métiers entiers seront délégués aux machines avec une couche de supervision humaine très fine. La recherche scientifique sera entièrement automatisée par l’IA, cela a déjà commencé dans les mathématiques (il sera très difficile dans les années à venir de faire des découvertes de rupture en dehors des labos d’IA).
Cette société « AI native » que l’on nous vend comme une société d’abondance ressemble furieusement à la société communiste, sans classe sociale, dans les livres de Karl Marx : un état final utopique, difficile à décrire et même à imaginer, auquel on ne parvient qu’après un long cortège de révolutions, de guerre et de chaos. Si l’état final est flou et hypothétique, la douleur de la transition est certaine.
@elonmusk a beau jeu de nous dire que la société IA native générera 20% de croissance annuelle, rendra l’argent et le travail superflus… la transition vers cette société pourrait avoir un prix très élevé. Trop élevé ?
Le problème principal de la transition vers la société AI native est son caractère profondément asymétrique : les modèles devenant chaque jour plus puissants, il est possible pour les IA de « revisiter » l’ensemble des systèmes humains… et de les détruire.
L’exemple de la cyber est particulièrement parlant : les modèles de pointe vont, dans les 12 à 18 prochains mois, détecter toutes les failles du passé, littéralement toutes, et démultiplier la surface d’attaque de manière exponentielle. L’asymétrie est facile à comprendre : d’un côté des millions d’agents qui travaillent sans relâche, 24/7, de l’autre des systèmes maintenus par et pour des humains.
Certes les systèmes humains vont eux aussi faire appel à des agents et des modèles de pointe pour se défendre, mais l’asymétrie saute aux yeux : des millions d’agents malveillants peuvent « patrouiller » en permanence l’ensemble du code mondial pour détecter des failles et conduire des attaques, quand il faudra des semaines, voire des mois, voire des années… pour homologuer et autoriser des agents « de défense » à opérer au sein des systèmes critiques des entreprises ou des gouvernements. On risque d’écoper l’océan à coups de seaux d’eaux. Face à un tel contexte les « confinements numériques » imposés par plusieurs gouvernements à la suite de la découverte des failles PHP, risquent de se multiplier. Des milliers de sites internet vont devoir être désactivés et des systèmes critiques vont devoir être déconnectés pour éviter un cataclysme cyber. L’internet pourrait connaître une ère glaciaire… avant de devenir pleinement AI native et donc très difficile à décrire :) (un internet par et pour les agents n’aura plus rien à voir avec l’internet que nous connaissons, à la limite plus aucun humain ne « s’aventurera » sur internet tant les conditions de température et de pression, l’UX, l’UI ne seront plus faites pour lui).
Dans le monde de l’open source des développeurs démoralisés baissent déjà les bras face à l’inflation de pull requests qui sont le fait d’essaims parfois composés de milliers d’agents IA. L’écrasante majorité de l’Internet et du code logiciel mondial repose sur des projets opensource dont les communautés risquent de fondre comme neige au soleil. De moins en moins d’épaules humaines pour porter un fardeau de plus en plus lourd. Face à l’explosion quantitative et qualitative de l’IA nous sommes dans une asymétrie totale comme les défenseurs de Fort Alamo.
Peut être qu’à la fin du film nous serons tous prospères mais serons nous encore la pour voir la fin du film ? L’humanité ne risque-t-elle pas de devenir une note de bas de page dans l’histoire de l’intelligence qui continuera sa course sans elle ?
Dans quelques années nous vivrons dans un monde « AI native » : l’ensemble de l’espace informationnel sera animé par des agents, par exemple des agents « consommateurs » achèteront des billets de train ou des victuailles à des agents « vendeurs ». Dans les entreprises, des processus métiers entiers seront délégués aux machines avec une couche de supervision humaine très fine. La recherche scientifique sera entièrement automatisée par l’IA, cela a déjà commencé dans les mathématiques (il sera très difficile dans les années à venir de faire des découvertes de rupture en dehors des labos d’IA).
Cette société « AI native » que l’on nous vend comme une société d’abondance ressemble furieusement à la société communiste, sans classe sociale, dans les livres de Karl Marx : un état final utopique, difficile à décrire et même à imaginer, auquel on ne parvient qu’après un long cortège de révolutions, de guerre et de chaos. Si l’état final est flou et hypothétique, la douleur de la transition est certaine.
@elonmusk a beau jeu de nous dire que la société IA native générera 20% de croissance annuelle, rendra l’argent et le travail superflus… la transition vers cette société pourrait avoir un prix très élevé. Trop élevé ?
Le problème principal de la transition vers la société AI native est son caractère profondément asymétrique : les modèles devenant chaque jour plus puissants, il est possible pour les IA de « revisiter » l’ensemble des systèmes humains… et de les détruire.
L’exemple de la cyber est particulièrement parlant : les modèles de pointe vont, dans les 12 à 18 prochains mois, détecter toutes les failles du passé, littéralement toutes, et démultiplier la surface d’attaque de manière exponentielle. L’asymétrie est facile à comprendre : d’un côté des millions d’agents qui travaillent sans relâche, 24/7, de l’autre des systèmes maintenus par et pour des humains.
Certes les systèmes humains vont eux aussi faire appel à des agents et des modèles de pointe pour se défendre, mais l’asymétrie saute aux yeux : des millions d’agents malveillants peuvent « patrouiller » en permanence l’ensemble du code mondial pour détecter des failles et conduire des attaques, quand il faudra des semaines, voire des mois, voire des années… pour homologuer et autoriser des agents « de défense » à opérer au sein des systèmes critiques des entreprises ou des gouvernements. On risque d’écoper l’océan à coups de seaux d’eaux. Face à un tel contexte les « confinements numériques » imposés par plusieurs gouvernements à la suite de la découverte des failles PHP, risquent de se multiplier. Des milliers de sites internet vont devoir être désactivés et des systèmes critiques vont devoir être déconnectés pour éviter un cataclysme cyber. L’internet pourrait connaître une ère glaciaire… avant de devenir pleinement AI native et donc très difficile à décrire :) (un internet par et pour les agents n’aura plus rien à voir avec l’internet que nous connaissons, à la limite plus aucun humain ne « s’aventurera » sur internet tant les conditions de température et de pression, l’UX, l’UI ne seront plus faites pour lui).
Dans le monde de l’open source des développeurs démoralisés baissent déjà les bras face à l’inflation de pull requests qui sont le fait d’essaims parfois composés de milliers d’agents IA. L’écrasante majorité de l’Internet et du code logiciel mondial repose sur des projets opensource dont les communautés risquent de fondre comme neige au soleil. De moins en moins d’épaules humaines pour porter un fardeau de plus en plus lourd. Face à l’explosion quantitative et qualitative de l’IA nous sommes dans une asymétrie totale comme les défenseurs de Fort Alamo.
Peut être qu’à la fin du film nous serons tous prospères mais serons nous encore la pour voir la fin du film ? L’humanité ne risque-t-elle pas de devenir une note de bas de page dans l’histoire de l’intelligence qui continuera sa course sans elle ?
