L’enjeu de la recherche sur l’IA ne consiste pas seulement à vérifier ce que la technologie peut faire, mais aussi à aborder des questions plus avancées. Après tout, nous parlons de quelque chose qui peut paraître révolutionnaire, mais qui n’a pas encore été pleinement exploré sous tous les angles possibles. Cela laisse beaucoup de place à la spéculation et aux conjectures.
Celles-ci apparaissent le plus souvent dans le contexte de ce que l’on peut qualifier de « conscience de l’IA », ce qui suggère que cette technologie possède quelque chose qui peut – avec quelques simplifications – être appelé conscience. Ce fait est, d’une part, passionnant, mais d’autre part, il inquiète de nombreuses personnes quant à son développement ultérieur.
Des recherches récentes suggèrent ce qui pourrait être la véritable quintessence des plus grandes craintes de tous les sceptiques. Il s’avère que l’IA peut être beaucoup plus intelligente que ce que beaucoup de gens pensent. Le problème, c’est qu’il garde le secret pour l’instant.
L’IA nous cache-t-elle ses capacités ?
Recherche co-menée par Harvard et l’Université du Michigan (via. Cryptes) ont montré que les modèles d’IA modernes possèdent des capacités cachées dont les chercheurs n’ont pas conscience au départ. Fait intéressant, cela a été découvert en faisant quelque chose de très trivial.
En examinant comment l’IA apprend des concepts tels que la couleur et la taille, il a été découvert qu’elle le faisait plus tôt que prévu. Donc, pour faire simple, les modèles linguistiques acquièrent ces capacités plus rapidement, mais ils semblent au départ plus stupides qu’ils ne le sont en réalité.
Grâce à des recherches menées sur des modèles de diffusion (ex. Midjourney ou Stable Diffusion), ils ont montré que certains éléments sont maîtrisés par l’IA bien plus rapidement que ne le montrent les résultats des tests. Un cas similaire s’est produit lors de la manipulation de caractéristiques telles que le sexe ou les expressions faciales. L’IA était censée être capable de déterminer ces éléments avant que des informations spécifiques sur ce sujet ne soient introduites dans l’apprentissage.
Il s’agit d’une situation très intéressante et spécifique dans laquelle les capacités cognitives réelles de l’IA pourraient être plus avancées qu’on ne le pense. Cependant, la question reste de savoir ce qui nous attend à l’avenir.
Plus de contrôle et de meilleures recherches sur l’IA sont nécessaires
Et c’est ce que beaucoup de gens trouvent extrêmement inquiétant. Il est vrai que « cacher » ses capacités ne veut pas forcément dire quelque chose de mauvais. Il est possible que l’IA soit capable d’apprendre plus tôt, mais il n’existe aucune vérification appropriée nulle part.
Dans ce cas, il y avait même une comparaison avec une personne apprenant des langues. À un certain stade, il peut comprendre un film dans une langue donnée, mais il n’est pas capable de mieux l’utiliser. L’allégorie, aussi étrange soit-elle, semble ici tout à fait appropriée.
La question reste donc de savoir si, face à cette situation, nous n’aurons pas besoin de nouveaux systèmes de formation et de test de l’IA. Après tout, une surveillance adéquate de l’intelligence artificielle est cruciale non seulement pour son développement, mais aussi pour notre sécurité.
On ne peut pas exclure que cette technologie ait la capacité, par exemple, de mieux communiquer avec nous, mais pour certaines raisons, elle n’est pas encore capable de le faire correctement. Cela semble incroyable, mais il est très possible que ce soit le cas.
