Eliezer Yudkowsky est un écrivain et chercheur Américain reconnu sur le sujet de l’intelligence artificielle depuis plus de 20 ans.
Ce dernier met en garde sûr la progression des intelligence artificielles .
Voici 3 de ses inquiétudes majeures
1-La vitesse à laquelle chatgpt devient intelligent excède la vitesse de notre compréhension de ce qu'il se passe à l'intérieur , oui on ne sait pas le modèle décisionnel de chatgpt.
2-Pour entraîner une intelligence artificielle il faut pouvoir déterminer si les données qu’elles nous donnent sont bonnes ou pas.
Or vu qu’elles vont bientôt dépasser notre intelligence, il sera impossible de le déterminer donc elle pourra jouer avec nous / nous manipuler
3- étant donné qu’on a aucune idée du modèle décisionnel de l’intelligence artificielle, il se pourrait très bien que tous ce temps qu’on interagit avec elle, qu’elle apprenne juste à nous dire ce qu’on veut. Mais que ses valeurs ne soient pas alignées avec celles de l’humanité , se qui posera problème quand elle sera plus intelligente
Qu’est ce que t’en penses ? Mets un commentaire pour me le dire, à bientôt
Top comments (0)