M. Hinton a révélé au New York Times qu’il regrettait désormais son travail de conception d’algorithmes d’apprentissage automatique. – qui a ouvert la voie à la publication d’outils d’IA générative tels que ChatGPT – et a mis en garde contre la désinformation et les risques pour la vie privée liés à cette technologie.
Il a déclaré à la BBC : « J’en suis arrivé à la conclusion que le type de renseignements que nous développons est très différent de ceux dont nous disposons.
« C’est comme si vous aviez 10 000 personnes et qu’à chaque fois qu’une personne apprend quelque chose, tout le monde le sait automatiquement. Et c’est ainsi que ces chatbots peuvent en savoir beaucoup plus que n’importe quelle personne. »
Parmi les risques sociétaux possibles cités par M. Hinton et d’autres experts dans ce domaine figurent les préjugés, l’infiltration par des acteurs menaçants et la redondance éventuelle des rôles professionnels.
Les grands modèles de langage (LLM) devenant de plus en plus omniprésents dans les entreprises, le chercheur en IA a déclaré à la BBC que certains des dangers liés aux chatbots étaient « assez effrayants », et que son âge de 75 ans l’avait conduit à prendre sa retraite.
Toutefois, M. Hinton a souligné qu’il ne souhaitait pas critiquer son ancien employeur, déclarant que Google avait été « très responsable » et que son départ de l’entreprise rendrait « plus crédibles » ses déclarations sur les pratiques de l’entreprise en matière d’IA.
Il a récemment été révélé que l’éditeur de GPT-4, OpenAI, a chargé une « équipe rouge » de chercheurs de tester les limites de son algorithme, afin d’aider à atténuer les préjudices à l’avenir.
Le chatbot Bard de Google a récemment fait l’objet d’un examen minutieux pour avoir diffusé de fausses informations, ce qui a conduit l’entreprise à adresser un avertissement aux utilisateurs expérimentaux et à instaurer une limite d’âge de 18 ans.
Jeff Dean, scientifique en chef de Google, a commenté : « Nous restons attachés à une approche responsable de l’IA. Nous apprenons continuellement à comprendre les risques émergents tout en innovant avec audace. »
À propos du départ de M. Hinton de Google, M. Dean a déclaré : « J’ai beaucoup apprécié nos nombreuses conversations au cours de ces années : « J’ai beaucoup apprécié nos nombreuses conversations au fil des ans. Il va me manquer et je lui souhaite bonne chance ! »
Sur le même sujet :
Utiliser l’IA générative pour comprendre les clients – L’IA générative semble prête à transformer les technologies de l’information, de la co-écriture de code à l’amélioration de la cybersécurité, mais l’une de ses utilisations les plus profondes pourrait être la façon dont elle est utilisée pour comprendre les clients.
ChatGPT vs GDPR – ce que les chatbots d’IA signifient pour la confidentialité des données – Alors que le ChatGPT d’OpenAI prend d’assaut l’espace des grands modèles de langage, il y a beaucoup de choses à prendre en compte lorsqu’il s’agit de la confidentialité des données.