Selon Lord Parkinson, un ministre adjoint du ministère de la Culture, des Médias et des Sports – qui a répondu à une question au Parlement concernant la future législation – le contenu généré par des chatbots d’IA tels que ChatGPT d’OpenAI et Bard de Google entrera dans le champ d’application du projet de loi, a rapporté Le télégraphe.
Le ministre a déclaré: «Le projet de loi sur la sécurité en ligne a été conçu pour être neutre sur le plan technologique afin de le pérenniser et de garantir que la législation suit le rythme des technologies émergentes.
« Le contenu généré par des ‘bots’ d’intelligence artificielle entre dans le champ d’application du projet de loi, où il interagit avec le contenu généré par l’utilisateur, comme sur Twitter. Les services de recherche utilisant des fonctionnalités alimentées par l’IA entreront également dans le cadre des fonctions de recherche décrites dans le projet de loi.
En gardant ces logiciels réglementés, les entreprises technologiques peuvent être pénalisées dans le cas où l’automutilation, le contenu des troubles de l’alimentation et d’autres informations potentiellement nuisibles sont promus auprès des jeunes utilisateurs.
Le rôle possible de la réglementation gouvernementale
Le projet de loi sur la sécurité en ligne, qui doit être appliqué par l’Ofcom, exige actuellement que les sites Web tels que les réseaux sociaux et les moteurs de recherche protègent les utilisateurs contre les contenus préjudiciables « légaux mais préjudiciables », dont les thèmes peuvent inclure l’abus, le harcèlement ou l’automutilation.
Les organisations qui enfreignent la réglementation peuvent être condamnées à une amende ou, dans les cas graves, les dirigeants responsables de préjudices peuvent être emprisonnés.
Alors que les grands modèles de langage sont capables de faciliter des réponses rapides et humaines à un éventail de questions et de remarques conversationnelles, ainsi que de créer des poèmes et des essais, des inquiétudes ont été soulevées concernant le contenu potentiellement dangereux – en particulier pour les enfants – et la désinformation, en raison d’un manque de limites de formation.
Les chatbots sont également sensibles aux préjugés politiques en fonction des données utilisées pour les former, comme en témoignent des développements tels que le refus de ChatGPT de reconnaître les réalisations des républicains américains tout en louant volontiers les démocrates, et une expérience récente démontrant diverses réponses basées sur les journaux britanniques utilisés pour former L’algorithme de ChatGPT.
Plusieurs écoles et universités ont choisi d’interdire aux étudiants d’utiliser ChatGPT comme aide à la rédaction pour les cours.
En rapport:
ChatGPT vs GDPR – ce que les chatbots AI signifient pour la confidentialité des données – Alors que ChatGPT d’OpenAI prend d’assaut le grand espace du modèle de langage, il y a beaucoup à considérer en matière de confidentialité des données.
Le rôle de ChatGPT dans l’avenir du service client — Compte tenu de l’émergence de ChatGPT et d’autres chatbots, nous examinons comment le rôle de cette technologie alimentée par l’IA dans le service client pourrait se manifester dans les années à venir.