Les réseaux de neurones sont des modèles d’IA conçus par apprentissage automatique. Inspirés du fonctionnement du cerveau humain, ils permettent à des machines d’effectuer diverses tâches en autonomie. À partir de grandes quantités de données leur servant d’exemples, ils peuvent être entraînés à la reconnaissance d'images ou à l'analyse de texte. Au-delà de la simple performance prédictive, la compréhension de leurs limites, la fiabilité de leur utilisation, et leur acceptabilité nécessitent encore de relever de nombreux défis scientifiques, en plus des aspects éthiques comme la frugalité énergétique. Décryptage avec Stephan Clémençon, chercheur en intelligence artificielle à Télécom Paris.

Ces dernières décennies, les algorithmes sont devenus de plus en plus complexes, notamment par le déploiement des architectures de type deep learning. Cela s’est accompagné d'une difficulté croissante à expliquer leur fonctionnement interne, qui est devenu un enjeu important, tant au niveau juridique que sociologique. Winston Maxwell, chercheur en droit et Florence d’Alché-Buc, chercheuse en machine learning, tous deux à Télécom Paris, nous décrivent les enjeux actuels de l’explicabilité des algorithmes.

En dépit des avancées considérables de l’intelligence artificielle, celles-ci peinent encore à copier l’intelligence humaine. Elles demeurent orientées sur la performance des tâches, sans comprendre le sens de leurs actions, et se…