Cœur de l'IATEXTE

Le deep learning et les réseaux de neurones

15 min

Carte 04 / 10

Le deep learning est du machine learning avec des réseaux de neurones à plusieurs couches. Chaque couche repère des motifs de plus en plus abstraits : d'abord des sons, puis des syllabes, puis des mots, puis une intention. C'est la technologie derrière la reconnaissance vocale, la lecture d'images et, depuis 2017, les modèles de langage.

Un neurone artificiel, c'est quoi

Un neurone artificiel n'a presque rien à voir avec un neurone biologique. C'est une petite unité de calcul qui reçoit plusieurs nombres en entrée, les multiplie chacun par un poids, additionne le tout, et produit un nombre en sortie. Si la somme dépasse un seuil, le neurone « s'active ».

Un seul neurone ne sait pas faire grand-chose. L'intérêt vient de l'assemblage : des centaines de neurones en couche, des dizaines de couches empilées, et des millions ou des milliards de poids à régler. Le mot « profond » dans deep learning désigne ce nombre de couches.

Chaque couche reçoit ce que la précédente a produit et en extrait quelque chose de plus abstrait. Sur un enregistrement audio, les premières couches réagissent à des fréquences, les suivantes à des phonèmes, puis à des mots, puis au sens d'une phrase. Personne n'a programmé cette hiérarchie : elle émerge de l'entraînement.

Comment un réseau apprend

Imagine une table de mixage avec des millions de curseurs. Au départ, ils sont réglés au hasard. Le réseau fait une prédiction, on la compare à la bonne réponse, on mesure l'erreur. Puis on ajuste légèrement chaque curseur dans le sens qui aurait réduit l'erreur. On recommence avec l'exemple suivant. Des millions de fois.

Cette méthode s'appelle la rétropropagation, parce que l'erreur mesurée à la sortie est propagée en arrière, couche par couche, pour dire à chaque poids de combien bouger. Elle existe depuis les années 1980 ; ce qui a changé, c'est qu'on peut enfin l'appliquer à des réseaux énormes sur des données énormes.

Un détail compte pour la suite : à la fin de l'entraînement, les poids sont figés. Le réseau ne continue pas d'apprendre en production. Il applique ce qu'il a appris, et si le monde change, il ne le sait pas.

Pourquoi tout a basculé en 2012

Les réseaux de neurones existaient depuis 1958. Pendant cinquante ans, ils ont été une curiosité de laboratoire, régulièrement enterrée. En 2012, un réseau appelé AlexNet écrase la compétition ImageNet de reconnaissance d'images, avec une avance que personne n'attendait. En deux ans, toute la recherche en vision bascule.

Trois ingrédients se sont réunis :

IngrédientCe qui manquait avantCe qui a changé
DonnéesQuelques milliers d'images étiquetéesImageNet : plus d'un million d'images annotées à la main
CalculDes processeurs classiques, un calcul après l'autreLes cartes graphiques (GPU), conçues pour les jeux vidéo, calculent des millions d'opérations en parallèle
MéthodesLes réseaux profonds se bloquaient pendant l'entraînementDe nouvelles astuces d'entraînement les rendent stables

La carte graphique est le facteur le plus concret. Entraîner un réseau, c'est faire des milliards de multiplications simples ; un GPU en fait des milliers en même temps. C'est la raison pour laquelle Nvidia, fabricant de cartes pour joueurs, est devenu l'entreprise centrale de l'IA.

Les grandes familles de réseaux

FamilleSpécialitéExemple en centre de contact
Réseaux convolutifs (CNN)ImagesLecture d'une pièce jointe, d'un justificatif, d'un chèque
Réseaux récurrents (RNN, LSTM)Séquences, avant 2017Les premières générations de reconnaissance vocale
TransformersTexte, voix, et tout le reste depuis 2017Transcription, résumé d'appel, agents conversationnels

Les réseaux convolutifs sont construits pour les images : ils repèrent des motifs locaux (un bord, un coin, une texture) puis les combinent. Les réseaux récurrents traitaient le texte et la parole mot après mot, en gardant une mémoire de ce qui précède ; ils ont été remplacés par les Transformers, plus rapides à entraîner et bien meilleurs sur les longues phrases. La carte suivante leur est consacrée.

Entraînement et inférence : deux moments, deux coûts

C'est la distinction la plus utile de cette carte pour lire un devis.

L'entraînement est la phase où le réseau ajuste ses poids. Elle demande des semaines ou des mois de calcul sur des milliers de cartes graphiques, et des millions d'euros pour les plus gros modèles. Elle se fait une fois, chez l'éditeur. Vous ne la payez pas directement.

L'inférence est l'utilisation du réseau entraîné : on lui donne un appel, il produit une transcription. Chaque appel coûte une petite quantité de calcul. C'est ce que vous payez à l'usage, et c'est ce qui fait grimper la facture quand les volumes montent.

Un éditeur qui facture « à la minute transcrite » ou « au token » vous facture de l'inférence. La question à poser : combien d'inférences par contact, et à quel prix unitaire, pour votre volume réel ?

La boîte noire

Un réseau de neurones fonctionne, mais personne ne peut dire exactement pourquoi il a pris une décision donnée. Les milliards de poids ne se lisent pas comme des règles. On sait que ça marche, on explique mal comment.

Ce n'est pas un détail. Quand un modèle refuse un remboursement ou classe un client comme « à risque », le client et le régulateur peuvent demander pourquoi. L'AI Act impose des obligations d'explication sur certains usages. Un réseau de neurones ne pourra pas les satisfaire seul ; il faudra des outils d'explication autour, ou un humain dans la boucle.

Ce que ça change en centre de contact

La reconnaissance vocale (speech-to-text) et la synthèse vocale naturelle viennent du deep learning. Sans lui, pas de speech analytics fiable, pas de transcription en temps réel, pas de voicebot crédible. C'est lui qui a fait passer la reconnaissance vocale de « tapez ou dites 1 » à une conversation.

Deux conséquences pratiques. D'abord, la qualité dépend des données d'entraînement : un modèle entraîné surtout sur de l'anglais américain sera moins bon sur un accent du Sud ou sur du français d'Afrique de l'Ouest ; demandez des tests sur vos propres enregistrements. Ensuite, le coût est à l'inférence : le prix d'un speech analytics se lit au volume d'heures transcrites, pas à la licence.

Ce qu'on retient

  • Un réseau de neurones est un empilement de couches de calcul dont les poids sont réglés par l'entraînement, pas programmés.
  • L'apprentissage ajuste des millions de curseurs, un peu à chaque exemple, par rétropropagation.
  • 2012 : données, cartes graphiques et méthodes se rejoignent, et tout bascule.
  • Entraînement chez l'éditeur, inférence chez vous : c'est l'inférence que vous payez.
  • Un réseau est une boîte noire ; l'explication est un sujet de conformité, pas une option.

Quiz

Que signifie « profond » dans deep learning ?

Qu'est-ce qu'un poids dans un réseau de neurones ?

Entre entraînement et inférence, laquelle des deux phases paie-t-on à l'usage ?

Pourquoi les cartes graphiques ont-elles été décisives pour le deep learning ?

Quelle famille de réseaux a remplacé les réseaux récurrents pour le traitement du langage ?