Thèse de Doctorat Kassem AHMAD Mémoire présenté en vue de l’obtention du grade de Docteur de l’Université Libanaise du grade de Docteur de l’Université de Nantes Sous le label de l’Université Nantes Angers Le Mans Discipline : Electronique Spécialité : Traitement du signal et des images Laboratoire : IETR UMR 6164 Soutenue le 16 juillet 2013 École doctorale Sciences et Technologies, Liban École doctorale Sciences et Technologies de l’Information et Mathématiques (STIM), France Thèse N° ED503-196 Protocoles, gestion et transmission sécurisée par chaos des clés secrètes. Applications aux standards : TCP/IP via DVB-S, UMTS, EPS. JURY Président : M. Mohamad KHALIL, Professeur, Université Libanaise, Liban Rapporteurs : M. Wissam FAWAZ, Associate Professor, Lebanese Amercican University, Byblos, Liban M. Fabrice PEYRARD, Maître de Conférences/HDR, ENSEEIHT/IRIT, Toulouse, France Examinateurs : Mme Ina TARALOVA, Maître de Conférences, Ecole Centrale de Nantes, France Directeur de Thèse : M. Safwan EL ASSAD, Maître de Conférences/HDR, Ecole polytechnique de l’université de Nantes, France M. Akil JRAD, Professeur, Université Libanaise, Liban Co-encadrant : M. Bassem BAKHACHE, Maître de Conférences, Université Libanaise, Liban 3 © Kassem AHMAD, 2013. 2013 Protocoles, gestion et transmission sécurisée par chaos des clés secrètes. Applications aux 4 standards : TCP/IP via DVB-S, UMTS, EPS À mes chers parents, Mohamad et Hassana, sans vous, rien n’aurait pu être possible, que Dieu vous protège et vous prête une longue vie pleine de santé et de prospérité. À ma sœur et mon frère, Batoul et Hamza, que Dieu nous grade unis pour que nos parents soient toujours fiers de nous. À tous les membres de ma famille. Kassem AHMAD 5 Remerciements Le travail présenté dans cette cotutelle de thèse est le résultat d’une collaboration entre l’Ecole polytechnique de l’Université de Nantes et l’Université Libanaise. Ce travail a été effectué au sein du Laboratoire IETR à Nantes et au sein du laboratoire LASTRE au Liban. Une thèse de doctorat est le fruit d’un travail collectif, pour cela je souhaite adresser mes sincères remerciements aux personnes suivantes : - Monsieur le Professeur J.F. DIOURIS, Directeur-adjoint de l’IETR, site de Nantes, et Monsieur le Professeur B. EL HASSAN, Directeur du LASTRE au Liban, pour m’avoir accueilli au sein de leur laboratoire et pour m’avoir offert un contexte de travail de très bonne qualité. - Monsieur le Professeur M. KHALIL, Directeur du Centre Azm pour la recherche en Biotechnologies et ses Applications à l’Université Libanaise, pour m’avoir honoré d’accepter de présider mon jury. - Monsieur le Professeur F. PEYRARD de l’Institut de Recherche en Informatique de Toulouse IRIT, Toulouse, France ainsi que Monsieur le Professeur W. FAWAZ de l’Université Libano Américaine LAU, Byblos, Liban pour l’intérêt qu’ils ont porté à mon travail de thèse, en acceptant d’être rapporteur. - Monsieur S. EL ASSAD, Maître de Conférences HDR à l’Ecole polytechnique de l’université de Nantes, et Monsieur A. JRAD, Professeur à l’Université Libanaise, mes Directeurs de thèse pour avoir accepter d’encadrer ma thèse, pour toute leur patience, leur pédagogie et toutes les choses que j’ai appris avec eux. Leur énergie, leur curiosité, et leur dévouement pour la recherche scientifique m’ont beaucoup influencé. - Monsieur le MCF B. BAKHACHE, mon encadrant de thèse qui m’a accompagné tout au long de ces trois années. Je le remercie pour son aide, ses encouragements, sa grande disponibilité, ses nombreux conseils, et son soutien sans faille qui ont été déterminants pour la réalisation de cette thèse. - Madame le MCF I. TARALOVA de l’Ecole Centrale de Nantes, Monsieur le Professeur M. KHALIL (encore une fois) de l’Université Libanaise, Tripoli, Liban, pour avoir participé à mon jury de soutenance et pour leurs conseils et corrections. - Madame S. CHARLIER, Madame L. BUHE et toutes les personnes que j’ai côtoyé au sein du laboratoire IETR, pour leur soutien et aide avant et durant mon séjour au laboratoire. -Madame Z. IBRAHIM pour son aide dans toutes les tâches administratives à l’Ecole Doctorale EDST de l’Université Libanaise, ainsi que les personnels du centre Azm pour leur appui et leur gentillesse. - Mes amis qui m’ont aidé beaucoup quand j’ai eu besoin, avec qui j’ai partagé des moments excellents et qui ont fait que mon séjour à Nantes fait partie de mes expériences inoubliables surtout mes amis H. AMMAR et H. BANJAK. - Mon amour qui m’a apporté le soutien moral, qui m’a encouragé et qui m’a donné l’énergie de continuer dans les moments les plus difficiles. 2013 Protocoles, gestion et transmission sécurisée par chaos des clés secrètes. Applications aux 6 standards : TCP/IP via DVB-S, UMTS, EPS Sommaire Introduction générale Introduction générale ................................................................................................................ 14 1. Contexte de l’étude et généralités 1.1 Concepts de base de la sécurité ........................................................................................ 21 1.1.1 Sécurité de l’information ........................................................................................... 21 1.1.2 Principes de conception d’un système de sécurité ...................................................... 22 1.1.3 Entités et canaux de communication .......................................................................... 23 1.1.4 Fonctions de sécurité des communications (services et attaques) ............................... 23 1.2 Concepts cryptographique de base ................................................................................... 25 1.2.1 Fonctions cryptographiques et terminologie .............................................................. 25 1.2.2 Sécurité des systèmes avec des fonctions cryptographiques ....................................... 26 1.2.3 Chiffrement symétrique............................................................................................. 27 1.2.4 Fonctions de hachage avec et sans clé ....................................................................... 28 1.2.5 Cryptographie à clé publique et ses composantes ....................................................... 29 1.2.5.1 Certificats numériques ........................................................................................ 30 1.2.5.2 Algorithmes de chiffrement et de signature asymétriques .................................... 30 1.2.5.3 Signatures numériques ....................................................................................... 32 1.2.6 Cryptanalyse et attaques cryptographiques ................................................................ 33 1.3 Gestion des clés ............................................................................................................... 34 1.4 Chaos .............................................................................................................................. 35 1.4.1 Principe du crypto-système basée chaos .................................................................... 35 1.4.2 Propriétés cryptographiques et chaotiques ................................................................. 36 1.4.3 Fonctions chaotiques numériques .............................................................................. 36 1.4.4 Solutions pour éviter les effets de la précision finie N ............................................... 37 1.5 Quelques définitions ........................................................................................................ 38 2. Système de sécurité basé chaos pour les communications IP multicast à travers le DVB-S 2.1 Introduction ..................................................................................................................... 41 2.2 Communications IP Multicast à travers le DVB-S ............................................................ 43 Kassem AHMAD 7 2.2.1 Architecture du système DVB-S................................................................................ 43 2.2.2 Structure du RCST émetteur et transmission des paquets IP via DVB-S .................... 44 2.2.2.1 Méthodes d’encapsulation existantes : MPE, IP-Optimized scheme, ULE ........... 45 2.2.2.2 Encapsulation ULE et extension d’entête ............................................................ 46 2.2.2.3 Structure du segment de transport MPEG-2 ........................................................ 48 2.2.3 Approches de commutation au niveau satellitaire (Label-Switching et Self Switching) .......................................................................................................................................... 48 2.2.4 Critères de la sécurité des communications IP par DVB satellitaire ............................ 49 2.2.4.1 Attaques actives et passives ................................................................................ 50 2.2.4.2 Exigences de la sécurité des données IP via DVB-S ............................................ 50 2.2.5 Solutions de la sécurité existantes.............................................................................. 51 2.2.5.1 Utilisation des entêtes d’extension de l’ULE ....................................................... 51 2.2.5.2 Utilisation d’IPSec en mode tunnel ..................................................................... 52 2.2.6 Gestion des clés pour les communications multicast satellitaire ................................. 52 2.2.6.1 Systèmes de gestion des clés Flat et LKH ........................................................... 52 2.3 Système de sécurité multicast proposé ............................................................................. 54 2.3.1 Présentation générale du système .............................................................................. 55 2.3.2 Méthode d’encapsulation proposée EULE ................................................................. 55 2.3.3 Mécanisme proposé pour la sécurité des trames EULE (SEULE) ............................... 56 2.3.4 Interfonctionnement entre l’encapsulation SEULE et les approches de commutation . 57 2.3.4.1 Encapsulation SEULE avec label-switching ....................................................... 57 2.3.4.2 Encapsulation SEULE avec self-switching ......................................................... 59 2.3.5 Système de gestion de clés proposé TLKH (Two-Tiered LKH) ................................. 60 2.3.5.1 Système de dérivation des clés transitoires .......................................................... 61 2.3.5.2 Générateur chaotique proposé pour la génération de clés dynamiques ................. 61 2.3.5.3 Mécanisme d’identification des membres ........................................................... 63 2.3.5.4 Paquet des clés et des paramètres de sécurité proposé (Key PDU) ....................... 64 2.3.5.5 Message d’alarme DULM .................................................................................. 66 2.3.6 Modification de la structure de l’encapsulateur/décapsulateur ULE ........................... 67 2.4 Analyse des performances du système proposé et résultats de simulation ......................... 69 2.4.1 Analyse et avantages du système de gestion des clés proposé .................................... 69 2.4.1.1 Coût de rekeying (renouvellement des clés) ........................................................ 69 2.4.1.2 Nombre de clés stockées dans les différentes composantes ................................. 71 2013 Protocoles, gestion et transmission sécurisée par chaos des clés secrètes. Applications aux 8 standards : TCP/IP via DVB-S, UMTS, EPS 2.4.1.3 Résumé des avantages de TLKH par rapport aux systèmes Flat et LKH .............. 71 2.4.2 Analyse de la consommation de la bande passante ..................................................... 72 2.4.2.1 Données de la gestion des clés ............................................................................ 72 2.4.2.2 Taux des données ajoutées par les services de sécurité et de commutation .......... 75 2.5 Conclusions ..................................................................................................................... 77 3. Sécurité dans les réseaux mobiles 3G et 4G 3.1 Introduction ..................................................................................................................... 81 3.2 Architecture du réseau de troisième génération UMTS ..................................................... 82 3.3 Sécurité dans la troisième génération (UMTS) ................................................................. 84 3.3.1 Principes et objectives de la sécurité de 3G ............................................................... 84 3.3.2 Mécanismes de la sécurité 3G ................................................................................... 84 3.3.2.1 Confidentialité de l’identité ................................................................................ 84 3.3.2.2 Authentification et établissement des clés AKA (Authentication and Key Agreement) .................................................................................................................... 85 3.3.2.2.1 Vecteur d’authentification AV ..................................................................... 86 3.3.2.2.2 Procédure UMTS-AKA ............................................................................... 87 3.3.2.2.3 Négociation des algorithmes et validité des clés CK, IK ............................... 88 3.3.2.2.4 Procédure d’établissement du mode de sécurité ............................................ 89 3.3.2.2.5 Protection de l’intégrité et de la confidentialité ............................................ 92 3.4 Architecture du réseau de quatrième génération EPS ........................................................ 92 3.5 Sécurité dans EPS ............................................................................................................ 94 3.5.1 Principes de la sécurité 4G ........................................................................................ 94 3.5.2 Exigences de la sécurité en EPS et les menaces principales ...................................... 95 3.5.2.1 Exigences de la sécurité en EPS ......................................................................... 95 3.5.2.2 Menaces contre EPS ........................................................................................... 96 3.5.3 Architecture de la sécurité en EPS ............................................................................ 97 3.5.3.1 Différentes domaines de sécurité ........................................................................ 97 3.5.3.2. Sécurité de l’accès au réseau ............................................................................. 97 3.5.3.2.1 Confidentialité de l’identité de l’usager et du terminal ................................. 97 3.5.3.2.2 Authentification mutuelle entre l’UE et le réseau ......................................... 98 3.5.3.2.3 Confidentialité des données de l’usager et de la signalisation ....................... 98 Kassem AHMAD 9 3.5.3.2.4 Intégrité des données de signalisation .......................................................... 99 3.5.3.3 La sécurité de l’eNB ......................................................................................... 100 3.5.3.3.1 Démarrage et configuration de l’eNB ......................................................... 100 3.5.3.3.2 Gestion des clés à l’intérieur de la station de base ...................................... 100 3.5.3.3.3 Traitement des données du plan usager et de contrôle ................................ 101 3.5.3.4 Sécurité du domaine réseau .............................................................................. 101 3.5.3.5 Sécurité du domaine utilisateur ........................................................................ 101 3.5.3.6 Sécurité du domaine application ....................................................................... 102 3.5.3.7 Visibilité et configuration de la sécurité par l’utilisateur ................................... 102 3.5.3.8 Vue d’ensemble de la sécurité de l’EPS ............................................................ 102 3.5.4 Accès sécurisé au réseau EPS .................................................................................. 104 3.5.4.1 Identification des abonnés et des terminaux ..................................................... 104 3.5.4.2 Authentification et établissement des clés EPS-AKA ........................................ 105 3.5.4.2.1 Génération des vecteurs d’authentification EPS ......................................... 106 3.5.4.2.2 Procédure EPS-AKA ................................................................................. 107 3.5.4.2.3 Distribution des données d’authentification à l’intérieur et entre les réseaux de service ..................................................................................................................... 110 3.5.4.3 Hiérarchie des clés ........................................................................................... 110 3.5.4.3.1 Dérivations et Objectifs des clés dans la hiérarchie .................................... 111 3.5.4.3.2 Fonction de dérivation de clés KDF .......................................................... 114 3.5.4.4 Protection de la signalisation NAS, AS et des données usagers ......................... 116 3.5.4.4.1 Négociation des algorithmes de sécurité..................................................... 116 3.5.4.4.2 Protection de la signalisation NAS ............................................................. 117 3.5.4.4.2.1 Etablissement de la sécurité NAS ........................................................ 117 3.5.4.4.2.2 Protection de l’intégrité des messages NAS ......................................... 118 3.5.4.4.2.3 Chiffrement des messages NAS .......................................................... 120 3.5.4.4.3 Protection de la signalisation AS et des données usagers ............................ 121 3.5.4.4.3.1 Etablissement de la sécurité AS ........................................................... 121 3.5.4.4.3.2 Protection de l’intégrité des messages RRC ......................................... 122 3.5.4.4.3.3 Chiffrement des messages RRC et des données usagers ....................... 123 3.6 Conclusion .................................................................................................................... 124 2013 Protocoles, gestion et transmission sécurisée par chaos des clés secrètes. Applications aux 10 standards : TCP/IP via DVB-S, UMTS, EPS 4. Analyse et amélioration de la sécurité de l’EPS 4.1 Introduction ................................................................................................................... 127 4.2. Transmission de l’IMSI en claire .................................................................................. 128 4.2.1 Solution d’Al-Saraireh - EMSUCU ......................................................................... 129 4.2.2 Solution de Caragata - EEMSUCU .......................................................................... 130 4.2.3 Problématique d’EEMSUCU : vulnérabilités et attaques possibles........................... 132 4.2.3.1 Première vulnérabilité et son remède ................................................................ 132 4.2.3.1.1 Remède proposé ........................................................................................ 133 4.2.3.2 Deuxième vulnérabilité et ses remèdes ............................................................. 133 4.2.3.2.1 Remèdes proposés ..................................................................................... 134 4.2.3.4 Attaques possibles et proposition d’amélioration ............................................. 136 4.2.3.4.1 Amélioration proposée............................................................................... 137 4.2.4 Comparaison des coûts d’identification d’un abonné ............................................... 139 4.3 Analyse des vulnérabilités du protocole EPS-AKA ........................................................ 141 4.3.1 Attaque de déni de service contre l’UE .................................................................... 141 4.3.1.1 Modification des capacités de sécurité d’UE ..................................................... 141 4.3.1.2 Attaque sur le message de rejet du mode de sécurité ......................................... 142 4.3.1.3 Modification des messages AKA (RAND, AUTN et RES) ............................... 142 4.3.2 Attaques contre la clé secrète permanente K ............................................................ 143 4.3.2.1 Attaque sur la voie radio ................................................................................... 143 4.3.2.2 Attaque contre la carte à puce UICC ................................................................. 144 4.3.3 Compromis des AV et blocage des services par un Attaque d’homme au milieu (MITM) entre MME et HSS ............................................................................................ 146 4.3.4 Attaques sur les réponses des données d’authentification (AVs) .............................. 147 4.3.4.1 Attaque de l’extérieur ....................................................................................... 147 4.3.4.2 Attaque de l’intérieur ....................................................................................... 148 4.3.4.3 Remède contre ces attaques .............................................................................. 149 4.4 Protocoles existants et proposés pour remplacer l’EPS-AKA ......................................... 150 4.4.2 Protocole SE-AKA ................................................................................................. 150 4.4.2.1 Cryptanalyse du protocole SE-AKA ................................................................. 151 4.4.2.1.1 Attaque par dictionnaire sur l’IMSI chiffré dans SE-AKA ......................... 151 4.4.2.1.2 Différentes attaques possibles sur le SE-AKA ........................................... 154 4.4.3 Protocole EC-AKA ................................................................................................. 154 Kassem AHMAD