Hardening Azure Applications Techniques and Principles for Building Large-Scale, Mission-Critical Applications — Second Edition — Suren Machiraju Suraj Gaurav Foreword by Scott Guthrie and Steven Smith Hardening Azure Applications Techniques and Principles for Building Large-Scale, Mission-Critical Applications Second Edition Suren Machiraju Suraj Gaurav Foreword by Scott Guthrie and Steven Smith Hardening Azure Applications Suren Machiraju Suraj Gaurav Issaquah, WA, USA Issaquah, WA, USA ISBN-13 (pbk): 978-1-4842-4187-5 ISBN-13 (electronic): 978-1-4842-4188-2 https://doi.org/10.1007/978-1-4842-4188-2 Library of Congress Control Number: 2018965490 Copyright © 2019 by Suren Machiraju and Suraj Gaurav This work is subject to copyright. All rights are reserved by the Publisher, whether the whole or part of the material is concerned, specifically the rights of translation, reprinting, reuse of illustrations, recitation, broadcasting, reproduction on microfilms or in any other physical way, and transmission or information storage and retrieval, electronic adaptation, computer software, or by similar or dissimilar methodology now known or hereafter developed. Trademarked names, logos, and images may appear in this book. Rather than use a trademark symbol with every occurrence of a trademarked name, logo, or image we use the names, logos, and images only in an editorial fashion and to the benefit of the trademark owner, with no intention of infringement of the trademark. The use in this publication of trade names, trademarks, service marks, and similar terms, even if they are not identified as such, is not to be taken as an expression of opinion as to whether or not they are subject to proprietary rights. While the advice and information in this book are believed to be true and accurate at the date of publication, neither the authors nor the editors nor the publisher can accept any legal responsibility for any errors or omissions that may be made. The publisher makes no warranty, express or implied, with respect to the material contained herein. Managing Director, Apress Media LLC: Welmoed Spahr Acquisitions Editor: Smriti Srivastava Development Editor: Matthew Moodie Coordinating Editor: Shrikant Vishwakarma Cover designed by eStudioCalamar Cover image designed by Freepik (www.freepik.com) Distributed to the book trade worldwide by Springer Science+Business Media New York, 233 Spring Street, 6th Floor, New York, NY 10013. Phone 1-800-SPRINGER, fax (201) 348-4505, e-mail orders-ny@springer- sbm.com, or visit www.springeronline.com. Apress Media, LLC is a California LLC and the sole member (owner) is Springer Science + Business Media Finance Inc (SSBM Finance Inc). SSBM Finance Inc is a Delaware corporation. For information on translations, please e-mail [email protected], or visit http://www.apress.com/ rights-permissions. Apress titles may be purchased in bulk for academic, corporate, or promotional use. eBook versions and licenses are also available for most titles. For more information, reference our Print and eBook Bulk Sales web page at http://www.apress.com/bulk-sales. Any source code or other supplementary material referenced by the author in this book is available to readers on GitHub via the book's product page, located at www.apress.com/978-1-4842-4187-5. For more detailed information, please visit http://www.apress.com/source-code. Printed on acid-free paper With a deep sense of gratitude, I dedicate this book to my mother, Padmini, and father, Hanumantha Rao. SaiRam! —Surendra Machiraju I dedicate this book to my mother, Shanti Sinha, who taught me to stay positive and prevail under all conditions. And to my father, Surendra Kumar Sinha, who inculcated a strong desire to excel and pursue endeavors with strong passion. May he be in peace, wherever he is. —Suraj Gaurav Table of Contents About the Authors ����������������������������������������������������������������������������������������������������xi About the Technical Reviewer �������������������������������������������������������������������������������xiii Acknowledgments ���������������������������������������������������������������������������������������������������xv Foreword ���������������������������������������������������������������������������������������������������������������xvii Additional Foreword �����������������������������������������������������������������������������������������������xix Introduction ������������������������������������������������������������������������������������������������������������xxi Chapter 1: Introducing the Cloud Computing Platform ���������������������������������������������1 Cloud and Platform �����������������������������������������������������������������������������������������������������������������������1 Relevance of the Cloud Platform ���������������������������������������������������������������������������������������������������2 Cloud Platform Benefits ����������������������������������������������������������������������������������������������������������������3 Your Application and Cloud Platform Matchup ������������������������������������������������������������������������������3 Does Your Application Belong on the Cloud Platform? ������������������������������������������������������������3 Is the Cloud Platform Ready for Your Enterprise-Class Application? ���������������������������������������4 On-premises and Cloud Platform Integration ��������������������������������������������������������������������������������5 Heterogeneity of the Cloud Platform ���������������������������������������������������������������������������������������������6 Trust and Security �������������������������������������������������������������������������������������������������������������������������6 Cloud Platform Services ����������������������������������������������������������������������������������������������������������������7 Compute Services �������������������������������������������������������������������������������������������������������������������9 Networking ����������������������������������������������������������������������������������������������������������������������������18 Storage and Data Services ����������������������������������������������������������������������������������������������������23 App Services ��������������������������������������������������������������������������������������������������������������������������33 Summary�������������������������������������������������������������������������������������������������������������������������������������41 v Table of ConTenTs Chapter 2: Cloud Applications ��������������������������������������������������������������������������������43 Cloud Application Platforms ��������������������������������������������������������������������������������������������������������43 What’s aaS? ���������������������������������������������������������������������������������������������������������������������������43 Platform Types �����������������������������������������������������������������������������������������������������������������������45 Infrastructure as a Service (IaaS) ������������������������������������������������������������������������������������������49 Platform as a Service (PaaS) �������������������������������������������������������������������������������������������������50 Software as a Service (SaaS) ������������������������������������������������������������������������������������������������53 Other Cloud Application Platforms ����������������������������������������������������������������������������������������������55 Cloud Web Services ���������������������������������������������������������������������������������������������������������������55 Cloud Managed Services �������������������������������������������������������������������������������������������������������56 Cloud Application Deployment Models ����������������������������������������������������������������������������������������56 Public Cloud ���������������������������������������������������������������������������������������������������������������������������56 Private Cloud �������������������������������������������������������������������������������������������������������������������������57 Hybrid Cloud ��������������������������������������������������������������������������������������������������������������������������58 Summary�������������������������������������������������������������������������������������������������������������������������������������59 Chapter 3: Hardened Cloud Applications ����������������������������������������������������������������61 Hardened Applications ����������������������������������������������������������������������������������������������������������������61 Hello World vs� Real-World? ��������������������������������������������������������������������������������������������������������62 Real-World and Hardened Applications ��������������������������������������������������������������������������������������63 Availability �����������������������������������������������������������������������������������������������������������������������������64 Reliability �������������������������������������������������������������������������������������������������������������������������������69 Scalability ������������������������������������������������������������������������������������������������������������������������������71 Recoverability ������������������������������������������������������������������������������������������������������������������������73 Security ���������������������������������������������������������������������������������������������������������������������������������75 Low Latency ��������������������������������������������������������������������������������������������������������������������������78 Modern Organization �������������������������������������������������������������������������������������������������������������������79 Engineering ���������������������������������������������������������������������������������������������������������������������������79 Support ����������������������������������������������������������������������������������������������������������������������������������86 Summary�������������������������������������������������������������������������������������������������������������������������������������87 vi Table of ConTenTs Chapter 4: Service Fundamentals: Instrumentation, Telemetry, and Monitoring �������������������������������������������������������������������������������������������������������89 Instrumentation ���������������������������������������������������������������������������������������������������������������������������90 Best Practices for Designing Instrumentation �����������������������������������������������������������������������90 High-Value and High-Volume Data ����������������������������������������������������������������������������������������92 Event Tracing �������������������������������������������������������������������������������������������������������������������������93 Azure Diagnostics ������������������������������������������������������������������������������������������������������������������95 Telemetry ������������������������������������������������������������������������������������������������������������������������������������96 Best Practices for Designing Telemetry ���������������������������������������������������������������������������������96 Monitoring �����������������������������������������������������������������������������������������������������������������������������������98 Typical Monitoring Solutions (Azure Network Watcher) ���������������������������������������������������������99 Best Practices for Designing Monitoring �����������������������������������������������������������������������������102 Vendor and Third-Party Solutions ���������������������������������������������������������������������������������������������118 Summary�����������������������������������������������������������������������������������������������������������������������������������122 Chapter 5: Key Application Experiences: Latency, Scalability, and Throughput ����������������������������������������������������������������������������������������������������123 Latency��������������������������������������������������������������������������������������������������������������������������������������123 Factors That Affect Latency �������������������������������������������������������������������������������������������������124 Best Practices ����������������������������������������������������������������������������������������������������������������������124 Scalability ���������������������������������������������������������������������������������������������������������������������������������130 Scaling Up ���������������������������������������������������������������������������������������������������������������������������130 Scaling Out ��������������������������������������������������������������������������������������������������������������������������131 Best Practices ����������������������������������������������������������������������������������������������������������������������132 Throughput ��������������������������������������������������������������������������������������������������������������������������������137 Best Practices ����������������������������������������������������������������������������������������������������������������������137 Summary�����������������������������������������������������������������������������������������������������������������������������������139 vii Table of ConTenTs Chapter 6: Failures and Their Inevitability �����������������������������������������������������������141 Case Studies of Major Cloud Service Failures ��������������������������������������������������������������������������142 Azure Storage Server Failure �����������������������������������������������������������������������������������������������142 Amazon Web Services Failure ���������������������������������������������������������������������������������������������143 Measuring Failures �������������������������������������������������������������������������������������������������������������������143 Failure Categories ���������������������������������������������������������������������������������������������������������������������145 Hard Failure �������������������������������������������������������������������������������������������������������������������������145 Soft Failure ��������������������������������������������������������������������������������������������������������������������������146 Gray Failure �������������������������������������������������������������������������������������������������������������������������146 Preparing for Failure �����������������������������������������������������������������������������������������������������������������148 Design for Failure and a Quick Recovery�����������������������������������������������������������������������������149 Minimizing Human Error ������������������������������������������������������������������������������������������������������150 Summary�����������������������������������������������������������������������������������������������������������������������������������153 Chapter 7: Failures and Recovery �������������������������������������������������������������������������155 Design Best Practices ���������������������������������������������������������������������������������������������������������������156 Failure Domain ��������������������������������������������������������������������������������������������������������������������156 Loose Coupling ��������������������������������������������������������������������������������������������������������������������158 Scale Out to More for Less ��������������������������������������������������������������������������������������������������158 Testing Best Practices ���������������������������������������������������������������������������������������������������������������160 Sandboxing ��������������������������������������������������������������������������������������������������������������������������161 Scenario Testing ������������������������������������������������������������������������������������������������������������������164 Failure-Detection Strategies �����������������������������������������������������������������������������������������������������165 IaaS Virtual Infrastructure ����������������������������������������������������������������������������������������������������165 PaaS Application ������������������������������������������������������������������������������������������������������������������167 Databases ����������������������������������������������������������������������������������������������������������������������������167 Storage ��������������������������������������������������������������������������������������������������������������������������������168 Network �������������������������������������������������������������������������������������������������������������������������������168 Strategies for Recovery ������������������������������������������������������������������������������������������������������������168 Dev-Test-Ops Organization ��������������������������������������������������������������������������������������������������169 Remote Script Execution �����������������������������������������������������������������������������������������������������171 Summary�����������������������������������������������������������������������������������������������������������������������������������172 viii Table of ConTenTs Chapter 8: High Availability, Scalability, and Disaster Recovery ��������������������������173 High Availability �������������������������������������������������������������������������������������������������������������������������173 Asynchronous Messaging ����������������������������������������������������������������������������������������������������175 Atomic and Idempotent Services �����������������������������������������������������������������������������������������175 Graceful Degradation �����������������������������������������������������������������������������������������������������������175 Offline Access ����������������������������������������������������������������������������������������������������������������������176 Scalability ���������������������������������������������������������������������������������������������������������������������������������176 Implementation Patterns �����������������������������������������������������������������������������������������������������178 Disaster Recovery ���������������������������������������������������������������������������������������������������������������������183 PaaS—SQL Offering ������������������������������������������������������������������������������������������������������������183 PaaS—Storage ��������������������������������������������������������������������������������������������������������������������189 IaaS—SQL Server as a Virtual Machine Offering ����������������������������������������������������������������192 Summary�����������������������������������������������������������������������������������������������������������������������������������195 Chapter 9: Availability and Economics of 9s ��������������������������������������������������������197 Economics of 9s ������������������������������������������������������������������������������������������������������������������������198 Economics of (Non)-Availability ������������������������������������������������������������������������������������������������198 Computing Availability ���������������������������������������������������������������������������������������������������������������199 Monitoring Availability ���������������������������������������������������������������������������������������������������������������201 Enforcing Availability via SLA ����������������������������������������������������������������������������������������������������204 Designing for SLA ���������������������������������������������������������������������������������������������������������������������205 Redundant System ��������������������������������������������������������������������������������������������������������������206 Cold Standby System �����������������������������������������������������������������������������������������������������������206 Warm Standby System ��������������������������������������������������������������������������������������������������������206 Automatic Failover System ��������������������������������������������������������������������������������������������������207 Always Available System �����������������������������������������������������������������������������������������������������208 Economics of Downtime and Availability ����������������������������������������������������������������������������������209 Downtime Costs ������������������������������������������������������������������������������������������������������������������210 Availability Costs �����������������������������������������������������������������������������������������������������������������210 Summary�����������������������������������������������������������������������������������������������������������������������������������210 ix Table of ConTenTs Chapter 10: Securing Your Application �����������������������������������������������������������������211 Security �������������������������������������������������������������������������������������������������������������������������������������212 Controls �������������������������������������������������������������������������������������������������������������������������������213 Operational Security ������������������������������������������������������������������������������������������������������������214 Platform Security �����������������������������������������������������������������������������������������������������������������214 Compliance �������������������������������������������������������������������������������������������������������������������������������215 Azure and Compliance ���������������������������������������������������������������������������������������������������������216 Compliance for Your Application ������������������������������������������������������������������������������������������218 Privacy and Data Security ���������������������������������������������������������������������������������������������������������219 Platform Services ����������������������������������������������������������������������������������������������������������������220 Platform Operations �������������������������������������������������������������������������������������������������������������221 Roles and Responsibilities ���������������������������������������������������������������������������������������������������223 Cloud Application Security ��������������������������������������������������������������������������������������������������������224 Application Vulnerabilities ���������������������������������������������������������������������������������������������������224 Building Secure Applications �����������������������������������������������������������������������������������������������226 Summary�����������������������������������������������������������������������������������������������������������������������������������228 Chapter 11: The Modernization of Software Organizations ����������������������������������229 The Impetus ������������������������������������������������������������������������������������������������������������������������������229 The Goal—MVP �������������������������������������������������������������������������������������������������������������������������230 Modernization ���������������������������������������������������������������������������������������������������������������������������232 People ����������������������������������������������������������������������������������������������������������������������������������232 Process ��������������������������������������������������������������������������������������������������������������������������������236 Tooling ���������������������������������������������������������������������������������������������������������������������������������241 Management Behaviors �������������������������������������������������������������������������������������������������������244 Summary�����������������������������������������������������������������������������������������������������������������������������������245 Index ���������������������������������������������������������������������������������������������������������������������247 x
Description: