Title  Graphics Processing Unit Assisted Thermographic Compositing    Center Point of Contact  Scott Ragasa, (256) 544‐3935, [email protected]  Matthew McDougal, (256) 544‐7783, [email protected]  Sam Russell, Ph.D., P.E., (256) 544‐4411, [email protected]    Objective  To develop a software application utilizing general purpose graphics processing units (GPUs) for the  analysis of large sets of thermographic data.    Background  Over the past few years, an increasing effort among scientists and engineers to utilize the GPU in a more  general purpose fashion is allowing for supercomputer level results at individual workstations.  As data  sets grow, the methods to work them grow at an equal, and often greater, pace.  Certain common  computations can take advantage of the massively parallel and optimized hardware constructs of the  GPU to allow for throughput that was previously reserved for compute clusters.  These common  computations have high degrees of data parallelism, that is, they are the same computation applied to a  large set of data where the result does not depend on other data elements.  Signal (image) processing is  one area were GPUs are being used to greatly increase the performance of certain algorithms and  analysis techniques.    Technical Methodology/Approach  Apply massively parallel algorithms and data structures to the specific analysis requirements presented  when working with thermographic data sets.    Benefits/Payoffs  The end product of this effort is a software application that utilizes general purpose graphics processing  units to allow the analysis of large thermographic data sets.  This would also allow the use of previously unavailable computationally intensive analysis techniques, higher resolution thermographic cameras,  and larger individual data files.    Customers  All projects that utilize flash thermography for the inspection of composite aerospace structures.    2010 Accomplishments   Initial research, specifically, determinations of what hardware or software components were  limiting factors in the analysis of large thermographic data sets.       Literature survey to determine what parallel algorithms could be implemented on the GPU to  allow for increase analysis capabilities.        2011 Accomplishments   Continued survey of available literature to determine applicable algorithms, optimizations and  techniques for increasing the performance of signal processing using the GPU.       Built a demonstration application to directly compare the performance of corresponding  algorithms on the CPU and GPU. Figure 1 – Proof of Concept Demonsstration Appliication   Prre‐flash Framme Subtracttion Time CPUU Time GPU Tiime 16000 14000 12000 ds on 10000 c e millis 8000 n  e i 6000 m Ti 4000 2000 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 155 16 17 18 19 20 Nummber of Raw Files (300 Frames) Figure 2 – Comparison of CCPU and GPUU Image Subtrraction Algoriithm Implemeentations     2012 Accoomplishments   Built a softwarre applicationn that is capabble of visualizzing large thermographic ddata sets in a grid  laayout, surpasssing targeted capability levvel. Figure 3 – Mosaic Visualization Application    Figure 4 – Comparison of Visualization Capabilities  Note: The blue area denotes the capabilities of the current analysis software, the green area denotes  the goal capabilities of this project, and the red area denotes what was achieved – the full mosaic of 143 images.     Built a MATLAB®‐based application capable of performing principal component analysis (PCA) on  thermographic data sets with support for the GPU.    Figure 5 – MATLAB®‐based PCA Application    The software application supports both CPU and GPU execution modes so it is able to run on both  conventional PCs as well as GPU workstations. When compared to previous implementations of  principal component analysis on thermographic data, the GPU‐assisted software exhibits not only  increased performance on a per‐file basis, but also more stable processing performance when run in  batch mode. The performance results are summarized in Figure 6. Figure 6 – Comparison of CPU and GPU Processing Performance    Status  The task is complete. Several additional areas of nondestructive evaluation were identified that could  benefit from GPU‐accelerated software including ultrasonic analysis and data fusion visualizations  should additional funding opportunities become available.    Future Work and Applications  Research performed during the completion of this task was instrumental in the creation of a software  application that will be used to analyze data acquired by the automated scanning system constructed to  perform thermographic and ultrasonic nondestructive evaluation of the Space Launch System Payload  Fairing manufacturing demonstration article. Demonstration testing of the automated scanning system  will encompass the nondestructive inspection of a one‐sixth segment of the Payload Fairing shown in  Figure 7. Estimations for the thermographic data collected are approximately one thousand data sets.  Using the conventional analysis techniques and software, interpretation and reporting of results would  require a significant amount of time. As a result, a new, general purpose graphics processing unit  assisted software application was developed to dramatically decrease the analysis time. 26.25’  116.5’ Figure 7 – 1/6th Segment Payyload Fairing   Conclusioon  The payofff of this research effort is already visible in the creaation and depployment of GGPU‐acceleratted  inspectionn software. By applying the lessons learrned from thiis research efffort and the first real‐worrld  deliverable to other noondestructivee evaluation techniques annd analysis, addditional bennefits are posssible.