Home | Sitemap | english  | Impressum | Datenschutz | KIT

Advanced Topics in Parallel Programming

Advanced Topics in Parallel Programming
Typ: Proseminar / Seminar (PS/S)
Semester: SS 2014
Ort: Gebäude 20.21. (SCC-Süd), Raum 314 (3. Stock)
Zeit: 14.04.2014
15:45 - 17:15 wöchentlich



28.04.2014
15:45 - 17:15 wöchentlich


05.05.2014
15:45 - 17:15 wöchentlich


12.05.2014
15:45 - 17:15 wöchentlich


19.05.2014
15:45 - 17:15 wöchentlich


26.05.2014
15:45 - 17:15 wöchentlich


02.06.2014
15:45 - 17:15 wöchentlich


16.06.2014
15:45 - 17:15 wöchentlich


23.06.2014
15:45 - 17:15 wöchentlich


30.06.2014
15:45 - 17:15 wöchentlich


07.07.2014
15:45 - 17:15 wöchentlich


14.07.2014
15:45 - 17:15 wöchentlich
Beginn: 14.4.2014
Dozent: Prof. Dr. Achim Streit
Dr. Gevorg Poghosyan
LVNr.: 2400013
Beschreibung Eine effiziente Nutzung hochwertiger Supercomputing-Ressourcen (auch Hochleistungsrechner bzw. HPC genannt) für Simulationen von Phänomenen aus der Physik, Chemie, Biologie, mathematischen oder technischen Modellierung , von neuronalen Netzen, Signalverarbeitung, usw. ist nur möglich, wenn die entsprechenden Anwendungen mit modernen und fortschrittlichen Methoden der parallelen Programmierung implementiert werden. Oftmals ist sogar die Fähigkeit der Anwendung zur guten Skalierung (d.h. zur effizienten Nutzung einer großen Menge von CPU-Kernen) oder zur Nutzung von Beschleunigerhardware wie z.B. Grafikkarten/GPUs eine Voraussetzung, um einen Zugang zu und entsprechende Rechenzeit auf großen HPC-Systemen genehmigt zu bekommen.

Die Verbesserung bestehender Algorithmen in den Simulationscodes durch fortschrittliche Parallelisierungstechniken kann zu erheblichen Leistungsverbesserungen führen; Ergebnisse können so schneller generiert werden. Oder es besteht auch die Möglichkeit zur Energieeinsparung, in dem geeignete zeitintensive Rechenroutinen des Simulationsprogramms von CPUs mit einem relativ hohen Energiebedarf auf GPUs mit einem niedrigeren Energiebedarf (pro Rechenoperation) verlagert werden.

Im Seminar werden ausgewählte Themen zu moderne Techniken der parallelen Programmierung vorgestellt und diskutiert. Stichworte sind MPI, OpenMP, CUDA, OpenCL und OpenACC. Es werden auch Werkzeuge zur Analyse der Effizienz, Skalierbarkeit und des Zeitverbrauchs von parallelen Anwendungen adressiert. Themen aus dem Bereich der parallelen Dateisysteme und der Hochgeschwindigkeits-Übertragungstechnologien runden das Themenspektrum ab.

Themen im Bereich der parallelen Programmierung mit MPI sind voraussichtlich:

  • Internes Scheduling paralleler Prozessor Gruppen in MPI-Jobs
  • Dynamisches Prozess-Management mit MPI-2 zur Erzeugung von zusätzlichen Tasks
  • Parallele Datei-Manipulation und Zugriff über MPI-I/O
  • Einseitige Kommunikation mit MPI-2

Themen im Bereich der parallelen Programmierung mit grafischen/mathematischen Co-Prozessoren sind voraussichtlich:

  • Nutzung von GPU-Beschleunigern zur Beschleunigung von Fast-Fourier- Transformationen
  • Vergleich der Beschleunigerkarten von NVIDIA Kepler, AMD GCN und Intel Xeon Phi zur Hochdurchsatz-Bildverarbeitung
  • OpenACC - der neue Programmierstandard für heterogene Parallelprogrammierung

Performance-Analyse und Optimierung von Simulationscodes:

  • Performance-Analyse von seriellen Programmen (als Teil paralleler Programme)
  • Performance-Analyse paralleler Programme mit Alinea MAP / Scalasca / Intel Trace Analyzer und Collector
  • Grundlagen der (parallelen) Code-Optimierung
  • Modellgetriebene und Template-basierte Ansätze für HPC

Themen im Bereich der parallelen Programmierung mit OpenMP sind:

  • OpenMP 4.0 - ein neuer Standard zur mehrfädigen Programmierung von CPUs und GPUs
  • Parallelisierung rekursiver Programme mit Hilfe des in OpenMP integrierten Task-Konzepts