Home | Sitemap | Impressum | KIT

bwGRiD

Das Steinbuch Centre for Computing (SCC) des Karlsruher Institut für Technologie (KIT) bietet im Rahmen der vom BMBF geförderten D-Grid-Initiative virtuellen Organisationen die Möglichkeit, Rechenzeit auf verschiedenen Clustersystemen und Speicherplatz zu nutzen. Speziell für bwGRiD betreibt das SCC einen Cluster und das zentrale Storagesystem.

Die Rechner-Cluster im bwGRiD bestehen aus insgesamt 101 IBM Blade Center, die an sieben der neun Universitäten untergebracht sind, davon 10 in Karlsruhe. Auch die anderen Standorte Freiburg, Mannheim/Heidelberg, Stuttgart, Tübingen, Ulm/Konstanz lassen sich in gleicher Weise nutzen. In jedem Blade Center sind 14 HS21 XM Blades eingesteckt, von denen jedes mit

  • 2 Quad-Core Intel Xeons mit 2,8GHz,

  • 16GB Hauptspeicher

  • Gigabit Ethernet

  • Infiniband-Adapter

bestückt ist. Der Standort Esslingen verfügt über weitere 180 Rechenknoten mit je 8 Cores. Die Infiniband-Vernetzung an den einzelnen Standorten erfolgt mit Switchfabrics von Voltaire vom Typ Grid Director ISR 2012. Beim Infiniband handelt es sich um 4-fach DDR. Weitere Informationen sind in der Produktbeschreibung und im Datenblatt enthalten.

Folgende Verzeichnisse stehen zur Datenspeicherung zur Verfügung:

  • Das Home-Verzeichnis ist auf allen Knoten sichtbar und dient zur permanenten Datenhaltung. Die Daten werden mittels Tivoli Storage Manager (TSM) auf Band gesichert.

  • Scratch-Verzeichnisse können wie an den anderen Standorten mit dem ws_allocate-Mechanismus angelegt werden und sie sind auf allen Knoten sichtbar. Details zum ws_allocate-Mechanismus findet man im User Guide.

  • Jeder Rechenknoten besitzt auf der internen Festplatte sein eigenes /tmp-Verzeichnis mit 120 GB Speicherplatz, der für temporäre Daten während der Job-Laufzeit verwendet werden kann.

Die Home- und Scratch-Verzeichnisse liegen in einen von HP gelieferten Lustre-Filesystem. Die Speicherplatzgröße beträgt 32 Tbyte bei einem maximalen Durchsatz von 1,5 GB/s. Derzeit sind keine Quotas zur Beschränkung des nutzbaren Speicherplatzes gesetzt. Jeder Benutzer sollte regelmäßig nicht mehr genutzte Daten archivieren oder löschen.

Als Betriebssystem wird Scientific Linux 5.5 eingesetzt. Neben der Basis-Linuxdistribution sind eine Vielzahl von weiteren Softwarepaketen auf den Systemen vorinstalliert.

Der Zugriff auf den Karlsruher Cluster ist mit den folgenden Middleware-Systemen möglich:

  • Globus Toolkit 4.0.x: bwgrid-cluster.scc.kit.edu

  • Unicore 5: bwgrid-unicore.scc.kit.edu (VSite: KIT-bwGRiD-Cluster)

  • GSISSH Interactive Node: bwgrid-cluster.scc.kit.edu (Port 2222)

Um mit Grid-Middleware auf die Ressourcen zugreifen zu können, ist eine Mitgliedschaft in der Virtuellen Organisation (VO) bwgrid oder einer anderen D-Grid-VO erforderlich. Außerdem ist das Cluster für Benutzer des KIT direkt per SSH zugänglich. Diese Benutzer müssen dazu den Zugang zum bwGRiD-Cluster beim ServiceDesk des SCC freischalten lassen.

 

Neben den Computing Resourcen verfügt das bwGRiD über ein zentrales Storage System. Als Software wird ebenfalls Lustre eingesetzt. Die Hardware besteht aus folgenden Komponenten:

  • Festplatten: 768 1TB SATA und 48 146 GB SAS

  • Speichersysteme: 18 HP MSA2212fc und 50 MSA2000 JBODs

  • Speichernetzwerke: 8 16-Port FibreChannel Switche

  • Serversysteme: 12 HP DL380G5 mit FibreChannel und InfiniBand Adaptern

  • Kommunikationsnetzwerk: 1 24-Port Infiniband DDR Switch

  • Middleware- oder Client-Systeme: 6 HP DL380G5 mit InfiniBand und 10 GE Adaptern

Diese Ressource steht ausschließlich Benutzern der VO bwgrid zur Verfügung. Der Speicher verteilt sich auf zwei Dateisysteme:

  • Backup (/bwfs/backup), 128 TByte (mit Backup)

  • Work (/bwfs/work), 256 TByte (kein Backup)

Wenn Sie einen Restore von Daten des Dateisystems Backup benötigen, wenden Sie sich bitte an den NGI-DE-User-Support (siehe unten).

Der Zugriff ist mit den folgenden Middleware-Systemen möglich:

  • GridFTP: bwgrid-se.scc.kit.edu

  • GSI-SSH: bwgrid-se.scc.kit.edu

Für Anfragen hinsichtlich Support wenden Sie sich bitte an den NGI-DE Helpdesk.