« zurück

JOLLYBEE

Neuromorphic Computing at the Junction of Optically Accelerated Processing and Light-Based Artificial Intelligence

Details

Programm / Ausschreibung IKT der Zukunft, IKT der Zukunft, IKT der Zukunft - 9. Ausschreibung (2020)
Projektkoordinator AIT Austrian Institute of Technology GmbH
Projektpartner Novarion Systems GmbH
Projektstart 01.10.2021
Projektende 30.09.2024
Status laufend
Projektlaufzeit 36 Monate
Keywords artificial intelligence; neuromorphic photonics; optical neural networks; AI hardware; neuromorphic computing

Projektbeschreibung

Aktuell ist unsere Wirtschaft durch ein stetiges jährliches Datenwachstum im Ausmaß von 60 % gekennzeichnet. Starke Treiber hierbei sind die unaufhörliche Generierung von Inhalten, die kontinuierliche Ausweitung von Cloud-Anwendungen und das Aufblühen des Internets-der-Dinge. Mit diesem rasanten Wachstum an Daten wird auch der Anteil der IKT am globalen Energieverbrauch im Jahr 2030 voraussichtlich auf 21% emporschnellen. Ein wichtiger Aspekt im Bereich der IKT ist dabei die Verarbeitung der Daten. Traditionelle Rechenarchitekturen bilden jedoch die in der realen Welt beobachteten Informationsstrukturen nicht ab. Die Virtualisierung bedeutet große Nachteile für die Gesamteffizienz. Gleichzeitig beginnt der kontinuierliche Fortschritt des Moore‘schen Gesetzes, der in den letzten Jahrzehnten zu verzeichnen war, abzuflachen, da die Mikroelektronik sich einer digitalen Energie-Barriere gegenübersieht, die bei einem Energiebedarf von 100 pJ pro Multiplikations-Akkumulations-Operation liegt. Damit sind dem Bereich des High-Performance Computings Grenzen bezüglich des Energieverbrauchs gesetzt. Dem gegenüber steht das menschliche Gehirn: ein Meisterwerk der Biologie, das diese Energiebarriere mit einer erstaunlichen Leistung von fast 100 Billiarden (10^17) Operationen pro Watt durchbricht, gemäß einer Sub-Attojoule-Energie pro Operation. Dabei ist das Gehirn um acht Größenordnungen effizienter, indem es 100 Milliarden (10^11) Neuronen miteinander verbindet und so einen "Prozessor" nutzt, der sich sowohl auf physikalischer als auch auf architektonischer Ebene grundlegend unterscheidet. JOLLYBEE nutzt diese bio-inspirierte Rechenarchitektur, welche die natürlichen Verarbeitungsfähigkeiten des Gehirns nachahmt und Aspekte des Lernens anstatt einer starren Programmierung beinhaltet. Als Forschungsprojekt, das die Synergien zweier Schlüsseltechnologien – künstliche Intelligenz und Photonik – zusammenführt, entwickelt es eine neuromorphe Plattform für den GHz-Betrieb optischer neuronaler Netze, die durch eine ultraniedrige Latenzzeit in Bezug auf Inferenz gekennzeichnet sind. Dazu werden hybride opto-elektronische neuronale Knoten und flexible synaptische Verbindungen sowie die dazugehörigen Methoden des Trainings untersucht. Als ersten Schritt in Richtung bioinspirierter Datenverarbeitung wird JOLLYBEE die Anwendbarkeit eines derartigen optischen neuronalen Netzes in repräsentativen Anwendungen wie der ultraschnellen Musterklassifikation evaluieren. Durch die experimentelle Demonstration eines auf Chip-Basis realisierten optischen neuronalen Netzes wird JOLLYBEE neue Möglichkeiten für verteilte künstliche Intelligenz in kritischen Edge-Anwendungen der IKT-Infrastruktur schaffen – und gleichzeitig eine 10-fache Steigerung der Energieeffizienz im Vergleich zur traditionellen Datenverarbeitung erzielen. Darüber hinaus wird JOLLYBEE den Weg für die Integration eines neuromorphen Prozessors in Novarions speicherzentrierte hybride Quanten-/HPC-Plattform ebnen.

Abstract

Today’s data-agile economy is characterized by a steady annual growth of 60% in data generation and processing, propelled by the never-ending creation of content, the relentless expansion of cloud applications and the flourishing of the Internet-of-Things. With this rapid growth, the share of ICT in the global energy footprint is expected to skyrocket to 21% in 2030. An important aspect in the realm of ICT is data processing. However, standard computing architectures fail to represent the information structures observed in the real world, which instead have to be virtualized at a large detriment to the overall efficiency. At the same time, the continual progress in Moore’s law that has been enjoyed during the past decades starts to flatten out as the node size of microelectronics decreases and a digital energy brick wall is faced, at the extent of a required energy of 100 pJ per multiply-accumulate operation. This caps the overall scale of what can be achieved in the high-performance computing realm. On the other side is the human brain: a masterpiece of biology that breaches this energy wall with an astonishing amount of nearly 100 quadrillion (10^17) operations per Watt, or a sub-Attojoule energy per operation. With this, the brain is eight orders of magnitudes more efficient by virtue of interconnecting 100 billion (10^11) neurons, leveraging a “processor” that fundamentally differs on both, the physical and architectural level. JOLLYBEE leverages on this bio-inspired computing architecture, which mimics the natural processing capabilities of the brain and includes aspects of learning rather than being programmed. As a project that blends two key enabling technologies – artificial intelligence and photonics – it aims to develop a neuromorphic platform that is propelled through GHz operation of optical neural networks and their ultra-low time-of-flight inference latencies. To do so, it will investigate hybrid opto-electronic neural nodes and flexible synaptic interconnects, and the associated methods for training. As a first step towards bio-inspired processing, JOLLYBEE will evaluate the applicability of such a multi-layered optical neural network in representative applications such as ultra-fast pattern classification. Through the experimental demonstration of a chip-scale implementation, JOLLYBEE will offer the means for distributed artificial intelligence in mission-critical applications at the edge of today’s ICT infrastructure – offering a 10-fold increase in energy efficiency compared to traditional data processing at the same time. Furthermore, JOLLYBEE will lay the inroads for the integration of a neuromorphic processor into Novarions memory-centric hybrid quantum / high-performance computing platform.

Weitere Informationen