Utforska detaljerna i ett energibesparande AI-chip

Credit: Nature Communications (2023). DOI: 10.1038/s41467-023-42110-y
Credit: Nature Communications (2023). DOI: 10.1038/s41467-023-42110-y

Hussam Amrouch har utvecklat en AI-klar arkitektur som är dubbelt så kraftfull som jämförbara in-memory computing-metoder. Professorn vid Münchens tekniska universitet (TUM) tillämpar ett nytt beräkningsparadigm med hjälp av speciella kretsar som kallas ferroelektriska fälteffekttransistorer (FeFET), vilket rapporteras i tidskriften Nature Communications. Inom några år kan detta visa sig vara användbart för generativ AI, djupinlärningsalgoritmer och robottillämpningar.

Grundidén är enkel: till skillnad från tidigare chip, där endast beräkningar utfördes på transistorer, är de nu även platsen för datalagring. Det sparar tid och energi. ”Som ett resultat ökar också prestandan hos chipen”, säger Hussam Amrouch, professor i AI-processordesign vid Münchens tekniska universitet (TUM). De transistorer som han utför beräkningar och lagrar data på mäter bara 28 nanometer, och det finns miljontals av dem på vart och ett av de nya AI-chipen.

Framtidens chip måste vara snabbare och mer effektiva än tidigare. Därför kan de inte värmas upp lika snabbt. Det är en förutsättning för att de ska kunna stödja tillämpningar som realtidsberäkningar när t.ex. en drönare flyger. ”Sådana uppgifter är extremt komplexa och energikrävande för en dator”, förklarar professorn.

Moderna chip: Många steg, låg energiförbrukning

Dessa viktiga krav på ett chip sammanfattas matematiskt i parametern TOPS/W: ”tera-operationer per sekund per watt”. Detta kan ses som valutan för framtidens chip. Frågan är hur många biljoner operationer (TOP) en processor kan utföra per sekund (S) med en effekt på en watt (W).

Det nya AI-chippet, som utvecklats i ett samarbete mellan Bosch och Fraunhofer IMPS och som stöds i produktionsprocessen av det amerikanska företaget GlobalFoundries, kan leverera 885 TOPS/W. Detta gör det dubbelt så kraftfullt som jämförbara AI-chip, inklusive ett MRAM-chip från Samsung. CMOS-chip, som nu används allmänt, arbetar i intervallet 10-20 TOPS/W.

In-memory computing fungerar som den mänskliga hjärnan

Forskarna lånade principen för modern chiparkitektur från människan. ”I hjärnan hanterar nervceller bearbetningen av signaler, medan synapser kan komma ihåg denna information”, säger Amrouch och beskriver hur människor kan lära sig och komma ihåg komplexa samband. För att göra detta använder chipet ”ferroelektriska” (FeFET) transistorer.

Det är elektroniska omkopplare som har särskilda egenskaper (polvändning vid spänningstillförsel) och som kan lagra information även när strömkällan är avstängd. Dessutom garanterar de samtidig lagring och bearbetning av data i transistorerna.

”Nu kan vi bygga mycket effektiva chipset som kan användas för tillämpningar som djupinlärning, generativ AI eller robotteknik, till exempel där data måste bearbetas där de genereras”, säger Amrouch.

Marknadsklara chip kommer att kräva tvärvetenskapligt samarbete

Målet är att använda chipet för att köra djupinlärningsalgoritmer, känna igen objekt i rymden eller bearbeta data från drönare under flygning utan tidsfördröjning. Professorn från det integrerade Munich Institute of Robotics and Machine Intelligence (MIRMI) vid TUM tror dock att det kommer att dröja några år innan detta uppnås.

Han tror att det kommer att ta tre till fem år innan de första in-memory-chipen som är lämpliga för verkliga tillämpningar blir tillgängliga. En anledning till detta är bland annat industrins säkerhetskrav. För att en teknik av det här slaget skall kunna användas inom exempelvis bilindustrin räcker det inte med att den fungerar tillförlitligt. Den måste också uppfylla de specifika kriterierna för sektorn.

”Detta visar återigen vikten av tvärvetenskapligt samarbete med forskare från olika discipliner som datavetenskap, informatik och elektroteknik”, säger hårdvaruexperten Amrouch. Han ser detta som en särskild styrka hos MIRMI.

Ytterligare information: Taha Soliman et al, First demonstration of in-memory computing crossbar using multi-level Cell FeFET, Nature Communications (2023). DOI: 10.1038/s41467-023-42110-y

Bli först med att kommentera

Lämna ett svar

Din e-postadress kommer inte att publiceras.