Lovende AI-brikke i prototype

Socionext Inc. har utviklet en prototypebrikke som inneholder nyutviklet kvantisert DNN (Deep Neural Network) teknologi. Dette skal bl.a. muliggjøre svært avansert AI-prosessering for små og energigjerrige kantprosesseringsenheter. 

Prototypen inngår i et forskningsprosjekt rundt "Updatable and Low Power AI-Edge LSI Technology Development" igangsatt av forsknings- og utviklingsorganisasjonen NEDO (New Energy and Industrial Technology Development Organization) i Japan.

Brikken inneholder en "kvantisert DNN motor" optimalisert for prosessering av dyplæringsinferensing ved høye hastigheter og med lavt effektforbruk. 

Dagens kantprosesseringsenheter er basert på konvensjonelle, generelle GPUer, som imidlertid ikke er spesielt egnet for AI-baserte prosesseringsbehov. Eventuelt kreves det større komponenter og mye energy.

Alternativet fra Socionext er en egenutviklet arkitektur basert på kvantisert DNNteknologi for å redusere mengden parameter- og aktiveringsbits som trengs for dyp læring.

Arkitekturen omfatter bitreduksjon inkludert 1-bit (binær) og 2-bit (trinær) i tillegg til de konvensjonelle 8-bit, såvel som selskapets originale parameterkomprimeringsteknologi. Alt dette skal muliggjøre en enorm beregningsmengde med færre ressurser og betydelige mindre datamengder.

I tillegg har Socionext utviklet en ny innebygd minneteknologi som skal gi svært effektiv datatilgjengelighet og redusere behovet for omfattende innebygde eller eksterne minner, slik det ellers kreves for dyp læring.

Prototypebrikken skal ha oppnådd objektdetektering på nivå “YOLO v3” ved 30fps, mens den brukte mindre enn 5W med effekt. Ifølge Socionext er det hele 10 ganger mer effektivt enn med konvensjonelle GPuer.

Brikken inneholder også en kraftig laveffekt Arm Cortex-A53 firekjerners CPU.

I motsetning til andre “akseleratorbrikker”  skal den kunne utføre fullstendig AI-prosessering uten eksterne prosessorer.

Socionext har også bygget et programvareutviklingsmiljø for dyp læring, basert på TensorFlow som basis rammeverk. Dette skal tillate brukerne å utføre original, lav-bit "kvantiseringsrelatert trening " eller "ettertrenings-kvantisering ". Brukt i kombinasjon med den nye brikken, skal brukerne kunne velge og implementere den optimale kvantiseringsteknologien for ulike nevrale nettverk og eksekvere svært presis prosessering.

Den nye brikken vil bringe de mest avanserte maskinsynfunksjonene til miniatyriserte, laveffekt kantenheter. Mulige anvendelser kan for eksempel være avanserte førerstøttesystemer (ADAS), sikkerhetskamera og fabrikkautomatisering, blant andre.