Intel - V Intelu so odstrli tančico z nevromorfnega procesorja Loihi 2, ki poleg večjega števila vozlišč nosi še mnoge druge izboljšave, napravljen pa je tudi v šele eksperimentalnem proizvodnem procesu Intel 4.

Velikani dizajna polprevodniških vezij se vse bolj odločno lotevajo nevromorfnega računalništva, kjer računski hardver neposredno povzema obliko živčnih vezij v bioloških organizmih. IBM ima čip TrueNorth, evropska iniciativa Human Brain Project ima računalnik SpiNNaker, toda najhitrejše korake zadnja leta delajo pri Intelu. Leta 2018 so predstavili procesor Loihi, leto pozneje pa še platformi zanj, Pohoiki Beach in Pohoiki Springs. Ker gre za visoko eksperimentalne zasnove, niso bile prosto na voljo, temveč so jih razpošiljali raziskovalnim skupinam širom sveta. Pridobljeni odzivi so temelj druge generacije procesorja, Loihi 2.

Tudi ta ima generalno zasnovo sunkovne nevronske mreže (spiking neural network), kjer imajo signali med vozlišči razmeroma preprosto obliko binarnih...

Nature - Googlovi raziskovalci so potrdili učinkovitost strojnega algoritma za pomoč pri oblikovanju čipov, ki so ga sicer prvič razkrili pred dobrim letom. Strojna pamet zna napraviti dizajne, po kvaliteti primerljive človeškim, v mnogo krajšem času, rešitve pa že uporabljajo pri snovanju pete generacije Googlovega pospeševalnega čipa TPU.

Sodobni računalniški procesorji vsebujejo milijarde tranzistorjev, zato je organiziranje njihovih sestavnih delov izjemno zahtevno početje. Ko inženirji zasnujejo kompleksnejše gradnike neke arhitekture, kot so na primer sklopi logičnih vrat in pomnilnika, pride na vrsto njihovo razpostavljanje na silicij ali s tujko floorplanning. To je presneto zamudno početje, ki pri najsodobnejših izdelkih običajno traja nekje od štiri do šest mesecev. Načrtovalci ga - resda s podporo digitalnih orodij - še vedno izvajajo v grobem rečeno "na roke", skozi iterativni postopek, kjer razpostavljajo elemente od večjih proti manjšim in nato zanko ponavljajo, dokler...

Ars Technica - Največja konferenca o strojnem učenju na svetu, NeurIPS, je letos minila v znamenju vse večjega zavedanja o kritičnih omejitvah globokih nevronskih mrež in iskanju načinov, kako bi ovire prešli.

Globoko učenje - se pravi, raba globokih nevronskih mrež - si je v zadnjem desetletju praktično podredilo področje strojne inteligence. Dalo nam je algoritme, ki premagujejo ljudi v strateških igrah, prepoznavajo obraze, diagnosticirajo bolezni in vozijo avtomobile ... dokler cesta ni preveč luknjasta, mokra in polna nepredvidljivih kolesarjev. Prav ta zadnji primer pa že kaže, kako omejen je pravzaprav ta pristop, saj se avtonomna vozila kar ne morejo izviti iz primeža eksperimentalnih faz, pa čeprav naj bi bila že nekaj časa tik za ovinkom. Kdor redno bere našo stran, zna našteti šibke točke globokega učenja na izust: občutljivost na šum; ogromne baze podatkov, potrebne za učenje; pristranskost in pa katastrofično pozabljanje, se pravi neučinkovitost izven zelo ozko zastavljenih...

Intel - Intel je pokazal platformo za nevromorfno računalništvo Pohoiki Beach, ki jo sestavlja do 64 procesorjev Loihi in vsebuje do osem milijonov vozlišč. Gre za važen dosežek na poti širjenja računalnikov, ki podatke na strojni ravni procesirajo podobno kot človeški možgani.

Kljub današnji razvpitosti strojnega učenja so nevronske mreže zvečine še vedno v celoti programske in emulirane tečejo na procesorjih klasičnega tipa. Nevromorfno računalništvo, s čimer označujemo čipe, ki tudi na strojni ravni ponazarjajo živčna vozlišča, je še vedno v povojih. Intel je predlani pokazal svoje ambicije s predstavitvijo procesorja Loihi s 130.000 nevroni - se pravi, dva imata približno toliko "živčnih celic" kot vinska mušica. Sedaj pa...

Slo-Tech - Zveza za računske stroje (ACM) je sporočila, da Turingovo nagrado za dosežke na področju računalništva prejmejo Geoff Hinton z Univerze v Toronu in Google Braina, Yann LeCun z Univerze New York in vodja umetne inteligence pri Facebooku, ter Yoshua Bengio z Univerze v Montrealu. Nagrajenci si bodo milijon dolarjev nagrade razdelili za pionirsko delo na področju globokega učenja (deep...

TechXplore - Znanstveniki iz Chicaga so pokazali, da je mogoče že s preprostim prijemom, ki posnema delovanje človeških možganov, napraviti umetno nevronsko mrežo večopravilno in močno omejiti njeno pozabljanje ob učenju novih veščin.

Današnja umetna inteligenca sicer počne nekatere navdušujoče stvari, kot sta prepoznava govora in obrazov. A tudi najnaprednejši algoritmi so v svoji namembnosti izredno togi, saj tisti za vožnjo ne znajo prodajati delnic. Ko običajni deep network poskušamo priučiti česa drugega, namreč izgubi originalno znanje, ker nove izkušnje s spreminjanjem moči sinaps podrejo prvotno strukturo. Temu strokovnjaki pravijo katastrofalno pozabljanje (catastrophic forgetting). Intuitivno bi zato sklepali, da bi...

Slo-Tech - IBM je že pred tremi leti predstavil prvo verzijo "kognitivnega čipa", kakor so označili svoj čip TrueNorth. Želeli so ustvariti računalnik, ki deluje na podobnih principih kot človeški možgani, ne kot von Neummanov stroj. V okviru projekta SyNapse, ki ga sofinancira tudi DARPA, razviti TrueNorth ima danes 4096 jeder, ki imajo skupaj 5,4 milijarde tranzistorjev, 256 milijonov programljivih sinaps (povezav) in milijon programljivih nevronov.

Uvide iz razumevanja delovanja človeških možganov pri strojnem učenju in nevronskih mrežah že dlje časa uspešno uporabljamo, a vsi ti tečejo kot emulacija na klasičnih procesorjih. IBM (in tudi drugi) že dlje časa ugotavlja, da je to potratno in da...

IBM - Raziskovalci iz IBM-a so razvili prve umetne nanometrske nevrone iz pomnilnika na fazne spremembe (PCM), ki se obnašajo zelo podobno kot naravni nevroni v živih bitjih. Ekipa IBM Researcha v Zürichu je iznašla postopek za njihovo izgradnjo ter postavila omrežje 500 takih nevronov, s čimer se odpira pot k širši uporabi strojnega učenja in, če se optimistično zazremo v prihodnost, h gradnji umetnih možganov.

Že dolgo časa je sprejeto dejstvo, da s klasičnimi računalniki in proceduralnim programiranje ne bomo umetni inteligenci prišli niti blizu. Človeški možgani pač delujejo drugače in trenutno so edini pametni model kolikor toliko univerzalne inteligence, ki nam je poznan. Strojno učenje, ki svoj razcvet doživlja v zadnjih...

Slo-Tech - Google je eno izmed vodilnih podjetij na področju prepoznavanja slik in govora ter strojnega prevajanja. Vsem trem problemom je skupno dejstvo, da niso rešljivi z enostavnimi sekvenčnimi algoritmi, ker ne moremo predvideti vseh možnih vhodnih podatkov. Največ na tem področju obljubljajo umetne nevronske mreže (ANN). Google je v zadnji objavi pokazal nekaj fantastičnih slik, ki dajejo vpogled v delovanje ANN.

Kot tolikokrat v zgodovini je tudi zamisel ANN navdahnila narava, ki je imela milijarde let časa, da poišče rešitve za probleme. Te niso vedno optimalne, so pa v okviru možnosti in potreb zelo dobre. Kjer bi se s klasičnim zaporednim algoritmom zaleteli v zid, so se ozrli po bioloških nevronskih mrežah oziroma možganih. To je zelo logična poteza, saj so človeški možgani izjemno dobri pri reševanju problemov, za katere jih je evolucija...