Jos olet joskus miettinyt, miten kone voi tunnistaa kasvosi tai ymmärtää, mitä sanot, vastaus piilee ihmisaivojen kiehtovuudessa. Nämä biologiset rakenteet, jotka koostuvat toisiinsa yhteydessä olevat neuronit, jotka välittävät sähköisiä signaalejaNe ovat toimineet pohjana sille, mitä nykyään tunnemme tekoälyverkkoina, jotka ovat pohjimmiltaan algoritmeja, jotka on suunniteltu ratkaisemaan monimutkaisia matemaattisia pulmia.
Nykymaailmassa olemme tottuneet siihen, että tekoäly on synonyymi supertietokoneille ja valtavalle energiankulutukselle. Kuitenkin on syntymässä erittäin mielenkiintoinen trendi, joka pyrkii... optimoida energiatehokkuuttakyseenalaistamalla, tarvitsemmeko todella miljoonia kertolaskuja saadaksemme yksinkertaisen vastauksen, matkien siten oman aivomme energiaraittiutta.
Klassinen arkkitehtuuri: perceptronista syväoppimiseen
Ymmärtääksemme, minne olemme menossa, meidän on tiedettävä, mistä olemme tulleet. Perushermoverkko on tyypillisesti organisoitu kolmeen tasoon. Kaikki alkaa syöttökerrosTässä vaiheessa järjestelmä vastaanottaa dataa ulkopuolelta, analysoi sen ja lähettää sen eteenpäin. Sitten tulee piilotetut kerroksetjoka voi olla yksi tai kymmeniä; tässä tapahtuu varsinainen käsittely, jossa tietoa jalostetaan jokaisessa vaiheessa.
Lopulta saavuimme paikalle lähtökerrosmikä antaa meille lopullisen tuomion. Riippuen siitä, mitä etsimme, meillä voi olla yksi solmu kyllä- tai ei-vastaukselle (binäärinen luokittelu) tai useita solmuja, jos ongelma on monimutkaisempi ja vaatii valintaa useiden luokkien välillä.
Kun puhumme SyväoppiminenViittaamme verkkoihin, joissa on useita piilokerroksia ja miljoonia yhteyksiä. Tässä mallissa neuronien välinen suhde määritellään seuraavasti: numeerinen arvo, jota kutsutaan painoksiOngelmana on, että nämä verkot ovat data- ja energiasyöppöjä, ja virheiden välttämiseksi tarvitaan miljoonia esimerkkejä.
Koulutuksen ydin: Eteenpäin ja taaksepäin leviäminen
Jotta verkko oppisi, sen täytyy ensin yrittää arvata. Prosessi, jossa Eteenpäin leviäminen Se on pohjimmiltaan vasemmalta oikealle etenevä matka: data saapuu, kerrotaan painotuksilla, lisätään bias-niminen säätö ja se käy läpi aktivointifunktion (kuten sigmoidi- tai ReLu-hermosolu) päättääkseen, "käynnistyykö" neuroni vai ei.
Mutta koska verkko ei alussa tiedä mitään, se epäonnistuu täysin. Tässä kohtaa backpropagationja siinä taika tapahtuu. Algoritmi kulkee nyt oikealta vasemmalle ja laskee saadun tuloksen ja todellisen tuloksen välisen virheen. Käyttämällä matemaattiset johdannaisetVerkko säätää painoja minimoidakseen virheen seuraavassa iteraatiossa.
Keskeinen yksityiskohta tässä prosessissa on oppimisnopeusJos se on liian korkea, verkko oppii nopeasti, mutta on epätarkka; jos se on liian matala, prosessista tulee loputon. Perimmäisenä tavoitteena on saavuttaa kustannusfunktion globaali minimi, jonka avulla verkko voi yleistää tietoa oikein.
Painottomien neuroverkkojen vallankumous
Tässä kohtaa asiat muuttuvat jännittäviksi. Professori Lizy K. John ja hänen tiiminsä rikkovat muottia ehdottamalla painottomat neuroverkotVaikka perinteinen tekoäly perustuu miljardien kertolaskujen suorittamiseen (erittäin kallis operaatio laitteistolle), tämä lähestymistapa käyttää toisiinsa kytketyt hakutaulukot.
Sen sijaan, että verkko laskisi monimutkaista aritmeettista operaatiota, se yksinkertaisesti tarkistaa tallennetun vastauksen binääritulojen perusteella. Se on järjestelmä, joka muistuttaa paljon enemmän ihmisten päättelyä: emme kerro numeroita mielessämme päättääksemme, kävelläkö vasemmalle vai oikealle, vaan pikemminkin käsittelemme aktivointisignaaleja.
Tulokset ovat yksinkertaisesti hämmästyttäviä. Tehtävissä, kuten lääketieteellisessä seurannassa (EKG tai EEG) tai avainsanojen tunnistuksessa, näitä verkostoja voidaan tuhat kertaa pienempi ja tehokkaampiKuvittele, että siirrytään 17 megatavun mallista vain 14 kilotavun malliin. Tämä mahdollistaa tekoälyn sijoittamisen suoraan anturiin... EdgeComputing ilman, että tietoja tarvitsee lähettää pilveen, mikä on myös Asia yksityisyyden puolesta käyttäjän.
Kohti kestävää ja kevyttä tekoälyä
Kyse ei ole pelkästään painojen karsimisesta; trendinä on myös... kevyet neuroverkotNämä on suunniteltu kuluttamaan mahdollisimman vähän energiaa ja muistia käyttämällä tekniikoita, kuten harva koulutus tai leikkausjoka koostuu sellaisten yhteyksien poistamisesta, jotka eivät vaikuta mitenkään lopputulokseen.
Tämä lähestymistapa on elintärkeä esimerkiksi rakennusten energianhallinnassa tai datakeskusten jäähdytyksessä, joissa kulutuksen optimointi voi tarkoittaa jopa 30 %:n energiansäästöTavoite on selvä: tekoälyn ei tulisi olla ilmasto-ongelma, vaan osa ratkaisua, mahdollistaen edulliset laitteet, kuten ARM Cortex -mikrokontrollerit, suorittaa älykkäitä tehtäviä reaaliajassa.
Nykyaikaisia chatbotteja voimanlähteenä käyttävistä muuntajista kuvakeskeisiin konvoluutiohermoverkkoihin (CNN), tie tehokkuuteen johtaa seuraavien kautta: vähentää laskennallista monimutkaisuuttaHyppy klassisesta perceptronista generatiiviseen tekoälyyn on ollut valtava datan ja tehon suhteen, mutta todellinen eturintamassa pyritään nyt tekemään enemmän paljon vähemmällä.
Siirtyminen tiheistä, kertolaskuja vaativista arkkitehtuureista binäärihakuun ja karsittuihin malleihin perustuviin järjestelmiin mahdollistaa tekoälyn toimivuuden pienillä laitteilla. Yhdistämällä energiatehokkuuden ja matemaattisen yksinkertaistamisen tiedonkäsittelystä tulee huomattavasti nopeampaa ja kestävämpää, mikä tasoittaa tietä paikalliselle, yksityiselle laskennalle, joka ei enää ole riippuvainen massiivisista näytönohjaimista toimiakseen kunnolla.
