Susipažinkite su mažiausiu pasaulyje dirbtinio intelekto superkompiuteriu – jis pasižymi „doktorantūros lygio intelektu“, teigia jo kūrėjai, ir telpa jūsų kišenėje.
Nešiojamasis skaičiavimo galiūnas gali valdyti 120 milijardų parametrų LLM, maždaug tris kartus didesnius nei GPT-3, nereikalaudamas prieigos prie interneto ar debesijos.
JAV startuolis sukūrė, anot jo, mažiausią pasaulyje dirbtinio intelekto (DI) superkompiuterį. Kompanijos atstovai teigia, kad jame įrengta naši techninė įranga ir daug operatyviosios atminties, todėl jis gali paleisti „daktaro laipsnio intelekto“ DI modelius, nors yra pakankamai kompaktiškas, kad tilptų kišenėje. Tai reiškia, kad jis geba savarankiškai spręsti problemas, abstrakčiai mąstyti ir strategiškai planuoti.
„DI kišeninė laboratorija“, kaip įrenginį pavadino jo kūrėjai „Tiiny AI“, gali vietoje paleisti sudėtingą 120 milijardų parametrų didelį kalbos modelį (LLM), be jokio interneto ryšio. Paprastai šioms sistemoms paleisti reikėtų duomenų centro lygio infrastruktūros, o tai atveria vietinio ekspertų lygio kodavimo, dokumentų vertinimo ir tobulinimo arba daugiapakopio samprotavimo galimybes.
Jis sukurtas naudojant 12 branduolių ARM procesorių, panašų į tuos, kurie dažniausiai randami išmaniuosiuose telefonuose, nešiojamuosiuose ir planšetiniuose kompiuteriuose. Nepaisant mažo korpuso – įrenginio matmenys vos 5,59 × 3,15 × 1,00 colio (14,2 × 8 × 2,53 cm) – jame yra 80 GB LPDDR5X RAM atminties. Palyginimui, daugumoje dabartinių nešiojamųjų kompiuterių yra nuo 8 GB iki 32 GB RAM.