Вчені презентували SpikingBrain 1.0 — «мозкоподібну» систему штучного інтелекту, яка здатна виконувати завдання до 100 разів швидше, ніж звичайні моделі. Про це пише Interesting Engineering.
Що сталося
Дослідники з Інституту автоматизації Китайської академії наук у Пекіні презентували SpikingBrain 1.0 «мозкоподібну» систему штучного інтелекту, яка здатна виконувати завдання до 100 разів швидше, ніж звичайні моделі. Вона створена за принципом так званих «спайкових обчислень», що імітують роботу біологічних нейронів. Замість постійної активації всієї мережі, як у випадку з моделями на базі Transformer, система реагує лише на конкретні сигнали. Такий підхід дозволяє знижувати споживання енергії та пришвидшувати обробку даних.
У тестах SpikingBrain 1.0 навчалася менш ніж на 2% даних, які зазвичай потребують інші LLM, і демонструвала значне прискорення. Наприклад, під час обробки запиту з 4 мільйонами токенів менша версія моделі відреагувала більш ніж у 100 разів швидше за стандартну систему. У ще одному тесті вона показала 26,5-кратне прискорення під час генерації першого токена з контексту в 1 мільйон токенів.
Дослідники створили дві версії SpikingBrain 1.0 — з 7 та 76 млрд параметрів, навчених на 150 млрд токенів. Система стабільно працювала на сотнях мікросхем MetaX — китайської альтернативи чипам Nvidia.
Розробники вважають, що така архітектура може застосовуватись у сферах, які потребують роботи з великими обсягами даних: аналіз юридичних і медичних документів, секвенування ДНК, дослідження у фізиці високих енергій.