Přednáška

Chatboti a jazykové modely na mikroprocesorech

16:00 - 16:25Místnost E112

Klíčem ke spuštění velkých jazykových modelů (LLM) na vestavěných systémech je jejich akcelerace, a s tím spojená komprese a optimalizace. Na přednášce rozebereme, jak si popovídat s naším automobilem např. o tom, jaký je jeho technický stav, v reálném čase bez přístupu do cloudu, a s tím spojenými výzvami při optimalizaci neuronových sítí a jejich nasazení na mikroprocesory používanými v průmyslu.

Přednášející

Pavel Macenauer

Pavel Macenauer je vedoucím vývojového teamu umělé inteligence a strojového učení v NXP Semiconductors, kde vede projekty zaměřené na vývojové nástroje pro neuronové sítě, jejich nasazení, optimalizaci a inferenční enginy pro mikrokontrolery a mikroprocesory. V minulosti se zabýval zpracováním obrazu nebo analýzou a zaznáváním velkých dat v letectví. Je absolventem ČVUT FEL a oboru Multimédia a grafika na FIT VUT.