Přednáška

Chatboti a jazykové modely na mikroprocesorech

16:00 - 16:25Místnost E112

Klíčem ke spuštění velkých jazykových modelů (LLM) na vestavěných systémech je jejich akcelerace a s tím spojená komprese a optimalizace. Na přednášce rozebereme jak si popovídat s naším automobilem na příklad o tom, jaký je jeho technický stav v reálném čase bez přístupu do cloudu a s tím spojenými výzvami při optimalizaci neuronových sítí a jejich nasazení na mikroprocesory používanými v průmyslu.

Přednášející

Pavel Macenauer

Pavel Macenauer je vedoucím vývojového teamu umělé inteligence a strojového učení v NXP Semiconductors, kde vede projekty zaměřené na vývojové nástroje pro neuronové sítě, jejich nasazení, optimalizaci a inferenční enginy pro mikrokontrolery a mikroprocesory. V minulosti se zabýval zpracováním obrazu nebo analýzou a zaznáváním velkých dat v letectví. Zároveň je absolventem ČVUT FEL a oboru Multimédií a Grafiky na FIT VUT.