WYKŁAD 005. Fundamenty AI

Podczas tego wykładu omówione zostały kluczowe pojęcia i mechanizmy stojące za współczesną sztuczną inteligencją, ze szczególnym uwzględnieniem architektury transformerów, zagadnienia uwagi (attention), pamięci modeli AI oraz metod przetwarzania języka naturalnego. Analizowano różnice pomiędzy modelem AI a ludzkim mózgiem, wyjaśniono pojęcia takie jak tokenizacja, okno kontekstowe i liczba parametrów, a także przedstawiono różne podejścia architektoniczne, jak Mixture of Experts, stosowane w najnowszych modelach AI.

#AI #Transformer #Mechanizm uwagi

#Tokenizacja #LLM #Okno kontekstowe 

#Mixture of Experts #Parametry modelu