20 października 2024 12:11
Nagroda NEC dla Łukasza Kaisera!
Łukasz Kaiser, współautor słynnej pracy 'Attention is all you need!' i absolwent informatyki i matematyki na Uniwersytecie Wrocławskim, otrzymuje NEC C&C Prize, zwaną przez niektórych japońskim Noblem. Gratulacje!
W pracy wprowadzono pojęcie transformerów - przełomowej architektury sieci neuronowych. Pierwotnym zastosowaniem były tłumaczenia maszynowe ale teraz jest ona wykorzystywana na dużą skalę w olbrzymiej ilości zastosowań, m.in. w przetwarzaniu języka naturalnego, wizji komputerowej, reinforcement learning, audio, robotyce, czy w grze w szachy.
Transformery są najbardziej znane jako rozwinięcie literki 'T' w skrócie 'GPT'. Architektura ta została też wykorzystana w systemie AlphaFold, za który niedawno została przyznana nagroda Nobla z chemii.
